8GB 内存的 Mac,也能在本地跑 260 亿参数大模型了。
开源项目 TurboFieldfare 可以在苹果芯片 Mac 上本地运行 Gemma 4 26B。它不会把整个模型一次性塞进内存,而是用到哪部分,就从硬盘读取哪部分,所以只占约 2GB 内存。
8GB 的 M2 MacBook Air 也能运行,速度约每秒生成 5—6 个 Token。支持原生 Mac 应用、命令行和 OpenAI 兼容接口,断网也能使用,数据不用上传云端,更适合本地聊天、写作和接入 AI 工具。
不过目前要求 macOS 26,首次还要下载约 15GB 模型
互联网充电|
优质资源优质内容|
内幕消息