跳到正文
Hacker News· giovanniwants·· 2 小时前AI 评分58

Yanah 推出本地 AI 应用,在 8GB Mac 上运行 80B 模型

Local AI app that runs an 80B model on an 8GB Mac

AI 导读

Yanah 推出本地 AI 应用,宣称可在 8GB Mac 上以聊天速度运行 80B 模型,数据与模型都留在本机,无需联网、无订阅。原文称模型参数以文件形式存放在本地硬盘,一个足够好的 AI 可压缩到 50GB 以内,大型数据中心主要用于训练和同时服务大量用户。

来源:Hacker News · yanahchat.com