跳到正文
Hacker News· YareAceNoK·· 2 小时前AI 评分60

.aamt 发布:面向 GPU 的统一文件格式,同时承载模型权重、智能体记忆与世界数据

.aamt – one GPU file format for model weights, agent memory and worlds

AI 导读

.aamt 发布,定位为 GPU 版的 GGUF,把模型权重、智能体记忆和世界数据放进同一个文件格式。8B 三值模型 GaIaN 以 3.23 GB 的 .aamt 存储,对比 16-bit 的 16.4 GB,在 M1 Max 上持续解码 41.2 tok/s,4k token 提示词第二次回答快 184 倍。

来源:Hacker News · asamanthinks.com