Hacker News· YareAceNoK·· 2 小时前AI 评分60
.aamt 发布:面向 GPU 的统一文件格式,同时承载模型权重、智能体记忆与世界数据
.aamt – one GPU file format for model weights, agent memory and worlds
AI 导读
.aamt 发布,定位为 GPU 版的 GGUF,把模型权重、智能体记忆和世界数据放进同一个文件格式。8B 三值模型 GaIaN 以 3.23 GB 的 .aamt 存储,对比 16-bit 的 16.4 GB,在 M1 Max 上持续解码 41.2 tok/s,4k token 提示词第二次回答快 184 倍。
来源:Hacker News · asamanthinks.com