跳到正文
Hacker News· doomroot13·· 2 小时前AI 评分62

微软 MAI-Code-1.1-Flash 如何在 Windows PC 上实现本地编码推理

Advancing the Quality-Efficiency Frontier for Coding AI on Windows PCs

AI 导读

微软发布技术报告,介绍 137.9B 参数的 MoE 编码模型 MAI-Code-1.1-Flash 通过混合精度量化把权重从 16-bit 的约 276 GB 压到 53.0 GiB(3.31 bpw),另有 46.1 GiB(2.87 bpw)版本。

来源:Hacker News · devblogs.microsoft.com