64GB Mac mini 本地跑通 2.8T 参数 Kimi-K3

开发者 sjdthree 发布实现，在 64GB M4 Pro Mac mini 上通过 MLX 和 Metal 本地运行完整 Kimi-K3 检查点：2.8 万亿参数、约 1.42 TiB MXFP4 权重、全部 93 个文本模型层，未裁剪专家。 做法是把混合专家权重放在外置 SSD 上，逐个专家流式加载。作者实测最佳配置解码速度约 32.4 秒/token，MLX 分配器峰值内存约 15 GiB。 运行环境要求带 GPU 访问的 Apple Silicon Mac、macOS 15 及以上、Python 3.11 或 3.12。作者称，过去 12 个月营收超过 2000 万美元的模型即服务业务需与 Moonshot AI 另行签约。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。