Apple 发布 MLX 教程：Mac Studio 集群跑近万亿参数模型

Apple 发布 MLX 新版本及配套教程，展示在 Mac Studio 上本地运行近万亿参数的 Muse Spark Open，并通过 RDMA over Thunderbolt 驱动扩展到多台 Mac 组成集群。Apple 称，在四台 Mac Studio 组成的集群上，该模型生成速度超过 36 tokens/s。 教程给出的路径是：从单台 Mac Studio（最高 512GB 统一内存）起步，再横向扩展。Apple 称 Qwen 3.8 27B 与 Mistral Medium 3.5 128B 可在单台 512GB Mac Studio 上运行，在 65,536 tokens 大上下文设置下分别占用最多 68GB 和 158GB 内存；Muse Spark Open 采用 4-bit NVFP4 量化后，内存占用降至约 493GB。 上述速度与内存数据均来自 Apple 的说明，尚未见独立验证。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。