Hacker News· vinhnx·· 4 小时前AI 评分71
Apple 用 MLX 与 RDMA 在 Mac Studio 上做本地及分布式大模型推理
Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio
AI 导读
Apple 发布 MLX 新版本，展示在 Mac Studio 上本地运行近万亿参数的 Muse Spark Open，四台 M5 Ultra 集群解码速度超过 36 tokens/s。
来源：Hacker News · machinelearning.apple.com