跳到正文
Hacker News· emp_·· 1 小时前AI 评分62

Lithos-metal 开源推理引擎发布,40 核 M5 Max 上跑 Qwen3.8-27B 达 168 tokens/s

Lithos-metal: Qwen3.8-27B on 40-core M5 Max at 168 tokens/s

AI 导读

Lithos-metal 发布开源推理引擎,为 Apple 芯片生成 Metal megakernel,支持本地低延迟 LLM 推理与编码智能体接入。

来源:Hacker News · github.com