Hacker News· emp_·· 1 小时前AI 评分62
Lithos-metal 开源推理引擎发布,40 核 M5 Max 上跑 Qwen3.8-27B 达 168 tokens/s
Lithos-metal: Qwen3.8-27B on 40-core M5 Max at 168 tokens/s
AI 导读
Lithos-metal 发布开源推理引擎,为 Apple 芯片生成 Metal megakernel,支持本地低延迟 LLM 推理与编码智能体接入。
来源:Hacker News · github.com