跳到正文
Hacker News· jmrenouard·· 6 小时前AI 评分38

MicroLLM:在 CPU 上实现亚毫秒级校准 System-1 决策

MicroLLM – Sub-millisecond calibrated System-1 decisions on CPU

AI 导读

MicroLLM 发布,可在 CPU 上以 0.14 ms(p50)/ 1.05 ms(p95)完成 AI 智能体的 System-1 结构化决策,无需 GPU 或 NPU。

来源:Hacker News · github.com