Hacker News· jmrenouard·· 6 小时前AI 评分38
MicroLLM:在 CPU 上实现亚毫秒级校准 System-1 决策
MicroLLM – Sub-millisecond calibrated System-1 decisions on CPU
AI 导读
MicroLLM 发布,可在 CPU 上以 0.14 ms(p50)/ 1.05 ms(p95)完成 AI 智能体的 System-1 结构化决策,无需 GPU 或 NPU。
来源:Hacker News · github.com