Hacker News· solohunter001·· 7 小时前AI 评分64
Strot 开源决策编译器：LLM 编译一次意图，本地零边际成本持续决策
Show HN: Strot – Compile an LLM's intent once, run decisions locally forever
AI 导读
Strot 发布开源决策编译器，用 LLM 在编译期把意图和样本编译成冻结的 Python 决策工件，运行期由 144M 的本地模型在 CPU 上对每条记录做分类、打分和路由，约 60 ms、零边际成本、零 LLM 调用。
来源：Hacker News · github.com