跳到正文
Hacker News· ccgibson·· 3 小时前AI 评分62

Neuralwatt 分析 harness 如何影响推理能耗与 token 效率

Why harnesses matter for energy (and token) efficiency

AI 导读

Neuralwatt 联合创始人兼 CEO Chad Gibson 基于其云平台 2026 年 9 月 8 日至 10 月 7 日的流量数据指出,不同 Agent harness 的未缓存输入占比在 1.6% 到 11.1% 之间,92% 缓存率相比 97% 意味着约 2.7 倍的 prefill 计算量。

来源:Hacker News · neuralwatt.com