Neuralwatt 称 harness 缓存率影响推理能耗
热点事件持续更新
Neuralwatt 称 harness 缓存率影响推理能耗
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Neuralwatt 联合创始人兼 CEO Chad Gibson 基于其云平台 2026 年 9 月 8 日至 10 月 7 日的流量数据称，不同 Agent harness 的未缓存输入占比在 1.6% 到 11.1% 之间，92% 缓存率相比 97% 意味着约 2.7 倍的 prefill 计算量。 Neuralwatt 称其平台可通过 X-NW-Conversation-ID 让会话保留在已持有缓存的服务器上，即使经过 compaction；其仪表盘的 Session Insights 按轮次展示每个提示的缓存比例、冷计算量、首 token 时间以及实测能耗和成本，但不显示提示或补全文本。
AI 根据报道生成 · 2 小时前更新
最新进展10月17日 05:01
Neuralwatt 分析 harness 如何影响推理能耗与 token 效率报道时间线
沿着报道，了解事件的不同侧面。
10月17日
- Hacker NewsNeuralwatt 分析 harness 如何影响推理能耗与 token 效率
Neuralwatt 联合创始人兼 CEO Chad Gibson 基于其云平台 2026 年 9 月 8 日至 10 月 7 日的流量数据指出，不同 Agent harness 的未缓存输入占比在 1.6% 到 11.1% 之间，92% 缓存率相比 97% 意味着约 2.7 倍的 prefill 计算量。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。