Induction AI 用唯一工具名隔离基准测试缓存

Induction AI 分享了一种隔离 LLM 基准测试提示缓存的方法：给每个 trial 注入一个名字带 trial id 的 dummy tool，使各 trial 的 prompt 前缀互不匹配，避免共享 prompt cache 压低成本测量。 该方法要求工具名只含字母、数字、下划线和连字符，长度不超过 64 字符（OpenAI、Anthropic），因此 id 应短而简单；还需为该工具实现无害响应（如 { success: true }），以便模型调用后 trial 能继续。若 agent 每轮单独调用 generateText 而非循环，则应在 trial 开始时创建 id 并传入每次调用。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。