Hacker News· martinald·· 3 小时前AI 评分58
过去 12 个月让智能体跑得更快的心得
Making agents fast – what I've learnt over the last 12 months
AI 导读
作者总结了过去 12 个月优化智能体工作流的经验，把推理速度拆成 TTFT 和 tok/s 两个指标，并指出二者重要性取决于智能体返回的是短回复还是长代码文档。
来源：Hacker News · martinalderson.com
过去 12 个月让智能体跑得更快的心得