Hacker News· alexmikhalev·· 3 小时前AI 评分58
如何为 AI 智能体节省 token 成本
How to save money on tokens for your AI agents
AI 导读
作者介绍在生产中运行的三条降低智能体 token 开销的做法:先用便宜模型把检索结果压缩成摘要再交给前沿模型,按 V 模型把昂贵推理放在研究与评审两端、实现环节用高速模型,以及在智能体与各家 provider 之间加一层按关键词、速度和价格路由的代理。
来源:Hacker News · terraphim.ai