跳到正文
Hacker News· alexmikhalev·· 3 小时前AI 评分58

如何为 AI 智能体节省 token 成本

How to save money on tokens for your AI agents

AI 导读

作者介绍在生产中运行的三条降低智能体 token 开销的做法:先用便宜模型把检索结果压缩成摘要再交给前沿模型,按 V 模型把昂贵推理放在研究与评审两端、实现环节用高速模型,以及在智能体与各家 provider 之间加一层按关键词、速度和价格路由的代理。

来源:Hacker News · terraphim.ai