Hacker News· joshcsimmons·· 2 小时前精选AI 评分78
AWS 与 UC Berkeley 开源 Infinity 智能体运行时
Infinity: A runtime for extreme agent concurrency
AI 导读
AWS 与 UC Berkeley 在 Hydro 项目下以 Apache 2.0 协议开源 Infinity,这是一个把工具调用当作挂起点的智能体运行时。它按切片执行智能体,工具调用时保存对话历史并释放内存,实测约 100 KB/空闲智能体,8 GB 内存可容纳约 7.5 万个并发智能体。
推荐理由
原文给出挂起式智能体运行时的架构与实测内存数据,可据此判断长时等待型智能体的部署成本。
来源:Hacker News · aws.amazon.com