跳到正文
Hacker News· joshcsimmons·· 2 小时前精选AI 评分78

AWS 与 UC Berkeley 开源 Infinity 智能体运行时

Infinity: A runtime for extreme agent concurrency

AI 导读

AWS 与 UC Berkeley 在 Hydro 项目下以 Apache 2.0 协议开源 Infinity,这是一个把工具调用当作挂起点的智能体运行时。它按切片执行智能体,工具调用时保存对话历史并释放内存,实测约 100 KB/空闲智能体,8 GB 内存可容纳约 7.5 万个并发智能体。

推荐理由

原文给出挂起式智能体运行时的架构与实测内存数据,可据此判断长时等待型智能体的部署成本。

来源:Hacker News · aws.amazon.com