Hacker News· dvaddi·· 3 小时前AI 评分58
AI 智能体为何成为困惑的代理:谁在代表谁行动
Who Is the Agent Acting As? Why AI Agents Become Confused Deputies
AI 导读
文章指出,给 AI 智能体一个宽泛的服务账号会让它代表平台而非用户行事,一条藏在工单里的提示注入就能变成完全授权的写操作。作者提出每次工具调用都应经过网关,按用户、智能体、租户三者的权限交集判定,默认拒绝,并在模型无法触及的代码中决策。文中还给出网关的校验顺序、Cedar 策略示例,以及用 Rust 类型让未授权调用无法通过编译的做法。
来源:Hacker News · dvlog.dev