跳到正文
Hacker News· NagaYu·· 3 小时前AI 评分46

Show HN:TaintWall——拦截注入式 runbook 步骤的 AI 智能体运行时防火墙

Show HN: TaintWall – a runtime firewall against injected runbook steps

AI 导读

TaintWall 是一款面向 AI 智能体的运行时防火墙,在工具调用边界追踪每个参数的来源并执行确定性策略,使文档中隐藏的指令只能被观察、无法被下达。在 qwen2.5:14b 的 16 个任务嵌入攻击用例上,C0 条件攻击成功率 0.875,C3 条件降至 0.000、任务效用 0.750。项目提供离线确定性 demo,采用保留所有权利、按需商业授权的发布方式。

来源:Hacker News · github.com