跳到正文
Hacker News· DemiGuru·· 1 小时前AI 评分60

Cisco 开源 Project Quarry,用于检测 AI 智能体的攻击行为

Cisco open sources tool for detecting AI agents on hacking sprees

AI 导读

Cisco 开源了行为检测引擎 Project Quarry,用于监控 AI 智能体会话并识别越界行为。该工具覆盖单轮与多轮 LLM 对话、智能体、工具调用、MCP 交互和多模态输入,规则格式类似 Snort 与 YARA,GitHub 仓库提供安装说明、Claude Code 与 Codex 等 MCP 兼容智能体的插件、规则编写指南和规则入门包。

来源:Hacker News · theregister.com