Anthropic让Claude自评对话安全

Anthropic 提出并部署“自我评估”技术：Claude 在每次回复后追加一段简短指令，由模型自身输出结构化安全评估，包含是否标记、危害类别、优先级和是否拒答。Anthropic 称，自 Fable 5 起发布的每个 Claude 模型都已运行该机制，覆盖其全球流量的很大一部分，作为纵深防御的一层补充现有保障措施。 该机制在生产中是“被动”的：它只标记对话供审查，不拦截对话；Anthropic 称其不收集用户的额外数据。Anthropic 同时承认，它无法捕捉所有有害对话，也不足以阻止有决心的攻击者。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。