Hacker News· pretext·· 3 小时前AI 评分65
Anthropic 提出 self-assessment：让 Claude 在回复后自评对话安全性
Scaling Misuse Detection with Self-Assessment
AI 导读
Anthropic 提出 self-assessment 技术，让 Claude 在每次回复后追加一段简短指令，由模型自身输出结构化安全评估，包含是否标记、危害类别、优先级和是否拒答。
来源：Hacker News · safeguards.anthropic.com