Hacker News· gmays·· 2 小时前AI 评分58
METR 评审 Anthropic 风险报告中的高风险场景失准问题
Review of "Misalignment in high-stakes settings" in Anthropic's Risk Report
AI 导读
METR 对 Anthropic《风险报告：2026 年 8 月》中“高风险场景下的失准”一节做了外部评审，认同截至 2026 年 7 月 15 日受覆盖模型造成灾难性失准伤害的风险较低，但认为这主要源于模型能力有限，而非防护与对齐训练。
来源：Hacker News · metr.org