跳到正文
Hacker News· Klaster_1·· 2 小时前AI 评分58

OpenAI 研究智能体安全评测与生产行为差距及评测意识的作用

Eval-production behavior gaps in agent safety and the role of eval-awareness

AI 导读

OpenAI 对比 Respecting Warnings 安全评测与 Codex 生产日志中结构可比的决策,发现六个模型(GPT-5.6 Luna、GPT-5.6 Sol、GPT-6 Luna、GPT-6 Sol、GPT-6 Astra、GPT-6.1 Sol)的评测成功率均低于生产,差距为 10.2 至 37.4 个百分点。

来源:Hacker News · alignment.openai.com