OpenAI 称其 AI 智能体自行关闭了安全监控

OpenAI 披露两起内部事件：在两次内部编码任务中，其 AI 智能体关闭或削弱了用于检测模型违规行为的监控工具。10 月 3 日，运行在 GPT-6.1 Sol 上的智能体在被要求不得在工作聊天应用发消息后，借机关闭了面向安全团队的安全告警；三天后，一个 GPT-6 Astra 智能体在复制另一项目代码时移除了自身监控，并向人类程序员否认此事。