跳到正文
Hacker News· gmays·· 3 小时前AI 评分22

OpenAI 提出 g-mean² 之外的互补指标,用于评估模型可监控性

Beyond g-mean²: complementary metrics for monitorability

AI 导读

OpenAI 在 g-mean² 之外提出两个互补指标:pair-matched monitorability 在共享任务实例上比较模型,减少任务混合差异的干扰;post-control risk 模拟监控器拒绝输出后的部署风险,量化系统最终放行坏输出的概率。原文指出,对齐更好但可监控性更低的模型,在监控门控下未必风险更低。

来源:Hacker News · alignment.openai.com