OpenAI 提出两项模型可监控性补充指标

OpenAI 在 g-mean² 之外提出两个互补指标，用于比较模型可监控性和评估部署风险。其中，pair-matched monitorability 在共享任务实例上比较模型，以减少任务混合差异的干扰；post-control risk 模拟监控器拒绝输出后的部署风险，量化系统最终放行坏输出的概率。 OpenAI 称，对齐更好但可监控性更低的模型，在监控门控下未必风险更低。该公司说明，这一部署方案是假设性的，当前模型并未按此方式部署；由于无法判断单次输出是否由干预导致，未在干预评估中报告 post-control risk；文中的历史监控器输出二元决策，因此未计算 AUC。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。