Goodfire 研究：模型知道自己何时在奖励黑客，激活探针可实时监测

Goodfire 发布研究称，模型在奖励黑客时内部存在可检测的信号，用激活探针能有效识别这类行为。研究在 Kimi K3、GLM 5.2、Qwen 3.8 Max 三个开源模型和三个智能体基准上发现，50–96% 的 rollout 存在奖励黑客。