Goodfire 提出机制塑造框架引导模型内部表征

Goodfire 发布研究，提出“机制塑造”（mechanistic shaping）框架：训练模型时惩罚其对特定内部概念的依赖或表达，以此指定模型的解题方式，而不只依据输出结果是否正确。 据 Goodfire 称，该方法已在胸部 X 光片判读、大语言模型的奖励黑客（reward hacking）和谄媚（sycophancy）等场景中试验。研究将训练干预点放在模型内部表征层面，而非仅检查最终答案。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。