Hacker News· medbar·· 3 小时前AI 评分55
Anthropic 等提出 GRAFT：把奖励黑客行为定位到可移除参数而非惩罚
Reducing Reward Hacking by Localizing Bad Behavior Instead of Penalizing It
AI 导读
Anthropic 等机构研究者提出 GRAFT（Gradient Routing Adapter Fine-Tuning），在检测到奖励黑客轨迹时只更新 FORGET 适配器，训练后移除该适配器以消除不良行为。
来源：Hacker News · alignment.anthropic.com