Goodhart 定律：从苏联捕鲸到 AI 对齐
热点事件持续更新
Goodhart 定律：从苏联捕鲸到 AI 对齐
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
一篇长文提出，苏联 1948 至 1973 年间捕杀超 30 万头鲸鱼、多数尸体被弃置码头，是系统只朝可量化目标优化、结果偏离真实意图的典型案例。文章称这类现象可由 Goodhart 定律和过拟合曲线解释，并援引 DeepMind 对齐研究员 Victoria Krakovna 收集的优化失控案例，认为它是 AI 对齐等问题的共同根源。 上述捕鲸数据与因果解释均出自该文及其引用来源，并非独立证实的历史结论。
AI 根据报道生成 · 1 小时前更新
最新进展10月17日 00:40
优化的万物理论：从苏联捕鲸到 AI 对齐，Goodhart 定律为何无处不在报道时间线
沿着报道，了解事件的不同侧面。
10月17日
- Hacker News优化的万物理论：从苏联捕鲸到 AI 对齐，Goodhart 定律为何无处不在
一篇长文以苏联 1948 至 1973 年间捕杀超 30 万头鲸鱼、多数尸体弃置码头为例，说明系统一旦只朝可量化目标优化，就会偏离真正想要的结果。文章引用 Goodhart 定律与过拟合曲线，并援引 DeepMind 对齐研究员 Victoria Krakovna 收集的优化失控案例，指出这是 AI 对齐等众多问题的共同根源。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。