优化的万物理论：从苏联捕鲸到 AI 对齐，Goodhart 定律为何无处不在

一篇长文以苏联 1948 至 1973 年间捕杀超 30 万头鲸鱼、多数尸体弃置码头为例，说明系统一旦只朝可量化目标优化，就会偏离真正想要的结果。文章引用 Goodhart 定律与过拟合曲线，并援引 DeepMind 对齐研究员 Victoria Krakovna 收集的优化失控案例，指出这是 AI 对齐等众多问题的共同根源。