递归自我改进（RSI）为何无法让模型真正自我提升

Bill Lambos 在 Brain-Inspired AI 撰文指出，递归自我改进（RSI）让模型用自身输出训练自身，无法解决 AI 与现实脱节的问题。他引用 Shumailov 等 2024 年发表于 Nature 的研究：连续多代仅用前代模型输出训练会引发“模型崩溃”，模型逐渐偏离真实数据分布、方差显著收窄。