复杂性是幻觉吗？弱约束与泛化率提升 110-500% 的研究

一篇被 AGI 2024 会议接收的论文指出，泛化能力源于函数隐含的“弱约束”而非形式简单性，此前实验显示选择弱约束比简单形式可带来 110-500% 的泛化率提升。论文进一步论证所有约束都能采取同样简单的形式，若函数由偏好通用性的目标导向过程（如自然选择）决定，效率会要求弱约束采取简单形式。因此复杂性对泛化没有因果影响，看似相关只是混杂所致。