我们高估了 AI 说"不"的能力
MIT Technology Review 指出，AI 的拒绝能力已成为安全体系的核心承重墙，但这一机制本质上是概率性的，并不可靠。模型在训练中习得暴力与恶意知识，拒绝只是后置约束；已有用户试图用先进 AI 研发生物病原体和自主无人机蜂群。同时，拒绝的边界由 AI 公司秘密划定，政府也将介入，可能被用于压制合法言论。
MIT Technology Review 指出，AI 的拒绝能力已成为安全体系的核心承重墙，但这一机制本质上是概率性的，并不可靠。模型在训练中习得暴力与恶意知识，拒绝只是后置约束；已有用户试图用先进 AI 研发生物病原体和自主无人机蜂群。同时，拒绝的边界由 AI 公司秘密划定，政府也将介入，可能被用于压制合法言论。