开放模型利大于弊吗？Anthropic 称 GLM-5.3 构成重大网络攻击风险引发争论
Anthropic 发布报告称，中国公司 Z.ai 于 8 月发布的开放模型 GLM-5.3 可被任何人自由下载和修改，构成重大网络攻击风险。这场争论的核心是前沿模型应像 GLM-5.3 一样开放，还是留在前沿实验室内部；Nvidia CEO Jensen Huang 主张美国发展更多开放模型，Anthropic 的 Dario Amodei 则主张更谨慎。
#Meta
MIT Technology Review · AIAI 评分3838
MIT Technology Review · AIAI 评分3434 我们高估了 AI 说"不"的能力
MIT Technology Review 指出，AI 的拒绝能力已成为安全体系的核心承重墙，但这一机制本质上是概率性的，并不可靠。模型在训练中习得暴力与恶意知识，拒绝只是后置约束；已有用户试图用先进 AI 研发生物病原体和自主无人机蜂群。同时，拒绝的边界由 AI 公司秘密划定，政府也将介入，可能被用于压制合法言论。