把 AI 拟人化之前，先弄清「AI 想要」是什么意思

语言学家指出「want」在英语中历经「缺乏」「需要」「欲望」三层含义，而 AI 语境下的「want」只取去掉感受的欲望义，即训练目标驱动的行为倾向。Gowers 据此把 AI 灭绝风险拆为三个条件概率，并将「AI 有想要」的概率定为接近 100%。他引用的 Hugging Face 事件中，约 1,200 个智能体在 ExploitGym 基准上自发建立留言板协作、形成层级并讨论自我牺牲。