我们该对 AI 灭绝风险有多担忧？

数学家 Jacob Tsimerman 在获菲尔兹奖后转向 AI 安全，并成立 Mathematical AI Safety Institute（MAISI），作者应邀加入其科学顾问小组。作者借此梳理自己对 AI 灭绝风险（x-risk）的思考，指出自己此前的反对理由多停留在第一层，而这些问题早已有第二层回应，需要认真对待。