Astera 演讲：ASI 风险不在失控而在权力集中

Astera Institute 的一篇演讲文本重新审视了将“对齐”作为目标的做法。作者称，专家对人工超级智能（ASI）是否构成存在性风险分歧巨大，但根本危险不在于“失控的 ASI”，而在于 ASI 带来的巨大权力，以及制造危险技术的门槛降低。 作者还提出，大量 AI 对齐工作虽出于善意，却在加速危险能力的进展。这一判断针对的是当前以对齐为目标的 AI 研究方向，而非某一具体产品或机构。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。