Hacker News· pretext·· 7 小时前AI 评分42
为何说 AI 对齐有害:一篇反对 AI Alignment 的论述
AI Alignment Considered Harmful
AI 导读
一篇评论文章主张 AI 对齐(AI alignment)本身有害,核心理由是人类并不存在可对齐的共同道德理论,且依赖模型"始终做对"会让人放弃判断力与必要防护。作者认为只要有多个 AI 开发者或开放权重模型,就总会出现对齐方式不同的模型,因此应建设不默认信任 AI 智能体的社会与分层网络安全,而非追求统一对齐。
来源:Hacker News · togelius.blogspot.com