Hacker News· rayanpal_·· 2 小时前AI 评分24
研究:对齐是系统属性,不只是模型属性——GPT-4-0613 零字节回答依赖系统提示词配置
Alignment Is a System Property, Not Just a Model Property
AI 导读
一项针对 GPT-4-0613 的回顾性再分析发现,在 4,000 token 补全上限下,完整的系统提示词使 298/300 次回答产生正常停止的零字节输出(99.33%);移除输出限制、改用纯输出指令或省略系统消息后,三种消融条件各为 0/30,合计 0/90。研究据此认为,评估需刻画指令配置后的系统,而非仅看模型标识。
来源:Hacker News · zenodo.org