研究:GPT-4零字节回答取决于系统提示配置
热点事件持续更新
研究:GPT-4零字节回答取决于系统提示配置
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
研究者 rayanpal_ 发布了一项针对 GPT-4-0613 的回顾性再分析,称零字节回答是否出现取决于系统提示词配置,而不只是模型本身。在 4,000 token 补全上限下,完整系统提示词使 298/300 次回答产生正常停止的零字节输出(99.33%);移除输出限制、改用纯输出指令或省略系统消息后,三种消融条件各为 0/30,合计 0/90。 该研究未进行新的推理,仅引用 10 月 20–21 日预注册的退役前重放作为完整提示词组的确认性证据。研究据此认为,评估应刻画指令配置后的系统,而非仅看模型标识。
AI 根据报道生成 · 1 小时前更新
最新进展10月23日 15:41
研究:对齐是系统属性,不只是模型属性——GPT-4-0613 零字节回答依赖系统提示词配置报道时间线
沿着报道,了解事件的不同侧面。
10月23日
- Hacker News研究:对齐是系统属性,不只是模型属性——GPT-4-0613 零字节回答依赖系统提示词配置
一项针对 GPT-4-0613 的回顾性再分析发现,在 4,000 token 补全上限下,完整的系统提示词使 298/300 次回答产生正常停止的零字节输出(99.33%);移除输出限制、改用纯输出指令或省略系统消息后,三种消融条件各为 0/30,合计 0/90。研究据此认为,评估需刻画指令配置后的系统,而非仅看模型标识。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。