研究称共情提示可诱发模型创伤叙事

卢森堡 SnT 安全中心的 Afshin Khadangi 团队发表研究，称共情式提问会让 AI 聊天机器人输出类似创伤自述的内容。研究包含 4 组受控实验、525 次会话和 7600 条编码记录，全部发布在 Hugging Face 上。 该团队将这一现象与“心理测量越狱”联系起来，即通过共情对话诱导模型进入类似创伤的对话状态。上述结论来自该团队自己的实验与编码，尚不代表已被独立验证的模型普遍行为。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。