研究用推理token测出LLM隐性偏见

罗格斯大学心理学家 Calvin K. Lai 与 Messi H.J. Lee 在 Nature Machine Intelligence 发表研究，把人类内隐联想测试改造后用于分析大语言模型的推理 token，以衡量模型处理可能带有偏见的信息时投入多少推理。研究称，多数推理模型在推理中复现了人类的内隐刻板印象：处理与刻板印象冲突的信息时，模型消耗的推理 token 更多。 该研究覆盖五个推理模型，结论基于推理 token 的消耗差异，而非模型输出内容本身。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。