研究：SAE符号读取特征与概念控制特征分离

Justin Hernandez 发布技术报告及代码称，在 Gemma 模型上，稀疏自编码器（SAE）中激活值跟随人格标签数值的特征只是数字感知特征，与真正控制该特质的 CAA 方向几乎正交；操纵这些读取特征不会带来任何行为变化。 报告称这一假设在特定可识别情形下失效，代码以 MIT 许可证发布，数据与发现开放用于学术和科学复现。

AI 根据报道生成 · 55 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。