Hacker News· justinhernandez·· 2 小时前AI 评分42
研究揭示 SAE 中符号读取特征与概念控制特征的分离：Reading Is Not Steering
Reading Is Not Steering: Symbol-Readers Concept-Controllers in SAE's
AI 导读
研究发现，在 Gemma 模型上，SAE 中激活值跟随人格标签数值的特征只是数字感知特征，与真正控制该特质的 CAA 方向几乎正交，操纵这些读取特征不会带来任何行为变化。
来源：Hacker News · github.com