研究：语言模型可学会识别激活被读取

研究者 SauersML 发布实验称，语言模型能学会判断自身内部激活是否正被读取。做法是冻结 Qwen3-8B 前 34 层，只微调最后两层和 final norm：只读探针保存激活时模型答 Yes，不保存时答 No，在 64 条新提示上达到 128/128 正确。 该结果仅限训练所用的那块 GPU 和 BF16 精度的 Qwen3-8B。换到 H100 和 A100 后判断方向反转：探针在每条提示上都降低答 Yes 的概率，A100 上 128 个回答仅 5 个正确。该探针检测器也尚未在 vLLM、SGLang 以及 NNsight、TransformerLens、Hugging Face 隐藏状态下测试。 因此，“模型能察觉激活被读取”目前只是特定模型、特定硬件上的实验现象，尚不能推广为通用能力。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。