从原理上可靠对齐 LLM 是不可能的

文章论证对 LLM 的对齐在原理上不可能且概念上不自洽：LLM 并非追求固定目标的"盲优化器"，而是模仿海量人类文本、随输入切换人格，因而没有可形式化指定的目标。作者进一步指出，机制可解释性依赖对已观察行为的标注，无法覆盖尚未出现的突发有害行为，且特征标签本身可能是误判。