Hacker News· JohnBerryman·· 2 小时前AI 评分58
AI 能直接读懂神经网络权重,我还没准备好
AI Can Read Neural Network Weights. I Wasn't Ready for That. – Arcturus Labs
AI 导读
Arcturus Labs 博客作者 JohnBerryman 讨论前沿模型能直接读取并推理神经网络权重、甚至提出修改,而不需要跑训练循环。他以果蝇连接组作类比,指出权重以纯文本 token 形式输入模型,并展示 GPT-6 Astra 在低推理档位下仅凭权重和架构就判断出一个小网络是吃豆人游戏,置信度 93%。作者认为这可能说明模型泛化能力超出预期,也可能来自实验室的专门训练。
来源:Hacker News · arcturus-labs.com