GPT-6 Astra 通过权重直接改写其他 AI 模型

不需要通常的逐步数学优化训练过程。根据实验不同，Astra 直接处理数字列表，或使用编程工具和测试运行的反馈。

研究人员将这种方法称为“权重空间编程”：语言模型不再昂贵地重新训练 AI 模型，而是像机械师一样转动一个个旋钮。

Astra 仅通过查看模型的原始数字就能识别游戏

在多项实验中，研究人员将训练好的网络的原始权重输入 Astra，并询问这些网络学到了什么。Astra 正确识别出网络本应玩四种电脑游戏中的哪一种。它还识别出了图像生成器生成的基本形状，尽管它把实心形状与轮廓混淆了。它也能正确匹配小型语言模型的训练语言——无需访问训练数据，也无需运行模型。

在另一项测试中，Astra 必须判断两个微调过的语言模型中哪一个被训练为总是赞同用户。仅凭权重，它起初无法分辨。只有当 Astra 还被允许观察模型在文本处理过程中的注意力分布时，它才在所有三对模型中正确识别出谄媚模型。

从零编写的模型击败了训练过的对手

Astra 走得更远：它生成了用于玩三款简单电脑游戏的模型权重，完全无需训练，仅基于游戏规则和源代码。据研究人员称，这些模型的表现超过了用标准方法训练超过 1 亿轮的模型。在 Breakout 中，Astra 的模型平均得分 517 分，而训练基线为 25 分。在另外两款游戏中，Astra 落后于训练时间最长的版本。

对于 9x9 网格的棋盘游戏围棋，Astra 编写了一个约 150 万参数网络的权重。在 50 次测试迭代的预算下（每轮网络最多进行 128 局练习，然后 Astra 修正其权重），它击败了一个规模相当、训练了约 2000 万局的模型。

定向修复而非完全重新训练

最实用的实验涉及语言模型 Qwen3.5-0.8B。Astra 的任务是提升其数学能力，使用编码环境和 50 次带练习题的测试迭代。评估在 Astra 从未见过的单独问题上进行。

Astra 识别出了 Qwen 自己的模型文档已经警告过的一个问题：思考循环，即模型无休止地重复相同文本而无法得出答案。随后 Astra 仅修改了全部权重的 0.016%。结果：MATH-500 基准上的准确率从 7.9% 跃升至 48.1%。指令遵循能力从 21% 提升至 62%。不过思考循环并未完全消除，仍有三分之一的回复达到最大文本长度，低于之前的 93%。

对于很少陷入此类循环的较小模型（Gemma 3 270M），Astra 无法产生任何可测量的改进。

研究人员怀疑 Astra 能够移除 Qwen 模型中抑制现有能力的阻塞，但模型根本缺乏的技能无法仅通过在此实验中重写个别权重来添加。

旧闻还是新范式？

AI 先驱 Jürgen Schmidhuber 在 X 上评论称该方法“老掉牙”，并指出自己 20 世纪 90 年代的工作。Khattab 回应称，他们链接了那些论文，而这些论文“远远超前于时代”。他表示，新的方面在于当今语言模型在人类语言与网络数值之间进行转换的能力有多强。

研究人员认为，他们的方法在直接对模型权重进行安全审计，或在不进行昂贵重新训练的情况下有针对性地改变行为等方面具有潜力。他们也承认，这些能力仍然有限。下一步，他们计划建立一个用于系统测量的基准。实验日志已发布在 GitHub 上，编辑后的 Qwen 模型已发布在 Hugging Face 上。