训练草稿模型对抗性投机提升智能体通过率

研究者提出对抗性投机推理：用反向 DPO 训练投机解码中的草稿模型，使其在选定决策点倾向产生分歧，再由未改动的约 750B 参数目标模型在数值噪声最低的验证块起始处写入这些决策。 据论文作者称，在目标模型权重、验证规则、服务栈、采样参数和测试框架均固定的条件下，长时程编码智能体在两个长时程基准上的通过率有所提升；每种配置独立运行五次。可训练参数在 GLM 上为 2.15B、DeepSeek 上为 449M，只有草稿模型经过训练。

AI 根据报道生成 · 53 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。