跳到正文
Hacker News· simonpure·· 2 小时前AI 评分40

用单一算法训练基础模型:统一训练框架将预训练、SFT 与 RL 合并

Training Foundation Models with a Single Algorithm

AI 导读

研究者提出“统一训练”框架,把预训练、midtraining、SFT 和 RL 全部归入同一个基于似然的训练算法,将分阶段训练视为其特例。该系统在单一训练器中混合静态数据与 RL 生成,实验显示其改善了精度与算力的权衡和任务覆盖,同时保留更广泛能力,并为持续学习提供更好的起点。论文共 67 页、31 张图、22 张表,编号 arXiv:2610.40564。

来源:Hacker News · arxiv.org