Hacker News· gmays·· 2 小时前AI 评分38
On-Policy Self-Training:大语言模型无需外部数据的自我改进
On-Policy Self-Training: Data-Free Self-Improvement in Large Language Models
AI 导读
研究提出 On-Policy Self-Training 框架,让模型仅凭粗略的高层主题描述自行合成问题与特权推理演示,无需人工标注的问答对或提示词即可完成自我蒸馏训练。该方法在文本与多模态领域的标准语言基准和视觉问答任务上均实现一致的自我提升,且在未自我训练的领域仍保留原有能力。
来源:Hacker News · arxiv.org