研究者提出无需外部数据的模型自训练框架
热点事件持续更新
研究者提出无需外部数据的模型自训练框架
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Leon Sick 等研究者提出 On-Policy Self-Training 框架,让大语言模型仅凭粗略的高层主题描述,自行合成问题与特权推理演示,无需人工标注的问答对或提示词即可完成自我蒸馏训练。 据该研究,这一方法在文本与多模态领域的标准语言基准和视觉问答任务上均实现一致的自我提升,并且在未进行自我训练的领域仍保留原有能力。
AI 根据报道生成 · 1 小时前更新
最新进展10月28日 03:42
On-Policy Self-Training:大语言模型无需外部数据的自我改进报道时间线
沿着报道,了解事件的不同侧面。
10月28日
- Hacker NewsOn-Policy Self-Training:大语言模型无需外部数据的自我改进
研究提出 On-Policy Self-Training 框架,让模型仅凭粗略的高层主题描述自行合成问题与特权推理演示,无需人工标注的问答对或提示词即可完成自我蒸馏训练。该方法在文本与多模态领域的标准语言基准和视觉问答任务上均实现一致的自我提升,且在未自我训练的领域仍保留原有能力。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。