回到最新动态
研究论文 / THE SIGNAL

On-Policy Self-Training:无需数据的模型自我改进

On-Policy Self-Training: Data-Free Self-Improvement in Large Language Models

重要性 5.5 AI 辅助整理

模型仅凭主题描述自生成课程即可自我提升

资讯摘要

论文提出将 on-policy 自蒸馏重构为自训练框架:模型仅凭粗粒度主题描述,自行合成问题与特权推理演示,无需人工标注问答或提示。作者报告该方法在文本与多模态任务上均带来提升,且在未自训练领域保留原有能力,说明基础模型存在可被放大的潜在能力。

要点速读

  1. 框架由模型自生成问答对与特权推理轨迹驱动,不使用真实问答对或人工问题集。
  2. 仅以粗粒度高层主题描述为引导,模型自行合成训练课程。
  3. 作者报告在标准语言基准与视觉问答上取得一致自我提升,并保持未训练领域能力。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/27 08:00:28(北京时间)。

阅读 Daily Papers 原文arxiv.org · 在新窗口打开