模型仅凭主题描述自生成课程即可自我提升
资讯摘要
论文提出将 on-policy 自蒸馏重构为自训练框架:模型仅凭粗粒度主题描述,自行合成问题与特权推理演示,无需人工标注问答或提示。作者报告该方法在文本与多模态任务上均带来提升,且在未自训练领域保留原有能力,说明基础模型存在可被放大的潜在能力。
要点速读
- 框架由模型自生成问答对与特权推理轨迹驱动,不使用真实问答对或人工问题集。
- 仅以粗粒度高层主题描述为引导,模型自行合成训练课程。
- 作者报告在标准语言基准与视觉问答上取得一致自我提升,并保持未训练领域能力。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/27 08:00:28(北京时间)。