ATI-OPD：自适应教师干预稳定长序列在线蒸馏

论文用教师片段替换高分歧前缀来稳定长序列在线蒸馏

资讯摘要

论文提出 ATI-OPD，用于在线策略蒸馏（OPD）中长序列训练不稳定的问题。学生模型在自身回复上接受教师逐 token 反馈，回复变长后前缀偏离教师推理，后续反馈变弱并可能放大偏差。该方法用一段简短教师片段替换最早的高分歧片段，让学生从修订文本继续推理，并将持续分歧的后缀排除在蒸馏损失外。作者报告在五个数学推理基准、两组师生模型对上，学生单独准确率平均优于标准 OPD。

要点速读

1. ATI-OPD 以教师片段替换学生最早的高分歧前缀，再由学生继续自身推理
2. 对持续分歧的后缀不计入蒸馏损失，同时保留有用的学生续写
3. 作者报告训练中学生与教师分歧减少、梯度尖峰和极长回复减少，五个数学推理基准上学生单独准确率平均提升

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。