论文提出分层智能体蒸馏框架,并给出两层on-policy配对与日程的实证原则。
资讯摘要
论文提出分层智能体蒸馏框架,将on-policy程度拆为交互历史与动作token前缀两个层级,可显式控制配对、混合比例与训练日程。作者在三个模型、四个交互环境中做三阶段自蒸馏研究,报告学生诱导历史配教师动作前缀的独立训练信号最强,两层都跟随学生最差;全on-policy数据在混合配置中有益,且两层配对方式影响显著。
要点速读
- 论文将on-policy与off-policy之分形式化为分层结构:诱导交互历史的策略与生成当前动作token前缀的策略可以不同。
- 作者报告学生诱导历史加教师生成动作前缀的独立训练信号最强,两层均跟随学生表现最差。
- 作者发现两层教师/学生比例相同但配对方式不同会带来明显性能差异,且先教师上下文、后全on-policy的日程优于静态混合。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/27 08:00:28(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。