逐行编辑教师推理轨迹并插入元认知行为,可提升小模型数学表现。
资讯摘要
论文提出元认知行为调优(MBT):在教师模型推理轨迹缺少元认知的位置插入七种元认知行为,再用编辑后的轨迹训练学生模型。作者指出一次性重写整条轨迹会压缩长轨迹,一次性选全部插入点会使插入集中在首尾;其智能体方法 MBT-A 逐行编辑轨迹文件并以 git commit 记录每次编辑。在竞赛数学上,Qwen3.5-4B-Base 学生模型得 85.4 分,高于未编辑轨迹 SFT 的 83.1 分,也优于 token 匹配对照和五种先前方法。
要点速读
- 作者标注教师轨迹发现:当前推理模型常无计划开局、验证流于表面、放弃有希望的解法路径、走未检查的捷径。
- MBT-A 逐行编辑轨迹文件,每次编辑记为一次 git commit,避免压缩长轨迹并使插入点分散。
- 竞赛数学上 MBT-A 学生得 85.4 分,未编辑轨迹 SFT 为 83.1 分;另两个学生模型也有提升,插入行为可迁移到学生推理中。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。