最小编辑在线蒸馏：纠正多模态推理的感知错误

最小编辑在线蒸馏让 VLM 测试时无需图描述也能纠正感知错误。

资讯摘要

论文提出最小编辑纠正式在线蒸馏方法，针对视觉语言模型因误读图表导致推理从错误前提开始的问题。训练时用参考图描述与已验证解答作为仅训练信息，教师按最小编辑目标给学生的错误轨迹打分，仅教师不认可的 token 计入纠正损失，正确轨迹则用任务奖励强化学习。方法在测试时无需图描述，在多个模型规模上达到或超过推理时附带参考描述的基座模型，并提升低层几何感知等能力。

要点速读

1. 论文指出视觉数学推理可能因 VLM 误读图表而在推理开始前就失败，小模型尤为明显。
2. 训练时教师按最小编辑目标评分学生错误轨迹，仅教师不认可的 token 参与纠正损失，正确轨迹用任务奖励强化学习。
3. 测试时无需图描述，方法在多个模型规模上达到或超过推理时附带参考图描述的基座模型，并可迁移到外部数学与感知基准。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/24 08:00:37（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。