VERS 用激活解释编辑引导推理,可省 token 但竞赛题掉点。
资讯摘要
论文提出 VERS(Verbalize, Edit, Reconstruct, Steer),将一条推理轨迹中“怀疑点”处的解释编辑转化为一个固定方向,并在段落分隔处叠加该方向以引导模型推理。作者报告:在 GSM8K 全测试集上生成 token 减少 45.8%、准确率变化 -0.82 个百分点;MATH-500 上节省 31.3%、准确率变化 -3.05 个百分点。半强度下其 token 与准确率的权衡介于 SEAL 与 DEER 之间;经拟合仿射映射并按模型调强度,该方向可迁移至更大的 Qwen3 模型(至 235B-A22B),节省 30–35% token。但在竞赛题上各规模模型均损失 3–7 个百分点,且固定方向未能区分必要与不必要的检查。
要点速读
- VERS 把单条推理轨迹怀疑点处的解释编辑整合为一个固定方向,在段落分隔处施加。
- GSM8K 上 token 减少 45.8%、准确率 -0.82pp;MATH-500 上节省 31.3%、-3.05pp。
- 方向可迁移至更大 Qwen3 模型(至 235B-A22B)并节省 30–35% token,但竞赛题上各规模均损失 3–7pp。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/4 08:00:28(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。