LoCo：用局部偏好学习压缩推理链

LoCo 用局部偏好学习让模型学会何时停止推理。

资讯摘要

论文提出 LoCo，一种面向推理压缩的局部偏好学习方法。它从模型自身推理轨迹中识别候选“过度思考”状态，冻结对应前缀，从同一状态重新生成更短且经验证的续写，再用 DPO 训练状态条件偏好对，让模型学会何时继续推理、何时收尾。作者报告在五个数学和三个代码基准上，数学任务完成长度减少 41.7%–45.4%，代码任务减少 23.4%–36.3%，准确率保持或提升。

要点速读

1. LoCo 从模型自身轨迹检测过度思考状态，冻结前缀并重新生成更短的已验证续写，用 DPO 训练偏好对。
2. 作者报告数学任务完成长度减少 41.7%–45.4%，代码任务减少 23.4%–36.3%，准确率保持或提升。
3. 训练数据全部来自自生成的数学轨迹，但在代码基准上也有迁移效果；代码与模型将公开。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/5 08:00:38（北京时间）。