Concise-9B：压缩推理模型思维链中的冗余

Concise-9B 将推理 token 压至 0.66 倍，但超长思考下难题表现下降。

资讯摘要

论文提出 Concise-9B，通过两轮 on-policy 拒绝采样微调，保留最短正确样本并混入少量答案合成目标，以削减 Qwen3.5-9B 思维链中答案形成后的冗余推理。作者报告在 8,983 道留出题上，32K 思考预算下 token 用量为基线的 0.66 倍，准确率差异在 ±1 点内；但将思维链延长至 80K token 时，1,276 道难题少解 25 道。

要点速读

1. 方法为两轮 on-policy 拒绝采样微调，保留最短正确样本并加入少量答案合成目标，得到 Concise-9B。
2. 在 8,983 道留出题上，32K 思考预算下生成 token 为 Qwen3.5-9B 的 0.66 倍，准确率差异 -0.20 点（区间 -0.77 至 +0.36）。
3. 思维链延长至 80K token 时，Concise-9B 在 1,276 道难题上少解 25 道，主要集中在竞赛数学。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/4 08:00:28（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。