回到最新动态
研究论文 / THE SIGNAL

思维链依赖是否遵循规模定律?

Does Chain-of-Thought Reliance Follow a Scaling Law?Larger Models Follow Their Steps More, Independent of Post-Training

重要性 5.5 AI 辅助整理

论文报告模型越大越依赖思维链步骤,后训练影响很小。

资讯摘要

论文在合成盒子交换任务上以精确真值测量模型对思维链的依赖:替换模型自身链条中的一步为错误但合法的状态,观察答案是否跟随。作者报告评测25个开放权重模型(Qwen3、Gemma 3、Llama 3、OLMo 2),发现依赖随规模上升并饱和,Qwen3从0.6B的16-18%升至14B的97-100%;能力是主要驱动因素,后训练基本不改变依赖。

要点速读

  1. 论文在每一步中间状态已知的合成盒子交换任务上,用错误但合法的状态替换模型思维链中的一步,检验答案是否跟随该编辑。
  2. 作者报告Qwen3的答案依赖从0.6B的16-18%升至14B的97-100%,对数规模逻辑斯蒂拟合R²=0.89,Gemma 3与Llama 3呈类似趋势。
  3. 论文称依赖与步骤准确率相关系数r=0.99,后训练在4B以上与基座模型差异不超过0.03;14B以内模型在无书面步骤时,四步以上交换任务表现接近随机。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.CL 原文arxiv.org · 在新窗口打开