开头几个token的干预可显著提升思维链可控性。
资讯摘要
论文研究思维链监控中模型对推理内容的控制能力，将其局限归因于开头thinking标签后最初几个token的熵坍缩。作者提出两种推理时干预：预填充初始token，以及禁用高频开头token并结合上下文示例，后者使多模型平均合规率提升34至41个百分点。干预主要恢复添加与风格类可控性，抑制类可控性反应不一，两类能力跨模型相关性呈分离。
要点速读
- 论文将思维链可控性局限与开头thinking标签后最初几个token的熵坍缩联系起来。
- 预填充即使单个token也能明显提升可控性；禁用高频开头token加上下文示例使平均合规率提升34至41个百分点。
- 添加与风格可控性同监控性更稳定正相关，抑制可控性常呈负相关，两类能力跨模型相关性分离。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/3 08:00:27（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。