论文称COCONUT潜在token缺乏真实推理，依赖数据集捷径。
资讯摘要
论文从可靠性角度分析潜在token机制，聚焦Chain-of-Continuous-Thought（COCONUT）。作者通过引导实验发现，COCONUT token对扰动不敏感，且不含推理关键信息；在MMLU与HotpotQA上的捷径实验显示，模型会利用数据集伪影抬高基准表现。论文据此提出，COCONUT更像伪推理机制，生成看似合理的推理轨迹，却掩盖了对捷径的依赖。
要点速读
- 引导实验显示，COCONUT token对扰动敏感性低，缺乏推理关键信息，与显式CoT token不同。
- 在MMLU和HotpotQA的偏置与分布外设置中，COCONUT持续利用数据集伪影，抬高基准分数。
- 论文将COCONUT定位为伪推理机制：生成的轨迹看似合理，却掩盖了捷径依赖。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/28 08:00:17（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。