打乱思维链顺序的因果奖励在域外准确率与忠实度上优于基线。
资讯摘要
论文指出,RLVR 仅依赖结果正确性,无法保证思维链对最终答案有因果贡献;现有因果性指标通过删除步骤或注入错误来扰动思维链,会改变各步骤信息,导致高分可能只是对信息变化的敏感。作者提出 CRoS,通过打乱推理步骤顺序而不改变内容来度量因果性。在 Reasoning Gym 上用 Gemma-3-4B 测试,CRoS 在域外准确率、思维链质量与忠实度上均优于基线的因果奖励和结果奖励。
要点速读
- 论文提出 CRoS,以打乱步骤顺序、不改变内容的方式扰动思维链,避免现有扰动方法引入的信息混杂。
- 在五个未见过的逻辑与游戏数据集上,CRoS 准确率为 46.8%,最强基线为 43.8%。
- CoT-Pass@K 从 K=1 到 128 平均为 43.4%,基线为 41.4%;提示承认分数为 34.0%,基线为 20.2%。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/3 08:00:27(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。