论文提出SIA，解释熵信号何时反映推理正确性
资讯摘要
论文提出逐步信息性假设（SIA），用于刻画基于熵的推理信号何时与答案正确性对齐：要求能降低熵的推理前缀扩展在期望上提高有效答案概率。作者指出下一词预测可将答案相关信息从训练数据迁移到模型，但本身不保证与正确性对齐，对齐取决于训练方式如何将推理轨迹与正确答案耦合，并提出可观测特征与失效情形。在GSM8K、ARC、SVAMP、MATH四个基准及多类开放权重模型上，作者报告熵与正确性的对齐随后训练增强，任务难度超出模型能力时会减弱。
要点速读
- 论文提出逐步信息性假设（SIA），给出熵降低与正确性对齐的理论条件
- 作者认为下一词预测本身不保证熵信号与正确性对齐，对齐取决于训练方式对推理轨迹与答案的耦合
- 在GSM8K、ARC、SVAMP、MATH及基础、指令微调、RL训练模型上，作者报告对齐随后训练增强、任务过难时减弱
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/23 08:00:11（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。