SubLAT 用势函数引导潜在推理路径的随机探索。
资讯摘要
论文提出 SubLAT，将相对答案势与 Subtrajectory Balance 结合，学习语言模型在连续潜在空间中的随机探索。相对势以终态正确性信号评估采样状态相对替换状态的答案支持度，Subtrajectory Balance 则把势差与不同长度子轨迹的前向、后向转移密度关联。模型联合使用答案监督、CoT 监督与表示蒸馏训练。作者报告在算术与演绎推理基准上，增大采样预算可提升解覆盖，并在部分结构 OOD 基准上有改进。
要点速读
- 论文提出 SubLAT，用相对答案势与 Subtrajectory Balance 引导潜在状态间的随机转移。
- 训练结合答案监督、CoT 监督和表示蒸馏。
- 作者报告算术与演绎推理实验中解覆盖随采样预算增大而提升，部分结构 OOD 基准有改进。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。