DTCA：扩散语言模型强化学习的去噪词元信用分配

DTCA 为扩散语言模型强化学习提供词元级信用分配方法。

资讯摘要

论文提出 DTCA 框架，用于扩散语言模型强化学习中的词元级信用分配。该方法通过衡量词元确定后剩余掩码位置预测置信度的提升来估计词元贡献，并按词性分组，据此选择有信息量的去噪时间步并分配词元级学习信号，再依据策略更新引起的词元熵变化校准信号。作者报告在 LLaDA-8B-Instruct 上，MATH500 最高提升 9.0 分、GSM8K 提升 5.3 分。

要点速读

1. DTCA 以词元确定后剩余掩码位置预测置信度的提升来估计词元贡献，并按词性类别分组。
2. 贡献权重用于选择去噪时间步并分配词元级学习信号，再按策略更新引起的词元熵变化校准。
3. 作者报告在 LLaDA-8B-Instruct 上不同生成预算下数学推理均有提升，MATH500 最高 9.0 分、GSM8K 5.3 分。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/28 08:00:17（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。