论文提出 LLaCO 连续扩散框架与竞争阈值理论,8B 版本报告优于连续扩散基线。
资讯摘要
论文提出 LLaCO 连续扩散生成框架,指出嵌入范数衰减会让欧氏距离产生虚假超越,token 竞争需按方向评估,并据此提出竞争阈值理论 CTT 与语义保留调度 SRS。LLaCO 通过嵌入方向适配器、时间步条件调制和球面加噪(向掩码偏置端点做测地插值)适配预训练骨干,并按对数秩衰减重新分配去噪轨迹。作者报告 8B 版本优于此前连续扩散基线,可与同规模离散扩散模型相比。
要点速读
- 论文提出竞争阈值理论 CTT,认为候选 token 仅在有效噪声幅度超过语义间隔时才超越源 token。
- 提出语义保留调度 SRS,按身份衰减进程分配时间,并按对数秩衰减重配去噪轨迹。
- LLaCO 采用球面加噪的测地插值消除范数衰减;作者报告 8B 模型优于连续扩散基线、接近同规模离散扩散模型。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/27 08:00:28(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。