回到最新动态
研究论文 / THE SIGNAL

LLaCO:面向大语言模型的竞争感知语义调度连续扩散

LLaCO: Continuous Diffusion for Large Language Models with Competition-Aware Semantic Scheduling

重要性 5.5 AI 辅助整理

论文提出 LLaCO 连续扩散框架与竞争阈值理论,8B 版本报告优于连续扩散基线。

资讯摘要

论文提出 LLaCO 连续扩散生成框架,指出嵌入范数衰减会让欧氏距离产生虚假超越,token 竞争需按方向评估,并据此提出竞争阈值理论 CTT 与语义保留调度 SRS。LLaCO 通过嵌入方向适配器、时间步条件调制和球面加噪(向掩码偏置端点做测地插值)适配预训练骨干,并按对数秩衰减重新分配去噪轨迹。作者报告 8B 版本优于此前连续扩散基线,可与同规模离散扩散模型相比。

要点速读

  1. 论文提出竞争阈值理论 CTT,认为候选 token 仅在有效噪声幅度超过语义间隔时才超越源 token。
  2. 提出语义保留调度 SRS,按身份衰减进程分配时间,并按对数秩衰减重配去噪轨迹。
  3. LLaCO 采用球面加噪的测地插值消除范数衰减;作者报告 8B 模型优于连续扩散基线、接近同规模离散扩散模型。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/27 08:00:28(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.AI 原文arxiv.org · 在新窗口打开