统一扩散模型用跨范式在线蒸馏兼顾理解与生成
资讯摘要
论文提出 Nemotron-Labs-Diffusion-Uni（NLD-Uni），一个面向视觉理解与生成的统一离散扩散大语言模型（DLLM）。作者报告其两项创新：跨范式在线蒸馏（OPD）框架，将自回归 VLM 的视觉理解能力与连续流模型的生成能力迁移到统一 DLLM；以及渐进式自精炼扩散过程，训练中分多步逐步破坏 token，而非直接替换为 mask token，推理时可对 token 做中间提交并逐步精炼。作者称其在视觉问答、多模态推理、目标定位、文生图和图像编辑任务上取得统一 DLLM 中的最优表现。
要点速读
- 提出跨范式在线蒸馏（OPD）框架，把自回归 VLM 的理解能力与连续流模型的生成能力迁移到统一离散扩散模型
- 采用渐进式自精炼扩散：训练中分多步逐步破坏 token，推理时允许中间提交 token 以逐步精炼
- 作者报告在视觉问答、多模态推理、目标定位、文生图和图像编辑上达到统一 DLLM 中的最优性能
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:20（北京时间）。