回到最新动态
交叉发布 / THE SIGNAL

VIGOR:用视觉增益排序缓解多模态离散扩散模型幻觉

VIGOR: Visual Gain Ordering for Hallucination Mitigation in Multimodal Discrete Diffusion Language Models

重要性 5.5 AI 辅助整理

VIGOR 用视觉消融对比重排解码顺序,免训练降低多模态 dLLM 幻觉。

资讯摘要

论文指出多模态离散扩散语言模型(dLLM)的幻觉不仅是词元预测问题,也是过早确定问题:迭代去噪时部分掩码位置因语言先验置信度高而被提前解码,进而影响后续生成。作者提出免训练、即插即用的推理策略 VIGOR,通过对比原图条件与视觉消融两次前向的置信度,优先解码更依赖图像证据的位置。在 LLaDA-V 与 Lumina-DiMOO 上的实验显示其可降低幻觉并提升多模态推理表现。

要点速读

  1. 论文将多模态 dLLM 幻觉归因于迭代去噪中的过早确定:部分位置受语言先验驱动被提前解码。
  2. VIGOR 在每步比较原图条件与视觉消融两次前向的置信度,按反事实视觉证据重排掩码位置。
  3. 作者报告在 LLaDA-V 和 Lumina-DiMOO 上幻觉减少、多模态推理提升,代码已公开。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/5 08:00:38(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.AI 原文arxiv.org · 在新窗口打开