VIGOR 用视觉消融对比重排解码顺序,免训练降低多模态 dLLM 幻觉。
资讯摘要
论文指出多模态离散扩散语言模型(dLLM)的幻觉不仅是词元预测问题,也是过早确定问题:迭代去噪时部分掩码位置因语言先验置信度高而被提前解码,进而影响后续生成。作者提出免训练、即插即用的推理策略 VIGOR,通过对比原图条件与视觉消融两次前向的置信度,优先解码更依赖图像证据的位置。在 LLaDA-V 与 Lumina-DiMOO 上的实验显示其可降低幻觉并提升多模态推理表现。
要点速读
- 论文将多模态 dLLM 幻觉归因于迭代去噪中的过早确定:部分位置受语言先验驱动被提前解码。
- VIGOR 在每步比较原图条件与视觉消融两次前向的置信度,按反事实视觉证据重排掩码位置。
- 作者报告在 LLaDA-V 和 Lumina-DiMOO 上幻觉减少、多模态推理提升,代码已公开。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/5 08:00:38(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。