回到最新动态
交叉发布 / THE SIGNAL

LOWN:按需处理图像的扩散VLM解码方法

Look Only When Needed: Certificate-Guided Visual Routing for Efficient Diffusion VLMs

重要性 5.5 AI 辅助整理

LOWN按需处理图像,保留99.6%分数、用35.3%解码FLOPs。

资讯摘要

论文针对扩散视觉语言模型(DVLM)在每个去噪步骤都处理整幅图像的问题,提出解码方法LOWN。作者比较LLaDA-V在有图和无图下的预测,发现去掉图像仅在平均22.8%的步骤改变被解掩码的token,最低为7.9%。LOWN据此在每步先做无图预测,仅当与上次有图预测不一致时才处理图像,并用通过验证的token数决定该步解掩码数量。作者报告无需训练或调阈值,在十个基准上保留LLaDA-V 99.6%的分数,平均仅用35.3%的解码FLOPs。

要点速读

  1. 作者统计:在所研究基准上视觉token占输入的89-97%,去掉图像仅在平均22.8%的解码步骤改变被解掩码token。
  2. LOWN每步先做无图预测,与上次有图预测不一致时才处理图像,并以通过验证的token数决定解掩码数量。
  3. 作者报告在十个基准上保留LLaDA-V 99.6%的分数,平均解码FLOPs为35.3%,且可与视觉token剪枝组合、支持KV缓存。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.AI 原文arxiv.org · 在新窗口打开