LOWN按需处理图像,保留99.6%分数、用35.3%解码FLOPs。
资讯摘要
论文针对扩散视觉语言模型(DVLM)在每个去噪步骤都处理整幅图像的问题,提出解码方法LOWN。作者比较LLaDA-V在有图和无图下的预测,发现去掉图像仅在平均22.8%的步骤改变被解掩码的token,最低为7.9%。LOWN据此在每步先做无图预测,仅当与上次有图预测不一致时才处理图像,并用通过验证的token数决定该步解掩码数量。作者报告无需训练或调阈值,在十个基准上保留LLaDA-V 99.6%的分数,平均仅用35.3%的解码FLOPs。
要点速读
- 作者统计:在所研究基准上视觉token占输入的89-97%,去掉图像仅在平均22.8%的解码步骤改变被解掩码token。
- LOWN每步先做无图预测,与上次有图预测不一致时才处理图像,并以通过验证的token数决定解掩码数量。
- 作者报告在十个基准上保留LLaDA-V 99.6%的分数,平均解码FLOPs为35.3%,且可与视觉token剪枝组合、支持KV缓存。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。