回到最新动态
交叉发布 / THE SIGNAL

V-LUMEN:面向视觉语言模型的视觉查找记忆

V-LUMEN: Visual Lookup Memory for Embedding Scaling in Vision-Language Models

重要性 5.5 AI 辅助整理

论文提出视觉查找记忆 V-LUMEN,以存储扩展 VLM 容量。

资讯摘要

论文提出 V-LUMEN,将嵌入级查找记忆扩展到视觉语言模型。它用冻结码本离散化视觉特征,通过空间聚合哈希构建空间感知记忆键,并以文本条件相关性信号调制;检索为非参数化,结果经门控残差路径融合进主干。作者报告在五个推理密集基准上提升冻结的 Qwen3-VL-2B,并零样本迁移到三组图像不相交的基准;在相同参数预算下,把部分 LoRA 或 MoE 容量移入 V-LUMEN 仍保持两个主干的准确率。

要点速读

  1. V-LUMEN 用冻结码本离散化视觉特征,并以空间聚合哈希构建记忆键、用文本条件信号调制。
  2. 作者报告在五个推理密集基准上提升冻结的 Qwen3-VL-2B,并零样本迁移到三个图像不相交的基准。
  3. 在匹配参数预算下,将部分 LoRA 或 MoE 容量移入 V-LUMEN 仍保持两个主干的准确率;查找成本与表大小无关且仅在 prefill 发生一次。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.CL 原文arxiv.org · 在新窗口打开