论文提出视觉查找记忆 V-LUMEN,以存储扩展 VLM 容量。
资讯摘要
论文提出 V-LUMEN,将嵌入级查找记忆扩展到视觉语言模型。它用冻结码本离散化视觉特征,通过空间聚合哈希构建空间感知记忆键,并以文本条件相关性信号调制;检索为非参数化,结果经门控残差路径融合进主干。作者报告在五个推理密集基准上提升冻结的 Qwen3-VL-2B,并零样本迁移到三组图像不相交的基准;在相同参数预算下,把部分 LoRA 或 MoE 容量移入 V-LUMEN 仍保持两个主干的准确率。
要点速读
- V-LUMEN 用冻结码本离散化视觉特征,并以空间聚合哈希构建记忆键、用文本条件信号调制。
- 作者报告在五个推理密集基准上提升冻结的 Qwen3-VL-2B,并零样本迁移到三个图像不相交的基准。
- 在匹配参数预算下,将部分 LoRA 或 MoE 容量移入 V-LUMEN 仍保持两个主干的准确率;查找成本与表大小无关且仅在 prefill 发生一次。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。