预训练MLLM已含检索信息,仅文本优化可超越视频-文本监督。
资讯摘要
论文VidVec重新审视多模态大模型(MLLM)的视频-文本检索能力。作者发现,预训练MLLM的中间层嵌入配合校准的MLLM头,无需训练即可取得较强零样本检索表现;并提出一种仅用文本的轻量优化策略,以密集视频描述作为视频语义的文本替代、短摘要作为查询式视图,通过共享MLLM主干改进多模态对齐。作者报告该文本-only优化优于使用成对视频-文本监督的同类方法,并在常见视频-文本检索基准上达到state-of-the-art。
要点速读
- 预训练MLLM的中间层嵌入加校准MLLM头,无需训练即可实现较强零样本视频-文本检索。
- 提出无需成对多模态数据的轻量文本优化:用密集视频描述替代视频语义,用短摘要作查询式视图。
- 作者报告仅文本优化优于成对视频-文本监督训练,并在常见视频-文本检索基准上达到state-of-the-art。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/5 08:00:38(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。