超越金标块的上下文嵌入模型

新上下文嵌入模型以蒸馏替代金标块标签，并配套两个新基准。

资讯摘要

论文提出 pplx-embed-v2-context 系列上下文嵌入模型，通过从查询感知的上下文压缩模型蒸馏分级块相关性来训练，无需金标块标签，训练目标与分块方式解耦。作者发布 9B 和 0.6B 两个规模、嵌入空间兼容的模型，并推出 Context-bench 与基于真实搜索查询的 Q2D-Chunk 两个基准，后者以公开排行榜形式发布。作者报告 9B 模型在两个基准和 ConTEB 上取得新的最优结果，其视觉检索能力继承自视觉语言基座模型，在 ViDoRe-V3 上表现领先且随图像分块更细而提升。

要点速读

1. 训练改为蒸馏查询感知上下文压缩模型的分级块相关性，不再依赖金标块标签。
2. 发布 9B 与 0.6B 两个规模、嵌入空间兼容的模型，并提出 Context-bench 和 Q2D-Chunk 基准。
3. 作者报告 9B 模型在两个新基准和 ConTEB 上达到新的最优，并在 ViDoRe-V3 上领先。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。