监督检索器不只学相关性,也学到标注数据中的文档偏好。
资讯摘要
论文研究监督式双编码器检索器是否在训练中隐式学到与查询无关的文档级相关性先验。作者在冻结文档嵌入上训练简单分类器,并在多个IR基准上评估三种先进检索器,发现该先验可泛化到未见文档且跨模型一致,并伴随“可发现性差距”:先验较低的文档即使真正相关也更难被检索。该效应在监督稠密检索器中出现,在BM25中较弱且不一致。
要点速读
- 论文提出监督式神经检索器会编码文档级相关性先验,该先验可泛化到未见文档并在不同模型间保持一致。
- 作者报告存在可发现性差距:先验较低的文档即使真正相关,也系统性地更难被检索;该效应在BM25中较弱且不一致。
- 基于LLM的解释显示,被判定为相关的文档多为主流主题的全面、自包含摘要,而小众、碎片化或高度技术性内容常未被标注。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/4 08:00:28(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。