回到最新动态
研究论文 / THE SIGNAL

用自身错误训练嵌入模型:多跳检索的在线策略方法

Retrieving from Your Own Mistakes: On-Policy Training of Embedding Models for Multi-Hop Retrieval-Augmented Generation

重要性 5.5 AI 辅助整理

论文用自身检索状态训练嵌入模型,提升多跳检索找全证据能力。

资讯摘要

论文关注链式嵌入检索器在多跳检索增强生成中的训练与测试分布差异:训练只用正确历史,测试时却要基于自身检索结果继续检索,到第三步约半数以上状态含错误段落,且这些错误会降低找回缺失金标段落的概率。作者提出在线策略状态训练,每轮用当前编码器为训练问题检索链,对包括自身错误在内的每个状态标注最早缺失的金标段落并屏蔽其余缺失段落,再与教师强制状态混合做对比学习。作者报告该检索器更常找全证据,并可零样本迁移到其构造的更难长链 HotpotQA 与 2WikiMultiHopQA 变体。

要点速读

  1. 论文指出链式嵌入检索器训练仅用金标历史,测试时基于自身检索结果,第三步起约半数以上状态含错误段落。
  2. 提出在线策略状态训练:每轮用当前编码器检索链,对每个到达状态标注最早缺失金标段落、屏蔽其余缺失段落,与教师强制状态混合做对比更新。
  3. 作者报告该方法更常检索到完整证据,并可无额外训练迁移到其构造的更难长链 HotpotQA 和 2WikiMultiHopQA 变体。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.AI 原文arxiv.org · 在新窗口打开