回到最新动态
论文更新 / THE SIGNAL

用因果关系与注意力机制提升RAG检索精度

From Association to Causation: Improving Retrieval Precision of Retrieval-Augmented Generation via Causal Relations and an Attention Mechanism

重要性 5.0 AI 辅助整理

论文用因果图与注意力机制改进RAG终端检索精度

资讯摘要

论文指出,RAG终端检索阶段依赖稠密向量相似度(可选加精排),常返回与查询共享关键词却不含所需信息的文档,且知识库越大越明显。作者认为相似度只刻画关联关系,而真正相关的文档与查询存在因果关系。论文基于Reichenbach共同因原则构建因果图,将查询与文档共享的关键词视为潜在共同因A,文档其余关键词视为连接理想输出的潜在集B,并引入注意力机制改进检索。

要点速读

  1. 论文将RAG终端检索的失败归因于相似度只捕捉关联关系,而非因果关系
  2. 作者用基于Reichenbach共同因原则的因果图建模检索阶段,区分共享关键词A与文档残余关键词B
  3. 论文提出结合注意力机制的方法,并称在完全本地测试环境中验证了可部署性

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/3 08:00:27(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.CL 原文arxiv.org · 在新窗口打开