论文提出多视图 KG-RAG 框架 ParallaxRAG，按注意力头解耦推理跳数。
资讯摘要
论文指出，Transformer 注意力头在不同推理阶段会专门处理不同语义关系，形成与跳数对齐的接力模式，因此多跳推理本质上是多视图的；而现有基于知识图谱的检索增强生成（KG-RAG）把各跳压缩进单一表示空间，抑制了这种结构。作者提出 ParallaxRAG，将查询与知识图谱解耦到按注意力头对齐的语义空间，在多个头上保持关系多样性并约束弱相关路径，从而构建更干净的子图并引导逐跳推理。作者报告在 WebQSP、CWQ 上取得最优检索与问答表现，减少幻觉，并在 BioASQ 上展现泛化能力。
要点速读
- 论文发现 Transformer 注意力头会按推理阶段分工处理不同语义关系，形成与跳数对齐的接力模式。
- ParallaxRAG 将查询和知识图谱映射到按注意力头对齐的多视图语义空间，并约束弱相关路径以构建更干净的子图。
- 作者报告在 WebQSP、CWQ 上取得最优检索与问答结果，并泛化到生物医学 BioASQ 基准。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/28 08:00:17（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。