回到最新动态
交叉发布 / THE SIGNAL

知识冲突处理需先验而非固定规则

Don't Pick a Winner: Knowledge Conflicts Need a Prior, Not a Rule

重要性 5.5 AI 辅助整理

知识冲突需分别建模两源证据并引入上下文正确率先验。

资讯摘要

论文指出,检索增强语言模型在上下文与自身知识冲突时,现有方法用设计时固定的规则裁决,但任何固定规则都只在部分场景最优,且两源对称散度不含谁正确的信息。作者提出需分别保留各源证据与上下文正确率的先验,并在 GRACE 基准上构建笔记、校准置信度、双声读者与选择器系统;按真实先验设置时各混合比例均优于最佳基线,整体得分 45.3 与 35.0,基线为 29.4 与 27.5。

要点速读

  1. 论文论证固定规则在上下文可靠比例变化时会被最优策略击败,对称散度无法判断哪一源正确。
  2. 在 GRACE 基准上,四类基线仅在正确或错误上下文之一表现强,无法兼顾两者。
  3. 作者系统在 π 设为真实正确比例时各混合均超最佳基线,最高提升 26 点;ClashEval 上超 CK-PLUG 和 TCR 12 与 26 点。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.CL 原文arxiv.org · 在新窗口打开