EXCISE：定位并切除医学问答中的干扰句

EXCISE 在推理时屏蔽隐藏状态标记为不一致的干扰句以提升医学问答准确率

资讯摘要

论文研究医学问答中无关句子对模型答案的影响，发现屏蔽对已知干扰句的注意力可恢复答案，而头掩码可能抑制正确答案；模型隐藏状态会将干扰句标记为与病例最不契合的句子。作者提出推理时方法 EXCISE，在不知哪句是干扰句时屏蔽对答案影响最大的句子，但仅当其隐藏状态显示与病例不一致时执行。在自建的 MedQA-TD 基准上，作者报告准确率提升 16.7–22.8 个百分点，无干扰同题上代价为 1.5–2.1 个百分点，并在 MedDistractQA、BiasMedQA 及思维链生成上有效。

要点速读

1. 屏蔽对已知干扰句的注意力可恢复答案，头掩码则可能抑制正确答案
2. 模型隐藏状态会把干扰句标为与病例最不契合的句子，即使模型仍跟随它
3. EXCISE 在 MedQA-TD 上报告提升 16.7–22.8 个百分点，无干扰同题代价 1.5–2.1 个百分点

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/28 08:00:17（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。