回到最新动态
研究论文 / THE SIGNAL

先检测歧义再消歧:基于扰动的LLM输入歧义检测

Detect Before You Disambiguate: Perturbation-Based Input Ambiguity Detection in LLMs

重要性 5.0 AI 辅助整理

论文主张先检测输入歧义,再决定是否消歧。

资讯摘要

论文指出LLM常把歧义输入当作单一含义作答,而现有输入不确定性方法依赖LLM生成改写或澄清,可能在测量前就已消歧。作者提出保持标签的扰动框架,并实现黑盒规则扰动库与白盒重要性引导两种检测器。在开放域、对话与视觉问答四个数据集上,方法优于输出侧不确定性与LLM改写扰动基线,代码已开源。

要点速读

  1. 论文提出保持标签的扰动框架用于输入歧义检测,扰动需贴近原输入且不改变标签。
  2. 实例化两种检测器:黑盒规则扰动库,以及利用模型内部信号的白盒重要性引导方法。
  3. 在开放域、对话、视觉问答四个数据集上,方法优于输出侧不确定性基线与LLM改写扰动基线。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.CL 原文arxiv.org · 在新窗口打开