论文主张先检测输入歧义,再决定是否消歧。
资讯摘要
论文指出LLM常把歧义输入当作单一含义作答,而现有输入不确定性方法依赖LLM生成改写或澄清,可能在测量前就已消歧。作者提出保持标签的扰动框架,并实现黑盒规则扰动库与白盒重要性引导两种检测器。在开放域、对话与视觉问答四个数据集上,方法优于输出侧不确定性与LLM改写扰动基线,代码已开源。
要点速读
- 论文提出保持标签的扰动框架用于输入歧义检测,扰动需贴近原输入且不改变标签。
- 实例化两种检测器:黑盒规则扰动库,以及利用模型内部信号的白盒重要性引导方法。
- 在开放域、对话、视觉问答四个数据集上,方法优于输出侧不确定性基线与LLM改写扰动基线。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。