论文提出幻觉应区分语义错觉、虚构与表达不确定性

论文提出按语义错觉、虚构与不确定性区分LLM幻觉。

资讯摘要

一篇论文主张对LLM幻觉采用严格定义：幻觉应是自信的错误，需与表达不确定性（UNK）区分；再按“语义等价提示能否恢复正确答案”的再诱导测试，将错误分为知识可及但应用不一致的语义错觉（SI）和知识可能缺失、需外部知识或重训的虚构（CF）。作者按此分类重评14种近期幻觉方法，发现检测方法更常标记UNK，缓解方法对SI远比对CF有效，CF的潜在信号比输出层信号更有信息量；对近期论文的审查显示多数混淆了这些类别，建议分别报告CF、SI与UNK。

要点速读

1. 论文主张幻觉应为自信的错误，与表达不确定性（UNK）分开，认为二者混淆会妨碍研究。
2. 论文用再诱导测试区分语义错觉（SI）与虚构（CF）：前者知识可及但应用不一致，后者知识可能缺失或不可及。
3. 按该分类重评14种近期幻觉方法：检测方法更常标记UNK；缓解方法对SI远比对CF有效；CF的潜在信号比输出层信号更有信息量。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。