BLEURT 自动标注误分类率约 47%,远高于 QGen-9B 的 12.86%。
资讯摘要
论文关注大语言模型幻觉检测中真值标签的可靠性问题。作者指出,近期研究常用 BLEURT 等相似度指标自动构建标签,但 BLEURT 以英语监督为主、分数无界,且本质是相似度而非事实性度量。论文用 15 种自动监督评判器、7 个幻觉检测基线、2 个生成模型、2 个问答数据集和 5 种语言开展实验,发现检测器性能随评判器选择大幅波动;人工验证显示 QGen-9B 总体误分类率最低,为 12.86%,BLEURT 与 BLEURT-n 分别为 47.23% 和 47.32%。
要点速读
- 论文用 15 种自动监督评判器、7 个检测基线、2 个生成模型、2 个问答数据集和 5 种语言进行实验,检测器性能随评判器选择变化明显。
- 人工验证中 QGen-9B 总体误分类率最低,为 12.86%;BLEURT 和 BLEURT-n 分别为 47.23% 和 47.32%。
- 作者认为基于相似度的自动标注存在局限,需要更能反映语义与事实正确性的评判方法。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/5 08:00:38(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。