真值探针检测欺骗性非虚假陈述存在明显盲区
资讯摘要
论文挑战将欺骗等同于说谎的假设，构建了基于语言理论的人工编写“欺骗性非虚假陈述”数据集。作者在六个不同规模与系列的开源LLM上测试，发现部分模型能在强制选择任务中选出这类陈述；在标准真假数据集上训练的真值探针检测虚假输出表现良好，但检测欺骗性非虚假陈述时明显变差。作者还尝试在对话语境中训练欺骗探针或加入误导性非虚假陈述，以提升检测率。
要点速读
- 论文提出“欺骗性非虚假陈述”数据集，并称部分开源模型可在强制选择任务中选出此类陈述
- 作者报告：标准真假数据训练的真值探针检测虚假输出较好，但对欺骗性非虚假陈述检测显著更差
- 论文探索在对话语境训练欺骗探针、或在训练中加入误导性非虚假陈述以改善检测
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/4 08:00:28（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。