论文分析人类为何难辨基础模型幻觉与虚假信息

论文称 GPT-4 输出存在“流畅性陷阱”，人类难以区分。

资讯摘要

该论文提出 JudgeGPT 与 RogueGPT 双轴框架，将“真实性”与“归属”解耦，分析人类对基础模型生成内容的易感机制。作者基于五个模型（含 GPT-4、Llama-2）的 918 次评估，用结构因果模型提出可检验假设，发现政治倾向与检测表现关联微弱（r=-0.10），而“假新闻熟悉度”可能是中介因素（r=0.35），并报告 GPT-4 输出存在“流畅性陷阱”。

要点速读

1. 论文提出 JudgeGPT 与 RogueGPT 双轴框架，解耦真实性与归属两个维度。
2. 基于五个基础模型共 918 次评估，使用结构因果模型分析检测准确率。
3. 作者报告政治倾向与检测表现关联微弱（r=-0.10），假新闻熟悉度为候选中介（r=0.35）。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/3 08:00:27（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。