研究：评分细则难以识别医疗AI幻觉

评分细则常漏判医疗大模型的临床相关幻觉

资讯摘要

论文研究评分细则（rubric）能否反映医疗大模型的临床相关幻觉。作者基于MedHallu发现更具体的细则更能区分正确与幻觉回答，并构建医疗幻觉分类与经临床医生验证的错误注入流程，生成配对回答。在HealthBench、HealthBench Professional和LiveMedBench上，临床相关幻觉常被细则漏判、分数不变；细则在显式核查事实时更有效，对未预料的额外错误较弱。初步的检索式事实核查可找回部分盲区错误。

要点速读

1. 论文在MedHallu受控实验中发现，细则越具体，越能区分正确回答与幻觉回答。
2. 作者构建医疗幻觉类型分类和经临床医生验证的错误注入流程，生成匹配的正确与注入错误回答。
3. 在HealthBench、HealthBench Professional和LiveMedBench上，临床相关幻觉常被细则漏判，评分往往不变；初步检索式事实核查可找回部分盲区错误。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。