回到最新动态
研究论文 / THE SIGNAL

开放语言模型参加西班牙MIR考试的表现评估

Would an LLM Match into a Residency? Uncertainty, Reasoning and Image Use of Open Language Models on the Spanish MIR Examination

重要性 5.5 AI 辅助整理

开放模型答完MIR可进前600至3000名,但弃答不划算且图像未被有效利用。

资讯摘要

论文在西班牙MIR住院医师考试上评估四个8至27B参数的开放模型,按考试规则对八届共1552道题评分。三个较大模型若答完所有题,排名约在前600至3000名,仍有41至43个专科可选。弃答从不划算,即使最不自信的答案正确率也高于25%的盈亏平衡点。医学微调降低了过度自信但牺牲准确率,且未改善置信度对正误的区分能力;13%至38%的正确答案以临床不合理的理由排除干扰项,置信度未反映这一点;移除或替换所给图像后准确率不变。

要点速读

  1. 论文对四个8至27B开放模型按MIR考试规则评分1552道题,三个较大模型答完所有题可排前600至3000名,仍有41至43个专科可选。
  2. 弃答从不划算:即使最不自信的答案正确率也高于25%的盈亏平衡点。
  3. 医学微调降低过度自信但牺牲准确率,未改善置信度区分正误的能力;13%至38%的正确答案以临床不合理理由排除干扰项,移除或替换图像后准确率不变。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/24 08:00:37(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.CL 原文arxiv.org · 在新窗口打开