回到最新动态
论文更新 / THE SIGNAL

轻量概率基线可媲美LLM诊断表现

Counting Clues: A Lightweight Probabilistic Baseline Can Match an LLM

重要性 5.5 AI 辅助整理

轻量概率基线在MedQA诊断题上可匹配对应LLM。

资讯摘要

论文研究MedQA中“最可能诊断”类问题,提出Frequency-Based Probabilistic Ranker(FBPR),用平滑朴素贝叶斯基于大规模语料的概念—诊断共现统计为选项打分。作者报告,当共现统计来自OLMo预训练语料Dolma和LLaMA预训练数据配方的开源复现RedPajama时,FBPR表现与对应LLM相当;LLM直接推理与FBPR正确回答的题目子集重叠仅略高于随机,二者互补,简单混合方法可带来明显增益。

要点速读

  1. 论文提出FBPR,用平滑朴素贝叶斯对概念—诊断共现统计打分,属轻量概率基线。
  2. 作者报告在Dolma和RedPajama统计下,FBPR与对应LLM在MedQA诊断题上表现相当。
  3. LLM与FBPR正确题目重叠仅略高于随机,混合两者可获明显增益。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.CL 原文arxiv.org · 在新窗口打开