回到最新动态
论文更新 / THE SIGNAL

DoseBench:评估LLM在OTC用药剂量问答中的决策能力

Can I Take Another Dose? DoseBench: Evaluating LLM Decision-Making in OTC Dosing QA

重要性 5.5 AI 辅助整理

论文提出DoseBench,测试LLM判断OTC药物能否再服一次。

资讯摘要

论文提出DoseBench,一个包含230道消费者风格对乙酰氨基酚和布洛芬剂量问题的基准,标注为YES、NO和AMBIGUOUS,用于评估LLM能否判断能否再服一次药。作者测试八个LLM,每题五次回答,整体准确率为44.8%至62.2%,模型对禁用剂量错误放行的比例为14.0%至60.5%。分析显示,增加提示会让模型更谨慎,提供药品事实可提升准确率,但可能使其忽略缺失信息。

要点速读

  1. DoseBench含230道对乙酰氨基酚和布洛芬剂量问题,人工标注YES、NO、AMBIGUOUS。
  2. 八个LLM整体准确率44.8%–62.2%,错误放行禁用剂量的比例为14.0%–60.5%。
  3. 提示模型检查剂量、时间和缺失信息会使其更谨慎;提供药品事实可提升准确率,但可能忽略缺失信息。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.CL 原文arxiv.org · 在新窗口打开