论文提出DoseBench,测试LLM判断OTC药物能否再服一次。
资讯摘要
论文提出DoseBench,一个包含230道消费者风格对乙酰氨基酚和布洛芬剂量问题的基准,标注为YES、NO和AMBIGUOUS,用于评估LLM能否判断能否再服一次药。作者测试八个LLM,每题五次回答,整体准确率为44.8%至62.2%,模型对禁用剂量错误放行的比例为14.0%至60.5%。分析显示,增加提示会让模型更谨慎,提供药品事实可提升准确率,但可能使其忽略缺失信息。
要点速读
- DoseBench含230道对乙酰氨基酚和布洛芬剂量问题,人工标注YES、NO、AMBIGUOUS。
- 八个LLM整体准确率44.8%–62.2%,错误放行禁用剂量的比例为14.0%–60.5%。
- 提示模型检查剂量、时间和缺失信息会使其更谨慎;提供药品事实可提升准确率,但可能忽略缺失信息。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。