医疗LLM智能体在冲突证据下漏报必要升级,规则控制器泛化受限。
资讯摘要
论文提出一个面向医疗工作流智能体的情景级评测协议,包含400个合成情景,考察模型在证据缺失、过时、冲突或延迟时选择回答、请求澄清、弃答或升级的能力。作者报告,五个1.7B至9.7B开源权重配置在干净输入下决策准确率达0.97,但在不确定性提示下漏掉32%至97%的必要升级;9.7B配置在冲突下准确率降至0.78。工作流感知控制器可改善效用,但词法压力测试显示规则检测器对未见改写的召回从1.00降至0.00。
要点速读
- 评测含400个合成医疗工作流情景,参考动作为单一作者依据研究政策标注,非临床医生裁定。
- 五个开源权重配置干净准确率0.97,但漏报必要升级比例达32%至97%;9.7B配置冲突下准确率降至0.78。
- 工作流感知控制器将漏报升级降至0.12至0.24,但30概念词法压力测试下规则检测器召回从1.00降至0.00。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/4 08:00:28(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。