领域专用大模型提升临床试验结果预测

论文报告 BioBERT 与 BioMistral 在试验结果预测的 AUC 上优于 HINT。

资讯摘要

论文在 TOP 基准（12,477 项试验）上评估 BioBERT（108M）与 BioMistral（7B）用于分阶段试验结果预测，将每项试验表示为 ClinicalTrials.gov 十个字段构成的文本，并比较微调与冻结模型加轻量分类器的 probing。作者报告四种变体在留出测试集上的 ROC-AUC（0.613–0.772）和 PR-AUC（0.649–0.901）均高于已发表的 HINT 结果，PR-AUC 相对提升 10–20%；F1 差异小且方向不一，包括 HINT 在内没有模型明显超过“全部预测成功”的简单分类器。

要点速读

1. 论文在 TOP 基准 12,477 项试验上比较 BioBERT 与 BioMistral 的微调和 probing 两种用法。
2. 作者报告四种语言模型变体的 ROC-AUC 为 0.613–0.772、PR-AUC 为 0.649–0.901，均高于已发表 HINT 结果，PR-AUC 相对提升 10–20%。
3. F1 差异小且方向不一，没有模型明显超过全部预测成功的简单分类器；多数变体间差异低于 0.03 且未做显著性检验。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/3 08:00:27（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。