EHRAdapt 仅训练0.1%–0.6%参数，把病历元组接入冻结 LLM。
资讯摘要
论文提出 EHRAdapt，一种将电子病历的（时间、模态、编码）元组直接映射到冻结语言模型嵌入空间的适配器，模态与时间间隔通过可学习嵌入和注意力偏置引入。针对临床词汇长尾问题，事件向量由冻结的本体生物医学嵌入经共享投影得到的语义先验，加上低秩事件残差构成。作者在约400万患者记录上对 OLMo2 1B、Llama3.2 1B、OLMo2 7B 三个冻结骨干做继续预训练，仅训练适配器（占总参数0.1%–0.6%）。
要点速读
- 适配器将病历元组直接映射进冻结 LLM 嵌入空间，避免序列化为文本带来的长度膨胀。
- 事件向量由语义先验与低秩证据残差相加构成，以应对罕见事件观测稀少。
- 作者报告完整适配器在各骨干的下一事件预测上优于所有消融，去除语义通路对罕见事件影响最大。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/23 08:00:11（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。