回到最新动态
论文更新 / THE SIGNAL

小语言模型生物医学数据转文本的后训练对齐研究

Exploring Post-Training Alignment of Small Language Models for Biomedical Data-to-Text Generation: A Case Study of Medication Leaflet

重要性 4.5 AI 辅助整理

论文比较四种对齐方法,ORPO与GRPO在语义指标上表现突出。

资讯摘要

论文比较了SFT、DPO、ORPO、GRPO四种后训练对齐方法在Qwen-2.5小模型上生成药品说明书文本的效果,并构建源自OpenFDA药品标签的FDALeaflets数据集,用于零样本跨监管泛化评估。作者报告部分对齐后的小模型在多项参考指标上超过GPT-5,但GPT-5在FDALeaflets上的幻觉与充分性评分更优;ORPO域内语义相似度达0.9752,GRPO在FDALeaflets上STS为0.9407,高于GPT-5的0.9295。

要点速读

  1. 论文对比SFT、DPO、ORPO、GRPO四种对齐方法,使用Qwen-2.5模型生成药品说明书。
  2. 作者构建FDALeaflets数据集,用于零样本跨监管泛化评估。
  3. 作者报告ORPO域内STS为0.9752,GRPO在FDALeaflets上STS为0.9407,高于GPT-5的0.9295;GPT-5在幻觉与充分性评分上更优。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/23 08:00:11(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.CL 原文arxiv.org · 在新窗口打开