论文提出让语言模型对提示措辞更鲁棒的方法

论文用梯度合并降低模型对提示措辞的逐样例方差。

资讯摘要

论文研究在指令微调阶段提升模型对提示措辞的鲁棒性。作者发现，把同一提示的多种改写混入训练时，各改写产生的梯度会相互干扰：57% 出现符号冲突，简单平均会损失约五分之一的梯度幅度。为此论文提出 Prompt-TIES 和 Prompt-DARE 两种梯度合并方法，并在两个模型家族、两种规模的四个模型上，与数据构造、一致性正则、对比对齐三类训练期方法比较。

要点速读

1. 论文报告提示措辞与具体样例的交互平均占逐样例方差的 54%，在 ANLI、WiC 等任务上超过 70%。
2. 作者提出 Prompt-TIES 与 Prompt-DARE，将模型/梯度合并中的干扰消解算子用于提示梯度。
3. 论文称梯度合并方法直接改善局部鲁棒性，在几乎不损失整体准确率的情况下，将全量微调模型的逐样例方差近乎减半；其他训练期方法提升原始性能，但未能可靠降低逐样例方差。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。