基于查询的子模数据选择方法 QSGS 用于指令微调

QSGS 在 0.5% 数据预算下匹配或超过全量微调表现。

资讯摘要

论文提出 QSGS，将定向指令数据选择建模为梯度相似图上的子模图割：模块化相关性项拉近目标任务，成对分散惩罚抑制子集内冗余，并加入梯度引导合成步骤填补覆盖缺口。作者报告在 MMLU、BBH、TydiQA 上，Llama-2、Llama-3、Mistral 的实验中，Mistral-7B 在 0.5% 预算下达到或超过全量数据表现，且预算越紧收益越明显。

要点速读

1. QSGS 用梯度相似图上的子模图割做定向选择，兼顾目标相关性与子集内冗余抑制。
2. 引入梯度引导合成，通过残差子空间分析识别覆盖不足的目标方向并生成合成样本。
3. 作者报告在 MMLU、BBH、TydiQA 上跨 Llama-2、Llama-3、Mistral 优于最强基线，Mistral-7B 在 0.5% 预算下匹配或超过全量数据。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/5 08:00:38（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。