论文从梯度与表征角度解释过度拒答并提出GOAL框架。
资讯摘要
论文从表征与优化角度分析安全对齐大模型的过度拒答问题，观察到有害样本与过度拒答样本的表征在中间层可区分、在深层趋于重叠，且有害样本梯度高度类内相似并集中于低秩子空间，与拒答目标梯度耦合更强。作者据此提出GOAL框架，结合梯度正交化与对比学习，论文报告其在多模型多基准上缓解过度拒答并保持安全性与通用能力。
要点速读
- 论文观察到有害样本与过度拒答样本的表征在部分中间层可区分，但在更深层逐渐重叠。
- 论文发现有害样本梯度类内相似度高、集中于低秩子空间，且在过度拒答提示上更偏向拒答目标梯度。
- 论文提出GOAL框架，用梯度正交化与对比学习缓解过度拒答，作者报告在多模型多基准上有效。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。