论文用嵌入空间分离微调提升 LLM 抗攻击安全性。
资讯摘要
论文提出 Embedding Space Separation（ES2）微调方法，通过增大有害与无害嵌入之间的距离来提升 LLM 安全性。作者观察到现有攻击通常把有害嵌入推向无害嵌入区域，而距离越大，攻击需造成的嵌入偏移越大，可能破坏语义。为避免单纯拉大距离损害模型能力，ES2 引入嵌入锚定损失和 KL 散度损失两项正则。作者报告 ES2 对多种攻击具有较好防御表现，通用能力与基线相当，但部分任务出现性能下降。
要点速读
- 论文提出 ES2 微调方法，核心是增大有害与无害嵌入之间的距离，使攻击需要更大的嵌入偏移并可能破坏语义。
- 为缓解能力损伤，ES2 使用嵌入锚定损失保持无害嵌入方向接近冻结基座模型，并用 KL 散度损失保持无害提示的输出分布接近基座模型。
- 作者报告 ES2 对多种攻击方法防御表现良好，通用能力与基线相当，但某些任务存在性能下降。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/3 08:00:27（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。