SecPO：面向提示注入安全的有原则对抗训练

SecPO 损失加对抗训练显著降低提示注入攻击成功率

资讯摘要

论文指出，现有防御较好的 Meta-SecAlign 采用 DPO 损失，在自适应提示注入下攻击成功率仍接近 100%，原因之一是 DPO 将模型锚定在不安全的参考模型上。作者提出 SecPO 损失，并搭建高效对抗训练流程合成强注入样本。作者报告，在三种自适应攻击下攻击成功率较 Meta-SecAlign 降低 1.5–14.5 倍，SecPO 损失再降 2.4–4.6 倍；AgentDojo 场景中为 8.8% 对 78.8%，且九项基准的良性效用无明显下降。

要点速读

1. 论文称 Meta-SecAlign 在自适应提示注入下攻击成功率接近 100%，DPO 锚定不安全的参考模型是原因之一
2. 作者提出 SecPO 损失，并用对抗训练流程合成强注入输入（best@240）
3. 作者报告三种自适应攻击下攻击成功率较 Meta-SecAlign 降低 1.5–14.5 倍，SecPO 损失再降 2.4–4.6 倍；AgentDojo 为 8.8% 对 78.8%

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/3 08:00:27（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。