QDRT用行为条件训练与多攻击者提升红队攻击的多样性与有效性。
资讯摘要
论文提出质量-多样性红队框架QDRT，针对以往红队方法仅用词频或句向量相似度衡量多样性、且单一攻击者模型覆盖有限的问题，采用行为条件训练实现目标驱动的多样性，并以开放式方式维护行为回放缓冲区，同时训练多个专门化攻击者覆盖不同攻击风格与风险类别。作者报告QDRT生成的攻击更多样、更有效，测试目标包括GPT-2、Llama-3、Gemma-2、Qwen2.5及GPT-4.1、GPT-5-Chat，代码已开源。
要点速读
- 论文提出QDRT框架，以行为条件训练和开放式行为回放缓冲区实现目标驱动的攻击多样性。
- 训练多个专门化攻击者，覆盖不同攻击风格与风险类别，替代单一攻击者模型。
- 作者报告在GPT-2、Llama-3、Gemma-2、Qwen2.5及GPT-4.1、GPT-5-Chat上攻击更多样且更有效，代码已公开。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/23 08:00:11（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。