论文提出首个面向多智能体系统的强化学习黑盒红队框架 ReMAS。
资讯摘要
论文指出，以往针对单个智能体的黑盒红队攻击在多智能体系统（MAS）中效果明显下降，因为多个子智能体未必直接与用户交互。作者提出 ReMAS，称其为首个面向 MAS 的强化学习红队框架，通过微调攻击者 LLM 生成用于系统提示词提取的对抗提示。该框架分两步：重写阶段优化基础攻击提示，模板生成阶段构造攻击模板以提高调用特定子智能体的概率。作者报告实验显示攻击成功率较现有黑盒方法显著提升，并可跨后端 LLM 与 MAS 结构迁移。
要点速读
- 论文发现现有单智能体黑盒红队方法在 MAS 中效果远不如预期。
- ReMAS 通过重写与模板生成两阶段微调攻击者 LLM，目标是提取子智能体系统提示词。
- 作者报告攻击成功率显著提升，并具备跨后端 LLM 和 MAS 结构的迁移性。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/23 08:00:11（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。