回到最新动态
论文更新 / THE SIGNAL

多用户协作语言智能体的跨用户投毒问题

Cross-User Poisoning: User-Task Boundary Failures in Multi-User Collaborative Language Agents

重要性 6.5 AI 辅助整理

共享智能体需显式用户/任务边界,而非仅靠输入过滤。

资讯摘要

论文指出,多用户共享语言智能体在交错消息与持久上下文中存在用户-任务边界问题,并提出跨用户投毒(CUP):攻击者向共享上下文注入消息,使智能体在服务正常用户时执行越权操作。作者在 Continua 和 ElizaOS 上验证该攻击,并推出 MURMUR 评测框架,覆盖 Slack、Workspace、Airline 场景。结果显示 CUP 攻击成功率高、可跨后续交互持续,且强于匹配的提示注入攻击;上下文摘要不足以防御,任务聚类与来源提示可降低非自适应传播。

要点速读

  1. 论文提出跨用户投毒(CUP),利用共享上下文让智能体在服务其他用户时执行越权指令。
  2. 作者在 Continua 与 ElizaOS 上验证攻击,并发布 MURMUR 多用户并发交互评测框架。
  3. 在 Slack、Workspace、Airline 场景中,CUP 攻击成功率高于匹配的提示注入,且能跨交互持续;任务聚类与来源提示可缓解非自适应传播。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.CL 原文arxiv.org · 在新窗口打开