共享智能体需显式用户/任务边界,而非仅靠输入过滤。
资讯摘要
论文指出,多用户共享语言智能体在交错消息与持久上下文中存在用户-任务边界问题,并提出跨用户投毒(CUP):攻击者向共享上下文注入消息,使智能体在服务正常用户时执行越权操作。作者在 Continua 和 ElizaOS 上验证该攻击,并推出 MURMUR 评测框架,覆盖 Slack、Workspace、Airline 场景。结果显示 CUP 攻击成功率高、可跨后续交互持续,且强于匹配的提示注入攻击;上下文摘要不足以防御,任务聚类与来源提示可降低非自适应传播。
要点速读
- 论文提出跨用户投毒(CUP),利用共享上下文让智能体在服务其他用户时执行越权指令。
- 作者在 Continua 与 ElizaOS 上验证攻击,并发布 MURMUR 多用户并发交互评测框架。
- 在 Slack、Workspace、Airline 场景中,CUP 攻击成功率高于匹配的提示注入,且能跨交互持续;任务聚类与来源提示可缓解非自适应传播。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。