社交媒体内容与第三方技能市场构成AI代理记忆的新攻击面。
资讯摘要
论文提出SBIA，一种隐蔽偏见注入攻击：攻击者在热门SNS帖子下发布伪装成普通观点的评论，并分发一个SNS摘要技能，其筛选规则会把这些评论写入代理持久记忆，从而影响后续行为。作者报告在BiasBench的7000条评论和OpenClaw上的7个LLM上，各模型攻击成功率至少96%，GPT-5.5在四项下游任务中达91%，且该技能通过全部8个恶意技能扫描器及ClawHub官方扫描流程。作者另提出记忆边界防御，在5.6%误报率下检出82.1%的注入条目。
要点速读
- 攻击利用代理通过技能筛选外部内容并写入记忆的路径，评论伪装成普通观点而非指令，并加水印供技能识别、按主题锚定以便后续召回。
- 在BiasBench的7000条构造评论与OpenClaw上的7个LLM上，攻击成功率至少96%，GPT-5.5在四项下游任务中为91%。
- 该技能通过全部8个被评估的恶意技能扫描器及ClawHub官方扫描流程；作者提出的记忆边界防御在5.6%误报率下检出82.1%注入条目。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/5 08:00:38（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。