记忆投毒防御在良性流量下也有准确率与Token代价
资讯摘要
论文测量LLM智能体记忆投毒防御在无攻击良性流量下的代价。作者在LoCoMo一半数据上测试四种防御，固定记忆后端、检索、提示与评判，每项重复三次。三种写入时防御在良性流量上从未触发，未检出约±4点分辨率内的准确率损失，异常检测增加1.2% Token开销；读取时重排序器开销2.7%，在9.9%记忆决策上触发，对45%问题扣留记忆，核心准确率下降4.4点，方向在六次运行中一致。
要点速读
- 三种写入时防御（净化、来源检查、LLM异常检测）在良性流量上从未触发，未检出约±4点分辨率内的准确率损失，异常检测增加1.2% Token开销。
- 读取时重排序器Token开销2.7%，在9.9%记忆决策上触发，对45%问题扣留记忆，核心准确率下降4.4点（95% CI [-9.0, -0.05]；McNemar p=0.064）。
- 叠加四种防御使Token开销升至4.1%，但准确率代价未叠加；盲审50个被扣留样本中仅2个有内容依据。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/24 08:00:37（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。