回到最新动态
论文更新 / THE SIGNAL

LLM智能体长期记忆安全综述

A Survey on Long-Term Memory Security in LLM Agents: Attacks, Defenses, and Governance Across the Memory Lifecycle

重要性 5.5 AI 辅助整理

综述提出记忆生命周期框架与可验证记忆治理方案。

资讯摘要

论文针对LLM智能体可写、跨会话持久记忆带来的安全威胁,提出记忆生命周期框架,按六个阶段(写入、存储、检索、执行、共享与传播、遗忘与回滚)和四类安全目标(完整性、机密性、可用性、治理)梳理攻击、防御及跨阶段依赖,并据此提出可验证记忆治理(VMG)框架,包含五项架构原语,用于在声明的系统与威胁模型边界内实现可审计、可恢复的记忆控制。

要点速读

  1. 论文提出记忆生命周期框架,以六个生命周期阶段和四类安全目标两个维度组织攻击与防御。
  2. 作者指出持久记忆具有持久性、状态性和传播性,威胁格局不同于传统以输入为中心的安全问题。
  3. 论文提出可验证记忆治理(VMG)框架,含五项架构原语,主张将溯源、版本管理与策略感知保留机制同检索、执行防御结合。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/28 08:00:17(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.CL 原文arxiv.org · 在新窗口打开