回到最新动态
交叉发布 / THE SIGNAL

LLM智能体记忆管理的鲁棒性研究

Accept Changes, Reject Attacks: Robust Memory Management for LLM Agents

重要性 5.0 AI 辅助整理

论文提出ECA指标与一次性微调方案提升智能体记忆鲁棒性。

资讯摘要

论文指出LLM智能体依赖长期记忆,记忆管理器可能因保留已过时事实或存入被注入内容而失效,前者为过时记忆,后者为记忆投毒;两者需要相反的写入决策,固定规则难以兼顾。作者提出证据条件准确率(ECA)衡量鲁棒性,并给出一次性微调方案,在三个骨干模型上提升各类别得分,总体ECA超过未调优管理器的两倍,但鲁棒性仍不完整。

要点速读

  1. 论文将记忆鲁棒性形式化为同时处理过时记忆与记忆投毒,且不损害其他输入的表现。
  2. 提出证据条件准确率(ECA),除答案外还检查管理器所选记录是否包含全部所需证据、已更新且无攻击。
  3. 作者报告一次性微调配方在三个骨干模型上提升所有类别得分,总体ECA超过未调优管理器两倍,但鲁棒性仍不完整。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/3 08:00:27(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.AI 原文arxiv.org · 在新窗口打开