论文发现智能体记忆会形成自我强化的隐私泄漏循环。
资讯摘要
论文研究LLM智能体持久记忆如何影响用户后续披露。在多轮模拟中，带24项个人属性的模拟用户与客服智能体对话，智能体是否调用记忆分两种设置。四种客服模型下，记忆提升回复质量，也提高从完整记录中正确推断属性值的比例，且随会话轮次扩大。作者将其归因于非对抗性协助中的循环：记忆条件下的回复以预设方式带出旧属性值，用户确认或不纠正，使线索与智能体猜测被记录为属性值。
要点速读
- 四种客服模型中，调用记忆均提升回复质量，同时提高从累积记录正确推断属性值的比例，差距随会话增加。
- 作者报告该循环源于普通协助：记忆条件下的回复以预设方式带出先前属性值，用户确认或不纠正后被记录。
- 指令智能体不陈述或预设属性可将泄漏降至接近无记忆水平并保留大部分质量收益；过滤或匿名化用户话语或存储内容则损失较多收益。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/24 08:00:37（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。