回到最新动态
论文更新 / THE SIGNAL

上下文记忆虚拟化:面向LLM代理的DAG状态管理与无损裁剪

Contextual Memory Virtualisation: DAG-Based State Management and Structurally Lossless Trimming for LLM Agents

重要性 5.0 AI 辅助整理

CMV用DAG管理LLM会话状态,无损裁剪平均省20%token。

资讯摘要

论文提出上下文记忆虚拟化(CMV),把LLM会话中累积的理解视为可版本控制的状态,用有向无环图(DAG)建模会话历史,并提供快照、分支、裁剪原语以支持并行会话间的上下文复用。作者还提出三遍结构无损裁剪算法,逐字保留用户消息与助手回复,仅剥离工具原始输出、base64图像和元数据等机械冗余。在76个真实编码会话的单用户案例研究中,token数平均减少20%,最高86%,混合工具使用会话平均减少39%。

要点速读

  1. CMV将会话历史建模为DAG,定义快照、分支、裁剪原语,支持跨独立并行会话复用上下文。
  2. 三遍结构无损裁剪逐字保留用户消息和助手回复,仅去除工具输出、base64图像、元数据等冗余。
  3. 76个真实编码会话的案例研究显示token平均减少20%、最高86%,混合工具会话平均减少39%,在提示缓存下约10轮达到盈亏平衡。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/27 08:00:28(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.AI 原文arxiv.org · 在新窗口打开