REMORY 用少量软记忆 token 补足摘要，接近全上下文效果。
资讯摘要
论文提出 REMORY，一种神经记忆网络，在文本摘要之外生成有界的软记忆 token，作为序列维度上的残差补充，帮助冻结的 LLM 逼近使用完整历史时的续写结果。在 SummHay 上，REMORY 在洞见覆盖率几乎不变的情况下提升来源归因，仅用 5.2% 的输入位置就接近全上下文联合得分；在长程智能体基准上，Qwen3.8-27B 与 GLM-5.3-Flash 均获得一致增益，并在 BrowseComp 和 Terminal-Bench 2.1 上明显减少重复工具输出与工具错误。
要点速读
- REMORY 在摘要后追加有界软记忆 token，形成序列维度的残差连接，辅助冻结 LLM 近似全历史续写。
- SummHay 上来源归因提升、洞见覆盖率近乎不变，仅用 5.2% 输入位置接近全上下文联合得分。
- Qwen3.8-27B 与 GLM-5.3-Flash 在长程智能体基准上取得一致增益，BrowseComp 与 Terminal-Bench 2.1 上重复工具输出和工具错误明显减少。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/23 08:00:11（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。