论文用局部遍历式检索在 MiniGrid 上以更少训练步达到 0.95 回报。
资讯摘要
论文提出将检索视为在地址空间中的持久局部遍历，把记忆内容与地址分离，用检索所揭示的信息定义效用、用几何决定可达成本，并据此设计带成本正则的索引目标。作者仅在 MiniGrid Memory 上测试最简单的固定几何实例：五 token 上下文下，持久局部遍历头在 0.59M 训练步后达到 0.95 平均回报，快于高斯绝对寻址的 0.94M 步和分类绝对寻址的 2M 步以上。论文未测试学习几何或重复检索，仅作为原理验证。
要点速读
- 论文将记忆内容与地址分离，效用由检索揭示的信息决定，几何只决定可达成本。
- 成本正则索引目标在局部邻域保留信息价值，并对每个本地可访问记忆计费，形成吸引与排斥压力。
- MiniGrid Memory 上五 token 上下文的固定几何实例：0.59M 步达 0.95 平均回报，高斯绝对寻址需 0.94M 步，分类绝对寻址超 2M 步。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。