论文称MTP与替代分词可突破图搜索任务的扩展瓶颈。
资讯摘要
论文研究语言模型能否在未见图上生成起点到终点的最短路径，并指出模型随图规模增大而失败有两个原因：监督信号与分词方式。作者从理论上建立并实验验证多Token预测（MTP）的有效性，称其收益与图拓扑无关；同时引入替代分词，并表明两个原因相互正交。论文称，结合这两种方法突破了此前工作中的扩展瓶颈，能在远超以往限制的规模上稳定学习该任务。
要点速读
- 论文将模型在大图上学习最短路径失败归因于监督信号和分词两个原因。
- 作者从理论和实验两方面说明多Token预测（MTP）有效，且收益与图拓扑无关。
- 论文引入替代分词，称其与MTP的作用相互正交，并报告在远超此前限制的规模上稳定学习该任务。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/24 08:00:37（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。