CopyLoop：利用上下文复制与浅层筛选加速循环Transformer解码

免训练解码算法 CopyLoop 加速循环 Transformer 生成。

资讯摘要

论文提出 CopyLoop，一种免训练解码算法，用于加速循环 Transformer 的生成。它从重复上下文中提出多 token 后缀，并在浅层循环深度提前筛选错误分支，同时让后续块与前面块的全深度验证并行推进。作者在 Ouro、Raven、Huginn 六个检查点上测试代码生成与多步数学推理，报告 Base 模型解码加速 2.98x–10.70x，Thinking 模型为 2.74x–3.52x。

要点速读

1. CopyLoop 免训练，结合上下文复制提议、浅层筛选与连续循环调度。
2. 作者在 Ouro、Raven、Huginn 六个检查点上评估代码生成和多步数学推理。
3. 作者报告 Base 模型加速 2.98x–10.70x，Thinking 模型 2.74x–3.52x，并称在长生成与可复用上下文下加速更明显。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。