FreeDave 以草稿加自验证实现扩散大模型无损并行解码。
资讯摘要
论文提出 FreeDave，一种无需训练、无需额外模型的扩散大语言模型快速解码算法。它把未来 token 预测当作“免费草稿”，在后续前向传播中严格自验证，理论上可复现静态解码的完全一致序列，实现算法级无损加速。作者报告在数学推理与代码生成基准上，每模型前向生成 token 数最高提升 5.48 倍，每秒 token 数最高提升 3.94 倍，并称可避免启发式方法的任务性能退化。
要点速读
- FreeDave 将未来 token 预测视为“免费草稿”，在后续前向中自验证，无需训练或额外模型。
- 论文称其搜索到更短解码路径，保证复现静态解码的精确序列，属算法级无损加速。
- 作者报告数学推理与代码生成基准上 TPF 最高 5.48 倍、TPS 最高 3.94 倍，代码已开源。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/5 08:00:38（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。