回到最新动态
论文更新 / THE SIGNAL

多草稿推测解码的最优接受率研究

Towards Optimal Multi-draft Speculative Decoding

重要性 5.0 AI 辅助整理

论文给出高效计算MDSD最优接受率的方法并量化现有算法差距。

资讯摘要

论文针对多草稿推测解码(MDSD),讨论最优传输问题的对偶形式,提出可高效计算最优接受率的方法,并首次在数千词表规模下测量MDSD效率的理论上界,量化现有验证算法与该上界的差距。作者报告,草稿采样方式显著影响最优接受率,无放回采样优于有放回采样;现有验证算法在两种采样方式下均未达到理论上界。

要点速读

  1. 论文利用最优传输问题的对偶形式,高效计算MDSD的最优接受率。
  2. 首次在数千词表规模下测量MDSD效率的理论上界,并量化现有验证算法与上界的差距。
  3. 作者报告无放回采样优于有放回采样,且现有验证算法在两种采样方式下均未达到理论上界。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/5 08:00:38(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.CL 原文arxiv.org · 在新窗口打开