论文给出高效计算MDSD最优接受率的方法并量化现有算法差距。
资讯摘要
论文针对多草稿推测解码(MDSD),讨论最优传输问题的对偶形式,提出可高效计算最优接受率的方法,并首次在数千词表规模下测量MDSD效率的理论上界,量化现有验证算法与该上界的差距。作者报告,草稿采样方式显著影响最优接受率,无放回采样优于有放回采样;现有验证算法在两种采样方式下均未达到理论上界。
要点速读
- 论文利用最优传输问题的对偶形式,高效计算MDSD的最优接受率。
- 首次在数千词表规模下测量MDSD效率的理论上界,并量化现有验证算法与上界的差距。
- 作者报告无放回采样优于有放回采样,且现有验证算法在两种采样方式下均未达到理论上界。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/5 08:00:38(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。