Weaver 用轻量适配器从边缘分布建树，提升推测解码接受率。
资讯摘要
论文分析因子化草稿模型因独立性假设导致推测预算增大时接受率下降的问题，提出 Weaver——一种轻量自回归适配器，从因子化草稿器 top-K 边缘分布构建提案树，恢复候选 token 间的条件依赖且避免全词表投影。作者还针对 Gated Delta Net 层推导无回滚树验证算法并在 SGLang 实现 CUDA 内核，报告相对自回归解码 4.08 倍加速，比 DFlash 基线高 16.3%。
要点速读
- Weaver 从因子化草稿器的 top-K 边缘分布构建提案树，恢复候选 token 的条件依赖，避免全词表投影。
- 作者为 Gated Delta Net 层推导无回滚树验证算法，并在 SGLang 中实现优化 CUDA 内核。
- 论文报告相对自回归解码 4.08 倍加速，并比高度优化的 DFlash 基线高 16.3%。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/23 08:00:11（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。