Lightning Weave：通过能力组合提升推理模型精度-效率前沿

论文用能力组合后训练同时提升推理准确率与 token 效率。

资讯摘要

论文提出 Lightning Weave 后训练框架，通过 on-policy 蒸馏将独立后训练模型在精度与效率上的能力组合进单一学生模型：以各专家相对后训练前模型的策略偏移表示能力，在共享学生 token 状态上组合对齐的对数比偏移，并用 Tilted-Target DOPD 转为稳定学习目标。作者报告在 Qwen3.5-4B 上 HMMT 2025 准确率由 59.2% 升至 64.0%、响应 token 减少 10.7%，LiveCodeBench v5 由 41.7% 升至 54.2%、token 减少 9.6%。

要点速读

1. 框架通过 on-policy 蒸馏提取并组合独立后训练模型的能力，每个能力以相对后训练前模型的策略偏移表示。
2. 在共享学生 token 状态上组合对齐的对数比偏移，并用 Tilted-Target DOPD 生成稳定学习目标；每个锚点对只对缓存轨迹打分一次，训练时无需同时部署多个锚点模型。
3. 作者报告 Qwen3.5-4B 上 HMMT 2025 准确率 59.2%→64.0%（token 少 10.7%），LiveCodeBench v5 41.7%→54.2%（token 少 9.6%），调整锚点信号强度可得到精度-效率 Pareto 前沿；代码已开源。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。