FlashNext-RL：Qwen3.8-Flash-Next 长程智能体强化学习系统优化研究

论文报告针对 Qwen3.8-Flash-Next 的 RL 训练优化显著提升吞吐。

资讯摘要

论文提出 FlashNext-RL，一个基于 prime-rl、用 vLLM 生成软件工程（SWE）rollout 的模型专用强化学习训练优化框架，目标是在单台 8xB200 节点上以 BF16 训练完整的 48 层 Qwen3.8-Flash-Next，并冻结前两层、n-gram 表、稀疏注意力索引器和多 token 预测头。作者报告，在全模型开发研究中，非填充训练吞吐从初始 32K 配置的约 395 tokens/s/GPU 提升到优化后 131K 配置的 4,438 tokens/s/GPU，硬件 matmul 吞吐从约 20 提升到 213 TFLOPs/GPU；配合三个推理节点，系统支持目标批次 1,024 条可训练 rollout、上下文上限 131,072 token 的在线 SWE RL 运行，第 5–15 步平均每轮迭代 22.4 分钟。

要点速读

1. 论文提出基于 prime-rl 的模型专用 RL 训练优化框架 FlashNext-RL，用 vLLM 做 SWE rollout 生成。
2. 作者报告全模型非填充训练吞吐从约 395 提升至 4,438 tokens/s/GPU，硬件 matmul 吞吐从约 20 提升至 213 TFLOPs/GPU。
3. 系统配合三个推理节点支持 1,024 条可训练 rollout、131,072 token 上下文的在线 SWE RL，第 5–15 步平均迭代 22.4 分钟。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/23 08:00:11（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。