FourSight：通过序列过滤与稀疏通道补偿实现稳定的 FP4 强化学习后训练

论文提出针对 FP4 强化学习后训练的序列过滤与稀疏通道补偿方案。

资讯摘要

论文关注将 NVFP4 权重与激活量化（W4A4）引入强化学习后训练时出现的 rollout 质量下降与跨引擎训练-推理不匹配（TIM）问题。作者指出失配集中在少数离群序列，量化误差集中在少数高方差激活通道，据此提出 FourSight：TIM 感知的序列过滤剔除漂移轨迹，稀疏精度补偿仅将高方差通道保留为 BF16，并设计融合 SpliceGEMM 内核。作者报告其保持接近 BF16 的精度，step-to-accuracy 提升 1.76–2.60 倍。

要点速读

1. 论文称 NVFP4 引入 RL 后训练会降低 rollout 质量并放大跨引擎训练-推理不匹配（TIM）。
2. FourSight 采用 TIM 感知序列过滤与仅保留高方差通道为 BF16 的稀疏精度补偿。
3. 作者报告在多种模型与引擎上保持接近 BF16 精度，step-to-accuracy 提升 1.76–2.60 倍，FP4 步时开销在 2.3% 以内（至 120B 规模）。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/5 08:00:38（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。