Geo-FSRL 用最小化条件 KL 的几何准则选择少步流模型随机策略。
资讯摘要
论文提出 Geo-FSRL,针对少步流模型应用 GRPO 时随机策略选择缺乏准则的问题,以最小化条件 KL 散度为选择原则,在保持系数的各向同性高斯转移族内推导出唯一闭式最优解,并采用梯度尺度匹配得到策略梯度与 KL 权重。作者报告在 4 步设置下,图像与视频生成模型的最终奖励分数高于 Flow-GRPO 和 Flow-CPS,代码已公开。
要点速读
- 论文指出少步流模型单次去噪跨越较宽噪声范围,随机策略选择成为优化关键,现有保系数构造未给出选择准则。
- Geo-FSRL 在固定条件状态与时间步下选择使条件 KL 最小的可行策略,该准则化为最小化单一标量几何因子,并给出族内唯一闭式解。
- 作者报告在 4 步设置下图像与视频生成任务最终奖励分数超过 Flow-GRPO 与 Flow-CPS,训练沿用原始少步调度、推理保留确定性求解器。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/3 08:00:27(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。