回到最新动态
交叉发布 / THE SIGNAL

重新审视GFlowNet训练:负强化动力学

Rethinking GFlowNet Training: Negative Reinforce Dynamics

重要性 5.0 AI 辅助整理

论文提出NRD方法,兼顾GFlowNet探索与正确性

资讯摘要

论文分析GFlowNet标准训练中半梯度更新将采样分布视为固定的问题,指出全梯度会以反探索方式降低观测误差,并将其与GFlowNet和解耦采样器之间的min-min动力学联系起来。作者据此提出Negative Reinforce Dynamics(NRD),通过绑定对抗博弈的参数恢复单一策略动态,在扩展探索的同时保持正确性。作者报告该方法在标准基准上收敛速度和探索效率均优于现有方法,且无需单独训练教师或辅助探索策略。

要点速读

  1. 论文指出GFlowNet标准训练的半梯度更新将采样分布视为固定,全梯度则存在反探索机制
  2. 作者将全梯度与GFlowNet和解耦采样器间的min-min动力学建立联系,据此提出NRD方法
  3. 作者报告NRD在标准基准上收敛速度和探索效率优于现有方法,无需单独教师或辅助探索策略

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.AI 原文arxiv.org · 在新窗口打开