论文用可复用中间检查点与自适应回滚范围提升GUI智能体RL效率。
资讯摘要
论文提出一种两阶段自适应训练框架,用于提升多步GUI智能体强化学习效率。作者指出,轨迹级GRPO需反复从任务根节点完整回滚,且任务级奖励对中间决策的监督较粗。该方法先从成功专家轨迹构建可复用中间检查点,用动作分歧度选出信息量高的枢轴点;阶段一在枢轴点做单步RL,阶段二按任务进度逐步扩展Local、Suffix、Root训练范围。作者报告在MobileGym和CUA-Gym-Hub上环境交互减少56-61%,任务表现提升。
要点速读
- 论文针对轨迹级GRPO反复完整回滚、任务级奖励监督粗糙的问题,提出两阶段自适应训练框架。
- 方法用动作分歧度从成功专家轨迹中选取信息量高的中间枢轴点,阶段一在枢轴点做单步RL,阶段二按任务进度扩展Local、Suffix、Root训练。
- 作者报告在MobileGym和CUA-Gym-Hub上,相比Vanilla GRPO环境交互减少56-61%,任务表现提升。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。