回到最新动态
论文更新 / THE SIGNAL

为开放式强化学习设计反馈而非仅奖励

Design the Feedback, Not Just the Reward: Environments for Open-Ended Reinforcement Learning

重要性 5.5 AI 辅助整理

论文用评分量表与分层奖励把开放式任务反馈转为 token 级训练信号

资讯摘要

论文提出一种面向开放式任务的强化学习框架,训练环境结合人类领域知识与模型推理:以评分量表(rubrics)锚定任务意图,用分层奖励区分复杂输出,并将失败诊断对应到输出区域,进而指导 GRPO 目标的 token 级权重。作者在交互式 Web 应用生成任务上实例化该框架,报告 MiniAppBench 平均通过率 41.25%、ArtifactsBench 76.19%,消融实验显示各组件均有贡献。

要点速读

  1. 框架将人类领域知识编码为评分量表,用于锚定评估与任务意图
  2. 模型推理结合分层奖励,把诊断出的失败关联到可能的输出区域,并转化为 GRPO 的 token 级权重
  3. 作者报告在 MiniAppBench 平均通过率 41.25%、ArtifactsBench 76.19%,消融实验与分布外评估支持各组件作用

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.AI 原文arxiv.org · 在新窗口打开