回到最新动态
交叉发布 / THE SIGNAL

论文:RLVR 的 pass@1 提升以 pass@k 为代价

There Is No Free Lunch in RLVR: Every pass@1 Gain Has a pass@k Price

重要性 6.0 AI 辅助整理

论文称 RLVR 的 pass@1 提升必然以 pass@k 下降为代价。

资讯摘要

一篇论文将 RLVR 建模为基础策略在跨提示共享策略上的指数倾斜,并证明在排他性专门化下,每次提升 pass@1 的更新都会严格降低某些提示的成功率,这一代价由 Stiemke 对偶给出精确条件。作者报告,当损失波及最难提示时会迫使 pass@k 交叉,交叉次数受每提示成功率偏移的符号变化数约束,该界紧且可退化为已知的单交叉结果。论文还称约束更新会沿 pass@1 与 pass@k 的精确前沿移动,完全消除交叉将损失全部 pass@1 收益。

要点速读

  1. 论文证明 RLVR 中提升 pass@1 的更新会严格降低部分提示的成功率,代价条件由 Stiemke 对偶刻画。
  2. 作者报告损失触及最难提示时出现 pass@k 交叉,交叉次数不超过每提示成功率偏移的符号变化数。
  3. 论文称完全消除交叉会失去全部 pass@1 增益,并给出可从评估日志读取该代价的诊断方法。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.AI 原文arxiv.org · 在新窗口打开