论文称 RLVR 的 pass@1 提升必然以 pass@k 下降为代价。
资讯摘要
一篇论文将 RLVR 建模为基础策略在跨提示共享策略上的指数倾斜,并证明在排他性专门化下,每次提升 pass@1 的更新都会严格降低某些提示的成功率,这一代价由 Stiemke 对偶给出精确条件。作者报告,当损失波及最难提示时会迫使 pass@k 交叉,交叉次数受每提示成功率偏移的符号变化数约束,该界紧且可退化为已知的单交叉结果。论文还称约束更新会沿 pass@1 与 pass@k 的精确前沿移动,完全消除交叉将损失全部 pass@1 收益。
要点速读
- 论文证明 RLVR 中提升 pass@1 的更新会严格降低部分提示的成功率,代价条件由 Stiemke 对偶刻画。
- 作者报告损失触及最难提示时出现 pass@k 交叉,交叉次数不超过每提示成功率偏移的符号变化数。
- 论文称完全消除交叉会失去全部 pass@1 增益,并给出可从评估日志读取该代价的诊断方法。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。