RLVR 提升 IQA 评分,但更好评分不等于更依赖显式推理。
资讯摘要
论文研究可验证奖励强化学习(RLVR)在基于推理的图像质量评估(IQA)中的作用。作者通过采样感知评估、受控推理干预和捷径实验发现,RL 训练模型在大预算 max_g@k 下优于基座模型,但超出平均水平的提升集中在分布内;RLVR 生成的推理链移植后可提升基座模型表现,且固定推理链时评分也有改善。然而推理时评分对推理链的依赖下降,7B 比 32B 更明显;引导思考 token 中的质量方向影响甚微。RL 还可利用与 MOS 相关的文本线索提高评分,可能虚高基准成绩。
要点速读
- RL 训练模型在大预算 max_g@k 评估下优于基座模型,但超出平均的提升集中在分布内。
- RLVR 生成的推理链移植到基座模型可提升表现,固定推理链时评分也有改善。
- 推理时评分对推理链依赖下降(7B 比 32B 更明显),RL 可利用与 MOS 相关的文本线索提高评分。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/28 08:00:17(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。