伪标签作 GRPO 奖励参考比作 SFT 目标更抗标签噪声。
资讯摘要
论文提出将伪标签用作 Group Relative Policy Optimization（GRPO）的奖励参考，而非监督微调（SFT）的目标，以降低教师模型错误被学生继承的风险。作者报告在银行领域，基于 Whisper 生成标签，GRPO 相对 SFT 取得 29.3% 至 56.2% 的相对 WER 改善，并在四种 Whisper 规模、四类教师模型、三个领域和四种语言上保持优势；SFT 几乎逐字复现教师错误，GRPO 仅传递 27%。
要点速读
- 论文将伪标签作为 GRPO 的奖励参考，而非 SFT 的逐 token 目标。
- 作者报告银行领域相对 WER 改善 29.3%–56.2%，并跨四种 Whisper 规模、四类教师、三个领域、四种语言成立。
- SFT 几乎 100% 复现教师错误，GRPO 仅传递 27%；作者用 rollout 统计解释原因。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/27 08:00:28（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。