论文提出RLEC,首次成功训练单个LLM按显式置信目标作答或弃答。
资讯摘要
论文研究显式置信目标:用户在提示中指定目标p,模型自行决定作答或弃答,使已作答问题的准确率至少达到p。作者指出,此前单模型难以区分不同p,原因在于区分不同p的奖励信号在优化中丢失,且误差惩罚在p趋近1时无界增长。论文提出RLEC,保留区分置信目标的学习信号,引入稳定的奖励族并配合奖励调度。作者报告,这是首次成功训练单个LLM实现显式置信目标控制,在多项基准和模型规模上基本保持通用能力,并获得有竞争力的校准表现,且无需外部决策系统或训练后阈值校准。
要点速读
- 论文指出,既有方法使用固定误差惩罚,无法在推理时适配不同置信要求。
- 作者将单模型难以区分不同p归因于奖励信号丢失与误差惩罚无界增长两个问题。
- RLEC通过保留学习信号、稳定奖励族和奖励调度实现训练;作者报告其基本保持通用能力并支持细粒度目标控制。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/28 08:00:17(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。