LIFT 用分章节约束构建指令遵循基准与训练集,并称可缓解奖励黑客。
资讯摘要
论文提出 Lift-Bench,一个要求模型依据主题和结构化大纲撰写文档的指令遵循基准,约束被限定在特定文档章节内,从而更精细地控制约束密度。该基准同时包含可程序验证与人工评判的约束,并提供训练对应集 Lift-Train,且同时考察主任务与指令遵循约束以缓解浅层奖励黑客。作者报告前沿模型在较难子集上表现吃力,用 Lift-Train 训练比用常见 IFTrain 更不易出现奖励黑客。
要点速读
- Lift-Bench 要求模型按主题与结构化大纲撰写文档,约束作用于特定章节,可控制约束密度。
- 基准包含可验证与人工评判两类约束,并提供训练集 Lift-Train 及数据生成流程,均已公开。
- 作者报告前沿模型在较难子集上表现不佳,且用 Lift-Train 训练比 IFTrain 更不易出现奖励黑客。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/23 08:00:11(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。