PACE 用重复评分在优化前预测代理优化的人类增益曲线。
资讯摘要
论文提出 PACE(Proxy Alignment and Curvature Expansion),一种优化前诊断方法,利用重复人类评分预测固定代理目标所诱导的人类增益曲线。方法将代理优化建模为 KL 正则化指数倾斜,在 KL 半径 d 处用 A√d+Bd 近似局部增益,其中 A 衡量一阶代理-人类对齐,B 捕捉沿优化路径的二阶修正。作者报告在 SummEval、WMT MQM 等数据集上,PACE 相比仅用 A、零增益和仅可靠性基线降低了留出集增益预测误差。
要点速读
- PACE 用重复人类评分估计 A、B 两个系数,在留出评估项上预测增益曲线。
- 在 SummEval、WMT MQM 聚类、OpenMEVA-MAGS 切片和 GPT-4o 评审代理实验中,PACE 的留出增益预测误差低于 A-only、零增益和 reliability-only 基线。
- 跨数据集迁移实验显示源系数可作有用先验,目标校准能进一步改善预测;LoRA-DPO 实验提供了通向实际优化的有限衔接。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/3 08:00:27(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。