标准基准高分不能保证奖励模型的社会对齐表现更好。
资讯摘要
论文将奖励模型评估扩展到偏见、安全、道德与伦理推理四个社会性领域，发现标准基准上的高分可能掩盖社会行为差异：模型可能规避部分刻板印象却强化另一些，聚合偏见分数会掩盖相反倾向。作者还报告更强的刻板印象规避可能以牺牲上下文忠实性为代价，且标准基准表现与社会对齐行为仅呈不一致关联。
要点速读
- 论文把奖励模型评估扩展到偏见、安全、道德、伦理推理四个领域
- 模型可能规避部分刻板印象同时强化其他刻板印象，聚合分数会掩盖这种对立
- 作者报告刻板印象规避与上下文忠实性之间存在权衡，标准基准表现与社会对齐行为关联不一致
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/27 08:00:28（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。