HRS：用隐状态干预对齐冻结LLM评审与人类评分分布

HRS 用隐状态干预让冻结 LLM 评审对齐人类评分分布。

资讯摘要

论文提出 Human-Residual Steering（HRS），通过学习的隐状态干预，使冻结的 LLM 评审模型对齐人类评分分布，而非仅拟合聚合评分。作者报告，在 14 个基准和来自三个模型家族的四个评审模型上，HRS 优于所评估的冻结权重基线；以 Qwen2.5-7B 为例，在 13 个基准上取得最低 Jensen-Shannon 距离，均值从 0.565 降至 0.352，并将与聚合人类分数的平均 Spearman 相关从 0.449 提升至 0.579。

要点速读

1. 方法对冻结 LLM 评审的隐状态施加低秩修正，训练时使用个体标注和针对序数、名义评分的恰当评分规则。
2. 作者报告 HRS 在 14 个基准、四个评审模型上优于所有评估的冻结权重基线。
3. Qwen2.5-7B 上 Jensen-Shannon 距离均值由 0.565 降至 0.352，平均 Spearman 相关由 0.449 升至 0.579，训练参数量约为分布微调的 1/88。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。