反事实成对增强提升小型逐点LLM评判器

CPA用反事实成对数据联合微调，提升小型逐点LLM评判器。

资讯摘要

论文提出CPA（反事实成对增强）方法：针对逐点评分的小型语言模型评判器，为每个逐点样本合成并审核一个同一查询下标签相反的反事实回答，构成成对任务，与逐点数据联合微调，但部署时仅用逐点模式。作者报告在Qwen3-8B的六个二元标准LoRA适配器上，CPA使标准平均逐点macro-F1较仅逐点训练提升2.5个点，并在所有测试合并权重下优于模型合并。

要点速读

1. CPA为每个逐点样本合成并审核同一查询下标签相反的反事实回答，将接受的样本对转为成对任务。
2. 评判器在逐点与成对数据上联合微调，部署时仅使用逐点模式。
3. 作者报告在Qwen3-8B六个二元标准上，逐点macro-F1较仅逐点训练提升2.5点，并超过所评估的Gemini 3.6 Flash 11.8点。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/3 08:00:27（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。