LLM 的分布对齐及其泛化特性

论文发现 LLM 可分布对齐并部分泛化，但可能意外退化。

资讯摘要

论文研究如何让大语言模型输出分布与人类参考分布对齐，以及对齐后能否泛化到未见样本、无关主题和任务。作者用两个大规模基准测试发现，LLM 可实现分布对齐，并泛化到同领域的未见问题；跨主题泛化取决于主题间关系。但对齐后的模型可能以出人意料的方式退化，例如失去创造力，作者认为其泛化特性本质上不可预测且不稳定。

要点速读

1. 论文提出研究两个问题：如何实现 LLM 的分布对齐，以及对齐后的模型如何泛化到未见样本、无关主题与任务。
2. 基于两个大规模基准，作者报告 LLM 能实现分布对齐，并泛化到同领域的未见问题。
3. 跨主题泛化取决于主题间关系；对齐后的 LLM 可能出现意外退化，如失去创造力，泛化特性被认为不可预测且不稳定。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/27 08:00:28（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。