用单一算法统一基础模型训练

论文提出用单一似然算法统一基础模型各训练阶段。

资讯摘要

论文提出“统一训练”框架，将预训练、中训练、SFT 与 RL 各阶段统一为基于似然的单一训练算法：把 RL 目标推导为对模型生成目标分布的最大似然拟合，从而把分阶段训练视为特例，训练生命周期转化为选择数据、比例与时机的数据问题。作者报告在受控与真实实验中，统一训练改善了精度—算力权衡与任务覆盖，并保留更广泛能力，为持续学习提供更好起点。

要点速读

1. 论文将预训练、中训练、SFT、RL 统一为单一基于似然的训练算法，分阶段训练成为特例。
2. 作者在单一训练器中混合静态数据与 RL 生成，构建统一训练系统。
3. 作者报告统一训练改善精度—算力权衡与任务覆盖，并保留更广泛能力。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:16（北京时间）。