研究：模型迭代未必延续预训练披露

后续模型发布并不稳定保留此前的预训练披露

资讯摘要

论文对17个模型家族的41个模型条目做文档审计，采用2025年FMTI的24项预训练相关指标，比较24组相邻版本。结果显示11组得分下降、6组上升、7组持平，共38项指标丢失、28项获得；OLMo-2与OLMo-3总分相同但各有三项得失，Llama-3.1虽较Llama-2提升却丢失两项数据类指标。语料构成与训练算力信息缺口持续存在。

要点速读

1. 审计覆盖17个家族41个模型条目，使用FMTI的24项预训练指标
2. 24组相邻比较中11组下降、6组上升、7组持平，共38项丢失、28项获得
3. OLMo-2与OLMo-3总分相同但各有三项得失；Llama-3.1较Llama-2提升却丢失两项数据类指标

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。