论文提出 leverage 指标衡量权重更新的有效性

论文用 leverage 量化权重更新对模型行为的实际影响。

资讯摘要

论文提出 leverage，用 Fisher 二次型衡量单位权重变化带来的行为改变，并按同一检查点同尺寸随机方向的同一量做归一化。作者报告该指标将 Olmo-3、Tülu-3、Zephyr、OLMo-2 的检查点区分出四个数量级：预训练窗口在散文上处于随机水平，SFT 约为其五倍，RL-Zero 与 RLVR 为 400–1500，DPO 为 400–23000。论文还称预训练更新累积近似噪声，bf16 无 fp32 主副本会冻结部分坐标并降低 leverage。

要点速读

1. leverage 定义为更新的 Fisher 二次型除以同尺寸随机方向的同一量，每个方向一次前向模式计算。
2. 作者报告预训练窗口在散文上的 leverage 与随机方向相当，SFT、RL-Zero/RLVR、DPO 依次高出多个数量级。
3. 论文称 bf16 训练缺少 fp32 主副本会冻结 36–99% 坐标，leverage 最多降低七倍，并给出 DARE 损伤的预测式。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。