论文提出 SPFT，用特权信息先验引导 token 级加权微调。
资讯摘要
论文分析监督微调中 token 级加权方法的优化目标：动态加权（如 DFT）会诱导高度尖锐化的目标分布，静态加权则拟合数据分布与冻结先验的乘积，训练目标更稳定但依赖先验质量。据此提出 Self-Privileged Fine-Tuning（SPFT），以初始模型在特权信息（如数学题标准答案）条件下的冻结副本作为先验，为微调中的 token 加权提供指导。作者报告在数学推理与代码生成任务上，SPFT 优于标准 SFT 及其他基线。
要点速读
- 论文从优化目标角度分析动态与静态 token 加权，指出动态加权诱导尖锐化分布，静态加权拟合数据分布与冻结先验的乘积。
- SPFT 用初始模型在特权信息条件下的冻结副本作为先验，经贝叶斯分解按 token 对预测标准结果的信息量重新加权。
- 作者报告在数学推理和代码生成的主要设置上，SPFT 优于标准 SFT 和其他基线。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/5 08:00:38（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。