训练于筛选候选可让生成均值趋近经典启发式,但最佳候选未超越。
资讯摘要
论文在在线装箱任务上循环执行生成、验证、选择与 LoRA 合并,考察模型能否从自身已验证的成功中学习。作者报告:用价值筛选后的候选训练,会使模型在留出变体上的输出向经典启发式靠拢(超额 -1.7 分,p=0.008;相对随机合并对照为 -3.1,p=0.004),但最佳观测候选只收敛到经典启发式水平,未再超越。三次复现均值接近(-2.0、-1.8、-1.9),七个可评估变体均支持合并。仅 SFT 对照显示,起集中作用的是监督锚点而非对差候选的排斥。
要点速读
- 在在线装箱的生成-验证-选择-LoRA 合并循环中,价值筛选训练使留出变体输出向经典启发式偏移(-1.7 分,p=0.008),相对随机合并对照为 -3.1(p=0.004)。
- 三次独立复现的均值几乎一致(-2.0、-1.8、-1.9),按留出变体聚合后七个可评估变体均偏向合并(p=0.008)。
- 最佳观测候选恰好停在经典启发式水平(0.021028),未超越;仅 SFT 对照中 96% 候选落在该水平,说明集中来自监督锚点。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/24 08:00:37(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。