论文提出 MCLR 目标,将 CFG 解释为隐式对比对齐。
资讯摘要
论文指出扩散模型依赖无分类器引导(CFG)说明学到的条件分数存在不足,并将类间分离弱视为一种限制。作者提出 MCLR 微调目标,显式最大化类间似然比,以增强标准采样下的类别特定结构。作者报告在多种模型和数据集上,MCLR 明显改善无引导条件生成并缩小与 CFG 的差距;理论上证明 CFG 引导分数是样本自适应加权、ELBO 近似的 MCLR 目标的唯一极小值,将 CFG 解释为隐式的推理时对比对齐过程,并与 DPO、CCA、CFM 等对比目标作比较。
要点速读
- 论文将扩散模型对 CFG 的依赖归因于学到的条件分数存在缺陷,并指出类间分离弱是其中一种限制。
- 作者提出 MCLR 微调目标,显式最大化类间似然比,报告在多种模型和数据集上改善无引导条件生成。
- 论文证明 CFG 引导分数是样本自适应加权、ELBO 近似 MCLR 目标的唯一极小值,并比较了 DPO、CCA、CFM 等目标。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/23 08:00:11(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。