回到最新动态
研究论文 / THE SIGNAL

LARC:在连续隐空间做推理的统一多模态模型

Latent Reasoning in Continuous Space for Unified Multimodal Models

重要性 5.5 AI 辅助整理

LARC 用连续隐空间推理替代 token 级推理来提升统一多模态模型的图像生成。

资讯摘要

论文提出 LARC 框架,针对统一多模态模型在图像生成中难以利用语言链式推理的问题,指出推理在离散 token 空间、图像生成在连续空间存在模态错配。作者采用课程监督微调将 token 级推理逐步转为隐空间推理,再用信息增益强化学习在无真值监督下自我演化。作者报告在多个文生图基准上提升生成质量、提示遵循与组合保真度,GenEval 上较 BAGEL 提升 7 个百分点,并展现测试时扩展行为。

要点速读

  1. 论文将推理与图像生成的模态错配归因于离散 token 空间与连续空间的差异,提出在连续隐状态上推理的 LARC。
  2. 训练分两阶段:课程监督微调把 token 级推理转为隐推理,信息增益强化学习在无真值监督下自我演化。
  3. 作者报告在 GenEval 上较 BAGEL 提升 7 个百分点,并在并行与串行测试时扩展策略下优于基于 token 的生成。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/3 08:00:27(北京时间)。

阅读 Daily Papers 原文arxiv.org · 在新窗口打开