Latent Reasoning in Continuous Space for Unified Multimodal Models

LARC 在连续潜在空间中为统一多模态模型执行推理，采用课程式 SFT 和自演化 RL 来改进图像生成并实现测试时扩展。

现有的推理增强 UMM 未能继承在 LLM 中观察到的测试时扩展和细粒度可控性。论文将这一失败归因于模态不匹配：推理在离散 token 空间中执行，而图像生成在连续空间中运行。离散链难以编码稠密、具有空间依据的信息，因此推理退化为表层提示词操控。LARC 旨在在连续潜在空间中对齐文本推理和图像推理。

LARC 将推理轨迹表示为交替的文本片段和由 UMM 主干产生的连续潜在步骤；在潜在模式下，最后一个隐藏状态成为下一个输入嵌入。阶段 1 课程式 SFT 先训练纯文本轨迹，然后分阶段激活前 k 个潜在步骤直至 N，并结合对文本的下一 token 预测与目标图像上的 flow-matching 损失。阶段 2 使用 GRPO，采用来自冻结阶段 1 参考模型的信息增益奖励，该奖励在共享噪声下以成对条件 flow-matching 损失估计。多样性奖励惩罚潜在步骤之间的余弦相似度，总奖励为信息增益加上 lambda_div 乘以多样性。

• LARC 在 GenEval 文生图生成上优于 BAGEL，其中所述的 GenEval 最大提升出现在 Attribute Binding 上。 §3.1
• LARC 在 DPG-Bench 提示词跟随保真度上优于 BAGEL。 §3.1
• LARC 在 OneIG-Bench 总体得分上优于 BAGEL。 §3.1
• LARC 在 CompBench 图像编辑上优于 BAGEL，覆盖指令遵循度和像素级指标。 §3.1
• LARC 在 MIRA 视觉推理上优于 BAGEL 和 Uni-CoT。 §3.2
• 随着潜在步骤增加，潜在测试时扩展仅带来边际的实际耗时开销。 §D.1

• 论文指出，LARC 在图像模块为 flow-matching 头的 UMM 上实例化；扩展到离散空间生成或其他生成头留待未来工作。
• 论文指出，交织式潜在推理相比基础 UMM 会引入额外的推理计算和延迟开销；高效解码、蒸馏或自适应潜在分配仍有待研究。
• 论文的主要实验仅在 BAGEL 上训练 LARC；未评估对其他 UMM 主干的泛化能力。

• 论文将离散-连续模态不匹配识别为推理增强 UMM 中收益有限且缺乏测试时扩展的根本原因。 §1
• 推理轨迹在语言模式文本片段和潜在模式连续隐藏状态之间交替。 §2.2
• 在潜在模式下，下一位置嵌入是最后一个隐藏状态，而非 token 嵌入。 §2.2
• 阶段 1 课程式 SFT 在 N+1 个阶段中从 0 到 N 逐步激活潜在步骤。 §A.1
• 信息增益奖励衡量潜在轨迹在多大程度上提高参考模型对目标图像的似然。 §2.4
• 信息增益奖励在共享噪声下用成对 flow-matching 损失近似。 §C.2
• 多样性奖励防止轨迹内所有潜在步骤收敛到相同向量。 §D.2
• LARC 被提出为首个展现出清晰测试时扩展的推理增强 UMM。 §3.3