超越顺序性瓶颈:一种用于高效多模态推理的混合扩散-自回归框架
Beyond the Sequentiality Bottleneck: A Hybrid Diffusion-Autoregressive Framework for Efficient Multimodal Reasoning
精选理由
新颖度 84 / 深度 76,来自 arXiv cs.AI。
AI 摘要
自回归模型(ARMs)在推理过程中面临“顺序性瓶颈”,而扩散语言模型(DLMs)虽然支持并行处理,却缺乏语义连贯性。为解决这两方面的局限,我们提出 Collaborative Reasoning Asymmetric Learning(CoRAL),这是一种基于 Asymmetric Planner-Executor(APE)架构的混合框架:DLM Planner 并行生成 K 条多样化的推理轨迹,而大型 ARM Executor 选择最优方案并综合生成最终答案。为有效训练 Planner,我们提出 Reward-Guided Denoising for CoT(RDC),将基于结果的奖励融入扩散过程,引导模型朝着目标导向的推理方向发展。在视觉-语言基准测试中的实验表明,CoRAL 显著优于以往基于扩散的方法,并且相较于强大的 ARMs 也取得了具有竞争力的性能,同时实现了更高的效率和质量。