arXiv cs.LG精选76

先思考,再作画:扩散模型的递归潜在推理

Think Before You Paint: Recursive Latent Reasoning for Diffusion Models

· 6天前

精选理由

提出无需符号监督的递归潜在推理方法,显著提升扩散模型解决数独、迷宫等复杂视觉约束任务的能力。

AI 摘要

arXiv:2610.09876v1 公告类型:交叉发布 摘要:扩散模型能够生成逼真的图像,但在填写数独或绘制迷宫路径等视觉推理任务上往往表现不佳。在有离散符号表示可用时,Tiny Recursive Model(TRM)等递归方法甚至能够解决这些谜题中的高难度实例。我们探究如何将此类推理迁移到没有符号表示可用的像素空间。我们提出 Painter-Thinker(PaTh):一个小型递归网络(Thinker)在编码了含噪图像和条件信息的学习型词元网格上进行推理,在每个去噪步骤内细化潜在状态,并通过 ControlNet 适配器引导冻结的扩散模型(Painter)。Thinker 仅使用标准重建损失进行训练,无需符号目标、求解器或验证器。PaTh 在高难度 MNIST 数独谜题上的解决率为 92.5%(此前最佳为 75%),在极高难度谜题上的解决率为 71.2%(此前最佳为 4.1%);其参数量为 1000 万,而标准扩散模型的参数量为 8200 万。它在迷宫、皇后问题以及具有指定空间关系的 CLEVR 场景上也取得了改进,且其优势随着问题规模的增大而扩大。诊断实验表明,PaTh 能够纠正人为注入、且扩散模型无法修复的错误,尤其是在大量单元格出错时。这些结果共同表明,为符号数据开发的推理机制可以在无需符号监督的情况下融入像素空间扩散过程,为在日益复杂的约束下生成数据开辟了一条路径。

查看原文(arXiv cs.LG)