基于预训练扩散表示的可辨识世界模型
Identifiable World Models from Pretrained Diffusion Representations
精选理由
介绍如何无需重训扩散模型,获得可辨识、可解释且适合因果分析的世界模型表示。
AI 摘要
arXiv:2610.07028v1 发布类型:new 摘要:基于扩散的世界模型能够生成并预测高维动力系统中的轨迹,但预测准确性并不意味着其潜在坐标能够恢复底层状态变量或因果交互。我们探讨:无需重新训练生成骨干网络,能否为冻结的预训练扩散模型配备可辨识坐标。我们证明,辅助变量非线性 ICA 的保证可以迁移至 Contrastive Diffusion Alignment (ConDA);该方法仅在冻结的扩散潜变量之上学习一个轻量级对齐映射。在标准 TCL/GCL 假设下,对齐后的表示能够将潜在动力状态辨识到排列和逐分量可逆变换意义下,保留潜在动态结构因果模型,并将滞后图恢复简化为转移雅可比矩阵的稀疏性问题。我们在物理和机器人视频系统上,将基于 TCL、GCL 和 CEBRA 的 ConDA 与 TDRL、CaRiNG、IDOL、temporal SuaVE 以及 iVAE 进行了评估。TCL 和 GCL 实现了近乎完美的分块状态恢复,并在滞后图恢复方面具有竞争力,包括在模拟落体系统中实现精确恢复。在模拟双足机器人中,学习到的动力学恢复了对留出控制扰动响应的符号和时间结构。这些结果表明,冻结的生成式扩散模型可以配备具备可辨识性、结构可解释性且有助于分析与干预相关动力学的坐标。