arXiv cs.AI精选74

WorldCrafter:具有隐式 3D 感知记忆的一致性视频世界模型

WorldCrafter: Consistent Video World Model with Implicit 3D-aware Memory

· 22天前

精选理由

通过隐式三维记忆提升视频世界模型的长程一致性与视角控制,支持持续探索。

AI 摘要

视频世界模型能够实现对动态环境的交互式探索,但在长时间跨度和跨视角条件下,往往难以遵循先前的观测结果。我们提出 WorldCrafter,一种为此目的学习可由相机视角查询的隐式 3D 感知记忆的视频世界模型。其核心洞见是,让请求的视角决定如何将多视角证据压缩到视频生成器有限的令牌预算中。记忆编码器和姿态条件化读取模块与视频生成器联合训练,在去噪之前将历史观测整合为一组固定的、针对目标视角的令牌,而无需显式的基于深度的对应关系。通过将这一记忆与近期时间上下文和少步蒸馏相结合,WorldCrafter 能够从单张输入图像或文本提示开始,以流式方式探索场景。在静态和动态场景上的实验表明,该方法在长时间跨度的一致性和相机控制精度方面均取得了显著提升,同时在分钟级探索过程中保持了视觉质量。

查看原文(arXiv cs.AI)