物理规律存在于激活中吗？在视频扩散模型中定位物理量

arXiv:2610.03154v1 公告类型：cross 摘要：视频生成模型能够生成极其逼真的序列，并日益被视为世界模型；然而，近期基准测试显示，这些模型在物理推理方面存在明显不足。这引出了一个问题：这些模型究竟内化了物理原理，还是仅仅复现了熟悉的运动模式？为此，我们探查了视频 Diffusion Transformers（DiTs）的内部表示，研究由模拟器导出的真实物理量。这些物理量涵盖运动学运动，以及重力和接触条件下的刚体动力学。我们发现，在去噪过程的早期阶段，这些物理量即可被线性解码，且准确率很高，显著优于直接从模型自身的加噪潜变量中解码的基线结果。这表明，相关物理信息是在去噪过程中主动构建的，而非输入中原本就已存在。此外，我们表明，位于物体上的 token 携带了相关物理信息，并且定义于多帧之上的物理量可以从单个潜变量帧中读取。因此，信息在 token 序列中的分布高度集中：它在全局范围内计算，却在局部位置存储。探针还显示出部分外推能力：它们能够迁移到训练范围之外的场景变化和物体配置，因此所读取的并不只是与其拟合场景相关的表征。当直接在全分辨率激活空间中进行拟合时，这些探测方向还可以作为引导向量，用于改变模型的输出。