超越动作预测：在潜在空间中学习无搜索规划

潜在世界模型在紧凑的表示空间中学习以动作为条件的状态转移，为视觉规划与控制提供预测模型。然而，利用这些模型进行规划通常需要在测试时对动作序列进行代价高昂的优化。我们提出使用以目标为条件的逆模型替代这种在线搜索，直接根据当前观测和目标观测预测动作。一个关键挑战在于，仅进行动作预测既不能确保目标表示编码了与动作相关的信息，也不能确保预测动作与所学习的潜在预测模型保持一致。为此，我们提出 Hindsight Inverse JEPA Planning（HIJP），一种在训练过程中同时解决这两个问题的无搜索框架。HIJP 将离线轨迹中的未来观测重新标记为目标，从而在多个时间跨度上提供动作监督。通过保留目标表示上的梯度，这种监督能够直接塑造视觉表示。HIJP 还将预测动作输入潜在预测模型，并使所得的下一状态表示与编码后的后继观测对齐，从而强制确保动作—转移一致性。在推理时，逆动力学模型与潜在预测模型交替应用，在无需在线搜索的情况下生成多步动作序列。在四项视觉控制任务中，HIJP 达到了 86.8% 的总体成功率，并将规划速度提升至基于搜索的规划的 1.9 至 16.5 倍。