想象未来,内化要义:通过内化时空想象实现高效 VLA 推理
Imagine the Future, Internalize the Gist: Efficient VLA Reasoning via Internalized Spatiotemporal Imagination
精选理由
通过将未来场景推演压缩为记忆令牌,提升机器人操作成功率并显著加快推理。
AI 摘要
arXiv:2610.02626v2 公告类型:交叉发布 摘要:视觉-语言-动作(VLA)模型越来越多地引入中间推理来改进机器人操作,但现有方法主要针对已观测状态进行推理,并未显式预判未来场景的演变。然而,若将此类推理扩展为在每个推理步骤中显式推演未来,则会引入大量计算开销。我们提出了 IG-VLA,这是一种使模型能够想象未来并内化要义的 VLA 推理框架。我们的 Latent Spatiotemporal Reasoning 直接在视觉表征空间中学习想象与任务相关的未来场景演变,无需高成本的像素级视频生成即可指导动作预测。为进一步降低推理开销,我们引入了 Scene Gist Memory,将推理得到的场景-行为关联内化为紧凑的 Scene Gist Token,在保留未来推理优势的同时,绕过推理阶段的显式未来想象。在 LIBERO、LIBERO-Plus 和 VLABench 上开展的大量实验验证了 IG-VLA 的有效性和效率。在 LIBERO-Plus Language 测试套件上,推理策略与要义策略的成功率均比最强基线高出近 6%。要义策略相较于基线还实现了最高 6.38 倍的加速,在单张 NVIDIA A6000 GPU 上,将每个动作块的推理延迟从 1081 毫秒降至 169.5 毫秒。这些结果表明,未来时空推理能够被有效内化,从而实现高效的 VLA 部署。