工作空间模型：通过显著性驱动监督实现轻量级机器人记忆

复杂的机器人操作任务通常需要对过去的事件和动作进行长期记忆。由于基于完整历史信息进行条件化会使策略容易受到虚假相关性的影响并导致性能下降，许多策略记忆方法会通过在环中进行代价高昂的 VLM 查询来压缩历史信息，从而仅处理与任务相关的信息。在本文中，我们提出了一种替代方法：在训练期间进行计算密集型的 VLM 查询，以学习一种轻量级的潜在记忆表示，使其能够在部署时被高效查询。我们将这种表示称为 workspace token。它通过以下方式进行训练：(1) 使用 VLM 识别完成任务所需的当前信息和历史信息；(2) 使用集合重建解码器损失，将这些信息蒸馏到 workspace token 中。在仿真和真实硬件实验中，我们表明，workspace token 可以在部署期间作为观测的即插即用替代方案，使策略无需在环中进行 VLM 推理即可解决记忆密集型任务。有趣的是，我们发现 workspace token 不仅更加轻量，还能带来更好的策略性能。