TOAST：用于自回归视觉-语言-动作模型的随机机器人动作标记化

arXiv:2610.00899v1 公告类型：cross 摘要：自回归视觉-语言-动作模型通常将连续机器人动作表示为离散标记序列，从而能够使用标准的下一个标记预测目标进行动作预测。FAST 通过将包含多种时间频率的动作紧凑地编码为相对较少的标记，显著改进了这种表示方式。然而，尽管这种压缩减少了自回归预测所需的动作标记数量，却未必能提高从有限示范中进行策略学习的效率。具体而言，FAST 通常为每个量化动作序列分配一种确定性的标记化方式，尽管多个标记序列都可以表示并解码为相同的机器人运动。我们研究了利用这种表示冗余是否能够改进策略学习。在本文中，我们提出带随机采样的动作序列标记化（TOkenization of Action sequences with STochastic sampling，TOAST），这是一种随机动作标记化方法，在策略训练期间对同一量化动作序列的不同标记化方式进行采样。这种方法在保留底层机器人动作的同时，使离散监督更加多样化，且不需要额外的示范。在 LIBERO 上的实验表明，TOAST 始终优于其确定性对应方法；随着训练数据减少，其提升幅度进一步增大：当仅有 1/16 的训练数据可用时，成功率提升了 6.8 个百分点。在四项真实机器人操作任务中，TOAST 相较于确定性对应方法进一步将平均成功率提高了 15.8 个百分点。这些结果证明了随机动作标记化对于自回归机器人策略学习的有效性，尤其是在训练数据有限的情况下。