超球面对比表征解锁规划与探索能力
Hyperspherical Contrastive Representations Unlock Planning and Exploration
精选理由
提出利用球面对比表征插值自适应规划,让强化学习在无先验数据下完成复杂导航与机器人操作。
AI 摘要
arXiv:2610.20409v1 公告类型:新投稿 摘要:我们开发了一种自监督强化学习算法,无需先验数据、奖励、示范或预训练模型,即可从零开始学习搭建最高由八个立方体组成的塔。我们的方法 Contrastive Planning via Spherical Linear Interpolation(C-Slerp)将对比表征用作可复用的构建模块,并通过反复组合这些模块来推断一系列中间途经点。在我们的超球面参数化方案下,所学表征支持通过球面线性插值以闭式形式推断中间途经点,无需训练单独的高层策略或执行图搜索。重要的是,表征的几何结构还告诉我们如何根据各个目标到达问题的难度调整途经点数量。实验表明,我们的方法在长时域导航和机器人操作任务中取得了成功,包括强基线方法一次也未能成功的情境。消融实验进一步表明,使用固定数量的途经点会显著降低性能,凸显了根据任务难度调整规划的重要性。