arXiv cs.AI精选77

谁来改进机器人?迈向物理递归自我改进

Who Improves the Robot? Toward Physical Recursive Self-Improvement

· 13小时前

精选理由

提出实体机器人递归自我改进框架,梳理现有进展与安全瓶颈,为自主且可靠的机器人学习指明研究路径。

AI 摘要

机器人在任务执行方面的自主性日益增强,但其改进仍主要由人类驱动。本研究探讨物理递归自我改进(Physical RSI):利用物理交互经验,指导对机器人能力及其改进流程进行持久性更新,从而使后续改进在不同任务中更加有效。Physical RSI 面临观测噪声、连续动力学、高昂的试验成本以及不可逆后果等挑战。我们提出了一个 L0-L5 框架,区分能力层面与元层面的更新,以及任务内与跨任务的增益,并将 L5 专门用于经过独立验证的递归增益。我们考察了围绕运行支撑框架适配和模型训练的现有方法,以及对执行过程和连续更新进行管控的安全与控制机制。我们的分析表明,尽管自我改进已取得显著进展,但所调研的文献尚未展示出符合本框架定义的 Physical RSI。我们确定了可靠反馈、因果归因、安全性保持和基准评测等研究重点,勾勒出一条使机器人在确保安全的同时,自主改进其学习方式的发展路径。Physical RSI 的 GitHub 仓库位于 https://github.com/SAIL-Research-Lab/Physical-RSI。

查看原文(arXiv cs.AI)