当人类纠正跨域传递时:联邦 VLA 适配中的安全性
When Human Corrections Travel: Safety in Federated VLA Adaptation
精选理由
梳理联邦VLA共享人类纠正的安全风险,并提出可验证的防护框架。
AI 摘要
arXiv:2610.32888v1 公告类型:cross 摘要:视觉-语言-动作(VLA)策略能够适应本地人类干预,而联邦学习可以在不汇总原始记录的情况下,整合分布式机器人经验。我们考察二者潜在的交汇点:跨越不同任务、环境、人员和机器人形态,共享源自多样化人类纠正的适配结果。纠正在模态、安全语义(紧迫性、行为范围等)和隐私敏感性方面各不相同。一个能够提升平均任务成功率的共享更新,可能会压制一次罕见的安全干预,或使另一台机器人产生不安全响应。我们提出三项要求:在决定共享内容时,保留多模态纠正所处的上下文和不确定性;在部署候选更新之前,于每台接收机器人自身的闭环中对其进行评估;在评估安全关键证据保留情况的同时,也评估信息泄漏。人机交互过程中,及时且易于理解的防御行为仍然不可或缺。本文提出反例和一套可证伪的评估议程,而非实验结果。