arXiv cs.AI精选76

ActSafeGuard:面向流匹配策略的可微分且与训练对齐的约束执行

ActSafeGuard: Differentiable and Training-Aligned Constraint Enforcement for Flow-Matching Policies

· 33天前

精选理由

新颖度 82 / 影响力 78,来自 arXiv cs.AI。

AI 摘要

视觉-语言-动作(VLA)和世界-动作模型(WAMs)在通用机器人操作方面展现出了强大的能力,但它们生成的动作可能违反严格的物理约束,因此在部署时存在不安全或不可行的问题。现有的安全方法要么优化统计意义上的安全目标,却无法提供逐步确定性的安全保证;要么仅在推理过程中纠正不安全动作,从而造成策略训练与执行之间的不一致。我们提出了 ActSafeGuard,一种面向基于流匹配的策略、可微分且与训练对齐的安全防护层。ActSafeGuard 将动作的严格可行性融入策略学习,而不是仅仅将安全视为推理时的外部组件。通过设计解析的射线缩放算子,ActSafeGuard 能够提供感知边界的梯度,引导模型自然地学习受约束流形。在多个标准基础模型骨干($π_{0.5}$ 和 Fast-WAM)及多种任务上的大量实验表明,ActSafeGuard 始终能够实现 $100\%$ 的步骤安全率,同时完全保持甚至提升任务成功率,为安全具身 AI 部署提供了一种可扩展且低侵入性的解决方案。

查看原文(arXiv cs.AI)