arXiv cs.AI精选77

UniTexture:面向视觉-语言-动作模型的跨任务通用对抗纹理

UniTexture: Cross-Task Universal Adversarial Textures for Vision-Language-Action Models

· 61天前

精选理由

揭示VLA跨任务漏洞,帮助评估机器人安全风险。

AI 摘要

视觉-语言-动作(VLA)模型已成为通用型机器人策略,能够遵循多样化的语言指令并执行广泛的操作任务。然而,它们对具身智能体的直接控制也使其暴露于对抗性干扰之下,可能导致不安全的物理行为。现有针对机器人策略的攻击通常针对单一任务或指令进行优化,使得多任务 VLA 的跨任务脆弱性在很大程度上尚未被探索。我们提出 UniTexture,这是一种跨任务通用对抗纹理攻击,使用单个带纹理的 3D 物体,在多个任务中诱导 VLA 动作预测产生有针对性的偏移。UniTexture 通过可微渲染器,将策略动作输出的梯度反向传播到表面纹理参数。它使用有针对性的动作空间目标,在任务、指令、状态和视角的分布上联合优化共享纹理,将预测动作引导至攻击者定义的目标,而无需为每个任务单独优化纹理。我们在 OpenVLA 和 $π_{0.5}$ 上,跨多种操作任务和多个评估设置对 UniTexture 进行了评估。UniTexture 将平均任务成功率从良性条件下的 90.0% 降低到攻击下的 48.4%,诱导出与目标对齐的动作偏移,并进一步展现出无需重新优化的跨套件和跨模型迁移性。总体而言,这些发现揭示了多任务 VLA 中共享的跨任务脆弱性,可通过单一对抗性表面纹理被系统性利用。

查看原文(arXiv cs.AI)