RESCUE:这个警报值得采取行动吗?VLA 运行时监测器的反事实评估
RESCUE: Is This Alarm Worth Acting On? Counterfactual Evaluation of VLA Runtime Monitors
精选理由
提出反事实框架评估机器人告警能否及时挽救任务、降低干预成本,并揭示误报率与恢复策略的关键影响。
AI 摘要
机器人策略的运行时故障监测器通常根据其区分失败执行与成功执行的准确程度来评估。然而,准确的警报可能来得太晚,已无法恢复;而不必要的干预则可能扰乱原本能够成功的执行。我们提出 RESCUE,这是一个反事实评估框架,用于判断监测器发出的警报能否促成有用的干预。通过在执行检查点恢复仿真器和策略的状态,RESCUE 比较备选行动,找出满足指定恢复标准的最晚检查点,并评估响应警报采取行动是否能降低预期任务完成成本。我们在 LIBERO-Spatial 和 LIBERO-Plus 上,使用 OpenVLA-OFT 和 $π_{0.5}$,通过 128,340 个反事实分支评估 RESCUE。可恢复性取决于状态与干预的组合,而非仅取决于机器人状态:在 $τ=0.5$ 时,OpenVLA-OFT/LIBERO-Plus 的 66 次失败中,有 14 次在继续执行的情况下存在可恢复检查点;若允许继续执行或采用脚本化恢复,则有 34 次存在可恢复检查点;但在其他条件下,恢复操作反而会降低可恢复性。在主要的强策略实验条件下,良好的检测得分并不能证明干预成本更低。在所评估的停止并重置模型下,即使是理想化的检测器,也只能容忍 2.0–3.3% 的误报率;超过这一范围,不必要的重置所产生的成本就会抵消提前终止失败执行所节省的成本。这些结果表明,监测器的价值共同取决于可用的干预措施及其部署环境中的工作负载。