arXiv cs.AI精选80

TriWorldBench:从三视角一致性视角评估具身世界模型

TriWorldBench: A Tri-View Consistency Perspective on Embodied World Models

· 21天前

精选理由

通过三视角一致性基准,系统评估具身世界模型的任务对齐与物理可信度。

AI 摘要

具身世界模型预测机器人动作的结果,以支持学习和规划。对于配备头部摄像头和腕部摄像头的机器人而言,这需要互补的视角:头部视角捕捉整体任务,而腕部视角展现夹爪与物体之间的局部交互。然而,独立评估这些视角无法确定它们是否描述了同一动作和物体状态。我们提出 TRIWORLDBENCH,这是一个通过同步的头部、左腕和右腕视频评估具身世界模型的基准。该基准包含涵盖 50 项双臂操作任务的 500 个片段,并使用 19 项指标评估三视角一致性、任务对齐度、物理与三维连贯性、运动质量、时间一致性和视觉质量。通过结合跨视角检查与针对各摄像头定制的测量指标,该基准评估各个视频在单独看来合理的情况下,是否也能共同构成对预期任务的一致预测。我们使用 TWB-Score 汇总整体性能,同时保留各视角的结果,以识别预测失败的具体位置。这将世界模型评估从单视角视觉质量拓展到更全面的层面。代码、数据和指标定义见 https://github.com/TriWorldBench/TriWorldBench。

查看原文(arXiv cs.AI)