AnyGoal:超越专家轨迹的世界模型泛化研究
AnyGoal: On World Model Generalization Beyond Expert Rollouts
精选理由
揭示世界模型组合泛化的关键缺陷,并提供评测新目标规划能力的基准与工具。
AI 摘要
世界模型的目标是捕捉环境的动态特性。其巨大优势在于,智能体可以借助世界模型对行动过程进行规划和模拟。然而,要使这些用途可靠,所学习的动态特性必须能够在专家轨迹中未曾观测到的特定状态—动作组合之外依然表现良好。尽管如此,数据覆盖范围、动态特性泛化能力与下游规划性能之间的关系仍缺乏充分研究。我们从组合泛化的角度研究这一关系:世界模型能否将熟悉的状态因素和动作重新组合为有效的动态过程?为回答这一问题,我们提出 AnyGoal,这是一个由广泛使用的世界模型环境构建的目标变更任务变体基准,并配套提供开源库。每项任务的设计都确保其处于已经学会底层动态特性的世界模型能力范围内:单独的状态因素和动作均处于训练分布支持范围之内,但它们的组合在专家轨迹中出现得较少。在多个环境和世界模型系列上,我们发现当前模型在面对这些重新组合时持续出现失败。通过考察不同模型系列、交互模式和评估指标下的动态特性与表征失败,我们研究了当前世界模型能够泛化到何种程度,以及在目标变更后的预测和规划方面仍存在哪些挑战。总体而言,这一框架、基准和分析为评估世界模型向新规划任务泛化的进展提供了基础。