Dual-Frontier:智能体何时可以信任其世界模型?
Dual-Frontier: When Can an Agent Trust Its World Model?
精选理由
提出可验证的世界模型决策准则,帮助智能体识别风险、提升规划可靠性。
AI 摘要
学习得到的世界模型正逐渐成为通用智能体不可或缺的组成部分:它们通过预测行动后果来支持规划与决策,同时减少对代价高昂的试错的依赖。这种依赖带来了一个根本性的歧义:当由世界模型引导的决策失败时,仅凭轨迹可能无法判断损失究竟是由智能体的决策规则还是由世界模型造成的。我们将这一失败归因问题形式化为回报损失的反事实分解,并证明即使对于有限时域规划器,其各组成部分也无法从被动交互中得到辨识。这一障碍促成了 Dual-Frontier:该学习原则仅在预测优势超过经认证的、与决策相关的世界模型误差界时,才采纳由世界模型引导的决策;否则,就将证据用于世界模型验证。动作条件价值界和闭环扩展保证了被采纳决策的回报不会下降。经过校准的门控机制与同时置信序列支持自适应地复用证据,并给出了充分且必要的验证界。受控的学习模型实验验证了所预测的失败模式与认证行为;与此同时,跨模型骨干的工具使用基准在真实的智能体世界模型流程中实现了同样的“验证后晋级”规则,持续提升决策质量与可靠性。