Agent-Editing World Model:重新思考 LLM 智能体的世界建模
Agent-Editing World Model: Rethinking World Modeling for LLM Agents
精选理由
提出让世界模型直接修正代理状态与行动轨迹的方法,提升长程任务决策表现。
AI 摘要
大型语言模型(LLM)的最新进展使智能体能够在各种环境中处理长时程任务。为了进一步提升智能体性能,现有的语言世界模型通常会预测环境观测结果;然而,在能够获得真实反馈的情况下,重建高熵且取决于执行过程的工具响应,其价值十分有限。与此同时,智能体还会受到任务状态污染的影响:缺乏依据的假设和过时的计划持续留存在历史记录中,进而扭曲后续决策。我们提出 Agent-Editing World Model(AEWM),该模型不模拟工具响应,而是建模推理和行动如何塑造未来的任务进展。AEWM 将 Action Judge 与 State Revision 相结合:前者用于区分 Critical、Exploratory 和 Noisy 决策,后者则根据相同的观测历史,对包含噪声的推理—行动后续过程进行编辑。EditAct 将这些能力与真实执行相结合,直接改变后续决策所依据的状态,而不只是提供批评意见。我们通过中期训练和监督微调,在 Search、Terminal 和 Software Engineering 领域对 AEWM 进行训练。在我们的 Action Judge 基准上,AEWM 的宏平均 F1 达到 70.5%,比最强的前沿基线高出 10.6 个百分点。在六个基准和三种智能体骨干模型上,EditAct 相比最强基线将平均得分提升了 3.2–6.7 个百分点。此外,在经过验证的 EditAct 轨迹上进行拒绝采样微调,即 AEWM-RFT,在没有在线 AEWM 指导的情况下,也能在三个领域中比 Self-RFT 提高 2.2–2.6 个百分点。