Agent World Model in the Wild:计算机使用代理环境合成
Agent World Model in the Wild: Computer-Use Agent Environment Synthesis
精选理由
提供可扩展的合成环境,帮助训练能跨界面协作并泛化的电脑操作智能体。
AI 摘要
代理学习正从基于人类数据的学习转向通过与世界交互进行学习。然而,直接在现实世界的计算机系统中扩展此类学习颇具挑战,并可能引入重大的安全风险。因此,我们提出 Agent World Model in the Wild(WildAWM),这是一条用于合成可控环境和任务的可扩展流水线,旨在训练通用计算机使用代理(CUAs)。现有方法通常专注于单一的代理交互接口,而我们构建了可执行环境,同时支持图形用户界面、模型上下文协议服务和命令行界面,使代理能够灵活结合视觉交互、工具使用和代码执行。WildAWM 完全由开源模型驱动,证明无需专有的前沿模型也能生成高质量的计算机使用环境。除环境之外,我们还通过引入基于执行的质量门控机制,解决任务合成中的三个反复出现的挑战:确保任务可解、保持足够难度以及生成可靠的验证器。该机制结合了异构代理运行轨迹、跨评判器一致性检查,以及对判断稳健性的反事实探测。最终生成的流水线合成了 341 对长时程环境—任务,其中部分任务需要超过 100 个代理步骤才能解决,即使对前沿模型而言仍然具有挑战性;GPT-6-Astra 仅能解决其中的 60%。我们仅在这些合成世界中训练了两个不同规模的 Qwen 模型。两个模型在涵盖 web、claw 和 computer-use agents 的 8 个分布外基准测试中均取得了显著提升,表明在 WildAWM 合成世界中的学习能够广泛泛化到未见过的计算机使用任务。代码公开于 https://github.com/MSR-Orchard/WildAWM。