arXiv cs.AI精选78

CLIFT:面向网页智能体训练与测试时扩展的保形自验证

CLIFT: Conformal Self-Verification for Web Agent Training and Test-Time Scaling

· 8天前

精选理由

提出可复用的自验证机制,降低网页智能体训练与测试时对昂贵外部评审的依赖。

AI 摘要

开源网页智能体如今已经足以执行逼真的浏览器任务,但使用强化学习训练它们仍然依赖弱监督:二元任务成功信号过于稀疏,难以进行信用分配;而前沿语言模型评审器的调用成本过高,无法在每一步都调用,也不能假定其在部署时可用。我们提出 CLIFT,一种以保形自验证为核心的训练与测试时扩展方法。在训练期间,智能体针对自身的 rollout 回答自然语言验证问题;Compositional Conformal Certifier 仅保留其 URL 条件证据与训练时评审器一致的问题信号,通过极性感知提升分配带符号的信任权重,并将得到的验证器分数融合到逐步奖励中,同时绝不会从评审器基线中扣减任何分数。在测试时,同一经过认证的问题库被冻结,并作为 Conformal Trajectory Selection(CTS)的结构化证据重复使用:智能体采样一条贪心 rollout 以及一条或多条多样化重试轨迹,自验证器总结每条 URL 轨迹,然后通过一种保守的多数投票规则决定是否放弃当前最优结果,而无需调用任何外部评审器。这一机制支持三种设置。在 WebArena Infinity 上,CLIFT 在开源网页智能体中取得了当前最佳性能。在 VisualWebArena 上,使用开放模型训练的问题库可在测试时迁移到 GPT-5.5,并在标准测试框架下达到当前最佳性能。在 Online Mind2Web 上,无需针对该基准训练智能体,仅通过翻译经过认证的问题库,就能在零样本评估中提升一个实时网页智能体的表现。总体而言,这些结果表明,保形自验证能够将昂贵的评审器反馈转化为可复用的训练信号,以及无需评审器的测试时扩展信号。

查看原文(arXiv cs.AI)