arXiv cs.AI精选78

以智能体自身的风格施教:面向网页智能体的黑盒教师蒸馏

Teaching Agents in their Own Style: Blackbox Teacher Distillation for Web Agents

· 18小时前

精选理由

WebKD以学生自身风格修正失败轨迹,提升开源网页智能体表现,并能泛化至新版本和真实网页。

AI 摘要

使用闭源模型的前沿网页智能体具有高昂的推理与计算成本。较小的开放模型可以作为替代方案,但要获得良好性能,它们需要来自人类或教师模型的训练监督。词元级教师蒸馏不适用于闭源教师模型,因为它需要访问模型的 logits。标准做法是离线模仿教师示范,但这会让学生模型在其从未访问过的状态上训练,并采用其自身不会使用的写作风格。我们提出 WebKD,让教师充当学生失败轨迹的编辑者。给定一段失败的交互过程,教师找出首次出错的位置,并从该位置开始改写学生的推理轨迹、运行框架状态和动作。编辑过程表明,相比学生自身生成的文本,教师的修正可能更出乎学生的预期。因此,WebKD 致力于尽量减少编辑。在数据空间中,教师以学生的风格撰写每一处修正。在目标空间中,则根据推理对动作的贡献为其赋予权重。角色非对称的 KL 锚定机制允许修正后的动作自由调整,同时使推理保持接近学生的先验。在 TimeWarp 基准上,WebKD 学生模型的表现比行为克隆、基于结果奖励的强化学习和教师编辑基线高出约 5.5–10.7 个百分点。这些性能提升还能迁移至未见过的版本,以及 OnlineMind2Web 基准中的实时网页环境。WebKD 为蒸馏黑盒模型提供了一条新路径,以提升开放权重网页智能体的能力。

查看原文(arXiv cs.AI)