arXiv cs.LG精选76

LiteGUI:通过多解引导蒸馏与双层强化学习构建轻量级 GUI 智能体

LiteGUI: Lightweight GUI Agents via Multi-Solution Guided Distillation and Dual-Level Reinforcement Learning

· 5天前

精选理由

提出轻量GUI智能体训练框架,借助多解蒸馏与双层强化学习提升复杂任务表现。

AI 摘要

arXiv:2605.07505v2 公告类型:replace-cross 摘要:我们提出了 LiteGUI,一种用于构建轻量级 GUI 智能体的新框架。由于复杂任务具有长时程特性,且存在多条有效的交互路径,GUI 交互面临独特挑战,而轻量级 GUI 智能体难以有效应对这些挑战。为解决这些问题,LiteGUI 提出了一种基于已记录 GUI 状态运行的两阶段后训练框架。首先,我们提出 Guided On-Policy Distillation:通过从经人工验证的多解动作标注中选择与当前 GUI 状态最匹配的有效动作,在每个 GUI 状态为训练过程提供教师特权指导,同时保持学生模型的在策略 rollout 不变。其次,我们开发了 Multi-Solution Dual-Level GRPO:在考虑每个已记录 GUI 状态存在多个有效动作的同时,将动作级监督与基于历史条件、按状态进行的规划质量监督相结合。这两个阶段共同支持多步 GUI 任务,而无需学生模型复现固定的示范轨迹。我们进一步开发了可扩展的数据生成流程及相应的多解数据集 Lite-Dataset,以支持 GUI 智能体的训练与评估,弥补现有文献中的空白。在多个 GUI 基准上的大量实验表明,与包括 SFT、在策略蒸馏和 GRPO 在内的现有训练范式相比,LiteGUI 能够显著提升轻量级 GUI 智能体的性能;此外,与规模大得多的模型相比,LiteGUI 也实现了具有竞争力甚至更优的性能。

查看原文(arXiv cs.LG)