arXiv cs.AI精选80

WeAct:作为智能体动作的动态权重切换

WeAct: Dynamic Weight Switching as Agent Actions

· 11小时前

精选理由

提出按任务阶段动态切换能力模块,减少灾难性遗忘并提升长程任务表现。

AI 摘要

长时程智能体必须从交错的轨迹中学习异构能力。更新共享参数以学习新能力可能会削弱此前获得的能力,从而导致灾难性遗忘。随着轨迹展开,不同阶段可能需要不同的能力,然而传统的联合训练和静态适配器合并会在整个执行过程中维持固定的参数配置。我们提出 WeAct(Weight-level Internal Actions),在冻结的骨干网络上训练彼此独立、专用于不同能力的 LoRA 适配器,并将适配器选择加入智能体的动作空间。这些内部动作利用模型原生的工具调用接口,在共享上下文中按需组合能力。在八个深度研究基准测试中,采用 WeAct 的 Qwen3-32B 相较于完整微调方案平均准确率提升 6.2%,同时所需计算量更少;相较于最强的静态 LoRA 合并方法,平均准确率提升 27.5%。WeAct 还支持模块化持续适应:通过添加新的代码计算适配器来扩展智能体能力,并更新现有的写作适配器以提升报告质量。这两项更新都不会改变骨干网络和其他适配器,从而支持智能体的模块化持续适应。

查看原文(arXiv cs.AI)