MATCH:具备模型感知的工具学习、课程调度与分层门控奖励
MATCH: Model-Aware Tool Learning with Curriculum Scheduling and Hierarchically Gated Rewards
精选理由
提出自适应课程与分层门控奖励,提升大模型工具调用准确率及跨模型泛化能力。
AI 摘要
工具学习使大型语言模型(LLM)能够使用外部工具,完成超越参数化知识范围的任务。强化学习可以根据反馈优化工具调用行为,但现有方法仍面临两个问题:固定阈值的课程可能会逐渐偏离策略不断变化的能力边界;当预测的工具错误时,加性奖励可能会错误地将信用分配泄漏到参数层面。为解决这些问题,我们提出 MATCH,这是一种结合课程调度与分层门控奖励、具备模型感知能力的工具学习闭环框架。模型感知课程学习(MACL)维护由奖励导出的样本难度,使其与策略共同演化;每个训练周期都会选择接近当前能力边界的样本,以及由更困难样本组成的 top-k 候选池。分层工具调用门控奖励(HTGR)将工具名称、参数键和参数值作为一个门控链进行评分,仅当先决条件满足时,才在每个层级给予信用。同一 HTGR 奖励既驱动 GRPO 更新,也用于刷新 MACL 的样本难度,从而形成策略优化与样本调度之间的闭环。在 API-Bank 和 BFCL V3 上,MATCH 的总体准确率分别达到 72.19% 和 62.87%,优于主要的监督学习和基于强化学习的基线方法。骨干模型实验进一步表明,MATCH 在来自两个模型系列的四个骨干模型上均取得了稳定提升。