训练具备可迁移工具选择能力的小型语言模型
Training Small Language Models for Transferable Tool Selection
精选理由
展示小模型经强化学习即可胜任复杂工具选择，并能迁移到不同检索器与领域工具库。
AI 摘要
随着大语言模型智能体在包含上万种工具的工具库中运行，为复杂的多步骤用户指令选择合适的工具成为核心瓶颈。上下文无法容纳所有工具描述，而基于相关性的检索器只能对工具进行排序，并不知道实际需要哪些工具。近期研究转而利用 Claude 或 ChatGPT 等专有商业大语言模型来驱动检索器，将指令分解，并从检索到的候选工具中进行选择。我们表明，可以通过强化学习训练小型开放模型，使其实现相同的功能。在 ToolBench 上，采用我们的方法进行后训练的 Qwen3-8B 模型优于 Llama-4-Maverick（402B）。此外，训练后的模型可直接迁移至不同的检索器，并能泛化至不同领域的新工具库。