arXiv cs.AI精选72

MidTool:用于智能体式工具使用的中期训练数据合成

MidTool: Mid-training Data Synthesis for Agentic Tool Use

· 54天前

精选理由

揭示中期训练可显著提升模型通用工具调用能力。

AI 摘要

中期训练日益被认为是塑造大型语言模型能力的关键阶段。近期研究表明,有针对性的中期训练可以增强数学和科学等推理密集型能力,也可以提升软件工程场景中的智能体式能力。在这项工作中,我们研究了一种与之并行但探索较少的智能体式能力:通用工具使用。我们提出 MidTool,这是一个面向智能体式工具使用中期训练的开放语料构建流水线,将大规模网页、PDF 和代码数据与来自真实世界工具 API、MCP 技能以及基于文档的工作流的合成监督相结合。MidTool 旨在教会模型如何识别工具可供性、从上下文中定位参数、组合工具调用工作流,并从信息不完整的情况下恢复。我们在 MidTool-Mix 上对 Qwen3-4B-Base 和 Qwen3-8B-Base 进行中期训练,然后应用后续后训练,包括监督微调和强化学习。与基线相比,MidTool-Mix 在 BFCL、tau2-Bench 和 MCP Universe 上,在 SFT 和 RL 两种设置下都能持续提升下游性能。这些结果表明,通用工具使用与其他重要的 LLM 能力一样,受益于专门的中期训练,而不是完全留给后训练。

查看原文(arXiv cs.AI)