混合推理智能体

我们如何构建一种智能体，使其能够超越人类语言进行思考，同时仍通过语言在外部环境中采取行动？现代 LLM 智能体仍通过文本进行推理和交互，而潜在空间推理虽然提供了高效的内部媒介，却缺乏原生工具访问能力和推理透明度。我们提出 Hybrid Reasoning Agents（HybridAgents），将这两个方向结合起来，使智能体能够在统一的生成过程中动态切换潜在空间推理与基于文本的交互。在架构上，轻量级的 HybridLink 支持文本模式与潜在模式之间的无缝切换，而智能体的连续工作记忆则在多轮交互中无损保留混合上下文。这些设计既保留了集成工具的智能体能力，又使潜在思维可被直接检查。基于这一架构，我们进一步开发了专门用于混合推理的后训练算法：HybridSFT 通过教会骨干模型与 HybridLink 协同工作，稳定集成工具的混合生成过程；随后，HybridRL 通过学习何时在潜在空间中思考、何时通过文本采取行动，进一步增强推理能力。我们在涵盖数学、科学、医学、搜索和智能体推理的 11 项基准测试上，对 3 种模型规模的 HybridAgent 进行了评估。与涵盖文本方法和潜在空间方法的前沿 LLM 智能体及智能体框架相比，HybridAgent 持续实现 10.4% 的性能提升，同时将 token 用量减少 35.5%–54.7%，将推理速度提升至 1.8–2.6 倍，并将成本降至原来的 1/2.7–1/3.7。代码和数据可在 https://github.com/togethercomputer/HybridAgent 获取。