arXiv cs.LG精选74

面向工具集成化学推理的掩码扩散语言智能体

Masked Diffusion Language Agents for Tool-Integrated Chemical Reasoning

· 2天前

精选理由

介绍掩码扩散化学智能体,提升工具协同推理与多步任务表现。

AI 摘要

arXiv:2610.13330v1 公告类型:cross 摘要:针对复杂化学任务设计工具集成的推理智能体系统,仍然是一项根本性挑战。尽管近期的化学智能体通过集成外部工具展现出了良好的性能,但它们仍然建立在自回归范式之上,而该范式天然受到因果注意力和从左到右生成的限制。因此,它们往往难以实现双向分子理解、全局协调的工具规划以及多源证据整合。为应对这一挑战,我们提出了 ChemDiffAgent,这是首个用于工具集成化学推理的掩码扩散语言智能体。该方法将化学推理重新表述为对交错的推理轨迹和工具使用轨迹进行迭代去噪,使工具使用决策能够在完整轨迹上下文中联合确定,从而更好地使智能体的决策边界与其知识边界相匹配。我们进一步分析了这一范式如何通过训练期间更具挑战性的填空子问题,以及推理期间灵活的任意顺序解码,来提升智能体推理能力。随后,我们提出了一个两阶段后训练框架,包括智能体监督微调和方差缩减偏好优化,以增强工具使用与推理能力。我们还构建了一个综合基准,涵盖单轮和多轮工具使用场景下的六项化学任务。在预算和评测条件匹配的情况下,ChemDiffAgent 始终优于自回归智能体,整体性能提升约 20%。值得注意的是,我们的 8B 模型达到了与 GPT 5.5 和 Claude Opus 4.7 等规模显著更大的前沿模型相当的性能,在某些情况下甚至超过了它们。代码见 https://github.com/bilemond/ChemDiffAgent。

查看原文(arXiv cs.LG)