arXiv cs.AI精选77

自主机器学习工程中,强大的智能体需要多复杂的框架?

How Much of a Harness Does a Strong Agent Need for Autonomous ML Engineering?

· 13天前

精选理由

研究显示,强模型配合极简工具即可媲美复杂框架,为自主MLE代理设计提供减法思路。

AI 摘要

近期的自主机器学习工程(MLE)智能体在公开排行榜上取得了显著进展。现代 MLE 智能体通常受到长期运行周期中进展停滞以及大型语言模型(LLM)原语有限等问题的推动,被部署在日益复杂的系统之上:多智能体编排器、专用检索子智能体,以及其他组件。尽管这类框架不断扩展,但领域内很少关注更为基础却有所改进的编码智能体——在这类智能体中,LLM 可通过 read、write 和 bash 原语直接访问执行环境。在本文中,我们发现,在相同的时间预算和相同的前沿 LLM 主干模型下,开源的最先进框架相比于采用最小框架的编码智能体基线单次会话并无优势,这表明主干模型是性能的主要驱动因素。通过一系列大规模、系统性的消融研究,我们认为,在编码智能体设置下,各层系统组件变得多余。我们得出结论:围绕强大模型构建复杂的手工设计框架,对于当前的 MLE 基准测试而言,投入产出比很低。

查看原文(arXiv cs.AI)