arXiv cs.LG精选75

将 LLMs 用作智能体:代价是什么?

Harnessing LLMs as Agents: What Does It Cost?

· 9天前

精选理由

建立智能体“脚手架”资源理论,量化通信、记忆、重算与可靠性成本,指导系统设计。

AI 摘要

arXiv:2610.02488v1 公告类型:新 摘要:语言模型智能体日益依赖各种框架机制来管理有界上下文、持久化记忆、工具、验证和重复执行,但现有的模型能力概念并未量化这些机制所消耗的计算资源。我们提出语言模型智能体机(Language Model Agent Machine,LAM),这是一种资源有界的抽象:在固定底层语义模型的同时,明确计入框架层面的资源开销。我们建立了四类结果。通信方面:在同时调用—传输预算下,LAM 的执行与红—蓝 pebbling 逐实例等价,从而将经典的输入/输出下界转移到上下文—记忆流量上。访问方面:记忆接口会导致渐近分离;在指针追踪问题上,随机访问与非推测性顺序访问之间存在 $\Theta(n)$ 的差距。重计算方面:对于具有上下文容量 $C$ 和持久化记忆容量 $S$ 的系统,位反转 DAG 需要 $\Theta(n^2/(C+S)+n)$ 次模型调用,从而量化存储中间状态何时能够避免重复的语义计算。可靠性方面:我们推导出紧的阶段局部采样界、精确的不完美验证成本,以及一种 Young--Daly 型检查点定律,并给出最优验证间隔的闭式解。在 GPT-6 Astra 上开展的受控实验和留出实验检验了关于通信和可靠性的预测,包括检查点最优点、程序化检查下的策略选择,以及在链式 MATH 任务中调用粒度、逻辑输入流量和可靠性之间的权衡。总体而言,这些结果为语言模型智能体框架的计算成本提供了一套资源理论。

查看原文(arXiv cs.LG)