arXiv cs.AI精选77

Ecdysis:大语言模型(LLM)智能体运行时框架的高效有效训练

Ecdysis: Efficient and Effective Training of Runtime Harnesses for LLM Agents

· 33天前

精选理由

深度 84 / 新颖度 82,来自 arXiv cs.AI。

AI 摘要

自演化运行时框架能够显著提升大语言模型(LLM)智能体的能力,并为优化智能体执行提供一种富有前景的范式。现有的框架演化方法通常依赖迭代搜索,根据任务实例的执行反馈反复评估和修改候选框架。尽管这种范式支持持续的框架优化,但由于需要反复执行智能体和修改代码,会产生巨大的时间开销;同时,它还可能对已观测任务和特定失败模式过拟合,从而导致在未见任务上的泛化能力下降。我们发现,缺乏有原则的失败诊断是框架演化的关键瓶颈:观测到的失败可能源于模型特定的缺陷,也可能源于系统性的框架缺陷,而直接针对单个失败进行优化,可能导致不必要的模型特定适配。为此,我们提出 Ecdysis,这是一种高效且有效的框架,能够区分模型特定适配与框架层面的修复,并通过识别跨任务反复出现的失败模式,使适应过程偏向系统性的框架缺陷。Ecdysis 采用批次级跨实例失败聚合范式,联合分析多个任务实例中的失败证据,并进一步引入失败驱动的协同优化,以诊断失败原因并迭代完善框架修改规范。通过结合跨实例失败分析与多角色诊断,Ecdysis 能够以更短的训练时间实现更有效的框架演化。实验表明,与现有框架演化方法相比,Ecdysis 将框架训练速度最高提升至 1.84 倍,同时使所得框架的推理准确率提升 18.56%。

查看原文(arXiv cs.AI)