arXiv cs.LG精选76

Red Queen G\"odel Machine:共同进化的智能体及其评估器

The Red Queen G\"odel Machine: Co-Evolving Agents and Their Evaluators

· 5天前

精选理由

提出智能体与评估者共同进化框架,提升自我改进效果并降低搜索成本。

AI 摘要

arXiv:2606.26294v3 公告类型:替换 摘要:自我改进型智能体在智能体编码基准测试中已达到最先进水平,但其搜索方法假设评估标准是静态不变的。这忽略了进化的一个核心特征:物种会随着环境的变化而适应。我们提出 Red Queen G\"odel Machine(RQGM),一种针对非平稳效用进行递归自我改进的进化框架。该框架使学习型评估器能够与其引导的智能体共同改进。在 DeepSWE 上,RQGM 通过加入互补的“智能体作为评审者”代码审查信号,超越了固定评估器基线:共同进化的评审者对编码器生成的补丁进行评分,以引导搜索。在较低推理投入下,RQGM 编码器在留出任务上的通过率达到 82.1%,而基线为 75.0%;在较高投入下,其表现几乎达到 GPT-6 Astra 模型的水平。在科学论文写作与评审,以及奥林匹克竞赛级别的证明写作与评分任务中,共同进化的评估器能够提供评估标准。以人类 IMO 评分为锚点,一名共同进化的评分器自行撰写阶段性评分标准,并以低 3 倍的搜索成本超越静态基线,推动证明器取得最高平均分。由于 RQGM 能够跨轮次修改搜索目标,因此可以对搜索过程进行正则化。例如,RQGM 通过加入额外的对抗性目标,发现对 AI 作品和人类作品同样严格的评审者,从而减少自我偏好偏差。在这些经过校准的评审者引导下,共同进化的写作者在“智能体作为评审者”评审面板下的接受率达到基线的 1.78 至 1.86 倍。RQGM 使自我改进系统成为可能:智能体与评估器能够在递归过程中相互促进,突破静态评估的限制。

查看原文(arXiv cs.LG)