arXiv cs.AI精选81

Repo-To-Skill:将 GitHub 仓库蒸馏为 AI4AI 技能

Repo-To-Skill: Distilling GitHub Repositories Into AI4AI Skills

· 41天前

精选理由

展示如何把仓库知识提炼为可复用技能,显著提升AI研究代理能力。

AI 摘要

自主智能体正开始端到端地开展机器学习(ML)研究。这些智能体将模型主干与用于规划、执行、记忆和验证的 harness 结合在一起,但这种架构仍将领域特定的诀窍留在智能体之外。我们将这一缺失层称为操作性知识,即让“知道一种方法”与“把它真正跑通”之间拉开差距的经验。这类知识并不缺失于该领域。它存在于仓库和论文中,但以面向人类读者的形式呈现,而且在任务过程中大到无法直接加载。一旦被蒸馏为紧凑、经过验证的技能,这些知识便可跨任务复用,而不是在每次运行时重新发现。 我们提出 DisCo,一种由技能驱动的研究智能体,它会创建技能并在研究中使用它们。它的蒸馏分两种互补形式进行:一种是任务无关的,将该领域广泛使用的仓库浓缩为可复用技能;另一种是面向任务的,生成具体任务所需的技能。前者应用于整个开放生态,产出了 AREX-Skill Library,其中包含从 1,000 个广泛使用的 ML 仓库中蒸馏出的 5,000+ 个经验证技能,并组织为 20 个领域和 178 个能力家族。在固定 GPT-5.5 主干、研究 harness 和下游执行预算的条件下,配备技能的研究智能体在 MLE-bench 上比不带技能的同一智能体高 134.3%,在 PaperBench 上高 34.4%,在 FrontierCS 上高 9.2%,在 PassNet 上高 14.0%。这些提升来自在该固定设置下加入蒸馏后的操作上下文。

查看原文(arXiv cs.AI)