ReproBridge:将可复现性融入机器学习研究产物
ReproBridge: Building Reproducibility into ML Research Artifacts
精选理由
将实验流程与决策整理成可复现制品,可显著提升复现成功率、降低 API 成本,并缩小模型间差距。
AI 摘要
复现机器学习实验需要根据散布在论文、已发布代码和配套产物中的信息重建操作流程。因此,对编程智能体而言,复现能否成功可能取决于其补全缺失细节的能力,而非仅取决于已发布的产物。我们研究了保留重建的流程和决策是否能改善后续的独立复现。我们定义了一种标准化的产物设计,包含完善后的代码库、环境配置、实验启动器和复现指南,并提出 ReproBridge,这是一套用于构建此类完善的可复现产物的智能体工作流。ReproBridge-Bench 提供了来自 36 篇论文中 387 项实验的 1,029 个任务,每个任务均以五个人工核验的参考分数为基准。智能体在全新会话中使用原始代码或完善后的产物尝试完成任务;独立的 Auditor 则负责检查执行证据。在评估的四个模型中,完善后的产物将平均复现成功率从 76.4% 提升至 92.6%,并使下游 API 支出平均减少 19.7%。模型间的成功率差距从 21.6 个百分点缩小至 3.9 个百分点,四个模型的平均成功率均超过 90%。消融研究表明,移除任一组件都会降低成功率,其中移除代码和环境组件造成的降幅最大。这些结果表明,保留执行知识有助于模型以更可靠的方式、更低的 API 成本复现实验,即使是使用原始代码时成功率较低的模型也能从中受益。