OpenAI Blog精选81

为什么我们不再评估 SWE-bench Verified

Why we no longer evaluate SWE-bench Verified

· 232天前

精选理由

帮助读者识别SWE-bench失真,转向更可靠评测。

AI 摘要

SWE-bench Verified 正日益受到污染,并且错误衡量了前沿编码进展。我们的分析显示其测试存在缺陷,并且存在训练泄漏。我们推荐 SWE-bench Pro。

查看原文(OpenAI Blog)