arXiv cs.AI精选76

物理 AI 基准冗余的统计审计

A Statistical Audit of Physical AI Benchmark Redundancy

· 48天前

精选理由

帮助识别冗余基准并精简评测组合

AI 摘要

物理 AI 模型是在一组基准上进行评估的,而这些基准在不同的模型报告中并不一致,这使得模型-基准矩阵较为稀疏,且基准之间的关系未被测量。我们从一个包含 51 个基准和 152 个模型的注册表中,按报告密度筛选出 12 个物理 AI 基准和 51 个模型,构建了一个矩阵,并结合模型卡和基准论文中的分数,以及我们在各基准官方协议下的自有评测结果。我们衡量这些基准共享了多少信息,并给出冗余的定量证据。冗余会影响已报告的排名:将两对可替代的基准合并为单列后,在等权平均下,51 个模型中有 22 个的位置变化了 3 名或以上。随后,我们通过一个贪心过程选择基准,该过程所用效用函数结合了分数离散度与未被已选集合解释的方差,最终得到一个四基准子集,保留了全部 12 个基准效用的 78.5%,并在此基础上拟合了一个 Bradley--Terry 排名。该流程只需要具有足够重叠的基准级分数,并不特定于物理 AI。

查看原文(arXiv cs.AI)