SelectArena：面向真实世界表格数据的现代特征选择基准

arXiv:2610.13644v1 公告类型：新论文 摘要：从表格数据集中选择特征（列）的子集，是现实应用中普遍存在的挑战。行业专家希望最大限度地降低模型训练成本，气候科学家需要一组可解释的因素子集来理解极端天气事件，临床医生则因资金和时间限制而需要在诊断检查项目之间作出选择。然而，当不同领域的实践者查阅科学文献以确定采用哪种特征选择方法时，所面对的基准评测体系缺乏代表性。尽管相关研究十分广泛，现有特征选择基准所能提供的指导仍然有限，因为它们依赖过时的模型、临时制定的评估流程，或无法反映现实问题的人工生成数据。为弥合科学基准评测与现实应用之间的差距，我们推出了现代特征选择基准 SelectArena。我们采用标准化评估流程和最先进的表格（基础）模型，在 71 个经人工精心整理、涵盖分类与回归问题的真实世界表格数据集上，对 15 种广泛使用的特征选择方法进行了比较。结果揭示了预测性能、运行时间、稳定性和有效性之间的明确权衡。在同时考虑预测性能和运行时间时，基于树的方法 CART 和 RFImportance 以及 F-Test 均达到帕累托最优。F-Test、基于信息论的方法和基于距离的方法在稳定性与有效性方面表现领先，其中 F-Test 在我们采用的各项指标上展现出均衡表现。基于搜索的方法速度慢、稳定性差，且性能较低。SelectArena 将这些发现转化为实践指导，并作为一个可扩展的平台，为未来的特征选择研究提供支持。