基于树的模型中的区间值 SHAP

arXiv:2610.11953v1 发布类型：新 摘要：沙普利值是最受欢迎的特征归因解释方法之一。针对基于树的模型，人们已经开发出高效的沙普利值计算与估计方法；对于表格数据集而言，这类模型代表了当前最先进的水平。然而，已知沙普利值可能因微小且现实的变化而表现出（高度）不稳健性。本文提出一种基于不精确 Dirichlet 模型（IDM）的方法，用于分析决策树和随机森林中沙普利值的稳健性。具体而言，当少量未标注实例被随机引入树的叶节点时，我们通过量化和分析区间值沙普利值来实现这一目标。区间值沙普利值可以遵循处理不完整数据时的常见原则来定义：悲观原则和平均原则。我们推导出各种理论结果，从而实现区间值沙普利值的高效计算。我们还表明，所提出的方法可以直接推广到班扎夫值的情形。随后，我们通过多个案例研究和实验，展示所提出的区间值沙普利值的行为，以及其在消除无信息特征偏差方面的应用。