部分可解释决策树

arXiv:2611.06428v1 公告类型：新提交 摘要：部分可解释模型在简单可解释模型的基础上，增加了将复杂输入转交给准确但不可解释的黑箱模型处理的选项。转交的输入越多，模型的准确性就越高；转交的输入越少，模型的可解释性就越强。现有训练此类部分可解释模型的方法基于线性模型或决策规则。我们针对决策树提出了三种算法：现有 Branches 算法的部分可解释扩展，通过精确搜索优化决策树；在标准 CART 基础上运行的转换算法，其计算效率更高；以及一种广义 CART，其划分准则在构建决策树时会考虑转交选项。或许令人意外的是，这三种算法在许多真实世界数据集上的表现相近。我们通过对智能决策树构建方法的潜在收益给出形式化界限来解释这一现象，前提是黑箱模型的准确率在整个输入域内足够均匀。我们还构建了一个合成数据集，刻意使黑箱模型的准确率分布不均匀。在该数据集上，我们考虑转交机制的广义 CART 确实优于常规 CART，并达到了与精确搜索相当的性能。最后，我们评估了其在概念瓶颈模型中的应用。部分可解释决策树可以替代瓶颈之后的不可解释神经网络。对于未转交的输入，模型完全可解释，而转交机制则保留了准确性。