残差随机概念瓶颈模型

arXiv:2610.23421v1 公告类型：新 摘要：基于概念的模型（CMs）学习人类可解释的中间表示，使用户能够理解模型的推理过程，并通过测试时概念干预来引导其预测。然而，在现实场景中，这类模型的性能可能受到概念不完备性的限制，即训练所使用的概念未能涵盖所有与任务相关的信息。在模型的预测过程中添加一个不受约束的残差通路，可以克服概念不完备性带来的影响。但这会引入一条难以解释且容易发生信息泄漏的预测通路，从而削弱概念干预的效果，因为概念干预通常不会改变残差变量。为解决这一局限，我们提出残差随机概念瓶颈模型（Res-SCBMs），这是一类通过多元高斯分布联合建模概念变量和残差变量的基于概念的模型。Res-SCBMs学习一种协方差结构，显式捕捉已知概念与学习得到的残差变量之间的依赖关系，从而允许干预通过高斯条件分布传播至具有统计依赖关系的残差变量。这扩展了以往基于概念的模型的干预能力，同时无需在训练期间满足概念完备性。我们的结果表明，在多个概念不完备基准数据集上，Res-SCBMs在保留有效测试时概念干预能力的同时，相较于具有竞争力的基线方法提升了预测性能。