一种用于因果概率解释的计算可行框架

解释某个特定结果为何发生，以及哪些输入应当承担责任或获得功劳，是哲学、科学和政策分析中的核心问题。现有工具分成两类。实际因果理论（AC）能给出有原则的判断，但仅适用于玩具规模的模型，因为计算这些判断需要枚举反事实情景。诸如 SHAP（甚至 causal SHAP）之类的可扩展归因方法至少在某种程度上忽略了生成数据的因果结构，并且可能给出与严谨因果分析相冲突的答案。我们用 Probabilistic Causal Impact（PCI）弥合这一鸿沟。 PCI 建立在实际因果和 Pearl 的必要性概率与充分性概率概念之上，但将可解释性问题重新表述为一个概率因果模型上的估计问题，而该模型可通过 Monte Carlo 轻松近似。通过指定“候选解释”的分布、反事实取值的分布以及一个评分函数，PCI 提供了可处理、以因果为基础、分级的解释，并将 AC 和 Pearl 的 causation probability 作为退化情形加以推广。 我们在合成和真实世界示例中评估 PCI，涵盖与 AC 的一致性检验、扩展性实验、复杂的连续值动力系统，以及一个在真实世界部署、并用数百万数据点训练的因果机器学习模型。