arXiv cs.AI精选74

xWhyL:因果交互式学习

xWhyL: Causal Interactive Learning

· 21天前

精选理由

提出从解释中学习因果模型的方法,帮助突破仅凭观察数据的因果发现局限。

AI 摘要

解释是因果推理的核心,而认知科学早已确立,人类解释的驱动力本身就是学习因果关系的一种机制。尽管如此,人工智能领域基本忽视了从这些溯因信号中学习。可解释人工智能(XAI)日益借助因果模型生成解释,但反过来,解释能够为因果性研究带来什么作用,仍在很大程度上尚未得到探索。为填补这一空白,我们提出了 xWhyL,这是一种通过解释学习因果模型、连接因果性与 XAI 的形式化框架。我们构建了一套数学理论,将解释转化为一种可与观测数据互补的学习信号,并展示了该理论如何突破基于观测数据的因果发现的局限。由于解释可能源于错误信念,并与数据发生冲突——我们将这种张力称为因果拉锯战(Causal Tug-of-War)——我们证明了在何种条件下,该框架会拒绝设定错误的解释,而不是将其吸收。我们的实际实现 Causal Interactive Learning(CIL)展示了专家解释如何高效支持因果发现,并区分正确解释与错误解释。

查看原文(arXiv cs.AI)