arXiv cs.AI精选81

智能体决策的因果归因:估计量、耦合与可追溯性规范

Causal Attribution for Agentic Decisions: Estimators, Coupling, and a Traceability Specification

· 38天前

精选理由

深度 94 / 新颖度 88,来自 arXiv cs.AI。

AI 摘要

高风险 AI 系统的提供商必须保存能够使决策可追溯的记录;而对于智能体系统,尚未明确这些记录必须包含哪些内容,才能实现事后因果归因。我们先给出估计量框架,再说明其失效的条件。我们将既有工作所测量的边际总效应,与能够隔离某一步自身贡献的共同随机数总效应区分开来;在固定下游的条件下加入自然直接效应,并通过手工推导检验这些估计量。随后,两种被估计量都以相同方向失效。在边际估计量下,在我们构造的链条的每一次运行中,一个因果上不起作用的步骤与决定性步骤具有完全相同的总效应;这是一种代数恒等式,而非某一次抽样中的巧合。在共同随机数条件下,决定性步骤在执行步骤发生翻转的那些运行中——约占十分之一——返回的结果恰好为零,但其直接效应为 0.25,且可以明确证明它确实发挥了作用;精确为零并不能证明某一步什么都没做,因此我们将这一点放在正文中,而不是局限性部分。我们推导出一种耦合方法,使上下文发生分歧后仍可估计直接效应,并给出其衰减的封闭形式;我们还表明,用于构建一种自然排序的介导份额,在抑制意义下并不是一个真正的份额:当直接路径与介导路径相互对抗时,该数值会超过 1,并将一个受到抑制的组件排在纯粹介导者之上。我们发布了该差异实验的预注册方案,而不是实验结果,因为它所需的在线运行管线在研究时间窗口内尚不可用。我们提出了此类备案所需的可追溯性规范,以应对 Regulation (EU) 2026/1744 的时间表所造成的空档:Article 86 赋予的解释权自 2026 年 8 月 2 日起已适用,而能够为解释提供证据的 Article 12 日志记录要求和 Annex IV 文档要求,则被推迟至 2027 年 12 月 2 日。

查看原文(arXiv cs.AI)