arXiv cs.AI精选78

遵守局部控制,却产生集体歧视:受监管金融领域多智能体 AI 的治理架构

Compliant with Local Controls, Collectively Discriminatory. A Governance Architecture for Multi-Agent AI in Regulated Finance

· 20天前

精选理由

提出面向金融多智能体的群体治理架构,帮助识别局部合规下的整体歧视风险。

AI 摘要

金融机构开始在信贷、欺诈检测、催收、合规和运营控制中部署智能体工作流。治理仍主要以组件为中心:每个模型或智能体分别在本地进行规定、测试、授权和监测。当机构风险源于众多在本地均可接受的组件的联合行为时,这种做法是不够的。我们将这一缺口称为宪制非组合性:局部合规检查未必能够组合成可接受的集体结果,例如有界的不利影响、市场完整性或可追溯的问责。我们提出 ARIA,作为面向金融领域的智能体群体治理参考架构和可证伪研究议程。该架构在规范—问责、执行—控制和保证—学习三个层面组织六项能力:政策规范、群体层面的观测行为与预期行为监测(M2)、权限边界、运行时遏制、自适应政策变更,以及保持人类监督能力。两项模拟分别展示了局部控制下由共享信号导致的薄档案排除,以及在构造的漂移情境中,观测行为与预期行为的分布监测如何更早发出预警。本文将这些控制措施与公平放贷、EU AI Act、模型风险和行为监管所需的证据相对应,并以验证议程收束,而不是宣称其在生产环境中的有效性。

查看原文(arXiv cs.AI)