arXiv cs.AI精选81

差异洗白:临床多智能体系统中没有公平性的共识

Disparity Laundering: Consensus Without Fairness in Clinical Multi-Agent Systems

· 2天前

精选理由

揭示临床多智能体会转移而非消除偏见,并提出通过反事实多视角协作降低差异。

AI 摘要

临床大型语言模型越来越多地以多智能体团队的形式投入使用,前提是假设协商能够平均消除个体错误。但它并不会平均消除偏差。在对5个模型系列和4种聚合拓扑进行全因子实验时,研究人员使用了120个真实的 MIMIC-IV 急诊病例,并进行反事实人口统计特征替换,结果发现没有任何配置能够消除这种差异:全部20个实验单元都沿用了各智能体独立回答的方向,使黑人患者获得更高的急诊分诊级别。每个模型都有一种会放大其基线差距的拓扑结构,但具体是哪一种因模型而异,因此没有哪种设计能够被认为始终安全或始终会放大差距:差异只是被转移了,从未被消除。后期修复也会失败:公平性指令和人口统计特征屏蔽都无法改变这一差距,而让每个智能体自行去偏反而会扩大差距,因为偏差早已编码在智能体通常使用的临床数值中。我们将其称为“差异洗白”;当前应用于临床 AI 的审计按模型、按输出、按版本进行,可以认证各个组成部分,却永远无法认证最终达成的决策。只有当干预措施让反事实版本在系统内部变得可见,并通过协商将它们汇聚到最终决策中时,差距才会缩小。多元视角集成同时实现了这两点,并且无需重新训练或改变架构即可保留团队结构:在每一轮都汇聚全部五种视角的情况下,差异下降67%至94%;而唯一从不汇聚这些视角的拓扑结构,正是唯一无法可靠修复差异的结构。医疗多智能体系统不会过滤人口统计偏差;它们会将偏差洗白为貌似合理的决策,而单版本审计无法发现这一点。唯一的防御措施,就是让偏差显现出来。

查看原文(arXiv cs.AI)