AI 的凸组合性与 AI 系统群体的治理

AI 治理日益要求提供方和公共机构对多个 AI 系统的多种 AI 实例、替代版本和部署配置进行推理。然而，当前监管仍主要以单一系统为中心，只是零星承认这种多样性，并未将相关 AI 系统的集合视为治理对象。这造成了 AI 群体治理问题：需要确定哪些实例可以被有意义地视为一体，以及如何表示和监测它们不断变化的配置。第一个要求最近已通过基于可信性的 AI 身份理论得到处理。我们通过引入 AI 凸组合性来处理第二个要求：这是一种利用凸空间，对由有限 AI 系统群体生成的配置进行形式化表示的方法。其核心思想是，一个 AI 系统实例群体在一段时间内可能处于的运行状态的凸组合，与整个群体中的生命周期可达性相容，并且能够保留这些系统之间的形式身份关系。加权状态分布和凸包等众所周知的统计与几何构造，因而成为 AI 治理工具：它们可以在不同治理模式下区分运行状态、群体权重、异质性和 AI 配置变化，同时在所述条件下保持与生命周期可达性和 AI 身份相容。我们通过分布式医疗部署以及对招聘 AI 变体的受控部署，说明了我们的 AI 群体治理框架。