参与式道德 AI 并非中立：开发者的无形之手

随着 AI 系统在社会各领域做出更多带有道德负荷的决策，一种应对方式是道德偏好 elicitation。在这种方法中，研究人员就假设性困境对参与者进行民意调查，并使用汇总后的投票来训练一项策略，随后由 AI 模型大规模应用。在任何投票开始之前，开发者会在道德 AI elicitation 流水线中做出三个关键选择：特征范围界定、投票者抽样和问题框定。换言之，他们决定哪些特征交由投票、纳入哪些投票者，以及如何呈现问题。这些选择往往是不透明的、未被记录的，并且被视为技术细节而非规范性问题。我们在一项常见的实证研究中考察这些选择，并表明每一项选择都可能塑造道德 AI elicitation 所产生的偏好。在两个阶段（N = 809）和三个部署情境（即 AI 肾脏分配、模拟缺席员工的 AI agents，以及生成式 AI 对逝者的描绘）中，我们考察了道德 AI elicitation 流水线的三个主要阶段。首先，具有道德相关性的特征会随情境而变化。这表明，不应假定特征模式可以跨部署领域迁移。其次，约三分之一的特征会因政治意识形态而呈现偏好差异，其中一些差异的方向会发生反转。因此，投票者群体的意识形态构成会影响最终汇总出的偏好画像。第三，elicitation 问题的措辞最多可将意识形态差距缩小或扩大一个完整量表点。框定条件还会改变道德基础与参与者判断之间的关联方式。综上，这些发现表明，基于投票的对齐无法仅凭聚合就实现公平或透明的 AI；至少，道德 AI elicitation 流水线的每个阶段都应接受审计并予以披露。