当辩论放大风险:多智能体安全审议中的社会偏见脆弱性
When Debate Amplifies Risk: Social-Bias Vulnerabilities in Multi-Agent Safety Deliberation
精选理由
揭示多智能体辩论中的社会偏见如何放大网络安全风险,并提供可审计的推理时防护方案。
AI 摘要
检索增强型 Web 应用日益采用多智能体辩论(MAD),以汇总相互冲突、带有噪声且异质的信息,但审议从根本上是一种容易受到人际互动影响的社会过程。当检索到的 Web 来源在安全的事实性内容中混杂着潜在危害时,从众压力和对权威的服从等社会偏见可能凌驾于以证据为基础的安全边界之上。在本研究中,我们探讨审议的社会结构是否会以悖论方式放大潜在的 Web 安全风险。我们提出 SafeConflict-Bias,这是一种受控反事实诊断协议,覆盖六类核心 Web 风险;该协议严格保持查询和检索证据不变,同时单独考察对话中的多数意见影响、权威线索和信心不对称。对多种专有及开源基础模型进行的实证评估表明,尽管单独运行的模型能够可靠拒绝不安全指导,标准 MAD 却会灾难性地屈从于社会压力——不安全内容的采纳率从 0.0\% 飙升至 100.0\%,并系统性地压制少数派提出的安全证据。为在无需重新训练或重新生成辩论的情况下解决这一系统性脆弱性,我们提出 RiskTrace-Debias,这是一种推理时审计框架,将证据优先的预承诺、社会元数据掩蔽和一致性门控仲裁相结合。RiskTrace-Debias 将所有架构中的最坏情况不安全采纳率抑制在 $\le 2.0\%$,且不会导致过度拒答,同时生成可验证的溯源轨迹,以审计 Web 审议中的人际操纵。