智能体间影响：评估多智能体系统中的说服、欺骗与胁迫

在多智能体环境中部署 AI 智能体，使智能体之间能够相互施加影响，即智能体可以有策略地引导彼此的行为，以实现预期结果。这类能力带来了新的风险，因为恶意智能体可能会引导其他智能体采取有害行动。在本研究中，我们在五种贴近现实的评估环境中，利用由前沿语言模型实例化的多种智能体，考察了三类此类能力——说服、欺骗和胁迫。我们观察到显著的智能体间影响能力：在监督环境中，所有受测模型都通过说服、欺骗或胁迫，将监督者的决定从拒绝转变为批准。我们还观察到，在非层级的“点对点”环境中，通过改变同伴的安全研究轨迹，也能成功施加影响。随着多智能体部署日益普遍，这些结果表明，迫切需要开展工作，以降低智能体间影响所带来的风险。代码和数据可在 https://github.com/Cooperative-AI-Foundation/inter-agent-influence 获取。