智能体社会需要社会支具

智能体社会是由一组 AI 智能体构成的集合，它们代表不同的委托方，在信任边界之间自主协调，而这些委托方的目标可能只是部分一致。我们通过实验表明，在智能体社会中，即使是诚实且有能力的智能体，在使用现有支具和消息传递原语时，也常常无法达成令人满意的结果；而有缺陷或恶意的智能体则可以通过利用通信（“言语”）中的漏洞来阻碍协作、影响结果，并追求其他有害目标。我们认为，除了每个智能体用于管理其私有上下文以及与其委托方通信的 \emph{个人支具} 之外，智能体社会还需要一个用于智能体间交互的 \emph{社会支具}。我们提出了一种社会支具的分层架构，该架构 (i) 直接防止某些类别的失败，(ii) 使智能体能够在运行时检测无效消息，并且 (iii) 支持事后调查和后果追责，同时重点指出了实现这些能力的未来研究方向。