缩小协作差距,或许可以
Narrowing the Collaboration Gap, Probably
精选理由
研究表明,多智能体交流经校准的行动概率比只报行动更利于整合信息,并提出纠偏方法提升协作决策。
AI 摘要
arXiv:2610.19215v1 公告类型:新论文 摘要:大型语言模型正越来越多地以智能体团队的形式部署,团队中的各个智能体掌握着有关同一任务的不同私有信息。这些智能体应如何简洁地沟通,以促进与决策相关的信息汇聚?仅传达建议采取的行动可能会丢失与决策相关的不确定性:两个智能体可能出于不同原因偏好同一行动。我们研究了一种替代性交互方式,让智能体传达经过校准的、关于各项行动的信念概率。我们首先分析了一个简单的合成情境,它刻画了信息不完整条件下多轮推理的结构。在这一情境中,我们从理论和实证两方面表明,传达无偏概率可以严格优于传达行动。随后,我们在协作求解迷宫任务中,使用经过训练的 transformer 和预训练 LLM 智能体检验了同一原理。结果表明,当交换的预测保留了经过校准的不确定性时,概率沟通优于行动沟通。我们还表明,当传达的概率存在偏差时,概率沟通的优势可能消失。我们提出了一种事后对话校准干预方法,通过纠正这些偏差,在简化的 transformer 情境中,以及预训练 LLM 在上下文中使用这些修正时,都能持续改善决策。这些结果表明,概率沟通之所以有助于多智能体协作,并不仅仅是因为它传递了更多信息,还因为经过校准的不确定性为其他智能体更新自身信念提供了可靠依据。