置换鲁棒性还不够:多智能体 Transformer 策略中的动作坍缩
Permutation Robustness Is Not Enough: Action Collapse in Multi-Agent Transformer Policies
精选理由
揭示多智能体策略低置换误差可能掩盖动作坍缩,提示需兼顾鲁棒性与行为多样性评估。
AI 摘要
arXiv:2610.02848v1 发布类型:cross 摘要:Transformer 策略之所以在多智能体机器人学习中颇具吸引力,是因为自注意力能够对智能体之间的交互进行建模。然而,多智能体团队是无序的,而 Transformer 通常将智能体作为有序的 token 序列进行处理。我们研究了这种不匹配如何影响智能体顺序置换下的协作导航策略。结果表明,仅凭较低的置换误差可能会产生误导:策略看似具有鲁棒性,实际上可能只是因为所有智能体都选择了相同的动作。因此,我们同时采用置换一致性指标和动作坍缩诊断来评估策略,包括动作多样性、相同动作比例和最大动作频率。PPO-ID 基线表现出未发生坍缩的行为,但仍然对顺序敏感;而较强的等变性正则化仍可能诱导出同质化行为。对于包含 \(N=3\) 个智能体的团队,较弱的等变性惩罚能够在保留更多样化动作的同时提升鲁棒性;而包含 \(N=4\) 个智能体的团队则需要显著更小的正则化权重。这些发现表明,多智能体 Transformer 策略的评估不应仅关注回报和置换鲁棒性,还应关注其是否能够维持未发生坍缩、具有差异化的多智能体行为。