如何进行敏感性辩论：一种针对 AI 辩论的实例最优协议

arXiv:2610.02557v1 公告类型：cross 摘要：随着强大的 AI 系统在一系列认知要求较高的任务中达到并有时超越人类专家的能力，对这些系统进行准确监督和监管的问题变得日益紧迫。一种有前景的方法是 AI 辩论，其旨在利用两个强大 AI 之间的辩论，将复杂问题分解为更简单、可以直接进行判断的主张。关于辩论的理论研究已在计算复杂性理论的语言框架下将这一理念形式化，其目标是设计协议（即辩论游戏的规则），在监督资源有限的情况下，为判断复杂问题的解答提供严格的正确性保证。具体而言，目前最优的协议已被证明适用于所有能够以足够稳定的方式分解为子问题的问题。在本文中，我们针对同一类问题设计了一种新协议，并在多个方面改进了以往的工作。首先，正确性保证适用于最坏情况，而非平均情况。其次，对于双方辩手而言，诚实且正确都是占优策略均衡，而非 Stackelberg 均衡。最后，我们证明了黑盒下界，表明我们的新协议在逐实例意义下是最优的。也就是说，对于这一类问题，任何仅对人类判断进行黑盒查询的协议都无法超越我们的协议。我们通过将稳定问题分解的概念与查询复杂性中的分数块敏感度概念联系起来，得到了这些结果。