GRUET：量化智能体推理与行动过程的不确定性

由于能够在开放且动态的环境中同时执行推理与行动（ReAct），智能体受到了日益广泛的关注。ReAct 过程通常表现为多轮轨迹，其中，大型语言模型（LLMs）以交错的方式生成推理链和特定于任务的行动。然而，智能体往往存在显著的不确定性，即相同的任务会产生不同的轨迹；不确定性较高的轨迹通常会产生难以理解的行为，严重削弱智能体的可信度。本文推测，这种轨迹层面的不确定性通常源于由 LLMs 引起的累积性轮次级推理不确定性；后者往往表现为多条分 divergent 的推理链及其所产生行动构成的分支集合。在此基础上，我们提出了基于图的轨迹推理不确定性（Graph-based Reasoning UncErtainty in Trajectories，GRUET）方法，用于量化 ReAct 的不确定性。该方法包括轮次级推理不确定性量化和轨迹级不确定性聚合两个部分：前者通过将潜在推理分支所构成的推理空间建模为图，并利用图复杂度近似推理空间复杂度，从而精确量化推理不确定性；后者采用简单的聚合策略来量化整体轨迹的可信度。在九个 LLMs 和五个基准数据集上的实验证明，所提出的 GRUET 在选择性生成性能方面具有有效性，该性能通过 AUROC、AUPRC 和 AUARC 进行衡量。