发散几何:用于自适应多轮推理的隐藏状态轨迹跟踪
Geometry of Divergence: Tracking Hidden-State Trajectories for Adaptive Multi-Turn Reasoning
精选理由
帮助识别多轮推理偏移并提升任务成功率
AI 摘要
LLM 智能体需要在严格的资源约束下,于长时间的多轮交互中保持与目标一致的推理。然而,随着多轮上下文不断累积,它会使底层 LLM 对早期轮次中任务相关信息的内部表示失稳,模糊建设性推理与表征漂移之间的边界。我们将多轮推理形式化为底层 LLM 的隐藏状态轨迹,并用两个互补信号来刻画:时间曲率,用于捕捉轮次间更新的方向一致性;以及方差斜率,用于衡量探索空间的扩张或收缩。在四项任务和三种底层 LLM 上,我们观察到这些几何信号能够在完成之前区分正确与错误的过程。我们进一步将每个过程分解为由四种动作(Read、Write、Respond、Transfer)构成的三动作链,并表明可分性依赖于动作类型,不同信号可区分不同的链模式。实验表明,轨迹几何能够识别推理过程中的关键轮次,使 τ-Bench 上的任务成功率从 24.1% 提升到 39.6%,同时将 token 成本降低 11.2%。