调用还是不调用：诊断 LLM 智能体的内在过度调用偏置
To Call or Not to Call: Diagnosing Intrinsic Over-Calling Bias in LLM Agents
精选理由
揭示并量化大语言模型智能体过度调用工具的内在偏差，提供可解释、可干预的校准方法以提升决策准确性。
AI 摘要
arXiv:2605.18882v2 公告类型：替换 摘要：LLM 智能体表现出持续的过度调用倾向，即使在无需工具的情况下也会调用工具。在 When2Call 基准上，来自三个系列的六个模型均表现出较高的调用准确率，但不调用准确率低得多，导致总体准确率仅为 55%–70%。我们将这一现象归因于内在偏置假说（IBH）：调用／不调用的决策映射带有一个与激活无关的调用偏移项，因此，即使两者激活水平相同，模型也会偏向调用。利用稀疏自编码器（SAEs），我们提取出与 call/no_call 决策行为对齐的特征基，将其归约为带符号的激活差值，并直接估计该偏移项。在全部六个模型中，只有当 no_call 激活强于 call 激活时，模型才在决策上保持中立，这与 IBH 一致。随后，我们使用自适应差值校准引导（AMCS）对 IBH 进行因果检验；该方法沿 SAE 解码器方向施加闭式求解的反偏置偏移。抵消诊断出的偏移项能够缓解过度调用并提高总体准确率，同时调用准确率的下降微乎其微。我们的工作将过度调用从一种经验现象重新界定为可进行因果校正的机制性对象。代码已公开：https://github.com/SKURA502/agent-sae/。