使用 Jev 的 REFLEX：实现 LLM 智能体中的高效选择性控制

LLM 智能体通常使用生成式模型进行有界决策，这引出了一个问题：何时可以在不降低任务成功率的情况下更高效地处理这些决策。我们研究了 REFLEX，这是一种智能体架构，使用 Jev 作为快速的类型化决策层，并在置信度较低或需要生成时调用强大的 LLM。在一个冻结的 100 项任务基准上，REFLEX 达到 95% 的成功率，同时相比仅使用强模型的智能体减少了 72.7% 的强模型调用；这种减少在三类回退方案中均持续存在。受控干预表明，可靠性取决于动作集大小以及授权边界附近的近似有效替代项。外部 BFCL 和 $τ$ 风格评估显示，当常规路由已经高度准确时，相比廉价的生成式级联，其优势有限。这些发现明确了使用 Jev 进行选择性控制何时可以减少计算，以及其收益在哪些方面受到限制。