基于选择的结构化推理：迈向高效的多模态搜索智能体

arXiv:2610.01892v1 公告类型：新 摘要：多模态智能体通常会在每次执行动作前生成自由形式的推理。对于小型模型而言，有限的模型容量可能导致生成冗长的推理，这些推理对动作生成几乎没有有用指导，却会带来显著的推理成本。为应对这一挑战，我们提出基于选择的结构化推理（Selection-based Structured Reasoning，SSR），这是一种将推理重新定义为选择而非开放式生成的框架。SSR 将反复出现的高层次推理表示为预先指定、可复用的自然语言候选项。在每一轮中，模型根据当前上下文条件下各推理候选项的似然，从中进行选择，而无需额外的任务预测头。使用预先指定的推理轨迹可以实现并行评分：通过教师强制预填充，利用共享的上下文 KV 缓存，在候选项内部及候选项之间并行计算词元似然。我们使用 2B 和 4B 模型，在七个多模态搜索基准上评估了 SSR。在多种强化学习目标和监督微调设置下，SSR 在不牺牲任务性能的情况下实现了显著的效率提升。SSR 达到了与同等规模领先搜索智能体相当的平均成功率，同时将每轮推理延迟降低了 90% 以上，并将每个问题的模型总推理延迟降低了 28%–54%。项目主页：https://zfy0314.github.io/ssr-webpage/。