自信的愚者还是谨慎的搜索者?关于大语言模型何时超越静态内部记忆进行搜索的行为研究
Confident Fools or Careful Searchers? A Behavioural Study of When LLMs Search Beyond Their Static Internal Memory
精选理由
揭示大模型何时该搜索、何时该凭记忆作答,帮助评估工具调用的准确性与效率。
AI 摘要
智能体式大语言模型助手必须反复决定,是凭记忆作答,还是调用网络搜索等工具。不必要的搜索会增加延迟和费用;该搜索时却不搜索,则会产生自信但缺乏依据的答案。以往研究大多衡量模型用语言表达的置信度,或训练新的自适应检索方法,很少审查已部署产品实际做出的搜索决策。我们提出了一个包含400道多项选择题的基准,将应当直接作答、涉及广为人知信息的内部知识(IK)问题,与应当触发搜索或在无工具可用时弃答的外部知识(OK)问题相结合;后者涉及据我们所知发表于模型训练截止日期之后的新闻事实。每道题均提供弃答选项,并通过两个行动层面的评分指标 NAS 和 KIS,奖励模型在 OK 问题上进行搜索、在 IK 问题上克制搜索。我们在启用和不启用厂商提供的网络搜索功能两种条件下,对五款商业大语言模型进行了评估。GPT-5 mini 和 Grok 4 Fast 对超过90%的 OK 问题进行搜索,但仅对1%的 IK 问题进行搜索;相比之下,Mistral Small 仅对20%的 OK 问题进行搜索,且经常选择弃答而非使用工具;另有一款产品的搜索指示信息被证实无法使用。搜索在一定程度上由明确的时间线索触发:对于不含此类线索的 OK 问题,两款具有选择性搜索行为的模型,其 NAS 从约0.72降至0.57至0.58。因此,这些评分衡量的是特定产品的搜索触发行为,而非严格意义上的元认知。