对话智能体的持久化检索：检索效率研究

对话智能体可以直接检索信息，也可以将检索任务委派给子智能体。这一设计选择会影响检索历史的维护方式、每次模型调用接收的上下文，以及在后续问题中必须重新检索的信息。我们比较了三种设计：主智能体中基于技能的检索、生成检索结果回复的非持久化检索子智能体，以及我们提出的持久化检索子智能体，后者跨轮次维护检索历史，并将检索到的证据直接返回给主智能体。我们的方法还允许主智能体向同一子智能体请求修正。我们在企业相关问题上评估这三种设计，问题分别以独立提问、同一对话内提问以及依赖前文的后续提问形式提出。在五种多轮对话设置下，与基于技能的检索相比，我们的方法使记录的智能体模型词元用量减少了43.3%，预估API成本降低了45.0%，同时平均响应时间缩短了9.1%。与非持久化检索相比，该方法使每个问题的响应时间缩短了15.6秒，但词元用量增加了65.1%，预估API成本提高了29.1%。我们的方法将检索子智能体的职责从生成综合回复转变为维护检索状态并提供证据，使主智能体能够直接评估这些证据并将其用于生成答案。