用于生成式检索的演化语义索引

生成式检索（GR）将搜索和推荐视为离散语义标识符（SID）的自回归生成。SID 的设计在很大程度上决定了 GR 的质量，但其离散且相互依赖的组成部分（SID 构建、冲突处理、解码和训练）无法通过梯度进行端到端优化，因此仍主要依赖人工设计。据我们所知，我们首次将 LLM 驱动的演化式程序搜索应用于 GR，并提出了一个通过该方法改进这些组成部分的框架。一个本地部署的开放权重 31B 模型对可执行的 GR 组件进行变异，因此无需使用专有 LLM API；同时，一个拥有 1M 个参数的代理解码器提供快速反馈，以替代反复训练 1B 目标生成器。在 NQ320K 上针对 21 个 SID 程序进行测试时，代理模型与目标模型的 Recall@100 呈现出很强的排名相关性（Spearman $ρ= 0.90$）。在该代理模型的引导下，在固定训练方案下，演化过程改进了 NQ320K、MSMARCO300K 和一个多语言电子商务数据集上的初始 GR。在 NQ320K 上，联合演化 SID 构建和冲突处理，将 Recall@1 从 55.8% 提升至 59.3%，将 Recall@100 从 85.8% 提升至 90.6%。组件研究表明，代理模型的可靠性取决于演化的对象：对于语义索引，改进能够可靠迁移；但对于生成器的训练目标或完整流程，改进则无法可靠迁移。因此，只要针对所选搜索空间验证代理模型的可靠性，LLM 驱动的演化搜索便是 GR 设计中的一种实用工具。