arXiv cs.LG精选74

重新审视生成式检索与稠密检索:静态价值先验逆转性能差距

Revisiting Generative vs. Dense Retrieval: A Static Value Prior Reverses the Gap

· 1小时前

精选理由

揭示生成式检索的价值优势主要源于热门度,并展示简单重排如何提升稠密检索表现。

AI 摘要

arXiv:2610.19065v1 公告类型:交叉发布 摘要:随着语言模型和语义物品标识符的改进,生成式检索(GR)已成为序列推荐中强有力的候选生成方法。然而,在在线零售的候选生成任务中,GR 并非在所有方面都优于稠密检索(DR),因而不能全面取代后者。我们在两个 Amazon Toys 数据集上,采用不同指标考察了二者的差异。对于两种方法均覆盖的用户,GR 在最佳相关物品价值方面领先,而 DR 在精确目标召回率和整个排序列表的相关物品价值方面领先。通过深入分析,我们发现,流行度对 GR 实测价值优势的贡献最大。在一次重排序步骤中,将相同的静态物品价值加入 DR,即可逆转这一优势,同时使召回率保持高于 GR。最后,在一个由 LLM 判断相关性的工业规模内部电商数据集上,我们表明,参数量为 14B 的 SID-LLM 仍逊于一个参数量仅为其 $1/47$ 的稠密编码器。

查看原文(arXiv cs.LG)