RPTune：面向 LLM 目录搜索的学习型上下文整理

arXiv:2610.00964v1 公告类型：cross 摘要：对于目录规模能够容纳在长上下文 LLM 中的小型商户企业（SMBs）而言，全目录提示为多阶段检索提供了一种有吸引力的替代方案，而后者主要是为拥有数百万件商品的大型市场设计的。然而，将完整目录放入上下文窗口并不意味着模型就能有效利用它，因为 LLM 并不会均匀地利用长上下文。因此，我们围绕两个互补问题研究上下文内目录搜索：（1）如何整理目录并将其呈现给 LLM；（2）如何让 LLM 适应在经过整理的上下文中进行商品选择。我们提出 RPTune，这是一个端到端框架，通过自动生成、以目录为依据的监督信号，将学习型目录整理与 LLM 后训练相结合。一个编码器-重组器目录整理器在下游 LLM 反馈的指导下对商品进行排序和删减，而整理后的目录反过来又通过上下文相对奖励提升 LLM 后训练的效果。我们在 7 家覆盖不同零售垂直领域的真实商户上评估 RPTune，每家商户使用 100 个复杂的对话式查询。RPTune 在专有和开放权重 LLM 上均持续提升搜索准确率，其中上下文整理带来的提升最高达 31.4 个百分点，后训练平均进一步提升 10.3 个百分点。