物品表示至关重要：连接生成式检索中的硬语义 ID 与软原型混合

arXiv:2611.05799v1 公告类型：交叉发布 摘要：现代推荐系统依赖生成式检索技术，以离散编码或连续向量的形式预测下一个物品。一方面，语义 ID（SIDs）为离散模型提供了共享参数和预训练语义结构，但将物品离散化为硬编码会丢失原始内容嵌入中的部分信息。另一方面，连续模型避免了量化，却通常使用扁平的物品查找表，未在物品之间显式共享参数。我们探究连续推荐模型能否引入共享结构，同时避免形成离散瓶颈。我们提出 CAP-Mix，这是一种基于流的推荐模型，将每个物品表示为共享原型的软混合与物品专属向量之和。分配权重、原型和物品向量进行联合训练，并在推理时保留软表示。预训练信息是可选的：SID 责任权重可作为分配权重的先验，而完整的内容嵌入可用于初始化物品专属向量，同时不改变初始扁平表。在三个数据集上的同等条件比较中，不使用预训练信息进行训练时，CAP-Mix 在两个稀疏的 Amazon 数据集上优于扁平表，并在 Steam 上取得小幅提升。仅提供离线 SID 时，与使用同一分词器构建的硬分配表相比，其 HR@5 提升了 4.45–14.90%。提供完整内容嵌入时，其表现达到或超过了强大的扁平表基线，而硬分配在稀疏的 Amazon 数据集上出现性能下降。总体而言，在六项基准测试中取平均，相对于每个数据集和指标上接受评估的最佳基线，CAP-Mix 的 HR@5 和 NDCG@5 分别提升了 6.9% 和 13.6%，同时在我们的实验中实现了离散基线 1.4–161 倍的推理吞吐量。