编码却暴露无遗：在推荐系统中，Language Embeddings 可能泄露超出预期的信息
Encoded but Exposed: Language Embeddings can Reveal More Than They Should in Recommender Systems
精选理由
揭示推荐系统语言嵌入可泄露物品乃至用户身份，并权衡隐私防护与推荐效果。
AI 摘要
arXiv:2610.21713v1 公告类型：交叉学科 摘要：Language Embeddings 越来越多地被用于推荐系统，以表示项目内容，但其隐私风险仍未得到充分理解。我们研究了当攻击者能够获取来自外部来源的辅助项目文本时，项目 Embeddings 是否会泄露项目身份。我们表明，在两个真实世界数据集上，简单的余弦相似度攻击能够在不同 Language Models 和候选集设置下，以较高的平均倒数排名恢复项目身份。当攻击者掌握的部分信息与受害者的表示存在重叠时，信息泄露最为严重；但即使描述来自彼此独立的来源，语义对齐也会使泄露持续存在。我们进一步表明，项目泄露可能通过稀疏评分传播至用户重新识别。最后，我们评估了使用混淆描述进行缓解的效果，并发现了明显的泄露—效用权衡。