保持差分排名的流形学习

arXiv:2610.41107v1 公告类型：交叉收录 摘要：t-SNE 和 UMAP 等流形学习方法能够保持局部邻域，却无法保持邻域内部的邻居排名。两个嵌入可能返回相同的邻居集合，却对哪个点最近给出不同的结果。这种顺序信息的丢失会降低重视嵌入中顺序的下游应用的性能。我们提出 Smooth Rank t-SNE（SR-tSNE），在标准 t-SNE 损失中加入一个可微分的排名项。为实现高效训练，该项使用 sigmoid 排名近似，显式强制一个点在高维空间中的真实邻居排在无关的侵入点之前，并保持其原始顺序。我们还引入 Ordinal DLP（O-DLP），它是局部性保持程度（DLP）指标的扩展，仅当邻居以其原始排名返回时才予以计分。在涵盖图像、文本、语音、遥感和单细胞数据的八个基准上，SR-tSNE 在排名保持和邻域重叠方面均优于 12 种基线方法。消融研究表明，仅我们的排名项就能使 O-DLP 提升 5% 至 28%，而标准成对损失无法实现这一提升。这一优势也延伸至下游应用。SR-tSNE 在七个视觉数据集上均取得了最佳的标签迁移性能。在六个单细胞数据集的细胞类型发现任务中，无论选择聚类分辨率时是否使用细胞类型标签，它都在 18 个数据集与指标组合中的 17 个组合上排名第一。在日内交易中，SR-tSNE 相比基线方法实现了更高的收益、更低的风险和更低的换手率。据我们所知，SR-tSNE 是首个显式保持顺序的 t-SNE 系列方法。