TEX-MEX：用于时间序列的相似性引导时序对比学习

arXiv:2610.19557v1 公告类型：新投稿 摘要：时间序列对比学习依赖于判定哪些输入对应该被视为相似或不相似。由于很少有数据增强方法能够可靠地保留时间序列的语义，已有方法依赖于两种彼此分离的窗口相似性概念：结构相似性，即关联形态相似的窗口；时间相似性，即关联在时间上相近的窗口。我们提出 TEX-MEX，据我们所知，这是首个将二者统一为单一关系的方法。对于从整个数据集中随机抽取的一批窗口，TEX-MEX 使用编码器识别哪些窗口在结构上彼此相似或不相似。随后，它将每个窗口拉近至相似窗口的时间平移版本，并使其远离不相似窗口的时间平移版本，从而学习在时间上通常伴随相似窗口出现的内容。在光电容积脉搏波（PPG）、脑电图（EEG）、心电图（ECG）、加速度测量和连续血糖监测等领域，TEX-MEX 相较于对比式、重建式、基于 JEPA 以及模态专用的方法，普遍取得了最先进的性能，表明它是一种强大的通用自监督学习（SSL）目标。我们还训练了一个具有 56 万个参数的 PPG 基础模型，该模型在广泛的下游基准测试中取得了最先进的性能，同时参数规模约为我们评估中表现次优的单模态预训练 PPG 基础模型的 1/50。我们将向社区开放该基础模型的源代码和权重，以支持未来研究和实际应用。