TAPES:面向任务对齐的交易事件序列联合预测预训练
TAPES: Task-Aligned Joint Predictive Pretraining for Transaction Event Sequences
精选理由
深度 88 / 新颖度 78,来自 arXiv cs.AI。
AI 摘要
交易事件序列支持在线商务和数字金融服务中的多种预测任务。同一组交易记录可以产生语义不同的预测目标,包括数值、变化以及与历史事件的关系。这些目标对历史表示施加了不同的约束,但目标本身的可预测性并不能证明目标集合对下游任务的效用。此外,针对各目标的预测损失并未显式建模目标之间的条件共现关系。为应对这些挑战,我们提出了 TAPES,一种面向任务对齐的交易序列联合预测预训练框架。TAPES 基于符合要求的字段-算子组合构建有限的候选目标集合。随后,在预算相匹配的短期联合预训练试验中,根据所学习表示的下游效用选择一个目标集合。接着,重新初始化编码器,并通过由共享离散潜变量参数化的联合似然,在选定目标上对其进行预训练,最后进行下游监督适配。在真实世界的交易风险场景以及涵盖多种下游任务的多个公开金融基准上的实验表明,TAPES 的表现优于具有代表性的基线方法。消融研究进一步验证了预测目标选择和联合建模的贡献。