arXiv cs.LG精选72

用于事件驱动 Latent Jump Models 的 Scan-Parallel Variational Inference

Scan-Parallel Variational Inference for event-driven Latent Jump Models

· 2天前

精选理由

为不规则时间序列提供显式建模潜在突发事件的方法,并借助并行推断大幅加速训练。

AI 摘要

arXiv:2610.12986v1 公告类型:交叉发布 摘要:连续时间潜在状态空间模型广泛用于不规则观测的时间序列,通常通过随机初始状态及其后平滑的常微分方程(ODE)动力学,或通过随机微分方程(SDE)累积的布朗扰动来表示不确定性。虽然这些构造对于平滑系统或扩散系统而言很自然,但它们并不能直接编码有限个未观测冲击,而这些冲击的发生时间、幅度及其对记忆的影响本身也具有不确定性。为此,我们提出 Latent Jump Models(LJMs):潜在状态在泊松过程驱动的事件时刻之间遵循闭式确定性动力学,并在每次事件发生时经历一个学习得到的瞬时跳变,其强度和标记分布均依赖于状态。这定义了一个时间齐次马尔可夫过程,其中的跳变是内在的状态转移,而非数值积分步骤。在训练方面,我们推导出一个易于计算的事件增强路径空间证据下界(ELBO),并提出 Scan-Parallel Variational Inference(SPVI):以观测为条件的变分后验先采样完整的潜在事件配置,再使用三角仿射扫描计算状态递推。这使 LJMs 能够以对数级时间维度计算深度实现快速且可扩展的训练。在合成随机系统和真实的不规则时间序列上,LJMs 的预测精度与连续时间潜变量基线模型相比保持竞争力,其潜在状态更新次数通常少于数值求解器的求值次数,同时训练速度比序贯基线模型快一到两个数量级。

查看原文(arXiv cs.LG)