arXiv cs.LG精选77

灵活的强度函数至关重要:对 Hawkes 过程与神经时间点过程的全面重新评估

Flexible Intensities Matter: A Comprehensive Re-evaluation of Hawkes Processes and Neural Temporal Point Processes

· 1小时前

精选理由

系统比较经典与神经时序点过程,揭示模型优势主要在事件时间预测,并为模型选型提供实证依据。

AI 摘要

arXiv:2611.06348v1 公告类型:新论文 摘要:时间点过程(TPP)是事件序列数据的标准建模框架,应用涵盖地震学、社交媒体和电子健康记录。近期有研究报告称,神经 TPP 的性能显著优于 Hawkes 过程等经典 TPP,但这些比较将灵活的神经模型与形式受到最严格限制的 Hawkes 过程进行对比,且未考虑大规模医疗数据。在此,我们重新审视这一比较,在五个成熟的基准数据集以及两个源自 UK Biobank 疾病史和 MIMIC-IV ICU 记录的大规模医疗评估任务上,采用自回归下一事件预测,对灵活性逐步提高的 Poisson 过程和 Hawkes 过程与神经 TPP 进行系统评估。首先,一旦为 Hawkes 过程配备灵活、可学习的基线强度和核函数,此前报告的 Hawkes 过程与神经 TPP 之间的差距便基本消失。其次,强度参数化的灵活性也限制了以往的神经 TPP:配备基于样条的强度预测头的 Transformer 优于先前基于强度的神经 TPP,并与无强度模型表现相当。将对数似然分解为时间项 $\log p(t)$ 和类型项 $\log p(d \mid t)$ 后,我们发现,这种灵活性优势几乎完全体现在时间概率密度上:更高的灵活性并不能改善类型项。因此,在这些基准上,神经 TPP 的性能提升主要来自对事件何时发生的建模,而非对发生何种事件的建模。第三,我们的结果凸显了复杂数据集对于评估 TPP 的价值:只有在 MIMIC-IV ICU 记录上,神经 TPP 才能在类型项上保持优势。我们的结果为未来的方法开发和模型选择提供了参考。我们将框架 TorchPP 作为开源软件包发布,为经典 TPP 和神经 TPP 提供一致的实现。

查看原文(arXiv cs.LG)