QECGBERT：基于 VQ-VAE 波形词元化与自监督语言学习的可扩展心电图基础模型

人工智能基础模型在推动基于心电图（ECG）数据的心脏病诊断方面发挥着关键作用，尤其适用于标注数据不足、监督学习受限的罕见疾病。然而，大多数自监督学习方法将心电图视为通用序列或图像数据，未能利用其内在的生理结构。为解决这一局限，我们提出了 QECGBERT，这是一种自监督心电图语言模型，通过对 P 波、QRS 波群、T 波及等电位背景波形进行词元化，显式编码生理语义。该模型对每份 12 导联心电图应用矢量量化变分自编码器（VQ-VAE）词元化，并利用连续波形特征丰富词元表示，在不增加序列长度的情况下保留量化过程中丢失的形态信息。这一设计支持使用短序列进行紧凑的 BERT 掩码语言建模，相较于长序列方法提高了可扩展性并降低了计算成本。QECGBERT 在包含超过 80 万条未标注心电图记录的 MIMIC-IV 数据集上进行 BERT 预训练，并在带标注的 PTB-XL、CPSC2018 和 Chapman--Shaoxing--Ningbo 数据集上进行微调与评估。结果表明，QECGBERT 的性能与已发表的基准结果相当或更优，为面向心脏疾病诊断的心电图基础模型构建提供了一种可扩展且具有生理感知能力的方法。