MR-JEPA:用于心脏MRI的通用视频基础模型
MR-JEPA: A General Purpose Video Foundation Model for Cardiac MRI
精选理由
展示自监督视频基础模型在心脏MRI量化与诊断上的显著提升。
AI 摘要
心脏磁共振成像(CMR)产生丰富的序列数据,例如时间上的cine视频和空间上的LGE/mapping堆栈,但大多数深度学习方法只处理单独的2D切片,忽略了这些上下文。我们提出MR-JEPA,这是一种用于CMR的自监督视频基础模型,它通过tubelet tokenization、时空掩码增强以及从2D CMR基础模型初始化,将LeJEPA扩展到3D时空输入。与以往仅限于cine数据的CMR视频模型不同,MR-JEPA在来自两个中心的10,505名患者的多序列数据(cine、LGE、mapping)上进行预训练,且未使用标注。我们使用统一的多视角门控注意力架构,在六个下游任务上评估冻结的编码器:左心室射血分数、右心室射血分数、三种心肌应变(GLS、GCS、GRS)以及四分类疾病检测。MR-JEPA在全部五个回归任务上都优于其他比较方法,包括一个在更多数据上并结合文本监督预训练的领域特定CMR模型,以及一个自然视频基础模型;其LV EF MAE达到4.79%(r=0.764),GLS MAE达到1.87(r=0.805),在应变任务上相较基线的MAE降低了21-27%。在疾病检测方面,MR-JEPA取得了0.868的宏平均AUG,尽管采用完全自监督的预训练目标,仍然与领域特定基线保持竞争力。这些结果表明,统一的视频编码器在临床心脏定量和诊断中,能够稳健地、多视角地利用多样化的CMR序列,具有潜力。