arXiv cs.LG精选74

器官不对,物理学对:将超声心动图预训练迁移至肺部超声进行结核筛查

Wrong Organ, Right Physics: Transferring Echocardiography Pretraining to Lung Ultrasound for Tuberculosis Screening

· 9天前

精选理由

研究表明,特征标准化比预训练域选择更关键,可提升肺超声结核筛查性能。

AI 摘要

arXiv:2610.03290v1 公告类型:cross 摘要:肺部超声(LUS)对于基层医疗层面的结核病(TB)筛查颇具吸引力,但有标注队列规模较小。超声心动图不存在这一限制,同时与LUS共享相同的底层超声成像物理、信号处理方式和B模式外观。我们探讨,在这一高资源超声领域上预训练的编码器,是否能够提取出在低资源领域中仍然可用的表征。我们仅改变编码器,涵盖三个架构系列的十七个编码器。在这些编码器中,针对通用视频进行预训练的潜变量预测视频编码器(V-JEPA2-L)与其超声心动图对应版本(EchoJEPA-L)仅在预训练语料上存在差异。对这些编码器进行选择并不能解决分类问题:整个编码器家族的性能差异为2.50个百分点,而测量分辨率为2.71个百分点。真正改变任务表现的是特征条件化。对编码器与分类器之间的特征进行标准化后,十七个编码器的平均性能均提升了+1.23个百分点,p=1.5×10^-5。在留出测试集上,开发集各折中选出的每个编码器,其受试者工作特征曲线下面积(AUROC)均高于基线系统,最高提升+2.57个百分点;在90%敏感度下,特异度达到79.3%,而基线为60.3%。预先指定的对比,即EchoJEPA-L与V-JEPA2-L之间的对比,差异为-0.16个百分点,p=0.926。因此,我们没有发现证据表明,仅凭共享的超声物理特性,就能使超声心动图成为比通用视频更高效的预训练语料库;即使存在优势,其幅度也小于该队列所能分辨的程度。不过,视频编码器接收的是复制后的静态图像,因此无法区分这一无效应结果究竟反映了预训练领域的影响,还是视频编码器应用于静态帧所导致的结果。限制因素是有标注队列,而非编码器。

查看原文(arXiv cs.LG)