arXiv cs.AI精选73

用于皮肤癌诊断中多源无源域适应的对比式适配器训练与共识知识蒸馏

Contrastive Adapter Training and Consensus Knowledge Distillation for Multi-Source-Free Domain Adaptation in Skin Cancer Diagnosis

· 15小时前

精选理由

提出轻量适配与共识蒸馏方法,无需访问源数据即可提升皮肤癌模型跨临床数据集的泛化能力。

AI 摘要

皮肤癌诊断,尤其是区分黑色素瘤与良性痣,由于病变之间的视觉相似性而具有挑战性。尽管卷积神经网络(CNNs)和视觉 Transformer(ViTs)已展现出良好的性能,但在来自异质临床来源的数据上,其有效性往往会下降。传统域适应方法能够应对域偏移,但在适应过程中需要访问源数据,而隐私法规往往使这一要求难以实现。多源无源无监督域适应(MSFDA)通过利用多个有标签源域,在无需访问源数据的情况下泛化到无标签目标域,从而克服这一局限。然而,现有 MSFDA 方法依赖于对整个骨干网络进行微调,导致在小规模临床数据集上出现灾难性遗忘和过拟合;同时,这些方法仅在聚合阶段处理域偏移,而未建立共享的域不变特征空间。此外,它们对硬伪标签或置信度加权聚合的依赖,会在域偏移条件下引入带噪声的监督信号。为解决这些局限,我们提出 CAT-CKD,它由两个组件构成:(1)对比式适配器训练(CAT),利用监督式对比学习(SCL),在冻结的 ViT 骨干网络中训练轻量级 ConvPass 适配器,从而在训练各源域专属模型之前建立共享的域不变特征空间;(2)共识知识蒸馏(CKD),将多个源模型的 logits 聚合为共识监督信号,并利用 KL 散度在无标签目标数据上对学生模型进行适应。在五个公开皮肤病变数据集上的实验表明,CAT-CKD 的平均 AUROC 达到 86.1%,优于现有 MSFDA 方法,同时仅需 430 万个可训练参数。代码已公开于 https://github.com/A-Abedi/CAT_CKD。

查看原文(arXiv cs.AI)