医疗 AI 隐私风险的自动化筛查

arXiv:2610.30229v1 公告类型：新论文 摘要：医疗人工智能（AI）模型通常在不附带训练数据的情况下共享，人们认为这样可以保护提供数据的患者。然而，模型可能泄露某位患者的记录是否曾用于训练，这种隐私泄露被称为成员推断攻击。这类风险通常以队列平均值报告，看似微不足道，但个别患者的隐私却可能几乎必然暴露。在开发生产模型之前识别潜在易受攻击的记录，可以使隐私评估更具实用性。我们在基于四种模态的六个临床数据集训练的 7,789 个模型中，衡量了每位患者对成员推断攻击的易感性，其中包括两个经过适配的预训练医疗模型。训练设置会改变攻击得分较高的患者数量，但在我们测试的各种配置下，风险排名最高的患者基本保持不变。更强的权重衰减可将隐私暴露的患者群体规模降至原来的三分之一，但在不同训练方案、架构和初始化方式下，包括使用基础模型时，风险最高的仍基本是同一批患者。因此，我们开发了一种轻量级筛查工具，利用四个小型模型，在生产模型训练之前识别隐私暴露风险较高的患者。我们还评估了能否在不移除这些被标记患者数据的情况下保护他们的隐私。隐私筛查应纳入临床 AI 的数据准备流程。