超越解释：通过概念干预调试医学影像模型
Beyond Explanation: Debugging Medical Imaging Models via Concept Intervention
精选理由
介绍用概念干预定位医学影像模型偏差，实现可解释、可控的性能优化。
AI 摘要
arXiv:2610.09031v1 公告类型：cross 摘要：医学影像模型通常以黑箱方式运行，限制了可解释性和系统化调试。我们提出了一个易于使用、即插即用的基于概念的解释与模型改进框架。通过将单模态编码器与 BioMedCLIP 对齐，我们构建了一个概念瓶颈模型（Concept Bottleneck Model，CBM），从而实现概念层面的干预。这些干预能够帮助我们区分因果概念与虚假相关概念，与领域专家共同验证相关见解，并生成反事实样本以进行有针对性的微调。我们在 Mayo Clinic 超声数据集和 CheXpert 5x200 胸部 X 射线数据集上评估了该框架。结果表明，概念干预能够实现可靠的模型诊断，同时通过引导式微调保持预测性能，并偶尔提升预测性能。我们的研究结果凸显了该框架在受控、可解释地改进临床深度学习模型方面的实用价值。