ConEx：通过概念感知归因实现人类可解释的显著性图

计算机视觉中的许多视觉解释方法能够突出像素的重要性，却难以将这些低层次线索与具有语义意义的概念联系起来，从而限制了其可解释性与可信度。我们提出概念解释（Concept-based Explanations，ConEx），这是一种新型框架，将显著性可视化与基于概念的推理相结合，同时提供忠实性与可解释性。ConEx能够自动发现类别特定的概念，并通过概念激活向量（CAVs）表示这些概念。该方法利用一种无需人工监督的、特定于架构的掩码机制进行学习，减少分割掩码引入的噪声，从而提升概念纯度。ConEx生成忠实的显著性图，揭示每个概念在图像中的出现位置及其对预测结果的贡献。为评估所学习概念的可靠性，我们提出了两个互补指标：向量—概念匹配（VCM）和概念—类别匹配（CCM），用于量化概念对齐程度，并支持与现有方法进行直接比较。在多种设置下开展的大量实验表明，ConEx在忠实性、分割和概念质量基准测试中均取得了当前最优的性能。总体而言，ConEx推动了视觉模型朝着真正可解释且以概念为基础的解释方向发展。