Engram Memory Network：受大脑启发的原型解释

arXiv:2610.27770v1 公告类型：新论文 摘要：人工智能系统正日益应用于高风险决策。对此，可解释人工智能中的基于原型的模型因能够检索视觉上相似的示例作为忠实解释而受到越来越多的关注。尽管这些模型能够达到具有竞争力的分类准确率，但在特征各异的数据集上，其解释质量往往会下降，从而限制了实际应用价值。我们借鉴认知神经科学，尤其是人类记忆系统的相关见解：该系统将与输入相关的信息编码为支持识别的表征。我们提出了 Engram Memory Network（EMN），一种模拟人脑腹侧视觉通路和下颞叶皮层的模型。该模型的核心是一个受 Hopfield 启发的记忆模块，用于迭代检索具有代表性的原型。这些经记忆模块优化的潜在表示同时用于重建和分类，从而促使所选原型在不同数据集上捕获与输入相关的信息。为解决原型解释缺乏标准化评估的问题，我们评估了三个互补方面：感知相似度（LPIPS 和 DISTS），用于衡量感知上的相似程度；子类对齐度，用于衡量原型是否在监督标签之外与输入的细粒度类别相匹配；以及信息保留度（NMI），用于衡量所选原型捕获了多少输入信息。实验表明，在 CIFAR-10/100、MNIST、HAM10000 和 CUB-200 上，EMN 的视觉相似度平均提升了 17.06%，子类对齐度平均提升了 104.57%，NMI 平均提升了 42.42%，同时取得了所有方法中最高的平均分类准确率（87.62%）。这些发现凸显了受神经科学启发的解释机制在提升基于原型的模型的可解释性和可靠性方面的有效性。