重新思考 SAE 评估：原子可解释单元框架揭示隐藏的多义性与冗余

arXiv:2610.30474v1 公告类型：新提交 摘要：稀疏自编码器（SAE）最初旨在发现单义特征。单义性描述的是单个特征的性质，却未规定所学习的特征集作为一个整体应当具备怎样的形态。随着 SAE 越来越多地被用于归因、回路发现和干预，研究人员开始评估描述特征集全局性质的指标，例如稀疏性、失活特征率、重建保真度和解耦程度。这些多样化的指标远远超出了单义性的范畴。然而，这种隐含的、超越单义性的转变，尚未被形式化为一个先于这些评估指标而确立的清晰、明确定义的目标。缺少这样的目标，现有指标仍然只是临时选定的，其必要性也缺乏论证。在本研究中，我们通过引入一种 SAE 评估新范式来形式化这一最终目标：要求 SAE 特征，以及更一般的基于字典的模型表征分解，构成一个原子可解释单元基，即一个用于提供具有语义意义的解释的坐标系。在这一范式下，我们将现有和新的测量方法（如 DAME，主导性感知单义性评估）组织为代理指标，并提出一个全面的基准评测框架。通过评估涵盖多种架构和模型家族的数百个 SAE，我们发现了一些失效模式：某些 SAE 在现有评估指标下看似具有单义性，但在功能上仍然具有多义性；其中最具主导性的特征，即对模型计算贡献最大的特征，系统性地表现出更低的可解释性和更高的冗余性。这些失效模式值得 SAE 研究人员关注，并应成为改进训练方法和架构的着力点；同时，它们也表明，在将 SAE 特征用于归因、回路追踪或干预之前，实践者应将主导性感知评估作为一项标准检查。