用于解释大语言模型的可扩展回路学习
Scalable Circuit Learning for Interpreting Large Language Models
精选理由
提出高效识别语言模型内部特征关系的方法，降低电路分析成本，助力理解模型预测机制并改善泛化。
AI 摘要
arXiv:2606.16939v2 公告类型：替换 摘要：机制可解释性领域的一个重要研究方向是学习大语言模型组件之间的稀疏回路，以揭示这些组件如何共同产生模型行为。然而，原始神经元具有多义性，导致学到的回路难以解释。稀疏自编码器（SAE）特征缓解了这一问题，但其高维性使现有基于干预的回路学习方法面临难以承受的计算成本。我们提出 CircuitLasso，这是一种基于稀疏线性回归的可扩展回路学习方法。在基准数据上，CircuitLasso 恢复出的回路在结构准确性上可媲美最先进的基于干预的方法，而计算成本仅为其一小部分。在可解释性方面，CircuitLasso 能高效揭示 SAE 特征之间的关系，展示人类可理解的语义特征如何在模型中传播并影响其预测。最后，我们利用所学回路提供的洞见，在一项领域泛化任务上以显著更低的成本实现了相当的性能，从而验证了这些回路的实用价值。