Weight Oracles：用语言模型读取神经网络权重

arXiv:2610.07334v1 发布类型：新 摘要：神经网络的可解释性方法主要是被动响应式的：它们分析特定前向传播过程中产生的激活值，需要已知输入才能发现后门等隐藏能力。我们提出 Weight Oracles，这是一类经过微调的语言模型，能够直接读取目标网络的原始权重来诊断其属性，而无需进行行为测试。我们分两个阶段研究这一范式。第一阶段旨在验证可行性：通过分阶段课程学习，以及将无参数操作委托给确定性代码的外部计算链，一个解释器 LLM 学会了根据小型 transformer 的权重模拟其前向传播，并在未见过的目标网络上取得了 99% 的留出准确率。第二阶段将这一基础设施重新用于安全审计。我们仅使用良性病理作为训练信号，针对有关权重异常的自然语言诊断问题训练一个 oracle，并在训练中未出现的后门上进行零样本评估。该 oracle 在注意力路由后门上的 AUROC 达到 0.93；在包括隐蔽型和经过对抗性正则化的变体在内的多样化威胁分布上，AUROC 达到 0.81。手工设计的统计检测器在其隐式针对的威胁模型上表现敏锐，但一旦发生威胁模型迁移，性能便会崩溃；相比之下，该 oracle 在各种攻击类型上都保持了稳定的能力。如何扩展到现实规模的模型，仍是首要的开放性挑战。