AI 模型可被证明能够隐藏任意能力

arXiv:2610.13928v1 公告类型：新提交 摘要：能力评估旨在部署前揭示模型的危险行为，但其可靠性依赖于一个假设：隐藏能力可以被诱发。我们通过构造后门攻击，证明这一假设在对抗条件下并不成立。这些攻击将加密的神经网络嵌入宿主模型的权重中，只有在收到秘密触发信号时才会解密并执行它们。借助数字锁箱，在密码学假设下，即使能够完全访问模型权重，这些隐藏电路仍可被证明难以诱发和解释，从而将先前隐藏固定字符串的研究扩展到隐藏任意计算。我们在 PyTorch 中实现了概念验证构造，并在一个小型化学反应预测任务上，通过微调、权重加噪、基于梯度的触发信号搜索以及潜在空间对抗训练来评估能力诱发效果；该任务被用作化学、生物、放射性和核（CBRN）相关能力的替代指标。结果表明，这些构造能够抵抗上述方法；结合我们的密码学保证，这揭示了基于能力诱发的审计方法的局限。我们公开了模型，以支持防御措施的改进。