Regime-Conditional Verification：用于适配和监控安全分类器的正确性估计

arXiv:2608.14089v3 公告类型：replace-cross 摘要：与大语言模型一同部署的安全分类器往往因两个原因而失效：其决策反映的是训练期间学到的策略，而非部署者期望的策略；其性能会随着部署流量的变化而下降。我们提出 Regime-Conditional Verification（RCV），这是一种轻量级封装方法，无需重新训练即可适配现成的安全分类器。RCV 根据分类器的内部表示，估计每次预测与部署者策略不一致的概率，并有选择地纠正可能出错的预测。同样的正确性估计还提供了用于检测分布偏移的无标签信号，从而支持一个维护循环：更新正确性估计层，仅当在给定标注预算内修复失败时，才对分类器进行微调。在三个现成的安全分类器和两个基准数据集上，RCV 在每一种分类器与数据集组合中都提高了对部署者策略的遵循程度，并且在不修改底层分类器的情况下，检出了先前漏检的不安全内容的至多 81%。在一项包含十轮攻击的部署研究中，每轮攻击均针对一个未纳入 RCV 训练的危害类别，RCV 在专门的注入测试组中检测出了每一轮攻击；在维护情况的全面统计中，大多数漂移事件无需更新分类器即可修复，仅对剩余事件进行微调。