使用稀疏自编码器构建可审计的 AI 文本检测器

AI 生成文本检测器正越来越多地部署于同行评审、教育、招生、新闻业和内容审核等具有重大影响的场景中，其输出会直接影响个人。然而，性能最强的检测器通常是经过微调的神经分类器，其决策过程不透明；而透明的替代方案（文体学和语言学特征分类器）在性能上却远远落后于前者。我们提出了一套流程，可将经过微调的神经检测器转换为基于人类可读概念运行的分类器。具体而言，我们直接在检测器的残差流上训练稀疏自编码器（SAEs），为每个 SAE 特征分配自动解释标签，并仅保留其生成描述通过全局保真度阈值的特征。随后，我们仅使用这些可解释特征训练一个轻量级分类器。我们发现，我们的 SAEs 能够恢复与 AI 生成文本中高度具体且具有预测性的语言“线索”相对应的潜在概念。基于这些提取特征构建的分类器不仅具有很强的可解释性，而且在分布外文本上的表现也优于神经分类器和文体学替代方案。