ActMap：基于生成时激活图的单次生成不确定性量化

大型语言模型的实用不确定性量化（UQ）必须根据一次生成判断某个具体答案是否值得信任。现有方法要么对答案进行多次采样，要么只读取输出词元的概率，要么将模型的内部计算压缩为单个隐藏状态。我们提出 ActMap，这是一种白盒表示，可将生成时的隐藏状态轨迹（每一层、每个生成词元）压缩为固定的 $12 \times 32 \times 128$ 张量，其中包含时间统计通道，并保留 Transformer 深度和池化隐藏坐标之间的结构。该映射在生成过程中即可捕获，且没有可测量的额外开销；它在不同模型深度和隐藏维度下都具有固定形状，占用 96 KiB，是一种紧凑的产物，可保留用于审计的生成结果并直接进行探测；遮挡分析则将分类器的信号定位到该映射的中等深度区域。一个以紧凑型 Vision Transformer 实例化的轻量级分类器能够从每个映射中读取估计的正确性概率，耗时不到一毫秒；容量匹配的 MLP 表现相当，表明结果由该表示本身承载。我们在短答案问答、直接作答数学和摘要事实性任务上，使用三个经过指令微调的 7-8B 模型进行域内训练和评估。ActMap 始终优于采样、词元概率、注意力和嵌入基线；与在密集激活张量上训练的检测器 ACT-ViT 相比，后者的张量规模大 67 倍，ActMap 的平均 AUROC 基本相同，并且在十二组配对中的十组具有更低的校准误差。由此得到的分数支持仅凭一次生成进行拒答、路由和选择性验证，使其成为部署模型可扩展监督的一种实用基础组件。