竞争性伦理框架的引导向量可互换：用于激活引导的竞争目标测试

arXiv:2610.19359v1 公告类型：交叉收录 摘要：激活引导通过向模型的隐藏状态添加向量，来控制某种指定行为。然而，该行为的增强并不能表明向量直接控制了它：向量可能通过与相近行为共享的成分发挥作用，而无引导基线和随机基线无法区分这些机制。我们提出竞争目标测试：将一个向量与针对竞争目标以相同方式构建的向量进行比较，并通过等效性检验判断二者的差异是否低于具有实际意义的界值。我们在开放权重模型中，将这一测试应用于康德义务论和行为功利主义的向量；前者依据行为所遵循的规则评判行为，后者依据行为所产生的福祉评判行为。在留出测试情境中，通过提示要求采用某一框架会提高该框架的得分并降低另一框架的得分；相比之下，任一框架的向量都会使两个得分发生相似变化，且二者的差异均未达到界值。这两个向量的大部分方向相同，对应的是要求采用某种框架；而相同的构建方法能够区分乐观语气和悲观语气，这两类向量的共享成分要少得多。因此，一个向量与其竞争向量共享的成分决定了它所控制的内容：除非针对竞争目标进行测试，否则引导某种视角可能产生混合结果，测量某种倾向也可能测量到与之相近的倾向。