语言模型如何组织和构建道德知识

大语言模型（LLMs）如何组织道德知识？模型可以广泛地检测到道德内容，但检测只是最低门槛。我们进一步询问，它们是否还会做得更多：将不同的道德基础彼此区分开来，并在几何上组织这些基础之间的关系。 我们在开权重语言模型上训练了六个相互独立的线性探针，每个探针对应道德基础理论（MFT）的一个类别（关怀/伤害、公平/欺骗、自由/压迫、忠诚/背叛、权威/颠覆、神圣/堕落），并考察由此得到的方向在表示空间中的相互关系。我们发现，这些方向既没有塌缩为单一的道德检测器，也没有彼此完全分离。相反，它们在共享一个正公共分量的同时，几乎跨越了最大数量的独立维度。这个共享分量是整合的特征；相对于采用相同方式构建的匹配非道德概念组，它具有道德特异性（平均两两余弦相似度为 0.26，而后者为 0.013）。 这种几何结构在不同架构和规模下都一致，并且在预训练早期就达到了整合状态，远早于探针准确率饱和。模型所发现的结构并不支持道德基础理论所预测的个体化/约束性区分（这是一个检验力不足的测试：只有 20 种候选划分），而是反映了语料统计特征。扩展到道德困境时，每个困境方向都部分由其组成基础维度构成，强于错配配对基线的 2.7 倍，而其大部分方差编码的是特定于冲突的结构。模型表征的是道德张力本身，而不是预先定下的判断。