引导几何：验证 LLM 引导空间中的人类价值观几何结构

随着大型语言模型（LLM）日益部署于对对齐敏感的场景中，激活引导已成为一种轻量级的推理时替代方案，用于取代微调方法（例如 RLHF、DPO）实现行为控制。然而，现有工作通常仅在孤立行为上验证引导效果，因此尚不清楚引导向量是否编码了一致的语义结构，还是仅仅利用了特定行为的捷径。我们研究 LLM 引导向量的潜在几何结构是否反映了人类价值观与道德中的理论规定结构。我们以 Schwartz's Theory of Basic Human Values 作为主要的细粒度框架，构建了一个包含 2.6 万个样本、覆盖 20 个人类价值观的基准，并在多种模型系列和规模上分析了分布驱动方法（例如 CAA、SphericalSteer、ODESteer）与行为中心方法（例如 COLD-Steer、BiPO）。我们发现，分布驱动方法能够恢复与理论预测一致的人类价值观拓扑结构（Spearman $ρ$ 最高达 0.51，$p < 10^{-13}$）。相比之下，行为中心方法虽能取得相当的引导性能，但与预期价值观几何结构的相关性很低。几何保真度会随着模型规模扩大而提升，但在指令微调后下降。最后，更好的几何对齐还会带来跨价值观的、更符合人类认知的一致迁移：正确引导某一价值观会提升与其兼容的价值观，并抑制相互对立的价值观。代码和数据见：https://github.com/DeepRCL/Steering_Geometry】【。