将 LLMs 的回答引导至 Norwegian MFQ-30 上的道德基础
Steering LLMs Responses Towards Moral Foundations on the Norwegian MFQ-30
精选理由
揭示人格提示可引导大模型呈现特定道德倾向,并警示测评结果可能是“认知幻象”
AI 摘要
近期研究将人类心理测量问卷应用于大型语言模型,以 elicitation 出道德与价值观画像,但目前尚不清楚这些工具是否能在模型中测量到任何稳定特征,或所得画像是否能够向某一目标人类群体靠拢。我们将 Norwegian Moral Foundations Questionnaire(MFQ-30)施测于六个开放权重 LLMs,并将其道德基础画像与 N = 1,282 名 Norwegian 受访者的样本进行比较。我们测试了两种引导干预:提示词层面的 persona 引导和激活层面的 ActAdd。一半模型在我们的注意力检查下完成问卷。另一半模型默认输出平坦或趋中结果,这些结果平均而言看起来接近人类,却没有反映题目内容。一个未使用人类样本中任何分布信息编写的中性 Nordic-respondent persona,使参与作答的模型在 Mahalanobis $d^2$ 指标上向 Norwegian 均值靠近了 44–77%。在固定的中间层应用单对 ActAdd 会使道德基础画像趋于平坦,而不是引导单个道德基础。对于至少一个模型而言,同一个能够改变画像的 persona 也诱发了基线时不存在的参与作答行为,这是 Peereboom et al. (2025) 所警告的认知幻影的一个具体实例。