后训练中失去了什么？默认立场坍缩与跨多元视角的上下文内可操控性丧失
What Is Lost in Post-Training? Default Collapse and the Loss of In-Context Steerability Across Diverse Perspectives
精选理由
揭示后训练会削弱模型适应多元立场的能力，并提出保持观点可塑性的训练方法。
AI 摘要
arXiv:2610.02614v1 公告类型：新 摘要：服务于异质化人群的 AI 模型，必须根据每位用户和具体情境采取适当的原则。尽管已有研究表明，后训练会缩窄大型语言模型所表达的观点，但以往工作主要关注默认行为，而非模型适应上下文信息的能力。我们表明，后训练还会削弱模型在上下文中被引导至其未受训练偏好的视角的能力。在受控实验中，我们将模型微调，使其倾向于文化价值分歧中的一方，并评估训练过程中的各个检查点。经过训练的一方在日常使用中变得越来越占主导地位，而模型识别并忠实执行对立观点的能力则不断下降。这些发现表明，优先采用单一价值观与保留服务多元利益相关者所需的技术能力之间存在张力。最后，我们提出并分析了一种替代目标：在表达视角遵循预设分布的约束下最大化奖励，并展示了立场分布匹配这一实际实现方式。