VISPA：通过自动价值选择与激活实现多元对齐
VISPA: Pluralistic Alignment via Automatic Value Selection and Activation
精选理由
介绍无需训练即可按需激活多元价值观的对齐方法，助力模型适配不同立场。
AI 摘要
arXiv:2601.12758v2 公告类型：替换交叉版本 摘要：随着大型语言模型日益应用于高风险领域，确保其输出不仅反映人类的平均偏好，而是体现多种不同观点至关重要。然而，实现这种多元性仍然充满挑战。现有方法通常只考虑有限的价值观，或依赖提示层面的干预，缺乏对价值观的控制与表征。为此，我们提出 VISPA，这是一种无需训练的多元对齐框架，通过动态选择和模型内部激活引导，实现对价值观表达的直接控制。在涵盖多个模型和评估设置的大量实证研究中，我们表明，VISPA 在医疗健康及其他领域的所有多元对齐模式中都表现出良好性能。进一步分析显示，VISPA 能够适应不同的引导初始化方式、模型和/或价值观。这些结果表明，多元对齐可以通过内部激活机制实现，为构建服务于所有人的可扩展语言模型提供了一条路径。