LLMs 中的临床概念中心

arXiv:2610.02829v1 公告类型：cross 摘要：大型语言模型越来越多地应用于临床场景。然而，对这些模型可靠性和性能的研究几乎完全聚焦于语言载体，依据模型输出的内容进行评分。机制可解释性研究发现，潜在空间比文本承载着更高保真度的表征：内部表征不仅编码了远超输出语言所表达的信息，而且模型陈述的推理还会系统性地遗漏那些因果性地驱动答案的特征。在临床决策支持领域，尚未有人从机制可解释性的角度评估模型行为。在本研究中，我们将行为评估扩展到潜在空间，并探究临床概念是否以可定位、可因果使用的表征形式存在于开放权重 LLMs 内部。我们在测试的全部 11 个开放模型的潜在空间中都发现了专门的临床概念中心。这些概念中心具有可解释性，仅在与其对应的临床叙述上触发，并且在受约束和开放式场景中都能以有意义且具有因果性的方式驱动模型行为。它们不仅是用于分析的表征，还是可在临床实践中加以利用的回路；我们从评估和性能两个角度探索了它们的用途。从评估角度看，即使在基于对抗性角色的提示下，模型仍能保持内部一致性，并继续使用相关的概念中心；而一致性提示则能提升下游临床性能。从性能角度看，我们模拟了现实的部署环境，发现沿着这些概念中心引导模型能够带来有意义的下游改进。最后，我们开展了盲法临床医生验证，发现这些概念中心的激活和使用情况能够预测临床医生的偏好。