通过闭环刺激实现对 LLM 的思维控制：分布外鲁棒性

无需将大脑与大语言模型视为等价系统，也能揭示二者之间一个可解释的共性：它们都表现出高维、非线性动力学特征，而其行为只能被不完全准确地建模。每当我们试图干预它们的动力学过程时，这都会带来一个共同挑战。控制器可以依赖在特定运行状态附近辨识出的模型，但要承担系统偏离该状态时失效的风险；也可以显式考虑不确定性和不断变化的内部状态。神经刺激领域几十年来一直面临类似问题。固定的开环刺激存在局限，因此推动了闭环和状态依赖方法的发展，这些方法根据神经系统的实时状态实施干预。受这一原则启发，我们将 LLM 引导表述为一个反馈控制问题：由网络的内部状态，而非仅由固定干预，决定如何扰动系统。我们进一步通过鲁棒控制，处理易于求解的动力学模型与其所近似的非线性 transformer 之间的不匹配。作为该框架的一种具有理论依据的实现，我们开发了一种基于 $H_\infty$ 的引导控制器，用于限制系统对扰动和线性化失配的敏感性。在多项引导基准测试中，该控制器的性能优于现有基线，尤其在分布外条件和不同长度复杂度下，提升尤为显著。除控制器性能外，我们还提出了鲁棒可引导性 $S_{\mathrm{rob}}$，这一部署前度量用于衡量对动力学失配的容忍程度；在不同模型与任务组合中，它呈现出任务特定的结构，并随模型规模发生系统性变化。超越鲁棒 LLM 引导本身，我们的度量不仅关注控制是否可行，还关注控制能够承受多大程度的不确定性；这一原则或可贯通人工与生物神经系统。