基于 Transformer 的神经量子态通过上下文学习实现泛化

arXiv:2610.03463v1 公告类型：cross 摘要：基于现代深度学习架构的神经量子态已成为量子多体系统的强大表征。特别是，基于 Transformer 的神经量子态提供了能够捕捉长程关联的高表达能力模型，其经验泛化性能近期已得到验证。然而，对于其泛化行为的理论理解仍大体上处于探索阶段。在本文中，我们建立了一个理论框架，用于分析基于 Transformer 的神经量子态在上下文学习下的泛化性质。我们以均方误差（MSE）为指标，建立了严格的推理时泛化误差界，表明逐点预测误差会随着上下文示例数量和 Transformer 深度的增加而反比下降。我们进一步表明，为实现这一保证所需的 Transformer 深度仅随系统规模线性增长——对于连续系统，系统规模即粒子数；对于离散系统，系统规模即量子位数。基于这一结果，我们将分析扩展到表示为秩一密度算符的完整量子态，并在物理约束下推导出连续域和离散域上的基于 MSE 的泛化界。最后，数值模拟验证了我们的理论分析。