TimeBraid：统一时间序列与语言以实现理解和预测

我们提出了 TimeBraid，这是一系列统一的时间序列与语言模型，通过交错的全局残差注意力层，将预训练语言模型与预训练时间序列基础模型对齐。每个模型从一方继承知识、指令遵循能力和推理能力，从另一方继承连续信号感知能力与零样本预测能力，并在一个共享表示空间中融合二者，使两种模态都能够被理解和生成。我们研究了实现此类统一建模的设计选择：应在何处对齐两个表示空间、如何将语言置于时间结构之中、如何平衡理解与生成，以及如何保持联合优化的稳定性。最终形成的方法结合了适用于多样时间序列和文本任务的统一提示方案、稳定的联合训练，以及来自 2.2M 个精选序列—文本对和 4.9M 个指令微调样本的监督。在涵盖时间序列感知、理解、推理，以及借助上下文和单模态预测的各类基准测试中，TimeBraid 即使面对规模大得多的通用模型和特定任务模型，仍保持了具有竞争力的表现。