Lapras：时间序列语言模型的潜在推理

arXiv:2610.11111v1 公告类型：cross 摘要：时间序列语言模型（TSLMs）通过对时间信号进行推理并生成自然语言答案和解释，为理解时间序列提供了一条有前景的路径。一种常见方法是思维链（Chain-of-Thought，CoT），即生成将相关信号模式与最终答案联系起来的逐步推理过程。尽管这些模型在后训练阶段能够从参考 CoT 轨迹中学习，但在推理时生成对输入时间序列忠实的描述仍然具有挑战性。将高维、连续的时间表示转换为离散的语言标记，可能导致模型忽略与任务相关的模式，或对其进行不准确的描述。由于后续推理步骤建立在这些描述之上，早期错误会不断传播，最终导致答案错误，同时产生看似合理却与输入信号不一致的解释。我们提出 Lapras（Latent Post-trained Reasoning Across Series），一种赋予 TSLMs 潜在推理能力的后训练框架。经过 Lapras 训练的模型在联合的时间序列—语言空间中，通过一系列连续思维进行推理，仅针对最终答案生成文本。该能力通过教师—学生自蒸馏进行学习：教师模型基于 CoT 参考轨迹进行训练，并通过文本显式推理。学生模型在答案阶段使其隐藏状态与教师模型的隐藏状态对齐，从而将教师模型的推理能力迁移到自身的潜在计算中。我们在五个时间序列问答基准上，使用四种 TSLM 主干模型对 Lapras 进行了评估。与显式 CoT 相比，Lapras 将平均 F1 最高提升了 10.79%，同时生成的标记数量减少了 23.9 倍。Lapras 的连续思维还可以通过标准语言解码转换为可读的推理轨迹，从而保留文本解释。总体而言，这些结果表明，Lapras 是一种有前景的后训练范式，能够实现高效、有效且可解释的 TSLM 推理。