PocketTSLM：部署用于保护隐私的设备端软提示时间序列语言模型，以支持智能手机推理

arXiv:2610.21308v1 公告类型：新增 摘要：消费者手机和可穿戴设备日益收集生理时间序列数据，但大多数移动系统将这些数据流视为摘要或文本，而不是时间证据。这种表示方式与个人健康系统的需求并不匹配：后者需要在保留时间结构的同时，检索、路由或总结传感器证据。云端托管的时间序列语言模型虽然规避了智能手机的限制，但会反复将敏感的生理数据移出设备，并增加延迟和每次查询的计算成本。其他移动模型方案要么将时间序列数据聚合为统计特征，要么将原始样本序列化为文本；前者会压缩时间结构，后者则会耗尽小型设备端模型的上下文和内存预算。我们提出了 PocketTSLM，这是一种 OpenTSLM SoftPrompt 的移动原生部署方案；OpenTSLM SoftPrompt 是 OpenTSLM 时间序列语言模型的软提示变体。PocketTSLM 通过将编码后的时间序列窗口注入为嵌入，而不是将时间序列标记化为文本，从而完全运行在消费者智能手机上。数值一致性协议使用 Apple 的 MLX 机器学习框架，验证 Swift 移植版本与 Python 参考实现之间贪心解码所得的标记序列完全一致。其答案也与 PyTorch 参考实现一致，不过推理过程的措辞可能有所不同。我们在设备端开展上下文开销基准测试，在同一骨干模型上比较软提示路径与文本序列化基线。在我们的基准测试格式中，软提示使用的时间序列标记数量约减少至原来的 1/12，并降低了提示预填充成本。PocketTSLM 处理 30 秒的 Sleep-EDF 脑电图片段以进行睡眠分期，并处理来自 ECG-QA 的一个包含 1,000 个样本（10 秒）的 12 导联心电图片段。相比之下，在时间序列窗口较长时，文本序列化基线会超出手机的上下文或内存预算。所有推理均完全在设备上运行，推理期间不会传输任何健康数据。