IMUDINO：用于惯性感知的自蒸馏基础模型

arXiv:2611.07437v1 公告类型：新提交 摘要：我们提出 IMUDINO，这是首个在人体活动识别（HAR）、健康、动作捕捉和里程计等多种感知任务中均取得有竞争力表现的惯性感知基础模型（FM）。以往的惯性基础模型往往专注于惯性感知的某个子领域，有时表现不及最先进的监督学习方法（例如在 HAR 中），因此其适用范围明显窄于视觉和自然语言领域的基础模型。此外，这些模型通常要求固定的输入长度和采样率，且对未见过的传感器位置泛化能力较差。为构建通用的惯性感知基础模型，我们通过一组保持语义不变的运动变换来模拟运动模式和传感器配置的变化，从而将 DINO 自监督学习（SSL）范式适配到惯性数据。在模型架构方面，我们采用带有频率感知位置编码的普通 Transformer 编码器，原生支持可变的输入长度和采样率。事实证明，这种简单的配置能够非常有效地学习全局特征和稠密特征，这些特征可跨用户、传感器配置和任务泛化，在机器人里程计任务中还可跨机器人形态泛化。我们希望 IMUDINO 能成为惯性感知的骨干模型，并推动通用惯性基础模型的发展。