Inertia-1: An Open Exploration of Wearable Motion Foundation Models¶

会议: NeurIPS 2026
arXiv: 2607.06617
代码: https://github.com/yang-ai-lab/Inertia-1
领域: 自监督学习
关键词: 可穿戴智能, 动作基础模型, 自监督学习, 传感器多模态, 跨任务迁移

一句话总结¶

Inertia-1 构建了涵盖 1820 万小时加速度计数据、10 种自监督算法、15 个跨域数据集与 1000 多个受控模型的动作基础模型评测基准，全面解构了感知配置、算法目标与数据规模对下游泛化能力的共同影响。

研究背景与动机¶

可穿戴运动感知通过持续采集加速度计与陀螺仪的时序信号，为理解人类日常行为、生理状态及长期健康风险提供了极具扩展性的数据窗口。随着英国生物样本库（UK Biobank）与全美健康与营养调查（NHANES）等大型队列长期纵向数据的积累，数以百万小时计的原始惯性时序数据被持续沉淀，但其中绝大多数数据都缺乏标注。这一现状催生了可穿戴运动基础模型（Wearable Motion Foundation Models）的构想：即通过海量无标注队列数据学习通用表征，并向多样化的下游行为监测与临床诊断任务迁移。

然而，现有的研究生态高度碎片化，阻碍了通用运动大模型的演进。在数据层面，不同传感管线在采样率（从 0.2 Hz 到 100 Hz）、窗口长度（10s 到 2h）、传感器模态（仅单轴/三轴加速度、陀螺仪、磁力计）以及佩戴部位（手腕、腰部、胸部、下肢等）上标准各异；在算法层面，重构型、对比型、自蒸馏与频域建模往往在各自孤立的受限场景下评估；在评测场景上，细粒度人体行为识别（HAR）、帕金森冻结步态检测（FoG）与长周期疾病预测（Disease Prediction）互相割裂。这种多维度的异构性导致既有结论难以归因，无法为构建泛化性穿戴大模型提供系统性指导。

为了厘清这一混乱的探索空间，本文提出了全开源的穿戴运动基础模型研究框架 Inertia-1。本文的核心 idea 是：将运动基础模型视为数据保真度、传感物理构型、自监督预训练目标与规模效应的四维协同问题，基于超过 1820 万小时高分辨率波形数据和 15 个基准，建立端到端受控解耦的研究范式与开源实践指南。

方法详解¶

整体框架¶

Inertia-1 围绕可穿戴时序信号的完整生命周期展开系统性受控研究。输入端涵盖多身体部位、多传感器类型（加速度计 ACC、陀螺仪 GYR、磁力计 MAG）的连续波形；通过受控的切片、下采样与轴变换后送入预训练骨干网络；经由自监督目标优化后，表征被冻结或全量微调，评估其在短周期人体动作识别（HAR）、瞬态临床异常检测（FoG）以及长周期人群疾病预测（Disease Prediction）上的跨任务迁移能力。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["多模态惯性时序输入<br/>(ACC / GYR / MAG 多部位信号)"] --> B["受控数据管道配置<br/>(轴向/采样率/窗口/时频域变换)"]
    B --> C["骨干模型表征编码<br/>(Transformer / GRU / ViT / ResNet1D)"]
    C --> D["自监督预训练目标族<br/>(自回归/掩码重构/对比学习/自蒸馏)"]
    D --> E["多尺度下游任务评估<br/>(HAR识别 / FoG瞬态冻结 / 疾病预测)"]
    E --> F["多流同步融合评估<br/>(跨部位/跨传感器特征级对齐拼接)"]

关键设计¶

1. 受控数据管道配置：解耦物理传感约束与表征保真度

实际可穿戴部署受限于电池功耗、传输带宽与存储成本，导致硬件采集参数差异极大。以往研究常常将数据压缩（例如直接压缩为标量欧氏向量幅度 SVM）与模型架构混为一谈。针对这一痛点，Inertia-1 设计了严格的单变量控制实验栅格：将三轴加速度与单轴欧氏模长对齐比较，设置 \(\{10\text{s}, 30\text{s}, 60\text{s}, 2\text{h}\}\) 的时间窗口梯度，以及 \(\{20\text{Hz}, 5\text{Hz}, 1\text{Hz}, 0.2\text{Hz}\}\) 的重采样阶梯，并对时域直接建模与短时傅里叶变换（STFT）的时频域谱图进行对照。这不仅揭示了信息压缩对迁移表征的损耗边界，更明确了不同任务粒度所必需的时空分辨率底线。

2. 统一自监督预训练目标族：解耦通用视觉时序与穿戴专用算法

现有可穿戴 SSL 往往在各异的数据预处理和网络架构下各说各话，缺乏可比性。Inertia-1 在统一的骨干容量（Small ~5-8M, Medium ~30M, Large ~100M）与标准 NHANES 预训练语料（14,688 个受试者、247 万小时连续三轴记录）下，复现并系统评测了 5 大类共 10 种代表性预训练范式： - 自回归预测（Autoregressive）：涵盖 GRU 架构的 ARG 与 Transformer 架构的 ART，以因果预测下一时间补丁（Patch）为优化目标； - 掩码重构（Masked Reconstruction）：包含时域分块重构的 PatchTST、时频域掩码谱图重构的 Self-PAB 以及局部平滑重构模型； - 对比学习（Contrastive Learning）：包含通用时序增强 SimCLR、结合相对时间对比的 RelCon，以及针对运动时序构造箭头时间/置换/时间弯曲变换的专用模型 SSL-Wearables； - 自蒸馏（Self-Distillation）：采用学生-教师动量更新架构的 DINO，验证无负样本一致性正则在时序信号上的稳定性。

该设计使得算法效能可以脱离架构偏见，准确反映目标函数与运动物理先验的匹配度。

3. 多流同步融合架构：验证单一部位预训练的跨模态外推力

在真实临床与日常场景中，多数大规模公共队列仅采集单一手腕加速度计，而高性能专用穿戴设备往往分布于胸部、脚踝、大腿并融合陀螺仪。针对“腕部单传感器预训练表征能否跨物理通道泛化”的核心疑虑，Inertia-1 提出了跨模态/跨部位同步多流融合方案。将时间同步的多路输入分别送入共享或独立的预训练编码器抽取向量，并在嵌入空间完成特征级拼接：

\[z_{\text{fused}} = \text{Concat}\big(f_{\theta}(x^{(1)}), f_{\theta}(x^{(2)}), \dots, f_{\theta}(x^{(M)})\big)\]

随后通过下游分类器与 UMAP 聚类流形几何度量（轮廓系数 Silhouette、kNN 纯度等），量化分析腕部单模态先验在多传感器扩展与身体位移下的几何分离度增益。

损失函数 / 训练策略¶

预训练阶段统一在 4 张 NVIDIA H200 GPU 上使用 AdamW 优化器进行 170k 步优化（5 个 epoch），批大小为 1024，基础学习率为 \(2 \times 10^{-4}\)，权重衰减 0.04，搭配线性预热与余弦退火学习率调度策略。下游评估采用双轨制： - 线性探测（Linear Probing）：冻结预训练骨干网络，仅微调单层线性头（学习率 \(1 \times 10^{-3}\)，权重衰减 0.01）； - 全参数微调（Full Fine-tuning）：端到端更新所有权重； - 多示例学习（MIL, 用于疾病预测）：针对 NHANES/UK Biobank 的长周期受试者级疾病预测，在每天预设时段抽取 1024 个 30s 窗口独立前向提取表征，通过多示例池化聚合为受试者单日预测，并在 5 个随机种子下汇报均值以消除正样本稀疏带来的方差。

实验关键数据¶

主实验¶

主实验在统一设置（20Hz、30s 窗口、三轴手腕加速度计预训练）下，横跨 10 个 HAR 数据集、3 个帕金森冻结步态（FoG）数据集及 5 个疾病预测任务，以线性探测 AUROC 作为核心指标进行横向比较。

| 模型类别 / 模型名称 | HAR 平均 (10任务) | FoG: FoGTurning | FoG: OdayFoG | FoG: DaphnetFoG | 疾病: 抑郁症 (Depr.) | 疾病: 帕金森 (PD) | |---|---|---|---|---|---| | 从头有监督 CNN | 91.1 | 51.2 | 80.5 | 87.6 | 59.5 | 53.7 | | 从头有监督 ViT | 90.0 | 63.6 | 68.0 | 83.5 | 57.9 | 45.4 | | PatchTST (掩码重构) | 96.0 | 85.7 | 65.4 | 95.0 | 77.0 | 72.8 | | ART (自回归预测) | 95.7 | 80.2 | 58.6 | 94.3 | 81.3 | 75.0 | | ARG (自回归 GRU) | 95.4 | 83.0 | 71.6 | 93.4 | 76.2 | 72.4 | | SimCLR (对比学习) | 90.4 | 91.4 | 66.7 | 94.8 | 70.7 | 51.3 | | DINO (自蒸馏) | 90.8 | 61.4 | 83.2 | 89.2 | 75.8 | 54.5 | | SSL-Wearables (领域专用) | 87.9 | 91.6 | 62.0 | 71.4 | 60.5 | 74.4 | | RelCon (相对对比) | 93.1 | 87.5 | 78.2 | 93.0 | 72.6 | 51.0 | | Self-PAB (频域掩码重构) | 93.2 | 80.4 | 55.0 | 92.5 | 65.3 | 60.3 |

消融实验¶

消融实验围绕核心传感参数展开控制变量分析，以全微调 AUROC 衡量 ART 模型在三大下游任务族中的表现边界。

实验控制维度	实验配置	HAR 平均 AUROC	FoG 平均 AUROC	疾病预测平均 AUROC	整体综合 AUROC	说明
采样频率	20 Hz (完整保真)	95.7	79.8	68.8	81.5	默认基准配置
采样频率	5 Hz (下采样)	92.7	82.0	54.4	76.4	HAR轻微掉点，疾病严重退化
采样频率	1 Hz (超低频)	89.5	69.1	56.5	71.7	大规模预训练仍保持基础行为识别
时间窗口	10 秒	92.9	80.6	63.2	78.9	局部原子动作优选
时间窗口	30 秒	95.7	79.8	68.8	81.5	全局折中平衡点
时间窗口	60 秒	90.5	90.9	62.2	81.2	步态周期与宏观节律显著获益
输入轴向	三轴 (Triaxial)	95.7	79.8	68.8	81.5	完整空间方向信息
输入轴向	单轴模长 (Uniaxial)	90.6	76.7	67.7	78.3	压缩模长导致空间姿态不可逆丢失
表征领域	时域建模 (Time)	96.2	84.8	68.1	83.0	细粒度瞬态与相位保持优异
表征领域	频域建模 (Freq-STFT)	94.3	76.3	60.0	76.9	谱图转换抹平了局部瞬态脉冲

关键发现¶

预训练收益显著但目标不存在全能解：自监督模型全面超越从头有监督模型，在 FoG 上平均提升 16.4 AUROC，在疾病预测上平均提升 19.7 AUROC，而在趋于饱和的 HAR 上提升 4.0 AUROC。然而，自回归（ART）与掩码预测（PatchTST）在整体平衡性上最佳，对比学习（SimCLR）在特定步态冻结（FoGTurning 91.4）中表现优异，但在复杂时序疾病建模上容易欠拟合。
参数规模受限于预训练多样性：在固定预训练语料下，将 ART 模型参数从 10M 扩大到 30M、100M 时，下游线性探测结果趋于平缓；若进行全量微调，百兆参数模型甚至因为小数据集过拟合而出现性能下跌。相比之下，扩大预训练受试者人数、增加单个受试者的行为采样天数，以及混合 UK Biobank 与 NHANES，均带来了持续正向的增益。
三轴信号与时域建模是不可妥协的底线：将三轴信号压缩为标量欧氏模长（Uniaxial）会导致所有下游任务显著退化；而基于 STFT 的频域建模破坏了微观步态冻结与运动病理的瞬态相位特征，导致 FoG 任务骤降 8.5 AUROC。

亮点与洞察¶

大规模手腕预训练具有强大的空间外推性：尽管预训练数据几乎全部来自手腕加速度计，但在微调时向手臂、胸部、下肢、脚踝甚至陀螺仪模态直接迁移并拼接时，多流融合显著改善了流形几何结构（聚类轮廓系数从单流默认的 0.0634 跃升至多部位的 0.3686）。这表明基础模型捕捉到了全身协调运动的高层动力学先验，而非单一传感器的过拟合伪影。
低采样率下预训练展现超强鲁棒性：传统机器学习在采样率跌至 10Hz 以下时动作识别率断崖式下滑，而预训练大模型凭借学习到的宏观上下文动力学，在仅 1Hz 采样率下 HAR 仍能取得 89.5 的高 AUROC，为超低功耗长续航可穿戴设备的临床落地提供了全新支撑。

局限与展望¶

下游评测偏向分类范式：当前下游基准集中于短窗动作与疾病状态分类，缺乏针对连续生理指标回归、长周期生命体征预测、精细事件时间戳定位的评测支持。
多传感模态联合预训练缺失：虽然验证了腕部加速度模型对外推融合的有效性，但预训练阶段仍受制于大型公开队列缺乏多传感器同步数据的现状，未能实现原生多模态联合表征学习。

评分¶

新颖性: ⭐⭐⭐⭐☆ [首次构建覆盖 1820 万小时波形数据、解耦 8 个维度的全开源穿戴运动基础模型受控基准]
实验充分度: ⭐⭐⭐⭐⭐ [训练超过 1000 个模型，涵盖 15 个跨域数据集、10 种 SSL 算法与全方位的传感参数消融]
写作质量: ⭐⭐⭐⭐⭐ [逻辑严密，受控实验设计清晰，深入洞察数据质量与模型规模的本质关系]
价值: ⭐⭐⭐⭐⭐ [为可穿戴智能提供了迄今为止最完备的开源代码库、预训练权重与可复现研究指南]