OpenMHC: Accelerating the Science of Wearable Foundation Models¶

会议: NeurIPS 2026
arXiv: 2607.16235
OpenReview: https://openreview.net/forum?id=UOTXGszV0L
代码: https://github.com/AshleyLab/OpenMHC
领域: 自监督/表示学习
关键词: 穿戴基础模型, 自监督学习, 掩码自编码器, 时序插补与预测, 数字表型评测基准

一句话总结¶

斯坦福与帝国理工联合发布开源可穿戴健康数据集与基准 OpenMHC，涵盖来自 11,894 名用户的逾 6,000 万小时多通道传感器数据，并开源评估了 Google LSM-2 与 Apple WBM 等穿戴基础模型在预测、插补和预测三大赛道上的能力边界。

研究背景与动机¶

消费级智能手机和可穿戴设备正在彻底改变长期被动健康监测与数字健康干预范式。近两年来，工业界的前沿研究（如 Google Fitbit 模型与 Apple 穿戴行为模型）展示了穿戴数据基础模型具备类似视觉与自然语言领域的 Scaling Law 潜力，证明大规模生理信号与行为表型自监督学习能够大幅提升健康事件识别的精度。

然而，阻碍该领域学术进展与普惠研究的关键瓶颈并非算法架构创新，而是极度匮乏的大规模公开真实世界数据。此前最大规模的多传感器长期队列（如 Apple Heart & Movement Study 或 Google Fitbit 私有数据集）均属于闭源私有数据；而现有的公共队列（如 UK Biobank、NAKO）往往仅提供不足十天的单通道加速度计数据，或者被严格限制在受控研究平台上无法自由下载与进行大规模基础模型预训练。同时，现有可穿戴基础模型极少开源权重与复现代码，导致学术界既无法验证已发表结论，也无法建立标准统一的技术基准。

面对可穿戴基础模型研究因数据孤岛而受阻的现状，急需一个规模大、跨越时段长、覆盖日常全维度传感器且向科研界完全公开的基准平台。核心 idea：基于斯坦福 My Heart Counts 逾十年的真实世界数据，构建并开源包含 11,894 名受试者、6700 万穿戴小时、19 个传感器通道及 169 项健康变量的 OpenMHC 数据集与统一三轨评测基准，并开源复现主流穿戴基础模型以推动健康 AI 生态的透明化与标准化。

方法详解¶

整体框架¶

OpenMHC 围绕可穿戴健康时序数据的全生命周期构建，包含多通道分钟级传感器时序与非稀疏问卷/元数据的大规模数据清洗管线、标准化任务切分，以及覆盖预测与生成任务的三大赛道（Track 1: 32 项健康行为下游预测；Track 2A: 多通道分钟级缺失数据插补；Track 2B: 滚动窗口 24 小时逐小时时序预测）。整个基准支持分钟级矩阵与小时级聚合张量两种输入形态，并统一采用相对基线的几何平均 Skill Score 与跨任务 Average Rank 进行公平且无量纲漂移的鲁棒聚合评估。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}, 'subGraphTitleMargin': {'top': 8, 'bottom': 16}}}%%
flowchart TD
    A["HealthKit 多源输入<br/>19 通道传感器 + 169 项健康变量"] --> B["多阶段数据预处理<br/>佩戴检测 + 异常值过滤 + 零方差清洗"]
    B --> C["分层表征构建<br/>日级分钟矩阵 19×1440 与周级时序张量 168×38"]

    subgraph S1["基准评测赛道与基线架构"]
        direction TB
        D1["下游预测任务<br/>32 项健康/疾病/生化表型探测"]
        D2["结构化与语义插补<br/>AIM 掩码机制 + LSM-2-Sparse 跨日稀疏解码"]
        D3["多通道时序预测<br/>24 小时滚动窗口外推"]
    end

    C --> D1
    C --> D2
    C --> D3

    D1 --> E["统一评估准则<br/>几何平均 Skill Score + 平均排名 Average Rank"]
    D2 --> E
    D3 --> E

关键设计¶

1. 多通道分层穿戴表征构建：兼顾高频局部动态与长期行为节律

原始 HealthKit 数据在采样率与数据完整度上存在极大异构性，且系统不显式标记脱表与未携带状态。为此，论文设计了双层级清洗与张量表征机制：首先过滤每日非佩戴时间超过 12 小时的无效天以及传感器处于冰冻零方差的异常记录；对保留天，构造 $X_{i,d}^{\text{min}} \in \mathbb{R}^{19 \times 1440}$ 的日级分钟矩阵，覆盖步数、心率、睡眠及 10 种细分运动类型。为了支撑需要周级生理节律与大感受野的模型，系统进一步推导小时级聚合向量与二值缺失掩码拼合成的周级张量 $X_{i,s}^{\text{week}} \in \mathbb{R}^{168 \times 38}$。该设计既保留了分钟级细节以供微观掩码自编码器学习，又为轻量化长程模型提供了节约计算的规则化输入。

2. 结构与语义双层真实掩码机制（AIM）与稀疏跨日解码器：针对现实脱表与运动伪影的自监督重构

针对传统时序插补模型在长程连续缺失下崩溃的问题，论文为自监督掩码自编码器 LSM-2 设计了自适应与继承掩码（Adaptive and Inherited Masking, AIM）策略，将真实物理缺失与人工掩码融合生成优先级评分： $$s_i = 100 \cdot (M_i^I \lor M_i^A) + \epsilon_i, \quad \epsilon_i \sim \text{Uniform}(0, 1)$$ 其中 $M_i^I$ 为实际脱表导致的固有缺失，$M_i^A$ 则覆盖了随机噪声、整段时序切片、整传感器掉线等结构性掩码，以及睡觉脱表、剧烈运动运动伪影、心率峰值饱和等生理事件驱动的语义掩码。保留未掩码的 Patch 送入 12 层 1D-ViT 编码器。针对 7 天长上下文插补，论文提出 LSM-2-Sparse 架构：冻结单日编码器，在解码器交替使用单日内全自注意力与跨日滑动窗口自注意力，并利用旋转位置编码（RoPE）对相对日历天偏移进行自适应位置调制： $$\mathbf{q}'_i = \mathbf{q}_i \odot \cos(\delta_d \cdot \boldsymbol{\theta}) - \bar{\mathbf{q}}_i \odot \sin(\delta_d \cdot \boldsymbol{\theta})$$ 从而在保持 10 分钟精细 Patch 分辨率的同时，将长时序注意力复杂度解耦，避免了稠密多日全局自注意力的二次方开销爆炸。

3. 对比学习与掩码自编码并行的开源穿戴基础模型生态：填补学术界不可复现的空白

为了打破业界独占基础模型的壁垒，论文首次在学术开源环境下完整复现了 Apple 的 WBM 与 Google 的 LSM-2。WBM 采用 4 层双向 Mamba-2 骨干网络，通过对 168 小时周级张量施加时间步 Dropout 生成双视角，利用对称 InfoNCE 损失配合均匀性正则项进行自监督对比预训练。而 LSM-2 则以 1D-ViT 结合多通道 Patch 化进行掩码重构。两大复现体系均提供了标准化的特征冻结 Probe 与微调接口，让研究人员能够首次在同一公开数据标准下系统对比自监督对比表征学习与生成式掩码重构在穿戴场景中的归纳偏置优劣。

损失函数 / 训练策略¶

在预训练阶段，针对 LSM-2 体系采用多通道异构重构损失，仅在人工掩码且真实有效的 Patch 集合 $\mathcal{S}$ 上计算： $$\mathcal{L}_{\text{MAE}} = \frac{1}{|\mathcal{S}|} \sum_{i \in \mathcal{S}} w_{c(i)} \cdot \ell(\hat{\mathbf{x}}_i, \mathbf{x}_i)$$ 其中连续型通道（步数、心率、能耗等）采用均方误差 $\text{MSE}$，心率通道仅在非零记录分钟上计算误差；二值型通道（睡眠状态、各类运动）采用带 Sigmoid Logits 的二值交叉熵 $\text{BCE}$。对于 WBM 对比模型，损失函数结合了温度系数 $\tau=0.2$ 的对称 InfoNCE 损失与最大化最近邻距离对数的高维均匀性正则项 KoLeo： $$\mathcal{L}_{\text{WBM}} = \mathcal{L}_{\text{InfoNCE}} + \lambda_{\text{KoLeo}} \mathcal{L}_{\text{KoLeo}}$$ 其中超参数通过两阶段贝叶斯优化确定（$\lambda_{\text{KoLeo}} = 0.689$）。下游 32 个健康结果预测任务统一采用 Frank-Hall 有序分类分解、二值分类交叉熵或普通最小二乘回归作为评估头。

实验关键数据¶

主实验¶

在 32 项健康行为下游预测（Track 1）及 24 小时多通道滚动时序预测（Track 2B）中，模型在测试集上的平均排名 $R$（越低越好）与相对基线的几何平均 Skill Score $S$（百分比，越高越好）对比如下：

模型类型	代表模型	预测赛道平均排名 $R \downarrow$	预测赛道综合 Skill Score $S \uparrow$ (%)	预测赛道人口统计学 $S \uparrow$ (%)	预测赛道生物标志物 $S \uparrow$ (%)	时序预测平均排名 $R \downarrow$	时序预测综合 Skill Score $S \uparrow$ (%)
统计/传统基线	Linear (参考基准)	4.43	0.0	0.0	0.0	-	-
启发式时序基线	Seasonal Naive (参考)	-	-	-	-	7.72	0.0
特征工程提升树	XGBoost (495维特征)	3.52	+11.6	+46.9	+13.6	-	-
经典时序网络	DLinear	-	-	-	-	4.63	+35.9
时序基础模型	Chronos-2 (FT)	5.98	-3.4	+6.2	-7.1	3.56	+37.6
穿戴对比基模	WBM (Mamba-2 复现)	4.76	+3.3	+22.2	+6.6	-	-
穿戴掩码基模	LSM-2 (ViT-1D 复现)	2.20	+15.1	+41.1	+22.2	-	-

消融实验¶

针对预训练目标、时间分辨率及输入上下文长度在下游预测和缺失插补（Track 2A）中的消融表现如下（插补基准以 LOCF 为 0% 误差基线）：

实验配置	评测范围与分辨率	综合平均排名 $R \downarrow$	综合 Skill Score $S \uparrow$ (%)	生理指标插补 $S \uparrow$ (%)	语义掩码插补 $S \uparrow$ (%)	说明
LOCF (参考基线)	单日基线	7.7	0.0	0.0	0.0	上次观测值结转基准
传统插补 (Linear)	单日线性插值	6.4	+21.5	+9.8	-0.8	简单线性插值基线
LSM-2 (单日密集)	单日分钟级 (10min Patch)	3.6	+61.4	+31.4	+30.2	掩码自编码自监督单日模型
LSM-2-Weekly (稠密)	7天粗粒度 (60min Patch)	-	-	-	-	注意力代价二次方膨胀，分辨率降低
LSM-2-Sparse (7天)	7天长上下文 + 稀疏跨日解码	3.2	+64.7	+34.6	+34.6	解耦跨日与日内注意力，性能与效率最佳
LSM-2 WBM队列消融	仅有效周受试者 (分钟级)	2.91	+15.1	+27.2	-	控制预训练与评测队列一致，仍优于 WBM (+9.9%)
LSM-2 WBM队列消融	仅有效周受试者 (小时级)	3.63	+4.0	+1.6	-	降采样至小时级导致下游表征能力断崖式下跌

关键发现¶

掩码重构（Generative MAE）显著优于对比学习（Contrastive）：LSM-2 在下游预测中全面碾压 Mamba-2 架构的 WBM。在控制了佩戴周过滤条件与无 Fallback 评测的严格对齐消融中，LSM-2 依然保持 +15.1% 对 +9.9% 的绝对优势；其核心原因在于穿戴数据天然存在大比例结构性缺失，对比学习强加的数据增强与全局池化容易丢失局部动态，而掩码重构的归纳偏置与实际数据缺失高度吻合。
输入分辨率对下游健康表型预测至关重要：将 LSM-2 的输入从 10 分钟 Patch 分辨率降采样为小时级后，综合 Skill Score 从 +15.1% 骤降至 +4.0%，说明可穿戴生理指标中的很多心血管和活动信号（如短时步频突增、短阵心率扰动）在粗粒度小时聚合中被不可逆地平滑抹除。
专家手工特征与树模型（XGBoost）依然是极强基线：依靠 495 个提取自时域、频域和昼夜节律非参数指标的手工特征，XGBoost 在预测赛道上力压除 LSM-2 之外的所有神经网络及通用时序大模型，并在人口统计学预测上拿下最高分（+46.9%），表明简单盲目堆砌复杂时序网络并不必然超越领域特征工程。
零样本通用大模型（Gemini 家族）在该任务上表现疲软：以文本统计量或渲染热图输入的 Gemini-3.1 零样本表现落后于线性基准（-10.3% Skill Score），仅在极少数高度不平衡的罕见心脏疾病小样本分类中凭借语义先验偶尔胜出，证明纯 LLM 尚无法直接替代专用的时序健康基础模型。

亮点与洞察¶

数据资产与开源复现双轮驱动：不仅向研究界合规公开了包含逾 6000 万小时多传感器时序和长达十年随访维度的最大规模基准数据集，更彻底公开了此前仅存于工业界技术报告中的 Apple WBM 与 Google LSM-2 完整模型实现与权重。
巧妙解耦的 LSM-2-Sparse 跨日稀疏解码架构：在不损失 10 分钟细粒度分辨率的前提下，通过交替排列“单日内通道间全注意力”与“固定时刻跨日滑动窗口注意力 + RoPE 相对日偏置”，打破了多日稠密时序自注意力的平方计算壁垒，为超长周期的穿戴表征建模提供了极佳示范。
严密的评估协议与反刷榜防泄漏机制：采用基于几何平均的 Skill Score 消除不同指标量纲带来的度量偏移，并通过以整周为单位的时间戳伪随机偏移完全消除日历绝对时间关联，同时保留了周内工作日/周末节律与昼夜相位信息。

局限与展望¶

队列人群存在固有的人口统计学偏倚：作为第一代数字智能手机健康应用，用户画像显著偏向美国本土、男性（77.1%）、白人（82.4%）及 30-40 岁中年人群，跨种族和经济落后地区的泛化能力仍有待检验。
标签体系基于自陈式问卷而非临床诊断金标准：所有 32 项健康指标均来源于受试者自填问卷，缺乏临床电子病历（EHR）的权威事件裁决，无法直接支持严格意义上的前瞻性发病风险预测。
跨设备与跨品牌传感器的域偏移挑战：数据集高度依赖 Apple 生态（iPhone 与 Apple Watch），对 Android 设备和纯商用手环（如 Fitbit、Garmin）的特征异构性与传感器校准差异尚未涵盖。

评分¶

新颖性: ⭐⭐⭐⭐⭐ 开创了可穿戴健康时序基础模型领域最大规模的开源数据集与多任务评测体系，并首度开源业界封闭模型的标准实现。
实验充分度: ⭐⭐⭐⭐⭐ 涵盖 32 项下游预测、6 种真实缺失模式的插补以及多通道时序预测，包含统计、树模型、深度网络及多模态大模型的完整对比。
写作质量: ⭐⭐⭐⭐⭐ 逻辑严谨、叙事宏大，从临床试验伦理、系统工程、理论复杂度到敏感性分析均极为详尽。
价值: ⭐⭐⭐⭐⭐ 打破穿戴健康基础模型的数据垄断与工业壁垒，为未来几年的穿戴数字医疗与健康 AI 研究奠定了基石。