Online Learning via Learned Latent Bayesian Tracking¶

会议: NeurIPS2026（Accepted）
arXiv: 2609.31559
代码: https://github.com/aura-online-adaptation
领域: 优化/理论
关键词: 在线学习、潜空间贝叶斯跟踪、扩展卡尔曼滤波、元学习、分布漂移

一句话总结¶

本文离线学习适合分布漂移的低维参数生成空间和动态先验，在线用每个带标签样本做一次潜空间扩展卡尔曼滤波，再重建预测参数，在图像分类和时变无线接收中改善有限监督下的适应效果与计算成本。

研究背景与动机¶

非平稳环境中的学习，不只是把模型在某个新域上重新训练好，而是必须在数据持续到达时追踪当前有效的预测器。无线信道随时间变化，图像腐蚀的组成也会逐渐变化；已有权重即使过去准确，仍可能很快失配。在线梯度下降可以利用新标签修正参数，但在每个样本只有很短处理窗口时，多步优化的成本和步长敏感性都会变成实际障碍。这里的目标是当前分布上的预测质量，而不是保持所有历史任务的表现。

卡尔曼类方法提供了另一种更新逻辑：把待适应参数视为随时间演化的状态，先依据动态模型预测，再根据新标签与预测的差异纠正，并传播状态不确定性。问题在于，深度网络的参数维度太高，完整协方差至少需要平方级存储与运算。已有方案往往改为对角或低秩协方差，或者只更新人工选定的最后一层；它们减少成本，却未必保留分布变化真正需要的联合参数方向。

因此，本文不是继续在高维空间中寻找更廉价的滤波近似，而是学习让滤波本身容易工作的表示。离线阶段能够看到多条带标签的非平稳轨迹，在线阶段则只收到少量可靠监督；二者之间的桥梁是专门为在线更新效果训练的潜空间及其参数提升映射。核心 idea：把适应所需的自由度、时间演化和参数生成方式一起离线学好，让在线贝叶斯更新只追踪低维状态，而不是直接追踪全部网络权重。

方法详解¶

整体框架¶

输入是当前带标签样本，以及上一时刻潜状态的均值和协方差；输出是适应后的预测参数，用于当前分布的后续推理。离线轨迹元学习先确定参数提升映射、状态转移和可选的噪声协方差，部署时这些元参数不再通过整条轨迹重新训练。在线则依次进行潜动态预测、标签驱动校正和参数重建，每个监督样本只有一次滤波更新。

“重建完整参数”应理解为生成所选预测参数向量，而不是允许所有网络权重在任意方向独立变化。理论框架以整个参数向量为对象，但图像实现仅适应最后的全连接分类层和部分批归一化参数，且对参数组采用独立、块对角协方差；通信实现则以 DeepSIC 的检测器块为适应单位。未选中的骨干权重不因此获得在线自由度。

下面的实线表示部署时的信息流，虚线表示离线学习得到的固定组件对在线步骤的配置。校正需要在线标签，后续预测本身不需要标签；离线查询标签仅用于训练元参数，不能混入部署预测。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    D["离线带标签轨迹<br/>支持样本与查询样本"] --> A["轨迹元学习"]
    A --> G["参数提升映射"]
    G -.->|固定映射用于观测与重建| K["标签驱动校正"]
    A -.->|学得转移与噪声参数| P["潜动态预测"]
    S["上一潜均值与协方差"] --> P
    P --> K
    X["当前监督输入与标签"] --> K
    K -->|提升校正后潜均值| O["适应参数<br/>当前分布后续预测"]
    K -->|保存潜均值与协方差| S

缓存 v2 的正文把方法缩写渲染为 name，部分表格和图注则出现 AURA。本笔记使用“潜空间贝叶斯跟踪”这一描述性称呼，不把残缺缩写补造为正式方法品牌；以下“本文”对应原文这些条目。

关键设计¶

1. 轨迹元学习：让表示按在线更新后的预测效果接受监督

普通参数压缩只要求生成的权重近似原权重，却不保证一条新标签能在压缩空间中触发有效更新。本文把一整条非平稳轨迹看作一个适应任务，每个时刻的第一个带标签样本作为支持样本，先执行一次在线滤波；同一时刻剩余样本作为查询集，评价更新后的预测器。沿轨迹累计的查询损失决定潜空间是否真的有利于适应，而不是仅仅是否能重建某个静态网络。

元学习对可微滤波递推和提升映射反向传播，联合优化映射参数与对角状态转移矩阵，过程噪声和观测噪声协方差也可选择学习。这使“哪些变化方向值得保留”和“状态该如何随时间移动”由非平稳训练轨迹共同决定。它将训练成本移到离线，但并不取消对代表性轨迹和可靠标签的需求；冷启动消融正是检验没有这种学习时，低维限制本身是否足够。

2. 参数提升映射：用低维状态生成相关的参数变化

潜状态维度远小于待适应参数维度，提升映射将它变成预测模型实际使用的参数。因而一个潜坐标的改变可以联动许多权重，不再需要在所有参数方向上分别估计更新。表达能力来自学习到的参数生成几何，而不是在线把低维状态升回高维后再执行完整权重优化。

主实验的图像数值对应仿射映射；附录再增加残差非线性映射，用一个宽度 500、GELU 激活的单隐藏层 MLP 补充仿射项。非线性可以表示弯曲的适应轨迹，但在线观测雅可比必须穿过该映射，参数重建也需要它的前向计算，因此精度改善不是免费的。即使映射输出很多权重，在线可达参数仍被限制在其像空间中，不应表述为恢复了任意全参数适应。

3. 潜动态预测：为下一次监督到来前提供时间先验

滤波前先依据线性动态预测潜状态，同时传播协方差并加入过程噪声。主方法将转移矩阵限制为对角矩阵；缩放单位矩阵的 OU 型动态是更简单的特例。它不是声称真实网络最优权重严格线性演化，而是在学习到的空间中使用一个可计算的近似先验。

保留这一结构很重要：当下一条标签稀缺时，预测可以延续已有适应方向；过程噪声则允许状态不完全服从旧动态。无标签的间隔帧只执行预测，不执行观测校正，误差会累积，不能把这种短期外推写成无监督自适应。完整稠密转移矩阵虽能表达潜坐标间的耦合，却让完整协方差传播变成立方级成本。

原文核心状态表示为：

\[ \theta_t^\star=\mathcal{G}(z_t),\qquad z_{t+1}=Fz_t+v_t. \]

其中 \(\mathcal{G}\) 是参数提升映射，\(F\) 是状态转移矩阵，\(v_t\) 的协方差是 \(Q\)。在线维护的是潜状态后验的高斯近似，而非全部网络权重的后验；预测器使用校正后潜均值生成的一组确定参数。

4. 标签驱动校正：用创新量与不确定性决定更新方向和幅度

观测模型把标签的 one-hot 编码视为预测类别概率加上观测误差。滤波器在预测潜均值处，对“潜状态→提升后的参数→类别概率”求雅可比，然后以标签与概率之差作为创新量。卡尔曼增益结合潜协方差、雅可比和观测噪声，决定创新量应如何转化为潜状态修正；这比把每条样本都乘以固定学习率更明确地利用了状态的不确定性。

以下保留原文更新机制，以 \(P_t=\Sigma_{t|t-1}\)、\(\bar z_t=\hat z_{t|t-1}\) 缩写预测协方差和均值；\(H_t\) 是类别概率对潜状态的雅可比，\(R\) 是观测噪声协方差。

\[ \begin{aligned} K_t&=P_tH_t^\top(H_tP_tH_t^\top+R)^{-1},\\ \hat z_t&=\bar z_t+K_t\left(\operatorname{OneHot}(y_t)-f_{\mathcal{G}(\bar z_t)}(x_t)\right),\\ \Sigma_t&=P_t-K_tH_tP_t. \end{aligned} \]

类别概率位于单纯形上，观测协方差需要正定正则化以保证数值稳定。标签残差的零均值、与理想概率输出不相关，依赖模型能表达真实条件类别分布等条件；这些论证并不意味着实际残差严格高斯。扩展卡尔曼滤波（EKF）仍采用局部一阶线性化和高斯近似，严重非线性或错误先验可能使校正不可靠。

低维状态缩小了协方差，但没有消除所有大矩阵和网络计算。潜协方差为 \(m\times m\)，雅可比为 \(C\times m\)，增益中求逆对象为 \(C\times C\)；类别很多时，后者不可忽略。原文在类别维度较小、转移为对角的条件下给出每步 \(\mathcal{O}(n+m^2)\)，其中 \(n\) 表示提升网络参数量；真实实现仍需生成适应参数，并穿过预测器和提升映射求雅可比。

一个完整示例¶

以 QuaDRiGa 通信评测的一帧为例：三个用户向五个接收天线发送信号，信道在帧内固定、跨帧变化。同步后的每帧提供六个已知导频；接收器逐个利用导频标签做六次“动态预测→创新校正”，每次先更新潜状态，再生成检测器块的权重，而不是把六个导频当作需要迭代到收敛的新训练集。

适应后，接收器对同一信道下另外 1000 个 QPSK 符号向量进行检测，计算比特错误率（BER）。这些待检测符号不用于产生监督校正。若标签每隔数帧才出现，间隔帧只能传播潜均值与协方差，直到下一组导频再修正；这是有监督跟踪中的间歇反馈，不是无标签测试时适应。

损失函数 / 训练策略¶

离线目标按轨迹、时间及查询样本平均交叉熵；每个时刻的支持样本先通过具有历史状态的在线算子 \(\mathcal{A}_t\) 完成适应，再计算查询损失：

\[ \mathcal{L}_{\mathcal{D}}^{\rm meta}(\phi)=\frac{1}{|\mathcal{D}|}\sum_{i=1}^{|\mathcal{D}|}\frac{1}{T}\sum_{t=1}^{T}\frac{1}{B-1}\sum_{b=2}^{B}\ell\!\left(f_{\mathcal{A}_t(x_{t,1}^{(i)},y_{t,1}^{(i)};\phi)}(x_{t,b}^{(i)}),y_{t,b}^{(i)}\right). \]

这里 \(B\) 是离线每个时刻的带标签样本数，不是部署时必须缓存的样本数。离线通过轨迹反向传播优化元参数，在线固定这些元参数，只递推潜均值和协方差。通信离线训练与评测使用不相交的信道轨迹，图像主评测则使用相同腐蚀池中的不同混合轨迹；后者不是未见腐蚀族泛化，附录另设不相交腐蚀族实验。

实验关键数据¶

主实验¶

图像流含 1000 个时刻，每时刻 100 张图像；监督流式方法只使用其中 5、10 或 15 个带标签样本。MNIST-C、CIFAR-10-C、CIFAR-100-C 分别使用 ResNet-18、Wide ResNet-28-10 和 29 层 ResNeXt，CIFAR 腐蚀严重度为 5。下表摘录原文 Table 1，指标为分类错误率（%，越低越好），每格来自 3 个种子。

方法	每时刻适应样本与监督	MNIST-C	CIFAR-10-C	CIFAR-100-C
Source	0	\(47.93\pm19.83\)	\(41.81\pm5.62\)	\(37.41\pm4.82\)
Online GD	5，带标签	\(7.50\pm0.50\)	\(29.46\pm5.55\)	\(37.93\pm1.83\)
EKF-FC	5，带标签	\(19.74\pm5.09\)	\(30.62\pm1.34\)	\(31.27\pm1.98\)
本文，仿射提升	5，带标签	\(2.76\pm0.63\)	\(16.13\pm1.50\)	\(29.47\pm0.62\)
Online GD	15，带标签	\(4.53\pm0.39\)	\(22.37\pm1.38\)	\(33.22\pm3.35\)
EKF-FC	15，带标签	\(12.16\pm3.06\)	\(26.99\pm5.26\)	\(32.43\pm1.55\)
本文，仿射提升	15，带标签	\(1.63\pm0.09\)	\(14.28\pm2.87\)	\(26.66\pm3.89\)
ROID	100，无标签、批式	\(2.64\pm1.37\)	\(16.00\pm1.29\)	\(26.50\pm1.37\)

在同为 5 个标签的预算下，本文比 Online GD 的 CIFAR-10-C 错误率低 13.33 个百分点；15 标签时 CIFAR-100-C 仍略高于 ROID 的 26.50%。ROID 使用整批无标签统计，本文利用可靠标签逐样本更新，二者既不监督匹配，也不缓冲预算匹配，不能将表格解释为无监督测试时适应的全面胜出。

主文 Table 1 标注潜维度依次为 \(m=256,500,500\)；附录 C.2 却写 \(m=128\)，且主文将 CIFAR-100 骨干称作 ResNet-29，附录写 ResNeXt。这里按主表保留维度，按详细实现描述骨干，同时明确这些源文差异，不自行统一配置。

通信主实验使用 3GPP Indoor Office LOS 的 QuaDRiGa 轨迹，含线性信道与加入 tanh 畸变的非线性信道。150 帧中前四帧每帧 64 个标签用于同步，余下 146 帧每帧六个标签用于跟踪。主图报告较低 BER 和更稳定跟踪，但文本缓存没有曲线数据，不据图注猜写精确 SNR–BER 数值或 FLOPs。

消融实验¶

原文 Table 2 在相同动态形式、潜维度和在线预算下比较是否离线学习。下表节选两种动态与两个维度，BER 单位为 %；不把表中的误差项擅自解释为未注明的置信区间。

动态	潜维度	离线学习	BER，8 dB	BER，10 dB
OU	100	有	\(0.832\pm0.485\)	\(0.512\pm0.379\)
OU	100	无	\(14.399\pm3.024\)	\(11.542\pm1.054\)
OU	700	有	\(0.311\pm0.367\)	\(0.210\pm0.152\)
OU	700	无	\(14.870\pm1.626\)	\(12.980\pm1.487\)
F-Diag	100	有	\(0.0757\pm0.0079\)	\(0.0608\pm0.0045\)
F-Diag	100	无	\(18.471\pm3.024\)	\(17.464\pm1.622\)
F-Diag	700	有	\(0.0199\pm0.0009\)	\(0.0176\pm0.0004\)
F-Diag	700	无	\(18.225\pm1.626\)	\(17.027\pm1.815\)

离线学习的效益不是简单压缩参数就能复制的。学习对角动态也优于这些 OU 配置，但不能据此推断所有环境都需要更复杂的转移矩阵；原文稠密转移消融指出其协方差预测成本为 \(\mathcal{O}(m^3)\)，实现中仅约 \(m\leq250\) 时具有运行时间吸引力。

原文 Table 4 在相同潜维度和在线协议下比较提升映射，分类错误率单位为 %，为 3 个种子的均值与标准差。

数据集	带标签样本数	仿射提升	非线性提升
CIFAR-10-C	5	\(16.13\pm1.50\)	\(10.21\pm0.40\)
CIFAR-10-C	10	\(16.84\pm0.51\)	\(10.15\pm0.81\)
CIFAR-10-C	15	\(14.28\pm2.87\)	\(9.75\pm0.54\)
CIFAR-100-C	5	\(29.47\pm0.62\)	\(26.34\pm1.77\)
CIFAR-100-C	10	\(29.65\pm1.97\)	\(25.21\pm1.04\)
CIFAR-100-C	15	\(26.66\pm3.89\)	\(23.00\pm0.79\)

关键发现¶

潜维度不是越大越好。图像维度扫描先改善、后饱和，甚至略变差；通信表中更大维度通常更准确，但额外协方差和映射成本仍需计算。
标签间隔是明确边界。附录 Table 3 中每帧六个导频时本文 BER 为 \(0.07\pm0.01\)%，每五帧才给六个导频时增至 \(4.54\pm0.96\)%；只有预测不能保证长期稳定。
跨模拟器泛化不等于普遍领先。QuaDRiGa 训练、COST2100 测试时，原文称 BER 大体可与领先全参数贝叶斯基线相比，而非始终更低。
突变可以逐步恢复，但并非立即恢复。附录 Table 8 的 CIFAR-10-C 五种突变平均错误率，仿射提升从 45.96% 降至 40 次更新后的 19.44%，非线性从 42.44% 降至 17.66%；每个更新时刻有 15 个标签。
硬件结果属于特定原型的毫秒量级预算。CPU 上 1.8K 参数 WiFi CNN 的每包推理为 0.084 ms、适应为 10.573 ms；6.6K 与 8.2K 参数模型适应为 40.414、84.393 ms，不能宣传为所有模型都在 1 ms 内完成。

亮点与洞察¶

学习对象是“更新容易发生的参数几何”，不是静态低维编码。支持样本更新、查询样本评价的训练闭环，使表示与实际滤波规则绑定。
贝叶斯工具在这里服务于在线优化，而不负责给全部网络权重做可信度量化。分清潜后验与确定参数实例，才能理解其效率来源及表达能力边界。
提升映射和动态先验是两个可独立调节的成本旋钮。迁移到其他流式分类系统时，可分别检验更丰富参数生成是否值得雅可比成本，以及时间先验是否真的符合部署漂移。

局限与展望¶

当前方案依赖在线标签；导频场景自然满足这一点，完全无监督部署却不满足。伪标签或自监督扩展属于展望，并未被当前主实验验证。
低维可压缩性、代表性离线轨迹和较平滑动态都是重要前提。跨域失配、突变或非常大的适应参数块，可能使生成空间不足或先验误导更新。
EKF 只有一阶线性化，单纯形标签观测使用近似噪声模型。非线性增强可能提高参数表示能力，同时降低局部线性近似的准确性并增加计算。
附录理论依赖 Lipschitz 可压缩性、强拟凸风险和有界损失等限制条件，不能当作一般深度分类器的收敛或任意漂移保证。证明中还把一般压缩映射作用于差向量，并引入未清楚对应的算子符号，细节需以原文进一步核实。
硬件展示为 PlutoSDR+ 上的 IEEE 802.11a 原型，并不自动满足任意无线标准或包长的实时截止期。可进一步研究变化检测、协方差膨胀、潜状态重置，以及雅可比与参数生成的优化执行。

评分¶

新颖性: 4/5，将潜参数生成、动态先验与可微在线滤波联合训练，重点超出单纯协方差压缩。
实验充分度: 4/5，覆盖图像、无线、冷启动、非线性提升、稀疏反馈、突变和硬件，部分配置描述存在差异。
写作质量: 3/5，主逻辑清楚，但缓存缩写、骨干与维度说明及理论证明细节需要核对。
价值: 4/5，适合具有可靠稀疏监督与结构化漂移的低延迟系统，尚不能推广为通用无监督适应方案。