Uncertainty Quantification for Reduced-Order Surrogate Models Applied to Cloud Microphysics

会议: NeurIPS 2025
arXiv: 2511.04534
代码: GitHub
领域: 其他
关键词: 降阶模型, 共形预测, 云微物理, 自编码器-SINDy, 代理模型, 预测区间

一句话总结

提出首个面向潜空间降阶模型的后验、模型无关不确定性量化框架，利用共形预测分别对重建、潜在动力学和端到端预测构建分布无关的预测区间，揭示了云微物理ROM中不确定性的组件级传播规律——自编码器结构性误差而非动力学误差主导端到端预测不确定性。

研究背景与动机

领域现状：潜空间降阶模型（Latent-space ROM）通过学习高维物理系统在低维潜空间中的紧凑表示，已在复杂流体力学等领域表现出高效模拟能力。云微物理领域中，降阶模型可替代传统的bulk参数化方案，以更低计算成本模拟液滴碰并凝聚等过程。

现有痛点：当前ROM的UQ方法存在三大问题——(1) 与特定架构绑定（如变分自编码器需要特定概率框架），(2) 需要昂贵的重训练（如集成方法），(3) 依赖参数化分布假设（如高斯假设）。这使得实践者难以信任ROM的预测，阻碍了其在关键科学应用中的部署。

核心矛盾：ROM追求计算效率而大幅压缩维度，但压缩引入的结构性误差与动力学近似误差如何传播、如何量化，缺乏统一框架。云微物理参数化的不确定性被认为是未来气候预测不确定性的主要来源，但现有方案普遍缺乏UQ能力。

本文目标：为任意黑箱潜空间ROM提供后验、模型无关的UQ框架，无需修改底层架构或训练流程，同时支持对ROM pipeline各组件（编码器-解码器重建、潜空间动力学、端到端预测）独立进行不确定性量化。

切入角度：利用共形预测（Conformal Prediction）的分布无关特性和可交换性假设，为ROM的三个组件分别构建统计有效的预测区间，首次实现ROM的组件级UQ分析。

核心 idea：将共形预测作为后验工具，独立应用于ROM pipeline的各个组件，既保证统计覆盖率又能定位不确定性的来源。

方法详解

整体框架

ROM由三个组件构成：编码器 \(E: \mathcal{X} \to \mathcal{Z}\) 将高维数据空间（\(d=64\) bin的DSD）映射到低维潜空间（\(m=4\)），动力学模型 \(F: \mathcal{T} \times \mathcal{Z} \to \mathcal{Z}\) 在潜空间中推演时间演化，解码器 \(D: \mathcal{Z} \to \mathcal{X}\) 将预测还原为物理空间。UQ框架独立地对这三个组件的输出构建共形预测区间：

• 重建UQ：评估自编码器 \(D \circ E\) 的压缩-还原误差
• 动力学UQ：评估潜空间ODE模型 \(F\) 的动态预测误差
• 端到端UQ：评估完整pipeline \(D \circ F \circ E\) 的综合预测误差

每个时间步独立构建预测区间，因此不确定性可随时间演化被追踪。

关键设计

1. 非对称双侧预测区间（用于DSD输出）

   • 功能：为DSD值预测构建允许上下界不同宽度的预测区间
   • 核心思路：使用有符号残差 \(R = y - f(x)\) 的 \(\alpha/2\) 和 \(1-\alpha/2\) 经验分位数，构建区间 \([f(x) + Q_{\alpha/2}(R),\; f(x) + Q_{1-\alpha/2}(R)]\)，而非传统的绝对残差对称区间
   • 设计动机：DSD是非负的且经常接近零，残差分布天然偏斜。对称区间会产生非物理的负值预测下界或过宽的上界，非对称设计能更好反映物理约束下的真实不确定性

2. Mahalanobis距离标量化分数（用于潜空间输出）

   • 功能：将多变量潜空间预测的联合误差压缩为单一标量非一致性分数
   • 核心思路：计算残差 \(r = z - \hat{z}\) 的Mahalanobis距离 \(S(z, \hat{z}) = r^\top \Sigma_r^{-1} r\)，其中 \(\Sigma_r\) 为残差协方差矩阵（Ledoit-Wolf收缩估计），由此定义潜空间预测椭球
   • 设计动机：潜空间变量具有相关性，逐坐标构建区间会忽视联合误差结构。Mahalanobis距离天然感知协方差，产生的椭球形预测集能准确捕捉多变量间的相关不确定性

3. 三种CP变体的对比框架

   • 功能：提供不同统计效率/计算成本权衡下的覆盖率保证
   • 核心思路：Vanilla CP（训练-测试划分，在训练数据上评分）、Split CP（训练60%-验证20%-测试20%划分，在验证集上评分）、CV+ CP（\(k=20\) 折交叉验证，聚合多折残差）
   • 设计动机：不同应用对区间精度和计算预算的要求不同——CV+区间最紧但需重训练\(k\)次，Vanilla最简单但可能过宽，对比分析帮助实践者根据场景做选择

损失函数 / 训练策略

UQ框架本身是后验方法，不涉及额外训练。底层AE-SINDy模型的训练使用复合损失：

\[L = L_{\text{recon}} + w_{dx} L_{dx} + w_{dz} L_{dz}\]

• \(L_{\text{recon}}\)：输入DSD与重建DSD之间的KL散度
• \(L_{dx}\)：解码器投影的DSD时间导数MSE
• \(L_{dz}\)：SINDy模块的潜空间时间导数MSE
• 权重依据DSD及其导数的相对量级自动缩放，其他超参数（batch size=25, lr=0.0042）由Optuna优化
• 训练使用AdamW优化器，早停patience=50，最多1000 epoch

实验关键数据

主实验

经验覆盖率验证（%，均值±标准差，跨所有时间步和输出坐标平均）：

子模型	CP方法	90%目标	95%目标	98%目标	99%目标
重建	Vanilla	88.56±3.16	93.86±2.30	96.96±1.65	98.00±1.38
重建	Split	87.70±4.31	92.87±3.62	96.10±2.57	97.34±2.17
重建	CV+	89.04±3.09	94.36±2.21	97.34±1.60	98.28±1.35
潜在动力学	Vanilla	89.38±5.41	95.16±3.36	97.88±1.64	98.98±1.04
潜在动力学	CV+	95.23±3.45	98.36±1.93	99.44±1.19	99.83±0.53
端到端	Vanilla	88.65±3.35	93.73±2.55	96.79±1.96	97.94±1.54
端到端	CV+	90.56±3.57	95.20±2.43	97.64±1.68	98.46±1.37

消融实验

不确定性传播的组件级时间行为对比：

组件	区间宽度随时间行为	物理解释	改进价值
重建（AE）	恒定不变	结构性压缩误差，与时间无关	最高——减少AE结构误差可系统性改善所有预测
潜在动力学（SINDy）	早期快速增长后趋缓	云→雨转变阶段不确定性大，稳定后趋于饱和	中等——动力学误差被解码器"平滑"
端到端	近似线性增长	动力学误差被AE平滑传播，呈现线性累积	—

关键发现

• 不确定性的空间迁移：预测区间的"峰值"从小液滴尺度（<50μm云滴）系统性迁移到大液滴尺度（雨滴），即使初始DSD为单峰分布且无显著碰并增长，大雨滴bin的不确定性仍随时间增长。这反映了预测降水形成起始（二次右峰出现）的内在困难
• AE误差主导端到端不确定性：重建误差虽恒定但贯穿所有时间步，而动力学误差虽增长但被解码器平滑——这意味着改进自编码器结构比优化潜空间动力学模型对降低整体不确定性更有价值
• CV+过度保守：CV+在潜在动力学上经验覆盖率大幅超出标称水平（90%目标达到95.23%），中位数在高覆盖率目标下甚至饱和到100%，代价是计算量增大\(k\)倍
• 小α值下覆盖不稳定：α越小（目标覆盖率越高），各CP方法间一致性越差，因为极端分位数的收敛需要更大校准集

亮点与洞察

• 组件级UQ是核心贡献：不同于仅评估端到端预测质量，本文能精确定位误差在ROM pipeline中的来源和传播方式，这对指导模型改进具有直接价值——例如明确指出"应优先改进AE而非SINDy"
• 反直觉发现：直觉上动力学误差随时间增长应主导端到端误差，但实际上解码器的平滑效应使得恒定的AE结构误差才是瓶颈。这一洞察只有通过组件级UQ才能获得
• 物理感知的区间设计：非对称区间尊重DSD非负约束，Mahalanobis距离捕捉潜空间相关性，设计选择与物理特性紧密耦合
• 极低部署成本：完全后验、无需修改模型，可直接嫁接到任何已训练的黑箱ROM上，实用性强

局限与展望

• 区间宽度不自适应：标准CP方法在给定输出维度和时间步上，对所有输入样本产生固定宽度的区间。自适应CP（如CQR、局部化CP）可根据输入特征调整区间宽度，更好反映逐样本的不确定性差异
• 数据规模有限：仅494个训练样本和124个测试样本，极端分位数估计不稳定。增加LES初始条件多样性可改善覆盖率的一致性
• 时间步独立假设：每个时间步独立构建预测区间，忽略了时间自相关——若考虑序列依赖可能产生更紧的联合预测区间
• 单一应用验证：虽然框架是通用的，但仅在AE-SINDy + 云微物理上验证。推广到其他ROM架构（如VAE、NODEs）和物理场景需要进一步实证
• 可扩展到其他UQ范式：后验思路不限于CP，可结合参数化预测区间、贝叶斯可信区间等方法，在不同UQ需求下提供更灵活的框架

相关工作与启发

• De Jong et al. (2025) 是本文的companion paper，开发了AE-SINDy代理模型本身。两篇论文互补——一篇聚焦代理模型构建，一篇聚焦UQ pipeline
• 共形预测在ROM中的首次应用：此前CP主要用于分类和回归任务的UQ，将其引入科学计算中的降阶模型是一个有价值的交叉
• SINDy系列 (Brunton & Champion)：稀疏动力学辨识为潜空间ODE提供了可解释的参数化形式，与AE结合实现了数据驱动的物理建模
• 启发：组件级UQ的思路可推广到任何多阶段pipeline——例如VLM中可分别对视觉编码器、语言模型、对齐模块做UQ来定位错误来源

评分

• 创新性: ⭐⭐⭐⭐ — 共形预测引入ROM领域是首次，组件级UQ的分析视角有独到价值，但核心方法（CP本身）并非新技术
• 实用性: ⭐⭐⭐⭐ — 后验、模型无关、零额外训练成本的设计使其可直接嫁接到已有ROM，但数据规模小限制了验证的说服力
• 实验充分度: ⭐⭐⭐ — 三种CP变体的对比全面，覆盖率和区间宽度的时间演化分析深入，但仅单一应用场景、单一ROM架构
• 写作质量: ⭐⭐⭐⭐ — 问题动机清晰，方法与物理背景结合紧密，组件级分析的可视化（Figure 2&3）直观有效

---

title: >- [论文解读] Uncertainty Quantification for Reduced-Order Surrogate Models Applied to Cloud Microphysics description: >- [NeurIPS 2025][降阶模型] 本文提出一种后验的、模型无关的不确定性量化框架，利用共形预测为潜空间降阶模型的重建、潜在动力学和端到端预测提供统计有效的预测区间，并在云微物理ROM上验证。 tags: - NeurIPS 2025 - 降阶模型 - 共形预测 - 云微物理 - 自编码器-SINDy - 代理模型

---

Uncertainty Quantification for Reduced-Order Surrogate Models Applied to Cloud Microphysics

会议: NeurIPS 2025
arXiv: 2511.04534
代码: GitHub
领域: 不确定性量化, 科学计算
关键词: 降阶模型, 共形预测, 云微物理, 自编码器-SINDy, 代理模型

一句话总结

本文提出一种后验的、模型无关的不确定性量化框架，利用共形预测为潜空间降阶模型的重建、潜在动力学和端到端预测提供统计有效的预测区间，并在云微物理ROM上验证。

研究背景与动机

• 潜空间降阶模型（ROM）可高效模拟高维物理系统，但缺乏统一的不确定性量化（UQ）方法
• 现有UQ方法通常与特定架构绑定、需要昂贵训练或依赖参数假设
• 云微物理参数化的误差和不确定性被认为是未来气候预测不确定性的主要来源
• 需求：一种不修改基础架构或训练过程的后验UQ框架，适用于任何黑箱ROM

方法详解

整体框架

对ROM pipeline的三个组件独立进行UQ： 1. 重建：自编码器（E→D） 2. 潜在动力学：潜空间中的动力系统F 3. 端到端：完整 E→F→D 流水线

关键设计

共形预测（CP）方法： - 在校准数据上计算非一致性分数，保证 P(Y ⊆ Γ(X)) ≥ 1-α - 前提：校准/测试数据可交换性（由初始条件独立采样满足）

三种CP变体： - Vanilla CP：训练-测试划分 - Split CP：训练-验证-测试划分（60-20-20） - CV+ CP：k折交叉验证聚合残差（k=20）

DSD预测的非一致性分数： - 使用有符号残差的α/2和1-α/2经验分位数构建非对称双侧预测区间 - 允许上下界不同——对非负且经常接近零的DSD至关重要

潜空间预测的非一致性分数： - 使用Mahalanobis距离作为标量一致性分数 - 预测区间为协方差感知的预测椭球 - 使用Ledoit-Wolf收缩估计器估计残差协方差

应用对象：AE-SINDy云微物理ROM

• 自编码器将64-bin DSD压缩到4维潜空间（3个编码维度+1个总质量）
• SINDy在潜空间中以二次多项式库学习ODE系统
• 数据来自大涡模拟（LES）+ 超级液滴方法（SDM），200m³域，128粒子/网格，600秒积分
• 相比SDM（~10⁸粒子）和bin微物理（30-100 bin），AE-SINDy代理成本降低数个数量级

实验关键数据

经验覆盖率验证

子模型	CP方法	90%目标	95%目标	98%目标	99%目标
重建	Vanilla	88.56±3.16	93.86±2.30	96.96±1.65	98.00±1.38
重建	Split	87.70±4.31	92.87±3.62	96.10±2.57	97.34±2.17
重建	CV+	89.04±3.09	94.36±2.21	97.34±1.60	98.28±1.35
端到端	CV+	90.56±3.57	95.20±2.43	97.64±1.68	98.46±1.37
潜在动力学	CV+	95.23±3.45	98.36±1.93	99.44±1.19	99.83±0.53

不确定性传播模式

组件	时间行为	特征
重建	随时间恒定	结构性误差
潜在动力学	快速增长后趋缓	云→雨转变困难后稳定
端到端	近线性增长	动力学误差被AE"平滑"

关键发现

• 预测不确定性从小液滴尺度系统性转移到大液滴尺度——反映降水形成的内在预测困难
• 重建误差随时间恒定，而动力学误差早期快速增长——表明改进AE比改进潜在动力学模型更有价值
• CV+产生更宽但更可靠的区间，尤其在潜在动力学上倾向保守估计
• 即使仅看云滴模式（无显著碰并增长），大雨滴bin的不确定性仍随时间增长

亮点与洞察

• 组件级UQ是关键贡献——能定位ROM pipeline中不确定性的来源
• 动力学误差被AE"平滑"的发现是反直觉但有实际指导意义的
• 非对称预测区间设计恰当地处理了DSD的物理约束
• 框架完全后验、模型无关，可直接应用于其他ROM

局限与展望

• 标准CP方法的预测区间宽度在给定输出和时间上对所有样本固定不变
• 未探索自适应CP变体（可根据输入调整区间宽度）
• 数据集较小（494训练+124测试样本），增加数据可能改善稳定性
• 小α值下覆盖率不一致——极端分位数需要更大校准集
• 可扩展到其他UQ方法（参数化预测区间、贝叶斯可信区间等）

相关工作与启发

• 与De Jong等人的AE-SINDy开发论文互补——本文聚焦UQ pipeline
• 共形预测在ROM中的首次应用，为实践者提供了评估代理模型可靠性的工具
• 对云微物理参数化的UQ具有直接气候科学意义

评分

⭐⭐⭐⭐ — 方法通用性强、实用价值高，组件级UQ分析提供了独特洞察，云微物理应用场景切合实际需求。

相关论文

• [NeurIPS 2025] Position: There Is No Free Bayesian Uncertainty Quantification
• [NeurIPS 2025] SMRS: Advocating a Unified Reporting Standard for Surrogate Models in the Artificial Intelligence Era
• [NeurIPS 2025] Adjusted Count Quantification Learning on Graphs
• [NeurIPS 2025] Uncertainty Estimation by Flexible Evidential Deep Learning
• [NeurIPS 2025] Radar: Benchmarking Language Models on Imperfect Tabular Data