SPDEBench: An Extensive Benchmark for Learning Stochastic PDEs¶

会议: NeurIPS 2026
arXiv: 2505.18511
领域: 物理驱动与仿真
关键词: 随机偏微分方程, 算子学习, 奇性SPDE, 重整化, 基准测试

一句话总结¶

针对随机偏微分方程（SPDE）学习缺乏可控数据生成与多维度评估的空白，SPDEBench 构建了涵盖正则与奇性 SPDE（含严谨重整化方案）的跨维度统一基准，并引入 Sobolev 及路径空间分布等 7 大评估指标与物理感知基线模型 NSPDE-S。

研究背景与动机¶

随机偏微分方程（SPDE）在现代数学与物理建模中占据核心地位，广泛用于刻画受微观涨落影响的多尺度复杂时空动力学，如湍流、超导相变及量子场论中的随机量子化。近年来，以神经算子（FNO、DeepONet）为代表的科学机器学习（SciML）代理模型在确定性 PDE 的加速求解上取得了巨大成功，但将算子学习拓展至 SPDE 领域时，学术界长期受制于缺乏受控、统一且涵盖前沿数学理论的标准化基准测试集。

这一缺陷在“奇性 SPDE”（如动态 $\Phi^4_2$、$\Phi^4_3$ 与 KPZ 方程）上尤为尖锐。在奇异驱动噪声（如时空白噪声）的作用下，解的正则性极低，非线性项在经典函数空间甚至无法明确定义，必须依赖 Martin Hairer 正则结构理论中的“重整化”（Renormalization）机制扣除发散项才能建立良置性。然而，现有深度学习研究通常将数值离散、噪声截断阶数及重整化细节视为固定且不可见的实现琐事，忽略了重整化对解轨道统计特性的本质改变。此外，模型评估普遍单一依赖相对 $L^2$ 误差，无法捕获解在梯度空间（Sobolev 范数）以及时空联合分布或路径空间（Path-space distribution）上的统计保真度。

为打破上述理论与评估瓶颈，本文系统构建了面向 SPDE 代理模型学习的综合基准测试集。核心 idea：建立首个覆盖正则与奇性 SPDE 的可控基准 SPDEBench，将重整化与噪声截断参数显式纳为控制变量，辅以涵盖样本级、时空统计与路径特征分布（Sig-$W_1$）的 7 大评估体系，并提出结合重整化常数门控的物理感知算子架构 NSPDE-S。

方法详解¶

整体框架¶

SPDEBench 旨在系统评估两类核心算子学习任务：一是固定初始条件、由随机驱动噪声到时空解轨迹的映射 $\mathcal{G}_1: \{\xi(t,x)\}_{t\in[0,T]} \mapsto \{u(t,x)\}_{t\in[0,T]}$；二是初值与噪声联合映射 $\mathcal{G}_2: (u_0(x), \{\xi(t,x)\}_{t\in[0,T]}) \mapsto \{u(t,x)\}_{t\in[0,T]}$。整体研发框架涵盖三个核心支柱：受控数值生成引擎（严格实现奇异 SPDE 的 Wick 幂重整化与晶格 IMEX 求解）、标准算子模型库（覆盖通用神经算子、神经常微分/控制微分方程基线以及重整化增强模型 NSPDE-S）、多层次综合评估协议（从单点范数到路径空间分布度量）。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["输入配置<br/>SPDE方程/初值分布/噪声类型与截断阶数J"] --> B["受控数据生成引擎<br/>谱截断与Wick幂/晶格重整化数值解"]
    B --> C["算子学习代理模型库<br/>通用算子(FNO/GT) + 随机/正则感知(NSPDE/DLR-Net/NSPDE-S)"]
    C --> D["多层次综合评估体系<br/>样本精度(L2/H1) + 时空统计(ACF/Corr) + 路径分布(Sig-W1)"]

关键设计¶

1. 受控数据生成引擎：显式参数控制与严格的奇性重整化 针对传统研究忽略数值生成细节对模型评估偏差的影响，SPDEBench 将噪声类型（Q-Wiener 过程或柱状 Wiener 过程）、基函数（Fourier 或 Sine）、谱截断阶数 $J \in \{32, 64, 128, 256\}$ 以及重整化配置完全参数化。对于非奇异方程（1D 动态 $\Phi^4_1$、1D KdV、1D 非线性波动方程、2D 不可压缩 Navier-Stokes 涡量方程），采用高阶有限差分或谱 Galerkin 格式；对于奇异方程（2D $\Phi^4_2$、3D $\Phi^4_3$、1D KPZ），严格推导并植入有限截断下的含时对消项。以 2D $\Phi^4_2$ 为例，解被分解为随机卷积 $X_J$ 与高正则性余项 $v$，在数值步进中对三次非线性项进行 Wick 幂展开重整化，消去由于白噪声导致的紫外发散： $$u^{\diamond 3} := v^3 + 3v^2 X_J + 3v X_J^{\diamond 2} + X_J^{\diamond 3},\quad \text{其中 } X_J^{\diamond 2} = X_J^2 - a_{J^{-1}}(t),\quad X_J^{\diamond 3} = X_J^3 - 3a_{J^{-1}}(t)X_J$$ 其中含时重整化对消常数计算为 $a_{J^{-1}}(t) = \sigma^2 \left(t + \sum_{0<|k|\le J} \frac{1 - e^{-2\lambda_k t}}{2\lambda_k}\right)$。实验证明，缺乏该重整化项的数值模拟会产生严重的宏观漂移和病态高频震荡，从根源上污染基准数据的真值质量。

2. 算子学习代理模型库：广泛基线与重整化感知算子 NSPDE-S SPDEBench 集成了经典神经算子（FNO、Wavelet Operator WNO、DeepONet、Galerkin Transformer GT）、神经常微分/控制微分方程（NCDE、NRDE、NCDE-FNO）以及前沿正则结构驱动模型（Neural SPDE、DLR-Net、NORS）。为了探索如何将现代 SPDE 数学先验注入深度学习网络，本文专门提出了 NSPDE-S 架构。NSPDE-S 针对奇异 SPDE 设计，将解析计算得到的标量重整化常数 $a_\epsilon$ 经过归一化后作为辅助输入，在潜在时空隐状态 $z_s$（维度为 $B \times T \times d_h$）完成内部微分解算后，通过自适应门控机制调制潜在嵌入： $$\text{gate} = 2 \cdot \sigma(|a_\epsilon|), \quad z_s \leftarrow z_s \odot \text{gate}$$ 该设计允许网络在重整化修正剧烈时动态放大特征表达能力，而在奇异性消失（$a_\epsilon \approx 0$）时自然退化为标准 NSPDE。

3. 多层次综合评估体系：突破单点范数的时空与路径分布度量 针对确定性 PDE 中仅关注逐点相对 $L^2$ 误差而忽视随机动态统计特性的弊端，SPDEBench 构建了涵盖三大维度的 7 种指标评价协议。除相对/绝对 $L^2$、RMSE 之外，系统引入了：其一，Sobolev $W^{1,2}$（$H^1$）范数，通过在空间傅里叶频域引入权函数 $w(\xi)=(1+|\xi|^2)^{1/2}$ 评估梯度场保真度；其二，时空自相关函数（ACF）与空间互相关（Cross-Correlation）误差，度量时空二阶相关统计结构的匹配程度；其三，基于截断路径特征（Path Signatures）的 Sig-$W_1$ 距离。将每个空间格点处的解轨迹视为时间增广路径 $t \mapsto (t, u(t,x))$，通过期望特征值匹配跨空间格点计算路径测度距离： $$\mathrm{SigW}_{1}(U,\hat{U}) = \frac{1}{M} \sum_{i=1}^M \left\| \frac{1}{N} \sum_{n=1}^N S^{(m)}(U^{(n)}_{i,\cdot}) - \frac{1}{N} \sum_{n=1}^N S^{(m)}(\hat{U}^{(n)}_{i,\cdot}) \right\|_2$$ Sig-$W_1$ 能够敏锐捕捉传统单点距离完全无法识别的高阶非线性时间依赖与随机几何拓扑。

损失函数 / 训练策略¶

模型训练默认采用经验相对 $L^2$ 损失函数，通过 Adam 优化器配合 ReduceLROnPlateau 动态调度器在验证集上执行早停（Early Stopping）： $$\mathcal{L}_{\text{rel-}L^2} = \frac{1}{n}\sum_{i=1}^n \frac{\|u^{(i)} - \hat{u}^{(i)}\|_{L^2}}{\|u^{(i)}\|_{L^2}}$$ 对于需要强化梯度守恒的场景，SPDEBench 支持直接以相对 Sobolev $W^{1,2}$ 损失作为优化目标。实验表明，使用 $W^{1,2}$ 损失能够在收敛时提供更平滑的梯度逼近，但其单轮迭代计算耗时增加约 70%，因此基准统一下将相对 $L^2$ 设为默认训练目标，将 $W^{1,2}$ 留作深度消融与高精度评估。

实验关键数据¶

主实验¶

在 1D 动态 $\Phi^4_1$ 方程（Dirichlet 边界，$\sigma=0.1$）不同噪声截断阶数 $J \in \{32, 64, 128, 256\}$ 下，各代理模型与传统数值求解器的相对 $L^2$ 误差及推理耗时对比如下表所示：

模型	参数量 (#Params)	推理时间 (ms)	$\xi \mapsto u$ ($J=32$)	$\xi \mapsto u$ ($J=128$)	$\xi \mapsto u$ ($J=256$)	$(u_0,\xi) \mapsto u$ ($J=32$)	$(u_0,\xi) \mapsto u$ ($J=128$)	$(u_0,\xi) \mapsto u$ ($J=256$)
数值求解器	—	2.438	—	—	—	—	—	—
NCDE	545,088	0.197	0.097	0.100	0.158	0.121	0.130	0.210
NRDE	8,656,656	0.201	0.147	0.141	0.235	0.269	0.256	0.360
NCDE-FNO	48,769	1.734	0.038	0.056	0.086	0.052	0.079	0.084
DeepONet	4,329,472	0.009	0.125	0.137	0.212	—	—	—
FNO	4,924,449	0.166	0.022	0.023	0.033	—	—	—
WNO	3,844,161	0.720	0.041	0.043	0.063	—	—	—
GT	39,329	0.166	0.063	0.073	0.104	0.073	0.080	0.109
NORS	6,300,449	0.115	0.005	0.012	0.007	0.014	0.012	0.013
NSPDE	3,283,457	0.156	0.003	0.004	0.006	0.008	0.011	0.012
DLR-Net	133,178	0.110	0.002	0.003	0.004	0.004	0.004	0.006

在推理效率方面，ML 代理模型在 $\Phi^4_1$ 上实现了约 22 倍加速，在 2D $\Phi^4_2$ 上从数值求解器的 129.29 ms 缩短至约 0.47 ms，实现了超过 270 倍的计算加速。

消融实验¶

为评估模型在严苛奇异 SPDE 上的分布外（OOD）泛化能力与重整化先验的有效性，下表展示了 2D 动态 $\Phi^4_2$ 模型在不同噪声截断阶数及全阶混合训练集 $\mathcal{D}_{\text{mix}}^{\text{re}}$ 上的测试相对 $L^2$ 误差：

训练集配置	测试集分布	模型	$J=2$	$J=8$	$J=32$	$J=64$	$J=128$ (高频真值代理)
同分布 $\mathcal{D}_J^{\text{re}}$	$\mathcal{D}_J^{\text{re}}$	NSPDE	0.006	0.016	0.069	0.132	0.245
同分布 $\mathcal{D}_J^{\text{re}}$	$\mathcal{D}_J^{\text{re}}$	NSPDE-S	0.006	0.016	0.063	0.123	0.205
低阶训练 $\mathcal{D}_J^{\text{re}}$	$\mathcal{D}_{128}^{\text{re}}$ (OOD)	NSPDE	0.358	0.278	0.281	0.253	0.245
低阶训练 $\mathcal{D}_J^{\text{re}}$	$\mathcal{D}_{128}^{\text{re}}$ (OOD)	NSPDE-S	0.369	0.275	0.245	0.234	0.205
混合训练 $\mathcal{D}_{\text{mix}}^{\text{re}}$	$\mathcal{D}_J^{\text{re}}$	NSPDE	0.006	0.017	0.068	0.135	0.253
混合训练 $\mathcal{D}_{\text{mix}}^{\text{re}}$	$\mathcal{D}_J^{\text{re}}$	NSPDE-S	0.006	0.016	0.063	0.124	0.232

此外，在奇异 SPDE（Table I8，截断 $J=128$）的跨指标评测中，针对 KPZ 方程，FNO 在相对 $L^2$ 上达到 0.042（NSPDE 为 0.100），但两者的 Sig-$W_1$ 误差分别高达 3.911 与 12.11；而在 3D $\Phi^4_3$（$J=8$）上，FNO 取得 0.137 的相对 $L^2$ 误差，而标准 NSPDE 彻底崩溃（相对误差高达 0.995）。

关键发现¶

随机与正则归纳偏置决定上限：DLR-Net、NORS 与 NSPDE 在绝大多数常规 SPDE 任务上显著优于标准通用神经算子（如 FNO、DeepONet、GT），其中 DLR-Net 参数量仅 133K，却取得了全场最低的 $L^2$ 误差与最优的方差捕获能力。
重整化先验对 OOD 泛化至关重要：NSPDE-S 通过显式融入解析重整化常数 $a_\epsilon$ 门控，在 2D $\Phi^4_2$ 的高截断极限与分布外迁移场景下（$J \to 128$），相对 $L^2$ 误差稳定下降 15%~20%，验证了物理重整化先验的有效性。
高阶统计量暴露通用架构缺陷：虽然 FNO 在 KPZ 等方程上取得了较低的标量均方误差，但在度量路径分布的 Sig-$W_1$ 指标上数值极大，说明单点损失掩盖了模型在捕获粗糙随机动态高阶几何特征上的无能为力。
数据缩放边界受制于模型表达力：在 $\Phi^4_1$ 上将训练样本从 1,000 扩展至 10,000 时，各模型性能仅有微弱提升（DLR-Net 从 0.0177 降至 0.0141），表明当前 SPDE 学习的主要瓶颈在于能够应对极低正则性噪声的架构设计，而非纯粹的数据体量。

亮点与洞察¶

首个引入数学重整化的基准数据生成流程：将 Hairer 正则结构理论中严谨的 Wick 幂与晶格 IMEX 方案工程化落地，填补了机器学习界在奇异 SPDE 领域无高质量基准可用的空白。
多维度评估揭示单一范数的评估盲区：通过联合使用 Sobolev $W^{1,2}$、ACF、互相关与基于期望路径特征的 Sig-$W_1$ 距离，使模型在梯度保真度与随机分布层面的真实性能无所遁形。
轻量重整化门控 NSPDE-S 的可迁移范式：无需大幅修改骨干网络，仅将解析截断参数转化为自适应特征门控信号即可大幅改善奇异动力学的 OOD 泛化，为将现代微扰论与物理重整化方法嵌入深度架构提供了极简且通用的设计参考。

局限与展望¶

真实物理场景数据尚未接入：当前 SPDEBench 所有基准数据集均来自受控数值求解器的合成模拟，尚未涵盖带真实测量噪声的实验流体力学或气候观测数据。
高维奇异 SPDE 探索受限：受制于高维网格计算与多重求和重整化常数的计算复杂度，基准目前仅覆盖到 3D $\Phi^4_3$ 的极粗网格（$17^3$），更高维度或极端微细网格仍面临算力瓶颈。
超大规模 Transformer 类基础模型缺失：目前基准评测以专用算子与轻量级网络为主，探索面向多尺度随机时空动力学的统一通用大模型（Foundation Model）是极具前景的后续方向。

评分¶

新颖性: ⭐⭐⭐⭐⭐ 首次建立面向正则与奇异 SPDE 的机器学习基准，并融合了正则结构重整化理论。
实验充分度: ⭐⭐⭐⭐⭐ 覆盖 1D-3D 共 5 类经典方程、10 余种模型、7 大指标以及详细的截断敏感性与尺度缩放分析。
写作质量: ⭐⭐⭐⭐⭐ 数学严密，符号表述规范，从理论推导到实验论证条理清晰。
价值: ⭐⭐⭐⭐⭐ 填补了 SciML 领域随机动力学基准的空白，将显著推动随机算子学习算法的发展。

训练集配置	测试集分布	模型	\(J=2\)	\(J=8\)	\(J=32\)	\(J=64\)	\(J=128\) (高频真值代理)
同分布 \(\mathcal{D}_J^{\text{re}}\)	\(\mathcal{D}_J^{\text{re}}\)	NSPDE	0.006	0.016	0.069	0.132	0.245
同分布 \(\mathcal{D}_J^{\text{re}}\)	\(\mathcal{D}_J^{\text{re}}\)	NSPDE-S	0.006	0.016	0.063	0.123	0.205
低阶训练 \(\mathcal{D}_J^{\text{re}}\)	\(\mathcal{D}_{128}^{\text{re}}\) (OOD)	NSPDE	0.358	0.278	0.281	0.253	0.245
低阶训练 \(\mathcal{D}_J^{\text{re}}\)	\(\mathcal{D}_{128}^{\text{re}}\) (OOD)	NSPDE-S	0.369	0.275	0.245	0.234	0.205
混合训练 \(\mathcal{D}_{\text{mix}}^{\text{re}}\)	\(\mathcal{D}_J^{\text{re}}\)	NSPDE	0.006	0.017	0.068	0.135	0.253
混合训练 \(\mathcal{D}_{\text{mix}}^{\text{re}}\)	\(\mathcal{D}_J^{\text{re}}\)	NSPDE-S	0.006	0.016	0.063	0.124	0.232