Mesh-Free Convolution: Learned Spectral Attenuation and Transport¶

会议: NeurIPS 2026
arXiv: 2610.15931
领域: 物理/科学计算
关键词: 神经算子、偏微分方程、网格无关卷积、自回归稳定性、跨分辨率泛化

一句话总结¶

本文提出基于连续偏微分方程时间演化解算子参数化的网格无关卷积（MFC），以可学习的各向异性抛物型谱衰减与定向平流读取替代传统傅里叶算子的硬截断，实现了长时自回归稳定预测、跨分辨率零样本迁移与局部对流结构的保真演化。

研究背景与动机¶

学习偏微分方程（PDE）的解映射算子是科学机器学习的核心问题之一。在时间演化型物理系统中，神经算子通常以自回归方式递归推演：将前一时刻预测的物理场重新作为输入输入网络，以推测未来的演化轨迹。在这一递归循环中，单步推演中微小的空间相位误差或高频谱扰动会被反复迭代累积，极易诱发虚假振荡、能量耗散或数值发散，严重破坏长时预测的物理真实性。

傅里叶神经算子（FNO）通过在频域学习乘子提供了高效的全局特征混合能力，但其标准层在频域强行施加固定的硬频模截断（hard mode truncation），丢弃截断阈值之外的所有高频分量。这种设计虽然在光滑或低频主导的动力学中有效，但在面对局部化锋面、涡旋移动或对流主导系统时存在本质局限：硬边界会阻断精细尺度的非线性传递，且在自回归回环中极易引发吉布斯振荡或高频谱畸变；更重要的是，其离散权重绑定在特定的网格模式数量上，难以天然实现平滑的跨分辨率尺度泛化。

现有改进方案如因式分解傅里叶算子（F-FNO）或自适应谱混合（AFNO）虽然提升了表征容量，但依然依赖无约束的离散频域乘子，缺乏针对物理输运特性的连续归纳偏置。本文从卷积、格林函数与线性演化偏微分方程之间的深层对偶关系切入，认为连续物理系统中的宏观演变本质上是耗散扩散与定向平流的有机结合。核心 idea：将卷积核定义在连续函数空间中并参数化为各向异性抛物型扩散与定向平流偏微分方程的时间演化解算子，在频域采样为平滑谱衰减与一阶空间位移符号，使网络在无需离散模板和硬截断的前提下天然具备耗散自限性与输运表征能力。

方法详解¶

整体框架¶

网格无关卷积（MFC）将空间离散与滤波器定义彻底解耦。整个网络由可学习的逐点通道投影、连续空间各向异性扩散演化、带空间平移的一阶定向读取算子、以及输出投影组成。在计算实现上，网络利用快速傅里叶变换（FFT）在频域以矩阵自由（matrix-free）的方式直接乘以连续傅里叶符号 \(G_{\bm{\xi}}(\mathbf{k})\)，完全避免了装配空间卷积密集矩阵或网格依赖的模板。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    IN["输入物理场 u(x)"] --> CH_IN["逐点通道映射<br/>R u(x)"]
    CH_IN --> FFT["空间快速傅里叶变换 FFT<br/>采样离散频点 k"]
    FFT --> MULT["频域矩阵自由符号调制<br/>乘积 G(k) = 抛物衰减 × 空间平移 × 一阶读取"]
    MULT --> IFFT["逆快速傅里叶变换 IFFT<br/>恢复到物理空间"]
    IFFT --> CH_OUT["逐点输出投影 S<br/>生成下一时刻物理场 v(x)"]

关键设计¶

1. 连续抛物型谱衰减：以正定各向异性扩散保证高频有界性

传统 FNO 采用硬性频模截断保留前 \(K\) 个模式，人为制造了频域阶跃截断，极易在高频边界产生能量虚假积聚。MFC 引入可学习的连续抛物型微分算子 \(\mathcal{L}(\bm{\alpha})\tilde{v} = \alpha_{xx}\frac{\partial^2\tilde{v}}{\partial x^2} + 2\alpha_{xy}\frac{\partial^2\tilde{v}}{\partial x\partial y} + \alpha_{yy}\frac{\partial^2\tilde{v}}{\partial y^2}\)，并通过参数约束 \(\alpha_{xx}>0\)、\(\alpha_{yy}>0\) 以及 \(\alpha_{xx}\alpha_{yy}-\alpha_{xy}^2>0\) 强制扩散张量 \(\mathbf{A}\) 严格对称正定。在频域中，经过连续演化时间 \(\tau \geq 0\) 后的解算子对应指数衰减因子：

\[\exp\left(-\tau \mathbf{k}^\top \mathbf{A} \mathbf{k}\right) \leq \exp\left(-\tau \lambda_{\min}(\mathbf{A}) \|\mathbf{k}\|_2^2\right)\]

该设计赋予了算子先天的耗散偏置：高频分量随频率平方呈现平滑高斯衰减，彻底消除了阶跃截断带来的吉布斯振荡；同时可学习的正定张量 \(\mathbf{A}\) 与时间标度 \(\tau\) 允许网络自适应调整空间平滑的尺度与方向各向异性，在保留必要细粒度特征的同时从底层杜绝了高频数值爆炸。

2. 连续平流位移与一阶定向读取：精确建模非对称输运行为

纯扩散核在物理上是中心对称的，仅能表征能量耗散而无法描述流体涡旋、天气锋面或冲击波的沿程输运。MFC 通过引入连续空间平移向量 \(\bm{\delta} = (\delta_x, \delta_y)\) 与一阶空间偏导读取项 \((\gamma_0 + \gamma_x \partial_x + \gamma_y \partial_y)\)，模拟常速平流方程 \(w_t + \mathbf{b}\cdot \nabla w = 0\) 的解析解（位移量 \(\bm{\delta} = \tau \mathbf{b}\)）。在频域中，连续卷积算子的完整傅里叶符号表示为：

\[G_{\bm{\xi}}(\mathbf{k}) = \underbrace{\exp\left(-\tau \mathbf{k}^\top \mathbf{A} \mathbf{k}\right)}_{\text{抛物型平滑衰减}} \cdot \underbrace{\left(\gamma_0 + i\gamma_x k_x + i\gamma_y k_y\right)}_{\text{零阶/一阶空间导数读取}} \cdot \underbrace{\exp\left(-2\pi i\,\mathbf{k}\cdot \bm{\delta}\right)}_{\text{可学习平流相移}}\]

一阶微分项引入奇对称的虚数响应 \(i(\gamma_x k_x + \gamma_y k_y)\)，产生具有明显方向取向的双叶形滤波核；连续相位因子 \(\exp(-2\pi i \mathbf{k}\cdot \bm{\delta})\) 则打破了网格整像素对齐的限制，使网络能以极少量的物理参数显式表征锋面的平流偏移。该分解将对流占优系统中常见的相位误差直接转化为低维平流参数的优化，极大减轻了黑盒频域权重拟合输运运动的学习负担。

3. 连续算子频域采样与自适应无网格跨分辨率求值

常规卷积神经网络与固定模 FNO 的核权重均深度绑定在具体的离散采样网格上，导致跨分辨率测试时需要插值或重新剪裁权重。MFC 的参数集 \(\bm{\xi} = \{\alpha_{xx},\alpha_{yy},\alpha_{xy},\tau,\gamma_0,\gamma_x,\gamma_y,\delta_x,\delta_y\}\) 定义的是连续函数空间映射，与任何具体的几何网格无关。在实际计算时，只需根据当前网格分辨率生成对应的离散频率网格 \(\mathbf{k}^h\)，直接在离散频点处解析求值符号 \(G_{\bm{\xi}}(\mathbf{k}^h)\)：

\[\mathbf{v}^h = \mathbf{F}^{-1}\left[ G_{\bm{\xi}}(\mathbf{k}^h) \cdot \mathbf{F}\mathbf{u}^h \right]\]

符号求值的时间复杂度仅取决于通道数而与空间分辨率独立（单次求值耗时约 2.2 ms）。在向更高分辨率进行零样本迁移时，高频未见区域由高斯衰减因子自然平滑压制，从而实现无须重新训练即可在不同精细度网格上稳定泛化。

损失函数 / 训练策略¶

模型训练采用标准的监督算子学习范式。在 Navier–Stokes 涡量预测中采用单步自回归教师强制（Teacher Forcing）结合均方误差损失（MSE）；在 WeatherBench2 全球天气预报中采用纬度加权均方误差（Latitude-weighted MSE）；在 2D Burgers 方程中采用 5 步时间展开的相对 \(\ell_2\) 损失函数。在所有对比实验中，MFC 与基线模型（FNO、F-FNO、AFNO）严格保持一致的优化器（Adam）、学习率策略（Cosine Annealing 或 StepLR）、参数量级与上下文帧数，避免因训练超参不一致导致评测偏差。

实验关键数据¶

主实验¶

评估覆盖 Kolmogorov 流 2D Navier–Stokes、WeatherBench2 ERA5 全球气象中长期预报、以及 2D Burgers 方程。

表 1 展示了在 2D Burgers 方程（200 步长程自回归推演，训练仅展开 5 步）四大测试集上的归一化均方根误差几何均值（GMean，越低越好）：测试集 A（分布内，\(\nu \in [10^{-2}, 2\cdot 10^{-2}]\), \(64^2\)）、测试集 B（OOD 粘度，\(\nu \in [10^{-3}, 7\cdot 10^{-3}]\) 产生极陡峭梯度）、测试集 C（OOD 分辨率，零样本迁移至 \(128^2\)）、测试集 D（双重分布偏移）。

测试集	分辨率	步数	FNO	F-FNO	MFC (Ours)	表现分析
A (分布内)	\(64^2\)	GMean@20	0.4153	0.0135	0.0841	F-FNO 短程最优，但长程迅速恶化
A (分布内)	\(64^2\)	GMean@50	1381.5	0.1969	0.6660	FNO 在第 20-50 步彻底谱发散
A (分布内)	\(64^2\)	GMean@100	\(5.75\times 10^9\)	8.7762	1.7009	MFC 长程误差增长最慢且高度自限
B (OOD 粘度)	\(64^2\)	GMean@20	0.5353	0.0694	0.2183	锋面加剧时传统算子高频误差凸显
B (OOD 粘度)	\(64^2\)	GMean@100	\(4.97\times 10^9\)	9.7672	1.5673	MFC 比 F-FNO 稳定度提升逾 6 倍
C (OOD 分辨率)	\(128^2\)	GMean@20	0.7712	0.2592	0.2681	零样本网格上调表现接近
C (OOD 分辨率)	\(128^2\)	GMean@100	\(9.20\times 10^9\)	44.6557	2.3423	跨网格下 F-FNO 严重退化，MFC 维持极佳稳定
D (双重 OOD)	\(128^2\)	GMean@100	\(7.15\times 10^9\)	39.7726	2.1275	综合极端工况下 MFC 保持近 19 倍优势

表 2 展示了 WeatherBench2 全球中长期天气预测（500 步，相当于 125 天）的气候态均方根误差（纬度加权 RMSE 与相对标准差 NRMSE %），评估长期统计气候态保真度：

变量	预测步数 (天数)	地表真实 \(\sigma_{\mathrm{GT}}\)	MFC-ResNet RMSE (NRMSE %)	AFNO RMSE (NRMSE %)	FNO RMSE (NRMSE %)
\(U_{10}\) (地表纬向风, m/s)	100步 (25天)	3.509	0.569 (16.2%)	0.572 (16.3%)	8.227 (234.5%)
\(U_{10}\) (地表纬向风, m/s)	300步 (75天)	3.514	0.836 (23.8%)	1.134 (32.3%)	10.159 (289.1%)
\(U_{10}\) (地表纬向风, m/s)	500步 (125天)	3.525	1.029 (29.2%)	1.422 (40.3%)	10.075 (285.8%)
\(V_{10}\) (地表经向风, m/s)	100步 (25天)	1.703	0.388 (22.8%)	0.412 (24.2%)	3.679 (216.0%)
\(V_{10}\) (地表经向风, m/s)	300步 (75天)	1.708	0.512 (30.0%)	0.856 (50.1%)	5.292 (309.9%)
\(V_{10}\) (地表经向风, m/s)	500步 (125天)	1.714	0.663 (38.7%)	1.083 (63.2%)	6.020 (351.1%)
\(T_{850}\) (850hPa气温, K)	500步 (125天)	10.901	2.750 (25.2%)	2.825 (25.9%)	12.950 (118.8%)
稳定性统计 (35条测试轨迹)	500步长程	-	0 / 35 发散	0 / 35 发散	11 / 35 彻底发散崩溃

消融实验¶

表 3 汇总了 2D Burgers 方程上针对 MFC 傅里叶符号各组件的消融验证（5 步展开验证相对 \(\ell_2\) 误差及第 20 步推演误差 GMean@20）：

变体配置	具体改动	验证集相对 \(\ell_2\)	GMean@20 (A)	GMean@20 (B)	GMean@20 (C)	GMean@20 (D)	说明与影响
MFC-full (完整模型)	完整抛物衰减+平移+一阶导	0.0113	0.084	0.218	0.268	0.409	综合性能最优，多尺度鲁棒
w/o shift (无平流平移)	冻结平移 \(\bm{\delta} \equiv \mathbf{0}\)	0.0144	0.214	0.304	0.359	0.461	缺乏平移先验，相移误差显著上升
w/o first-order (无一阶导)	冻结导数 \(\gamma_x = \gamma_y \equiv 0\)	0.0127	0.070	0.173	1.012	0.998	分布内尚可，但跨分辨率迁移剧烈劣化 2-3 倍
w/o anisotropy (无各向异性)	限制扩散 \(\alpha_{xy} \equiv 0\)	0.0166	0.115	0.253	1.017	0.970	失去方向拉伸自由度，高分辨率几何失配
hard cutoff (硬截断)	替换为 \(\mathbf{1}[\\|\mathbf{k}\\|\leq 17]\)	0.0720	0.195	0.270	0.522	0.535	单步误差暴涨 5-6 倍，严重削弱精细重构

关键发现¶

谱发散机理溯源：在 Burgers 方程的谱分析中，标准 FNO 的长程发散根源并非离散分辨率不足，而是在保留模截断边界处形成了约 \(10^4\) 倍的谱放大凸峰，并在迭代中迅速倒灌淹没所有波段。即使将 FNO 模式数扩增至 32（参数量增加 3 倍，无截断损失），依然在第 50 步全部轨迹发散；而 MFC 即使人为强制施加 FNO 样式的硬截断，依然能在全部 200 条轨迹上保持稳定。
输运项与各向异性的迁移价值：消融表明，一阶导数与各向异性张量在网格原分辨率的短时拟合中影响有限，但在跨分辨率（从 \(64^2\) 零样本迁移至 \(128^2\)）推演中起决定性作用，移除后跨尺度误差增大 2-3 倍。
计算效率优势：在 4090 GPU 上的基准测试显示，在 \(64^2\) 时 MFC 比 F-FNO 略慢，但随着网格扩展至 \(128^2\) 和 \(256^2\)，MFC 的运算速度反超 F-FNO，且显存占用显著低于 AFNO。

亮点与洞察¶

格林函数与物理演化算子的连续先验落地：巧妙地将偏微分方程的解析性质（正定抛物扩散平滑与平流相移）直接编码为神经网络滤波器的代数形式，使得卷积核具有先天的物理守恒与渐近衰减结构，无须依赖手工启发式正则化。
零额外开销的连续分辨率自适应：算子权重仅包含十几个物理连续参数，脱离特定离散网格存在；推演时通过解析频域采样动态支持任意网格评价，使零样本超分辨率评估变得自然且无需补丁微调。
自回归误差抑制的可解释解耦：将时间步进误差解耦为“振幅发散（由正定矩阵 \(\mathbf{A}\) 强行指数压制）”与“相位错位（由连续平流向量 \(\bm{\delta}\) 显式补偿）”，为科学计算中神经求解器的稳定性设计提供了严密的物理启发范式。

局限与展望¶

边界条件局限：当前的频域快速计算实现严重依赖周期性边界条件（使用标准 FFT 采样），对于复杂几何非周期边界系统，需要结合几何变换（Geo-FNO）或域扩展填充技术。
算子级收缩性保证尚未严格达到：虽然理论上证明了在李普希奇常数 \(L_\Phi \leq 1\) 时的严格收缩界，但实际训练得到的网络单步雅可比谱范数仍大于 1，其实证稳定性来自数据分布内的有效衰减，而非全局严格压缩映射。
三维场景拓展：目前核心实验集中在二维流体与地表气象，三维大尺度湍流（3D Navier–Stokes）或电磁波仿真的三维 MFC 参数化与计算优化仍待进一步验证。

评分¶

新颖性: ⭐⭐⭐⭐⭐ 巧妙融合偏微分方程格林函数演化与连续卷积核设计，物理先验自然深刻。
实验充分度: ⭐⭐⭐⭐⭐ 涵盖 Kolmogorov 流体、长达 125 天的全球气象 ERA5 预报、Burgers 方程四类 OOD 验证及细致的谱放大机理分析。
写作质量: ⭐⭐⭐⭐⭐ 数学推导严谨自洽，物理图景与工程实现紧密相扣。
价值: ⭐⭐⭐⭐⭐ 为解决神经算子在自回归模拟中的谱发散与跨分辨率难题提供了极具通用性的基础算子模块。