M\(^3\): Reframing Training Measures for Discretized Physical Simulations¶

会议: NeurIPS 2026
arXiv: 2605.08843
OpenReview: https://openreview.net/forum?id=pMw0ClT3bM
代码: https://github.com/PhysDataRefine/M3
领域: 物理/科学计算
关键词: 神经算子代理模型, 物理仿真采样, 训练测度偏差, 莫顿多尺度剖分, 物理加权评测

一句话总结¶

针对神经物理仿真代理模型因网格离散非均匀性导致的训练测度失真问题，本文提出基于莫顿序多尺度剖分与水填分配的经验测度重构框架 M\(^3\)，在超大规模工业 CFD 仿真中以少至 1/10 的数据量实现物理一致性与预测精度的显著跃升。

研究背景与动机¶

神经代理模型（Neural Surrogate Models）与神经算子已成为逼近复杂偏微分方程（PDE）与物理系统的重要工具。通过学习连续空间域上的函数映射，模型能够在任意分辨率和空间查询点实现近乎实时的物理场预测。然而，在工程实际中，模型的监督学习必须依赖于离散数值仿真（如有限元、有限体积法或粒子法）生成的有限数据点。这种数据生成机制不可避免地使有效训练分布隐式继承了数值求解器离散网格的非均匀空间结构。

这种离散结构诱导的经验测度带来了根本性的优化偏置与评测假象。一方面，在工业级高精仿真（单个工况包含 \(10^6 \sim 10^8\) 个网格单元）中，全量数据训练在算力与显存上不可行；常规的随机或均匀下采样直接继承并放大了空间覆盖的不平衡性——高密度离散区域（如边界层、激波区）在损失函数中占据了绝大部分梯度更新权重，而大尺度的稀疏流动区域贡献的监督信号被极度稀释。另一方面，传统的等权重逐点评估指标（Pointwise Uniform Metrics）容易被密集区域的大量微小误差掩盖稀疏区域的巨大物理失真，导致模型在全局连续物理域的真实表现被严重高估。

单纯增加模型容量或堆叠原始仿真数据量，无法弥补训练测度系统性缺失的物理信号。本文的核心 idea 是：将仿真子采样从传统的数据压缩任务重构为连续物理域上的经验测度（Empirical Measure）设计问题，提出多尺度莫顿测度构建框架 M\(^3\)，通过物理变化量感知的莫顿序八叉树空间剖分、对数梯度尺度分层与容量约束水填配额分配，主动重塑训练测度的空间多尺度平衡。

方法详解¶

整体框架¶

M\(^3\)（Multi-scale Morton Measure）将连续物理场学习形式化为目标测度 \(\mu^\star\) 与离散经验训练测度 \(\mu_S\) 之间的逼近问题。在给定总采样预算 \(m \ll N\)（原始点数 \(N \approx 10^6 \sim 10^8\)）的约束下，M\(^3\) 并不直接沿用网格诱导的朴素经验测度，而是构建一个解耦网格密度、对齐跨尺度物理变化的离散测度。

整个 M\(^3\) 管线由三阶段阶梯式递进组成：① 物理变化量驱动的莫顿序空间自适应剖分（Variation-Aware Partition）；② 跨尺度梯度强度重校准与分层（Multi-Scale Grouping）；③ 尺度间与单元内容量约束的水填配额分配（Budgeted Allocation）。最终从每个单元中无放回均匀采样对应配额的点，汇聚构成高质量训练子集 \(\mathcal{I}_{\mathrm{tr}}\)。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["离散物理仿真点云<br/>N 个非均匀网格点与场变量"] --> B["阶段 1：物理变化量感知莫顿剖分<br/>极值变幅探针与莫顿序八叉树自适应细分"]
    B --> C["阶段 2：多尺度梯度标定与分层<br/>消除几何深度伪影，对数物理梯度离散为 K 层"]
    C --> D["阶段 3：受限容量水填配额分配<br/>尺度间均匀分配与单元内平抑充填采样"]
    D --> E["重构物理结构化经验训练测度<br/>m 个平衡子采样点与神经算子优化"]

关键设计¶

1. 物理变化量感知莫顿剖分：以轻量无梯度极值极差引导自适应空间单元划分

传统空间剖分若直接计算 \(10^8\) 级全域点云的数值梯度将带来不可承受的计算与内存开销，而单纯依赖几何距离的分块又无法感知物理剧烈变化。针对此矛盾，M\(^3\) 将点云量化映射至格点边界立方体上，并按莫顿序（Morton Z-order 空间填充曲线）线性排序。在八叉树构建过程中，M\(^3\) 设计了免求导、无偏的通道极值变幅指标 \(\delta_c\) 作为细分探针。所有标量场（如压力 \(p\)）和矢量场（如速度 \(\mathbf{u}\)、壁面剪切应力 \(\boldsymbol{\tau}\)）首先进行 Z-score 规范化以消除量纲差异，随后在单元 \(c\) 内统计标量极值差 \(\Delta \phi_c^{(k)}\) 以及矢量场在有限单位方向集合 \(\mathcal{D}\) 上的最大投影跨度 \(\Delta \psi_c^{(j)}\)：

\[\Delta \psi_c^{(j)} = \max_{\mathbf{d} \in \mathcal{D}} \left( \max_{i \in \mathcal{P}_c} \mathbf{d}^\top \boldsymbol{\psi}_i^{(j)} - \min_{i \in \mathcal{P}_c} \mathbf{d}^\top \boldsymbol{\psi}_i^{(j)} \right)\]

\[\delta_c = \max \left( \max_{k \in \mathcal{K}} w_\phi^{(k)} \Delta \phi_c^{(k)}, \; \max_{j \in \mathcal{J}} w_\psi^{(j)} \Delta \psi_c^{(j)} \right)\]

其中权重 \(w_\phi^{(k)}\) 与 \(w_\psi^{(j)}\) 调节标量与矢量通道对剖分的触发优先级（实践中下调矢量权重以避免方向高频波动淹没宏观载荷）。单元 \(c\) 递归细分直到点数达到下限 \(\kappa\)、达到最大深度 \(G_{\max}\) 或变化量低于阈值 \(\delta_c \le \varepsilon_{\mathrm{refine}}\)。由于莫顿编码保持了极佳的内存空间局部性，整个剖分仅需单次全局排序与连续内存线性扫描，在 1 亿点规模下耗时仅 36.4 秒，比传统 \(k\)-NN 邻域搜索提速千倍以上。

2. 多尺度梯度标定与分层：基于对数特征强度消除纯几何深度伪影

八叉树细分深度 \(G(c)\) 并不能直接充当物理尺度指标。原因在于大尺度粗单元只要局部包含一小片高梯度区，就会被极值探针触发分裂；分裂后部分子单元继承了较大深度但内部物理场已完全平坦，造成几何深度与真实物理尺度的严重脱节。为剔除几何伪影并统一不同尺寸单元的比较基准，M\(^3\) 引入结合单元几何宽度 \(h_c\) 的梯度标度强度 \(\tilde{T}_c = \delta_c / h_c\)，并取对数映射构建强度评分 \(S_c\)：

\[S_c = \log (\epsilon_{\log} + \tilde{T}_c)\]

对数变换压缩了流场中激波或流动分离区极值评分引发的重尾分布。M\(^3\) 在截断极值后将经验区间等距划分为 \(K\) 个有序 Bin（默认 \(K=64\)），将每个多点单元赋予尺度标签 \(\ell(c) \in \{1, \dots, K\}\)，而单点单元归入独立层级 \(K+1\)。此举将连续空间单元严格重划为 \(K+1\) 个具有相似物理物理变化尺度的层次子集 \(\{\mathcal{C}_\ell\}_{\ell \in \Lambda}\)，为后续跨尺度平抑分配奠定坚实支撑。

3. 受限容量水填配额分配：基于总变差分解的尺度间与单元内均衡采样

在目标测度 \(\mu^\star = \sum_{\ell} \alpha_\ell \mu_\ell\) 与实际离散经验测度 \(\mu_S\) 之间，论文从理论上严格证明了两者的总变差（Total Variation, TV）距离上界可精确解耦为「尺度间质量差距」与「尺度内单元间不平衡」之和：\(2 \mathrm{TV}(\mu_S, \mu^\star) \le \sum_{\ell} |\mu_S(\mathcal{C}_\ell) - \alpha_\ell| + \sum_{\ell} \sum_{c \in \mathcal{C}_\ell} |p_c - \frac{\mu_S(\mathcal{C}_\ell)}{|\mathcal{C}_\ell|}|\)。据此，M\(^3\) 实施两阶段配额求解：

首先，为防止大单元过度消耗全局预算，引入采样填充率 \(\rho \in (0, 1]\) 约束单元有效容量 \(\tilde{N}_c = \min(N_c, \max(1, \lceil \rho N_c \rceil))\)，各尺度容量为 \(C_\ell = \sum_{c \in \mathcal{C}_\ell} \tilde{N}_c\)。在尺度间按目标先验权重 \(\alpha_\ell \approx |\Lambda|^{-1}\) 进行容量上限截断的整数分配，求得各层预算 \(m_\ell\)；随后在尺度 \(\mathcal{C}_\ell\) 内部，针对各个单元运行注水算法（Water-filling Algorithm），优先为当前配额较低的单元分配采样名额直到达到单元容量上限 \(\tilde{N}_c\) 或耗尽 \(m_\ell\)。该机制从数学上最大化平抑了密集网格的局部聚集，确保全局各个物理尺度获得充分且均匀的监督支撑。

损失函数 / 训练策略¶

采用完全对齐连续流形物理测度的优化目标。基础神经网络主干选用解耦锚点-查询架构的 AB-UPT（Anchored-Branched Universal Physics Transformer，隐藏维度 192，12 层 Transformer Block）。优化器采用 LION，峰值学习率 \(5 \times 10^{-5}\)，权重衰减 0.05，结合 5% 线性预热与余弦退火。训练损失为各物理通道的均方误差加权和：

\[\mathcal{L}_{\mathrm{train}}(\theta) = \sum_{f} \lambda_f \frac{1}{|\mathcal{I}_{\mathrm{tr}}|} \sum_{i \in \mathcal{I}_{\mathrm{tr}}} \| f_\theta(\mathbf{x}_i) - \mathbf{y}_i \|_2^2\]

在评测阶段，为消除等权重平均指标的虚假高分，论文定义了基于单元表面积 \(\Delta S_i\) 与流体体积 \(\Delta V_i\) 的严格物理加权指标：

\[\mathrm{MSE}_\omega(f) = \frac{\sum_{i \in \mathcal{I}} \|f_i - \hat{f}_i\|_2^2 \omega_i}{\sum_{i \in \mathcal{I}} \omega_i}, \qquad L_{2, \omega}^{\mathrm{rel}}(f) = \frac{\sqrt{\sum_{i \in \mathcal{I}} \|f_i - \hat{f}_i\|_2^2 \omega_i}}{\sqrt{\sum_{i \in \mathcal{I}} \|f_i\|_2^2 \omega_i}}\]

实验关键数据¶

主实验¶

实验在三个代表性工业级流体仿真数据集上展开：SHIFT-Wing（跨音速机翼，AMR 各向异性网格，表面 \(\sim\)3M，体网格 \(\sim\)6M）、AhmedML（标准钝体空气动力学，近似均匀网格，体网格 \(\sim\)20M）与 DrivAerML（真实工业汽车外流场，工程非均匀自适应网格，表面 \(\sim\)9M，体网格高达 \(\sim\)160M）。所有模型在相同的 10% 采样预算下训练，并在全分辨率真实流场上通过 50 个独立保留测试工况进行评测。

数据集	场变量	评估指标	均匀随机采样 (R)	本文方法 (M\(^3\))	相对增益 / 降幅
DrivAerML (工业整车外流)	表面压力 \(p_s\)	物理加权 \(\mathrm{MSE}_\omega\)	119.4	94.1	误差降低 21.2%
	壁面应力 \(\boldsymbol{\tau}\)	物理加权 \(L_{2, \omega}^{\mathrm{rel}}\) (%)	7.39	6.58	相对误差降低 0.81%
	空间流体压力 \(p_v\)	物理加权 \(L_{2, \omega}^{\mathrm{rel}}\) (%)	0.94	0.47	误差降低 2.0×
	空间流速 \(\mathbf{u}\)	物理加权 \(L_{2, \omega}^{\mathrm{rel}}\) (%)	0.94	0.55	误差降低 1.7×
	空间流体压力 \(p_v\)	物理加权 \(\mathrm{MSE}_\omega\)	\(9.01 \times 10^{-5}\)	\(2.30 \times 10^{-5}\)	误差降低 3.9×
	空间流速 \(\mathbf{u}\)	物理加权 \(\mathrm{MSE}_\omega\)	0.1341	0.0460	误差降低 2.9×
AhmedML (钝体气动)	表面压力 \(p_s\)	物理加权 \(\mathrm{MSE}_\omega\)	79.6	58.7	误差降低 26.3%
	空间流体压力 \(p_v\)	物理加权 \(\mathrm{MSE}_\omega\)	83.0	31.6	误差降低 2.6×
	空间流速 \(\mathbf{u}\)	物理加权 \(\mathrm{MSE}_\omega\)	56.2	21.5	误差降低 2.6×
SHIFT-Wing (跨音速机翼)	空间流体压力 \(p_v\)	物理加权 \(\mathrm{MSE}_\omega\)	2085	720.4	误差降低 2.9×
	空间流速 \(\mathbf{u}\)	物理加权 \(L_{2, \omega}^{\mathrm{rel}}\) (%)	1.890	0.404	相对误差降低 4.7×
	空间流速 \(\mathbf{u}\)	物理加权 \(\mathrm{MSE}_\omega\)	22.94	1.146	误差降低 20.0×

消融实验：训练数据量缩减与数据利用效率¶

在超大规模工业车身流场 DrivAerML（160M 体网格点）上测试不同数据采样倍率对泛化精度的影响。实验系统性对比了全量原网格输入（\(\times 1\)）、常规 10% 随机子采样（\(\times 0.1\)）、1% 极限子采样（\(\times 0.01\)）以及经过 M\(^3\) 测度重构后的表现：

训练测度方案	表面数据量	体网格数据量	空间流速 \(\mathrm{MAE}_\omega\)	空间流速 \(\mathrm{MSE}_\omega\)	空间流速 \(L_{2, \omega}^{\mathrm{rel}}\) (%)	说明
均匀随机 (R)	\(\times 1\) (全量 \(\sim\)9M)	\(\times 0.1\) (\(\sim\)16M)	0.125	0.1178	0.88	算力与显存消耗高，受密集边界层过度偏置
均匀随机 (R)	\(\times 0.1\) (\(\sim\)900K)	\(\times 0.1\) (\(\sim\)16M)	0.129	0.1341	0.94	继承原始离散偏置，稀疏区欠拟合
均匀随机 (R)	\(\times 0.01\) (\(\sim\)90K)	\(\times 0.01\) (\(\sim\)1.6M)	0.131	0.1336	0.94	稀疏区有效物理特征进一步丢失
本文 M\(^3\)	\(\times 0.1\) (\(\sim\)900K)	\(\times 0.1\) (\(\sim\)16M)	0.0780	0.0460	0.55	较同量级随机采样误差降低近 3 倍
本文 M\(^3\)	\(\times 0.1\) (\(\sim\)900K)	\(\times 0.01\) (\(\sim\)1.6M)	0.0325	0.0105	0.26	体数据减少 10 倍，性能反超大网格，误差降 12.8×
本文 M\(^3\)	\(\times 0.01\) (\(\sim\)90K)	\(\times 0.01\) (\(\sim\)1.6M)	0.0326	0.0110	0.27	双分支极限 1% 采样下依然保持领先精度

关键发现¶

打破「数据越多越好」的传统规模扩展直觉：在非均匀离散物理仿真中，单纯增加未经治理的离散网格点数并不能保证物理保真度提升。实验显示，在 M\(^3\) 下仅使用 1% 体网格数据（1.6M 点）训练的模型，其物理加权流速相对误差（0.26%）显著优于使用 10% 甚至更大规模无处理网格训练的模型（0.88%~0.94%），实现了多达 12.8 倍的加权均方误差压制。
揭示评测指标「测度反转」假象：在 DrivAerML 评测中，等权重指标与物理加权指标呈现完全相反的走势。在等权重指标下，随机采样看似更优；但一旦引入与连续空间几何测度严格一致的物理加权，M\(^3\) 全面大幅领先。空间误差热图证明，随机采样仅在网格过度细化的局部微小区域误差低，而在占几何绝大体积的流动核心区误差严重扩散；M\(^3\) 则实现了全局平滑、物理一致的高保真重构。
工业级可扩展性完备验证：M\(^3\) 巧妙运用莫顿空间填充曲线的线性连续访问特性，彻底规避了高维 \(k\)-NN 邻域图或复杂拓扑关系的显式构建。在 \(10^8\) 节点超大规模下，传统邻域搜索在 600 秒限时内全面超时崩溃，体素代理方法需 509 秒，而 M\(^3\) 仅需 36.4 秒且显存开销平稳受控于 10 GiB 以内。

亮点与洞察¶

问题认知的范式转变：不再将仿真降采样视作简单的特征或点云压缩工具，而是上升到测度论视角，严密揭示了数值解法器离散网格与连续算子学习目标测度之间的偏置机制。
极值变幅无导数探针设计：利用 Z-score 归一化后的标量极差与矢量随机有限投影跨度，在零导数计算负担下精准捕捉流动激波与高剪切界面，完美兼容千万至亿级异构流场数据。
总变差误差分解指导算法落地：通过将经验测度与理想测度的 TV 距离严格分解为层间误差与层内误差，直接推导出了两阶段注水配额分配算法，理论推导与工程实现高度闭环。

局限与展望¶

超参数标定存在经验依赖：M\(^3\) 引入了剖分敏感度 \(\varepsilon_{\mathrm{refine}}\)、最大八叉树深度 \(G_{\max}\) 以及分层数 \(K\) 等若干超参数，尽管实验证明一套配置可在同类基准内通用，但在极端复杂多相流或新型几何构型下，仍需要通过少量工况的 Pilot Run 进行前期校准。
仅适用于有坐标/显式空间载体的离散场：算法核心依赖于欧氏空间坐标上的莫顿排序与几何测度（体积/面积），对于纯抽象无几何坐标的拓扑图系统或隐式代数 PDE 系统的离散化，该多尺度空间测度映射机制无法直接外推。
未来方向：探索无监督或基于动力学残差自适应驱动的自闭环超参数调优机制，以及将 M\(^3\) 扩展至时空 4D 动态瞬态仿真数据流的实时流式经验测度重构。

评分¶

新颖性: ⭐⭐⭐⭐⭐ 首次系统性地从测度论视角拆解神经算子物理仿真采样的内在优化偏置，提出的莫顿多尺度测度架构兼具理论深度与工程精巧性。
实验充分度: ⭐⭐⭐⭐⭐ 深入测试了三大千万至亿级工业流体基准，涵盖 AMR 各向异性网格、均匀网格与极端非均匀汽车整车仿真，全分辨率物理加权实验翔实可信。
写作质量: ⭐⭐⭐⭐⭐ 动机阐述深刻有力，数学推导与算法流程严丝合缝，逻辑连贯且图文呼应极佳。
价值: ⭐⭐⭐⭐⭐ 对物理 AI（AI for Science）、计算流体力学代理模型以及工业级高精神经算子的实用化落地具有极高的范式指导与基础设施价值。