跳转至

Inpainting physics: self-supervised learning for context-driven fluid simulation

会议: NeurIPS 2026
arXiv: 2605.08832
OpenReview: https://openreview.net/forum?id=8rpCiIZ22W
代码: https://github.com/j-weidner/inpainting-physics
领域: 物理/科学计算
关键词: 计算流体力学, 物理补全, 神经代理模型, 隐式流匹配, 掩码自编码器

一句话总结

将稳态计算流体力学(CFD)推断重新表述为自监督空间上下文修复(inpainting)问题,利用局部邻域标记器构建紧凑隐空间,并通过隐式流匹配与掩码自编码器实现强鲁棒的速度场预测与局部几何编辑。

研究背景与动机

计算流体力学(CFD)是生物医学血流建模、汽车空气动力学和气候科学等领域的核心分析工具。然而,高精度的传统数值求解器需要对庞大的离散控制方程组进行迭代求解,计算开销极其昂贵。每当几何形状、流体边界条件或设计构型发生微小扰动时,都必须从头重新运行昂贵的网格生成与全场仿真流程。为了缓解算力瓶颈,现有的神经代理模型通常被构造成确定性的前向神经算子(如 DeepONet、FNO、Transolver++ 以及 AB-UPT 等),直接学习从几何形状及狄利克雷边界条件(如入口速度、总质量流量)到全场物理量(如速度场或压力场)的映射函数。

这种前向映射范式存在本质上的脆弱性:监督学习将神经算子紧密绑定于训练期所见的特定物理参数空间与输入格式。在面临未见过的质量流量、上游边界扰动或分布外(OOD)测试集迁移时,前向算子往往发生灾难性性能崩溃,无法维持流体物理规律的合理外推。更为严重的是,经典前向算子不具备空间上下文感知与复用能力:即便流体域仅发生局部微小的几何形变,模型也无法利用未改变区域的高保真已知解,必须强行从头重新预测全域。

流体流动(尤其是层流状态)本身具有极强的局部相关性与时空动量延续特性,上下游局部速度场构成了对未测区域极佳的物理先验。本文的核心 idea 是将稳态流体推断从监督式前向回归范式重构为自监督上下文修复(Inpainting)范式,解耦物理速度场表征学习与边界条件约束,在无显式边界标签下学习通用流体先验,并在推理阶段将已知边界或局部结构直接作为固定上下文来引导全场补全。

方法详解

整体框架

本文提出的方法包含三个关键阶段:首先,通过局部邻域标记器(Neighbourhood Tokeniser, NT)将包含数十万离散点的不规则三维非结构化点云速度场压缩为固定数量的紧凑局部球状隐式标记;其次,在隐空间中训练无显式边界标签的自监督生成主干,探索了隐式流匹配(Latent Flow Matching, L-FM)与隐式掩码自编码器(Latent Masked Autoencoder, L-MAE)两种架构;最后,在推理阶段将已知的狄利克雷边界条件(如入口、出口)或局部未修改流场作为已知区域上下文保持固定,通过生成模型的条件补全能力推断出缺失区域的速度隐变量,再由标记器解码器无缝还原出全分辨率物理速度场。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["三维流场点云<br/>[x, d, v] 约200k点"] --> B["局部邻域标记器<br/>FPS采样2500中心+PointNet"]
    B --> C["自监督流体先验学习<br/>L-FM流匹配 / L-MAE自编码"]
    C --> D["显式边界上下文修复<br/>固定已知区域+推断未观测区域"]
    D --> E["连续场解码与反距离融合<br/>还原全分辨率速度场"]

关键设计

1. 局部邻域标记器:解决百万级非结构化网格的计算扩展性与空间局部约束 三维血流仿真点云规模通常达到数十万离散点,直接对全点云运行注意力机制会面临二次方计算复杂度爆炸。更为重要的是,上下文修复要求表征具备严格的空间局部性,若采用全局池化特征将破坏边界条件在空间位置上的精确锚定。为此,模型采用最远点采样(FPS)选取 \(P=2500\) 个局部球邻域中心 \(x_j^p\),每个邻域收集最近的 512 个点。对每个点构建归一化相对坐标 \(\tilde{x}_i = (x_i - x_j^p)/r\)、到物理壁面的欧氏距离 \(d_i\) 及速度向量 \(v_i\) 组成的 7 维特征,通过 PointNet 架构的共享多层感知机(MLP)提取逐点特征后进行最大池化,生成紧凑的局部隐变量 \(z_j \in \mathbb{R}^{256}\)。解码时,将 \(z_j\) 广播至查询点并拼接局部几何与壁面距离进行逆变换,对重叠区域采用世界坐标下的反距离加权(IDW)融合,既保全了速度连续性又实现了空间局部解耦。

2. 自监督流体先验学习:解耦边界参数绑定的无条件表征 传统的神经算子必须将总质量流量、雷诺数或入口剖面作为显式标量输入,导致模型泛化严重依赖于参数采样的覆盖度。本文则完全不在训练阶段向模型注入总质量流量或入口标签,仅向模型提供隐变量位置与其壁面距离,迫使其从速度场的空间拓扑中自行学习物理流场流形的内在规律。本文构建了两套互补的自监督骨干:其一是基于 DiT 架构的隐式流匹配(L-FM),在时间步采样 \(t \sim \text{LogitNormal}(0, 1)\) 下学习从标准高斯噪声向流体隐变量传输的速度场;其二是隐式掩码自编码器(L-MAE),在训练中对隐式标记随机施加 \(\mathcal{U}(0.1, 0.9)\) 的动态掩码比例,通过轻量级编码器-解码器直接回归被掩盖区域的隐变量。由于目标函数与推理阶段的上下文补全完全一致,L-MAE 能够直接利用局部上下文信息,无需多步采样即可高效完成流体外推。

3. 显式边界与几何编辑修复:将前向模拟转化为条件补全推断 在推理执行阶段,已知的狄利克雷边界(如稀疏的入口与出口流速)或局部几何修改时保留的未变化区域被定义为已知集合 \(\mathcal{K}\),待求解的全场或变形区域标记为未知集合 \(\mathcal{U}\)。模型首先通过邻域标记器对已知速度场进行编码,在推理迭代或前向传递过程中严格固定这些已知标记 \(z_{\mathcal{K}}\) 不变,迫使生成先验在保持边界处动量守恒与流动连续性的物理约束下完成缺失标记 \(z_{\mathcal{U}}\) 的生成。为了进一步加强物理保真度,针对流匹配模型还引入了物理约束引导(L-FM-Physics),通过在每一步数值积分后将速度场投影到无散度空间(\(\nabla \cdot \mathbf{v} = 0\))以显式满足不可压缩流动的连续性方程,从而将物理守恒律以投影算子形式内化于反向生成轨迹中。

损失函数 / 训练策略

邻域标记器独立采用均方误差(MSE)目标函数进行自编码训练,并引入 SO(3) 刚体旋转进行数据增强。 隐式流匹配模型定义线性插值路径 \(z_t^p = (1-t)\epsilon + t z^p\),通过速度回归损失训练参数 \(\theta\): $\(\mathcal{L}_{\mathrm{FM}} = \mathbb{E}_{t, \epsilon, z^p} \left[ \| f_\theta(z_t^p, t, x^p, d^p) - (z^p - \epsilon) \|_2^2 \right]\)$ 掩码自编码器直接在被掩盖标记集合 \(\mathcal{M}\) 上计算均方误差损失: $\(\mathcal{L}_{\mathrm{MAE}} = \frac{1}{|\mathcal{M}|} \sum_{j \in \mathcal{M}} \| \hat{z}_j - z_j \|_2^2\)$ 所有模型均在单张 80GB NVIDIA A100 GPU 上训练约 2 天,模型参数量均对齐至约 30M。

实验关键数据

主实验

在局部几何编辑任务中(以颅内动脉瘤生长变形为例),对比前向回归基线(Supervised-Att)与自监督修复方法在掩码区域(Inside mask)和全场域(Full sample)上的归一化均方误差(nMSE)、余弦相似度(CosSim)、归一化散度残差(divergence)及涡度均方根误差(vorticity)。

评估区域 模型 nMSE ↓ (%) CosSim ↑ (%) divergence ↓ vorticity ↓
掩码区域 (Inside mask) Supervised-Att (AB-UPT) 72.97 ± 9.81 47.30 ± 4.48 0.34 ± 0.01 1.18 ± 0.06
掩码区域 (Inside mask) L-FM-Zero 89.25 ± 19.69 46.63 ± 6.03 0.24 ± 0.01 1.22 ± 0.12
掩码区域 (Inside mask) L-FM-Physics 62.73 ± 14.56 57.94 ± 5.87 0.21 ± 0.01 1.09 ± 0.10
掩码区域 (Inside mask) L-MAE (本文推荐) 26.43 ± 4.19 80.49 ± 3.60 0.22 ± 0.01 0.73 ± 0.03
全场域 (Full sample) Supervised-Att (AB-UPT) 35.81 ± 2.97 72.49 ± 1.16 0.29 ± 0.01 0.97 ± 0.02
全场域 (Full sample) L-FM-Zero 7.88 ± 1.57 88.35 ± 1.27 0.20 ± 0.001 0.42 ± 0.03
全场域 (Full sample) L-FM-Physics 7.14 ± 1.55 90.10 ± 1.25 0.19 ± 0.01 0.42 ± 0.03
全场域 (Full sample) L-MAE (本文推荐) 4.52 ± 0.83 94.41 ± 0.72 0.19 ± 0.01 0.34 ± 0.02

消融实验

对局部邻域标记器(NT)的核心架构与设计组件进行消融对比,在 548 个未见动脉样本上评估重建 nMSE:

变体配置 平均 nMSE (\(\times 10^{-3}\)) ↓ 说明
最终完整版 (Final version) 1.68 ± 0.03 采用局部坐标归一化、壁面距离特征、最大池化与 SO(3) 增强
无数据增强 (No augmentation) 1.74 ± 0.03 移除每轮 SO(3) 旋转增强,表征泛化能力轻微下降
平均池化 (Mean pooling) 3.09 ± 0.05 将特征汇聚层从最大池化替换为平均池化,高频速度梯度平滑化
无邻域归一化 (No normalisation) 4.54 ± 0.07 移除相对球半径归一化,尺度不一致导致局部表征漂移
无壁面距离特征 (No wall distance) 27.28 ± 0.12 缺少近壁无滑移几何边界线索,误差骤增超过 16 倍
解码器无局部坐标 (No local pos. in decoder) 185.50 ± 0.93 解码时仅广播隐变量而不拼接相对几何坐标,无法重建场内梯度

关键发现

  • 局部编辑中上下文复用具有压倒性优势:在动脉瘤局部变形修改中,L-MAE 借助未改变区域的固定上下文,在全场预测上实现了 4.52% 的超低 nMSE,相比必须全场重算的前向监督模型(35.81%)误差下降了近 8 倍,且掩码内部方向一致性(CosSim)高达 80.49%。
  • 分布外泛化(OOD)鲁棒性极高:监督模型在训练区间(质量流量 2.0-3.5 g/s)表现良好,但当测试条件外推至 \(m=1.0\) g/s 或迁移至物理属性完全不同的非牛顿流体外部数据集 AneuG 时,前向代理模型完全失效;而 L-MAE 将新工况作为低流速边界上下文输入,能够自洽完成全场补全,展现了强大的通用先验特性。
  • 壁面距离与局部几何拼接是流场神经压缩的核心:消融表明,如果解码器缺失相对位置编码,nMSE 会恶化两个数量级;壁面距离特征则为近壁速度边界层提供了强物理先验,是保证重建保真度的关键。

亮点与洞察

  • 流体仿真范式的降维思考:跳出传统神经算子「显式物理参数 \(\to\) 解场」的单向回归窠臼,将流动推断重构成「局部观测 \(\to\) 全局场补全」的自监督修复任务,打通了全场正向预测与局部设计迭代的统一处理范式。
  • 高效的局部几何球隐变量设计:通过局部最远点采样球邻域结合 PointNet 压缩,将 20 万级非结构化流体点云解构为 2500 个兼具全局拓扑与严格局部空间约束的隐式标记,为高维连续物理场应用现代生成模型开辟了可行路径。
  • 无显式工况标签的先验通用性:模型不需要针对不同的雷诺数或流量重新标定输入结构,仅凭借流动本征的空间连续性即可从任意形态的已知区域中推导全局场,为物理科学大模型(Foundation Models for Science)的通用预训练提供了有力佐证。

局限与展望

  • 流体物理量覆盖受限:目前研究主要聚焦于稳态不可压缩层流的速度场推断,尚未联合建模压力场、壁面剪切应力(WSS)以及气动阻力等关键工程与医学指标。
  • 高雷诺数与全局参数敏感性:虽然局部上下文蕴含了流动动量信息,但对于强湍流或受全局雷诺数剧烈控制的流动现象,局部边界信息可能不足以完全消除全局多解歧义,未来需要探索显式全局参数与局部上下文的混合引导机制。
  • 瞬态时空扩展挑战:现有模型仅在时间平均场或稳态工况下验证,如何将局部邻域标记器扩展到时空四维非定常涡系演化,是未来重要的研究方向。

相关工作与启发

  • vs AB-UPT / Transolver++ (前向神经算子):经典算子依赖显式边界条件标量与全局几何作为输入,在训练分布内表现优异但面对工况漂移极易崩溃,且无法支持局部几何编辑;本文采用自监督修复机制,推理灵活度与外推泛化能力显著更优。
  • vs 2D 流体生成模型 (Buzzicotti et al., Drygala et al.):早期扩散/GAN 修复工作严格局限于二维规则网格像素图;本文首次在三维不规则非结构化流体网格上构建了面向任意空间子集修复的紧凑点云隐空间与生成流程。

评分

  • 新颖性: ⭐⭐⭐⭐⭐ 巧妙重构了流体仿真的任务定义,将计算机视觉中的 inpainting 迁移至三维物理场预测并实现优雅解耦。
  • 实验充分度: ⭐⭐⭐⭐☆ 覆盖了多流量分布外测试、跨数据集/跨物理求解器迁移验证以及局部几何编辑,对比详实。
  • 写作质量: ⭐⭐⭐⭐⭐ 论文动机清晰,架构图与实验图表设计直观,消融深入透彻。
  • 价值: ⭐⭐⭐⭐⭐ 为科学计算中昂贵数值仿真的局部复用与神经流体基础模型提供了一个极具启发性的技术路线。