跳转至

Neural Harmonic Measure Operator

会议: NeurIPS 2026(Accepted,按任务清单)
arXiv: 2609.35752
领域: 物理/科学计算(Physics)
关键词: 神经算子、调和测度、椭圆偏微分方程、球面游走、边界积分

一句话总结

NHMO 学习只依赖几何的调和测度密度,将边界条件通过归一化积分变成解的边界贡献,再用学习的 lift 补充源项及近似误差,在 3D MCB-B 五类 Poisson 问题上优于所比较的四种基线,并将同一几何上的重复求解变成缓存矩阵乘法与 lift 前向计算。

研究背景与动机

同一机械零件在不同载荷、热源或边界条件下反复求解,是神经算子适合处理的场景。传统 FEM/FDM 需要体域离散和数值求解;Transolver、LNO、UPT 等方法虽然摊销了求解成本,但通常把几何、边界值与源项一起输入网络,直接回归解场。这样既没有明确保留线性 PDE 对边界数据的线性响应,也很难把某个几何已经计算过的状态独立缓存。系数超出训练范围时,网络可能把数据幅度变化误当成需要重新解释的模式。

势理论提供了更专门的对象:从内部查询点出发的布朗运动第一次离开域时,在边界上形成一个概率分布,即调和测度。对 Dirichlet Laplace 问题,只要对这个分布求边界值的期望,就得到内部解。这个分布取决于查询点与几何,而不取决于边界函数;与在体域上学习 Green 函数相比,其密度定义在“内部点 × 边界点”上,也不需要从学到的 Green 函数再求边界法向导数。

Poisson 问题的源项不能靠边界平均表达,因此本文不是一个只用边界网络就解决全部 PDE 的方案。它采用经典 balayage 分解保留几何核通道,再单独学习源项场;2D 实现还让这个场修正几何表示不一致导致的边界误差。核心 idea:把可复用、对边界数据线性的几何测度与需要学习的源项/误差修正分开,而不是把整个解算子当成无结构的输入输出映射。

方法详解

整体框架

输入是有界 Lipschitz 域的几何表示、边界数据和 Poisson 源项,输出是内部查询点上的解。NHMO 的几何边界核先编码形状,再预测查询点到边界各点的密度;归一化边界积分形成边界贡献,源项残差 lift 生成另一项,最后相加。核的训练只需要 WoS 出口样本,但 lift 的训练需要数值解场参考,两种监督不能混为“整个模型不需要 FEM”。

对固定形状和固定查询/边界采样,归一化边界积分的有效核矩阵可以一次构建、多次复用。2D lift 读取边界值、源项和核预测,兼顾源项与边界误差;3D lift 只读取几何与源项,不读取边界值或核预测。下面虚线表示训练监督,实线表示推理数据流,核预测到 lift 的箭头仅用于 2D。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    G["几何 + 查询点"] --> K["几何边界核"]
    W["WoS 出口样本<br/>仅训练"] -.-> K
    K --> B["归一化边界积分<br/>构建并缓存矩阵"]
    H["边界数据"] --> B
    B -->|仅 2D 作为引导| V["源项残差 lift"]
    F["几何 + 源项<br/>2D 另读边界数据"] --> V
    R["数值解场参考<br/>仅训练"] -.-> V
    B --> O["相加得到预测解"]
    V --> O

关键设计

1. 几何边界核:学习决定所有边界响应的出口分布

调和测度是边界上的概率测度,而网络预测的是它相对于表面测度的密度,两者不能直接等同。对于 Laplace 问题,核心表示为:

\[ u_h(p)=\int_{\partial\Omega}h(\zeta)\,d\omega_p(\zeta)=\mathbb{E}_p[h(B_\tau)]. \]

其中,布朗运动从内部点出发,首次出界的位置决定出口分布。WoS 用一系列最大内接球面上的均匀跳跃近似这一过程,避免逐小步模拟布朗轨迹;它采样出口规律,不需要知道本次问题的边界函数。训练一个核,因而不必为每种边界条件重做标签。

具体网络先将边界位置、外法向及 Fourier 特征编码为固定数量的 slice tokens,再由 Transformer 汇集形状信息。核头结合内部查询点、边界位置、法向、位移等特征进行交叉注意力,输出标量对数密度。2D 标准配置采用宽度 256、64 个 slice tokens、3 层形状编码器和 2 层核头;其核约 4.8M 参数,整个模型约 11.2M。3D 核宽度 192,约 2.77M 参数。几何编码与密度预测不以边界值或源项为输入,这是结构性复用的前提,而不是训练后偶然出现的性质。

2. 归一化边界积分:把密度变成可复用的凸组合

正密度还不够,积分的总质量必须为一,否则常数边界条件也会被错误缩放。NHMO 在选定的表面积分节点上归一化密度,随后直接积分边界值:

\[ K_{\theta}(p,\zeta_i;\Omega)=\frac{\widetilde K_{\theta}(p,\zeta_i;\Omega)}{\sum_j w_j\widetilde K_{\theta}(p,\zeta_j;\Omega)},\qquad u_h(p)=\sum_i w_iK_{\theta}(p,\zeta_i;\Omega)h(\zeta_i). \]

表面积分权重非负时,每个查询点的结果是采样边界值的凸组合,因此边界贡献位于这些边界值的最小值与最大值之间。这个约束并不证明预测场处处调和、满足精确边界条件或满足完整 Poisson PDE;尤其加上 lift 后,总输出不再受同一个凸组合界约束。

固定采样布局后,可以把带权核存成有效核矩阵。新边界数据只需要矩阵向量乘法,源项变化也不改变该矩阵;查询点、边界离散或几何变化则需要重新构建相应矩阵。论文报告标准 2D 设置下缓存约 8 MB/形状。保留线性边界响应与保留几何缓存是同一个因子化设计的两个结果,但 NGF 的几何特征也原则上允许类似缓存,不能称为 NHMO 独占能力。

3. 源项残差 lift:避开奇异体积分,但不把学习场当成解析保证

对 Poisson 方程,经典分解先用 Newtonian potential 承载源项,再用同一调和测度扣除其边界迹,得到零边界的源项解。NHMO 不直接数值计算含奇异核的体积分,而以学习的场近似这一部分。其实际两项模型写为:

\[ u_{\mathrm{pred}}(p)=u_h(p)+v_{\varphi}(p;\Omega,h,f). \]

2D 的 lift 是 U-Net,输入为内部 mask、延拓到网格的边界数据、源场和边界积分预测,输出一个残差通道,最后用内部 mask 限制输出区域。这里 lift 不仅拟合源项:学到的边界核与参考求解器采用的几何离散不同,留下一个随边界数据变化的误差,仅看几何与源项的网络无法修复它。让 lift 读取边界数据和核预测,正是为了看到这一误差;代价是整个 2D 输出不自动保持对边界数据的线性。

3D 的 lift 用交叉注意力,以查询点的 Fourier 嵌入读取冻结的形状 latent 与源项采样 tokens。它不读取边界数据或边界积分预测,输出乘以内部的负 SDF 截断距离,使其在边界为零。这更接近经典分解的源项通道,但源项响应仍是学习近似,不具有整体 PDE 精确性或任意源项外推保证。

论文还将 2D lift 拆成独立源项 lift 与边界残差 head。前者只看 mask、SDF 和源项;后者只看 mask、边界值和核预测。这个三项变体明确区分两种修正,也改善误差,但额外 residual head 仍是学习的非线性网络,且总容量更大,不能拿它证明完整算子已严格线性。

一个完整示例

设已经为一个带孔的 MNIST 数字域构建了核矩阵,先求一组边界系数下的 Laplace 解。边界值乘以缓存矩阵得到边界贡献;2D lift 即使面对零源项,也可能输出边界误差修正,因为简化折线轮廓与数值参考的 raster mask 不完全一致。

接着把边界系数从训练区间换到测试 OOD 区间,核矩阵不变,核通道严格按新的边界值线性更新;lift 则需要重新前向计算,其正确性依赖实际泛化。若再加入源项,仍复用同一核矩阵,但重新运行源项相关的 lift。这里“无需重训练”不等于“无需新计算”,更不等于所有新的边界函数和源项都已被实验验证。

损失函数 / 训练策略

训练分两个阶段。先用 WoS 出口监督核,再冻结核,用组合预测与参考解之间的内部 masked MSE 训练 lift;两阶段都没有使用 PDE 残差损失。WoS 在距离边界为归一化域尺度的 0.001 时停止,投影到最近边界点,超过 128 步仍未停止的轨迹被屏蔽。有限终止阈值、步数上限与 SDF 离散仍引入近似,不应将实际监督称为完全无偏。

实际 2D 设置每个形状选 32 个 probe,各预计算 10,000 次游走,形成带宽为域宽 0.2% 的 Gaussian KDE。附录 D.1 明确说明:在 512 个边界节点中每步采样 64 个,对目标与预测都归一化,使用 KL 加 0.5 倍 L1 距离;不启用均值性质、边界极限或质量正则。核训练 60,000 步,标准 lift 训练 10,000 步。

3D 每步 8 个 probe,各产生 4 个新出口,以有效轨迹的出口负对数似然监督核,并加均值性质、近边界集中与总质量正则。均值性质鼓励内部球面平均与中心值一致,边界极限项鼓励接近边界时质量集中到对应位置,质量项约束未归一化密度的积分。核训练 30,000 步;lift 用 FEM 参考场训练,部分困难类别经过 warm-start 达到约 100,000 个有效步。

原文主文 §4.5 将 KDE/似然与正则合并介绍,但附录 D.1 对 2D、3D 的实现作了不同说明;上述按附录报告实际配置。另有均值性质半径写成内部 SDF 的正倍数,与全文“内部 SDF 为负”的约定存在符号冲突,这里不猜补作者的精确公式。

实验关键数据

主实验

2D MNIST 主实验同时包含 Laplace 与 Poisson,误差是全内部像素上的相对 L2,表中均为百分数;p95 是逐问题误差的第 95 百分位。边界系数训练于 [-1, +1],OOD 来自 [+1, +2],主结果只包括 poly3 与 exp_mix 两类边界函数,四类源项。参考解先在 256 × 256 上用五点有限差分求解,再降采样至模型的 128 × 128 分辨率。

方法 分布内中位数 / 均值(%) 分布内 p95(%) OOD 中位数 / 均值(%) OOD p95(%)
Transolver 4.4 / 5.3 10.7 36.4 / 36.2 55.2
LNO 5.2 / 6.4 未报告 23.3 / 33.2 81.6
UPT 5.7 / 6.3 未报告 26.5 / 26.6 未报告
BENO 5.9 / 7.0 16.1 44.1 / 40.5 65.8
NGF(作者 2D 移植版) 2.0 / 3.9 16.9 3.9 / 4.2 6.0
NHMO,仅核 5.4 / 7.7 18.2 5.6 / 6.8 14.2
NHMO,核 + lift 2.0 / 2.1 3.3 2.5 / 2.6 4.2

NHMO 的分布内均值最低、尾部误差较轻,OOD 中位数相对分布内为 1.25 倍。但“仅核就胜过全部 OOD 基线”不成立:仅核虽然胜过四种非线性端到端基线,却不胜过 NGF 的 OOD 中位数、均值或 p95。NGF 同样具备几何特征与数据线性 read-out,OOD 外推也明显好于端到端方法。该 NGF 行不是官方发布的 2D 实验,而是本文对官方 3D 实现的对齐移植。

3D MCB-B 每类有 200 个训练形状、20 个未见测试形状,每个测试形状对应 16 个未见边界/源项组合,共 320 对;误差在内部四面体网格顶点上对 FEM 参考计算。下表是无百分号的相对 L2 均值,不与上表直接混用单位。

方法 Nut Gear Motor Fitting Screws & Bolts
Transolver 0.320 0.281 0.407 0.180 0.221
LNO 0.372 0.466 0.528 0.259 0.239
UPT 0.516 0.507 0.765 0.392 0.358
NGF 0.275 0.243 0.338 0.160 0.189
NHMO 0.216 0.188 0.284 0.147 0.131

四种基线数字来自 NGF 论文相同评测协议的表,而非全部由本文重新训练。NHMO 五类都更低;额外 3D 系数 OOD 测试每类只有 40 个问题,Poisson 宏平均为 NHMO 0.263、NGF 0.615,Laplace-only 为 0.099、0.621,应与正式 320 对测试集区分。

运行成本必须拆开:单 A100 上,2D 每形状构建约 6.6 s,缓存后每问题 4.0 ms;Nut 为 7.9 s + 7.5 ms,Motor 为 10.3 s + 7.9 ms。NGF Motor 的发布流水线约 0.25 s/问题,预载 GPU 网格后前向约 77 ms;tet meshing 则另需约 48 s、在 CPU 上运行。2D 网格基线没有对应的核构建步骤,因此单形状只解一次时不能只拿 4.0 ms 宣称端到端更快。

消融实验

下表摘自附录 K.1,报告同一混合 2D 测试上的均值/中位数,单位为百分数。三项变体的源项 lift 约 11.3M、残差 head 约 6.4M,比标准单 lift 的容量更大。

配置 分布内均值 / 中位数(%) OOD 均值 / 中位数(%) 说明
仅核 7.7 / 5.4 6.8 / 5.6 无源项及边界残差修正
核 + 独立源项 lift 6.1 / 4.5 6.3 / 5.2 lift 不读边界值,无法修复边界核误差
核 + 独立源项 lift + 残差 head 1.84 / 1.74 2.56 / 2.39 显式分离源项与边界残差
标准核 + 单 lift 2.1 / 2.0 2.6 / 2.5 一个网络处理两种修正

关键发现

  • 205 个 Laplace 测试对中,标准 lift 与核残差的中位相关系数为 0.97,移除 71% 的残差;它不是只有非零源项时才有用。附录 K.11 将主要误差定位到简化折线轮廓与 raster mask 的不一致。
  • 直接把 KDE 目标当作核积分仍有 5.1% 误差,增加 100 倍游走不改善;在 mask 几何上运行 WoS 则为 0.07%。这支持优先修正监督几何,而非单纯加采样量。
  • 一个单独的 25 形状 OOD 求积扫描中,边界节点从 50 增至 100,中位误差由 3.12% 降至 2.48%;200、400 点分别为 2.44%、2.43%。这些子集数字不应与主表整体 2.5% 强行对齐。
  • 2D 数据规模表述存在原文冲突:附录 G.1 写 991 / 50 / 50 个形状和 7500 / 408 / 397 个问题,而 K.5、K.9 将 5,000 形状语料称为标准配置。无法仅凭缓存确认两者关系,保留两种描述,不自行统一。

亮点与洞察

  • 可复用对象不是最终解,而是调和测度密度。这个选择让网络的中间输出可用解析调和函数独立验证,不必把所有误差都归到一个黑箱解场上。
  • 概率归一化既稳定常数边界响应,也限制边界通道的幅度。它是一种局部结构约束,而不是把学习模型包装成“严格物理正确”。
  • lift 消融说明,所谓“源项网络”在不同实现中可能还承担离散误差修正。为其他混合解析/学习求解器设计消融时,应先区分理想分解与实际监督残差。

局限与展望

  • 当前针对 Dirichlet 椭圆问题;Neumann、Robin、空间变系数或其他 PDE 需要新的测度/分解。漂移适配只是额外 adapter 与 residual head 的概念演示,不能据此推断任意椭圆算子已受验证。
  • 线性与边界 min–max 界首先属于核通道,2D 含边界条件的 lift 可能破坏总输出线性;3D 源项通道虽不读边界值,也未保证对源项严格线性或满足 PDE。
  • 高频 trig1、trig2 家族因所有学习方法严重失败而被排除出主结果。本文证明的是所选参数族上的系数外推,不是任意边界频率或函数族的泛化。
  • 缓存牺牲每形状预计算和内存,适合固定几何的重复查询。低秩核可减少构建/存储成本,但会引入新的表达能力与误差权衡。
  • 附录 J 的每问题复杂度表达没有明确保留一般稠密矩阵乘法的查询点数 × 边界点数项;实际部署不宜据该表达直接推断线性缩放,应单独测量缓存矩阵乘法。

相关工作与启发

  • vs NGF:NGF 学体域 Green 函数/低秩特征,并用体积分与边界 read-out 恢复解;NHMO 直接学边界测度密度,再摊销源项场。两者的几何/数据因子化都能帮助外推,差异主要在学习对象、监督和源项处理,而非“一个结构化、另一个完全无结构”。
  • vs Transolver、LNO、UPT、BENO:这些端到端算子将问题数据融合后回归场,NHMO 把可缓存的几何规律独立出来。2D 结果支持该设计在所测系数 OOD 上的优势,不构成其他任务上的普遍排序。
  • vs WoS / BEM:WoS 每次查询重新估计边界期望,BEM 通常需离散边界积分方程和求解系统;NHMO 从 WoS 出口分布蒸馏可复用密度。可进一步研究保留对边界数据线性的残差校正,但本文当前 residual head 并未实现这一严格约束。

评分

  • 新颖性: 4/5。将经典调和测度作为神经算子的显式学习对象,贡献清晰。
  • 实验充分度: 4/5。包含 2D、3D、系数外推及多种消融,但高频边界失败与数据规模冲突限制结论。
  • 写作质量: 4/5。核通道与 lift 的保证边界解释较好,训练概述、规模及部分符号仍有不一致。
  • 价值: 4/5。适合固定几何反复求解的科学计算负载,单次新几何场景需单独核算成本。