Neural Harmonic Measure Operator¶
会议: NeurIPS 2026(Accepted,按任务清单)
arXiv: 2609.35752
领域: 物理/科学计算(Physics)
关键词: 神经算子、调和测度、椭圆偏微分方程、球面游走、边界积分
一句话总结¶
NHMO 学习只依赖几何的调和测度密度,将边界条件通过归一化积分变成解的边界贡献,再用学习的 lift 补充源项及近似误差,在 3D MCB-B 五类 Poisson 问题上优于所比较的四种基线,并将同一几何上的重复求解变成缓存矩阵乘法与 lift 前向计算。
研究背景与动机¶
同一机械零件在不同载荷、热源或边界条件下反复求解,是神经算子适合处理的场景。传统 FEM/FDM 需要体域离散和数值求解;Transolver、LNO、UPT 等方法虽然摊销了求解成本,但通常把几何、边界值与源项一起输入网络,直接回归解场。这样既没有明确保留线性 PDE 对边界数据的线性响应,也很难把某个几何已经计算过的状态独立缓存。系数超出训练范围时,网络可能把数据幅度变化误当成需要重新解释的模式。
势理论提供了更专门的对象:从内部查询点出发的布朗运动第一次离开域时,在边界上形成一个概率分布,即调和测度。对 Dirichlet Laplace 问题,只要对这个分布求边界值的期望,就得到内部解。这个分布取决于查询点与几何,而不取决于边界函数;与在体域上学习 Green 函数相比,其密度定义在“内部点 × 边界点”上,也不需要从学到的 Green 函数再求边界法向导数。
Poisson 问题的源项不能靠边界平均表达,因此本文不是一个只用边界网络就解决全部 PDE 的方案。它采用经典 balayage 分解保留几何核通道,再单独学习源项场;2D 实现还让这个场修正几何表示不一致导致的边界误差。核心 idea:把可复用、对边界数据线性的几何测度与需要学习的源项/误差修正分开,而不是把整个解算子当成无结构的输入输出映射。
方法详解¶
整体框架¶
输入是有界 Lipschitz 域的几何表示、边界数据和 Poisson 源项,输出是内部查询点上的解。NHMO 的几何边界核先编码形状,再预测查询点到边界各点的密度;归一化边界积分形成边界贡献,源项残差 lift 生成另一项,最后相加。核的训练只需要 WoS 出口样本,但 lift 的训练需要数值解场参考,两种监督不能混为“整个模型不需要 FEM”。
对固定形状和固定查询/边界采样,归一化边界积分的有效核矩阵可以一次构建、多次复用。2D lift 读取边界值、源项和核预测,兼顾源项与边界误差;3D lift 只读取几何与源项,不读取边界值或核预测。下面虚线表示训练监督,实线表示推理数据流,核预测到 lift 的箭头仅用于 2D。
%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
G["几何 + 查询点"] --> K["几何边界核"]
W["WoS 出口样本<br/>仅训练"] -.-> K
K --> B["归一化边界积分<br/>构建并缓存矩阵"]
H["边界数据"] --> B
B -->|仅 2D 作为引导| V["源项残差 lift"]
F["几何 + 源项<br/>2D 另读边界数据"] --> V
R["数值解场参考<br/>仅训练"] -.-> V
B --> O["相加得到预测解"]
V --> O
关键设计¶
1. 几何边界核:学习决定所有边界响应的出口分布
调和测度是边界上的概率测度,而网络预测的是它相对于表面测度的密度,两者不能直接等同。对于 Laplace 问题,核心表示为:
其中,布朗运动从内部点出发,首次出界的位置决定出口分布。WoS 用一系列最大内接球面上的均匀跳跃近似这一过程,避免逐小步模拟布朗轨迹;它采样出口规律,不需要知道本次问题的边界函数。训练一个核,因而不必为每种边界条件重做标签。
具体网络先将边界位置、外法向及 Fourier 特征编码为固定数量的 slice tokens,再由 Transformer 汇集形状信息。核头结合内部查询点、边界位置、法向、位移等特征进行交叉注意力,输出标量对数密度。2D 标准配置采用宽度 256、64 个 slice tokens、3 层形状编码器和 2 层核头;其核约 4.8M 参数,整个模型约 11.2M。3D 核宽度 192,约 2.77M 参数。几何编码与密度预测不以边界值或源项为输入,这是结构性复用的前提,而不是训练后偶然出现的性质。
2. 归一化边界积分:把密度变成可复用的凸组合
正密度还不够,积分的总质量必须为一,否则常数边界条件也会被错误缩放。NHMO 在选定的表面积分节点上归一化密度,随后直接积分边界值:
表面积分权重非负时,每个查询点的结果是采样边界值的凸组合,因此边界贡献位于这些边界值的最小值与最大值之间。这个约束并不证明预测场处处调和、满足精确边界条件或满足完整 Poisson PDE;尤其加上 lift 后,总输出不再受同一个凸组合界约束。
固定采样布局后,可以把带权核存成有效核矩阵。新边界数据只需要矩阵向量乘法,源项变化也不改变该矩阵;查询点、边界离散或几何变化则需要重新构建相应矩阵。论文报告标准 2D 设置下缓存约 8 MB/形状。保留线性边界响应与保留几何缓存是同一个因子化设计的两个结果,但 NGF 的几何特征也原则上允许类似缓存,不能称为 NHMO 独占能力。
3. 源项残差 lift:避开奇异体积分,但不把学习场当成解析保证
对 Poisson 方程,经典分解先用 Newtonian potential 承载源项,再用同一调和测度扣除其边界迹,得到零边界的源项解。NHMO 不直接数值计算含奇异核的体积分,而以学习的场近似这一部分。其实际两项模型写为:
2D 的 lift 是 U-Net,输入为内部 mask、延拓到网格的边界数据、源场和边界积分预测,输出一个残差通道,最后用内部 mask 限制输出区域。这里 lift 不仅拟合源项:学到的边界核与参考求解器采用的几何离散不同,留下一个随边界数据变化的误差,仅看几何与源项的网络无法修复它。让 lift 读取边界数据和核预测,正是为了看到这一误差;代价是整个 2D 输出不自动保持对边界数据的线性。
3D 的 lift 用交叉注意力,以查询点的 Fourier 嵌入读取冻结的形状 latent 与源项采样 tokens。它不读取边界数据或边界积分预测,输出乘以内部的负 SDF 截断距离,使其在边界为零。这更接近经典分解的源项通道,但源项响应仍是学习近似,不具有整体 PDE 精确性或任意源项外推保证。
论文还将 2D lift 拆成独立源项 lift 与边界残差 head。前者只看 mask、SDF 和源项;后者只看 mask、边界值和核预测。这个三项变体明确区分两种修正,也改善误差,但额外 residual head 仍是学习的非线性网络,且总容量更大,不能拿它证明完整算子已严格线性。
一个完整示例¶
设已经为一个带孔的 MNIST 数字域构建了核矩阵,先求一组边界系数下的 Laplace 解。边界值乘以缓存矩阵得到边界贡献;2D lift 即使面对零源项,也可能输出边界误差修正,因为简化折线轮廓与数值参考的 raster mask 不完全一致。
接着把边界系数从训练区间换到测试 OOD 区间,核矩阵不变,核通道严格按新的边界值线性更新;lift 则需要重新前向计算,其正确性依赖实际泛化。若再加入源项,仍复用同一核矩阵,但重新运行源项相关的 lift。这里“无需重训练”不等于“无需新计算”,更不等于所有新的边界函数和源项都已被实验验证。
损失函数 / 训练策略¶
训练分两个阶段。先用 WoS 出口监督核,再冻结核,用组合预测与参考解之间的内部 masked MSE 训练 lift;两阶段都没有使用 PDE 残差损失。WoS 在距离边界为归一化域尺度的 0.001 时停止,投影到最近边界点,超过 128 步仍未停止的轨迹被屏蔽。有限终止阈值、步数上限与 SDF 离散仍引入近似,不应将实际监督称为完全无偏。
实际 2D 设置每个形状选 32 个 probe,各预计算 10,000 次游走,形成带宽为域宽 0.2% 的 Gaussian KDE。附录 D.1 明确说明:在 512 个边界节点中每步采样 64 个,对目标与预测都归一化,使用 KL 加 0.5 倍 L1 距离;不启用均值性质、边界极限或质量正则。核训练 60,000 步,标准 lift 训练 10,000 步。
3D 每步 8 个 probe,各产生 4 个新出口,以有效轨迹的出口负对数似然监督核,并加均值性质、近边界集中与总质量正则。均值性质鼓励内部球面平均与中心值一致,边界极限项鼓励接近边界时质量集中到对应位置,质量项约束未归一化密度的积分。核训练 30,000 步;lift 用 FEM 参考场训练,部分困难类别经过 warm-start 达到约 100,000 个有效步。
原文主文 §4.5 将 KDE/似然与正则合并介绍,但附录 D.1 对 2D、3D 的实现作了不同说明;上述按附录报告实际配置。另有均值性质半径写成内部 SDF 的正倍数,与全文“内部 SDF 为负”的约定存在符号冲突,这里不猜补作者的精确公式。
实验关键数据¶
主实验¶
2D MNIST 主实验同时包含 Laplace 与 Poisson,误差是全内部像素上的相对 L2,表中均为百分数;p95 是逐问题误差的第 95 百分位。边界系数训练于 [-1, +1],OOD 来自 [+1, +2],主结果只包括 poly3 与 exp_mix 两类边界函数,四类源项。参考解先在 256 × 256 上用五点有限差分求解,再降采样至模型的 128 × 128 分辨率。
| 方法 | 分布内中位数 / 均值(%) | 分布内 p95(%) | OOD 中位数 / 均值(%) | OOD p95(%) |
|---|---|---|---|---|
| Transolver | 4.4 / 5.3 | 10.7 | 36.4 / 36.2 | 55.2 |
| LNO | 5.2 / 6.4 | 未报告 | 23.3 / 33.2 | 81.6 |
| UPT | 5.7 / 6.3 | 未报告 | 26.5 / 26.6 | 未报告 |
| BENO | 5.9 / 7.0 | 16.1 | 44.1 / 40.5 | 65.8 |
| NGF(作者 2D 移植版) | 2.0 / 3.9 | 16.9 | 3.9 / 4.2 | 6.0 |
| NHMO,仅核 | 5.4 / 7.7 | 18.2 | 5.6 / 6.8 | 14.2 |
| NHMO,核 + lift | 2.0 / 2.1 | 3.3 | 2.5 / 2.6 | 4.2 |
NHMO 的分布内均值最低、尾部误差较轻,OOD 中位数相对分布内为 1.25 倍。但“仅核就胜过全部 OOD 基线”不成立:仅核虽然胜过四种非线性端到端基线,却不胜过 NGF 的 OOD 中位数、均值或 p95。NGF 同样具备几何特征与数据线性 read-out,OOD 外推也明显好于端到端方法。该 NGF 行不是官方发布的 2D 实验,而是本文对官方 3D 实现的对齐移植。
3D MCB-B 每类有 200 个训练形状、20 个未见测试形状,每个测试形状对应 16 个未见边界/源项组合,共 320 对;误差在内部四面体网格顶点上对 FEM 参考计算。下表是无百分号的相对 L2 均值,不与上表直接混用单位。
| 方法 | Nut | Gear | Motor | Fitting | Screws & Bolts |
|---|---|---|---|---|---|
| Transolver | 0.320 | 0.281 | 0.407 | 0.180 | 0.221 |
| LNO | 0.372 | 0.466 | 0.528 | 0.259 | 0.239 |
| UPT | 0.516 | 0.507 | 0.765 | 0.392 | 0.358 |
| NGF | 0.275 | 0.243 | 0.338 | 0.160 | 0.189 |
| NHMO | 0.216 | 0.188 | 0.284 | 0.147 | 0.131 |
四种基线数字来自 NGF 论文相同评测协议的表,而非全部由本文重新训练。NHMO 五类都更低;额外 3D 系数 OOD 测试每类只有 40 个问题,Poisson 宏平均为 NHMO 0.263、NGF 0.615,Laplace-only 为 0.099、0.621,应与正式 320 对测试集区分。
运行成本必须拆开:单 A100 上,2D 每形状构建约 6.6 s,缓存后每问题 4.0 ms;Nut 为 7.9 s + 7.5 ms,Motor 为 10.3 s + 7.9 ms。NGF Motor 的发布流水线约 0.25 s/问题,预载 GPU 网格后前向约 77 ms;tet meshing 则另需约 48 s、在 CPU 上运行。2D 网格基线没有对应的核构建步骤,因此单形状只解一次时不能只拿 4.0 ms 宣称端到端更快。
消融实验¶
下表摘自附录 K.1,报告同一混合 2D 测试上的均值/中位数,单位为百分数。三项变体的源项 lift 约 11.3M、残差 head 约 6.4M,比标准单 lift 的容量更大。
| 配置 | 分布内均值 / 中位数(%) | OOD 均值 / 中位数(%) | 说明 |
|---|---|---|---|
| 仅核 | 7.7 / 5.4 | 6.8 / 5.6 | 无源项及边界残差修正 |
| 核 + 独立源项 lift | 6.1 / 4.5 | 6.3 / 5.2 | lift 不读边界值,无法修复边界核误差 |
| 核 + 独立源项 lift + 残差 head | 1.84 / 1.74 | 2.56 / 2.39 | 显式分离源项与边界残差 |
| 标准核 + 单 lift | 2.1 / 2.0 | 2.6 / 2.5 | 一个网络处理两种修正 |
关键发现¶
- 205 个 Laplace 测试对中,标准 lift 与核残差的中位相关系数为 0.97,移除 71% 的残差;它不是只有非零源项时才有用。附录 K.11 将主要误差定位到简化折线轮廓与 raster mask 的不一致。
- 直接把 KDE 目标当作核积分仍有 5.1% 误差,增加 100 倍游走不改善;在 mask 几何上运行 WoS 则为 0.07%。这支持优先修正监督几何,而非单纯加采样量。
- 一个单独的 25 形状 OOD 求积扫描中,边界节点从 50 增至 100,中位误差由 3.12% 降至 2.48%;200、400 点分别为 2.44%、2.43%。这些子集数字不应与主表整体 2.5% 强行对齐。
- 2D 数据规模表述存在原文冲突:附录 G.1 写 991 / 50 / 50 个形状和 7500 / 408 / 397 个问题,而 K.5、K.9 将 5,000 形状语料称为标准配置。无法仅凭缓存确认两者关系,保留两种描述,不自行统一。
亮点与洞察¶
- 可复用对象不是最终解,而是调和测度密度。这个选择让网络的中间输出可用解析调和函数独立验证,不必把所有误差都归到一个黑箱解场上。
- 概率归一化既稳定常数边界响应,也限制边界通道的幅度。它是一种局部结构约束,而不是把学习模型包装成“严格物理正确”。
- lift 消融说明,所谓“源项网络”在不同实现中可能还承担离散误差修正。为其他混合解析/学习求解器设计消融时,应先区分理想分解与实际监督残差。
局限与展望¶
- 当前针对 Dirichlet 椭圆问题;Neumann、Robin、空间变系数或其他 PDE 需要新的测度/分解。漂移适配只是额外 adapter 与 residual head 的概念演示,不能据此推断任意椭圆算子已受验证。
- 线性与边界 min–max 界首先属于核通道,2D 含边界条件的 lift 可能破坏总输出线性;3D 源项通道虽不读边界值,也未保证对源项严格线性或满足 PDE。
- 高频 trig1、trig2 家族因所有学习方法严重失败而被排除出主结果。本文证明的是所选参数族上的系数外推,不是任意边界频率或函数族的泛化。
- 缓存牺牲每形状预计算和内存,适合固定几何的重复查询。低秩核可减少构建/存储成本,但会引入新的表达能力与误差权衡。
- 附录 J 的每问题复杂度表达没有明确保留一般稠密矩阵乘法的查询点数 × 边界点数项;实际部署不宜据该表达直接推断线性缩放,应单独测量缓存矩阵乘法。
相关工作与启发¶
- vs NGF:NGF 学体域 Green 函数/低秩特征,并用体积分与边界 read-out 恢复解;NHMO 直接学边界测度密度,再摊销源项场。两者的几何/数据因子化都能帮助外推,差异主要在学习对象、监督和源项处理,而非“一个结构化、另一个完全无结构”。
- vs Transolver、LNO、UPT、BENO:这些端到端算子将问题数据融合后回归场,NHMO 把可缓存的几何规律独立出来。2D 结果支持该设计在所测系数 OOD 上的优势,不构成其他任务上的普遍排序。
- vs WoS / BEM:WoS 每次查询重新估计边界期望,BEM 通常需离散边界积分方程和求解系统;NHMO 从 WoS 出口分布蒸馏可复用密度。可进一步研究保留对边界数据线性的残差校正,但本文当前 residual head 并未实现这一严格约束。
评分¶
- 新颖性: 4/5。将经典调和测度作为神经算子的显式学习对象,贡献清晰。
- 实验充分度: 4/5。包含 2D、3D、系数外推及多种消融,但高频边界失败与数据规模冲突限制结论。
- 写作质量: 4/5。核通道与 lift 的保证边界解释较好,训练概述、规模及部分符号仍有不一致。
- 价值: 4/5。适合固定几何反复求解的科学计算负载,单次新几何场景需单独核算成本。