跳转至

Neural Field Thermal Tomography: A Differentiable Physics Framework for Non-Destructive Testing

会议: NeurIPS 2026
arXiv: 2603.11045
OpenReview: https://openreview.net/forum?id=qWyXszanTu
代码: https://cab-lab-princeton.github.io/nefty
领域: 其他
关键词: 神经场, 逆热传导问题, 可微物理, 伴随状态法, 无损检测

一句话总结

针对刚性抛物型逆热传导问题中软约束 PINN 梯度解耦并坍缩至平凡常数场的根本缺陷,本文提出 NeFTY 框架,将坐标神经场与采用调和平均界面流通量的隐式欧拉热传导求解器及离散伴随法硬约束耦合,实现了首个单 GPU 可求解的免标注三维热层析体素重建。

研究背景与动机

在脉冲热成像无损检测(NDT)等工业质检与材料评价场景中,通过脉冲激光加热试样表面并利用高速红外热像仪观测表面瞬态温度衰减,反演材料内部的三维热扩散率场 \(\alpha(x,y,z)\),构成了经典的三维逆热传导问题(IHCP)。然而,与双曲型超声波或雷达波动成像不同,热传导控制方程属于高度平滑且刚性的抛物型偏微分方程(PDE)。其前向演化算子是紧致算子,高频空间特征在从内部向边界扩散的过程中被指数级抹平并严重衰减,使得从地表或试样边界的瞬态测温信号反求内部介质属性成为一个极度病态(severely ill-posed)的物理逆问题。经典热成像信号处理技术(如 TSR、PPT、虚拟波概念 VWC)主要基于一维半无限大平板假设,仅做像素级独立变换反演深度,彻底忽略了横向热扩散效应;而监督三维卷积学习又受限于真实工业检测中无法获取破坏性三维真值标签的困境。

近年来物理信息神经网络(PINN)被广泛引入科学机器学习,但在刚性瞬态扩散的参数反问题中遭遇了致命的优化病态。在传统的软约束公式中,网络将温度场和热扩散率场分别参数化为两个独立网络,并将 PDE 残差作为正则项加入损失函数。然而推导表明,表面观测数据的拟合损失对热扩散率网络参数的直接梯度恒等于零,观测信号只能经由残差项中间接传递;而未收敛的温度网络具有巨大且嘈杂的二阶空间导数(拉普拉斯项),导致扩散率网络被剧烈扰动并迅速饱和在几乎无特征的平凡常数场上。此时表面温度可以被温度网络极好地过度拟合(表面 PSNR 超过 60 dB),但内部三维热扩散率的体素重建 IoU 却几乎归零,陷入了严重的“数据拟合悖论”。

为了彻底根除这种软约束优化脱节,本文的核心切入角度是将偏微分方程从“损失函数惩罚项”转变为“优化回环中的硬约束算子”,借助可微物理与伴随方法打通观测数据对神经场参数的端到端梯度回传。核心 idea:将三维未知扩散率场参数化为带频率退火的连续坐标神经场,在每轮优化迭代中强制其通过调和平均界面流通量的可微隐式欧拉求解器求解真实温度场,并利用离散伴随状态法以常数显存开销将表面残差回传至神经场权重,实现免三维标注的高保真三维热层析体素重建。

方法详解

整体框架

NeFTY 整体流程由三大协同模块构成:首先由一个带频率退火位置编码和物理有界映射的坐标 MLP 表示连续的三维有效热扩散率场 \(\alpha_\theta(\mathbf{x})\);随后将采样的离散网格扩散率送入可微隐式欧拉热传导求解器,在网格界面利用严格满足连续性条件的调和平均通量构建稀疏线性系统并前向演化瞬态温度场,使其在离散层面上严格满足物理守恒控制方程;最后将计算得到的表面预测温度与红外相机捕获的真实表面热衰减帧比对,计算表面保真度损失与全变分(TV)正则项,并沿时间反向运行离散伴随状态方程(Adjoint State Method),在无需保存前向中间迭代计算图的前提下精确组装参数梯度,完成单卡显存可控的端到端测试时反演优化。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["空间坐标 (x,y,z)"] --> B["神经扩散率场<br/>傅里叶特征 + 余弦退火 + 有界映射"]
    B --> C["可微物理隐式求解器<br/>调和平均界面流通量 + Jacobi 展开"]
    C --> D["瞬态温度场演化<br/>表面时序投影提取"]
    D --> E["离散伴随反向传播<br/>时间逆向伴随递推 + 梯度组装"]
    E -->|参数更新梯度| B

关键设计

1. 神经扩散率场:利用连续坐标表征与频率退火抵御反问题代数噪声放大

传统网格直接优化(Grid Opt.)在缺少空间几何先验时参数高度自由,反演极易陷入病态高频噪声震荡与边缘振铃伪影。NeFTY 将连续热扩散率场参数化为一个 10 层、隐藏维度 512 的多层感知机(MLP)\(f_\theta\),中间第 4 层设置跳跃连接。输入的三维空间坐标 \(\mathbf{x} \in \mathbb{R}^3\) 首先通过多频带傅里叶特征映射升维至 \(2DN\) 维空间: $\(\gamma(\mathbf{x}) = \big(\sin(2^0\pi\mathbf{x}), \cos(2^0\pi\mathbf{x}), \dots, \sin(2^{N-1}\pi\mathbf{x}), \cos(2^{N-1}\pi\mathbf{x})\big)\)$ 由于逆热传导算子的奇异值按代数速率衰减 \(\sigma_n \lesssim n^{-1/3}\),反算子会将高频观测噪声呈代数级剧烈放大。为防止网络早期过拟合高频虚假伪影,设计采用了基于余弦权重的动态频率退火机制 \(w_k(\beta) = \frac{1}{2}\big[1-\cos(\pi\,\mathrm{clamp}(\beta-k,0,1))\big]\),在前 2500 步优化中将激活频带参数 \(\beta\) 由 0 平滑展开至最大频带 \(N=12\)。此外,为满足物理正定性并防止线性系统因极端对比度失稳,MLP 的输出经由缩放 Sigmoid 函数严格约束在先验物理区间内:\(\alpha_\theta(\mathbf{x}) = \alpha_{\min} + (\alpha_{\max} - \alpha_{\min})\sigma(f_\theta(\gamma(\mathbf{x})))\)。同时引入各向同性全变分(TV)正则项约束网格梯度,精确契合内部缺陷与基底材料之间分段常数的界面结构。

2. 可微物理隐式求解器:通过调和平均通量保证高对比度界面物理连续性

在离散有限体积网格上直接求解有效热扩散率方程 \(\partial_t T = \nabla \cdot (\alpha \nabla T)\) 时,基底与缺陷界面处的导热系数剧烈跳变。若采用常规算术平均插值界面传导率,将严重高估界面流通量并导致热量虚假穿透,进而导致反演出的缺陷深度系统性偏浅。论文推导并证明了 Proposition 1:对于交界面 \(x_{i+1/2}\) 两侧的离散网格单元,严格维持有效通量 \(j_\alpha = -\alpha \partial_x T\) 跨界面物理连续的充要条件,是界面有效扩散率必须采用调和平均值: $\(\bar{\alpha}_{i+1/2} = \frac{2\alpha_i \alpha_{i+1}}{\alpha_i + \alpha_{i+1}}\)$ 调和平均天然受阻热性能较低的介质(小 \(\alpha\) 侧)主导,能够真实再现隔热缺陷对热流的阻挡效应。为了摆脱显式时间积分中极其严苛的 CFL 稳定性步长限制(\(\Delta t \le \Delta x^2 / (2D\alpha_{\max})\)),前向物理过程采用无条件稳定的隐式欧拉格式构建稀疏对角占优线性系统:\((\mathbf{I} - \Delta t \mathbf{L}(\alpha_\theta))\mathbf{T}^{n+1} = \mathbf{T}^n\)。在 GPU 端,该系统被展开为 \(K=50\) 次轻量级 7 点模板卷积的 Jacobi 迭代求解,既免除了昂贵耗时的稀疏矩阵 LU 分解,又完美契合主流自动微分框架的显卡张量并行计算。

3. 离散伴随反向传播:以恒定显存复杂度打通表面误差向神经权重的梯度链

若直接利用 PyTorch 等自动微分机制对 \(N_t=100\) 步且每步内含 \(K=50\) 次 Jacobi 循环的计算图进行时间反向传播(BPTT),系统需要缓存高达 \(\mathcal{O}(K N_g N_t)\) 的巨量中间张量激活值,单样本反演显存需求将激增至 18.63 GB 以上,难以在单卡上普及应用。NeFTY 引入受拉格朗日乘子约束控制的离散伴随状态法(Discrete Adjoint Method)。定义伴随状态向量 \(\boldsymbol{\mu}^n\),构建伴随逆时序递推方程: $\(\mathbf{A}(\alpha_\theta)^\top \boldsymbol{\mu}^n = \boldsymbol{\mu}^{n+1} + \left(\frac{\partial \ell^n}{\partial \mathbf{T}^n}\right)^\top, \quad \boldsymbol{\mu}^{N_t+1} = \mathbf{0}\)$ 由于所构建的有限体积传导算子在周期性及绝热边界条件下保持严格对称正定,系统矩阵满足 \(\mathbf{A}(\alpha_\theta)^\top = \mathbf{A}(\alpha_\theta)\),伴随方程与前向方程共享同一套高效的 Jacobi 卷积算子。在完成一次前向仿真后,伴随变量沿时间轴逆向递归,并在每个时间步即时组装目标函数对神经场参数的梯度: $\(\frac{d\mathcal{J}_{\mathrm{disc}}}{d\theta} = \frac{\partial(\lambda\mathcal{R})}{\partial\theta} + \Delta t \sum_{n=1}^{N_t} (\boldsymbol{\mu}^n)^\top \frac{\partial(\mathbf{L}(\alpha_\theta)\mathbf{T}^n)}{\partial\alpha_\theta} \frac{\partial\alpha_\theta}{\partial\theta}\)$ 这一设计将显存开销彻底缩减为与时间步数无关的 \(\mathcal{O}(N_g)\) 常数级别(仅需 21.9 MB 显存),同时反向耗时降低 60%,从根本上重新连通了 \(\theta \to \alpha_\theta \to \mathbf{T} \to \mathcal{J}\) 的物理依赖链路。

损失函数 / 训练策略

NeFTY 优化目标由表面红外序列重构损失与空间全变分先验正则构成: $\(\min_\theta \mathcal{J}_{\mathrm{disc}}(\theta) = \sum_{i=1}^M \|\boldsymbol{\Pi}_\Gamma \mathbf{T}^{n_i}(\alpha_\theta) - \hat{\mathbf{T}}_i\|^2 + \lambda \mathcal{R}(\alpha_\theta)\)$ 其中 \(\boldsymbol{\Pi}_\Gamma\) 为提取表面观测网格的投影切片算子,\(\hat{\mathbf{T}}_i\) 为去环境基底温升后的真实表面测温热图。空间平滑项 \(\mathcal{R}(\alpha_\theta)\) 采用带微小正规化因子的各向同性平滑 TV 范数。优化器采用 Adam,基础学习率设为 \(5 \times 10^{-5}\),每 1000 步乘以衰减率 \(\gamma=0.1\),总迭代轮数为 10,000 步。

实验关键数据

主实验

合成三维数据集通过独立有限体积仿真引擎 PhiFlow 生成,杜绝逆犯罪(inverse crime);包含 1,000 个在均匀基底(Homogeneous)和 3-4 层层叠基底(Layered)下的复杂三维缺陷样本。评价指标包括均方误差(MSE)、峰值信噪比(PSNR)、结构相似度(SSIM)和体素缺陷交并比(IoU,阈值 \(\tau=0.03\))。真实实验则在 PVC 平板红外缺陷基准上评估 2D 分割与 2.5D 深度反演性能。

表 1:合成 1,000 样本三维热扩散率无监督重构主结果对比(均值 ± 95% 置信区间)

方法类别 方法 均匀基底 MSE (\(10^{-4}\)) ↓ 均匀基底 PSNR ↑ 均匀基底 IoU ↑ 层状基底 MSE (\(10^{-4}\)) ↓ 层状基底 PSNR ↑ 层状基底 IoU ↑
监督上限 (需3D标签) U-Net (Full) 1.12 ± 0.18 24.20 ± 0.42 0.70 ± 0.02 2.14 ± 0.31 20.04 ± 0.55 0.68 ± 0.02
数据驱动 (零样本) U-Net (Sound-Only) 14.73 ± 3.83 14.83 ± 0.71 0.00 ± 0.00 10.17 ± 2.21 15.42 ± 0.98 0.00 ± 0.00
无标注优化基线 经典 PINN (GradNorm) 208.4 ± 26.2 -0.24 ± 0.06 0.015 ± 0.003 200.4 ± 17.8 1.42 ± 0.27 0.018 ± 0.004
无标注优化基线 SPINN 32.71 ± 10.02 9.12 ± 0.93 0.001 ± 0.001 33.84 ± 8.57 9.71 ± 0.77 0.000 ± 0.000
无标注优化基线 Causal-PINN 208.4 ± 26.2 -0.24 ± 0.06 0.015 ± 0.003 200.4 ± 17.8 1.42 ± 0.27 0.018 ± 0.004
无标注优化基线 DCGD 208.4 ± 26.2 -0.24 ± 0.06 0.015 ± 0.003 200.4 ± 17.8 1.42 ± 0.27 0.018 ± 0.004
无标注优化基线 网格直接优化 (Grid Opt.) 12.61 ± 4.20 13.99 ± 1.18 0.04 ± 0.02 15.01 ± 2.97 13.27 ± 0.88 0.03 ± 0.01
本文方法 NeFTY (Ours) 3.66 ± 1.31 18.48 ± 0.53 0.45 ± 0.04 9.26 ± 2.81 15.88 ± 0.79 0.37 ± 0.06

表 2:真实 PVC 板脉冲热成像二维分割与 2.5 维深度反演主结果对比

方法 2D 缺陷 IoU ↑ 2D 缺陷 Dice ↑ 2.5D 深度 Abs Rel ↓ 2.5D 深度 \(\delta < 1.25\) ↑
Swin-UNETR (零样本迁移) 0.085 0.151 3.131 0.052
脉冲相位热成像 (PPT) 0.419 0.563 3.416 0.005
热信号重建法 (TSR) 0.346 0.464 13.366 0.002
SPINN 0.050 0.086 6.737 0.002
网格优化 (Grid Opt.) 0.395 0.557 0.941 0.104
NeFTY (Ours) 0.431 0.597 0.465 0.385

消融实验

表 3 验证了 NeFTY 各设计模块的逐步增益(Base 为无位置编码的基础坐标 MLP 搭配可微求解器,逐级叠加位置编码 PE、频率退火 FA、有界映射 \(\sigma\)、调和平均通量 HM 和全变分正则 TV)。

表 3:NeFTY 核心组件渐进消融实验(均匀 / 层状设置)

配置 均匀 PSNR (dB) 均匀 IoU 层状 PSNR (dB) 层状 IoU 机制说明
Base 基础坐标场 0.47 0.03 2.89 0.02 缺乏高频表达先验,反演严重平滑
+ PE (位置编码) 4.17 0.09 6.15 0.09 激活高频能力,边界开始显现
+ PE + FA (频率退火) 8.33 0.14 8.81 0.14 抑制早期高频噪声激增,平稳收敛
+ PE + FA + \(\sigma\) (有界映射) 9.19 0.18 9.27 0.14 防止发散至负扩散率或极高条件数区域
+ PE + FA + \(\sigma\) + HM (调和平均) 10.95 0.24 11.26 0.22 满足界面有效通量连续,修正深度偏浅
Full (上述全部 + TV 正则) 18.48 0.45 15.88 0.37 强化分段常数几何先验,IoU 翻倍提升

关键发现

  • 软约束 PINN 存在严重的数据拟合悖论:实验显示,标准 PINN 在表面温度场上的重构 PSNR 可高达 63 dB,而体素重构 IoU 仅为 0.015;SPINN 表面重构达到 61 dB,IoU 却仅为 0.001。证实了软约束下表面数据的良好拟合完全脱节于内部介质场的真实重建。
  • 算术平均 vs 调和平均界面的物理差异:消融 HM 证实,若使用常规算术平均,反演得到的缺陷深度显著被低估,因为算术平均高估了跨界面的热传导通量;调和平均成功恢复了绝热缺陷的高热阻物理特性。
  • 伴随法的算力与显存飞跃:求解器基准测试表明,离散伴随法(AM)在保持与 PyTorch 自动微分(AD)完全一致的数值精度(模拟误差 \(3.73 \times 10^{-8}\))的同时,将显存占用从 18.63 GB 骤降至 21.9 MB(降低近 1000 倍),且反向计算耗时从 1.30s 缩短至 0.50s。

亮点与洞察

  • 从软惩罚到硬物理约束的范式跃迁:不同于常规 PINN 将偏微分方程放入损失函数的经验性做法,NeFTY 将数值求解器内嵌进前向图并通过伴随状态法隐式求导,彻底消除了温度 surrogate 与扩散率场之间的优化脱节。
  • 调和平均通量对间断界面的精确建模:在连续网格上求解不连续扩散率时,巧妙结合有限体积法的连续界面通量推导,无需任何显式动网格或界面追踪技术即可精准刻画尖锐热边界。
  • 逆问题频率退火的普适借鉴价值:根据紧致算子的代数奇异值衰减规律设计由低到高的渐进退火策略,这一机制可广泛迁移到电阻抗断层扫描(EIT)、光学层析等其他高度不适定的扩散型逆问题中。

局限与展望

  • 作者承认的局限:目前采用测试时单样本独立优化(test-time optimization),单件构件反演收敛耗时约 9.6 分钟,难以直接用于流水线秒级在线质检;且在极高对比度真空空洞(导热比超 1:1000)下,数值线性系统条件数恶化,反演精度存在衰减。
  • 深入观察的局限:在真实 PVC 实验中,由于目前公开的无损检测基准均未提供破坏性三维金标准体素标签,仅能借助 2D 投影掩码和 2.5D CAD 标称深度进行间接验证,尚缺少全三维真实 micro-CT 体素级别的严格定量对照。
  • 未来改进思路:可引入元学习(Meta-Learning)或超网络(Hypernetworks)学习先验初始场权重,将反演步数压缩至数十步以内;同时探索多重网格预条件子加速高对比度系统的求解。

相关工作与启发

  • vs 软约束 PINN 系列 (PINN / SPINN / Causal-PINN / DCGD):后者均将温度与物性解耦为两个网络并用 PDE 残差软惩罚,在刚性抛物型方程中遭遇梯度失真导致扩散率完全不收敛;本文通过离散伴随法求解硬约束系统,使表面误差直接拉动神经场优化。
  • vs 经典信号处理启发式 (PPT / TSR / VWC):传统方法局限于一维半无限体导热公式做像素级峰值提取,严重忽视横向三维热对流与有限板厚边界效应;本文采用严格三维有限体积物理模型,深度估计绝对相对误差(Abs Rel)从传统方法的 3.4~13.4 骤降至 0.465。
  • vs 纯视觉神经辐射场 (NeRF / FluidNeRF):后者主要依赖射线光学追踪合成视角,不内嵌不可逆的热传导守恒偏微分方程;NeFTY 将连续场表征与瞬态可微抛物型热求解器结合,拓宽了神经场在不可逆物理逆问题中的应用边界。

评分

  • 新颖性: ⭐⭐⭐⭐⭐ 首次建立离散伴随驱动的可微隐式热求解器与坐标神经场结合架构,彻底破解了 IHCP 的软约束 PINN 梯度病态。
  • 实验充分度: ⭐⭐⭐⭐⭐ 合成千级数据集严格防范逆犯罪,覆盖均匀与层叠结构,消融详尽并成功迁移至真实 PVC 热像数据。
  • 写作质量: ⭐⭐⭐⭐⭐ 数学推导严谨自洽,理论分析透彻揭示了软约束脱节机制,方法图与实验图表极为规范。
  • 价值: ⭐⭐⭐⭐⭐ 为无损检测、航空复合材料探伤及地下地热勘探提供了真正免三维真值标注的体素级成像新范式。