Symplectic Neural Operators for Learning Infinite Dimensional Hamiltonian Systems¶
会议: NeurIPS 2026
arXiv: 2605.15881
论文: https://arxiv.org/abs/2605.15881 https://openreview.net/forum?id=x7jCoj91Df
代码: https://anonymous.4open.science/r/SNO-216D
领域: 物理与科学计算
关键词: 神经算子, 哈密顿偏微分方程, 辛结构保持, 自伴随算子, 修正哈密顿稳定性
一句话总结¶
针对标准神经算子缺乏几何先验导致长期递推发散的痛点，本文提出了辛神经算子（SNO），通过自伴随 Fourier 神经算子参数化梯度剪切映射实现结构保辛，并建立了修正哈密顿长期能量守恒保证。
研究背景与动机¶
在波动方程、麦克斯韦电磁场、量子力学薛定谔方程以及非线性克莱因-戈登方程等经典物理与工程系统中，连续介质动力学本质上由无穷维相空间上的哈密顿偏微分方程（PDE）所主导。在这些系统中，时间演化流映射不仅遵循特定的能量泛函，更内蕴着严格的辛几何结构（Symplectic Structure）。该几何不变量支配着相体积守恒、时间反演对称性以及波包模式间的长程非耗散能量交换，是保证系统在长时间尺度下动力学保真度的核心物理规律。
随着数据驱动物理代理模型的兴起，傅里叶神经算子（FNO）、图神经算子（GNO）和卷积神经算子（CNO）等方法在函数到函数的解映射学习上取得了显著进展。然而，这些标准神经算子将输入和输出视为通用的非受限函数，完全忽略了相空间的内在几何约束。由于在训练阶段通常仅以单步或短时域预测误差为优化目标，在无约束的假设空间下，即使单步逼近精度极高，微小的结构几何破损也会在长时域自回归递推（rollout）中沿相互作用的无穷模式迅速级联放大，最终表现为严重的能量单调漂移、相位退相干乃至解的数值发散。
现有的几何深度学习方案（如哈密顿神经网络 HNN、辛网络 SympNet）主要针对有限维常微分方程（ODE）设计，其辛映射定义在有限维欧氏空间 \(\mathbb{R}^d\) 上，严重依赖于特定的离散化网格，无法直接迁移到跨网格分辨率无关的无穷维函数空间算子学习场景。另一方面，经典辛几何积分器要求已知精确的哈密顿泛函并需要反复计算变分导数或求解隐式离散代数方程，难以直接用于无已知方程的数据驱动黑盒替代建模。核心 idea：通过构建由自伴随 Fourier 神经算子参数化的上/下剪切辛算子交替复合网络（SNO），在函数空间结构性内嵌辛几何约束，直接学习有限时步流映射，并从理论与实验上证明其具有修正哈密顿量控制的长期稳定性与能量保真度。
方法详解¶
整体框架¶
辛神经算子（SNO）的目标是直接从成对的离散状态数据中学习有限时步 \(\tau\) 的解流映射 \(\Phi_H^\tau: (q(\cdot), p(\cdot)) \mapsto (q(\cdot, \tau), p(\cdot, \tau))\)。在经典希尔伯特相空间 \(\mathbb{P} = \mathbb{H} \oplus \mathbb{H}\) 上（其中 \(q \in \mathbb{H}\) 为广义位移，\(p \in \mathbb{H}\) 为广义动量），辛形式定义为 \(\omega((q, p), (q', p')) = \langle q, p' \rangle_\mathbb{H} - \langle p, q' \rangle_\mathbb{H} = \langle J u, u' \rangle_\mathbb{P}\)，辛正规矩阵算子满足 \(J = \begin{pmatrix} 0 & -I \\ I & 0 \end{pmatrix}\)。
SNO 的整体前向计算流程由输入编码、交替堆叠的非线性剪切辛算子层（Shear-type Symplectic Blocks）以及相空间状态更新组成。每个剪切模块分别由标量神经能量泛函的 Fréchet 梯度生成，而该梯度的自伴随线性化则由专门构建的自伴随傅里叶神经算子（SAFNO）提供严格数学支撑。
%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
IN["输入初始相空间函数对 (q_0, p_0)"] --> SAFNO["自伴随傅里叶神经算子 (SAFNO)<br/>对偶符号共轭保证算子自伴随"]
SAFNO --> GNF["标量梯度神经能量泛函<br/>E(u) = ∫ Φ(Ku) dx 诱导自伴随雅可比"]
GNF --> SHEAR["交替复合非线性辛剪切层<br/>T_up ∘ T_low 保持外微分形式保辛"]
SHEAR --> OUT["结构保辛相空间状态预测 (q_τ, p_τ)"]关键设计¶
1. 自伴随傅里叶神经算子（SAFNO）：函数空间线形自伴随的算子设计 在有限维中，矩阵自伴随只需显式代数对称化（如 \(\frac{1}{2}(A + A^\top)\)），但在连续函数空间中，自伴随性由积分测度、边界条件及算子谱性质决定，直接离散化极易破坏伴随性质。本文在 \(n\) 维环面 \(\mathbb{T}^n = (\mathbb{R}/\mathbb{Z})^n\) 的复希尔伯特空间 \(\mathbb{H}_d = L^2(\mathbb{T}^n; \mathbb{C}^d)\) 上构建了严格保自伴随的线性 Fourier 算子 \(G: \mathbb{H}_d \to \mathbb{H}_d\)。在 \(L\) 层线性变换中，设计空间通道投影矩阵 \(W_k \in \mathbb{C}^{m \times m}\) 与频域乘子符号 \(R_k(\xi) \in \mathbb{C}^{m \times m}\)，使其满足层间反向对偶共轭对称性（Adjoint Pair Symmetry）： $\(W_k = W_{L-1-k}^*, \quad R_k(\xi) = R_{L-1-k}(\xi)^* \quad (\forall \xi \in \mathbb{Z}^n, \; k=0,\dots,L-1)\)$ 通过输入输出投影 \(v_0 = P a\) 和 \(G(a) = P^* v_L\)（其中 \(P \in \mathbb{C}^{m \times d}\)），由 Parseval 等距同构严格保证了算子全连乘积满足 \(G^* = G\)，构造出了分辨率无关且完全自伴随的有界线性神经算子。
2. 标量梯度神经能量泛函：诱导自伴随 Fréchet 导数 要将线性自伴随算子推广到非线性辛映射，必须构造其 Fréchet 导数自伴随的非线性算子。根据泛函分析理论，标量能量泛函的二阶 Fréchet 导数（Hessian）天然对称，因此其梯度算子即具备自伴随雅可比。本文定义参数化的标量神经能量泛函： $\(\mathcal{E}_\theta(u) = \int_{\mathbb{T}^n} \Phi_\theta\big((K u)(x)\big) \, dx\)$ 其中 \(K: \mathbb{H}_d \to \mathbb{H}_m\) 是由上述 SAFNO 实现的有界线性算子，\(\Phi_\theta: \mathbb{R}^m \to \mathbb{R}\) 为光滑的逐点标量多层感知机。利用 Riesz 表示定理与复合求导法则，泛函的梯度映射为： $\(\nabla \mathcal{E}_\theta(u) = K^* \big(\nabla \Phi_\theta(K u)\big)\)$ 其 Fréchet 导数形式为 \(D(\nabla \mathcal{E}_\theta)(u) = K^* M_{H_\theta(u)} K\)，其中 \(M_{H_\theta(u)}\) 为 Hessian 对称矩阵的逐点乘子算子，从而在数学上严格保证了该非线性算子的雅可比算子全域自伴随。
3. 交替复合辛剪切算子架构与修正哈密顿量长期稳定性 基于上述梯度神经算子 \(F_\theta^q := \nabla \mathcal{E}_\theta^q\) 和 \(F_\vartheta^p := \nabla \mathcal{E}_\vartheta^p\)，构建辛剪切映射（Shear Map）： $\(\mathcal{T}_\theta^{\mathrm{up}}(q, p) := \big(q + F_\theta^q(p), \, p\big), \qquad \mathcal{T}_\vartheta^{\mathrm{low}}(q, p) := \big(q, \, p + F_\vartheta^p(q)\big)\)$ 由于其导数矩阵呈现三角分块形式且对角线为恒等，自伴随性使得微分自然满足 \((D\mathcal{T})^* J (D\mathcal{T}) = J\)，因而每个单层剪切映射均为辛微分同胚。完整的 SNO 模型由 \(L\) 对上、下剪切块交替复合而成： $\(\mathrm{SNO}_\Theta := \mathcal{T}_{\theta_L}^{\mathrm{up}} \circ \mathcal{T}_{\vartheta_L}^{\mathrm{low}} \circ \cdots \circ \mathcal{T}_{\theta_1}^{\mathrm{up}} \circ \mathcal{T}_{\vartheta_1}^{\mathrm{low}}\)$ 论文进一步建立了逆向误差分析（Backward Error Analysis）理论：若学习到的辛映射与真实流之间存在单步误差 \(\varepsilon = \sup_z \|S_\theta(z) - \Phi_H^\tau(z)\|\)，则根据 Baker–Campbell–Hausdorff（BCH）交换子展开，SNO 在离散轨迹点上的演化精确遵循一个修正哈密顿量 \(\widetilde{H}_{\varepsilon, m} = H + \sum_{j=1}^m \varepsilon^j H_j\)。由此证明了在时间步数 \(0 \le n \le c \varepsilon^{-m}\) 的极长演化跨度内，真实能量漂移始终被控制在 \(|H(u_n) - H(u_0)| \le C \varepsilon\) 的微小常数上界，消除了累积发散隐患。
损失函数 / 训练策略¶
SNO 直接以数据驱动的方式在离散时空样本集 \(\mathcal{D}_N = \{(u^{(i)}, v^{(i)})\}_{i=1}^N\) 上训练，其中目标状态为经高精度自适应龙格-库塔数值积分得到的真实时步演化 \(v^{(i)} \approx \Phi_H^\tau(u^{(i)})\)。
训练目标采用均方希尔伯特误差或相对 \(L^2\) 范数损失： $\(\mathcal{L}(\Theta) = \frac{1}{N} \sum_{i=1}^N \frac{\|\mathrm{SNO}_\Theta(u^{(i)}) - v^{(i)}\|_{\mathbb{P}}^2}{\|v^{(i)}\|_{\mathbb{P}}^2}\)$ 由于辛几何约束已经在网络结构前向通路中严格内嵌，无需在损失函数中增加额外的软拉格朗日惩罚或保辛正则项，避免了多目标优化中的权重平衡困境。
实验关键数据¶
主实验¶
论文在四种基准哈密顿偏微分方程上进行了全面评估：一维波动方程（Wave）、一维简化麦克斯韦电磁波方程（EM）、一维薛定谔方程（Schrödinger）以及非线性克莱因-戈登方程（Nonlinear Klein–Gordon）。所有对比模型（SNO、FNO、GNO、CNO）的参数量均严格对齐至约 230 万（2.3M）。
下表汇报了代表性系统在长时域递推步数下的状态相对 \(L^2\) 误差（测试集 10 个随机初始场均值 \(\pm\) 标准差）：
| 物理系统 | 评测时步 (Step) | SNO (本文) | FNO (基线) | GNO (基线) | CNO (基线) |
|---|---|---|---|---|---|
| 波动方程 (\([q; p]\)) | 1 step | 2.7199e-04 ± 1.35e-04 | 1.6310e-03 ± 1.49e-04 | 7.4758e-03 ± 9.50e-04 | 9.4299e-03 ± 2.04e-03 |
| 波动方程 (\([q; p]\)) | 100 steps | 2.4853e-02 ± 1.31e-02 | 1.5923e-01 ± 1.30e-02 | 7.5235e-01 ± 9.04e-02 | 1.0066e+00 ± 1.99e-01 |
| 波动方程 (\([q; p]\)) | 500 steps | 8.2051e-02 ± 2.43e-02 | 8.8926e-01 ± 8.41e-02 | 3.4335e+00 ± 2.51e-01 | 2.2599e+00 ± 2.61e-01 |
| 波动方程 (\([q; p]\)) | 1000 steps | 1.7536e-01 ± 6.67e-02 | 1.9667e+00 ± 4.69e-01 | 9.4554e+00 ± 3.34e+00 | 2.3542e+00 ± 1.88e-01 |
| 麦克斯韦方程 (\([E; B]\)) | 1 step | 4.5632e-04 ± 6.25e-05 | 1.8360e-02 ± 5.92e-03 | 8.3330e-04 ± 1.24e-04 | 4.6406e-03 ± 9.91e-04 |
| 麦克斯韦方程 (\([E; B]\)) | 100 steps | 1.1766e-01 ± 1.22e-01 | 6.5749e-01 ± 1.48e-01 | 3.9436e-01 ± 3.28e-01 | 4.8184e-01 ± 1.30e-01 |
| 麦克斯韦方程 (\([E; B]\)) | 1000 steps | 3.0579e+00 ± 3.61e-01 | 3.6944e+00 ± 1.78e-01 | 3.8659e+01 ± 7.17e+00 | 2.2088e+00 ± 1.67e-01 |
| 非线性 KG 方程 (\([q; p]\)) | 1 step | 5.1607e-04 ± 1.27e-05 | 9.0181e-04 ± 6.17e-05 | 1.0153e-03 ± 1.07e-04 | 1.4576e-02 ± 2.10e-03 |
| 非线性 KG 方程 (\([q; p]\)) | 100 steps | 5.4225e-02 ± 1.65e-03 | 1.0085e-01 ± 8.47e-03 | 1.3477e-01 ± 2.04e-02 | 1.8665e+00 ± 1.68e-01 |
| 非线性 KG 方程 (\([q; p]\)) | 500 steps | 3.6969e-01 ± 2.79e-02 | 1.3786e+00 ± 2.36e+00 | 8.2240e-01 ± 7.72e-02 | 4.5524e+00 ± 4.66e-01 |
| 非线性 KG 方程 (\([q; p]\)) | 1000 steps | 9.6130e-01 ± 7.04e-02 | 3.8190e+00 ± 8.39e+00 | 1.0321e+01 ± 3.37e+00 | 7.3353e+00 ± 1.57e+00 |
消融实验与能量漂移分析¶
为验证辛结构保持对物理能量守恒的根本性影响，下表对比了波动方程和非线性克莱因-戈登方程在不同递推步数下的平均相对哈密顿能量误差 \(|H(u_n) - H(u_0)| / H(u_0)\)：
| 评估配置 / 模型 | 波动方程 (t=100) | 波动方程 (t=500) | 波动方程 (t=1000) | 非线性 KG (t=100) | 非线性 KG (t=500) | 非线性 KG (t=1000) |
|---|---|---|---|---|---|---|
| SNO (结构保辛，本文) | 2.3046e-04 | 5.6292e-04 | 2.0607e-03 | 5.5267e-03 | 2.4713e-02 | 3.0421e-02 |
| FNO (无辛约束 Fourier) | 3.2277e-02 | 3.8614e-01 | 1.3534e+00 | 1.6823e-02 | 7.3091e-01 | 6.7121e+00 |
| GNO (无辛约束 Graph) | 2.1514e-01 | 2.6946e+00 | 3.0558e+01 | 1.1395e-02 | 9.5030e-02 | 8.8947e+00 |
| CNO (无辛约束 Conv) | 3.5376e-01 | 9.0783e-01 | 9.1559e-01 | 1.7449e+00 | 2.4979e+00 | 1.7986e+00 |
关键发现¶
- 短期相当与长期质变：在前 10 至 20 个时步的单步演化中，所有模型预测结果与真实值极为贴近（波动方程中单步相对误差均在 \(10^{-3}\) 数量级）；然而一旦递推推进至 1000 步，常规算子误差呈指数或高阶多项式急剧爆炸，而 SNO 在 1000 步时的误差仅为 0.175，比 FNO（1.966）低整整一个数量级，比 GNO（9.455）低近两个数量级。
- 近乎无耗散的能量守恒：在能量演化测试中，非结构保持模型（FNO/GNO/CNO）均表现出持续单调的耗散衰减或非物理能量暴涨，而 SNO 的相对能量误差在 1000 步演化中始终维持在 \(10^{-3} \sim 10^{-2}\) 水平，完美印证了修正哈密顿稳定性定理。
亮点与洞察¶
- 算子级硬保辛归纳偏置：打破了过去 SympNet 等结构仅能作用于有限维离散向量空间的桎梏，首次在连续无穷维希尔伯特函数空间构造出数学上严格保辛的神经算子架构，使算子具备网格无关性的同时拥有了几何守恒性。
- 巧妙的自伴随符号约束：在频域中利用层间反向对偶共轭对称性（\(W_k = W_{L-1-k}^*\) 与 \(R_k = R_{L-1-k}^*\)）化解了无穷维算子难以显式对称化的数学难题，构造极其优雅且计算开销可控。
- 修正哈密顿量逆向误差分析：将经典几何数值积分中的反向误差分析（BCH 展开）严密拓展到了神经算子函数空间，为深度学习替代模型的长时数值稳定性提供了首个坚实的数学理论支柱。
局限与展望¶
- 训练开销较高：由于 SNO 由多个剪切模块交替复合构成，且各层需要计算标量能量泛函的精确自动微分梯度，单步前向与反向传播的计算耗时高于标准 FNO。
- 相空间几何拓扑限制：当前理论与架构主要建立在具有典范强辛结构的希尔伯特相空间（如环面 \(L^2(\mathbb{T}^n)\)）之上；对于具弱辛结构流形或自由/非周期复杂边界的实际物理系统，尚需更深入的微分几何与泛函扩展。
- 理论假设的严格性：修正哈密顿定理依赖于学习误差具有哈密顿微扰表示以及 BCH 对数级数的一致收敛性，在极端非线性或奇异模式相互作用下的解析延拓条件仍需进一步放宽与验证。
相关工作与启发¶
- vs FNO / CNO / GNO：标准神经算子将时空演化视为通用的黑盒函数映射，参数搜索假设空间过大，长程递推必现伪耗散；SNO 引入辛几何流形限制，显著压缩了无效假设空间，极大提升了物理长期泛化能力。
- vs SympNet / HNN：HNN 与 SympNet 是有限维保辛深度学习的先驱，但其严格绑定在固定点阵维度 \(\mathbb{R}^d\) 上，网格加密即导致参数失效；SNO 基于函数空间算子理论构建，具备完全的分辨率无关性（zero-shot super-resolution）。
- vs 经典辛积分器：传统辛积分器（如 Verlet、辛 Runge–Kutta）依赖已知解析方程且步长必须极小；SNO 纯从离散时空数据中学习，可直接学习大时间跨度 \(\tau\) 的流映射，单次前向即可完成百倍时步跨越。
评分¶
- 新颖性: ⭐⭐⭐⭐⭐ [首次在无穷维函数空间实现结构保辛的神经算子架构]
- 实验充分度: ⭐⭐⭐⭐⭐ [涵盖波动、电磁、薛定谔、非线性KG四大PDE基准，并给出了完整的理论证明与1000步长期跟踪实验]
- 写作质量: ⭐⭐⭐⭐⭐ [数学推导严密规范，几何直觉清晰，图表数据详实]
- 价值: ⭐⭐⭐⭐⭐ [为长时程物理系统仿真与科学机器学习提供了结构保持的新范式]