跳转至

Reconciling Causality and Non-Equilibrium Thermodynamics with Hamiltonian Causal Models

会议: NeurIPS 2026
arXiv: 2606.04822
OpenReview: https://openreview.net/forum?id=g91WplfN3n
领域: 因果推理
关键词: 统计因果模型, 非平衡热力学, 哈密顿因果模型, 熵产生, 轨迹级因果效应

一句话总结

提出了将微观哈密顿力学与局域环境热库耦合的哈密顿因果模型(HCMs),将干预建模为控制哈密顿机制的演化变量,并证明熵产生是能够捕捉传统平均处理效应无法感知的路径级因果效应与循环因果拓扑的热力学因果可观测量。

研究背景与动机

统计因果推断的核心在于通过外生干预而非被动观察来刻画系统的响应规律,并在经济学、流行病学以及机器学习等领域建立了结构因果模型(SCM)和潜在结果框架等经典理论。然而,当因果方法应用于真实的连续时间物理动力系统时,现有范式面临严重的理论壁垒:现实物理系统中的干预往往是沿轨迹持续施加的动态控制策略,诱导的状态演化定律具有非平稳性,因果效应具有高度的路径依赖,且系统内部普遍存在随时间展开的反馈回路与循环依赖;在传统离散或静态因果图模型中,处理这些动力学特征往往需要依赖大量人为假设与脆弱的构造。

更深层次的理论脱节在于统计因果与物理世界因果本质的认知差异。微观物理定律(如牛顿力学或正则哈密顿方程)具备严格的时间反演对称性,单凭微观运动方程无法自发破缺出因果方向;宏观因果单向性(如石子投入池塘激起向外扩散的波纹,而非反向汇聚)本质上源于微观态的不可逆性演化,亦即热力学时间之箭。与此同时,物理现实中的动态干预或反馈机制(如同麦克斯韦妖)不可避免地伴随着信息的交互与熵的耗散成本,不能被简单抽象为无物理代价的随机变量硬性赋值。

为了弥合统计因果与非平衡态动力学之间的鸿沟,本文另辟蹊径,不再把随机变量间的单向箭头视作不可还原的公理原语,而是从具有时间反演不对称性的热力学耗散中寻求因果性的来源。核心 idea:建立以连续轨迹为基本因果载体的哈密顿因果模型(HCMs),严格解耦不可更改的哈密顿正则运动方程与可被干预修改的局域机制项,并确立由前向与反演路径法则差异所诱导的热力学熵产生作为路径级因果效应及因果图发现的核心物理可观测量。

方法详解

整体框架

哈密顿因果模型将系统构建在辛流形 \((\Gamma, \omega)\) 上,其相空间天然分解为可观测节点空间与不可观测的环境热库空间 \(\Gamma = \prod_{i=1}^n \Gamma_{X_i} \times \prod_{i=1}^n \Gamma_{E_i}\),其中每个热库 \(E_i\) 作为该节点的局域外生噪声源,在初始时刻满足热库相互独立因子化与吉布斯平衡态分布。干预被严格定义为作用在控制流形 \(\mathcal{L} = \prod_{i=1}^n \mathcal{L}_i\) 上的非前瞻性策略 \(\lambda_t\),干预仅能调制系统哈密顿量中属于该节点的自能量、父节点耦合机制项以及热库耦合项,而绝不改变底层的哈密顿正则运动方程。

在此体系下,因果效应被形式化为可观测路径空间测度之间的广义轨迹平均处理效应(Generalized Trajectory ATE)。为了从轨迹数据中检测因果影响,框架引入非平衡态热力学中的核心量——熵产生(Entropy Production),它通过比对前向干预诱导的路径概率测度与时间反演操作诱导的后向路径概率测度之间的对数似然比(KL 散度)来衡量过程的不可逆耗散。进一步地,通过将全局熵产生投影到单节点边缘路径测度上,或结合全维动力学概率流与信息流导出通道局域熵产生率对右局域干预的微扰响应,实现了对路径因果效应的有效检验与循环图结构中直接父节点的精确重构。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["物理相空间分解与外生热库配置<br/>Γ = ∏ ΓXi × ∏ ΓEi,初始吉布斯平衡态"] --> B["1. 局域机制解耦与动态干预策略<br/>干预 λt 调制局域哈密顿量,保留不变哈密顿方程"]
    B --> C["2. 广义轨迹因果效应与投影熵产生<br/>边缘路径测度时反散度检验路径级 ATE"]
    C --> D["3. 局域熵产生率微扰响应测定<br/>计算二阶交叉响应 Ri|j 破缺施瓦茨对称性"]
    D --> E["输出:路径级因果效应判决与循环图父节点拓扑"]

关键设计

1. 局域机制解耦与动态干预策略:在不变运动定律下实现机制干预

针对传统结构因果模型中将干预抽象为改写方程、难以与物理连续时间动力学自洽的问题,HCM 将干预约束在能量函数的调控层面。全系统哈密顿量被严格分解为: $\(H(z,\lambda) = \sum_{i=1}^n H_{E_i}(e_i) + \sum_{i=1}^n \left[ H_i^{\mathrm{self}}(x_i,\lambda_i) + H_i^{\mathrm{mech}}(x_i,x_{-i},\lambda_i) + H_i^{\mathrm{bath}}(x_i,e_i,\lambda_i) \right]\)$ 其中 \(H_i^{\mathrm{self}}\) 为内禀能量项,\(H_i^{\mathrm{mech}}\) 为其他可观测变量对节点 \(X_i\) 的相互作用机制,\(H_i^{\mathrm{bath}}\) 为节点与其专属环境热库的耦合项。若 \(\partial_{x_j} H_i^{\mathrm{mech}} \not\equiv 0\),则定义 \(X_j\) 为 \(X_i\) 的因果父节点。干预策略 \(\lambda_{i,t}\) 仅作用于第 \(i\) 个节点的能量分量,允许操作者调节父节点耦合强度甚至断开热库耦合。关键在于,相空间中的切向量场依然完全由辛形式与调控后的哈密顿量 \(\omega(Y_{H_\lambda}, \cdot) = \mathrm{d}H_\lambda\) 唯一生成,从而将可变物理机制与不可更改的物理动力学方程严格分离开来,并在大热库与过阻尼极限下严格还原朗之万扩散动力学 \(\mathrm{d}X_t = -\nabla_x U(X_t, \lambda_t)\mathrm{d}t + \sigma(\lambda_t)\mathrm{d}W_t\)。

2. 广义轨迹因果效应与投影熵产生:捕捉终点不敏感的路径级不可逆效应

传统因果推断通常关注特定时间端点或时间积分的平均处理效应(ATE),容易在动态抵消或路径差异显著的非平稳过程中失效。HCM 定义两策略 \(\lambda^{(1)}, \lambda^{(2)}\) 对节点 \(X_i\) 的广义轨迹因果效应为测度差异 \(\mathrm{ATE}_{0:T}^{(i)}(\mathfrak{D}) := \mathfrak{D}(\mathbb{P}_i^{\lambda^{(1)}}, \mathbb{P}_i^{\lambda^{(2)}})\)。为了从可观测数据中度量此效应,方法引入节点 \(X_i\) 的投影局域熵产生: $\(\Sigma_i^{\mathrm{proj},\lambda}(x_i) := \log \frac{\mathrm{d}\mathbb{P}_i^\lambda}{\mathrm{d}(\mathcal{R}_i)_\# \mathbb{P}_i^\lambda}(x_i), \qquad \mathbb{E}[\Sigma_i^{\mathrm{proj},\lambda}] = D_{\mathrm{KL}}(\mathbb{P}_i^\lambda \parallel (\mathcal{R}_i)_\# \mathbb{P}_i^\lambda)\)$ 其中 \(\mathcal{R}_i\) 为时间反演算子。投影熵产生刻画了仅观测单个节点轨迹时所能察觉的时间反演不对称性。理论证明,若两套干预策略在节点 \(X_i\) 上诱导出不同的平均投影熵产生,则必然保证其边缘路径测度不同,从而构成因果效应存在的严格单向证明。这种基于测度时间不对称性的物理统计量,能够敏锐捕捉到包含丰富瞬态结构与不可逆耗散但端点统计矩完全相等的复杂因果路径变化。

3. 局域熵产生率微扰响应测定:破缺施瓦茨对称性以识别循环父节点

在未受控的梯度朗之万动力学中,由于二阶混合偏导的施瓦茨对称性 \(\partial_{x_i}\partial_{x_j} U = \partial_{x_j}\partial_{x_i} U\),纯观测数据只能恢复无向拓扑而无法确定因果方向。为了在含有有向环路的非平稳系统中重构真实的直接父节点结构,HCM 建立了基于通道局域熵产生率 \(\dot{\Sigma}_i^{\mathrm{loc}} = \int \frac{J_i^2}{D_i p}\mathrm{d}x\) 的右局域微扰响应算子: $\(R_{i\mid j}(t^*) := \lim_{v\to 0}\lim_{s\downarrow 0} \frac{F_i[p^v(\cdot,s),\lambda^v(s)] - F_i[p^0(\cdot,s),\lambda^0(s)]}{vs}\)$ 在 \(t^*\) 时刻,基准策略保持常数 \(\lambda^*\), 探测策略在节点 \(j\) 上施加线性速度微扰 \(\lambda^v(s) = \lambda^* + vs\mathbf{e}_j\)。在极限下状态密度变化项相互抵消,唯独保留冻结概率密度下的结构导数: $\(R_{i\mid j}(t^*) = -\frac{2}{D_i(\lambda_{*,i})} \int J_i[p_*,\lambda_*](x) \partial_{x_i}\partial_{\lambda_j} U(x,\lambda_*)\,\mathrm{d}x\)$ 非父节点因为不参与相互作用势能,其混合偏导数严格恒等于零,导致 \(R_{i\mid j} = 0\);而真实父节点在非平衡概率流 \(J_i\) 不与相互作用梯度正交的通用非简并条件下,\(R_{i\mid j} \neq 0\)。通过神经估计器估计该局部响应并设定自适应阈值,即可在非平稳循环网络中精确恢复因果有向拓扑。

损失函数 / 训练策略

轨迹级熵产生及局域熵产生率采用神经网络熵产生估计器(NEEP)在轨迹数据上拟合。对于端点路径效应对比,采用针对单坐标边际轨迹的流受限 NEEP 变体;对于全状态父节点辨识,采用非平稳局域 NEEP(基于时间核基的前馈网络 FNNKt)。在 \(N=8000\) 轨迹样本、时间步长 \(\Delta t = 0.02\) 的仿真窗口中,对目标节点 \(j\) 施加微扰速度 \(v=0.5\),通过冻结协议与探测协议的局域熵产生率差值在短时间窗口(\(s_{\mathrm{window}} = 0.4\),40 个欧拉-马山子步)内通过最小二乘法拟合过原点斜率获取 \(\widehat{R}_{i\mid j}\)。最终通过相对阈值规则判定父节点:\(\widehat{\mathrm{pa}}(j) = \{i : |\widehat{R}_{i\mid j}| > 0.10 \cdot \max_k |\widehat{R}_{k\mid j}|\}\)。

实验关键数据

主实验

实验首先验证了投影熵产生对传统端点和积分 ATE 无法识别的路径级因果效应的灵敏检测能力(验证命题 3.7)。设置了两种极端反例场景:(A) 相同终点不同路径:过阻尼振子链由平滑斜坡与过冲回落两种不同策略驱动,终点状态相同使得终点 ATE 理论值为 0;(B) 相同干预时间反演:带隐变量非线性中介系统的全坐标和对称观测量在正反脉冲顺序下,对称性强制累积 ATE(cATE)理论值为 0。

评估场景 构造归零的可观测量 ATE (95% CI) 投影熵产生效应 \(\mathrm{ATE}(\Sigma_i^{\mathrm{proj}})\) (NEEP, 均值±标准差, \(p\) 值) 检测结论
(A) 相同终点不同路径 (Same endpoints) 终点 ATE = \(-0.012\) \([-0.037, +0.012]\) \(-0.366 \pm 0.001\), \(p = 2.3 \times 10^{-6}\) 传统 ATE 无法区分,\(p>0.05\) 归零;熵产生显著拒绝零假设
(B) 脉冲时间逆序 (Reversed in time) 累积 ATE (cATE) = \(+0.002\) \([-0.062, +0.067]\) \(-0.417 \pm 0.017\), \(p = 6.8 \times 10^{-7}\) 传统累积 ATE 完全失效;熵产生极高置信度识别路径因果效应

消融实验

为验证定理 3.9 在非平稳循环图中的父节点发现能力,实验在 \(n=15\) 个节点、边概率 \(0.10\) 的随机循环 Erdős–Rényi 有向图(\(>90\%\) 包含有向环路)上评估三种不同非线性势能核函数 \(\phi(x_i,x_j)\) 下的父节点重构性能(每种势能各评测 10 张图,计算平均指标及 95% 置信区间):

势能耦合类型 (Potential) F1 分数 [95% CI] 精确率 (Precision) [95% CI] 召回率 (Recall) [95% CI] 局部结构汉明距离 (Local SHD \(\downarrow\)) [95% CI]
双线性参考核 (Bilinear, \(\phi = x_i x_j\)) 0.839 [0.77, 0.91] 0.775 [0.66, 0.90] 0.967 [0.90, 1.00] 1.10 [0.5, 1.8]
Sigmoid 饱和核 (Sigmoid, \(\tanh(\beta x_i)x_j\)) 0.858 [0.79, 0.93] 0.800 [0.69, 0.91] 0.955 [0.89, 1.00] 0.90 [0.4, 1.5]
四次禁闭三次核 (Cubic, 强非高斯边际) 0.825 [0.70, 0.93] 0.745 [0.59, 0.89] 0.971 [0.91, 1.00] 1.40 [0.4, 2.7]

关键发现

  • 在包含有向回路的高度非平稳动力学系统中,基于局域熵产生响应算子 \(R_{i\mid j}\) 的父节点发现方法在三种不同的非线性物理核下均展现出接近完美的召回率(\(0.955 \sim 0.971\))与出色的精确率(\(0.745 \sim 0.800\)),平均局部拓扑结构汉明距离(SHD)保持在 \(0.90 \sim 1.40\) 的极低水平。
  • 传统平均处理效应(无论是固定时刻的端点 ATE 还是全时程积分的累积 cATE)存在盲区,在非对称物理路径与互易性动力学中极易因瞬态对冲或对称抵消而归零,丧失因果检测效力;而基于时间反演不对称性的熵产生能够纯粹利用轨迹数据准确重现不可逆物理耗散的因果足迹。

亮点与洞察

  • 将宏观因果性还原为热力学耗散:论文将因果性的本质从“统计变量之间的抽象结构函数”提升到“物理时间之箭的不可逆性”,利用微观时间反演对称性破缺生成的熵产生作为因果信号,在数学与物理基础层面上实现了统计因果推断与非平衡态热力学的融通。
  • 动态微扰巧妙破缺施瓦茨对称性:在梯度控制系统中,利用右向局域速度微扰消除了状态概率密度的动态演化项,将因果拓扑信息精炼为局域熵产生率的二阶混合响应,以非常精巧的物理分析解决了含循环因果图的方向辨识难题。
  • 物理 AI 与动力学建模的可迁移范式:将传统 SCM 机制干预映射为哈密顿控制量的思想,可广泛迁移至神经网络动力学、扩散生成模型反向时间动力学分析以及复杂控制系统的可解释因果分析中。

局限与展望

  • 依赖梯度动力学结构:作者明确指出,当前 HCM 框架核心依赖于过阻尼朗之万扩散与梯度漂移场假设;对于带有非保守力、旋转流等非梯度漂移场的广义时间序列因果系统(General Temporal SCMs),尚无法直接通过哈密顿形式化涵盖。
  • 反事实推断面临噪声反推难题:尽管 HCM 允许在原理上将噪声外生反推(Abduction)对应到环境热库的轨迹反演上,但在连续时间非平衡态下,热库表现为复杂的连续概率流而非静态分布,实际反事实运算在计算上极具挑战。
  • 无先验哈密顿量的全数据驱动学习待突破:目前实验仍需已知或指定参数化势能形式配合微扰干预;如何在纯无约束观测数据下联合学习未知哈密顿量并进行完全无监督因果拓扑发现,仍有待未来结合得分匹配(Score Matching)深入探索。

相关工作与启发

  • vs Dynamic SCMs / 随机微分方程因果模型 (Boeken & Mooij, 2024; Peters et al., 2022):传统微分方程因果模型多依赖于对确定性或随机微分方程的符号改写与外生布朗运动做图展开,在面对连续控制干预与循环回路时常遭遇数学自洽性与测度不兼容困难;HCM 通过将相互作用与热库统一嵌入辛几何相空间,将干预自然纳为哈密顿能量项的参数调节,完美包容了连续时间反馈回路。
  • vs 信息流与传递熵方法 (Schreiber, 2000; Ito & Sagawa, 2013):传递熵与定向信息流衡量的是时间序列间的单向预测增益而非因果干预响应;本文通过子系统热力学将信息流率内嵌为熵产生平衡方程的修正项,建立了信息论可预测性与外生干预因果效应之间的热力学统一桥梁。

评分

  • 新颖性: ⭐⭐⭐⭐⭐ 首次从辛几何与非平衡态热力学时间之箭的微观视角重构统计因果模型,理论立意深刻且极具原创性。
  • 实验充分度: ⭐⭐⭐⭐ 巧妙设计了物理反例实验证实传统 ATE 的固有盲区,并在非线性循环图上验证了父节点辨识理论,仿真扎实严密;若有真实物理实验系统数据则更佳。
  • 写作质量: ⭐⭐⭐⭐⭐ 数学严密,物理图像清晰,符号规范,从统计因果与物理热力学两大学科交汇处展开叙述,行文极为优美连贯。
  • 价值: ⭐⭐⭐⭐⭐ 为 AI for Science、物理系统因果表征学习以及连续时间强化学习控制提供了全新的跨学科理论工具。