Extended Wasserstein-GAN Approach to Causal Distribution Learning: Density-Free Estimation and Minimax Optimality¶

会议: NeurIPS 2026
arXiv: 2605.10206
OpenReview: https://openreview.net/forum?id=r59bGWg9jN
代码: https://github.com/shutech2001/GANICE
领域: 优化/理论
关键词: 分布式因果推断, 扩展Wasserstein距离, 生成对抗网络, 无密度估计, 极小化极大最优性

一句话总结¶

提出了因果分布学习方法 GANICE，基于扩展 Wasserstein 距离的对角耦合构建反事实对抗目标，采用分层元胞归一化实现免密度比与倾向得分的隐式生成估计，并在离散与各向异性连续协变量设定下证明了极小化极大最优收敛速率。

研究背景与动机¶

传统的因果推断长期聚焦于平均处理效应（ATE）或条件平均处理效应（CATE）的点估计，但在诸如精准医疗、剂量反应调控、金融风控与公共政策评估等诸多实际场景中，决策者真正关心的是干预后的潜在结果分布本身，包括异质性分位数、尾部条件风险（CVaR）以及政策诱导的内在不确定性。近年来，以生成对抗网络（GAN，如 GANITE、SCIGAN、MCGAN）以及扩散/流模型（DiffPO、INFs、PO-Flow）为代表的深度生成模型被广泛引入反事实推断。然而，现有的因果生成框架存在两个根本性理论缺陷：其一，常见的事实坐标插补博弈目标（如推断事实处理标签的判别器）在总体层面上缺乏因果风险对齐，其收敛极限仅能识别各处理组在给定协变量下的边际分布，无法建立与可识别因果目标分布之间的统计风险度量与最优性保证；其二，由于观测分布与目标干预设计之间存在重叠度偏差，现有方法严重依赖倾向得分（propensity score）或密度比估计（density ratio estimation），在高维连续协变量或弱重叠区域极易引发方差爆炸与数值崩溃。

导致上述困境的核心矛盾在于：可识别的因果生成目标本质上是每个处理-协变量状态下的条件干预分布族，而标准的最优传输或联合生成对抗目标允许在不同处理状态之间发生“跨状态质量搬运”，这违背了因果约束；与此同时，基于可积似然或分值匹配的方法强行要求潜在结果具有勒贝格密度，无法处理奇异测度或紧支集上的低维隐式流形。

本文的切入角度是：利用条件测度间的对角耦合构建扩展 Wasserstein 距离（Extended Wasserstein Distance），将判别器的对偶检验严格限制在同状态内进行因果对齐，并通过分层元胞局部归一化统计量巧妙规避对观测密度与倾向得分的显式估计。核心 idea：引入扩展 Wasserstein 距离作为可识别因果条件分布族的统计风险，设计具有元胞级局部 Lipschitz 判别器的 GANICE 模型，在免密度比估计的前提下达成各向异性 Besov 判别器控制与极小化极大最优收敛速率。

方法详解¶

整体框架¶

GANICE 的目标是估计目标干预测度 $P^*(\mathrm{d}w, \mathrm{d}y) = Q_\rho(\mathrm{d}w)\mu_w^*(\mathrm{d}y)$，其中状态 $W=(X, T) \in \mathcal{W}$ 包含协变量与处理变量，$Q_\rho$ 为目标设计边际分布，$\mu_w^*$ 为状态 $w$ 下的真实潜在结果条件分布。在一致性（Consistency）与可忽略性（Ignorability）假设下，观测样本 $O_i = (W_i, Y_i^{\mathrm{obs}})$ 服从 $P_{\mathrm{obs}}(\mathrm{d}w, \mathrm{d}y) = Q_{\mathrm{obs}}(\mathrm{d}w)\mu_w^*(\mathrm{d}y)$。GANICE 配置了一个条件生成器 $g: \mathcal{W} \times [0,1]^{d_U} \to \mathcal{Y}$，生成分布表示为 $\nu_{g,w} = g(w, \cdot)_{\#}U$，并构建多分辨率分层判别器来最小化扩展 Wasserstein 风险 $\mathrm{eW}_1(P^*, P_g)$。

方法整体包含三个核心步骤：① 依据各向异性网格或状态空间划分元胞；② 在每个元胞内计算观测结果与生成结果的样本归一化期望；③ 将元胞级差异加权聚合为经验对抗损失，并更新生成器与判别器网络。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["观测样本 (W, Y_obs) 与目标设计 Q_rho"] --> B["对角扩展Wasserstein约束<br/>禁止跨状态W传输，限定同状态测度耦合"]
    B --> C["分层元胞归一化评估<br/>元胞内局部经验平均，消除密度比与倾向得分"]
    C --> D["各向异性Besov判别器与网格自适应<br/>分段常数判别器跨越政策边界，平衡偏差与方差"]
    D --> E["生成器极小化极大更新<br/>输出因果条件分布族 nu_g,w"]

关键设计¶

1. 扩展 Wasserstein 距离度量因果条件风险：对角耦合阻断跨状态质量搬运

传统生成对抗网络若直接在联合空间 $\mathcal{W} \times \mathcal{Y}$ 上定义 Wasserstein 距离，运输方案可以通过在协变量 $W$ 之间平移质量来虚假降低损失，这彻底破坏了因果推断必须在“相同干预-协变量条件”下比较潜在结果的本质原则。为此，GANICE 严格采用扩展 Wasserstein-1 距离（Extended Wasserstein Distance, $\mathrm{eW}_1$）。该度量将耦合集合限制在对角可容许耦合族 $\Gamma_\Delta(P, R)$ 内，要求两个联合分布的协变量边缘必须精确重合且耦合边缘集中于对角集 $\Delta = \{(w, w) : w \in \mathcal{W}\}$。根据测度分解定理，$\mathrm{eW}_1$ 精确等价于目标边际分布加权的状态级单测度 Wasserstein 距离积分： $$ \mathrm{eW}1(P, R) = \infw) $$ 通过扩展 Kantorovich-Rubinstein 对偶性，该距离可表征为切片 1-Lipschitz 判别器类 } \int |y - y'| \, \alpha(\mathrm{d}w, \mathrm{d}y, \mathrm{d}w', \mathrm{d}y') = \int_{\mathcal{W}} W_1(\mu_w, \nu_w) \, Q_\rho(\mathrm{d$\mathcal{F}_{1,0} = \{h: \mathcal{W} \times \mathcal{Y} \to \mathbb{R} : h(w, y_0) = 0, \, \mathrm{Lip}(h(w, \cdot)) \le 1\}$ 上的对抗上确界： $$ \mathrm{eW}1(P^*, P_g) = \sup{1,0}} \left{ \mathbb{E}[h(W, Y)] \right} $$ 这一设计保证了总体极小化目标严格等价于可识别因果目标分布族在目标设计下的真实统计风险。}[h(W, Y)] - \mathbb{E}_{P_g

2. 分层元胞归一化经验对抗目标：完全摆脱密度比与倾向得分估计

在存在混杂偏差的观测研究中，目标干预测度 $Q_\rho$ 与观测测度 $Q_{\mathrm{obs}}$ 不一致。若采用传统的重叠重加权，需要显式估计密度比 $w_\rho(w) = \mathrm{d}Q_\rho / \mathrm{d}Q_{\mathrm{obs}}$（即逆倾向得分），但密度比估计在高维和弱重叠条件下方差极大且极其脆弱。GANICE 的突破性解法在于分层空间剖分与局部归一化：将状态空间 $\mathcal{W}$ 剖分为有限测度元胞集合 $\Pi_{\boldsymbol{m}}$（离散情形为单点集合，连续情形为各向异性二进矩形），在每个元胞 $C$ 内直接通过样本计数 $N_C^{\mathrm{obs}} = \sum_{i=1}^n \mathbf{1}\{W_i \in C\}$ 计算元胞内部经验平均： $$ \hat{E}{C,n}^{\mathrm{obs}} D_C = \begin{cases} (N_C^{\mathrm{obs}})^{-1} \sum $$ 结合独立从目标设计抽取的蒙特卡洛样本 } D_C(Y_i^{\mathrm{obs}}), & N_C^{\mathrm{obs}} > 0 \ D_C(y_0), & N_C^{\mathrm{obs}} = 0 \end{cases$\tilde{W}_\ell \sim Q_\rho$ 及其在元胞内的计数 $M_C^\rho$，连续设定的经验对抗损失函数定义为： $$ \hat{L}{n,\boldsymbol{m}}^{\mathrm{cont}}(g, h) \coloneq \sum}}} q_C \left[ \hat{E{C,n}^{\mathrm{obs}} D_C - \hat{E} D_C \right], \quad q_C = Q_\rho(C) $$ 因为在给定状态处于元胞 }^{g,\rho$C$ 的条件下，观测样本自发服从观测元胞混合测度 $\mu_C^{\mathrm{obs}}$，元胞内的均匀样本平均自动完成了向真实局域条件测度的无偏收敛，权重 $q_C$ 仅作为确定性已知 Target Mass 进行加权，从而彻底消除了对倾向得分、似然密度及密度比模型的任何参数化依赖。

3. 各向异性 Besov 判别器理论控制与极小化极大最优收敛速率

在连续协变量空间 $\mathcal{W} = [0,1]^{d_W}$ 下，真实判别器在不同元胞之间是阶梯状间断的。传统光滑 Sobolev 或 Hölder 空间无法容纳由于不同处理机制划分、阈值介入等引起的跳跃不连续性。GANICE 建立的理论框架证明了分段常数元胞判别器在各向异性 Besov-Nikolskii 空间 $B_{p_B, \infty}^{\boldsymbol{s}}(\mathcal{W}; \mathcal{L}_1)$ 中当平滑度 $s_j < 1/p_B$ 时可被精确控制，从而在不平滑跨越政策边界的前提下约束判别器容量。对于潜在结果满足 $\beta+1$ 阶光滑隐式生成模型（单状态局部最优 WGAN 速率指数为 $a = \min\{(\beta+1)/(2\beta+d_U), 1/2\}$），且满足各向异性 Wasserstein 正则性 $W_1(\mu_w^*, \mu_{w'}^*) \le L_* \sum_{j=1}^{d_W} |w_j - w'_j|^{\alpha_j}$ 的函数类，定义有效各向异性维度 $\bar{d}_{\boldsymbol{\alpha}} = \sum_{j=1}^{d_W} \alpha_j^{-1}$。通过选取最优网格分辨率： $$ \ell_n = \frac{a \log_2(\kappa n)}{1 + a \bar{d}{\boldsymbol{\alpha}}}, \quad m = \lfloor \ell_n / \alpha_j \rfloor $$ GANICE 证明了因果期望误差的上界与下界同阶，达到极小化极大最优收敛速率： $$ \sup_{(P_{\mathrm{obs}}, P^) \in \mathcal{M}_{\mathrm{cont}}} \mathbb{E}\left[ \mathrm{eW}_1(P^, \hat{P}{n,\boldsymbol{m}n}^{\mathrm{cont}}) \right] \asymp (\kappa n)^{-r, \quad r}} $$ 弱重叠常数 }} = (a^{-1} + \bar{d}_{\boldsymbol{\alpha}})^{-1$\kappa$ 仅以有效样本容量因子 $\kappa n$ 的形式平滑进入速率，杜绝了密度比估计带来的指数级恶化。

实验关键数据¶

主实验¶

论文在三个基准上进行了系统测试：包含已知复杂异质分布的半合成二值处理基准 IHDP（$n=747, d=25$）、具有多处理及连续剂量的基因表达基准 TCGA（$n=9659, d=4000$），以及带有真实随机对照试验验证的真实世界就业培训基准 Jobs（NSW+PSID）。所有实验均基于 100 次独立重复，度量指标为经验扩展 Wasserstein 误差（eW，针对 IHDP 与 TCGA）及 RCT 验证的组水平 Wasserstein 误差（RCT-$W_1$，针对 Jobs）。

数据集	指标 (误差，越低越好)	GANICE (本文)	次优基线	提升幅度
IHDP	Empirical eW	0.286 (0.004)	0.323 (0.005) (DiffPO)	11.46%
TCGA	Empirical eW	0.378 (0.005)	0.401 (0.002) (SCIGAN)	5.74%
Jobs	RCT-Assisted $W_1$	0.209 (0.007)	0.299 (0.011) (PO-Flow)	30.10%

在基线对比中，传统对抗因果模型 GANITE（IHDP: 0.762, Jobs: 0.973）由于目标未对准可识别因果风险而出现严重漂移；基于流与扩散的生成模型（DiffPO 在 IHDP 上达 0.323，PO-Flow 在 Jobs 上达 0.299）由于缺乏局部极小化极大设计和对偶 Lipschitz 结构，在多模态与重叠边界区表现逊色于 GANICE；而仅建模条件均值的残差外插基准（DR-Learner: 1.056 on IHDP; VCNet: 0.574 on TCGA）完全无法捕捉复杂分位数与异质方差。

消融与细粒度因果分布评估¶

为了验证 GANICE 并非仅在 Wasserstein 距离上过拟合，论文在 100 次重复下测试了包括严格真评分规则（CRPS）、能量距离（ED）、Kolmogorov-Smirnov 统计量（KS）、分位数处理效应误差（QTEErr）及尾部条件风险误差（TailErr）在内的全套分布指标。

基准 / 评估指标	GANITE	PO-Flow	DiffPO	INFs	DR-Learner	SCIGAN / VCNet	GANICE (本文)
IHDP - QTEErr	0.675 (0.021)	0.729 (0.015)	0.688 (0.011)	0.713 (0.009)	2.116 (0.021)	–	0.399 (0.006)
IHDP - TailErr	1.840 (0.069)	0.988 (0.016)	0.748 (0.011)	0.963 (0.013)	1.907 (0.019)	–	0.693 (0.009)
IHDP - PEHE	0.403 (0.031)	0.457 (0.024)	0.345 (0.013)	0.279 (0.010)	4.504 (0.095)	–	0.050 (0.002)
TCGA - CRPS	–	–	–	–	–	0.420 (SCIGAN)	0.409 (0.003)
TCGA - Energy Dist.	–	–	–	–	–	0.306 (SCIGAN)	0.284 (0.007)
TCGA - TailErr	–	–	–	–	–	0.901 (SCIGAN)	0.820 (0.009)
Jobs - Factual CRPS	1.463 (0.021)	0.801 (0.004)	0.892 (0.007)	1.195 (0.007)	0.859 (0.004)	–	0.769 (0.003)
Jobs - Earnings CRPS	7291 (338)	3552 (26)	3998 (35)	8198 (30)	3769 (37)	–	3408 (29)
Jobs - TailErr	10547 (733)	5015 (176)	8833 (333)	37232 (234)	7187 (268)	–	3210 (149)

针对损失函数构建的消融研究（图 5）进一步确认：若将状态级对角判别器退化为全局混合对抗的 Pooled-WGAN 目标，IHDP 上的经验 eW 误差剧烈恶化超过 80%，证明跨状态因果约束是维持条件因果一致性的生命线；去掉元胞样本归一化亦会导致估计方差上浮。

关键发现¶

分布异质性与均值权衡：在 IHDP 上，正规化流模型 INFs 取得了极优的边缘校准得分（CalErr 0.028），但其分位数处理效应误差高达 0.713；相反，GANICE 抓取了真实的治疗异质性差异，QTEErr 大幅压缩至 0.399，PEHE 误差下降超过 80%（0.050 vs INFs 0.279），证明了因果风险对齐对干预对比估计的决定性作用。
连续剂量区间的不确定性覆盖：在 TCGA 实验中，DRNet 与 VCNet 虽能跟踪剂量均值中心轨迹，但在 90% 置信区间预测上严重收缩；GANICE 唯一成功还原了跨越不同剂量梯度的多模态分布带，在 TailErr（0.820 vs 次优 0.901）与剂量分位数误差（DQErr: 0.532 vs 0.558）上全面领先。
真实 RCT 试验外推验证：在含有观测混杂的 Jobs 数据集上，GANICE 生成的处理组累计分布函数（CDF）高度贴合真实的 NSW 随机试验数据，完全避免了因工资零点断峰引起的分布失真与厚尾过拟合。

亮点与洞察¶

对角耦合扩展 Wasserstein 建立因果对抗理论基石：揭示了现有基于事实坐标重构判别的因果 GAN（如 GANITE）在总体极限下只能退化为独立处理边际匹配的本质缺陷，确立了 $\mathrm{eW}_1$ 这一与可识别因果条件分布精确等价的统计度量。
元胞归一化巧妙绕开倾向得分与密度比瓶颈：在理论证明和工程实现中摆脱了对逆概率加权（IPW）和似然密度的依赖，将经验对抗与局部直方图/二进剖分结合，使隐式生成模型能天然适应重叠度微弱（$\kappa \ll 1$）的高难度场景。
各向异性 Besov 判别器填补非光滑神经网络因果理论空白：首次将各向异性 Besov 空间低于连续性阈值（$s_j < 1/p_B$）的阶跃性质引入因果判别器分析，在数学上严格兼容了政策干预突变与不连续决策边界。

局限与展望¶

连续协变量维数灾难与强正则性依赖：理论收敛率中有效各向异性维度 $\bar{d}_{\boldsymbol{\alpha}} = \sum \alpha_j^{-1}$ 会随连续特征维数增加而线性膨胀，且理论保证依赖于条件测度在各向异性上的 Hölder/Wasserstein 光滑性假设与充分重叠前提。
工程实现与理论软路由之间的转移误差：在实际深度网络实现中，严格的硬元胞划分往往被端到端连续神经网络（或门控专家混合）所替代，理论最优速率向实用非凸 SGD 动态的迁移需假设残余转移振荡误差受控。
无混杂假设的严苛性：当前设定依赖经典的无未观测混杂（No Unmeasured Confounders）假设，未来可进一步拓展至工具变量（IV）、近端因果推断（Proximal Causal Inference）或部分可识别界限（Partial Identification）的生成式估计中。

评分¶

新颖性: ⭐⭐⭐⭐⭐ 首次将扩展 Wasserstein 对角耦合对齐因果统计风险，并证明了免密度比估计的极小化极大最优速率。
实验充分度: ⭐⭐⭐⭐⭐ 覆盖离散处理、连续剂量与真实 RCT 外推三个标准基准，在 100 次重复下详细汇报了分布、分位数、尾部与均值等数十项定量指标。
写作质量: ⭐⭐⭐⭐⭐ 概念界定严谨清晰，附录给出了完整的对偶分解、Besov 嵌入与各向异性 Assouad 极小化极大下界证明。
价值: ⭐⭐⭐⭐⭐ 为高维复杂因果分布与不确定性推断提供了坚实的统计学习理论基石，具有显著的理论指导与应用迁移价值。