Impossibility of Distribution-Free Predictive Inference for Individual Treatment Effects¶
会议: NeurIPS 2026
arXiv: 2605.05051
OpenReview: https://openreview.net/forum?id=pyIv9zfcdd
领域: 因果推理
关键词: 因果推断, 个体处理效应, 共形预测, 不可能定理, 条件独立性检验
一句话总结¶
证明了在存在连续协变量与标准因果假设（强可忽略性与重叠性）下，任何无分布假设（distribution-free）的个体处理效应预测集必然退化为平凡集且期望长度发散，并揭示了反事实缺失数据与条件独立性检验困难性之间的内在纽带。
研究背景与动机¶
个体处理效应（Individual Treatment Effect, ITE）量化了单个个体接受处理与未接受处理时的潜在结果差值（\(\Delta = Y(1) - Y(0)\)），是精准医疗、差异化公共政策和高风险个性化决策的核心基础。尽管近年来以 C-Forest、X-learner、DR-learner 等为代表的方法在条件平均处理效应（CATE, \(\tau(X) = \mathbb{E}[Y(1)-Y(0)\mid X]\)）估计上取得了显著进展，但在涉及单一个体安全边界的高风险决策中，点估计远远不够，决策者急需能够覆盖真实个体效应的不确定性量化工具。
随着共形预测（Conformal Prediction）在监督学习中的兴起，研究者通过非参数校准技术在有限样本下实现了无分布假设的预测区间覆盖保证。这自然催生了一系列试图将共形预测推广至因果效应推断的代表性工作，如 Lei & Candès 的反事实共形推断以及 Alaa 等人的共形元学习器（Conformal Meta-learners）。这些方法让学界普遍抱有一种乐观预期：在强可忽略性（Strong Ignorability）和重叠假设（Overlap）等标准因果推断设定下，我们同样能够在任意数据生成分布上构建出具有确定覆盖率的有限样本或渐近 ITE 预测集。
然而，这一乐观假设忽略了因果推断本质上的根本矛盾：因果推断是典型的缺失数据问题，没有任何单一观测个体能够同时展现两个潜在结果。当协变量存在连续分量时，无分布推断与反事实不可观测性之间存在根本性的冲突。本文的核心 idea：从理论上证明在连续协变量和强重叠假设下，任何具有有效覆盖保证的无分布 ITE 预测集在有限样本和渐近意义下都必然包含实数轴上的任意数值，从而其期望区间长度必然发散至无穷大；现有方法的表观成功本质上均隐式或显式地依赖了强于标准因果假设的额外结构性约束。
方法详解¶
整体框架¶
本文探讨的标准因果推断设定为二元处理的潜在结果模型：观测样本 \(\mathcal{O}_n = \{(X_i, T_i, Y_i)\}_{i=1}^n\) 独立同分布于未知联合分布 \(P\)，其中 \(T_i \in \{0,1\}\) 为处理变量，\(X_i \in \mathbb{R}^p\) 至少包含一个连续分布分量，\(Y_i = T_i Y_i(1) + (1-T_i)Y_i(0)\) 为观测结果。待推断的目标是个体处理效应 \(\Delta = Y(1) - Y(0)\)。基于观测数据构造的预测集为映射 \(\widehat{C}_{n,\alpha}: \mathbb{R}^p \to \mathcal{B}(\mathbb{R})\)。
分析流程从建立因果推断与条件独立性检验硬度（Hardness of Conditional Independence Testing）的数学联系出发，逐步推导不可能定理，并剖析现有方法的失效机制，最后在严格可加性结构假定下给出具有理论保证的正向算法 Split-Pair。
%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
A["因果数据输入<br/>(X, T, Y) 且 X 包含连续分量"] --> B["强可忽略与重叠类下测试<br/>转化为条件独立性检验"]
B --> C["不可能定理：覆盖有效则必覆盖全实轴<br/>期望区间长度发散至无穷大"]
C --> D["解构前人方法的隐藏前提<br/>Lei & Candès 与 Conformal Meta-learners"]
D --> E["额外结构性假设下的正向构造<br/>Split-Pair 算法"]关键设计¶
1. 不可能定理的建立：连接条件独立性检验硬度与缺失数据反事实本质
要严格证明无分布预测集必然平凡，难点在于因果机制的非可辨识性。作者敏锐地建立了一个测验函数 \(\eta(\overline{\mathcal{O}}_{n+1}) = \mathbf{1}\{Y_{n+1}(1) - Y_{n+1}(0) \notin \widehat{C}_{n,\alpha}(X_{n+1})\}\)。若预测集满足水平 \(1-\alpha\) 的覆盖率保证，则 \(\eta\) 可视为在强可忽略性原假设下的有效检验。借助连续条件变量下条件独立性检验的经典不可检验性结果（Shah & Peters, 2020），若一个检验对所有满足条件独立的分立分布都有效，则它对包含任意相关依赖的整个概率测度族 \(\mathcal{E}\) 都必须具有不超过 \(\alpha\) 的水平。
进而，作者构造了一个扰动分布 \(Q \in \mathcal{E}\)，其边缘分布 \(Q_{X,T,Y}\) 与原分布 \(P\) 完全相同，但在潜在结果之间施加了精确的常数位移 \(Y(1) - Y(0) \equiv y\)（对任意实数 \(y\) 成立）。由于观测数据分布不可区分，预测集必须对该任意实数 \(y\) 同样以至少 \(1-\alpha\) 的概率覆盖。对实数轴求勒贝格测度积分即证明其期望长度必为无穷： $\(\mathbb{E}_P[\operatorname{length}(\widehat{C}_{n,\alpha}(X))] = \int_{\mathbb{R}} \mathbb{P}_P(y \in \widehat{C}_{n,\alpha}(X))\,dy \geq \int_{\mathbb{R}} (1-\alpha)\,dy = \infty\)$ 该结论在有限样本定理（Theorem A.1/A.3）与渐近定理（Theorem 2.1/A.2）下均严格成立。
2. 前人代表性方法的失效与依赖机制解构
基于上述不可能定理，作者系统性剖析了文献中看似成功的共形 ITE 预测方法之所以能产出有限长度区间，究竟暗含了哪些未经申明的额外结构假设： - Lei & Candès (2021) 的反事实共形推断：针对研究外新个体（out-of-study），两项潜在结果均缺失。Naïve Bonferroni 区间极度保守，而 Inexact 嵌套方法（将研究内区间端点对协变量回归）在真实 ITE 方差大于条件方差时会出现系统性欠覆盖（Example 3.1 展示其实际覆盖率从 90% 断崖式跌落至 75.5%）；Exact 嵌套方法则高度依赖倾向得分 \(e(x)\) 的已知或超精确估计，在高维或复杂非参数设置下无法做到无分布有效。 - Alaa et al. (2023) 的共形元学习器：该框架依赖伪评分与真实 ITE 评分之间的随机占优（Stochastic Dominance）条件。作者证明，若一阶随机占优在整个模型类上一致成立，则由推论可知预测集期望长度必须无穷；而在一般分布下，保证有效覆盖的阈值 \(\alpha^*(P)\) 无法一致远离 0（\(\inf_P \alpha^*(P) = 0\)）。用户在实践中预设名义水平 \(\alpha\) 时，极易面临灾难性的欠覆盖。
3. 施加结构性约束的正向求解：Split-Pair 算法
在确立不可能定理的边界后，作者指出了可行的求解路径：引入可加性与潜在结果条件独立结构假设（Assumption 2.1：\(Y(t) = \mu_t(X) + \varepsilon_t\)，\(\varepsilon_t \perp X\)，且 \(Y(1) \perp Y(0) \mid X\)）。在此设定下，个体效应分解为条件平均效应与独立残差差值 \(\Delta = \tau(X) + \xi\)（其中 \(\xi = \varepsilon_1 - \varepsilon_0 \perp X\)）。
作者提出了分层配对预测区间算法（Algorithm 1, Split-Pair）： - 第一步：按比例 \(\rho_n\) 进行处理分层划分，将样本分为子集 \(\mathcal{I}_1\) 与 \(\mathcal{I}_2\)； - 第二步：在 \(\mathcal{I}_1\) 上拟合非参数回归模型 \(\hat{\mu}_1(x)\) 与 \(\hat{\mu}_0(x)\)，得到效应估计 \(\hat{\tau}(x)\)； - 第三步：在 \(\mathcal{I}_2\) 上提取处理组与控制组残差，随机无放回配对形成伪残差差值 \(\widehat{W}_k = \hat{\varepsilon}_{i_k}^{(1)} - \hat{\varepsilon}_{j_k}^{(0)}\)（\(k=1,\dots,m_n\)）； - 第四步：计算分位数并输出区间 \(\widehat{C}_{n,\alpha}(x) = [\hat{\tau}(x) + \hat{q}_{\alpha/2}, \hat{\tau}(x) + \hat{q}_{1-\alpha/2}]\)。 定理 2.2 和命题 A.1 严格证明了该区间的渐近有效性，并分解了条件覆盖误差率：\(O_P(r_{n,0} + r_{n,1} + m_n^{-1/2})\)，清晰刻画了一阶段非参数均值估计与二阶段残差分位数校准之间的样本划分权衡。
实验关键数据¶
主实验¶
实验采用合成数据设置，协变量 \(X \in [0,1]^2\) 分为独立与高相关（\(\rho_X = 0.9\)）两种分布，潜在结果设置包含同方差与异方差，倾向得分分为 Beta 分布与常数分布。在更具挑战性的网格棋盘分布（Checkerboard Stress-Test, 倾向得分在 \(10 \times 10\) 格子上交替取 0.95 和 0.05，导致极端局部反事实缺失）下，对各大方法的名义目标覆盖率进行对比。
下表摘录了在棋盘应力测试下，当潜在残差完全负相关（\(\rho = -1.0\)）时，各方法在不同名义目标覆盖率下的平均实际覆盖率与平均区间长度（覆盖率 \(\mid\) 长度）：
| 目标覆盖率 | Nest-Inexact | Nest-Exact | Naive | DR (Meta) | IPW (Meta) | Split-Pair (本文) |
|---|---|---|---|---|---|---|
| 0.50 | 0.078 \(\mid\) 2.17 | 0.191 \(\mid\) 5.33 | 0.185 \(\mid\) 5.18 | 0.093 \(\mid\) 2.59 | 0.102 \(\mid\) 2.85 | 0.100 \(\mid\) 2.81 |
| 0.60 | 0.089 \(\mid\) 2.48 | 0.219 \(\mid\) 6.13 | 0.211 \(\mid\) 5.91 | 0.118 \(\mid\) 3.29 | 0.126 \(\mid\) 3.55 | 0.126 \(\mid\) 3.55 |
| 0.70 | 0.111 \(\mid\) 3.06 | 0.258 \(\mid\) 7.29 | 0.246 \(\mid\) 6.94 | 0.148 \(\mid\) 4.14 | 0.156 \(\mid\) 4.37 | 0.166 \(\mid\) 4.69 |
| 0.80 | 0.143 \(\mid\) 4.00 | 0.334 \(\mid\) 9.53 | 0.300 \(\mid\) 8.51 | 0.195 \(\mid\) 5.47 | 0.197 \(\mid\) 5.56 | 0.238 \(\mid\) 6.79 |
| 0.90 | 0.232 \(\mid\) 6.57 | 0.799 \(\mid\) 29.45 | 0.570 \(\mid\) 18.74 | 0.291 \(\mid\) 8.31 | 0.281 \(\mid\) 8.01 | 0.430 \(\mid\) 12.98 |
消融实验¶
在平滑的 Beta 倾向得分设计下，固定名义目标覆盖率为 0.90，对比潜在结果相关系数 \(\rho = \operatorname{Corr}(\varepsilon_0, \varepsilon_1) \in \{0.0, -0.5, -1.0\}\) 对同方差独立协变量场景下各方法的影响：
| 潜在相关性 \(\rho\) | 评价维度 | Nest-Inexact | Nest-Exact | Naive | DR | IPW | Split-Pair |
|---|---|---|---|---|---|---|---|
| \(\rho = 0.0\) (独立) | 覆盖率 \(\mid\) 长度 | 0.873 \(\mid\) 4.76 | 0.998 \(\mid\) 9.83 | 0.996 \(\mid\) 9.31 | 0.919 \(\mid\) 5.52 | 0.943 \(\mid\) 6.27 | 0.892 \(\mid\) 5.17 |
| \(\rho = -0.5\) (负相关) | 覆盖率 \(\mid\) 长度 | 0.794 \(\mid\) 4.72 | 0.989 \(\mid\) 9.72 | 0.983 \(\mid\) 9.16 | 0.855 \(\mid\) 5.43 | 0.894 \(\mid\) 6.31 | 0.838 \(\mid\) 5.25 |
| \(\rho = -1.0\) (极值对抗) | 覆盖率 \(\mid\) 长度 | 0.738 \(\mid\) 4.71 | 0.977 \(\mid\) 9.75 | 0.962 \(\mid\) 9.03 | 0.796 \(\mid\) 5.38 | 0.845 \(\mid\) 6.22 | 0.769 \(\mid\) 5.12 |
关键发现¶
- 在平滑倾向且潜在残差独立的标准设定下（\(\rho = 0\)），Split-Pair 实现了与 0.90 目标完全一致的经验覆盖率（0.892），且平均区间长度仅为 5.17，远低于保守的 Nest-Exact（9.83）和 Naive（9.31）。
- 当潜在结果出现负相关时（\(\rho < 0\)），所有基于独立性假设或经验加权的方法均出现欠覆盖。特别是 Nest-Inexact，覆盖率从 0.873 暴跌至 0.738，验证了理论分析中由于无法观测潜在联合分布而导致的系统性缺陷。
- 在棋盘应力测试中，当倾向得分变化剧烈时，所有前人方法包括此前过度保守的 Nest-Exact 均彻底丧失有效性（目标 0.90 时覆盖率仅为 0.799，目标 0.50 时仅为 0.191），强有力地证实了在有限样本下无分布 ITE 预测推理的内在脆弱性。
亮点与洞察¶
- 将因果效应不确定性与检验理论融通：首次在因果推断框架中严谨利用 Shah & Peters 的条件独立性检验硬度理论，从数学底层给出了 ITE 无分布预测推断的不可能定理证明。
- 澄清现有工作的隐性依赖：指出当前主流文献对共形 ITE 区间的乐观结论存在局限，明确指出现存方法要么牺牲有效性（严重欠覆盖），要么极度保守（区间过宽甚至发散），要么隐式依赖无法经验验证的潜在结果独立性与已知倾向得分。
- 界定因果预测的理论可行边界：为因果推断领域树立了清晰的否定性基准，指明未来的研究方向不应是在无分布假设下继续“修补”算法，而应明确转向更合理、更具解释性的结构性假定。
局限与展望¶
- 反事实不可观测性的物理屏障：由于单个个体不可同时接受处理与对照，潜在变量联合分布的不可识别性是统计学根深蒂固的局限，无法仅通过数据驱动的无分布手段彻底克服。
- 离散协变量场景留空：不可能定理的核心推导依赖连续协变量带来的条件测度特性；当协变量空间为有限纯离散集时，该硬度机制不再直接适用，离散情况下的有限样本严格界限仍属开放问题。
- 正向算法的强假定限制：本文提出的正向算法 Split-Pair 依赖潜在结果条件独立性（\(Y(1) \perp Y(0) \mid X\)）与同余可加残差假设，在复杂的真实观测研究场景中难以直接验证。
相关工作与启发¶
- vs Lei & Candès (2021) (
cfcausal)：Lei 等人开创了利用加权共形推断解决单侧反事实预测的先河，但推广至全样本 ITE 时面临严重瓶颈——Inexact 算法系统性欠覆盖，Exact 算法极端保守且依赖已知倾向得分。本文在理论上证明了这种瓶颈并非算法缺陷，而是无分布设定下的数学必然。 - vs Alaa et al. (2023) (
Conformal Meta-learners)：Alaa 等人试图通过伪结果构建非一致性评分并在随机占优下获得覆盖。本文证明其随机占优条件无法在整个模型族上一致成立，有效阈值 \(\alpha^*\) 可以任意趋近于 0，解释了其在复杂场景下覆盖率塌陷的原因。
评分¶
- 新颖性: ⭐⭐⭐⭐⭐ 首次建立连续协变量下 ITE 无分布预测推断的不可能定理，视角深刻，理论穿透力极强。
- 实验充分度: ⭐⭐⭐⭐ 仿真设计巧妙针对应力场景，全面复现并验证了各大基线在边界条件下的失效行为。
- 写作质量: ⭐⭐⭐⭐⭐ 逻辑论证严丝合缝，引理到定理的结构层次极其清晰，数学阐述精炼优雅。
- 价值: ⭐⭐⭐⭐⭐ 厘清了因果推断与共形预测交叉领域的重要基础理论争论，对后续方法设计具有里程碑式的指导意义。