Causal Discovery via Transformed Low-Rank Quantile Surfaces¶

会议: NeurIPS 2026
arXiv: 2609.16931
论文: https://arxiv.org/abs/2609.16931
代码: https://github.com/Pham-Lab/lrqs
领域: 因果推理
关键词: 双变量因果发现 / 分位数曲面 / 低秩矩阵分解 / 保序回归 / 广义后非线性模型

一句话总结¶

提出低秩分位数曲面（LRQS）双变量因果发现框架，通过证明因果方向上经未知单调变换后的条件分位数曲面具有低秩泛型可辨识性，并结合交替保序回归与截断 SVD 实现非参数因果方向判别。

研究背景与动机¶

在观测数据中推断双变量因果方向（判断 $X \to Y$ 还是 $Y \to X$），本质上依赖于因果机制在正向与反向上的不对称性。经典的因果发现方法通常基于特定的结构约束来刻画这种不对称性，例如加性噪声模型（ANM）、后非线性模型（PNL）以及位置-尺度噪声模型（LSNM）。然而，这些经典模型主要假设潜在变量的变化仅局限于均值漂移（位置变化）或方差缩放（尺度变化）。在实际复杂的观测场景中，随着原因变量取值的变化，结果变量的条件分布往往还会经历偏度偏移、尾部厚薄变化或峰度演化等多重形状形变，这种超出位置-尺度假设的高阶分布变化无法被传统框架充分捕捉。

近期兴起的分位数偏效应（QPE）框架试图利用条件分位数斜率场来放宽分布限制，但其理论分析与算法严重依赖预先固定的有限函数基底，无法自然吸收观测端存在的强未知单调非线性测量失真（如 PNL 或指数/双曲正切饱和变换）。当实际生成过程兼具复杂的潜在分布形变与未知的测量扭曲时，现有方法面临严重的可辨识性与表示瓶颈：要么模型表达能力受限无法拟合真实机制，要么由于缺乏对反向不对称性的严格理论保证而导致方向误判。

为了突破这一困境，本文探索了一种兼顾表达能力与严格可辨识性的新范式：不直接要求观测分位数曲面低秩，而是允许观测曲面经由一个未知的严格单调函数解扭曲后展现出低秩函数分解结构。核心 idea：将因果方向的条件分布建模为未知单调变换下的低秩分位数曲面（LRQS），利用反向漂移率消元证明其泛型可辨识性，并通过交替截断 SVD 与保序回归构建非参数因果重构得分。

方法详解¶

整体框架¶

低秩分位数曲面（Low-Rank Quantile Surfaces, LRQS）假设在真实因果方向 $X \to Y$ 上，存在未知的严格单调递增连续变换 $g$（其逆映射为 $h = g^{-1}$），使得条件分位数函数 $Q_{Y \mid X=x}(u)$ 满足： $$h(Q_{Y \mid X=x}(u)) = a(x) + \sum_{k=1}^K b_k(x) q_k(u)$$ 其中 $u \in (0, 1)$ 表示分位数分位点，$U \sim \text{Unif}(0, 1)$ 且 $U \perp\!\!\perp X$。该模型统摄了传统的 PNL 与 LSNM 模型（对应 $K=1$），并在 $K \ge 2$ 时允许引入多个分位数基函数 $q_k(u)$，从而在潜在尺度上自由建模偏度、峰度和尾部变化。

在算法流程上，LRQS 首先在两个候选方向上将连续变量离散化为经验条件分位数矩阵，随后通过内外交替迭代优化潜在低秩曲面与单调解扭曲映射，最终以重构拟合残差更小的方向作为推断的因果方向。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["输入观测样本对 (X, Y)"] --> B["网格化离散经验分位数估计<br/>等频分箱与分位数矩阵构建"]
    B --> C["潜在分位数曲面低秩建模<br/>参数化潜在分位数流形"]
    C --> D["交替保序拟合与低秩投影<br/>SVD 降秩与保序回归交替迭代"]
    D --> E["漂移率消元与泛型可辨识性<br/>双向重构残差评分与因果判定"]

关键设计¶

1. 潜在分位数曲面低秩建模：突破位置-尺度假设并容纳高阶分布形变 传统 LSNM 假设 $h(Q(x,u)) = a(x) + b(x)q(u)$，这意味着在消除位置 $a(x)$ 与尺度 $b(x)$ 之后，对于所有原因取值 $x$，潜在条件分位数曲线的标准形状 $q(u)$ 保持绝对刚性，无法描述非对称或异方差偏度的动态演化。LRQS 引入多个秩分量 $K$：当 $K=2$ 时，两项系数之比 $\lambda(x) = b_2(x)/b_1(x)$ 随原因变量 $x$ 连续改变。例如将 $q_1$ 取为对称高斯分位数，而 $q_2$ 取为不对称的 Gumbel 分位数或厚尾 Student-t 分位数，便能灵活产生依赖于 $x$ 的偏度倾斜与尾部厚度调节。同时，模型引入单调性假设（假设潜在曲面 $z(x,u) = a(x) + \sum_{k=1}^K b_k(x) q_k(u)$ 对 $u$ 严格单调递增），保证了分位数水平与潜变量水平的严格对应，使得潜在曲面 $h(Q(x,u))$ 具有不超过 $K+1$ 的代数秩（其中截距 $a(x)$ 贡献 1 个秩分量）。

2. 漂移率消元与泛型可辨识性：揭示反向因果的有限维测度约束 引入高表达力的非线性变换 $g$ 与多基底 $q_k$ 极易引发过拟合导致反向对称可辨识。为了证明 LRQS 的可辨识性，论文定义了反向漂移率（backward drift ratio）： $$R(y, u) = \frac{\partial_y Q^{\leftarrow}(y, u)}{\partial_u Q^{\leftarrow}(y, u)} = \frac{\tilde{a}'(y) + \sum_{k=1}^L \tilde{b}_k'(y)\tilde{q}_k(u)}{\sum_{k=1}^L \tilde{b}_k(y)\tilde{q}_k'(u)}$$ 该比率度量了反向分位数随条件变量 $y$ 的变动速率与分位数切线斜率之比。极为关键的是，外层未知的单调失真导数 $\tilde{g}'$ 在此比率中被严格消去，直接暴露出内层低秩结构所施加的微分约束。论文证明：对于任意给定的反向分位数基底，所有能够使反向分位数曲面匹配 LRQS 结构的原因边缘对数密度 $\xi(x) = \log p_X(x)$，在局部必须严格落在维度至多为 $2L+3$ 的有限参数族内（定理 1）；而在 $L=1$ 且反向基底完全自由未知的广义非线性异方差（PNL-HNM）情形下，利用对 $u$ 的微分消元将问题转化为一阶自治常微分方程系统，反向相容的原因边缘分布同样被严格限制在至多 9 维的有限实数参数族内（定理 2）。这首次在理论上确立了非退化双变量 PNL-HNM 模型在未知单调变换与未知噪声分布下的泛型可辨识性。

3. 交替保序拟合与低秩投影：解耦非线性观测扭曲与潜在曲面重构 基于理论得分定义，实际算法对观测数据进行等频分箱得到大小为 $G \times B$ 的离散分位数矩阵 $\mathbf{Q}$（默认 $G=10$ 个箱，$B=10$ 个分位数切片 $u_l = (2l-1)/(2B)$）。为求解非凸的联立优化目标，算法设计了双重循环交替逼近过程：外层循环首先通过保序回归（Isotonic Regression）拟合从当前潜矩阵 $\mathbf{Z}$ 到观测分位数 $\mathbf{Q}$ 的非参数单调增函数 $g$，并利用线性插值反求其伪逆 $\hat{h}$ 更新 $\mathbf{Z} \leftarrow \hat{h}(\mathbf{Q})$；内层循环则通过减去行均值向量 $\mathbf{a}$ 提取截距后，利用截断 SVD 将去均值矩阵 $\mathbf{Z}_c$ 投影到秩为 $K_{\text{fit}}$ 的低维子空间，再施加逐行保序投影以强行满足对分位数分位点 $u$ 的单调递增物理约束，最后进行均值方差归一化。该过程在极短的运算时间内实现了观测畸变与低秩曲面的稳定解耦。

损失函数 / 训练策略¶

理论上的双变量因果评分定义为总体在候选因果方向上的最佳单调低秩重构残差： $$S_{X \to Y} = \inf_{a, b_k, q_k, g, z} \mathbb{E}_X \int_0^1 \left( Q(X, u) - g\left(a(X) + \sum_{k=1}^{K_{\text{fit}}} b_k(X) q_k(u)\right) \right)^2 du$$ 在样本离散化后，算法计算经验重构误差 $s = \|\mathbf{Q} - g(\mathbf{Z})\|_F$。为了防止交替优化陷入局部极小值，算法采用 $m$ 次（默认 $m=5$）加入高斯扰动 $\mathbf{\Sigma}_{ij} \sim \mathcal{N}(0, 0.5^2)$ 的独立随机初始化，并取最小残差作为最终得分： $$s_{X \to Y} = \min_{1 \le i \le m} \text{LowRank}(\mathbf{Q}_{X \to Y}, K_{\text{fit}}), \quad s_{Y \to X} = \min_{1 \le i \le m} \text{LowRank}(\mathbf{Q}_{Y \to X}, K_{\text{fit}})$$ 若 $s_{X \to Y} < s_{Y \to X}$ 则判定 $X \to Y$，反之判定 $Y \to X$。

实验关键数据¶

主实验¶

实验在包含 42 种机制变体的自定义基准（12 种多秩结构复杂性机制 + 30 种强非线性 PNL 机制，每种 100 对样本，$n=1000$）以及 24 个真实/常用双变量基准数据集上全面评测。评估对比了固定恒等变换版本 LRQS (fix-g) 与联合估计单调变换版本 LRQS (est-g)。

方法	自定义 $K_{\text{gen}}=2$	自定义 $K_{\text{gen}}=5$	PNL-AN (Exp)	PNL-LS (Tanh)	42 类机制平均准确率	自定义单对耗时 (s)	24 类基准平均准确率
ANM	0.44	0.40	0.21	0.33	0.421	7.335	0.609
DIVOT	0.04	0.00	0.00	0.08	0.217	1.261	0.612
CVEL	0.59	1.00	1.00	0.66	0.730	2.055	0.602
QPE-k	0.36	0.11	0.16	0.45	0.561	0.062	0.741
QPE-f (fixed)	0.34	0.37	0.68	0.47	0.443	34.536	0.739
QPE-f (poly)	0.33	0.15	0.27	0.44	0.390	32.588	0.744
QPE-f (lowrank)	0.36	0.64	0.61	0.54	0.535	37.966	0.631
LRQS (fix-g)	0.95	1.00	1.00	0.78	0.893	0.050	0.740
LRQS (est-g)	0.94	1.00	1.00	0.96	0.952	2.222	0.654

消融实验与敏感性分析¶

在评估秩约束必要性、拟合秩 $K_{\text{fit}}$ 灵敏度以及单调性假设违背的实验中，论文揭示了核心机制的有效性：

实验设置	评估配置	准确率	得分差中位数 $\delta$	决策翻转率 / 平局数	说明
拟合秩灵敏度 (fix-g, $K_{\text{gen}}=5$)	$K_{\text{fit}}=2$	1.00	0.499	0% 翻转	默认基准配置
拟合秩灵敏度 (fix-g, $K_{\text{gen}}=5$)	$K_{\text{fit}}=5$	1.00	0.597	0% 翻转	准确率极稳健
拟合秩灵敏度 (est-g, $K_{\text{gen}}=5$)	$K_{\text{fit}}=2$	1.00	0.543	0% 翻转	默认配置，判别清晰
拟合秩灵敏度 (est-g, $K_{\text{gen}}=5$)	$K_{\text{fit}}=5$	0.79	0.871	21% 翻转, 9 次平局	秩过大导致过拟合平局
秩约束消融 ($K_{\text{gen}}=5$, Gaussian)	$K_{\text{fit}}=2$ vs $K_{\text{fit}}=9$	100% vs 无法区分	—	100/100 出现 $s=0$ 平局	移除秩约束丧失因果判别力
秩约束消融 (AN-tanh, Gaussian)	$K_{\text{fit}}=2$ vs $K_{\text{fit}}=9$	88% vs 无法区分	—	100/100 出现 $s=0$ 平局	证实低秩约束是关键归纳偏置

关键发现¶

低秩约束是不对称性的核心根源：消融实验表明，当移除有效秩约束（在 $10 \times 10$ 矩阵中将 $K_{\text{fit}}$ 设为最大可能秩 9）时，双向重构得分均恒等于 0，导致 100% 出现因果平局。这有力地证明了 LRQS 的因果识别能力完全来自于潜在曲面的低秩限制，而非保序回归函数族单方面的拟合弹性。
拟合秩具有正则化效应：即使生成机制的真实秩高达 $K_{\text{gen}}=5$，采用保守的拟合秩 $K_{\text{fit}}=2$ 仍可取得接近 100% 的准确率。谱能量分析证明，前 2 个主成分在经验分位数曲面上去中心化能量中已占据超过 99.27% 的方差，因此较小的拟合秩能够有效抑制过拟合，充当了因果推断的隐式正则项。
解扭曲机制在强饱和失真下的决定性优势：在存在指数（Exp）或双曲正切（Tanh）严重压缩饱和的 PNL 场景中，不估计外层变换的 fix-g 以及主流基线显著掉点（如 Tanh 下降低至 50%-78%），而 est-g 凭借自适应保序逆映射保持了 95% 以上的高准确率。

亮点与洞察¶

漂移率消元法的理论巧妙性：通过将反向分位数切线微商与偏微商相比构造漂移率 $R(y,u)$，在完全未知外层单调扭曲函数 $g$ 的前提下消去了其导数项，直接将复杂的后非线性可辨识性降阶为低秩基底的有理形式，为双变量因果识别开辟了新的证明范式。
极度轻量且无需深度神经网络：相比于依赖流模型（Normalizing Flows）的 QPE-f（单对耗时高达 30-40 秒）和依赖 GPU 算力的神经网络因果模型，LRQS 仅依赖分箱分位数、SVD 和保序回归，fix-g 耗时仅 0.05 秒，est-g 仅 2.2 秒，非常适合大规模因果图遍历。
分位数流形正则思想可迁移：将条件分布视为由连续参数索引的一维流形曲面，并利用低秩加单调保序结构进行压缩重构的思想，可以平滑迁移至反事实分布估计、异质性因果效应分析以及非平稳时间序列根因诊断任务中。

局限与展望¶

局限性：LRQS 目前仅适用于纯双变量（bivariate）无混杂因果对场景，尚未直接扩展到高维多元因果图（DAG）结构学习；模型假设不存在未观测潜变量（隐混杂）与选择偏差。
理论假设边界：可辨识性理论排除了局部二阶偏导为零的特殊分布，例如均匀噪声和纯尺度幂律噪声机制，在这些病态极端情形下理论保证不再成立。
未来方向：探索结合局部条件独立性检验将 LRQS 推广到多元因果图剪枝，以及研究将分箱分位数估计替换为连续神经单调隐式神经表示以应对高维小样本场景。

评分¶

新颖性: ⭐⭐⭐⭐⭐ 巧妙结合单调变换解扭曲与分位数曲面低秩分解，给出了首个非退化 PNL-HNM 的泛型可辨识性理论。
实验充分度: ⭐⭐⭐⭐⭐ 涵盖 42 种自定义机制变体、24 个标准真实/合成数据集，消融、谱能量分析及单调性违背压力测试完备。
写作质量: ⭐⭐⭐⭐⭐ 数学证明严谨，动机逻辑环环相扣，算法伪代码与实验分析极其清晰。
价值: ⭐⭐⭐⭐⭐ 提供了一种超轻量、免深层网络调参且精度领先的高维分布形变因果判别新工具。

实验设置	评估配置	准确率	得分差中位数 \(\delta\)	决策翻转率 / 平局数	说明
拟合秩灵敏度 (fix-g, \(K_{\text{gen}}=5\))	\(K_{\text{fit}}=2\)	1.00	0.499	0% 翻转	默认基准配置
拟合秩灵敏度 (fix-g, \(K_{\text{gen}}=5\))	\(K_{\text{fit}}=5\)	1.00	0.597	0% 翻转	准确率极稳健
拟合秩灵敏度 (est-g, \(K_{\text{gen}}=5\))	\(K_{\text{fit}}=2\)	1.00	0.543	0% 翻转	默认配置，判别清晰
拟合秩灵敏度 (est-g, \(K_{\text{gen}}=5\))	\(K_{\text{fit}}=5\)	0.79	0.871	21% 翻转, 9 次平局	秩过大导致过拟合平局
秩约束消融 (\(K_{\text{gen}}=5\), Gaussian)	\(K_{\text{fit}}=2\) vs \(K_{\text{fit}}=9\)	100% vs 无法区分	—	100/100 出现 \(s=0\) 平局	移除秩约束丧失因果判别力
秩约束消融 (AN-tanh, Gaussian)	\(K_{\text{fit}}=2\) vs \(K_{\text{fit}}=9\)	88% vs 无法区分	—	100/100 出现 \(s=0\) 平局	证实低秩约束是关键归纳偏置