Formalizing and Falsifying Causal Pathways of Rare Events¶

会议: ICML 2026
arXiv: 2605.31254
代码: 无
领域: 因果推断 / 可解释 AI / 罕见事件根因分析
关键词: 因果通路, 罕见事件, 解释分数, 因果抽象, 可证伪性

一句话总结¶

本文把罕见事件的"口头因果解释"形式化为 causal pathway——一个由二值化事件构成的子图，并定义 pathway explanation score 来量化"根因 + 中介通路"对目标事件的解释力，得到一套可证伪的因果解释评价框架。

研究背景与动机¶

领域现状：异常 / 罕见事件（自然灾害、股市崩盘、技术系统故障、基因表达异常等）的因果分析目前主要走 root cause analysis (RCA) 路线——在结构因果模型 (SCM) 里找一小撮"根因节点"，让目标事件的反事实概率显著上升。

现有痛点：RCA 只回答"谁动了"，不回答"怎么动到目标的"。一条真实解释往往包含 (i) 多个互相作用的中介机制，(ii) 控制传播的上下文变量。仅给出根因列表 → 对人类不可解释；对 AI 系统也无法被实验证伪。

核心矛盾：现有的两类近邻工作各自残缺—— 1. 极值统计因果模型 (Engelke 2025, Klüppelberg 2026)：依赖渐近 / 重尾参数假设，无法处理"非极端但统计上罕见"的事件（如非常接近 0 的取值、严重不平衡的二元事件）。 2. 路径中介分析 (path-specific effects)：分解的是平均因果效应，回答"路径 A 占多大份额"，但不回答"对于这一次具体观测，哪部分图能给出好的解释"。 3. 因果抽象 (Rubenstein 2017, Beckers 2020)：作用在整个模型层级，缺少 event-level 的局部抽象概念。

本文目标：建立一个 event-level 的因果解释形式系统，要满足：(a) 不依赖渐近极值假设；(b) 适用任意取值空间（连续 / 离散 / 文本嵌入）；(c) 解释本身可被数据或一致性测试证伪；(d) 能从更细粒度 SCM 通过抽象自动得到。

切入角度：把"解释"重新定义为一个子图 + 二值化事件集合，而不是一个根因列表。具体而言，给目标事件 \(B_t=1\) 和一组根因 \(\mathbf{B}_R\)，看 \(do(\mathbf{B}_R=\mathbf{1})\) 之后整条通路上其他事件 \(\mathbf{B}_{K\setminus R}=\mathbf{1}\) 同时发生的对数似然有多接近目标的对数稀有度。这把"中介事件也要看起来合理"显式写进了打分函数里。

核心 idea：用 \(\mathcal{E}^K_{R\to t} := 1 - \frac{\log P(\mathbf{B}=\mathbf{1}\mid do(\mathbf{B}_R=\mathbf{1}))}{\log P(B_t=1)}\) 这一对数似然比作为可证伪的解释质量度量；并通过特征单调性 (feature monotonicity) 把任意空间的变量统一二值化，使整套理论从二值 SCM 平滑推广到连续 / 离散 / 文本变量。

方法详解¶

整体框架¶

框架由四层组成：

Cluster 层：给定二值变量 DAG \(\mathcal{C}\) 与联合分布 \(P_\mathbf{B}\)，把"扰动"建模为对部分节点的机制 \(P(B_i\mid \mathbf{B}_{\mathrm{Pa}(i)})\) 做软 / 硬干预；被替换的索引集合 \(R\) 就是 root causes。
Pathway 层：在 cluster 内单独挑出一个目标节点 \(B_t\)，并把"和这次解释相关的子图"提取为 pathway \(\mathcal{P}\) —— \(\mathcal{P}\) 与 \(\mathcal{C}\) 仅在指向 \(R\) 的边上可能不同，因为 \(do(\mathbf{B}_R=\mathbf{1})\) 会把这些入边切掉。
Abstraction 层：对于实际系统（变量可以是实值 / 类别 / token），通过 特征函数 \(\tau_j\) + 阈值 把每个原始变量映射为二值事件 \(B_j := \chi_{[\tau(\mathbf{x}_{I_j}),\infty)}(\tau(\mathbf{X}_{I_j}))\)，进入 pathway 层。
Evaluation 层：用三类一致性测试（数据一致性 / 内部定性问答 / 内部定量问答）证伪一条 pathway。

输入是 (SCM, 观测样本, 目标事件)，输出是 (pathway 子图 \(\mathcal{P}\), 根因集合 \(R\), 解释分数 \(\mathcal{E}^K_{R\to t}\) 和抽象精度 \(r\))。

关键设计¶

Cluster / Pathway explanation score（解释分数的双层定义）:
- 功能：把"一组根因解释了目标事件"这件事映射为 \([0,1]\) 区间的分数，分数越接近 1 说明解释越强。
- 核心思路：cluster 分数 \(\mathcal{E}_{R\to K} = 1 - \frac{\log P(\mathbf{B}=\mathbf{1}\mid do(\mathbf{B}_R=\mathbf{1}))}{\log P(\mathbf{B}=\mathbf{1})}\) 衡量"根因把整簇事件拉到多大可能"；pathway 分数 \(\mathcal{E}^K_{R\to t}\) 把分母换成 \(\log P(B_t=1)\)，因此目标稀有度比簇稀有度大时，pathway 分数比 cluster 分数严格。两者满足仿射关系 \(1-\mathcal{E}^K_{R\to t} = (1-\mathcal{E}_{R\to K}) \cdot \frac{\log P(\mathbf{B}=\mathbf{1})}{\log P(B_t=1)}\)，从而 pathway 上每个节点的贡献仍然可加（公式 11），可以用贪心选 \(R\)。链式例子 (Example 3.6) 中，\(P(b_1^1)=10^{-3}, P(b_3^1\mid b_2^1)=10^{-3}, P(b_4^1\mid b_3^1)=10^{-2}\)，取 \(R=\{1,3\}\) 得 \(\mathcal{E}^K_{R\to t}=3/4\)，再加入 \(B_4\) 后达到 1，直观对应"沿链各机制都合理"。
- 设计动机：cluster 分数继承自 Oesterle 2025，但只看根因是否拉高簇似然，不强求中介也"看起来正常"；pathway 分数显式惩罚"中介事件本身就很奇怪"的情况（Lemma 3.7 的 log-likelihood gap \(\Delta_i := [\log P(B_{\mathrm{Pa}(i)}=\mathbf{1}) - \log P(B_i=1)]_+\) 控制了上界），强迫解释把每个中介都纳入审视。这正是把"口头因果链"形式化为可证伪指标的关键。
Feature monotonicity + 二值化（连续 / 任意空间到二值通路的桥梁）:
- 功能：让 pathway 理论可以用在任意分布的实值 / 离散 / token / 嵌入变量上，并给出"在多大置信度下出现的中介事件可以被解释分数撑起"的概率保证。
- 核心思路：每个 \(X_j\) 配一个特征函数 \(\tau_j:\mathcal{X}_j\to\mathbb{R}\)，定义事件 \(B_j := \{\tau_j(X_j) \geq \tau_j(x_j)\}\)，机制 \(P(X_j\mid \mathbf{X}_{\mathrm{Pa}(j)})\) 称为对 \((\tau_j,\tau_{\mathrm{Pa}(j)})\) 单调，若父变量特征大 \(\Rightarrow\) 子变量特征分布随机大。在此条件下，Lemma 4.2 给出"从 \(P(X_j\mid \mathbf{x}_{\mathrm{Pa}(j)})\) 采样的 \(x_j\)，其条件似然 \(\leq \alpha\) 的概率 \(\leq \alpha\)"。Theorem 4.3 把它推广到 DAG：对任意 \(\mathbf{x}_R\)，从 \(do(\mathbf{x}_R)\) 生成其余变量，则负对数似然 \(L\geq c\) 的概率不超过 \(\sum_{i=0}^{n-|R|-1}\frac{c^i}{i!}e^{-c}\)（自由度修正后的 Poisson 尾），这就是 pathway score 偏离 1 时的 p 值。
- 设计动机：(i) "解释 \(X\geq x\) → \(Y\geq y\)" 比"解释 \(X=x\) → \(Y=y\)"更可证伪（鲁棒于具体取值），符合人类语言习惯；(ii) 即使真实分布不严格满足特征单调，p 值仍能作为"允许多大偏离"的诊断阈值，不破坏框架可用性；(iii) \(\tau_X(x):=-|x|\) 这种特征函数可表达"\(x\) 是正常值"这类非极端但相关的事件（Example 4.8），覆盖了渐近极值理论触及不到的场景。
Pathway abstraction + natural micro-realization（事件级因果抽象）:
- 功能：从一个细粒度 SCM \((\mathcal{G}, P_\mathbf{X})\) 自动生成一个粗粒度的 pathway 解释 \((\mathcal{C}, \mathcal{P}, P_\mathbf{B})\)，并量化粗粒化损失。
- 核心思路：抽象精度定义为 \(r := 1 - \max_{S, \mathbf{b}_S} \frac{D_{KL}[P_\mathbf{X}(\mathbf{B}\mid do(\mathbf{B}_S=\mathbf{b}_S))\,\|\,P_\mathbf{B}(\mathbf{B}\mid do(\mathbf{B}_S=\mathbf{b}_S))]}{-\log P_\mathbf{X}(B_t=1)}\)，把"抽象后干预分布与真实干预分布的 KL 距离"按目标稀有度归一化。这里干预 \(do(\mathbf{B}_j=b_j)\) 在原模型里本是病态的（多个 \(X_j\) 对应同一 \(B_j\)），用 natural micro-realization 解决：把 \(do(\mathbf{B}_S=\mathbf{b}_S)\) 解释为"从 \(\prod_{i\in S}P_\mathbf{X}(X_i\mid B_i=b_i)\) 独立采样后再做原模型 \(do\)"，从而保证一致的概率算子。解释分数同样可改写为 KL 形式 \(\mathcal{E}^K_{R\to t} = 1 - \frac{D_{KL}(\delta_\mathbf{1}\|P_\mathbf{B}(\mathbf{B}\mid do(\mathbf{B}_R=\mathbf{1})))}{-\log P_\mathbf{B}(B_t=1)}\)，与精度 \(r\) 同一量纲，可统一权衡。
- 设计动机：把"是否要把某个上下文变量纳入 pathway"这类设计选择，转化为可计算的精度 vs 解释分数 trade-off。Example 4.8 中保留上下文节点 \(B_1\)（"\(|X|\leq x\)"）的三元 pathway 在精度与解释分数上都显著优于二元简化 \(B_2\to B_3\)，因为忽略上下文后混淆路径的负向效应被吃进解释里，使条件概率失真。

损失函数 / 训练策略¶

本文是纯理论框架，不涉及学习；评估时所有概率假设可从观测样本估计（数据一致性测试），或从 LLM / 专家以问答方式估计（内部一致性测试）。从 cluster 选 root cause 集合 \(R\) 的实操方式是贪心算法：\(R\gets R\cup\{\arg\max_i \mathcal{E}^K_{\{i\}\cup R\to t}\}\)，由 (11) 的可加性保证最优性，复杂度 \(O(|K|\cdot|R|)\)。

实验关键数据¶

本文以理论 + 概念性算例为主，没有标准基准比较。三类典型算例展示了框架行为：

主算例：解释分数随事件稀有度的形状¶

算例	设置	解释分数	含义
Gaussian 因果对 (Ex 4.6)	\(Y=\rho X+N\), \(\rho=0.5\), \(x\geq 3\), \(y\approx \rho x\)	\(\geq 0.8\)	"\(X\geq x\) 解释 \(Y\geq y\) 至少 80%"，对应人类语言中可接受的因果陈述
三元链 (Ex 3.6)	\(P(b_1^1)=10^{-3}, P(b_3^1\mid b_2^1)=10^{-3}, P(b_4^1\mid b_3^1)=10^{-2}\)	\(R=\{1,3\}: 3/4\)；\(R=\{1,3,4\}: 1\)	加入"机制本身就稀有"的节点才能补齐 pathway
上下文混淆 (Ex 4.7)	\(B_1\) 半概率，\(P(B_2=1\mid B_1=1)=\delta\)，\(B_3=B_1\wedge B_2\)	三元 pathway: \(\to 1\)；二元 \(B_2\to B_3\) 精度 \(\to 1/2\) (\(\delta\to 0\))	忽略上下文 \(B_1\) 让 do-后验偏离 50%

真实 LLM 演示：流浪汉成因 pathway¶

作者让 LLM 给一个虚构案例（35 岁精神分裂男性 \(A\) → 被解雇 \(B\) → 被驱逐 \(C\) → 家人断联 \(D\) → 长期流浪 \(E\)）生成因果链，再用同一 LLM 单独估计各机制条件概率：

边	条件概率
\(P(B\mid A)\)	0.55
\(P(C\mid B)\)	0.80
\(P(D\mid C)\)	0.05
\(P(E\mid D)\)	0.20
\(P(E)\) 先验	0.0005

取 \(R=\{A\}\)，pathway explanation score \(\mathcal{E}^K_{R\to t} = 1 - \frac{\log(0.55\cdot 0.8\cdot 0.05\cdot 0.2)}{\log 0.0005} \approx 0.29\)，明确指出弱链在 \(C\to D\)——"被驱逐"本身并不能解释"家人断联"。建议改法：加 \(A\to D\) 直边，或重写 \(C\)。这正是框架的证伪能力示例。

关键发现¶

链上"哪个机制最稀有"主导分数：log-likelihood gap (Lemma 3.7) 越大，pathway 分数上界越紧。这给出诊断 LLM 因果叙事的工具：分数低且某条边的条件概率显著小 ⇒ 该边可疑。
"非稀有上下文"必须显式建模：Example 4.7 / 4.8 表明，控制传播但本身不罕见的事件（如"\(|X|\) 正常"）若被剔除，二元抽象精度可掉到 0.5。这与传统 RCA 只看"出格的根因"形成鲜明对比。
必要性是隐式的：尽管解释分数没显式包含"反事实必要性"（rung 3），但因为目标事件稀有，干预后高似然 \(\Rightarrow\) 高 probability of necessity（Appendix B），从而无需引入反事实公理。

亮点与洞察¶

把"口头因果链"翻译成可证伪打分：人类 / LLM 自然语言中说"因为 A 所以 B 所以 C 所以 D"时，每条边都隐含了"中介事件的发生不算太奇怪"的承诺；本文把这种隐含承诺显式写成 log-likelihood 项进入分数，让"听起来对"的解释能被数据或同一 agent 的概率信念证伪。
特征单调性 + Poisson 尾 p 值：用一个简洁的可微条件把整套理论从二值 SCM 推到任意空间，同时给出 p 值校正多检验。这是把统计极值理论思想换成"对数尺度"重做，避开了渐近假设，能处理 token / 嵌入这类离散对象。
explanation score 与 abstraction accuracy 同一量纲：两者都被归一化到 \(-\log P(B_t=1)\)，使"我要不要把上下文 \(B_1\) 加进 pathway"这种设计选择变成数值取舍。这种 KL 视角与 mediation 分析里的 path-specific effects 形成清晰互补——前者评估"对这一个观测的整体解释力"，后者拆分"对平均效应的占比"。
可迁移到 LLM 自检：第 5 节的 homelessness 例子是一个最小可行 demo，演示了如何"用同一 LLM 既生成因果链、又估计边权重、再用框架打分"——这条 pipeline 可直接接到任何生成式 AI 的事实性 / 因果性自检流程。

局限与展望¶

作者承认：框架只回答"解释是否与数据 / 信念一致"，不回答"潜在因果图是否真实"；高分不能证明解释正确。
特征单调性是较强假设：实际系统（含 sin / 多模态 / 阈值响应）不一定满足，作者建议用 p 值容忍偏离，但缺少在真实数据集上的鲁棒性研究。
二值化破坏 Markov 性：即使 \(X_1\to X_2\to X_3\) 满足 \(X_1\perp X_3\mid X_2\)，二值化后可能不再独立，因此抽象 \(P_\mathbf{B}\) 与真实 \(P_\mathbf{X}\) 的 KL 距离需要主动控制；高维下 \(r\) 的估计代价没有讨论。
未给出从数据自动选 pathway 的算法：本文给的是"评估给定 pathway"的工具，发现 pathway 仍需人类 / LLM 提议；下一步可以把贪心选 \(R\) 扩展到"贪心选 pathway 子图 + 上下文节点"。
LLM 演示规模小：仅一个手工示例，没有大规模评估 LLM 因果叙事的统计指标，期待后续在 medical NLI / 法律因果论证等数据集上做系统实验。

评分¶

新颖性: ⭐⭐⭐⭐⭐ 把 RCA + 因果抽象 + 极值统计 + LLM 自检统一到一个 log-likelihood 打分框架，是少见的"概念缝合且自洽"的工作。
实验充分度: ⭐⭐ 仅有概念性算例与单个 LLM demo，无真实数据集 / 基准对比，理论贡献为主。
写作质量: ⭐⭐⭐⭐ 定义 / 引理 / 例子节奏紧凑，附录完整；部分符号 \(\mathcal{E}^K_{R\to t}\) vs \(\mathcal{E}_{R\to t}\) 上下标繁，初读吃力。
价值: ⭐⭐⭐⭐ 对 GenAI 因果性自检 / 解释可信度评估方向给了一个清晰可落地的形式工具，预期会被 causal NLP / LLM safety 社区采用。