Prediction-Intervention Games and Invariant Sets¶

会议: NeurIPS 2026
arXiv: 2605.16828
论文: https://arxiv.org/abs/2605.16828
代码: https://github.com/LinusKuehne/prediction-intervention-games
领域: 因果推理
关键词: 预测-干预博弈, 稳定毯, 不变预测, 分布泛化, 斯塔克尔伯格博弈

一句话总结¶

本文将预测部署后受试个体的策略性响应形式化为结构因果模型（SCM）约束下的斯塔克尔伯格“预测-干预博弈”，证明了基于稳定毯（Stable Blanket）的不变预测器在常见追随者目标下弱占优于经典因果父节点，并在给定强干预图结构条件下达到极小极大最坏情况风险最优。

研究背景与动机¶

在现代机器学习系统的真实部署中，被预测个体往往并非被动接受评估，而是会针对已公开或可查询的预测模型 $f$ 采取策略性应对行动。例如，在基于驾驶行为的车险定价中，驾驶员察觉到监控算法的存在后，会主动在考核期内暂时改变驾驶习惯以降低保费；当预测模型依赖车身颜色或车辆安全配置等特征时，投保人可能通过改装安全装置切实改善赔付风险，也可能仅通过更换低风险车漆颜色来操纵预测值而不改变真实出险概率。现有策略分类与表现性预测文献多将个体的应对简化为全局硬干预或经验特征扰动，缺乏对特征间物理因果传导机制的精细刻画；而因果推断领域虽常推荐使用响应变量的因果父节点构造鲁棒预测器，却未系统界定此类选择在博弈互动中的最优性边界与潜在的信息损失。

这一交互过程的核心矛盾在于：领导者（预测模型制定方）希望在部署后最小化预测风险，但追随者（被预测个体）依据自身效用函数对特征实施定向干预，直接使得测试集分布内生依赖于部署的预测函数本身，且领导者通常无法预先获知追随者的精确效用函数与反击强度。单纯依赖因果父节点虽然能彻底杜绝追随者操纵后代节点进行“纯投机”，但因果父节点抛弃了未被干预的因果后代节点所携带的稳定信息；而盲目引入全部相关特征又极易导致模型在追随者策略性位移下遭受灾难性风险崩塌。

面对领导者与追随者目标不对称且效用形式未知的困境，本文从因果不变性与分布泛化切入，探索是否存在能够在最坏情况下抵御任意允许干预并最大化保留有用信息的特征子集。核心 idea：将策略预测形式化为因果图约束的斯塔克尔伯格预测-干预博弈，确立稳定毯（Stable Blanket）在博弈中对因果父节点的弱占优性，并建立基于允许干预最坏情况风险的极小极大泛化界，给出稳定毯达到全局最坏情况风险最优的充要图结构与强干预条件。

方法详解¶

整体框架¶

在预测-干预博弈中，训练数据源自结构因果模型 $\mathbb{C}_0$（包含环境源节点 $E$ 与因果有向无环图 $\mathcal{G}_0$）。领导者首先提交预测函数 $f: \mathcal{X} \to \mathcal{A}$，追随者观测或查询 $f$ 后，针对受允许干预的节点集合（$E$ 在因果图中的子节点 $\mathrm{CH}_{\mathcal{G}_0}(E)$）实施结构方程干预并引入允许的前向父节点边，诱导出部署期因果模型 $\mathbb{C}$ 及其扩展图 $\mathcal{G}$。追随者选取最优环境 $e^*(f) \in \arg\max_{e \in \mathcal{E}} V^{\mathrm{foll}}_e(f)$ 以最大化其效用，而领导者承受部署后风险 $R^{\mathrm{lead}}_{e^*(f)}(f)$。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["训练阶段 SCM 观测数据<br/>因果图 G0，环境节点 E"] --> B["领导者决策：预测模型承诺<br/>选取基于特征子集 S 的预测器 fS"]
    B --> C["追随者策略干预响应<br/>在允许动作集 A 上定向改变机制"]
    C --> D["部署因果模型 G 与环境生成<br/>诱导测试分布 Pe*(f)"]
    D --> E["稳定毯策略与极小极大风险优化<br/>证明 SB(Y) 优于 PA(Y) 且达最坏风险界"]

关键设计¶

1. 预测-干预博弈形式化：统一群体干预与个体自利响应

针对传统策略学习缺乏因果传导的问题，论文将博弈构建于结构因果模型之上。领导者评估损失 $\ell: \mathcal{Y} \times \mathcal{A} \to [0, \infty]$ 严格依均值泛函一致（涵盖回归平方损失与分类 Brier 评分、对数损失）。追随者干预节点严格限制在 $E$ 的子节点 $\mathrm{CH}_{\mathcal{G}_0}(E)$，且干预机制仅允许接入候选动作集 $A_j$ 中的前向变量，从而避免循环依赖并保证因果图无环性。论文进一步证明，大量个体追随者基于自身观测信息各自求解确定性最优行动点时，其在群体层面的聚合响应等价于在增广因果图中由单个群体追随者优化干预方程，为因果博弈提供了坚实的微观经济学个体理性支撑。

2. 稳定毯的全局弱占优性：超越因果父节点的理论保障

因果父节点 $X_{\mathrm{PA}(Y)}$ 满足条件不变性 $Y \perp\!\!\perp E \mid X_{\mathrm{PA}(Y)}$，但在直系后代中，凡未被追随者干预的子节点及其协同父节点同样保持不变。论文定义被干预后代禁区： $$\mathrm{DE}(Y)_{\mathrm{forb}} \coloneqq \mathrm{CH}_{\mathrm{int}}(Y) \cup \mathrm{DE}(\mathrm{CH}_{\mathrm{int}}(Y))$$ 其中 $\mathrm{CH}_{\mathrm{int}}(Y) \coloneqq \mathrm{CH}(Y) \cap \mathrm{CH}(E)$。由此构建稳定毯（Stable Blanket）： $$\mathrm{SB}(Y) \coloneqq \mathrm{PA}(Y) \cup \big(\mathrm{CH}(Y) \setminus \mathrm{DE}(Y)_{\mathrm{forb}}\big) \cup \mathrm{PA}\big(\mathrm{CH}(Y) \setminus \mathrm{DE}(Y)_{\mathrm{forb}}\big)$$ 论文严格证明，在排除禁区 $\mathrm{DE}(Y)_{\mathrm{forb}}$ 的所有可测预测器中，$f_{\mathrm{SB}(Y)}$ 在任何测试环境下风险均一致低于或等于其他预测器。特别是对于追随者与领导者处于完全对抗（$V^{\mathrm{foll}}_e(f) = R_e(f)$）或追随者具备线性增益与特征扰动成本（$V^{\mathrm{foll}}_e(f) = \mathbb{E}_e[\alpha + \beta f(X) - c_e(X)]$）的两类主流效用下，稳定毯预测器的博弈最坏风险严格弱占优于经典因果父节点： $$\sup_{e \in \mathcal{E}^*(f_{\mathrm{SB}(Y)})} R_e(f_{\mathrm{SB}(Y)}) \leq \sup_{e \in \mathcal{E}^*(f_{\mathrm{PA}(Y)})} R_e(f_{\mathrm{PA}(Y)})$$ 此外，只要追随者干预不依赖 $Y$ 或其被禁后代，部署期因果图的稳定毯与训练期因果图完全一致（$\mathrm{SB}_{\mathcal{G}}(Y) = \mathrm{SB}_{\mathcal{G}_0}(Y)$），领导者无需预判追随者诱导的具体网络连边。

3. 最坏情况风险上界与最坏情况最优性定理

当追随者的具体效用形式对领导者未知时，博弈风险受限于所有允许干预下的极小极大最坏情况风险上界： $$\sup_{e \in \mathcal{E}^*(f)} R_e(f) \leq \sup_{e \in \mathcal{E}} R_e(f)$$ 论文通过加强分布泛化分析，指明了稳定毯预测器 $f_{\mathrm{SB}(Y)}$ 在何时能击败全特征空间中所有可测预测器而达到最坏情况最优。当满足强干预消除混杂假设（Asm. A1）或如下结构假设（Asm. A2）时成立： $$\mathrm{CH}(Y) \cap \mathrm{DE}(\mathrm{CH}_{\mathrm{int}}(Y)) \subseteq \mathrm{CH}_{\mathrm{int}}(Y)$$ 且被干预子节点能被完全重设。论文同时给出了反例，证明当图结构违反式 (6)（即存在 $Y$ 的后代既受到被干预子节点的影响但自身未被直接干预）时，存在能够利用残存后代信息的非稳态预测器，其在所有环境下均取得优于稳定毯的严格更低风险，确立了图拓扑约束在分布泛化最优性中的不可消除性。

损失函数 / 训练策略¶

在因果图已知时，领导者直接池化训练环境样本估计 $f_{\mathrm{SB}(Y)}(x) = \mathbb{E}[Y \mid X_{\mathrm{SB}(Y)} = x_{\mathrm{SB}(Y)}]$。在因果图未知时，论文针对多环境训练数据提出稳定分类（Stabilized Classification, SC）算法： 1. 不变性检验：利用非参数 tram-GCM 或条件独立性检验，对各子集 $S \subseteq \{1,\dots,d\}$ 检验 $H_{0,S}: Y \perp\!\!\perp E \mid X_S$，筛选 $p$ 值高于阈值 $\alpha_{\mathrm{inv}}$ 的不变子集候选集 $\hat{\mathcal{I}}_{\mathcal{E}_{\mathrm{tr}}}$； 2. 预测性能 Bootstrap 筛选：在不变子集中评估交叉熵预测分数 $s_{\mathrm{pred}}(S)$，通过 Bootstrap 重采样确定置信分位数下界 $c(\alpha_{\mathrm{pred}})$，保留集合 $\hat{\mathcal{C}}_{\mathcal{E}_{\mathrm{tr}}}$； 3. 集成预测：对入选的优质不变子集赋予均匀集成权重： $$\hat{f}^{\mathrm{SC}}(x) = \frac{1}{|\hat{\mathcal{C}}_{\mathcal{E}_{\mathrm{tr}}}|} \sum_{S \in \hat{\mathcal{C}}_{\mathcal{E}_{\mathrm{tr}}}} \hat{f}_S(x)$$

实验关键数据¶

主实验¶

论文在物理因果实验台 Causal Chambers（光隧道传感器设备）上开展真实物理系统干预博弈实验，因果变量包括主光源 RGB、中继传感器测量值（$\mathtt{ir\_2}, \mathtt{vis\_2}$）以及末端受偏振片与红外 LED 调控的受干预传感器（$\mathtt{ir\_3}, \mathtt{vis\_3}$），目标为预测红外阈值二分类 $Y = \mathbf{1}\{\mathtt{ir\_1} > \tau\}$。追随者目标为最小化期望预测值 $-\mathbb{E}_e[\hat{f}(X)]$，在干预约束界 $b=0.5$ 下选择 49 个候选环境之一。

预测器配置	依据特征子集	追随者诱导预测偏差 ($\Delta \mathbb{E}[\hat{f}]$)	部署测试 MSE ($R_{e^*(f)}$)	性能特征说明
全特征模型 ($f_{\text{all}}$)	全部变量 $\{X_1,\dots,X_7\}$	-0.324	0.285	依赖可被操控特征，追随者成功刷分，MSE急剧恶化
错误图稳定毯 ($f_{\mathtt{RGB}}$)	仅因果父节点 $\{\mathtt{RGB}\}$	0.000	0.178	追随者无法操控，但因忽略混杂后代而预测力偏弱
真实稳定毯 ($f_{\mathtt{RGB}, \mathtt{ir\_2}, \mathtt{vis\_2}}$)	稳定毯 $\{\mathtt{RGB}, \mathtt{ir\_2}, \mathtt{vis\_2}\}$	0.000	0.124	充分吸收未被操纵后代信息，博弈风险最优
数据驱动集成 ($f^{\mathrm{SC}}$)	算法自适应识别稳定毯	0.000	0.124	无需先验图，纯数据检验自动锁定真实稳定毯

消融实验¶

在合成非线性结构因果模型中，对比追随者干预强度界限 $b$ 增大以及领导者训练样本量 $n$ 对不同预测策略风险稳定性的影响（评估部署 MSE）：

训练样本量 $n$	干预强度界限 $b$	因果父节点 $f_{\mathrm{PA}(Y)}$ MSE	稳定毯 $f_{\mathrm{SB}(Y)}$ MSE	全特征模型 $f_{\text{all}}$ MSE	结论说明
$n = 1{,}000$	$b = 0.5$	0.218	0.165	0.412	样本有限时有限样本估计误差被追随者轻微利用
$n = 4{,}000$	$b = 0.5$	0.192	0.143	0.408	稳定毯明显优于父节点，全特征受操控崩塌
$n = 50{,}000$	$b = 0.5$	0.181	0.132	0.405	估计误差收敛，$f_{\mathrm{SB}}$ 展现理论水平的不变平直曲线
$n = 50{,}000$	$b = 1.0$	0.181	0.132	0.789	强干预下全特征误差激增，$f_{\mathrm{SB}}$ 稳如磐石

关键发现¶

在合成高斯线性系统中，基于因果父节点与稳定毯的预测器在面对不同干预强度时部署 MSE 严格保持平直恒定，且稳定毯 MSE 处处低于因果父节点约 27%，验证了未被干预后代节点的稳态增益；
全特征预测器（$f_{\text{all}}$）在弱干预下具有最低初始误差，但随追随者干预界限 $b$ 增加，其风险呈现指数级激增；
在真实 Causal Chambers 数据中，基于简单显式图导出的父节点仅包含 $\mathtt{RGB}$，条件独立性检验直接证伪了此图；数据驱动的稳定分类器 $f^{\mathrm{SC}}$ 准确锁定了包含未受干预后代的真实稳定毯 $\{\mathtt{RGB}, \mathtt{ir\_2}, \mathtt{vis\_2}\}$，证明了免图学习算法抵御错误因果先验的能力。

亮点与洞察¶

将策略响应转化为因果结构干预：区别于传统仅在特征空间添加扰动的对抗预测，本文将个体自利博弈置于严格的 SCM 框架下，使策略响应转化为图节点的结构机制置换，从根源上刻画了因果信息流传导。
确立稳定毯在博弈中的主导地位：过去因果机器学习界普遍将因果父节点视为鲁棒预测的默认标准，本文从理论和实验双重证明：未被干预的因果后代节点不仅不会被追随者投机利用，反而能显著缩减预测方差，稳定毯是相比因果父节点更优的不变子集。
明确分布泛化极小极大最优的拓扑分水岭：揭示了图拓扑条件 $\mathrm{CH}(Y) \cap \mathrm{DE}(\mathrm{CH}_{\mathrm{int}}(Y)) \subseteq \mathrm{CH}_{\mathrm{int}}(Y)$ 是稳定毯达到全局最坏情况最优的结构分水岭，给出反例说明了图结构破缺时为何存在非不变的占优解。

局限与展望¶

强干预假设依赖：定理 5 和命题 11 依赖于追随者对受干预节点具有足够强的操控能力（强干预假设）；若追随者的行动空间受到强烈物理或经济成本约束，稳定毯的最坏情况最优性可能偏向保守。
有限样本外推脆弱性：非线性模型在有限样本下估计的经验条件均值并非绝对不变，追随者可利用模型在低密度区域的拟合残差实施“钻空子”攻击。
异质性个体扩展：当前模型假定追随者具有统一或同质的目标结构，未来有必要拓展至包含多类异质效用与局部观测权限的非完全信息博弈。

评分¶

新颖性: ⭐⭐⭐⭐⭐ 首次建立 SCM 约束下的预测-干预斯塔克尔伯格博弈体系，提出稳定毯弱占优定理。
实验充分度: ⭐⭐⭐⭐ 包含闭式解线性 SCM、非线性神经网络仿真以及基于真实光隧道物理因果箱（Causal Chambers）的严谨验证。
写作质量: ⭐⭐⭐⭐⭐ 数学证明严密自洽，博弈论与因果图论衔接顺畅，逻辑层层递进。
价值: ⭐⭐⭐⭐⭐ 为金融风控、保险定价、算法推荐等面临个体策略博弈的高敏决策场景提供了兼具可解释性与安全鲁棒性的特征选择法则。

预测器配置	依据特征子集	追随者诱导预测偏差 (\(\Delta \mathbb{E}[\hat{f}]\))	部署测试 MSE (\(R_{e^*(f)}\))	性能特征说明
全特征模型 (\(f_{\text{all}}\))	全部变量 \(\{X_1,\dots,X_7\}\)	-0.324	0.285	依赖可被操控特征，追随者成功刷分，MSE急剧恶化
错误图稳定毯 (\(f_{\mathtt{RGB}}\))	仅因果父节点 \(\{\mathtt{RGB}\}\)	0.000	0.178	追随者无法操控，但因忽略混杂后代而预测力偏弱
真实稳定毯 (\(f_{\mathtt{RGB}, \mathtt{ir\_2}, \mathtt{vis\_2}}\))	稳定毯 \(\{\mathtt{RGB}, \mathtt{ir\_2}, \mathtt{vis\_2}\}\)	0.000	0.124	充分吸收未被操纵后代信息，博弈风险最优
数据驱动集成 (\(f^{\mathrm{SC}}\))	算法自适应识别稳定毯	0.000	0.124	无需先验图，纯数据检验自动锁定真实稳定毯

训练样本量 \(n\)	干预强度界限 \(b\)	因果父节点 \(f_{\mathrm{PA}(Y)}\) MSE	稳定毯 \(f_{\mathrm{SB}(Y)}\) MSE	全特征模型 \(f_{\text{all}}\) MSE	结论说明
\(n = 1{,}000\)	\(b = 0.5\)	0.218	0.165	0.412	样本有限时有限样本估计误差被追随者轻微利用
\(n = 4{,}000\)	\(b = 0.5\)	0.192	0.143	0.408	稳定毯明显优于父节点，全特征受操控崩塌
\(n = 50{,}000\)	\(b = 0.5\)	0.181	0.132	0.405	估计误差收敛，\(f_{\mathrm{SB}}\) 展现理论水平的不变平直曲线
\(n = 50{,}000\)	\(b = 1.0\)	0.181	0.132	0.789	强干预下全特征误差激增，\(f_{\mathrm{SB}}\) 稳如磐石