Mean Testing under Truncation beyond Gaussian¶

会议: NeurIPS 2026
arXiv: 2605.01335
OpenReview: https://openreview.net/forum?id=W2sWU2ZYWN
论文: https://arxiv.org/abs/2605.01335
领域: 学习理论
关键词: 均值检验, 任意截断, 重尾分布, 信息论下界, 方向中位数正则性

一句话总结¶

针对任意截断下高维均值检验面临的多项式偏差屏障 $\mathcal{O}(\nu_{P,p}\varepsilon^{1-1/p})$，本文完整刻画了有限矩下的不可检下界与匹配的二阶 U 统计量最优上界，并提出方向中位数正则性破除该屏障，将偏差压低至线性阶 $\mathcal{O}(\varepsilon)$。

研究背景与动机¶

在鲁棒统计与现代高维数据推断中，均值检验是识别微弱信号与控制假阳性率的核心基石。传统对抗污染模型（如 Huber $\varepsilon$-污染）主要关注攻击者向数据中注入恶意离群点，但隐私保护数据采集、受控感知以及选择性偏差等真实场景往往诱发一种截然不同的缺失机制——截断（Truncation）。在任意截断模型下，观测者只能接收落在未知测度集合 $S$ 内的样本，而在集合外部至多有 $\varepsilon$ 比例的概率质量被系统性抹除。截断与外点污染的本质区别在于，它能够直接在真实分布的中心区域实现结构化“掏空”，从而引入极具破坏性的系统性偏倚。

对于高维均值假设检验 $H_0: \mu_P = 0$ 对抗 $H_1: \|\mu_P\| \geq \alpha$，现存理论大多建立在高斯或亚高斯假设之上，已有工作表明此时截断偏差为近线性的 $\mathcal{O}(\sigma\varepsilon\sqrt{\log(1/\varepsilon)})$。然而，在普遍存在重尾噪声的实际环境中，若仅假设分布具有有限 $p$ 阶方向矩，截断所诱发的偏倚将被急剧放大至多项式阶 $\mathcal{O}(\nu_{P,p}\varepsilon^{1-1/p})$。这不仅使得传统的估计和检验方法面临严重失效，更暴露出根本性的理论空白：在超越高斯的非轻尾情形下，任意截断究竟在多大程度上模糊了均值信号？是否存在信息论不可检的临界能量地面？又能否找到更精细的几何结构条件来摆脱这一有限矩偏差屏障？

针对上述核心矛盾，本文构建了任意截断下超越高斯假设的高维均值检验统一理论框架。核心 idea：证明在有限 $p$ 阶方向矩下存在不可逾越的 $\Theta(\nu_{P,p}\varepsilon^{1-1/p})$ 信息论可检性地面，高于此地面时无偏二阶 U 统计量可达到近最优高维检验速率 $\mathcal{O}(\sqrt{d})$；进而引入方向中位数正则性（Directional Median Regularity）从几何上约束中心局部质量，将截断偏差大幅压至线性阶 $\mathcal{O}(\varepsilon)$，并在学习困难区间揭示了估计与检验的分离相图。

方法详解¶

整体框架¶

本文的方法 pipeline 围绕在未知截断集 $S$（满足 $P(S) \geq 1 - \varepsilon$）诱发的条件分布 $P_S = P(\cdot \mid S)$ 下开展假设检验 $H_0: \mu_P = 0$ 对抗 $H_1: \|\mu_P\| \geq \alpha$ 展开。整体推断框架涵盖方向矩/几何正则性表征、截断偏倚与有效信号分析、二阶无偏检验统计量构建与切比雪夫方差控制，以及基于方向经验中位数极小化极大估计的结构性破障检验。

输入为来自截断分布 $P_S$ 的 $n$ 个独立同分布样本 $X_1, \dots, X_n$、显著性容许误差 $\delta$ 以及分离阈值 $\alpha$。首先通过方向矩上界 $\nu_{P,p}$ 量化截断均值位移 $\gamma = 2\nu_{P,p}\varepsilon^{1-1/p}$，界定有效信号强度 $\beta = \max(0, \alpha - \gamma)$；在有限矩强信号区间（$\alpha > 2\gamma$），构造二阶 U 统计量计算两两样本内积均值，并与阈值 $\alpha^2 / 4$ 比较，结合多数表决实现样本复杂度为 $\mathcal{O}(\sqrt{d})$ 的快速判定；当分布满足方向中位数正则性时，转入基于全方向一维投影经验中位数 $\hat{m}_v$ 的极小极大中心优化估计器 $\hat{\mu}$，将偏倚容忍度拓展至线性尺度 $\alpha \gtrsim \varepsilon$。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["输入：截断观测样本 X_i ~ P_S<br/>截断质量至多 ε，分离参数 α"] --> B["方向矩与截断偏倚分析<br/>确定偏差界 γ 与有效信号 β=max(0,α-γ)"]
    B --> C["二阶无偏检验统计量构建<br/>阶数-2 U 统计量消除高维插桩偏差 d/n"]
    C --> D["Efron-Stein 协方差膨胀与方差控制<br/>证明截断下协方差最多膨胀 4 倍"]
    D --> E["方向中位数极小化极大中心估计<br/>统一单维投影中位数破除矩屏障至 O(ε)"]
    E --> F["输出检验判决：拒绝 H0 或接受 H0<br/>刻画相图与维度复杂度分离"]

关键设计¶

1. 方向矩与截断偏倚分析：精确量化最恶劣截断下的能量漂移

在任意未知截断下，学习者面临的最大障碍是观测均值偏离未截断真实均值。为刻画高维任意方向上的最坏情况，本文引入方向 $p$ 阶矩界 $\nu_{P,p} := \sup_{\|v\|=1} (\mathbb{E}_{X \sim P}|\langle v, X - \mu_P \rangle|^p)^{1/p}$。针对测度满足 $P(S) \geq 1 - \varepsilon$ 的截断集 $S$，通过将均值差转化为被截断补集 $S^c$ 上的积分，并运用 Hölder 不等式与对偶范数极值性质，严格证明了均值位移上界： $$\|\mu_P - \mu_{P_S}\| \leq \frac{1}{P(S)} \sup_{\|v\|=1} \mathbb{E}\bigl[\mathbf{1}_{X \notin S} |\langle v, X - \mu_P \rangle|\bigr] \leq 2\nu_{P,p}\varepsilon^{1-1/p}$$ 该上界在理论上表明，只要截断移除质量为 $\varepsilon$，对抗截断便可在最恶劣方向上偷走至多 $\gamma := 2\nu_{P,p}\varepsilon^{1-1/p}$ 的均值范数。因此定义截断后的有效信号强度为 $\beta := \max(0, \alpha - \gamma)$。在零假设 $H_0$ 下截断伪造的最大均值范数恰为 $\gamma$，在备择假设 $H_1$ 下截断削弱后的真实均值范数至少为 $\alpha - \gamma$。两假设在分布均值层面上产生不可逆混淆的充分必要几何条件即为 $\alpha \leq 2\gamma$，由此建立了有限矩约束下的信息论可检性地面。

2. 二阶无偏检验统计量构建：剥离 $d/n$ 高维插桩偏差

在高维场景下，若直接采用经验均值范数平方 $\|\frac{1}{n}\sum_{i=1}^n X_i\|^2$ 作为检验统计量，其数学期望将产生不可忽视的高维方差项 $\frac{1}{n}\mathrm{tr}(\Sigma_{P_S}) = \mathcal{O}(d/n)$，当维度 $d \gg n$ 时该噪声项彻底掩盖待检信号 $\alpha^2$。为此，本文设计了无偏二阶 U 统计量： $$F := \binom{n}{2}^{-1} \sum_{1 \leq i < j \leq n} \langle X_i, X_j \rangle$$ 由于成对样本 $X_i, X_j$ 条件独立，该统计量的期望严格等于截断总体均值范数的平方 $\mathbb{E}_{P_S}[F] = \|\mu_{P_S}\|^2$，从代数结构上直接消除了 $\mathcal{O}(d/n)$ 的高维系统偏差。在备择假设 $H_1$ 下有 $\mathbb{E}[F] \geq (\alpha - \gamma)^2$，而在零假设 $H_0$ 下有 $\mathbb{E}[F] \leq \gamma^2$。选取临界阈值 $T = \mathbf{1}\{F > \alpha^2 / 4\}$，只要初始分离度满足 $\alpha > 2\gamma$，便能在两类假设的期望测度之间拉开严格的正间距 $\Delta := \alpha/2 - \gamma > 0$。

3. Efron-Stein 协方差膨胀与方差控制：截断稳健的二阶矩集中性

为证明统计量 $F$ 能够以高概率区分两类假设，必须严格控制其在截断分布 $P_S$ 下的方差波动。本文利用 Efron-Stein 不等式结合截断协方差的几何性质展开控制。首先证明截断对协方差矩阵谱范数的扭曲是全局受控的：由于 $(X - Y)^{\otimes 2} \succeq 0$，有 $\Sigma_P \succeq P(S)^2 \Sigma_{P_S}$，进而直接导出截断协方差谱范数上界 $\|\Sigma_{P_S}\| \leq (1-\varepsilon)^{-2}\|\Sigma_P\| \leq 4\|\Sigma_P\|$（对于 $\varepsilon \leq 1/2$）。在此基础上，对统计量 $F$ 的单个样本替换量展开方差分解，推导得出： $$\mathrm{Var}_{P_S}(F) \leq \frac{4}{n} \langle \mu_{P_S}, \Sigma_{P_S} \mu_{P_S} \rangle + \frac{4}{n(n-1)} \mathrm{tr}(\Sigma_{P_S}^2) \lesssim \frac{\|\Sigma_P\| \|\mu_{P_S}\|^2}{n} + \frac{d \|\Sigma_P\|^2}{n^2}$$ 该式揭示了一个关键理论发现：尽管任意截断会引入严重的均值偏倚，但在 $p \geq 2$ 时它不会从量级上恶化二阶统计量的方差膨胀率。借助切比雪夫不等式与样本分块多数表决（Median-of-Means Boosting），只需样本量达到 $n = \mathcal{O}\big(\frac{\|\Sigma_P\| \sqrt{d}}{(\alpha - 2\gamma)^2} \log(1/\delta)\big)$，即可将检验判决成功率放大至 $1 - \delta$，保持了无截断高维均值检验最优的 $\sqrt{d}$ 样本依赖。

4. 方向中位数极小化极大中心估计：几何正则约束下的破障推断

有限矩假设下的多项式偏差屏障源于分布中心处质量可能极度匮乏，使得截断能够非对称地挖空局部信号。为破除该屏障，本文提出方向中位数正则性（Directional Median Regularity, Assumption 1）：要求对任意方向投影 $Z_v = \langle X - \mu_P, v \rangle$，其中位数严格对齐为 0，且在中心邻域 $[-r, r]$ 内概率密度函数满足一致下界 $f_v(t) \geq c > 0$。在截断移除至多 $\varepsilon$ 质量时（$\varepsilon < cr$），任意一维投影条件中位数的偏倚被严格限制在 $|\mathrm{median}(\langle X, v \rangle \mid X \in S) - \langle \mu_P, v \rangle| \leq \varepsilon / c$。为了在样本层面实现该稳定性，设计了全方向经验中位数的极小化极大恢复估计器： $$\hat{\mu} := \arg\min_{u \in \mathbb{R}^d} \sup_{v \in \mathbb{S}^{d-1}} \big| \langle u, v \rangle - \hat{m}_v \big|$$ 其中 $\hat{m}_v$ 为一维投影经验中位数。通过控制半空间族（VC 维数为 $\Theta(d)$）的一致经验过程集中，证明了该估计器在 $n = \Omega(d)$ 样本下达到误差 $\|\hat{\mu} - \mu_P\| \leq \mathcal{O}(\varepsilon + \sqrt{d/n})$。以此估计器构建的检验统计量 $T = \mathbf{1}\{\|\hat{\mu}\| > \alpha / 2\}$ 成功将截断容忍度推进至线性阶 $\alpha \gtrsim \varepsilon$，即便对于柯西或 Student-$t$ 等重尾分布，也重现了亚高斯分布才享有的偏倚尺度。

损失函数 / 训练策略¶

本方法为非参数检验与鲁棒统计估计设计，不依赖反向传播优化。关键决策机制包含两套策略： 1. 有限矩检验判决规则：基于样本内积矩阵上三角元素均值 $F$，设定判决规则 $T = \mathbf{1}\{F > \alpha^2/4\}$，通过划分 $K = \mathcal{O}(\log(1/\delta))$ 个独立样本块进行多数表决提升置信度。 2. 方向中位数鲁棒凸优化：极小化极大估计器 $\hat{\mu} = \arg\min_{u} \sup_{v} |\langle u, v \rangle - \hat{m}_v|$ 本质为凸优化问题，在大维空间下可通过半正定规划松弛或切平面次梯度法求解。

实验关键数据¶

主实验¶

论文通过严格的信息论与有限样本复杂性下界建立了均值检验在不同截断机制与假设条件下的理论分离相图，如下表所示（反映了渐近样本复杂度与截断偏倚容忍边界）：

分布假设类别	截断偏倚地面 $b(\varepsilon)$	可检性门槛条件 $\alpha$	样本复杂度 $n$	理论下界保证与紧致性
有限二阶矩 ($p=2$)	$\Theta(\nu_{P,2}\sqrt{\varepsilon})$	$\alpha > 4\nu_{P,2}\sqrt{\varepsilon}$	$\mathcal{O}\big(\frac{\\|\Sigma_P\\|\sqrt{d}}{(\alpha - 4\nu_{P,2}\sqrt{\varepsilon})^2}\big)$	匹配定理 6 不可检下界
有限 $p$ 阶矩 ($p>2$)	$\Theta(\nu_{P,p}\varepsilon^{1-1/p})$	$\alpha > 4\nu_{P,p}\varepsilon^{1-1/p}$	$\mathcal{O}\big(\frac{\\|\Sigma_P\\|\sqrt{d}}{(\alpha - 4\nu_{P,p}\varepsilon^{1-1/p})^2}\big)$	样本 $\sqrt{d}$ 最优，偏倚不可逾越
亚高斯分布族 (Sub-Gaussian)	$\Theta(\sigma\varepsilon\sqrt{\log(1/\varepsilon)})$	$\alpha \gtrsim \sigma\varepsilon\sqrt{\log(1/\varepsilon)}$	$\mathcal{O}\big(\frac{\\|\Sigma_P\\|\sqrt{d}}{\alpha^2}\big)$	恢复 Canonne et al. 最优界
方向中位数正则 (重尾/一般)	$\Theta(\varepsilon/c)$	$\alpha \gtrsim \varepsilon/c$ (学习困难区)	$\Theta\big(\frac{d + \log(1/\delta)}{\alpha^2}\big)$	维度依赖退化至 $d$，换取线性偏倚
方向中位数正则 (强信号区)	$\Theta(\varepsilon/c)$	$\alpha \gg \nu_{P,p}\varepsilon^{1-1/p}$	$\Theta\big(\frac{\\|\Sigma_P\\|\sqrt{d}}{\alpha^2}\big)$	恢复最优 $\sqrt{d}$ 检验复杂度

消融实验¶

下表对比了在截断均值检验任务中，不同统计量设计及结构约束对估计偏差、方差结构以及样本维数依赖的影响：

统计量 / 理论模块配置	预期均值偏差	期望外高维方差膨胀	最小样本量对 $d$ 依赖	截断恶化敏感性
朴素经验均值范数 $\\|\frac{1}{n}\sum X_i\\|^2$	$\mathcal{O}(\nu_{P,p}\varepsilon^{1-1/p})$	存在致命 $\mathcal{O}(d/n)$ 偏移	$n = \Omega(d)$	极高，高维噪声淹没微弱信号
二阶无偏统计量 $F$ (本文)	$\mathcal{O}(\nu_{P,p}\varepsilon^{1-1/p})$	严格为 0 (完全无偏估计 $\\|\mu\\|^2$)	$n = \mathcal{O}(\sqrt{d})$	仅受限于信号底面，方差不失控
无中位数正则 (纯矩模型)	$\mathcal{O}(\nu_{P,p}\varepsilon^{1-1/p})$	0	$n = \mathcal{O}(\sqrt{d})$	遭遇 $\alpha \leq \gamma$ 绝对不可检
引入方向中位数正则 (本文)	降至 $\mathcal{O}(\varepsilon / c)$	0 (基于投影经验过程)	$n = \mathcal{O}(d)$ (中等信号区)	成功避开局部掏空攻击，恢复鲁棒性

关键发现¶

矩屏障的不可行性是信息论必然：定理 6 通过构造支撑在 $\{0, \varepsilon^{-1/p}\}$ 上的两点病态分布证明，当信号尺度 $\alpha \leq C \nu_{P,p}\varepsilon^{1-1/p}$ 时，截断分布与原分布的零点测度在全变差距离上完全重合，此时即便样本量趋于无穷大，任何检验算法的错误率都无法低于 1/2。
估计与检验的复杂度分离现象：在方向中位数正则下，当信号处于中间“学习困难区”（$\varepsilon \lesssim \alpha \lesssim \varepsilon^{1-1/p}$）时，均匀估计中心必须付出 $n = \Theta(d)$ 的 VC 维数代价才能破除偏倚；而一旦信号强度跨过纯矩地面（$\alpha \gg \varepsilon^{1-1/p}$），二阶 U 统计量无需均匀估计中心即可直接恢复 $n = \Theta(\sqrt{d})$ 的轻量检验率。
截断对协方差谱的扭曲极为有限：虽然截断对一阶均值的影响可随重尾严重劣化，但其对协方差矩阵的扰动在算子范数上被恒定约束在 4 倍以内（当 $\varepsilon \leq 1/2$），这奠定了二阶统计量方差可控的数理基石。

亮点与洞察¶

建立截断均值检验的全局相图：清晰界定了“不可检（Impossible）”、“学习困难（Learning-hard）”、“近地面（Near floor）”以及“强信号（Strong signal）”四个动力学区间，填补了超越高斯截断统计推断的理论拼图。
揭示局部密度几何对抗不对称截断的机理：指出重尾有限矩下截断之所以致命，本质在于低阶矩只约束全局尾部衰减，无法阻止攻击者在中心局部实施“不对称掏空”；而方向中位数正则性通过局部密度下界 $f_v(t) \geq c$ 建立了几何刚性，使得截断位移只能线性增长。
检验范式对现代鲁棒推断的启发：证明了在面对对抗性缺失时，二阶成对统计量具有超越一阶均值的天然优越性（自动消除 $d/n$ 方差项），这一技巧可直接推广至高维截断方差分析、协方差检验以及受限观测下的因果推断。

局限与展望¶

方向中位数估计器的计算复杂度瓶颈：当前定理 9 中的全方向极小极大中位数估计器涉及对球面 $\mathbb{S}^{d-1}$ 上连续半空间的经验过程控制，虽然统计样本复杂度为 $\mathcal{O}(d)$，但在高维下的精确数值计算属于非光滑凸优化，存在计算复杂度维数灾难的潜在隐患，亟待设计高效的多项式时间逼近算法。
截断集测度下界先验假设：理论分析依赖截断比例上限 $\varepsilon$ 与局部半径参数 $r$ 满足相容性条件 $\varepsilon < cr$，若真实截断极其严重（$\varepsilon \geq 2cr$），定理 8 表明中位数位移将出现任意发散的病态崩溃。
未来拓展空间：目前工作聚焦于已知零点均值的单样本检验，未来可进一步拓展至截断下的两样本均值差异检验、未知协方差结构检验以及自选择截断下的高维稀疏线性回归。

评分¶

新颖性: ⭐⭐⭐⭐⭐ 首次系统性刻画了超越高斯的任意截断高维均值检验下界与相图，方向中位数正则破障视角极富启发性。
实验充分度: ⭐⭐⭐⭐☆ 纯数学与信息论理论推导严丝合缝，构造的反例与下界匹配紧凑，略缺实际工业数据的大规模数值实验。
写作质量: ⭐⭐⭐⭐⭐ 逻辑主线极为鲜明，从有限矩屏障到中位数正则破障层层递进，定理陈述与证明草图自洽清晰。
价值: ⭐⭐⭐⭐⭐ 为截断数据下的高维统计推断提供了奠基性的理论框架，对差分隐私和受限感知下的鲁棒检验具有重要指导意义。

分布假设类别	截断偏倚地面 \(b(\varepsilon)\)	可检性门槛条件 \(\alpha\)	样本复杂度 \(n\)	理论下界保证与紧致性
有限二阶矩 (\(p=2\))	\(\Theta(\nu_{P,2}\sqrt{\varepsilon})\)	\(\alpha > 4\nu_{P,2}\sqrt{\varepsilon}\)	\(\mathcal{O}\big(\frac{\\|\Sigma_P\\|\sqrt{d}}{(\alpha - 4\nu_{P,2}\sqrt{\varepsilon})^2}\big)\)	匹配定理 6 不可检下界
有限 \(p\) 阶矩 (\(p>2\))	\(\Theta(\nu_{P,p}\varepsilon^{1-1/p})\)	\(\alpha > 4\nu_{P,p}\varepsilon^{1-1/p}\)	\(\mathcal{O}\big(\frac{\\|\Sigma_P\\|\sqrt{d}}{(\alpha - 4\nu_{P,p}\varepsilon^{1-1/p})^2}\big)\)	样本 \(\sqrt{d}\) 最优，偏倚不可逾越
亚高斯分布族 (Sub-Gaussian)	\(\Theta(\sigma\varepsilon\sqrt{\log(1/\varepsilon)})\)	\(\alpha \gtrsim \sigma\varepsilon\sqrt{\log(1/\varepsilon)}\)	\(\mathcal{O}\big(\frac{\\|\Sigma_P\\|\sqrt{d}}{\alpha^2}\big)\)	恢复 Canonne et al. 最优界
方向中位数正则 (重尾/一般)	\(\Theta(\varepsilon/c)\)	\(\alpha \gtrsim \varepsilon/c\) (学习困难区)	\(\Theta\big(\frac{d + \log(1/\delta)}{\alpha^2}\big)\)	维度依赖退化至 \(d\)，换取线性偏倚
方向中位数正则 (强信号区)	\(\Theta(\varepsilon/c)\)	\(\alpha \gg \nu_{P,p}\varepsilon^{1-1/p}\)	\(\Theta\big(\frac{\\|\Sigma_P\\|\sqrt{d}}{\alpha^2}\big)\)	恢复最优 \(\sqrt{d}\) 检验复杂度

统计量 / 理论模块配置	预期均值偏差	期望外高维方差膨胀	最小样本量对 \(d\) 依赖	截断恶化敏感性
朴素经验均值范数 \(\\|\frac{1}{n}\sum X_i\\|^2\)	\(\mathcal{O}(\nu_{P,p}\varepsilon^{1-1/p})\)	存在致命 \(\mathcal{O}(d/n)\) 偏移	\(n = \Omega(d)\)	极高，高维噪声淹没微弱信号
二阶无偏统计量 \(F\) (本文)	\(\mathcal{O}(\nu_{P,p}\varepsilon^{1-1/p})\)	严格为 0 (完全无偏估计 \(\\|\mu\\|^2\))	\(n = \mathcal{O}(\sqrt{d})\)	仅受限于信号底面，方差不失控
无中位数正则 (纯矩模型)	\(\mathcal{O}(\nu_{P,p}\varepsilon^{1-1/p})\)	0	\(n = \mathcal{O}(\sqrt{d})\)	遭遇 \(\alpha \leq \gamma\) 绝对不可检
引入方向中位数正则 (本文)	降至 \(\mathcal{O}(\varepsilon / c)\)	0 (基于投影经验过程)	\(n = \mathcal{O}(d)\) (中等信号区)	成功避开局部掏空攻击，恢复鲁棒性