Optimal sequential tests yield log-optimal e-processes¶
会议: NeurIPS 2026
arXiv: 2605.12720
OpenReview: https://openreview.net/forum?id=yJdPgH8377
代码: https://github.com/ashwin-ram/wait-processes
领域: 其他
关键词: 序贯检验, e-过程, 对数最优性, 鞅检验, 停止时间
一句话总结¶
针对任意复合零假设，本文证明了可将一族渐近最优的序贯检验加权聚合为渐近对数最优的 e-过程（WAIT 过程），给出了对数增长率的精确确定性刻画，并系统阐明了均值最优、依概率最优与几乎必然最优等不同统计准则间的本质差异。
研究背景与动机¶
在现代序贯统计学与随时间保真的安全推断（safe anytime-valid inference）中，核心挑战在于如何在自适应观测数据流的同时，严格且一致地控制假阳性错误率。经典序贯分析以 Wald 序贯概率比检验（SPRT）为代表，通过设定停时在特定显著性水平 \(\alpha\) 下控制第一类错误；而近年来兴起的基于博弈论的检验与测试即投注（testing-by-betting）范式，则构造非负超鞅或 e-过程（e-processes），利用 Ville 不等式在任意停时上提供一致置信保证。近期文献已证明 e-过程对于序贯检验具备完全性：即任何水平为 \(\alpha\) 的序贯检验都可以通过对某个 e-过程在阈值 \(1/\alpha\) 处截断获得，反之对数渐近最优的 e-过程也可直接诱导出最优停时检验。
然而，这一理论闭环中存在一个长久未决的关键缺口：上述完全性定理仅仅是“有效性（validity）”层面的存在性结论，若代表该检验的 e-过程退化为平凡的二值指示过程，它在备择假设下完全无法积累对数增长速率。学术界普遍好奇：如果我们仅从一族在停时意义下渐近最优的序贯检验出发，能否通过某种通用的聚合机制，逆向重构出在备择假设下以最优信息速率增长的对数最优 e-过程？
这一问题的技术卡点在于聚合后的鞅资本预算约束与增长速率之间的内在张力。如果对所有检验赋予均等权重，在紧密的离散格点上权重和将导致超鞅性质破坏；而如果权重衰减过快，则累积有效证据资本在对数尺度上的渐近斜率将急剧坍塌为零。本文的切入点是设计一种基于停时指示变量的带权累积机制，并深入分析权重累积剖面（cumulative weight profile）的渐近指数增长率。核心 idea：提出基于停时指示加权聚合的 WAIT e-过程，证明当基础检验达到一阶路径最优且水平权重分布具有全对数剖面指数（\(\rho=1\)）时，聚合 e-过程在备择假设下以几乎必然意义达到信息论对数最优增长率 \(\rho I(Q)\)，从而完整闭合了序贯检验最优性与 e-过程对数最优性之间的双向等价全景。
方法详解¶
整体框架¶
本文构建的机制从一组给定显著性水平序列 \((\alpha_k)_{k\ge 1}\)（满足 \(\alpha_k \downarrow 0\)，记 \(b_k := \log(1/\alpha_k)\)）下的停时检验族 \((\tau_k)_{k\ge 1}\) 出发，每个检验均在任意复合零假设族 \(\mathcal{P}\) 下满足第一类错误约束 \(\sup_{P\in\mathcal{P}} P(\tau_k < \infty) \le \alpha_k\)。输入仅需各水平检验的拒绝时刻，系统输出为一个适应过程 \(M_t\)。该过程自零时刻起跳，非递减演化，且在零假设下为合法的 \(\mathcal{P}\)-e-过程。在备择假设 \(Q\) 下，当观测时间 \(t\) 推进时，触发的停时检验指示变量逐步被点亮，加权资本随之按照确定性剖面 \(W(x)\) 的指数阶次激增。
整个 WAIT 过程的设计与转化流程如下所示：
%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
A["序列数据流与复合零假设族 P<br/>备择假设 Q 下信息速率 I(Q)"] --> B["一阶渐近最优序贯检验族<br/>tau_k / b_k 趋于 1 / I(Q)"]
B --> C["WAIT e-过程加权聚合<br/>M_t = sum_k w_k * 1{tau_k <= t}"]
C --> D["权重剖面与资本预算控制<br/>W(x) = sum_{b_k <= x} w_k, sum_k w_k * alpha_k <= 1"]
D --> E["全速率对数最优 e-过程<br/>(1/t) log M_t 趋于 rho * I(Q)"]
E --> F["对偶反向诱导检验<br/>T_alpha(M) = inf{t: M_t >= 1/alpha}"]关键设计¶
1. WAIT 过程构造与零假设合法性：以资本预算约束保障超鞅期望性质 传统多重检验或分层假设聚合容易在时序中破坏鞅性，本文提出了加权停时指示聚合（Weighted Aggregates of Indicators of stopping Times, 简称 WAIT）。对于满足总资本预算 \(\sum_{k=1}^\infty w_k \alpha_k \le 1\) 的非负权重序列 \((w_k)_{k\ge 1}\)，定义过程： $\(M_t := \sum_{k=1}^\infty w_k \mathbf{1}_{\{\tau_k \le t\}}\)$ 由于每个指示函数 \(\mathbf{1}_{\{\tau_k \le t\}}\) 都是 \(\mathcal{F}_t\)-可测的，单调递增性自然保证。更关键的是，利用 Tonelli 定理，对于任意有限停时 \(\sigma\) 及任意 \(P \in \mathcal{P}\)，其停时期望严格满足： $\(\mathbb{E}_P[M_\sigma] = \sum_{k=1}^\infty w_k P(\tau_k \le \sigma) \le \sum_{k=1}^\infty w_k P(\tau_k < \infty) \le \sum_{k=1}^\infty w_k \alpha_k \le 1\)$ 这一简洁而严格的构造在完全不依赖似然比具体形式、不依赖独立同分布假设的前提下，将任意复合零假设上的有效检验无缝转化为标准 \(\mathcal{P}\)-e-过程。若需严格正性以避免初期取对数奇异，仅需以免费的渐近代价引入凸组合 \(M_t^{(\eta)} := \eta + (1-\eta)M_t\)（\(\eta \in (0,1)\)）。
2. 确定性权重剖面定理：对数增长率与信息速率的精准分离 为了分析 \(M_t\) 在备择假设 \(Q\) 下的增长速度，定义确定性累积权重剖面 \(W(x) := \sum_{k: b_k \le x} w_k\)。当基础检验满足一阶几乎必然最优性（即 \(\tau_k / b_k \to 1/I(Q)\)）时，在任意 \(\varepsilon > 0\) 下，当 \(k\) 充分大时有 \((1-\varepsilon)b_k / I \le \tau_k \le (1+\varepsilon)b_k / I\)。这意味着事件 \(\{\tau_k \le t\}\) 与 \(\{b_k \le I t / (1+\varepsilon)\}\) 高度夹逼。本文证明的核心确定性剖面定理表明：若剖面满足 \(\lim_{x\to\infty} \frac{\log W(x)}{x} = \rho \in [0, 1]\)，则几乎必然有： $\(\lim_{t\to\infty} \frac{1}{t}\log M_t = \rho I(Q)\)$ 因资本约束强制限定 \(W(x) \le e^x\)，故理论最大剖面指数 \(\rho \le 1\)。由此，寻找对数最优 e-过程的统计学问题被精确解构为：如何设计水平离散化步长与权重分布，使得累积指数增长率 \(\rho = 1\)。
3. 全速率离散化调度设计：对数修正非加权与几何加权二元范式 为了实现 \(\rho = 1\) 的对数全速率，本文系统给出了两类构造： 其一为对数修正非加权调度（Unweighted Counting）：取权重 \(w_k \equiv 1\)。传统几何级数 \(\alpha_k = 2^{-k}\) 导致计数增长仅为 \(x/\log 2\)，其对数比值 \(\log N(x)/x \to 0\)，造成严重速率损失；而多项式水平 \(\alpha_k \propto k^{-(1+\varepsilon)}\) 仅能达到亚优的 \(\rho = 1/(1+\varepsilon)\)。本文证明，必须采用极限临界发散级数的对数修正因子，取 \(\alpha_k \propto 1 / [k (\log k)^p]\)（\(p > 1\)）或双重对数修正 \(\alpha_k \propto 1 / [k \log k (\log\log k)^2]\)，使得 \(b_k = \log k + o(\log k)\)，从而在非加权计数下精确实现 \(\rho = 1\)。 其二为几何间距带权二进调度（Weighted Dyadic）：若实际工程必须沿用经典的几何二进网格 \(\alpha_k = 2^{-k}\)（即 Ruf et al., 2023 的基线设置），本文提出了精妙的权重补偿： $\(w_k := \frac{6}{\pi^2} \frac{2^k}{k^2}\)$ 此时资本检验项满足 \(\sum w_k \alpha_k = \frac{6}{\pi^2}\sum k^{-2} = 1\)，而累积权重剖面在 \(x\) 处的求和被最大的末项 \(2^{\lfloor x/\log 2\rfloor}\) 主导，其渐近对数直接恢复出 \(\lim_{x\to\infty} \log W(x)/x = 1\)，成功以极简解析形式修正了传统二进网格速率归零的理论缺陷。
4. 检验最优性层级统一与均值最优反例：揭示弱收敛的本质局限 统计检验文献长期以期望停时最优（expectation optimality: \(\mathbb{E}_Q[\tau_k]/b_k \to 1/I\)）作为黄金标准。本文首次给出了一个决定性反例：构造一个服从对称伯努利分布的随机时间缩放乘子 \(Y \in \{1/2, 3/2\}\)（\(\mathbb{E}[Y]=1\)），令停时满足 \(\tau_k \approx Y b_k / I\)。此时检验在数学期望上完全最优，但聚合过程的增长速率退化为随机变量 \(\lim_{t\to\infty} \frac{1}{t}\log M_t = \rho I / Y\)，分裂为两根离散分支 \(2\rho I\) 与 \((2/3)\rho I\)，无法收敛到确定性常数。 由此，本文确立了检验最优性向 e-过程转化的完整充要阶梯：对于嵌套检验族（nested family），仅需依概率收敛即可保证 \(M_t\) 的依概率对数最优；若辅以可积方差衰减 \(\operatorname{Var}_Q(\tau_k)/b_k^2 \to 0\) 或 \(L^1\) 误差控制，则可由均值最优提升至依概率最优；而利用 Borel-Cantelli 引理的可和偏差条件 \(\sum_k Q(|\tau_k/b_k - 1/I| > \varepsilon) < \infty\)，则能完美推导至强几乎必然对数最优。
损失函数 / 训练策略¶
作为纯统计推断与序贯检验理论工作，本文不涉及神经网络反向传播或经验损失梯度优化。算法的核心运行策略为离散时间下的在线递归更新： 1. 预先选定参数化检验水平网格 \((\alpha_k)\) 与正则化非负权重 \((w_k)\)，满足 \(\sum_{k=1}^\infty w_k \alpha_k \le 1\)； 2. 在每个时间步 \(t = 1, 2, \dots\)，实时维护底层累积对数似然比或得分统计量 \(S_t\) 及其历史运行峰值 \(H_t = \max_{0 \le s \le t} S_s\)； 3. 利用单调单射关系，无需遍历每个微观检验，直接计算激活截断阈值 \(k^*(t) = \max\{k: b_k \le H_t\}\)，将状态更新简化为查表累计资本 \(M_t = W(H_t)\)； 4. 当需要在线反向提供任意水平 \(\alpha\) 的截断判决时，执行停时准则 \(T_\alpha(M) = \inf\{t \ge 0: M_t \ge 1/\alpha\}\)。
实验关键数据¶
主实验¶
论文在标准高斯序贯检验设定下进行了严格的大规模数值模拟检验（零假设 \(P: X_i \sim \mathcal{N}(0, 1)\)，备择假设 \(Q: X_i \sim \mathcal{N}(\mu, 1)\)，取漂移率 \(\mu=1\)，对应 Kullback-Leibler 散度即真实信息速率 \(I = \mu^2 / 2 = 0.5\)）。基础检验采用单侧 SPRT 得分极大值，模拟采用 \(20,000\) 条独立备择路径，时间跨度达 \(T=2500\)。评价的核心指标为经验 e-检验力增长斜率 \(\widehat{\mathcal{P}}_M(t) = \frac{1}{t}\mathbb{E}_Q[\log\{\eta + (1-\eta)M_t\}]\) 在渐近极限处的收敛值。
| 调度方案 (Schedule) | 水平与权重定义 (\(\alpha_k, w_k\)) | 理论剖面指数 \(\rho\) | 理论对数增长率 \(\rho I\) | 经验最终渐近斜率 (\(t=2500\)) |
|---|---|---|---|---|
| 二进计数基线 (Dyadic count) | \(\alpha_k = 2^{-k}, w_k = 1\) | 0 | 0.0000 | 0.0000 (退化为次指数) |
| 幂律计数 (\(\varepsilon=0.5\)) | \(\alpha_k \propto k^{-1.5}, w_k = 1\) | 2/3 | 0.3333 | 0.3328 (准确贴合 1/3) |
| 幂律计数 (\(\varepsilon=0.1\)) | \(\alpha_k \propto k^{-1.1}, w_k = 1\) | 10/11 | 0.4545 | 0.4539 (显著提升) |
| 分数加权二进 (\(\rho=0.5\)) | \(\alpha_k = 2^{-k}, w_k \propto 2^{0.5k}/k^2\) | 0.5 | 0.2500 | 0.2497 (严格吻合) |
| 对数修正计数 (Log-corrected) | \(\alpha_k \propto 1/[k(\log k)^2], w_k = 1\) | 1.0 | 0.5000 | 0.4988 (达到全速率) |
| 重对数修正计数 (Iterated-log) | \(\alpha_k \propto 1/[k\log k(\log\log k)^2], w_k = 1\) | 1.0 | 0.5000 | 0.4985 (达到全速率) |
| 带权二进最优聚合 (Weighted dyadic) | \(\alpha_k = 2^{-k}, w_k = \frac{6}{\pi^2}\frac{2^k}{k^2}\) | 1.0 | 0.5000 | 0.4994 (最高效率全速率) |
消融实验¶
消融分析集中评估全速率方案（\(\rho=1\)）在有限样本时域下的收敛速度差异、非最优基线检验的速率传递损失，以及零假设下各停止规则的绝对保真度。
| 实验配置 / 扰动机制 | 评价指标与设定 | 观测现象与数值响应 | 机制结论与说明 |
|---|---|---|---|
| 带权二进方案 vs. 对数修正方案 | 达到 95% 全速率 (\(0.475\)) 的首达时间点 | 带权二进网格平均仅需 \(t \approx 620\)；对数修正需 \(t \approx 1450\) | 几何加权网格能更迅速榨取资本预算，有限样本收敛显著快于重尾级数 |
| 检验延迟消融 (\(\gamma = 1.0\)) | 故意延迟判决 \(\tau_k \to \gamma \tau_k\), \(\gamma=1.0\) | 经验渐近增长斜率稳定在 \(0.5000\) | 基准最优检验完整传递理论极限速率 \(I\) |
| 检验延迟消融 (\(\gamma = 1.25\)) | 引入 25% 判定迟滞 (\(\gamma = 1.25\)) | 经验增长斜率下降至 \(0.4002\) (理论 \(I/1.25 = 0.4000\)) | 聚合框架无法修复慢速检验，严格传递 \(I/\gamma\) 损失 |
| 检验延迟消融 (\(\gamma = 1.5\)) | 引入 50% 判定迟滞 (\(\gamma = 1.5\)) | 经验增长斜率下降至 \(0.3331\) (理论 \(I/1.5 = 0.3333\)) | 进一步验证极限增长率对底层检验效率的一阶敏感性 |
| 检验延迟消融 (\(\gamma = 2.0\)) | 判定时间翻倍 (\(\gamma = 2.0\)) | 经验增长斜率下降至 \(0.2504\) (理论 \(I/2 = 0.2500\)) | 证明底层序贯检验的最优性是实现对数最优的必要前提 |
| 零假设保真度 (50,000 条路径) | 动态网格停时阈值 \(c \in \{1.5, 2, 5, 10\}\) 下的 \(\mathbb{E}_P[M_\sigma]\) | 在所有网格与截断阈值下，经验期望值均落在 \([0.982, 0.999] \le 1.0\) 内 | 验证了任意有限停时下的超鞅性质与一阶第一类错误严格控制 |
关键发现¶
- 传统文献常采用的未加权二进网格（\(\alpha_k = 2^{-k}, w_k=1\)）在对数增长率意义下是极其劣质的，其渐近对数效率退化为 0；而本文提出的带权二进调度能以最快速度逼近全信息速率，在 \(t \approx 620\) 时即可达到 95% 的理论信息上限。
- 纯均值最优检验无法在聚合后消除随机震荡。在包含非退化随机乘子 \(Y\) 的数值实验中，过程对数斜率在长时域（\(T=2500\)）处严格分裂为以 \(1.0\) 和 \(0.333\) 为中心的双峰分布，彻底证实了均值最优在保真聚合上的内在缺陷。
- 尺度不变性检验显示，在不同真实均值漂移 \(\mu \in \{0.5, 0.8, 1.0, 1.25\}\) 下，将时间轴按照信息时间 \(I t\) 归一化后，所有全速率聚合曲线完全重合于同一条无量纲收敛轨迹，展现出普适的信息论几何特性。
亮点与洞察¶
- 理论体系的完全闭环：此前已知“e-过程诱导有效检验”和“最优 e-过程诱导最优检验”，本文通过 WAIT 聚合构造证明了逆命题“最优检验可聚合成最优 e-过程”，正式在序贯假设检验与博弈论 e-过程之间建立了完备的等价双向桥梁。
- 正交分离的剖面分析法：将复杂的序贯随机过程渐近增长，严谨解耦为“底层检验的时间标度 \(1/I\)”与“确定性权重剖面的几何指数 \(\rho\)”之乘积，使得最优权重配置转化为纯粹的微积分与级数求和设计。
- 对统计检验传统认知的重要澄清：明确指出了统计学长久以来依赖的“期望停时最优”存在理论盲区，唯有建立在几乎必然收敛、嵌套依概率收敛或带集中性阶次的前提下，序贯证据才能实现向鞅资本的无损传递。
局限与展望¶
- 二阶非渐近展开缺失：当前理论主要刻画了一阶主导项增长率 \(\lim \frac{1}{t}\log M_t = \rho I(Q)\)，尚未推导出形如 \(O(\sqrt{t})\) 或有界超额项（overshoot）的非渐近精确下界，在极短时间窗口内的瞬态行为有待细化。
- 点对点备择假设局限：目前的最优性保证是针对每一个单一备择分布 \(Q\) 逐点成立（pointwise log-optimal）；如何在整个复合备择假设空间 \(\mathcal{Q}\) 上实现一致均匀（minimax）的对数最优聚合，仍是具有挑战性的开放问题。
- 离散网格的截断近似：理论构造依赖于无穷级数求和，在实际数值实现与内存受限系统上必须引入截断序号 \(K\)（如实验中采用的大规模截断），微小的尾部残差对实际有限时域性能的影响需要系统误差界分析。
相关工作与启发¶
- vs Ruf et al. (2023)：Ruf 等人奠定了利用 e-过程建立复合 Ville 定理的先河，但其构造在二进网格下采用等权相加，导致对数增长率坍塌至 0；本文的带权二进方案（Proposition 4.5）通过精准的 \(2^k/k^2\) 调和加权，彻底修复了该缺陷，恢复了满秩全速率 \(I\)。
- vs Ramdas & Wang (2025)：Ramdas 和 Wang 证明了任何有效序贯检验均可由某个 e-过程阈值化表示，但缺乏渐近最优性保证；本文从动力学速率视角补齐了其渐近最优性拼图。
- vs Grünwald et al. (2024) & Larsson et al. (2025)：这些工作从反向信息投影（RIPr）与测试鞅对偶性出发构建增长率最优 e-变量（GRO）；本文则走了一条完全相反但互补的路径——直接利用既有的经典最优统计检验，免除对偶优化求解即可直接装配出模型无关的对数最优 e-过程。
评分¶
- 新颖性: ⭐⭐⭐⭐⭐ 首次提出 WAIT e-过程并证明检验最优性向对数最优性的逆向聚合定理，理论突破性强。
- 实验充分度: ⭐⭐⭐⭐⭐ 包含了对数剖面、SPRT 尺寸、经验 e-检验力、延迟消融、均值最优反例等 10 项严密数值实验，覆盖完整。
- 写作质量: ⭐⭐⭐⭐⭐ 概念铺垫层层递进，定理证明精炼完备，对各类最优性弱化条件的梳理极其清晰。
- 价值: ⭐⭐⭐⭐⭐ 彻底打通了传统序贯分析与现代安全推断/e-过程的两大分支，为无假设统计推断提供了通用的离散化构建工具。