跳转至

On Observation Time for Recovering Latent Hawkes Networks

会议: NeurIPS 2026
arXiv: 2605.08400
OpenReview: https://openreview.net/forum?id=tZwHSbbaof
论文: https://arxiv.org/abs/2605.08400
领域: 其他
关键词: 霍克斯过程, 网络拓扑重建, 观测时间复杂度, 二阶段估计量, Fano不等式

一句话总结

本文首次从统计信息论角度证明了稀疏弱耦合平稳霍克斯过程精确恢复潜在有向交互网络所需的最优观测时间阶数为 \(T \asymp \log d\),并通过带截断与时间分箱的二阶段估计量与 Fano 下界给出了严格的充要理论闭环。

研究背景与动机

在地震余震传播、高频金融交易、神经元脉冲发放、社交网络信息级联和流行病传播等复杂动力学系统中,实体间的事件激发通常受潜在的有向交互网络所支配。重构该潜在网络对于理解级联效应与风险传播机制至关重要。虽然近年来学术界涌现了大量基于正则化拟似然、非参数估计、贝叶斯结构学习、神经常微分方程(Neural ODEs)以及因果图筛选的算法,但关于网络恢复的统计理论边界依然极其匮乏。一个最为核心且未被解答的基础理论问题是:在节点规模为 \(d\) 的复杂系统中,为了以高概率精确恢复潜在有向网络的拓扑结构(即支撑集恢复),我们究竟需要连续观测系统多长时间?

与高斯图模型、马尔可夫随机场或 Ornstein-Uhlenbeck 扩散等经典高维图模型不同,霍克斯过程中的网络恢复面临内生性网络激发的本质困难。事件流的潜伏条件强度直接依赖于网络拓扑本身,这使得多跳级联效应会伪造虚假的直接因果依赖,且事件未发生的静默时间段同样包含丰富的互信息。在实际的高维系统中(例如含大量断层带的地震区域),网络结构往往是高度稀疏的,且单个节点之间的直接耦合影响相对温和。这自然引出了在行稀疏度最大为 \(k\)(\(k \ll d\))且单边交互强度处于弱耦合区间时,观测时间 \(T\) 随维度 \(d\) 的本质缩放规律。

本文旨在给出完整的理论闭环,明确回答精确网络恢复的样本与时间复杂度极限。研究团队证明了观测时间满足对数增长 \(T \asymp \log d\) 是实现精确恢复的充分且必要条件。核心 idea:针对稀疏弱耦合平稳霍克斯过程,设计「状态截断分箱协方差初筛 + 局部受限最小二乘回归阈值化」的二阶段估计量并借助泊松聚类表示导出浓度不等式证明 \(T \gtrsim \log d\) 即可实现精确恢复;同时结合 Fano 不等式与点过程 Jacod-Girsanov 公式推导出严格匹配的渐近下界 \(T \lesssim \log d\),确立网络尺寸的对数缩放本质。

方法详解

整体框架

本文针对 \(d\) 维具有已知衰减率 \(\beta > 0\) 的平稳指数核霍克斯过程,定义网络恢复为交互矩阵 \(\Theta = (\theta_{ij})\) 的支撑集精确辨识问题(即找全每个节点 \(i\) 的真实父节点集 \(S_i = \{j \in [d]: \theta_{ij} > 0\}\))。提出的二阶段估计量按节点逐行解耦处理:第一阶段为筛选阶段(Screening Stage),将连续的散粒噪声状态进行时间分箱(步长 \(h\))和幅值截断(上限 \(R\)),统计候选节点历史状态与目标节点未来事件发生指示变量之间的经验协方差得分,从全部 \(d\) 个节点中粗筛出前 \(m\)(\(m \ge k\))个强关联节点构成候选集 \(\widehat{C}_i\);第二阶段为精细化阶段(Refinement Stage),在低维候选子集 \(\widehat{C}_i\) 上求解局部普通最小二乘(OLS)回归系数,通过设定确定性阈值 \(\tau_{\alpha, h} = \alpha w_- h / 2\) 消除多跳级联引起的间接虚假关联,输出精确支撑集 \(\widehat{S}_i\)。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["连续时间观测流:状态 X(0) 与计数过程 N[0,T]"] --> B["时间离散化与状态预处理<br/>步长 h 分箱 + 幅值 R 截断得到 (Z_j,r^(R), Y_i,r^(h))"]
    B --> C["协方差初筛与候选集构造<br/>计算经验协方差 F̂_ij,保留前 m 个最大值构成 Ĉ_i"]
    C --> D["局部受限最小二乘回归与阈值化<br/>在 Ĉ_i 上求解 ŷ_i,Ĉ_i 并以 τ_α,h 阈值过滤得到 Ŝ_i"]
    D --> E["精确支撑集输出:P(Ŝ_i = S_i, ∀i) ≥ 1 - d^(-c*)"]

关键设计

1. 协方差初筛与候选集构造:利用截断分箱统计量分离真实父节点

原始散粒噪声过程 \(X_j(t) = \int_{(-\infty, t]} e^{-\beta(t-s)} dN_j(s)\) 无界且具有时间长相关性,给高维浓度估计带来极大挑战。算法在离散时间网格 \(r h\) 上构造截断状态 \(Z_{j,r}^{(R)} = \min\{X_j(rh), R\}\) 以及二值化分箱事件指示量 \(Y_{i,r}^{(h)} = \mathbf{1}\{N_i((rh, (r+1)h]) \ge 1\}\)。两者的经验协方差得分为: $\(\widehat{F}_{ij}^{(h,R)} := \frac{1}{n}\sum_{r=0}^{n-1} Z_{j,r}^{(R)} Y_{i,r}^{(h)} - \Big(\frac{1}{n}\sum_{r=0}^{n-1} Z_{j,r}^{(R)}\Big)\Big(\frac{1}{n}\sum_{r=0}^{n-1} Y_{i,r}^{(h)}\Big).\)$ 在弱耦合设定(耦合强度 \(\alpha\) 足够小)下,理论协方差满足一阶渐近展开 \(F_{ij}^{(h,R)} = h H_{ij}^{(R)} + O(Rh^2)\),其中当 \(j \in S_i\) 时主导项为 \(\frac{\mu_j \theta_{ij}}{2\beta}\),而当 \(j \notin S_i\) 时仅由高阶多跳激发引起(量级为 \(O(\alpha^2)\))。通过合理配置截断阈值 \(R(\alpha) \asymp \alpha^{-1}\) 与分箱步长 \(h(\alpha) \asymp \alpha^2\),建立了确定性的理论初筛间隔 \(\min_{j \in S_i} F_{ij}^{(h,R)} - \max_{j \notin S_i} F_{ij}^{(h,R)} \ge c_{\mathrm{scr}} \alpha w_- h\)。该机制保证了经验得分排序能够以高概率将所有真实父节点包含在大小为 \(m\) 的候选集 \(\widehat{C}_i\) 中(Sure Screening)。

2. 局部受限最小二乘回归与阈值化:消除多跳级联伪影并精确恢复拓扑

尽管初筛能够有效剔除大部分无关节点,但间接激发(如 \(j \to \ell \to i\))依然会在候选集中产生显著的相关性。为解耦真实直接激发与多跳传导,第二阶段在中心化的截断变量上建立经验协方差矩阵 \(\widehat{\Sigma}_{\widehat{C}_i}^{(R)}\) 与互协方差向量 \(\widehat{g}_{i,\widehat{C}_i}^{(h,R)}\),通过局部回归求解斜率向量: $\(\widehat{y}_{i,\widehat{C}_i}^{(h,R)} := \big(\widehat{\Sigma}_{\widehat{C}_i}^{(R)}\big)^{-1} \widehat{g}_{i,\widehat{C}_i}^{(h,R)}.\)$ 理论分析证明,截断经验 Gram 矩阵的最小特征值在弱耦合下一致有下界 \(\lambda_{\min}(\Sigma_C^{(R)}) \ge \kappa > 0\)。经局部反卷积后,理论回归系数高度逼近真实缩放参数 \(h \theta_{ij}\),满足严格的数值分离条件:真实边系数满足 \(y_{ij,C}^{(h,R)} \ge \frac{3}{4}\alpha w_- h\),非相连边满足 \(|y_{ij,C}^{(h,R)}| \le \frac{1}{4}\alpha w_- h\)。因此,选取绝对中位阈值 \(\tau_{\alpha, h} := \frac{1}{2}\alpha w_- h\),即可确定性地将真实父节点与虚假关联节点完全切开。

3. 泊松聚类表示下的鞅差浓度不等式:跨时间相依块的指数级尾部收敛

分箱统计量之间并非独立同分布,而是由于级联激发产生了复杂的长期相依。本文借助 Hawkes 与 Oakes 的泊松聚类(Poisson Cluster)分支表示,将平稳霍克斯过程分解为由外生泊松到达所驱动的独立聚类族(每个外生 root 以强度 \(\mu_v\) 到达,并在未来时间触发后代分支)。通过将统计量写为关于外生泊松点过程的泛函,并构造 Doob 鞅差序列 \(D_q := \mathbb{E}[S_n \mid \mathcal{F}_q] - \mathbb{E}[S_n \mid \mathcal{F}_{q-1}]\),巧妙证明了单聚类包络泛函具有指数矩。进而借助 Campbell 公式和修正的 Bernstein 浓度不等式,推导出对所有行、列及大小不超 \(m\) 的候选集一致成立的极大偏差界: $\(\max_{i,j} |\widehat{F}_{ij}^{(h,R)} - F_{ij}^{(h,R)}| + \max_{i,C} \|\widehat{g}_{i,C}^{(h,R)} - g_{i,C}^{(h,R)}\|_\infty + \max_C \|\widehat{\Sigma}_C^{(R)} - \Sigma_C^{(R)}\|_{\mathrm{op}} \le C \sqrt{\frac{(h^{-1} + R^2 h + R^2 / h)\log d}{n}}.\)$ 当有效分箱数 \(n = \lfloor T/h \rfloor \gtrsim \log d\) 时,经验统计量对理论值的偏差被控制在间隙的 \(1/8\) 以内,通过联合界保证以至少 \(1 - d^{-c_*}\) 的概率实现全网拓扑无错恢复。

4. 基于点过程 Girsanov 公式的 Fano 下界构造:确立对数缩放的极小极大最优性

为确立 \(T \asymp \log d\) 的内在不可逾越性,研究者构造了一个严苛的假设检验子类 \(\mathcal{G}_{d,k}^{\mathrm{sub}}(i_\star)\):全网中仅有目标节点 \(i_\star\) 具有未知的非零父节点集 \(S \subset [d]\setminus\{i_\star\}\)(\(|S|=k\)),其余节点均为独立的平稳外生泊松散粒噪声过程。采用均匀先验赋予该集合,初始不确定性达到 \(\log \binom{d-1}{k} \asymp k \log d\) nats。由 Fano 不等式,互信息可由全概率分布 \(P_S^T\) 与无交互基线分布 \(P_0^T\) 之间的 KL 散度统一放缩: $\(I(S^\star; Y_T) \le \frac{1}{\binom{d-1}{k}}\sum_{S} \mathrm{KL}(P_S^T \| P_0^T) \le C_{\mathrm{init}} + \frac{\theta_-^2}{\bar{\mu}_\star} C_{\mathrm{path}} T.\)$ 利用 Jacod 点过程 Girsanov 变换公式,动态路径似然比的相对熵完全由目标节点条件强度的二次漂移项积分所控制: $\(\mathrm{KL}(P_S^T \| P_0^T) \le C_{\mathrm{init}} + \frac{\theta_-^2}{\bar{\mu}_\star}\int_0^T \mathbb{E}_S\Big[\Big(\sum_{j \in S} X_j(t-)\Big)^2\Big] dt.\)$ 计算独立泊松散粒噪声和的平稳二阶矩可得常数 \(C_{\mathrm{path}} = \frac{k^2 \bar{\mu}^2}{\beta^2} + \frac{k \bar{\mu}}{2\beta}\),而平稳初值状态 \(X(0)\) 贡献的先验 KL 散度 \(C_{\mathrm{init}}\) 独立于维度 \(d\) 与观测时长 \(T\)。当 \(T \le c \log d\) 时,信噪比互信息无法克服组合状态数,导致任意估计量的极小极大最坏恢复误差恒有正下界 \(\inf_{\widehat{S}} \sup_S \mathbb{P}_S(\widehat{S} \neq S) \ge 1/2\)。

损失函数 / 训练策略

本方法为免训练(Training-free)的非参数两阶段闭式统计推断框架,无深度神经网络的反向传播,其关键理论参数与调优配置如下: - 分箱与截断参数依赖:依据耦合上限 \(\alpha_0\) 预先选取 \(R(\alpha) := A_R \alpha^{-1}\) 及时间网格步长 \(h(\alpha) := A_h \alpha^2\)。在此尺度下,截断误差上界为 \(C_{\mathrm{clip}}/R \le O(\alpha)\),离散化近似漂移项为 \(C_{\mathrm{bin}} R h^2 \le O(\alpha h)\),保证理论方差与协方差间隙保持在同一阶数。 - 初筛容量设定:候选集容量设定为满足 \(m \ge k\) 的常数(在稀疏网络中通常取 \(m = 2k\) 或固定常数),从而将高维统计问题局部降维至固定的 \(m \times m\) 线性方程组求解。 - 矩阵求逆鲁棒性:第二阶段经验矩阵 \(\widehat{\Sigma}_{\widehat{C}_i}^{(R)}\) 在高概率事件下谱半径下界脱离零,可直接通过 Cholesky 分解或无正则化的标准普通最小二乘解析求逆,计算复杂度单节点仅需 \(O(m^3 + n m^2)\)。

实验关键数据

主实验:理论上界与信息论下界的渐近标度对比

论文的核心贡献是纯数学理论证明,下表系统总结了在不同网络结构假定下,本文给出的平稳霍克斯网络精确拓扑恢复所需观测时间理论极限,并与经典高维图模型进行了横向对比。

模型类型 交互机制与噪声类型 行稀疏度 / 拓扑约束 精确拓扑恢复所需观测时间 \(T\) 证明技术与关键机制
平稳指数霍克斯过程 (本文) 内生点过程自激/互激,强非线性相依 行稀疏度 \(\|B_{i\cdot}\|_0 \le k\), 弱耦合 \(\gamma < 1\) \(T \asymp \log d\) (充要匹配) 截断分箱局部 OLS + 泊松分支聚类浓度 + Jacod 测度变换 Fano 下界
高斯图模型 (GGM) [Wainwright, 2009] 静态线性高斯依赖,外生可加噪声 行稀疏度 \(\le k\) \(N_{\mathrm{samples}} \asymp k \log d\) \(\ell_1\) 正则化回归、打靶法与对偶相容性条件
离散 Ising 模型 [Ravikumar et al., 2010] 空间马尔可夫随机场,成对静态势能 最大节点度 \(\le k\) \(N_{\mathrm{samples}} \asymp \log d\) 节点局部 \(\ell_1\) 正则化 Logistic 回归与互相关控制
线性 Ornstein-Uhlenbeck 扩散 [Bento et al., 2011] 连续时间线性布朗漂移驱动 最大度 \(\le k\) \(T \asymp \log d\) 连续时间朗之万方程局部谱分析与鞅极限定理
强耦合非线性霍克斯网络 (现有开问题) 级联雪崩爆炸临界态 (\(\gamma \to 1^-\)) 任意稀疏拓扑 未知 (\(T \gg \log d\)) 聚类分支代数发散,单聚类包络失去指数阶轻尾控制

消融与理论边界分析:关键物理参数对观测时间前常数的影响

为了指导实际工程系统(如地震学、量化高频交易)的观测窗口规划,下表深入分析了定理 4.1 导出必要观测时间下界 \(T \gtrsim \frac{\bar{\mu}_\star}{\theta_-^2 C_{\mathrm{path}}} \log d\) 中各项物理参数对前常数的影响机制:

物理系统参数 符号表示 参数增大时对所需观测时间 \(T\) 的影响 动力学与信息论机制解释
网络节点总数 \(d\) 以 \(\log d\) 速率缓慢增加 仅源自组合辨识可能父节点集合的大小的组合信息量 \(\log \binom{d-1}{k}\)
最小有效边强 \(\theta_-\) 以 \(\theta_-^{-2}\) 剧烈缩短 区分真边与非边的 KL 散度漂移与信号强度呈二次方缩放,强信号使判决速度急剧加快
目标节点背景率 \(\bar{\mu}_\star\) 线性增加 \(T \propto \bar{\mu}_\star\) 目标节点自身自发噪声越高,外生泊松事件掩盖因果激发的背景噪声越大,信噪比劣化
父节点背景率 \(\bar{\mu}\) 按 \(C_{\mathrm{path}}^{-1} \approx \beta^2 / (k^2 \bar{\mu}^2)\) 缩短 父节点背景事件率高意味着信号源活跃度高,单位时间内向目标注入的触发信息量显著增加
指数记忆衰减率 \(\beta\) 增加 \(T \propto \beta\) 至 \(\beta^2\) 衰减过快会导致事件引发的历史记忆瞬间消散,无法在状态 \(X_j(t)\) 中形成持续统计可辨识痕迹
最大父节点度数 \(k\) 影响因子为 \(k \log d / C_{\mathrm{path}}\) 虽然辨识假设空间膨胀 \(k\) 倍,但聚集多父节点的总激发功率提升,使单节点恢复时间保持受控

关键发现

  • 对数缩放的统计本质:系统维度 \(d\) 的增加并不会导致恢复难度发生组合爆炸;高维性仅仅体现在从 \(\binom{d-1}{k}\) 个候选中锁定稀疏父集所需的信息代价上,这在本质上解释了为什么在高频量化或大规模脑电记录中中等长度的数据记录即可辨识宏观拓扑。
  • 弱耦合是线性分箱筛选的理论基石:当且仅当系统处于亚临界弱耦合范畴(即分支谱半径比值 \(\gamma = k\theta_+/\beta < 1\) 且 \(\alpha \le \alpha_0\))时,多跳激发的虚假相关才能被严格控制在 \(O(\alpha^2)\),从而与真实一阶因果激发的 \(O(\alpha)\) 产生确定性可分间隔。
  • 初值效应的渐近遗忘性:观测初始状态 \(X(0)\) 所带来的先验信息量在 KL 散度上被一致常数 \(C_{\mathrm{init}} < \infty\) 完全界定,其对全局识别的贡献随观测时间 \(T\) 的延长迅速退化为高阶小项。

亮点与洞察

  • 填补高维点过程拓扑恢复的理论空白:首次以严谨的现代高维经验过程与信息论工具,给出霍克斯网络精确拓扑恢复所需观测时长的极小极大紧确界 \(T \asymp \log d\)。
  • 巧妙利用泊松聚类分支化解强相依性:避开了传统利用混合系数(Mixing coefficients)在长程记忆点过程上推导浓度的繁琐与松散边界,直接将统计量映射到独立的 Poisson root 上构造鞅差,为非平衡连续时间马尔可夫跳跃过程的浓度界推导提供了教科书级的范例。
  • 二阶段可操作估计器极具落地启发:该估计器避免了在全局高维参数空间中优化非凸似然函数,通过轻量级的分箱协方差快速筛选再做局部线性反卷积,具有极高的工程计算友好性。

局限与展望

  • 局限于纯兴奋性弱耦合设定:当前的理论分离性严格依赖于所有非零边均为正向激发的弱耦合假设;在存在抑制(Inhibitory)作用的霍克斯过程中,负权重的抵消可能摧毁协方差的单调分离性,且强度需引入非线性截断修正。
  • 已知全局统一衰减率 \(\beta\) 的理想化先验:论文假设衰减核的时间常数 \(\beta\) 准确已知且所有节点对均一致;在实际神经或地震记录中,衰减速率通常在不同节点间异构未知甚至呈现幂律(Power-law / Omori-Utsu)长记忆衰减。
  • 缺乏带标记与连续空间扩展:真实应用如地震目录包含震级标记(Marked point processes)以及空间欧氏坐标,如何将时空混合核函数纳入该时间复杂度分析是极具价值的后续方向。

相关工作与启发

  • vs. 基于累积量张量分解因果恢复 (Achab et al., 2018):以往方法依赖二阶与三阶积分累积量的无偏估计进行代数重构,需要极长的稳态平稳时间且对有限时间截断极其敏感;本文通过时空分箱与局部受限回归,给出了明确的有限样本非渐近指数偏差控制。
  • vs. 高维图模型 Lasso 支撑集恢复 (Wainwright, 2009; Ravikumar et al., 2010):传统图模型以独立同分布样本为基础,依赖不可表示性条件(Incoherence conditions);本文针对内生动态激发的事件相依过程,构建了适应时间相依性的泊松聚类鞅浓度工具。
  • vs. 神经关系推断与 Neural ODEs (Kipf et al., 2018; Zhang & Yan, 2021; Chen et al., 2021):深度学习架构缺乏泛化性与样本复杂度的理论背书;本文结论为神经点过程推断网络所需的最少事件观测时间提供了信息论层面的金标准参照系。

评分

  • 新颖性: ⭐⭐⭐⭐⭐ [首次确立平稳霍克斯网络拓扑精确恢复的最优观测时间复杂度 \(T \asymp \log d\)]
  • 实验充分度: ⭐⭐⭐⭐☆ [理论推导完整严密并包含全套上下界闭环证明,未附带大规模合成数据实证仿真]
  • 写作质量: ⭐⭐⭐⭐⭐ [动机阐述深刻,技术路径清晰,附录数学推导层层递进且引理衔接极其严谨]
  • 价值: ⭐⭐⭐⭐⭐ [为计算神经科学、地震学以及金融计量学中的高维事件网络恢复提供了决定性的理论基石]