Arbitrarily Conditioned Hierarchical Flows for Spatiotemporal Events¶

会议: NeurIPS 2026
arXiv: 2605.01226
OpenReview: https://openreview.net/forum?id=A8CPCX5IjP
论文: https://arxiv.org/abs/2605.01226
领域: 时间序列
关键词: 时空点过程, 流匹配, 分层生成模型, 条件强度计算, 任意条件推断

一句话总结¶

本文提出了分层流匹配框架 ARCH，通过将时空事件解耦为时间流与空间流，并结合混合掩码训练策略，首次在统一框架内兼顾了复杂事件分布的任意条件推断与瞬时事件风险（条件强度）的精确闭式计算。

研究背景与动机¶

时空事件在现实物理与社会系统中广泛存在，如地震余震演化、流行病区域蔓延和城市微观移动轨迹等。建模此类事件序列不仅需要捕捉高度复杂的时空依赖分布，还需要推断瞬时事件风险（即条件强度函数），以支持灾害预警、风险监控与干预规划。然而，传统时空点过程（如时空泊松过程、霍克斯过程）多依赖严格的参数化先验或加性激励假设，在面对具有复杂抑制相互作用或非线性动态的真实系统时表达能力严重不足。

近年来引入的生成式扩散模型虽然显著提升了样本分布拟合能力，但其生成机制无法提供校准的条件强度函数，导致时空点过程最核心的瞬时风险量化能力丢失。更为关键的是，绝大多数现有模型均严格局限于单向自回归（从前向后逐点预测）的范式，当遇到初始事件溯源逆向推断、历史缺失事件补全、部分时空轨迹重建等实际任务时，往往因缺乏双向或任意条件生成机制而彻底失效。

为了打破“强假设可算强度但表达力弱”与“扩散生成灵活却不可算强度且仅限自回归”的双重困境，本文提出了全新的分层流匹配范式。核心 idea：通过时间流与条件空间流的分层解耦，借助一维常微分方程保序性精确闭式解析边缘时间累积分布与瞬时风险，并结合混合掩码机制统一自回归预测、任意条件反演与整段轨迹重建。

方法详解¶

整体框架¶

ARCH 采用“历史编码器 - 生成解码器”的双路分层流匹配架构，处理时空事件序列 \(\Gamma=[(s_1,\mathbf{x}_1),\ldots,(s_N,\mathbf{x}_N)]\)，其中 \(s_n \in \mathbb{R}_{+}\) 为时间戳，\(\mathbf{x}_n \in \mathbb{R}^{d}\) 为空间坐标。ARCH 并没有将时间和空间坐标拼接成一个不可积的高维统一步长流，而是将其联合概率密度分解为边缘时间分布与条件空间分布：

\[p(s, \mathbf{x} \mid \mathcal{H}) = p(s \mid \mathcal{H}) \, p(\mathbf{x} \mid s, \mathcal{H})\]

基于这一分解，模型包含时间流 \(\mathcal{G}_1\) 与空间流 \(\mathcal{G}_2\) 两个核心生成组件。在训练阶段，自回归掩码、随机条件掩码和连续块掩码协同作用于 Transformer 编码器与解码器之间；在推断阶段，模型利用解耦结构实现瞬时条件强度的精确数值积分与任意掩码模式下的连续轨迹传输。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    In["输入时空事件序列<br/>时间戳 s 与空间坐标 x"] --> Enc["Transformer 历史编码器<br/>交叉自注意力融合表征"]
    Enc --> MTrain["混合掩码训练策略<br/>自回归 / 随机条件 / 连续块掩码"]
    MTrain --> TFlow["分层流匹配解耦：时间流 G1<br/>生成对数时间间隔 Δs"]
    TFlow --> SFlow["分层流匹配解耦：空间流 G2<br/>时间条件引导的空间坐标 x 生成"]
    TFlow --> Hazard["基于保序 ODE 的条件强度闭式求解<br/>Picard-Lindelöf 保序性质与伴随对数散度"]
    SFlow --> Hazard
    SFlow --> Out["多任务统一推断输出<br/>前向预测 / 逆向反演 / 轨迹恢复"]
    Hazard --> Out

关键设计¶

1. 分层流匹配解耦：消除高维非闭式边缘积分计算瓶颈 常规生成式时空模型若直接用单流生成 \((s,\mathbf{x})\)，在计算瞬时条件强度 \(\lambda(s,\mathbf{x}\mid\mathcal{H}) = \frac{p(s,\mathbf{x}\mid\mathcal{H})}{1 - F_S(s\mid\mathcal{H})}\) 时，时间边缘累积分布函数 \(F_S(s\mid\mathcal{H}) = \int_{\Omega \cap (s_M, s] \times \mathbb{R}^d} p(\tau, \mathbf{x} \mid \mathcal{H}) \, d\tau d\mathbf{x}\) 必须在 \((d+1)\) 维连续时空域上做全域数值积分。该积分没有解析解，蒙特卡洛积分开销巨大且伴随严重逼近误差。ARCH 将生成过程严格分层：由流 \(\mathcal{G}_1\) 建立历史条件到时间间隔的概率测度输运 \(p(s\mid\mathcal{H})\)，由流 \(\mathcal{G}_2\) 建立以生成时间 \(s\) 与历史 \(\mathcal{H}\) 共同为条件的空间向量场 \(\mathbf{v}_{\Theta_2}(\mathbf{x}(t), t \mid \mathcal{H}, s)\)。从而将复杂时空全强度严格因式分解为 \(\lambda(s,\mathbf{x}\mid\mathcal{H}) = \lambda(s\mid\mathcal{H})\,p(\mathbf{x}\mid s,\mathcal{H})\)，使时间和空间维度的测度变换完全解耦独立计算。

2. 基于保序 ODE 的条件强度闭式求解：实现瞬时事件风险精确解析 为解决时间边缘累积分布 \(F_S(s\mid\mathcal{H})\) 的高效求解问题，本文在引理 3.1 中证明了基于 Picard–Lindelöf 定理的一维常微分方程保序性质：对于一维 ODE \(\frac{ds}{dt} = v(s(t), t)\)，其解轨迹所对应的累积分布函数沿积分时间是恒定不变的，即 \(F_t(s(t)) = F_0(s(0))\)。由于源分布 \(p_0\) 选为标准一维正态分布，其累积分布函数 \(F_0\) 存在极其高效精确的解析误差函数表示。求解时只需将目标时间值 \(s_{\text{val}}\) 沿反向 ODE 积分至 \(t=0\) 获得初始噪声 \(s(0)\)，即可直接获得 \(F_S(s_{\text{val}}\mid\mathcal{H}) = \Phi(s(0))\)，彻底免除了数值积分。同时，对于条件空间密度 \(p(\mathbf{x}\mid s,\mathcal{H})\)，通过联立反向向量场与伴随散度方程 \(\frac{d}{dt}\log p(\mathbf{x}(t)\mid s,\mathcal{H}) = -\nabla \cdot \mathbf{v}_{\Theta_2}(\mathbf{x}(t),t\mid\mathcal{H},s)\) 进行伴随状态求解，相较于传统扩散模型无法求出显式似然的缺陷，ARCH 能够高保真恢复瞬时风险场。

3. 混合掩码训练策略：统一前向外推、逆向归因与区间补全 针对既有时空模型只支持单向因果生成、无法处理任意位置缺测的问题，ARCH 设计了三种互补的注意力掩码策略：自回归掩码（Autoregressive Mask）在编码端施加因果掩码、解码端仅关注历史 tokens，实现自回归高效并行拟合；随机条件掩码（Random Condition Mask）随机抽取序列中任意二值指示掩码 \(\mathbf{c} \in \{0, 1\}^N\)，条件事件之间进行全局自注意力特征交互，待生成事件通过交叉注意力全向吸收已知事件表征，实现点状属性或离散事件缺失插补；连续块掩码（Consecutive Mask）随机截取一段连续闭区间 \([a, b]\) 置为目标生成项，专门针对突发观测中断引起的轨迹断裂与多步联合长期预测。三种掩码在每个训练批次中独立采样并行回传，使同一套参数直接适配任意给定的观测子集。

损失函数 / 训练策略¶

在训练细节上，时间流 \(\mathcal{G}_1\) 针对连续事件间隔的对数变换值 \(\Delta s_i \mapsto \log(\Delta s_i + \epsilon)\) 构建线性流匹配目标，消除时间绝对原点依赖并压缩长尾间隔；空间流 \(\mathcal{G}_2\) 针对空间位置构建条件向量场回归目标。设采样流时间 \(\tau_1, \tau_2 \sim \text{Uniform}(0, 1)\)，插值状态为 \(\mathcal{S}_{\tau_1} = (1-\tau_1)\mathcal{S}_0 + \tau_1 \mathcal{S}_1\) 与 \(\mathcal{X}_{\tau_2} = (1-\tau_2)\mathcal{X}_0 + \tau_2 \mathcal{X}_1\)。对于给定掩码类型 \(\mathcal{M} \in \{\mathcal{M}_{\text{ar}}, \mathcal{M}_{\text{rc}}, \mathcal{M}_{\text{con}}\}\)，解码器目标损失为：

\[\mathcal{L}_1^{\mathcal{M}} = \|\mathcal{M}^{\text{dec}} \circ (\mathcal{V}_1 - (\mathcal{S}_1 - \mathcal{S}_0))\|^2, \quad \mathcal{L}_2^{\mathcal{M}} = \|\mathcal{M}^{\text{dec}} \circ (\mathcal{V}_2 - (\mathcal{X}_1 - \mathcal{X}_0))\|^2\]

总损失将空间损失赋予权重 1.5（时间损失权重为 1.0），并在三种掩码策略上求和反向传播：\(\mathcal{L}_{\text{total}} = \sum_{\mathcal{M}} (\mathcal{L}_1^{\mathcal{M}} + 1.5\,\mathcal{L}_2^{\mathcal{M}})\)。优化器采用 AdamW，学习率为 \(10^{-3}\)，批大小为 64，常微分方程求解器在推断时采用 10 步 Euler 积分或 DOPRI5 高阶自适应积分。

实验关键数据¶

主实验¶

论文在三个真实世界时空事件基准数据集（日本地震余震 Earthquake、新泽西流行病传播 COVID-19、纽约共享单车出行 Citibike）以及合成点过程上进行了系统评测。

表 1 展示了在合成自激过程（STHP-SYN，加性霍克斯机制）与自校正过程（STSC-SYN，乘性抑制机制）上条件强度的相对 \(L_2\) 误差：

数据集	AutoSTPP	DeepSTPP	NSTPP	ARCH (本文)
STHP-SYN	\(0.572 \pm 0.187\)	\(0.631 \pm 0.126\)	\(0.981 \pm 0.022\)	\(\mathbf{0.458 \pm 0.171}\)
STSC-SYN	\(0.588 \pm 0.153\)	\(0.918 \pm 0.037\)	\(0.819 \pm 0.087\)	\(\mathbf{0.370 \pm 0.132}\)

表 2 展示了下一事件预测任务中空间欧氏距离与时间 RMSE 的对比（均重复 5 次测试）：

数据集	指标	HPP	STHP	NJSDE	NSTPP	DeepSTPP	DSTPP	ARCH (本文)
Earthquake	空间 \(\downarrow\)	9.45	8.35	9.98	8.11	9.20	6.77	\(\mathbf{6.55 \pm 0.022}\)
Earthquake	时间 \(\downarrow\)	0.412	0.424	0.465	0.547	0.341	0.375	\(\mathbf{0.375 \pm 0.001}\)
COVID-19	空间 \(\downarrow\)	0.818	0.422	0.641	0.560	0.687	0.419	\(\mathbf{0.391 \pm 0.000}\)
COVID-19	时间 \(\downarrow\)	0.113	0.100	0.137	0.145	0.197	0.093	\(\mathbf{0.097 \pm 0.000}\)
Citibike	空间 \(\downarrow\)	0.452	0.032	0.707	0.705	0.044	0.031	\(\mathbf{0.031 \pm 0.000}\)
Citibike	时间 \(\downarrow\)	0.239	0.633	0.264	0.355	0.234	0.200	\(\mathbf{0.211 \pm 0.000}\)

表 3 汇总了初始事件逆向推断任务的性能表现（根据后续全部观测反推前 1 或前 2 个事件）：

恢复设置	数据集	KNNImpute (\(k=3\))	KNNImpute (\(k=5\))	KNNImpute (\(k=10\))	ARCH (本文)
恢复第 1 个事件	Earthquake (空间/时间)	11.8 / 0.386	11.0 / 0.414	10.1 / 0.406	\(\mathbf{7.34 \pm 0.021}\) / \(\mathbf{0.304 \pm 0.019}\)
恢复第 1 个事件	COVID-19 (空间/时间)	0.927 / 0.133	0.800 / 0.135	0.710 / 0.142	\(\mathbf{0.478 \pm 0.002}\) / \(\mathbf{0.087 \pm 0.010}\)
恢复第 1 个事件	Citibike (空间/时间)	0.052 / 0.363	0.046 / 0.336	0.042 / 0.299	\(\mathbf{0.033 \pm 0.000}\) / \(\mathbf{0.070 \pm 0.033}\)
恢复前 2 个事件	Earthquake (空间/时间)	12.2 / 0.506	11.3 / 0.518	10.2 / 0.513	\(\mathbf{7.60 \pm 0.022}\) / \(\mathbf{0.471 \pm 0.006}\)
恢复前 2 个事件	COVID-19 (空间/时间)	0.972 / 0.174	0.830 / 0.172	0.723 / 0.173	\(\mathbf{0.464 \pm 0.001}\) / \(\mathbf{0.148 \pm 0.002}\)
恢复前 2 个事件	Citibike (空间/时间)	0.052 / 0.462	0.046 / 0.456	0.042 / 0.456	\(\mathbf{0.033 \pm 0.000}\) / \(\mathbf{0.373 \pm 0.011}\)

消融实验¶

表 4 评估了内部连续轨迹片段缺失恢复（Recovery Length = 5 与 10）：

恢复长度	数据集	KNNImp (\(k=5\))	KNNImp (\(k=10\))	ARCH (本文)	说明
Length = 5	Earthquake (空间/时间)	8.42 / 0.523	8.24 / 0.496	\(\mathbf{7.90 \pm 0.127}\) / \(\mathbf{0.456 \pm 0.010}\)	空间误差降低 4.1%
Length = 5	COVID-19 (空间/时间)	0.518 / 0.179	0.495 / 0.174	\(\mathbf{0.467 \pm 0.007}\) / \(\mathbf{0.173 \pm 0.008}\)	时空双项领先
Length = 5	Citibike (空间/时间)	0.035 / 0.182	0.034 / 0.174	\(\mathbf{0.031 \pm 0.000}\) / \(0.176 \pm 0.005\)	空间占优，时间相当
Length = 10	Earthquake (空间/时间)	8.53 / 0.518	8.25 / 0.494	\(\mathbf{7.75 \pm 0.060}\) / \(\mathbf{0.458 \pm 0.008}\)	长轨迹下优势扩大
Length = 10	COVID-19 (空间/时间)	0.510 / 0.204	0.490 / 0.198	\(\mathbf{0.462 \pm 0.006}\) / \(\mathbf{0.183 \pm 0.006}\)	显著超越经典补全
Length = 10	Citibike (空间/时间)	0.035 / 0.182	0.034 / 0.169	\(\mathbf{0.031 \pm 0.000}\) / \(\mathbf{0.156 \pm 0.004}\)	相对误差降低超 7.6%

表 5 针对未来多步连续轨迹预测（Length = 5 与 10），对比了逐点自回归扩散模型 DSTPP、ARCH 的自回归推断变体 ARCH-AR 以及 ARCH 的并行联合预测：

预测长度	评估指标	DSTPP (自回归扩散)	ARCH-AR (自回归变体)	ARCH (联合预测)
Length = 5	Earthquake (空间/时间)	10.8 / 0.573	8.74 / 0.420	\(\mathbf{8.73 \pm 0.042}\) / \(\mathbf{0.416 \pm 0.002}\)
Length = 5	Citibike (空间/时间)	0.045 / 1.054	0.032 / 0.935	\(\mathbf{0.032 \pm 0.000}\) / \(\mathbf{0.910 \pm 0.008}\)
Length = 10	Earthquake (空间/时间)	11.1 / 0.589	8.76 / 0.463	\(\mathbf{8.74 \pm 0.054}\) / \(\mathbf{0.465 \pm 0.006}\)
Length = 10	Citibike (空间/时间)	0.045 / 0.844	0.032 / 0.695	\(\mathbf{0.032 \pm 0.000}\) / \(\mathbf{0.626 \pm 0.008}\)

关键发现¶

复杂非线性强度恢复卓越：在具有乘性抑制特性的 STSC-SYN 数据集上，现有加性参数化模型（DeepSTPP、AutoSTPP）因为模型结构误设导致拟合崩溃（\(L_2\) 误差高达 0.918 与 0.588），而 ARCH 取得 0.370 的超低误差，证明其能跨越激励-抑制双重动态模式。
长程轨迹重建更具韧性：在轨迹缺失补全实验中，当缺失长度从 5 增加到 10 时，传统 KNNImpute 的性能严重退化，而 ARCH 在所有数据集上的相对领先优势持续扩大，印证了混合连续块掩码让模型习得了全局时空物理动力学约束。
并行联合生成匹敌自回归且大幅提速：表 5 表明，ARCH 的单次多步联合解码相比逐点迭代生成的 ARCH-AR 不仅耗时大幅降低，在时间预测精度上甚至略优（Citibike Length=10 从 0.695 提升到 0.626），彻底打破了以往必须严格依赖逐点滚动生成的算力瓶颈。

亮点与洞察¶

一维 ODE 保序性与闭式风险计算的数学结合：巧妙借助 Picard–Lindelöf 定理的一维严格单调性，将难以计算的高维时空条件强度累积分布转换成一维标准高斯噪声空间求积分，以常数级计算复杂度解决了点过程领域长期的瞬时强度解析难题。
混合掩码策略实现“一模多能”：将 NLP 中的因果自回归掩码、MAE 风格的随机遮盖掩码与时空断裂特有的连续块掩码融合，避免了针对预测、插补、归因分别训练专有模型的碎片化范式。
连续时间流赋能非自回归联合多步预测：摆脱了以往扩散点过程逐点循环采样的累积误差与速度瓶颈，为高维连续时空系统的大规模预训练模型构建提供了行之有效的架构范例。

局限与展望¶

预设事件数量假设限制动态开放场景：当前框架假设待推断或待生成的事件数量（token 长度）提前已知，无法自适应推断特定时间窗口内未知事件的涌现数量，需结合非齐次泊松抽样或可变长停止机制。
归纳偏置较弱导致极端稀疏数据依赖样本量：由于流匹配模型没有显式引入重力距离衰减或物理动力学微分方程等强先验，在极度稀疏、少样本的突发事件场景下可能需要更多预训练数据支撑。
离散属性与类别扩展待探索：目前主要聚焦于连续时间和低维欧氏空间坐标，未将多类别标记（Marked Point Process）或离散文本属性深度集成到流匹配向量场中。

评分¶

新颖性: ⭐⭐⭐⭐⭐ 巧妙利用分层流匹配与一维 ODE 保序性化解了时空点过程强度积分难题，并以混合掩码打通全域推断。
实验充分度: ⭐⭐⭐⭐⭐ 覆盖合成过程强度恢复、下一事件预测、逆向归因、随机插补、轨迹恢复与长期外推，数据详实完备。
写作质量: ⭐⭐⭐⭐⭐ 理论证明（Picard–Lindelöf 及其引理）与系统实现结构清晰严谨，逻辑链路极为流畅。
价值: ⭐⭐⭐⭐⭐ 为时空系统建模从受限自回归转向通用基础模型（Foundation Model）提供了坚实的数学与架构基石。