可微系统重采样变分序贯蒙特卡洛（Differentiable Systematic Resampling for Variational Sequential Monte Carlo）¶
会议: NeurIPS 2026
arXiv: 2610.12094
代码: https://github.com/fcumlin/differentiable-systematic-resampling.git
领域: 优化/理论
关键词: 序贯蒙特卡洛, 变分推断, 可微重采样, 系统重采样, 状态空间模型
一句话总结¶
针对变分序贯蒙特卡洛（VSMC）中系统重采样离散不可微、阻塞端到端梯度反向传播的瓶颈，提出可微系统重采样（DSR），通过平滑累积分布函数（CDF）阶跃指示函数并结合莫顿空间填充曲线排序，在保留低方差带状结构的同时实现了完全可微与指数级收敛。
研究背景与动机¶
序贯蒙特卡洛（SMC）或粒子滤波（PF）是非线性非高斯动态系统下贝叶斯状态估计的黄金标准，但在机器人、计量经济学与计算机视觉等众多现实场景中，真实系统的转移模型通常未知或难以解析指定。变分序贯蒙特卡洛（VSMC）通过最大化边缘似然的代理证据下界（surrogate ELBO），利用基于梯度的优化方法端到端联合学习参数化转移模型与提议分布。然而，粒子滤波为缓解权重退化所必须的重采样步骤本质上是离散的祖先索引分配，使得目标函数梯度包含重参数化项与得分函数项；实践中因得分函数项方差极大而被直接丢弃，导致梯度无法流经重采样决策本身，在权重高度集中时严重阻碍模型参数的学习。
为了让重采样过程可微，现有方案主要沿两条路线探索：其一是软多项式重采样（Soft Multinomial Resampling），虽然通过混合均匀分布平滑了采样并调整权重梯度，但其基线是统计方差本身就显著劣于系统重采样的多项式重采样；其二是基于熵正则化最优传输（EROT）的重采样，将重采样重构为最优传输问题，但其高度依赖迭代式 Sinkhorn 求解器，单步复杂度达 \(\mathcal{O}(N^2)\) 且需沿时间反向传播展开循环，不仅带来两倍以上的计算与显存开销，更会在实用正则化强度下生成高度弥散的传输矩阵，破坏了系统重采样原有的稀疏与局部几何特性。
系统重采样凭借单次均匀偏移量采样的梳状结构和极低的估计方差，在推断时被公认为事实标准，但其对经验 CDF 的离散硬阈值切分阻断了梯度。核心 idea：直接对系统重采样的 CDF 阶跃指示函数进行 Sigmoid 温度平滑松弛，保留梳状等距结构与 CDF 带状拓扑，并辅以莫顿空间填充曲线排序以保证空间邻近粒子的软混合，实现兼具指数收敛性与极低计算开销的端到端可微系统重采样。
方法详解¶
整体框架¶
在状态空间模型中，VSMC 在每个时刻 \(t\) 依据提议分布采样粒子并计算归一化重要性权重 \(w_t^{(i)}\)。传统系统重采样计算累积分布函数 \(F_i = \sum_{k=1}^i w_k\)，仅从均匀分布采样单个随机偏移量 \(u_0 \sim \mathcal{U}(0, 1/N)\)，构造确定性梳状采样点 \(u_j = u_0 + (j-1)/N\)，并依指示函数 \(A_{ij} = \mathbb{I}(F_{i-1} < u_j \le F_i)\) 确定祖先索引。DSR 完整保留这唯一的随机扰动 \(u_0\) 与梳状采样点，仅将离散的区间包含指示函数转化为可微的 Sigmoid 差分形式，生成软分配权重并归一化为连续传输矩阵，从而让粒子状态变成祖先粒子的凸组合。
为避免高维空间中距离遥远的粒子仅因索引相近而在软混合时产生不合理虚假插值，DSR 在构建 CDF 之前先利用莫顿空间填充曲线（Morton Curve / Z-order）对多维粒子进行空间局部性重排。整个流水线包含莫顿曲线量化排序、经验累积分布函数构建、单偏移梳状评估点生成、Sigmoid 差分软分配计算及按列归一化凸组合输出，整体流程如下所示：
%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
A["输入粒子集合与归一化权重"] --> B["莫顿空间填充曲线排序<br/>高维坐标二进制交错映射"]
B --> C["构建经验CDF与生成梳状采样点<br/>单随机偏移量 u0 展开等距梳点"]
C --> D["Sigmoid 双差分软区间分配<br/>显式逼近阶跃指示函数"]
D --> E["列归一化生成传输矩阵并凸组合更新<br/>无迭代求解且梯度完全直通"]关键设计¶
1. 双 Sigmoid 差分软分配：保持系统重采样梳状拓扑与可微性
传统重采样将离散硬阈值作为截断，即当且仅当 \(F_{i-1} < u_j \le F_i\) 时第 \(j\) 个新粒子选自祖先 \(i\)。DSR 将这一阶跃指示函数转化为伸缩差分 \(\mathbb{I}(F_{i-1} < u \le F_i) = \mathbb{I}(u > F_{i-1}) - \mathbb{I}(u > F_i)\)，并用温度参数 \(\tau > 0\) 控制的标准 Sigmoid 函数 \(\sigma(x) = (1 + e^{-x})^{-1}\) 代替单位阶跃： $\(s_i(u_j; \tau) = \sigma\left(\frac{u_j - F_{i-1}}{\tau}\right) - \sigma\left(\frac{u_j - F_i}{\tau}\right)\)$ 边界条件约定 \(F_0 = 0, F_N = 1\)。由于有限温度 \(\tau\) 下各行之和不严格恒等于 1，通过列归一化构建传输矩阵 \(T_{ij}^{(\tau)} = s_i(u_j; \tau) / \sum_{k=1}^N s_k(u_j; \tau)\)，新粒子表示为祖先粒子的凸组合 \(\tilde{\mathbf{x}}_j^{(\tau)} = \sum_{i=1}^N T_{ij}^{(\tau)} \mathbf{x}_i\)。该设计避免了 EROT 的 Sinkhorn 迭代，单次矩阵前向即可完成，且原生继承了系统重采样的带状稀疏结构。
2. 莫顿空间填充曲线排序：保护空间局部性与抑制多模态伪混合
DSR 的软分配依赖于经验 CDF 的一维排布，若粒子按随机顺序排列，CDF 上的相邻粒子在原高维物理状态空间中可能相距极远，有限温度下的软混合便会在不相干的粒子间插值，导致虚假粒子生成。DSR 引入基于 \(b\) 位分辨率的莫顿空间填充曲线（Morton Sort）：对粒子各维度做网格整数归一化后，将二进制位在多维度间按比特交错拼接为单字整数索引 \(z_i\)，并依据 \(z_i\) 升序排列粒子及对应权重。在单峰及多峰后验分布下，空间临近的粒子被紧密排布在 CDF 的相邻区间，使得带状传输矩阵主要在物理近邻粒子之间发生软过渡，极大减少了跨模态的质心漂移。
3. 指数级逼近与梯度方差权衡理论保障
DSR 不仅在极限 \(\tau \to 0^+\) 下几乎必然逐点收敛至确定性硬系统重采样（\(T_{ij}^{(\tau)} \to \mathbb{I}(i = a_j^*)\) 且 \(\tilde{\mathbf{x}}_j^{(\tau)} \to \mathbf{x}_{a_j^*}\)），而且具备严格的逼近误差上界。令粒子直径为 \(D = \sup_{i,k} \|\mathbf{x}_i - \mathbf{x}_k\|_2\)，采样点 \(u_j\) 到最近 CDF 分界点的裕度为 \(\Delta_j = \min\{u_j - F_{a_j^*-1}, F_{a_j^*} - u_j\} > 0\)（几乎必然成立），则当 \(\tau \le \Delta_j / \ln 4\) 时，逼近误差满足指数衰减上界： $\(\|\tilde{\mathbf{x}}_j^{(\tau)} - \mathbf{x}_{a_j^*}\|_2 \le 2 D N \exp\left(-\frac{\Delta_j}{\tau}\right)\)$ 理论表明，\(\tau\) 直接调控了梯度流大小与逼近偏差之间的权衡：过小的 \(\tau\)（如 0.01）会导致 Sigmoid 导数按 \(\mathcal{O}(1/\tau)\) 尺度爆炸、优化不稳定；而适中的 \(\tau = 0.1\) 既能维持极高的有效稀疏性与空间一致性，又能显著降低反向传播的梯度范数方差。
损失函数 / 训练策略¶
在 VSMC 框架下，模型联合优化参数化转移模型 \(p_{\boldsymbol{\phi}}(\mathbf{x}_t | \mathbf{x}_{t-1})\) 和提议分布 \(q_{\boldsymbol{\theta}}(\mathbf{x}_t | \mathbf{x}_{t-1}, \mathbf{y}_t)\)。训练目标为最大化代理证据下界： $\(\mathcal{L}(\boldsymbol{\theta}, \boldsymbol{\phi}) = \mathbb{E}\left[ \sum_{t=1}^T \log\left(\frac{1}{N} \sum_{i=1}^N w_t^{(i)}\right) \right]\)$ 在反向传播中，传统硬重采样将梯度截断为纯重参数化梯度 \(g_{\mathrm{rep}}\) 并丢弃祖先变量的得分函数梯度 \(g_{\mathrm{score}}\)。DSR 通过平滑的 \(T^{(\tau)}\) 使整个滤波递归链条全局可微，\(g_{\mathrm{rep}}\) 直接端到端流经所有重采样矩阵。为避免数值溢出与梯度爆炸，训练采用全局梯度裁剪（范数阈值 5.0），并在对数似然估计过低时设置下限截断（10 dB SMNR 下截断至 -50，0 dB SMNR 下截断至 -100）。温度在所有主实验中默认固定为 \(\tau = 0.1\)，同时实验表明线性退火策略（例如从 1.0 平滑退火至 0.1）可进一步稳定训练。
实验关键数据¶
主实验¶
论文在经典混沌动态系统 Lorenz-63（带有非线性 2D 相机高斯点扩散测量模型）及真实手写轨迹数据集 CharacterTrajectories 上进行了全面评估，对比了硬系统重采样（Hard）、软多项式重采样（Soft）和熵正则化最优传输（EROT，\(\varepsilon=0.5\) 且 100 次 Sinkhorn 迭代）。状态估计在测试时统一使用标准硬系统重采样（\(N=1000\)）。
Lorenz-63 混沌系统实验对比¶
| 会议与任务 | 评价指标 | Hard (基线) | Soft | EROT | DSR (本文) |
|---|---|---|---|---|---|
| Lorenz-63 (10 dB SMNR) | 状态估计 NMSE (dB) ↓ | -28.86 ± 0.41 | -27.82 ± 0.45 | -28.76 ± 0.31 | -29.94 ± 0.28 |
| Lorenz-63 (10 dB SMNR) | 单步转移 MSE ↓ | 0.55 ± 0.19 | 0.86 ± 0.49 | 0.56 ± 0.24 | 0.47 ± 0.24 |
| Lorenz-63 (10 dB SMNR) | 5步转移 MSE-5-step ↓ | 5.50 ± 3.68 | 6.45 ± 3.92 | 3.39 ± 2.59 | 3.38 ± 2.11 |
| Lorenz-63 (10 dB SMNR) | 转移对数似然 LL ↑ | -2.26 ± 0.25 | -2.55 ± 0.48 | -2.32 ± 0.20 | -1.98 ± 0.27 |
| Lorenz-63 (10 dB SMNR) | 转移KL散度 KLD ↓ | 5.41 ± 1.47 | 6.90 ± 2.43 | 5.74 ± 1.03 | 3.60 ± 1.04 |
| Lorenz-63 (0 dB SMNR) | 状态估计 NMSE (dB) ↓ | -11.73 ± 1.75 | -11.69 ± 1.65 | -12.57 ± 1.64 | -18.28 ± 0.46 |
| Lorenz-63 (0 dB SMNR) | 5步转移 MSE-5-step ↓ | 9.64 ± 13.71 | 8.19 ± 6.47 | 48.41 ± 60.72 | 3.70 ± 2.87 |
在极高测量噪声的 0 dB SMNR 恶劣场景下，粒子权重高度集中，传统可微基准（EROT）发生严重失真与退化（MSE-5-step 达 48.41），而 DSR 在 NMSE 上大幅超出次优方法 5.71 dB，展现出卓越的学习稳定性。
真实手写轨迹 CharacterTrajectories 实验对比¶
| 数据集环境 | 评价指标 | Hard (基线) | Soft | EROT | DSR (本文) |
|---|---|---|---|---|---|
| Character (10 dB SMNR) | NMSE (dB) ↓ | -14.65 ± 0.20 | -14.69 ± 0.29 | -14.88 ± 0.17 | -15.21 ± 0.15 |
| Character (0 dB SMNR) | NMSE (dB) ↓ | -7.66 ± 0.35 | -7.08 ± 1.12 | -7.77 ± 1.26 | -8.59 ± 0.22 |
在真实高频笔尖轨迹数据中，DSR 在 0 dB SMNR 下比 EROT 进一步降低了 0.82 dB（均方误差 MSE 相对减少 21%），证明在真实物理动态学习中保持清晰的梯度流至关重要。
消融实验¶
粒子规模扩展性与显存/稳定性消融（Lorenz-63, 10 dB SMNR）¶
| 粒子数 \(N\) | 评估指标 | Hard | Soft | EROT | DSR (本文) |
|---|---|---|---|---|---|
| \(N = 25\) | NMSE (dB) ↓ | -28.86 ± 0.41 | -27.82 ± 0.45 | -28.76 ± 0.31 | -29.94 ± 0.28 |
| \(N = 50\) | NMSE (dB) ↓ | -28.30 ± 0.88 | -28.30 ± 0.97 | -27.91 ± 0.39 | -30.34 ± 0.28 |
| \(N = 100\) | NMSE (dB) ↓ | -28.34 ± 0.48 | -28.93 ± 0.30 | -27.55 ± 0.92 | -30.42 ± 0.20 |
| \(N = 200\) | NMSE (dB) ↓ | -20.42 ± 7.29 | -21.52 ± 12.20 | OOM (显存溢出) | -30.35 ± 0.22 |
训练耗时与单轮开销对比（Lorenz-63, NVIDIA T4 GPU）¶
| 重采样方案 | 训练总时长 (小时) ↓ | 每轮耗时 Time/epoch (秒) ↓ | 相对 Hard 额外开销 |
|---|---|---|---|
| Hard (硬重采样，非可微) | 2.49 ± 0.15 | 17.94 ± 1.11 | 基准 (0%) |
| DSR (本文方法) | 2.55 ± 0.02 | 18.39 ± 0.16 | 仅增加 +2.5% 单轮耗时 (+9.6% 总时长) |
| Soft (软多项式) | 4.33 ± 0.05 | 31.16 ± 0.39 | 增加 +73.7% |
| EROT (最优传输，100 次 Sinkhorn) | 5.96 ± 0.11 | 42.94 ± 0.77 | 增加 +139.4% (慢 2.3 倍以上) |
关键发现¶
- 大粒子规模扩展鲁棒性：当粒子数增至 \(N=200\) 时，Hard 与 Soft 因梯度丢失或数值缩放失衡出现灾难性训练震荡（方差超 7~12 dB）；EROT 因 100 次迭代反向求导消耗巨大计算图导致显存崩溃（OOM）；DSR 是唯一在 \(N=200\) 下依然保持高度平稳且维持 -30.35 dB 优异 NMSE 的方案。
- 计算开销极低：DSR 规避了耗时的迭代优化算法，仅通过简单的广播矩阵运算实现前向与后向传递，每轮用时仅 18.39 秒，训练效率比 EROT 提升超两倍，几乎与不可微的硬采样同样快速。
- 极佳的梯度范数稳定性：在梯度范数监控中，Hard 与 EROT 的梯度范数平均高达 \(1.5\times 10^4 \sim 1.7\times 10^4\)，而 DSR 的梯度范数稳定在 4,504，批次间标准差从 \(1.7\times 10^4\) 锐减至 2,720，为动态模型的收敛创造了极其平滑的损失曲面。
亮点与洞察¶
- 将 CDF 离散阈值化解构为双 Sigmoid 平滑差分：巧妙地将离散区间指示函数拆为两个阶跃函数的差分，从而利用温度 Sigmoid 自然完成可微化，完美保留了系统重采样原有的确定性梳状采样网格与带状传输稀疏性。
- 无求解器（Solver-free）的闭式可微传输：与主流依赖 Sinkhorn 迭代展开的最优传输方案相比，DSR 具有封闭形式的向量化计算流，既降低了时空复杂度，又彻底摆脱了迭代反向传播累积的显存开销。
- 莫顿曲线赋能一维统计量空间保真度：将计算机图形学中的空间填充曲线引入序列蒙特卡洛，有效解决了 CDF 标量化过程中多维空间几何邻近性丢失的根本痛点。
局限与展望¶
- 凸组合导致的模态间伪质量注入：在强多峰后验分布下，有限温度下的凸组合必然会在分离的模态中间区域产生少量的插值质量（虽然莫顿排序使其显著优于无序情况，但仍有约 0.28 的质量落在模态间）。
- 非自适应温度超参数：实验中 \(\tau=0.1\) 虽具备高度通用性，但更精细的退火调度或依据粒子集中度自适应调节的温度策略仍待进一步形式化探索。
- 高维极端发散场景：随着状态维度大幅攀升，空间填充曲线的局部保持能力会出现理论稀释，未来可探索局部聚类与自适应投影结合的混合排序策略。
相关工作与启发¶
- vs Hard Systematic Resampling (Jonschkowski et al., 2018): Hard 直接截断祖先分布的梯度流，仅靠重参数化粒子状态传递微弱信号，在噪声极大或粒子数增多时训练极易发散；DSR 实现了全图梯度贯通，优化极其平稳。
- vs Soft Multinomial Resampling (Karkus et al., 2018): Soft 基准建立在方差劣势显著的多项式重采样上，梯度校正项在大样本下数值不稳定；DSR 立足于方差优势明显的系统重采样，方差低两到三个数量级。
- vs EROT (Corenflos et al., 2021): EROT 依赖耗时的 Sinkhorn 循环展开，在大粒子与长时序下引发 OOM，且传输计划过度平滑分散；DSR 为闭式前向，计算快 2.3 倍以上且严格保持带状稀疏拓扑。
评分¶
- 新颖性: ⭐⭐⭐⭐⭐ 巧妙利用双 Sigmoid 差分和莫顿曲线对系统重采样实现高保真闭式连续松弛。
- 实验充分度: ⭐⭐⭐⭐⭐ 涵盖线性高斯解析基准、非线性混沌系统、真实轨迹等多任务，兼顾梯度方差理论与全方位消融。
- 写作质量: ⭐⭐⭐⭐⭐ 理论推导完备，收敛速率证明严密，逻辑推演连贯自然。
- 价值: ⭐⭐⭐⭐⭐ 为基于 VSMC 的非线性动态系统辨识与可微滤波提供了兼具高精度与高效率的通用基础设施。