Metropolis-Adjusted Diffusion Models¶
会议: NeurIPS 2026
arXiv: 2605.09654
OpenReview: https://openreview.net/forum?id=w2X7ALXCZx
领域: 图像生成
关键词: 扩散模型, 预测器-校正器采样, 郎之万动力学, Metropolis-Hastings调整, 伯努利工厂
一句话总结¶
针对基于分数的扩散模型在采样校正阶段无调整郎之万算法（ULA）引入非渐近消失离散化偏差的问题，本文提出 Metropolis 调整扩散模型（MADM），将难以计算的目标密度比转化为分数函数的线积分，并给出了基于双硬币伯努利工厂的严格精确校正算法与单次辛普森积分的高效近似校正方案。
研究背景与动机¶
扩散模型通过前向随机微分方程（SDE）将真实数据分布扰动为高斯先验，并在逆向时间轨迹上通过数值求解反向 SDE 或对应的概率流常微分方程（PF-ODE）生成数据。在实践中，由于逆向积分必须采用离散化步长，单纯的预测器（Predictor）步骤不可避免地累积截断误差，且与分数匹配神经网络的拟合误差相互叠加。为此，经典的预测器-校正器（Predictor-Corrector, PC）架构在每个离散噪声水平引入校正步，利用无调整郎之万算法（Unadjusted Langevin Algorithm, ULA）对当前边际分布进行局部重采样以缓解轨迹漂移。
然而，ULA 本身就是朗之万扩散过程的时间离散化近似，其自身引入了非渐近消失的稳态采样偏差。即使对固定的目标边际分布执行无数步 ULA 校正，其极限分布也与真实目标分布存在稳态偏离。在马尔可夫链蒙特卡洛（MCMC）领域，消除这一离散化偏差的标准范式是通过 Metropolis-Hastings（MH）或 Barker 准则引入接受-拒绝机制，从而构成 Metropolis 调整郎之万算法（MALA）。但将 MALA 直接移植到扩散模型面临本质困难：计算接受概率需要求解候选样本与当前状态之间的目标密度比 \(p_t(\widetilde{\mathbf{x}})/p_t(\mathbf{x})\)，而在扩散模型设定下，该边缘概率密度 \(p_t\) 形式未知且配分函数不可解，模型仅能提供打分函数估计 \(s_\phi(\mathbf{x}, t) \approx \nabla_\mathbf{x} \log p_t(\mathbf{x})\)。
面对目标概率密度比无法显式求解的核心矛盾，本文的切入角度是：根据微积分基本定理，对数密度比可精确恒等重写为两点连线上打分函数的沿线积分（line integral）。本文的核心 idea 是：将扩散模型不可求的密度比转化为分数线积分，进而分别构建基于两硬币伯努利工厂的严格无偏 Barker 接受-拒绝机制，以及基于辛普森 1/3 规则且具备 \(\mathcal{O}(h^{5/2})\) 高阶精度的超轻量级 MH 局部校正器。
方法详解¶
整体框架¶
MADM 的整体采样管线维持了预测器-校正器的交替更新范式。在扩散逆向轨迹的每个时间步 \(t\)，首先由预测器（如 PF-ODE 数值解法器或 DDPM 先验采样器）推动样本从 \(t-\eta\) 移动到当前时间层 \(t\)，生成初始候选状态 \(\mathbf{x}_t^{(0)}\)。随后，MADM 启动校正循环：以当前状态出发，沿带噪边际分布 \(p_t\) 的分数场构造单步郎之万提议 \(\widetilde{\mathbf{x}}\)；紧接着，算法利用打分函数估算两点间的对数密度比线积分，输入接受-拒绝判决模块，若接受则转移至新状态，若拒绝则保留原状态。
%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
A["输入：时间步当前采样点 x"] --> B["阶段1：分数驱动线积分恒等变换<br/>将不可计算密度比转为分数沿线积分"]
B --> C["阶段2：两硬币伯努利工厂精确校正<br/>泊松截断幂级数生成无偏 Barker 硬币"]
B --> D["阶段3：辛普森规则五阶轻量近似<br/>仅需一次中点打分估算 MH 接受率"]
C -->|判定接受| E["输出：精确修正偏差后的无偏样本 x*"]
C -->|判定拒绝| F["输出：保持当前状态不变"]
D -->|判定接受| E
D -->|判定拒绝| F关键设计¶
1. 分数驱动线积分恒等变换：将不可解目标密度比转化为一维参数积分 经典 MCMC 的接受概率依赖转移核之比与目标密度之比的乘积。对于郎之万高斯提议核 \(q(\widetilde{\mathbf{x}} \mid \mathbf{x}) = \mathcal{N}(\widetilde{\mathbf{x}}; \mathbf{x} + \frac{h}{2} s(\mathbf{x}, t), h \mathbf{I})\)，其转移密度比 \(H_t(\mathbf{x}, \widetilde{\mathbf{x}}) = q(\mathbf{x} \mid \widetilde{\mathbf{x}}) / q(\widetilde{\mathbf{x}} \mid \mathbf{x})\) 可以由两端打分直接求出高斯指数范数。针对完全未知的目标密度比 \(r_{p_t}(\mathbf{x}, \widetilde{\mathbf{x}}) = p_t(\widetilde{\mathbf{x}}) / p_t(\mathbf{x})\)，本文利用光滑密度沿线积分的微积分基本定理，将其对数值转化为沿直线路径 \(u \mapsto \mathbf{x} + u(\widetilde{\mathbf{x}} - \mathbf{x})\)（\(u \in [0, 1]\)）的一维定积分：
这一变换使得直接从打分模型 \(s(\cdot, t)\) 计算或估计密度比成为可能，彻底打破了传统扩散模型校正中因配分函数未知而必须放弃精确调整的理论死锁。
2. 两硬币伯努利工厂精确校正：无需密度求值的严格无偏 MCMC 机制 由于上述线积分位于指数内部，若直接对一维均匀随机变量采样 \(U \sim \mathcal{U}[0, 1]\) 计算打分内积，虽然该随机变量是一维定积分的无偏估计，但对其取指数会带来不可消除的凸性 Jensen 偏差，且无法直接作为伯努利试验成功概率。为此，论文引入伯努利工厂理论。在假设线段上内积存在有界常数 \(|\langle s(\mathbf{x} + u(\widetilde{\mathbf{x}} - \mathbf{x}), t), \widetilde{\mathbf{x}} - \mathbf{x} \rangle| \le C(\mathbf{x}, \widetilde{\mathbf{x}})\) 的前提下，采样泊松随机变量 \(N \sim \mathrm{Poisson}(2C)\)，并构造 \(N\) 个独立随机采样点 \(I_j\) 的乘积估计量：
数学上证明了 \(W \in [0, 1]\) 且其数学期望精确满足 \(\mathbb{E}[W] = \mathrm{e}^{-C} r_{p_t}\)。随后，算法构造一个以 \(\alpha' = (1 + H_t \mathrm{e}^C)^{-1}\) 为即时拒绝概率、以 \((1 - \alpha') W\) 为接受判决的两硬币重试循环。外层几何序列累加后，最终候选状态被接受的边缘概率严格等于 Barker 接受率 \(\alpha_{\mathrm{B}}(\mathbf{x}, \widetilde{\mathbf{x}}) = \frac{H_t r_{p_t}}{1 + H_t r_{p_t}}\)。这在数学上首次实现了无目标显式密度情形下的严格无偏扩散郎之万校正，其马尔可夫链以 \(p_t\) 为不变测度且在总变差范数下收敛。
3. 辛普森规则五阶轻量近似：近乎零额外开销的高阶确定性 MH 校正 尽管两硬币伯努利工厂在理论上具备严格精确性，但其泊松采样的打分评估次数是随机变量，在高维图像生成中计算开销较大。本文进一步提出了基于 Newton-Cotes 求积公式的确定性近似。不同于传统梯形法则仅在端点插值导致 \(\mathcal{O}(h^{3/2})\) 误差，本文采用辛普森 1/3 规则（Simpson's 1/3 rule），引入位移中点 \(\mathbf{x}_{\mathrm{mid}} = \frac{1}{2}(\mathbf{x} + \widetilde{\mathbf{x}})\)：
由于郎之万位移范数 \(\|\widetilde{\mathbf{x}} - \mathbf{x}\| = \mathcal{O}(h^{1/2})\)，辛普森求积误差由被积函数的四阶 Fréchet 导数控制，截断误差达到 \(\mathcal{O}(h^{5/2})\)。在计算开销上，起点打分 \(s(\mathbf{x}, t)\) 已在构造提议时计算，提议点打分 \(s(\widetilde{\mathbf{x}}, t)\) 也可直接缓存为下一步或后验比率所用，因此整个 MH 调整在每次提议中仅需额外评估一次中点打分 \(s(\mathbf{x}_{\mathrm{mid}}, t)\)，便能以极高精度逼近标准 Metropolis-Hastings 接受率 \(\widehat{\alpha} = \min\{1, \exp(\widehat{I}) H_t\}\)。
4. 高维渐近最优步长缩放准则：理论推导与接收率指导 为了最大化稳态扩散校正的探索效率，论文在多元高斯目标及精确分数假设下，推导了 Barker 调整扩散采样器的最优标度律（Optimal Scaling）。通过将步长参数化为 \(h = \ell^2 d^{-1/3}\)，并最大化稳态下的期望跳跃方差（Expected Squared Jumping Distance, ESJD），证明当维度 \(d \to \infty\) 时，对数接受比渐近服从正态分布 \(W_d \xrightarrow{\mathcal{D}} \mathcal{N}(-\sigma^2/2, \sigma^2)\)（其中 \(\sigma^2 = \ell^6 / 16\)）。数值积分求解极限 ESJD 曲线得出，最优稳态接受率渐近收敛于 0.347。这为高维图像生成中郎之万校正步长 \(h\) 的超参数调节提供了严格且可落地的理论启发式基准（即调整步长使得经验接受率维持在约三分之一）。
实验关键数据¶
主实验¶
在图像生成实验中，作者基于 Karras et al. (2022)（EDM）的预训练模型（Config F），以概率流常微分方程（PF-ODE）为预测器，分别评估了在二阶 Heun 解法器与一阶 Euler 解法器下加入单步辛普森 MADM 校正前后的生成质量（FID 指标基于 50,000 张采样样本计算，数值越低越好）：
| 数据集 | 预测器数值解法器 | 基线采样器 (PF-ODE) FID | 本文方法 (PF-ODE + MADM) FID | 绝对改善幅度 (FID) |
|---|---|---|---|---|
| CIFAR-10 (32x32) | Heun (18 步) | 1.96 | 1.95 | -0.01 |
| CIFAR-10 (32x32) | Euler (18 步) | 7.62 | 7.52 | -0.10 |
| FFHQ (64x64) | Heun (40 步) | 2.47 | 2.43 | -0.04 |
| FFHQ (64x64) | Euler (40 步) | 4.59 | 4.52 | -0.07 |
| AFHQv2 (64x64) | Heun (40 步) | 2.04 | 2.03 | -0.01 |
| AFHQv2 (64x64) | Euler (40 步) | 2.93 | 2.91 | -0.02 |
| ImageNet-64 (条件生成) | Heun (256 步) | 2.32 | 2.15 | -0.17 |
| ImageNet-64 (条件生成) | Euler (256 步) | 2.41 | 2.25 | -0.16 |
消融实验¶
在合成二维复杂分布（Spiral, Funnel, Sierpinski Triangle, Pinwheel）及高阶积分近似下，对比了不同校正器配置与积分估计器的性质表现：
| 算法配置 / 估计器方案 | 偏差性质 (Bias) | 方差与单步打分开销 | 二维样本支集表现 / 截断误差阶数 |
|---|---|---|---|
| 纯 DDPM 先验采样 (带隐式 ULA) | 存在非消失离散偏差 | 无需额外评估，固定开销 | 样本产生大量脱离流形的数据孤点与虚假支持 |
| 梯形求积 MH 校正 (Trapezoidal Rule) | 有偏 (Biased) | 零额外开销 (端点复用) | 截断误差为 \(\mathcal{O}(h^{3/2})\)，高曲率区域精度欠佳 |
| 辛普森求积 MH 校正 (Simpson's 1/3) | 有偏 (Biased) | 极低开销 (每次仅 1 次中点打分) | 截断误差达到 \(\mathcal{O}(h^{5/2})\)，有效兼顾高精度与高效 |
| 双硬币伯努利工厂校正 (两硬币 Alg. 2) | 严格无偏 (Exact Unbiased) | 随机查询次数，期望开销依赖 \(\mathrm{e}^C\) | 理论完全无偏，样本完全收缩回流形真实支持集 |
| 实用混合校正策略 (Hybrid Alg. 4) | 严格/高阶受控混合 | 最多重试 \(K\) 次 Alg. 2，超时保底 Alg. 3 | 兼顾严格无偏率与最坏计算复杂度上界 |
关键发现¶
- 离散化偏置的显著消除：在二维几何流形合成实验中，标准 DDPM 先验采样器所生成的点大量散落在流形支撑集之外；而引入 MADM 校正后，由于 Metropolis 拒绝机制阻断了越界劣质提议并实施沿切向的精细 MCMC 平衡，孤立离群点几乎完全消失。
- 解法器阶数与校正收益的权衡：在类别条件生成的 ImageNet-64 数据集上，为低阶的 Euler 预测器（256步）添加一次单步 MADM 校正所得的 FID（2.25），显著优于单纯使用计算量更高的高阶 Heun 解法器基线（2.32）。这证明在离散化步数充裕时，引入针对边际分布的 MCMC 接受-拒绝调整比单纯增加 ODE 解法器插值阶数更能有效减少统计偏差。
- 开销与增益的极高性价比：基于辛普森 1/3 规则的近似调整使得每一步校正仅需额外调用 1 次网络打分推断，在 CIFAR-10 上批处理采样总耗时仅由 2 秒微增至 3 秒，却换来了稳定的质量提升。
亮点与洞察¶
- 打分线积分的代数巧思：论文利用微积分基本定理将未归一化密度的对数比精确转换为打分函数的沿线一维积分，直接绕过了扩散模型无法显式获知边缘分布配分函数的长久痛点，构思极其优雅。
- 概率生成与严密 MCMC 理论的深度融合：不仅给出了实用的辛普森求积高阶工程方案，还在扩散采样领域首次推导了伯努利工厂无偏 Barker 校正定理，以及高维极限下 \(h \sim d^{-1/3}\) 对应 0.347 最优接受率的标度律，兼具深厚的数理严谨性与实践指导价值。
- 即插即用的无缝兼容性：MADM 不需要对现有的预训练扩散模型进行任何重新训练或架构修改，只需在推断采样循环中作为即插即用的校正器模块挂载，即可广泛适用于各类连续时间扩散模型（VE/VP SDE、EDM、Flow Matching）。
局限与展望¶
- 严密算法的计算瓶颈：两硬币伯努利工厂算法虽然在理论上完全消除了校正偏置，但其打分查询次数服从依赖常数界限 \(C\) 的泊松混合几何分布。在高维高变动分数场景下，常数 \(C\) 的放大容易导致计算开销指数级增长，目前在实际高分辨率图像生成中仍只能妥协采用辛普森近似。
- 完美打分假设与网络泛化误差：所有无偏性证明均建立在预测打分与真实数据分布对数梯度完全一致（\(s(\mathbf{x}, t) = \nabla \mathbf{x} \log p_t(\mathbf{x})\)）的理想假设之上；当深度网络本身存在严重的打分拟合误差或分布外泛化漂移时，MCMC 校正的平衡分布将对齐到错误的分数势能面。
- 未来方向：研究更加紧致的局部打分界限自适应计算算法，探索辛普森多步复用或高斯求积等更高效的求积准则，并将 MADM 机制推广扩展到潜在扩散模型（LDM）与离散扩散流形上。
相关工作与启发¶
- vs Song et al. (2021) 经典 Predictor-Corrector 框架：Song 等人首次确立了 PC 采样范式，但其校正步采用纯 ULA 迭代，校正器本身带有时域离散化误差且步长容易破坏收敛；MADM 通过线积分 MH/Barker 判决为校正步补齐了接受-拒绝机制，消除了校正自身的离散偏差。
- vs Chen et al. (2026) 预测-排斥采样：Chen 等人在相继两步条件转移概率中运用伯努利工厂，将拒绝采样与预测器紧密绑定；而 MADM 将校正步骤独立解耦为针对当前时间切片边际分布 \(p_t\) 的不变测度采样，结构更加模块化且计算更加轻量。
- vs Sjöberg et al. (2026) 复合模型 MCMC 校正：Sjöberg 等人在引导生成中使用一阶梯形法则估计线积分；MADM 指出梯形求积仅具备 \(\mathcal{O}(h^{3/2})\) 截断精度，进而系统推导了五阶精度的辛普森求积准则并建立了最优标度律，在大规模图像生成 benchmark 上展现出明确的质量优势。
评分¶
- 新颖性: ⭐⭐⭐⭐⭐ 首次打通了打分函数线积分、两硬币伯努利工厂与扩散模型严格 MALA 理论闭环，理论突破显著。
- 实验充分度: ⭐⭐⭐⭐ 覆盖了二维多流形合成任务与 CIFAR-10/FFHQ/AFHQ/ImageNet 四大经典图像基准，但受算力限制大模型主要基于近似规则展开。
- 写作质量: ⭐⭐⭐⭐⭐ 理论推导清晰完备，从微积分基本定理到伯努利工厂收敛性证明逻辑极其连贯。
- 价值: ⭐⭐⭐⭐ 为扩散生成模型的后处理采样与收敛性研究开辟了坚实的 MCMC 理论范式，具备重要的学术参考价值。