Discrete Langevin-Inspired Posterior Sampling¶

会议: NeurIPS 2026
arXiv: 2605.09302
领域: 优化/理论
关键词: 离散扩散模型、后验采样、逆问题、朗之万动力学、并行采样

一句话总结¶

提出无需连续松弛且与先验训练范式解耦的离散朗之万后验采样器 $\Delta$LPS，通过梯度引导在有效离散状态间构建可因式分解的提议分布，实现了全坐标高效并行更新与高保真逆问题求解。

研究背景与动机¶

逆问题的核心是从间接、稀疏且带有噪声的观测中反推未知信号。由于前向观测算子往往退化且病态，贝叶斯后验推断高度依赖于强大的先验分布。近年来，以连续得分扩散模型为代表的生成先验在逆问题求解中取得了巨大成功，其核心机制在于连续欧氏空间中得分函数与似然梯度能自然结合并指导采样。然而，在离散状态空间中（如文本、代码、离散量化图像潜变量及符号表示），欧氏几何中的梯度方向并不直接对应有效离散状态，导致离散生成先验下的后验采样长期面临严峻挑战。

现有的离散后验采样方法主要遵循三条技术路径，但均存在显著局限：第一类方法（如 G2D2）采用连续松弛技术将离散分类分布投影到连续空间进行梯度优化，这不仅改变了推断的内在几何结构，而且常面临“软潜变量与观测拟合极佳，但投影硬离散 token 后解码严重失真”的坍塌问题；第二类方法（如 SGDD）采用分裂 Gibbs 采样，在似然步与先验去噪步之间交替迭代，但在高维空间中混合极慢，受制于严格的顺序更新瓶颈；第三类方法（如 APS）虽然避免了松弛，但其机制深度依赖吸收态掩码扩散与锚定策略，无法推广到均匀噪声等通用离散扩散范式。

这引发了核心思考：能否在不离开离散状态空间的前提下，充分利用连续空间反传得到的梯度信息？核心 idea：将梯度视为指示离散状态“跳跃”方向的指南针，利用高斯朗之万提议评分在有效离散候选集上诱导出因式分解的分类提议分布，结合 Adam 自适应预条件缩放，实现全离散、全坐标并行且先验无关的高效后验采样。

方法详解¶

整体框架¶

$\Delta$LPS 建立在扩散逆问题退火框架之上，目标是在离散潜空间 $\mathbf{z} \in \{1,\dots,K\}^L$ 中直接从后验转移分布 $p(\mathbf{z}_s | \mathbf{z}_t, \mathbf{y})$ 采样（其中 $s < t$）。通过引入干净潜变量 $\mathbf{z}_0$ 作为中介，$p(\mathbf{z}_s | \mathbf{z}_t, \mathbf{y}) \approx \sum_{\mathbf{z}_0} p(\mathbf{z}_s | \mathbf{z}_0) p(\mathbf{z}_0 | \mathbf{z}_t, \mathbf{y})$。采样器在每个反向扩散时间步交替执行两个核心步骤：首先基于当前噪声潜变量 $\mathbf{z}_t$ 和观测 $\mathbf{y}$，通过离散朗之万提议迭代采样出测量一致的干净离散潜变量 $\mathbf{z}_0$；随后利用前向加噪核将离散潜变量重新加噪至较低噪声水平 $s$。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["初始噪声潜变量 z_T<br/>从先验分布随机采样"] --> B["一步去噪初值采样<br/>z_0^(0) ~ p_theta(z_0 | z_t)"]
    B --> C["对数后验势能计算与反向传播<br/>U(z_0; z_t, y) = log p(y|z_0) + log p_theta(z_0|z_t)"]
    C --> D["Adam 预条件对角缩放<br/>平衡高维坐标尺度的梯度波动"]
    D --> E["离散朗之万分类提议分布<br/>因式分解至各坐标，全 token 并行"]
    E --> F["更新离散状态 z_0^(m+1)<br/>完成 M 轮内循环细化得到 z_0*"]
    F --> G["离散重加噪核转移<br/>z_s ~ p(z_s | z_0*) 进入下一扩散步"]
    G --> H["最终输出干净离散解 z_0<br/>过解码器生成信号 x = D(z_0)"]

关键设计¶

1. 离散朗之万提议：从连续高斯评分到离散分类分布的严格映射

传统优化在连续空间中直接沿梯度步进，但在离散空间中加法更新会导致状态脱离词表。$\Delta$LPS 没有选择将变量松弛为连续软分布后再做硬取整，而是借用离散 MCMC 的思想，直接将连续未调整朗之万算法（ULA）的高斯提议概率密度限制并归一化在离散状态候选空间 $\{1,\dots,K\}^L$ 上： $$q(\mathbf{z}_0' | \mathbf{z}_0; \mathbf{z}_t, \mathbf{y}) \propto \exp\left(-\frac{1}{4\eta} \|\mathbf{z}_0' - \mathbf{z}_0 - \eta \nabla_{\mathbf{z}_0} U(\mathbf{z}_0; \mathbf{z}_t, \mathbf{y})\|_2^2\right)$$ 展开二次项后，由于 $\|\nabla_{\mathbf{z}_0} U\|_2^2$ 与候选状态 $\mathbf{z}_0'$ 无关而并入配分函数，提议分布精确变形为： $$q(\mathbf{z}_0' | \mathbf{z}_0; \mathbf{z}_t, \mathbf{y}) \propto \exp\left(\frac{1}{2} \nabla_{\mathbf{z}_0} U(\mathbf{z}_0; \mathbf{z}_t, \mathbf{y})^\top (\mathbf{z}_0' - \mathbf{z}_0) - \frac{1}{4\eta} \|\mathbf{z}_0' - \mathbf{z}_0\|_2^2\right)$$ 从一阶泰勒展开与能量比角度来看，这一提议自然正比于似然比跃迁率 $[p(\mathbf{y}|\mathbf{z}_0') / p(\mathbf{y}|\mathbf{z}_0)]^{1/2} [p_\theta(\mathbf{z}_0' | \mathbf{z}_t) / p_\theta(\mathbf{z}_0 | \mathbf{z}_t)]^{1/2}$ 乘上步长惩罚项 $\exp(-\frac{1}{4\eta}\|\mathbf{z}_0' - \mathbf{z}_0\|_2^2)$。因此，提议机制天然偏好同时提升似然合规度与先验置信度、且不发生剧烈偏离的有效离散状态。

2. 坐标完全因式分解与全并行采样

Gibbs 采样由于逐坐标串行扫描，在处理数千 token 的潜变量网格时速度极慢。$\Delta$LPS 提出的提议指数在 token 位置维度完全可分离： $$q(\mathbf{z}_0' | \mathbf{z}_0, \mathbf{z}_t, \mathbf{y}) = \prod_{\ell=1}^L q_\ell(\mathbf{z}_0'[\ell] | \mathbf{z}_0, \mathbf{z}_t, \mathbf{y})$$ 对于坐标 $\ell$ 和候选 token $k \in \{1,\dots,K\}$，若在码本嵌入空间中表示为 $\mathbf{c}_k$，其分类 logits 为： $$r_{\ell,k} = \frac{1}{2} [\nabla_{\mathbf{C}_{0,\ell}} U_y(\mathbf{C}_0; \mathbf{y})]^\top (\mathbf{c}_k - \mathbf{c}_{\mathbf{z}_0[\ell]}) + \frac{1}{2} \ell_{\theta, \ell, k}(\mathbf{z}_t) - \frac{1}{4\eta} \|\mathbf{c}_k - \mathbf{c}_{\mathbf{z}_0[\ell]}\|_2^2$$ 其中似然项通过解码器反向传播获取连续梯度，离散先验项直接复用离散扩散模型输出的单步去噪 logit $\ell_{\theta, \ell, k}(\mathbf{z}_t)$。该形式使得所有 $L$ 个 token 的分类分布可以单次前传并行计算，并直接进行独立并行采样，彻底消除了 Gibbs 采样的序列等待瓶颈。

3. Adam 对角预条件平衡与先验解耦

离散潜空间中不同空间坐标的梯度尺度存在极端差异：部分坐标梯度剧烈扰动容易导致错误跳跃，而关键细节处的梯度虽小但极具信息量。直接使用原始梯度会导致提议分布不平衡。$\Delta$LPS 引入 Adam 优化器的一阶动量与二阶方差累积，将原始联合后验梯度 $\mathbf{g}^{(m)}$ 映射为自适应预条件方向 $\widetilde{\mathbf{g}}^{(m)} = \text{Adam}(\mathbf{g}^{(m)}; \eta_0, \gamma_1, \gamma_2, \varepsilon)$。预条件对角算子平滑了噪声扰动，增强了跨 token 的更新均衡性。此外，该提议只需获取先验的分类概率输出，天然适配掩码扩散（MDLM，吸收态）与均匀替换扩散（DUO），在面对黑盒或非微分正向算子时，还可将似然梯度无缝替换为对比学习代理引导 $\frac{1}{\tau}\nabla_{\mathbf{x}} \langle f_\varphi(\mathcal{D}(\mathbf{z}_0)), g_\psi(\mathbf{y}) \rangle$。

实验关键数据¶

主实验¶

在 FFHQ（256×256，VQ 潜空间，5 种典型逆问题，评价指标 PSNR 与 LPIPS）以及 CIFAR-10（32×32 原始像素，256 词表，评价指标 PSNR 与 SSIM）上进行系统评估。

表 1：FFHQ 人脸图像逆问题定量对比（PSNR [dB] ↑ / LPIPS ↓，均值）

类别	方法	随机补全 (Inpainting)	高斯去模糊 (Deblur)	4× 超分辨率 (SR 4×)	非线性 HDR 色调映射	运动去模糊 (Motion Deblur)
连续扩散	DPS	25.46 / 0.203	25.87 / 0.219	25.86 / 0.269	22.73 / 0.264	24.52 / 0.246
连续扩散	PSLD	30.31 / 0.221	27.37 / 0.304	27.62 / 0.276	— / —	22.31 / 0.336
连续扩散	DAPS	31.12 / 0.098	29.19 / 0.165	29.07 / 0.177	27.12 / 0.162	29.66 / 0.157
离散扩散	SGDD	— / —	— / —	25.85 / 0.288	— / —	— / —
离散扩散	G2D2	— / —	26.91 / 0.280	27.29 / 0.265	— / —	— / —
离散扩散	APS	27.38 / 0.304	27.90 / 0.276	27.50 / 0.234	23.89 / 0.282	26.58 / 0.317
离散扩散	$\Delta$LPS (本文)	27.29 / 0.172	26.15 / 0.276	25.93 / 0.230	20.97 / 0.241	21.00 / 0.260

表 2：CIFAR-10 原始像素逆问题在不同退化难度下的 PSNR (dB) 与 SSIM 对比

难度	方法	随机补全 PSNR ↑	随机补全 SSIM ↑	局部方块补全 PSNR ↑	局部方块补全 SSIM ↑
Easy	SGDD (full)	10.20 ± 0.63	0.382 ± 0.087	10.52 ± 0.76	0.398 ± 0.071
	G2D2	23.54 ± 2.02	0.938 ± 0.020	22.45 ± 2.41	0.909 ± 0.032
	$\Delta$LPS (MDLM)	21.79 ± 1.15	0.905 ± 0.039	22.19 ± 2.31	0.908 ± 0.027
	$\Delta$LPS (DUO)	28.92 ± 2.58	0.978 ± 0.014	23.33 ± 2.92	0.911 ± 0.035
Medium	SGDD (full)	10.11 ± 0.70	0.373 ± 0.073	10.44 ± 0.69	0.388 ± 0.070
	G2D2	18.87 ± 1.33	0.828 ± 0.041	17.48 ± 1.82	0.750 ± 0.049
	$\Delta$LPS (MDLM)	17.15 ± 1.08	0.766 ± 0.066	16.68 ± 1.75	0.739 ± 0.056
	$\Delta$LPS (DUO)	22.02 ± 1.62	0.911 ± 0.031	17.95 ± 1.61	0.757 ± 0.046
Hard	SGDD (full)	9.71 ± 0.76	0.350 ± 0.083	10.31 ± 0.62	0.360 ± 0.073
	G2D2	15.08 ± 0.92	0.651 ± 0.060	14.34 ± 1.51	0.581 ± 0.064
	$\Delta$LPS (MDLM)	13.58 ± 1.39	0.592 ± 0.114	13.59 ± 1.30	0.561 ± 0.079
	$\Delta$LPS (DUO)	15.75 ± 1.56	0.706 ± 0.066	13.66 ± 1.13	0.560 ± 0.066

消融实验与盲逆问题扩展¶

表 3 展示了在 HouseExpo 室内户型图盲逆问题重建（由人类行走稀疏轨迹逆推二值障碍平面图，采用对比引导代理，无已知正向微分算子）上的表现对比：

表 3：室内户型图空间重构盲逆问题表现 (F1 / IoU)

方法	稀疏轨迹 (Sparse) F1 ↑	稀疏轨迹 (Sparse) IoU ↑	中等密度 (Moderate) F1 ↑	中等密度 (Moderate) IoU ↑
DPS + Neural A*	0.79 ± 0.09	0.67 ± 0.13	0.79 ± 0.09	0.66 ± 0.13
DMPlug	0.31 ± 0.10	0.19 ± 0.08	0.28 ± 0.09	0.17 ± 0.07
DiffPIR	0.63 ± 0.09	0.47 ± 0.09	0.64 ± 0.08	0.48 ± 0.09
CoGuide	0.91 ± 0.04	0.84 ± 0.07	0.94 ± 0.03	0.89 ± 0.05
$\Delta$LPS (本文)	0.92 ± 0.06	0.86 ± 0.09	0.94 ± 0.03	0.89 ± 0.05

关键发现¶

在 FFHQ 感知质量评估中，$\Delta$LPS 在补全（LPIPS 0.172 vs APS 0.304）、去模糊（0.276 vs 0.276）及超分辨率（0.230 vs 0.234）上显著优于现有的离散采样基线，重构人脸细节更加逼真自然。
在 CIFAR-10 上，基于 DUO（均匀状态扩散）先验的 $\Delta$LPS 在所有难度下全面超越 SGDD 与 G2D2，在高难度补全中 SSIM 达到 0.706（相比 G2D2 的 0.651 提升显著），验证了其面对严重病态逆问题时极强的鲁棒性。
SGDD 即使拥有高达 6400× 的函数评估预算（SGDD full），在多数指标上依然落后于常规定额预算下的 $\Delta$LPS，证明了并行梯度引导比基于纯 Gibbs 的顺序扫描具有压倒性的采样效率优势。

亮点与洞察¶

无松弛的梯度投影优雅解法：不追求在连续空间找到极值再暴力投影回离散，而是直接用高斯朗之万测度为有效离散候选状态赋予相对权重，从数学源头消除了量化失配的系统性偏差。
全坐标完全因式分解：利用内积与欧氏范数对空间坐标的可分离性，将全图后验推断解耦为单步矩阵维度的并行分类采样，使大规模离散序列采样从理论可能走向实际可行。
先验范式无关的即插即用性：无论生成底座是吸收态（MDLM）、均匀态（DUO）还是大语言多模态离散底座（如 MMaDA），仅需读取各 token 上的分类 logits 即可驱动引导，具备高度通用性。

局限与展望¶

条件独立假设局限：提议分布在坐标级别完全因式分解，虽然带来了全并行的极致效率，但忽略了强语义耦合 token 之间的局部条件依赖；未来可引入分块提议（blockwise proposals）或自回归校准机制增强局部一致性。
对引导梯度的光滑性依赖：在高度非凸或黑盒物理系统中，仍需构建对比表征或平滑代理函数，引导梯度的信噪比直接决定了离散转移的命中精度。

评分¶

新颖性: ⭐⭐⭐⭐⭐ 原创性地将连续朗之万评分限制并归一化在离散状态空间，推导出优雅的因式分解分类提议分布。
实验充分度: ⭐⭐⭐⭐⭐ 覆盖 FFHQ、CIFAR-10、MNIST 以及室内户型图盲逆问题，涵盖线性和非线性测量及多种先验底座。
写作质量: ⭐⭐⭐⭐⭐ 数学推导严密清晰，问题提出动机鲜明，实验指标详尽。
价值: ⭐⭐⭐⭐⭐ 为离散扩散模型在科学计算、生物分子序列逆向设计和离散多模态逆问题提供了通用的基础算法框架。