End-to-End Differentiable Diffusion Conditioning for Physics-Informed Optimization¶

会议: NeurIPS 2026
arXiv: 2610.31721
领域: 物理/科学计算
关键词: 离线基于模型优化 (Offline MBO), 扩散模型, 可微条件控制, 物理引导优化, 惯性约束聚变

一句话总结¶

本文提出可微扩散条件控制框架（D2C），利用确定性 DDIM 采样链关于条件输入的全程可微性，将下游复合物理目标与代理模型梯度的反向传播直接引导至条件变量，实现了保持数据流形先验约束的高维物理系统端到端优化。

研究背景与动机¶

在高维物理系统（如惯性约束聚变激光脉冲整形、大型数据中心跨时段负荷调度）中，候选设计通常涉及复杂的非线性物理相互作用，其真实物理评估（如多维辐射流体动力学数值模拟）计算开销极其昂贵。离线基于模型优化（Offline Model-Based Optimization, MBO）旨在仅依赖预先采集的静态离线数据集，寻找性能超越历史记录的最优物理设计方案。然而，传统的正向代理优化方法直接在设计空间中执行梯度上升，极易落入代理模型未受支持的高置信度外推盲区，导致严重的分布外（OOD）过拟合与物理不可行解；而逆向映射方法与基于合成轨迹的生成采样方法，则通常在测试期将条件控制信号视为静态前向输入，缺乏依据下游精细物理定律与多目标约束动态微调候选解的机制。

这种局限性在安全关键的物理工程领域尤为突出：物理设计的目标绝非单一标量分数，而是包含性能最大化、守恒定律（如能量守恒、计算负载守恒）、频域物理可行性与峰值硬约束的强耦合复合系统。现存方法要么在解空间盲目搜索破坏物理守恒，要么受限于静态条件输入而无法突破离线标签的天花板，难以构建一条从复合物理目标直接反传至生成过程核心控制信号的可微反馈通路。

本文的切入视角在于：在确定性非马尔可夫扩散采样（如 DDIM $\sigma_t=0$）下，从潜空间噪声到最终物理设计的离散反向去噪链本质上是一个连续可微的映射函数。核心 idea：冻结预训练的条件扩散提议器与代理评估器，将测试期的条件控制变量作为唯一的梯度优化变量，将复合物理惩罚与代理性能梯度的误差信号通过确定性 DDIM 去噪链端到端反向传播至条件空间，并结合狄利克雷随机多目标加权与可行性优先准则实现严格守恒下的物理设计突破。

方法详解¶

整体框架¶

D2C 采用由冻结的条件扩散提议器（Proposer）$G_\theta$ 与冻结的性能代理评估器（Evaluator）$S_\phi$ 构成的提议-评估协同架构。物理设计变量记为 $x \in \mathbb{R}^d$，环境不可变物理背景记为 $c_{\text{fix}} \in \mathbb{R}^{d_f}$，而可优化性能目标记为 $c_{\text{opt}} \in \mathbb{R}^{d_o}$，共同构成条件向量 $c = (c_{\text{fix}}, c_{\text{opt}})$。在离线训练阶段，提议器联合去噪损失、单步重构损失、物理保真度损失和代理一致性损失进行监督训练；在测试优化阶段，模型参数 $\theta$ 与 $\phi$ 完全冻结，优化过程直接以 $c_{\text{opt}}$ 为优化参数。为兼顾高维非凸解空间的多模态覆盖与多目标 Pareto 前沿权衡，D2C 引入了两级随机化策略：采样 $N_z$ 个独立的初始噪声 $x_T$，并在每个噪声轨迹下通过对称狄利克雷分布采样 $N_\lambda$ 组目标损失权重，并行展开 $B = N_z \times N_\lambda$ 条端到端可微优化轨迹，最后经领域硬性物理约束检验选出最优可行设计。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["固定物理环境 c_fix + 初始目标 c_opt(0)"] --> B["两级随机探索采样<br/>Nz 组初始噪声 xT 与 Nλ 组狄利克雷权重 λ"]
    B --> C["端到端可微条件反向传播<br/>固定参数 DDIM 确定性去噪逆链展开"]
    C --> D["复合物理损失与代理评估<br/>代理目标 + 能量/负载守恒 + 频域与平滑度惩罚"]
    D -->|梯度 ∇_copt L 沿 DDIM 反传更新| C
    C --> E["可行性优先筛选与候选决策<br/>硬性物理约束与阈值校验过滤"]
    E --> F["输出最优物理设计 x0* 或回退基线设计 xref"]

关键设计¶

1. 端到端可微条件反向传播：以条件信号为核心优化变量规避潜空间失真

在确定性 DDIM 去噪逆链中，步长取 $\sigma_t=0$，从先验高斯噪声 $x_T$ 到最终物理设计 $x_0$ 的去噪过程完全确定： $$x_{t-1}=\sqrt{\bar{\alpha}_{t-1}}\hat{x}_0(x_t,c,t)+\sqrt{1-\bar{\alpha}_{t-1}}\tilde{\epsilon}_\theta(x_t,c,t)$$ 其中 $\hat{x}_0$ 为单步预测的干净物理设计，$\tilde{\epsilon}_\theta$ 包含分类器自由引导（Classifier-Free Guidance, CFG）。由于去噪网络每一层及每个时间步的条件注入均连续可微，全链合成映射 $G_\theta(c, x_T)$ 关于条件变量 $c$ 是全程可微的。梯度的雅可比链式分解显示，条件信号在每个时间步的显式注入构成了跳跃梯度通路，有效克服了深层时间步反传中的梯度消失问题。更关键的是，D2C 严格保持提议器参数 $\theta$ 和噪声 $x_T$ 冻结，仅更新可优化条件变量 $c_{\text{opt}}$：由于扩散提议器在离线流形上学习了物理语义条件与设计结构的先验分布，在条件空间中沿梯度滑动能迫使生成的物理设计始终贴近有效数据分布的低维流形，从根本上克服了直接在设计空间优化引起的虚假局部极值，也优于无语义约束的潜空间噪声优化。

2. 提议-评估协同架构与物理约束注入：多阶段物理先验正则化

为确保提议器生成的物理设计在离线训练阶段与测试阶段均满足物理自洽性，架构在训练与测试两个阶段深度融合了领域物理先验。在提议器训练阶段，目标函数除了标准去噪得分匹配外，显式引入了单步物理保真度损失 $\mathcal{L}_{\text{fid}}$ 与代理一致性损失 $\mathcal{L}_{\text{surr}}$：前者对积分守恒违反量（如激光总能量、计算总负载）和幅值边界施加单侧罚项，后者通过冻结评估器 $S_\phi$ 监督生成设计的可预测性。在测试优化阶段，下游复合物理目标 $\mathcal{L}$ 完全由生成设计 $x_0$ 本身及基准设计 $x_{\text{ref}}$ 决定，由负代理目标、谱稳定性惩罚（基于离散傅里叶变换振幅差 $\mathcal{L}_{\text{stab}}$）、严格单侧能量守恒罚项 $\mathcal{L}_{\text{energy}}$ 及离散狄利克雷能量平滑项 $\mathcal{L}_{\text{smooth}}$ 构成。条件变量不直接作为损失函数的显式自变量，所有梯度均源自实体物理设计 $x_0$ 的物理误差，杜绝了单纯通过平移标签数值产生的虚假优化假象。

3. 两级随机探索与可行性优先候选决策：应对多模态与严苛安全边界

由于映射 $G_\theta(c, x_T)$ 高度依赖于潜空间初始噪声 $x_T$，单次优化极易受困于局部物理吸引子。D2C 在测试期构建了两级随机化采样机制：外层抽取 $N_z$ 个独立的噪声先验 $x_T^{(n)} \sim \mathcal{N}(0, \mathbf{I})$ 探索不同结构模式；内层在 $(K-1)$ 维单纯形上抽取 $N_\lambda$ 组对称狄利克雷权重 $\boldsymbol{\lambda}^{(m)} \sim \text{Dir}(\mathbf{1}_K)$。均匀分布的狄利克雷权重促使不同轨迹在能量守恒、波形光滑性与目标提升之间动态探索多目标妥协边界，并行产出 $B = N_z \times N_\lambda$ 个候选设计。随后，所有候选方案进入严格的领域硬性安全过滤器 $\mathcal{C}(x_0) \le 0$（例如激光聚变中的光谱误差容限 $\tau_{\text{fft}} < 0.2$、波形相关性 $\tau_{\text{corr}} > 0.8$、净提升阈值 $\delta_{\text{gain}} \ge 0.1\%$ 以及数据中心的负载缺损不超过 1% 和进气温度安全阈值 $T_{\text{inlet}} \le 50^\circ\text{C}$）。在所有通过硬约束的可行候选集合 $\mathcal{V}$ 中选取主目标最高者；若无一候选达标，则无条件回退至基线设计 $x_{\text{ref}}$（记为 0% 收益），杜绝任何损坏真实物理装备的不可行解被选出。

损失函数 / 训练策略¶

离线训练阶段提议器总目标函数定义为： $$\mathcal{L}_{\text{train}}=\|\epsilon-\epsilon_\theta(x_t,c,t)\|^2 + \alpha_r\|\hat{x}_0-x\|^2 + \alpha_a\mathcal{L}_{\text{fid}}(\hat{x}_0,x) + \alpha_s\|S_\phi(\hat{x}_0,c_{\text{fix}})-y\|^2 + \alpha_{\text{sm}}\mathcal{L}_{\text{smooth}}(\hat{x}_0)$$ 其中 ICF 任务权重设置为 $\alpha_r=0.5, \alpha_a=0.001, \alpha_s=1.0, \alpha_{\text{sm}}=0.0001$；DC 任务权重设置为 $\alpha_r=0.5, \alpha_a=0.01, \alpha_s=1.0, \alpha_{\text{sm}}=0.0001$。扩散步数 $T_{\text{train}}=100$，采用余弦方差调度与 AdamW 优化器，学习率 $5\times 10^{-5}$ 并配备 EMA（衰减率 0.9999）。在测试优化阶段，ICF 采用 Adam 迭代 $J=100$ 步，学习率 $\eta=1\times 10^{-3}$；DC 迭代 $J=40$ 步，学习率 $\eta=2\times 10^{-2}$，DDIM 采样步数统一降至 $T=25$，引导比例 $w=2.0$。每步优化后，可变条件变量裁剪回标准化的 $[0, 1]$ 区间以防止条件溢出。

实验关键数据¶

主实验¶

在两个真实世界物理设计任务中进行了严格评估：ICF 激光脉冲优化（以中子产额提升率为核心指标）和数据中心负荷调度（以运营碳排放减少率为核心指标）。ICF Standard 在 2000 个随机测试样本上评估；ICF Top 选取测试集中中子产额最高的 1000 个高产额脉冲进行极端应力测试。所有方法均生成同等规模的候选集并经完全一致的硬性物理安全阈值过滤。

任务 / 数据集	评估指标	D2C (本文)	次优基线 (方法名)	提升幅度
ICF Standard (2000 样本)	中子产额提升率 (%)	17.98 ± 1.54	5.43 ± 0.74 (GTG)	+12.55% (超 3.3 倍)
ICF Top (1000 极端高产额)	中子产额提升率 (%)	10.06 ± 0.88	3.93 ± 0.52 (Brute Force)	+6.13% (超 2.5 倍)
DC Workload Scheduling	碳排放减少率 (%)	8.98 ± 0.75	5.93 ± 0.82 (GP-qEI)	+3.05% (相对提升 51%)
Design-Bench TF Bind 8	100分位归一化得分	0.973 ± 0.011	0.969 ± 0.012 (BDI)	+0.004 (排名第 1)
Design-Bench TF Bind 10	100分位归一化得分	0.684 ± 0.023	0.682 ± 0.025 (DDOM)	+0.002 (排名第 1)
Design-Bench 4任务平均排名	平均序数排名 (越低越好)	1.75	3.50 (GTG)	领先 1.75 席位

在 Design-Bench 四项任务（TF Bind 8, TF Bind 10, D'Kitty, Ant）中，D2C 斩获两项第一、一项第二、一项第三，以 1.75 的平均排名显著超越所有 11 个经典离线 MBO 基线（如 DDOM 的 4.38、COMs 的 6.75）。

消融实验¶

针对 ICF Top 与 DC 关键机制的系统性消融如下表所示：

消融配置 / 核心机制	ICF Top 中子产额提升 (%)	DC 碳排放减少 (%)	机制分析与说明
D2C 默认配置 ($w=2.0$, 条件优化, $20\times 5$)	10.06 ± 0.88	8.98 ± 0.75	完整模型：高频梯度引导与数据分布约束最佳平衡
优化变量对比：优化潜空间噪声 $x_T$	7.56 ± 0.76	3.62 ± 0.26	优化条件变量显著优于噪声优化，语义条件受流形先验保护
无分类器引导 ($w=0.0$)	0.00 ± 0.00	2.30 ± 0.45	条件信号未注入采样链，无法提供有效反向导向
过度引导 ($w=7.0$)	0.00 ± 0.00	8.58 ± 0.69	过大引导迫使设计脱离数据分布，候选全部被硬物理约束否决
候选预算缩减：$N_z=1, N_\lambda=3$ (单噪声)	0.86 ± 0.24	4.21 ± 0.57	缺乏潜空间多模态覆盖，易陷入局部鞍点
狄利克雷权重多样性缺失：$N_z=20, N_\lambda=1$	5.72 ± 0.69	8.41 ± 0.64	固定单一标量加权限制了复杂 Pareto 边界的探索
限制条件可优化维度：$d_o=1$ (仅单维度)	4.02 ± 0.56	5.14 ± 0.61	压缩优化自由度，无法通过多维协同满足复合守恒律
采样步数缩减：$T=10$ (默认 $T=25$)	9.90 ± 0.86	8.84 ± 0.73	保留 98% 以上优化质量，推理计算耗时可缩短约 60%

关键发现¶

可行性优先下的达标率（Constraint-Satisfying Rate）是致胜根源：在 ICF Top 严苛场景下，D2C 找到有效改善解的成功率高达 75.12%（ICF Standard 为 81.23%），而基线方法如 COMs 仅有 9.12%，GTG 仅有 21.20%，大量基线因违反频域平滑或能量守恒被判定为 0% 增益。D2C 不仅解的质量更高，进入可行物理走廊的概率更是压倒性的。
条件优化 vs 潜空间噪声优化：在多维条件控制场景（ICF 20维，DC 10维）下，通过扩散模型条件接口反传显著超越了对先验噪声 $x_T$ 的直接微调。这是因为条件变量驱动的是生成器内置的语义流形，而对各向同性高斯白噪声的微调容易破坏扩散模型的先验流形稳定性。
分类器自由引导 $w$ 的双刃剑效应：$w=2$ 在两项物理任务中均表现出极佳的帕累托平衡；在强物理约束的 ICF 中，过高引导尺度（$w \ge 5$）会导致生成波形迅速脱离训练集流形，使得所有生成物被硬性物理检验拦截，全部回退为基线。

亮点与洞察¶

将扩散逆向采样视作可微计算图：不同于把扩散模型当做黑盒采样器、事后筛选或事后郎之万修正的传统思路，D2C 将确定性 DDIM 展开为固定拓扑的深度计算图，让下游真实物理目标与代理模型的梯度直接贯通至条件变量，兼顾了生成模型的流形保护与精确数值梯度的导向性。
多维度条件解耦与跳跃梯度流：条件向量每一步都显式输入扩散主干，数学上形成了直接跨越去噪步长的时间跳跃梯度通路，有效缓解了反向传播跨越 25-100 个扩散时间步时的梯度弥散问题。
狄利克雷单纯形采样实现免调参多目标权衡：利用对称狄利克雷分布采样动态权重，自动覆盖了目标函数各分量之间的不同折角，无需繁复的手工微调权重即能在单次批量推断中兼顾守恒约束与极端性能突破。

局限与展望¶

反向传播计算延迟与显存开销：单步优化需要遍历 $T$ 步去噪图的前向与反向传播，单样本端到端优化耗时约 35–40 秒，比单次前向扩散采样慢 8–17 倍，难以部署于超低延迟的毫秒级在线控制场景。
对代理模型保真度的依赖性：引导梯度的正确性取决于冻结代理模型 $S_\phi$ 的校准质量。虽然条件优化缓解了 OOD 剥削，但如果代理模型在局部流行区域存在系统性认知偏差，优化仍可能向虚假局部最优点漂移。
未来方向：探索伴随敏感度法（Adjoint Sensitivity Method）或截断反向传播以大幅压缩显存与时间开销；引入集成不确定性估计（Uncertainty Quantification）作为自适应惩罚项，进一步防范代理模型的隐式过拟合。

评分¶

新颖性: ⭐⭐⭐⭐⭐ (巧妙挖掘确定性 DDIM 条件梯度的全流程可微性，彻底重构了物理离线 MBO 的优化范式)
实验充分度: ⭐⭐⭐⭐⭐ (包含两项高难物理应用与 Design-Bench 标准基准，实验消融深入细致且有直接物理仿真代码验证)
写作质量: ⭐⭐⭐⭐⭐ (理论推导自洽严谨，命题与引理分析清晰，架构与流程阐述详实)
价值: ⭐⭐⭐⭐⭐ (为惯性约束聚变、绿色数据中心调度等安全关键的高维硬约束科学计算系统提供了可落地的强大工具)

消融配置 / 核心机制	ICF Top 中子产额提升 (%)	DC 碳排放减少 (%)	机制分析与说明
D2C 默认配置 (\(w=2.0\), 条件优化, \(20\times 5\))	10.06 ± 0.88	8.98 ± 0.75	完整模型：高频梯度引导与数据分布约束最佳平衡
优化变量对比：优化潜空间噪声 \(x_T\)	7.56 ± 0.76	3.62 ± 0.26	优化条件变量显著优于噪声优化，语义条件受流形先验保护
无分类器引导 (\(w=0.0\))	0.00 ± 0.00	2.30 ± 0.45	条件信号未注入采样链，无法提供有效反向导向
过度引导 (\(w=7.0\))	0.00 ± 0.00	8.58 ± 0.69	过大引导迫使设计脱离数据分布，候选全部被硬物理约束否决
候选预算缩减：\(N_z=1, N_\lambda=3\) (单噪声)	0.86 ± 0.24	4.21 ± 0.57	缺乏潜空间多模态覆盖，易陷入局部鞍点
狄利克雷权重多样性缺失：\(N_z=20, N_\lambda=1\)	5.72 ± 0.69	8.41 ± 0.64	固定单一标量加权限制了复杂 Pareto 边界的探索
限制条件可优化维度：\(d_o=1\) (仅单维度)	4.02 ± 0.56	5.14 ± 0.61	压缩优化自由度，无法通过多维协同满足复合守恒律
采样步数缩减：\(T=10\) (默认 \(T=25\))	9.90 ± 0.86	8.84 ± 0.73	保留 98% 以上优化质量，推理计算耗时可缩短约 60%