Posterior Inference in Latent Space for Scalable Constrained Black-box Optimization¶

会议: NeurIPS 2026
arXiv: 2507.00480
领域: 优化算法
关键词: 约束黑盒优化, 潜空间后验推断, 流匹配模型, 扩散采样器, 轨迹平衡

一句话总结¶

针对高维黑盒约束优化中可行域极难搜寻且惩罚地形多峰断裂的难题，CiBO 将候选样本生成建模为流模型平滑潜空间中的后验推断，利用外包扩散模型与轨迹平衡目标实现高效多模态采样与代理过滤。

研究背景与动机¶

高维黑盒约束优化广泛存在于分子药物设计、机器人安全控制以及复杂工程气动与质量设计中。与无约束优化相比，这类问题面临着双重严峻挑战：一方面，黑盒约束的可行区域在解析上未知，且在高维搜索空间中所占比例呈指数级收缩，导致随机探索几乎无法触碰可行解；另一方面，高维空间本身极大地削弱了传统代理模型的拟合与外推能力。

经典的贝叶斯优化方法（如 cEI、LogcEI 以及基于信任域的高维方法 SCBO、PCAGP-SCBO、FuRBO）通常依赖高斯过程对目标与约束进行建模并通过采集函数最大化选取候选点。然而高斯过程在高维空间（例如 60 至 200 维）由于立方计算复杂度和表达能力瓶颈极易发生性能早熟与过拟合；而进化算法或直接搜索算法（如 CMA-ES、COBYLA）在缺乏可导梯度指导时面临巨大的采样开销。近年来，生成模型（如条件扩散模型、DiffOPT）被引入黑盒优化，但它们大多针对无约束场景或采用数据空间的直接微调与 MCMC 采样。当引入严苛的约束惩罚后，数据空间的目标后验分布会呈现出高度多峰以及大范围平坦的病态地形，导致直接微调或 MCMC 产生严重的模式崩溃与采样停滞。

本文敏锐地观察到：尽管数据空间中受约束惩罚扭曲的后验分布极度复杂且不连续，但在连续流匹配模型所学习的标准正态潜空间中，相应的潜变量后验分布却显著平滑得多。核心 idea：将高维约束黑盒优化重构为平滑潜空间中的变分后验推断，训练外包扩散采样器在潜空间中摊销生成有潜力的潜在编码，再通过流模型的确定性 ODE 映射投回数据空间完成候选采样。

方法详解¶

整体框架¶

CiBO 采用两阶段闭环迭代策略。在第一阶段（模型拟合），算法基于当前维护的有限样本缓冲区，使用带拉格朗日惩罚的秩排序重加权损失同时训练流匹配先验模型以及目标函数和约束函数的轻量级多层感知机（MLP）代理模型；在第二阶段（候选生成），将候选选择形式化为平衡代理奖励与先验偏离度的后验采样问题，利用外包扩散采样器在潜空间中通过轨迹平衡目标学习后验分布，经确定性流映射与 Top-$B$ 过滤后提交真实黑盒评估并滚动更新数据集。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    D["历史观测数据集 D_r<br/>输入 {x_i, y_i, c_i}"] --> W["秩排序重加权计算<br/>拉格朗日综合得分排序并赋予采样权重 w"]
    W --> P1["秩排序重加权建模<br/>训练流匹配先验 p_θ 与深度集成代理模型系"]
    P1 --> P2["潜空间外包扩散后验推断<br/>外包扩散模型 p_ψ(z) 拟合潜空间平滑后验分布"]
    P2 --> TB["离策略轨迹平衡优化<br/>前向反向 SDE 轨迹与低能量优先回放更新"]
    TB --> S["潜空间采样与确定性映射<br/>采样 z ~ p_ψ(z) 并通过 ODE 投影得到候选点 x"]
    S --> F["候选样本过滤与黑盒评估<br/>依据代理奖励 r_ϕ 挑选 Top-B 点并更新容量为 L 的缓冲区"]
    F -->|推进至下一轮迭代| D

关键设计¶

1. 秩排序重加权联合建模：平衡高维空间探索与可行域聚焦 在优化初期，全局空间的大多数观测点均为违背约束的不可行点。若对所有样本一视同仁地拟合生成模型和代理模型，先验模型将过度学习不可行低效区域，导致后续采样迷失方向。为此，CiBO 引入基于拉格朗日松弛的标量化指标，将目标值与各约束违反量结合： $$l(y, \mathbf{c}) = y - \lambda \sum_{m=1}^{M} \max(0, c^m)$$ 其中 $\lambda > 0$ 为拉格朗日乘子。为了避免真实数值尺度剧烈波动引起的权重震荡，算法依据样本在当前数据集 $\mathcal{D}_r$ 中的排名计算秩权重： $$w(y, \mathbf{c}, \mathcal{D}_r) = \frac{1}{\kappa |\mathcal{D}_r| + \text{rank}_{l, \mathcal{D}_r}(y, \mathbf{c})}$$ 超参数 $\kappa$ 控制重加权平滑程度。该权重被直接用于流匹配先验模型与代理模型的加权均方误差训练中。对于目标函数，算法使用 $K=5$ 个 MLP 组成的深度集成模型预测均值 $\mu_\phi(\mathbf{x})$ 与标准差 $\sigma_\phi(\mathbf{x})$ 以量化认知不确定性；对于 $M$ 个约束函数，为控制计算复杂度，分别训练单一的 MLP 代理。通过秩权重引导，模型自然聚焦于兼具高目标值与低违约程度的高潜质样本流形。

2. 潜空间外包扩散后验推断：规避数据空间多峰与平坦惩罚地形 为了在新一轮搜索中兼顾可行域探索与防止外推崩溃，CiBO 将候选点分布形式化为正则化变分优化问题，其闭式解对应于目标后验分布 $p_{\text{post}}(\mathbf{x}) \propto p_\theta(\mathbf{x}) \exp(\beta \cdot r_\phi(\mathbf{x}))$，其中代理奖励函数定义为置信上界（UCB）探索机制与约束惩罚项的组合： $$r_\phi(\mathbf{x}) = \mu_\phi(\mathbf{x}) + \gamma \sigma_\phi(\mathbf{x}) - \lambda \sum_{m=1}^{M} \max(0, g_\phi^{(m)}(\mathbf{x}))$$ 然而在原始输入数据空间中，约束惩罚项使得不可行区域的似然急剧坍缩形成大面积平坦洼地，同时可行孤岛导致极端的多峰分布，直接微调流模型或使用朗之万 MCMC 采样极其容易发生模式崩塌或陷入局部极小。CiBO 采用外包扩散采样思路，利用训练好的流模型所具备的双射确定性映射 $\mathbf{x} = f_\theta(\mathbf{z})$（由神经常微分方程从标准正态分布 $\mathbf{z} \sim \mathcal{N}(0, \mathbf{I})$ 积分得到），将数据空间的后验采样等价转化为潜变量空间的后验推断： $$p_{\text{post}}(\mathbf{z}) \propto p(\mathbf{z}) \exp(\beta \cdot r_\phi(f_\theta(\mathbf{z})))$$ 因为流模型将复杂数据流形拉伸展开为连续平滑的潜空间表示，潜空间中的后验能量景观显著平缓且连续。算法额外引入一个轻量级扩散采样器 $p_\psi(\mathbf{z})$ 专门用于拟合该潜变量后验分布，从而彻底绕开了在数据空间中微调主干生成模型的数值不稳定性。

3. 离策略轨迹平衡优化与候选过滤：增强多模态覆盖与评估样本效率 为了在有限的计算开销下高保真地逼近潜空间目标后验分布 $p_{\text{post}}(\mathbf{z})$，扩散采样器采用生成流网络（GFlowNet）中的轨迹平衡（TB）损失进行参数优化。TB 损失将反向去噪过程视为有限步离散马尔可夫链，通过匹配前向与反向随机微分方程（SDE）转移核的联合对数概率之比与非归一化目标密度来训练扩散网络。这种形式允许天然的离策略训练：采样器不仅从当前自身策略中采集轨迹，还能利用反向核对存储在经验回放池中的潜变量反推轨迹，并按照能量函数 $\mathcal{E}(\mathbf{z}) = -\log(p(\mathbf{z}) r_\phi(f_\theta(\mathbf{z})))$ 优先回放低能量（即高奖励、低违约）样本。在每轮候选提交阶段，扩散采样器在潜空间中生成 $N \cdot B$（如 $N=10$）个潜变量并通过流模型映射为数据点，根据代理奖励 $r_\phi(\mathbf{x})$ 进行 Top-$B$ 过滤，仅提交预测最优的 $B$ 个点至真实黑盒系统，从而大幅提升昂贵环境调用的命中率。

损失函数 / 训练策略¶

模型在每一轮优化中全部采用轻量级 MLP 参数化，训练策略高度结构化： 1. 流匹配先验损失：采用条件流匹配（CFM）目标，使用线性插值路径 $\mathbf{x}_t = (1-t)\mathbf{x}_0 + t\mathbf{x}$，以带权均方误差对齐速度场： $$\mathcal{L}(\theta) = \mathbb{E}_{\mathbf{x}_0 \sim \mathcal{N}(0, \mathbf{I}), (\mathbf{x}, y, \mathbf{c}) \in \mathcal{D}_r, t \sim \text{Unif}(0, 1)} \left[ w(y, \mathbf{c}, \mathcal{D}_r) \| v_\theta(\mathbf{x}_t, t) - (\mathbf{x} - \mathbf{x}_0) \|_2^2 \right]$$ 2. 代理模型损失：加权预测误差： $$\mathcal{L}(\phi) = \sum_{(\mathbf{x}, y, \mathbf{c}) \in \mathcal{D}_r} w(y, \mathbf{c}, \mathcal{D}_r) \left[ \sum_{k=1}^K (y - f_{\phi_k}(\mathbf{x}))^2 + \sum_{m=1}^M (c^m - g_\phi^{(m)}(\mathbf{x}))^2 \right]$$ 3. 外包扩散采样器 TB 损失： $$\mathcal{L}_{\text{TB}}(\mathbf{z}_{0:1}; \psi) = \left( \log \frac{Z_\psi p(\mathbf{z}_0) \prod_{i=0}^{T-1} p_F(\mathbf{z}_{(i+1)\Delta t} | \mathbf{z}_{i\Delta t}; \psi)}{p(\mathbf{z}_1) r_\phi(f_\theta(\mathbf{z}_1)) \prod_{i=1}^T p_B(\mathbf{z}_{(i-1)\Delta t} | \mathbf{z}_{i\Delta t})} \right)^2$$ 4. 超参数设置：代理模型和扩散采样器每轮训练 100 步，流匹配模型训练 500 步；学习率统一设为 $10^{-3}$，批大小为 256；逆温度固定为 $\beta = 10^5$，探索因子 $\gamma = 1$；数据集超过容量 $L$（合成任务 $L=2000$，真实任务 $L=1000$）时按拉格朗日得分截断移除最差样本。

实验关键数据¶

主实验¶

论文在三个 200 维合成基准（Rastrigin-200D、Ackley-200D、Rosenbrock-200D，均包含线性不等式与范数球约束）以及四个真实工程任务（RoverPlanning-60D、HalfCheetah-102D、Mopta-124D、Lasso DNA-180D）上开展了广泛评估。以下为 4 次随机种子下单轮耗时及运行效率详测数据（Table 5，Rastrigin-200D）：

方法类别	方法名称	代理拟合耗时 (s)	生成模型训练 (s)	候选提议耗时 (s)	黑盒评估耗时 (s)	单轮总耗时 (s)
BO 采集函数	cEI	$128.15 \pm 10.58$	—	$11.82 \pm 0.16$	$< 0.01$	$140.05 \pm 10.56$
BO 采集函数	LogcEI	$127.82 \pm 10.06$	—	$52.25 \pm 7.28$	$< 0.01$	$180.12 \pm 6.08$
信任域 BO	SCBO	$127.95 \pm 10.06$	—	$3.70 \pm 0.00$	$< 0.01$	$131.65 \pm 10.06$
降维 BO	PCAGP-SCBO	$129.07 \pm 10.79$	—	$3.70 \pm 0.00$	$< 0.01$	$132.77 \pm 10.79$
可行域信任域	FuRBO	$127.85 \pm 10.09$	—	$4.43 \pm 0.04$	$< 0.01$	$132.35 \pm 10.09$
无导数优化	CMA-ES	—	—	$0.10 \pm 0.00$	$< 0.01$	$0.10 \pm 0.00$
局部单纯形	COBYLA	—	—	$0.10 \pm 0.00$	$< 0.01$	$0.10 \pm 0.00$
准随机序列	Sobol	—	—	$0.10 \pm 0.00$	$< 0.01$	$0.10 \pm 0.00$
生成式采样	DiffOPT	$53.47 \pm 0.78$	$12.05 \pm 0.05$	$0.60 \pm 0.00$	$< 0.01$	$66.12 \pm 0.83$
本文方法	CiBO	$\mathbf{25.60 \pm 0.17}$	$\mathbf{20.27 \pm 0.26}$	$\mathbf{0.90 \pm 0.00}$	$< 0.01$	$\mathbf{46.83 \pm 0.36}$

消融实验¶

论文针对复杂约束任务 RoverPlanning-60D（包含 15 个障碍物碰撞约束）分析了单轮计算开销分解（Table 6），并对重加权机制、采样流程分支及乘子设置进行了系列消融：

方法配置	代理拟合耗时 (s)	生成模型训练 (s)	候选提议耗时 (s)	评估耗时 (s)	单轮总耗时 (s)	核心机制与消融结论
LogcEI	$38.50 \pm 2.62$	—	$34.25 \pm 14.12$	$0.62 \pm 0.04$	$73.38 \pm 15.01$	高斯过程在高维多约束下拟合极慢且收敛早熟
SCBO	$38.75 \pm 2.72$	—	$7.75 \pm 0.05$	$0.60 \pm 0.00$	$47.15 \pm 2.72$	信任域机制可行率提升慢，样本效率显著受限
PCAGP-SCBO	$10.25 \pm 1.82$	—	$1.80 \pm 0.00$	$0.60 \pm 0.00$	$12.70 \pm 1.77$	PCA 投影压缩约束，但在复杂多障碍物下表达不足
FuRBO	$39.88 \pm 2.73$	—	$8.00 \pm 0.00$	$0.60 \pm 0.00$	$48.55 \pm 2.77$	可行性驱动搜索在强约束下依然难以跳出局部最优
DiffOPT	$33.30 \pm 2.92$	$2.40 \pm 0.00$	$1.10 \pm 0.00$	$0.62 \pm 0.04$	$37.40 \pm 2.92$	数据空间朗之万动力学在多约束下易陷入不可行平原
CiBO 完整版	$\mathbf{16.43 \pm 0.40}$	$\mathbf{16.35 \pm 0.15}$	$\mathbf{0.90 \pm 0.00}$	$0.60 \pm 0.00$	$\mathbf{34.30 \pm 0.46}$	潜空间摊销推断兼具快速收敛与高效探索
w/o 重加权 (均一权重)	—	—	—	—	性能显著衰退	去除秩排序重加权导致样本偏离高价值可行解流形
w/o 扩散采样 (纯先验采样)	—	—	—	—	性能严重停滞	缺乏潜空间后验引导，采样退化为无目的先验复现
w/o 过滤机制 (无 Top-$B$)	—	—	—	—	探索效率折损	无法充分剔除高不确定性与潜在违约样本
$\lambda = 0$ (忽略约束惩罚)	—	—	—	—	可行率崩塌为 0	缺失拉格朗日惩罚导致无法搜寻并满足可行域边界

关键发现¶

可行率收敛速度惊人：在 Rastrigin-200D 上，CiBO 仅需 5 到 10 个批次即可达到接近 100% 的候选点可行率，而 SCBO 和 PCAGP-SCBO 需要两倍以上的批次数量；在更苛刻的 RoverPlanning-60D 上，多数基线可行率长期停留在 0.4 以下，而 CiBO 在整个优化流程中持续稳定提升。
极端约束场景鲁棒性卓越：在拥有 68 个严苛性能约束的 Mopta-124D 与 180 维 Lasso DNA 任务中，DiffOPT 完全未能搜寻到任何可行解，SCBO 样本效率低下，而 CiBO 成功探索出高质量可行解，在 RoverPlanning 上达到 -4.14 的极低目标值。
计算时间远低于高斯过程 BO：在 200 维空间中，高斯过程的协方差求逆占据了主导耗时（单轮耗时超过 130 秒），而 CiBO 利用轻量级 MLP 代理和扩散网络，单轮仅需 46.83 秒，耗时降低超过 60%。

亮点与洞察¶

空间平滑性转化的数学洞见：数据空间中由非连续指示惩罚或断崖式拉格朗日势能构成的复杂后验，经流模型推向潜空间后转化为紧凑连续的平滑能量地形，使得摊销生成模型得以稳定求解。
离策略轨迹平衡赋能多峰覆盖：巧妙地将 GFlowNet 的轨迹平衡理论与外包扩散采样结合，借助反向 SDE 轨迹回放与低能量优先策略，克服了强化学习微调在多峰后验中常见的早熟收敛与模式崩塌。
全流程轻量化工程设计：摒弃计算沉重的高斯过程，采用由 3 层 MLP 构成的代理集成与流匹配模型，不仅提升了可扩展性，还实现了端到端并行的极快迭代。

局限与展望¶

跨轮次模型冷启动开销：当前算法在每一个优化轮次均对流模型、代理模型及扩散采样器进行全量重新初始化与训练，尚未建立跨轮次权重的渐进式微调机制。
先进流模型训练技巧有待整合：小批量最优传输流匹配（Mini-batch OT）以及自适应教师扩散采样器尚未融入当前框架，未来有望进一步压缩采样步骤并提升分布逼近质量。

评分¶

新颖性: ⭐⭐⭐⭐⭐ [将约束黑盒优化转化为流模型潜空间中的外包扩散后验推断，思路巧妙且理论自洽]
实验充分度: ⭐⭐⭐⭐⭐ [覆盖 200 维合成函数、指示约束、未对齐约束以及多达 68 个约束的工业真实任务，消融详尽]
写作质量: ⭐⭐⭐⭐⭐ [问题痛点直击要害，数学建模层层递进，附录实现细节与超参数公开透明]
价值: ⭐⭐⭐⭐⭐ [为高维黑盒工程与科学设计中的复杂约束寻优开辟了极具前景的生成模型范式]

方法类别	方法名称	代理拟合耗时 (s)	生成模型训练 (s)	候选提议耗时 (s)	黑盒评估耗时 (s)	单轮总耗时 (s)
BO 采集函数	cEI	\(128.15 \pm 10.58\)	—	\(11.82 \pm 0.16\)	\(< 0.01\)	\(140.05 \pm 10.56\)
BO 采集函数	LogcEI	\(127.82 \pm 10.06\)	—	\(52.25 \pm 7.28\)	\(< 0.01\)	\(180.12 \pm 6.08\)
信任域 BO	SCBO	\(127.95 \pm 10.06\)	—	\(3.70 \pm 0.00\)	\(< 0.01\)	\(131.65 \pm 10.06\)
降维 BO	PCAGP-SCBO	\(129.07 \pm 10.79\)	—	\(3.70 \pm 0.00\)	\(< 0.01\)	\(132.77 \pm 10.79\)
可行域信任域	FuRBO	\(127.85 \pm 10.09\)	—	\(4.43 \pm 0.04\)	\(< 0.01\)	\(132.35 \pm 10.09\)
无导数优化	CMA-ES	—	—	\(0.10 \pm 0.00\)	\(< 0.01\)	\(0.10 \pm 0.00\)
局部单纯形	COBYLA	—	—	\(0.10 \pm 0.00\)	\(< 0.01\)	\(0.10 \pm 0.00\)
准随机序列	Sobol	—	—	\(0.10 \pm 0.00\)	\(< 0.01\)	\(0.10 \pm 0.00\)
生成式采样	DiffOPT	\(53.47 \pm 0.78\)	\(12.05 \pm 0.05\)	\(0.60 \pm 0.00\)	\(< 0.01\)	\(66.12 \pm 0.83\)
本文方法	CiBO	\(\mathbf{25.60 \pm 0.17}\)	\(\mathbf{20.27 \pm 0.26}\)	\(\mathbf{0.90 \pm 0.00}\)	\(< 0.01\)	\(\mathbf{46.83 \pm 0.36}\)

方法配置	代理拟合耗时 (s)	生成模型训练 (s)	候选提议耗时 (s)	评估耗时 (s)	单轮总耗时 (s)	核心机制与消融结论
LogcEI	\(38.50 \pm 2.62\)	—	\(34.25 \pm 14.12\)	\(0.62 \pm 0.04\)	\(73.38 \pm 15.01\)	高斯过程在高维多约束下拟合极慢且收敛早熟
SCBO	\(38.75 \pm 2.72\)	—	\(7.75 \pm 0.05\)	\(0.60 \pm 0.00\)	\(47.15 \pm 2.72\)	信任域机制可行率提升慢，样本效率显著受限
PCAGP-SCBO	\(10.25 \pm 1.82\)	—	\(1.80 \pm 0.00\)	\(0.60 \pm 0.00\)	\(12.70 \pm 1.77\)	PCA 投影压缩约束，但在复杂多障碍物下表达不足
FuRBO	\(39.88 \pm 2.73\)	—	\(8.00 \pm 0.00\)	\(0.60 \pm 0.00\)	\(48.55 \pm 2.77\)	可行性驱动搜索在强约束下依然难以跳出局部最优
DiffOPT	\(33.30 \pm 2.92\)	\(2.40 \pm 0.00\)	\(1.10 \pm 0.00\)	\(0.62 \pm 0.04\)	\(37.40 \pm 2.92\)	数据空间朗之万动力学在多约束下易陷入不可行平原
CiBO 完整版	\(\mathbf{16.43 \pm 0.40}\)	\(\mathbf{16.35 \pm 0.15}\)	\(\mathbf{0.90 \pm 0.00}\)	\(0.60 \pm 0.00\)	\(\mathbf{34.30 \pm 0.46}\)	潜空间摊销推断兼具快速收敛与高效探索
w/o 重加权 (均一权重)	—	—	—	—	性能显著衰退	去除秩排序重加权导致样本偏离高价值可行解流形
w/o 扩散采样 (纯先验采样)	—	—	—	—	性能严重停滞	缺乏潜空间后验引导，采样退化为无目的先验复现
w/o 过滤机制 (无 Top-\(B\))	—	—	—	—	探索效率折损	无法充分剔除高不确定性与潜在违约样本
\(\lambda = 0\) (忽略约束惩罚)	—	—	—	—	可行率崩塌为 0	缺失拉格朗日惩罚导致无法搜寻并满足可行域边界