Kernel-based guarantees for nonlinear parametric models in Bayesian optimization¶

会议: NeurIPS 2026
arXiv: 2605.13160
领域: 优化/理论
关键词: 贝叶斯优化, 非线性参数化模型, 再生核希尔伯特空间, 汤普森采样, 累积后悔界

一句话总结¶

针对自适应采样与无似然贝叶斯优化中广泛使用的非线性参数化模型缺乏理论保障的问题，本文通过参数空间核诱导模型类 RKHS 几何，为正则化凸损失学习建立了类似 GP 的置信界，并在有限域近似汤普森采样策略下给出了首个亚线性累积后悔保证。

研究背景与动机¶

现代贝叶斯优化（Bayesian Optimization, BO）与自适应实验设计依赖序列化选点来优化高昂的黑盒函数，在材料设计、物理实验及超参数优化等成本高昂的应用中不可或缺。随着深度学习的发展，无似然贝叶斯优化（Likelihood-Free BO, LFBO）等方法逐渐摒弃传统的高斯过程（GP）先验，转向直接使用有限维非线性参数化模型（如多层感知机或深度神经网络）来拟合采集函数或效用比率。然而，自适应数据收集破坏了经典统计学习理论中的独立同分布（i.i.d.）假设，使得数据之间存在复杂的序列依赖性。

现有关于自适应序列决策与贝叶斯优化的理论分析高度依赖于 GP 先验、线性模型、再生核希尔伯特空间（RKHS）或无穷宽神经网络的神经切线核（NTK）线性化近似。这些传统分析框架能够推导出自规范化鞅集中不等式与信息增益上界，却无法直接覆盖实际工程中部署的有限宽非线性神经网络模型。对于 LFBO 和基于神经网络的汤普森采样方法而言，实践中所取得的优异效果与其滞后的理论分析之间存在明显的脱节，亟需建立能够直接分析非线性参数模型在自适应采样下泛化与后悔的数学工具。

本文的切入角度是打破将非线性参数模型强行线性化或强加 GP 先验的定势，转而在模型的参数空间上引入正定核函数，通过核特征映射构建诱导的函数级 RKHS 几何结构。核心 idea：利用参数空间正定核诱导模型类的 RKHS 几何，借助强凸正则化损失导出自规范化置信椭球，进而通过核占优技术将其转化为等效高斯过程预测方差，首次为有限维随机非线性模型推导出自适应采样下的亚线性后悔界。

方法详解¶

整体框架¶

本文构建了一个从参数空间核到函数空间 RKHS、再到自适应决策下置信区间与累积后悔控制的完整分析框架。整体流程分为三个主要阶段：首先，通过参数空间上的正定核 $k_\Theta$ 诱导定义在输入空间 $\mathcal{X}$ 上的函数空间 RKHS $\mathcal{H}_\mathcal{G}$；其次，在自适应收集的数据集 $\mathcal{D}_t$ 上，采用围绕随机初始参数 $\theta_{t,0}$ 进行强凸正则化的经验损失函数训练模型；最后，通过自规范化鞅集中不等式建立点态泛化误差界，并利用参考核（如 Matérn 核）对诱导核的谱占优性质，将其缩放为高斯过程预测方差 $\sigma_t(\mathbf{x})$，驱动贪心与近似汤普森采样的收敛性分析。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["参数空间与非线性模型类<br/>g(x, θ), θ ∈ Θ"] --> B["诱导模型空间 RKHS<br/>内积核 k_G(x, x') 诱导范数"]
    B --> C["随机初始化正则化损失<br/>围绕 θ_t,0 强凸正则化收缩"]
    C --> D["自规范化鞅置信椭球<br/>点态误差界与算子逆范数"]
    D --> E["参考核占优与等效 GP 方差<br/>k ⪰ k_G 导出标准预测方差 σ_t(x)"]
    E --> F["近似汤普森采样决策<br/>小球概率保证最优解高频访问"]
    F --> G["亚线性累积后悔保证<br/>方差衰减与整体收敛性"]

关键设计¶

1. 参数空间核诱导的函数类 RKHS：赋予非线性参数模型内积几何 为了突破传统分析要求模型关于特征严格线性的局限，本文假设参数化模型关于参数的切片函数属于参数空间 $\Theta$ 上的某个 RKHS $\mathcal{H}_\Theta$，即 $g(\mathbf{x}, \cdot) \in \mathcal{H}_\Theta$。借助 Aronszajn 再生核理论，可以在输入空间 $\mathcal{X}$ 上构造唯一的诱导 RKHS $\mathcal{H}_\mathcal{G}$，其对应的再生核为参数空间特征的内积： $$k_\mathcal{G}(\mathbf{x}, \mathbf{x}') = \langle g(\mathbf{x}, \cdot), g(\mathbf{x}', \cdot) \rangle_{\mathcal{H}_\Theta}.$$ 对于有限参数空间中的平滑非线性模型（如具有平滑激活函数的前馈神经网络），只要模型关于参数的各阶偏导数均方可积，就能保证其位于 Matérn 核对应的 Sobolev 空间中。该设计使得参数正则化（如权重衰减）可以直接对应到函数空间中的 RKHS 范数，将难以直接处理的非线性流形映射转化为具备优良内积性质的线性泛函分析问题。

2. 随机初始化与强凸显式正则化：在自适应流中平衡探索与稳定性 在自适应决策中，确定性贪心算法极易陷入局部正样本聚集区而缺乏探索。本文提出在每轮决策 $t$ 重新抽取随机初始化参数 $\theta_{t,0} \sim \Pi_0$，并在经验损失中显式约束模型与该随机先验函数的 RKHS 距离： $$L_t(g_\theta) = \frac{\lambda_t}{2} \| g_\theta - g_{t,0} \|_\mathcal{G}^2 + \sum_{i=1}^t \ell(g_\theta(\mathbf{x}_i), y_i).$$ 当损失函数 $\ell$ 满足二阶导数下界 $\ddot{\ell}_y(s) \ge \alpha_\ell > 0$ 时，该目标函数在 $\mathcal{H}_\mathcal{G}$ 中满足强凸性，其 Hessian 算子满足 $H_t = \lambda_t I + \alpha_\ell \sum_{i=1}^t \phi(\mathbf{x}_i) \otimes \phi(\mathbf{x}_i)$。此设计在数学上实现了双重功能：在数据稀疏区域，强正则化将预测函数牢牢锚定在随机初始化模型附近，形成类似汤普森采样的探索机制；在样本密集区域，凸损失与曲率算子保证估计量能够稳定收敛到真实模型 $g_\star$。

3. 核占优与等效 GP 预测方差转换：架起非线性模型与信息增益的桥梁 诱导核 $k_\mathcal{G}$ 高度依赖具体的神经网络架构，直接计算其行列式与信息增益极其困难。本文证明了若模型导数一致有界，诱导空间 $\mathcal{H}_\mathcal{G}$ 会连续嵌入到具有适当平滑度的 Matérn 核空间 $\mathcal{H}_k$ 中，从而存在常数 $b_\mathcal{G} > 0$ 满足核占优关系 $k_\mathcal{G} \preceq b_\mathcal{G}^2 k$。通过这一关键算子占优性质，本文成功利用 Woodbury 恒等式和 Schur 补矩阵单调性，将模型预测误差转化为标准 GP 预测方差 $\sigma_t^2(\mathbf{x})$： $$\sigma_t^2(\mathbf{x}) = k(\mathbf{x}, \mathbf{x}) - \mathbf{k}_t(\mathbf{x})^\top \left(\mathbf{K}_t + \lambda_0 \alpha_\ell^{-1} \mathbf{I}\right)^{-1} \mathbf{k}_t(\mathbf{x}).$$ 这一转化使得非线性模型能够无缝复用经典高斯过程文献中成熟的最大信息增益（Maximum Information Gain）工具，规避了直接分析复杂神经网络矩阵谱结构的理论瓶颈。

4. 基于先验小球条件与最优解方差衰减的累积后悔控制：破解非精确采样难题 在非精确汤普森采样中，单步瞬时后悔被拆解为最优解与当前选择点的误差上界 $r_t \le \beta_{t-1}(\delta) (\sigma_{t-1}(\mathbf{x}^\star) + \sigma_{t-1}(\mathbf{x}_t))$。针对传统 GP 后悔分析中无法直接抵消的最优解误差项 $\sigma_{t-1}(\mathbf{x}^\star)$，本文引入了参数先验的有效小球条件（Small-ball condition）： $$\mathbb{P}[\rho(\theta_\star, \theta_0) \le \alpha] \ge c_\star \alpha^{d_{\text{eff}}}.$$ 只要正则化序列满足 $\lambda_t \in \omega(\log t)$ 且 $\sum_{t=1}^\infty \lambda_t^{-d_{\text{eff}}/2} = \infty$，模型在最优解附近的微小初始化偏差就会以正概率确保算法精确选中全局最优点 $\mathbf{x}^\star$。借助第二 Borel-Cantelli 引理与 Sherman-Morrison 秩一更新恒等式，访问最优点次数的累积直接促使 $\sigma_t^2(\mathbf{x}^\star) \in \mathcal{O}((\log t)^{q d_{\text{eff}} / 2} / t)$ 快速衰减，最终实现了全域亚线性后悔的闭环证明。

实验关键数据¶

主实验：渐近后悔界与理论收敛率对比¶

本文为纯理论工作，下表系统梳理并对比了本文提出的非线性参数模型理论与自适应采样/贝叶斯优化领域中代表性范式的理论设定与累积后悔界。

方法 / 范式	模型类型	是否依赖线性化 / NTK	置信界形式	累积后悔界 $R_T$ 阶数
GP-UCB (Srinivas et al., 2010)	非参数高斯过程	否（严格 GP）	后验方差 $\sigma_{t-1}(\mathbf{x})$	$\mathcal{O}(\sqrt{T \gamma_T})$
Kernelized Bandits (Chowdhury & Gopalan, 2017)	线性 RKHS 机器	否（纯核方法）	算子范数界	$\mathcal{O}(\sqrt{T \gamma_T})$
Neural Thompson Sampling (Zhang et al., 2021)	过参数化深度神经网络	是（NTK 线性化，无穷宽）	经验 NTK 梯度方差	$\widetilde{\mathcal{O}}(d_{\text{eff}} \sqrt{T})$
BORE Density-Ratio (Oliveira et al., 2022)	分类器 + GP-UCB 辅助	是（外加 GP 不确定性）	外部 GP 方差	$\mathcal{O}(\sqrt{T \gamma_T})$
本文 (Ours, Approximate TS)	有限维非线性参数模型	否（全非线性有限宽）	诱导核转等效 GP 方差	$\mathcal{O}\left(\sqrt{T}(\log T)^{\zeta + q(1 + d_{\text{eff}} / 4)}\right)$

消融实验：不同正则化调度与参数先验条件对收敛性的影响分析¶

为了剖析理论框架中核心超参数调度与假设对后悔增长及最优点方差衰减的影响，下表呈现了关键设定下的渐近收敛性质分析。

正则化强度调度 $\lambda_t$	先验尾部条件 $\psi_0(s)$	最优解访问频次 $N_t^\star$ 下界	最优解方差衰减 $\sigma_t^2(\mathbf{x}^\star)$	累积后悔 $R_T$ 收敛状态
$\lambda_t \asymp \log^q t \ (q > 1)$	$\mathcal{O}(s^\zeta) \ (\zeta > 0)$ 多项式尾	$\Omega\left(t / (\log t)^{q d_{\text{eff}} / 2}\right)$ a.s.	$\mathcal{O}\left((\log t)^{q d_{\text{eff}} / 2} / t\right)$	严格亚线性收敛 $\mathcal{O}(\sqrt{T}(\log T)^\kappa)$
$\lambda_t = \mathcal{O}(\log t)$（欠正则化）	$\mathcal{O}(s^\zeta)$	无法保证 $\sup_\mathbf{x} \\|g_t - g_\star\\| \to 0$	下界不确定，可能停滞	无法排除陷入局部极值的次优线性后悔
$\lambda_t \gg t^{2 / d_{\text{eff}}}$（过度正则化）	$\mathcal{O}(s^\zeta)$	$\sum \lambda_t^{-d_{\text{eff}}/2} < \infty$，B-C 引理失效	方差不再随时间衰减	随机初始化难以命中好区间，后悔发散
$\lambda_t \asymp \log^q t$	次指数尾（Sub-Gaussian）	$\Omega\left(t / (\log t)^{q d_{\text{eff}} / 2}\right)$ a.s.	$\mathcal{O}\left((\log t)^{q d_{\text{eff}} / 2} / t\right)$	严格亚线性，对数阶数降至最优（$\zeta = 1/2$）

关键发现¶

正则化因子 $\lambda_t$ 必须严格快于 $\log t$ 增长（即 $\lambda_t \in \omega(\log t)$），以消除有限域内非最优点造成的间隙扰动；但同时必须满足级数 $\sum \lambda_t^{-d_{\text{eff}}/2} = \infty$，以确保小球初始化命中真实最优解的事件在时间上无限次发生。
最优解的等效预测方差 $\sigma_t^2(\mathbf{x}^\star)$ 通过 Sherman-Morrison 矩阵逆更新实现了 $\mathcal{O}(1 / N_t^\star)$ 的衰减，证明随机贪心策略本身即可自主完成对最优解的不确定性消除。
最终累积后悔界中的有效维度 $d_{\text{eff}}$ 依赖于参数空间到函数空间诱导伪度量 $\rho$ 的局部几何，而非简单等同于模型的物理参数量 $M$。这解释了为何高维神经网络在低本征维度的优化任务中仍能高效收敛。

亮点与洞察¶

将参数空间作为 RKHS 特征空间：巧妙利用 Aronszajn 定理，将输入点 $\mathbf{x}$ 处非线性模型的参数函数视为高维特征向量，构造了函数空间 RKHS，使深度神经网络无需无穷宽近似即可直接应用希尔伯特空间投影定理。
解耦模型训练与不确定性量化：通过 Sobolev 嵌入与核占优引理，证明了平滑神经网络诱导核被 Matérn 谱占优，使得分析时可直接借用 GP 的自规范化置信椭球，而算法运行时完全不需要维护昂贵的 GP 矩阵。
随机化作为探索原动力：严格从数学上证明了工程中常用的“随机初始化 + 权重衰减微调”本质上构成了一个有效的近似汤普森采样器，为无似然贝叶斯优化（LFBO）的经验成功奠定了坚实理论基石。

局限与展望¶

依赖有限域假设：当前的后悔证明依赖于有限离散定义域 $\mathcal{X}$ 中的正间隙 $\Delta_\star > 0$，直接推广到连续致密域需要借助局部利普希茨连续性与覆盖数论证。
时变效用函数未完全覆盖：在通用 LFBO（如 BORE）中，分类阈值随时间动态调整导致历史标签存在非静态重标（relabeling），破坏了条件鞅测度可测性，本文理论目前仅覆盖了静态回归损失下的近似汤普森采样。
核占优常数的理论保守性：从诱导核到 Matérn 核的嵌入常数 $b_\mathcal{G}$ 依赖于导数的全局上确界，在多层深层网络中可能随深度指数级放大，未来可探索更紧凑的数据依赖型局部核界。

评分¶

新颖性: ⭐⭐⭐⭐⭐ 首次建立参数空间核诱导 RKHS 几何分析自适应非线性模型，构思极具原创性。
实验充分度: ⭐⭐⭐⭐ 纯理论分析，数学证明链条严密完备，但缺少大规模实际基准数值模拟对比。
写作质量: ⭐⭐⭐⭐⭐ 概念铺垫自然流畅，从泛函嵌入到鞅集中不等式的推导逻辑清晰透彻。
价值: ⭐⭐⭐⭐⭐ 弥合了深度神经网络自适应优化与经典统计学习理论之间的鸿沟，理论指导意义重大。

正则化强度调度 \(\lambda_t\)	先验尾部条件 \(\psi_0(s)\)	最优解访问频次 \(N_t^\star\) 下界	最优解方差衰减 \(\sigma_t^2(\mathbf{x}^\star)\)	累积后悔 \(R_T\) 收敛状态
\(\lambda_t \asymp \log^q t \ (q > 1)\)	\(\mathcal{O}(s^\zeta) \ (\zeta > 0)\) 多项式尾	\(\Omega\left(t / (\log t)^{q d_{\text{eff}} / 2}\right)\) a.s.	\(\mathcal{O}\left((\log t)^{q d_{\text{eff}} / 2} / t\right)\)	严格亚线性收敛 \(\mathcal{O}(\sqrt{T}(\log T)^\kappa)\)
\(\lambda_t = \mathcal{O}(\log t)\)（欠正则化）	\(\mathcal{O}(s^\zeta)\)	无法保证 \(\sup_\mathbf{x} \\|g_t - g_\star\\| \to 0\)	下界不确定，可能停滞	无法排除陷入局部极值的次优线性后悔
\(\lambda_t \gg t^{2 / d_{\text{eff}}}\)（过度正则化）	\(\mathcal{O}(s^\zeta)\)	\(\sum \lambda_t^{-d_{\text{eff}}/2} < \infty\)，B-C 引理失效	方差不再随时间衰减	随机初始化难以命中好区间，后悔发散
\(\lambda_t \asymp \log^q t\)	次指数尾（Sub-Gaussian）	\(\Omega\left(t / (\log t)^{q d_{\text{eff}} / 2}\right)\) a.s.	\(\mathcal{O}\left((\log t)^{q d_{\text{eff}} / 2} / t\right)\)	严格亚线性，对数阶数降至最优（\(\zeta = 1/2\)）