ReBOL: Retrieval via Bayesian Optimization with Batched LLM Relevance Observations and Query Reformulation¶
会议: EMNLP 2026
论文: ACL Anthology
代码: https://anonymous.4open.science/r/ReBOL-5D56/README.md
领域: 信息检索/RAG
关键词: 贝叶斯优化, 大模型重排, 查询重构, 主动检索, 多峰后验
一句话总结¶
将传统“重构-检索-重排”流水线重构为贝叶斯优化(BO)框架,利用 LLM 查询重构初始化高斯过程多峰相关性后验,并通过多样化批次采集函数与 LLM 批量打分交替迭代主动搜寻高相关文档,大幅提升稠密检索的召回率与排序质量。
研究背景与动机¶
在大语言模型(LLM)赋能的现代检索与重排流水线中,常见范式是先使用密集向量相似度从海量语料库中初筛 top-k 候选文档,再送入 LLM 进行细粒度的单篇打分(pointwise)或列表重排(listwise)。然而,这一重排机制的效果完全受制于初检阶段的召回上限。向量检索通常将查询和文档独立编码为定长嵌入,依赖点积或余弦相似度等简单打分函数,既无法实现深层的 query-document 词级别交互,又强加了围绕查询向量的单峰相关性假设;而在真实检索场景中,相关文档往往以多峰形式分散在不同的语义聚类簇中。
为了改善召回,现有工作普遍引入 LLM 查询重构(Query Reformulation, QR),通过扩展或重写出多个互补查询再进行多路向量召回。但这类方法生成的新查询最终仍被单独送入向量检索器,并机械地通过相似度平均或排序融合进行整合,无法形成跨查询、跨候选的动态交互。一旦初始向量检索由于语义断裂未能在 top-k 覆盖真实相关文档,下游 LLM 重排器便无能为力。
本文的切入角度是打破“一次性召回 + 事后重排”的割裂范式,将整个检索过程建模为黑盒相关性函数的贝叶斯优化(Bayesian Optimization, BO)搜索。核心 idea:利用初始查询及其大模型重构查询在嵌入空间中初始化多峰高斯过程后验,并通过批次采集函数与大模型批量打分交替迭代,以主动学习方式搜寻全局高相关文档。
方法详解¶
整体框架¶
ReBOL(Retrieval via Bayesian Optimization with Batched LLM Relevance Observations and Query Reformulation)将稠密文本嵌入空间 \(\mathbb{R}^m\) 中的未知查询-文档相关性函数 \(f(z)\) 视为目标黑盒。系统预先离线获取所有文档的稠密向量表示,在线接收用户查询 \(q_0\)。整个流程分为先验初始化阶段与主动批次采集循环阶段:首先通过大语言模型生成若干互补的查询重构版本,将原始查询和重构查询均作为最高相关性的锚点观测输入高斯过程(GP),构建具有多个峰值的非线性先验分布;随后在每轮迭代中,由批次采集函数在整个未观测文档集合中优选一批最具信息量或最高潜力的文档候选,调用大模型对该批文档进行批量相关性打分,并将所得评分作为新观测样本更新高斯过程后验均值与方差。
整个多阶段迭代流程如下图所示,图中的处理阶段与核心设计完全对齐:
%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
A["输入查询 q0 与语料库"] --> B["大模型查询重构与多峰后验初始化<br/>生成重构查询并在向量空间植入相关性峰值"]
B --> C["多样化文档批次采集<br/>MMR / UCB 平衡后验均值与不确定性"]
C --> D["大模型批量相关性打分<br/>UMBRELA 0-3 级标签批量推理"]
D --> E["高斯过程后验更新<br/>更新相关性均值与方差"]
E -->|未达到观测预算 B_max| C
E -->|达到观测预算| F["输出最终排序列表<br/>按后验均值降序排列"]
关键设计¶
1. 大模型查询重构与多峰后验初始化:突破单峰先验与表达瓶颈 传统向量检索采用双塔内积,其相似度等高线在几何上强制形成围绕单一查询向量的单峰分布,忽视了复杂信息需求下相关文档可能分散在不同主题子空间的事实。ReBOL 将相关性函数 \(f: \mathbb{R}^m \to [0, s_{\max}]\)(其中 \(s_{\max}=3\) 对应最高相关,0 对应完全不相关)置于高斯过程先验之下。为了捕获分散的相关性峰值,ReBOL 提示大模型对初始查询 \(q_0\) 生成 \(Q\) 个改写版本 \(\{q_1, \dots, q_Q\}\)。系统将初始查询与其所有改写嵌入均视为已知的高相关观测对 \((z_{q_i}, s_{\max})\)。高斯过程采用零均值先验以及非线性 RBF 核函数: $\(k(z, z') = \sigma_s^2 \exp\left(-\frac{\|z - z'\|_2^2}{2\ell^2}\right)\)$ 通过非线性核的协方差度量,各个查询向量位置在后验分布中天然诱导形成多个局部极大值。在未观测区域,函数值自适应退化到均值 0,既表达了大多数未见文档不相关的合理归纳偏置,又为后续全局探索提供了多源起始点。
2. 多样化文档批次采集:平衡不确定性探索与冗余抑制 在主动检索循环中,每一轮需要从全量文档库中选取包含 \(B\) 篇文档的批次 \(B_t\) 提交给大模型裁决。为了兼顾开发高期望区域(exploitation)与探索高不确定性区域(exploration),ReBOL 采用单点采集函数(如置信区间上界 UCB): $\(\alpha(z_d | \mathcal{D}_t) = \mu[f(z_d)] + \sqrt{\beta}\,\sigma[f(z_d)]\)$ 其中 \(\mu[f(z_d)]\) 和 \(\sigma[f(z_d)]\) 分别由高斯过程闭式后验计算得出。针对批次采样中容易在同一局部高亮区扎堆选出相似文档的问题,ReBOL 引入了受最大边际相关(MMR)启发的批次多样化生成策略。在确定批次第一个文档 \(d_t = \arg\max_{d} \alpha(z_d|\mathcal{D}_t)\) 后,后续样本通过权衡采集函数潜能与同批次已选文档相似度贪心递推选取: $\(d_{t+i} = \arg\max_{d \in \mathcal{X} \setminus B_t} \left[ \lambda \alpha(z_d | \mathcal{D}_t) - (1 - \lambda) \max_{d' \in B_t} S(z_d, z_{d'}) \right]\)$ 其中 \(S(\cdot, \cdot)\) 为余弦相似度,\(\lambda\) 调节多样性强度。相比于每选一个点就重算一次协方差矩阵的传统 Kriging Believer(KB)算法,MMR 批次生成只需进行一次采集函数评估和廉价的向量点乘,极大地降低了计算开销,同时有效避免了将宝贵的大模型打分预算浪费在冗余文档上。
3. 大模型批量相关性打分:降低调用延迟并捕捉文档间交互 逐篇调用大模型评估文档不仅面临极高网络/推理往返延迟,而且无法利用上下文注意力机制感知文档间的相对细微差别。ReBOL 采用批量打分策略,每轮将批次 \(B_t\) 中的 \(B\) 篇文档与原始查询拼接在同一个提示词中,由 LLM 一次性输出每个候选文档的 0-3 级 UMBRELA 绝对相关性标签。所得评分作为带噪声的观测标量 \(y_t \in [0, 3]\),对应高斯噪声模型 \(y \sim \mathcal{N}(f(z), \sigma_n^2)\)。高斯过程据此通过解析解快速更新全体候选空间的后验均值 \(\mu[f(z')]\) 与后验方差 \(\sigma^2[f(z')]\)。这一机制使得 ReBOL 成为一种随时(anytime)算法——在达到指定的观测预算或计算耗时门限时,系统可直接依据当前后验均值降序排列文档,输出带有置信度分数的最终检索结果。
实验关键数据¶
主实验¶
在 BEIR 基准测试的 5 个典型数据集(涵盖生物医学、新闻、事实核查等领域)上,以 Gemini-2.5-Flash-Lite 作为大模型主干,对比传统稀疏检索、密集检索以及主流 LLM 重排流水线。各方法均设置相同的候选观察预算(100 篇文档)。
| 数据集 | 指标 | Dense (QR) + PW | LW-window (QR) | ReBOL-QR-Greedy | ReBOL-QR-UCB | 相对Dense+PW提升 |
|---|---|---|---|---|---|---|
| Robust04 | R@100 | 35.0 | 35.0 | 45.6* | 46.5* | +32.9% |
| Robust04 | NDCG@10 | 61.2 | 58.6 | 63.6 | 63.3 | +3.9% |
| TREC-COVID | R@100 | 8.0 | 8.0 | 15.6* | 15.6* | +95.0% |
| TREC-COVID | NDCG@10 | 66.5 | 72.6 | 76.8 | 75.4 | +15.5% |
| NFCorpus | R@100 | 33.7 | 33.7 | 36.1 | 37.7 | +11.9% |
| NFCorpus | NDCG@10 | 39.3 | 39.9 | 40.1 | 40.2 | +2.3% |
| SciFact | R@100 | 96.6 | 96.6 | 96.7 | 96.7 | +0.1% |
| SciFact | NDCG@10 | 71.0 | 76.7 | 73.5 | 73.5 | +3.5% |
| TREC-NEWS | R@100 | 45.7 | 45.7 | 49.9 | 52.7 | +15.3% |
| TREC-NEWS | NDCG@10 | 44.0 | 49.6 | 45.1 | 45.7 | +3.9% |
(注: 表示相对基线具有 95% 置信度的统计显著性差异。LW 为列表重排,PW 为单篇打分。)*
消融实验¶
针对批次多样化策略(MMR、Kriging Believer、Top-B)以及多样性超参数 \(\lambda\) 进行系统对比(表 4 核心结果,ReBOL-QR-UCB 配置):
| 批次采集策略 | 多样性参数 \(\lambda\) | Robust04 R@100 | Robust04 NDCG@10 | TREC-COVID R@100 | TREC-COVID NDCG@10 | 说明 |
|---|---|---|---|---|---|---|
| Top-B(无多样化) | - | 46.5* | 63.3 | 15.6* | 75.4 | 基线无分散采样,易局部聚集 |
| Kriging Believer | - | 45.6* | 63.7 | 16.0* | 83.2 | 逐点虚拟更新,计算开销大 |
| MMR | \(\lambda = 0.9\) | 46.7* | 64.6 | 15.9* | 77.3 | 引入轻微多样性,综合表现提升 |
| MMR | \(\lambda = 0.7\) | 47.1* | 65.2 | 16.1* | 78.2 | 最佳平衡点,召回与排序双优 |
| MMR | \(\lambda = 0.5\) | 44.7* | 63.8 | 16.1* | 83.2 | 过度多样化导致开发不足,轻微掉点 |
关键发现¶
- 召回突破与主动寻优:由于传统重排器被严格限制在初检的 top-k 空间内(召回率恒定为 Dense 检索的数值),ReBOL 通过贝叶斯优化主动探索全局空间,在 Robust04 和 TREC-COVID 上的 R@100 分别达到 46.5% 和 15.6%(相比基线的 35.0% 和 8.0% 呈现断层式提升),证明主动学习能够有效弥补双塔向量初检的漏检缺陷。
- 查询重构的“冷启动”赋能:对比仅有初始查询的 ReBOL-IQ 与融入改写版本的 ReBOL-QR,后者在随机采集基线上出现跃升,在小预算场景(50 次观测)下优势尤为明显,证实了 LLM 查询重构能够在优化初始阶段为高斯过程提供高质量的多峰引导锚点。
- 批次大小与时延权衡:单样本串行交互(\(B=1\))虽然能够使每一步决策都利用最新后验,从而取得略高的排序质量,但每条查询需消耗近 40 秒;而采用 \(B=10\) 的批次采样将调用总时延降至 5~8 秒,且在整体耗时中 LLM 推理占据主导,GP 后验计算附加的时延极小。
亮点与洞察¶
- 检索范式的根本重构:打破了“预筛选-再重排”的被动流水线模式,将大语言模型的高精度相关性判断作为主动优化的观测信号,使高质量排序与全局召回能够在统一的贝叶斯框架中动态演进。
- 轻量高效的批次多样化机制:创造性地将信息检索经典的 MMR 思想融入高斯过程批次采集,仅凭一次后验评估和廉价的余弦相似度惩罚即可达到并超越高复杂度的 Kriging Believer 效果,兼具理论自洽与工程实用性。
- 泛化性强的即插即用架构:该框架对打分器与编码器完全解耦,实验证实无论是替换为 GPT-5.2 还是 cross-encoder,ReBOL 均能持续带来相较被动重排的显著增益,为 RAG 系统的检索模块提供了全新的探索方向。
局限与展望¶
- 大规模语料库扩展性:当前每轮采集需要在大规模文档嵌入集上计算高斯过程后验均值与方差,虽然可在 GPU 上加速,但在千万级文档库中全量矩阵运算与相似度计算仍存在算力瓶颈,未来需探索基于聚类分块或层次化搜索的扩展方案。
- 固定超参数设置:实验中高斯过程的高斯噪声方差 \(\sigma_n^2\)、信号方差 \(\sigma_s^2\) 及长度尺度 \(\ell\) 均采用固定经验值(均为 1),未针对不同领域特征进行在线自适应学习或边缘似然最大化调优。
- 模型偏差与越狱风险传播:依赖 LLM 作为绝对相关性判别官,可能放大模型预训练阶段引入的认知偏差,或在对抗性输入(如 prompt 注入)下做出错误打分,进而误导高斯过程后续的探索轨迹。
相关工作与启发¶
- vs Dense Retrieval + LLM Reranking (Ma et al., 2023; Upadhyay et al., 2024):传统方案采用双塔检索固定 top-k 候选,LLM 仅在孤立的小候选池内重排;ReBOL 将 LLM 评估作为主动探索的采样信号,打破候选集限制,从全库中动态挖掘潜在相关文档。
- vs LLM Query Reformulation (Wang et al., 2023; Kostric & Balog, 2024):传统查询重构仅将生成的多个 query 独立用于初检并做分数平滑;ReBOL 将重构 query 转化为高斯过程嵌入空间中的多个先验极大值点,自然诱导多峰相关性分布。
- vs 贝叶斯主动学习检索 (Kim et al., 2026; Liu et al., 2026):先前利用高斯过程结合 LLM 的工作多局限于单点串行交互或推荐系统评分;ReBOL 首次系统性引入大模型多查询先验引导与 MMR 批次多样化采集,在标准 IR 基准上兼顾了召回率、排序质量与实际运行延迟。
评分¶
- 新颖性: ⭐⭐⭐⭐⭐ 将大模型查询重构与批次贝叶斯优化有机融合以重构检索流水线,立意极具新意与启发性。
- 实验充分度: ⭐⭐⭐⭐☆ 覆盖 5 个 BEIR 数据集、多种 LLM 架构与 cross-encoder,消融分析细致扎实;若能补充超大规模检索测试则更为完备。
- 写作质量: ⭐⭐⭐⭐⭐ 架构定义清晰严谨,数学公式与算法演进叙述流畅连贯,图表信息表达充分。
- 价值: ⭐⭐⭐⭐⭐ 突破了长久以来受限于初检 top-k 召回上限的瓶颈,为现代神经检索与 RAG 架构设计提供了重要的新范式。