Flexible Routing via Uncertainty Decomposition¶

会议: NeurIPS 2026
arXiv: 2605.07805
OpenReview: https://openreview.net/forum?id=m7fOVAfEEw
论文: https://arxiv.org/abs/2605.07805
领域: 学习理论
关键词: 模型路由, 不确定性分解, 高阶校准, 拒绝预测, 零样本适应

一句话总结¶

本文提出了一种基于高阶校准（Higher-Order Calibration）的不确定性解耦路由框架，能够将总损失分解为固有偶发不确定性与模型认知不确定性，在无需重新训练的情况下实现支持预测、路由与弃权三方决策的零样本泛化路由器。

研究背景与动机¶

在大模型推理与部署时代，在系统性能与计算成本之间取得平衡是一个关键瓶颈。随着模型规模膨胀，单次查询强模型（如大参数思考型大模型、云端高级模型或人工专家标注）的计算开销、API 费用和响应延迟急剧上升。为了降低系统开销，模型路由（Model Routing）机制应运而生：利用轻量低成本的弱模型直接处理简单查询，仅在必要时将复杂难题上报推送到昂贵的高性能 Oracle 模型。

然而，现存路由方案存在难以调和的结构性缺陷。基于置信度的方法（如传统的选择性分类）直接根据弱模型的预测熵或置信度来决定是否路由，但置信度无法区分数据固有的标签模糊性与模型自身知识不足；当遇到输入本身存在多歧义或高噪声时，强模型同样无法消除错误，盲目路由会严重浪费预算。另一类基于监督学习的路由方法（如训练专门的回归器预测强弱模型性能差距）虽然能直接拟合二分类路由收益，但其训练过程紧密耦合特定的下游损失函数、路由开销常数及固定的决策空间；一旦 API 调用价格、弃权惩罚或评估指标发生改变，监督路由模型便彻底失效，必须重新收集数据并重新训练，且极难拓展至包含“弃权（Abstain）”的三方决策场景。

针对这一困境，本文的切入点是回归决策理论的本质：路由与弃权所依赖的核心信号是预测损失在性质上的解耦。核心 idea：利用高阶校准预测器将预测总损失严格分解为不可消除的固有损失（Irreducible Loss）与可通过强模型消除的可减少损失（Reducible Loss），进而构造出不仅能区分噪声样本与难样本、而且无需重新训练即可动态适应任意下游损失与成本惩罚的零样本三方路由器。

方法详解¶

整体框架¶

本文针对输入空间 $\mathcal{X}$ 与离散标签空间 $\mathcal{Y}$ 的分类任务展开。系统由弱模型 $f: \mathcal{X} \rightarrow \Delta\mathcal{Y}$ 和给出真实条件概率分布的 Oracle 模型 $f^*: \mathcal{X} \rightarrow \Delta\mathcal{Y}$ 组成。对于每个查询 $x$，路由器的可选动作空间涵盖三种决策 $a \in \{P, R, A\}$：预测（Predict，采用弱模型输出，仅承担模型损失）、路由（Route，查询 Oracle，获得最优预测损失但需额外支付计算成本 $\alpha$）以及弃权（Abstain，拒绝做出预测，承担惩罚 $\beta$）。

方法的完整流水线包含四个阶段：在多重独立标注的快照验证集上进行基于预测区间的样本划分（Partitioning）；统计每个分桶内标签分布的经验混合分布（Empirical Mixture Estimation）；利用分桶统计值精确估算固有损失 $\widehat{\text{IL}}$ 与可消除损失 $\widehat{\text{RL}}$（Loss Decomposition）；最终在任意给定的损失函数 $L$、路由开销 $\alpha$ 和弃权惩罚 $\beta$ 下，零计算开销推导封闭解并执行最优三方决策。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    In["输入样本 x 与弱模型预测 f(x)"] --> Part["多级分桶划分<br/>Top-Class 预测类与置信度分位数"]
    Part --> Stat["高阶校准经验统计<br/>保存分桶内标签混合分布 S_P"]
    Stat --> Decomp["不确定性严格解耦<br/>估算固有损失 IL 与可减少损失 RL"]
    Decomp --> Decis["零样本三方路由决策<br/>比较 Cost(P), Cost(R), Cost(A)"]
    Decis -->|RL < alpha 且 RL+IL < beta| OutP["Predict: 信任弱模型预测"]
    Decis -->|RL >= alpha 且 IL < beta - alpha| OutR["Route: 转交强模型 Oracle"]
    Decis -->|IL >= beta - alpha 或 RL+IL >= beta| OutA["Abstain: 主动弃权 / 请求澄清"]

关键设计¶

1. 损失函数严格解耦：区分不可消除损失与可消除损失 传统路由直接观测预测分布的熵，无法剥离数据内在歧义与认知不确定性。本文在严格 proper loss 函数 $L(p^*, p) := \mathbb{E}_{y \sim p^*}[\ell(y, p)]$ 框架下，将弱模型在样本点 $x$ 上的总预测损失精确拆解为固有不可消除损失（Irreducible Loss, $\text{IL}$）与可消除损失（Reducible Loss, $\text{RL}$）： $$ \text{IL} := L(f^(x), f^(x)), \quad \text{RL} := L(f^(x), f(x)) - L(f^(x), f^*(x)) $$ 其中，$\text{IL}$ 本质上是对应 proper loss 下的广义熵（例如在交叉熵损失下即为香农熵），代表即便由完美的 Bayes-optimal Oracle 处理也无法消除的数据本底噪声；$\text{RL}$ 则表征因弱模型次优性带来的额外误差，正是路由至强模型所能换取的绝对性能增益。

2. 基于高阶校准的分桶估计器（Bin-and-Estimate） 在测试部署时，系统无法直接获知未知的 $f^*(x)$。为了无偏差地估计 $\text{IL}$ 和 $\text{RL}$，本文引入更高维度的校准对象——高阶预测器 $F: \mathcal{X} \rightarrow \Delta\Delta\mathcal{Y}$，它输出的是标签分布上的概率分布（混合分布）。实际工程实现采用轻量且样本高效的分桶估计（Bin-and-Estimate）算法：首先根据弱模型预测的最可能类别（Top-Class）以及预测置信度将其划分为等频的 10 个分位数分桶，构建输入空间划分 $\mathcal{P}$；随后在包含多标注的 $k$-snapshot 校准集（每个样本包含 $k$ 个独立标注，均值记为 $\bar{y} = \frac{1}{k}\sum_{i=1}^k y_i$）上，保存每个桶 $P \in \mathcal{P}$ 内的经验元组集 $S_P = \{(f(x'), \bar{y})\}$。在面对新测试样本 $x \in P$ 时，直接利用 $S_P$ 经验计算期望： $$ \widehat{\text{IL}} = \frac{1}{|S_P|}\sum_{(f(x'), \bar{y}) \in S_P} L(\bar{y}, \bar{y}), \quad \widehat{\text{RL}} = \frac{1}{|S_P|}\sum_{(f(x'), \bar{y}) \in S_P} L(\bar{y}, f(x')) - \widehat{\text{IL}} $$ 由于保存的经验分布 $S_P$ 完全独立于下游损失形式与惩罚参数，该步骤构建了一次校准、永久复用的统计底座。

3. 具有全任务全代价无悔界（Omniprediction-Style）的动态最优决策 针对任意下游配置 $T = (L, \alpha, \beta)$，最优决策无需重新训练任何参数，而是直接执行闭式最小化比较： $$ r(x, T) = \arg\min_{a \in {P, R, A}} \begin{cases} \widehat{\text{IL}} + \widehat{\text{RL}}, & a = P \ \widehat{\text{IL}} + \alpha, & a = R \ \beta, & a = A \end{cases} $$ 其核心几何直觉异常清晰：若可减少损失 $\text{RL} \ge \alpha$，说明调用强模型获得的收益能够覆盖开销 $\alpha$，此时候选集收敛至路由或弃权，进一步若固有噪声 $\text{IL} \ge \beta - \alpha$ 则触发弃权，否则转交 Oracle；若 $\text{RL} < \alpha$，调用强模型不划算，此时候选集为预测或弃权，当总损失 $\text{RL} + \text{IL} \ge \beta$ 时触发弃权，反之直接由弱模型预测。理论上，论文证明只要高阶预测器达到 $\epsilon$-高阶校准（Wasserstein 距离 $W_1 \le \epsilon$），构建的通用路由器相对于该分桶下任何特定任务量身定制的最优路由器 $r_f$ 的超额遗憾（Regret）上界严格受控于 $B\epsilon$（其中 $B$ 为损失函数的上界），并可进一步无缝推广至具有多个不同代价的 Bayes-Dependent Oracle 架构。

实验关键数据¶

主实验¶

论文在合成控制数据集以及具有丰富真实人类标注歧义的 CIFAR-10H、SNLI 和 ChaosNLI 真实数据集上系统验证了路由效能。在二方决策对比中，以路由比例与整体期望损失生成的路由曲线进行评估；在损失灵活性评估中，对比了在交叉熵（CE）下训练的监督回归路由器（Loss Predictor / XGBoost）在迁移到新损失函数时的退化情况。

下表展示了在 SNLI 数据集上，当目标评估损失偏离训练时的交叉熵时，各路由方法的归一化性能损失（Normalized Loss）对比数据：

评估损失函数	弱模型基线	总体不确定性 (Entropy)	监督回归器 (CE 训练)	本文高阶解耦路由 (HOC)	桶最优理想上限
交叉熵损失 (CE Loss)	0.442	0.285	0.258	0.260	0.254
0-1 分类损失 (0-1 Error)	0.150	0.098	0.108	0.089	0.085
Brier 平方损失 (Square Loss)	0.218	0.142	0.140	0.131	0.128
非对称类别惩罚损失 (Asymmetric)	0.320	0.225	0.231	0.201	0.196

数据表明，在固定原损失（CE）下，监督回归器由于利用了连续特征拟合微弱领先；但在任何非 CE 目标损失下，监督回归器性能发生明显退化甚至落后于简单的熵路由，而本文方法在所有损失形态下均紧贴理论下界，无需任何重训。

消融实验¶

论文探讨了校准对齐对路由表现的依赖，以及在 SNLI 三方决策（Predict vs Route vs Abstain）任务中，在固定路由开销 $\alpha=0.05$、改变弃权惩罚 $\beta$ 时的系统总代价对比：

实验配置 / 决策模式	$\beta = 0.2$ (高容忍度弃权)	$\beta = 0.4$ (中等惩罚)	$\beta = 0.6$ (严格避免弃权)	关键行为表现
二方决策：仅预测 / 路由 (Predict vs Route)	0.265	0.265	0.265	代价与 $\beta$ 无关，无法对高噪声样本止损
二方决策：仅预测 / 弃权 (Predict vs Abstain)	0.178	0.284	0.380	$\beta$ 较大时代价急剧攀升，缺失升级途径
本文完整三方决策 (Predict/Route/Abstain)	0.174	0.248	0.265	完美包络两类二方决策下界，自适应分流
弱模型消融：未经校准弱模型	0.215	0.292	0.310	预测置信度漂移导致分桶估计失准

关键发现¶

解耦生效的充分条件：在合成数据中，当固有噪声高的区域与弱模型误差区域正交（弱相关）时，不确定性分解带来巨大增益；而在 CIFAR-10H 和 SNLI 等真实数据集上，由于深度学习模型的训练动力学特性，弱模型的总预测熵与固有不确定性高度同向共变，使总体熵路由在二方任务下接近分桶最优。
三方决策的下界包络优势：在包含主动弃权的三方机制下，单一基于总不确定性或二方决策的策略在参数变化时均出现单侧崩塌；而本文通过显式判断 $\text{IL} \ge \beta - \alpha$，成功将难以辨识的本底模糊样本精准导向弃权或人工澄清，展现出对系统总代价的严密保护。
分桶策略影响：实验表明，引入与不可消除不确定性相关的浅层特征（例如图像清晰度特征）构建混合分桶，能有效打破模型概率带来的伪相关性，进一步释放解耦路由的威力。

亮点与洞察¶

一次校准，全配置零样本自适应：算法仅需在验证集维护类别与置信度桶内的经验标签分布 $S_P$，将目标损失函数、API 成本与惩罚参数推迟到在线推理阶段通过四则运算即时计算。这种解耦彻底免去了频繁重新微调监督路由网络的维护负担。
理论与实践闭环的无悔界：将预测学界的 Omniprediction 概念拓展至包含弃权与路由的操作流形中，利用 1-Wasserstein 距离建立了从高阶校准误差到决策次优性（Regret）的严格控制上界。

局限与展望¶

多标签快照数据的依赖：方法依赖于校准集上每条输入拥有多个独立标注（$k$-snapshot），这在标注预算极度受限或标注来源单一的数据流中较难直接获取。
真实模型特征相关的平滑效应：现有常用分类网络在难样本与模糊样本上的预测熵表现出高度共线，单纯基于输出概率（Top-Class）分桶无法完全剥离正交的认知与偶发不确定性，亟需更具区分度的特征级分桶方案。

评分¶

新颖性: ⭐⭐⭐⭐⭐ 首次建立统一路由与弃权的高阶校准不确定性解耦范式，视角独到。
实验充分度: ⭐⭐⭐⭐ 覆盖合成受控环境与三大主流标注分歧基准，诚实分析了真实数据下共线性的客观现象。
写作质量: ⭐⭐⭐⭐⭐ 数学证明严密、理论动机清晰，决策树与几何直觉表达通透。
价值: ⭐⭐⭐⭐ 对于工业界构建低成本、高可靠、动态调价的多模型混合调度系统提供了坚实的决策理论参考。