NeurIPS 2026 学习理论人机协作 (Human-AI Teaming) 统计校准 (Statistical Calibration) 预测融合 (Combining Predictions) 学习推断/委托 (Learning to Defer) 特征不对称性 (Feature Asymmetry)

Human-AI Teaming Through the Lens of Calibration¶

会议: NeurIPS 2026
arXiv: 2606.10906
领域: 学习理论
关键词: 人机协作 (Human-AI Teaming), 统计校准 (Statistical Calibration), 预测融合 (Combining Predictions), 学习推断/委托 (Learning to Defer), 特征不对称性 (Feature Asymmetry)

一句话总结¶

本文从统计校准（Statistical Calibration）的统一理论视角审视人机协作（Human-AI Teaming），揭示了现有基于模型或贝叶斯混淆矩阵的预测融合方法无法保持人类的校准性，而在委托决策（Learning to Defer）框架下，拒识器需具备足够细粒度的校准能力来刻画人类优势区域，并在人类享有未观测隐变量时不可避免地产生过剩风险。

研究背景与动机¶

现代人工智能在海量数据表征与统计规律挖掘上已大幅超越人类，但人类专家凭借细致的语境洞察和不可观测的背景知识（例如临床医生对患者多年随访形成的隐性感知）依然具备独特的决策价值。这种互补性促使学术界探索人机协同决策（Hybrid Intelligent Systems），旨在实现团队表现优于人或机器单独决策的互补效应（Complementarity）。然而，人机交互的动态机制极其微妙，先验研究多次发现更精准的模型反而可能导致团队整体决策恶化，或模型置信度校准与辅助效果之间存在难以解释的脱节脱靶，长期缺乏跨越不同协作范式的统一理论分析框架。

现有关于人机协同的理论多局限于特定设定，例如仅探讨AI辅助下的置信度展示或特定损失函数的相合性。人机协作主要存在三种典型工作流：AI辅助预测、多源预测融合（Combination）以及任务委托路由（Delegation / Learning to Defer）。在这些范式中，当人类与模型各自在其特征划分上具备无偏的统计校准性时，协作机制究竟能否继承和保持个体的校准性质？团队能否确保不弱于单体最优解？这些关键问题此前未有明确的数学回答。

本文从统计校准与参考类别划分（Grouping Function / Reference Class）的视角切入，将预测质量的形式化表征与特征空间结构统一起来。核心 idea：将人类与模型均抽象为在特定特征空间划分上统计校准的预测器，严格证明了现有预测融合方法由于采样离散化与混淆矩阵粗粒度聚合破坏了人类的校准性，而在委托决策中拒识器必须校准到足以精细切分最优委托边界，进而揭示了隐变量不对称性对融合与委托两类范式的根本性制约。

方法详解¶

整体框架¶

本文构建了统一的统计校准分析框架。设多分类问题类别标签为 $y \in \mathcal{Y} = \{1, \dots, K\}$，已知公开特征为 $\mathbf{x} \in \mathfrak{X}$，人类特有隐变量为 $\mathbf{z} \in \mathcal{Z}$。模型输出概率向量 $\mathbf{f}(\mathbf{x}) \in \Delta^{K-1}$，人类决策以概率分布 $\mathbb{P}(\mathrm{h} \mid \cdot)$ 进行采样产生单次离散预测 $\hat{\mathrm{h}} \in \mathcal{Y}$。定义空间分组划分函数 $\Phi: \mathfrak{X} \mapsto \mathcal{U}$，校准性定义为预测概率等于该分组内的真实条件后验期望 $f_y(\mathbf{x}) = \mathbb{P}(\mathrm{y}=y \mid \Phi(\mathbf{x}))$。假设模型关于自身特征划分 $\Phi_f$ 校准，人类关于 $\Phi_h$ 校准。

论文在此基础上分别考察两类主流协作机制的校准传播特性：一是预测融合机制（包含纯模型融合 $g^*(\hat{\mathrm{h}}, \mathbf{f}(\mathbf{x}))$ 与基于混淆矩阵的贝叶斯后验融合 $p(\mathrm{y} \mid \mathrm{h}, \mathbf{f}(\mathbf{x}))$）；二是委托决策机制（基于拒识元分类器 $r(\mathbf{x}; \rho)$ 在模型与人类间做出硬路由）。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    In["输入数据<br/>已知特征 x 与人类私有隐变量 z"] --> Mod["模型预测与人类决策<br/>模型输出置信向量 f(x)；人类采样离散预测 h^"]
    Mod --> Comb["基于模型的预测融合<br/>后验 g*(h^, f(x)) 保持 Phi_f 校准但破坏 Phi_h 校准"]
    Mod --> BayesComb["贝叶斯混淆矩阵融合<br/>条件独立下继承 Phi_f；模型近贝叶斯最优时引发过锐化"]
    Mod --> Defer["风险最小化委托路由<br/>拒识器 rho(x, f(x)) 划分必须细化最优委托区域边界"]
    Comb --> Out["团队最终预测决策<br/>融合输出类别概率或委托指定单体预测"]
    BayesComb --> Out
    Defer --> Out

关键设计¶

1. 基于模型的预测融合：信息非对称性导致的人类校准性丧失

在给定配对数据训练二次融合模型 $g: \Delta^{K-1} \times \mathcal{Y} \mapsto \Delta^{K-1}$ 的设定下，论文考察贝叶斯最优组合函数 $g^*(\hat{\mathrm{h}}, \mathbf{f}(\mathbf{x})) = \mathbb{P}(\mathrm{y} \mid \hat{\mathrm{h}}, \mathbf{f}(\mathbf{x}))$。分析表明，由于融合模型能直接观察到 $\mathbf{f}(\mathbf{x})$ 的全部分类置信度，只要 $\Phi_f$ 粗于 $\mathbf{f}$ 的等高线集，根据条件期望的塔式法则，$g^*$ 严格保持关于模型划分 $\Phi_f$ 的广义校准性。

然而，团队无法继承人类划分 $\Phi_h$ 的校准性。其根本原因在于离散采样瓶颈：融合模型仅接收人类输出的一个离散类别样本 $\hat{\mathrm{h}} \sim \mathrm{Categorical}(\mathbb{P}(\mathrm{h} \mid \Phi_h(\mathbf{x})))$，将多维连续概率向量压缩为单一样本。定理 3.2 证明，若 $\Phi_h$ 存在两个非简并划分单元 $S_1 \neq S_2$，在模型 $\mathbf{f}$ 输出相同值 $\mathbf{v}$ 时具有不同后验，则条件概率满足： $$\mathbb{P}(\mathrm{y} \mid \mathbf{f}(\mathbf{x}), \hat{\mathrm{h}}, \Phi_h(\mathbf{x})) \neq \mathbb{P}(\mathrm{y} \mid \mathbf{f}(\mathbf{x}), \hat{\mathrm{h}})$$ 这直接破坏了广义校准性条件。只有在模型本身就是关于人类划分的多重校准全预测器（Omnipredictor），或者人类划分极端粗糙导致单一样本即可完全重构划分时，人类校准性才得以幸存。

2. 贝叶斯混淆矩阵融合：条件独立依赖与贝叶斯极限下的过锐化失准

对于利用人类离散标注构建经验混淆矩阵 $\mathbf{C}$ 并通过贝叶斯定理更新模型后验的组合方法，定理 3.3 证明在给定真实标签 $\mathrm{y}$ 时人类与模型划分条件独立（$\Phi_h \perp \Phi_f(\mathbf{x}) \mid \mathrm{y}$）的前提下，融合后验严格关于 $\Phi_f$ 校准： $$p(\mathrm{y} \mid \mathrm{h}, \mathbf{f}(\mathbf{x})) = \frac{\mathbb{E}_{\Phi_h}[\mathbb{P}(\mathrm{h} \mid \Phi_h(\mathbf{x})) \mid \mathrm{y}] \cdot \mathbb{P}(\mathrm{y} \mid \Phi_f(\mathbf{x}))}{\mathbb{P}(\mathrm{h} \mid \Phi_f(\mathbf{x}))}$$

命题 3.4 与 3.5 揭示了该方法的严重脆性：首先，混淆矩阵对类别内各划分样本进行了边际平均，抹平了细粒度差异，因而同样破坏关于人类 $\Phi_h$ 的校准。其次，在共享特征空间中，当模型能力提升逐渐逼近理想贝叶斯分类器（$\Phi_f(\mathbf{x}) = \mathbf{x}$）时，条件独立假设必然破裂。此时混淆矩阵更新会强行将相关证据反复相乘，导致双重计数（Double-counting）与后验概率严重过锐化，使得表现更校准、更优秀的模型与人类融合后，团队的 ECE 与负对数似然反而严重劣化。相反，在完全独立特征空间（$\mathbf{z} \perp \mathbf{x} \mid \mathrm{y}$）中，条件独立天然成立，模型校准度的提升才能稳定转化为团队预测力的单调提升。

3. 风险最小化委托路由：拒识器的细粒度校准要求与隐变量过剩风险

在委托预测（Learning to Defer, L2D）框架中，下游由单一成员做出预测，预测本身天然保留该成员的校准性，问题核心转移至拒识元分类器 $r(\mathbf{x}; \rho) = \mathbb{I}[\rho(\mathbf{x}, \mathbf{f}(\mathbf{x})) > \max_y f_y(\mathbf{x})]$ 的校准条件。定理 4.1 证明，在两预测器无打平的前提下，当拒识评分器 $\rho$ 关于特征与模型输出诱导的精细划分 $\tilde{\Phi}_r$ 校准时，拒识器达到系统 $0-1$ 期望风险最小化的充要条件是：最优委托集指示变量的代数包含于拒识划分代数中： $$\sigma(\mathbf{1}_{\mathfrak{D}^*}) \subseteq \sigma(\tilde{\Phi}_r), \quad \text{其中 } \mathfrak{D}^* \triangleq \{\mathbf{x} \in \mathfrak{X} \mid \mathbb{P}(\mathrm{h}=\mathrm{y} \mid \mathbf{x}) > \max_y f_y(\mathbf{x})\}$$ 这要求拒识器必须细粒度到足以精确定位人类优于模型的临界分界面。

进一步地，当人类依赖特有隐变量 $\mathbf{z}$（例如临床专有信息）时，仅能观测 $\mathbf{x}$ 的拒识器只能基于边缘期望 $\mathbb{E}_{\mathbf{z} \mid \mathbf{x}}[\mathbb{P}(\mathrm{h}=\mathrm{y} \mid \mathbf{x}, \mathbf{z})]$ 作出决策。推论 4.2 表明，一旦真实正确率在阈值两侧因 $\mathbf{z}$ 的波动发生跨越，局限于 $\mathfrak{X}$ 的拒识器将产生不可消除的过剩风险（Excess Risk）： $$\mathcal{R}^{0-1}_{f,h}(r(\mathbf{x}; \rho^*)) - \mathcal{R}^{0-1}_{f,h}(r^*(\mathbf{x}, \mathbf{z})) > 0$$ 表明委托机制在隐变量非对称场景下具有结构性脆弱性，相比之下预测融合反而更容易吸收互补的隐变量特征。

实验关键数据¶

主实验¶

论文在两类典型基准上展开实验验证：其一是使用真实人类标注的 ImageNet-16H（16 类图像子集，28,997 条众包标签，VGG-19 图像分类器，共享特征空间）；其二是包含真实临床元数据的皮肤病变诊断数据集 HAM10000（ResNet-18 图像输入作为已知特征 $\mathbf{x}$，患者年龄、性别、病变部位等元数据作为人类私有隐变量 $\mathbf{z}$）。通过固定模型表征并调节温度缩放（Temperature Scaling）控制模型单体 ECE，观察团队最终预测效果。

数据集 / 场景	特征空间结构	评估指标	最优单体校准模型对应的团队表现	全局最佳团队表现	关键结论与偏差
ImageNet-16H (真实人类)	共享特征空间 ($\mathfrak{X}$)	团队准确率 (%)	64.8	66.2 (对应单体 ECE 0.22)	最校准模型未产生最佳团队精度，精度落后 1.4%
ImageNet-16H (真实人类)	共享特征空间 ($\mathfrak{X}$)	团队 ECE	0.165	0.082 (对应单体 ECE 0.10)	最校准模型产生严重过锐化与高失准
ImageNet-16H (真实人类)	共享特征空间 ($\mathfrak{X}$)	团队 NLL (负对数似然)	1.38	1.15 (对应单体 ECE 0.12)	至少有 3 个校准度更高的模型导致更差的后验 NLL
HAM10000 (纯图像专家)	完全重合/共享空间	团队准确率 (%)	最差 (约 71.5)	最佳 (约 74.2, 最不校准模型)	强共享下最失准模型反而通过抑制双重计数获益
HAM10000 (仅元数据专家)	完全独立特征空间 ($\mathcal{Z}$)	团队准确率 (%)	76.5 (单调达峰)	76.5 (对应最佳单体校准)	满足条件独立，单体校准提升稳定驱动团队提升

消融实验¶

在 HAM10000 基准上，论文设计了四种不同知识背景的专家模拟设置，系统消融人类与模型信息重合度（从完全重合到完全独立）对贝叶斯混淆矩阵融合校准特性的影响。

专家特征空间配置	专家输入信息	与模型特征关系	团队指标随单体模型校准度变化的趋势与表现	说明
Image Expert	相同图像特征 (ResNet-18)	完全冗余 ($\Phi_h \approx \Phi_f$)	团队准确率在模型最失准时最高；ECE / NLL 在第 5 优校准点最优	冗余信息被混淆矩阵双重放大，破坏最优后验
Weaker Image Expert	降采样弱图像分类器 (4 epoch)	粗粒度共享空间	变化趋势与完全重合高度相似，高度校准模型易引发过锐化	较弱但仍同源的特征依然破坏条件独立性
Image & Meta-Data Expert	图像 + 临床病理元数据 (MLP)	部分重叠/丰富特征	团队各项综合指标在第 3 优校准点达到最优	介于完全重合与完全独立之间的平滑插值表现
Meta-Data Only Expert	仅患者年龄/性别/病理位置	严格独立空间 ($\mathbf{z} \perp \mathbf{x} \mid \mathrm{y}$)	模型越校准，团队 Accuracy、ECE、NLL 均单调最优	理论预测严格成立：独立互补时单体校准即团队增益

关键发现¶

在共享特征空间中，提升模型的统计校准度无法保证带来更优的人机团队表现。在 ImageNet-16H 上，团队后验预测在模型单体 ECE 为 0.22 时取得最高分类准确率，而在模型达到最低 ECE（近乎完美校准）时，团队 ECE 和 NLL 均发生明显恶化。
只有在特征空间高度互补且满足给定标签条件独立的场景（如 HAM10000 仅元数据专家）下，单体模型的校准优化才会严格向上传导为协同决策性能的单调提升。
模拟实验表明，模型融合后验 $g^*$ 能够在共享和独立场景下将模型自身的 ECE 维持在 0，但对人类特征划分 $\Phi_h$ 产生显著的校准误差（共享特征下 ECE 为 0.090，独立特征下 ECE 为 0.144），印证了离散单样本对连续分布信息的不可逆破坏。

亮点与洞察¶

校准视角的统一性归纳：首次跳出经验实证的小范围试错，从划分代数（Grouping $\sigma$-algebra）和统计校准的严格数学公理出发，统一解释了为何“更准或更校准的模型可能导致人机团队退化”这一长期困扰人机协作领域的反常反直觉现象。
拒识器输入的理论澄清：理论证明了将模型输出概率向量 $\mathbf{f}(\mathbf{x})$ 显式纳入拒识器输入特征 $\rho(\mathbf{x}, \mathbf{f}(\mathbf{x}))$ 的必要性，消除了以往算法仅将拒识器视作基于 $\mathbf{x}$ 的附加分支的设计缺陷，自然完成了拒识器对模型划分的加细（Refinement）。
融合与委托的范式权衡：揭示了特征不对称下的决策范式权衡——在专家享有私有语境隐变量 $\mathbf{z}$ 时，预测融合（如贝叶斯更新）能天然接纳互补特征，而委托路由（L2D）则受制于拒识器对隐变量的不可见性而产生必然的过剩风险。

局限与展望¶

静态校准假设与分布漂移：理论分析假设人类与模型均在静态环境下服从特定的理想校准分布，未考虑实际交互中人类因认知负荷、信任动态演变产生的疲劳、锚定效应及时间自适应行为。
多重校准（Multi-calibration）的现实两难：理论上将模型或拒识器对人类划分进行多重校准可解决失准问题，但这要求系统能够观测甚至完全建模人类的隐变量，这在动机上会导致人类被算法完全取代，从而消解了人机协作的存在意义。
单专家向多专家群体的拓展：当前推导主要基于单专家与单模型对，拓展至多异质人类专家和动态拥塞排队场景时的理论边界与过剩风险上界仍有待建立。

评分¶

新颖性: ⭐⭐⭐⭐⭐ 首次从统计校准与特征划分代数角度对人机融合与委托协作展开严格理论刻画，推导深入且深刻。
实验充分度: ⭐⭐⭐⭐ 兼顾数学定理证明、受控模拟实验与 ImageNet-16H、HAM10000 两个真实/拟真人类基准验证。
写作质量: ⭐⭐⭐⭐⭐ 数学符号严谨，概念界定明晰，图表对关键理论机制的视觉传达十分到位。
价值: ⭐⭐⭐⭐⭐ 为人机混合智能系统的算法设计提供了重要的理论避坑指南，明确了何时融合、何时委托的根本边界。

数据集 / 场景	特征空间结构	评估指标	最优单体校准模型对应的团队表现	全局最佳团队表现	关键结论与偏差
ImageNet-16H (真实人类)	共享特征空间 (\(\mathfrak{X}\))	团队准确率 (%)	64.8	66.2 (对应单体 ECE 0.22)	最校准模型未产生最佳团队精度，精度落后 1.4%
ImageNet-16H (真实人类)	共享特征空间 (\(\mathfrak{X}\))	团队 ECE	0.165	0.082 (对应单体 ECE 0.10)	最校准模型产生严重过锐化与高失准
ImageNet-16H (真实人类)	共享特征空间 (\(\mathfrak{X}\))	团队 NLL (负对数似然)	1.38	1.15 (对应单体 ECE 0.12)	至少有 3 个校准度更高的模型导致更差的后验 NLL
HAM10000 (纯图像专家)	完全重合/共享空间	团队准确率 (%)	最差 (约 71.5)	最佳 (约 74.2, 最不校准模型)	强共享下最失准模型反而通过抑制双重计数获益
HAM10000 (仅元数据专家)	完全独立特征空间 (\(\mathcal{Z}\))	团队准确率 (%)	76.5 (单调达峰)	76.5 (对应最佳单体校准)	满足条件独立，单体校准提升稳定驱动团队提升

专家特征空间配置	专家输入信息	与模型特征关系	团队指标随单体模型校准度变化的趋势与表现	说明
Image Expert	相同图像特征 (ResNet-18)	完全冗余 (\(\Phi_h \approx \Phi_f\))	团队准确率在模型最失准时最高；ECE / NLL 在第 5 优校准点最优	冗余信息被混淆矩阵双重放大，破坏最优后验
Weaker Image Expert	降采样弱图像分类器 (4 epoch)	粗粒度共享空间	变化趋势与完全重合高度相似，高度校准模型易引发过锐化	较弱但仍同源的特征依然破坏条件独立性
Image & Meta-Data Expert	图像 + 临床病理元数据 (MLP)	部分重叠/丰富特征	团队各项综合指标在第 3 优校准点达到最优	介于完全重合与完全独立之间的平滑插值表现
Meta-Data Only Expert	仅患者年龄/性别/病理位置	严格独立空间 (\(\mathbf{z} \perp \mathbf{x} \mid \mathrm{y}\))	模型越校准，团队 Accuracy、ECE、NLL 均单调最优	理论预测严格成立：独立互补时单体校准即团队增益