Making Partial-Label Datasets Easier: A Simple Yet Highly Effective Data Augmentation for Deep Partial-Label Learning¶

会议: ECCV 2026
论文: ECCV 原文
领域: 其他 (偏标签学习 / 弱监督学习)
关键词: 偏标签学习、数据增强、局部歧义度、主导混合、置信度重归一化

一句话总结¶

针对偏标签学习中样本特征流形与候选标签流形紧密耦合导致消歧困难的问题，本文提出量化数据集消歧难度的局部歧义度（LAD）度量，并设计了一种即插即用、基于主导混合与标签置信度重归一化的高效数据增强框架 UMiP，在保持原始候选集约束的同时打破局部邻域耦合并引入隐式正则化，显著提升各类深度 PLL 算法的泛化性能。

研究背景与动机¶

偏标签学习（Partial-Label Learning, PLL）作为一种典型的弱监督学习范式，要求模型从每个训练样本所关联的候选标签集合中识别出唯一的真实标签。由于能大幅削减人工精细标注的成本，PLL 在人脸识别、细粒度视觉分类和音频处理等领域得到了广泛应用。近期的深度 PLL 研究大多聚焦于设计复杂的标签消歧机制，例如借助统计一致性风险估计、对比表征对齐、多视图一致性约束或伪标签过滤来逐步提纯真实标签。然而，数据增强作为现代深度学习中最为基石的泛化提升手段，其在深度 PLL 中的独特机理与潜力却鲜少受到系统审视。

现有方法往往将 RandAugment、Cutout 或 Mixup 等通用数据增强技术简单视作黑盒插件。然而直接将针对完全监督设计的强增强应用于“样本-候选集”二元组 $(x_i, S_i)$ 时，不仅无法稳定获益，反而可能诱发严重的消歧退化。例如，单视图强增强（如 Cutout、RandAugment）会削弱像 PRODEN、LWS、CAVL 等依赖原始置信度单步迭代算法的辨识能力；而传统的线性插值 Mixup 若直接生成加权候选标签，在缺乏显式伪标签提纯机制的基线算法上会使候选集边界急剧模糊化并加剧确认偏差。根本原因在于：决定偏标签数据集消歧难度的关键并不只是全局候选标签的平均个数，更在于样本特征流形与候选标签流形之间的局部邻域耦合结构——在极具挑战的样本依赖（instance-dependent）设定下，特征相近的局部邻域样本往往共享高度相似的干扰候选项，导致模型极易在局部流形上陷入错误标签的虚假相关性。

本文的切入点在于：与其在特征表示的正则项中外挂通用数据增强，不如设计专门针对 PLL 歧义特性的增强机制，从根本上降低数据集自身的局部消歧难度。核心 idea：通过引入基于 $k$ 近邻候选标签统计的局部歧义度（Local Ambiguity Degree, LAD）来形式化刻画数据集消歧瓶颈，并构建主导混合与候选集内重归一化框架（UMiP），在严格保持原始候选标签集合不变的前提下对输入和标签置信度施加不对称随机扰动，打破局部流形耦合并将数据集歧义推向理论下界。

方法详解¶

整体框架¶

UMiP（Unambiguous Mixing for Partial-label learning）将统一的基于辨识的深度 PLL 目标拆解为标签辨识损失与模型正则化损失。其核心逻辑在于：保持模型原有的正则项不动，而在标签辨识分支中引入局部扰动。输入样本与其对应的估计标签置信度与随机挑选的另一个样本进行不对称主导混合（Dominant Mixing），随后将混合置信度投影回原始候选标签集合进行重归一化（Label Renormalization），生成经过几何扰动但严格满足候选集先验的鲁棒训练对。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["输入样本对 (x_i, p_i, S_i) 与 (x_j, p_j)"] --> B["主导混合 Dominant Mixing<br/>采样 λ ∈ [0.5, 1]，生成扰动输入与置信度"]
    B --> C["标签置信度重归一化 Label Renormalization<br/>算子 ℏ(·) 将概率质量严格限制在原始候选集 S_i"]
    C --> D["损失对齐与模型更新<br/>计算辨识损失 ℓ(p̂_i, g(f(x̃_i))) 并联合原正则项反向传播"]

关键设计¶

1. 局部歧义度量化：刻画流形耦合与理论下界

传统的偏标签模糊度仅依赖全局平均候选标签数等宏观统计量，无法解释为何在平均候选标签数完全相同的情况下，样本依赖型（instance-dependent）歧义远比类别依赖型（class-dependent）或均匀随机（uniform）设定更难解决。针对这一理论盲区，本文提出基于 $k$ 近邻图的局部歧义度（Local Ambiguity Degree, LAD）指标。假设特征空间局部满足 $k$-NN 标签聚类条件（邻域真实标签一致），定义样本 $x$ 的 $k$-共识歧义标签为其近邻中出现频率最高的非真实候选标签。通过统计最坏类别下该共识混淆标签的期望邻域频率，定义数据集的局部歧义度 $\varepsilon$： $$ \varepsilon = \sup_{Y \in \mathcal{Y}} \mathbb{E}{(x, y, \tilde{y}, \mathcal{S}) \sim \bar{\mathcal{D}}_n} \left[ \frac{1}{k} \sumx} [\Psi(\mathcal{S}_j)] \,\middle|\, y = Y \right] $$ 理论分析证明，对于期望候选集大小为 }$r$、类别数为 $C$ 的数据集，LAD 存在全局理论下界 $\varepsilon_{\mathrm{uni}} = \frac{r-1}{C-1}$，且当且仅当候选标签生成为独立均匀分布时取到最小值。在样本依赖设定中，局部样本间候选集的强相关导致 $\varepsilon$ 逼近 1.0（近乎不可分）。因此，设计增强的核心目标在于破坏局部邻域中候选集的共现依赖，将 $\varepsilon$ 压向均匀下界 $\varepsilon_{\mathrm{uni}}$。

2. 主导混合：解耦局部几何结构而不破坏语义主导权

为弱化输入空间与标签流形之间的局部邻域耦合，UMiP 采用主导混合机制。对任意训练样本对 $(x_i, p_i)$ 与随机抽取的样本 $(x_j, p_j)$，混合权重 $\lambda$ 采样自截断分布 $\text{Beta}_{[0.5, 1]}(\alpha, \alpha)$（默认 $\alpha=1.0$，即 $\lambda \sim \text{Uniform}[0.5, 1]$）： $$ \widetilde{x}_i = \lambda x_i + (1 - \lambda) x_j, \quad \widetilde{p}_i = \lambda p_i + (1 - \lambda) p_j, \quad \widetilde{\mathcal{S}}_i = \mathcal{S}_i $$ 保持 $\lambda \ge 0.5$ 保证了混合后样本的核心语义始终由主样本 $x_i$ 决定，避免了语义模糊和候选标签集失效的风险。更为关键的是，候选标签集合 $\widetilde{\mathcal{S}}_i = \mathcal{S}_i$ 保持严格不变。由于 $x_j$ 来自全局随机均匀采样，其特征与 $x_i$ 的局域近邻结构无关，这一操作在空间上将 $x_i$ 随机拉出其密集同质邻域，从数学上等价于对样本特征施加零均值几何扰动，打破了局部特征流形与候选标签分布的刚性绑定。

3. 标签置信度重归一化：消除概率外泄与多基线适配

直接混合得到的软置信度 $\widetilde{p}_i$ 会在主样本 $x_i$ 的非候选类别（即 $c \notin \mathcal{S}_i$）上分配非零概率质量，这严重违反了偏标签学习中“真实标签必在候选集内”的核心公理。为此，UMiP 引入后处理重归一化算子 $\hbar(\cdot)$，将概率质量强制收束回原始候选集 $\mathcal{S}_i$： $$ \widehat{p}{ic} = \hbar_c(\widetilde{p}_i) = \frac{\widetilde{p}} \cdot \mathbf{1{{c \in \mathcal{S}_i}}}{\sumi} \widetilde{p} $$ 该算子具备极高的算法兼容性，可无缝无损地适配各类 deep PLL 的置信度处理范式：对于 PRODEN、CRDPLL 等方法直接采用上述集合内归一化；对于 LWS 算法则采用保持候选集与非候选集块独立的双分区重归一化（Bi-Partition Renormalization）；对于 DIRK 算法采用基于边界间隔的自适应平衡归一化；对于 CAVL、CroSel 则直接采用集合内 Argmax 独热硬化。通过重归一化，扰动后的置信度 }$\widehat{p}_i$ 既携带了近邻扰动带来的平滑增益，又彻底阻断了向非候选集的错误传播。

损失函数 / 训练策略¶

在统一的 PLL 辨识框架下，整体优化目标表述为： $$ \mathcal{L}(\widetilde{x}i, \widehat{p}_i, \mathcal{S}_i) = \ell(\widehat{p}_i, g(f(\widetilde{x}_i))) + \Phi(\gamma) \cdot \mathcal{L}_i) $$ 其中 }}(x_i, \mathcal{S$\ell(\cdot)$ 为分类辨识对齐损失（如交叉熵或加权对齐），$\Phi(\gamma)$ 为平衡超参数，$\mathcal{L}_{\mathrm{reg}}$ 为各 baseline 自带的原有正则化项（如对比学习损失、一致性惩罚等）。根据泰勒展开分析，在带有主导混合与重归一化的优化目标下，扰动项自然在模型梯度中诱导出雅可比范数惩罚（Jacobian Regularization）与权重平滑效应，不仅证明了在非均匀场景下显著降低 LAD（定理 1：$\varepsilon^{\mathrm{UMiP}} \le \rho \varepsilon + (1 - \rho)\varepsilon_{\mathrm{uni}} < \varepsilon$），即便在原本 LAD 就等于下界的均匀分布任务中，也能凭借隐式正则化压制过拟合并降低预期校准误差（ECE）。

实验关键数据¶

主实验¶

论文在 CIFAR-10、CIFAR-100、SVHN、CUB-200 四个基准视觉数据集（涵盖样本依赖、类别依赖与均匀分布等多种生成机制）以及 6 个真实世界 PLL 数据集上进行了全面评测，对比了 PRODEN、LWS、CRDPLL、PiCO、ABLE、DIRK、PaPi 等 7 种主流深度 PLL 基准。

原论文 Table 1（样本依赖 instance-dependent PLL 设置下测试准确率 %）：

数据集	混淆度参数 $q_1$	PRODEN (原 / +UMiP)	LWS (原 / +UMiP)	CRDPLL (原 / +UMiP)	PiCO (原 / +UMiP)	ABLE (原 / +UMiP)
CIFAR-10	$q_1 = 0.6$	77.41 / 80.07	73.40 / 83.32	77.33 / 82.08	80.13 / 82.81	76.98 / 81.65
CIFAR-10	$q_1 = 0.8$	66.48 / 70.11	50.08 / 77.87	66.57 / 72.62	67.21 / 74.50	68.96 / 73.88
CIFAR-10	$q_1 = 1.0$	55.41 / 60.31	43.86 / 70.38	53.42 / 62.98	58.34 / 68.23	62.48 / 66.08
SVHN	$q_1 = 0.6$	91.79 / 95.82	79.45 / 95.76	93.71 / 95.96	95.02 / 95.34	92.64 / 93.89
SVHN	$q_1 = 0.8$	88.88 / 95.82	78.50 / 95.62	93.82 / 94.36	94.35 / 94.75	92.11 / 93.83
SVHN	$q_1 = 1.0$	83.74 / 95.64	68.39 / 93.50	93.59 / 93.97	92.92 / 95.07	91.72 / 92.72
CUB-200	$q_1 = 0.01$	51.21 / 56.35	62.95 / 67.72	37.83 / 60.21	58.12 / 66.45	65.59 / 64.36
CUB-200	$q_1 = 0.03$	41.04 / 44.70	46.85 / 51.57	23.23 / 52.43	48.25 / 54.24	53.27 / 52.32

原论文 Table 4（真实世界 PLL 数据集测试准确率 %）：

数据集	维度/类别	PRODEN (原 / +PLDA / +UMiP)	LWS (原 / +PLDA / +UMiP)
Lost	16 类别	71.15 / 71.19 / 73.81	72.21 / 74.12 / 76.28
BirdSong	13 类别	69.88 / 70.34 / 70.72	70.00 / 70.97 / 71.60
MSRCv2	23 类别	51.71 / 52.03 / 52.84	52.16 / 53.61 / 55.34
Soccer	12 类别	56.59 / 56.98 / 57.03	56.52 / 56.95 / 57.87
Yahoo!News	120 类别	67.36 / 67.48 / 67.96	67.66 / 68.05 / 68.10
Mirflicker	38 类别	67.39 / 68.24 / 68.79	67.27 / 67.99 / 68.85

消融实验¶

原论文 Table 5 & Figure 6（消融分析关键数据）：

实验维度	检验设置	关键指标结果	结论说明
重归一化算子 $\hbar(\cdot)$ 必要性	SVHN ($q_3=0.9$, 均匀) 上 LWS	无重归一化性能崩溃；引入后精度提升 +8.85%	阻断非候选类别概率外泄是增强成立的核心先决条件
重归一化算子 $\hbar(\cdot)$ 容错性	CIFAR-10 上 PRODEN	无重归一化训练直接发散，带重归一化达 60.31%	消除破坏候选集约束导致的严重确认偏差
局部歧义度 LAD 真实降幅	CIFAR-10 高歧义 ($q_1=1.0$)	LAD 从增强前 0.993 显著下降至 0.974	证明主导混合能实质性破坏特征与标签流形的局部耦合
校准误差与可靠性 (Figure 5)	SVHN ($q_1=1.0$) 预测置信度	期望校准误差 ECE 从 11.01% 降至 5.54%	隐式正则化有效压制了过拟合，显著提升不确定性度量
计算开销与吞吐率 (Figure 4)	ResNet-32 在 V100 GPU 上	PRODEN+UMiP 运行耗时 18 s/epoch (原 16 s)	相比 ABLE (113 s) 速度快 6 倍，几乎零额外显存占用

关键发现¶

高混淆度下增益尤为显著：在最为严苛的样本依赖高混淆设置下（如 SVHN, $q_1=1.0$），基线方法 LWS 由于局部错误标签共现严重失控仅取得 68.39% 精度，加入 UMiP 后飙升至 93.50%（净增 +25.11%）；PRODEN 亦从 83.74% 提升至 95.64%（净增 +11.90%），大幅超越此前复杂的专用架构。
对早期不成熟置信度极具鲁棒性：Warm-up 实验（Figure 3c/d）表明，无论在 0、10、30、50 还是 100 epoch 时介入 UMiP，最终收敛精度基本完全一致。这归功于主导混合保持了样本本体特征主导权，且早期近乎均匀的置信度在混合时起到了类似标签平滑的正则化效果。

亮点与洞察¶

从局部几何视角重新定义消歧难度：突破了传统仅依赖全局候选集数量的盲目假设，首次提出局部歧义度（LAD）概念，明确指出样本依赖型偏标签学习的本质困难来源于“特征邻域与候选标签流形的强耦合”。
极简设计与理论自洽的统一：UMiP 不改变网络主干、不引入任何可学习参数，仅通过两步简单的加法与归一化即插即用，既在理论上严格证明了向均匀下界的 LAD 收缩，又在优化上自然诱导出雅可比正则化效应，性价比极高。
可复用的弱监督通用思想：将数据增强限定在“输入扰动解离流形 + 标签概率投影回候选流形”的设计准则，不仅适用于图像偏标签分类，也为多标签学习、带噪标签学习和弱监督开放集辨识提供了通用范式。

局限与展望¶

依赖连续特征空间的线性可插值性：主导混合依赖于输入空间的凸组合，这在连续图像特征或像素空间表现极佳，但在高度离散的符号序列（如纯离散代码、图拓扑结构）中难以直接实施线性加权。
$k$-NN 局部聚类假设在严重长尾分布下的退化风险：理论分析依托于局部同类样本在特征空间聚类的先验，若遇到极度稀疏、长尾或分布外样本，近邻样本可能跨越类别边界，导致主导混合的扰动方向产生非期望的语义漂移。
未来方向：探索特征隐空间（latent space）的主导流形混合，以及自适应根据样本不确定性动态调整混合参数 $\alpha$ 的弹性增强机制。

评分¶

新颖性: ⭐⭐⭐⭐☆ 首次提出局部歧义度量化流形耦合，并将主导混合与严格候选集重归一化有机结合，视角新颖且洞察深刻。
实验充分度: ⭐⭐⭐⭐⭐ 涵盖 4 大基准图像库、多种混淆生成机制、6 个真实世界数据集以及极其严密的消融与动力学追踪。
写作质量: ⭐⭐⭐⭐⭐ 理论推导清晰完备，直击传统数据增强在 PLL 中失效的根本机制，实验呈现详实。
价值: ⭐⭐⭐⭐⭐ 几乎零开销即插即用，全面刷新各类主流深度偏标签学习算法的上限，具备极高的工程实用与学术参考价值。

数据集	混淆度参数 \(q_1\)	PRODEN (原 / +UMiP)	LWS (原 / +UMiP)	CRDPLL (原 / +UMiP)	PiCO (原 / +UMiP)	ABLE (原 / +UMiP)
CIFAR-10	\(q_1 = 0.6\)	77.41 / 80.07	73.40 / 83.32	77.33 / 82.08	80.13 / 82.81	76.98 / 81.65
CIFAR-10	\(q_1 = 0.8\)	66.48 / 70.11	50.08 / 77.87	66.57 / 72.62	67.21 / 74.50	68.96 / 73.88
CIFAR-10	\(q_1 = 1.0\)	55.41 / 60.31	43.86 / 70.38	53.42 / 62.98	58.34 / 68.23	62.48 / 66.08
SVHN	\(q_1 = 0.6\)	91.79 / 95.82	79.45 / 95.76	93.71 / 95.96	95.02 / 95.34	92.64 / 93.89
SVHN	\(q_1 = 0.8\)	88.88 / 95.82	78.50 / 95.62	93.82 / 94.36	94.35 / 94.75	92.11 / 93.83
SVHN	\(q_1 = 1.0\)	83.74 / 95.64	68.39 / 93.50	93.59 / 93.97	92.92 / 95.07	91.72 / 92.72
CUB-200	\(q_1 = 0.01\)	51.21 / 56.35	62.95 / 67.72	37.83 / 60.21	58.12 / 66.45	65.59 / 64.36
CUB-200	\(q_1 = 0.03\)	41.04 / 44.70	46.85 / 51.57	23.23 / 52.43	48.25 / 54.24	53.27 / 52.32

实验维度	检验设置	关键指标结果	结论说明
重归一化算子 \(\hbar(\cdot)\) 必要性	SVHN (\(q_3=0.9\), 均匀) 上 LWS	无重归一化性能崩溃；引入后精度提升 +8.85%	阻断非候选类别概率外泄是增强成立的核心先决条件
重归一化算子 \(\hbar(\cdot)\) 容错性	CIFAR-10 上 PRODEN	无重归一化训练直接发散，带重归一化达 60.31%	消除破坏候选集约束导致的严重确认偏差
局部歧义度 LAD 真实降幅	CIFAR-10 高歧义 (\(q_1=1.0\))	LAD 从增强前 0.993 显著下降至 0.974	证明主导混合能实质性破坏特征与标签流形的局部耦合
校准误差与可靠性 (Figure 5)	SVHN (\(q_1=1.0\)) 预测置信度	期望校准误差 ECE 从 11.01% 降至 5.54%	隐式正则化有效压制了过拟合，显著提升不确定性度量
计算开销与吞吐率 (Figure 4)	ResNet-32 在 V100 GPU 上	PRODEN+UMiP 运行耗时 18 s/epoch (原 16 s)	相比 ABLE (113 s) 速度快 6 倍，几乎零额外显存占用