DirPA: Addressing Prior Shift in Imbalanced Few-shot Crop-type Classification¶
会议: CVPR 2026
arXiv: 2603.12905
代码: 无
领域: 少样本学习 / 遥感农业分类
关键词: few-shot learning, class imbalance, prior shift, Dirichlet augmentation, crop classification
一句话总结¶
提出 Dirichlet 先验增强（DirPA），在少样本学习训练阶段从 Dirichlet 分布中采样类别比例向量来构造不平衡 episode，主动模拟真实世界长尾分布以消除先验偏移，在欧盟多个国家的作物分类任务中展示了一致的鲁棒性提升和稀有类别精度改善。
研究背景与动机¶
领域现状：农业监测中的作物类型分类是遥感领域的核心任务。实际场景中面临两个核心挑战：(1) 标注卫星遥感数据的成本极高，导致标注样本稀缺，天然适合少样本学习（FSL）框架；(2) 自然界中作物分布极度不平衡——小麦、玉米等主要作物覆盖大面积，而稀有作物（特殊经济作物、地方品种等）仅占极小比例，形成典型的长尾分布。
现有痛点：少样本学习的标准训练范式（如原型网络、MAML）通常人为构造平衡的 episode，即每个类别在 support set 和 query set 中拥有相同数量的样本。这种设计虽然简化了训练，但与真实测试场景的长尾分布产生严重的 先验偏移（prior shift）——模型在训练时看到的是类别均匀分布，但在部署时面对的是高度倾斜的分布（某些类别的样本量可能是稀有类别的 100 倍甚至更多）。这种分布不匹配直接导致模型对多数类过度自信、对稀有类忽视。
核心矛盾：FSL 的 episode 训练机制假设训练和测试的类别先验分布一致，但实际应用中不可能事先知道测试时的确切先验分布，而不同地理区域的作物比例差异巨大，需要一种对先验分布具有泛化能力的训练策略。
本文目标：如何让 FSL 模型在训练时就对多种可能的类别先验分布具有鲁棒性，从而在面对未知的真实长尾分布时仍然保持稳定的分类精度？
切入角度：不去预测或估计测试时的先验分布，而是在训练时主动模拟各种可能的分布——通过 Dirichlet 分布这一多项分布的共轭先验来采样类别比例向量，使每个训练 episode 的类别分布都不同，涵盖从均匀到极端倾斜的各种情况。
核心 idea：用 Dirichlet 分布采样 episode 的类别比例，让模型在训练时就体验各种不平衡程度，从而对先验偏移免疫。
方法详解¶
整体框架¶
DirPA 是一种即插即用的 episode 构造策略，不修改任何网络结构。在标准 FSL 训练流程中，每个 episode 的构造步骤增加一步：先从 Dirichlet 分布 \(\text{Dir}(\alpha)\) 中采样一个类别比例向量 \(\boldsymbol{\pi} = (\pi_1, \pi_2, ..., \pi_N)\)，然后按照这个比例向量重新分配 query set 中各类别的样本数量，support set 保持不变。这样每个 episode 都模拟了一种特定的类别先验分布。
关键设计¶
-
Dirichlet 先验采样:
- 功能：在每个训练 episode 开始前，从 Dirichlet 分布中采样一个 \(N\) 维概率向量 \(\boldsymbol{\pi} \sim \text{Dir}(\alpha \cdot \mathbf{1}_N)\)，其中 \(N\) 为类别数
- 核心思路：Dirichlet 分布是多项分布的共轭先验，单一参数 \(\alpha\) 控制采样分布的集中程度——\(\alpha \to 0\) 时采样向量接近 one-hot（极端倾斜），\(\alpha \to \infty\) 时趋近均匀分布。通过设置适中的 \(\alpha\) 值，可以在训练中覆盖从均匀到极端长尾的各种先验分布
- 设计动机：相比固定使用均匀先验或某一种长尾分布，Dirichlet 采样能产生无限种分布模式，使模型学习到更泛化的表征——对任何特定的先验偏移都具有一定免疫力
-
Episode 动态重构造:
- 功能：根据采样的先验向量 \(\boldsymbol{\pi}\) 动态调整每个 episode 中 query set 的类别组成
- 核心思路：给定 query set 总样本数 \(Q\)，第 \(i\) 类的 query 样本数为 \(q_i = \lfloor \pi_i \cdot Q \rfloor\)。这样不同 episode 中各类别的查询样本数差异可能很大——某个 episode 中类别 A 可能有 15 个 query 样本而类别 B 仅有 1 个，下一个 episode 反过来
- 设计动机：保持 support set 平衡（确保每个类别都有足够的原型信息），但在 query set 上引入不平衡性，使模型在分类决策时需要面对不同的类别先验，隐式学习对先验偏移的鲁棒性
-
跨地理区域泛化验证:
- 功能：将原始研究（仅在单一区域验证）扩展到欧盟多个国家，测试方法在不同气候带、农业结构和作物组合下的适用性
- 核心思路：不同 EU 国家具有截然不同的农作物分布——北欧以谷物为主、南欧地中海区域有更多果园和橄榄等特殊作物、东欧有大面积的向日葵和油菜。在这些差异巨大的分布上测试同一方法的效果
- 设计动机：单区域的结果可能受特定数据集偏差影响，跨区域验证是证明方法通用性的关键——特别是在农业应用中，方法必须适应不同国家的不同作物结构
损失函数 / 训练策略¶
在标准 FSL 损失函数（如原型网络的欧氏距离度量损失或交叉熵损失）基础上，DirPA 不更改损失函数本身，而是通过改变每个 episode 的类别比例来隐式引入分布正则化。这等效于在损失的期望中对先验分布进行积分：\(\mathbb{E}_{\boldsymbol{\pi} \sim \text{Dir}(\alpha)}\left[\mathcal{L}(\theta; \boldsymbol{\pi})\right]\)，使模型参数 \(\theta\) 需要在所有可能的先验下都表现良好。训练过程中 \(\alpha\) 值可随机采样或按课程学习策略调度。
实验关键数据¶
主实验¶
| 评估维度 | DirPA 效果 | 对比基线 | 说明 |
|---|---|---|---|
| 整体精度（多国平均） | 一致提升 | 标准平衡 episode | 在所有测试国家均有正向增益 |
| 稀有类别 per-class accuracy | 显著改善 | 标准 FSL | 长尾分布下稀有类别精度提升最大 |
| 极端长尾分布 (100:1+) | 训练稳定 | 基线训练崩溃 | DirPA 稳定训练过程，避免优化不稳定 |
| 跨国迁移 | 保持收益 | 单区域训练 | 不同地理区域的收益方向一致 |
注：论文包含 28 张表和 9 张图，涵盖多个 EU 国家、多种 FSL backbone、多种不平衡程度的全面实验。
消融实验¶
| 配置 | 效果 | 说明 |
|---|---|---|
| \(\alpha\) 很大（接近均匀） | 无增益 | 退化为标准平衡训练 |
| \(\alpha\) 很小（极端倾斜） | 训练不稳定 | 某些类完全无 query 样本 |
| \(\alpha\) 适中 | 最佳平衡 | 覆盖多样分布且训练稳定 |
| 不同 FSL backbone（原型网络等） | 一致有效 | 方法与模型无关，即插即用 |
| 不同地理区域 | 提升幅度不同但方向一致 | 证明地理泛化能力 |
关键发现¶
- Dirichlet 参数 \(\alpha\) 是控制方法效果的核心旋钮：过大时等同于均匀训练无增益，过小时训练不稳定，适中值能最好地覆盖实际可能遇到的分布范围
- DirPA 的收益在稀有类别上最为显著——这正是长尾分布下最需要关注的部分
- 方法在不同 EU 国家（不同气候、不同作物类型）上的收益方向一致，虽然幅度因作物分布不同而有差异
- DirPA 不仅提高精度，还稳定了训练过程——在极端长尾场景下标准训练可能崩溃，而 DirPA 保持平稳收敛
亮点与洞察¶
- 问题定义精准且有实际意义：明确指出 FSL 中 prior shift 是被普遍忽视但影响巨大的瓶颈，这个问题不仅存在于农业分类，在所有训练/测试分布不匹配的 FSL 场景中都存在
- 方法设计极其简洁优雅：不改变模型结构、不增加参数、不需要额外数据——仅通过改变 episode 的类别采样策略就能获得一致提升，真正做到了即插即用
- Dirichlet 分布的选择有坚实的概率论基础：作为多项分布的共轭先验，它是对"所有可能的类别先验"进行建模的自然选择
- 实验规模令人印象深刻：20 页正文、28 张表格、覆盖多个 EU 国家，是少见的地理尺度验证
局限与展望¶
- 目前仅在遥感作物分类领域验证，对医学影像、自然图像等其他长尾 FSL 场景的迁移效果未知——虽然理论上方法是通用的，但实证支持有限
- \(\alpha\) 参数的选择目前需要经验调优或网格搜索，缺乏自适应策略——理想情况下应根据任务特性自动调整
- 本文是对先前工作 (Reuss et al., 2026a) 的跨区域扩展，核心方法创新在原始论文中已提出，本文贡献主要在实证验证层面
- 未与近年的 transductive FSL 方法（利用 query 集统计信息在推理时调整先验）做深入对比——两类方法可能互补
- 未探索在训练时同时调整 support set 和 query set 的不平衡度，可能遗漏了某些有益的训练信号
相关工作与启发¶
- vs 标准原型网络/MAML: 这些经典 FSL 方法假设训练和测试的类别先验一致，DirPA 通过打破这一假设在先验偏移下获得了显著优势
- vs Transductive FSL: Transductive 方法（如 TIM、α-TIM）在推理时利用 query 集的统计信息来校准分类器，是事后修正策略；DirPA 是事前预防策略——在训练时主动模拟不平衡，两者互补且不冲突
- vs 过采样/欠采样策略: 传统 class-balanced sampling 或 SMOTE 等过采样方法固定到某一种平衡策略；DirPA 通过 Dirichlet 分布模拟所有可能的分布，泛化性更强
- vs Domain Generalization: DirPA 的核心思想与 DG 中的数据增强理念一致——通过增加训练分布的多样性来提高泛化能力，只不过 DirPA 的"增强"发生在标签空间（类别先验）而非特征空间
评分¶
- 新颖性: ⭐⭐⭐ 核心 idea（Dirichlet 先验模拟）简洁有效，但作为原始方法的地理扩展，增量创新有限
- 实验充分度: ⭐⭐⭐⭐⭐ 28 张表、9 张图、多国多场景多 backbone 验证，实验规模罕见地全面
- 写作质量: ⭐⭐⭐⭐ 问题定义清晰，实验组织有条理，20 页的篇幅允许充分展开
- 价值: ⭐⭐⭐ 对遥感 FSL 社区价值明确，Dirichlet 采样策略有推广潜力，但当前应用领域较窄