跳转至

Take It or Leave It: Intent-Controlled Partial Optimal Transport

会议: NeurIPS 2026
arXiv: 2605.20030
OpenReview: https://openreview.net/forum?id=IjSvYhsV0a
代码: https://anonymous.4open.science/r/IC-POT-68F4/
领域: 其他
关键词: 最优传输、部分最优传输、点级未匹配成本、稀疏对偶剪枝、结构化拒绝

一句话总结

提出意图控制部分最优传输(IC-POT),将经典部分最优传输的全局统一拒绝回扣泛化为源域与目标域上的点级松弛成本,在保持平衡 Kantorovich 严格等价与稀疏对偶求解特性的同时,实现了依据统计偏置、置信度与物理先验灵活定价拒绝质量。

研究背景与动机

最优传输(Optimal Transport, OT)作为衡量与对齐概率分布的强有力几何工具,已广泛应用于无监督领域自适应、跨模态匹配和地球物理反演中。然而,标准平衡 Kantorovich 形式强制要求源分布与目标分布的所有质量必须完全配对传输。在存在离群点、背景噪声或部分类别不重叠的实际场景中,这种完全匹配约束过于僵硬,极易诱发虚假对应(spurious matches)与负迁移。经典部分最优传输(Partial OT, POT)和不平衡最优传输(Unbalanced OT, UOT)通过引入未匹配质量来放宽边际约束,但在现有的大多数理论体系(如 Caffarelli-McCann 连续松弛与 Chapel 等人的常数成本 POT)中,质量放弃通常由全局传输预算、标量统一回扣或均匀边际惩罚所控制。

这种全局控制范式的核心矛盾在于:它只能决定“拒绝多少质量”,却无法表达“哪些样本应当被优先保护,哪些样本可以低成本舍弃”。在正类未标记学习(PU Learning)中,采样偏差会导致边缘正样本观测稀疏,全局均匀拒绝会误将边缘正样本判定为负类;在开放部分领域自适应(OPDA)中,目标域私有类离群点需被滤除,而高置信度与邻域一致的样本需保留对齐;在地球物理卫星海浪谱匹配中,不同传感器(如 SWIM 散射计与 SAR 合成孔径雷达)存在方位向截止与斑点噪声等非对称传感器退化,必须由物理先验决定哪些频段具备可比性。单一的全局标量回扣只能在粗粒度的质量拒绝曲线上滑动,根本无法编码单侧或点级的非均质可靠性。

面对这一瓶颈,本文切入的角度是将质量未匹配决策直接下放到原始支撑集上的每一个离散支撑点。核心 idea:在源端与目标端显式引入点级未匹配松弛变量与单侧标价成本,推导出等价的局部可分离回扣拉格朗日形式与对偶接受门限,在不改变底层传输代价矩阵的前提下,使未匹配行为成为可直接由外部先验显式调控的优化原语。

方法详解

整体框架

IC-POT 的核心是将配对传输几何与非配对放弃策略在数学形式上解耦。给定源支撑集 \(X=\{x_i\}_{i=1}^n\) 及其质量向量 \(\mu \in \mathbb{R}_+^n\),目标支撑集 \(Y=\{y_j\}_{j=1}^m\) 及其质量向量 \(\nu \in \mathbb{R}_+^m\),以及成对传输代价矩阵 \(C \in \mathbb{R}_+^{n \times m}\)。与传统 POT 仅通过全局标量扣减传输成本不同,IC-POT 为每个源点与目标点分别分配点级未匹配成本向量 \(c_s \in \mathbb{R}_+^n\) 与 \(c_t \in \mathbb{R}_+^m\)。

优化问题通过显式松弛变量建模:优化变量包括成对传输计划矩阵 \(P \in \mathbb{R}_+^{n \times m}\)、未匹配源质量向量 \(u \in \mathbb{R}_+^n\) 以及未匹配目标质量向量 \(v \in \mathbb{R}_+^m\)。整个系统在求解时可严格重写为增广支撑集上的标准平衡 Kantorovich 问题,或利用对偶约束剪枝非容许边,使用精确稀疏单纯形/内点线性规划器求解。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["输入数据与几何代价<br/>边缘分布 μ, ν 与传输矩阵 C"] --> B["构造点级未匹配标价<br/>基于外部先验生成 c_s 与 c_t"]
    B --> C["分离式局部回扣拉格朗日建模<br/>成本项 C_ij - c_s(i) - c_t(j)"]
    C --> D["对偶容许集精确稀疏剪枝<br/>保留 C_ij ≤ c_s(i) + c_t(j) 活跃边"]
    D --> E["增广支撑平衡 Kantorovich 求解<br/>获得最优传输矩阵 P 与松弛向量 u, v"]

关键设计

1. 显式松弛变量与分离式局部回扣:将未匹配决策下放至点级边缘

为了摆脱全局标量预算的束缚,IC-POT 在原始支撑集上建立线性规划原始问题: $\(\min_{P \ge 0, u \ge 0, v \ge 0} \langle C, P \rangle + \langle c_s, u \rangle + \langle c_t, v \rangle \quad \text{s.t.} \quad P \mathbf{1}_m + u = \mu, \quad P^\top \mathbf{1}_n + v = \nu\)$ 其中 \(u_i\) 和 \(v_j\) 分别代表未被传输的源样本和目标样本质量。利用等式约束消去松弛变量 \(u = \mu - P\mathbf{1}_m\) 和 \(v = \nu - P^\top\mathbf{1}_n\),该问题等价于(在常数偏置 \(\langle c_s, \mu \rangle + \langle c_t, \nu \rangle\) 下)带分离式局部回扣的子耦合最优化: $\(\min_{P \in \Gamma_{\le}(\mu, \nu)} \sum_{i=1}^n \sum_{j=1}^m \Big( C_{ij} - c_s(i) - c_t(j) \Big) P_{ij}\)$ 其中 \(\Gamma_{\le}(\mu, \nu) = \{P \ge 0 : P\mathbf{1}_m \le \mu, P^\top\mathbf{1}_n \le \nu\}\)。当 \(c_s(i)=\alpha\) 且 \(c_t(j)=\beta\) 为全局常数时,该式严格退化为 Caffarelli-McCann 的统一回扣 \(\lambda = \alpha + \beta\);而当 \(c_s\) 与 \(c_t\) 为非均匀向量时,每一对样本的传输激励被精确拆解为各自边缘点级容忍成本之和,使得每一侧的不可靠区域与受保护区域能独立施加影响。

2. 对偶接受门限与严格支持集稀疏性:从局部上界到无损剪枝

通过对拉格朗日乘子推导对偶形式,IC-POT 的对偶问题为: $\(\max_{f, g} \sum_{i=1}^n f_i \mu_i + \sum_{j=1}^m g_j \nu_j \quad \text{s.t.} \quad f_i + g_j \le C_{ij}, \quad f_i \le c_s(i), \quad g_j \le c_t(j)\)$ 互补松弛条件揭示了极具直觉的几何意义:当点对之间发生实际质量传输时(\(P_{ij} > 0\)),成对约束饱和 \(f_i + g_j = C_{ij}\);而当样本发生质量放弃时(\(u_i > 0\) 或 \(v_j > 0\)),对偶变量直接撞上各自的点级上限 \(f_i = c_s(i)\) 或 \(g_j = c_t(j)\)。这意味着 \(c_s(i)\) 与 \(c_t(j)\) 充当了局部的“接受门限”(acceptance caps):若某个源样本的 \(c_s(i)\) 极大,则舍弃代价高昂,模型会被迫为其寻找传输目标;若 \(c_s(i)\) 极小,则该样本稍遇较高传输代价便会立刻进入未匹配通道。由此直接导出严格的容许支撑集命题:对于任意满足 \(C_{ij} > c_s(i) + c_t(j)\) 的边,其在所有最优解中必然有 \(P_{ij} = 0\)。算法可在求解前严格剔除所有超阈值边构建容许边子集 \(E = \{(i,j) : C_{ij} \le c_s(i) + c_t(j)\}\),在完全不损失最优性的前提下大幅压缩线性规划规模。

3. 虚拟增广节点等价与非对称结构化策略实例化

为了保持与标准平衡 Kantorovich 求解器的无缝兼容,论文证明了原始松弛问题完全等同于在源端与目标端各增加一个虚拟“垃圾桶”吸收节点的 \((n+1) \times (m+1)\) 平衡最优传输问题:增广质量向量设为 \(\bar{\mu} = (\mu, \|\nu\|_1)\) 与 \(\bar{\nu} = (\nu, \|\mu\|_1)\),增广代价矩阵构造为左上角 \(C\)、右上角 \(c_s\)、左下角 \(c_t^\top\)、右下角为 \(0\)。在实例化应用时,设计者无需对增广矩阵做启发式调参,只需遵循统一的仿射映射法则:根据任务侧的置信度、先验掩码或局部几何计算归一化保护得分 \(r_i \in [0, 1]\),并通过 \(c(i) = c_{\min} + (c_{\max} - c_{\min}) r_i\) 将其投影为拒绝成本。在 PU 学习中,利用协变量空间距离原点的归一化位置直接定价采样偏置;在 OPDA 中,基于目标样本对源原型的后验熵或局部 \(k\) 近邻一致性保护共享类;在地球物理海浪谱对齐中,结合方位向截断估算与斑点噪声扇区先验,直接赋予物理不可靠频段极低的拒绝成本。

损失函数 / 训练策略

IC-POT 作为通用的即插即用推断与对齐层,本身采用无参数退火的凸线性规划求解。在实际实现中,首先计算几何代价矩阵 \(C\) 与任务驱动的点级未匹配向量 \(c_s, c_t\);接着利用准则 \(C_{ij} \le c_s(i) + c_t(j)\) 筛选稀疏容许边集 \(E\);最后调用高效的单纯形或网络单纯形算法在增广图上求解。所有超参数(如成本上下界 \([c_{\min}, c_{\max}]\) 与先验幂次)在验证集少量子任务上选定后即可在全基准上固定,无需端到端重训特征提取骨干。

实验关键数据

主实验

论文在开放部分领域自适应(OPDA,固定 CLIP distillation 特征骨干与原型,仅替换最终拒绝决策层)以及合成卫星海浪谱匹配(SWIM-SAR,100 对带有已知真实可比支撑集的物理仿真对)上进行了严格的主实验评测。

任务 / 评测基准 指标 CLIP dis + partial-W (常数POT) CLIP dis + IC-POT (基于熵) CLIP dis + IC-POT (原型邻域支持) 性能增益 (较常数POT)
OPDA: Office-31 H-score / H3-score 94.08 / 90.85 94.23 / 90.94 95.12 / 91.54 +1.04 / +0.69
OPDA: Office-Home H-score / H3-score 93.17 / 87.97 93.23 / 88.00 91.78 / 87.06 +0.06 / +0.03
OPDA: VisDA H-score / H3-score 86.08 / 85.69 86.31 / 85.84 87.28 / 86.48 +1.20 / +0.79
OPDA: DomainNet H-score / H3-score 79.20 / 76.70 79.70 / 77.01 79.71 / 77.01 +0.51 / +0.31

在 100 组具有真实物理可比支持集真值的合成海浪谱(SWIM-SAR)对比实验中,定量指标如下:

方法 可比成分恢复率 (↑) 未匹配精确率 (↑) 可靠成分损失 (↓) 虚假传输量 (↓)
partial-W (低标量成本) 0.023 ± 0.041 0.691 ± 0.047 0.070 ± 0.017 0.019 ± 0.005
partial-W (高标量成本) 0.999 ± 0.013 0.761 ± 0.045 0.000 ± 0.001 0.236 ± 0.027
IC-POT (本文) 0.993 ± 0.013 0.770 ± 0.044 0.000 ± 0.001 0.031 ± 0.090

消融实验

在受控正类未标记学习(PU Learning)的采样偏置消融中,测试了正样本在均匀观测(SCAR-like)与严重非均匀边缘欠采样(SAR-like)两种机制下的表现:

实验配置 / 采样机制 均匀采样 (SCAR) F1 非均匀采样 (SAR) F1 均匀采样 Acc 非均匀采样 Acc 说明
partial-W (\(A=0.15\) 最优标量) 0.82 ± 0.03 0.52 ± 0.06 0.81 ± 0.03 0.50 ± 0.06 常数回扣在非均匀偏置下崩溃
IC-POT (反向错位先验控制) 0.80 ± 0.03 0.44 ± 0.05 0.79 ± 0.03 0.43 ± 0.05 人为使边缘更易被放弃时性能大跌
IC-POT (对齐先验设计) 0.87 ± 0.02 0.86 ± 0.01 0.86 ± 0.02 0.85 ± 0.01 即使存在极端偏置依然保持高稳健性

关键发现

  • 在海浪谱对比中,常数代价 partial-W 陷入了一维权衡折中:低回扣导致大量受传感器色散影响但物理上真正对应的海浪成分无法匹配(恢复率仅 0.023);高回扣虽然拉高了恢复率(0.999),但把大量斑点噪声和单侧假阳性信号错误传输,造成严重的虚假传输(0.236)。而 IC-POT 凭借点级双侧约束,在维持 0.993 极高恢复率的同时,将虚假传输压低 7.6 倍至 0.031。
  • 在 OPDA 领域自适应中,数据分布的局部几何特性决定了最佳拒绝策略:在局部流形聚集度高的 Office-31 和 VisDA 上,基于原型邻域支持的标价效果最佳,H-score 相比 partial-W 分别提升 1.04 与 1.20;而在分布相对弥散的 Office-Home 上,单样本熵标价表现更稳健。
  • 在全表 25 组跨领域迁移任务中,IC-POT 在 24 组上超越常数 partial-W,证明了传输耦合点级拒绝远优于孤立的后处理置信度阈值过滤。

亮点与洞察

  • 严格保持对偶互补松弛与无损稀疏性:论文不仅提出了直观的点级松弛目标,更在理论上证明了其与平衡 Kantorovich 增广矩阵的等价性,并推导出对偶接受门限。这使得非容许边能够被 \(C_{ij} \le c_s(i) + c_t(j)\) 严格剪枝,在算法底层为大规模计算提供了理论保障。
  • 将“几何距离”与“匹配意图”正交解耦:传输代价矩阵 \(C\) 专注于表达度量空间中的空间/特征距离,而 \(c_s, c_t\) 专注于表达领域可靠度与先验重要性。两者正交分离,避免了以往方法为了实现局部保护而强行扭曲几何距离度量的次优做法。
  • 跨统计学习与地球科学的普适统一性:同一个数学公式既能在机器学习中通过近邻结构与后验熵解决非平衡迁移,又能在遥感科学中吸纳流体力学弥散与雷达斑点噪声物理方程,展现出优异的跨学科建模张力。

局限与展望

  • 先验函数构建依赖人工经验或任务启发式规则:目前 \(c_s\) 和 \(c_t\) 的具体形式需要人工根据统计或物理背景设计映射方程,尚不支持完全端到端从数据或弱监督标签中自适应联合反向学习参数。
  • 尚未形成统一的平滑/熵正则化快速求解器:作者指出经典的 Sinkhorn 熵正则化并不能直接平替到 IC-POT 中(见原文 Appendix L),目前的严格求解依赖于线性规划,在超大规模点云或高分辨率网格上的扩展性仍有待进一步发展切片(Sliced)或一维快速近似算子。

相关工作与启发

  • vs 经典部分最优传输 (Partial OT, Caffarelli-McCann / Chapel et al.): 经典方法仅使用单一标量回扣 \(\lambda\) 控制被传输的总质量预算,所有点面临完全相同的放弃成本。IC-POT 将其完全推广为可分离点级回扣 \(c_s(i) + c_t(j)\),打破了经典模型在空间分布上的对称性假设。
  • vs 不平衡最优传输 (Unbalanced OT, Chizat et al. / Liero et al.): UOT 通过 KL 散度或全变差(TV)软惩罚边际违背,同样依赖全局正则化系数且通常改变传输保真度。IC-POT 保持硬边际松弛与明确的离散点级门限,物理可解释性更强。
  • vs 掩码最优传输 (Masked OT, Luo & Ren): Masked OT 使用二值硬掩码截断传输候选集,属于硬约束几何裁剪;而 IC-POT 允许连续平滑的边缘参与度定价,不仅边界过渡更加自然,且在对偶上天然诱导出软硬兼备的动态门限机制。

评分

  • 新颖性: ⭐⭐⭐⭐⭐ 巧妙打破了部分最优传输数十年来依赖全局标量回扣的固有范式,提出了点级未匹配成本理论,具备严谨的对偶互补性与稀疏剪枝证明。
  • 实验充分度: ⭐⭐⭐⭐⭐ 涵盖了受控理论合成实验(PU Learning)、大规模计算机视觉迁移基准(OPDA 四大经典数据集 25 组迁移)以及真实物理卫星多模态海浪谱比对,实验论证链条极为完整。
  • 写作质量: ⭐⭐⭐⭐⭐ 逻辑严密流畅,从直觉动机、凸优化理论推导到多领域任务实例化层层递进,数学表达干净利落。
  • 价值: ⭐⭐⭐⭐⭐ 为所有涉及选择性对齐、离群点抑制与跨模态非对称噪声处理的度量与迁移任务提供了通用且严谨的新范式。