Efficient Transferable Optimal Transport via Min-Sliced Transport Plans¶

会议: NeurIPS 2026
arXiv: 2511.19741
代码: https://github.com/gmum/LapSum
领域: 优化/理论
关键词: 最优传输, 投影传输方案, 可迁移性, 3D点云对齐, 平滑排序

一句话总结¶

针对传统最优传输求解无法跨相似任务复用且计算复杂度高的难题，本文提出了基于拉普拉斯平滑排序（LapSum）与可迁移最小投影传输方案（min-STP）的全新框架，证明了数据分布发生微小扰动时最优切片器具备有界迁移性，并给出了小批量训练的有限样本统计收敛界，在3D点云对齐、流模型生成和图像翻译中实现了高效、高精度的快速摊销求解。

研究背景与动机¶

最优传输（Optimal Transport, OT）为衡量高维概率测度间的几何距离以及构建保分布几何结构的点对点对应关系提供了严格的数学基础，因而在3D点云配准、形状对齐、单细胞谱系推断以及生成流模型中得到了极为广泛的应用。然而，标准离散最优传输求解（如基于线性规划的网络流算法）的时间复杂度随样本量呈三次方式增长 $\mathcal{O}(N^3)$，即使借助基于熵正则化的 Sinkhorn 迭代或低秩逼近，在面对数以千计乃至数以万计的三维点云与大规模高维特征时，其显存占用与计算开销依然十分沉重。更关键的是，现存所有高效最优传输算法本质上都是“单次实例孤立求解器”——在许多真实世界的动态时序或多任务场景中（例如在3D刚体/非刚体点云连续旋转与形变、生成式连续流模型迭代、跨类别形状渐变过程中），前后相邻的源与目标分布对仅存在渐进式的平移、缩放或微小几何漂移，而传统求解器却必须彻底丢弃此前计算的所有几何几何先验，在每个步骤中从零开始重复求解完整的传输矩阵。

尽管近期出现的切片传输方案（Sliced Transport Plans, STP）及其扩展（如 min-SWGG 和 DGSWP）通过将高维测度投影到一维空间、利用一维快速排序求解极优传输后再提升回环境空间，大幅降低了单次计算的复杂度，但这类方法仍面临两大严峻瓶颈。其一，现有可微投影求解方案（如 DGSWP）依赖向投影向量注入高斯扰动并借助 Stein 引理进行蒙特卡洛梯度估计，导致外层优化梯度的方差极大、收敛极其脆弱且需要极高的蒙特卡洛重采样代价；其二，学界此前完全缺乏关于“已优化的投影方向/切片器是否具有几何迁移能力”的理论基础与定量刻画，无法判断针对分布对 $(\mu_1, \nu_1)$ 学习到的最佳投影方向能否直接热启动并有效服务于微小偏移后的新分布对 $(\mu_2, \nu_2)$。

本文的切入角度是：如果最优传输方案在投影切片空间中可以通过光滑化的目标函数进行参数化表示，那么利用紧致度量空间上的拓扑连续性与极大值定理，便能够严格建立分布间 Wasserstein 摄动与最优切片器偏差之间的理论桥梁，从而将孤立的 OT 计算升维为“一次学习、持续迁移”的摊销计算范式。核心 idea：通过引入拉普拉斯扰动构建平滑目标函数并利用 Berge 极大值定理证明最优切片器的局部稳定性与迁移性，结合闭式可微一维排序算子（LapSum）与对称双分支解耦梯度流，构建了具备有限样本收敛保证的小批量 min-STP 求解体系，实现了在3D点云对齐与生成流中的高效摊销求解。

方法详解¶

整体框架¶

min-STP 的核心管线旨在摆脱昂贵的环境空间全配对传输方案求解，通过学习一个通用的非线性参数化投影映射（切片器）$f: \mathbb{R}^d \to \mathbb{R}$，将复杂的高维分布映射到实数轴上一维边际测度。在一维实数线上，连续或离散分布之间的最优传输方案退化为简单的保序单调重排映射，复杂度仅为 $\mathcal{O}(n \log n)$。得到一维最优匹配矩阵后，算法将其唯一提升（lift）回原本的高维欧几里得环境空间，进而通过梯度下降不断优化切片器参数以最小化环境空间传输总成本。为了在超大样本量下实现可扩展计算，算法结合了基于两样本 U 统计量的小批量（mini-batch）采样策略与拉普拉斯平滑可微排序。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    In["源分布与目标分布输入<br/>3D点云或高维测度样本对 (X, Y)"] --> S1["切片投影与特征条件注入<br/>参数化切片器 f_θ 映射至一维标量"]
    S1 --> S2["LapSum 闭式平滑排序<br/>计算软排列矩阵 P_X 与 P_Y"]
    S2 --> S3["对称双分支解耦梯度流<br/>构建单侧软化方案 γ1 与 γ2 并求均值"]
    S3 --> S4["小批量传输方案提升与优化<br/>在环境空间计算传输成本并回传梯度"]
    S4 --> Out["跨任务切片器热启动与迁移<br/>渐近漂移任务快速推断与全局摊销对齐"]

在整体运行流程中，系统首先将输入的成对高维样本集（如源点云 $X$ 与目标点云 $Y$）输入切片器 $f_\theta$。随后，算法借助 LapSum 算子高效生成两组可微排序软排列矩阵，并在对称双分支设计下与对应的离散硬重排矩阵交叉点乘构造出保梯度的提升传输方案 $\tilde{\gamma}_B$。基于该方案在当前小批量上评估环境距离损失并更新切片器参数；当面对时序渐变或多类别相关点云对时，上一任务学习到的切片器参数 $\theta^*$ 可直接作为新任务的高精度先验初始化，迅速微调或直接推断出高质量传输方案。

关键设计¶

1. 切片器扰动稳定性与最优投影迁移性定理：建立分布邻域与切片器参数邻域的理论联系

现有切片类传输方法之所以难以用于连续演化任务，根源在于硬排序操作导致的目标函数关于切片器参数存在大量阶跃不连续点，无法在数学上建立微小分布变化下最优解的连续依赖性。针对这一瓶颈，本文对切片器引入了多变量对称拉普拉斯扰动 $g_{\xi_\eta, f}(x) = f(x) + \langle \xi_\eta, x \rangle$（其中 $\xi_\eta \sim \mathsf{Lap}_d(\eta^2 \Sigma)$），从而诱导出一个光滑化的期望提升方案 $\bar{\gamma}_f^{(\eta)} = \mathbb{E}_{\xi_\eta}[\gamma_{\xi_\eta}]$ 以及平滑目标泛函： $$J_\eta(\mu, \nu; f) := \int_{\mathcal{X}^2} c(x, y)^p \,\mathrm{d}\bar{\gamma}_f^{(\eta)}(x, y)$$ 在假设样本空间紧致且切片器函数类 $\mathcal{F}$ 一致有界、全局 Lipschitz 连续的前提下，本文利用 Arzelà-Ascoli 定理证明了切片器空间的紧致性。在此基础上，通过建立一维推回测度间的 Lipschitz 连续关系与 Berge 极大值定理，论文严格证明了迁移性定理：对任意 $\varepsilon > 0$，存在 $\tau > 0$，只要两对测度间的 Wasserstein 距离满足 $W_p(\mu_1, \mu_2) + W_p(\nu_1, \nu_2) < \tau$，则对于前一个任务的任意全局最优切片器 $f_1^\star \in \arg\min J_\eta(\mu_1, \nu_1; f)$，在后一个任务的最优解集合中必然存在一个最优切片器 $f_2^\star \in \arg\min J_\eta(\mu_2, \nu_2; f)$，使得它们在一致范数下的距离满足 $\|f_2^\star - f_1^\star\|_\infty < \varepsilon$。这一结论从数学层面终结了“分布稍有变动就必须重新全局优化”的传统做法，为参数化切片器的跨分布重用提供了坚实的理论根基。

2. LapSum 闭式平滑一维可微排序：消除高方差采样开销的高效排序机制

为了在一维实线上恢复可导性，以往 DGSWP 方案借助高斯随机参数扰动与 Stein 引理进行经验梯度估计，这种方式必须在每次迭代中针对大量扰动切片重复求解一维 OT，且梯度方差极其剧烈，高度依赖控制变量（control variates）技巧。本文采用了拉普拉斯和（LapSum）机制，直接将一维样本的经验累积分布函数（CDF）用拉普拉斯分布函数的卷积进行解析平滑，得到平滑 CDF： $$\hat{F}_{x,\alpha}(t) = \frac{1}{n}\sum_{i=1}^n \Phi_\alpha(t - x_i)$$ 其独特优势在于，其平滑分位数逆函数 $\hat{F}_{x,\alpha}^{-1}(k/n)$ 能够解析写出闭式表达式，使得生成一维软排名与软排列矩阵 $\tilde{P}$ 的时间复杂度被严格控制在 $\mathcal{O}(n \log n)$，空间复杂度仅为 $\mathcal{O}(n)$。通过将软 Top-$k$ 选择算子的差分扩展为全排列行随机矩阵，网络无需经历重复求解采样循环，一步即可完成从标量投影值到双随机软重排算子的确定性前向传播与反向微分。

3. 对称双分支解耦梯度流：规避双重软化方差放大的稳定优化结构

在构造源分布与目标分布之间的联合传输矩阵时，若直接将源集合的软排列矩阵 $\tilde{P}_X$ 与目标集合的软排列矩阵 $\tilde{P}_Y$ 同时参与求逆和乘积运算，反向传播时两个软化算子的非线性扰动将发生乘法级耦合，造成显著的梯度方差放大与训练发散。针对这一数值不稳定性，本文提出了对称双分支梯度流架构：在每次反向传播过程中，独立构造两个单边松弛的传输方案： $$\gamma_1 = \tilde{P}_X^\top T_{N,M} P_Y, \qquad \gamma_2 = P_X^\top T_{N,M} \tilde{P}_Y$$ 其中 $T_{N,M}$ 为已排序一维网格上的固定最优离散传输方案，$P_X$ 与 $P_Y$ 为不传导梯度的离散硬排列矩阵。分支 $\gamma_1$ 仅将梯度回传给源投影软重排，分支 $\gamma_2$ 则仅向目标投影软重排回传梯度。最终优化损失直接基于两者的对称均值 $\tilde{\gamma} = \frac{1}{2}(\gamma_1 + \gamma_2)$ 进行计算。这种解耦设计既完整保留了切片器在两端点云分布上的平衡对称监督，又完全切断了软排列矩阵之间的交叉高阶噪声放大效应。

4. 小批量 min-STP 采样与有限样本统计收敛保证：赋能超大规模点集优化

当点云尺寸达到数万级别或进行跨数据全量优化时，计算全批次 $N \times M$ 的切片距离极为耗时。本文将小批量抽样下的 min-STP 损失表述为一个双样本 $U$-统计量 $J_{N,M,B}(f)$，并采用不完全估计器 $\bar{J}_{B,K}(f)$ 在每轮仅抽取 $K$ 对大小为 $B$ 的小批量进行 Monte Carlo 平均。不仅如此，论文进一步证明了其有限样本非渐近收敛速度（Proposition 3.5）：以至少 $1-\delta$ 的概率，小批量估计与全批次目标之间的绝对偏差被严格控制为： $$|\bar{J}_{B,K}(f) - J_{N,M}(f)| \le \frac{C_1}{B} + C_2 \omega_X\Big(\frac{1}{2}\sqrt{\frac{N-B}{NB}}\Big) + C_3 \omega_Y\Big(\frac{1}{2}\sqrt{\frac{M-B}{MB}}\Big) + R \sqrt{\frac{\log(2/\delta)}{2K}}$$ 式中 $\frac{C_1}{B}$ 代表分层抽样的主阶偏差界，中间两项由切片分布的分位数连续模量 $\omega_X, \omega_Y$ 刻画未完全分层带来的细微偏离，最后一项则遵循标准 Hoeffding 集中不等式的 $\mathcal{O}(K^{-1/2})$ 统计波动率。这表明，随着批量 $B$ 适当增大，小批量 min-STP 能够以极高的精度逼近全局全量最优传输目标，在算力受限下依然能实现稳健收敛。

一个完整示例¶

考虑 ModelNet10 中的 3D 点云配准对齐任务：输入包含类别为 Desk 的源点云 $X \in \mathbb{R}^{1024 \times 3}$ 和类别为 Sofa 的目标点云 $Y \in \mathbb{R}^{1024 \times 3}$。 1. 上下文特征增强：利用预训练 PointNet 自编码器提取点云全局几何表征，获得隐向量 $c_X = \phi(X) \in \mathbb{R}^{512}$。将每个三维坐标 $x_i$ 与 $c_X$ 拼接为 515 维输入向量送入三层 MLP 摊销切片器中。 2. 小批量投影：设定批量大小 $B = 64$。从两点云中分别随机抽取 64 个点集子集 $X_B$ 和 $Y_B$，通过切片器前向映射得到两组一维标量得分 $u_x = f_\theta(X_B) \in \mathbb{R}^{64}$ 与 $u_y = f_\theta(Y_B) \in \mathbb{R}^{64}$。 3. 可微排序与双分支方案构造：调用 LapSum 算子解析计算 $u_x$ 的软排列矩阵 $\tilde{P}_x \in \mathbb{R}^{64 \times 64}$，同时执行硬排序得到离散矩阵 $P_y$；另一分支对称获得 $P_x$ 与 $\tilde{P}_y$。计算单边软化方案 $\gamma_1 = \tilde{P}_x^\top T_{64,64} P_y$ 和 $\gamma_2 = P_x^\top T_{64,64} \tilde{P}_y$，取均值得到综合耦合矩阵 $\tilde{\gamma}_B$。 4. 环境代价与反向传播：计算高维欧氏距离矩阵 $C_{ij} = \|x_i - y_j\|_2^2$，评估标量小批量损失 $\mathcal{L} = \frac{1}{64} \langle \tilde{\gamma}_B, C \rangle$，直接对切片器参数 $\theta$ 进行反向传播求导。 5. 迁移推断：在训练完成后，面对测试集中全新的 Desk-Sofa 点云对，直接使用预训练摊销切片器 $f_{\theta^*}$ 进行单次前向投影排序，无需经过任何迭代梯度更新即可直接输出高保真传输方案，其与真实精确 OT 的相关系数超过 0.91。

损失函数 / 训练策略¶

对于由 $N$ 个源样本和 $M$ 个目标样本构成的经验分布，模型在每轮迭代中抽取 $K$ 个小批量对 $\{(S_k, T_k)\}_{k=1}^K$（每个子集大小为 $B$）。参数 $\theta$ 遵循如下批量损失目标进行梯度更新： $$\mathcal{L}(\theta) = \frac{1}{K} \sum_{k=1}^K \frac{1}{B} \sum_{i,j=1}^B [\tilde{\gamma}_k]_{ij} \|x_{S_k(i)} - y_{T_k(j)}\|_2^p$$ 其中耦合权重由对称平均传输矩阵给出： $$\tilde{\gamma}_k = \frac{1}{2} \Big( \tilde{P}_{X_{S_k}}^\top T_{B,B} P_{Y_{T_k}} + P_{X_{S_k}}^\top T_{B,B} \tilde{P}_{Y_{T_k}} \Big)$$ 训练采用 Adam 优化器，学习率设为 $5 \times 10^{-4}$。在涉及连续任务序列的微调场景下，直接将上一分布步的最优参数 $\theta_{t-1}^*$ 作为当前任务 $\theta_t$ 的初始化起点；在全局跨类别摊销实验中，切片器则联合所有训练对的成对损失联合优化。

实验关键数据¶

主实验¶

论文在 ModelNet10 数据集上系统评测了 min-STP 的跨类别 3D 点云对齐能力。评测指标为模型给出的传输成本与基于精确网络流求解的 Ground-Truth OT 距离之间的 Pearson 线性相关系数（均值 $\pm$ 标准差）。对比基线包括逐对单独优化的 min-STP（理论性能上限）、随机未训练投影切片器 STP、以及通过 Transformer 学习全局 Euclidean 嵌入的 Wasserstein Wormhole。

方法 (Method)	训练集相关系数 (Train Corr.)	测试集相关系数 (Test Corr.)	方案特性说明
min-STP (Amortized, 本文摊销式)	0.907 ± 0.048	0.902 ± 0.054	单一切片器全局泛化，直接输出显式传输方案
min-STP (Per-pair 独立求解)	0.959 ± 0.046	0.947 ± 0.073	每对样本独立优化切片器，作为性能参考上限
STP (Random Slicer)	0.702 ± 0.090	0.719 ± 0.113	随机切片投影基线，无法捕获高维内在流形
Wasserstein Wormhole [19]	0.831 ± 0.132	0.770 ± 0.177	仅估计距离，无法产生显式传输方案/点对点匹配

同时，在论文附录 Table 2 中，作者将本文方法与现有的可微投影方案 DGSWP 在 6 个具体的点云类别对上进行了严格的横向对比（各方法采用完全一致的切片器网络骨干架构）：

类别测试对 (Pair)	摊销式 min-STP (Amortized)	独立式 min-STP (Per-pair)	基线 DGSWP [9]
Chair vs Bathtub	0.949 / 0.894	0.974 / 0.973	0.898 / 0.817
Desk vs Bathtub	0.955 / 0.950	0.980 / 0.978	0.928 / 0.913
Desk vs Sofa	0.916 / 0.914	0.957 / 0.948	0.873 / 0.879
Monitor vs Bathtub	0.941 / 0.945	0.980 / 0.983	0.927 / 0.914
Night Stand vs Toilet	0.889 / 0.869	0.977 / 0.964	0.863 / 0.849
Night Stand vs Chair	0.922 / 0.900	0.971 / 0.967	0.819 / 0.829

消融实验¶

为了严格解耦小批量抽样大小、热启动迁移机制（Transfer）以及平滑排序算子（LapSum）对优化性能的各自贡献，论文构建了渐进漂移任务（Task 2，Ground-Truth OT 真实成本为 2.3688），在训练第 20 轮与第 200 轮分别记录传输成本（数值越低越优，均值为 2 次运行平均）：

训练配置 (Configuration)	迭代轮次	Batch=128	Batch=256	Batch=512	Batch=1024 (Full)
无迁移 & 无 LapSum (No transfer & no LapSum)	Iter. 20	3.1418	3.1088	3.1156	3.0680
无迁移 & 采用 LapSum (No transfer & LapSum)	Iter. 20	3.1176	3.0668	3.1121	3.0910
引入迁移 & 无 LapSum (Transfer & no LapSum)	Iter. 20	2.8252	2.8006	2.6998	3.0888
引入迁移 & 采用 LapSum (本文完整模型)	Iter. 20	2.5520	2.5616	2.5169	2.5355
无迁移 & 无 LapSum (No transfer & no LapSum)	Iter. 200	2.6466	2.6278	2.7207	2.5679
无迁移 & 采用 LapSum (No transfer & LapSum)	Iter. 200	2.4459	2.4642	2.4588	2.4628
引入迁移 & 无 LapSum (Transfer & no LapSum)	Iter. 200	2.5213	2.5796	2.5224	2.4447
引入迁移 & 采用 LapSum (本文完整模型)	Iter. 200	2.3978	2.3819	2.3810	2.3797

关键发现¶

迁移机制在初始阶段提供压倒性优势：观察消融实验在第 20 轮的数据可见，引入先验迁移的初始化使传输成本从 3.11+ 骤降至 2.55 左右，几乎在极少迭代内即可快速逼近真值下界（2.3688），显著消除随机初始化在任务过渡边界处产生的剧烈震荡。
LapSum 排序奠定高精度收敛基础：在迭代 200 轮后，是否采用 LapSum 平滑排序成为决定最终精度的分水岭。采用 LapSum 的模型最终成本均在 2.38-2.46 之间，相比无 LapSum 配置（2.56-2.72）具有质的提升，验证了其解析梯度的平滑性优势。
批量敏感性极低：在引入 LapSum 后，小批量（Batch=128/256）与全量（Batch=1024）的最终性能几乎完全持平（2.3978 vs 2.3797），充分印证了 Proposition 3.5 提出的 $\mathcal{O}(1/B)$ 偏差控制界的有效性，使得以超轻量批量训练超大规模点集成为可能。
生成流模型中的优异权衡：在 ShapeNet-Chairs 单步均值流（OT-MeanFlow, NFE=1）点云生成任务中，min-STP 展现出了兼具极低 2-Wasserstein 距离与极低计算耗时的最佳权衡，显著位于时间-精度曲线的最优左下角区域。

亮点与洞察¶

从离散孤立求解到连续流形迁移的范式转变：过去最优传输领域将每个配准问题视为孤立算子，本文通过数学证明揭示了最优切片器在分布摄动下具有连续拓扑结构，开辟了将切片参数作为通用几何特征进行迁移与复用的新路径。
对称梯度流巧妙瓦解双重非线性耦合：通过将双边软排列矩阵拆解为两个单边松弛项 $\tilde{P}_X^\top T P_Y$ 和 $P_X^\top T \tilde{P}_Y$ 并取平均，既保证了对两侧分布对称梯度的完整传导，又彻底消除了端到端训练中的乘法噪声发散，是一个通用性极强的可微排列工程技巧。
U-统计量视角补全理论拼图：不仅停留在经验层面的小批量随机采样，而是从统计学视角严格推导了不完全 U-统计量估计器的偏置衰减阶与集中不等式，给出了完整的非渐近收敛速率，理论自洽且扎实。

局限与展望¶

对于拓扑突变分布的迁移能力有限：理论稳定性保证建立在两测度间的 Wasserstein 距离充分接近的假设下（$W_p < \tau$）；若两点云或分布对之间发生严重的拓扑断裂、维度突变或大角度剧烈翻转，历史切片器可能会陷入局部极小值，需要引入重新探索或全局重置机制。
依赖预训练特征增强：在 ModelNet10 跨类别实验中，切片器输入高度依赖预训练 PointNet 自编码器提取的全局上下文向量 $c_X$；若缺乏高质量的几何表征编码器，纯坐标输入的泛化效果可能面临退化。
高维多模态映射的未来扩展：目前实验主要验证于 3D 点云与 2D/512 维特征，未来可进一步探索将可迁移 min-STP 扩展至超高维单细胞多组学生物轨迹追踪及高分辨率扩散模型隐空间轨迹对齐中。

评分¶

新颖性: ⭐⭐⭐⭐⭐ 首次从理论上证明了最优切片器在分布微扰下的稳定性与迁移性，跳出了传统单次孤立求解的局限。
实验充分度: ⭐⭐⭐⭐⭐ 涵盖 2D 漂移序列、3D ModelNet10 跨类别对齐、ShapeNet 流模型点云生成及 FFHQ 图像翻译，主实验与消融细致完备。
写作质量: ⭐⭐⭐⭐⭐ 理论推导层次分明，定理陈述严谨，算法图示与实验表格详实且自洽。
价值: ⭐⭐⭐⭐⭐ 为计算最优传输在大规模 3D 视觉与生成流中的落地提供了兼具坚实理论保证与极高计算效率的新工具。