Intrinsic Riemannian Cross-covariance for Manifold-valued Random Objects¶
会议: NeurIPS 2026
arXiv: 2606.10212
领域: 学习理论
关键词: 黎曼流形, 互协方差, 平行移动, 基点不变性, 形状分析
一句话总结¶
针对非线性黎曼流形上随机对象缺乏内蕴二阶统计量的问题,本文提出基于测地线平行移动的内蕴基点不变黎曼互协方差与相关系数估计器,证明了渐近一致性与正态性,并在球面、SPD流形及心室形状空间上验证了其鲁棒性与无偏性。
研究背景与动机¶
协方差与相关系数是表征随机变量间相依性、进行降维表示和统计推断的核心二阶统计量。在经典的欧式空间中,数据点天然构成向量空间,中心化与内积运算具有全局一致的坐标基底;然而在现代机器学习与医学图像分析中,对称正定(SPD)扩散张量矩阵、Kendall 骨架形状、蛋白质方向等数据天然栖息于弯曲的非线性黎曼流形上,传统向量加法与减法运算不复存在。
现有针对非欧流形相依性测度的方法存在严重的几何与统计局限。Pennec 单变量协方差仅适用于单一变量的散度建模,无法衡量跨变量关联;近期 Abuqrais & Pigoli 提出的黎曼互协方差方法,强行假设两变量具有相同的支撑测地几何球,且直接将样本向某一人为指定的基点(如测地线中点)通过对数映射投影,导致估计结果严重依赖于参考基点的选择。在非零曲率流形上,不同基点处的度量扭曲各异,使得该方法不仅丧失了基点不变性,而且在两变量总体均值测地距离较远时产生显著的方差虚高与相关性低估。
针对上述瓶颈,本文从内蕴微分几何的等距性质出发切入研究。核心 idea:利用沿连接各自 Fréchet 均值的唯一测地线进行平行移动,将两变量在各自局部切空间中的中心化切向量等距输运至统一基点切空间,从而构造完全内蕴、无坐标依赖且基点不变的黎曼互协方差与相关系数。
方法详解¶
整体框架¶
本文方法的计算流程包含均值估计、局部对数映射、测地线平行移动、切空间张量积与迹运算四个阶段。设流形 \(\mathcal{M}\) 上的两随机对象分别为 \(X\) 与 \(Y\),其唯一总体 Fréchet 均值分别为 \(\mu\) 与 \(\nu\)。首先分别在样本层面求解经验 Fréchet 均值 \(\hat{\mu}\) 与 \(\hat{\nu}\);随后将样本点分别通过对数映射拉回至其自身均值处的切空间 \(T_{\hat{\mu}}\mathcal{M}\) 与 \(T_{\hat{\nu}}\mathcal{M}\),自然实现几何意义上的内蕴中心化;接着,沿连接 \(\hat{\mu}\) 与 \(\hat{\nu}\) 的唯一测地线,将切向量通过 Levi-Civita 联络的平行移动算子输运到测地线上的任意公共基点 \(p\);最后在公共切空间 \(T_p\mathcal{M}\) 中计算张量积并取期望与迹,得到矩阵形式的互协方差与标量相关系数。
%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
A["流形配对样本<br/>(X_i, Y_i) on M"] --> B["Fréchet 均值估计<br/>求解 mu_hat 与 nu_hat"]
B --> C["局部切空间中心化<br/>对数映射 log_mu(X_i) 与 log_nu(Y_i)"]
C --> D["测地线平行移动<br/>等距输运至公共基点 p in alpha"]
D --> E["内蕴互协方差与相关系数<br/>矩阵 Sigma_XY(p) 与标量 R_XY(p)"]
关键设计¶
1. 局部切空间中心化:消除任意坐标参考系的度量扭曲
现有方法在计算两个流形变量的协方差时,常粗暴地选择某全局点 \(p\) 并计算 \(\log_p X\) 与 \(\log_p Y\) 的协方差,但流形上的均值不满足 \(\mathbb{E}[\log_p X] = \log_p \mathbb{E}[X]\),从而导致伪中心化偏差。本文首先利用各变量独立的 Fréchet 均值定义: $\(\mu = \arg\min_{x \in \mathcal{M}} \mathbb{E}[d^2(X, x)], \quad \nu = \arg\min_{y \in \mathcal{M}} \mathbb{E}[d^2(Y, y)]\)$ 并直接在切空间 \(T_\mu \mathcal{M}\) 与 \(T_\nu \mathcal{M}\) 内取切向量 \(\log_\mu X\) 和 \(\log_\nu Y\)。根据 Fréchet 均值的一阶变分条件,切向量的期望严格为零向量,即 \(\mathbb{E}[\log_\mu X] = 0\) 和 \(\mathbb{E}[\log_\nu Y] = 0\)。切向量范数精确对应测地距离 \(\|\log_\mu X\|_\mu = d(\mu, X)\),实现了几何上的纯粹中心化。
2. 测地线平行移动:构建等距等价的公共切空间表征
由于 \(T_\mu \mathcal{M}\) 与 \(T_\nu \mathcal{M}\) 分属流形上不同切空间,无法直接计算张量积或内积。为克服非零曲率造成的路径依赖性,本文在两均值测地距离小于单射半径 \(d(\mu, \nu) < \text{inj}\mathcal{M}\) 的假设下,锁定连接 \(\mu\) 与 \(\nu\) 的唯一最短测地线 \(\alpha\)。利用 Levi-Civita 联络 \(\nabla_{\alpha'(t)} V(t) = 0\) 诱导的平行移动算子 \(\Gamma_\mu^p\) 与 \(\Gamma_\nu^p\),将两切向量平行移动至测地线上的任意选定基点 \(p \in \alpha\): $\(U = \Gamma_\mu^p \log_\mu X \in T_p \mathcal{M}, \quad V = \Gamma_\nu^p \log_\nu Y \in T_p \mathcal{M}\)$ 因为平行移动是微分流形上的等距同构(Isometry),完全保持了内积与模长 \(\langle \Gamma_\mu^p u, \Gamma_\mu^p w \rangle_p = \langle u, w \rangle_\mu\),从而将两个不同切空间的统计波动无损注入同一向量空间。
3. 内蕴互协方差与相关系数:基点不变性与理论性质保障
在公共切空间 \(T_p \mathcal{M}\) 下,黎曼互协方差矩阵算子与标量协方差定义为: $\(\Sigma_{X,Y}(p) = \mathbb{E}\left[ (\Gamma_\mu^p \log_\mu X)(\Gamma_\nu^p \log_\nu Y)^\top \right], \quad \text{Cov}_{X,Y}(p) = \text{tr}(\Sigma_{X,Y}(p))\)$ 本文从理论上严格证明了基点不变性(Theorem 3.6):对任意 \(p, q \in \alpha\),恒有 \(\text{Cov}_{X,Y}(p) = \text{Cov}_{X,Y}(q)\)。若无需特指中间点,可自然选取 \(p=\nu\) 将第一变量移动到第二变量均值处,化简为 \(\Sigma_{X,Y} = \mathbb{E}[(\Gamma_\mu^\nu \log_\mu X)(\log_\nu Y)^\top]\)。在此基础上归一化得到的标量黎曼相关系数: $\(\mathcal{R}_{X,Y}(p) = \frac{\text{Cov}_{X,Y}(p)}{\sqrt{\text{Cov}_{X,X}(\mu)}\sqrt{\text{Cov}_{Y,Y}(\nu)}} \in [-1, 1]\)$ 具有尺度不变性 \(\mathcal{R}_{(a,X),Y}(p) = \text{sign}(a)\mathcal{R}_{X,Y}(p)\)、自相关为 1 以及独立性下为 0 等欧式优良性质。
4. 渐近线性展开与正态分布收敛:建立可信统计推断
针对经验插桩估计量 \(\widehat{\Sigma}_{X,Y}(p) = \frac{1}{n} \sum_{i=1}^n \hat{U}_i \hat{V}_i^\top\)(其中 \(\hat{U}_i = \Gamma_{\hat{\mu}}^p \log_{\hat{\mu}} X_i\)),均值估计误差与对数/平行移动复合映射引入了非平凡的漂移。作者推导了其渐近线性表示: $\(\sqrt{n}\left(\text{vec}(\widehat{\Sigma}_{X,Y}(p)) - \text{vec}(\Sigma_{X,Y}(p))\right) = \frac{1}{\sqrt{n}} \sum_{i=1}^n \text{IF}_i + o_p(1)\)$ 其中影响函数 \(\text{IF}_i = (\text{vec}(Z_i) - \mathbb{E}\text{vec}(Z_i)) + A_\mu H_X^{-1} \xi_i + A_\nu H_Y^{-1} \zeta_i\) 显式分离了经验波动与均值估计的 Hessian 修正。进而证明了 \(\sqrt{n}\)-渐近正态性与一致性,允许通过经验影响函数方差构造 Wald 渐近置信区间。
实验关键数据¶
主实验¶
论文在单位球面 \(\mathbb{S}^2\)、对称正定矩阵流形 \(\mathcal{P}_d\) 以及真实心室轮廓的 Kendall 形状空间上开展了详尽评估。在合成真实已知协方差的 \(\mathbb{S}^2\) 恢复实验中,比较了本文方法、Abuqrais & Pigoli (A&P) 以及典型相关分析 (CCA) 在测地线上不同基点 \(\gamma(t)\) 处的估计表现(\(t \in \{0, 0.5, 1\}\),真实相关系数理论值为 \(0.447\),真实协方差为 \(0.080\))。
| 估计方法 | 评估位置 \(\gamma(t)\) | 估计协方差 \(R_{cov}\) | 真实协方差 | 估计相关系数 \(R_{corr}\) | 理论相关系数 | 估计稳定性 (SE) |
|---|---|---|---|---|---|---|
| 本文方法 (Ours) | \(\gamma(0)\) | 0.079 | 0.080 | 0.446 | 0.447 | \(\approx 0.008\) |
| 本文方法 (Ours) | \(\gamma(0.5)\) | 0.079 | 0.080 | 0.446 | 0.447 | \(\approx 0.008\) |
| 本文方法 (Ours) | \(\gamma(1)\) | 0.079 | 0.080 | 0.446 | 0.447 | \(\approx 0.008\) |
| A&P 方法 | \(\gamma(0)\) | 0.079 | 0.080 | 0.446 | 0.447 | \(\approx 0.150\) |
| A&P 方法 | \(\gamma(0.5)\) (中点) | 0.087 | 0.080 | 0.438 | 0.447 | \(\approx 0.150\) |
| A&P 方法 | \(\gamma(1)\) | 0.081 | 0.080 | 0.445 | 0.447 | \(\approx 0.150\) |
| CCA 基线 | 全线恒定 | 0.894 (过估计) | 0.080 | 0.894 | 0.447 | - |
在 Sunnybrook 心脏磁共振图像(MRI)左心室(LV)内外壁形状耦合分析中(Kendall 形状空间 \(\Sigma_2^k\)),比较了四类临床亚组的内、外壁关联度:
| 临床病理分组 | 样本量 \(n\) | 本文相关度 \(R_{corr}\)(Ours) | A&P 相关度 \(R_{corr}\)(A&P) | CCA 估计值 | 病理几何表征分析 |
|---|---|---|---|---|---|
| 正常对照 (Normal) | 9 | 0.587 | 0.637 | 1.000 | 内外壁中等程度规则耦合 |
| 肥厚型心肌病 (Hypertrophy) | 12 | 0.352 | 0.394 | 1.000 | 内壁肌束杂乱增生,打破几何对称性,相关度最低 |
| 心肌梗死后心衰 (HF+Infarct) | 12 | 0.628 | 0.659 | 1.000 | 局部心肌坏死重构,部分破坏对称结构 |
| 无梗死心肌心衰 (HF-Infarct) | 12 | 0.840 | 0.846 | 1.000 | 淀粉样均匀浸润致内外壁对称增厚,几何关联极强 |
消融与鲁棒性分析¶
在 \(\mathcal{P}_3\) 仿射不变黎曼度量(AIRM)流形上,固定真实局部相关度 \(\rho = 0.8\),系统分析两总体均值测地距离 \(d(\mu_X, \mu_Y)\) 从 \(0\) 增加至 \(2.0\) 时的估计稳健性:
| 均值测地距离 \(d(\mu_X, \mu_Y)\) | 本文相关系数 \(R_{corr}\) | A&P 相关系数 \(R_{corr}\) | A&P 偏差绝对值 | A&P 方差虚高倍数 | 结论说明 |
|---|---|---|---|---|---|
| 0.0 (重合) | 0.798 ± 0.012 | 0.795 ± 0.015 | 0.003 | 1.05× | 均值重合时两方法基本一致 |
| 0.5 | 0.799 ± 0.011 | 0.742 ± 0.024 | 0.057 | 1.12× | 距离增加导致 A&P 出现负向偏误 |
| 1.0 | 0.797 ± 0.013 | 0.678 ± 0.035 | 0.120 | 1.21× | A&P 测地中点对数扭曲进一步扩大 |
| 1.5 | 0.798 ± 0.012 | 0.615 ± 0.042 | 0.183 | 1.28× | 本文保持稳定,A&P 衰减超 20% |
| 2.0 | 0.798 ± 0.012 | 0.568 ± 0.051 | 0.230 | 1.35× | A&P 产生系统性虚高方差与低估相关 |
关键发现¶
- 基点不变性得到经验验证:在球面与 SPD 矩阵流形上,沿测地线移动基点 \(p\),本文估计量的标准误差极小(\(SE \approx 0.008\)),呈现水平直线;而 A&P 方法随基点移动呈现倒 U 型波动(\(SE \approx 0.150\)),证实了传统单一切空间投影对参考点的高敏感性。
- 均值距离正交性:当两变量均值距离拉大时,A&P 估计量在中点计算切向量使得 Fréchet 方差被高估多达 1.35 倍,造成相关系数严重低估(衰减达 0.23);本文方法借助测地线等距平行移动,对均值分离完全免疫(均值相关稳定在 0.798 且无下倾趋势)。
- 小样本流形下 CCA 严重过拟合:流形 CCA 强制在切空间寻找最大相关投影方向,在 Kendall 形状空间(\(n=9 \sim 12\))和合成数据中均输出全 1.0,完全丧失对不同病理形态耦合程度的区分能力;而本文方法敏锐捕捉到了心肌肥厚造成的内壁杂乱几何形变(\(R=0.352\) vs \(0.840\))。
亮点与洞察¶
- 微分几何等距性质的巧妙利用:巧妙利用了 Levi-Civita 联络沿测地线平行移动是等距变换(保内积、保范数)的几何公理,既化解了两变量不同切空间的不可比矛盾,又严格保证了二阶矩统计量对计算基点的不变性。
- 完备的统计渐近理论:不仅给出了估计定义,还完整推导了考虑经验 Fréchet 均值扰动的一阶影响函数线性展开,给出了 \(\sqrt{n}\)-渐近正态分布及渐近方差解析式,为后续流形统计假设检验(如置信区间构建、置换检验)奠定了数学地基。
- 跨几何空间的通用可迁移性:方法仅依赖于流形的三个基础算子(指数映射、对数映射、平行移动),能平滑迁移至球面、SPD 矩阵锥、Kendall 射影形状空间乃至李群与超双曲空间,具备成为几何机器学习通用二阶原语的潜力。
局限与展望¶
- 单射半径与测地线唯一性约束:理论要求两随机变量的均值距离必须严格小于流形的单射半径(\(d(\mu, \nu) < \text{inj}\mathcal{M}\)),对于具有多重测地线或全局割迹的复杂拓扑空间(如大圆距离超过 \(\pi\) 的球面点),平行移动存在路径歧义。
- 高维复形状空间平行移动开销:在 Kendall 形状空间等非标准对称空间上,闭式平行移动公式往往不存在,需借助 Pole Ladder(极梯算法)等数值数值逼近,计算复杂度随几何维度上升较快。
- 未来方向拓展:未来可将该内蕴二阶算子推广至流形主成分分析(PGA)、黎曼变量选择回归,以及在李群与非欧图表示学习中的多模态跨表征对齐任务。
相关工作与启发¶
- vs Pennec (2006):Pennec 首次将协方差定义在黎曼流形上,但局限于单个随机变量在自身均值切空间内的二阶矩;本文拓展至双随机变量间的互协方差与归一化相关系数,且在单变量同构时退化为 Pennec 协方差。
- vs Abuqrais & Pigoli (2024):A&P 要求双变量必须落在同一测地开球内,且依赖特定基点投影;本文解除共支撑约束,通过测地平行移动实现了基点不变性与大均值间距下的无偏估计。
- vs Kim et al. (2014) (流形 CCA):CCA 通过优化寻找最相关的切空间一维投影子空间,倾向于高估相依性并在高维小样本下退化为 1.0;本文内蕴互协方差评估的是全向几何相依性,数值刻画更加客观。
评分¶
- 新颖性: ⭐⭐⭐⭐⭐ 首次提出满足基点不变性与欧氏良好性质的内蕴黎曼互协方差体系。
- 实验充分度: ⭐⭐⭐⭐⭐ 涵盖正曲率球面、负曲率 SPD 流形及 Kendall 复杂商流形真实病理数据。
- 写作质量: ⭐⭐⭐⭐⭐ 几何公式严谨清晰,渐近理论推导规范,实验对比极具说服力。
- 价值: ⭐⭐⭐⭐⭐ 为流形值机器学习、医学张量分析与几何表示学习提供了核心基础分析工具。