跳转至

DiPhon: Diffusion on Graphons for Scalable Graph Generation

会议: NeurIPS 2026
arXiv: 2607.07232
论文: OpenReview
领域: 图学习
关键词: 图生成、扩散模型、图极限(Graphon)、Jacobi 随机微分方程、跨尺度泛化

一句话总结

本文提出 DiPhon,通过在连续图极限(Graphon)空间上构建 Jacobi 随机微分方程(SDE)并经由矩对齐重整化离散到有限图,使在小规模图(20–80 节点)上训练的图扩散模型无需重训即可泛化生成至 300 节点的大图并保持拓扑有效性。

研究背景与动机

基于扩散的生成模型已成为分子设计、神经架构搜索等图生成任务的主流范式,但向大规模图扩展始终面临双重瓶颈:一方面,直接在数百至数千节点的大图上训练与采样扩散模型计算代价高昂;另一方面,在小图上训练好的扩散生成机制能否在不重训的前提下零样本迁移到分布外的更大规模图,在理论与方法上均缺乏保障。在图神经网络(GNN)表示学习领域,图极限(Graphon,即稠密图序列在节点数趋于无穷时的对称可测极限函数 \(W:[0,1]^2 \to [0,1]\))已被广泛用作跨尺度迁移的数学桥梁,证明了共享同一底层 Graphon 的不同规模图之间具备天然的统计可迁移性。

然而,将 Graphon 的无尺度(scale-free)视角引入图扩散生成面临现有模型与 Graphon 空间不兼容的核心矛盾。以 DiGress 和 DeFoG 为代表的离散图扩散模型直接在有限离散类别状态空间上运行马尔可夫链,缺少连续空间域上的边概率随机场概念,无法推广到连续 Graphon 极限;而以 GDSS 和 GruM 为代表的连续高斯 SDE 方法虽然对邻接矩阵元素做逐点连续加噪,但其扩散轨迹在实数域上无界,破坏了 Graphon 要求的值域有界性 \([0,1]\),采样时必须依赖启发式截断或阈值投影,与连续 Graphon 过程的统计关联仅停留在隐式层面。

本文的切入角度是选用状态依赖噪声在边界 \(\{0,1\}\) 处自动退化为零的 Jacobi 扩散过程,使扩散轨迹天然受限于 \([0,1]\) 闭区间并收敛于 Beta 平稳分布,从而直接作为连续 Graphon 空间上的前向演化规律,再通过网格积分与参数重整化导出有限图上的可计算扩散过程。核心 idea:在连续 Graphon 空间上定义有界 Jacobi 随机微分方程,通过构造重整化的“先离散后扩散”元胞级 Jacobi 过程并与伯努利图采样结合,精确对齐连续无尺度过程的一阶矩、显式控制二阶矩偏差,并利用基于 Jacobi 多项式谱展开的解析条件得分与边级二元去噪网络实现跨尺度零样本大图生成。

方法详解

整体框架

DiPhon 的整体流程围绕“如何让有限 N 节点图上的扩散过程继承连续 Graphon 空间的无尺度统计不变量”展开。前向阶段从观测到的有限二元图 \(A_0 \in \{0,1\}^{N \times N}\) 出发,将其视为底层 Graphon 在 \(N \times N\) 均匀网格元胞上的伯努利采样初始条件,在每个元胞上独立运行参数重整化后的标量 Jacobi SDE 生成连续有界边概率轨迹 \(\tilde{W}_t \in [0,1]^{N \times N}\),并可随时通过独立伯努利抽样获得有限图轨迹 \(A_t\)(在稳态极限下收敛于参数为 \(\mu\) 的 Erdős–Rényi 图极限)。反向生成阶段从平稳分布 \(\mathrm{Beta}(\mu)\) 独立初始化目标节点规模 \(N\) 下的边概率矩阵 \(\tilde{W}_T\),在每个反向时间步采样当前二元图并提取相对随机游走概率(RRWP)特征,输入图 Transformer 去噪网络 \(\Phi_\theta(\tilde{W}_t, t)\) 预测干净图边概率 \(\hat{A}_0\),将其代入基于移位 Jacobi 多项式谱展开的闭式条件得分公式驱动反向 SDE 演化至 \(t=0\),最终经伯努利抽样输出生成的目标规模图。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["输入:训练小图 A0 (前向)<br/>或平稳先验 Beta(μ) (反向)"] --> B["元胞重整化 Jacobi 前向过程<br/>有界区间 [0,1] 一阶与二阶矩对齐"]
    B --> C["伯努利图轨迹采样与 ER 极限<br/>边概率场实时抽样二元图并计算 RRWP"]
    C --> D["Jacobi 谱展开条件得分与图去噪<br/>图 Transformer 预测干净边概率代入闭式得分"]
    D --> E["输出:反向 SDE 积分与最终伯努利抽样<br/>生成任意目标规模 N 的二元图"]

关键设计

1. 元胞重整化 Jacobi 前向过程:有界区间 \([0,1]\) 上的无尺度一阶与二阶矩对齐

为了使扩散轨迹始终保持合法的边概率物理意义(即严格落入 \([0,1]\) 区间而无需后处理截断),本文首先在连续 Graphon 空间 \([0,1]^2\) 上引入均值回归速率为 \(\kappa > 0\)、平稳均值为 \(\mu \in (0,1)\)、噪声强度为 \(\sigma > 0\) 的形式化 Jacobi 随机偏微分方程(SPDE):其漂移项 \(\kappa(\mu - W_t(x,y))\) 将边概率拉向平稳均值 \(\mu\),而扩散系数 \(\sigma\sqrt{W_t(x,y)(1-W_t(x,y))}\) 在边界 \(0\) 和 \(1\) 处自动归零,天然把状态约束在 \([0,1]\) 内。然而,由于驱动该方程的时空白噪声 \(B_t(x,y)\) 无法逐点良定义,“先在连续域扩散、再在面积为 \(1/N^2\) 的网格元胞 \(I_i \times I_j\) 上积分求均值 \(\bar{W}_t^{ij}\)”的理想路径(diffuse-then-discretize)无法直接数值模拟。为此,DiPhon 改走“先离散再扩散”(discretize-then-diffuse)路线,在每个网格元胞上赋予独立的标量 Jacobi SDE,并设计如下依赖网格规模 \(N\) 的参数重整化方案(Theorem 1):

\[\tilde{\sigma}^2 := \sigma^2 N^2, \qquad \tilde{\kappa} := \kappa - \frac{\sigma^2(N^2 - 1)}{2}, \qquad \tilde{\mu}_t := \mathbb{E}[\bar{W}_t^{ij}] + \frac{\kappa}{\tilde{\kappa}}\bigl(\mu - \mathbb{E}[\bar{W}_t^{ij}]\bigr)\]

其中 \(\mathbb{E}[\bar{W}_t^{ij}] = \mu + (\bar{W}_0^{ij} - \mu)e^{-\kappa t}\) 为连续元胞均值的确定性指数衰减轨迹。这一重整化的精妙之处在于:一方面,放大后的元胞噪声强度 \(\tilde{\sigma}^2 = \sigma^2 N^2\) 与调低后的回归速率 \(\tilde{\kappa}\) 恰好使方差常微分方程的阻尼率满足 \(2\tilde{\kappa} + \tilde{\sigma}^2 = 2\kappa + \sigma^2\),与连续空间积分后的方差阻尼率完全一致;另一方面,时变目标 \(\tilde{\mu}_t\) 补偿了回归速率由 \(\kappa\) 替换为 \(\tilde{\kappa}\) 带来的漂移偏差。定理 1 证明,该离散过程 \(\tilde{W}_t^{ij}\) 在任意时刻 \(t \ge 0\) 与理想连续元胞均值 \(\bar{W}_t^{ij}\) 保持一阶矩完全相等(\(\mathbb{E}[\tilde{W}_t^{ij}] = \mathbb{E}[\bar{W}_t^{ij}]\)),且二阶矩(方差)之差具有显式闭式解 \(\mathrm{Var}(\tilde{W}_t^{ij}) - \mathrm{Var}(\bar{W}_t^{ij}) = \beta_0^{ij} N^2 e^{-2\kappa t}(1 - e^{-\sigma^2 t})\),其中 \(\beta_0^{ij}\) 为初始 Graphon 在元胞内部的局部空间方差。当 \(N \to \infty\) 时精细网格内 Graphon 近似常数(\(\beta_0^{ij} \to 0\)),且时间因子以 \(e^{-2\kappa t}\) 指数衰减,确保离散过程严格继承连续 Graphon 扩散的跨尺度统计特性。

2. 伯努利图轨迹采样与 ER 极限:从有限观测图出发的同态密度收敛保证

在实际训练中,我们无法直接观测到底层连续 Graphon 的元胞均值 \(\bar{W}_0^{ij}\),只能观测到有限二元邻接矩阵 \(A_0 \in \{0,1\}^{N \times N}\)。DiPhon 将 \(A_0^{ij} \sim \mathrm{Ber}(\bar{W}_0^{ij})\) 视为元胞均值的无偏伯努利抽样,直接用 \(\tilde{W}_0^{ij} = A_0^{ij}\) 作为初始条件并代入时变目标 \(\tilde{\mu}_t\)。推论 1(Corollary 1)证明,由于 \(\mathbb{E}[A_0^{ij}] = \bar{W}_0^{ij}\),这种以有限图代换初值的操作依然在所有时刻 \(t \ge 0\) 保持一阶矩与连续 Graphon 过程精确一致,仅在二阶矩上引入一项正比于伯努利初值方差 \(\beta_1^{ij} = \bar{W}_0^{ij}(1 - \bar{W}_0^{ij})\) 的附加项 \(\beta_1^{ij} e^{-2\kappa t}[1 - N^2(1 - e^{-\sigma^2 t})]\),且该项同样随时间按 \(e^{-2\kappa t}\) 指数消失(实践中跨尺度实验也常采用参数恒定的简化 Jacobi 过程,同样天然保持一阶矩精确对齐与 \([0,1]\) 有界性)。更进一步,由于每个元胞状态 \(\tilde{W}_t^{ij}\) 本身就是合法的边存在概率,DiPhon 在扩散轨迹的任意时刻 \(t\) 均可通过独立伯努利抽样 \(A_t^{ij} \sim \mathrm{Ber}(\tilde{W}_t^{ij})\) 生成真实的中间二元图 \(A_t\)。定理 2(Theorem 2)利用 McDiarmid 有界差分不等式证明,当时间 \(t \to \infty\)(各元胞独立收敛至平稳分布 \(\mathrm{Beta}(\mu)\))且节点规模 \(N \to \infty\) 时,对于任意有限简单子图(motif)\(H\),采样图 \(A_t\) 的同态密度(homomorphism density)依概率收敛于参数为 \(\mu\) 的 Erdős–Rényi(ER)Graphon:

\[\lim_{N \to \infty} \lim_{t \to \infty} t(H, A_t) = \mu^{|E(H)|}\]

这一结论赋予了前向终点明确的图极限几何意义:无论初始图结构如何、节点规模 \(N\) 多大,前向过程最终都统一收敛到同一个与数据无关、跨尺度共享的 Erdős–Rényi 参考先验,充当了类似高斯扩散中标准正态分布的角色。

3. Jacobi 谱展开条件得分与图去噪:规避不可解边缘得分并原生融合 RRWP 拓扑特征

要逆转前向 Jacobi SDE 从 \(\mathrm{Beta}(\mu)\) 采样生成新图,反向时间 SDE 需要计算边缘对数密度梯度(得分函数)\(\nabla_W \log \tilde{p}_t(\tilde{W}_t^{ij})\)。虽然 Jacobi 扩散的转移密度没有初等函数闭式解,但它在加权希尔伯特空间 \(L^2([0,1], \pi)\) 上对称,可按关于平稳分布 \(\pi = \mathrm{Beta}(\alpha, \beta)\)(其中 \(\alpha = 2\tilde{\kappa}\mu/\tilde{\sigma}^2, \beta = 2\tilde{\kappa}(1-\mu)/\tilde{\sigma}^2\))标准正交化的移位 Jacobi 多项式 \(\{\phi_n\}_{n=0}^\infty\) 进行离散谱展开,第 \(n\) 阶模态的特征值衰减速率为 \(\lambda_n = n[\tilde{\kappa} + (n-1)\tilde{\sigma}^2/2]\)。利用 Jacobi 多项式的导数递推关系对谱展开式求导,给定初始值 \(W_0^{ij}\) 的条件得分具有精确解析形式(实际计算时因 \(\lambda_n\) 随 \(n\) 二次增长,截断至前 \(M\) 阶即可快速收敛):

\[\nabla_W \log \tilde{p}_t(\tilde{W}_t^{ij} \mid W_0^{ij}) = \nabla_W \log \pi(\tilde{W}_t^{ij}) + \frac{\sum_{n=0}^{\infty} e^{-\lambda_n t} \phi_n(W_0^{ij}) \phi_n'(\tilde{W}_t^{ij})}{\sum_{n=0}^{\infty} e^{-\lambda_n t} \phi_n(W_0^{ij}) \phi_n(\tilde{W}_t^{ij})}\]

由此,复杂的边缘得分估计被彻底简化为:用神经网络从含噪边概率矩阵 \(\tilde{W}_t\) 中预测干净图邻接矩阵的无偏估计 \(\hat{A}_0 = \Phi_\theta(\tilde{W}_t, t) \in [0,1]^{N \times N}\),再将 \(\hat{A}_0^{ij}\) 作为 \(W_0^{ij}\) 的插件估计量(plug-in estimator)直接代入上式。在去噪网络架构上,DiPhon 沿用了 DeFoG / DiGress 的置换等变图 Transformer(维护节点、边、全局图特征三路表征并通过 FiLM 层注入正弦时间编码),并拼接 \(K\) 阶相对随机游走概率(RRWP)特征 \(\mathrm{RRWP}(\hat{A}) = [I, M, M^2, \dots, M^{K-1}]\)(其中 \(M = D^{-1}\hat{A}\))。这里体现出 DiPhon 相比连续高斯扩散的一大原生优势:高斯扩散的中间状态是实数矩阵,无法直接定义随机游走,而 DiPhon 在任意时刻都能通过 \(A_t^{ij} \sim \mathrm{Ber}(\tilde{W}_t^{ij})\) 原生抽出真实的二元图 \(\hat{A}\) 来精确计算多跳随机游走转移概率,无需任何人工阈值化伪影。

损失函数 / 训练策略

训练阶段(Algorithm 1)采用边级二元交叉熵(BCE)去噪损失。每次迭代从训练集中采样一批有限图 \(A_0 \in \{0,1\}^{N \times N}\),在 \([0, T]\) 上均匀采样扩散时间 \(t\),以 \(\tilde{W}_0 = A_0\) 为初值通过 Euler–Maruyama 数值积分前向 Jacobi SDE 得到含噪边概率矩阵 \(\tilde{W}_t\),最小化去噪网络 \(\Phi_\theta(\tilde{W}_t, t)\) 对所有无向边 \((i,j)\) 的二元交叉熵:

\[\mathcal{L}(\theta) = -\mathbb{E}_{t, A_0, \tilde{W}_t}\left[\sum_{i,j=1}^{N}\Bigl(A_0^{ij}\log \Phi_\theta(\tilde{W}_t, t)^{ij} + (1 - A_0^{ij})\log\bigl(1 - \Phi_\theta(\tilde{W}_t, t)^{ij}\bigr)\Bigr)\right]\]

推理采样阶段(Algorithm 2)可在任意指定的目标节点数 \(N\)(包括远超训练集规模的 \(N\))下直接运行:先从平稳分布 \(\mathrm{Beta}(\mu)\) 独立采样初始化 \(\tilde{W}_T \in [0,1]^{N \times N}\),在 \(k = K, K-1, \dots, 1\) 的反向时间步中,先由 \(\Phi_\theta(\tilde{W}_t, t)\) 预测 \(\hat{A}_0\),将其代入前 \(M\) 阶截断的 Jacobi 条件得分公式与时变目标 \(\tilde{\mu}_t(\hat{A}_0^{ij})\),通过随机数值求解器(SBM 采用随机 Heun 法,PA 与 Tree 采用 Milstein 积分器)向后更新并裁剪至 \([0,1]\),到达 \(t=0\) 后执行一次伯努利抽样 \(A_0^{ij} \sim \mathrm{Ber}(\tilde{W}_0^{ij})\) 得到最终生成图。

实验关键数据

主实验

作者通过两组核心实验验证 DiPhon:第一组在双社区随机块模型(SBM,社区内连边概率 \(p=0.7\),社区间连边概率 \(q=0.2\),平稳均值 \(\mu=0.45\),\(\kappa=1, \sigma=0.005, T=4\),Euler–Maruyama \(n_{\text{steps}}=400\),\(M=1000\) 条蒙特卡洛轨迹)上检验前向离散化矩对齐理论(Section 5.1 & Appendix G.1);第二组在三个标准合成图家族——SBM(训练规模 40–80 节点,\(p=0.4, q=0.005\))、优先连接图(PA,训练规模 40–80 节点,其线图具有关联 Graphon)和稀疏树图(Tree,训练规模 20–80 节点,脱离经典稠密 Graphon 假设的极限压力测试)上,评估模型直接外推生成至最大 300 节点时的结构有效性准确率(Section 5.2 & Appendix G.2,每个测试规模生成 100 张图)。

表 1:跨尺度分布外(OOD)大图生成实验设置与各方法跨规模泛化表现对比(Section 5.2, Figure 3 & Appendix G.2)

数据集(图家族) 理论与 Graphon 契合度 训练节点规模 \(N_{\text{train}}\) 测试外推规模 \(N_{\text{test}}\) 评测指标(100 张样本/规模) 离散扩散基线(DiGress / DeFoG)表现 高斯扩散基线(GDSS / GruM)表现 DiPhon(本文)表现
SBM(随机块模型) 稠密图,具有精确分片常数 Graphon 40–80(300 训练 / 200 验证) 40 → 300(步长 20) 拟合块模型统计有效性检验通过率 训练规模附近(40–80)高准确,规模增大后迅速崩溃 GruM 在较大规模下比离散扩散更稳定,但 GDSS 退化明显 搭配 Heun 求解器,在 40 至 300 全尺度保持最高且稳定的结构有效性
PA(优先连接图) 中间态,原图无直接 Graphon 但线图(Line Graph)存在 Graphon 40–80(300 训练 / 200 验证) 40 → 300(步长 20) 幂律度分布拟合与结构有效性通过率 仅在训练尺度附近小幅外推,大尺寸下准确率坍塌 GruM 虽能维持一定数值指标,但定性可视化显示严重高估边密度 搭配 Milstein 求解器,跨 40–300 节点始终保持高有效率且边密度忠实于原分布
Tree(无环树图) 稀疏图($ E =N-1$),完全超出经典稠密 Graphon 理论假设范围 20–80(300 训练 / 200 验证) 20 → 300(步长 20) 森林准确率(Forest Accuracy,所有连通分量为无环树) 在 20–80 训练区间表现优异,超出训练规模后迅速跌至低位

消融实验

论文在 Section 5.1(Figure 2,以及 Appendix G.1 的 Figure 4–11)与 Appendix G.2 中对不同初始化方式、网格分辨率 \(N\) 以及反向 SDE 求解器与参数化配置进行了对比验证,汇总如下:

表 2:前向矩对齐验证(SBM,\(\kappa=1, \sigma=0.005, T=4, M=10^3\))与模型组件配置分析(Section 5.1 & Appendix G)

验证维度 / 配置项 具体设置与对比条件 理论预测基准 实证结果与关键观察
确定性初值下的矩对齐 \(\tilde{W}_0^{ij} = \bar{W}_0^{ij}\)(社区内 0.7 / 社区间 0.2),测试 \(N \in \{10, 20, 50, 100\}\) 均值 \(\mu + (\bar{W}_0^{ij}-\mu)e^{-\kappa t}\);偶数 \(N\) 对齐边界故 \(\beta_0^{ij}=0\),连续与离散理论方差完全重合 在所有分辨率 \(N=10, 20, 50, 100\) 下,经验均值与经验方差曲线与闭式理论参考曲线(Ideal Cont. / Ideal Disc.)完全重合
伯努利图初值下的矩对齐 \(\tilde{W}_0^{ij} = A_0^{ij} \sim \mathrm{Ber}(\bar{W}_0^{ij})\),时变目标 \(\tilde{\mu}_t\) 同样以 \(A_0^{ij}\) 代入,测试 \(N \in \{10, 20, 50, 100\}\) 均值保持精确一致;方差在早期因二元抽样增加 \(\beta_1^{ij} = \bar{W}_0^{ij}(1-\bar{W}_0^{ij})\),随后按 Corollary 1 闭式演化并以 \(e^{-2\kappa t}\) 衰减 经验一阶矩与确定性初值及连续过程完全一致;经验二阶矩早期跳升并在 \(t \to 4\) 时收敛回平稳方差,与 Ideal Bern. 理论曲线严丝合缝
常数参数 Jacobi 简化配置 在跨尺度生成中固定 \((\kappa, \sigma, \mu)\) 为常数,不引入额外尺寸依赖调参 保持 \([0,1]\) 边界约束与连续 Graphon 动力学的一阶矩精确对齐 即使不依赖复杂的尺寸重标定技巧,仅靠有界 Jacobi 动力学与一阶矩不变性即可在 SBM、PA、Tree 三类图上实现稳定的 300 节点外推
反向 SDE 数值求解器选择 在训练尺寸验证集上对比 Euler–Maruyama、随机 Heun 法与 Milstein 法并固定用于大图测试 高阶随机积分器可降低含状态依赖扩散项 \(\sqrt{\tilde{W}_t(1-\tilde{W}_t)}\) 的离散化误差 SBM 上随机 Heun 法最有利于保持块级边统计量;PA 与 Tree 上包含二阶导修正项的 Milstein 积分器对严苛拓扑约束(如无环性、幂律度)的跨尺度保持最稳定

关键发现

  • 离散扩散与高斯扩散在跨尺度外推中呈现截然不同的失效模式:离散扩散(DiGress、DeFoG)在训练节点规模(20–80)内拟合极佳,但一旦节点数扩展至 100–300,其离散类别状态转移缺乏连续空间密度缩放机制,结构准确率急剧坍塌;高斯扩散(特别是 GruM)在 SBM 和 PA 的数值指标上衰减较慢,但在 PA 上会严重高估边数量,且在稀疏 Tree 数据集上几乎完全失效。
  • 超越稠密图理论假设的稀疏图泛化鲁棒性:尽管理论推导依托于稠密图极限 Graphon,DiPhon 在稀疏无环树(Tree,边数仅为 \(O(N)\) 而非 \(O(N^2)\))上从 20–80 节点外推至 300 节点依然保持高森林准确率,说明将边状态限制在 \([0,1]\) 概率区间并配合实时伯努利抽样提取 RRWP 特征,本身就为稀疏拓扑约束提供了极强的结构归纳偏置。
  • 二阶矩偏差的时间自愈特性:由有限图伯努利抽样初值 \(A_0^{ij} \in \{0,1\}\) 带来的额外方差冲击仅存在于前向扩散早期,随着时间推进按 \(e^{-2\kappa t}\) 指数衰减,使得前向过程在终态 \(T\) 能够稳定汇入与图规模和初始结构无关的 \(\mathrm{Beta}(\mu)\) / Erdős–Rényi 参考先验。

亮点与洞察

  • 用 Jacobi 扩散同时打通“值域有界性”与“谱展开闭式得分”:高斯 SDE 在图生成中长期受困于状态无界,而一般有界域扩散又常面临转移密度与得分函数不可解的难题。本文引入群体遗传学中的经典 Jacobi(Wright–Fisher)扩散,不仅靠边界退化扩散项 \(\sqrt{W(1-W)}\) 天然锁住 \([0,1]\) 边概率区间,还利用其在 Beta 平稳测度下的移位 Jacobi 多项式正交谱展开,直接推导出条件得分的解析级数,避免了任何近似反射或对数障碍函数。
  • “先离散后扩散”向“先扩散后离散”的参数重整化对齐:直接在连续时空白噪声驱动的 SPDE 上采样在数学上病态,作者没有停留在形式化类比,而是精确推导出元胞积分均值 \(\bar{W}_t^{ij}\) 的一阶与二阶矩 ODE(通过引入辅助空间积分二阶矩 \(r_t\) 并利用代数恒等式消去耦合项),进而反推出离散 SDE 参数 \((\tilde{\sigma}, \tilde{\kappa}, \tilde{\mu}_t)\) 的重整化公式,让有限图上的可计算过程在数学上严格锚定连续无尺度极限。
  • 中间状态即边概率带来的“零阈值”特征提取:在图 Transformer 去噪器中计算相对随机游走概率(RRWP)需要二元邻接矩阵。得益于 DiPhon 的状态变量本身就是 \([0,1]\) 边概率,每一步都可以直接做伯努利抽样 \(\hat{A}^{ij} \sim \mathrm{Ber}(\tilde{W}_t^{ij})\) 生成真实中间图来算随机游走特征,这一思路可直接迁移到其他需要离散拓扑算子(如最短路、圈计数、拉普拉斯特征向量)辅助的连续扩散模型中。

局限与展望

  • 稠密图极限理论与稀疏图实践之间的理论缺口:作者坦承,Graphon 作为稠密图序列极限要求边数随 \(N^2\) 增长,因此在稀疏树图上的优异外推表现尚未被当前的稠密 Graphon 定理完全解释;未来可结合稀疏图极限理论(如 Graphex、Borgs 等人的稀疏收敛框架或线图 Graphon)扩展形式化保证。
  • 仅对齐前两阶矩且未给出全分布距离界:Theorem 1 和 Corollary 1 证明了离散过程与连续元胞过程在一阶矩上精确一致、二阶矩偏差闭式可控,但尚未给出边缘分布之间的 Wasserstein 距离或 KL 散度上界,而高阶矩或全分布差异在复杂多峰图分布采样中可能产生影响。
  • 训练阶段需数值模拟前向轨迹且目前仅限无向二元图:由于含时变目标 \(\tilde{\mu}_t\) 的重整化 Jacobi 过程没有可直接一步采样的初等转移密度,训练时每个样本需运行 Euler–Maruyama 前向积分(带来额外计算开销),且当前理论仅涵盖无特征二元边;未来可借助折棍构造(stick-breaking)扩展至多类别边(如分子化学键)与连续节点特征,或探索步长更大的高阶解析近似采样以加速训练。

相关工作与启发

  • vs DiGress (Vignac et al., ICLR 2023) / DeFoG (Qin et al., ICML 2025):这两者是离散状态空间图扩散与离散流匹配的代表工作,直接在离散边类别上定义马尔可夫转移并在训练规模内性能极强;DiPhon 复用其图 Transformer + RRWP 去噪骨干,但将底层动力学替换为连续 \([0,1]\) 区间上的 Graphon Jacobi SDE,从而攻克了离散方法在分布外大图尺寸(如从 80 外推到 300 节点)上迅速崩溃的缺陷。
  • vs GDSS (Jo et al., ICML 2022) / GruM (Jo et al., ICML 2024):这两者采用连续高斯 SDE 或扩散混合对邻接矩阵加噪,虽具备连续空间操作形式,但轨迹无界(超出 \([0,1]\)),无法作为合法边概率直接采样图轨迹,在稀疏树结构外推与 PA 边密度控制上表现不佳;DiPhon 通过 Jacobi 扩散的边界消失波动率天然保持边概率有界,并建立了与 Graphon 极限的严格矩对齐。
  • vs Graphon Autoencoders / IGNR (Xu et al., 2021; Xia et al., AISTATS 2023; Flowette, Wijesinghe et al., 2026):既往结合 Graphon 的生成方法要么用自编码器/隐式神经表征直接拟合单个静态 Graphon,要么将带特定子图 motif 的 graphette 作为流匹配的源先验分布;DiPhon 首次将随机扩散动力学本身直接定义在 Graphon 状态空间上,实现了整个扩散演化轨迹的跨尺度统计对齐。

评分

  • 新颖性: ⭐⭐⭐⭐⭐ 首次在连续 Graphon 空间上建立 Jacobi 扩散并通过重整化矩对齐导出可跨尺度外推的有限图扩散模型,理论视角独创性强。
  • 实验充分度: ⭐⭐⭐⭐ 在 SBM、PA 和稀疏 Tree 三类代表性图家族上系统验证了前向矩对齐与 40→300 节点零样本外推,但尚未在真实大规模分子或社交网络数据集上测试带属性图生成。
  • 写作质量: ⭐⭐⭐⭐⭐ 主线从连续 SPDE、元胞离散化重整化、伯努利图初值到 Jacobi 谱展开逆过程层层递进,附录数学证明详尽严密。
  • 价值: ⭐⭐⭐⭐ 为解决图扩散模型高昂的大图训练开销与跨尺寸零样本泛化难题提供了坚实的数学框架与实用算法。