Deep Generative Models for Phylogenetic Inference with Complex Evolutionary Processes¶
会议: NeurIPS 2026
arXiv: 2610.19053
OpenReview: https://openreview.net/forum?id=ZpGlbpubQi
代码: https://github.com/AlanNawzadAmin/DeepPhylo
领域: 计算生物
关键词: 系统发育树推断、离散扩散模型、基于模拟的推断、复杂进化过程、图神经网络
一句话总结¶
本文提出了一族基于离散扩散框架的条件深度生成模型(支持自底向上、由中向外、自顶向下三种树构建范式),通过多步迭代生成、Rao-Blackwell 化闭式 ELBO 训练以及图条件协方差池化架构,在最多 65 个物种和超 \(10^5\) 个序列 token 上实现了高精度的无似然贝叶斯系统发育树后验推断,在可处理似然下大幅超越前 SOTA 方法 Phyloformer 2,并在含插入缺失(InDel)等似然不可解的复杂进化过程中显著优于经典最大似然工具 IQ-Tree。
研究背景与动机¶
从生物分子序列(DNA 或蛋白质)推断系统发育树(Phylogenetic Tree)并量化其拓扑结构的不确定性,是追溯物种演化历史、病原体传播路径和免疫系统功能的核心任务。传统贝叶斯系统发育推断依赖马尔可夫链蒙特卡洛(MCMC,如 MrBayes)对树空间进行采样,但这要求进化模型的似然函数 \(p(X_{1:N}\mid T)\) 可解析且易于计算(依赖 Felsenstein 剪枝算法及各位点独立演化的强假设)。一旦面对真实的复杂进化过程——例如蛋白质各位点受不同自然选择压力(CAT 模型,似然计算极其昂贵,百物种推断耗时数周),或存在多碱基连续插入与缺失(InDel)、上下文依赖突变率(似然完全不可解)——传统 MCMC 便无法使用。实践中研究者往往只能被迫退而求其次,使用模型设定错误(misspecified)的简化最大似然方法(如 IQ-Tree),导致文献中频发系统发育树重建错误。
虽然复杂进化过程的似然难以计算,但正向模拟“进化树—序列对” \((T, X_{1:N})\) 却非常简单。因此,基于模拟的推断(Simulation-Based Inference, SBI)提供了一条绕开似然计算的天然途径:在海量模拟数据上训练条件生成模型直接拟合后验分布 \(p(T\mid X_{1:N})\)。然而,含 \(N\) 个物种的系统发育树拓扑空间大小高达 \((2N-3)!!\)(当 \(N=65\) 时超过 \(10^{100}\)),在这一离散组合空间上表示和训练复杂的条件后验分布面临严峻的数学与工程挑战。现有的无似然深度学习方法要么只能做点估计(如预测四元组或距离矩阵的 Quartformer、Phyloformer),要么如前 SOTA 方法 Phyloformer 2(基于 BayesNJ)仅通过单次神经网络前向传播输出固定物种嵌入来参数化整个建树过程。作者在理论上严格证明(Proposition A.1),这种单次前向传播架构无法捕获不同演化支(clade)内部合并决策之间的统计依赖关系,表达能力受限;同时,Phyloformer 2 与 ARTree 依赖单一规范化路径(canonical order)进行训练,导致每步监督信号稀疏、梯度方差极大。
本文的切入角度是:要精确刻画组合树空间上的任意复杂后验分布,生成模型必须打破“单次前向传播”和“单一路径监督”的双重束缚——让神经网络在建树的每一步都以当前部分树结构为条件重新执行前向传播,并在训练时利用离散扩散框架对所有通向真实树的合法构建路径进行解析边缘化。核心 idea:将系统发育树后验推断建模为树空间上的条件离散扩散过程,在自底向上、由中向外、自顶向下三种建树范式下设计具有闭式逆向转移分布的加噪过程以实现 Rao-Blackwell 化低方差 ELBO 训练,并结合图拓扑注入与序列长度维度的协方差池化架构,从超长分子序列中直接生成校准的进化树后验分布。
方法详解¶
整体框架¶
给定 \(N\) 个物种、长度为 \(L\) 的分子序列集合 \(X_{1:N} \in V^L\)(总 token 数可达 \(10^5\) 以上),模型旨在从后验分布 \(q_\theta(T_0 \mid X_{1:N})\) 中采样完整的二分系统发育树 \(T_0\)。生成过程从仅依赖序列集合、不含真实树拓扑信息的初始退化状态 \(T_M\) 出发,经过 \(M\) 步迭代去噪(建树)逐步到达 \(T_0\)。在每一步 \(m\),模型将序列 \(X_{1:N}\) 与当前中间树状态 \(T_m\) 共同送入改进的 12 层 EvoPF 主干网络,通过树结构条件注入和协方差池化提取节点对表示,预测下一步树状态 \(q_\theta(T_{m-1} \mid T_m, X_{1:N})\) 并采样推进,直至生成完整二分树。
%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
A["输入:N个物种序列 X_1:N<br/>与当前部分树状态 T_m"] --> B["三种迭代建树范式与闭式离散扩散<br/>定义 T_m 状态空间与加噪/去噪步"]
B --> C["图结构条件化的 EvoPF 主干<br/>内部节点特征注入 + 图/Hamming距离注意力偏置"]
C --> D["序列长度维度的协方差池化<br/>计算节点对序列相似度矩阵,避免均值池化坍缩"]
D --> E["输出下一步树状态分布<br/>q_θ(T_m-1 | T_m, X_1:N) 采样更新至 T_0"]
关键设计¶
1. 三种迭代建树范式与闭式离散扩散:支持多步条件建树并消除路径采样方差
单次前向传播模型(如 Phyloformer 2 的 BayesNJ)在初始阶段一次性计算物种嵌入并在后续合并中复用,导致一个演化支内的合并结果无法影响另一演化支的概率分布。为此,作者设计了每步均重新通过网络前向计算条件分布 \(q_\theta(T_{m-1}\mid T_m, X_{1:N})\) 的迭代生成模型,并系统实现了三种数学系统发育学中最自然的建树范式: 1. 自底向上(Bottom-Up, BU):初始状态 \(T_{N-1}\) 为 \(N\) 个独立的单物种节点森林;每一步从当前 \(m+1\) 棵子树中预测一个大小为 \(\binom{m+1}{2}\) 的分布,选择两棵子树合并为一个新的内部父节点,共迭代 \(M=N-1\) 步生成完整树(自然对应 Kingman 溯祖过程与 Yule 先验)。 2. 由中向外(Middle-Out, MO):初始状态只包含代表树根的“伪物种节点”(pseudo-taxon);前两步加入两个物种后,每一步从尚未加入的物种中选出一个,预测将其嫁接(graft)到当前无根树某条边上的联合分布,共迭代 \(M=N\) 步(自然对应 Ford \(\alpha\) 模型与 PDA 均匀先验)。 3. 自顶向下(Top-Down, TD):初始状态将所有 \(N\) 个物种置于根节点;每一步在当前深度最小的内部节点中选出一个物种,预测其向左子节点或右子节点下渗(percolate)一层的概率,直到所有叶节点分离形成完整二分树,迭代步数在 \(\Theta(N\log N)\) 到 \(\Theta(N^2)\) 之间(自然对应 Aldous \(\beta\) 裂变模型)。作者进一步证明(Appendix C),通过对模型输出 logits 施加简单的先验权重修正,三种范式均能完整覆盖从 Yule(平衡树)到 PDA(均匀拓扑)乃至完全梳状树(comb)的整个真实进化树先验谱系。
为了高效训练迭代建树模型,直接最大化边缘似然 \(\sum_{T_{1:M}} \prod_{m=1}^M q_\theta(T_{m-1}\mid T_m, X_{1:N})\) 需要对指数级数量的建树路径求和,计算上不可行;而像既往工作那样指定单一规范化路径或随机采样单条轨迹来估计梯度,又会导致每步只有一个“正确动作”、训练方差极大。作者引入离散扩散框架,通过精心设计各范式的正向加噪过程 \(p(T_m \mid T_{m-1})\),使得给定真实树 \(T_0\) 和当前加噪状态 \(T_m\) 时的真实逆向去噪分布 \(p(T_{m-1}\mid T_m, T_0)\) 拥有精确的闭式解(从而在单步 KL 散度中解析地对所有合法建树路径求积分,即 Rao-Blackwell 化): - 在 Bottom-Up 中,正向加噪从根节点开始,每步按暴露内部节点在原树中的后代节点数成正比的概率移除一个暴露内部节点:\(p_{\text{BU}}(T_m = \texttt{remove}(T_{m-1}, \text{node})\mid T_{m-1}) \propto |\texttt{descendants}(\text{node})|\)。利用有根树的钩长公式(Hook Length Formula),该设计保证被移除的内部节点序列在 \(T_0\) 的所有线性扩展(Linear Extensions)上完全均匀分布!由此可推导出逆向合并某个候选内部节点 \(v\)(属于已移除子树 \(R_m\) 的叶子)的闭式目标概率,仅需对 \(R_m\) 做一次后序和一次前序遍历即可在 \(O(m)\) 时间内精确算出:
- 在 Middle-Out 中,每步加噪以均匀概率 \(\frac{1}{N-m+1}\) 从当前树中剪除(prune)一个物种并收缩其父边;逆向分布 \(p(T_{m-1}\mid T_m, T_0)\) 在全部 \(m\) 个已剪除物种各自唯一与 \(T_0\) 相容的嫁接边上呈均匀分布(概率均为 \(1/m\))。
- 在 Top-Down 中,每步加噪从当前最大深度 \(d\) 的物种中均匀随机选择一个向上回渗一层到深度 \(d-1\);逆向分布则在当前轮次已上渗的 \(M_m\) 个合法下渗动作上呈均匀分布(概率均为 \(1/M_m\))。
2. 图结构条件化的 EvoPF 主干:将部分树拓扑信息深度融入序列轴向注意力
由于每一步去噪都需要以当前部分构建的树图 \(T_m\) 为条件,原有的序列编码器(如 EvoPF)只能处理纯序列集合 \([N, L, 128]\),无法感知中间树结构。作者将张量维度扩展至包含当前树中的所有内部节点 \([N + \#\texttt{internal\_nodes}(T_m), L+1, 128]\)(额外 \(+1\) 长度用于全局读出),并通过两条路径将图结构信息注入 12 层轴向注意力主干中: 首先,在初始化和每一层更新内部节点 \(v\) 在位点 \(\ell\) 的表示 \(h_{v,\ell}^{(k)}\) 时,拼接三类图特征送入 MLP 进行残差注入:① 节点拓扑特征 \(f_{\text{topo},v}\),包括节点深度 \(\texttt{depth}(v)\) 和子树包含的叶节点数 \(|\mathrm{leaves}(v)|\);② 子树叶节点均值特征 \(f_{\text{subtree},v,\ell}^{(k)} = \frac{1}{|\mathrm{leaves}(v)|}\sum_{w \in \mathrm{leaves}(v)} h_{w,\ell}^{(k)}\);③ 基于树图拉普拉斯 Dirichlet 能量的全局叶节点加权聚合特征 \(f_{\text{Dirichlet},v,\ell}^{(k)}\)。其次,在跨物种/节点维度(\(N\) 维)计算自注意力时,引入结构偏置:对任意节点对 \((u, v)\),将其在当前图 \(T_m\) 上的图最短路径距离 \(\texttt{dist}(u, v\mid T_m)\)(不连通时为 \(\infty\))嵌入后加到注意力 logits 上;若 \((u, v)\) 均为叶节点,还额外加上两者序列之间 Hamming 距离的正弦位置编码 MLP 偏置。这使得序列特征提取在每一层都能动态响应已构建的演化支拓扑关系。
3. 序列长度维度的协方差池化:提取序列对二阶共变相似性以消除长序列表示坍缩
当序列长度 \(L > 1000\) 时,前人架构(如 EvoPF)在经过 12 层主干后,直接沿长度维度 \(L\) 取均值池化 \(\frac{1}{L+1}\sum_\ell h_{v,\ell}^{(12)}\) 来获得每个节点的 128 维向量。作者发现这在训练初期会引发致命的“表示坍缩”(Representation Collapse):在随机初始化附近,位点嵌入 \(h_{v,\ell}^{(12)}\) 近似仅编码该位点的碱基或氨基酸类别;沿长度 \(L\) 求均值后,得到的向量仅仅反映了整条序列的碱基/氨基酸平均组成频率(Base Composition)。在真实或模拟数据中,不同物种的平均碱基组成几乎相同,导致所有节点池化后的嵌入几乎完全一致,模型无法区分物种,训练极不稳定。
受经典系统发育学通过构建成对序列相似度矩阵来建树的启发,作者提出了协方差池化(Covariance Pooling),不再对单条序列求均值,而是沿长度维度计算任意节点对 \((v, w) \in T_m\) 的居中逐元素乘积均值(即特征维度上的样本协方差):
在初始化阶段,若位点嵌入代表碱基身份,则 \(\texttt{embed}(v, w)\) 直接退化为物种 \(v\) 与 \(w\) 之间的 Hamming 相似度!这天然保留了物种间的演化距离信号。池化得到所有节点对的相似度向量后,再经过一层轻量级自注意力层即可直接通过 MLP 读出各范式的动作 logits:Bottom-Up 直接用 \(\texttt{MLP}(\texttt{embed}(v,w))\) 为子树根对打分;Middle-Out 先将边 \((v,w)\) 两端节点的位点特征线性拼接投影为边位点特征,再经协方差池化得到待插入物种 \(t\) 与边 \((v,w)\) 的 \(\texttt{embed}(t, (v,w))\) 打分;Top-Down 则用物种 \(t\) 与其当前所在内部节点的左、右子节点之间的协方差池化向量分别预测左、右渗流 logits。
损失函数 / 训练策略¶
- 离散扩散 ELBO 损失:训练时从模拟先验与进化模型采样 \((T_0, X_{1:N})\),均匀采样加噪步数 \(m \sim \mathrm{Unif}(1, \dots, M)\) 并按加噪过程采样 \(T_m \sim p(T_m \mid T_0)\),最小化闭式真实逆向分布与模型预测分布之间的 Rao-Blackwell 化 KL 散度项:
- 噪声调度分析:作者还推导了基于互信息(Mutual Information)的方差最小化噪声调度 \(\pi(T_m\mid T_0)\) 及对应的重要性采样算法(Algorithm 2-4),但消融实验证明简单的均匀采样 \(m \sim \mathrm{Unif}(1,\dots,M)\) 在实际训练中效果几乎一致,因此推荐直接使用均匀噪声调度。
- 训练超参数:训练数据每次动态均匀采样物种数 \(N \sim \mathrm{Uniform}(25, 65)\)、序列长度 \(L \sim \mathrm{Uniform}(300, 2600)\)(使用 AliSim 模拟 JC、蛋白质 CAT 及含插入缺失 + Kalign3 重比对的 InDel 三类数据集,并加入 Beta-Bernoulli 随机缺失掩码)。优化器采用带 \(\mu\)P 逐层学习率缩放的 Adam(基础学习率 \(0.01\))与 CompleteP 残差缩放,配合 1,000 步线性 warmup、EMA \(0.9998\)、梯度裁剪 \(500\)、bf16 混合精度,有效 batch size 为 32 棵树。每个模型在 2 张 A100 GPU 上训练 48 小时(约 80 万样本),模型参数量为 13.6M(小于基线 Phyloformer 2 的 20.0M)。
实验关键数据¶
主实验¶
作者在三类进化模型(似然易解的 DNA JC 模型、似然极慢的蛋白质位点异质性 CAT 模型、似然不可解的含插入缺失 InDel 模型)以及 TreeBASE 中的 8 个经典真实生物演化数据集(DS1–DS8,\(N \in [27, 64], L \in [378, 2520]\))上进行了全面评估。此外,作者发现了前 SOTA 方法 Phyloformer 2 官方评测代码中的严重测试数据泄露 bug(Appendix A.2.2):AliSim 模拟器默认按树遍历顺序输出序列行,而 Phyloformer 2 未对输入序列顺序做随机打乱,且其外积均值层不具备排列不变性,导致模型作弊利用行顺序预测树拓扑。以下表 1 汇总了修复该泄露实验对比、模型规模与后验拟合关键定量结果;表 2 展示了不同进化过程、后验校准与点估计精度的综合对比。
表 1:LG+GC 基准测试集(\(N=50, L=500\))修复序列顺序泄露前后的归一化 RF 距离(\(\downarrow\))及 JC 后验拟合精度对比
| 方法 / 模型范式 | 参数量 | 训练算力 | LG+GC 未打乱(含泄露)RF \(\downarrow\) | LG+GC 随机打乱(修复泄露后)RF \(\downarrow\) | JC 平均 KL 误差(相对真实熵 \(>10\) nats) |
|---|---|---|---|---|---|
| Trivial Uniform(均匀基线) | - | - | ~1.000 | ~1.000 | ~147 nats(负 ELBO 157 nats) |
| IQ-Tree (LG+G8,近似正确设定) | - | 16 CPUs | - | 0.064 | 仅支持点估计(无后验分布) |
| Phyloformer 2(官方 Checkpoint) | 20.0M | - | 0.046 | 0.238 | - |
| Phyloformer 2(本文修复泄露重训) | 20.0M | 2×A100 (28h/48h) | - | 0.087 | 显著高于本文三范式(Fig. 5a) |
| DeepPhylo - Top-Down(本文) | 13.6M | 2×A100 (28h/48h) | - | 0.083 | \(< 3\) nats |
| DeepPhylo - Middle-Out(本文) | 13.6M | 2×A100 (28h/48h) | - | 0.071 | \(< 3\) nats |
| DeepPhylo - Bottom-Up(本文) | 13.6M | 2×A100 (28h/48h) | - | 0.069 | \(< 3\) nats(三范式中最优) |
表 2:三类进化模型(JC / CAT / InDel)与真实数据集(DS1–DS8)上的后验校准与点估计(8棵树多数共识树 RF \(\downarrow\))表现汇总
| 评测场景与数据集 | 评估指标 | 本文(Bottom-Up / Middle-Out / Top-Down) | Phyloformer 2 / Quartformer | IQ-Tree(JC / Flex) |
|---|---|---|---|---|
| JC 模拟数据(似然可解) | 负 ELBO \(\downarrow\) / RF \(\downarrow\) | 负 ELBO 大幅降低,KL \(<3\) nats;RF 与 IQ-Tree 持平 | 负 ELBO 明显更高,RF 劣于本文全部三种范式 | 似然模型设定完全正确,RF 并列最优 |
| DS1–DS8 合成与真实数据(vs MrBayes 金标准 MCMC) | RF-MMD \(\downarrow\) / 分支后验 Spearman \(\rho \uparrow\) / 高概率分支覆盖率 \(\uparrow\) | 合成数据 MMD \(\approx 0\);真实与合成数据上 MMD、\(\rho\) 与覆盖率全面大幅领先 PF2 | MMD 距离大,分支后验相关性 \(\rho\) 与覆盖率显著落后 | 无法输出贝叶斯后验分布 |
| CAT 蛋白质模拟数据(\(N=45\) 变 \(L\) / \(L=500\) 变 \(N\),似然昂贵) | 8-Consensus 归一化 RF \(\downarrow\) | 最优(Bottom-Up > Middle-Out > Top-Down),随序列增长持续领先 | Phyloformer 2 与 Quartformer 均明显劣于本文 | IQ-Tree Poisson 与 Flex (LG+F+G+I) 均因模型失配落后于本文 |
| InDel DNA 模拟数据(含插入缺失+Kalign3比对,似然不可解) | 8-Consensus 归一化 RF \(\downarrow\) | 显著最优,有效利用插入缺失演化信号降低 RF 距离 | Phyloformer 2 与 Quartformer 误差显著偏高 | 忽略 InDel 机制,IQ-Tree JC 与 Flex (GTR+G+I) 准确率显著下降 |
消融实验¶
作者在 Complex(CAT)数据集上对损失函数形式、网络架构核心改进、噪声调度以及 Phyloformer 2 性能差距来源进行了系统消融(训练 24h 或 48h,2×A100):
| 消融维度与配置 | 实验表现(负 ELBO \(\downarrow\) 及训练稳定性) | 核心结论与原因说明 |
|---|---|---|
| Full Model(完整模型) | 收敛最快,最终负 ELBO 最低(如从初始 ~150 nats 降至 ~20 nats 量级) | 兼具多步迭代建树灵活性、低方差闭式梯度与高分辨序列对特征 |
| w/o Rao-Blackwellization(改用单轨迹采样 Eq.3 或规范路径) | 全部三种范式的训练负 ELBO 均出现大幅恶化(Fig. 3 & Fig. 9) | 单条采样路径或固定合并顺序导致每步监督信号稀疏、梯度方差过大 |
| w/o Graph Conditioning(移除内部节点子树/Dirichlet特征与图距离偏置) | 训练收敛严重受阻,负 ELBO 大幅升高(Fig. 4 Top) | 模型无法有效感知当前中间树 \(T_m\) 的拓扑状态,丧失迭代条件生成优势 |
| w/o Covariance Pooling(退回 EvoPF 的长度维度 Mean Pooling) | 训练极不稳定,负 ELBO 停留在高位无法有效下降(Fig. 4 Bottom) | 均值池化在长序列(\(L>1000\))下退化为平均碱基频率,各物种嵌入发生坍缩 |
| MI 互信息噪声调度 vs 均匀调度 | 24h 训练曲线几乎完全重合(Fig. 7) | 模型在训练初期迅速偏离无条件 PDA 先验,简单均匀采样步数 \(m\) 已足够高效 |
| PDA 先验输出修正 vs 无修正初始化 | Top-Down 仅在训练极早期略快,1 天后两者无差异(Fig. 8) | 神经网络能够自行从数据中快速习得 PDA 先验偏置,无需复杂手动修正 |
| Phyloformer 2 + 本文架构改进(\(\mu\)P/CompleteP/bf16)+ 非悲观 ELBO | 吞吐量提升约 \(2\times\),但单步损失与最终负 ELBO 依然远差于本文(Fig. 9) | 证明本文优势确实源于多步迭代条件架构的表达力与Rao-Blackwell 闭式目标 |
关键发现¶
- 三种建树范式的性能排序稳定为 Bottom-Up > Middle-Out > Top-Down:Bottom-Up 在所有实验中一致最优,作者分析一方面是因为简单演化模型的似然计算本身具有自底向上的动态规划本质(Felsenstein 剪枝),另一方面 Top-Down 需要多达 \(\Theta(N^{3/2})\) 个去噪步,步数过多增大了训练损失的方差并拉长了推理耗时。
- 修复测试集行顺序泄露后,单步模型无法超越传统似然法,而本文多步模型在复杂模型下真正实现反超:Phyloformer 2 原论文声称在简单和复杂模型上均超越 IQ-Tree,实则是因为未打乱 AliSim 按树遍历顺序生成的序列(未打乱 RF 为 \(0.046\),打乱后暴跌至 \(0.238\))。消除泄露后,在似然设定正确的简单模型(JC / LG+GC)上,深度模型与 IQ-Tree 打平(\(0.069\) vs \(0.064\));但在存在位点异质性(CAT)和序列插入缺失(InDel)的真实复杂场景下,IQ-Tree 因模型失配或忽略 InDel 信息而性能退化,本文模型则展现出显著的准确性优势,且 Bottom-Up 和 Middle-Out 的推理速度在多数 \((N, L)\) 设置下比 IQ-Tree 更快。
- 后验分布高度校准但存在轻微“欠自信”(Under-confidence):在 DS1–DS8 上与 MrBayes 金标准后验对比,本文模型对高概率演化支(MrBayes 后验 \(\ge 0.9\))保持了很高的覆盖率,但在真实(OOD)数据上预测的分裂概率整体略低于对角线(欠自信)。这是因为最大化似然(最小化前向 KL)目标天然鼓励模型分布铺开以覆盖所有可能模式,在面对分布外真实数据时倾向于保守预测。
亮点与洞察¶
- 用钩长公式(Hook Length Formula)实现树空间离散扩散的 Rao-Blackwell 化:离散建树最棘手的是同一棵树 \(T_0\) 对应阶乘级数量的构建路径。作者没有像前人那样强行指定一条基于分支长度的确定性路径,而是极其巧妙地将 Bottom-Up 加噪移除概率设为正比于内部节点的后代数量 \(|\texttt{descendants}(\text{node})|\),从而令加噪轨迹在树的所有线性扩展上严格均匀分布。这一数学设计使得对指数级路径的边缘化直接简化为一个 \(O(m)\) 的祖先节点乘积闭式公式,将组合数学中的经典钩长公式优雅地转化为了深度生成模型的低方差训练信号。
- 一眼看穿长序列均值池化的“碱基频率坍缩”并用协方差池化化解:在生物序列建模中,当序列长度 \(L\) 达到数千时,大数定律会使不同物种的位点特征均值收敛到相同的背景碱基组成。作者敏锐地指出了这一导致训练崩溃的症结,并借鉴传统距离法建树的思想,在长度维度计算节点对的协方差 \(\texttt{embed}(v,w)\),使网络在初始化阶段就天然具备感知物种间 Hamming 相似度的能力,这一设计对所有长序列跨样本关系推断任务都极具参考价值。
- 严谨排查并揭示前 SOTA 的排列顺序数据泄露:作者在复现对比时没有盲目使用公开代码,而是从算子对称性(外积均值层不满足对称性)和模拟器输出机制(AliSim 按树遍历顺序输出序列)出发,定位并实锤了 Phyloformer 2 评测中的测试泄露问题(打乱输入后 RF 误差扩大 5 倍),为无似然系统发育推断建立了一套公平、严谨的评测基准。
局限与展望¶
- 尚未联合推断连续分支长度与进化标量参数:本文聚焦于组合难度最高的树拓扑 \(T\) 后验推断,尚未同时预测分支长度(branch lengths)或进化率等连续参数。未来可将本文的离散拓扑生成模型与成熟的欧氏空间连续参数模拟推断方法(如流匹配或连续扩散)结合。
- 真实数据分布偏移(OOD)与后验欠自信问题:在 DS1–DS8 真实生物序列上,模型后验校准度相比同尺寸合成数据有所下降,且表现出极大似然训练特有的欠自信(entropy 偏高)。作者展望了两个解决方向:一是在涵盖各种进化模型的海量混合模拟数据上预训练一个“系统发育图基础模型(Phylogenetic Foundation Model)”,通过先验混合自动适应未知真实进化过程;二是引入强化学习或后训练采样校准策略来锐化后验分布,同时需设计新机制防止破坏贝叶斯不确定性校准。
- 尚未支持网状进化(Reticulation)与超大规模物种树:当前模型针对单基因或少数基因序列(\(N \le 65, L \le 2600\))的二分树演化建模;面对基因重组、不完全谱系分选(ILS)所需的网状系统发育网络,或上千物种的基因组级推断,未来需进一步结合超树(supertree)拼接方法或可扩展图基础模型技术。
相关工作与启发¶
- vs Phyloformer 2 (Blassel et al., 2025):Phyloformer 2 是此前唯一支持无似然贝叶斯系统发育后验推断的方法,但其 BayesNJ 模块仅用单次前向传播生成的静态物种嵌入来参数化整个自底向上合并过程,且依赖分支长度定义的单一规范化合并顺序进行训练。本文从理论(Proposition A.1)和实验上证明了单次前向传播无法表达跨演化支的合并依赖,通过多步迭代图条件前向传播与 Rao-Blackwell 化闭式离散扩散目标实现了大幅超越。
- vs ARTree / ARTreeFormer (Xie & Zhang, 2023 / 2025):ARTree 采用由中向外(Middle-Out)范式自回归生成树拓扑,但它仅针对固定单一序列集做变分推断或 MCMC 后验摘要,网络本身不以序列 \(X_{1:N}\) 为条件,且按固定顺序 \(1,\dots,N\) 插入叶节点。本文将 Middle-Out 泛化为以任意长序列集为条件的氨化推断模型,并对所有 \(N!\) 种叶节点插入顺序进行了闭式边缘化积分。
- vs IQ-Tree 3 (Wong et al., 2026) / MrBayes (Huelsenbeck & Ronquist, 2001):MrBayes 和 IQ-Tree 是需要显式似然函数的传统贝叶斯 MCMC 与最大似然标杆工具,受限于位点独立演化假设,无法处理 InDel 等似然不可解过程。本文展示了基于模拟的无似然生成模型如何在复杂进化过程下摆脱模型失配瓶颈,实现比传统工具更准、更快的推断。
评分¶
- 新颖性: ⭐⭐⭐⭐⭐ 将组合数学中的树线性扩展与钩长公式引入离散扩散,统一三种建树范式并提出协方差池化解决长序列坍缩,理论与方法创新性极强。
- 实验充分度: ⭐⭐⭐⭐⭐ 覆盖三种建树范式、三类复杂度递增的进化模型及 8 个真实数据集,不仅做了详尽的架构与目标消融,还严谨修正了前 SOTA 的数据泄露问题。
- 写作质量: ⭐⭐⭐⭐⭐ 逻辑脉络极其清晰,从生物学痛点、数学不可表达性证明到三种范式的统一扩散推导层层递进,图表与附录证明非常扎实。
- 价值: ⭐⭐⭐⭐⭐ 为似然不可解的复杂生物进化建模提供了首个高表达力的贝叶斯后验生成框架,是计算生物学与离散图生成模型交叉领域的标杆工作。