LineageFlow: Flow Matching for High-Fidelity Family-Aware Protein Sequence Generation¶

会议: ICML 2026
arXiv: 2605.22252
代码: https://github.com/Jinx-byebye/LineageFlow (有)
领域: 蛋白质生成 / 流匹配 / 系统发育先验
关键词: 流匹配、Dirichlet 先验、祖先序列重建、蛋白家族、定向进化

一句话总结¶

把通用的均匀/掩码噪声先验换成由祖先序列重建（ASR）得到的家族特异 Dirichlet 先验，让 Dirichlet flow matching 从"已经进化好的脚手架"出发去做结构化突变，再在中间时刻插入一次 mutate–select–amplify 的 rerouting，从而在 Pfam 8886 个家族上把家族识别准确率推到接近自然序列（95.3% vs 96.6%）、同时保持高新颖度和折叠置信度。

研究背景与动机¶

领域现状：蛋白序列生成主流分两派——一是 ESM / ProtT5 / ProGen 等大规模蛋白语言模型，二是把离散扩散/流匹配搬到氨基酸单纯形上的 EvoDiff、DFM、ProtBFN。当目标是"生成某个 Pfam 家族的新序列"时，常规做法是给去噪器塞一个家族标签或者一条 MSA prompt 当条件。

现有痛点：所有这些离散生成模型几乎都默认用"通用先验"——要么从单纯形上的均匀分布起步，要么全部 mask 掉。但蛋白家族的本质是位点特异的进化约束：某些位点高度保守以维持结构和催化，另一些位点高度可变以承担功能多样性。通用先验把这层结构全部抹平，去噪器被迫从近乎随机的状态把每一个保守残基"从零合成"，越早期的时间步压力越大。论文实验里这一矛盾很触目：DFM 和 EvoDiff 即使显式喂入家族标签，profile-HMM 的家族识别准确率仍是 0%，pLDDT 只有 45 左右。MSA prompt 派的 PoET 也只拿到 0% 准确率。

核心矛盾：先验里没有进化结构 ↔ 家族信息只是个标签或 prompt，根本进不到生成轨迹里。条件信号"在外面喊"，但去噪器内部还是在做 from-scratch 合成。

本文目标：把家族条件烧进先验本身，让 t=0 就已经站在家族流形上，模型只需学"祖先 → 现存序列"的突变过程，而不是"噪声 → 蛋白质"的合成过程。

切入角度：分子进化里有现成工具——给一族同源序列建 MSA、用 IQ-TREE 推系统发育树、用 PAML 在根节点做祖先序列重建（ASR），可以得到一个位点维的氨基酸后验。这个后验在保守位点接近 one-hot、在可变位点保持高熵，正好就是想要的"家族脚手架"。

核心 idea：用 ASR 根后验作为家族特异的 Dirichlet 先验 \(q_0^{(h)}\) 起步，沿单纯形跑流匹配走到现存序列；再加一个直接抄定向进化的 mutate–select–amplify 中间步骤做目标导向采样。

方法详解¶

整体框架¶

LineageFlow 把生成轨迹 \(t \in [0, 1]\) 解释成"从家族祖先到现存叶节点"的进化时间轴：

预处理：对每个 Pfam 家族 \(h\)（共 8886 个）建 MSA，IQ-TREE 推最大似然树，PAML 在根节点做边缘 ASR，得到位点 \(l\) 的氨基酸后验。把它编码成 Dirichlet 浓度参数 \(\boldsymbol{\alpha}^{(h,l)} \in \mathbb{R}^K_{>0}\)（\(K=20\)）。
训练：所有家族共享一个 denoiser \(\hat{p}_\theta(\mathbf{X}_1 \mid \mathbf{X}_t, t)\)；每条训练序列采样 \(t \sim \mathcal{U}[0,1]\)，从家族的 Dirichlet 路径 \(p_t^{(h,l)}(\mathbf{x} \mid \mathbf{e}_i) = \mathrm{Dir}(\mathbf{x}; \boldsymbol{\alpha}^{(h,l)} + t_{\max} t \cdot \mathbf{e}_i)\) 中抽中间状态，按序列平均交叉熵学终点分类。\(t_{\max}=6\)。
采样：①基流（\(t \in [0, t_{\mathrm{int}}]\)）：从 \(q_0^{(h)}\) 抽起点，按学到的矢量场积分；②rerouting（\(t = t_{\mathrm{int}}=0.5\)）：维护一群粒子，跑若干轮 mutate→select→amplify；③精修（\(t \in [t_{\mathrm{int}}, 1]\)）：从被选中的粒子继续积分到终点。

关键设计¶

ASR 祖先 Dirichlet 先验:
- 功能：把家族进化约束直接塞进生成过程的起点 \(q_0\)。
- 核心思路：每个家族 \(h\) 在位点 \(l\) 维护一组 Dirichlet 浓度 \(\boldsymbol{\alpha}^{(h,l)}\)，编码 ASR 根节点后验。整条序列的家族先验是位点独立 Dirichlet 的乘积 \(q_0^{(h)}(\mathbf{X}) = \prod_l \mathrm{Dir}(\mathbf{x}^{(l)}; \boldsymbol{\alpha}^{(h,l)})\)；全局先验是家族混合 \(q_0 = \sum_h \pi_h q_0^{(h)}\)。条件路径不再是 DFM 的 \(\mathrm{Dir}(\mathbf{x}; \mathbf{1} + t_{\max} t \cdot \mathbf{e}_i)\)，而是 \(\mathrm{Dir}(\mathbf{x}; \boldsymbol{\alpha}^{(h,l)} + t_{\max} t \cdot \mathbf{e}_i)\)，于是连续性方程给出的传输速度也变成家族和目标残基特异的 \(c_h^{(l)}(z, t)\)，其封闭形式涉及正则化不完全 Beta 函数。
- 设计动机：相对 MSA 列频，ASR 根后验经过系统发育树校正，能去除采样冗余；相对挑一条现存 MSA 序列做起点，根后验在真正变异的位点保留了不确定性，不会把生成锚死在训练样本附近。论文 §6.3 用一个 Bayes-oracle 实验直接证明：在 \(t \le 0.2\) 的"困难区"，ASR 先验下可恢复信号的上限明显高于均匀先验，所以任何 denoiser 的天花板都被抬高了。
classifier 参数化的家族特异矢量场:
- 功能：用一个共享去噪分类器，重建出每个家族每个位点专属的连续传输场。
- 核心思路：训目标是 \(\mathcal{L}(\theta) = \mathbb{E}[-\frac{1}{|\mathcal{V}|}\sum_l \log \hat{p}_\theta(\mathbf{x}_1^{(l)} \mid \mathbf{X}_t, t)]\)，只是普通分类交叉熵；推理时按 \(\hat{\mathbf{v}}^{(h,l)} = \sum_i \mathbf{u}_t^{(h,l)}(\mathbf{x}^{(l)} \mid \mathbf{e}_i) \cdot \hat{p}_\theta(\mathbf{x}_1^{(l)} = \mathbf{e}_i \mid \mathbf{X}, t)\) 把分类器后验和家族解析速度组合成 drift。MSA 的 gap 列被屏蔽掉（既不进字母表也不算 loss），可变长度由经验 gap 率重采样实现。
- 设计动机：把"家族特异"全部交给解析的 \(\boldsymbol{\alpha}^{(h,l)}\) 和 \(c_h^{(l)}\)，denoiser 自身不需要看到家族标签也不需要 family-specific head，单卡能跑全 Pfam（4×4090 训一个 epoch 26 小时）；同时把生成质量瓶颈定位到"分类器在哪个时间段最差"，§6.3 实验确认困难区在 \(t \le 0.2\)。
rerouting：中间时刻的 mutate–select–amplify:
- 功能：在不动梯度的前提下，把粒子群在 \(t_{\mathrm{int}}\) 处一次性推向用户指定的 fitness 目标。
- 核心思路：在 \(t_{\mathrm{int}}=0.5\) 暂停 ODE，维护一群粒子做几轮（i）mutate：通过 proposal kernel \(\mathcal{K}\) 注入多样性，（ii）select：按 \(\exp(\beta J)\) 重新加权，（iii）amplify：按权重重采样。目标分布是被指数倾斜过的 \(p^{\mathrm{sel}} \propto (p_{t_{\mathrm{int}}} \mathcal{K})(\mathbf{X}) \exp(\beta J(\mathbf{X}))\)。命题 5.2 证明它是带 KL 约束的最优化解 \(\max_q \mathbb{E}_q[J] - \frac{1}{\beta} \mathrm{KL}(q \| p^{\mathrm{mut}})\)，群体粒子近似在 \(N \to \infty\) 时一致收敛。选完一个粒子继续积分到 \(t=1\)。
- 设计动机：连续 guidance（classifier guidance、SMC）需要每个 Euler 步都算梯度或重采样，又贵又容易把样本拉出流形；这里只在中间时刻插一次"人工选择"，既保留 ODE 的家族轨迹（因为后段精修仍跑学过的矢量场），又把目标偏置注入完成。\(t_{\mathrm{int}}\) 是关键旋钮：太早样本太乱、选择无意义；太晚已接近 one-hot、选择没空间，中间 0.5 给出"有结构可选、有空间可移"的最佳折中。

损失函数 / 训练策略¶

单一序列平均交叉熵 \(\mathcal{L}(\theta)\)（公式 6），\(t\) 均匀采，\(t_{\max}=6\)；Pfam-A RP35 共 8886 个家族、894 万对齐序列，5% within-family hold-out；4×RTX 4090 训 1 epoch（约 26 小时），学习率 \(10^{-5}\)，等效 batch 128。

实验关键数据¶

主实验（Pfam unconditional，1024 序列/方法）¶

方法	\(\mathrm{Acc}_{\mathrm{fam}}\)↑	pLDDT↑	scPPL↓	Novelty@0.6↑	Diversity↑
Pfam held-out（天花板）	96.6	86.4	5.02	12.6	806
DFM（均匀先验）	0.0	46.2	12.62	—	90
EvoDiff（mask 先验）	0.0	45.4	12.60	—	54
PoET（MSA prompt）	0.0	52.0	13.76	—	47
ProtBFN†（8× 大语料）	—	71.9	5.91	64.0	604
ASR-PSSM iid（只用先验，无流）	92.8	70.8	7.08	32.0	378
LineageFlow w/o rerouting	93.0	69.6	7.96	52.0	440
LineageFlow（完整）	95.3	76.6	6.67	48.9	587

消融与对照¶

配置	关键观察	说明
DFM / EvoDiff + 家族标签	\(\mathrm{Acc}_{\mathrm{fam}}=0\)	家族信号只在标签里、不在先验里 → 完全失效
ASR-PSSM iid	\(\mathrm{Acc}_{\mathrm{fam}}=92.8\), pLDDT 70.8	仅先验本身已携带强家族信号
w/o rerouting	pLDDT 69.6, Novelty@0.6 52.0	基流不提升 plausibility，但比纯先验更新颖、更多样
+ rerouting	pLDDT 76.6（+7），Acc 95.3（+2.3）	rerouting 才是 plausibility 的真正推手
困难区 token acc（§6.3）	LF ≫ DFM	ASR 先验抬高了 Bayes 上限和实际去噪精度

关键发现¶

先验决定一切：DFM/EvoDiff 即使喂家族标签也是 0% 家族识别率；只把先验换成 ASR 根后验、不学任何流，识别率就跳到 92.8%。这强烈支持论文的中心论断"先验里的进化结构是不可替代的条件信号"。
rerouting 是 plausibility 杠杆：基流只能继承先验的家族信号、提升新颖度，但折叠置信度上不去；插入 mutate–select–amplify 后 pLDDT 提 7 个点，定性图（PCA）显示中间粒子群整体往真实序列簇移动。
\(t_{\mathrm{int}}\) 中间最甜：太早样本未成型、选择没意义；太晚已经接近 one-hot、改不动；0.5 给出最大"可塑性 × 结构性"折中。
零样本酶生成：在 2OG-FeII_Oxy、Trp_syntA、RNase_HII 三个完全 held-out 的酶家族上，固定 \(\theta\)、只用对应 MSA 重新算 \(q_0^{(h)}\)，生成序列保留了催化基序，DeepSol / Meltome 的溶解度和热稳定性 proxy 都被 rerouting 拉高——而 rerouting 优化的只是无监督的 ESM-2 伪似然，不是这些 proxy。

亮点与洞察¶

"换先验" 比"加 guidance" 更治本：当条件本身具有强结构（如家族 = 位点级保守模式），把条件塞进先验比塞进 denoiser 输入更有效；这条思路可以迁移到任何"先验本身就有结构"的离散生成任务，比如 codon usage、化学反应模板、音乐风格生成。
借用古老的生物学工具链：IQ-TREE + PAML 是几十年的成熟系统发育包，作者没有重新发明 ancestral inference，而是直接把它的 root posterior 当 Dirichlet 浓度用——非常聪明的"把别人的归纳偏置打包进自己的先验"案例。
rerouting 把定向进化形式化：一次性中间步的 mutate–select–amplify 等价于 KL 正则化的指数倾斜（命题 5.2），既给了理论框架又给出了实际能跑的粒子滤波算法；这种"单次中间干预"范式可以替代很多需要逐步 classifier guidance 的扩散场景。
困难区诊断给生成模型新视角：§6.3 把生成质量瓶颈直接归到"早期时间步的 Bayes 上限"，可能启发其他扩散模型用"先验改造"而不是"网络扩容"来突破天花板。

局限与展望¶

强依赖 MSA 质量：所有 \(\boldsymbol{\alpha}^{(h,l)}\) 都源自 MSA + 系统发育树，对单序列、新颖蛋白家族、孤儿蛋白无能为力；超出 Pfam 的开放世界生成需要先解决"无法建 MSA"这一前提。
固定 alignment 坐标，不建模 indel：生成始终在家族对齐的列坐标里跑，不能显式生成长度变化和插入删除，遇到结构域重组场景会失效。
评估全靠计算 proxy：foldability 是 OmegaFold pLDDT、溶解度/热稳定性是 ESM-2 小模型预测，没有任何湿实验验证；论文自己也承认热稳定 proxy 五分类准确率只有 50% 左右，所以零样本酶实验的结论需谨慎解读。
rerouting fitness 函数依赖：目前用 ESM-2 伪似然当 \(J\)，效果好但本质是"plausibility 的同义反复"；如果换成更复杂的 fitness（如 docking、特异结合），群体粒子滤波的效率和稳定性需重新评估。
sampling 时间增加：rerouting 把 512 序列采样时间从 759s 推到 1047s，虽仍同数量级，但群体规模和迭代轮数都没扫，存在压缩空间。

评分¶

新颖性: ⭐⭐⭐⭐⭐ 把 ASR 根后验当 Dirichlet 先验是一次明显改变范式的设计，rerouting 提供了一个简洁的非梯度 guidance 框架。
实验充分度: ⭐⭐⭐⭐ Pfam 全规模训练 + 5 个研究问题完整对照，零样本酶 case study 有意义；缺湿实验是硬伤。
写作质量: ⭐⭐⭐⭐⭐ 动机推理链条干净（噪声先验抹平进化结构 → ASR 先验保留结构 → 困难区上限提升），方法、理论、实验三位一体。
价值: ⭐⭐⭐⭐⭐ 对蛋白工程有直接价值，且"把强结构条件塞进先验"的思路对所有离散生成都有启发。