Stability and Diversity of Networked Self-Consuming Generative Ecosystems¶

会议: NeurIPS 2026
arXiv: 2610.09409
代码: https://github.com/osu-srml/Gen-System
领域: 其他
关键词: 自生成生态系统、网络化重训练、动态稳定性、系统多样性、模型崩溃

一句话总结¶

本文提出了首个针对网络化自生成生态系统的理论分析框架，将多模型交互抽象为有向加权图，推导出系统局部渐近稳定的谱半径收敛充要条件与环路增益界限，并证明了跨模型数据消费在特征空间中诱发拓扑依赖的平滑效应从而加剧多样性塌缩。

研究背景与动机¶

生成式人工智能的爆发式普及使合成数据在公共互联网、共享语料库和下游模型训练管线中迅速渗透，导致完全依赖纯人类真实数据进行训练变得愈发困难。当未来模型不可避免地使用前代模型生成的合成数据进行迭代训练时，便形成了自消费重训练循环（self-consuming training loop）。现有针对该问题的研究已大量揭示了自消费循环带来的严重退化风险，包括分布漂移、模型崩溃（model collapse）、尾部模式丢失以及偏见自我强化。然而，绝大多数理论与实证分析仅局限于单一隔离模型消费自身生成数据的孤立闭环，或至多考虑两个模型之间的简化耦合交互，无法反映现实中复杂的互联多模型生态。

在现实的生成式生态系统中，多个异构模型通过复杂的网络通路紧密交织。例如，小型语言模型普遍利用前沿大模型合成的指令微调数据实现知识蒸馏，文生图系统通过外部多模态大模型重写和清洗图像提示词，跨平台公开数据更是混合了众多 peer 模型的输出。这种现实引发了核心矛盾：跨模型的合成数据流动极易触发全局错误级联与同质化，但现存理论工具无法刻画有向加权数据流动网络如何与各模型的局部曲率、真实数据获取度以及重训练动力学协同作用，更缺乏刻画网络拓扑对系统长期稳定性和输出多样性影响的统一解析框架。

为了克服现有研究对网络化、异构数据流及图拓扑影响刻画的缺失，本文将多模型生成系统形式化为一个在有向加权交互图上演化的非线性动力系统。核心 idea：将多模型自消费系统抽象为有向加权交互图上的耦合动力学，通过雅可比矩阵的非负比较矩阵给出由谱半径和主导环路增益主导的局部渐近稳定条件，并导出图拉普拉斯平滑算子约束下的系统多样性收缩上界。

方法详解¶

整体框架¶

本文考虑包含 $K$ 个生成模型的集合 $\mathcal{V}=\{1,\dots,K\}$，每个模型拥有其私有真实数据分布 $p_i^{\mathrm{data}}(x)$ 与参数空间 $\Theta_i$。在交互图 $(\mathcal{V}, \mathcal{E}, \mathbf{W})$ 中，行随机邻接矩阵 $\mathbf{W}=[w_{ij}]$ 规定了模型 $i$ 在重训练中抽取模型 $j$ 上一轮合成样本的概率。在每轮迭代 $t$，模型 $i$ 基于真实数据对数似然与来自自身及父节点的合成数据对数似然的加权和进行更新。系统围绕不动点的演化行为通过局部曲率、网络转移矩阵与特征平滑投影实现解耦。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["真实数据 pidata 与前轮生成样本"] --> B["网络化混合重训练动力学<br/>按矩阵 W 混合多模型合成数据"]
    B --> C["不动点一阶最优性条件<br/>解耦局部曲率与网络拓扑"]
    C --> D["非负比较矩阵与谱半径判定<br/>谱半径 rho(D) < 1 保证渐近稳定"]
    D --> E["环路增益与结构瓶颈分析<br/>主导有向环路下界约束"]
    E --> F["图拉普拉斯平滑算子与多样性收缩<br/>代数连通度决定多样性衰减速度"]

关键设计¶

1. 网络化混合重训练动力学：建立多模型异构合成数据流的全局映射

针对现实生态中多模型交叉利用数据的异构性，本文定义了全局迭代映射 $\Theta^{t+1} = \mathcal{G}(\Theta^t) = (\mathcal{G}_1(\Theta^t),\dots,\mathcal{G}_K(\Theta^t))$。在轮次 $t$，模型 $i$ 的更新目标由私有真实数据与加权合成数据共同构成： $$\boldsymbol{\theta}_{i}^{t} \in \arg\max_{\boldsymbol{\theta}\in\Theta_{i}} \mathbb{E}_{x\sim p_{i}^{\mathrm{data}}}[\log p_{\boldsymbol{\theta}}(x)] + \lambda_{i}\sum_{j=1}^{K}w_{ij}\mathbb{E}_{x\sim p_{\boldsymbol{\theta}_{j}^{t-1}}}[\log p_{\boldsymbol{\theta}}(x)]$$ 其中 $\lambda_i \ge 0$ 为合成数据混合权重，$w_{ij}$ 满足行随机性 $\sum_j w_{ij}=1$。当存在多个极大值点时，采用最小欧氏距离破局规则选择距离上一轮参数 $\boldsymbol{\theta}_i^{t-1}$ 最近的解，精确刻画了基于微调的实际连续演化过程。

2. 局部放大因子与非负比较矩阵：分离单点敏感度与全局图传播

为了在非线性、高维且不可显式求逆的隐函数映射中证明局部渐近稳定性，本文引入了单节点局部放大因子 $\beta_i$ 与非负比较矩阵 $\mathbf{D}$。设不动点为 $\bar{\Theta}$，定义分布间隙 $\varepsilon_i := \max_{j:w_{ij}>0} d_{\mathcal{W}}(p_{\bar{\boldsymbol{\theta}}_j}, p_i^{\mathrm{data}})$ 及跨模型敏感度 $M_i := \max_{j:w_{ij}>0} \|\mathbb{E}_{x\sim p_{\bar{\boldsymbol{\theta}}_j}} [\nabla_{\boldsymbol{\theta}}\log p_{\bar{\boldsymbol{\theta}}_i}(x) \nabla_{\boldsymbol{\theta}_j}\log p_{\bar{\boldsymbol{\theta}}_j}(x)^\top]\|_2$。在局部强凹度 $\alpha_i > L_i \varepsilon_i$ 条件下，局部放大因子定义为： $$\beta_i := \frac{\lambda_i M_i}{\alpha_i + \lambda_i(\alpha_i - L_i \varepsilon_i)}$$ 通过隐函数定理与块雅可比矩阵边界，得到 $\|J_{ij}\|_2 \le \beta_i w_{ij}$。由此构造非负比较矩阵 $\mathbf{D} := \mathrm{diag}(\beta_1,\dots,\beta_K)\mathbf{W}$。根据 Gelfand 公式与归纳法比较原理，系统雅可比谱半径被严密上界化：$\rho(\mathbf{J}) \le \rho(\mathbf{D})$。因此，$\rho(\mathbf{D}) < 1$ 构成了系统在不动点处局部渐近线性和几何收敛的充分条件。

3. 环路增益下界与主导反馈通路：识别网络结构不稳定性的瓶颈

针对全局矩阵范数 $\|\mathbf{W}\|_2$ 过于保守且抹平局部拓扑特性的问题，本文深入研究了图中的有向环路对动力学的影响。对于图中任意简单有向环路 $C = (i_\ell \to \cdots \to i_1 \to i_\ell)$，定义其环路增益（Cycle Gain）为对应矩阵元素乘积的几何平均值： $$\gamma(C) := \left(\prod_{r=1}^\ell D_{i_r i_{r+1}}\right)^{1/\ell} = \left(\prod_{r=1}^\ell \beta_{i_r} w_{i_r i_{r+1}}\right)^{1/\ell}$$ 研究证明 $\rho(\mathbf{D}) \ge \max_{m\in[M]} \gamma(C_m)$。这一关键定理揭示了网络稳定性的“短板效应”：网络中哪怕只有一个具有高增益的主导有向环路（例如某个包含高灵敏度弱模型的小回路），就会单向击穿整个系统的稳定性下界，而与网络总规模或环路物理长度无直接依赖。系统稳定的必要条件是所有简单环路的增益乘积严格小于 1，特别是所有自反馈自环必须满足 $\beta_i w_{ii} < 1$。

4. 图拉普拉斯平滑算子与多样性塌缩：量化跨模型同质化界限

为刻画在不同真实数据偏好下模型生态的多样性演变，本文在 1-Lipschitz 特征空间 $\phi(x)$ 中定义输出表示 $\bar{\boldsymbol{f}}_i := \mathbb{E}_{x\sim p_{\bar{\boldsymbol{\theta}}_i}}[\phi(x)]$ 与系统多样性方差 $\mathcal{D}_{\mathrm{out}} = \mathrm{Var}_{i}[\bar{\boldsymbol{f}}_i]$。定义图拉普拉斯矩阵 $\mathbf{L} = \mathbf{I} - \mathbf{W}$ 与对角矩阵 $\mathbf{\Lambda} = \mathrm{diag}(\lambda_1,\dots,\lambda_K)$，各模型输出特征构成线性图平滑方程： $$\bar{\mathbf{F}} = (\mathbf{I} + \mathbf{\Lambda}\mathbf{L})^{-1} \left[ \mathbf{F}_{\mathrm{data}} + (\mathbf{I} + \mathbf{\Lambda})\bar{\mathbf{R}} \right]$$ 由此导出系统输出多样性上界： $$\mathcal{D}_{\mathrm{out}} \le 2 \|(\mathbf{I} + \mathbf{\Lambda}\mathbf{L})^{-1}\|_2^2 \left[ \mathcal{D}_{\mathrm{data}} + \frac{1}{|\mathcal{V}|}\sum_{i\in\mathcal{V}} (1+\lambda_i)^2 \|\bar{\boldsymbol{r}}_i\|^2 \right]$$ 在对称无向图且模型理想表达（$\bar{\boldsymbol{r}}_i = \mathbf{0}$）的基准情形下，界限简化为 $\mathcal{D}_{\mathrm{out}} \le \frac{1}{(1+\lambda \mu_2)^2}\mathcal{D}_{\mathrm{data}}$，其中 $\mu_2$ 为图拉普拉斯的第二小特征值（代数连通度）。这表明网络连接越紧密、瓶颈越少（$\mu_2$ 越大），跨模型数据交换越迅速抹杀异质性，引发严重的特征坍塌。

实验关键数据¶

主实验¶

论文在可解闭式 4 节点二维动力系统（Gaussian 参考中心）以及真实的 CIFAR-10 图像数据集（覆盖 DDPM VLB/Hybrid 与 CFM OT/iCFM 四种异构生成范式）上进行系统级验证。在闭式光谱验证中，固定 $\lambda=1$（合成比例 $s=\lambda/(1+\lambda)=0.5$），评估理论预测速率与实际动态演变的一致性。

系统配置	拓扑描述	谱范数 $\\|\mathbf{W}\\|_2$	理论雅可比谱半径 $\rho(\mathbf{J})$	经验测量收敛率 $r_{\mathrm{emp}}$	比较矩阵谱半径 $\rho(\mathbf{D})$	最大环路增益 $\max_C \gamma(C)$
System 1	孤立自消费基线（仅自环）	1.00	0.900	0.900	0.900	0.900
System 2	弱交互环状拓扑（Ring）	1.00	0.606	0.606	0.700	0.450
System 3	强交互环状拓扑（Ring）	1.00	0.582	0.582	0.674	0.604
System 4	密集全互联网络（Dense）	1.00	0.600	0.600	0.900	0.225

消融实验¶

通过比较矩阵临界合成数据比例 $s_c^D = 1/\rho(\mathrm{diag}(M)\mathbf{W})$ 与真实雅可比临界比例 $s_c^J = 1/\rho(\mathbf{W}\mathbf{\Gamma})$ 的偏离程度，验证非负比较矩阵在不同图拓扑下的保守性与充要裕度：

系统配置	交互结构特征	比较矩阵稳定阈值 $s_c^D$	真实雅可比稳定阈值 $s_c^J$	理论保证性质
System 1	孤立自环网络	0.556	0.556	紧确下界（Tight bound）
System 2	弱连接有向环路	0.714	0.825	保守充分条件（有安全裕度）
System 3	强连接有向环路	0.742	0.860	保守充分条件（有安全裕度）
System 4	多路径密集互联网络	0.556	0.833	多路径聚合放大保守性

关键发现¶

谱范数的局限与拓扑决定性：所有测试系统的转移矩阵谱范数均为 $\|\mathbf{W}\|_2 = 1.00$，但其真实收敛因子却分布在 0.582 到 0.900 之间。纯范数条件掩盖了内部异构敏感度在图上的真实级联行为，而比较矩阵谱半径 $\rho(\mathbf{D})$ 则精准刻画了系统的收敛上界。
主导环路是稳定性决定瓶颈：实验测得的渐近收敛率 $r_{\mathrm{emp}}$ 与精确雅可比谱半径 $\rho(\mathbf{J})$ 保持三位小数的绝对吻合。当包含高敏感度模型（如测试中的节点 C，$\Gamma_{CC}=1.8$）参与强交互回路时，局部脆弱性被迅速放大并传导至整个生态网络。
孤立崩溃造成的“伪多样性”假象：在异构 CIFAR-10 数据实验中，孤立自消费系统（System 1）随合成比例 $\alpha$ 增加反而测得更高的多样性指标 $\mathcal{D}$，但这绝非保持了语义差异，而是各模型各自发生不可控的崩溃、偏离真实流形造成的虚假方差；而互联系统随着连接密度增加，多样性呈现单调且迅速的真实收缩。

亮点与洞察¶

多模型生态图论建模：首次跳脱了传统单一模型自吞噬的封闭假设，将复杂的跨模型合成数据共享抽象为有向加权图，填补了网络化生成动力学理论的空白。
解耦局部敏感度与全局网络传导：提出的比较矩阵 $\mathbf{D} = \mathrm{diag}(\beta)\mathbf{W}$ 巧妙地将单模型内部的局部曲率/Lipschitz性（微观参数）与图的转移概率（宏观拓扑）整合成非负代数系统，使得应用 Perron-Frobenius 理论与环路极小极大定理成为可能。
揭示连通度与多样性的内在博弈：证明了代数连通度 $\mu_2$ 对特征坍塌的收缩效应，为监管机构与平台设计防范模型同质化、审查合成数据引用流向提供了数学准则。

局限与展望¶

局部稳定性分析依赖不动点存在性假设：当前定理是建立在系统存在稳定不动点的局部一阶摄动展开上，未能给出非凸高维空间中全局不动点存在与唯一的全局拓扑证明。
确定性连续重训练与有限样本随机性的间隙：理论推导基于期望对数似然，未显式建模有限微批次采样、小样本方差和神经网络优化非凸陷阱带来的扰动。
静态交互矩阵与现实动态演化的差异：实际生态中模型提供商之间的调用权重和依赖关系可能随时间动态自适应改变，未来工作需扩展至时变图与博弈驱动的演化网络。

评分¶

新颖性: ⭐⭐⭐⭐⭐ 首次提出网络化自消费生成生态图动力学模型，理论框架完整且兼具创新性。
实验充分度: ⭐⭐⭐⭐☆ 涵盖闭式解析系统、二维合成多模高斯和 CIFAR-10 深度生成模型，验证层次完备。
写作质量: ⭐⭐⭐⭐⭐ 数学证明清晰严谨，逻辑链路极其严密，定理与引理承接自然。
价值: ⭐⭐⭐⭐⭐ 对未来 AI 生态中的数据版权追踪、防崩溃网络治理及模型异构性保护具有深刻指导价值。