跳转至

Dream-Cubed: Controllable Generative Modeling in Minecraft by Training on Billions of Cubes

会议: NeurIPS 2026
arXiv: 2604.22847
OpenReview: https://openreview.net/forum?id=3YW4ug0yQX
代码: https://github.com/SakanaAI/DreamCubed
领域: 3D生成
关键词: 3D体素生成, 离散掩码扩散, 连续嵌入扩散, Minecraft世界生成, 可控生成与补全

一句话总结

本文构建了包含超过 200 万个 \(32^3\) 方块区块(数百亿体素)的大规模 Minecraft 数据集 Dream-Cubed,并基于统一的 280M 参数 3D Diffusion Transformer 对比了离散掩码扩散(MD4)与连续嵌入扩散(DDPM),证明直接以原生离散方块作为 token 进行掩码扩散不仅在渲染 FID(59.26)与人类偏好胜率(对真实区块达 67.1%)上匹敌或超越真实地形,还能零样本解锁局部补全、生态群系混合、自定义方块条件提示以及多区块大尺度滑窗外推。

核心贡献

  • 构建首个百亿方块级 Minecraft 3D 生成数据集 Dream-Cubed:结合程序化地形遍历、地下洞穴空腔检测、基于 PyuBiomes 的村庄结构密集采集与三准则清洗、以及专业创作者地图抓取四条针对性流水线,发布了含 1,667,781 个核心程序化区块(15 类生态群系,\(V=117\) 种方块)和 358,762 个人类创作区块(扩展至 \(V=177\) 种方块和 6 张地图标签)的高质量体素数据集。
  • 系统对比 3D 体素空间下的离散与连续扩散范式:在完全相同的 280M 参数 3D DiT 骨干网络上实现了离散掩码扩散(MD4)与基于文本语义嵌入的连续扩散(DDPM),深入剖析了两种范式在体素 patch 大小敏感性、数据分布配比(均衡、自然频率、村庄过采样)以及采样步数缩减(联合分布退化问题)上的性能边界。
  • 零修改实现原生方块级可控生成与大世界构建:利用离散掩码扩散中已揭露 token 在采样全程保持不变的特性,无需修改网络架构或额外微调,即可直接支持任意方块硬约束补全(Inpainting)、跨生态群系融合(Biome Blending)、分布外手绘几何提示生成及滑窗外推(Outpainting)大尺度世界合成。
  • 建立结合渲染 FID 与人类偏好的三维世界评估体系:将 2D 渲染 FID 引入 Minecraft 区块语义质量评估,并通过 19 名熟悉 Minecraft 的受试者开展双选强制偏好实验(2AFC),证实生成地形在 CFG 引导下比真实采样区块更受人类青睐,且在模型间 FID 差距超过 15 分时人类判断与 FID 具有显著一致性(66.1%)。

研究背景与动机

生成式 AI 在图像、视频和文本领域取得了突破性进展,但在直接支撑电子游戏与交互式虚拟世界的三维可编辑环境生成方面却相对滞后。作为全球销量最高的开放世界沙盒游戏,Minecraft 将三维世界表示为离散的体素(方块)网格,每个方块不仅决定视觉外观,还承载着明确的物理与游戏交互语义。尽管 Minecraft 已被广泛用作具身智能体(如 Voyager、MineDojo)和视频世界模型(如 Oasis、Solaris)的实验场,但直接在原生方块空间进行大规模三维世界生成的研究却寥寥无几。这背后的首要瓶颈在于缺乏大规模、经过精细清洗且结构覆盖完整的体素级数据集——如果在默认的随机生成世界中朴素地滑窗采样,海洋等单调地形会占据超过三分之一的数据量,而地下洞穴、NPC 村庄以及精细建筑等高复杂度结构则极度稀疏(不足 1%),导致生成模型难以学到有意义的几何与结构先验。

与此同时,在方法层面上,面对天然离散的类别型方块网格,生成模型究竟应当在离散 token 空间还是连续嵌入空间中进行扩散,尚无系统性的实证定论。连续 3D 扩散模型通常依赖点云或学习到的稀疏隐空间体素(如 XCube),或者需要先将离散方块映射为稠密向量并在采样后做最近邻量化解码;而图像领域的离散扩散又往往受制于 VQ-VAE 等中间量化编解码器带来的信息损失与计算开销。更重要的是,在交互式创作与可控编辑场景下,连续扩散若在采样中途强行注入干净的方块嵌入(如 RePaint 式替换),会破坏模型训练所依赖的噪声调度轨迹,导致生成地形高频忽略或掩埋用户给定的方块结构。

本文的切入角度是跳过一切中间隐空间压缩与视觉像素渲染,直接把 Minecraft 的原生离散方块当作具有完备语义的“三维 token”,在精心配比的百亿级方块语料上训练块级三维扩散变换器。核心 idea:通过针对性采集与词汇表状态折叠构建大规模体素数据集 Dream-Cubed,并以统一的 3D DiT 架构实证对比离散掩码扩散(MD4)与连续语义嵌入扩散(DDPM),利用离散掩码扩散中未掩码方块天然作为硬约束的性质,零样本地将单一群系条件生成模型转化为支持局部修补、群系平滑过渡与多区块滑窗扩展的交互式 3D 世界生成器。

方法详解

整体框架

本文提出的生成框架直接作用于 \(32 \times 32 \times 32\) 分辨率的离散方块区块张量 \(\mathbf{x} \in \{1, \dots, V\}^{32 \times 32 \times 32}\),以全局生态群系标签 \(y\) 和扩散时间步 \(t\) 为条件,通过一个包含 25 层 Transformer 块、隐藏维度为 768、8 个注意力头的 280M 参数 3D Diffusion Transformer(DiT)骨干网络生成目标三维场景。整体流程从四路针对性采集与词汇压缩构建的 Dream-Cubed 数据集出发,将三维区块经核大小与步长均为 \(p\) 的 3D 卷积切分为 \((32/p)^3\) 个非重叠体素 patch token,并在输入输出两端分别对接离散掩码扩散(MD4)或连续嵌入空间扩散(DDPM);推理阶段则依托 MD4 的固定 token 机制,无缝延伸至局部补全与滑窗大世界生成。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400, 'subGraphTitleMargin': {'top': 8, 'bottom': 16}}}%%
flowchart TD
    A["原始 Minecraft 世界与人类建筑地图"] --> B["多管线数据采集与方块词表折叠<br/>32×32×32 区块 x0 与群系标签 y"]
    B --> C["共享 3D DiT 骨干与 AdaLN 调制<br/>3D 卷积切分 (32/p)^3 个体素 Patch"]
    C -->|离散分支| D["离散掩码扩散 MD4<br/>正弦掩码调度与迭代随机揭露"]
    C -->|连续分支| E["连续语义嵌入扩散 DDPM<br/>16 维文本嵌入与 v-prediction 去噪"]
    D --> F["原生方块空间零样本可控生成<br/>硬约束补全 / 群系融合 / 滑窗外推"]
    E -->|L2 最近邻解码| G["生成 32×32×32 可交互方块区块"]
    F --> G

关键设计

1. 多管线数据采集与方块词表折叠:解决稀有结构极度欠采样与状态元数据引发的词表爆炸

如果在程序化生成的 Minecraft 世界中仅做朴素的均匀地表遍历,海洋(占自然世界 35.65%)和森林(11.76%)等常见地形会主导数据集,而承载复杂几何语义的 NPC 村庄与地下洞穴占比仅约 0.71%,同时人类专业地图中的方块变体与朝向元数据会使唯一方块数飙升至 1,181 种。为此,作者设计了四条互补的数据采集流水线:地表自然群系采用螺旋轨迹以 32 步长采样并围绕地表最高非空方块做 \(\pm 12\) 高度随机偏移(辅以 PyuBiomes 定位稀有群系,将 76 个原生群系合并为 13 个父类,共采集 1,521,781 个区块);地下洞穴沿垂直方向以 32 步长下探并筛选空气占比 \(>10\%\) 的空腔(采集 146,000 个区块);村庄通过 PyuBiomes 直接反解种子坐标,在 \(256 \times 64 \times 256\) 区域内以步长 4 密集滑动 \(32^3\) 窗口,并执行严格的三重过滤(保留空气占比 \(>15\%\) 以剔除纯地下样本、要求包含 \(\ge 60\) 个门/楼梯等村庄指示方块、剔除指示方块接触窗口边界的截断建筑,共获 178,271 个完整村庄区块);人类创作地图则扩展 mcaselector 工具在俯视图框选建筑列并以垂直步长 8 向下提取至空气占比 \(<10\%\)(6 张专业地图共 358,762 个区块)。在词汇表层面,针对决定亚体素几何细节的台阶(slab)和楼梯(stair),作者没有额外增加元数据通道,而是将台阶的 2 种朝向状态和楼梯的 48 种朝向状态直接折叠进基础方块词表(统一材质),使核心数据集词表收敛在 \(V=117\);对于人类地图,则借助 Claude Opus 4.6 解析方块名子串,将按钮、铁轨等极稀疏装饰块映射为空气,并将不同颜色的羊毛等材质变体归并为基础方块,最终将自然与人类混合词表严格控制在 \(V=177\)。

2. 共享 3D DiT 骨干与 AdaLN 调制:在统一参数预算下解耦三维空间表征与扩散范式

为了公平解答“离散方块生成究竟适合离散还是连续扩散”这一问题,模型必须在完全一致的网络容量与归纳偏置下接受检验。作者构建了一个约 280M 参数的 3D Diffusion Transformer 骨干,输入 \(32 \times 32 \times 32\) 区块首先通过核大小和步长均为 \(p\) 的 3D 卷积划分为 \((32/p)^3\) 个不重叠的三维 patch token(例如 \(p=2\) 时序列长度为 4,096,\(p=4\) 时缩减 8 倍至 512),并叠加固定的三维正弦-余弦位置编码。时间步 \(t\) 经正弦编码与 MLP 映射,区块级生态群系标签 \(y\)(取区块内出现频率最高的群系 ID)经可学习类别嵌入与独立 MLP 映射,两者相加后投射到 768 维隐藏空间,在全部 25 个 Transformer 层中通过自适应层归一化(AdaLN)的缩放与门控机制注入条件,而非使用前缀 token 或交叉注意力。这种架构将扩散范式的差异完全隔离在首尾的输入/输出投影层中,不仅使 MD4 和 DDPM 能够共享完全相同的中间计算图,还揭示了 patch 分辨率对两类范式的非对称影响——MD4 在 \(p=2\) 和 \(p=4\) 下均能稳定收敛,而 DDPM 在 \(p=4\) 的粗粒度 patch 下完全无法生成连贯结构。

3. 离散掩码扩散 MD4 与连续语义嵌入扩散 DDPM:对比类别状态吸收态与固定文本语义空间

在离散掩码扩散分支(MD4)中,词表被扩充一个额外的 [MASK] 吸收态 token(共 \(V+1\) 类),前向过程对干净区块 \(\mathbf{x}_0\) 中的每个体素以时间依赖的概率独立替换为 [MASK],网络接收 one-hot 编码的受损区块 \(\mathbf{x}_t\) 并直接输出每个体素在 \(V\) 个真实方块类别上的 logits;反向采样从全掩码区块 \(\mathbf{x}_T\) 出发,由 \(t=1\) 至 \(t=0\) 逐步按揭露概率随机挑选掩码位置,并根据模型预测的 softmax 分布做多项式采样填回离散方块。相比之下,连续扩散分支(DDPM)需要将离散方块转化为稠密向量:作者巧妙利用 Minecraft 方块名称自带的语义信息(如 "dirt"、"sand"),使用预训练的 OpenAI text-embedding-3-small 将每个方块名编码为固定的 16 维向量,构建在训练中全程冻结的嵌入查找表 \(E \in \mathbb{R}^{V \times 16}\)。这一设计无需额外训练 block2vec 或 VAE 即可注入语义先验(使沙子与砂岩在欧氏空间天然接近),前向过程在 \(\mathbb{R}^{32 \times 32 \times 32 \times 16}\) 连续张量上施加 1,000 步余弦调度的加性高斯噪声,反向去噪完成后,再对每个体素的预测嵌入 \(\hat{\mathbf{x}}_0\) 在表 \(E\) 中执行 \(L_2\) 距离最近邻查找,将其无损还原为离散方块 ID。

4. 原生方块空间零样本可控生成:利用掩码不可逆性统一局部补全、群系融合与滑窗大世界构建

在交互式场景编辑中,用户往往希望固定部分已有地形或手绘的方块草图,让模型自动补全其余区域。在连续 DDPM 中,若采用类似 Song 等人的替换法在每步采样中强行写入加噪后的上下文嵌入,约 50% 的常规补全样本和几乎全部手绘提示样本都会出现上下文被无视甚至被直接掩埋的失败现象,因为固定块与生成块之间的噪声轨迹发生了失配。而在本文的 MD4 离散掩码扩散中,反向采样在構造上保证了一旦某个体素处于“未掩码(unmasked)”状态,它在后续所有时间步中都作为确定性的上下文条件保持恒定不变。因此,无需对模型做任何架构改动或针对性微调,只需在采样初始化时将用户给定的方块直接设为未掩码状态(并根据已知方块占比确定起始去噪时间步,同时在手绘结构上方放置不可见的空气方块以防止模型将其埋入地下),即可天然实现四种可控生成工作流:(1)固定 \(8 \times 32 \times 8\) 切片的同群系多样化补全;(2)固定 \(4 \times 32 \times 32\) 边缘切片但传入异质群系标签(如冰原、山地、沙滩)的跨群系平滑过渡;(3)以正弦波、螺旋线、火山口、瀑布等分布外手绘稀疏方块为提示的语义延展;(4)将大尺寸世界画布划分为相互重叠的 \(32^3\) 网格单元,按序将前序相邻单元的重叠方块作为硬约束上下文进行滑窗外推(Outpainting),从而突破单区块显存限制,生成 \(4 \times 4 \times 1\) 乃至 \(5 \times 5 \times 1\) 的大尺度连贯世界。

损失函数 / 训练策略

在离散掩码扩散(MD4)中,给定干净区块 \(\mathbf{x}_0\),训练时均匀采样时间步 \(t \sim \mathrm{Uniform}(0, 1)\),并以如下正弦掩码调度概率独立将每个体素掩码为 [MASK]:

\[p_{\text{mask}}(t) = \sin\left(\frac{\pi t}{2}\right)\]

模型仅在被掩码的体素位置上计算预测 logits 与真实方块标签之间的交叉熵损失,并按 MD4 标准乘以时间依赖的权重系数。在连续嵌入扩散(DDPM)中,采用 1,000 个离散时间步的余弦噪声调度,前向加噪过程定义为:

\[\mathbf{x}_t = a_t \mathbf{x}_0 + b_t \boldsymbol{\epsilon}, \qquad \boldsymbol{\epsilon} \sim \mathcal{N}(\mathbf{0}, \mathbf{I}), \quad a_t^2 + b_t^2 = 1\]

网络采用速度参数化(\(v\)-prediction),通过均方误差(MSE)损失训练模型从 \((\mathbf{x}_t, t, y)\) 预测目标速度 \(\mathbf{v}_t\);推理时在每步将预测速度 \(\hat{\mathbf{v}}\) 转化为去噪估计 \(\hat{\mathbf{x}}_0 = a_t \mathbf{x}_t - b_t \hat{\mathbf{v}}\),再经标准 DDPM 后验分布更新至 \(\mathbf{x}_{t-1}\)。

在训练策略与超参数方面,两类模型均使用分类器自由引导(CFG),训练时以 \(p_{\text{drop}} = 0.2\) 的概率随机丢弃生态群系标签 \(y\),推理采样时采用引导尺度 \(w = 4.0\)(默认采样步数 \(T = 1000\))。所有训练样本均施加绕垂直轴的随机 \(90^\circ\) 旋转增强。优化器采用 AdamW(权重衰减 \(0.01\)),\(p=2\) 模型学习率为 \(1 \times 10^{-3}\)、训练 20 个 epoch,\(p=4\) 模型学习率为 \(3 \times 10^{-4}\)、训练 160 个 epoch(使两者在训练期间看到的 patch token 总数严格相等)。所有模型均在 4 张 H100 GPU 上以有效批大小 512 训练,单模型总训练耗时约为 192 GPU 小时。

实验关键数据

本文采用渲染图像的调整后 Fréchet Inception Distance(Adjusted FID,即每类生态群系生成 100 个区块的渲染 FID 减去 100 个保留验证集真实区块的参考 FID,越低越好)、非空气方块词汇覆盖率(Coverage,越高越好)、方块分布的 Jensen-Shannon 散度(JSD,越低越好)以及 19 人参与的双选强制人类偏好胜率(Win Rate)进行综合评测。

表 1:不同扩散范式、Patch 大小与数据集配比下的生成质量与方块统计对比(15 类自然群系)

模型配置 训练数据集变体 平均调整后 FID ↓ 村庄群系 FID ↓ 海洋群系 FID ↓ 非空气词表覆盖率 ↑ 方块分布 JSD ↓ 单区块推理耗时 (H100)
MD4 (\(p=2\)) 均衡数据集 (Balanced) 59.26 61.65 55.17 0.503 0.011 ~2.5 min
DDPM (\(p=2\)) 均衡数据集 (Balanced) 59.29 58.61 34.66 0.304 0.022 ~2.5 min
MD4 (\(p=4\)) 均衡数据集 (Balanced) 60.64 78.27 75.30 (Cov.) 0.532 0.012 ~25 sec
MD4 (\(p=4\)) 自然分布 (Natural Occurrence) 最低平均 (见图3) 显著退化 (仅7,100块) 显著提升 (占35.15%) 0.503 (洞穴 0.908) 0.013 (海洋 0.003) ~25 sec
MD4 (\(p=4\)) 村庄加权 (Village-boosted) 与均衡相近 显著改善 0.877 (Cov.) 0.673 (12/15最高) 0.016 (村庄 0.002) ~25 sec

表 2:人类偏好实验(2AFC)两两对决胜率与总体偏好率(19 名受试者,共 1,040+ 场有效对比)

对决双方 / 评估维度 胜率 / 偏好率 95% 置信区间 / 统计显著性 实验场次 (\(n\)) 核心结论说明
MD4 (\(p=2\)) vs. 真实区块 (Real) 67.1% \(p < 0.001\) (单侧二项检验) 173 生成区块显著优于真实地形(CFG 强化典型群系特征)
MD4 (\(p=4\)) vs. 真实区块 (Real) 57.1% \(p = 0.042\) (单侧二项检验) 163 粗粒度 patch 生成结果仍显著击败真实随机区块
DDPM (\(p=2\)) vs. 真实区块 (Real) 55.2% 正向偏好趋势 192 三种生成模型在人类评估中全面超越真实未筛选区块
MD4 (\(p=2\)) vs. DDPM (\(p=2\)) 49.4% vs. 50.6% 统计无显著差异 158 同为 \(p=2\) 时,离散与连续扩散的人类感知质量持平
MD4 (\(p=2\)) vs. MD4 (\(p=4\)) 55.2% 细粒度 patch 占优 174 村庄群系中 \(p=4\) 胜率跌至 16.1%,而 \(p=2\) 达 68.3%
总体偏好率排名 (Overall) MD4 p2: 57.4% DDPM p2: 53.2% / MD4 p4: 49.3% Real: 40.3% 真实区块因常含群系边界混杂或平庸地形而垫底

表 3:引入 6 张专业人类创作地图(共 21 类标签,\(V=177\))后的跨分布 FID 对比

评估子集 / 典型类别 MD4 (\(p=2\)) 仅自然数据 MD4 (\(p=2\)) +人类数据 DDPM (\(p=2\)) 仅自然数据 DDPM (\(p=2\)) +人类数据
Plains (自然平原) 39.31 74.59 46.02 77.69
Forest (自然森林) 72.84 54.30 49.39 53.56
Village (程序化村庄) 61.65 68.76 58.61 75.65
Ancient Empire (人类地图) — 149.38 — 118.42
Kingdom of Sarano (人类地图) — 156.53 — 113.45
Osirion (人类地图) — 114.01 — 106.34
Sora Kingdom (人类地图) — 177.43 — 139.41
The 5 Bridges (人类地图) — 118.90 — 112.88
全部可评估类别平均 FID ↓ 59.26 (15类) 87.69 (21类) 59.29 (15类) 83.67 (21类)

消融实验

作者针对采样步数缩减(1000 步、100 步、10 步)、Patch 分辨率(\(p=1, 2, 4, 8\))以及模型间 FID 差值与人类偏好的一致性开展了系统的消融分析。

表 4:采样步数缩减消融(MD4 vs. DDPM 在 \(p=2\) 下的调整后 FID 变化)与人类-FID 一致性分析

消融维度 / 评估子集 MD4 (\(p=2\)) FID ↓ DDPM (\(p=2\)) FID ↓ 关键现象与机制归因
采样步数 \(T = 1000\) (默认) 59.26 (海洋 55.17 / 平原 39.31) 59.29 (海洋 34.66 / 平原 46.02) 满步数下离散与连续扩散平均 FID 几乎完全一致(MD4 在 9 个群系更优,DDPM 在 6 个更优)
采样步数 \(T = 100\) (加速 10 倍) 79.55 (海洋退化至 106.57) 55.15 (海洋提升至 22.26) MD4 因单步并行揭露过多独立 token 引发“联合分布冲突”(如海平面高度分裂),而 DDPM 同步去噪反而比 1000 步更优
采样步数 \(T = 10\) (加速 100 倍) 174.53 (海洋崩坏至 278.22) 65.79 (海洋最佳 15.33) 极少步数下 MD4 全面退化,DDPM 则保持平滑衰减,10 步平均 FID 甚至优于 MD4 的 100 步结果
人类与 FID 一致性 (全部 \(\Delta\text{FID} \ge 0\)) 一致率 54.3% (\(n=512\), \(p=0.0286\)) — 多数对比的群系 FID 差距 \(\le 5\) 分,整体呈现微弱但统计显著的正相关
人类与 FID 一致性 (\(\Delta\text{FID} \ge 5 / \ge 10 / \ge 15\)) 61.7% (\(n=227\)) / 62.9% (\(n=159\)) / 66.1% (\(n=109\)) 均满足 \(p < 0.001\) 随着模型间 FID 绝对差距拉大,人类选择低 FID 模型的比例单调上升(村庄达 74.4%,沙漠达 70.0%)

此外,在 Patch 大小敏感性消融 中:\(p=1\)(序列长度 32,768)因计算开销过大无法训练;\(p=2\)(4,096 tokens)在 MD4 和 DDPM 上均取得最佳精细结构与可控补全鲁棒性;\(p=4\)(512 tokens)使单区块采样时间从 2.5 分钟大幅缩短至 25 秒,MD4 在自然地形上保持了 60.64 的相近平均 FID,但在包含复杂房屋结构的村庄群系上 FID 从 61.65 恶化至 78.27,且在手绘方块条件补全(尤其是村庄材质提示)时频繁生成偏离真实地形的伪影,而 DDPM 在 \(p=4\) 下则直接训练失败;\(p=8\)(64 tokens)虽能生成可辨识轮廓,但存在明显的块状视觉伪影。

局限性与未来方向

  • 渲染级 FID 指标的盲区与高昂评估成本:当前的二维渲染 FID 无法检测建筑内部空间是否连通、地下洞穴系统是否合理或门窗是否具有游戏功能可达性(例如一个仅有外壳的空心建筑仍可获得良好的渲染得分);同时每个模型仅在 1,500 张渲染图上计算 FID 存在一定方差,且单模型推理评估需消耗约 60 GPU 小时,难以作为训练期实时监控指标。
  • 推理延迟制约实时交互与大世界扩展:由于扩散模型需要 1,000 步迭代采样,\(p=2\) 模型生成单个 \(32^3\) 区块需约 2.5 分钟,通过滑窗串行外推生成一个 \(5 \times 5 \times 1\) 的世界需要超过 1 小时的 H100 推理时间。未来可引入基于置信度或纯度先验(Purity Prior / Top-\(K\) Margin)的自适应揭露策略以缓解 MD4 在少步数下的联合分布失调,或结合模型蒸馏实现实时共创。
  • 游戏版本与激进词表压缩造成的美学细节损失:受限于 Evocraft 工具链兼容性,数据采集自 2017 年发布的 Minecraft 1.12.2 版本,未涵盖后续更新的群系与方块;同时为防止词表爆炸而将按钮、活板门等亚体素装饰块映射为空气、将彩色羊毛合并为单一白羊毛基础类的做法,抹平了人类专业建筑师精心设计的色彩渐变与表面肌理。未来需探索保留完整稀疏词表与元数据的分词或层次化建模方案,并利用视觉语言模型(VLM)多视角合成细粒度文本描述,迈向开放词汇文本条件 3D 世界生成。

关联工作

  • 对比 WorldGAN:WorldGAN 采用 3D GAN 并引入 block2vec 嵌入处理方块词表,但仅在单个示例区块上训练以模仿特定局部风格;本文则在超过 200 万个多群系与人类建筑区块上训练 280M 参数的 3D DiT 扩散模型,学到了跨 15+6 类场景的通用三维世界先验。
  • 对比 Scaffold Diffusion:Scaffold Diffusion 同样将体素视为离散 token 并在方块空间做离散扩散以生成 Minecraft 建筑,但它强依赖于预先给定的三维占据“脚手架(scaffold)”来规定几何轮廓;本文模型则支持从零开始进行群系条件生成,并能直接以稀疏手绘方块或邻域切片作为硬约束完成自由补全与外推。
  • 对比 PERSIST 与 XCube:XCube 与同期的 PERSIST 均在学习到的连续隐空间(Latent Voxel Space)中进行稀疏三维扩散或校正流匹配(PERSIST 将其作为视频世界模型的三维状态组件);本文则刻意放弃空间压缩,直接在与游戏世界 1:1 对应的原生离散方块空间中扩散,从而免去了两阶段量化编解码开销,并天然实现了精确到单个方块的交互式硬约束控制。
  • 对比离散扩散理论模型(D3PM / MD4 / MDLM / SEDD):本文首次将 Shi 等人提出的简化广义掩码扩散(MD4)大规模拓展至百亿体素级的三维类别网格,证明原生离散三维数据无需像图像那样依赖 VQ 分词器即可直接享受掩码扩散的并行生成与零样本补全优势。

代码与资源