diffusion-warm sampling of the xy model enables fast thermalization at scale¶

会议: NeurIPS 2026
arXiv: 2606.30773
领域: 物理/科学计算
关键词: XY模型, 扩散模型, MCMC热化, 连续自旋系统, 玻尔兹曼采样

一句话总结¶

针对二维连续自旋 XY 模型在传统 MCMC 采样中大尺度与低温下热化时间指数级爆炸的难题，提出利用在小尺寸格点上训练的温度条件扩散模型进行跨尺度推理以提供高质量初态，仅需少量 Wolff MCMC 步即可修正宏观可观测度并实现约一个数量级的热化加速。

研究背景与动机¶

连续自由度自旋系统广泛存在于凝聚态物理、规范场论以及连续变量组合优化问题中。作为研究连续对称性破缺与拓扑缺陷的奠基性模型，二维连续自旋 XY 模型表现出具有里程碑意义的 Berezinskii-Kosterlitz-Thouless（BKT）拓扑相变。然而，在平衡态统计物理计算中，从目标玻尔兹曼分布 $p(\phi) \propto e^{-\beta E(\phi)}$ 中进行吉布斯采样极具挑战。标准的马尔可夫链蒙特卡洛（MCMC，如 Wolff 团簇更新算法）虽然能够有效抑制部分临界减慢，但在大晶格尺寸和低温有序相下，系统存在长波自旋波模式与高自由能势垒，从随机初始状态出发演化至平衡态所需的热化时间（thermalization time）随晶格尺度呈现多项式乃至指数级增长。

近年来，生成式机器学习尝试通过变分自回归模型或归一化流直接学习玻尔兹曼分布，但在高维多模态物理系统中极易遭受重要性采样模式崩塌；若直接用固态神经网络进行纯数据驱动拟合，在超越训练尺寸时又会因边界伪相关与局部感受野限制而产生指数级外推误差。由于小尺寸晶格存在红外截断，模型无法自发学到波长大于训练尺寸的长波自旋波，导致纯生成模型在大尺度下严重低估低频关联。

本文的切入角度是：不再强求生成模型一步到位直接输出完美的全局大尺度平衡态样本，而是将其定位于提供高质量微观构型的“预热加速器”。核心 idea：将小尺寸晶格上训练的旋转不变条件扩散模型作为大尺寸 MCMC 的热启动（warm start），利用扩散先验快速越过局部高能垒，再结合极少量的非局部 Wolff 团簇更新快速校准长波自旋波关联与拓扑序，将全系统热化时间压低一个数量级。

方法详解¶

整体框架¶

本文提出的 diffusion-warmed MCMC 采样管线包含四个协同阶段：首先在 $20 \times 20$ 小晶格上通过 Wolff 算法离线生成覆盖全温区（$\beta \in [0.5, 1.6]$）的平衡态数据；随后构建具备全局 $U(1)$ 旋转不变性与环形环绕周期边界的得分网络，采用分类器自由引导（CFG）联合训练条件与无条件得分；在任意大尺寸晶格（如 $40 \times 40$、$50 \times 50$、$60 \times 60$）的目标温度推理时，从均匀随机相位出发执行反向扩散逆 SDE 得到生成样本；最后对扩散初态施加极少步（约 30-40 步）Wolff 团簇翻转以消除由于外推造成的自旋关联偏差并快速达到真平衡态。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["均匀随机初始自旋构型<br/>大尺寸 L×L 晶格相角 [0, 2π)"] --> B["阶段 1：小尺寸周期扩散先验外推<br/>环形卷积与正余弦编码逆SDE求解"]
    B --> C["阶段 2：温度退火无分类器引导<br/>依据反温度动态调节打分引导尺度"]
    C --> D["阶段 3：全局对称性恢复旋转<br/>全局对齐归零后施加随机U(1)旋转"]
    D --> E["阶段 4：非局部Wolff团簇热化校准<br/>概率成簇反射补齐长波自旋波"]
    E --> F["完全热化的平衡态玻尔兹曼样本<br/>自旋关联与螺旋模量精确对齐"]

关键设计¶

1. 环形周期卷积与紧致流形保对称性得分匹配：消除边界不连续性与全局旋转漂移
二维连续自旋角 $\phi_i \in [0, 2\pi)$ 属于环面流形 $\mathbb{T}^{L^2}$，若直接采用常规欧氏卷积或线性标量损失，会导致周期边界截断与 $0$ 与 $2\pi$ 处的不连续性。本设计在网络输入端采用双通道三角嵌入 $(\cos\phi, \sin\phi)$，并将整个网络的主干卷积替换为环形周期卷积（Circular Padding），使网络结构严格内建环状边界对称性。为消除连续 $U(1)$ 对称性破缺导致的模式坍缩，训练前将每个小晶格样本通过全局刚性旋转将其平均自旋方向归一到 0；在逆向扩散推理完成后，再对大晶格构型施加独立的均匀随机全局旋转，严格恢复系统的连续整体旋转不变性。

2. 基于反温度退火的分类器自由引导（Annealed CFG）：平衡低温有序凝聚与微观波动
在全相区温度联合训练中，低温有序态要求强引导以保证局部自旋强对齐，而高温无序态若使用过强引导则会严重压低构型方差并扭曲热容等二阶热力学量。本设计在训练时以 $10\%$ 的概率随机丢弃反温度标签 $\beta$ 学习无条件得分 $s_\theta(\phi_t | \varnothing, t)$ 与条件得分 $s_\theta(\phi_t | \beta, t)$，并在反向 SDE 采样中引入依赖反温度的自适应退火引导尺度公式： $$\lambda(\beta) = 1 + \frac{\beta^2}{10}$$ 通过随 $\beta$ 二次递增的引导权重，在低温时强化自旋趋向长程有序的向心力，在高温时减弱引导以保持热力学涨落方差，有效避免了固定引导尺度下比热等热力学二阶涨落可观测量的严重畸变。

3. 非局部 Wolff 团簇反射校准机制：消除小尺寸训练导致的红外截断偏差
由于扩散模型仅在 $20 \times 20$ 晶格上训练，其最大可感知波长受限于 10 个晶格间距，无法捕捉大晶格（如 $60 \times 60$）在低温 BKT 相下的长波自旋波，且外推直接生成的样本在自旋关联函数 $C(r)$ 上表现为小尺度过高、大尺度偏低。本设计利用少量步数的 Wolff 算法更新整个系统：算法随机选取种子格点并根据邻近自旋在随机二维单位向量 $v$ 上的投影差计算键连接概率： $$p_{\text{add}} = 1 - \exp\left(\min(0, -2\beta (s_i \cdot v)(s_j \cdot v))\right)$$ 聚合成簇后集体将簇内所有自旋沿 $v$ 方向镜面反射 $s \to s - 2(v \cdot s)v$。这种全局非局部移动能在极短步数（$\sim 30$ 步）内迅速激发大尺寸特有的长波长自旋波，彻底消除纯扩散外推带来的长程关联误差。

损失函数 / 训练策略¶

得分网络参数量为 510K，主干包含 3 个具有周期卷积和 FiLM 调制层的残差块，输入输出卷积核大小设定为 $5 \times 5$ 以捕获超近邻微观关联。采用 Variance Exploding（VE）SDE 方案，噪声调度参数范围为 $\sigma_{\min} = 0.01$ 至 $\sigma_{\max} = 50$。优化器采用 Adam，学习率设为 $1 \times 10^{-4}$，批大小为 500。在覆盖 $\beta \in [0.5, 1.6]$（步长 0.1 共 11 个离散温度点）的 $20 \times 20$ 平衡态样本集上联合训练 1150 个 epoch，其中 $70\%$ 用于训练，$30\%$ 用于验证。

实验关键数据¶

主实验¶

论文在不同晶格尺寸（$L \in \{20, 30, 40, 50, 60\}$）和涵盖高低温两相及临界区（$T_c \approx 0.89$, 即 $\beta_c \approx 1.12$）的逆温度区间内，对比了纯 Wolff MCMC（随机均匀初态）与扩散预热 MCMC（Diffusion-warmed MCMC，30-40 步 Wolff 校准）在达到热平衡所需的总运行耗时与迭代步数。热化判定采用严格的收敛准则，要求能量 $E$、磁化强度 $M$、螺旋模量 $\rho_s$ 的相对误差小于 $5\%$，比热 $C_v$ 的相对误差小于 $10\%$。

晶格尺寸 $L \times L$	逆温度 $\beta$	热化耗时指标	本文 Diffusion-warmed	基线纯 Wolff MCMC	加速倍数 (Gain)
$20 \times 20$	0.8 (高温相)	热化收敛步数/时间	扩散 + 极少步	纯随机迭代	$\sim 5\times$
$50 \times 50$	1.0 (相变区)	自旋自关联 $C(r)$ 校准步数	30 Wolff 步即可吻合	需成百上千步	$\sim 10\times$
$60 \times 60$	1.5 (低温有序相)	总体热化时间 (s)	扩散推理 + 30 步 (低量级)	长时间随机演化	$\sim 10\times$ (约1个数量级)
$60 \times 60$	1.5 (低温有序相)	能量 per spin 收敛步数	$< 50$ 步内与真实值吻合	$> 400$ 步才缓慢接近	$> 8\times$
$60 \times 60$	1.5 (低温有序相)	螺旋模量 $\rho_s$ 收敛步数	$< 60$ 步精确对齐	$> 500$ 步收敛	$> 8\times$

消融实验¶

消融实验重点验证了 MCMC 校准步数 $k$、引导策略（退火 CFG vs. 固定 CFG）以及大尺寸初态生成策略（扩散外推 vs. 周期平铺 Tiling）对长程关联和二阶热力学物理量的影响。

初态生成及采样配置	测试系统及条件	物理观测指标表现	关键特征说明
扩散生成 + 30 步 Wolff (Full)	$50 \times 50$, $\beta=1.0$	$C(r)$ 与真平衡态全距离重合	完整方案，局部微观与长程自旋波均精确对齐
纯扩散外推 (0 步 Wolff)	$50 \times 50$, $\beta=1.5$	低温下低估 $C(r)$ 与螺旋模量 $\rho_s$	缺少长波自旋波，微观自旋对齐度偏弱
纯扩散外推 (0 步 Wolff)	$50 \times 50$, $\beta=0.8$	高温下高估自旋自关联 $C(r)$	缺乏对大尺度高温熵效应的热涨落自洽修正
周期平铺 baseline (Tiling $20\times 20$)	$60 \times 60$, $\beta=1.0$	$C(r)$ 在 $r \approx 20$ 出现明显人工伪影断裂	简单拼接破坏平移连续性，整体严重低估自旋对齐
固定引导尺度 ($\lambda=1.5$)	$L=20$, 各温区	比热 $C_v$ 出现系统性畸变	方差被人工引导过度压缩，失去自然热涨落
退火引导尺度 ($\lambda(\beta)=1+\beta^2/10$)	$L=20$, 各温区	比热 $C_v$ 与真实 MCMC 涨落完全匹配	动态保留热涨落方差，高低温自适应性强

关键发现¶

长波长红外截断是纯扩散外推失效的核心根源：在低温下，XY 系统的自旋关联呈代数幂律衰减，长波自旋波波长可延展至整个系统尺寸。在 $20 \times 20$ 格点上训练的卷积得分网络有效感受野与最大物理波长被固定在训练尺寸内，因而直接外推至大晶格时必然低估整体刚度（螺旋模量 $\rho_s$）。
Wolff 算法是非局部误差的理想正交补丁：扩散模型负责跨越微观尺度的局部复杂势垒，为系统提供具备正确局域涡旋对分布的良好初态；而 Wolff 团簇更新具有非局部反射特性，专门高效消除长波模式的残余误差，两者结合在 30 步内即可抹平原本需要数千步才能消除的偏差。
扩散外推显著优于经验平铺：即便对平铺样本进行平均方向对齐与随机全局 $U(1)$ 旋转，拼缝处的非物理边界截断仍会导致关联函数在格点边界处突变，而具备连续流形特性的扩散模型生成的大构型保持了全局平滑的微观纹理。

亮点与洞察¶

将生成模型定位为 MCMC 的 Warm-start 而非替代品：巧妙规避了纯生成式模型无法保证物理系综精确遍历性与严谨细致平衡（detailed balance）的根本硬伤，利用混合管线兼顾了深度学习的泛化生成速度与马尔可夫链的严密收敛性。
相变参数自适应退火引导机制：根据统计物理先验提出 $\lambda(\beta) = 1 + \beta^2/10$，随有序度增加动态强化模式引导，在不破坏高温相热涨落方差的前提下有效约束了低温相的强自旋凝聚。
跨尺度统计物理模拟范式可迁移性：小尺寸训练、大尺寸扩散采样结合少量团簇热化更新的思路，天然适用于存在拓扑缺陷或长程纠缠的其他连续自旋系统（如海森堡模型、Kuramoto 振子同步网络及连续规范场论）。

局限与展望¶

热化时间外推标度律仍待严格解析：虽然论文在 $L \le 60$ 范围内展示了稳定的 10 倍加速，但在更接近热力学极限（$L \ge 200$）及深低温区域下，扩散预热是否能打破指数级标度的指数前因子或渐近斜率，仍需更细致的有限尺寸标度（finite-size scaling）理论分析。
得分网络感受野与骨干架构限制：当前网络依赖纯卷积与周期填充，未能显式引入多尺度小波或傅里叶神经算子（FNO），限制了扩散模型自发构建全局红外长波模式的能力。
拓扑荷守恒与亚稳态翻转：在极低温区涡旋-反涡旋对的湮灭时间尺度显著拉长，局部打分扰动很难自发产生大间距对极化，需要更明确的全局拓扑荷约束。
连续群与维度拓展：未来工作可进一步探索将其拓展至三维晶格、非阿贝尔规范群（如 $SU(2)$ 与 $SU(3)$ 格点规范理论）以及连续相空间中的量子分子动力学构象搜索。

评分¶

新颖性: ⭐⭐⭐⭐☆ 创造性地将流形扩散模型用于连续对称性物理自旋系统的跨尺度热启动，巧妙融合了生成式先验与 MCMC 团簇更新。
实验充分度: ⭐⭐⭐⭐☆ 详尽追踪了能量、磁化强度、螺旋模量、比热及自旋关联函数等物理量，消融与基线对比完备扎实。
写作质量: ⭐⭐⭐⭐⭐ 物理概念严密，关于为什么小尺寸模型外推会低估长波自旋波的机理剖析极其深刻清晰。
价值: ⭐⭐⭐⭐☆ 为计算凝聚态物理中克服大尺度与低温相采样减慢提供了高效通用的实用混合范式。

初态生成及采样配置	测试系统及条件	物理观测指标表现	关键特征说明
扩散生成 + 30 步 Wolff (Full)	\(50 \times 50\), \(\beta=1.0\)	\(C(r)\) 与真平衡态全距离重合	完整方案，局部微观与长程自旋波均精确对齐
纯扩散外推 (0 步 Wolff)	\(50 \times 50\), \(\beta=1.5\)	低温下低估 \(C(r)\) 与螺旋模量 \(\rho_s\)	缺少长波自旋波，微观自旋对齐度偏弱
纯扩散外推 (0 步 Wolff)	\(50 \times 50\), \(\beta=0.8\)	高温下高估自旋自关联 \(C(r)\)	缺乏对大尺度高温熵效应的热涨落自洽修正
周期平铺 baseline (Tiling \(20\times 20\))	\(60 \times 60\), \(\beta=1.0\)	\(C(r)\) 在 \(r \approx 20\) 出现明显人工伪影断裂	简单拼接破坏平移连续性，整体严重低估自旋对齐
固定引导尺度 (\(\lambda=1.5\))	\(L=20\), 各温区	比热 \(C_v\) 出现系统性畸变	方差被人工引导过度压缩，失去自然热涨落
退火引导尺度 (\(\lambda(\beta)=1+\beta^2/10\))	\(L=20\), 各温区	比热 \(C_v\) 与真实 MCMC 涨落完全匹配	动态保留热涨落方差，高低温自适应性强

晶格尺寸 \(L \times L\)	逆温度 \(\beta\)	热化耗时指标	本文 Diffusion-warmed	基线纯 Wolff MCMC	加速倍数 (Gain)
\(20 \times 20\)	0.8 (高温相)	热化收敛步数/时间	扩散 + 极少步	纯随机迭代	\(\sim 5\times\)
\(50 \times 50\)	1.0 (相变区)	自旋自关联 \(C(r)\) 校准步数	30 Wolff 步即可吻合	需成百上千步	\(\sim 10\times\)
\(60 \times 60\)	1.5 (低温有序相)	总体热化时间 (s)	扩散推理 + 30 步 (低量级)	长时间随机演化	\(\sim 10\times\) (约1个数量级)
\(60 \times 60\)	1.5 (低温有序相)	能量 per spin 收敛步数	\(< 50\) 步内与真实值吻合	\(> 400\) 步才缓慢接近	\(> 8\times\)
\(60 \times 60\)	1.5 (低温有序相)	螺旋模量 \(\rho_s\) 收敛步数	\(< 60\) 步精确对齐	\(> 500\) 步收敛	\(> 8\times\)