跳转至

LEIA: Learned Environment for Interactive Architected Materials

会议: NeurIPS 2026
arXiv: 2605.28368
OpenReview: https://openreview.net/forum?id=4RHl3dwmLu
代码: https://github.com/HaiqianYang-MechE/leia
领域: 物理/科学计算
关键词: 神经算子, 世界模型, 架构材料, 非线性固体力学, 交互式仿真

一句话总结

LEIA 提出了一种面向架构超材料与非线性固体力学的交互式动作条件世界模型,通过 Perceiver 潜变量压缩解耦网格规模,并引入轻量化应力头直接预测柯西应力张量,在十万级至四十万级节点三维非结构化网格及路径依赖黏超弹性下实现高精度实时自回归应力与位移推演。

研究背景与动机

架构材料(如多孔骨植入物、吸能防撞点阵与可编程超材料)通过在多尺度上对几何构型进行层级化组织,能够展现出超越其基元成分本身的强度、韧性与轻量化特性。随着增材制造技术的成熟,制造层面的物理瓶颈正转向设计空间的探索瓶颈:由于晶格拓扑、支柱截面尺度与材料参数构成庞大的组合空间,如何快速在复杂的几何-力学响应流形中寻优成为核心难题。

传统上评估力学响应依赖于有限元分析(FEM),但有限元面临极其严苛的算力壁垒。在解析三维点阵微结构时,单个结构的网格解析往往需要数十万至数百万个四面体单元;当涉及几何大变形、非线性本构律以及时间历史依赖(如黏弹性松弛或惯性动态响应)时,单次数值求解极其耗时,令迭代寻优或交互式在线探索完全不切实际。另一方面,受机器人与游戏环境启发的世界模型范式虽然利用神经代理替代昂贵仿真器,但此前神经偏微分方程代理(如 LSM、UPT、LNO 等)绝大多数局限于二维计算流体力学(CFD)或静态准静态准线性固体,在十万级节点的三维复杂非结构化网格、自回归多步动态加载以及显式/隐式微观结构演化上面临巨大的表征难题。

更严峻的瓶颈在于应力场的精准恢复。在实际工程设计中,刚度校核、失效准则与吸能功耗计算均高度依赖应力张量。由于应力是位移梯度的非线性泛函(且受本构演化变量调制),直接由位移数值微分求导会放大高频噪声且无法反映历史依赖路径。核心 idea:将力学仿真重构为自回归动作条件世界模型,采用 Perceiver 架构将任意尺寸非结构化网格压缩为固定长度潜状态,并通过轻量线性应力头直接对齐有限元柯西应力,以恒定算力开销实现大尺度晶格与黏超弹性材料的毫秒级交互式多步应力-应变推演。

方法详解

整体框架

LEIA 采用两阶段解耦训练范式(Tokenizer 几何编码器与动作调制动态 Transformer),端到端支持工程师在每个时间步施加用户自定义的边界条件动作,并实时获得变形位移与应力场的自回归连续推演。系统首先利用 Perceiver IO 架构的交叉注意力机制,通过最远点采样(FPS)将任意大规模三维非结构化物理网格场高效压缩为固定数量的隐空间潜变量,随后在隐空间内通过引入 adaLN 调制的扩散/动力学 Transformer(DiT-style Block)输入连续累计边界条件,最后由解码器与并行线性应力头分别无损重建各网格节点的变形位移 \(\hat{\mathbf{u}}\) 与六分量柯西对称应力张量 \(\hat{\bm{\sigma}}_{\mathrm{sym}}\)。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["输入历史位移场与三维非结构化网格坐标"] --> B["Perceiver 几何编码器<br/>最远点采样与交叉注意力压缩为固定潜空间状态"]
    B --> C["动作条件潜空间动力学 Transformer<br/>基于累积载荷动作的自适应层归一化推演"]
    C --> D["双分支物理空间解码器<br/>隐空间交叉注意力映射至节点物理场"]
    D --> E["直接柯西应力预测头<br/>六分量对称应力线性映射与直接有限元对齐"]
    E --> F["自回归闭环状态更新<br/>支撑交互式边界加载与代理引导逆向设计"]

关键设计

1. Perceiver 几何编码器:解耦下游动力学与任意规模非结构化网格分辨率 为了让交互式代理能够处理十万至四十万节点量级的三维微结构四面体网格,模型不能依赖直接基于全图节点的消息传递(其显存与计算复杂度随节点数二次方或线性爆炸)。LEIA 采用 Perceiver IO 范式,通过一组可学习的潜查询向量 \(K\)(如 \(K=512\))与几何网格节点做交叉注意力交互。在处理高达 442,000 节点的微结构点阵时,首先通过最远点采样(FPS)提取具备全局均匀覆盖特性的代表性节点集合(8,192 个核心节点外加 2,048 个随机采样尾部节点),并融合节点位移与参考坐标的傅里叶位置编码,将高维非结构化物理场投影为紧凑潜状态 \(\mathbf{z} \in \mathbb{R}^{K \times H}\)。这保证了后续动力学模块的单步推演开销与输入网格规模完全解耦。

2. 动作条件潜空间动力学 Transformer:实现任意载荷路径的无缝条件注入 传统的神经网格代理多通过边界节点硬性约束(clamping)传递外部激励,这种方式在动力学初始静止状态下无法单步向前传播应力波与变形信号。LEIA 将施加的边界载荷显式参数化为连续累积动作向量 \(\mathbf{a}_t \in \mathbb{R}^4\)(涵盖拉伸、扭转以及两个正交方向的横向剪切)。动力学 Transformer 采用类似 DiT 的自适应层归一化(adaLN)机制,在每层自注意力与前馈网络之前,通过由动作嵌入投影出的尺度参数 \(\gamma\) 与平移参数 \(\beta\) 进行自适应特征调制: $\(\mathrm{adaLN}(\mathbf{h}, \mathbf{a}_t) = (1 + \gamma(\mathbf{a}_t)) \odot \mathrm{LayerNorm}(\mathbf{h}) + \beta(\mathbf{a}_t)\)$ 这种层层深入的动作注入确保动力学演化能够即时响应任意离散或连续加载指令。同时,模型引入潜速度项 \(\mathbf{z}_t - \mathbf{z}_{t-1}\) 作为额外输入特征,并配合 \(k=10\) 步的推演回放(Pushforward Rollout)训练,显著抑制了长程自回归推演时的误差累积。

3. 直接柯西应力预测头:恒定开销突破本构非线性与历史依赖黑箱 在经典固体力学中,由位移场恢复柯西应力 \(\bm{\sigma}\) 依赖变形梯度 \(\mathbf{F} = \mathbf{I} + \nabla\mathbf{u}\) 的数值求导及本构定律积分。然而网格导数计算不仅极其耗时且会将截断误差剧烈放大;而在具有内部状态变量的黏超弹性(如 3 支路非平衡 Maxwell-Arruda-Boyce 体系)中,相同的瞬时位移构型对应着截然不同的内变量松弛状态,仅凭位移快照在理论上无法唯一定解当前应力。LEIA 在解码端设计了一个独立的线性投影应力头 \(\mathrm{Linear}(H, 6)\),将潜向量直接映射至六个独立对称柯西应力分量 \(\hat{\bm{\sigma}}_{\mathrm{sym}}\),参数量占比不足总体的 0.02%。应力头直接在有限元真值监督下与位移重构联合优化: $\(\mathcal{L}_{\mathrm{tok}} = \|\hat{\mathbf{u}} - \mathbf{u}\|^2 + \beta \, \|\hat{\bm{\sigma}}_{\mathrm{sym}} - \bm{\sigma}_{\mathrm{sym}}^{\mathrm{FEM}}\|^2\)$ 这一设计将应力读出开销恒定在微秒级,免去了对复杂材料本构内部变量(可能高达 18 个分量)的显式预测与多分支积分。

4. 代理置信度评估头与逆向设计束搜索:闭环保障超分布可靠性 在将神经代理用于 de novo 架构材料拓扑寻优时,变异算子生成的结构容易进入离群区域(OOD)。LEIA 提出了一种双层可靠性筛选机制:前端无需有限元即可测算几何重构零位回环误差 \(\langle\|\hat{\mathbf{u}}_0\|^2\rangle\) 与动力学循环一致性度量 \(c_t = \|\mathbf{z}_t - \hat{\mathbf{z}}_t\|/\|\mathbf{z}_t\|\);后端训练了一个轻量化 3 层 MLP 置信度头,联合潜变量池化向量、拓扑图谱统计特征与上述物理一致性标量,精准预测当前候选拓扑在有限元下的预期皮尔逊相关系数 \(\hat{\rho}\)。这使逆向优化算法能够在 30 分钟内完成对数百个拓扑的束搜索筛选,将高成本有限元计算严格收敛至高置信度的优势解。

一个完整示例

以一块采用 \(5 \times 5 \times 1\) 空间平铺、包含 301,565 个节点的三维点阵板在单轴拉伸与扭转复合载荷下的推演为例: 1. 状态初始化与编码:输入无变形初始构型,FPS 模块筛选出 10,240 个特征锚点并拼接傅里叶坐标编码,Perceiver 编码器通过交叉注意力将全网格特征压缩为 \(512 \times 1024\) 维潜状态 \(\mathbf{z}_0\)。 2. 动作调制与自回归前推:在时间步 \(t=1\),用户输入动作指令 \([0.15, 0.0, 0.0, 0.08]\)(拉伸结合扭转)。动力学 Transformer 将该动作映射为各个 adaLN 层的增益与偏置参数,结合初始潜速度更新隐状态得到 \(\mathbf{z}_1\);该过程自回归推进 30 步。 3. 节点物理场并行直出:解码器以原始 301,565 个节点的物理空间坐标为 Query 查询 \(\mathbf{z}_t\),位移头与应力头并行输出每个节点的位移向量及六分量对称柯西应力,直接代入解析式得到节点 von Mises 应力场,整个推演完全绕过四面体刚度矩阵装配与牛顿迭代求解。

损失函数 / 训练策略

LEIA 采用两阶段解耦训练范式: 1. Tokenizer 预训练:固定批大小为 8(显式 2 步梯度累积),在 8 张 H100 GPU 上利用 AdamW(学习率 \(10^{-4}\),余弦退火,权重衰减 \(10^{-5}\))进行 100K 步优化。损失函数涵盖标准化的位移均方误差与标准化柯西对称应力均方误差,应力项权重 \(\beta\) 在前 10K 步从 0 线性增加至 1.0。 2. 动力学模型训练:冻结 Tokenizer 权重,采用潜状态 MSE 损失 \(\mathcal{L}_{\mathrm{dyn}} = \|\mathbf{z}_{t+1}^{\mathrm{pred}} - \mathbf{z}_{t+1}^{\mathrm{target}}\|^2\)。引入步长 \(k=10\) 的 Pushforward Rollout,加入幅值为 0.02 的潜空间噪声增强鲁棒性,以批大小 64、学习率 \(10^{-4}\) 训练 300 个 epoch。

实验关键数据

主实验

论文建立了 MicroPlate 基准,涵盖显式几何微结构点阵体系与隐式微观结构内变量黏超弹性体系。表 1 对比了 MicroPlate 载荷反转黏超弹性平板在 100 步长程自回归推演下不同基线与 LEIA 的性能,表 2 针对点阵晶格体系消融了不同应力监督策略的精确度与计算开销。

表 1:MicroPlate 黏超弹性平板(3 黏弹性分支,100 步加载-卸载反转协议)长程推演性能对比(中位数指标)

模型 (Model) 空间形式 (Space) Teacher Forcing 位移误差 (%) ↓ TF von Mises 相关系数 ↑ 自回归 100 步位移误差 (%) ↓ AR von Mises 相关系数 ↑
MeshGraphNets (无应力头) 物理节点 3.88 -0.009 241.0 0.012
MeshGraphNets (带应力头) 物理节点 3.52 0.987 9.94 0.225
UPT (无应力头) 隐空间 13.0 0.257 80.8 0.197
UPT (带应力头) 隐空间 6.09 0.951 31.8 0.882
PointNet (带应力头) 物理节点 3.25 0.943 2.87 0.938
Transolver (带应力头) 物理节点 2.84 0.941 2.42 0.947
LEIA (本文完整方案) 隐空间 2.84 0.970 5.99 0.986

消融实验

表 2:MicroPlate 架构点阵晶格体系不同应力恢复策略及动力学增强机制消融(30 步自回归测试)

监督策略与动力学配置 (Config) 分布内位移误差 (%) ↓ 分布内 VM 相关系数 ↑ 未见拓扑位移误差 (%) ↓ 未见拓扑 VM 相关系数 ↑ 训练步额外耗时开销 (Overhead)
无梯度监督 (四面体离散后处理) 10.83 0.244 14.60 0.210 基准 (Baseline)
四面体形函数 Sobolev 梯度监督 7.08 0.410 7.89 0.388 +53%
解码器 Autograd Sobolev 监督 9.31 0.327 12.55 0.252 +1160%
独立梯度回归头 (Gradient Head) 17.80 0.854 21.93 0.667 +13%
直接柯西应力头 (Stress Head) 13.21 0.870 17.92 0.654 +6%
应力头 + Pushforward + 潜速度 4.68 0.942 5.39 0.662 +6%

关键发现

  • 直接应力头对非线性历史依赖材料具有决定性作用:在黏弹性加载-卸载反转实验中,所有基线模型若采用纯位移预测后代入本构恢复应力,其相关系数均低于 0.26;而一旦配备直接应力头,von Mises 应力相关系数均飙升至 0.94 以上。这表明在多内变量材料中,位移单态与应力存在路径多值性,直接监督应力能强迫潜编码捕获微观松弛状态。
  • Autograd 求导机制性价比极低:在三维大尺度网格上采用自动微分计算位移梯度会导致训练开销暴涨 11.6 倍(+1160%),而所获得的 von Mises 预测相关系数仅为 0.327;相比之下,仅增加单层线性投影的直接应力头计算开销仅微增 6%,但将相关系数拉升至 0.870。
  • 长程自回归稳定性大幅提升:结合 Pushforward 训练与输入潜速度差分项后,LEIA 在点阵体系未见几何上的自回归位移误差从 17.92% 骤降至 5.39%,在黏弹性体系 100 步加载卸载循环中相关系数高达 0.986,远优于 MeshGraphNets 的崩溃表现(误差 241%)。
  • 逆向优化效率呈百倍跃升:在架构材料拉伸-剪切刚度比逆向设计中,LEIA 在 30 分钟内完成了 553 个候选设计的全流程力学响应评估,相较于有限元求解实现 100 至 300 倍的单点评估加速,并在真实有限元校验中精准复现了 3.6 倍的目标函数指标提升。

亮点与洞察

  • 将世界模型范式成功拓展至固体物理工程:将游戏/机器人领域的动作条件化世界模型迁移至大变形连续介质与微结构力学,打破了传统有限元必须先设定完整加载序列再整段离散求解的被动模式,实现了用户在回路中的单步实时交互反馈。
  • 解耦分辨率的恒定算力应力直出设计:无论材料本构包含多少个复杂的微观内变量(如多分支 Maxwell 单元),输出端的对称柯西张量在三维物理空间恒定为 6 个独立分量。线性应力头以最小的参数代价(<0.02%)绕开了对不可测内变量的繁琐辨识,且反向正则化了潜空间的物理表征质量。
  • 闭环置信度保障与自适应求解:结合隐空间回环重构偏差与轻量化置信度头,构建了代理自省能力,能够在不调用有限元的前提下精准预测外推误差,指引主动学习或选择性调用高精度求解器,展现出极强的工业落地实用性。

局限与展望

  • 几何构型拓扑泛化约束:当前点阵板评测均基于 \(5 \times 5 \times 1\) 的立方对称平铺点阵,对于非对称、非晶格化多孔结构或宏观几何外形剧烈变化的拓扑,模型的泛化能力尚有待深入验证。
  • 载荷空间自由度有限:目前加载动作空间仅设定为 4 个自由度(单轴拉伸、扭转及两向剪切),实际工况中的复杂局部接触碰撞、非均匀面载荷及复杂约束工况暂未覆盖。
  • 推理期在线主动学习闭环缺失:目前置信度头仅用于离线评分与候选剔除,尚未实现在交互推演中遭遇不可信区域时动态触发后台轻量 FEM 补算并即时微调权重的在线增量闭环。

相关工作与启发

  • vs MeshGraphNets [32]: MGN 采用全图节点上的消息传递,计算量与显存随三维高密度四面体节点急剧爆炸,且仅通过边界点 Clamping 无法在零位移状态下实现单步全域动作响应;LEIA 借助 Perceiver 潜变量压缩解耦网格规模,并采用 adaLN 全局注入载荷动作,在长程推演下位移与应力均展现出颠覆性稳定性。
  • vs UPT [28] & LSM [27]: UPT 与 LSM 开创了隐空间算子演化范式,但主要聚焦二维流体力学无边界动作的被动自回归;LEIA 首次攻克了三维十万级节点固体的多轴用户可控加载,并解决了因本构历史依赖导致的应力无法重构难题。
  • vs Sobolev Training [41, 46]: Sobolev 训练依赖耗时严重的后处理导数或 Autograd(计算开销暴增十倍以上);LEIA 证实采用直接线性应力头与 FEM 真实应力张量对齐,既能获得远超求导的物理保真度,又维持了极高训练吞吐。

评分

  • 新颖性: ⭐⭐⭐⭐⭐ 首次建立面向非线性固体力学与微结构架构材料的交互式动作条件世界模型,在三维超大非结构化网格上突破了应力场实时直出的瓶颈。
  • 实验充分度: ⭐⭐⭐⭐⭐ 构建了包含 63 类点阵和黏超弹性板的 MicroPlate 大基准,涵盖 5 种应力监督消融、4 类主流基线对比、OOD 置信度量化及真实逆向设计闭环。
  • 写作质量: ⭐⭐⭐⭐⭐ 逻辑严密,物理机理阐述清晰,图表数据详实完备,深入揭示了直接应力监督对材料微观松弛状态隐式建模的物理本质。
  • 价值: ⭐⭐⭐⭐⭐ 为超材料设计、实时数字孪生和具身智能物理交互环境提供了一条颠覆传统有限元瓶颈的高性能技术路径。