ICAT: Incident-Case–Grounded Adaptive Testing for Physical-Risk Prediction in Embodied World Models¶

会议: NeurIPS 2026
arXiv: 2604.16405
OpenReview: https://openreview.net/forum?id=iLQ4MUPnqw
论文: https://arxiv.org/abs/2604.16405
领域: 机器人/具身智能
关键词: 具身世界模型、物理风险预测、自适应测试、事故案例生成、因果链评估

一句话总结¶

提出首个基于真实事故调查与安全规程强约束的具身世界模型物理风险自适应评测框架 ICAT，揭示当前视频生成世界模型在成功执行危险动作后普遍淡化或遗漏灾难性后果的系统性缺陷。

研究背景与动机¶

以参考图像为条件的大规模视频生成模型正逐步演进为具身智能（Embodied AI）领域的神经模拟器与世界模型，被广泛用于策略学习、强化学习轨迹合成以及基于模型的动作规划。这类世界模型的核心价值在于能否高保真地前向推演智能体候选动作对物理世界产生的后续演变。然而，现有世界模型评测基准普遍聚焦于常规物理交互的视觉保真度与时空一致性，或停留在基础刚体动力学与时间因果关系验证层面，严重忽视了一个关乎现实部署安全的核心命题：当具身智能体在极端或临界工况下触发潜在危险动作时，世界模型能否准确预测物理危害机制及其伴随的灾难性后果。

真实世界的物理安全风险呈现出极端的长尾性与严格的条件依存性，一次灾难往往依赖于微妙的环境初始状态、操作时序以及特定物理化学机制的级联反应。直接利用大语言模型（LLM）自由无约束地编造危险测试用例极易产生违背工程常识的物理幻觉，甚至将复杂的级联事故扁平化为毫无物理依据的单一偶发事件。而完全依赖人工专家设计危险场景又存在成本高昂、难以规模化覆盖多元机器人构型与工况的现实壁垒。若视频生成世界模型系统性地将高危行为的演变推演为风平浪静的常规操作，下游规划器与强化学习策略将被严重误导，在虚拟环境中习得鲁莽的高危策略并迁移至真实世界。

为解决这一关键评测空白，本文摆脱纯粹的无约束生成与静态人工构造，将测试基准建立在权威事故调查报告与法定安全规程之上。核心 idea：提出基于真实事故案例强接地的自适应测试框架 ICAT，通过结构化风险记忆库、受约束因果模式合成以及人机协同双向验证，构建包含 909 个具身物理风险评测单元的标准基准，揭示视频世界模型在复现危险动作与生成真实后果之间的严重断裂。

方法详解¶

整体框架¶

ICAT 旨在将抽象的具身评测规范转化为标准化、具备可执行性与物理因果保真度的多模态风险评测单元。整个评测流程由三个紧密耦合的阶段组成：首先从权威事故报告与安全操作指南中提取结构化风险记忆库；随后根据给定的环境场景与机器人构型规范，通过检索增强与因果约束反转合成物理可执行的场景与动作模式；最后通过文生图模型与严格的人工双向校验，生成初始状态参考图像并将其规范化为多模态评测单元 \(d = (v, i, e)\)。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["输入评测规范 q=(s,a)<br/>场景环境规范 s + 机器人构型规范 a"] --> B["阶段 1：风险记忆库构建<br/>真实事故报告与安全指南抽取 m=(n,c,p,r)"]
    B --> C["阶段 2：因果模式合成<br/>拓扑约束+受约束反转+因果链生成 z=(O,T,a,U,e)"]
    C --> D["阶段 3：多模态单元规范化<br/>T2I合成初态图像 + 属性/拓扑人工双重筛选 v"]
    D --> E["世界模型视频推演<br/>仅输入参考初态 v 与动作指令 i"]
    E --> F["因果门控严格评测<br/>初始态 ηinit × 动作执行 ηtrg × 后果等级 ηout"]

关键设计¶

1. 风险记忆库构建与防范规则受约束反转：从规范知识抽取可执行触发机制

构建物理风险基准的核心瓶颈在于长尾危险机制的数据稀疏性与真实事故报告的表征异质性。ICAT 建立了涵盖 350 个结构化风险记忆单元的双源记忆库 \(M_r\)：第一类直接抽取自 OSHA、USFA/FEMA、CPSC、NIOSH 等权威安全机构的事实调查报告；第二类针对频发但调查报告稀缺的风险，从法定安全规程与操作手册中抽取标准约束伪案例。每个记忆单元标准化表征为元组 \(m = (n, c, p, r)\)，分别对应触发机制叙述 \(n\)、物理后果与严重度等级 \(c\)、防范规程 \(p\) 以及权威来源引用 \(r\)。

为将预防性规程转化为具体危险动作，ICAT 设计了规则约束的反转机制（Constrained Inversion）：首先识别防范指南 \(p\) 中受保护的临界物理条件（如“严禁在高温油锅中混入水分”），进而在保持物理反应机制类别一致的前提下，生成由机器人可执行的最小违规操作序列，杜绝生成脱离证据支撑的虚假危险。

2. 记忆条件化的因果模式合成：兼顾物理规律与机器人构型可达性

给定评测目标场景 \(s\) 与机器人形态规范 \(a\)（包括自由度、末端执行器类型、工作空间范围），ICAT 利用密集向量检索获取 Top-\(k\)（\(k=5\)）最相关的物理风险记忆作为强因果上下文，驱动大语言模型生成结构化场景模式 \(z = (O, T, a, U, e)\)。其中 \(O\) 为具备安全关键物理属性的对象集合（明确标记冷冻/加热等热力学状态、材质与相态），\(T = \{(x, \rho, y)\}\) 是一组严格的相对空间拓扑约束谓词集合（如 on、inside、next_to），用于排除不合理的空间配置并指导初始图像合成。

动作指令序列 \(U = (u_1, \dots, u_K)\) 将抽象危险机制具象化为符合机器人构型限制的具体操作序列，而因果风险解释 \(e\) 则严密锚定为“初始场景 \(\to\) 风险触发 \(\to\) 危害后果（附带视觉表征特征与严重度等级）”的三段式因果链。合成的 \(z\) 必须通过程序化格式检验、拓扑可满足性验证与证据对齐筛查，确保物理可行性。

3. 多模态评测单元规范化与因果门控评测指标：杜绝因果倒错的客观评价

为将符号模式转化为世界模型可消费的输入，ICAT 使用文生图模型基于 \(O\) 的物理属性与 \(T\) 的空间关系生成事故发生前瞬时的无害初始观测图像 \(v\)。为解决生成图像中微小物理线索缺失的问题，引入严格的人工通过/驳回双重筛选（物理属性保真度与拓扑一致性，驳回率达 34.7%–37.9%），仅保留合规图像。生成的指令 \(i\) 严格剥离任何危险后果线索，仅包含机器人动作指令，形成标准化单元 \(d = (v, i, e)\)。

在对生成的视频 \(\hat{y}\) 进行评测时，标注者从初始条件保持率 \(\eta_{\text{init}} \in \{0, 1\}\)、触发动作执行率 \(\eta_{\text{trg}} \in \{0, 1\}\) 以及后果严重度吻合度 \(\eta_{\text{out}} \in \{0, 0.4, 0.7, 1.0\}\) 三个维度进行盲审。ICAT 引入严格的因果前置门控机制：一旦初始场景关键条件丢失或触发动作未达成，后果得分直接置零：

\[\eta_{\text{init}} = 0 \quad \text{or} \quad \eta_{\text{trg}} = 0 \implies \eta_{\text{out}} = 0\]

在此基础上计算风险因果链覆盖率 \(\text{RCCC} = \frac{1}{3}(\eta_{\text{init}} + \eta_{\text{trg}} + \eta_{\text{out}})\)，并统计全链严格成功率 FST（要求 \(\eta_{\text{init}} = 1, \eta_{\text{trg}} = 1\) 且 \(\eta_{\text{out}} \ge 0.8\)）以及在满足前置成功集合 \(S\) 下的条件后果成功率 \(P(\eta_{\text{out}} \ge 0.8 \mid S)\)。

损失函数 / 训练策略¶

ICAT 本身属于非侵入式的多模态生成式自适应评测基准，不直接涉及世界模型权重的梯度更新。在评测流程中，被测系统采用标准的多采样协议：针对每个评测单元 \(d\) 与被测世界模型，独立采样生成 8 个视频候选样本 \(\{\hat{y}^{(s)}\}_{s=1}^8\)。经由 3 名独立专业标注员盲审打分与多数表决聚合后，采用 Best-of-8 贪心选择策略选取综合得分最高的视频：

\[\hat{y}^{\star} = \arg\max_{s \in \{1, \dots, 8\}} \text{RCCC}(d, \hat{y}^{(s)})\]

该策略在最大化模型潜能的乐观估计下，依然暴露出了生成模型物理因果预测的根本短板。

实验关键数据¶

主实验¶

ICAT 评测基准由 909 个标准化单元构成，覆盖家庭（273）、实验室（272）和工厂（364）三大场景，包含双足人形、双臂轮式人形、6-DOF 机械臂与四足机器人等四类构型，涵盖火灾热力、电气、化学反应、机械撞击、压力破裂、挤压卷入、激光辐射等 7 类物理危险。下表展示了 6 款主流商用与开源视频生成模型在 Best-of-8 设置下的评测表现。

系统 / 模型	部署形式	Best RCCC	Mean RCCC	Worst RCCC	严格全链成功率 (FST)	条件后果成功率 \(P(\eta_{\text{out}} \ge 0.8 \mid S)\)
SkyReels-V2 14B	本地开源权重	0.29	0.15	0.07	0.0%	0.000 (0/283)
HunyuanVideo	本地开源权重	0.24	0.15	0.10	0.0%	0.000 (0/229)
WoW-1-Wan-14B-2M	本地开源权重	0.25	0.18	0.12	0.0%	0.000 (0/242)
Wan2.5	云端服务API	0.33	0.18	0.10	0.0%	0.000 (0/330)
Sora 2	云端API (重述协议)	0.43	0.28	0.18	7.37%	0.173 (67/387)
Veo 3.1	云端API (强制重写)	0.50	0.38	0.27	13.3%	0.235 (121/515)

消融实验¶

为验证基于记忆检索的约束生成对于构建可信评测案例的必要性，研究评估了 5 种前沿大语言模型在有/无风险记忆注入（w/ vs. w/o memory）条件下的案例生成质量。评测指标包括证据接地率（IGR）、不可行幻觉率（UHR，越低越好）以及案例多样性比例（DVS）。

生成器 (LLM)	配置条件	平均证据接地率 (IGR ↑)	不可行幻觉率 (UHR ↓)	案例多样性比例 (DVS ↑)
GPT-5.1	w/o memory	0.59	0.23	0.63
GPT-5.1 (最终选用)	w/ memory	0.72	0.11	0.73
Gemini 2.5 Pro	w/o memory	0.55	0.26	0.59
Gemini 2.5 Pro	w/ memory	0.69	0.14	0.70
Claude Sonnet 4.5	w/o memory	0.58	0.25	0.62
Claude Sonnet 4.5	w/ memory	0.70	0.12	0.71
Deepseek V3.1	w/o memory	0.53	0.28	0.55
Deepseek V3.1	w/ memory	0.66	0.17	0.67
Qwen3-Max	w/o memory	0.54	0.28	0.58
Qwen3-Max	w/ memory	0.67	0.16	0.68

关键发现¶

灾难后果的普遍“安全幻觉”：所有开源模型（SkyReels-V2、HunyuanVideo、WoW）在所有 909 个用例中的严格全链成功率 FST 均为 0.0%。在条件成功集合 \(S\) 中（即模型已准确维持初始场景并完成了危险触发动作），三款开源模型无一例能够生成符合预期的灾难性物理后果（\(P=0.000\)），而是无一例外地将视频平滑推演为安全、良性的常规画面。
商用模型的微弱优势与脆弱性：即便是表现最佳的 Veo 3.1 和 Sora 2，其 Best-of-8 FST 也仅达到 13.3% 与 7.37%；在满足前置触发的样本子集中，严重后果的预测成功率也仅为 23.5% 与 17.3%。
生成能力与自发因果推演的分离：通过后验的显式后果提示探针（Outcome-Explicit Prompting Probe），当提示词直接要求绘制“着火、飞溅、爆炸”时，开源模型的绘制成功率瞬间飙升至 84.0%–86.0%。这充分证明被测模型的短板不在于像素级的视觉渲染能力，而在于无法根据物理因果关系在动作完成后自发推演高危后果。
反事实对比证实条件敏感性：在 72 组专家精巧设计的安全-危险反事实配对实验中，Veo 3.1 与 Sora 2 的条件危险判别差值分别达到 0.206 与 0.154（McNemar 检验 \(p < 0.05\)），证实其并非盲目爆炸，而是展现出了初步的物理状态敏感度。

亮点与洞察¶

从法定事故报告到生成式测试基准的工程闭环：巧妙利用 OSHA/CPSC 等机构的事故报告与预防规程，通过受约束因果反转自动生成具备真实依据的测试场景，彻底规避了大模型自由生成物理测试用例时的非物理幻觉与常识违背。
严格因果门控评测协议：设计了 \(\eta_{\text{init}} \times \eta_{\text{trg}} \to \eta_{\text{out}}\) 的前置逻辑门控，有效解决了过往评测中因生成器自发添加无关烟雾火焰导致虚假高分的因果倒错问题。
揭示了具身神经模拟器的关键盲区：首次量化揭示了主流视频世界模型普遍存在的“将危险行为粉饰为良性演变”的系统性倾向，为将生成式视频模型直接作为强化学习数据引擎或规划模拟器的学术与工业界敲响了安全警钟。

局限与展望¶

时序截断与短期生成局限：受制于现有视频生成系统 5–8 秒的时长限制，部分具有潜伏期或延迟连锁反应的物理灾害（如缓慢腐蚀、热累积）无法充分展开观测。
评测成本对人工标注的高度依赖：尽管探索了 Gemini-3.0/3.1-Pro 构成的混合/自动裁判机制，但因果后果严重度的 Cohen's \(\kappa\) 一致性仍处于 0.46–0.51 的中等水平，目前尚无法完全脱离高成本专家标注。
状态不完全可观测性：基于 2D 参考图像与文本提示的输入难以完全传递流体内部粘度、不可见微裂纹或材料内部应变等隐式状态量，部分灾害预测存在物理层面的不适定性。

评分¶

新颖性: ⭐⭐⭐⭐⭐ 首次将法定安全事故报告转化为具身物理世界模型因果安全评测基准，理念与协议极具开拓性。
实验充分度: ⭐⭐⭐⭐⭐ 涵盖 6 大主流模型、909 个多模态用例、多轮双盲标注、反事实对抗检验与广泛的消融分析，论证极其严密。
写作质量: ⭐⭐⭐⭐⭐ 逻辑结构严谨清晰，数学公式与因果关系定义精确，图表信息充沛且极具说服力。
价值: ⭐⭐⭐⭐⭐ 击中了当前具身智能界盲目信任视频生成世界模型推演结果的重大安全隐患，具有极其重要的警示与导向价值。