Experiments or Outcomes? Probing Scientific Feasibility in Large Language Models¶

会议: ACL 2026
arXiv: 2604.18786
代码: https://github.com/mohammadi-ali/scify
领域: 可解释性
关键词: 科学可行性评估, 控制知识框架, 证据鲁棒性, 实验vs结果, LLM推理

一句话总结¶

构建控制知识框架系统研究LLM在科学可行性评估中如何利用实验描述和结果证据，发现提供结果证据比实验描述更可靠，部分实验信息常导致性能低于仅用参数知识的基线，揭示了LLM推理的脆弱性。

研究背景与动机¶

领域现状：LLM被越来越多地用于科学工作流程（文献综述、假设生成、实验规划），但其执行基本科学任务——科学可行性评估——的能力尚不清楚。可行性评估要求判断一个声明是否符合既有知识，以及实验证据能否支持或反驳它。

现有痛点：现有工作要么聚焦于假设生成而非评估，要么将模型内部知识与检索混合使用而未隔离各自的贡献，要么在非科学场景中检验外部知识的依从性。三个关键问题未被回答：（RQ1）LLM能否仅用参数知识评估可行性？（RQ2）提供实验/结果上下文如何改变判断？（RQ3）这些判断在信息不完整时多鲁棒？

核心矛盾：直觉上更多证据应该帮助判断，但部分/噪声证据可能反而误导——LLM是否能优雅地处理不完整信息？

本文目标：通过系统控制实验和结果的可见性，理解证据类型对LLM可行性判断的影响。

切入角度：设计4种知识条件（仅假设/+实验/+结果/+两者）和稳定性分析（渐进移除部分证据）。

核心 idea：结果证据通常比实验描述更可靠，部分证据常导致脆弱崩溃而非优雅退化。

方法详解¶

整体框架¶

这是一项探针式分析研究：给定一条科学假设 \(h\)，让 LLM 在严格控制的证据可见性下输出"可行/不可行 + 理由"，通过对比不同证据条件下判断的变化来反推模型究竟在依赖哪类信息。具体设四种知识条件——H（仅假设）、H+E（加实验描述）、H+O（加结果摘要）、H+E+O（两者皆给），并用比例参数 \(k_1, k_2 \in \{0, 0.5, 1.0\}\) 控制实验与结果各自的可见比例，每个配置随机采样 5 次取平均，使证据类型成为唯一变量。

关键设计¶

1. 控制知识框架：把预测任务钉死，只让证据变

此前工作把模型内部知识、检索内容、实验信息混在一起，无法分清到底是哪类证据在起作用。本文的做法是保持预测任务完全相同（始终输出可行性判断加理由），只改变伴随假设的上下文 \(x \in \{\emptyset, \mathcal{E}^*, \mathcal{O}^*, (\mathcal{E}^*, \mathcal{O}^*)\}\)；且实验描述与结果均直接从源论文中抽取而非检索，杜绝证据质量本身的波动。这样一来,不同条件下的预测差异就能被干净地归因于证据类型，而非任务难度或证据噪声。

2. 稳定性分析：看证据残缺时是优雅退化还是脆性崩溃

真实科学推理常基于不完整证据，一个可靠的推理者应当"有多少信息用多少"，性能随证据减少而平滑下降。本文据此把实验与结果的可见比例从 1.0 逐级降到 0.5 再到 0（即调 \(k_1, k_2\)），观察曲线是单调退化还是非单调崩溃，并定义"低于基线率"——部分证据条件下性能反而低于零证据基线 H 的比例。若给一半证据比不给还差，就说明模型做的是表面对齐而非深层推理。

3. 多维评估体系：在类别不平衡下选更可信的指标

可行性判断是类别不平衡的二分类，单看准确率容易被多数类拉高而失真。本文因此并列报告准确率、macro-F1 与 MCC（后者在不平衡分类下信息量更高），并用解释与参考解释的 ROUGE 词汇重叠作为辅助诊断信号（不作为主指标）。评估横跨 GPT-5.1、GPT-4o、Gemini-2.5-Pro/Flash、Grok-4.1-fast 五个前沿模型与两个数据集，以确保发现具备跨平台一致性。

损失函数 / 训练策略¶

纯评估研究，全程零样本提示，所有模型使用完全相同的任务指令，不涉及训练或微调。

实验关键数据¶

主实验¶

GPT-5.1在MoF数据集上的表现：

条件	Accuracy	F1_macro	MCC
H（仅假设）	0.68	0.67	0.42
H+E（100%实验）	0.70	0.69	0.44
H+O（100%结果）	0.66	0.66	0.33
H+E+O（全部）	0.66	0.66	0.33

消融实验¶

在Reasons数据集上（GPT-5.1）：

条件	Accuracy	说明
H	0.84	参数知识基线
H+E (50%)	0.85	轻微提升
H+O (100%)	0.92	结果证据强
H+E+O (100%)	0.93	最优
H+E (50%) + H+O (50%)	0.90	部分证据有用

关键发现¶

结果证据（outcomes）通常比实验描述（experiments）更能改善可行性判断——在Reasons数据集上，H+O一致优于H+E
实验描述可能是"脆弱的"：部分实验信息（\(k_1=0.5\)）在多个模型上导致性能低于仅假设的基线，表明模型在做表面特征匹配而非真正理解实验设计
退化常是非单调的——\(k_1=0.5\) 的表现可能比 \(k_1=0\) 更差——说明模型不是在做"有多少信息用多少"的推理
Gemini-2.5-Pro在实验描述条件下表现最不稳定（从0.67降到0.48），暴露了严重的表面对齐问题
即使是最强的GPT-5.1，提供完整实验+结果也不一定比仅提供结果更好（MoF数据集上MCC相同或更低）

亮点与洞察¶

"部分证据反而有害"是一个深刻且令人警醒的发现：它揭示了LLM科学推理的根本脆弱性——模型更像是在做pattern matching而非真正理解实验的逻辑结构。这对将LLM用于科学评审和决策有重要警示。
控制知识框架的实验设计非常优雅：通过保持任务恒定、仅变化上下文，实现了干净的因果推断。这个方法论可以迁移到其他评估LLM知识利用能力的研究。
"结果>实验"的发现意味着LLM更擅长处理陈述性知识（"发生了什么"）而非程序性知识（"怎么做的"）——这与LLM训练数据的性质一致。

局限与展望¶

仅使用零样本评估，微调或少样本设置可能产生不同结果
可行性判断被简化为二分类，真实科学可行性通常是一个频谱
实验和结果的提取质量可能影响结论——如果提取不完整本身就可能导致"脆弱性"
解释质量仅用ROUGE词汇重叠评估，无法真正衡量科学推理的逻辑正确性
仅测试了商业API模型，开源模型的表现可能不同

评分¶

新颖性: ⭐⭐⭐⭐ 控制知识框架+稳定性分析的实验设计新颖
实验充分度: ⭐⭐⭐⭐⭐ 5模型×2数据集×9证据条件×5随机种子
写作质量: ⭐⭐⭐⭐⭐ 问题形式化清晰，实验设计严谨
价值: ⭐⭐⭐⭐ 对LLM科学推理能力的理解有重要推进