An Epistemic Perspective on Agent Awareness¶
会议: AAAI 2026
arXiv: 2511.05977v1
代码: 无
领域: 其他
关键词: 认知逻辑, agent awareness, de re/de dicto, 2D语义学, 完备性证明
一句话总结¶
本文首次将 agent awareness（智能体感知/意识）视为一种知识形式，区分了 de re（关于物理对象的）和 de dicto（关于概念/描述的）两种感知模态，并基于 2D 语义学提出了一个可靠且完备的逻辑系统来刻画这两种模态与标准"事实知识"模态之间的相互作用。
背景与动机¶
随着人工智能体越来越多地参与影响人类生活的重要决策，正确的决策往往取决于对其他智能体存在的感知（awareness）。例如： - 战争机器人必须在感知到平民存在时最小化伤亡 - 自动驾驶汽车必须在感知到让行标志处有来车时停车 - 医疗AI在感知到有人生病时必须提供帮助 - 价值对齐的机器人在感知到有人被冒犯时必须道歉
然而，"awareness"是一个模糊的术语，现有文献将其视为一个独立概念。剑桥词典将其定义为"knowledge that something exists"（知道某物存在的知识），这暗示了一种认知论（epistemic）解释。本文正是基于这一认知论视角，给出了 awareness 的形式化账户。
核心问题¶
- 如何形式化地区分两种不同形式的 agent awareness？
- 如何建立一个逻辑系统来推理这两种 awareness 及其与标准知识的关系？
- 该逻辑系统是否可靠且完备？
方法详解¶
整体框架¶
论文构建了一个基于自我中心逻辑（egocentric logic）和 2D 语义学的认知逻辑系统，包含三个模态算子：
- K φ（"knows φ about herself"）：标准的自我知识模态，表示智能体知道关于自身的属性 φ
- R φ（"de re aware"）：de re 感知模态，表示智能体作为物理对象感知到某个具有属性 φ 的智能体
- D φ（"de dicto aware"）：de dicto 感知模态，表示智能体在概念层面感知到某个具有属性 φ 的智能体
关键设计¶
-
De Re vs De Dicto 感知的双模态区分:
- 功能：将"感知"（awareness）拆分为两种本质不同的模态算子 \(R\varphi\)（de re）和 \(D\varphi\)（de dicto），与自我知识算子 \(K\varphi\) 共同构成三模态认知系统
- 核心思路：\(R\varphi\) 表示智能体作为物理对象感知到某个具有属性 \(\varphi\) 的智能体——该智能体在当前世界具有 \(\varphi\) 且存在于所有不可区分世界中（"看到了但不知道是什么"）；\(D\varphi\) 表示在每个不可区分世界中至少存在一个具有 \(\varphi\) 的智能体（"知道有这个概念但不知道具体是谁"）。运行示例：Ann 看到便衣警车是 de re 感知，收到 WeRide 短信知道附近有自动驾驶车是 de dicto 感知
- 设计动机：已有认知逻辑通常将感知视为单一概念，无法区分"感知到物理对象但不知其属性"和"拥有概念但无法定位对象"这两种认知状态，双模态区分填补了这一表达力缺口
-
基于 2D 语义学的认知模型与三元满足关系:
- 功能：为三模态系统提供精确的模型论语义基础
- 核心思路：认知模型定义为五元组 \((W, A, P, {\sim}, \pi)\)，其中 \(P \subseteq A \times W\) 为存在关系（智能体出现在哪些世界），\(\sim_a\) 为不可区分等价关系。关键创新是采用三元满足关系 \(w, a \Vdash \varphi\)（世界 \(w\)、智能体 \(a\)、公式 \(\varphi\)），借鉴 2D 语义学同时捕捉世界维度和智能体维度的信息，使得 \(R\) 和 \(D\) 的语义可以自然地分别量化智能体的跨世界存在性和属性持有性
- 设计动机：传统 Kripke 语义的二元满足关系无法同时追踪"哪个智能体被感知"和"在哪个世界被感知"，2D 语义学的双维度结构恰好匹配 de re/de dicto 的区分需求
-
公理系统与完备性:
- 功能：为三模态认知逻辑提供可靠且完备的演绎系统
- 核心思路：系统包含 8 条公理和 4 条推理规则。核心公理包括：\(K\varphi \to \varphi\)（Truth）、\(\varphi \to R\varphi\) 和 \(K\varphi \to D\varphi\)（Self-Awareness，连接三个算子）、\(D\varphi \to KD\varphi\)（de dicto 感知可内省）、\(R(\varphi \lor \psi) \to R\varphi \lor R\psi\)（de re 的析取性，反映其"指向具体对象"的特性）、\(D(R\varphi \lor D\varphi) \to D\varphi\)（General Awareness，统一两种感知）。推理规则包括 Modus Ponens、Necessitation（\(\varphi \vdash K\varphi\)）及针对 \(D\) 和 \(R\) 的 Monotonicity 规则
- 设计动机：公理刻画了 \(K\)、\(R\)、\(D\) 三者之间的层次关系——\(K\) 蕴含 \(D\)、自身属性蕴含 \(R\)，同时 de re 具有析取性而 de dicto 不具有，精确反映了两种感知的结构差异
损失函数 / 训练策略¶
本文是纯理论/形式化验证工作，不涉及损失函数或训练策略。核心技术是完备性证明，使用了改进的 "matrix" 技术：
- Frame 构造：定义了 frame 作为部分构建的模型，包含显式的 awareness 关系 ↝
- λ-assured 集合：引入 λ-assured 的概念处理模型构建中的"幽灵间谍"现象——只有绝对不可检测的智能体才与数据集一致
- 完备 frame：通过逐步扩展有限 frame（添加新世界/新智能体）满足五类完备性要求
- 典范模型：基于完备 frame 构建典范模型，证明 Truth Lemma（φ ∈ X^a_w ⟺ w, a ⊩ φ）
实验关键数据¶
本文为纯理论工作，主要结果为两个定理：
| 定理 | 内容 | 意义 |
|---|---|---|
| Theorem 1（Soundness） | 若 ⊢φ，则对所有认知模型的世界 w 和智能体 a，w,a ⊩ φ | 公理系统不会推出错误结论 |
| Theorem 2（Strong Completeness） | 若 X ⊬ φ，则存在认知模型使 X 中所有公式为真但 φ 为假 | 公理系统足以推出所有语义有效公式 |
消融实验要点¶
作为理论工作，论文通过以下方式验证了各公理的必要性：
- Self-Awareness 公理的合理性来源于模型设计：每个智能体必然存在于其出现的所有世界中
- Introspection of Awareness 仅对 D（de dicto）成立，对 R（de re）一般不成立——这是一个重要的不对称性
- Disjunctivity 仅对 R 成立（由语义的存在量词结构保证），对 D 不成立
- General Awareness 公理连接了 R 和 D，名称源自 A φ = R φ ∨ D φ 的"一般感知"缩写
亮点¶
- 概念创新：首次将 awareness 从独立概念转变为知识的子类型，这一视角在哲学上更优雅且在实际应用中更有操作性
- De re/de dicto 的精确形式化：用无量词的模态逻辑（而非一阶认知逻辑）捕捉了本质上需要量词的概念区分
- 运行示例设计精妙：通过 Ann、WeRide 和警车的场景，将抽象的逻辑概念变得直观
- λ-assured 集合的引入：巧妙处理了 frame 构建中"添加新世界导致 awareness 丢失"的技术困难
- 完备性证明的 matrix 技术创新：在已有技术基础上增加了 awareness 关系和行标签，解决了 2D 语义学中世界与智能体的"解耦"问题
局限与展望¶
- 缺乏计算复杂度分析：论文未讨论模态满足问题或模型检测的复杂度
- 静态逻辑：未考虑动态更新（如信息获取/遗忘导致 awareness 变化的动态逻辑扩展）
- 跨世界身份假设：假设了跨世界身份（transworld identity）的存在，但这在语言哲学中本身是有争议的话题
- 单一智能体视角：虽然模型中有多个智能体，但模态 K、R、D 都是关于"当前智能体"的属性，未直接刻画多智能体交互推理
- 缺乏应用验证：未展示该逻辑系统在实际 AI 系统（如自动驾驶决策）中的应用或 model checking 实现
- 与概率/不确定性的结合：现实中 awareness 往往是渐进式的，而非二值逻辑能完整捕捉
与相关工作的对比¶
| 工作 | 关注点 | 与本文区别 |
|---|---|---|
| Fagin & Halpern (1987) | 概念性 awareness（awareness of concepts） | 本文关注 agent awareness（对其他智能体的感知） |
| Board & Chung (2021, 2022) | 基于对象的 unawareness | 不区分 de re/de dicto |
| Epstein, Naumov & Tao (2023) | De re/de dicto "know who" | 使用量词，无法表达 awareness |
| Epistemic Logic with Assignments (Wang & Seligman 2018) | 通用的带赋值认知逻辑 | 更通用但不针对 awareness |
| Jiang & Naumov (2025) | 数据匿名化中的 de re/de dicto | 关注数据集属性推断，非 awareness |
| Naumov & Tao (2023) | "Telling apart" 模态的完备性 | 无 awareness 模态，本文基于其 matrix 技术但做了重要改进 |
本文的独特贡献在于：(1) 首次提出无量词的 awareness 模态 R 和 D；(2) 在完备性证明中引入 awareness 关系和 λ-assured 条件。
启发与关联¶
- 对 AI Safety 的启示：为自动驾驶等系统的"感知-决策"链提供了形式化验证框架——可以精确定义"系统应该在感知到什么时做什么"
- 与 multi-agent systems 结合：可扩展为多智能体协作/博弈中的 awareness 推理，例如"我知道你知道我在这里"的高阶 awareness
- 与 LLM agent 的关联：当前 LLM-based agent 的 awareness 机制（如 tool use、环境感知）缺乏形式化保证，本文的逻辑框架可为此提供理论基础
- model checking 工具开发：基于该公理系统开发自动验证工具，检验 AI 系统的 awareness 属性是否满足安全规范
评分¶
- 新颖性: ★★★★☆ — 将 awareness 作为知识处理的视角新颖，de re/de dicto 在 awareness 中的形式化是原创贡献
- 理论深度: ★★★★★ — 完整的可靠性和强完备性证明，技术含量高
- 实用性: ★★☆☆☆ — 纯理论工作，距离实际应用尚有距离
- 表达清晰度: ★★★★☆ — 运行示例有效地辅助理解，但证明部分技术性较强
- 综合评分: ★★★★☆