跳转至

Beyond Single-Policy: Evaluating Composed Organization-Specific Policy Alignment in LLM Chatbots

会议: EMNLP 2026
论文: ACL Anthology
代码: https://github.com/FudanSELab/COPAL
领域: 对话系统
关键词: 组织特定策略、复合策略对齐、聊天机器人评估、执行契约、交互模式

一句话总结

针对现实组织级聊天机器人中单请求常跨越多个组织策略的盲区,本文提出自动化评测框架 COPAL,通过从实证数据诱导出的四类策略交互模式与目标切面构建复合测试用例并绑定显式执行契约,在 30 个虚拟组织环境中揭示出主流大模型在复合策略下高达 33.1% 的单侧执行失败率。

研究背景与动机

大语言模型聊天机器人正广泛落地于医疗、金融、公共服务和电商等企业与公共组织场景。在这些垂直业务中,聊天机器人的行为必须严格遵守组织特定的策略规定,明确界定哪些内容被允许、哪些被禁止。例如在健康医疗咨询中,系统可以提供常规挂号和通用产品营养介绍,但严禁向患者提供个性化的诊断结论或医疗建议。为了防范合规漏洞、错误指导及声誉风险,评估聊天机器人的策略对齐能力变得至关重要。

然而,现有的策略对齐基准测试(如 PBSuite、Compass、AIR-Bench 等)普遍遵循“每次只测一条策略”的单策略范式。这种设计严重脱离了真实的部署场景:在真实对话中,用户的提问完全是围绕自身目标展开的,自然会同时触发组织内部的多条不同策略。作者对已部署聊天机器人的 1,000 条人工标注真实流量审计显示,高达 47.6% 的真实请求涉及两条或更多策略,并且复合策略请求的出错率约为单策略请求的三倍。单一策略测试通过,根本不能保证模型在需要同时满足多重约束的复合请求下依然合规——例如当用户询问“我最近血糖偏高,哪种低糖套餐适合我?”时,模型往往为了响应允许的产品说明,而直接越界给出了个性化健康建议,导致隐性违规直到上线后才暴露。

直接构建复合策略评测面临两大严峻挑战:一是策略组合的搜索空间呈组合爆炸,盲目拼接会导致大部分用例脱离真实语境;二是评测标准无法直接从单条规则复用,若让评测裁判在评分时临时推导组合边界,裁判自身的推理误差便会与机器人的错误混淆。核心 idea:将复合策略评测显式拆解为基于四类经验交互模式与目标切面的受控测试构建,并为每个测试项绑定明确规定“必须提供”与“必须避免”的执行契约,实现可靠、可控的组织级复合策略对齐评估。

方法详解

整体框架

COPAL 接收包含功能描述与自然语言策略集的组织环境作为输入,自动化输出一组高质量用户测试查询,并为每个查询配对明确的执行契约。整个评估流程分为四个阶段: 1. 策略形式化落地(Policy Grounding):将非结构化策略文本解析为结构化的三元组子句; 2. 组合结构构建(Composition Construction):在巨大的组合空间中,根据触发条件共存性和语义相关性筛选可行子集,并映射到四种核心交互模式; 3. 复合查询生成(Composed Query Generation):结合具体的目标切面(Target Facet)将组合记录具体化为富有真实感的用户提问,同时生成明确的执行契约; 4. 策略执行评估(Policy-Handling Evaluation):将模型生成回复映射为实际执行动作集合,并严格依据执行契约进行判定打分。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["组织上下文与策略清单<br/>自然语言策略文本"] --> B["策略形式化落地<br/>触发条件-范围-规约效果三元组"]
    B --> C["组合结构构建<br/>四类交互模式筛选可行子集"]
    C --> D["复合查询生成<br/>目标切面诱导提问与显式执行契约"]
    D --> E["目标聊天机器人生成回复<br/>基于组织 Prompt 推理回答"]
    E --> F["策略执行评估<br/>对比必须包含与严禁包含契约"]
    F --> G["评估结果与失效归因<br/>输出单侧执行失效与诊断切面"]

关键设计

1. 策略形式化落地:结构化三元组与效果规范化

非结构化策略文本通常省略触发时机或将多项义务糅杂在一起(例如简单的一句“严禁提供医疗建议”,未说明触发上下文)。COPAL 将每条自然语言策略解析为三元组: $\(r = (\phi_r, \omega_r, \epsilon_r)\)$ 其中 \(\phi_r\) 表示规则适用的触发条件(包含意图、账户状态、历史对话条件等),\(\omega_r\) 表示规约的目标范围(涉及的具体操作、字段或工作流环节),\(\epsilon_r\) 则是规范化的规约效果。借鉴组织策略本体,效果标签被严格规范化为六类:允许(PERMIT)、禁止(PROHIBIT)、前置准入校验(REQUIRE-GATE)、披露(DISCLOSE)、隐匿保留(WITHHOLD)以及流程流转(ROUTE)。这种结构化解耦使得不同策略条目在后续能够进行跨维度语义匹配。

2. 基于四类交互模式的组合结构构建

任意两条甚至多条策略虽然理论上可以组合,但在现实中多数规则永远不会在同一请求中同时被激活。COPAL 实施两步过滤:首先,候选策略集合必须在单次连贯的用户请求中能够同时满足触发条件 \(\phi_r\),且其作用范围 \(\omega_r\) 必须落在同一业务主题或上下文中;其次,规则之间的效果关系必须契合经验提炼出的四种核心交互模式: - 范围限制(Scope Restriction):在允许与禁止之间寻求边界,回答许可部分,省略限制部分; - 前置准入校验(Prerequisite Gating):在允许与准入之间建立先后序,必须先触发并完成资质/身份验证,再提供目标内容; - 选择性披露(Selective Disclosure):在披露与隐匿之间划清字段界限,展示公开字段,严格扣留敏感保护字段; - 工作流流转(Workflow Transfer):在常规允许与路由转交之间切换,触发特定条件时必须转向指定人工或专业流程,禁止默认路径继续。

3. 目标切面诱导的查询生成与显式执行契约构建

单纯将策略组合变成提问容易产生平淡且缺乏诊断性的对话。COPAL 引入目标切面(Target Facets)作为生成导向,每种交互模式下预设三个易错切面(如范围限制对应“边界越界、过度拒绝、语义泄露”;前置准入对应“前置泄露、跳过验证、错误范围校验”等),驱使大模型生成带有业务迷惑性、高压力的拟真提问。更重要的是,COPAL 避免在评测时让裁判动态推导组合边界,而是在生成查询的同时固定双边执行契约: - \(R_q\):回复必须包含的内容或动作(如提供产品通用营养标签); - \(F_q\):回复严禁出现的内容或动作(如基于糖尿病提供定制饮食建议)。

4. 基于执行契约的确定性判定与失效归因

评测阶段,响应评判器(LLM Judge)并不直接通读全量策略,而是直接将聊天机器人的回答 \(M(q)\) 映射为观察到的执行特征集 \(H_M(q)\)。当且仅当模型缺失了任何一项必须执行项,或者触犯了任何一项禁止项时,判定该查询失败: $\(e_q = \mathbb{I}\left( R_q \not\subseteq H_M(q) \;\lor\; F_q \cap H_M(q) \neq \emptyset \right)\)$ 全量误差率计算为 \(\text{Err}(M, Q) = \frac{1}{|Q|}\sum_{q\in Q} e_q\)。由于契约双向明确,判定过程解耦了评测模型自身的组合推理负担,大幅提高了自动化审计的精度与可信度。

实验关键数据

主实验

主实验在覆盖 30 个行业的 30 个虚拟公司世界(包含 882 条策略规则、900 个精选复合测试项)上评测了 9 款主流模型。同时,在 5 款模型上进行了单策略投影与复合策略的成对对比(Paired Single-Policy vs. Composed-Policy Contrast)。

模型 复合策略总误差率 (%) 范围限制误差 (%) 前置准入误差 (%) 选择性披露误差 (%) 工作流流转误差 (%) 单策略投影误差 (%) 组合引发净增误差 (pp)
GPT-5.5 15.89 13.19 17.88 13.14 21.98 2.94 +12.95
Gemini 3.1 Pro 18.33 14.29 26.26 20.00 17.03 2.42 +15.91
GLM-5.1 25.33 19.51 39.66 21.14 26.92 - -
Claude Sonnet 4.6 27.00 21.15 35.75 25.71 31.32 3.11 +23.89
Kimi K2.6 28.89 24.73 39.66 29.71 25.82 - -
Qwen3.5 42.89 37.91 48.04 48.00 42.86 - -
Doubao-Seed-2.0-pro 43.89 37.36 56.98 44.00 43.96 3.46 +40.43
MiniMax-M2.7 46.67 40.93 56.42 50.29 45.05 - -
DeepSeek-V3.2 49.33 46.43 49.72 50.86 53.30 4.15 +45.18

消融实验

消融实验对比了测试项构建中策略落地、模式约束与切面导向的逐级作用,在控制每家企业 12 个最终测试预算的严密设定下统计诊断失误捕获率;此外,评估了采用执行契约对评判裁判(Gemini 3 Flash)可靠性的提升。

模块配置 / 评测设定 考察指标 测试值 说明
构建分级消融 每家公司控制 12 条测试项
Raw-policy(原始文本提示) 探针总误差率 4.03% 缺乏结构约束,生成用例过于泛化
Clause-only(仅引入子句三元组) 探针总误差率 7.50% 无交互模式引导,缺乏高危边界对抗
w/o facet gen(仅模式无切面引导) 探针总误差率 10.69% 缺少具体违规倾向诱导,难以暴露深层漏洞
Full COPAL(完整构建流水线) 探针总误差率 31.94% 多层级协同,极大幅度提升诊断捕获效率
裁判可靠性验证 (200 人工标注) 与资深专家人工标注对齐
Full Policy Inventory(通读全量策略) 判定一致率 / F1 56.5% / 40.8% 裁判面临组合重构负担,召回率极低(26.1%)
Handling Contract(显式执行契约) 判定一致率 / F1 80.5% / 80.4% 精确解耦评测逻辑,精确率 95.2%、假阳率仅 4.7%

关键发现

  • 复合策略出错率急剧跃升:在成对对比中,当策略单独测试时,所有模型的错误率极低(2.42%~4.15%);但当相同策略组合到单个请求中时,错误率跃升至 15.89%~49.33%,净增 12.95~45.18 个百分点。单策略的通过表现完全无法代表复合策略的安全性。
  • 单侧执行(One-Sided Failure)成为普遍常态:错误归因显示,模型罕见同时违反两边,而是呈现极端的一侧偏向——要么因急于提供允许的内容而无视限制条款(如前置准入泄露达 55.2%、语义泄露达 47.4%);要么一遇到敏感词就全面拒答(过度拒绝),无法做到合规前提下的选择性服务。
  • 前置准入校验(Prerequisite Gating)是普遍最大短板:在 9 款模型中有 7 款在该模式下出现最高错误率(多款模型超过 56%),表明模型极易在未满足验证前提时抢先吐出实质性数据。

亮点与洞察

  • 切中企业智能体落地的核心盲区:首次从真实业务流量审计出发,证明多策略复合对齐是导致线上系统频频暴雷却在单项测试中隐形的根本原因,推动策略评估从“单条准则”向“复合系统边界”跃迁。
  • 执行契约解耦裁判推理误差:在测试构建阶段就固化“必答”与“必拒”的边界契约,将复杂的开放式 LLM-as-a-Judge 转化为确切的契约依从性核验,将评估 F1 从 40.8% 提升至 80.4%。
  • 对对话系统训练具有极强迁移价值:四种交互模式(范围限制、前置准入、选择性披露、工作流流转)可直接反哺为多轮安全对话的合成数据协议与强化学习奖励建模准则。

局限与展望

  • 环境交互仍处于单轮仿真状态:虚拟公司环境主要模拟了单轮系统提示与对话,尚未涵盖真实企业复杂的后端工具调用、动态数据库读写、实时会话状态转移及动态权限拦截。
  • 模式与切面库依赖实证采样:当前的 4 种交互模式与 12 种目标切面源自试点数据的归纳,虽然覆盖度达 95.1%,但尚未形成完备的语义正交理论体系。
  • 裁判仍存在保守假阴性:自动化裁判在人工审计中有 30.4% 的假阴性率(漏判模型违规),提示对复杂语义伪装下的违规识别仍有提升空间。

相关工作与启发

  • vs PBSuite (Varshney et al., 2025):PBSuite 提供了虚拟公司环境生成协议,但其核心测试仍针对单策略在多轮对话中的服从性;COPAL 进一步突破了单策略假设,构建了跨策略复合交织的高难度对抗测试集。
  • vs Compass (Choi et al., 2026):Compass 聚焦于组织特定规则的冲突与检索;COPAL 则深入到模型单次回答中的精细内容边界把控,特别强调“部分回答+部分约束”的协同达成。
  • vs SORRY-Bench / OR-Bench (Xie et al., 2025; Cui et al., 2025):通用安全基准侧重于模型对恶意越狱的拒绝率与过度拒绝;COPAL 面向真实合规业务,证明了合规不仅是简单的“回答或拒绝”,而是细粒度的“许可披露与前置管控”。

评分

  • 新颖性: ⭐⭐⭐⭐⭐ 首次系统性提出面向企业级聊天机器人的复合策略对齐评估体系并归纳四大交互模式。
  • 实验充分度: ⭐⭐⭐⭐⭐ 涵盖真实工业流量审计、30 个行业基准、9 款前沿大模型对比、逐层消融及 200 条严格的人工对齐审计。
  • 写作质量: ⭐⭐⭐⭐⭐ 概念清晰,形式化定义精炼严密,动机链条层层递进。
  • 价值: ⭐⭐⭐⭐⭐ 对大模型在政务、医疗、金融等强监管高合规业务中的可靠落地提供了关键工具与方法论参考。