跳转至

MAViQ: Memory-Augmented Visual Querying for Multi-Turn MLLM Jailbreaks

会议: EMNLP 2026
论文: ACL Anthology
代码: https://github.com/jixingtian/Maviq
领域: 大模型推理
关键词: 多模态大模型; 多轮越狱攻击; 跨模态线索分配; 双层记忆机制; 图像扎根查询

一句话总结

MAViQ 将多轮多模态大模型越狱建模为“轨迹到查询实现”过程,通过轨迹-场景双层记忆与模态分配器动态拆解意图、视觉角色与跨模态交接,并基于生成图像的真实可见内容完成扎根提问,在两大安全基准上超越强基线 5.90% 与 8.32% ASR。

研究背景与动机

随着多模态大语言模型(MLLMs)在文档理解、高分辨率图像分析、具身环境感知以及复杂视觉-语言推理等高阶任务中的广泛应用,其面临的安全红队测试与防御对齐也日益复杂。早期的多模态越狱攻击多局限于静态单轮交互,例如通过在图像中叠加排版伪装字符(FigStep)、对敏感指令进行碎片化语义拆分(Jailbreak in Pieces)、制造跨模态冲突干扰(SI-Attack)或设计视觉角色扮演背景(VRP)等方式诱导模型违规。然而,安全对齐较强的前沿 MLLM 往往能够轻易识别并拦截这些单次注入的模式化危险提示,迫使攻击者转向具备动态自适应能力的多轮对话攻击。在多轮交互中,受试模型在每一轮的回复反馈不仅包含了拒绝或配合的倾向信号,还渗透着部分妥协的上下文设定、技术细节或防御边界线索。

然而,现有多模态越狱范式在利用这些多轮对话反馈时陷入了结构性脱节。一方面,现有的多模态候选集搜索方法(如 VisCo、IDEATOR)虽然具备一定的跨轮搜索能力,但其搜索单元本质上仍是预先构建的离散图文对,既无法根据靶标模型的动态回复反思线索归属,也未曾建模历史轨迹如何具体指导下一轮输入的生成。另一方面,虽然纯文本的多轮越狱(如 Crescendo、FITD)能够根据前序回复渐进式升阶,但在多模态场景下,一条从回复中提取出的线索绝不能被机械地拼接为纯文本提示,而是必须在文本意图、可见物体/动作、或者“文本引用画面”的跨模态转接角色之间做出明确的分配决策。若直接沿用固定图像或脱离生成画面的纯文本自适应,多轮攻击要么退化为带装饰图像的纯文本对话,要么因图文语义割裂而迅速被靶标模型的防御组件拦截。

这种多模态多轮越狱的核心矛盾在于:靶标模型仅能观察到目标视角的图文输入与对话历史,而攻击者必须将包含防御试探、部分进展与拒绝信号的隐式历史轨迹,显式具象化为既符合防御松懈场景、又严格受限于实际生成图像内容的下一轮图文提示。核心 idea:将多轮多模态越狱形式化为“轨迹到查询实现”(Trace-to-Query Realization)框架 MAViQ,通过维护轨迹-场景双层记忆指导显式模态角色分配,并在观察到扩散模型实际生成的图像后再生成扎根文本查询,实现高隐蔽性、高成功率的闭环多轮越狱。

方法详解

整体框架

MAViQ 将多轮多模态攻击严格解构为由四个攻击侧模块与一个裁判路由反馈循环组成的“轨迹到查询实现”系统。针对输入的恶意攻击目标 \(g\) 与场景类别 \(c\),系统在每个攻击轮次 \(t\) 按照以下流程流转:首先,双层记忆系统提供当前实例的细粒度历史线索(轨迹记忆)与同类场景的可复用交互先验(场景记忆);第二阶段,记忆增强模态分配器依据目标与记忆,显式规划出本轮的文本提问意图、图像视觉角色、跨模态交接短语以及文生图提示词;第三阶段,扩散生成模型生成原始图像,随后图像扎根查询生成器在实际观察到生成图像的真实可见内容后,才编写最终的目标文本问题,并拼接视觉锚点说明面板组合成送往靶标模型的图文对;第四阶段,靶标 MLLM 生成回复后,反馈路由器依次调用成功判定、拒绝检测与进展评估,将结构化证据增量回填至轨迹记忆,并在交互终止后提炼压缩至跨实例的场景记忆库中。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["恶意目标与场景输入<br/>Goal & Scenario Input"] --> B["双层记忆检索与管理<br/>Dual-Level Memory"]
    B --> C["记忆增强模态分配器<br/>Memory-Augmented Modality Allocator"]
    C --> D["文生图与图像扎根查询生成<br/>Image-Grounded Query Realizer"]
    D --> E["靶标模型调用与多级反馈路由<br/>Feedback Router & Memory Updater"]
    E -->|重写/拒绝分支| C
    E -->|继续推进/攻击成功| F["最终越狱输出与场景记忆沉淀<br/>Attack Output & Scenario Prior"]

关键设计

1. 双层记忆检索与管理:解决跨实例先验迁移与单实例动态线索跟踪的割裂问题

单轮越狱无法复用成功经验,而普通多轮攻击若直接将完整历史经验塞入对话,又会污染发往靶标模型的对话上下文。MAViQ 构建了彼此解耦的两级记忆体系:局部层面的“轨迹记忆”(Trajectory Memory, \(\mathcal{M}_{\text{traj}}^t\))维护当前攻击实例的即时线索集合 \((C_t^+, C_t^-, \sigma_t)\),其中 \(C_t^+\) 记录靶标模型已经接受的合法化框架、技术术语或关键视觉引用,\(C_t^-\) 记录触发安全拒答、模型自我修正或导致图文脱节的失败特征,\(\sigma_t\) 为当前状态摘要;全局层面的“场景记忆”(Scenario Memory, \(\mathcal{B}_c\))则跨样本持久化存储同类安全场景的历史成功轨迹经验,每条记录表示为 \(b_j = (\pi_j, \rho_j, \gamma_j, \alpha_j)\),分别对应高层模板、交互路径顺序、视觉锚点约束及场景效用分 \(\alpha_j\)。在首轮交互(\(t=1\))时,系统检索得分最高的 Top-3 场景记录以提供规划先验;随后的轮次则完全由局部轨迹记忆接管,使攻击能够迅速自适应于靶标当前的特定防御反馈,避免历史先验过度干预当前实例。

2. 记忆增强模态分配器:化解多轮线索向文本与图像盲目映射导致的模态割裂痛点

在接收到靶标回复的新线索后,攻击者面临的核心决策是将该线索落实到文本中、落实到画面中、还是作为跨模态的指引线索。记忆增强模态分配器运行在文生图之前,它结合恶意目标、靶标可见历史、前序路由状态及双层记忆,输出一份结构化规划方案 \(z_t = (s_t, f_t, a_t^T, a_t^V, h_t, p_t^I)\)。其中 \(s_t\) 代表当前子目标,\(f_t\) 为宏观框架策略(设想/虚构/学术分析),\(a_t^T\) 明确规定文本提问必须索取的内容,\(a_t^V\) 规定图像必须承载的实体、空间关系或物理操作动作,\(h_t\) 为跨模态交接短语(用于指引后续文本如何引用画面中的视觉锚点),\(p_t^I\) 则为精炼的文生图提示词。这种在图像生成前强制解耦模态角色的设计,确保了视觉输入不再仅仅是氛围装饰,而是切实承载了规避文本安全过滤的物理环境与操作道具。

3. 文生图与图像扎根查询生成:消除文生图幻觉与图文不匹配引发的安全拦截

文生图模型(如 Stable Diffusion 3.5 Large)在生成复杂构图时具有随机性,往往遗漏提示词中的细微道具或改变物体空间排布。若在图像生成前直接写死最终文本问题,一旦画面缺失关键线索,靶标 MLLM 就会以“图中并未包含所述物体”为由合理化拒答。为此,MAViQ 引入两阶段生成解耦:图像生成器 \(G\) 先根据提示词生成真实画面 \(I_t^{\text{raw}}\),随后图像扎根查询生成器 \(P_{\text{real}}\) 亲自“检视”该渲染画面,并基于实际可见内容编写最终问题 \(q_t\);若规划中的视觉线索在图中缺失,生成器便退回到纯文本逻辑,绝不向靶标提及虚构的图像细节。此外,系统在原始图像底部固定拼接由提示词提炼出的单行视觉锚点面板(Caption Panel),形成最终输入图像 \(I_t\),既向靶标模型显式确认画面核心实体,又显著降低了 MLLM 对图像解析的歧义度。

4. 靶标模型调用与多级反馈路由:打破黑盒拒答无法有效转化为攻击进化动力的困境

靶标 MLLM 的反馈必须经过分级过滤才能成为有效的攻防信号。MAViQ 设计了严格的前向控制流:首先调用由大语言模型驱动的成功评判器 \(J_{\text{succ}}\),若回复实质性满足了原始有害目标且未被安全套话包裹,则标记为 success 并直接终止;若未成功,则由拒绝检测器 \(J_{\text{ref}}\) 判定该回复是否针对当前子问题构成了阻断,若判定为拒绝,则将轮次标记为 rewrite 并递增重写计数器 \(c_{\text{rew}}\),该失败调用被追加至 \(C_t^-\) 作为强负向特征,但从发往靶标的模型上下文中剔除;若未发生显式拒答,则由进展路由器 \(J_{\text{prog}}\) 将其划分为 progress(有效逼近目标)或 stalled(停滞徘徊)。在整个实例结束后,轨迹被提炼为评分 \(u\) 的经验并更新场景记忆:若与已有记录合并,采用动量滑动平均更新其得分:

\[\alpha'_j = (1 - \lambda)\alpha_j + \lambda u\]

若无匹配则作为全新记录插入,形成长效进化的防御绕过知识库。

评估基准与实验设计

实验在两大多模态安全基准上开展评估:包含 1,680 个涵盖 13 类有害场景实例的 MM-SafetyBench,以及包含 280 个测试样本的跨基准测试集 JailbreakV-mini。实验选取 6 种主流前沿 MLLM 作为黑盒攻击对象,包含开源模型 Qwen3-VL-8B-Instruct、LLaVA-OneVision-1.5-8B-Instruct、InternVL-2.5-8B,以及商业闭源模型 GPT-4o、GPT-5.1 和 Gemini-3.1-Pro-Preview。默认攻击设定采用有效轮次预算 \(T=5\) 与重写预算 \(R=5\)(单样本最大靶标调用上限为 10 次),辅助攻击模块默认采用 GPT-4o 驱动,文生图工具采用 Stable Diffusion 3.5 Large,并采用 GPT-5.1 配合严格的 1–10 打分标准作为评判基准(仅评分为 10 分的无拒绝实质性帮助被计入攻击成功)。

实验关键数据

主实验

在统一的环境设定与评测口径下,MAViQ 与 6 种代表性多模态越狱基线(包含排版欺骗 FigStep、碎片拆解 Jailbreak in Pieces、乱序不一致 SI-Attack、安全拼图 SSA、视觉语境注入 VisCo 及多智能体框架 IDEATOR)在全量目标模型上进行了系统性横向对比。

基准数据集 攻击方法 Qwen3VL LLaVA-OV-1.5 InternVL-2.5 GPT-4o GPT-5.1 Gemini-3.1-Pro 平均 ASR (%)
MM-SafetyBench FigStep 34.70 45.95 42.56 35.18 25.00 26.13 34.92
MM-SafetyBench SI-Attack 12.02 20.48 17.98 13.99 2.02 6.73 12.20
MM-SafetyBench SSA 41.37 50.71 48.39 46.19 15.95 20.83 37.24
MM-SafetyBench VRP 27.98 51.96 42.38 31.96 8.33 15.77 29.73
MM-SafetyBench VisCo 56.55 61.19 58.99 57.50 47.68 50.95 55.48
MM-SafetyBench IDEATOR 66.79 74.23 70.77 67.98 53.98 54.46 64.70
MM-SafetyBench MAViQ (本文) 70.36 75.77 72.98 72.68 66.37 65.42 70.60
JailbreakV-mini FigStep 52.86 68.21 62.50 55.36 40.00 50.36 54.88
JailbreakV-mini SI-Attack 14.64 42.86 27.14 19.29 10.36 8.93 20.54
JailbreakV-mini SSA 46.79 66.07 53.93 51.79 28.57 28.93 46.01
JailbreakV-mini VRP 17.86 72.86 53.21 30.00 7.14 12.14 32.20
JailbreakV-mini VisCo 73.93 81.79 77.86 75.00 52.50 56.79 69.65
JailbreakV-mini IDEATOR 80.36 80.36 80.36 81.43 56.43 63.93 73.81
JailbreakV-mini MAViQ (本文) 82.86 87.14 85.00 86.43 73.21 78.21 82.13

在具备更高对齐鲁棒性的工业级闭源模型上,MAViQ 展现出更显著的突破优势:在 MM-SafetyBench 上,相对最强基线 IDEATOR,MAViQ 对 GPT-5.1 和 Gemini-3.1-Pro 分别取得了 12.39% 和 10.96% 的巨幅 ASR 提升;在 JailbreakV-mini 上对上述两模型的优势分别进一步扩大至 16.78% 和 14.28%。

消融实验

为深入探究动态视觉生成、图像扎根文本生成、记忆以及路由反馈等各子组件的独立效用,作者在 JailbreakV-mini 上针对 GPT-4o 和 Qwen3VL 靶标模型开展了系统消融。

消融变体配置 GPT-4o ASR (%) GPT-4o \(\Delta\) (%) Qwen3VL ASR (%) Qwen3VL \(\Delta\) (%) 核心消融现象解析
Full MAViQ (完整方法) 86.43 0.00 82.86 0.00 完整模态角色分配与闭环双层记忆更新
w/o Mem. (移除全部记忆) 80.36 -6.07 77.50 -5.36 缺少历史有用/失败线索,导致反复踏入防御陷阱
w/o Img.-Grounded Real. (移除图像扎根) 77.17 -9.26 73.93 -8.93 提问前不看图,高频出现“画面无此物”被靶标拦截
w/o Caption Panel (移除视觉锚点面板) 81.07 -5.36 77.50 -5.36 缺少文字锚定说明,靶标对细微物体识别敏感度下降
w/o Routing (移除细粒度路由) 82.14 -4.29 78.21 -4.65 混淆拒答重写与正常推进,削弱上下文自适应质量
Text-only (退化为纯文本多轮) 68.92 -17.51 65.36 -17.50 剥离视觉输入,直接遭遇 LLM 安全护栏拦截
Static Img. (采用单张固定图像) 74.29 -12.14 70.36 -12.50 视觉场景无法随对话线索演进,多轮引导失效
LLM-pred. Scenario Label (模型自判标签) 85.71 -0.72 81.79 -1.07 替代人工场景金标,证明场景记忆不依赖神谕标签

同时,在调用开销与 Token 消耗审计中(以 GPT-4o 交互和 GPT Image 1.5 生成成本为基准),MAViQ 平均仅需 2.72 次靶标调用即可成功越狱,远低于 IDEATOR(5.34 次)与 VisCo(5.08 次);单题平均折算成本仅为 $0.2263,相较 IDEATOR 降低 25.1%,相较 VisCo 降低 47.9%。

关键发现

  • 动态视觉扎根是攻破多模态防线的关键推手:彻底移除视觉输入(Text-only)使 ASR 急剧滑坡超过 17.5%,而使用静态固定图片(Static Img.)同样导致约 12.3% 的性能折损,表明视觉模态不仅是静态载体,其随着对话深度的动态内容演变是瓦解多模态防御的核心杠杆。
  • “先看图后提问”有效消除了模态错位陷阱:在消融实验中,缺少图像扎根生成的变体(w/o Img.-Grounded Real.)下降幅度高达 9.26%,是除纯文本退化外最大的性能降级点;人工审计显示,该消融导致了大量“图中不存在此特征”的合规拒答,证实该模块在保证跨模态指代真实性上的决定性作用。
  • 跨轮次预算收益在早期快速饱和:在有效轮次预算 \(T\) 的敏感性测试中,从单轮 \(T=1\)(53.21% ASR)到三轮 \(T=3\)(80.71% ASR)带来了高达 27.5% 的跨越式增长;但当预算从 \(T=5\) 进一步增至 \(T=10\) 时,ASR 仅从 86.43% 微弱提升至 89.29%,但平均有效轮次翻倍(2.72 \(\to\) 5.82 次),表明 5 轮预算即可达到攻击效费比的最优平衡。
  • 对外部防护具有强鲁棒性但仍受限于特定防御门禁:在四种外部通用防御护栏(AdaShield、ECSO、MLLM-Protector、Llama Guard 3 Vision)拦截下,MAViQ 依然全面超越基线;然而当面对针对其动态图像生成与渐进式跨轮提问机制定制的“靶向防御门禁”(Targeted Defense)时,ASR 显著受挫至 42.86%,为未来防御设计指明了方向。

亮点与洞察

  • 将轨迹到查询实现抽象为多模态越狱的形式化范式:首次精准指出多模态多轮交互中,历史线索在“文本意图”、“视觉实体”与“跨模态引用”三者间的分配决策机制,填补了以往工作将多模态攻击机械等同于静态图文搜索的认知盲区。
  • 生成图像后的闭环二次审视与文本锚定:不迷信文生图模型的提示词遵循能力,而是让文本生成器在生成图片后扮演“看图说话者”,根据实际渲染结果调整措辞,极大提升了对目标 MLLM 的视觉欺骗成功率。
  • 高隐蔽性的非敏感线索解耦传递:每一轮的图像通常呈现合规的日常设备、办公环境或排版卡片,敏感的操作动词则被巧妙隐藏在对合法图像特征的“技术性咨询”之中,从而系统性绕过了基于敏感词匹配的前置安全拦截。

局限与展望

  • 依赖高质量图像生成与文生图模型能力:该方案的越狱效能高度受制于扩散生成模型的生成保真度;在某些涉及精密仪器操作或极度抽象的场景下,文生图的语义漂移依然会导致线索无法在视觉侧建立有效锚点。
  • 跨模态复杂性带来的辅助计算开销:虽然靶标模型的直接调用次数大幅压缩至 2.72 次,但框架内部集成了规划器、生成器、重写器与图像扩散模型,在辅助模块侧的 Token 消耗与推理延迟仍有进一步精简优化的空间。
  • 缺乏多模态长程防御机制的深度探索:现有的防范手段大多停留于单轮输入净化或回复层面的有害词过滤,针对多轮渐进式跨模态渗透,业界亟需研发基于上下文风险演化的跨轮动态审计技术。

相关工作与启发

  • vs FigStep / SI-Attack / SSA / VRP: 经典基线依赖静态预构建的图文对(排版文字、乱序图像或固定角色扮演),缺乏多轮感知能力;MAViQ 将线索融入动态图文进化之中,在闭源强模型上的越狱成功率高出 30%–50%。
  • vs VisCo / IDEATOR: VisCo 和 IDEATOR 虽然引入了多轮交互或多智能体候选搜索,但其本质是在候选池中检索图文对,未实现对单轮反馈的细粒度模态重分配;MAViQ 提出了显式的文本/图像/交接分配协议与看图二次生成,显著提升了越狱效率并压缩了 25%–47% 的总成本。
  • vs Crescendo / FITD: 文本领域的多轮渐进越狱展现了对话反馈的威力,但无法处理多模态协同交互;MAViQ 将纯文本反馈扩展为多模态扎根实现,为研究多模态模型在非文本漏洞上的安全隐患提供了标准红队工具。

评分

  • 新颖性: ⭐⭐⭐⭐⭐ 首次提出多模态多轮越狱的“轨迹到查询实现”理念,设计了精巧的模态分配与图像二次扎根流程。
  • 实验充分度: ⭐⭐⭐⭐⭐ 涵盖两大基准、六大代表性开源与闭源靶标模型、六种主流基线、四类外部防御及系统的开销与消融分析,证据扎实。
  • 写作质量: ⭐⭐⭐⭐⭐ 概念界定严谨清晰,系统架构与流程图文呼应,问题形式化完备。
  • 价值: ⭐⭐⭐⭐⭐ 深刻揭示了多模态大模型在跨模态推理与上下文持续交互中的防御盲区,对多模态对齐与安全测评具有极高指导价值。