跳转至

Length-Adaptive Decoding for Masked Diffusion Machine Translation

会议: EMNLP 2026
论文: ACL Anthology
代码: https://github.com/Entropy-Valley/Entropy-Valley
领域: 多语言与机器翻译
关键词: 掩码扩散模型、机器翻译、画布长度自适应、全掩码预测熵、最小熵解码

一句话总结

针对固定画布掩码扩散机器翻译在去噪前必须预分配目标长度、容易造成过短漏译或过长幻觉的结构性缺陷,本文提出完全免训练的“熵谷”(Entropy-Valley, EV)长度选择器:仅通过对少量紧凑候选长度做单次全掩码前向探测并计算平均预测熵,选取骨干模型自身最易去噪的“熵谷”画布,在 En↔Zh 与 En→De 上收回了参考长度上限 33.0%~65.3% 的 COMET-22 增益,且在同等微调数据下性能匹敌甚至超越自回归 LLaMA-3-8B。

研究背景与动机

近年来,以 LLaDA 和 Dream 为代表的离散掩码扩散大语言模型(dLLMs)在开放式生成与通用逻辑推理任务中展现出比肩自回归大语言模型(AR LLMs)的强劲实力。然而,机器翻译(MT)对生成系统提出了截然不同的严苛考验:译文必须完整保全源端实体与核心动作、准确跨语言重排语法结构、选取合适词法形态,并精准在语义完备处停机。自回归解码器天然通过逐步生成并在适当时刻发出结束符 <EOS> 来动态决定译文长度;而在现有的固定画布掩码扩散模型中,目标画布长度必须在去噪生成开始前就预先硬性设定。有监督训练阶段由于 <EOS> 紧随真实目标序列之后,导致模型在推理阶段倾向于填满被赋予的任何画布;如果给定的画布槽位过短,关键实词与语法成分就会被强行截断丢失,而若画布过长,多余的空位又极易诱发重复生成或事实幻觉。

现有针对掩码迭代生成与扩散解码的研究,几乎把全部精力倾注在“解掩码顺序”的设计上(例如探索从易到难的置信度调度、可学习的生成顺序或是面向特定任务的启发式顺序),却普遍对去噪前至关重要的画布长度决策视若无睹。在学术评测中,目标画布长度要么直接套用人工参考译文的真实长度,要么依赖从训练集全局统计得出的单一源-目标长度比例。前者属于测试集泄露的理论上限而非实际推断流程;后者则把同一种静态压缩比强加给结构各异的句子,在面对代码占位符、数字串、简短动作指令或高密度成语表达时必然频繁失真。若试图从传统非自回归翻译(NAT)中引入外部长度预测模块、词汇肥力(fertility)机制或插入删除式的 Levenshtein 架构,又必须修改模型结构并引入额外的微调目标,无法直接赋能冻结的通用掩码扩散基座。

面对这一困境,本文选择直接向冻结的掩码扩散模型本身发起“内部质询”,探寻它对哪个候选长度最有把握。在全掩码的目标画布上,每一个候选长度都会在所有槽位上诱导出先验预测分布:若画布过短,模型被迫将过多源端语义挤压进狭小空间,引发不同词项的激烈冲突与概率发散;若画布过长,模型在缺乏源端对应支持的虚假槽位上只能茫然猜测,同样造成整体分布的弥散。只有当画布长度恰到好处地匹配源端信息容量时,骨干模型在各个槽位上的预测分布才会最为笃定,对应所有槽位的平均预测熵便会形成一个明显的局部低谷。核心 idea:提出完全免额外训练的熵谷(Entropy-Valley)长度选择器,在紧凑的离散比例候选网格上对各画布执行单步全掩码前向探测,以剔除末位 <EOS> 的平均预测熵为度量选定模型最易去噪的“熵谷”画布,再以标准最小熵解码单次生成译文。

方法详解

整体框架

Entropy-Valley 针对冻结的掩码扩散翻译系统,在生成启动前插入一个轻量级的目标画布选择阶段。系统输入为源端文本提示词以及针对目标语言对预设的紧凑比例集合,整个推断流程解耦为四个连贯步骤:首先根据源端分词长度与比例网格构建去重后的候选画布长度集合;随后对每个候选画布拼接入全掩码序列,通过冻结的骨干模型执行一次前向传播,计算其平均预测熵;接着选取全局平均熵最低的候选长度作为最优画布(即“熵谷”);最后在该选定画布上启动标准的 32 步最小熵去噪解码(MED),生成最终译文并在首个 <EOS> 处完成截断。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["源语言提示词<br/>prompt(x)"] --> B["候选画布网格构建"]
    B --> C["全掩码均值预测熵探测"]
    C --> D["最优画布单次最小熵解码"]
    D --> E["目标端译文输出<br/>首个 EOS 截断"]

关键设计

1. 候选画布网格构建:基于语言对先验规避全局固定比例失真与无界搜索开销 单一的语料级固定比例无法适应不同句子的压缩需求,而无约束地在全局长度空间穷举又会浪费海量推断算力并引入语言学上极不合理的荒谬候选。本设计针对具体语言对构建包含 5 个候选比例的紧凑网格 \(\mathcal{R}\),以 WMT19 训练集语料中位数比例为锚点(En→Zh 为 0.80,网格取 \(\{0.70, 0.75, 0.80, 0.85, 0.90\}\);Zh→En 为 1.24,网格取 \(\{1.00, 1.10, 1.20, 1.30, 1.40\}\);En→De 为 1.48,网格取 \(\{1.50, 1.60, 1.70, 1.80, 1.90\}\))。对于源端分词长度为 \(|x|\) 的句子,候选长度集合定义为: $\(\mathcal{C}(x) = \{\max(1, \lfloor r \cdot |x| \rfloor) + 1 : r \in \mathcal{R}\}\)$ 其中末尾的 \(+1\) 用于显式保留模型训练时约定的目标端 <EOS> 槽位。当面对较短的源句时,多个浮点比例向下取整后会映射到相同的整数,算法会自动执行去重,因而实际候选画布数量通常少于 5 个。该设计以极低的离散搜索空间锁定了最合理的候选范围,彻底避免了盲目搜索。

2. 全掩码均值预测熵探测:免额外训练直接利用冻结骨干的自身不确定性打分 确定候选集合后,核心挑战是如何在不运行耗时去噪循环且不引入外部判别器的情况下精准打分。针对每个候选长度 \(L \in \mathcal{C}(x)\),构建由源端提示词与 \(L\) 个掩码组成的序列输入 \([\text{prompt}(x)] \parallel [\text{MASK}]^L\),仅送入冻结模型执行单次前向推理,获取每个槽位的词表概率分布 \(q_1^L, \dots, q_L^L\)。由于最后一个槽位是预留给 <EOS> 的,其预测熵通常接近于 0,若纳入计算会使长画布在均值统计中占据不公平的虚假优势;因此算法显式排除末位,对前 \(L-1\) 个目标槽位计算平均预测熵: $\(\bar{H}(L) = \frac{1}{L - 1} \sum_{i=1}^{L-1} H(p_\theta(y_i \mid x, [\text{MASK}]^L))\)$ 其中 \(H(p) = -\sum_{v \in \mathcal{V}} p(v) \log p(v)\)。最终选取熵值全局最小者作为解码画布 \(L^\star = \arg\min_{L \in \mathcal{C}(x)} \bar{H}(L)\)。该机制反映了模型内部对填补该画布的信心,画布过短或过长均会导致不确定性陡增,使得“熵谷”天然对应最易被高质量去噪的几何尺寸。

3. 最优画布单次最小熵解码:锁定最优画布执行标准去噪避免多候选重复解码 若采用生成后再重排序(rerank)的传统策略,必须对多个候选画布完整跑完去噪循环,计算开销将成倍激增(实验证明生成 5 个邻近候选将耗费约 3.5 倍算力且由于长度归一化瑕疵评分反而下降)。EV 在全掩码前向阶段已完成了全局画布决策,随后仅对选定的单一最优画布 \(L^\star\) 调用标准最小熵解码(Minimum-Entropy Decoding, MED)。在预设的 \(T=32\) 步迭代中,每一步依据当前步的不确定性逐步揭开最低熵的 \(K_t\) 个掩码槽位,最终在生成的文本中截断至首个 <EOS>。在默认 \(T=32\) 设置下,前向探测最多仅增加 5 次无梯度前向计算,相对原本 32 步去噪的计算开销增幅不超过 15.6%,在保证高效率的同时完全避免了多路并行去噪的显存与计算负担。

一个完整示例

以论文展示的 En→Zh 实际翻译样例为例直观展示 EV 对信息完整性的挽救过程: 1. 动作动词丢失案例:源句为短指令 “Tap Reset Now.”(参考译文为“现在点击重置。”,参考长度 \(L^*=6\))。固定比例基准取 \(r=0.8\) 选定画布 \(L=5\),由于槽位严重受限,模型被迫丢弃关键动作,退化生成为“现在。”(COMET-22 仅为 0.47);而 EV 通过全掩码熵探测敏锐捕捉到 \(L=6\) 处的熵谷,选定 \(L=6\) 成功解码出“点击重置。”(COMET-22 跃升至 0.91)。 2. 占位符丢失案例:源句为 “Under #PRS_ORG#, tap Sign out.”(参考长度 \(L^*=12\))。固定比例分配 \(L=10\),输出生成为“在私人组织下按退出。”,导致匿名化占位符 #PRS_ORG# 彻底遗失(COMET-22 为 0.43);EV 探测到 \(L=12\) 为最优熵谷,完整保留了占位符并翻译为“在#PRS_ORG#, 按下退出。”(COMET-22 达 0.87)。

损失函数 / 训练策略

论文中掩码扩散模型基于 LLaDA-8B-Base 骨干(8.02B 参数 Transformer),针对每个翻译方向在 WMT19 训练集的 200k 句对上使用 LoRA 微调。LoRA 作用于每层 Transformer 的 7 个核心线性投影模块(注意力的 \(\{q, k, v, o\}\) 与前馈网络的 \(\{ff\_proj, up\_proj, ff\_out\}\)),配置为秩 \(r=64\)、缩放因子 \(\alpha=128\)、dropout 0.05,可训参数量约 157M(占骨干总参数的 1.95%)。优化器采用 AdamW,峰值学习率 \(2\times 10^{-4}\),余弦退火伴随 5% 预热步,共微调 3 个 epoch。训练损失采用标准的离散掩码扩散交叉熵损失,每个批次随机采样均匀掩码比例。在推断阶段,Entropy-Valley 完全无需更新任何模型参数,亦不依赖任何开发集调优,实现完全即插即用。

实验关键数据

主实验

在 WMT22 新闻翻译基准(En→Zh、Zh→En、En→De 各 2,037 句)上,采用 32 步 MED 解码,对比参考长度理论上限(Length Oracle)、固定语料比例基准(Fixed Ratio)与 Entropy-Valley(EV),3 次独立微调测试的平均值如下表所示:

方向 方法 COMET-22 COMET 差距弥合率 sacreBLEU BLEU 差距弥合率
En→Zh Oracle length (参考长度上限) 0.8610 ± 0.0013 100% 40.81 ± 0.23 100%
Fixed ratio 0.8 (固定比例基线) 0.8345 ± 0.0017 0% (基线) 36.72 ± 0.22 0%
Entropy-Valley (本文方法) 0.8517 ± 0.0006 64.9 ± 7.4% 38.57 ± 0.13 45.3%
Zh→En Oracle length (参考长度上限) 0.8519 ± 0.0007 100% 27.93 ± 0.23 100%
Fixed ratio 1.2 (固定比例基线) 0.8266 ± 0.0010 0% (基线) 23.65 ± 0.21 0%
Entropy-Valley (本文方法) 0.8431 ± 0.0004 65.3 ± 0.8% 25.28 ± 0.33 38.1%
En→De Oracle length (参考长度上限) 0.7382 ± 0.0090 100% 22.55 ± 0.77 100%
Fixed ratio 1.8 (固定比例基线) 0.7170 ± 0.0090 0% (基线) 20.73 ± 0.68 0%
Entropy-Valley (本文方法) 0.7240 ± 0.0078 33.0 ± 8.4% 21.55 ± 0.85 45.1%

消融与诊断实验

下表展示了 En→Zh 任务上源端关键字面信息保留率(占位符、数字)以及不同真实压缩率分桶下的质量表现:

评测维度 样本数 N Fixed Ratio 基线 Entropy-Valley (EV) 差值 \(\Delta\) (EV − Ratio) 95% 置信区间
占位符保留率 (#PRS_ORG#) 58 66.9% 89.1% +22.1% [+12.4%, +32.5%]
数字/百分比/金额保留率 290 77.6% 81.3% +3.7% [+1.4%, +6.1%]
高扩展样本 (r ≥ 0.8 COMET) 1005 0.8056 0.8402 +0.0346 [+0.0295, +0.0401]
中等比例样本 (0.6 ≤ r < 0.8 COMET) 796 0.8630 0.8678 +0.0048 [+0.0016, +0.0081]
高压缩样本 (r < 0.6 COMET) 236 0.8449 0.8503 +0.0054 [+0.0016, +0.0093]

此外,在对齐微调数据(相同 200k 样本与提示词)的自回归基准校准实验中,LLaMA-3-8B + LoRA-SFT 在 En→Zh、Zh→En、En→De 上的 COMET-22 分别为 \(85.07 \pm 0.03\)、\(83.68 \pm 0.07\)、\(81.19 \pm 0.11\);LLaDA-8B 搭配 EV 在 En→Zh 取得 85.17(与强自回归模型打平),在 Zh→En 取得 84.31(反超自回归模型 +0.63 COMET)。

关键发现

  • 长度选择远比解掩码顺序重要:在固定参考长度下,扫掠 6 种源端引导的解掩码调度策略仅产生 0.0081 的 COMET 波动;而固定 MED 解码时,单纯改变长度选择方式(Ratio vs EV vs Oracle)引起的性能跨度高达 0.0265 COMET,是解掩码顺序影响的 3.3 倍。这证实固定画布扩散翻译的核心瓶颈首先在于画布尺寸,而非揭开顺序。
  • EV 并非简单拟合参考长度:EV 生成结果与真实参考长度的平均绝对误差(MAE 为 2.51 tokens)仍显著偏离 Oracle(MAE 为 0),但依然收回了超过 65% 的 COMET 差距。这证明“易于去噪”的画布长度与“人类译文”长度不必完全一致,模型在其笃定的长度下能生成更高质量的表达。
  • 极大改善字面实词与占位符遗失:在 En→Zh 上,EV 将匿名化占位符的保留率从 66.9% 巨幅提升至 89.1%(+22.1 个百分点),证实短画布导致的严重截断漏译得到了显著纠正。
  • 多语言与跨骨干普适性:在 Dream-Base-7B 与 DiffuLLaMA-7B 骨干上,EV 均在所有测试方向上一致击败固定比例基线(在 Dream-Base 上弥合了 54%~69% 的 Oracle 差距)。

亮点与洞察

  • 将外部工程瓶颈转化为模型自身不确定性先验:以往非自回归模型常视长度为需专门建模的标签,本文洞察到离散掩码扩散模型在全掩码状态下的槽位平均预测熵自带“极值凸性”(中间低、两端高),巧妙利用这一物理特性以 \(O(1)\) 的前向代价实现高精度长度自适应。
  • 极佳的免训练即插即用特性:不需要增加参数量、不需要辅助网络、不需要额外的多目标损失,亦不需要重写复杂的动态掩码插入删除算子,仅靠标准前向传播即可无缝集成进任意现成掩码扩散系统。
  • 澄清非自回归扩散生成的研究重心误区:有力指出近年来学界扎堆探索“解掩码顺序”收益递减的现状,用严格受控实验证明确立正确画布尺寸在影响程度上具有压倒性优势。

局限与展望

  • 受限于预设比例网格的边界:EV 的搜索空间依赖预设的 5 比例网格。如果某些极端句子需要极高压缩率(如 \(r < 0.60\)),而网格最低仅覆盖到 0.70,系统便无法选择更短的理想画布,从而导致长度过冲(overshoot)。未来需要探索自适应动态伸缩的网格搜索机制。
  • 语系较远的复杂语言对存在基座瓶颈:在 En→De 任务上,EV 弥合的 Oracle 差距(33.0%)明显低于 En↔Zh(~65%),且与自回归 LLaMA-3-8B(81.19)相比差距依然显著(72.40 对 81.19),即便赋予 Oracle 长度也仅有 73.82,表明该瓶颈主因在于基础扩散模型本身的德语建模能力与分词器局限,而非单纯的长度选择失误。
  • 人工评测范围局限于中英双向:人类专家双盲评测目前仅在 En↔Zh 上展开,德语或更多低资源语言方向的人类译文质量与流畅度表现尚需进一步验证。

相关工作与启发

  • vs. 经典非自回归翻译 (NAT/CMLM/Levenshtein Transformer):经典 NAT 通过额外的 fertility 预测器或小规模长度 beam 搜索(如 CMLM),或通过插入/删除操作动态改写序列长度。EV 针对当前大参数量 decoder-only 掩码扩散模型,无需修改架构或重训模型,完全在推理阶段完成长度决策。
  • vs. 变长扩散解码模型 (DAEDAL / CAL / \(\rho\)-EOS):DAEDAL 在去噪过程中动态插入掩码,推理延迟较高且计算槽位数膨胀(En→Zh 平均 1175 slots / 1.80s);CAL 依赖第一步去噪后的置信度校准。EV 在第 0 步利用全掩码平均熵完成判断,在 En→Zh 上取得了比 DAEDAL(+0.0166 COMET)和 CAL(+0.0068 COMET)更优的翻译质量,且推断延迟仅为 0.72s。
  • vs. 解掩码顺序调度研究 (MaskGIT / OeMDM / LogicDiff):顺序调度解决的是确定画布后“先看哪个词”,而 EV 解决的是“画布到底多大”。二者正交且互补,但实验表明画布尺寸的选择对最终翻译保真度的边际影响显著大于顺序调度。

评分

  • 新颖性: ⭐⭐⭐⭐ [首次发掘全掩码平均预测熵在目标长度自适应选择中的物理低谷特性,立意巧妙简洁]
  • 实验充分度: ⭐⭐⭐⭐⭐ [覆盖 3 个语向、3 种主流掩码扩散基座、严格受控解掩码对比、消融桶划分与专业双语译者人工评测]
  • 写作质量: ⭐⭐⭐⭐⭐ [逻辑严密、动机阐述直击痛点、图表对比清晰、深入探讨了边界失败案例与假说验证]
  • 价值: ⭐⭐⭐⭐⭐ [为掩码扩散语言模型落地受限条件生成与机器翻译提供了极高实用价值的免训练解码范式]