UniRank: Unified List-wise Reranking via Confidence-Ordered Denoising¶

会议: NeurIPS 2026
arXiv: 2605.10527
OpenReview: https://openreview.net/forum?id=PkjxTBCYCU
论文: https://arxiv.org/abs/2605.10527
领域: 信息检索/RAG
关键词: 列表级重排, 离散扩散模型, 置信度降序去噪, 任务锚定扩散接口, 推荐系统

一句话总结¶

UniRank 将列表级重排建模为基于置信度降序填写的掩码离散扩散过程，通过双向 Transformer 和任务锚定扩散接口打破了传统自回归的误差传播与非自回归的插槽独立性假设，并在统一视角下将 AR 与 NAR 还原为其推理特例。

研究背景与动机¶

现代在线内容推荐平台普遍采用由召回、初排与重排构成的多阶段级联架构。作为最终曝光前的守门环节，重排模块需要对上游筛选出的请求级局部候选池进行精细排序，并组装出最大化用户全列表满意度的有序列表。不同于单点打分的早期阶段，重排的核心诉求在于建模曝光列表内物品之间的复杂依赖关系，包括多样性、替代性与互补性。如何从组合爆炸的序列空间中挑选出兼顾局部相关性与全局展示效果的有序列表，是现代重排系统面临的核心挑战。

现有的生成式重排范式主要分化为两大阵营，二者暴露出显著的模型表征瓶颈。自回归（AR）重排器沿固定自左向右顺序逐个生成推荐位，虽然因果注意力能够捕捉前置物品对后续物品的单向依赖，但单向因果掩码完全屏蔽了后置曝光上下文，且前序槽位的错误分配会不可逆地沿着解码链条逐级放大。与之相对，非自回归（NAR）重排器在各槽位之间并行预测，有效规避了串行解码的误差累积，但其底层普遍依赖槽位条件独立性假设，大幅削弱了列表内物品的协同感知能力；即便引入后置的生成器-评估器（G-E）两阶段过滤，评估器的搜索范围依然受制于生成器给出的粗糙候选集合。此外，现有的离散扩散重排方法（如 DCDR）通常是在预先给定的完整初始列表上做多步局部调整，其最终重排质量严重受制于初始输入的优劣，无法自适应地应对空列表建构过程中的不确定性。

针对上述矛盾，本文跳出“从左到右因果约束”与“完全并行相互独立”的二元对立，探寻一种能够统一建模全列表双向依赖且规避固定顺序误差扩散的全新范式。核心 idea：将列表级重排抽象为以置信度为优先级的迭代掩码离散扩散生成过程，借助双向注意力建模全列表全局依赖，并引入任务锚定扩散接口（TGD）将离散扩散机制精确限制在请求候选集与物品语义表征空间内。

方法详解¶

整体框架¶

UniRank 接收用户上下文历史序列 \(\mathbf{H}\) 和上游返回的局部候选集 \(\mathbf{C}=\{c_1,\dots,c_{|\mathbf{C}|}\}\) 作为无损条件输入，从全掩码状态的展示列表 \(\mathbf{x}_{\alpha=1}\) 开始，通过共享的双向去噪主干网络迭代填充槽位，最终输出长度为 \(L\) 的有序曝光列表 \(\mathbf{S}=[s_1,\dots,s_L]\in\mathbf{C}^L\)。整个推理流程将全局槽位与候选物品的预测匹配置信度作为解码驱动力：在每一步去噪中，模型评估全部未填充槽位对当前合法候选集合的打分矩阵，优先锁定并写入置信度最高的槽位-候选对，随后将已填充结果作为已知双向上下文，供后续步骤推断不确定性更高的剩余槽位。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["输入: 用户历史 H + 候选池 C + 掩码列表 x_alpha"] --> B["语义融合层 (SFL)<br/>SID多码本嵌入拼接并线性投影为单物品向量"]
    B --> C["双向 Transformer 主干<br/>拼接 [H | e_sep | C | e_sep | x_alpha] 全双向自注意力编码"]
    C --> D["隐式池选择模块 (LPS)<br/>槽位隐藏状态与候选池向量点积计算匹配矩阵 Z"]
    D --> E["置信度降序去噪解码<br/>每步锁定 argmax Z_(j,i) 填入最高置信度槽位并更新列表"]
    E -->|迭代 L 步 / 或单步并行| F["输出最终重排列表 S<br/>(可选执行多步 Leave-one-out 细化)"]

关键设计¶

1. 语义融合层（SFL）：解决多离散标记向单物品表征对齐的粒度冲突

现代生成式推荐系统通常将物品分词为多段层次化语义标识符（Semantic ID, SID）。若直接对每个 SID token 进行自回归预测或逐步扩散去噪，一个包含 \(L\) 个物品的列表将在序列维度膨胀为 \(L\times M\) 个位置，使得扩散过程中的掩码槽位退化为残缺的 token 碎片，不仅破坏了“每个槽位必须对应一个独立完备物品”的业务约束，还会急剧增加注意力开销。为保证扩散去噪在严格的“物品级（Item-level）”开展，语义融合层（SFL）对每个候选或已曝光物品 \(i\) 的 \(M\) 个并行码本嵌入进行整合：

\[\mathbf{e}_i = \mathbf{W}_{\text{agg}} \left[\mathbf{E}[\text{sid}_{i,1}] \,\|\, \cdots \,\|\, \mathbf{E}[\text{sid}_{i,M}]\right] + \mathbf{b}_{\text{agg}}, \quad \mathbf{W}_{\text{agg}}\in\mathbb{R}^{d\times Md}, \; \mathbf{b}_{\text{agg}}\in\mathbb{R}^d\]

这一投影将任意物品映射至固定的 \(d\) 维连续空间，使得去噪列表输入 \(\mathbf{x}_\alpha\) 中的每个位置天然代表一个独立物品或掩码向量 \(\mathbf{e}_{\text{mask}}\)，彻底规避了 token 级扩散导致的组合非法性与序列冗长问题。

2. 隐式池选择模块（LPS）：强加请求级候选集合约束以防止词表外幻觉

传统语言模型或离散扩散框架的解码头通常面向整个全局词表 \(V\) 预测概率分布。然而在推荐系统的重排场景中，当前曝光列表必须严格来源于上游检索与粗排返回的局部候选子集 \(\mathbf{C}\)（通常 \(|\mathbf{C}|\approx 50 \ll |V|\)）。如果直接在全局词表中算交叉熵，模型极易产生超出合法候选池的无效幻觉物品。隐式池选择模块（LPS）摒弃全词表投影矩阵，将去噪主干输出的槽位隐藏表征 \(\mathbf{H}_S \in \mathbb{R}^{L\times d}\) 与同一次前向计算得到的候选集隐藏表征 \(\mathbf{H}_C \in \mathbb{R}^{|\mathbf{C}|\times d}\) 进行动态交互，构建局部归一化打分矩阵：

\[\mathbf{Z} = \frac{(\mathbf{H}_S \mathbf{W}_q) \mathbf{H}_C^\top}{\sqrt{d}} \in \mathbb{R}^{L\times |\mathbf{C}|}\]

各槽位 \(j\) 的预测概率分布被内生性地定义为 \(p_\theta(\cdot \mid \mathbf{x}_\alpha, \mathbf{H}, \mathbf{C}) = \operatorname{softmax}(\mathbf{Z}_{j,:})\)。这一设计使得候选池约束成为网络骨干的原生结构，无需任何后处理截断或重采样，便能强制概率质量百分之百汇聚在合法候选集内部。

3. 置信度降序去噪策略：化解固定序列因果误差累积与插槽独立矛盾

自回归策略之所以脆弱，是因为人类强制预设了自左向右（slot 1 到 slot \(L\)）的生成顺序，而在推荐列表中，往往是居中某个强吸引力 item 或特定槽位具有最高的先验确定性。UniRank 在推理时从全掩码列表 \(\mathbf{x}_{\alpha=1} = [\mathbf{e}_{\text{mask}}, \dots, \mathbf{e}_{\text{mask}}]\) 出发，在第 \(k\) 轮去噪步，全面评估矩阵 \(\mathbf{Z}^{(k)}\) 中所有未决槽位与候选物品的全局匹配打分：

\[(j_k^\star, i_k^\star) = \arg\max_{(j,i)} \mathbf{Z}^{(k)}_{j,i}\]

模型每次优先固定置信度最高的槽位-候选对 \((j_k^\star, i_k^\star)\)，将对应向量 \(\mathbf{c}_{i_k^\star}\) 填入槽位 \(j_k^\star\)，并更新当前状态。通过 \(L\) 步递进式锁定，模型遵循“由易到难”的自适应认知规律，让后置的不确定性槽位能够充分享受先置高置信度物品所构建的双向上下文约束。更为精妙的是，若强制指定 \(j_k^\star=k\) 顺序填入，UniRank 完美等价于因果 AR 生成；若在首步直接并行填满所有槽位，则退化为经典 NAR 预测。

损失函数 / 训练策略¶

在训练阶段，模型通过随机掩码机制同时学习各个扩散时间步的双向去噪能力。对于每个训练样本，首先从离散均匀分布 \(n \sim \text{Uniform}\{1, \dots, L\}\) 中采样掩码槽位数量，在真实曝光列表 \(\mathbf{x}_0\) 中随机抽取大小为 \(n\) 的槽位集合 \(\mathcal{M}\) 替换为 \(\mathbf{e}_{\text{mask}}\)，诱导的掩码比率为 \(\alpha = n/L\)。

针对掩码位置，模型计算标签重加权的交叉熵损失函数：

\[\mathcal{L} = \frac{1}{L} \sum_{j\in\mathcal{M}} \frac{r_j}{\alpha} \operatorname{CE}\left(\operatorname{softmax}(\mathbf{Z}_{j,:}), \; \ell_j\right)\]

其中 \(\ell_j \in \{1, \dots, |\mathbf{C}|\}\) 表示槽位 \(j\) 的真实物品索引。缩放因子 \(1/\alpha\) 严格保证了单槽位梯度贡献对于任意随机采样的掩码比率保持期望不变。权重因子 \(r_j\) 提供了灵活的业务奖励注入接口：当令正向反馈物品 \(r_j=1\) 而负向未交互槽位 \(r_j=0\) 时，模型专注于高价值转化样本的学习；若拓展为全列表效用 \(r_j \equiv U(\mathbf{x}_0)/L\)，则天然等价于基于策略梯度的全列表效用强化学习目标。

实验关键数据¶

主实验¶

论文在公开基准 Amazon Books、MovieLens-1M 以及短视频工业级数据集（Industry，包含 517 万交互）上开展离线评估。候选池大小 \(|\mathbf{C}|=50\)，历史长度 \(|\mathbf{H}|=50\)，推荐列表长度 \(L=6\)。评估指标包括 Precision@6、NDCG@6、MAP@6 与 F1@6。

数据集	模型类别	模型名称	Precision@6 (%)	NDCG@6 (%)	MAP@6 (%)	F1@6 (%)
Amazon Books	G-only	DNN	60.28	69.61	58.58	62.45
	G-only	PRM	67.86	76.88	66.44	70.42
	G-only	GoalRank	80.35	84.88	77.91	83.44
	G-only	GloRank	83.75	90.08	85.10	86.97
	G-E	NAR4Rec	70.08	79.46	70.69	72.66
	G-E	G-100	77.21	82.15	73.78	80.09
	G-E	DCDR	80.56	86.73	80.33	83.66
	Ours	UniRank	88.30	94.00	90.58	91.70
	-	相对最强提升	+5.43%	+4.35%	+6.44%	+5.44%
MovieLens-1M	G-only	GloRank	75.79	87.56	81.19	82.57
	G-E	DCDR	73.04	84.61	77.17	79.60
	Ours	UniRank	76.88	88.65	82.64	83.59
	-	相对最强提升	+1.44%	+1.24%	+1.79%	+1.24%
Industry (短视频)	G-only	GloRank	62.56	90.15	84.84	74.32
	G-E	PIER	56.69	80.15	70.52	67.52
	Ours	UniRank	63.54	91.34	86.53	75.49
	-	相对最强提升	+1.57%	+1.32%	+1.99%	+1.57%

消融实验¶

消融实验对比了输入组件（SID 标识符与历史填充）与核心模型架构模块（SFL、迭代式解码、LPS）在 Amazon Books 和 MovieLens-1M 上的重要性。

模型配置	Books P@6 (%)	Books NDCG@6 (%)	Books MAP@6 (%)	ML-1M P@6 (%)	ML-1M NDCG@6 (%)	ML-1M MAP@6 (%)	变动说明
UniRank (Full)	88.30	94.00	90.58	76.68	88.65	82.64	完整模型配置
w/o SID	88.27	93.84	90.38	76.33	88.17	82.08	替换为离散 item ID 嵌入，缺乏跨物品层次语义
w/o Hist. Padding	88.25	93.78	90.32	76.35	88.41	82.38	去除历史定长填充，注意力长尾波动增加
w/o SFL	81.13	88.31	82.24	75.21	86.69	79.94	性能大幅下滑（P@6 暴跌 7.17%），token-level 扩散破坏槽位对齐
w/o Iter. Decoding	88.20	93.89	90.42	76.22	88.29	82.16	退化为单步非自回归（NAR）并行预测，依赖建模略损
w/o LPS	87.24	92.93	89.07	75.12	87.28	80.83	移除候选集受限评分，退化为全局词表自回归预测，易产生非法推荐

此外，在千万级并发的真实短视频平台实施为期 7 天的 10% 流量在线 A/B 测试中，UniRank 相比生产环境 GoalRank 基线斩获显著收益：用户平均 App 时长提升 +0.159% (\(p<0.05\))、分享率提升 +1.016% (\(p<0.05\))、关注率提升 +0.842% (\(p<0.05\))、点赞率提升 +0.588% (\(p<0.05\))、负反馈人数比例（Hate UV）下降 -2.038%。

关键发现¶

SFL 是扩散重排模型生效的基石：去掉 SFL 后，Amazon Books 上的 Precision 骤降 7.17 个百分点，MAP 暴跌 8.34 个百分点。实验证实，扩散去噪必须强绑定在完备的 item-level 语义向量上，碎片化的 token-level 扩散对于候选集强约束的排序任务是极其低效的。
扩展评估器候选集无法弥合生成器质量短板：在 G-E 范式中，即便利利用 G-100 将候选列表数量从 3 扩展到 100，Amazon Books 的 NDCG@6 仍停留在 82.15%，远落后于 UniRank 的 94.00%。这证明后置评估器的暴力搜索无法补救低质生成器因误差累积遗漏的全局最优组合。
步数测试期扩展（Test-time Scaling）效应明显：当推理步数从 1（NAR 模式）逐步增加到 6（逐个 item 去噪）时，各项指标单调稳健上升；在两步混合去噪实验中，第一步填充越多的高置信度 item（例如 5 步 + 1 步配置），最终指标越好，实证验证了置信度先验策略的优越性。

亮点与洞察¶

统一理论视角：揭示了重排中自回归因果解码与非自回归并行解码不过是离散掩码扩散在不同掩码调度方案下的两极特例，将推荐范式从“特定序列方向”解放到“置信度自适应拓扑”。
精巧的 TGD 接口机制：利用跨点积注意力构建动态局部打分矩阵 \(\mathbf{Z}\)，既使得候选池硬约束无需任何后验启发式规则即可内生满足，又完全避开了全局大词表 Softmax 的巨大显存负担与越界幻觉。
延迟可调的工业部署韧性：线上极端高并发场景下，直接切换为 w/o Iter. Decoding 单步 NAR 并行模式，仅微幅牺牲指标便可省去多步推理循环，展现出卓越的工程弹性。

局限与展望¶

受制于上游候选池质量：UniRank 的候选匹配完全依赖上游召回与粗排返回的局部 candidate pool，若真实高满意度 item 在召回阶段被截断，重排扩散模型无法超越局部候选空间的上限。
多任务与连续型上下文的适配拓展：当前模型主要专注于离散 item 的组合排序，尚未显式融合实时的用户下滑滑动物理动力学或细粒度微时长（watch time）多目标连续联合优化。

评分¶

新颖性: ⭐⭐⭐⭐⭐ (将列表级重排统一于置信度优先的掩码离散扩散，理论优雅且突破传统固定顺序约束)
实验充分度: ⭐⭐⭐⭐⭐ (覆盖两大公共基准、工业短视频大盘、全量消融、步数 scaling 分析及真实线上 7 天 A/B 测试)
写作质量: ⭐⭐⭐⭐⭐ (问题剖析鞭辟入里，符号表述严谨，实验图表极其详实规范)
价值: ⭐⭐⭐⭐⭐ (为大规模商业推荐平台的终道重排架构升级提供了高收益且具工程弹性的落地范式)