ICLR2026 学习理论论文解读论文笔记对抗鲁棒扩散模型持续学习对齐/RLHF 图像恢复模型压缩

📐 学习理论¶

🔬 ICLR2026 · 294 篇论文解读

📌 同领域跨会议浏览： 🧪 ICML2026 (45) · 🤖 AAAI2026 (3) · 🧠 NeurIPS2025 (25) · 🧪 ICML2025 (16)

🔥 高频主题： 对抗鲁棒 ×16 · 扩散模型 ×15 · 持续学习 ×5 · 对齐/RLHF ×4 · 图像恢复 ×3

A Biologically Plausible Dense Associative Memory with Exponential Capacity: 通过把双层联想记忆里隐层的"赢者通吃"激活换成一个带阈值的阶跃激活，让隐层神经元能同时参与多个记忆（分布式表征），从而把存储容量从"隐层神经元数的线性"提升到"隐层神经元数的指数级"（\(2^{N_h}\)），并用 MNIST/CIFAR-10 验证了它能存下数万张高度相关的图像、同时保持生物可信性。
A Derandomization Framework for Structure Discovery: Applications in Neural Networks and Beyond: 这篇论文提出一个基于 \(\rho\)-SOSP 的通用去随机化引理，证明在高斯输入、光滑目标和极小权重正则下，二阶驻点会自动压低随机线性部分，从而解释神经网络第一层权重的低秩结构发现，并推广到 MAXCUT 舍入和 Johnson-Lindenstrauss 嵌入的确定性构造。
A Faster Parameter-Free Regret Matching Algorithm: 本文提出无参数的遗憾匹配变体 MI-SPRM+，通过一个叫"自适应遗憾域（ARD）"的技巧单调抬高累积遗憾 1-范数的下界，在两人零和博弈中既保留无需调参的性质、又达到 \(O(1/T)\) 的理论收敛率——这是已知第一个同时做到这两点的 RM 类算法。
A Generalized Geometric Theoretical Framework of Centroid Discriminant Analysis for Linear Classification of Multi-dimensional Data: 本文提出几何判别分析（GDA）这一统一理论框架，把一类线性分类器都看成"两类质心连线 CDB0 + 不同约束下的几何修正"，证明 MDC、LDA 都是它的特例；并据此设计出新分类器 CDA——从 CDB0 出发、用贝叶斯优化在一系列 2D 平面上做"性能驱动的旋转"，把训练复杂度从 LDA/SVM 的立方级降到平方级，在 27 个真实数据集上同时取得了比 LDA/SVM/LR 更好的性能、可扩展性与稳定性。
A Minimum Variance Path Principle for Accurate and Stable Score-Based Density Ratio Estimation: 本文指出 score-based 密度比估计在理论上"路径无关"、实践中却"路径敏感"的悖论根源是一个被忽略的项——评分函数的路径方差，提出最小方差路径（MVP）原则把它显式写进目标，并用 Kumaraswamy 混合模型把路径参数化为可学习函数，在多个困难基准上做到更准更稳的密度比估计。
A Near-Optimal Best-of-Both-Worlds Algorithm for Federated Bandits: 本文提出 FEDFTRL——首个在联邦多臂赌博机里同时对随机环境和对抗环境都拿到近最优个体遗憾界的算法，核心做法是把"去中心化通信带来的信息延迟"重新解释成"延迟反馈赌博机"，再用混合正则器的 FTRL 配上截断损失估计器与偏差记录通信方案，把对抗环境下的遗憾从此前最好的 \(O(T^{2/3})\) 压到 \(O(T^{1/2})\)。
A New Approach to Controlling Linear Dynamical Systems: 本文提出 Online Spectral Control（OSC）：把对抗扰动下的线性动力系统控制问题，用一组与具体系统无关的「谱滤波器」（某个 Hankel 矩阵的特征向量）做凸松弛，从而在保持 \(\tilde O(\gamma^{-4}\sqrt T)\) 最优遗憾的同时，把每步运行时间对稳定裕度 \(\gamma\) 的依赖从多项式 \(O(\gamma^{-1})\) 降到对数级 \(O(\mathrm{polylog}(1/\gamma))\)。
A New Initialization to Control Gradients in Sinusoidal Neural Networks: 这篇论文为正弦激活网络 SIREN 推导了一组闭式初始化参数，通过同时控制预激活分布、层间 Jacobian 方差和频谱扩张，让深层 sinusoidal neural networks 在函数拟合、图像/音频/视频重建和 PINN 任务中减少梯度爆炸与伪高频噪声。
A Sharp KL Convergence Analysis for Diffusion Models under Minimal Assumptions: 本文为扩散模型（DDPM 采样器）在"只假设 score 估计 L2 准确、不假设任何光滑性"的最小假设下，给出 KL 散度收敛的更尖锐分析：把生成过程建模为"一步概率流 ODE + 一小步加噪"，并发展出一套处理 score 二阶空间导数（Laplacian）的新证明技术，把达到 \(\varepsilon^2\)-KL 所需迭代数从此前最好的 \(\tilde O(d/\varepsilon^2)\) 改进到 \(\tilde O(d/\varepsilon)\)——在保持维度 \(d\) 线性依赖的同时，把对精度 \(\varepsilon\) 的依赖从二次降到一次。
A Statistical Learning Perspective on Semi-dual Adversarial Neural Optimal Transport Solvers: 这篇论文给"用神经网络对抗式 minimax 求解二次最优传输映射"的一类生成式方法补上了缺失的统计学习理论：证明学到的传输映射与真实 OT 映射之间的泛化误差，可被分解为估计误差 + 逼近误差，且估计误差只由网络函数类的 Rademacher 复杂度控制、逼近误差可通过选合适的网络任意小，从而首次给出 \(O(1/\sqrt{N})\) 量级的收敛保证。
A Statistical Theory of Overfitting for Imbalanced Classification: 本文为高维不平衡线性分类建立统计理论：在两类高斯混合模型下，测试集 logit 服从 \(N(0,1)\)，但训练集 logit 收敛到 \(\max\{\kappa, N(0,1)\}\)（截断高斯），并用一个变分问题刻画这种"截断"如何随维度发生，进而严格解释了为什么少数类受过拟合伤害更重、为什么 margin rebalancing 有效、以及过拟合如何连带恶化置信度校准。
A Theoretical Analysis of Mamba's Training Dynamics: Filtering Relevant Features for Generalization in State Space Models: 本文首次从特征学习视角刻画 Mamba（带输入相关门控的选择性 SSM）的梯度下降训练动态，证明在两类结构化数据下门控向量 \(w_\Delta\) 会自动对齐类别相关特征、抑制无关特征，并给出非渐近的样本复杂度与收敛速率界，从理论上回答了"Mamba 何时、为何能高效学习并泛化"。
A Unification of Discrete, Gaussian, and Simplicial Diffusion: 这篇论文证明了离散扩散、高斯扩散、单纯形扩散这三套看似互不相干的离散序列生成方法，其实都是群体遗传学里 Wright-Fisher 模型 的不同参数化极限，用这套统一理论既稳住了一直数值发散的单纯形扩散（在条件 DNA 生成上刷到 SOTA），又让单个网络在测试时能任意切换三种扩散域。
Achieving Approximate Symmetry Is Exponentially Easier than Exact Symmetry: 这篇论文给"强制模型对称"这件事定义了一个可量化的代价——平均复杂度（averaging complexity），并证明了一个指数级分离：在标准条件下，强制精确对称需要线性于群大小 \(|G|\) 的查询次数，而强制近似对称只需对数级 \(O(\log|G|/\varepsilon)\)，从理论上首次解释了"为什么实践中近似对称往往比精确对称更划算"。
Adaptive Conformal Prediction via Mixture-of-Experts Gating Similarity: 这篇论文提出 MoE-CP，把 Mixture-of-Experts 的 gating 概率当作软域归属，用 gating 相似度给校准残差加权，从而在保持保形预测边际覆盖保证的同时，让预测区间随潜在子群体的噪声与残差分布自适应变宽或变窄。
Adaptive Hopfield Network: Rethinking Similarities in Associative Memory: 这篇论文把关联记忆检索从“离某个存储模式足够近”重新定义为“找到最可能生成当前查询的记忆来源”，并用可学习的 similarity footprint 构造自适应 Hopfield 网络 A-Hop，在混合噪声、遮挡、偏置和多类分类任务上显著优于固定相似度的 Hopfield 变体。
Ads that Stick: Near-Optimal Ad Optimization through Psychological Behavior Models: 本文把"mere exposure / hedonic adaptation / operant conditioning"三种心理学效应写进一个连续时间的广告奖励模型，证明在广告数固定时最优排期只由"算子条件作用"的衰减损失决定，并给出一个拟线性时间、误差指数级小的近最优排期算法，揭示了"均匀间隔"这种常用启发式在很多场景下其实并非最优。
Adversarially Pretrained Transformers May Be Universally Robust In-Context Learners: 本文给出第一份理论分析：在多个分类任务上做过对抗预训练的单层线性 Transformer，可以仅凭干净示例的上下文学习（in-context learning），就对未见过的新分类任务获得对抗鲁棒性——无需任何额外的对抗训练或对抗样本，因为模型学会了自适应地聚焦"鲁棒特征"。
Algorithmic Guarantees for Distilling Supervised and Offline RL Datasets: 本文给"数据集蒸馏"补上了第一套无需训练模型的可证明算法保证：对线性回归，证明只要用 \(\tilde O(d^2)\) 个随机采样的回归器做凸的损失匹配，就能得到一份让任意有界线性模型 MSE 几乎不变的合成数据集，并给出匹配的 \(\Omega(d^2)\) 下界；进一步把方法搬到离线 RL，用 Bellman 损失匹配得到同类保证，并在玩具 RL 环境上验证。
Almost Bayesian: Dynamics of SGD Through Singular Learning Theory: 本文把长时间运行后的 SGD 描述为奇异损失地形上的多孔介质扩散，用局部学习系数刻画可达低损失区域的几何复杂度，并推导出 SGD 稳态分布近似等于经过可达性温度修正的贝叶斯后验。
Alternating Diffusion for Proximal Sampling with Zeroth Order Queries: 把近端采样（proximal sampling）里那一步靠拒绝采样实现的"逆向去噪"换成直接模拟 SDE——用当前粒子构成的高斯混合当替身分布、只靠 \(f\) 的函数值（零阶）做蒙特卡洛分数估计，于是得到一个无需梯度、无需拒绝采样、无需训练模型、运行时间固定的采样器，理论上继承了近端采样在等周条件下的指数收敛，实验上比基于 RGO 的近端采样快近一个量级。
An Efficient, Provably Optimal Algorithm for the 0-1 Loss Linear Classification Problem: 提出增量单元枚举算法（ICE），首个具有严格证明的独立算法，可以在 \(O(N^{D+1})\) 时间内精确求解0-1损失线性分类问题的全局最优解，并扩展到多项式超曲面分类。
SEINT: An Efficient SE(p)-Invariant Transport Metric Driven by Polar Transport Discrepancy-based Representation: 本文提出 SEINT —— 一个对平移+旋转（特殊欧氏群 SE(p)）严格不变、且被证明是真正度量（满足三角不等式）的分布距离：它先用免训练的「极传输差异（PTD）」把高维分布编码成一维标量特征，再用「距离卷积（DcPTD）」补回内在几何信息，最后在一维上算 Wasserstein 距离，把复杂度从 GW 的 \(O(n^3)\sim O(n^4)\) 压到 \(O(n\log n)\sim O(n^2)\)，并在点云分类（100% 准确率）和 3D 分子生成（SOTA 稳定性）上验证有效。
An evolutionary perspective on modes of learning in Transformers: 这篇论文借用演化生物学中“可塑性 vs 遗传同化”的视角，把 Transformer 在上下文学习（ICL）与权重内学习（IWL）之间的选择解释为由环境稳定性、提示线索可靠性和策略学习成本共同决定的学习动力学问题。
An Improved Model-free Decision-estimation Coefficient with Applications in Adversarial MDPs: 本文提出 Dig-DEC——一种"无需乐观主义、纯靠信息增益驱动探索"的无模型决策估计系数，它恒不大于已有的乐观 DEC，并因此能首次处理"随机转移 + 对抗奖励"的混合 MDP 在 bandit 反馈下的无模型学习，同时把在线函数估计的遗憾率从 \(T^{3/4}/T^{5/6}/T^{2/3}\) 一路收紧到 \(T^{2/3}/T^{7/9}/\sqrt{T}\)。
An Optimal Diffusion Approach to Quadratic Rate-Distortion Problems: New Solution and Approximation Methods: 本文把连续信源在 MSE 失真下的率失真（RD）函数计算重写成一个"终端熵正则随机控制"问题，证明率-失真的权衡等价于控制能量-终端熵的权衡，并指出在正则条件下最优控制恰是倒向热方程解的 Stein score；由此给出高斯混合等信源的全新闭式解，以及一个不受码率上界限制的扩散神经估计器 R2D2。
ATLAS: Alibaba Dataset and Benchmark for Learning-Augmented Scheduling: 本文把阿里 PAI-2020 GPU 集群 trace 清洗、特征工程成一个 73 万作业、带真实作业时长标签的「非透视调度（non-clairvoyant scheduling）」数据集 ATLAS，并配套一个端到端基准 LASched——既评测「用提交时特征预测作业时长」的预测任务，又评测「把预测喂给调度器、在总完成时间/最大伸展/makespan 三个目标上做学习增强调度」的调度任务，让一直只能在合成数据上跑的「算法+预测」理论第一次能在真实负载上被公平复现和对比。
Automata Learning and Identification of the Support of Language Models: 本文在"下一符号预测 (NSP)"监督下系统刻画了正则语言的可学习性，证明 NSP 标签虽能保证可辨识却无法绕过计算困难，并提出 L*_nsp 算法——借助语言模型作为"教师"高效抽取出近似刻画其生成支撑集的 DFA。
Bandit Learning in Matching Markets Robust to Adversarial Corruptions: 这篇论文首次研究"反馈被对手污染"下的去中心化双边匹配市场 bandit 学习问题，分别针对污染总量 \(C\) 已知和未知两种情形给出鲁棒算法——已知时把经典 ETGS 的置信区间按 \(C\) 加宽，未知时用"多层 ETGS 赛跑 + 子阶段级同步"自适应抵御任意污染，并证明两者的玩家最优稳定遗憾上界与一个匹配的下界。
Bandits with Single-Peaked Preferences and Limited Resources: 把社会选择理论里的「单峰偏好」结构搬进有预算约束的在线匹配 bandit，绕开一般情形的 NP 难，给出多项式时间且后悔为 \(\tilde{O}(UK T^{2/3})\)（结构未知）或 \(\tilde{O}(U\sqrt{TK})\)（结构已知）的高效算法。
Barriers for Learning in an Evolving World: Mathematical Understanding of Loss of Plasticity: 这篇论文用动力系统的视角把"塑性丧失（Loss of Plasticity, LoP）"重新定义为梯度轨迹被困在参数空间的不变子流形里，证明了冻结单元和克隆单元会形成这种"陷阱流形"，并指出一个反直觉的结论——正是那些在静态任务上促进泛化的低秩压缩机制，把网络一步步推进了这些丧失塑性的流形。
Best-of-Majority: Minimax-Optimal Strategy for Pass@k Inference Scaling: 本文把 LLM 的 Pass@k 推理（采 \(N\) 个候选、提交至多 \(k\) 个、只看最好那个）形式化为一个 regret 最小化问题，证明多数投票和 Best-of-N 在这个设定下都不是最优的，提出"先按出现频率预筛、再按奖励取 top-\(k\)"的 Best-of-Majority（BoM）策略，给出 \(\tilde O(\epsilon_{\mathrm{opt}}+\sqrt{C^*\epsilon_{\mathrm{RM}}^2/k})\) 的 regret 上界并配上匹配的下界，从而首次给出 Pass@k 推理的极小极大最优算法。
Best-of-N through the Smoothing Lens: KL Divergence and Regret Analysis: 本文把推理时对齐里最常用的 Best-of-N（BoN）放进"软化"框架 Soft Best-of-N（SBoN）来分析，给出 SBoN/BoN 相对参考策略的 KL 散度上界、相对最优策略的遗憾（regret）上下界，并证明：当代理奖励模型质量差、发生过优化时，存在一个有限的逆温度 \(\beta\) 使 SBoN 的遗憾界比 BoN 更紧，从而缓解 reward hacking。
Better Bounds for the Distributed Experts Problem: 本文研究"专家分布在多台服务器上、损失按 \(\ell_p\) 范数跨服务器聚合"的分布式在线预测问题，提出一套基于指数随机变量嵌入 + 几何均值方差缩减的协议，首次在 coordinator（消息传递）模型里处理一般 \(\ell_p\) 损失，在目标 regret \(R\) 下把通信量做到 \(\left(\tfrac{n+s}{R^2}\right)\cdot\max(s^{1-2/p},1)\cdot\mathrm{polylog}(nsT)\) 比特，优于此前只能处理 \(\ell_1\) 的工作。
Better Learning-Augmented Spanning Tree Algorithms via Metric Forest Completion: 本文把前作"一个组件选一个代表点"的度量森林补全（MFC）近似算法推广成"每个组件选一组代表点"的 MultiRepMFC，用一个可廉价计算的 cost 函数给出实例相关的 \(\alpha\) 近似界，顺带把最坏情况近似比从 \(2.62\)（MFC）和 \(2\gamma+1\)（度量 MST）收紧到 \(2\) 和 \(2\gamma\) 并证明其紧性，且只需少量额外计算就能把生成树质量逼近最优。
Beyond Spectra: Eigenvector Overlaps in Loss Geometry: 机器学习的局部损失几何本质是"双算子"问题：训练损失和测试损失各有一个 Hessian，单看各自的谱（特征值）不够，真正决定泛化的是两个 Hessian 特征空间之间的对齐程度（eigenvector overlap）——本文为此建立了一条普适的涨落定律、一条噪声传递定律，并给出可扩展到 ResNet 的重叠估计算法。
Bi-Criteria Metric Distortion: 这篇论文把"度量扭曲（metric distortion）"框架从"只选一个赢家"推广到"允许选 k 个候选人的委员会、但仍和最优单一候选人比"，证明在一维直线上只要 2 个（求和目标）或 4 个（最大值目标）候选人就能完全消除扭曲（1-distortion = 1），而在二维欧氏 / 树度量下即使选 \(m-1\) 个候选人也无法做到，从而揭示出直线度量与高维度量之间一条干净利落的分界线。
Bi-Lipschitz Autoencoder With Injectivity Guarantee: 本文把"编码器非单射"指认为正则化自编码器训练陷入坏局部最优的根因，提出用 \((\delta,\epsilon)\)-分离判据构造单射正则、再用作用在解码器雅可比奇异值上的双 Lipschitz 正则替换过于刚性的等距约束，得到的 BLAE 在多个流形数据集上既能高保真保留几何结构，又对采样稀疏和分布漂移鲁棒。
Boosting for Predictive Sufficiency: 本文提出信息论概念 α-预测充分性 (α-predictive sufficiency)，从理论上证明 boosting 之所以在隐藏混杂偏移下的表格数据 OOD 任务上打败各种"专门"方法，是因为它能隐式地把数据划分成与隐藏混杂变量对齐的"参考类/环境"，并在每个环境内最大化预测信息。
Bound by Semanticity: Universal Laws Governing the Generalization-Identification Tradeoff: 本文证明了「广泛泛化」与「精确辨识」是一对根本矛盾：任何相似度计算具有有限语义分辨率 \(\varepsilon\) 的系统（从 ReLU 小网络到 VLM 再到大脑）都必然落在一条普适的 Pareto 前沿上，并随同时处理对象数 \(n\) 出现 \(1/n\) 的辨识能力坍缩。
Bounds of Chain-of-Thought Robustness: Reasoning Steps, Embed Norms, and Beyond: 本文给思维链（CoT）对输入扰动的鲁棒性建立了第一套理论上界：在 Lipschitz 连续假设下证明"推理步数越多、输出波动上界越小，但无论推到无穷步都消不掉扰动"，再以线性自注意力（LSA）为案例证明"可容忍的输入扰动半径与输入嵌入、隐状态向量的范数成负相关"，并在 4 个主流 LLM × 3 个推理数据集上得到与理论一致的实验曲线。
Branch and Bound Search for Exact MAP Inference in Credal Networks: 本文为信度网络（credal network）中的精确 MAP 推断设计了首个深度优先分支定界算法：把问题定义成 maximax / maximin 两类 MAP 任务，在 AND/OR 搜索空间里利用问题分解，再用带 cost-shifting 的 mini-bucket 启发式做剪枝，能在保证最优性的前提下求解超过 3000 个变量的大规模实例，比 OR 搜索和局部搜索快几个数量级。
Breaking the Total Variance Barrier: Sharp Sample Complexity for Linear Heteroscedastic Bandits with Fixed Action Set: 本文研究固定动作集下的异方差随机线性 bandit，指出传统总方差 \(\Lambda=\sum_{t=1}^T \sigma_t^2\) 不能刻画低噪声轮次带来的信息增益，并用 VAEE / VAGD 两个方差自适应探索算法给出接近调和平均方差依赖的 sharp simple regret 上下界。
Can Transformers Really Do It All? On the Compatibility of Inductive Biases Across Tasks: 这篇论文把 Transformer 中最关键的非线性模块替换为可学习样条函数，用两阶段训练为特定数据集寻找更合适的架构偏置，并发现算法任务需要高度专用的偏置，而语言和代码建模之间的偏置兼容性明显更高。
Characterizing Pattern Matching and Its Limits on Compositional Task Structures: 本文把 LLM 常被诟病的"模式匹配"严格形式化为功能等价（functional equivalence）——只有当两段输入片段在相同上下文里被反复观测到产生相同输出时，模型才能在它们之间安全替换——并据此定义出一条可判定、可证伪的覆盖边界（coverage），进而证明了组合任务的数据缩放律、揭示了"路径歧义"这一结构性失败模式，给模式匹配能做到什么、做不到什么画出了一条精确的界线。
Characterizing the Discrete Geometry of ReLU Networks: 本文把全连接 ReLU 网络在输入空间切出的多面体复形抽象成一张"连通图"（区域当节点、相邻区域连边），并证明这张图的平均度恒被 \(2d\)（两倍输入维度）上界约束、与网络宽度深度无关，同时给出图直径不依赖输入维度的上界 \(O(m^\ell)\)，再用合成数据与 MNIST/CIFAR10 等实验验证这些理论界并揭示"训练数据更爱落在连通度高的区域"。
CLEAR: Calibrated Learning for Epistemic and Aleatoric Risk: CLEAR 提出一个双参数校准框架，把回归预测区间里的偶然不确定性和认知不确定性按数据自适应比例合并，在保持名义覆盖率的同时显著缩窄区间并改善条件覆盖。
Closed-form \(\ell_r\) norm scaling with data for overparameterized linear regression and diagonal linear networks under \(\ell_p\) bias: 对过参数化线性回归（各向同性高斯设计、最小 \(\ell_p\) 插值，\(p\in(1,2]\)），本文用一个简单的"对偶射线"分析，给出整族参数范数 \(\{\|\hat w_p\|_r\}_{r\in[1,p]}\) 随样本量 \(n\) 缩放的闭式高概率刻画：存在一个数据相关的转折点 \(n^\star\)（"肘点"）和一个普适阈值 \(r^\star=2(p-1)\)，把会随 \(n\) 饱和的范数和会继续增长的范数一刀切开；并把同一套规律迁移到由梯度下降训练的对角线性网络（DLN）。
Combinatorial Rising Bandits: 本文提出 Combinatorial Rising Bandit 框架来刻画“组合动作由会随使用变强的基础臂组成”的在线学习问题，并给出 CRUCB 算法，用 Future-UCB 在基础臂层面估计长期潜力，从理论上获得接近下界的 regret 保证，在合成最短路和 AntMaze 层次强化学习任务中都优于既有 bandit 方法。
Complexity Analysis of Normalizing Constant Estimation: from Jarzynski Equality to Annealed Importance Sampling and Beyond: 本文首次给出 Jarzynski 等式（JE）和退火重要性采样（AIS）估计归一化常数 \(Z\) 的非渐近 oracle 复杂度界，用「曲线的 action」替代等周不等式刻画难度，并指出几何插值在多峰分布上 action 指数大、进而提出基于反向扩散采样的新算法。
Computational Bottlenecks for Denoising Diffusions: 本文证明：只要一个分布 \(\mu\) 对应的去噪问题存在"信息-计算 gap"，那么哪怕从 \(\mu\) 直接采样很容易，用去噪扩散采样也必然失败——既存在分数匹配近优却采样完全跑偏的漂移，所有 Lipschitz 的多项式时间近优漂移也都会失败，并用稀疏低秩矩阵这个玩具例子给出了理论与数值上的双重佐证。
Computing Equilibrium beyond Unilateral Deviation: 针对 Nash/相关均衡只防"单个玩家偏离"、却防不住"多人结盟一起偏离"的盲区，本文提出一个永远存在的解概念 MASE（最小平均强均衡，最小化任何联盟可获得的最大平均收益），证明其计算复杂度由"效用依赖图"的树宽决定（NP-hard + SETH 下指数下界），并给出一个跑时正好匹配该下界的算法。
Conformal Prediction for Long-Tailed Classification: 针对长尾分类中"小集合却漏掉稀有类 vs 覆盖好但集合巨大"的两难，本文提出两种保留边际覆盖保证的保形预测方法：一个新打分函数 PAS（按类先验校正 softmax，最优权衡集合大小与宏覆盖），一个新过程 INTERP-Q（线性插值 Classwise 与 Standard 的分位阈值，用一个参数滑动权衡），在 Pl@ntNet-300K（1081 类）和 iNaturalist-2018（8142 类）上显著改善了集合大小与类条件覆盖的折中。
Conformal Prediction with Corrupted Labels: Uncertain Imputation and Robust Re-weighting: 针对训练标签被噪声/缺失损坏、且关键特征在测试时不可得（特权信息）的场景，本文先证明了已有的特权保形预测（PCP）在权重估计不准时仍可能有效的精确条件，再提出一种不依赖权重、改靠"带不确定性地回填标签"的新方法 UI，最后把 Naive CP / PCP / UI 三者取并集得到只要有一个假设成立就有效的三重稳健（TriplyRobust）校准方案。
Conformalized Decision Risk Assessment: CREDO 把"一个候选决策有多大概率是次优的"这个问题，转化为"真实结果落在该决策的逆可行域之外的概率"，再用生成式保形预测构造逆可行域的内逼近集，给出无分布、有统计保证的风险上界，让人类专家可以对任意决策（不论来自算法还是经验直觉）做可审计的风险体检。
Contextual Multi-Armed Bandits with Minimum Aggregated Revenue Constraints: 本文研究"上下文老虎机 + 每臂最低聚合收益约束"这一新设定（MAB-ARC），用线性规划刻画最优分配、提出乐观（OLP）与乐观-悲观（OPLP）两套算法，并通过下界证明：一旦上下文出现，前人依赖的"免费探索"性质失效，探索-利用权衡被重新激活。
Continuum Transformers Perform In-Context Learning by Operator Gradient Descent: 这篇论文给"连续 Transformer"（处理无限维函数输入、用于 PDE 代理建模的 Transformer 变体）的上下文学习现象提供了首个理论刻画：证明它在前向传播中等价于在一个算子 RKHS 上做梯度下降，无限深度时恢复贝叶斯最优预测子，并且这套实现梯度下降的参数恰好是预训练目标的稳定点。
Convergence Analysis of Tsetlin Machines under Noise-Free and Noisy Training Conditions: From 2 Bits to k Bits: 本文把 Tsetlin Machine（TM）的收敛性理论从已有的 1-bit、2-bit XOR 一路推进到 2-bit AND/OR、含噪声训练以及一般的 k-bit 情形，证明了 TM 在无噪声/无关变量下几乎必然收敛到正确逻辑算子、在错误标签下虽不收敛但仍能高效学习，并揭示了超参 \(T\) 与 OR 算子「单子句联合表示多个子模式」这一独特机制。
Convergence Dynamics of Over-Parameterized Score Matching for a Single Gaussian: 本文从理论上分析了用过参数化学生模型（\(n\ge 2\) 个可学习均值）去学一个真高斯分布时、分数匹配目标上梯度下降的收敛动态：在大噪声尺度下证明全局收敛，在小噪声尺度下揭示出"全部参数收敛"与"只有一个参数收敛、其余发散到无穷但 loss 仍以 \(O(1/\tau)\) 趋零"两种截然不同的相变行为，并给出近乎匹配的下界。
Covariate-Guided Clusterwise Linear Regression for Generalization to Unseen Data: 针对"表格数据只在局部呈线性"的回归任务，本文提出 CG-CLR：用一个代理网络（proxy network）为每个样本生成局部系数、再以硬向量量化把它路由到 \(K\) 个共享线性回归器之一，从而在一个梯度循环里同时学到"怎么分配新样本"和"每个簇的线性模型"，并配套给出收敛性证明、PAC 泛化界和用 F-检验选簇数 \(K\) 的方法。
Critical Attention Scaling in Long-Context Transformers: 这篇论文用一个可解析的简化注意力模型证明：随着上下文长度 \(n\) 增大，注意力的行为会按缩放因子 \(\beta_n=\gamma\log n\) 发生相变，临界点恰好在 \(\beta_n\asymp\log n\)（即 \(\gamma_c=\tfrac{1}{1-\rho}\)），从而第一次为 YaRN、Qwen 等方法采用对数缩放给出了严格的理论依据。
Curse of Slicing: Why Sliced Mutual Information is a Deceptive Measure of Statistical Dependence: 这篇论文系统地揭穿了"切片互信息"(Sliced Mutual Information, SMI)作为可扩展互信息替代品的可靠性：通过闭式解、反例和大量合成实验证明，SMI 会过早饱和、偏好信息冗余而非信息量、在高维下衰减到零，某些情况下甚至不如简单的相关系数，因此用它来度量统计依赖会得出系统性误导的结论。
DAK-UCB: Diversity-Aware Prompt Routing for LLMs and Generative Models: 本文提出 DAK-UCB——一个把"多样性"显式塞进核化 UCB 上下文老虎机的在线模型选择算法，用可分解成两样本期望的联合核分数（JKD / I-JRKE）作为多样性奖励，在为一连串 prompt 路由生成模型时同时兼顾保真度和多样性，并给出后悔界保证。
Data-Aware and Scalable Sensitivity Analysis for Decision Tree Ensembles: 这篇论文研究"决策树集成对某些（如受保护）特征是否敏感"的形式化验证问题，证明了即使深度为 1 的树集成该问题也是 NP-hard，并提出一套带新优化的 MILP/SMT 编码 ENSENSE，不仅把验证速度比此前 SOTA 提升约 5×（二分类）/15×（多分类），还首次让反例对落在训练数据分布附近，从而给出更有意义的敏感性证据。
Data-to-Energy Stochastic Dynamics: 本文提出第一个"数据到能量"（data-to-energy）的薛定谔桥求解算法：当目标分布只给出未归一化密度（能量函数）、拿不到任何样本时，把经典的迭代比例拟合（IPF）推广到无数据情形——用扩散采样器里的 off-policy 强化学习损失（log-variance loss）替换掉原本需要样本的最大似然步，从而在两个分布之间学出最优随机动力学，并落地为一种"无需配对数据的图像到图像翻译"方法。
Decision-Theoretic Approaches for Improved Learning-Augmented Algorithms: 这篇论文把决策论里的"距离度量"和"风险度量"引入带预测的在线算法分析中，用一个相对"理想算法"的可量化指标，从一整族原本无法互相比较的 Pareto 最优/平滑算法里挑出"全局最好"的那一个，并在滑雪租赁、单峰搜索、契约调度三个经典问题上给出了可计算的最优阈值。
Decision Aggregation under Quantal Response: 本文在量化响应（quantal response）刻画的有限理性下研究如何聚合 \(n\) 个专家的二元决策，证明当群体理性低于一个依赖群体规模的阈值 \(g(n)\) 时，朴素的多数投票就是极小极大意义下最鲁棒的聚合器，而且有限理性的群体竟能反超完全理性的群体——因为决策中的随机性会把确定性行为里丢失的弱信号编码进来；并用 LLM 的温度参数作为天然的"理性旋钮"在实证上验证了这一点。
Deep FlexQP: Accelerated Nonlinear Programming via Deep Unfolding: 提出 FlexQP——基于 \(\ell_1\) 弹性松弛的"永远可行"凸二次规划（QP）求解器，结合深度展开（deep unfolding）学习 LSTM 反馈策略加速收敛得到 Deep FlexQP；在 SQP 框架中作为子模块，解非线性轨迹优化比 OSQP 快 4-16 倍，预测安全滤波器的安全违规减少 70%+、任务完成率提升 43%。
Deep Learning with Learnable Product-Structured Activations: 本文提出 LRNN（deep low-rank separated neural networks），把每个神经元的激活从"固定的标量非线性"换成"若干可学习一元函数的乘积"，让神经元天然捕捉高阶乘性交互、并能自适应调节谱偏置，从而在图像/音频/PDE/稀疏视角 CT 等表示任务上用更少参数刷新精度。
DeepWeightFlow: Re-Basined Flow Matching for Generating Neural Network Weights: DeepWeightFlow 用一个简单 MLP 的流匹配模型直接在"权重空间"里学一个速度场，把高斯噪声一次性流向训练好的完整网络权重；它先用 Git Re-Basin / TransFusion 把训练集网络规范化（消掉置换对称性），再配合 PCA 把维度压到可训练规模，从而能在几分钟内生成上百个无需微调、即开即用的高精度网络（覆盖 MLP / ResNet / ViT / BERT，最大到 O(100M) 参数），速度远超扩散类方法。
Differentially Private Equilibrium Finding in Polymatrix Games: 本文首次证明在多矩阵博弈中分布式找均衡同时满足高精度与低差分隐私预算这件事的边界——在"对手监听所有信道"或"用欧氏距离衡量精度"两种情形下根本不可能，但若把精度换成可利用度（exploitability）且对手只能监听有限信道，作者给出的自适应正则化算法能让 Nash gap 与隐私预算随玩家数增多同时趋于零。
Diffusion and Flow-based Copulas: Forgetting and Remembering Dependencies: 这篇论文把扩散和流的思想搬到 copula（联结函数）建模上：设计两个"只遗忘变量间依赖、却不动单维边缘分布"的前向随机过程，再训练模型去"记住"被遗忘的依赖，从而首次让 copula 能扩展到 \(d>1000\) 的高维、多模态依赖结构（如图像），在科学数据和图像上的依赖建模全面超过经典与现有深度 copula。
Diffusion Bridge Variational Inference for Deep Gaussian Processes: 针对深度高斯过程（DGP）诱导变量的后验推断，本文把 DDVI（去噪扩散变分推断）那个"从固定高斯先验出发的逆向扩散"改造成"从一个可学习、依赖数据的初始分布出发的扩散桥"，用 Doob h-变换在保持 Girsanov-ELBO 数学框架不变的前提下缩短推断轨迹，从而在回归、分类、图像重建任务上比 DDVI 收敛更快、后验更准。
Diffusion Language Models are Provably Optimal Parallel Samplers: 本文用电路复杂度的语言为"扩散语言模型（DLM）为什么能更快"建立了严格理论：证明 DLM 配上多项式长度 CoT 能用最优的串行步数（等于电路深度而非规模）模拟任意并行采样算法，且在加入 remasking 或 revision 后还能同时做到最优的空间复杂度，并给出一个 parity 采样任务证明 revision/remasking 让 DLM 的表达力严格更强。
Dimension-Free Decision Calibration for Nonlinear Loss Functions: 当下游决策者用模型预测来做决策时，"决策校准"要求预测在决策相关的事件上无偏；本文把它从线性损失推广到非线性损失，证明在确定性最优响应下审计校准必然需要 \(\Omega(\sqrt{m})\) 样本（\(m\) 为特征维度），但改用平滑的量化响应后，给出了样本复杂度 \(\mathrm{poly}(|A|,1/\epsilon)\)、与维度 \(m\) 完全无关的审计与后处理算法，覆盖分段线性、Cobb–Douglas、任意 Lipschitz 可微等广泛的损失类。
Discounted Online Convex Optimization: Uniform Regret Across a Continuous Interval: 针对在线凸优化中折扣因子 \(\lambda\) 未知的开放问题，本文证明 Smoothed OGD（SOGD）能在一个连续区间内对所有 \(\lambda\) 同时取得 \(O(\sqrt{\log T/(1-\lambda)})\) 的统一折扣遗憾界，无需事先知道真实折扣因子。
Distribution-informed Online Conformal Prediction: 本文提出 COP（Conformal Optimistic Prediction），在传统在线保形预测的反应式更新之外加一步「乐观修正」——用估计的非一致性分数 CDF 当作对下一步的预判 hint，使预测区间在数据有可预测模式时更窄，同时保留分布无关的有限样本覆盖保证，即使 CDF 估计不准也不破坏长期覆盖。
Diversified Multinomial Logit Contextual Bandits: 本文把"组合多样性"直接嵌进 MNL（多项 logit）选择概率里，提出 DMNL 上下文 bandit 模型，并设计了一个不依赖黑盒优化预言机的白盒 UCB 算法 OFU-DMNL，用逐项贪心构造组合，在 \(O(NK)\) 单轮开销下证明了至少 \((1-\frac{1}{e+1})\) 的近似 regret 界 \(\tilde{O}(d\sqrt{T/K})\)。
Does the Data Processing Inequality Reflect Practice? On the Utility of Low-Level Tasks: 本文用一个高斯混合二分类的可解析模型证明：尽管数据处理不等式说"预处理不会增加信息"，但对于有限训练样本的实用分类器，存在一种降维预处理总能严格降低分类错误率，并刻画了 SNR、样本量、类别不平衡如何影响这种增益。
Does Weak-to-strong Generalization Happen under Spurious Correlations?: 本文在带虚假相关的下游任务上首次给出弱到强（W2S）泛化的精确理论刻画：当弱教师标注数据与无标注数据的少数群体比例相等（\(\eta_u=\eta_\ell\)）时 W2S 必然发生，比例不等时 W2S 增益按 \((\eta_u-\eta_\ell)^2\) 衰减甚至失败；据此提出"高置信子集 + 广义交叉熵重训"这一无需群体标注的简单补救算法，在 10 组教师-学生对上稳定提升 W2S。
Dynamical properties of dense associative memory: 本文第一次用生成泛函分析（GFA）给出稠密联想记忆（现代 Hopfield 网络）在大系统极限下动力学的渐近精确解，定量刻画了召回过程的收敛时间与吸引域大小，并揭示出当激活非线性阶数 \(n\ge 3\) 时召回不再给自己引入额外噪声——这正是现代 Hopfield 网络比经典模型更鲁棒的根源。
Efficient Best-of-Both-Worlds Algorithms for Contextual Combinatorial Semi-Bandits: 本文提出首个面向上下文组合半老虎机的 best-of-both-worlds 算法，用熵正则 FTRL 加矩阵几何重采样同时获得对抗环境下的 \(\tilde O(\sqrt T)\) regret 和污染随机环境下的 \(\tilde O(\ln T)\) regret，并用 KKT 条件把每轮高维投影加速成一维二分求根。
Efficient Credal Prediction through Decalibration: 本文提出 decalibration（去校准）：从一个已训练好的单模型出发，仅靠对 logits 加一个全局偏置向量、在"相对似然预算"约束内反向扰动概率，就能为每个类别算出一段"合理概率区间"，从而无需重训/集成地构造出表达认知不确定性的信度集（credal set），并首次把信度预测用到了 TabPFN、CLIP 这类无法重训的大模型上。
Efficient Testing for Correlation Clustering: Improved Algorithms and Optimal Bounds: 本文用「采样小子图 + Janson 不等式」的新分析框架，把判定一张带符号完全图能否（近似）完美聚类的查询复杂度从 \(\tilde{O}(1/\varepsilon^7)\) 一举降到 \(O(1/\varepsilon^2)\)，并首次给出固定 \(k\) 聚类的 \(O(1/\varepsilon^4)\) 测试器和结构平衡（\(k=2\)）的 \(\Theta(1/\varepsilon)\) 紧界。
Efficient Turing Machine Simulation with Transformers: 本文证明常数比特 Transformer 能在最优 \(O(s(n))\) 上下文窗口下，仅用每步 \(O(s(n)^c)\)（\(c\) 可任意小）的链式思维就模拟任意多带图灵机，把已有构造的 \(\Omega(s(n))\) 每步开销几乎抹平，并指出固定几何偏移的稀疏注意力即足以支撑高效通用计算。
Enabling Fine-Tuning of Direct Feedback Alignment via Feedback-Weight Matching: 本文提出 feedback-weight matching：先从反向传播预训练好的权重里重构出 DFA 的反馈矩阵、再用反馈矩阵反过来重新初始化权重，让 DFA 在微调一开始就处于"强权重对齐"状态，从而第一次让 DFA 能稳定可靠地微调全连接网络与 Transformer（图像分类比标准 DFA 高 7.97%，NLP 相关性从 0.10 升到 0.76）。
Epistemic Uncertainty Quantification To Improve Decisions From Black-Box Models: 本文提出一组无分箱、渐近一致、样本高效的估计器，用来量化黑盒模型校准之外残留的认知不确定性——分组损失（grouping loss）和逐样本超额决策风险，并用它审计 27 个开源 LLM 的置信度可靠性、构造按认知风险触发 deferral 的 LLM 级联，在更低成本下拿到更高准确率。
Escaping Model Collapse via Synthetic Data Verification: Near-term Improvements and Long-term Convergence: 本文从线性回归这一经典理论设定出发，证明只要引入一个外部"验证器"对自生成的合成数据做过滤再训练，模型崩溃就能被避免——短期靠偏差-方差权衡获得提升，长期则因验证器构成压缩映射而收敛到验证器的"知识中心"\(\theta_c\)（而非真值），并在 VAE/LLM 上实证验证。
Expressive Power of Implicit Models: Rich Equilibria and Test-Time Scaling: 本文从函数空间的非参数角度严格刻画了隐式模型（fixed-point / DEQ 式模型）的表达能力，证明"一个简单（全局 Lipschitz）的更新算子 \(G\)，通过不动点迭代可以表达任意局部 Lipschitz 的复杂映射"，从而给出了"隐式模型靠增加测试时迭代就能匹配甚至超过更大显式网络"这一经验现象的理论解释，并在成像、科学计算、运筹、LLM 推理四个领域验证了"迭代次数↑ → 映射复杂度（经验 Lipschitz 常数）↑ 且精度同步提升"。
FACT: a first-principles alternative to the Neural Feature Ansatz for how networks learn representations: 本文用训练收敛时的一阶最优性条件推出 FACT（Features at Convergence Theorem）——一个权重衰减网络在收敛点必然满足的自洽公式 \(W^\top W = -\frac{1}{n\lambda}\sum_i (\nabla_h \ell_i) h(x_i)^\top\)，它替代了纯经验猜测的 Neural Feature Ansatz（NFA），不仅与收敛特征吻合更好，还能解释 NFA 为何通常成立、以及在哪些退化场景下会失效。
Fast Escape, Slow Convergence: Learning Dynamics of Phase Retrieval under Power-Law Data: 本文给出第一个对各向异性（power-law 协方差）非线性回归（phase retrieval）的严格学习动力学刻画：证明训练轨迹分成"快速逃离平庸—缓慢收敛—谱尾学习"三个阶段，并由谱衰减指数 \(a\) 显式推出 MSE 的 scaling law。
Feature Compression is the Root Cause of Adversarial Fragility in Neural Networks: 本文用随机矩阵理论给出对抗脆弱性的"特征压缩"解释：神经网络只用全部特征的一个压缩子集做分类，导致其最坏情况鲁棒性可能只有最优分类器的 \(1/\sqrt{d}\)，并在 ImageNet 上验证了该理论预测。
Finite-Time Convergence Analysis of ODE-based Generative Models for Stochastic Interpolants: 本文首次给出随机插值（stochastic interpolant）框架下 ODE 数值求解器的有限时间收敛分析，为一阶前向 Euler 和二阶 Heun 方法建立了离散时间 TV 误差界与迭代复杂度（\(O(\varepsilon^{-1}d^2)\) 与 \(O(\varepsilon^{-1/2}d^{3/2})\)），并在退化到扩散模型时在光滑性假设和维度依赖上超越了已有结果。
FlowNIB: An Information Bottleneck Analysis of Bidirectional vs. Unidirectional Language Models: 本文用信息瓶颈视角解释「为什么双向语言模型比单向模型更懂上下文」——双向层在输入和标签两侧都保留更多互信息，并提出轻量级后验框架 FlowNIB 把两条互信息估计放到同一条优化轨迹上，使逐层、跨模型的互信息可比，从而实证验证这一理论判断。
From Markov to Laplace: How Mamba In-Context Learns Markov Chains: 本文用「随机 Markov 链上的上下文学习」当显微镜，证明并实证：哪怕只有单层、单头的 Mamba（Selective SSM），也能在上下文里学到 Bayes 与 minimax 双重最优的 add-\(\beta\)（Laplacian 平滑）计数估计器——而其中真正起决定性作用的不是门控或非线性，而是卷积；作者进一步给出可精确复现该估计器的构造性证明，以及任何递归架构都逃不掉的 \(\Omega(2^k)\) 隐状态维度下界。
From Neural Networks to Logical Theories: The Correspondence between Fibring Modal Logics and Fibring Neural Networks: 本文首次在 fibring 神经网络（把一个网络的预激活喂给一个 fibring 函数去生成另一个网络的权重与输入，再把子网络输出注回母网络）与 fibring 模态逻辑之间建立精确对应，并据此把 GNN、GAT、Transformer encoder 统一刻画为 fibred 模态逻辑公式片段，给出三者的非均匀逻辑表达力结果。
From Predictors to Samplers via the Training Trajectory: 不训练任何额外生成模型，直接复用一个已训练预测器在训练过程中留下的 checkpoint 序列做"轨迹退火"MCMC——早期 checkpoint 自带 coarse-to-fine 的平滑、能快速混合，晚期 checkpoint 补细节，从而把崎岖 / needle 型 landscape 上原本指数级的采样混合时间压到近线性。
Gradient Descent Dynamics of Rank-One Matrix Denoising: 本文用大维随机矩阵理论给出矩形（Wishart）rank-one 矩阵去噪问题中梯度下降学习轨迹的闭式确定性逼近，证明了估计与真值内积过程的几乎必然收敛，并揭示其大时间极限对应一个带符号的 BBP 相变。
Heads Collapse, Features Stay: Why Replay Needs Big Buffers: 本文把"深层遗忘(特征空间)"与"浅层遗忘(分类头)"拆开,用 Neural Collapse 理论证明:任意非零回放比例都能渐近保住过去任务特征的线性可分性,但小缓冲区会让分类头落入"欠定优化",导致协方差秩亏、类均值膨胀,从而需要远大得多的缓冲区才能修复输出层对齐——这就是"回放效率鸿沟"。
High-Dimensional Analysis of Single-Layer Attention for Sparse-Token Classification: 作者在一个"稀疏-弱-稀有"信号分类模型上给出单层注意力的精确高维理论：表示层面注意力只需 \(\theta=\Theta(\log L)\) 信号强度即可完美分类（线性分类器需 \(\sqrt{L}\)），可学习层面证明两步梯度就足以让 query 权重 \(q\) 对齐隐藏信号，并给出训练后测试误差与容量的精确渐近表达式。
High-dimensional Analysis of Synthetic Data Selection: 用高维岭回归（ridgeless regression）理论刻画"训练数据 + 合成数据"联合训练的测试误差，证明只有协方差偏移会影响泛化、均值偏移惊人地不影响，并由此导出一个极其简单的合成数据选择准则——协方差匹配（covariance matching），在真实图像/文本分类上打平甚至超过近年所有 CLIP-based 筛选方法。
How hard is learning to cut? Trade-offs and sample complexity: 本文为"学习割平面（learning-to-cut）"任务首次给出样本复杂度的下界，证明无论用 B&C 树规模还是 gap closed 作为评分函数，学习一个把实例映射到割平面的函数类，所需样本量都至少等于（在常数倍意义下）用同一函数类去拟合一个一般目标函数的样本量；下界与已知上界几乎吻合，说明两个评分在可学习性上难度相当，进而用 GNN 实验佐证 gap closed 是逼近 tree size 的好代理。
How Reinforcement Learning after Next-Token Prediction Facilitates Learning: 本文用"奇偶校验 + 长短思维链混合分布"这个可证明的玩具模型，第一次从优化理论上严格刻画了「先 next-token 预训练、再 RL 后训练」为何能学会单纯预训练学不会的难任务，并解释了 RL 过程中回答变长的机制。
How to Square Tensor Networks and Circuits Without Squaring Them: 通过把张量网络规范形式（canonical form）中的"正交性"和电路中的"确定性"（determinism）统一成一族新的电路结构性质（正交性 / 酉性），让平方概率电路（squared PC）的归一化与边缘化从 \(O(|c|^2)\) 降到 \(O(|c|)\)，并且首次让"非结构可分解"的平方电路也能高效边缘化——而无需真正把电路平方展开。
Identifiability Challenges in Sparse Linear Ordinary Differential Equations: 这篇论文重新审视“线性 ODE 几乎总能从单条轨迹识别”的经典结论，指出该结论只覆盖稠密矩阵情形；在更贴近生物网络、社会网络和物理交互系统的稀疏线性 ODE 中，系统会以正概率不可识别，并且这种理论不可识别性会在 SINDy 和 Neural ODE 等实际估计器中表现为结构恢复失败。
Implicit bias produces neural scaling laws in learning curves, from perceptrons to deep networks: 作者提出"沿训练全过程、把学习曲线画成模型范数 \(\lambda(t)\) 的函数"这一新视角，在感知机里用统计力学解析地推出两条动态标度律，并证明它们的乘积恰好复现经典的"测试误差 vs 数据量"端点标度律；这套规律在 CNN / ResNet / ViT 上同样成立，根源是梯度训练全程的隐式偏置。
Implicit Regularisation in Diffusion Models: An Algorithm-Dependent Generalisation Analysis: 本文提出"分数稳定性"（score stability）这一与算法相关的泛化分析框架，把扩散模型对单个训练样本的敏感度直接转化为泛化间隙的上界，并用它在三处揭示了此前被忽视的隐式正则化来源——去噪目标本身、采样器的粗粒度离散、以及 SGD 的梯度噪声。
Improved High-Dimensional Estimation with Langevin Dynamics and Stochastic Weight Averaging: 本文证明：把球面上的 Langevin 动力学和迭代时间平均结合起来，仅用 \(n \gtrsim d^{\lceil k^\star/2 \rceil}\) 个样本就能恢复单指标模型 / 张量 PCA 的隐藏方向 \(\theta^\star\)——噪声注入加平均自发模拟了"地形平滑"的效果，无需显式平滑。
In-Context Algorithm Emulation in Fixed-Weight Transformers: 作者用构造性证明说明：一个权重冻结的极简 softmax Transformer，仅靠改 prompt 就能模拟一大类算法——单头单层注意力可逼近 \(f(w^\top x-y)x\) 形式的算法（梯度下降、线性/岭回归等），而一个固定的两层注意力模块更进一步，能通过 prompt 把目标算法的权重编码进 token，从而"换 prompt 即换算法"，无需任何参数更新。
Infinite Horizon Markov Economies: 本文提出 Markov 伪博弈 (MPG) 这一统一框架，把"动态不确定性"（Markov 博弈）和"行动依赖的可行性"（伪博弈）合二为一，证明了均衡存在性并给出多项式时间一阶求解算法，进而首次在一般化的无限期不完全市场经济中证明了递归 Radner 均衡的存在性，并用生成对抗策略网络 (GAPNet) 实际算出了均衡。
InfoBridge: Mutual Information Estimation via Bridge Matching: 把两个随机变量之间的互信息（MI）估计重新表述成一个"域迁移"问题：用一对扩散桥（一个连接联合分布、一个连接独立分布）的漂移项之差来表达 MI，从而得到一个理论上无偏、且在高维/高 MI 场景下显著优于现有方法的估计器 InfoBridge。
Information Estimation with Discrete Diffusion: 提出 INFO-SEDD：把离散扩散（连续时间马尔可夫链）的 score 函数接到 Dynkin 公式上，直接在离散数据上估计 KL 散度、互信息与熵，绕开了"先嵌入到连续空间再估计"的老套路，在高维高互信息场景下显著更准、更稳。
Interactive Learning of Single-Index Models via Stochastic Gradient Descent: 本文证明：在交互式（老虎机）环境下学习单指标模型时，最朴素的归一化 SGD 配上合适的学习率与探索强度调度，就能在"烧入期(burn-in)"和"学习期(learning)"两个阶段同时取得近乎最优的样本复杂度与后悔界，无需任何为特定 link 函数定制的零阶探索算法。
Intrinsic Entropy of Context Length Scaling in LLMs: 本文把语言建模的总损失拆成"随上下文变长而下降的贝叶斯风险"与"随上下文变长而上升的近似损失"两项，并引入 Intrinsic Entropy（内在熵） 把贝叶斯风险与上下文长度严格联系起来，从而解释了"更长上下文不一定更好"这一反直觉现象，并推导出存在一个由训练数据量决定的最优上下文长度。
Know When to Abstain: Optimal Selective Classification with Likelihood Ratios: 本文用统计学经典的 Neyman–Pearson 引理把"模型该不该弃权"重新表述成一个似然比检验，证明 MSP/RLog 等现有打分器其实都是这条似然比的近似，并据此设计出两个对"正确/错误预测"分别建模的距离打分器 ∆-MDS 与 ∆-KNN，在协变量偏移下显著降低选择性风险。
Language Identification in the Limit with Computational Trace: 本文把 Gold 1967 的"极限可识别"经典范式扩展为"带计算轨迹（CoT）的极限可识别"，证明只要给学习者每个正例的机器执行轨迹，全体图灵机可识别语言都能在极限下被识别（与 Gold 连正则语言都不可识别的著名负结果形成鲜明对比），并刻画了轨迹被对抗污染时 DFA / DPDA / TM 三档语言类各自能容忍的噪声上限，给出一个干净的"三分律"。
Laplacian Kernelized Bandit: 本文把"图上多用户、奖励非线性"的 Gang-of-Bandits 问题，归结为在一个统一多用户 RKHS 里学单个"提升函数"，其再生核优雅地把图拉普拉斯与臂核融合为 \(K((x,u),(x',u'))=[L_\rho^{-1}]_{u,u'}K_x(x,x')\)，由此设计出有遗憾保证的 LK-GP-UCB / LK-GP-TS 算法。
Larger Datasets Can Be Repeated More: A Theoretical Analysis of Multi-Epoch Scaling in Linear Regression: 本文在线性回归 + 多轮 SGD 的可解析设定下，定义并刻画了"有效复用率" \(E(K,N)\)——把同一份 \(N\) 样本数据训练 \(K\) 轮，等价于一次过训练多大的数据集——并证明 \(E(K,N)\) 不只依赖轮数 \(K\)，还随数据集规模 \(N\) 增大而增大（强凸下饱和点 \(\Theta(\log N)\)，Zipf 下为 \(N\) 的幂），即"数据集越大，越能多次重复"，从而修正了 Muennighoff et al. (2023) 中 \(E(K,N)\approx K\)（与 \(N\) 无关）的隐含假设。
Learning-Augmented Moment Estimation on Time-Decay Models: 本文把"机器学习预测的 heavy-hitter 预言机"引入时间衰减流模型（含多项式衰减、指数衰减、滑动窗口），通过一个只需预测"流后缀"重元素的 suffix-compatible 预言机 加上平滑性归约，把已有的 learning-augmented 流式 \(F_p\) 矩估计算法几乎无损地搬到了时间衰减场景，得到了空间近最优、可实现、并有形式化保证的算法。
Learning a Game by Paying the Agents: 一个 principal 在重复博弈中只观察无悔学习 agent 的行为、并通过"发钱 + 发信号"主动干预，就能在多项式轮数内把所有 agent 的效用函数（在策略等价意义下）学到任意精度 ε，并据此首次实现"不知道 agent 效用也能把任意无悔学习者引导到最优均衡"。
Learning Admissible Heuristics for A*: Theory and Practice: 把"学习 A* 启发式函数"形式化为约束优化问题，一方面提出 Cross-Entropy Admissibility (CEA) 损失在训练中强制可采纳性（never overestimate），另一方面用伪维度（pseudo-dimension）给出依赖网络规模而非图规模的泛化样本复杂度界，在 Rubik's Cube 上学到近乎完美可采纳、且强于同尺寸压缩 PDB 的启发式。
Learning Correlated Reward Models: Statistical Barriers and Opportunities: 本文证明了 RLHF 里主流的成对偏好数据根本无法学到用户效用之间的相关性，而 best-of-three（三选一排序）数据既必要又充分，并据此给出了相关 probit 模型的首个可识别性结果和一个近最优的多项式时间估计器。
Learning from Label Proportions via Proportional Value Classification: 本文把 Learning from Label Proportions 中的“匹配袋内平均预测”改写成一个袋级比例值分类任务，通过可逆的实例后验聚合与 FFT 加速计算，让模型在只看标签比例的情况下学到更尖锐的实例级分类器，并在多种袋构造策略上显著优于现有 LLP 方法。
Learning Shrinks the Hard Tail: Training-Dependent Inference Scaling in a Solvable Linear Model: 本文用一个可解析的"潜在实例难度（LID）"线性微调模型，证明 pass@k 失败率的幂律指数 \(\beta_{\text{eff}}(N)\) 是训练相关的——它随训练样本量 \(N\) 增大而上升，最终饱和到由难度分布尾部决定的内禀上限 \(\beta\)，从而把训练侧标度律和推理侧标度律在一个闭式框架里统一起来。
Learning the Inverse Temperature of Ising Models under Hard Constraints using One Sample: 这篇论文研究在已知有界度图和 k-SAT 硬约束截断集合下，如何仅凭一个样本估计 Ising 模型的逆温度参数，并证明基于最大伪似然的投影梯度算法能以近线性时间达到 \(O(\Delta^3 / \sqrt{n})\) 的一致性误差。
Learning to Adapt: In-Context Learning Beyond Stationarity: 本文给出了非平稳（时变）回归下 in-context learning 的首个理论刻画：证明门控线性注意力（GLA）通过一个可学习的遗忘因子 \(\lambda\) 实现"可学习的近因偏置"，在回归权重随一阶自回归过程漂移时，训练/测试误差都严格低于标准线性注意力，且最优 \(\lambda<1\)。
Learning to Answer from Correct Demonstrations: 这篇论文把 LLM 的 SFT 形式化为"上下文老虎机里从最优演示做模仿学习"，证明只要奖励模型（哪些答案算对）属于低复杂度类（而非演示者策略属于低复杂度类）就够了——这是更弱的假设；并指出极大似然/SFT 在此假设下会失败，转而给出一个一遍在线算法，样本复杂度只与奖励类的对数基数有关、且在演示最优时享有 \(1/\varepsilon\) 的"乐观速率"。
Learning under Quantization for High-Dimensional Linear Regression: 本文给出了第一个系统刻画"量化如何影响学习性能"的理论框架——在高维线性回归 + 有限步 SGD 设定下，对数据/标签/参数/激活/梯度五类量化目标推导出精确的超额风险上界，并证明加性量化（对应 INT）会污染数据谱、乘性量化（对应 FP）则保留谱结构，从而在高维下更优。
Lipschitz Bandits with Stochastic Delayed Feedback: 首次系统研究连续臂空间 Lipschitz bandit 在随机延迟反馈下的学习问题，针对有界延迟提出 Delayed Zooming 算法（通过 lazy update 机制保持 \(\Delta(x) \leq 6r_t(x)\) 的子最优 gap 界），针对无界延迟提出 DLPP 分阶段剪枝策略（遗憾与延迟分位数 \(Q(p)\) 挂钩），并建立实例相关下界证明 DLPP 近最优。
\(\mathbf{Li_2}\)：刻画特征涌现与延迟泛化动力学的理论框架: 本文提出 \(\mathbf{Li_2}\) 框架，从两层非线性网络的梯度动力学第一性原理出发，把 grokking（延迟泛化）拆成"懒惰学习→独立特征学习→交互特征学习"三阶段，证明独立阶段恰好是一个能量函数 \(E\) 的梯度上升、其局部极大值就是涌现的特征，并由此推出记忆/泛化边界的可证 scaling law。
Mean Estimation from Coarse Data: Characterizations and Efficient Algorithms: 本文彻底解决了凸划分下"粗化高斯均值估计"的两个开放问题——给出了可识别性的几何刻画（不可识别 ⟺ 几乎所有划分集合是同向"板"），并提供了首个匹配最优样本复杂度的多项式时间算法。
Memorizing Long-tail Data Can Help Generalization Through Composition: 在一个过参数化的线性模型里证明：记忆只出现过一次的长尾特征，配合模型自带的"组合"能力，就能对训练中从未同时见过的长尾特征组合做出正确预测——并在改造版 MNIST/Omniglot 上验证这一直觉对神经网络也成立，且组合能力依赖网络架构。
Memory-Statistics Tradeoff in Continual Learning with Structural Regularization: 在两任务线性回归的随机设计下，本文为"基于前一任务 Hessian 的广义 \(\ell_2\) 结构正则化"算法给出了匹配的过量风险上下界，首次从理论上揭示了持续学习中记忆复杂度（正则化矩阵的秩/向量数）与统计效率之间存在可证明的权衡：用更多向量记住旧任务曲率就能逼近联合训练的精度，用得越少则越容易灾难性遗忘。
Metric \(k\)-Clustering using only Weak Comparison Oracles: 仅靠一个会出错的"四元组比较 oracle"（回答"A 到 B 近，还是 C 到 D 近"），无需任何真实距离，就能用 \(O(nk\,\mathrm{polylog}\,n)\) 次查询为 \(k\)-median/\(k\)-means 构造常数近似的 Coreset+，并在低维（bounded doubling dimension）下进一步把近似比改进到 \(1+\varepsilon\)。
Minimax-Optimal Aggregation for Density Ratio Estimation: 针对密度比估计（DRE）对超参数极度敏感的痛点，本文提出一种把多个不同超参训练出来的模型线性聚合的算法，通过最小化 Bregman 散度的上界得到解析的聚合权重，理论上无需预知密度比光滑度即可达到 minimax-optimal 收敛率，在 DRE 基准与大规模域适应任务上超过交叉验证与模型平均。
Minimax Rates for Learning Pairwise Interactions in Attention-Style Models: 本文把单层注意力建模为交互粒子系统的逆问题，证明从聚合输出中学习两两交互函数 \(g^\star(x,y)=\phi^\star(x^\top A^\star y)\) 的 minimax 率为 \(M^{-\frac{2\beta}{2\beta+1}}\)，且在低秩条件下该率与嵌入维度 \(d\)、token 数 \(N\)、矩阵秩 \(r\) 全部无关——从统计意义上解释了注意力机制为何能规避维度灾难。
Minimax Sample Complexity of Graph Neural Networks: Lower Bounds and Structural Effects: 本文为 ReLU 消息传递 GNN 建立了两条极小极大（minimax）下界：任意图上误差不快于经典的 \(\sqrt{\log d / n}\)，而在"强同质 + 弱谱扩张"的谱-同质性条件下，转导式节点预测的误差只能慢到 \(d/\log n\)——揭示出真实图任务的样本复杂度主要由图拓扑（而非神经架构）决定。
Mitigating the Curse of Detail: Scaling Arguments for Feature Learning and Sample Complexity: 用统计物理的"标度分析"思路给贝叶斯神经网络做近似——不再求解高维非线性方程的精确解，而是用纸笔级的能量比较，预测各种特征学习模式（specialization、GFL 等）在什么数据量/宽度尺度下涌现，以及最小可学样本量 \(P^*\) 的标度指数。
Multi-Condition Conformal Selection: 把只能处理单阈值 y > c 的共形选择（conformal selection）推广到「合取条件 c1 < y < c2」和「析取条件 y < c1 或 y > c2」等多条件场景，通过设计区域单调的非共形分数 + 全局 BH 过程，在有限样本下严格控制 FDR。
Multi-Synaptic Cooperation: A Bio-Inspired Framework for Robust and Scalable Continual Learning: 受生物神经元"同一对轴突-树突间存在多条并行突触"启发，本文提出 MSCN：在固定网络结构内用多条并行突触提升表征容量，再用基于资格迹（eligibility trace）的局部活动调制突触可塑性，从而在不动态扩容的前提下缓解灾难性遗忘，并显著增强对任务顺序的鲁棒性。
Multiple-Prediction-Powered Inference: MultiPPI 把"用多个不同成本/质量的预测器在固定预算下高效估计某个均值"形式化为一个凸优化问题（单约束下是二阶锥规划 SOCP），自动决定查询哪些模型子集、各查多少次、如何加权，理论上在协方差已知时是 minimax 最优，实验上在三类 LLM 评测任务中始终比现有 PPI 基线误差更低。
Navigating the Latent Space Dynamics of Neural Models: 这篇论文把自动编码器看成作用在潜在流形上的动力系统：反复执行 \(f(z)=E(D(z))\) 会诱导一个潜在向量场，其吸引子和轨迹可以解释模型的记忆-泛化状态、无数据探测预训练权重中的先验信息，并用于分布外检测。
Near-Optimal Sample Complexity Bounds for Constrained Average-Reward MDPs: 本文给出了约束平均奖励 MDP（CAMDP）在生成模型下学习 ε-最优策略的首个近 minimax-最优样本复杂度上下界：松弛可行设定下 \(\tilde O\big(SA(B+H)/\varepsilon^2\big)\)，严格可行设定下 \(\tilde O\big(SA(B+H)/(\varepsilon^2\zeta^2)\big)\)，并配以匹配的下界，刻画了长期约束如何影响学习难度。
Near Optimal Robust Federated Learning Against Data Poisoning Attack: 针对联邦学习中"每个 worker 数据少、worker 数量多"的数据投毒场景，本文先给出攻击损失的极小极大下界，再设计一个"训判别器给 worker 打可信度权重"的两阶段机制，使上界在 \(m\to\infty\) 时渐近匹配下界，且攻击损失只依赖任务 VC 维 \(d\) 而非梯度维度。
Nearly Space-Optimal Graph and Hypergraph Sparsification in Insertion-Only Data Streams: 本文给出插入流（insertion-only stream）下图与超图谱稀疏化的近最优空间算法：把图谱稀疏器的空间从前人的 \(O(\frac{n}{\varepsilon^2}\log^2 n)\) 比特降到 \(O(\frac{n}{\varepsilon^2}\log n\cdot\text{poly}(\log\log n))\)，并首次给出在 \(m\)（超边数）上仅差 poly-iterated-log 因子的流式超图稀疏器，同时顺带解决了在线、滑动窗口与对抗鲁棒三种设定。
Neural Collapse in Multi-Task Learning: 本文首次把"神经坍缩"(Neural Collapse) 理论从单任务推广到多任务学习，刻画了单源/多源两种多任务设置下任务专属分类器与特征在训练末期的几何结构（任务专属 Simplex ETF、跨任务正交、共享特征=各任务专属特征之和），并用无约束特征模型给出了全局最优解的严格证明，进而揭示了"任务相关性会重塑分类器几何、促进特征对齐"这一多任务学习的归纳偏置。
Neural Posterior Estimation with Latent Basis Expansions: 把神经后验估计（NPE）的变分族改写成"对数密度 = 一组潜变量基函数的线性组合"——即一个用神经网络参数化的指数族，从而在低维后验投影上既保留高表达力、又把优化问题做成（边际）凸的，稳定地超越混合高斯和归一化流。
Neyman-Pearson Classification under Both Null and Alternative Distributions Shift: 本文首次给出在源域与目标域的两个类条件分布 \(\mu_0,\mu_1\) 同时漂移情形下的 Neyman-Pearson（NP）迁移学习过程，既保证源域有用时同时改善 Type-I/Type-II 误差、源域无用时退化到只用目标数据（避免负迁移），又通过约化为一串凸规划给出多项式时间的计算保证。
Noise Tolerance of Distributionally Robust Learning: 本文揭示主流的 Wasserstein 分布鲁棒学习 (WDRL) 在回归函数非凸、非 Lipschitz 时对全局加性噪声并无鲁棒增益，进而提出与模型结构无关的 Wasserstein Batch Matching (WBM)：在 batch 内对预测分布与响应分布做最优传输匹配，理论上把损失对噪声的线性敏感项压成立方衰减，实验在 PDE 算子学习与电网时序预测上以约 10 倍更低的计算成本超过 MSE 与各类 DRO。
"Noisier" Noise Contrastive Estimation is (Almost) Maximum Likelihood: 通过给噪声分布人为放大一个倍数 \(M\)，让 NCE 目标的梯度逐渐收敛到最大似然（MLE）梯度，从而在"目标分布与噪声分布差异巨大"这一经典难题（density-chasm）下也能快速、稳定地估计密度比——而代价几乎为零。
Non-Asymptotic Analysis of (Sticky) Track-and-Stop: 本文为纯探索领域两大经典算法 Track-and-Stop（TAS）与 Sticky Track-and-Stop（S-TAS）首次给出了非渐近（有限置信度）样本复杂度上界，填补了它们"只在 \(\delta\to0\) 时被证明最优、却不知有限 \(\delta\) 下表现如何"的理论空白。
Nonparametric Contextual Online Bilateral Trade: 在买卖双方估值是上下文的任意 Lipschitz 函数、且只能看到"交易是否成交"这一个比特反馈、还必须强预算平衡的最苛刻设定下，给出一个基于层级树划分的定价算法，达到 \(\tilde{O}(T^{(d-1)/d})\) 的遗憾界，并配上匹配下界证明其最优。
On Coreset for LASSO Regression Problem with Sensitivity Sampling: 本文为标准 LASSO 回归（目标 \(\|Ax-b\|_2^2+\lambda\|x\|_1\)）给出了第一个基于 sensitivity sampling 的 coreset 构造方法，通过把 \(\ell_1\) 惩罚诱导的复杂函数空间局部化分解成残差空间与 \(\ell_1\) 罚空间两部分，把原本 \(\tilde O(Gd/\epsilon^2)\) 的 coreset 规模收紧到 \(\tilde O\!\big(\epsilon^{-2}d(\log^3 d\cdot\min\{1,\log d/\lambda^2\}+\log(1/\delta))\big)\)，并给出近乎匹配的下界；实验上比直接求解 LASSO 快 4～18 倍，800 万样本的数据集只需 15 分钟。
On learning linear dynamical systems in context with attention layers: 本文给出单层线性注意力在「噪声线性动力系统（LDS）」上下文学习任务里的最优权重显式解，证明它在一阶自回归近似（AR(1)）下等价于对自回归最小二乘损失做一步梯度下降，并通过实验把 AR(s)（\(s\ge2\)）的最优解结构与预条件共轭梯度（PCG）方法联系起来，从而为「Transformer 预测精度能逼平 Kalman 滤波」这一经验现象提供了理论解释。
On Powerful Ways to Generate: Autoregression, Diffusion, and Beyond: 本文用可计算性理论严格刻画了"自回归 (ARM) vs 掩码扩散 (MDM)"两种生成方式的能力边界——证明 MDM 的并行性可带来指数级加速、但它的"任意顺序"灵活性并不比 ARM 解决更多问题，进而提出 any-process 生成（在 unmask 之外再加 remask / insert / delete 三种操作），用理论与实验证明它能解决 ARM 和普通 MDM 都做不到的更难推理与结构化生成任务。
On Smoothness Bounds for Non-Clairvoyant Scheduling with Predictions: 本文重新定义了「带预测算法」里的平滑性（smoothness）指标——只在「预测确实提供了额外信息」的实例子集上度量竞争比，从而避免旧定义被无信息实例污染；并在此新指标下为三类非透视调度问题给出了更紧的下界与匹配算法（单机总完成时间 \(\eta\) 下界 + \(\eta^2\) 算法、并行同速机 makespan \(2-O(\eta^{-2})\) 下界 + \(O(\eta^2)\) 算法、相关速度机 makespan 紧的 \(\lceil\log\eta\rceil\) 界）。
On the Bayes Inconsistency of Disagreement Discrepancy Surrogates: 本文证明了现有用于"差异度差异（disagreement discrepancy）"的代理损失在多分类（\(K>2\)）下不是 Bayes 一致的——优化代理并不一定优化真实目标，并据此设计了一个新的不一致损失 \(-\log(1-\sigma(s)_y)\)，配合交叉熵得到首个可证 Bayes 一致的代理，在误差界估计和有害偏移检测两类下游任务上都更可靠。
On the Benefits of Weight Normalization for Overparameterized Matrix Sensing: 本文给出了权重归一化（WN）在过参数化矩阵 sensing 上的首个理论刻画：把矩阵变量按"方向（Stiefel 流形）+ 幅度（对称矩阵）"解耦、配合黎曼梯度下降后，可以在有限样本下做到线性收敛（相比无 WN 的次线性下界是指数级加速），而且过参数化程度越高，迭代复杂度和样本复杂度反而多项式地下降。
On the Computational Limits of AI4S-RL：A Unified \(\varepsilon\)-\(N\) Analysis: 当用 AI 代理模型（neural operator）替代昂贵 PDE 求解器作为强化学习的仿真环境时，本文提出一个统一的 \(\varepsilon\)-\(N\) 理论框架，把代理模型的离散化精度、RL 智能体的网格分辨率与策略学习质量放进同一套概率语言里，推导出在给定精度 \(\varepsilon\)、置信度 \(1-\delta\) 下达成无偏值函数估计所需的最小计算成本 \(N^*(\varepsilon)\)，并给出不同物理系统下"代理精度 vs RL 精度"的闭式最优分配比例 \(K^*\)。
On the Convergence of Two-Layer Kolmogorov-Arnold Networks with First-Layer Training: 本文在过参数化、只训练第一层系数的设定下，证明两层 KAN 用梯度下降必然收敛到全局最优（零训练误差），给出一个由"标签在 KAN 切核特征谱上的投影"决定的细粒度收敛速率，并指出 KAN 只需 \(m=O(n^2)\) 的隐层宽度就能保证收敛——相比经典 ReLU 两层网络的 \(m=O(n^6)\) 是一个多项式级的巨大改进。
On the Expressiveness of State Space Models via Temporal Logics: 本文用有限迹上的纯过去线性时序逻辑（PLTLf）及其计数/模算子扩展，给不同门控机制（对角门控 S6、时不变 S4、混合门控）和不同算术精度（定宽 vs. 对数精度）的状态空间模型（SSM）刻画出一套表达能力下界层级，并证明了若干硬性不可表达结论（如定宽对角 SSM 无法识别 \((aa)^*\)），同时把 SSM 与 Transformer 的已知逻辑刻画对齐起来。
On the Interpolation Effect of Score Smoothing in Diffusion Models: 本文用解析推导加上数值实验论证：扩散模型之所以能"创造"训练集里没有的新样本，是因为神经网络在拟合经验分数函数（ESF）时学到了它的一个平滑版本，这个平滑直接驱动去噪轨迹生成在训练数据之间做插值的样本，从而避开了精确 ESF 必然导致的记忆化。
On the Spectral Differences Between NTK and CNTK and Their Implications for Point Cloud Recognition: 本文在任意维度的张量数据假设下，给出 NTK 与 CNTK 两个与数据分布无关的谱差异定理（NTK 特征值均值更大、谱更集中），据此定义衡量数据"是否适合卷积"的指标"卷积适配度"，并由此推断点云比图像更依赖卷积结构，最终用 CNTK-NTK 混合核（PointNTK）在小样本点云识别上显著超过 NTK 基线。
On the Wasserstein Geodesic Principal Component Analysis of probability measures: 本文把概率测度集合上的主成分分析从切空间近似推进到真正的 Wasserstein 测地线优化：对高斯测度用 Bures-Wasserstein 几何提升到可逆矩阵空间，对一般绝对连续测度用 Otto 参数化和神经网络学习主测地线，并展示它比 Tangent PCA 更能刻画弯曲空间中的分布变化模式。
On Universality of Deep Equivariant Networks: 这篇论文为深度不变 / 等变网络建立了"在分离约束下的万能逼近"定理，指出深度和读出层（readout）是达成万能性的决定性机制，并为等变情形引入了比标准分离更细的"逐分量分离"（entry-wise separability）判据，统一并推广了此前局限于浅层或特定架构的结论。
Online Conformal Prediction with Adversarial Semi-bandit Feedback via Regret Minimization: 本文把"只在真实标签落进预测集时才能看到标签"的在线 conformal prediction 问题，重构成一个对抗多臂老虎机问题（每个阈值候选当作一只臂），通过设计专属损失函数把 regret 与 miscoverage 率显式挂钩，并改造 EXP3.P 得到 OCP-Unlock+ 算法，在不依赖 i.i.d. 假设的对抗数据流下首次给出长程覆盖保证。
Online Decision-Focused Learning: 本文首次把决策聚焦学习（decision-focused learning, DFL）从 i.i.d. 批量设定推广到目标函数随时间变化的在线设定，通过"正则化内层问题换可微性 + 近似 oracle 与扰动换可处理非凸"两招，提出 DF-FTPL 和 DF-OGD 两个算法，分别给出可证明的静态与动态 regret 上界。
Online Decision Making with Generative Action Sets: 本文研究一类动作集合可以"花钱生成、永久复用"的在线决策问题，提出用 LCB 选已有动作、UCB 决定是否生成新动作的"双重乐观"算法，并证明它达到 \(O(T^{\frac{d}{d+2}}d^{\frac{d}{d+2}} + d\sqrt{T\log T})\) 的最优遗憾，是首个针对动作空间动态扩张场景的次线性遗憾界。
Online Inventory Optimization in Non-Stationary Environment: 本文为非平稳需求下的在线库存优化（OIO）提出了一个"两阶段投影 + 倍增技巧"的算法，把携带库存约束转化为与售罄周期成比例的切换代价，从而把 OIO 归约到平滑在线凸优化（SOCO），首次给出近最优的动态遗憾界 \(\tilde{O}(\sqrt{L_{\max}T(1+P_T)})\)，并配上匹配下界 \(\Omega(\sqrt{L_{\max}T})\)。
Online Learning and Equilibrium Computation with Ranking Feedback: 本文把经典的"数值效用反馈"在线学习推广到只能看到动作排名的场景，先证明在对抗环境下纯排名反馈何时根本不可能做到 sublinear regret，再构造一套"从排名估计效用 + 黑盒喂进任意无悔算法"的模算法，在效用变化受限的假设下拿到 sublinear regret，并进一步保证多玩家重复博弈收敛到近似粗相关均衡（CCE），最后用一个在线 LLM 路由实验验证。
Online Rounding and Learning Augmented Algorithms for Facility Location: 本文给出了度量设施选址（facility location）问题的首批在线舍入算法——把一个在线维护的分数解就地舍成整数解：均匀开设代价情形用确定性算法只损失 \(O(1)\) 常数因子，非均匀情形用随机化算法只损失 \(O(\log\log\Delta)\) 期望因子（\(\Delta\) 为度量的纵横比），并由此得到多预测（multiple predictions）下学习增强设施选址的首个整数算法，把一致性/鲁棒性界推到与分数解几乎吻合的紧界。
Optimizing Data Augmentation through Bayesian Model Selection: 本文提出 OPTIMA，把数据增强参数当成模型超参数、把"选增强策略"重新表述为贝叶斯模型选择问题，再用一个可处理的增强 ELBO 把增强参数和模型参数放进同一个训练循环里联合优化，从而免去网格搜索/贝叶斯优化那种反复训练的代价，并在视觉和 NLP 任务上同时提升泛化、校准和 OOD 鲁棒性。
Oracle-Efficient Hybrid Online Learning with Constrained Adversaries: 本文研究"特征 i.i.d.、标签对抗"的混合在线学习问题，通过给对抗者加上"标签函数必须取自固定函数类 \(R\)"的结构性约束，设计出一个只需调用线性优化 oracle 就能运行、且 regret 随复合类 \(\ell\circ(H\times R)\) 的 Rademacher 复杂度缩放的算法，首次在该设定下同时逼近统计最优与计算高效。
Overparametrization bends the landscape: BBP transitions at initialization in simple Neural Networks: 把经典相位恢复推广成"宽度任意的两层平方激活师生网络"，用场论方法解析算出初始化时损失 Hessian 的谱，发现谱里出现离群本征值（携带教师信号信息）的 BBP 转变阈值会随过参数化而降低——学生越宽，越少的数据就能让信号在随机初始点的曲率里浮现，极限情况下甚至触到信息论上的弱恢复下界 \(p^*/2\)。
PAC-Bayes Bounds for Cumulative Loss in Continual Learning: 这篇论文把现有的在线学习与 time-uniform 离线学习的 PAC-Bayes 上界推广到持续学习场景，给出了第一个对任意任务分布、任意学习算法都成立的累积损失（学习可塑性）上界，并在视觉持续学习任务上验证出非空（non-vacuous）的风险证书。
Parameterized Hardness of Zonotope Containment and Neural Network Verification: 本文证明了 2 层 ReLU 网络的正性/满射性判定、zonotope 非包含、以及 Lipschitz 常数计算等一系列验证相关问题在以输入维度 \(d\) 为参数时都是 W[1]-hard 的，从而在指数时间假设（ETH）下排除了固定参数可解性，并说明朴素的「枚举线性区域」暴力算法在对 \(d\) 的依赖上已基本最优。
Persistence Spheres: Bi-Continuous Representations of Persistence Diagrams: 本文提出 持续球面 (Persistence Spheres, PS)：把持续图加权后构造其「升维带状体 (lift zonoid)」并取它在单位球 \(S^2\) 上的支撑函数，得到一个对 1-Wasserstein 距离 Lipschitz 连续、且在像集上还有连续逆 的函数型表示——这种"正反都连续"的双连续保证在持续图向量化方法里极为罕见，实验上在聚类/回归/分类任务中与 persistence image、landscape、sliced Wasserstein kernel 等基线持平甚至更优。
Physics-informed learning under mixing: How physical knowledge speeds up learning: 本文为"带物理信息正则化的经验风险最小化"在非独立同分布（依赖/混合）数据下推导出超额风险的高概率界与期望界，证明只要物理先验与真值"对齐"（\(\|D(f^\star)\|_{L^2}^2\simeq 0\)），学习率就能从慢的 Sobolev 极小极大率 \(O(T^{-d})\) 一路加速到与 i.i.d. 最优率一致的 \(O(1/T)\)，且不会因为数据依赖而损失有效样本量。
Poisson Midpoint Method for Log-Concave Sampling: Beyond the Strong Error Lower Bounds: 本文对 Poisson 中点离散化（PLMC）的强对数凹采样做了一次锐利的 \(W_2\) 收敛分析，证明它在过阻尼/欠阻尼 Langevin 动力学下都能把对精度 \(\epsilon\) 的依赖从 \(\tilde O(\epsilon^{-2/3})\) 进一步压到 \(\tilde O(\epsilon^{-1/3})\)，比此前被普遍认为最优的随机中点法快一个量级，并首次证明 \(W_2\) 弱误差的复杂度可以低于文献里 \(L^2\) 强误差的复杂度下界。
Poly-attention: a general scheme for higher-order self-attention: 本文提出 poly-attention——一类用「注意力多项式」\(h\) 统一刻画的高阶自注意力机制（自注意力、张量注意力、Strassen 注意力都是其特例），系统给出每种机制精确/近似计算的时间复杂度与表达力的紧匹配刻画，并由此找到一个新机制 tree-attention：它能在与自注意力相同的二次时间内完成任意 \(r\) 折函数复合，而此前所有能做复合的机制都需要超二次时间。
Polynomial Convergence of Riemannian Diffusion Models: 本文证明了流形上的黎曼分数生成模型（RSGM）只需多项式量级的步长，就能在总变差距离下做到精确采样，把 De Bortoli et al. (2022) 此前需要"指数小步长 + L∞ 精度分数 + 光滑严格正数据分布"的苛刻保证，一举放松到"多项式步长 + L2 精度分数 + 任意数据分布"。
Practical Estimation of the Optimal Classification Error with Soft Labels and Calibration: 本文在二分类的贝叶斯误差（最优错误率）估计上做了两件事：一是给出比前人紧得多、且会随两类分布"分得开不开"而自适应加速的偏差界；二是提出在软标签被污染时先用等渗校准再代入估计公式，只要软标签的"序"没乱就能得到统计一致的估计。
Prediction with Expert Advice under Local Differential Privacy: 本文研究本地差分隐私（LDP）约束下的「专家建议预测」在线学习问题：先指出经典随机游走算法 RW-FTPL 天然满足 LDP，再设计两个改进——RW-AdaBatch 利用「换手次数少」这一性质做自适应分批，在数据越「简单」时隐私放大越强且几乎不损失 utility；RW-Meta 用共享噪声的方式在「不额外消耗隐私预算」的前提下，从一组本身就是学习算法的数据依赖专家中做私有选择，在真实 COVID-19 医院数据上比经典基线和 SOTA 中心化 DP 算法高出 1.5–3 倍。
Pretrain–Test Task Alignment Governs Generalization in In-Context Learning: 本文用一个可解的线性注意力做上下文线性回归的模型，推导出在预训练任务协方差 \(C_{\text{train}}\) 与测试任务协方差 \(C_{\text{test}}\) 任意错配下 ICL 泛化误差的精确高维公式，由此提炼出一个「任务对齐度量」，它不仅在可解模型里、连在非线性 Transformer 上都能精准预测 ICL 性能，并揭示「预训练任务越多样不一定越好」的专精-泛化权衡。
Preventing Model Collapse Under Overparametrization: Optimal Mixing Ratios for Interpolation Learning and Ridge Regression: 本文在过参数化线性回归（\(p/n\to\gamma>1\)）下，给出"每轮把新鲜真实标签和上一轮模型生成的合成标签按比例 \(w\) 混合再训练"这一迭代方案的精确泛化误差公式，并证明最小 \(\ell_2\) 范数插值器的最优真实数据占比收敛到黄金比例倒数 \(\varphi^{-1}\approx0.618\)、岭回归下最优比例恒 \(\ge1/2\)，从理论上刻画了何时能防住模型崩溃、何时崩溃不可避免。
Price of Quality: Sufficient Conditions for Sparse Recovery using Mixed-Quality Data: 本文研究当观测数据来自"少量高质量+大量低质量"两类异方差噪声源时，稀疏信号支撑集恢复所需的样本量充分条件，提出"质量价格" \(\gamma\)（一个高质量样本相当于多少个低质量样本）这一量化指标，并揭示了一个反直觉的对照：信息论阈值会随数据质量结构敏感地变化，而 LASSO 算法阈值却只依赖平均噪声、对数据异质性出奇地鲁棒。
Probability Distributions Computed by Autoregressive Transformers: 这篇论文把 Transformer 表达力研究从"分类器"（接受/拒绝整串）的传统设定，扩展到它实际被使用的"自回归概率语言模型"设定，证明了「自回归」与「实数权重（概率）」这两个改动会改变甚至打破已有的等价结论——有时让 Transformer 变强，有时让分类器与自回归彼此不可比。
Proper Velocity Neural Networks: 本文把源自狭义相对论的「固有速度（Proper Velocity, PV）」空间引入机器学习，先补齐它的完整黎曼工具箱（指数/对数映射、平行移动、测地距离的闭式解），再在其上搭出 MLR、全连接、卷积、激活、批归一化等核心层，得到一套数值稳定、且在强双曲数据上优于 Poincaré / 双曲面模型的 Proper Velocity 神经网络（PVNN）。
Provable Separations between Memorization and Generalization in Diffusion Models: 本文从「统计估计」和「网络逼近」两个互补视角证明：扩散模型里的记忆化（reproduce 训练样本而非泛化生成）根本上来源于真实分数函数与经验分数函数之间的两道可证明的「分离」——真实分数并不最小化去噪分数匹配损失，且经验分数需要随样本数增长的网络才能逼近——并据此给出一个面向 DiT 的剪枝缓解方法。
Pseudo-Non-Linear Data Augmentation: A Constrained Energy Minimization Viewpoint: 本文从信息几何与能量模型出发，把数据嵌入到一个对偶平坦的统计流形上，用「前向投影编码 + 后向投影解码」模仿自编码器，提出一种免训练、可控、跨模态的数据增强方法 PNL，在多个下游分类任务上取得与生成式/经典增强相当甚至更优的精度，同时显著降低方差。
Quantitative Bounds for Length Generalization in Transformers: 本文给出 transformer "长度泛化"（在短序列上训练、在任意长序列上仍保持性能）所需最小训练序列长度的首个定量上界，核心论证是：只要 transformer 在长序列上的内部行为能被某个长度受限的短序列"模拟"出来，长度泛化就会发生，而这个"短序列上界 \(N\)"随参数范数、位置周期 \(\Delta\)、局部性 \(\tau\)、词表大小 \(|\Sigma|\) 和逆误差 \(\varepsilon^{-1}\) 多项式（或指数）增长。
Quantum Machine Learning Advantages Beyond Hardness of Evaluation: 本文首次证明：对于由量子函数（BQP-complete）标注的数据，即便不要求模型去"评估"新样本、只要求"识别"出标注函数本身，经典算法也做不到——除非 \(\mathsf{BQP}\) 落在多项式层级的低层（一个被普遍认为不成立的塌缩），从而把量子机器学习的优势从"评估难"推进到"学习过程本身难"。
Quasi-Equivariant Metanetworks: 针对"元网络（metanetwork）若强制严格等变会变得稀疏、表达力受限"的问题，本文提出拟等变（quasi-equivariance）：把"输入做群变换、输出跟着做同一个群变换"放松成"输出跟着做一个依赖输入的群变换"，在仍然严格保住函数等价性的前提下解放表达力；落地为一层可学的群值缩放 \(\alpha(\theta)\) 叠在现有等变骨干 \(\beta(\theta)\) 上，只多 3–5% 参数，就在 CNN/Transformer 泛化预测、INR 分类等基准上稳定涨点。
Queue Length Regret Bounds for Contextual Queueing Bandits: 这篇论文提出"上下文排队赌博机"框架——在线学习未知服务率的同时给带异质上下文特征的任务做调度，并通过"策略切换队列 + 耦合"把队列长度遗憾分解开来，证明随机上下文下算法 CQB-ε 达到 \(\tilde{O}(T^{-1/4})\) 的衰减遗憾、对抗上下文下 CQB-Opt 达到 \(O(\log^2 T)\) 的多项式对数遗憾。
Quotient-Space Diffusion Models: 本文提出"商空间扩散模型"——把传统等变扩散过程投影到去掉对称冗余的商空间、再水平提升回原空间，使模型在等价类内部的输出可以任意（降低学习难度），同时用一个曲率补偿项保证采样仍恢复正确的对称目标分布；在分子构象和蛋白骨架生成上一致超过等变扩散与基于对齐的简化方法。
Random-Projection Ensemble Dimension Reduction: 本文提出 RPEDR——一种基于随机投影集成的高维回归降维框架：把大量低维随机投影分成若干互不相交的组，每组按经验回归误差留下最好的一个投影，再用 SVD 聚合这些被选中的投影并由奇异值指导维度选择，理论上估计误差随组数 \(L\) 以不慢于 \(L^{-1/2}\) 的速率下降，实验上在 18 个仿真设置里 15 个夺冠。
Random Label Prediction Heads for Studying Memorization in Deep Neural Networks: 给网络在原任务头旁边并联一个"随机标签预测头"（RLP-head），用它预测每个样本被随机分配的标签，再把这个头的随机标签准确率当作 Rademacher 复杂度的经验代理来度量记忆化，并据此设计一个抑制记忆化的正则项——结果发现"减少记忆化"在采样充分的数据集上提升泛化、在欠采样数据集上反而损害泛化，直接挑战了"过拟合等于记忆化"的传统假设。
Random Spiking Neural Networks are Stable and Spectrally Simple: 本文把离散时间 LIF 脉冲神经网络（SNN）分类器看成布尔函数的组合，用布尔函数分析证明了随机初始化的宽 SNN「平均意义下是稳定的」——输入扰动到 \(O(\sqrt{n})\) 个坐标时输出大概率不变，并由此提出「谱简单性」概念，证明随机 SNN 偏向傅里叶谱集中在低频的简单函数，实验进一步表明训练会让稳定性更强。
Reducing Symmetry Increase in Equivariant Neural Networks: 本文系统刻画了等变神经网络在处理对称输入时"输出对称性反而被放大、丢失方向信息"这一退化现象，证明被放大的对称性存在一个由特征空间结构唯一决定的下确界（symmetry infimum），并给出可计算算法和特征设计指南来预测和规避有害的对称性增大。
Reshaping Reasoning in LLMs: A Theoretical Analysis of RL Training Dynamics through Pattern Selection: 本文把 LLM 的推理抽象成「先选推理模式 \(r\)、再据此推答案 \(a\)」的两阶段过程 \(q\to r\to a\)，用 tabular policy + 梯度流刻画 RLVR 与 RLIF 的训练动态，证明 RLVR 会稳定收敛到成功率最高的推理模式（强基座快收敛、弱基座要经历"纠缠期"），而 RLIF 初期提升、长训却有 50% 概率收敛到最差模式，从理论上解释了二者实测曲线的差异。
Residual Feature Integration is Sufficient to Prevent Negative Transfer: 本文提出 REFINE：把冻结的预训练源特征 \(f_{rep}(x)\) 与一个在目标域上训练的残差编码器 \(h(x)\) 拼接后再接一个浅层适配器，作者从非参数回归理论上证明这个极简结构可证明地避免负迁移——最坏情况下不差于从头训练，源特征有用时收敛率又能平滑过渡到近参数率，并在图像/文本/表格基准以及单细胞空间组学的跨模态任务上验证了它的稳健性。
Resurfacing the Instance-only Dependent Label Noise Model through Loss Correction: 本文重新启用"只依赖实例、不依赖标签"的标签噪声模型（IDN），基于风险等价为任意分类校准损失设计一个实例感知的修正损失 \(\tilde{\ell}\)，把"在噪声标签上做经验风险最小化"严格桥接到"在干净标签上做真风险最小化"，并且每个样本只需估一个标量翻转率 \(\rho_x\) 而非一整个转移矩阵，在图像/音频/表格三类数据、神经网络和梯度提升树两类学习器上都验证了泛化能力。
Revenue Maximization under Sequential Price Competition via the Estimation of s-Concave Demand Functions: 本文研究多卖家在 \(T\) 期里反复同时定价的竞争问题，用「半参数最小二乘 + 形状约束」估计每个卖家未知的非线性需求函数，提出 SPE-BR 策略，证明价格以 \(\tilde O(N^{3/4}T^{-1/7})\) 速率收敛到纳什均衡、个体遗憾为 \(\tilde O(N^{3/2}T^{5/7})\)，并把均衡存在性统一刻画到 s-凹性这一形状约束之下。
Revisiting Active Sequential Prediction-Powered Mean Estimation: 本文重新审视"主动序贯预测增强均值估计"：先给出此前只有渐近保证的估计量的非渐近、任意时刻成立的数据相关置信界，再用 FTRL 在线学习去选每轮的标签查询概率，理论与实验共同表明——当查询概率对当前协变量不可见时，最优策略就是简单地令查询概率收敛到预算上界 \(T_b/T\)，精心设计的不确定性加权几乎不带来额外收益。
Revisiting Nonstationary Kernel Design for Multi-Output Gaussian Processes: 本文从谱域重新审视多输出高斯过程的非平稳核设计，提出更一般的多输出谱-核对偶，并用低秩矩阵值谱密度构造 MO-LRN 核，在保持线性参数规模的同时显著提升回归、插值和缺失补全效果。
Revisiting Tree-Sliced Wasserstein Distance through the Lens of the Fermat–Weber Problem: 本文指出 Tree-Sliced Wasserstein（TSW）相比 Sliced Wasserstein（SW）的真正优势在于它的采样同时编码了"位置"信息，而现有 TSW 变体的采样（高斯中心放在数据均值）并没有用好这一点；作者借助经典的 Fermat–Weber 问题，用几何中位数作为树系统交点的采样中心，提出 FW-TSW / FW-TSW*，在几乎不增加计算开销的前提下提升了梯度流、主题建模与扩散模型训练的效果。
Risk Phase Transitions in Spiked Regression: Alignment Driven Benign and Catastrophic Overfitting: 本文在 rank-one spiked covariance 线性回归中给出最小范数插值解的闭式泛化风险公式，说明 spike 强度、目标与 spike 方向的对齐、模型错设和协变量偏移会共同触发从良性过拟合到灾难性过拟合的相变。
Robust Amortized Bayesian Inference with Self-Consistency Losses on Unlabeled Data: 针对摊销贝叶斯推断（ABI）在「训练仿真数据覆盖不到的真实观测」上会严重崩溃的问题，本文把贝叶斯自洽性（Bayes 规则的边际似然恒等式）改写成一个不需要真实参数标签的严格适当损失，从而能在无标注真实数据上半监督训练，仅用 4 个无标注样本就能让后验在远离训练分布处仍然准确无偏。
Robust Decision Making with Partially Calibrated Forecasts: 当预测器只满足"部分校准"（弱于全校准）时，本文用极小极大鲁棒决策的视角刻画出最优决策规则——它是对"被校准约束允许的最坏分布"做最优响应；并证明只要校准强度达到"决策校准"这个可计算的弱条件，最优鲁棒规则就坍缩成"信任预测、直接最优响应"，跟全校准给出的语义完全一致。
Robust Generalized Schrödinger Bridge via Sparse Variational Gaussian Processes: 针对广义 Schrödinger 桥（GSB）里 stage cost 可能带噪声的问题，本文把 GSBM 中确定性的「钉住边际路径」优化改造成贝叶斯推断——给路径的均值/标准差函数加高斯过程先验、把 CondSOC 目标当作（带噪）似然，用稀疏变分自由能推断后验路径，在带噪的人群导航与图像翻译任务上得到比 GSBM 更鲁棒的解。
Robustness of Probabilistic Models to Low-Quality Data: A Multi-Perspective Analysis: 这篇论文通过受控加噪实验发现"不同概率模型对低质量数据的鲁棒性差异极大"（自回归语言模型几乎免疫、类条件扩散模型灾难性崩溃、分类器居中且随数据规模增大而变强），并用信息论、PAC 学习、梯度动力学三个视角把这种差异统一归结为两条原则——条件信息的丰富度和训练数据的绝对信息量。
Rényi Sharpness: A Novel Sharpness That Strongly Correlates with Generalization: 本文指出真正决定泛化的是 Hessian 谱的"平均散度/不均匀度"，于是用信息论里的 Rényi 熵把它定义成 Rényi sharpness（Hessian 归一化谱的负 Rényi 熵），证明它与泛化在大量场景下都强相关（Kendall τ 普遍 0.6–0.9，远超 trace/SAM/PAC-Bayes 等旧度量），并据此给出泛化界和一个有竞争力的 RSAM 训练正则化算法。
Saddle-To-Saddle Dynamics in Deep ReLU Networks: Low-Rank Bias in the First Saddle Escape: 本文从小初始化下深 ReLU 网络靠近原点鞍点的局部动力学出发，刻画梯度下降第一次逃逸的最优方向，证明深层权重和激活会出现随深度增强的近似 rank-one 偏置，并用反例说明 ReLU 网络的第一层不必像深线性网络那样严格 rank-one。
Sample Complexity and Representation Ability of Test-time Scaling Paradigms: 这篇论文从理论上刻画了三种 test-time scaling 策略的效率：证明了 self-consistency 需要 \(\Theta(1/\Delta^2)\) 个样本、best-of-n 只需 \(\Theta(1/\Delta)\) 个样本（\(\Delta\) 是正确答案与次优答案的概率间隙），并构造性地证明了带 verifier 反馈的自我纠错能让单个 Transformer 在测试时模拟"在多专家上做在线学习"，从而把 Transformer 的表达力理论从单任务推广到多任务。
Sampling Complexity of TD and PPO in RKHS: 本文在再生核希尔伯特空间（RKHS）这一统一函数空间里，把策略评估（核化 TD critic）与策略改进（KL 正则的近端/自然梯度更新）解耦分析，给出依赖 RKHS 熵的非渐近、实例自适应的收敛界，并推导出保证 \(O(k^{-1/2})\) 收敛所需的每轮采样规则，在 CartPole、Acrobot、HalfCheetah 上验证了理论预测的步长调度。
Scalable Random Wavelet Features: Efficient Non-Stationary Kernel Approximation with Convergence Guarantees: 提出 Random Wavelet Features (RWF)，通过从小波族中随机采样构建可扩展的非平稳核近似，保留随机特征的线性时间复杂度，同时具有正定性、无偏性和一致收敛保证。
Scaling Laws and Spectra of Shallow Neural Networks in the Feature Learning Regime: 这篇论文把两层神经网络（对角网络、二次网络）在带权重衰减训练下的经验风险最小化问题，精确映射到 LASSO 和低秩矩阵压缩感知，从而首次在"真正发生特征学习"的设定下解析地刻画出超额风险的完整相图（8 个相、含良性/有害过拟合与插值峰），并进一步把每个标度律相位与训练后权重谱（bulk / spike / 重尾）一一对应，从第一性原理解释了"重尾权重谱 ↔ 更好泛化"这一经验观察。
Score-Based Density Estimation from Pairwise Comparisons: 本文证明了"目标信念密度的分数"与"可观测的胜者边缘密度的分数"之间存在一个逐点共线的精确关系——二者被一个位置相关的「回火场」\(\tau(x)\) 连接，从而把"只能拿到成对比较 \(x \succ x'\)"这种几乎无法直接学密度的难题，转化为"用分数模型学胜者密度 + 估一个回火场再反回火"的可解流程，仅用数百到数千次成对比较就能学到复杂的多峰信念密度。
Semi-Parametric Contextual Pricing with General Smoothness: 针对"上下文 + 未知噪声分布"的动态定价问题，本文用「局部多项式回归 + 约束最小二乘 + 亚线性强制探索」拼出一个对任意平滑度 \(\beta\ge 1\) 都成立的统一算法 LPSP，把 regret 上界做到 \(\tilde O(T^{\frac{\beta+1}{2\beta+1}})\)，一举统一并改进了此前 \(\beta=1\) 的 \(\tilde O(T^{2/3})\) 与 \(\beta=2\) 的 \(\tilde O(T^{3/5})\) 两个孤立结果。
Separable Neural Networks: Approximation Theory, NTK Regime, and Preconditioned Gradient Descent: 这篇论文系统补齐了可分神经网络（SepNN）的理论底座：证明 CP/TT/Tucker 型 SepNN 具备普适逼近能力，推导其无限宽/无限秩与固定秩下的 NTK regime，并提出 SepPGD 用低维可分预条件矩阵调节 NTK 谱，从而加速 INR、PINN 等网格坐标任务中的训练收敛。
Sharp Asymptotic Theory for Q-Learning with LD2Z Learning Rate and Its Generalization: 本文为采用「线性衰减到零」（LD2Z，\(\eta_{t,n}=\eta(1-t/n)\)）及其幂律推广（PD2Z-\(\nu\)，\(\eta_{t,n}=\eta(1-t/n)^\nu\)）学习率的 Q-learning 给出了首套完整渐近理论——包括尖锐的非渐近误差界、尾部 Polyak-Ruppert 平均估计量的中心极限定理、以及偏序和过程的强不变原理（时间一致高斯逼近），从理论上解释了为何这种"两阶段"步长能兼得常数步长的快速忘记初值与多项式步长的渐近收敛保证。
Singleton-Optimized Conformal Prediction: 本文针对共形预测里"集合太大、需要人工介入"的痛点，提出一个直接优化单点集合概率（而非平均长度）的非一致性分数 SOCOP，通过把每个样本的拉格朗日子问题几何化成"求 \(K\) 个二维点的下凸包"，在 \(O(K)\) 时间内算出分数，在图像分类和 LLM 选择题上把非单点率最高降低 20% 而几乎不增大平均集合尺寸。
Slicing Wasserstein over Wasserstein via Functional Optimal Transport: 本文提出双重切片 Wasserstein（DSW）距离，用「球面域切片 + 分位数函数的 \(L^2\) 高斯过程切片」两层切片来高效逼近代价高昂的 Wasserstein over Wasserstein（WoW）距离，并证明在离散元测度上 DSW 的最小化与 WoW 的最小化等价，避开了已有切片方法对高阶矩的数值不稳定依赖，在数据集、形状、图像比较上都能作为 WoW 的可扩展替代。
Smooth Calibration Error: Uniform Convergence and Functional Gradient Analysis: 本文为 smooth calibration error（光滑校准误差）建立了有限样本理论：先证明总体 smooth CE 可被「训练集 smooth CE + 泛化间隙」一致收敛地控制，再证明训练 smooth CE 可被损失的泛函梯度范数控制，从而首次为梯度提升树、核提升和两层神经网络同时给出了「校准 + 精度」的可证明保证。
Softmax is not Enough (for Adaptive Conformal Classification): 本文指出自适应保形分类若只依赖 softmax 概率会继承深度分类器的过度自信问题，并提出用 logit 空间的 Helmholtz free energy 对非一致性分数做样本级重加权，在保持保形预测覆盖保证的同时，让预测集合对简单、困难和 OOD 输入更有区分度。
Softmax Transformers are Turing-Complete: 本文首次证明带思维链（CoT）的 softmax 注意力 Transformer 是图灵完备的，且这种构造还自带长度泛化保证——关键技巧不是去硬模拟图灵机的读写头，而是用 softmax 自带的"计数"能力（经由 C-RASP）去模拟 Minsky 计数机，并辅以一个与任务无关的相对位置编码（RPE）把任意输入编码成数字。
Some Neural Networks Inherently Preserve Subspace Clustering Structure: 本文用扰动理论证明：当数据具有"子空间聚类（union-of-subspaces）"结构时，带 ReLU 等激活函数的单层（乃至多层）网络在满足一个谱隙条件下会原样保留这种聚类结构，而且网络在普通训练中无需任何显式正则就会自发学到满足该条件的权重 \(W\)——也就是说这类网络其实是在"用闭式解做聚类"。
Splat Regression Models: 本文提出 Splat Regression Model（泼溅回归模型）——一类把输出写成「异质、各向异性 bump 函数（splat）加权混合」的函数逼近器，用 Wasserstein-Fisher-Rao 梯度流在测度空间上优化它；该框架把当下大热的 3D Gaussian Splatting 收编为一个特例，并在低维逼近、回归、物理信息拟合等任务上以远少的参数把 KAN / MLP 打出 \(10\sim100\) 倍的误差差距。
Stable Coresets: Unleashing the Power of Uniform Sampling: 本文提出介于 weak coreset 与 strong coreset 之间的"stable coreset"新概念，证明了仅靠均匀采样（一个大小为 \(O(\epsilon^{-2}\log d)\) 的均匀样本）就能为 \(\ell_1\) 度量下的 1-median 问题构造出 stable coreset，从而把"廉价、与数据无关、可流式/分布式"的均匀采样从启发式提升为有严格保证、且能传递到所有可嵌入 \(\ell_1\) 的子度量（Kendall-tau、Jaccard 等）的工具。
Statistical and Structural Identifiability in Representation Learning: 本文把"表示稳定性"拆成两个独立概念——统计可辨识性（多次重训得到一致表示）与结构可辨识性（表示对齐到真实生成因子），提出带误差容忍 \(\epsilon\) 的"近可辨识"定义，证明了一类带非线性解码器模型（MAE、监督学习器、GPT 中间层）的统计 \(\epsilon\)-近可辨识，并指出用线性 ICA 后处理潜空间即可消除剩余线性不确定性，得到一个极简的解耦"配方"，在合成解耦基准上用 vanilla autoencoder 就达到 SOTA，在细胞显微的基础模型上把生物变异与批次效应分开。
Stop Guessing: Choosing the Optimization-Consistent Uncertainty Measurement for Evidential Deep Learning: 本文从优化视角重新审视证据深度学习（EDL），证明用 UCE 损失训练 EDL 等价于隐式地最大化类间间隔（与 Crammer–Singer 多类 SVM 同构），由此提出"优化一致性原则"作为筛选不确定性度量的判据，并据此设计了一个简单、可解释的新度量 MPU（间隔感知预测不确定性），在 OOD 检测与误分类检测上显著优于传统度量。
Strong Correlations Induce Cause Only Predictions in Transformer Training: 本文发现并刻画了 Transformer 训练中的一个新现象——相关性挤出（Correlation Crowding-Out, CCO）：当数据里某个因果特征与目标的相关性强到压过所有虚假特征时，梯度下降会在没有任何不变性正则、也不需要多环境标签的情况下，自发把虚假线索过滤掉、收敛到几乎只依赖因果特征的预测器，并给出了「占据—挤出」两阶段机制的理论证明与视觉/语言实验验证。
Sublinear Spectral Clustering Oracle with Little Memory: 本文为可聚类图设计了第一个"小内存"亚线性谱聚类预言机：用一种分批估计随机游走碰撞概率的新子程序，把构造数据结构所需的空间从过去铁打的 \(\Omega(\sqrt{n})\) 一路压到可低于 \(n^{0.01}\)，换来一条 \(S\cdot T=\tilde{O}(n)\) 的空间-时间权衡曲线，并证明这条曲线在一类自然方法下几乎最优。
Subquadratic Algorithms and Hardness for Attention with Any Temperature: 本文回答了"任意温度下注意力能否被快速计算"这一基础问题：在头维度 \(d=O(1)\) 时给出首个对熵界 \(B\) 仅呈对数依赖的真·亚二次算法 \(\tilde{O}(n^{2-1/d}\cdot\mathrm{polylog}(B/\varepsilon))\)，并用 Max-IP / OV 归约证明在 \(d=2^{\Omega(\log^* n)}\) 及 \(d=\mathrm{poly}(n)\) 两个区间内标准算法本质最优，从而几乎完整刻画了注意力计算的复杂度图谱。
Subspace Kernel Learning on Tensor Sequences: 本文提出 UKTL（Uncertainty-driven Kernel Tensor Learning），把高阶张量沿各个 mode 展开成子空间、在 Grassmann 流形上构造可学习的"和-积"核来比较张量序列，并用 Nyström 近似 + 软 k-means 动态枢轴让核可扩展、用 mode-wise 不确定性自适应降权噪声维度，端到端训练后在三个骨架动作识别基准上超过图卷积/超图/Transformer 方法。
SVD Provably Denoises Nearest Neighbor Data: 在「低维子空间信号 + 高维高斯噪声」的半随机模型下，本文证明只要对带噪数据做两次 SVD、把点投影到 top-\(k\) 奇异子空间，就能在噪声水平 \(\sigma = O(1/k^{1/4})\) 这一比已有工作宽得多的区间里准确恢复无噪数据的最近邻，并给出匹配的 \(\sigma \gg 1/k^{1/4}\) 信息论不可能性下界。
T-Tamer: Provably Taming Trade-offs in ML Serving: 把级联/早退出推理中"何时退出、调用哪个子模型"的取舍统一抽象成 DAG 上的代价探索问题，证明了"召回（可回头选用更早查过的模型）"是获得可证明最优解的充要条件——无召回策略连常数近似比都做不到，而带召回的动态索引策略能在多项式时间内取得在线最优。
TESSAR: Geometry-Aware Active Regression via Dynamic Voronoi Tessellation: 针对回归任务的主动学习，本文提出用 Voronoi 镶嵌的几何结构来挑样本——核心是 VLDM（Voronoi-based Least Disagree Metric），它衡量一个样本在扰动已标注点后"归属哪个 Voronoi 单元"会有多容易翻转，从而定位高方差的内部区域；再叠加距离项（覆盖外围）和密度项（反映代表性），三者相乘构成 TESSAR 的采集分数，在 14 个表格回归基准上达到或超过现有 SOTA。
Test-Time Verification via Optimal Transport: Coverage, ROC, & Sub-Optimality: 本文把"带验证器的测试时扩展"重新表述成一个最优传输（采样）问题，用一套统一框架精确刻画了生成器覆盖度、验证器 ROC、采样算法次优性三者的几何关系，揭示出次优性—覆盖度曲线存在「传输 / 策略改进 / 饱和」三段制，并据此设计与分析了序贯（SRS、SMC）和批量（BRS）两类采样算法。
Testing Fourier Sparsity via Implicit Sensing: 本文研究"布尔函数是否傅里叶稀疏"的性质测试问题：给定对 \(f:\mathbb{F}_2^n\to\{-1,+1\}\) 的查询访问，判断它到底是 \(s\)-傅里叶稀疏，还是在汉明距离下远离任何 \(s\)-稀疏函数。作者在算法侧给出查询复杂度 \(\tilde O(s^4)\) 的非自适应 tester（与维度 \(n\) 无关），在下界侧证明任何 tester 至少需要 \(\Omega(s)\) 次查询，两端都大幅改进了 Gopalan 等人（2011）的 \(\tilde O(s^{14})\) 上界与 \(\Omega(\sqrt s)\) 下界。
Testing Most Influential Sets: 针对「少数几个样本就能颠覆模型结论」这一现象，本文为线性最小二乘推导出子集影响力的精确闭式公式，并用极值理论刻画「最大影响力」的渐近分布（定长子集为重尾 Fréchet、增长子集为轻尾 Gumbel），从而把过去靠经验拍脑袋的「这点影响力是不是太离谱」变成一个有 p 值的严格假设检验。
The Coverage Principle: How Pre-Training Enables Post-Training: 这篇论文从理论上回答了"预训练到底给后训练（RL / 测试时扩展）留下了什么"——答案不是交叉熵，而是一个叫 coverage profile（覆盖度剖面） 的量；作者证明 next-token prediction 会隐式地优化覆盖度，而且覆盖度比交叉熵泛化得更快、不受序列长度拖累，从而解释了"为什么交叉熵更低的模型反而 Best-of-N 更差"这一反常现象。
The Effect of Attention Head Count on Transformer Approximation: 这篇论文从近似理论角度证明了 Transformer 的注意力头数不是单纯的工程超参：当头数 \(h\) 达到任务内在维度 \(D\) 时可以高效近似广义检索函数，而当 \(h<D\) 时参数量必须随序列长度 \(T\) 呈指数式恶化，并用合成检索、MS MARCO 与 CIFAR-10 实验观察到相近的相变现象。
The Expressive Limits of Diagonal SSMs for State-Tracking: 建立了输入依赖复数对角（DCD）SSM 在群状态追踪任务上的完整表达能力刻画：单层不能追踪任何非阿贝尔群，\(k\) 层能追踪群 \(G\) 当且仅当 \(G\) 存在长度为 \(k\) 的子正规链且因子均为阿贝尔群——精确定义了深度对表达能力的严格提升，同时实验揭示表达能力与可学习性之间的显著 gap。
The Lie of the Average: How Class Incremental Learning Evaluation Deceives You?: 这篇论文指出类增量学习（CIL）通行的"随机采 3-5 条类序列、报均值方差"评测方式会系统性高估均值、严重低估方差，从根本上漏掉极端序列；作者从理论上证明随机采样不可行，并提出 EDGE 协议——用 CLIP 文本编码器算类间语义相似度、构造"最难/最易/中位"三条极端序列来逼近真实性能分布，从而给出更可靠的模型选择与鲁棒性判断。
The Logical Expressiveness of Topological Neural Networks: 本文为拓扑神经网络（TNN）建立了第一套「算法–逻辑–博弈」三方刻画：提出组合复形上的高阶 WL 检验 \(k\)-CCWL、带成对计数量词的拓扑计数逻辑 \(\text{TC}_k\)、以及拓扑 \((k{+}2)\)-鹅卵石博弈，并严格证明三者等价——\(k\text{-CCWL} \equiv \text{TC}_{k+2} \equiv\) 拓扑 \((k{+}2)\)-鹅卵石博弈，从而精确界定了 TNN 能表示哪些二元分类器。
The Price of Robustness: Stable Classifiers Need Overparameterization: 建立了不连续分类器的稳定性-泛化界，证明了分类任务中的"鲁棒性代价定律"：任何参数量 \(p \approx n\) 的插值分类器必然不稳定，实现高稳定性需要 \(p \approx nd\) 量级的过参数化。
The Serial Scaling Hypothesis: 这是一篇立场+理论论文：作者用计算复杂度（TC 电路类）把机器学习问题切成"能高效并行的"与"本质串行的"两类，论证推理、决策、物理模拟等关键任务属于后者，并首次证明扩散模型即便采样上千步、其计算深度仍是常数，从而无法解决本质串行问题——因此只堆并行算力（更宽的网络、更多 GPU）注定到顶，进步必须靠扩展串行计算。
The Softmax Bottleneck Does Not Limit the Probabilities of the Most Likely Tokens: 这篇论文从理论上重新审视"softmax 瓶颈"：它证明即使是随机初始化的输出投影矩阵，也能为相当多（GPT-2 量级约 26、实测约 95，Llama2 实测超 1000）的最高概率 token 指定任意接近真实的概率，从而质疑 softmax 瓶颈是否真的在现实场景里显著限制了 LLM 的能力。
Theoretical Analysis of Contrastive Learning under Imbalanced Data: From Training Dynamics to a Pruning Solution: 本文给出对比学习在不平衡数据下的训练动力学理论：以「Transformer-MLP + 稀疏编码数据模型」为分析对象，证明神经元权重经历三阶段演化、少数特征因频率低而被学得更弱更混杂，并从理论上说明幅值剪枝能放大少数特征方向的梯度更新，从而恢复被不平衡损害的表征质量（CIFAR-LT / ImageNet-LT 线性探针实验验证）。
Theoretical Modeling of Large Language Model Self-Improvement Training Dynamics Through Solver-Verifier Gap: 这篇论文把 LLM「自提升」训练过程建模成一组受物理势能启发的耦合微分方程，用「求解器能力」与「验证器能力」之间的差距来驱动两者随训练轮次的指数式收敛，从而可以拟合真实训练曲线、量化自提升的能力上限，并进一步分析「跨提升」中外部数据该如何分配。
Theory of Scaling Laws for In-Context Regression: Depth, Width, Context and Time: 本文给出一个深度线性自注意力做上下文线性回归（ICL）的可解理论模型，在数据维度、上下文长度、残差流宽度按比例放大的联合极限下精确求出风险的渐近行为，揭示出「深度何时有用」完全取决于预训练任务的协方差结构，并由此推导出同时包含宽度、深度、时间、上下文长度四项的 Chinchilla 式标度律与计算最优的 \(L \propto N^\nu\) 形状。
Tight Bounds for Schrödinger Potential Estimation in Unpaired Data Translation: 本文给出了 Schrödinger 势（Schrödinger potential）经验风险最小化估计器的首个非渐近高概率泛化误差界：只用源分布和目标分布的 i.i.d. 样本，以 Ornstein-Uhlenbeck（OU）过程作参考动力学，可把估计耦合与最优耦合之间的 KL 散度控制在 \(O(\log^3 n / n)\) 的快速率上，远优于此前 \(O(1/\sqrt{n})\) 的结果。
To Augment or Not to Augment? Diagnosing Distributional Symmetry Breaking: 本文提出用一个"双样本分类器检验"指标 \(m(p_X)\) 来量化数据集的分布对称性破缺（即 \(x\) 和它的变换 \(gx\) 出现概率不相等的程度），并配上一个任务相关性指标 \(t(p_{X,Y})\) 和一套岭回归理论，系统回答了"到底什么时候该用数据增强/等变方法、什么时候反而有害"，发现 QM9、ModelNet40 等常用点云基准其实高度"摆正过"，增强的收益强烈依赖数据集。
To Infinity and Beyond: Tool-Use Unlocks Length Generalization in State Space Models: 本文先从理论上证明：固定内存的状态空间模型（SSM）无论生成多长的思维链都无法解决"真正的长文生成任务"，但只要让它交互式地调用外部记忆工具，就能把任意可计算的长文任务做到无限长度泛化——在 5 位数加法上训练、却能正确做 1000 位数加法。
Tokenisation over Bounded Alphabets is Hard: 此前已证明"找最优分词器"是 NP-完全的，但这些证明都假设字母表无限大（不现实）；本文把分词限制到有限甚至二元、一元字母表上，证明它仍然 NP-完全、而且 APX-难（除非 P=NP 否则不存在多项式时间近似方案），说明 BPE / UnigramLM 之所以是启发式算法是有理论必然性的。
Toward Practical Equilibrium Propagation: Brain-Inspired Recurrent Neural Network with Feedback Regulation and Residual Connections: 针对平衡传播（Equilibrium Propagation, EP）训练慢、不稳定的老大难问题，本文提出一种受大脑启发的反馈调控残差递归网络 FRE-RNN——只把反馈通路的强度乘上一个小系数 \(\beta_i\) 来加速 RNN 收敛、用残差跳连补救由此带来的梯度消失，使 EP 的训练时间相比已有实现快了一到两个数量级，同时在 MNIST/CIFAR-10 上达到与反向传播（BP）相当的精度。
Towards a Sharp Analysis of Offline Policy Learning for f-Divergence-Regularized Contextual Bandits: 本文给出离线 \(f\)-散度正则上下文老虎机在正则化目标下达到 \(\widetilde{\Theta}(\epsilon^{-1})\) 样本复杂度所需的最弱数据覆盖条件：对最常用的逆 KL 正则，首次用一套新的悲观估计分析在单策略集中性下做到 \(\widetilde{O}(\epsilon^{-1})\) 并配上近乎匹配的下界；对强凸 \(f\) 的散度，则证明完全不需要悲观估计、也不需要任何覆盖条件就能达到 \(\widetilde{\Theta}(\epsilon^{-1})\)。
Towards a Theoretical Understanding of In-Context Learning: Stability and Non-i.i.d. Generalisation: 本文在不假设 token 正交、不假设 i.i.d. 采样的现实条件下，用「算法稳定性 + 分布差异度量」两把工具，为非线性 Transformer 在 ICL（in-context learning）下的下一 token 预测推导出泛化误差界，揭示了优化配置与损失平滑度如何共同决定稳定性、训练/测试分布对齐如何决定可泛化性，并证明自回归预测长度若不加约束会导致误差累积乃至泛化崩溃。
Towards Persistent Noise-Tolerant Active Learning of Regular Languages with Class Query: 本文提出 pMAT（概率最小充分教师）形式化框架，把"LLM 当作会持久犯错的成员查询 Oracle、模拟器/检查器当作精确等价查询 Oracle"的场景刻画清楚，并设计 CAPAL 算法——用统计式的"同态类查询"代替对单条 MQ 标签的盲信、用判别树压缩判别后缀集——在成员查询持续被翻转的噪声下仍能可证明地学到正确的 DFA，且把 LLM 调用量大幅降低（代码化 Oracle 下每个任务仅需 1 次调用）。
Towards Safe and Optimal Online Bidding: A Modular Look-Ahead Lyapunov Framework: 本文提出 L2FOB——一个面向「同时受预算与 ROI 约束」的在线竞价的模块化框架：用乐观奖励 / 悲观成本估计 + 前瞻虚拟队列 + 凸势函数塑形的乘子，在不依赖 Slater 条件的前提下给出自适应的 regret 与「任意时刻 ROI 违反」上界，并在多种拍卖 / 反馈设定下达到或超过已有最优结果。
Towards Sampling Data Structures for Tensor Products in Turnstile Streams: 这篇论文把注意力矩阵里的“重要坐标”形式化为流式采样问题，证明 softmax/指数采样在一般 turnstile stream 中避不开二次空间障碍，同时给出 polynomial attention 对应的 \(\ell_2\) 采样器与 tensor product 版本的数据结构。
Tractability via Low Dimensionality: The Parameterized Complexity of Training Quantized Neural Networks: 这篇论文第一次系统地从（参数化）复杂度理论的角度研究"全量化 ReLU 网络的训练"问题，证明哪怕在二值量化、单输出、无隐层这种极端简化的架构下训练也是 NP-hard，但只要把输入维度 \(\alpha\) 与网络宽度（或更一般的 treewidth）以及输出维度 \(\omega\) 或误差界 \(\ell\) 组合起来当参数，问题就变成固定参数可解（FPT）——核心结论是"难在数据维度高，而不难在架构复杂"。
Trained on Tokens, Calibrated on Concepts: The Emergence of Semantic Calibration in LLMs: 这篇论文发现：只用 next-token 预测训练的 base LLM，竟然在语义层面也是良好校准的（它对自己答案"含义"的置信度能对得上真实正确率），并给出了一个基于"校准 ⟺ 局部损失最优"的理论机制来解释这种涌现，进而预测出 instruction-tuning 和 chain-of-thought 会破坏这种校准——三条预测都被实验证实。
Training-Free Determination of Network Width via Neural Tangent Kernel: 本文用神经正切核（NTK）的最小特征值 \(\mu_{\min}\) 在理论上界定了无限宽与有限宽网络的测试误差，并据此提出一个无需训练的指标：在初始化时扫描不同宽度的 \(\mu_{\min}\)，找到它增长饱和的拐点作为"基数宽度（cardinal width）"，即再加宽也不再带来泛化收益的宽度。
Transfer Learning in Infinite Width Feature Learning Networks: 在 mean-field/µP 参数化下用梯度流训练无限宽 MLP，作者用动力学平均场理论 (DMFT) 推出一套迁移学习理论，把"预训练到底有没有用"量化为源/目标任务对齐度 \(\alpha_s\)、两任务数据量 \(\nu_1,\nu_2\) 与特征学习强度 \(\gamma_1,\gamma_2\) 的闭式函数，并给出何时正迁移、何时负迁移的相图。
Transformers Are Inherently Succinct: 这篇论文换了一把尺子看 Transformer 的能力：不问"它能识别哪些语言"，而问"它描述一个语言要多省"——结果证明固定精度 Transformer（UHAT）极其"简洁"，描述某些语言可以比 LTL 和 RNN 指数级地省、比有限自动机双指数级地省，代价是它的空性/等价性验证问题是 EXPSPACE-完全（最坏情况下不可能高效求解）。
Transformers as Measure-Theoretic Associative Memory: A Statistical Perspective and Minimax Optimality: 本文把 Transformer 的"联想记忆"重新建模在概率测度层面——上下文是一族 token 分布的混合，注意力是作用在测度上的积分算子——并证明一个浅层（深度 2）"测度论 Transformer + MLP"经过经验风险最小化（ERM）能学到"召回相关分量分布、再从中预测标量"这一映射，泛化误差以亚多项式速率 \(\exp(-\Theta((\log n)^{\alpha/(\alpha+1)}))\) 收敛，且给出指数项完全匹配的极小极大下界，说明这个收敛阶是最优的。
Transformers as Unsupervised Learning Algorithms: A study on Gaussian Mixtures: 这篇论文用元学习训练一个共享的 transformer（TGMM）去同时求解不同分量数的高斯混合模型参数估计，实验上同时打过 EM 和谱方法各自的软肋，理论上首次证明 transformer 既能近似 EM 算法、又能近似谱方法的核心——三阶张量幂迭代。
Transformers Learn Latent Mixture Models In-Context via Mirror Descent: 本文提出基于「转移分布混合（MTD）」的上下文学习任务，让 transformer 在上下文中推断每个历史 token 的因果重要性（混合权重 \(\lambda\)），并给出一个三层 disentangled transformer 的显式构造，证明它精确实现了一步镜像下降（Mirror Descent），且该一步估计量是贝叶斯最优预测器的一阶近似；从零训练的 transformer 在预测分布、注意力模式与所学转移矩阵上都与该构造高度吻合。
Transformers Trained via Gradient Descent Can Provably Learn a Class of Teacher Models: 这篇论文证明，一层带 position-only attention 的 Transformer 在人口风险上用梯度下降训练时，可以以紧的 \(\Theta(1/T)\) 速率学习一大类共享双线性结构的 teacher model，并在温和二阶矩条件下继承 teacher 的分布外泛化能力。
Transformers with Endogenous In-Context Learning: Bias Characterization and Mitigation: 本文提出"内生上下文学习"(Endogenous ICL, EICL)这一新问题设定——允许标签噪声 \(\epsilon\) 与特征 \(X\) 相关(隐藏混淆),从理论上证明在这种数据上预训练的 Transformer 会产生与混淆强度成正比的 ICL 预测偏差,并提出无需微调的 Double-Debiasing (DDbias) 方法:用极少量无混淆样本对模型"提示两次"(原标签一次、残差一次)即可纠偏。
Tree-sliced Sobolev IPM: 本文用「树上可闭式求解的正则化 Sobolev IPM」替换 Tree-Sliced Wasserstein (TSW) 内核里那个只能在 \(p=1\) 闭式求解的 1-Wasserstein，得到 TS-Sobolev：一族对任意阶 \(p\ge 1\) 都能高效计算的树切片度量，\(p=1\) 时精确退回 TSW，\(p>1\) 时计算复杂度与 \(p=1\) 的 TSW 完全相同，并在梯度流、扩散模型、自监督和主题建模等下游任务上全面超越 SW/TSW 系列。
Tversky Neural Networks: Psychologically Plausible Deep Learning with Differentiable Tversky Similarity: 这篇论文把 Tversky 的“共同特征 + 区分特征”心理学相似性理论改写成可用梯度下降训练的神经网络层，用 Tversky Projection 替代线性投影后，在 GPT-2 语言建模和 ResNet-50 图像分类中同时展示了更强的表达能力、一定的参数效率和更好的可解释性。
Two-Layer Convolutional Autoencoders Trained on Normal Data Provably Detect Unseen Anomalies: 本文用特征学习（feature learning）的工具，对一个两层卷积自编码器在「只见过正常数据」时为什么能检出未见过的异常，给出了第一份可证明的理论解释：训练中卷积核会被正常特征的「锥集」吸收并对齐到这些特征方向，从而对替换进异常补丁的信号几乎没有响应，导致异常的重建误差显著高于正常数据。
Two Failure Modes of Deep Transformers and How to Avoid Them: A Unified Theory of Signal Propagation at Initialisation: 本文借助统计物理里的随机能量模型（REM），给出深层 Transformer 在初始化时信号传播的渐近精确理论，把"秩坍缩"与"熵坍缩"两种失效统一为由 query/key 初始化方差 \(\beta\) 控制的同一个相变，并据此导出一套算法来画"可训练性图"，直接告诉实践者残差强度和初始权重该怎么取才能让深层模型训得动。
Two (narrow) heads are better than (an arbitrarily wide) one: 本文用 Endpoint Selection Problem 证明：在一层 attention-only Transformer 中，任意宽、任意精度的单头注意力都无法解决带环有向图上的端点选择，而两个窄头已经能在所有有向图上零误差求解，从而给出一个清晰的多头注意力表达能力分离结果。
Understanding and Relaxing the Limitations of Transformers for Linear Algebra: 本文系统揭示了"用 Transformer 做矩阵运算"这一方向的三大顽疾——计算开销爆炸、对分布外矩阵（甚至单位阵）惨败、本质上只是在做统计插值而非学算法——并通过可学习投影、线性注意力、循环与结构化训练分布四项干预，提出 RangeFormer，首次把 Transformer 矩阵运算推到 \(1000\times1000\) 规模并成功用于高斯过程、随机化 SVD 等下游迭代任务。
Understanding In-Context Learning on Structured Manifolds: Bridging Attention to Kernel Methods: 本文首次为流形上 Hölder 函数回归的上下文学习（ICL）建立理论：证明 transformer 的注意力机制本质上在做高斯核回归（Nadaraya–Watson 估计），并据此推出泛化误差界，揭示误差的衰减率只依赖数据的内在维度 \(d\) 而非环境维度 \(D\)。
Understanding the Dynamics of Forgetting and Generalization in Continual Learning via the Neural Tangent Kernel: 本文在 NTK 范式下首次刻画了持续学习"训练过程中"（而非收敛后）遗忘与泛化误差的动态上下界，证明降低损失关于预测的 Lipschitz 常数和把跨任务核压到零这两件事同时缓解遗忘、改善泛化，并据此设计出 OGD+ 与 OPGD 两个算法，在 Permuted/Rotated MNIST 与 Split CIFAR-100 上验证了理论。
理解快速超参迁移的机制: 本文为「µP 下超参（尤其学习率）能从小模型快速迁移到大模型」这一经验现象建立了一套概念框架：先用收敛速率把「弱迁移 / 快迁移 / 有用迁移」严格区分开，再提出一种沿 EMA 轨迹做线性化的 top-k 损失分解，把最终损失拆成「决定最优超参、随宽度快速稳定的 top-k 分量」和「随宽度持续降低损失、却几乎不影响超参选择的残差分量」，并在合成例子与 LLM 预训练中验证了这一机制。
UniCon: Unified Framework for Efficient Contrastive Alignment via Kernels: UniCon 把 CLIP/InfoNCE 等对比学习目标改写成由对比相似度权重矩阵 \(S(\gamma)\) 驱动的谱问题，并进一步用核方法推广到非线性编码器，从而用闭式谱更新替代长时间 SGD 训练，在多模态检索上保持甚至提升效果的同时带来数量级加速。
Unlearning During Training: Domain-Specific Gradient Ascent for Domain Generalization: 本文提出 Identify and Unlearn (IU)：一个模型无关的"训练中遗忘"模块，每个 epoch 结束后用影响函数挑出"徒增模型复杂度却几乎不提升泛化"的训练样本，用跨域方差 (IDV) 精确定位捕获域特异特征的通道，再对这些通道在这些样本上做梯度上升 (DSGA)，从而在保留域不变特征的前提下抹除域特异依赖，在 7 个基准、15+ 个 DG baseline 上平均涨点最高 3.0%。
Unveiling the Basin-like Loss Landscape in Large Language Models: 本文发现 LLM 的损失景观随模型规模增大而呈现出一片片"盆地（basin）"——盆地内任意扰动参数性能几乎不变、出了盆地能力骤崩；据此用随机平滑（randomized smoothing）证明任意微调/越狱造成的能力退化都被盆地半径所界定，并提出 GO 优化器主动把盆地撑大来缓解灾难性遗忘。
Variance-Dependent Regret Lower Bounds for Contextual Bandits: 本文为线性上下文老虎机的「方差相关遗憾」首次证明了与上界匹配（差对数因子）的下界 \(\Omega\!\big(d\sqrt{\sum_k \sigma_k^2}\big)\)，覆盖任意预先给定的方差序列与自适应弱对手序列，并通过一个反例指出：一旦对手能在看到决策集之后再选方差，这类下界就不可能成立。
Variational Deep Learning via Implicit Regularization: 这篇论文提出 Implicit Bias VI（IBVI）：训练权重上的变分分布时直接扔掉 ELBO 里的 KL 正则项，只靠 SGD 自身的隐式偏置来"挑"分布；并在过参数化线性模型上严格证明，这种隐式偏置等价于以 2-Wasserstein 距离（而非 KL）为正则项的广义变分推断——既保留了标准神经网络的泛化能力，又免费拿到了校准良好的不确定性，且几乎不增加计算开销。
Variational Inference for Cyclic Learning: 本文把循环学习（cyclic learning）里的中间数据点视作潜变量、把跨域映射写成条件概率，从而用变分推断把"循环一致性"目标推导成一个证据下界（ELBO），并据此给出两种通用训练策略——单步联合优化与 EM 交替优化；该框架既为 CycleGAN 提供了理论解释、给出无 GAN 的替代品 CycleGN，又在无监督跟踪上做出 SOTA 的 CycleTrack / CycleTrack-EM。
Weak Correlations as the Underlying Principle for Linearization of Gradient-Based Learning Systems: 本文提出“弱导数相关”是梯度学习系统出现参数空间线性化的根本判据：只要初始化处一阶导数与高阶导数的相关随宽度衰减，训练动力学就会靠近 NTK 线性模型，并且这种偏离可在 SGD 训练过程中得到宽度相关的上界。
When Bias Meets Trainability: Connecting Theories of Initialization: 本文证明了刻画随机初始化宽网络的两套独立理论——分析梯度稳定性/可训练性的平均场理论(Mean-Field, MF)和分析初始预测偏好的初始猜测偏见理论(Initial Guessing Bias, IGB)——其核心量之间存在严格的数学等价，并由此推出一个反直觉结论：使网络最易训练的"混沌边缘"初始化恰恰是最偏见（而非中立）的状态，这种偏见会在训练初期被快速吸收。
When Shift Happens - Confounding is to Blame: 这篇论文从因果与信息论的视角给出理论解释：在「隐藏混杂偏移」下，单纯学习不变表征不够，反而需要学习环境特定的关系，这正是为什么朴素的 ERM/XGBoost 常能打平甚至超过专门的 OOD 泛化方法、以及为什么把非因果但有信息量的协变量也加进来能提升泛化——并用 8 个真实表格数据集与合成数据加以验证。
Why Ask One When You Can Ask k? Learning-to-Defer to the Top-k Experts: 本文把"学习何时把样本甩给专家"的 Learning-to-Defer（L2D）框架从"只能问一个专家"推广到"同时问 k 个最划算的实体"，给出一个与 k 无关、训练一次即可任意切换 k 的代理损失，并首次证明它在单阶段/两阶段两种范式下都满足 Bayes / H-一致性；进一步提出按样本难度自适应选专家数的 Top-k(x)，在精度–成本权衡上稳压只问一个专家的旧方法。
为什么高秩神经网络也能泛化？：基于 RKHS 的代数框架: 本文用 Koopman 算子、群表示和再生核希尔伯特空间（RKHS）把深层网络写成"算子乘积"的代数形式，推导出一个新的 Rademacher 复杂度界——其分母里出现权重矩阵的行列式 \(\det(W_l^*W_l)^{1/4}\)，从而在理论上解释了"高秩、大奇异值的权重矩阵反而泛化得好"这一经验现象，并且首次把这套 Koopman 理论扩展到 tanh、sigmoid、Leaky ReLU 等非光滑激活和有界数据空间上。
Why Less is More (Sometimes): A Theory of Data Curation: 本文用高维二分类 + 随机矩阵理论，给"保留难样本 / 保留易样本 / 全量训练"这几种数据筛选策略推出了精确的测试误差缩放曲线，并证明"less is more"（小而精的数据更好）只在「数据充足 + 生成器足够强」这一个象限里成立，从理论上统一解释了 LIMO / s1 等方法为何有效、又为何在最难题上反而"more is more"。
Why We Need New Benchmarks for Local Intrinsic Dimension Estimation: 这篇论文指出：现在所有神经网络 LID 估计器都在"过于简单的合成数据 + 真实但 LID 未知的数据"两类老 benchmark 上自评，掩盖了真实性能；作者提出一套有原则的 benchmark 构造工具箱（把同一个流形映射到多种域表示、设计针对流形关键性质的更难变体、用已知 LID 变化量的可控变换做压力测试），并系统证明：在简单流形上的高精度"根本不迁移"，几乎所有 SOTA 方法在针对性压力测试下都暴露出清晰的失败模式。