跳转至

LSC-Pattern: Interpretable Lexical Semantic Change Analysis via Diachronic Sense Distributions

会议: EMNLP 2026
论文: ACL Anthology
代码: https://github.com/Lexuss-D/LSC-Pattern
领域: NLP理解
关键词: 词汇语义变化, 词义消歧, 历时语义分布, 语义维度, 可解释性

一句话总结

LSC-Pattern 提出了一种结合词典对齐历时词义分布与可解释语义维度的词汇语义演变分析框架,通过大语言模型词义消歧将历时语料用例映射至显式词典语义,并在效价、语义范畴和隐喻度三个维度上解构演变轨迹,成功实现对贬降、泛化和隐喻化等经典语义演化模式的细粒度可解释归因。

研究背景与动机

词汇语义变化(Lexical Semantic Change, LSC)旨在从历时语料库中识别词汇意义随时间的演变。近年来,基于时间切片词嵌入(如 Hamilton 等人的静态历时向量)、上下文词表征以及聚类分析的方法取得了显著进展,能够较为灵敏地从宏观上检测某个词汇是否发生了语义漂移。然而,现有方法在语言学解释性上存在严重不足:仅仅给出一个聚合的标量变化分数,或者基于上下文聚类得到无法与词典规范对齐的潜在聚合簇(latent clusters),根本无法明确指出究竟是哪一个具体词义在发生变化,也无法阐明词义转变背后的认知动因与属性迁移。

这种缺陷的核心矛盾在于:词汇属性的宏观演化(例如一个词的整体语境变得更加负面,或者语义范围变得更加宽泛)往往是由特定义项的频次消长(如贬义义项逐渐占据主导,或特定具象义项被通用义项替代)驱动的,但在缺乏与显式词典词义严格绑定的情况下,现有的语义属性分析(如情感效价、广度、强度等)只能停留在无约束的粗粒度统计层面,既无法验证假说的真实性,也难以作为可信的语言学实证证据。

为了弥合语料库级变化检测与语言学可解释语义模式之间的鸿沟,本文提出了兼具离散词典可解释性与连续维度灵活性的两阶段框架。核心 idea:将词汇语义演变显式解耦为「词典对齐的历时词义分布构建」与「基于语义维度的细粒度属性轨迹分析」,用大模型词义消歧将用法锚定到具体词典义项,进而借助效价、语义范畴和隐喻度等属性维度,将宏观变化轨迹精准归因到特定义项的再分布机制。

方法详解

整体框架

LSC-Pattern 的整体流程包含两个核心阶段:词典对齐的历时词义分布构建(Step 1)和多维度演变轨迹解构(Step 2)。系统输入为目标词在不同历时语料中的海量用例上下文以及规范词典提供的候选词义清单(包含义项定义及例句)。在第一阶段,框架利用具有显式推理能力的 LLM 词义消歧模块将每个用例映射到唯一的词典义项(或无法判定的兜底义项 Sense 0),并按年代聚合计算各时期的词义离散概率分布。在第二阶段,针对研究人员感兴趣的语义演变类型(如贬降、泛化、隐喻化等),结合外部词典或判别器计算效价(Valence)、语义范畴(Semantic Scope)与隐喻度(Metaphoricity)轨迹,进而通过词义分布将连续维度的变化趋势拆解为具体义项的频次消长。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["输入:历时语料用例 + 规范词典义项"] --> B["阶段1:基于LLM的词典锚定词义消歧<br/>用例映射至词典义项与Sense 0"]
    B --> C["历时词义分布聚合<br/>按年代统计各义项相对频率 pt(si|w)"]
    C --> D["阶段2:多维度语义轨迹解构<br/>效价 / 语义范畴 / 隐喻度"]
    D --> E["演化模式归因与个案验证<br/>贬降 / 泛化 / 隐喻化细粒度解释"]

关键设计

1. 基于大语言模型的词典锚定词义消歧(Dictionary-Grounded WSD with LLM):用显式词典义项替代无监督隐式聚类

针对传统 LSCD 基于上下文向量无监督聚类所得结果语义模糊、与权威词典无法对齐的问题,LSC-Pattern 采用词典锚定的 WSD 策略。设目标词为 \(w\),其在词典中的规范义项集合为 \(S_w = \{s_1, s_2, \dots, s_{|S_w|}\}\),额外引入兜底标签 \(s_0\)(Sense 0),用于承载词典未收录的新义项、上下文信息不足或歧义用例。对于时间段 \(t\) 内目标词的每一个上下文用例 \(u \in U_{t,w}\),WSD 映射函数给出判别:

\[\hat{s}(u) = f_{\text{WSD}}(u, S_w), \quad \hat{s}(u) \in S_w \cup \{s_0\}\]

在具体实现上,采用开启思考模式的 Qwen3-8B(thinking mode),提示词要求模型首先在方括号中输出所选义项编号(如 [2]),随后输出推理依据。在后处理中自动过滤 <think>...</think> 推理链并精确提取义项索引。将分配到义项 \(s_i\) 的用例集合记为 \(U_{t,s_i}\),则目标词在 \(t\) 时期的词义分布为:

\[p_t(s_i \mid w) = \frac{|U_{t,s_i}|}{|U_{t,w}|}\]

若需计算两个历史时期 \(t\) 与 \(t'\) 之间的词义漂移标量分数,则直接计算其离散分布间的 Jensen–Shannon 散度(JSD)。

2. 操作化多维语义属性轨迹(Operationalized Semantic-Dimension Trajectories):将宏观演变映射到语言学属性轴

为了揭示词汇语义变化的认知演变方向,LSC-Pattern 选配了三个与经典演化模式高度对应的语义维度: - 情感效价(Valence \(\rightarrow\) 升华/贬降):衡量目标词出现上下文的评价环境。基于日语情感极性词典计算用例 \(u\) 中除目标词外的上下文词集合 \(C(u)\) 的极性均值 \(\text{val}(u) = \frac{1}{|C(u)|} \sum_{x \in C(u)} \text{val}(x)\),进而求取时期 \(t\) 内所有用例的均值 \(\text{Val}_t(w) = \frac{1}{|U_{t,w}|} \sum_{u \in U_{t,w}} \text{val}(u)\)。上升代表潜在语义升华(Amelioration),下降代表语义贬降(Pejoration)。 - 语义范畴(Semantic Scope \(\rightarrow\) 泛化/特化):通过日语 WordNet 的分类树深度量化概念层级的具体度。首先借助 Sarashina-Embedding-v2 向量模型将《岩波国语辞典》义项与日语 WordNet 同义词环(synsets)对齐,记义项 \(s_i\) 对应 synset 到根节点的深度为 \(\text{scope}(s_i)\)。则时期 \(t\) 的词级语义范围为各义项深度的加权期望:

\[\text{Scope}_t(w) = \sum_{i} p_t(s_i \mid w) \cdot \text{scope}(s_i)\]

深度增加(数值变大)代表特化(Specialization,含义更具体),深度减小代表泛化(Generalization,含义更宽泛)。 - 隐喻度(Metaphoricity \(\rightarrow\) 隐喻化):利用现代日语隐喻分类器判断每个用例是否属于隐喻表达 \(m(u) \in \{0, 1\}\),统计时期 \(t\) 内隐喻用例占比 \(\text{Meta}_t(w) = \frac{1}{|U_{t,w}|} \sum_{u \in U_{t,w}} m(u)\)。数值上升即标志着潜在的隐喻化扩展(Metaphorization)。

3. 趋势发现与词义再分布归因机制(Trend Discovery & Redistribution Attribution):以分布消长解释宏观演化

单纯依赖连续维度得分容易受到语境噪声和现代检测器偏差的干扰(例如常规化死隐喻被判为字面义)。为此,LSC-Pattern 将属性轨迹仅作为“候选发现信号”,真正的语义结论必须通过联立检验时期词义分布变化得到最终确证。通过对跨越至少 10 个年代的词汇拟合一元线性回归 \(y_{w,d,t} = \beta_{0,w,d} + \beta_{1,w,d} t + \epsilon_t\),利用斜率 \(\beta_1\) 筛选演变剧烈的前列词汇,再深入检验是哪个主导义项的频率变动引发了该维度的宏观移动。例如在语义贬降中,验证是负面义项从次要变为绝对主导;在特化/泛化中,确认是具象深层义项与宽泛浅层义项之间的占有率更替。

一个完整示例

以目标词「差別」(sabetsu,差异/歧视)跨越 1870 年代至 2000 年代的演变为例: 1. 词典义项:第 1 义项为「歧视性对待(不平等待遇)」,日语 WordNet 深度为 6;第 2 义项为「区分、分别(中性区别)」,WordNet 深度为 7。 2. 消歧与历时分布:在 1880 年代与 1890 年代,中性的第 2 义项占据绝大多数用例(占比分别高达 84.0% 与 69.4%,例如 1957 年杂志用例「正攻・奇襲の区別なく、また戦略攻撃と戦術攻撃の差別なく」,表示正攻与奇袭、战略与战术之间不加区别);自 1920 年代起,负面的第 1 义项占比上升至 64.2%;1950 年代后第 1 义项占比普遍高于 80%,并在 1990 年代达到 100%、2000 年代达到 98.0%(例如 2001 年用例「アメリカにおける偏見と差別から「自由」を勝ち取るための戦い」,指代种族与社会歧视)。 3. 维度轨迹验证:效价斜率呈显著负增长(\(-0.0124\)/年代,\(R^2=0.564\)),语义范畴斜率亦呈负增长(\(-0.0533\)/年代,\(R^2=0.734\))。 4. 归因结论:词典消歧清晰证实了该词的负面效价滑坡并非由于其固有构词带有贬义色彩,而是中性义项(区分)向歧视义项(不公正对待)发生了彻底的词义重心转移,完成了经典的贬降历程。

实验关键数据

实验基于日本国立国语研究所(NINJAL)三大权威历时与现代语料库:CHJ(明治-大正期,1870s–1920s,1230万词)、SHC(昭和-平成期,1930s–2010s,3110万词)和 BCCWJ(当代杂志,2000s,430万词),均严格限定为杂志(magazine)语域以剔除语体干扰。主分析集包含 150 个《岩波国语辞典》(第五版)多义词,涵盖 213,650 个用例。消歧评估集包含随机采样的 50 个词汇共 976 条用例,由 3 位日本语言学专业母语者独立标注。

主实验

首先在 976 条人工标注用例上评测 LLM 词典消歧模块的准确率,基线包含随机基准、最频繁词义基准(MFS)、WordNet BERT 映射、目标词-释义 BERT 以及用例-释义 Sarashina 嵌入匹配。

方法 (Method) 标注者平均准确率 (Mean annot.) 多数投票准确率 (Majority vote)
Random (随机基准) 0.281 0.282
WordNet BERT \(\rightarrow\) Iwanami 0.476 0.435
Target token–gloss BERT 0.577 0.591
Usage–gloss embedding (Sarashina) 0.663 0.681
MFS (最频繁词义,乐观上限) 0.695 0.699
Qwen3-8B (LSC-Pattern, 本文) 0.793 0.815

注:多数投票在至少两位标注者达成一致的 961 条用例上计算。三位标注者之间具有高一致性(平均成对 Cohen's \(\kappa = 0.798\),平均词级 Krippendorff's \(\alpha = 0.689\))。语料分块评测显示 Qwen3-8B 表现稳定:CHJ 上为 0.803,SHC 上为 0.813,BCCWJ 上为 0.844,表明其对近代历史日语用例具有稳健的泛化能力。

外在基准评测方面,将 LSC-Pattern 产出的历时词义分布 JSD 变化得分与 JaSemChange 人工语义变化评测集进行 Spearman 秩相关分析。

评测设置 (Setting) 语料对 (Corpus pair) Spearman's \(\rho\) \(p\)-value
多义重叠子集 Overlap (7 词) SHC–BCCWJ 0.821 0.023
多义重叠子集 Overlap (7 词) CHJ–BCCWJ 0.750 0.052
全量基准 Full (20 词) SHC–BCCWJ 0.580 0.007
全量基准 Full (20 词) CHJ–BCCWJ 0.367 0.112

消融实验与候选趋势发现

在时间跨度覆盖至少 10 个年代的 130 个目标词上,拟合一元线性回归斜率(单位:每年代变化量),筛选出的三大维度最显著的正向与负向演化候选词如下表所示:

维度 (Dimension) 模式候选 (Pattern) 代表性前三词 (Top 3 entries) 统计斜率与 \(R^2\) 典型值
效价 (+) 升华 (Amelioration) 現地 (genchi), 陽気 (youki), 前衛 (zen'ei) 現地: 斜率 +0.0538, \(R^2 = 0.531\)
效价 (−) 贬降 (Pejoration) ケース (keesu), 下流 (karyuu), カード (kaado) ケース: 斜率 -0.0328, \(R^2 = 0.233\)
语义范畴 (+) 特化 (Specialization) 面 (men), 得意 (tokui), 足元 (ashimoto) 面: 斜率 +0.3104, \(R^2 = 0.677\)
语义范畴 (−) 泛化 (Generalization) プラス (purasu), 品種 (hinshu), 縁 (en) プラス: 斜率 -0.2347, \(R^2 = 0.468\)
隐喻度 (+) 隐喻化 (Metaphorization) 回転 (kaiten), プラス (purasu), 土俵 (dohyou) 回転: 斜率 +0.0763, \(R^2 = 0.694\)
隐喻度 (−) 去隐喻化 (Less metaphorical) 陽気 (youki), 天国 (tengoku), 手間 (tema) 陽気: 斜率 -0.0674, \(R^2 = 0.801\)

稳健性检验表明,OLS 线性回归斜率与 Theil–Sen 稳健回归斜率具有极强的等级相关性(效价 \(\rho=0.787\),语义范畴 \(\rho=0.839\),隐喻度 \(\rho=0.908\),均满足 \(p < 10^{-27}\))。

关键发现

  • Sense 0 发生率极低且成因分明:在全部 213,650 条模型预测中,Sense 0 仅占 1.42%(3,037 条)。深入分析发现其高度集中在两个极端词上:一是外来语「イン」(in),249 条用例中有 232 条(93.17%)被判定为 Sense 0,这是因为语料中大量出现“内衣”或“介词in”含义,而《岩波国语辞典》仅收录了体育用语(如出界与进球),属于词典编纂的真实收录缺口;二是「北」(kita),1,409 条用例中 964 条(68.42%)被打为 Sense 0,源于模型反复误读了词典中包含相反方位词的括号注释,属于消歧推理错误。排除这两词后,其余 148 词的平均 Sense 0 概率仅为 0.87%。
  • 词典粒度决定外在评测上限:在 JaSemChange 上,7 个具有充分多义项划分的词汇表现优异(\(\rho=0.821\)),但在包含单义词的全量 20 词上相关性跌落至 0.580。这是由于部分在历史语料中发生渐进词义转移的词在《岩波》中仅被归并为一个宽泛义项,固定的词典划分无法捕捉单义项内部的细微变化,凸显出固定词表在连续细粒度漂移建模上的天然边界。
  • 个案研究呈现互补的机制解释:个案分析表明不同维度各自捕获了独特的语言学机制。例如「土台」(dodai,地基/根基)从建筑地基(具象,义项2)向事业根基(抽象,义项3)演变时,隐喻度大幅上升(斜率 \(+0.0404\)),但由于两个义项在 WordNet 中具有相同的深度(8 层),语义范畴维度完全为常数(constant),唯有隐喻度配合词义分布才能完整揭示其隐喻化实质;而「飯」(meshi)由熟饭(7层)扩展至泛指一餐(6层)则由语义范畴维度准确反映(斜率 \(-0.0193\))。

亮点与洞察

  • 词典锚定与语义维度的双重解耦设计:创新性地将连续维度变化追踪与离散词典义项再分布相结合,兼顾了宏观趋势的计算灵活性与微观语言学证据的可检验性。
  • 长时序高质量历时演变实证:在跨越近 150 年(1870s–2010s)的真实历史日语杂志语料上完成了系统性实证,构建了大模型用于历史语言学精细演变追踪的标准范式。
  • 思维链推理显著增强古汉语与近代日语消歧鲁棒性:依托 Qwen3-8B 思考模式直接理解文言文及近代日语混合语料,在无须额外历时微调的前提下,消歧准确率超越多重微调模型与启发式基线 11% 以上。

局限与展望

  • 依赖词典词条的收录范围与粒度划分:基于固定现代词典(如《岩波国语辞典》)无法捕捉历史上曾存在后消亡的义项,也无法表征词典遗漏的新生俚语或网络新义(如外来语 in 的例子所示)。未来可引入词义归纳(WSI)或动态生成上下文定义来动态补充词典缺口。
  • 语义维度代理指标的系统性偏差:情感效价基于周边上下文词计算,容易受到语篇主题或文体偏好的干扰;WordNet 深度只是概念层级层级的粗糙替代,无法完美映射真实的语义具体度;现代隐喻检测器难以识别已经高度习语化、常规化的历史死隐喻(conventionalized metaphors)。
  • 跨语料库差异与异构性:CHJ、SHC 和 BCCWJ 在历史断代、正字法标记、分词规范和扫描校对质量上存在差异,2000 年代亦存在双语料重叠,未来需在更加严格受控的跨历时对齐语料库上开展推广。

相关工作与启发

  • vs. 基于无监督嵌入聚类的语义变化检测 (Hamilton et al., 2016; Kutuzov et al., 2022):传统方法依赖上下文向量的无监督聚类比较时间段分布,产生的语义簇是隐式的,无法与权威语言学词典的规范义项对齐;LSC-Pattern 将用法显式锚定到词典定义,消歧准确率高且结论具备完全的语言学可读性。
  • vs. 基于宏观连续维度的历时演化分析 (Baes et al., 2024):连续属性方法能够在情感、广度等宏观属性上给出统计曲线,但无法回答“究竟是哪种含义的变化驱动了这一曲线”;LSC-Pattern 通过联立词义分布,能够将属性跃变清晰解构为具体义项的频次消长。

评分

  • 新颖性: ⭐⭐⭐⭐ [首次系统性将大模型词典锚定 WSD 与多维属性轨迹相结合,提出全新的可解释历时演变分析范式]
  • 实验充分度: ⭐⭐⭐⭐⭐ [跨越 150 年历时真实语料、21 万用例消歧、严密的人工一致性评测及详尽的多维度统计检验]
  • 写作质量: ⭐⭐⭐⭐⭐ [架构清晰,概念界定严谨,个案分析翔实且紧扣语言学演化理论]
  • 价值: ⭐⭐⭐⭐⭐ [为计算历史语言学、词汇语义学与认知语言学研究提供了高度可用且可复验的分析工具与基准]