好文,借deepseek翻译了一下:
# 使用BERT模型在大型语料库中计算GSL词汇的语义频率
Liu Lei,Gong Tongxi,Shi Jianjun,Guo Yi
## 摘要
一直以来,人们迫切需要为高频词表中的词汇提供语义信息,但技术限制阻碍了这一目标的实现。本研究通过利用BERT等大型语言模型对大型语料库进行语义标注,并识别通用服务词表(GSL)中词目的高频义项,来应对这一挑战。我们旨在探讨三个关键问题:(1)BERT能否自动标注大型语料库并准确计算义项频率?(2)GSL词汇的高频义项是什么?(3)这种方法能否得到验证?使用基于BERT的框架,我们在一亿词的英国国家语料库(BNC)中对1,891个GSL词目(10,925个义项)进行了标注,用1,024维向量表示每个义项。由此,我们识别出GSL词汇的3,695个高频义项。本研究得出三个主要结论。第一,BERT在义项标注方面表现出高准确率,在消歧GSL词汇义项时达到了\(92\%\)的精确率。第二,相对较少的高频义项占据了语料库覆盖率的显著部分。具体而言,这些高频义项(占总数的33.8%)覆盖了BNC中所有GSL词汇出现次数的约\(60\%\)。第三,通过这种方法选出的高频义项可以通过其在不同语料库中的一致覆盖率得到验证。本研究展示了一种在大型语料库中进行语义标注的开创性方法,可以轻松应用于计算其他词表的语义频率。
## 通俗语言摘要
## 理解常见词义:使用大型语言模型分析词频
本研究利用BERT模型分析通用服务词表(GSL)中所列常见词汇的不同义项在大型文本集合中出现的频率。通过为每个义项分配一个数值,该研究计算了它们在英国国家语料库(BNC)中的频率。研究发现,少量义项覆盖了大部分文本,这表明它们对语言学习者很重要。研究还揭示了不同时期的一致使用模式,为语言教学提供了有价值的见解。
## 关键词
词表,语义标注,语义频率,BERT,大型语言模型
## 引言
对于初学外语的人来说,由于大多数语言的词汇量庞大,掌握每一个单词是不可能的。相反,建议他们通过优先集中学习高频词来优化学习(Nation,2016)。因此,一些高频词表已被创建。
其中最具影响力的词表之一是West(1953)的《英语通用服务词表》(GSL)。它已成为新词表开发的基础(Brezina & Gabbasova,2015;Coxhead,2000),评估学习材料词汇适用性的标准(C. Y. Liu,2023;Vukovic-Stamatovic,2022),以及词汇学习的指南(Vilkaite-Lozdiene & Schmitt,2020)。尽管创建于20世纪50年代,它仍然是最好的词表之一(Schmitt & Schmitt,2020)。
其持久影响力的一个重要原因是GSL提供了每个词义频率的信息(Nation & Waring,1997)。除了简单列出拼写形式外,它还明确描述了各种义项和义项频率。例如,它不仅指出“capital”是一个常用的英语单词,还强调其“城市”义项比“字母”义项更为普遍。正如GSL中明确指出的,“capital”出现实例的\(47\%\)与“城市”意义相关,而只有\(1\%\)的出现与“字母”意义相关(West,1953:69)。同样,GSL指出“air”是一个常用词,但其“方式”义项的使用仅占所有情况的\(5\%\)。这个特定意义在GSL中用方括号括起来,表明它不被广泛使用或推荐用于教学(West,1953:13)。
这种语义信息对于使用这些词表的语言学习者来说特别有价值。由于许多英语单词是多义词,学习者在查阅这些词表时,甚至教师也常常难以确定应该关注哪个(些)意义。如果我们承认高频词应该先学,那么高频义项也应该受到早期关注,而不太频繁的义项则留到以后学习。正如West(1953)所指出的,尽管“air”是一个常用词,但其“方式”意义对年轻学习者来说可能并不重要。如果我们想优先考虑频繁义项而非罕见义项,一个关键问题就出现了:我们如何识别哪些义项最常见?
近年来,人们做出了不同的努力来更新GSL。近期值得注意的词表包括Nation(2012)的BNC/COCA词表、Browne等人(2013)的新通用服务词表(NGSL)、Brezina和Gabbasova(2015)的新通用服务词表(New-GSL),以及Schmitt等人(2021)的基于知识的词汇表(KVL)。这些新词表从未尝试为其所选词汇提供任何语义信息。
现有词表中缺失的语义频率信息,在英语词典中也找不到。英语词典经常强调按频率排列义项的重要性。剑桥学习者词典明确表示,“最常见意义”在其词条中排在首位。牛津学习者词典表示,一个词的不同意义通常按频率顺序给出,最频繁的意义排在前面。朗文当代英语词典坚持类似的基于频率的原则,声明“意义按频率组织”。尽管有类似的说法,但有趣的是,不同的词典以相当不同的顺序排列义项。很难说哪本词典是正确的,因为没有词典提供关于语义频率的详细数据。
语义频率未能得到充分计算主要是由于方法论限制。虽然当前的语料库技术使我们能够轻松统计词形,但无法区分不同的义项。在West的时代,语义频率是手动计数的。然而,随着现代语料库变得越来越大,在大规模语料库中手动计数约2,000个词的10,000个义项实际上变得不可能。幸运的是,近年来出现的大型语言模型为探索语义频率提供了可能的方法。
在本文中,我们将使用谷歌开发的大型语言模型——基于Transformer的双向编码器表示(BERT)——来计算现代英语语料库中GSL词汇的语义频率。这将涉及对语料库进行语义标注、选择高频义项、检查其覆盖率,并最终讨论理论意义。后文将讨论的在BNC中计算GSL词汇语义频率的方法,可以轻松应用于计算任何词表的语义频率。
本研究由三个研究问题指导,旨在解决语义频率分析中的方法论和教学空白:
(1)BERT能否自动标注大型语料库并准确计算义项频率?(在第4.1节中讨论:GSL词汇的语义频率与标注准确率)
(2)GSL词汇的高频义项是什么?(在第4.2节中讨论:高频义项的选择)
(3)这种方法能否得到验证?具体而言,这些义项能否以比以往词表少得多的条目实现类似的覆盖率,并且能否在不同语料库中保持稳定?(在第4.3节中讨论:所选义项的验证)
通过系统地回答这些问题,本研究通过展示如何识别GSL词汇的高频义项,引入了一个可复制的框架,用于在大型语料库中自动计算语义频率。
自GSL创建以来,包括New-GSL和NGSL在内的几个更新词表已被开发。在本节中,我们将审视这些新词表所取得的进展以及它们面临的挑战。我们还将回顾以往研究中用于语义标注的主要方法。
## 通用服务词表的以往发展
West(1953)的GSL是一个约2,000词的词表,被认为是学习英语作为外语的基础。这些词按字母顺序排列,包括简明的定义和例句。每个词被分配一个数字,表示它在500万词语料库中出现的次数。更重要的是,每个意义都提供了语义频率。GSL在多年中产生了广泛影响。
尽管有影响力,GSL因过时和选择标准相互矛盾而受到批评。Richards(1974)认为GSL不再满足当代教学需求,因为自20世纪初GSL创建以来语言使用已经发生了变化。此外,几项研究强调了扩展或更新GSL的挑战(Brezina & Gabbasova,2015;Gilner & Morales,2008)。除了词频的定量测量外,West(1953)还使用了一些定性标准,包括易学性、必要性、覆盖面和文体及情感中性(West,1953:ix-x)。Brezina和Gabbasova(2015)指出,定量原则和定性原则之间存在强烈张力,一些原则高度主观且依赖于编纂者的偏好。
针对这些批评,两个更新的GSL词表被开发出来,都名为新通用服务词表。为了区分它们,Brezina和Gabbasova(2015)创建的词表通常被称为New-GSL,而Browne等人(2013)编纂的词表被称为NGSL。
Brezina和Gabbasova(2015)使用了三种定量测量的组合:频率、分散度和分布。没有使用主观标准。New-GSL共包含2,494个词元,达到了与原始GSL相似的覆盖率。该词表覆盖了BNC中约\(80\%\)的文本。这标志着与West的GSL达到可比覆盖率所需的4,100个词元相比有了显著减少。
Browne等人(2013)开发的NGSL扩展和完善了West的GSL。它最初于2013年从剑桥英语语料库的2.73亿词子集中创建,并于2016年和2023年更新。NGSL的2,809个词以比原始GSL更少的词提供了更多的覆盖率。它对大多数通用英语文本的平均覆盖率为\(92\%\),在其他情况下覆盖率甚至更高。据作者官方网站称,NGSL包含日常英语中最基本的词汇,对第二语言学习者特别有益。
除了两个名为新通用服务词表的词表外,许多其他高频词表也被创建,包括Davies和Gardner(2010)的《当代美式英语频率词典》和Nation(2012)的BNC/COCA词表。尽管这些词表名称不同,但它们使用相似的原则开发,服务于与GSL相当的目的。
这些近期词表基于大型当代语料库,但都没有提供关于义项频率的信息。遗憾的是,GSL仍然是唯一提供语义频率的高频词表。缺乏进展主要是由于技术限制。
## 以往计算义项频率的方法
虽然传统和半自动化方法为义项频率分析奠定了基础,但它们对人工标注、基于规则的系统或浅层统计方法的依赖限制了其可扩展性和对不同语言环境的适应性。早期方法,如基于WordNet(Miller,1995)或基于语料库的频率计数的方法,为词汇语义学提供了有价值的见解,但难以捕捉词义的细微、依赖语境的性质。随着自然语言数据日益复杂和对更强大、自动化解决方案的需求,这些局限性变得越来越明显。神经语言模型的出现,特别是BERT(Devlin et al.,2018),标志着语义分析的范式转变,通过利用深度学习来建模语境化的词表示。本节首先回顾传统和半自动化方法(第2.2.1节),然后详细讨论神经语言模型,特别是BERT,如何解决早期方法的不足(第2.2.2节)。
**传统和半自动化方法。** 以往的义项频率研究依赖人工计数或半人工计数,直到最近BERT等大型语言模型的发展。
传统上,义项频率是手动计数的。为了获得GSL词汇的语义频率,13卷的《牛津英语词典》(OED)被分成32页的对开本。每个计数的人都经过专门培训。他阅读材料,每当在他负责的词典部分发现一个词时就记录下来。然后他研究其在语境中的明显意义,以分配其正确的意义。每个计数的人通常阅读全部500万词。这种方法劳动密集且耗时。
图1. 预训练模型架构的差异(Devlin et al.,2018)。
现代语料库的进步简化了这一过程。得益于现代语料库技术,研究人员现在可以比以前更容易地检索包含特定词的索引行。然而,义项标注仍然需要人工努力。由于实例数量庞大,不可能详细分析每一个。作为一种常见做法,研究人员通常只分析实例的一个子集,这些子集通过随机或系统抽样方法选择。Lin和Wang(2019)研究了副词“again”的语义变化。从历史美式英语语料库(COHA)中收集了“again”的所有实例后,他们以600:1的比例随机选择了479个样本进行人工标注。
近年来,许多识别大型语料库中词的正确意义的新方法被提出。它们主要可以分为两组:监督方法(Iacobacci et al.,2016;Melamud et al.,2016;Raganato et al.,2017a;Yuan et al.,2016;Zhong & Ng,2010)和基于知识的方法(Agirre & Soroa,2009;Luo et al.,2018;Moro et al.,2014;Raganato et al.,2017b)。监督方法表现优于基于知识的方法,但它们首先需要大型义项标注语料库,而基于知识的方法通常是无监督的,不需要义项标注数据。基于知识的方法的准确率一般在\(65\%\)左右,而监督方法的准确率在\(70\%\)左右。虽然这种准确率水平对于初步探索和研究有用,但对于需要高精度的应用(如语义标注)来说确实不够。
**神经语言模型和BERT的突破。** 随着基于深度神经网络的语言模型如ELMo(Peters et al.,2018)、GPT(Radford et al.,2018)和BERT(Devlin et al.,2018)的引入,词的动态表示成为可能。这些模型根据特定语境为目标词计算不同的向量,使词向量能够表达词在不同语境中的共性和个性。在计算语言学中,向量表示将语言单位(词、短语或义项)转换为数值数组,使机器能够处理语义关系。例如,单词“king”可能表示为[0.71,-0.32,0.45…],其中每个维度捕捉潜在特征,如性别(“king”对“queen”)或皇室(“king”对“commoner”)。BERT根据语境动态生成这样的向量——例如,“bank”在“river bank”和“bank account”中接收不同的向量。在向量空间中,意义相似的词倾向于聚集在一起,允许通过数学运算计算词之间的相似性和差异。
在这些模型中,BERT在区分不同意义方面表现更好。如图1所示,BERT依赖双向多层Transformer(Vaswani et al.,2017)来实现双向语境交互。Transformer架构完全基于自注意力机制,而不是序列建模中常用的循环神经网络(RNN)和卷积神经网络(CNN)。自注意力机制旨在同时考虑序列中的各个位置以捕捉其表示。OpenAI的GPT使用从左到右的单向Transformer,而ELMo结合了独立训练的从左到右和从右到左的长短期记忆网络(LSTM)。在这些模型中,只有BERT的表示由所有层中从左到右的语境决定。这种方法彻底改变了早期文本分析和表示模型中使用的传统从左到右计算方法。
图2. BERT输入表示(Devlin et al.,2018)。
如图2所示,BERT模型的输入由三部分组成:标记嵌入、段嵌入和位置嵌入。特殊标记[CLS]表示初始标记,可以象征整个句子。特殊标记[SEP]用于句子末尾,能够为两个句子生成单独的段嵌入,从而使模型能够处理句间关系。单词“playing”由于WordPiece算法(Wu et al.,2016)被拆分为“play”和“##ing”。段嵌入区分不同的句子,图中第一个句子具有段嵌入EA,第二个句子具有EB。位置嵌入表示不同的位置信息。
在预训练阶段,BERT采用两个任务:掩码语言模型(MLM)任务和下一句预测(NSP)任务。MLM任务类似于考试中的完形填空,给出一个句子,其中一个或多个词被随机掩码,模型根据剩余词汇预测被掩码的词。NSP任务涉及判断同一语料库中的后续句子是否是接续第一个句子的正确句子,这是一个二元分类任务,可能的答案为是或否。这个任务类似于考试中看到的段落排序题。BERT结合这两个任务的预训练过程,使模型能够通过MLM任务学习词汇相关知识,并通过NSP任务获取句子到段落级别的语义信息。组合任务使模型的词向量能够尽可能全面和深入地描绘输入文本的信息。预训练本质上涉及不断调整模型参数以增强模型对语言的理解。
许多学者通过探测任务发现BERT词向量编码了多个层面的语言知识。例如,Tenney等人(2019)证明BERT的层捕捉了层级语言特征,较低层编码句法信息,较高层关注语义理解。同样,N. F. Liu等人(2019)表明BERT有效地建模了句法依赖关系,如词性标注和句法分析。Goldberg(2019)进一步证实了BERT处理主谓一致的能力,这是一个关键句法现象。此外,Ettinger(2020)揭示BERT可以表示语义角色,尽管它在更复杂的语言现象上存在困难。
与此同时,研究人员对BERT进行了微调,并在不同语言的词义消歧(WSD)任务上测试了其性能。Huang等人(2019)使用基于BERT的模型在WSD数据集上达到了\(77.0\%\)的准确率,优于传统的基于LSTM的模型(\(68.4\%\))。Wiedemann等人(2019)证明BERT在SensEval-2和SensEval-3 WSD任务中达到了最先进的结果,优于传统模型。Du等人(2019)在WSD任务上微调了BERT,展示了BERT在WSD中的强大能力,并证明整合外部知识(如义项定义)可以显著增强模型性能。Wang和Wang(2020)提出了一种新的同义词集关系增强框架方法来优化义项嵌入,进一步提高BERT的WSD性能。Pawar等人(2021)解决了低资源语言中WSD的挑战,利用了BERT的迁移学习能力。Loureiro等人(2021)强调了BERT在处理低频义项方面的局限性,同时仍然承认其在WSD任务中的整体有效性。最后,X. Zhou等人(2024)将BERT的应用扩展到跨语言语义分析,展示了其处理跨语言语义变化的潜力。
BERT也被应用于历时语义分析,这涉及跟踪语义变化随时间的变化。Beck(2020)提出了一种利用预训练BERT生成语境化词嵌入的新方法,用于SemEval-2020任务1,这是一个由Schlechtweg等人(2020)提出的词汇语义变化任务,证明该系统能有效检测英语、德语、拉丁语和瑞典语的语义变化,准确率为0.728。W. Zhou等人(2023)实证证明,通过微调任务增强语境模型显著提高了其检测语义变化的有效性。微调任务中多种语言信息的整合显著增强了模型性能,特别是在处理历史文本时。这一发现为未来语义变化研究提供了新方向,并强调了将丰富语言信息纳入模型的重要性。
## BERT对词汇语义分析的影响
该模型捕捉义项特定频率的能力,实现了对基于使用的词汇优先级排序的呼吁(D. Gardner,2007;Nation,2001;Schmitt,2010)。这些理论和实践进展凸显了BERT在弥合计算语言学研究与应用语言教学之间差距的潜力。然而,尽管BERT在语义分析方面取得了成功,但其在教学词典编纂中的应用仍未得到充分探索,特别是在第二语言(L2)词汇教学方面。
虽然BERT在词义消歧和语义相似性等任务中表现出色,但其直接应用于教学词典编纂面临若干挑战。首先,BERT的嵌入计算密集,需要大量资源进行微调和部署。其次,其义项表示虽然语境丰富,但可能不符合L2学习者的特定需求,如文体适当性或基于频率的优先级排序。第三,现有的语义频率分析方法通常缺乏可扩展性和可复制性,限制了它们在大规模教学环境中的实用性。
为应对这些挑战,我们的研究创新之处在于:
(1)通过义项向量平均将BERT扩展到教学词典编纂(参见第3.2.1节)。通过聚合BERT的语境化嵌入,我们创建了捕捉频率和语义细微差别的稳健义项表示,从而实现更准确和高效的词汇分析。
(2)引入基于OED的文体过滤以符合L2相关性(参见表3)。我们整合了《牛津英语词典》的文体标注,以确保所选词汇符合L2学习者的交际需求,弥补了现有计算方法中的一个关键空白。
(3)建立首个可复制的语义频率分析方法。我们的框架为分析语义频率提供了系统解决方案。
这些创新弥合了计算语言学研究与实际词汇教学需求之间的差距,为增强L2词汇教学提供了强大工具。
## 方法论
为了系统地解决第1节中概述的三个研究问题,我们设计了一个三阶段计算框架。首先,我们将GSL词目的每个义项映射到一个1,024维向量,计算每个义项在1亿词的BNC语料库中的频率。我们最后检查标注准确率以回答RQ1。其次,为了识别高频义项(RQ2),我们应用了定量阈值(累积\(90\%\)覆盖率)和基于OED的定性文体过滤器(例如,排除古语或领域特定义项),在统计严谨性与语言学习者的实际相关性之间取得平衡。最后,为了验证方法和我们识别的义项(RQ3),我们比较了BNC(1990年代)、LOB(1960年代)和CLOB(2000年代)的覆盖率。该方法通过开放工具(如BERT-WWM模型)和可复制协议强调透明度,回应了对传统词表更新中主观性的批评(Brezina & Gabbasova,2015)。
## 术语、语料库和工具
**术语。** 本研究中的“GSL词汇”指GSL中的词目。在GSL中,“词”指词族。不同的词元如“act”、“actor”、“actress”、“action”、“active”、“actively”和“activity”都归入“ACT”条目。起初,我们计划分析所有这些相关条目,大约4,000个词元。然而,我们后来发现GSL中的词元与短语甚至粘着语素混合在一起。因此,我们决定只关注1,891个词目,即在GSL中以大写字母书写的词(如“ACT”)。
我们选择研究GSL词汇的义项频率而非NGSL等更新词表,因为GSL是唯一提供语义信息的词表。它可以作为比较的参考。
“义项”指GSL词汇在OED中的义项条目。不同的词典对词的意义定义方式不同。我们使用OED作为我们的主要义项来源,主要有两个原因。首先,OED是GSL的义项来源。使用同一词典,尽管版本不同,将有助于可能的比较。其次,OED为每个义项定义提供了比我们能访问的其他词典更多的例子。OED将义项组织为两个层级,较宽泛的一般义项包含更具体的子义项。本研究采用一般层面的义项,因为我们的试点实验揭示BERT模型难以区分细微的子义项(L. Liu et al.,2024)。短语动词与其他义项分开处理,并计为不同义项,因为它们作为整体具有独特意义。然而,关于什么构成短语动词存在很多争论。出于实用原因,我们包含且仅包含OED中列出的短语动词。
**语料库。** 使用了几个语料库,即BNC、LOB、CLOB和词典例句集合。
BNC由1亿词的书面和口语语言组成,从广泛多样的来源收集,以提供1990年代英式英语的代表性快照。BNC被用作主要语料库,因为它是目前唯一可以免费下载全文的大型语料库。相比之下,更大、更当代的语料库如“BNC 2014”只能通过在线接口访问,使其不适合BERT进行语义标注。在本研究中,使用BNC的XML版本。
另外两个语料库用于检查高频义项的覆盖率。LOB包含500篇文本,每篇约2,000词,分布在15个文本类别中。这些文本于1961年撰写并首次出版。CLOB是将China和LOB的首字母组合而成的术语,其框架仿照LOB。CLOB包括约2009年出版的15个文本类别。
**工具。** 谷歌已经开源了多个BERT模型(Devlin et al.,2018),这些模型生成BERT向量——词的语境敏感数值表示。与静态嵌入(如Word2Vec)不同,BERT向量适应句子语境。例如,在“The pitcher threw a ball”(棒球语境)与“She drank from a pitcher”(容器语境)中,单词“pitcher”接收两个不同的向量,使模型能够消歧意义。本研究中使用的模型是“wpm_uncased_L-24_H-1024_A-16”,这是谷歌发布的最大模型,由24层、1,024个隐藏单元和16个自注意力头组成,具有3.4亿个参数。
1,024维向量表示是我们采用的BERT架构的固有特征,其中隐藏层维度(\(H = 1,024\))在模型预训练期间预定义。这一维度经Devlin等人(2018)实证验证,以平衡计算效率和语义表现力:更大的维度(如2,048)略微提高准确率但指数级增加资源成本,而更小的维度(如BERT-Base中的768)可能不足以捕捉细粒度的义项区分。
为了确认其对我们任务的适用性,我们进行了试点实验,在500个随机选择的GSL词汇上比较了BERT-Base(768维)和BERT-Large(1,024维)的向量。1,024维模型达到\(89.3\%\)的准确率,而768维为\(84.1\%\),展示了其区分细微义项差异(如“bank”作为金融机构与河岸)的优越能力。因此,我们保留1,024维配置作为语义标注的最优选择。
## 研究程序
我们首先对BNC中所有GSL词汇进行语义标注,这涉及为每个词分配OED中相应的义项条目。然后我们统计语料库中每个义项的所有出现次数,计算每个义项的频率,并识别高频义项。最后我们调查这些高频义项在不同语料库中的覆盖率。
**语义标注。** 在按照L. Liu等人(2024)规定的常规语料库清洗步骤之后,我们使用BERT对BNC语料库进行语义标注。
首先,我们使用BERT为每个GSL词汇的每个义项生成一个1,024维向量。例如,单词“address”在OED中有七个义项。第一个与“地点”意义相关的义项包含20个例句。我们将14个例句输入BERT模型。BERT处理每个例句,定位每个“address”并用向量表示每一个。这14个向量的平均值用于表示义项(“地点”)。遵循同样的方法,我们获得了单词“address”其余六个义项中每个义项的向量。这个标注过程随后应用于每个GSL词汇的每个义项。最终,所有GSL词汇的每个义项都由一个1,024维向量表示。
其次,我们使用BERT为BNC中GSL词汇的每次出现生成一个向量。
第三,将在步骤2中获得的表示语料库中词的每个向量与步骤1中从OED定义生成的向量进行匹配。这些向量之间的相似性使用余弦相似度评估,这是一种计算两个向量之间夹角余弦的数学度量,量化词的语境使用与其预定义义项的匹配程度。例如,如果“bank”在句子“I sat by the river bank”中的向量与OED的“河岸”义项向量的余弦相似度为0.92,但与“金融机构”义项的相似度仅为0.15,则前者被选为正确意义。
图3. 语义标注的简化示意图。
为了说明这个过程,我们将一个1,024维向量转换为二维点并绘制了一个简单示意图(图3)。在第一步中,“address”的六个意义由六个标记为“address1”到“address6”的向量表示。在第二步中,BNC中“address”的一个特定实例也被表示为向量。然后我们测量该向量与六个义项向量中每个向量之间的距离,选择最近的义项作为正确解释。在图3所示的例子中,发现address1的向量与目标词的向量最相似。因此,它被选为目标词的意义。
第四步涉及统计每个义项的频率并计算百分比。一旦BNC中一个词的所有实例都被语义标注,同一个词的不同义项就被视为不同的项目。因此,我们可以像传统方法中统计词一样轻松地统计义项并计算其频率。
**准确率检查。** 在语义标注之后,我们评估标注准确率。在以往研究中,准确率通常通过评分者间共识来评估。标注的文本提交给两位专家,他们将确定结果是否正确。两位专家之间的一致程度将被报告。采用类似的人工方法是不可能的,因为本研究需要检查约7,000万个实例的11,000个义项。
我们采用了训练-测试集划分技术,这是一种机器学习实践,将数据分为两个子集:训练集(\(70\%\)的OED例句)用于教BERT如何将义项映射到向量,测试集(\(30\%\))用于评估其在未见数据上的性能。OED的例句被分为两组:训练组和测试组。测试组占例句的\(30\%\),与BNC的句子混合,由BERT进行无偏标注。标注后,提取例句并将其标注与原始定义进行比较。然后计算并报告每个词的准确率。
**高频义项选择。** 大量英语单词有多个意义。提供语义描述的高频词表可能更有帮助。针对Szudarski(2017)对初学者查阅词表时应从何入手的疑问,我们为每个GSL词汇识别了高频义项。
表1. BNC中“address”不同义项的频率。
| 词性 | 义项定义 | 义项频率 | 义项百分比 |
| 名词 | 某人居住或组织所在的特定地点。 | 4,141 | 35.11 |
| 动词 | 思考并开始处理(一个问题或事项) | 2,853 | 24.19 |
| 动词 | 对(某人或集会)讲话 | 2,332 | 19.77 |
| 名词 | 向听众发表的正式演讲 | 1,632 | 13.84 |
| 动词 | 在(信封、信件或包裹)上写下收件人的姓名和地址 | 618 | 5.24 |
| 动词 | 采取站姿准备击(球) | 207 | 1.75 |
| 名词 | (过时)技巧、灵巧或敏捷 | 13 | 0.11 |
表2. “Around”的高频义项。
| 词性 | 义项定义 | 义项频率 | 义项百分比 |
| 介词 | 在……的每一边 | 11,549 | 26.63 |
| 副词 | (与数字或数量连用)大约 | 7,257 | 16.73 |
| 副词 | 存在、居住、在附近或活跃使用中 | 4,660 | 10.74 |
遵循创建GSL的选择标准,高频义项的选择遵循结构化的四阶段过程,以确保方法透明度和教学相关性。
首先,应用定量阈值方法:每个词的义项按频率降序排列,其百分比累积求和,直到达到该词总出现次数的\(90\%\)。这一阈值借鉴了以往教学词典学研究(D. Gardner & Davies,2014;Garnier & Schmitt,2015),平衡了覆盖广度和词表简洁性。
在这个累加过程中,只有超过\(10\%\)的义项才会被计算。为了说明这个过程,让我们考虑BNC语料库中单词“address”的例子。表1呈现了其不同义项的频率和百分比。最普遍的义项是“地点”义项,在BNC中出现4,141次,占其总出现次数的\(35.11\%\)。紧随其后的是“处理问题”、“对……讲话”和“正式演讲”义项。每个义项的百分比累积相加直到达到\(90\%\)(\(35.11\% +24.19\% +19.77\% +13.84\% = 92.91\%\))。因此,只有前四个义项被识别为高频义项。
其次,执行最低个体贡献标准:只有占一个词频率至少\(10\%\)的义项才有资格被纳入。这排除了边缘义项(例如,“address-技巧”为\(0.11\%\)),这些义项增加的教学价值极小。
例外情况出现在即使纳入所有合格义项后累积覆盖率仍低于\(90\%\)时(例如,“around”保留了三个义项,总计
\(54.1\%\))。这可以用表2中的单词“around”来说明。在列出的10个义项中,只有三个百分比高于\(10\%\)。在这种情况下,只有这三个义项被视为高频义项。
第三,定性过滤移除了OED中标记为古语、方言、贬义或领域特定的义项(例如,“city=伦敦金融区”),遵循West(1953)的文体中性原则,但用基于词典的客观性取代主观判断。
关于频率是否足以产生令人满意的词表总是存在争论。除了频率,在创建GSL时还考虑了其他几个因素,包括学习难度、必要性、覆盖率、文体层次和情感中性(West,1953:x)。Brezina和Gabbasova(2015)认为,纳入这些主观测量使结果难以检查和复制。
针对这两种论点,我们纳入了一些主观考虑,如语域(“正式”或“非正式”)。然而,与以往研究不同,我们不依赖人工判断。相反,我们使用OED中提供的标签作为标准。具体而言,任何在OED中标记为“正式”、“文学”、“非正式”、“古语”、“过时”、“粗俗俚语”、“罕见”、“方言”或“贬义”的义项都被排除在我们的高频义项列表之外(见表3)。这样,尽管我们像West(1953)一样使用了一些定性标准,整个过程仍然可以轻松复制,结果也可以轻松验证或更新。
移除这些有文体标记的义项,在某些情况下导致某些GSL词汇完全消失。例如,单词“thus”在OED中的所有义项
表3. 有文体标记的义项示例。
| 词目 | 词性 | 语域 | 义项定义 |
| Affair | 名词 | 非正式 | 特定类型的物体 |
| Aloud | 副词 | 古语 | 大声地 |
| Baby | 名词 | 非正式 | 情人或配偶(常作为称呼形式) |
| Bear | 动词 | 正式、文学 | 生育(孩子) |
| Chicken | 名词 | 非正式、贬义 | 胆小的人;懦夫 |
| Regard | 动词 | 古语 | (指事物)与……有关;涉及 |
表4. “Thus”在OED中的义项。
| 词目 | 词性 | 语域 | 义项定义 |
| Thus | 副词 | 正式、文学 | 作为此事的结果或后果;因此。 |
| Thus | 副词 | 正式、文学 | 以现在所示或例证的方式;如此。 |
| Thus | 副词 | 正式、文学 | 到此程度;如此。 |
表5. 技术义项示例。
| 词目 | 义项定义 |
| Idea | 哲学(在柏拉图思想中)一种永恒存在的模式,任何类别中的个体事物都是其不完美的复制品。 |
| Elastic | 经济学(指需求或供给)对价格或收入变化敏感的。 |
| City | =伦敦金融城 |
都被归类为“正式”和“文学”(见表4)。因此,GSL中的单词“thus”被排除在我们最终的高频义项列表之外。
在创建GSL时,West(1953)除了频率外还采用了文体和情感中性作为标准。他删除了“personage”、“fellow”和“chap”等词,因为“personage是person的书面且相当文学的对应词”,而“fellow或chap是口语对应词”(West,1953:x)。他认为外国学习者在现阶段不需要高或低的对应词,而应保持中间路线。
然而,“thus”的每个义项在当今OED中都被标记为“正式”。这并不一定意味着West没有坚持他的文体中性标准。对什么是正式的认知可能随时间而变化。在当代被认为是正式的东西在West的时代可能不被认为是正式的。
第四,草稿列表提交给两位专攻外语教育的教授进行彻底评估。他们达成共识,主要用于特定学术领域或技术领域的义项对初学者来说不是必需的,
最好删除。对于包含的每个义项,我们仔细阅读OED中的相应定义,并删除标有学科或主要用于特定领域的义项。一些例子可以在表5中找到。
**验证。** 为了验证该词表的有效性,我们计算了高频义项的覆盖率,然后将其与所有GSL词目在不同语料库中的覆盖率进行比较。“覆盖率”一词指的是语料库中被特定词表条目覆盖的词的百分比。它被用作以往评估高频词表的最重要标准(Brezina & Gabbasova,2015;Dang et al.,2022;Dang & Webb,2016)。我们假设,尽管高频义项只占GSL词表的一小部分,但它们可以实现与整个词表相当的可观覆盖率。
仅在词表所源自的语料库中检查覆盖率是不够的。因此,我们进一步评估了GSL词汇和高频义项在另外两个英语语料库(即LOB和CLOB)中的覆盖率。
图4. 语义标注后BNC的快照。
## 结果与讨论
使用BERT进行语义标注后,BNC中的每个词除了原始标签(包括“source_file”、“text_type”、“sent_num”、“word”、“lemma”、“pos”和“C5”)外,还被标记了一个“义项标签”。这在图4中说明,其中最后一列代表新添加的义项标签。例如,“mono”表示该词在OED中只有一个意义,而“0”表示OED中该词的第一个义项被选为正确意义。有了语义标注的语料库,我们可以将每个与特定义项关联的词视为不同的项目。这使我们能够统计各种义项并识别那些频繁出现的义项。
## GSL词汇的语义频率与标注准确率(回答RQ1)
该研究产生了一份GSL词汇义项的全面列表。这可能是自1953年最初计算以来首次重新计算GSL词汇的语义频率。我们的列表有意设计为类似于GSL的原始编排。词按字母顺序排列,附有每个义项的详细数据。具体而言,每个义项条目包括“词目”、“词性”、“义项定义”、“例句”、“子义项定义”、“词目频率”、“语义频率”、“百分比”、“准确率”等信息。
“义项定义”、“子义项定义”、“例句”和“语域”的信息均来自OED。为了确保更高的准确性,我们在标注语料库时使用了一般层面的义项。尽管如此,我们也提供子义项供读者参考。“词目频率”指一个词在BNC中的总体频率。“语义频率”是本文最重要的信息,表示特定义项对应的出现次数,而“百分比”代表每个义项在总实例数中的比例。“准确率”指测试句子被正确标注的百分比。
表6呈现了单词“act”语义频率的一些关键数据。在BNC语料库中,“act”出现38,425次。在这些出现中,17,686个实例与“成文法”意义相关,占总数的\(46.03\%\)。第二常见的意义是“采取行动”,出现5,073次,占\(13.2\%\)。最不频繁的义项(不包括短语动词)是“假装”,仅出现439次,仅占\(1.14\%\)。这三个义项可分别用以下例子说明。
(1)the 1989 Children Act
(2)They urged Washington to act.
(3)She was putting on an act and laughing a lot.
短语动词在本研究中单独计算。与以往研究中将短语动词中的词与词典中的标准义项条目匹配不同,我们将短语动词作为整体单元处理。例如,“act”在“act on”中的意义传统上根据表6中前八个义项之一来解释。然而,我们将它们与标准义项条目分开列出。虽然承认短语动词可以有多个意义,但我们将OED中列出的每个短语动词视为一个独立条目,而不深入探讨其各种子义项。我们做出这样的妥协是因为我们在多次实验后发现,与单个词相比,BERT无法准确消歧短语动词的意义。
12 SAGE Open
表6. “Act”的语义频率。
| 词目 | 词性 | 义项定义 | 子义项 | 义项频率 | 词目频率 | 百分比(%) |
| Act | 动词 | 采取行动;做某事。 | | 5,073 | 38,425 | 13.2 |
| Act | 动词 | 以指定方式行事。 | | 1,843 | 38,425 | 4.8 |
| Act | 动词 | 生效;产生特定效果。 | | 4,332 | 38,425 | 11.27 |
| Act | 动词 | 在戏剧、电影或电视中扮演角色。 | 1. 表现得像是;假装是。 | 2,248 | 38,425 | 5.85 |
| Act | 名词 | 做过的事;行为。 | 1. 新约圣经中紧接福音书之后的一卷书,讲述早期教会的历史。 | 4,696 | 38,425 | 12.22 |
| Act | 名词 | 假装。 | 1. 特定类型的行为或惯例。 | 439 | 38,425 | 1.14 |
| Act | 名词 | 议会等通过的法令。 | 1. 证明法律交易的文件。 | 17,686 | 38,425 | 46.03 |
| Act | 名词 | 戏剧、芭蕾舞剧或歌剧的主要部分。 | 2. 委员会或学术机构的记录决定或 proceedings。 | 1,771 | 38,425 | 4.61 |
| Act on | 短语动词 | | 1. 一套表演。 | 68 | 38,425 | 0.18 |
| Act up | 短语动词 | | | 25 | 38,425 | 0.07 |
| Act out | 短语动词 | | | 244 | 38,425 | 0.64 |
表7. 准确率的描述性统计。
| 变量 | n | 均值 | 标准差 | 中位数 | 最小值 | 最大值 |
| 准确率 | 1,859 | 0.94 | 0.06 | 0.95 | 0.63 | 1.00 |
在对BNC中所有GSL词汇进行标注后,我们得到了一份约11,000个义项的全面列表。这份列表经过仔细审查。发现10个词,如“farmer”、“victory”、“village”和“wife”,在OED中有两个条目。一个是不常见的且没有例句。例如,“victory”的一个同形异义词被定义为“纳尔逊勋爵在特拉法加海战中的旗舰,1765年下水。”BERT依赖例句提取向量。在没有例句的情况下,BERT无法对这些词进行任何分析。这10个义项相当不常见,因此被删除,剩余义项的百分比被指定为“\(\approx 100\)”。最终列表现在包括1,875个词,10,925个义项。
BERT在标注GSL词汇时表现出92%的准确率。这一准确率结果与以往研究相似(Hu et al.,2019;L. Liu et al.,2024),并且高于以往词义消歧研究的准确率(Kilgarriff,2001;Snyder & Palmer,2004)。
如第3.2节所述,来自OED中GSL词汇定义的30%例句被混入BNC中,供BERT不加区分地标注。GSL中共有1,875个词目,测试集包含80,330个例句。平均而言,每个词使用43个例句来检查标注准确率。与OED中的原始定义比较时,发现73,781个句子被正确标注,总体准确率为92%。
标注准确率的描述性统计可在表7中找到。最小值为0.63,最大值为1,均值为0.94。
标注准确率的直方图如图5所示。可以观察到,大约75.26%(24.1 + 51.16)的词具有90%或更高的分类准确率。大约97.48%(6.46 + 15.76 + 24.1 + 51.16)的词具有80%或更高的分类准确率。
这表明BERT可以自动标注大型语料库并以高精度计算义项频率。
## 高频义项的选择(回答RQ2)
在应用第3.2节规定的标准后,识别出3,695个义项作为高频义项。
我们故意制作一个长列表。我们将截止线设在90%,而Garnier和Schmitt(2015)创建短语列表的截止点是75%。在高频词汇研究中没有普遍认可的阈值。不同研究者通常在广泛实验后选择他们的值。Garnier和Schmitt(2015)选择了\(75\%\)的阈值,声称这一决定是在仔细检查语料库搜索产生的数据后做出的。D. Gardner和Davies(2014)在讨论他们的阈值时明确指出。他们指出,“1.5比率没有什么特别之处,因为这一测量没有普遍接受的值”(D. Gardner & Davies,2014:315)。当我们确定\(90\%\)的阈值时,我们的列表可能包含比初学者严格需要的更多的义项。构建长列表的理由在于其未来修改的灵活性:从长列表中删除你认为不必要的内容比向短列表中添加你认为必要的内容要容易得多。GSL词汇的高频义项完整列表作为附录附于本文。
图5. 准确率直方图。
在审查列表后,我们想强调GSL词汇这些高频义项的三个重要特征。
第一,有限数量的义项占一个词意义的大部分。虽然许多英语单词有许多义项,但它们通常只有有限数量的高频义项。具体而言,对于约\(50\%\)的GSL词汇,单一义项涵盖其整体意义的不少于\(70\%\)。例如,单词“about”在OED中有六个义项。“关于;涉及”的义项单独占\(73.14\%\),而其他四个义项合计不到\(10\%\)。类似的例子可以在表8中找到。
在GSL词目的11,000个义项中,大约三分之一的义项覆盖了所有出现次数的约\(90\%\)。人们一再指出,高频词占据语料库的很大一部分,而较低频率的词提供的覆盖率逐渐减小。语义频率的分布与词频的分布相似:高频义项占有相当大的比例。
第二,许多比喻或引申意义被频繁使用。以动词“aim”为例,它有两个义项(见表9)。“有意实现”的引申解释在BNC中频繁出现。
同样,如表10所示,“beat”的“击败”意义出现频率几乎是“击打”意义的三倍,而“key”中“对……重要”的意义比其字面的“工具”意义更常见。“beat”和“key”不同意义的例子可以在下面的句子4到7中找到。这些常见词的隐喻意义在现有的中学教学指导文件中常常被忽视。
(4)She beat him easily at chess.
(5)A man was found beaten to death.
表8. 高频义项示例。
| 词目 | 义项 | 子义项 | 百分比(%) |
| Able | 有能力、技能、手段或机会做某事。 | | 96.26 |
| Abroad | 在或到外国。 | | 65.72 |
| Admit | 承认是真的或事实。 | 1. 承认(犯罪或过错,或对其的责任) | 78.63 |
| Age | 一个人已生活的时长或一个事物已存在的时间。 | 2. 承认(失败或过错) 1. 某人生命中的特定阶段。 2. 年老的状态。 | 64.58 |
表9. “Aim”的语义频率。
| 词目 | 词性 | 义项 | 百分比(%) |
| Aim | 名词 | 目的或意图;期望的结果。 | 44.8 |
| Aim | 动词 | 有意实现。 | 32.4 |
| Aim | 动词 | 将(武器或相机)指向或对准目标。 | 18.05 |
表10. 隐喻义与字面义的比较。
| 词目 | 词性 | 义项 | 百分比(%) |
| Beat | 动词 | 在比赛或其他竞争情境中击败(某人)。 | 46.56 |
| Beat | 动词 | 反复猛烈地击打(人或动物)以致伤害他们,通常使用棍棒或鞭子等工具。 | 15.99 |
| Key | 形容词 | 至关重要的。 | 51.49 |
| Key | 名词 | 一小块成形金属,带有切割的齿以配合特定锁的制动栓,插入锁中转动以开锁或关锁。 | 14.83 |
表11. 稳定的高频义项示例。
| 词目 | 义项 | GSL(%) | BNC(%) |
| Abroad | 在或到外国。 | 80 | 65.72 |
| Accident | 意外发生的不幸事件,通常造成损害或伤害。 | 72 | 71.09 |
| Apply | 适用或相关。 | 52 | 60.28 |
| Argue | 给出理由或引用证据支持某一想法、行动或理论。 | 57 | 89.26 |
(6)She became a key figure in the suffragette movement.
(7)There were two keys to the cupboard.
第三,大量高频义项随时间保持总体稳定。GSL中的许多频繁义项在BNC中仍然高度频繁。GSL经常因过时而受到批评。然而,Brezina和Gablasova(2015)发现,其New-GSL中前1,000词的大部分也包含在GSL中。这意味着大部分高频词保持稳定。同样,我们发现GSL中的许多高频义项在BNC中仍然频繁。一些义项,如“abroad”的“外国”义项或“accident”的“灾难”义项,可以根据常识自信地断言。另一方面,一些义项,如表中“apply”和“argue”的义项,如果没有调查的支持可能无法断言。
表12. 恒定的义项百分比。
| 词目 | 义项 | GSL(%) | BNC(%) |
| False | 不符合真理或事实 | 40 | 51.31 |
| False | 为欺骗而模仿某物 | 20 | 28.77 |
| Familiar | 因长期或密切交往而熟知的 | 60 | 62.58 |
| Familiar | 亲密友谊的;亲密的 | 38 | 36.52 |
此外,甚至一些百分比数字也保持相对稳定。例如,“familiar”两个义项的百分比在GSL和BNC之间相似(见表12)。
另一方面,我们也发现某些词的意义随时间变化频率。这种变化,类似于词频变化,通常是社会变化的结果。例如,发现与计算机科学相关的义项正在增加。一些甚至未包含在GSL中的计算机相关义项开始在BNC中占据超过\(10\%\)。一些与宗教或政治生活相关的义项变得不那么频繁。“bill”的“议会”义项和“seat”的“主要场所”义项随时间减少。其他一些下降的义项曾与正式文体相关。这些义项现在在现代词典中被标记为“旧用法或正式”,不太常用。例如,“save”的“除了”意义在GSL中占显著部分(\(14\%\)),但在BNC中几乎可以忽略不计(\(0.02\%\))。
在我们研究开始时,我们计划在义项逐一基础上将我们的语义频率数据与GSL的数据进行比较。目的是确定哪些义项保持稳定以及它们占多大百分比。然而,我们很快发现直接比较是不可能的,因为两项研究中使用的义项条目不同。West依赖Large和Thorndike的语义频率计数,其义项条目来自OED(1933)。为了可能的比较,我们有意识地选择也使用OED。然而,West自行“将意义分组得更粗略”以使用户更容易获取信息(West,1953:vii)。例如,单词“game”在OED中的22个义项在GSL中被归为4个义项。West没有说明其义项分组背后的方法论或原则。无论它可能是什么,它都没有被系统地应用。一些规则多义词如“bottle”或“cup”可以表达“容器”或“数量”。这种规则多义性可以在剑桥学习者词典中归类为单一义项,或在牛津学习者词典中归类为两个不同义项。然而,在GSL中,“bottle”有两个义项,而“cup”、“bowl”和“box”各只包含一个义项。因此不可能应用West的义项分组规则。这构成了系统比较的主要障碍。
表13. 高频义项和所有义项在BNC、LOB和CLOB中的覆盖率。
| 语料库 | 高频义项覆盖率(%) | 所有义项覆盖率(%) | 义项数量 |
| | | 3,695 |
| BNC | 62.14 | 71.83 | 10,925 |
| LOB | 59.78 | 71.87 | |
| CLOB | 58.15 | 71 | |
由于两项研究中使用的义项条目不同,我们亲自阅读了两个列表,并确定了哪些义项最稳定以及哪些义项最不同。虽然我们无法提供确切数字,但我们发现常用英语词汇的大量高频意义保持相对稳定。
## 所选义项的验证(回答RQ3)
在各种语料库中,高频义项约占总覆盖率的\(60\%\)。与GSL词目所有义项的覆盖率相比,这一百分比是显著的。
GSL词目总共有10,925个义项,其中3,695个是高频义项,约占所有义项的三分之一。考虑BNC中的覆盖率时,所有这些义项合计覆盖\(71.83\%\),而仅高频义项覆盖\(62.14\%\)。这意味着通过删除三分之二的义项,我们仅损失\(10\%\)的整体覆盖率。
如表13所示,这些高频义项的覆盖率在不同语料库中是稳定的。在BNC中为\(62.14\%\),在LOB中为\(59.78\%\),在CLOB中为\(58.15\%\)。尽管这些语料库代表了英语语言发展的不同时期,高频义项的覆盖率保持相对恒定,约为\(60\%\)。BNC中的覆盖率略高。这可能是因为BNC是这些高频义项所源自的语料库。与覆盖率相比,这一百分比是高的所有义项的覆盖率。1,875个词目的所有义项覆盖率在LOB中约为\(71.87\%\),在BNC中为\(71.83\%\),在CLOB中为\(71\%\)。
总之,这些高频义项以少得多的条目实现了显著的覆盖率,并且它们在不同语料库中实现了一致的覆盖率。
## 理论意义
在本研究中,我们使用BERT模型将词表示为向量并计算义项频率。它展示了一种在大型语料库中标注语义信息和计算语义频率的开创性方法。
它解决了在大型语料库中研究语义频率的长期需求。D. Gardner(2007)指出,基于词形频率而不考虑词义的语料库研究必然会导致问题。D. E. E. Gardner和Davies(2007)同样主张对短语动词的语义频率进行排序,从而为语言学习优先考虑高频义项。他们倡导一种将单一形式与单一义项结合的计数单位,而不是将具有多个不相关意义的词视为单一实体。由于技术限制,这些提议从未被实施。为了分别处理不同义项,我们必须首先构建语义标注的语料库。直到最近BERT等大型语言模型的发展,这一使命一直是“说起来容易做起来难”(D. E. E. Gardner & Davies,2007:353)。
本研究展示了一种对大型语料库进行语义标注的开创性方法。一旦语料库被标注,每个义项就可以被视为一个不同的项目。因此,我们可以在大型语料库中统计义项并识别高频义项。为了说明标注过程,我们计算了BNC中GSL词汇的义项频率。有些人可能会担心BNC不能准确代表当代语言特征,因为它创建于1990年代。我们选择使用BNC是因为更新语料库(如“BNC 2014”)的全文尚不可获取,这使得BNC成为次优选择。这一妥协并不削弱我们词表的教
学价值;事实上,高频义项在不同语料库中的一致覆盖率表明它们随时间保持相对稳定。
这种方法可以强调两个优势。首先,它可以轻松应用于研究其他词表的义项频率。没有大型语料库,如COCA或BNC,被语义标注过。现有词表如Nation(2012)的BNC/COCA词表、Browne等人(2013)的NGSL或Brezina和Gablasova(2015)的New-GSL都没有提供语义频率数据。当这些语料库的全文可用时,本研究概述的方法可以随时应用。其次,该过程易于复制,便于验证结果。West的GSL因其所用方法论而难以扩展或更新,因此受到批评。以往研究(Brezina & Gablasova,2015;Gilner & Morales,2008)指出,创建GSL时使用的定量和定性标准的结合使更新复杂化。我们在上面也强调,West在没有一致原则的情况下对OED中的义项条目进行了分组。相比之下,本研究的方法清晰直接,允许逐步复制,使结果易于验证或更新。
除了识别高频义项外,这种方法还可以帮助解决许多理论问题。首先,我们可以在长时间内跟踪大量词汇的语义变化。以往的语义变化研究通常依赖人工计数,因此只关注有限数量的词。语义标注的语料库使我们能够描述大量词汇的语义变化。我们目前正在标注历史美式英语语料库(COHA)并计算不同时期词汇的义项频率,旨在找出那些真正稳定的词,即在长时间内形式和意义都保持稳定的词。其次,我们可以解决诸如“paper”这样的常见词是否是学术词汇的争议。以往研究对这个问题提出了两种相反的观点。一些研究认为学术词表应排除常见词,因为初学者在日常生活中经常遇到这些词并且可能已经掌握。另一方面,其他研究认为学术词表应包含这些常见词,因为这些词在学术文本中通常带有特定的“学术意义”,与日常用法显著不同。一旦常见词的不同义项被区分并计为不同项目,这一争议将得到解决。
## 结论
高频词表已被创建以帮助外语学习者确定优先学习哪些词。然而,大多数这些词表没有指定哪些意义最重要。
我们使用BERT模型计算GSL词汇不同义项的频率。我们分析了GSL词汇的义项频率,共识别出3,695个高频义项。研究发现BERT可以准确标注义项,在标注GSL词汇时达到\(92\%\)的准确率,我们识别的高频义项在多个语料库中实现稳定覆盖率。此外,语义标注和义项计算没有人工干预参与。因此,这种方法可以轻松应用于未来研究。
虽然我们承认GSL和BNC都不是现代资源,但我们仍然相信识别高频义项增强了GSL的教学价值。首先,BNC是目前可以下载全文的最新语料库。更新的语料库无法用于语义标注。其次,高频义项倾向于保持总体稳定,如它们在不同语料库中的一致覆盖率以及我们与原始GSL的人工比较所证明的。
大型语言模型领域已经取得了显著进展,特别是自2022年以来。随着这些技术进步,语义频率研究将恢复并以更快的速度和更高的准确率进行。