自然语言处理模型的训练方法及装置与流程

1.本公开涉及自然语言处理技术领域，尤其涉及一种自然语言处理模型的训练方法及装置。


背景技术：

2.现有的自然语言预训练模型是利用自然语言文本和自然语言文本对应的文本向量进行的训练。其中，自然语言文本对应的文本向量往往是通过词向量得到。这种训练方法最早是应用在英文语料上的，而对于多义性更显著的中文等语言，只凭借词向量或者文本向量是很难让模型在训练过程中学习到良好的文本表示向量，因此现有的自然语言预训练模型(自然语言预训练模型也可以称为自然语言处理模型)常存在模型精度低等问题。
3.在实现本公开构思的过程中，发明人发现相关技术中至少存在如下技术问题：现有的自然语言处理模型常存在模型精度低等问题。


技术实现要素：

4.有鉴于此，本公开实施例提供了一种自然语言处理模型的训练方法、装置、电子设备及计算机可读存储介质，以解决现有技术中，现有的自然语言处理模型常存在模型精度低等问题。
5.本公开实施例的第一方面，提供了一种自然语言处理模型的训练方法，包括：获取训练语料集，其中，所述训练语料集，包括：多条训练语料；对每条训练语料进行词编码处理，得到每条训练语料对应的词编码向量；对每条训练语料进行词性编码处理，得到每条训练语料对应的词性编码向量；对每条训练语料进行词位置编码处理，得到每条训练语料对应的词位置编码向量；基于每条训练语料对应的词编码向量、词性编码向量和词位置编码向量，组建每条训练语料对应的三元组向量；利用多条训练语料以及每条训练语料对应的三元组向量训练自然语言处理模型。
6.本公开实施例的第二方面，提供了一种自然语言处理模型的训练装置，包括：获取模块，被配置为获取训练语料集，其中，所述训练语料集，包括：多条训练语料；词编码模块，被配置为对每条训练语料进行词编码处理，得到每条训练语料对应的词编码向量；词性编码模块，被配置为对每条训练语料进行词性编码处理，得到每条训练语料对应的词性编码向量；词位置编码模块，被配置为对每条训练语料进行词位置编码处理，得到每条训练语料对应的词位置编码向量；组建向量模块，被配置为基于每条训练语料对应的词编码向量、词性编码向量和词位置编码向量，组建每条训练语料对应的三元组向量；训练模块，被配置为利用多条训练语料以及每条训练语料对应的三元组向量训练自然语言处理模型。
7.本公开实施例的第三方面，提供了一种电子设备，包括存储器、处理器以及存储在存储器中并且可在处理器上运行的计算机程序，该处理器执行计算机程序时实现上述方法的步骤。
8.本公开实施例的第四方面，提供了一种计算机可读存储介质，该计算机可读存储
介质存储有计算机程序，该计算机程序被处理器执行时实现上述方法的步骤。
9.本公开实施例与现有技术相比存在的有益效果是：因为本公开实施例通过获取训练语料集，其中，所述训练语料集，包括：多条训练语料；对每条训练语料进行词编码处理，得到每条训练语料对应的词编码向量；对每条训练语料进行词性编码处理，得到每条训练语料对应的词性编码向量；对每条训练语料进行词位置编码处理，得到每条训练语料对应的词位置编码向量；基于每条训练语料对应的词编码向量、词性编码向量和词位置编码向量，组建每条训练语料对应的三元组向量；利用多条训练语料以及每条训练语料对应的三元组向量训练自然语言处理模型，因此，采用上述技术手段，可以解决现有技术中，现有的自然语言处理模型常存在模型精度低等问题，进而提高自然语言处理模型的精度。
附图说明
10.为了更清楚地说明本公开实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其它的附图。
11.图1是本公开实施例的应用场景的场景示意图；
12.图2是本公开实施例提供的一种自然语言处理模型的训练方法的流程示意图；
13.图3是本公开实施例提供的一种自然语言处理模型的训练装置的结构示意图；
14.图4是本公开实施例提供的一种电子设备的结构示意图。
具体实施方式
15.以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本公开实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本公开。在其它情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本公开的描述。
16.下面将结合附图详细说明根据本公开实施例的一种自然语言处理模型的训练方法和装置。
17.图1是本公开实施例的应用场景的场景示意图。该应用场景可以包括终端设备101、102和103、服务器104以及网络105。
18.终端设备101、102和103可以是硬件，也可以是软件。当终端设备101、102和103为硬件时，其可以是具有显示屏且支持与服务器104通信的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等；当终端设备101、102和103为软件时，其可以安装在如上的电子设备中。终端设备101、102和103可以实现为多个软件或软件模块，也可以实现为单个软件或软件模块，本公开实施例对此不作限制。进一步地，终端设备101、102和103上可以安装有各种应用，例如数据处理应用、即时通信工具、社交平台软件、搜索类应用、购物类应用等。
19.服务器104可以是提供各种服务的服务器，例如，对与其建立通信连接的终端设备发送的请求进行接收的后台服务器，该后台服务器可以对终端设备发送的请求进行接收和分析等处理，并生成处理结果。服务器104可以是一台服务器，也可以是由若干台服务器组
成的服务器集群，或者还可以是一个云计算服务中心，本公开实施例对此不作限制。
20.需要说明的是，服务器104可以是硬件，也可以是软件。当服务器104为硬件时，其可以是为终端设备101、102和103提供各种服务的各种电子设备。当服务器104为软件时，其可以是为终端设备101、102和103提供各种服务的多个软件或软件模块，也可以是为终端设备101、102和103提供各种服务的单个软件或软件模块，本公开实施例对此不作限制。
21.网络105可以是采用同轴电缆、双绞线和光纤连接的有线网络，也可以是无需布线就能实现各种通信设备互联的无线网络，例如，蓝牙(bluetooth)、近场通信(near field communication，nfc)、红外(infrared)等，本公开实施例对此不作限制。
22.用户可以通过终端设备101、102和103经由网络105与服务器104建立通信连接，以接收或发送信息等。需要说明的是，终端设备101、102和103、服务器104以及网络105的具体类型、数量和组合可以根据应用场景的实际需求进行调整，本公开实施例对此不作限制。
23.图2是本公开实施例提供的一种自然语言处理模型的训练方法的流程示意图。图2的自然语言处理模型的训练方法可以由图1的计算机或服务器，或者计算机或服务器上的软件执行。如图2所示，该自然语言处理模型的训练方法包括：
24.s201，获取训练语料集，其中，所述训练语料集，包括：多条训练语料；
25.训练语料集中的语料，一方面是通过新闻和各类资讯获得的；另一方面是获取的专业领域中的语料，比如自然语言处理模型要被应用到涉及数学应用的领域，那么专业领域中的语料就是数学应用中常用的语料。一段语料可以是一段包含多种语言和多种符号的文本，比如自然语言处理模型要被应用中文文本分类，那么一段语料可以是多句中文组成的。
26.s202，对每条训练语料进行词编码处理，得到每条训练语料对应的词编码向量；
27.s203，对每条训练语料进行词性编码处理，得到每条训练语料对应的词性编码向量；
28.s204，对每条训练语料进行词位置编码处理，得到每条训练语料对应的词位置编码向量；
29.s205，基于每条训练语料对应的词编码向量、词性编码向量和词位置编码向量，组建每条训练语料对应的三元组向量；
30.对于一条训练语料对应的三元组向量，比如可以是词编码向量、词性编码向量和词位置编码向量依次构成，也可以词位置编码向量调整词编码向量中向量的位置，得到新的词编码向量，新的词编码向量和词性编码向量构成三元组向量。
31.s206，利用多条训练语料以及每条训练语料对应的三元组向量训练自然语言处理模型。
32.可以是一条训练语料作为自然语言处理模型的输入，该条训练语料对应的三元组向量作为输出。自然语言处理模型可以是transformers模型，也可以是其它常用的文本处理模型。
33.根据本公开实施例提供的技术方案，通过获取训练语料集，其中，所述训练语料集，包括：多条训练语料；对每条训练语料进行词编码处理，得到每条训练语料对应的词编码向量；对每条训练语料进行词性编码处理，得到每条训练语料对应的词性编码向量；对每条训练语料进行词位置编码处理，得到每条训练语料对应的词位置编码向量；基于每条训
练语料对应的词编码向量、词性编码向量和词位置编码向量，组建每条训练语料对应的三元组向量；利用多条训练语料以及每条训练语料对应的三元组向量训练自然语言处理模型，因此，采用上述技术手段，可以解决现有技术中，现有的自然语言处理模型常存在模型精度低等问题，进而提高自然语言处理模型的精度。
34.在步骤s202中，对每条训练语料进行词编码处理，得到每条训练语料对应的词编码向量，包括：对每条训练语料进行分词处理，得到每条训练语料对应的多个词语；利用词向量模型处理每条训练语料对应的多个词语，得到每条训练语料对应的词编码向量。
35.分词处理是将一条训练语料分为多个词语，常见于自然语言处理技术中。词向量模型可以为word2vec。word2vec处理每个词语，可以得到每个词语对应的向量表示，将一条训练语料对应的多个词语对应的向量表示组合起来，就是该条训练语料对应的词编码向量。
36.在步骤s203中，对每条训练语料进行词性编码处理，得到每条训练语料对应的词性编码向量，包括：对每条训练语料进行分词处理，得到每条训练语料对应的多个词语；利用词性标注工具标注每条训练语料对应的多个词语各自对应的词性；对每条训练语料对应的多个词语各自对应的词性进行独热编码处理，以得到每条训练语料对应的词性编码向量。
37.确定每条训练语料对应的多个词语各自对应的词性，可以理解为确定每条训练语料对应的每个词语对应的词性。
38.词性标注工具用于标注每个词语对应的词性，词性，包括：名词、动词、形容词等，名词又具体可以分为人名和地名等，动词又具体可以分为不及物动词、及物动词和副动词等；形容词又具体可以分为性质形容词和状态形容词等。
39.比如对于中文，可以使用jieba算法库作为词性标注工具，对于英文，可以使用spacy算法库作为词性标注工具。
40.独热编码是指one-hot encoding。独热编码即one-hot编码，又称一位有效编码，其方法是使用n位状态寄存器来对n个状态进行编码，每个状态都由他独立的寄存器位，并且在任意时候，其中只有一位有效。
41.本公开中的编码处理是将文本或者词语或者词性转换为向量的形式。
42.在步骤s204中，对每条训练语料进行词位置编码处理，得到每条训练语料对应的词位置编码向量，包括：对每条训练语料进行分词处理，得到每条训练语料对应的多个词语；确定每条训练语料对应的多个词语各自在每条训练语料中的位置；对每条训练语料对应的多个词语各自在每条训练语料中的位置进行编码处理，以得到每条训练语料对应的词位置编码向量。
43.对每条训练语料进行词位置编码处理，就是用向量表示每条训练语料中每个词语的位置。确定每条训练语料对应的多个词语各自在每条训练语料中的位置，可以理解为确定每条训练语料对应的每个词语在每条训练语料中的位置。
44.在执行步骤s206中，也就是利用多条训练语料以及每条训练语料对应的三元组向量训练自然语言处理模型之前，所述方法还包括：对每条训练语料对应的三元组向量进行特征遮挡处理，包括：将每条训练语料对应的三元组向量中的词编码向量从每条训练语料对应的三元组向量中遮挡掉；和/或将每条训练语料对应的三元组向量中的词性编码向量
从每条训练语料对应的三元组向量中遮挡掉；和/或将每条训练语料对应的三元组向量中的词位置编码向量从每条训练语料对应的三元组向量中遮挡掉。
45.为了提高自然语言处理模型的精度，可以使用更少的特征向量对自然语言处理模型进行训练，所以本公开在对自然语言处理模型进行训练前，将每个三元组向量中的词编码向量、词性编码向量和词位置编码向量中任何一个遮挡掉。特征遮挡处理或者遮挡可以理解为某个特征向量删除，或者训练中不使用该特征向量。每中向量代表一种特征，所以可以称向量为特征向量。
46.在步骤s206中，利用多条训练语料以及每条训练语料对应的三元组向量训练自然语言处理模型，包括：对每条训练语料对应的三元组向量进行特征遮挡处理；生成遮挡词识别任务和相邻语句判别任务；基于所述遮挡词识别任务，利用多条训练语料以及经过所述特征遮挡处理后的每条训练语料对应的三元组向量训练所述自然语言处理模型；基于所述相邻语句判别任务，利用多条训练语料以及没经过所述特征遮挡处理的每条训练语料对应的三元组向量训练所述自然语言处理模型。
47.遮挡词识别任务，是训练自然语言处理模型，使得自然语言处理模型可以基于文本上下文识别出被遮挡掉的词语，或者基于向量前后关系识别出被遮挡掉的向量；相邻语句判别任务是训练自然语言处理模型，使得自然语言处理模型可以基于语句之间的关系识别出两条语句是否为相邻的，或者基于向量之间的关系识别出两条向量是否为相邻的。
48.生成遮挡词识别任务和相邻语句判别任务之后，所述方法还包括：基于所述遮挡词识别任务和所述相邻语句判别任务，利用多条训练语料以及经过所述特征遮挡处理后的每条训练语料对应的三元组向量对所述自然语言处理模型进行双任务训练。
49.本实施例不同于上个实施例的地方，在于基于所述遮挡词识别任务和所述相邻语句判别任务，对所述自然语言处理模型进行联合训练，也就是在对所述自然语言处理模型进行训练中，所述遮挡词识别任务和所述相邻语句判别任务同时发挥作用。
50.上述所有可选技术方案，可以采用任意结合形成本技术的可选实施例，在此不再一一赘述。
51.下述为本公开装置实施例，可以用于执行本公开方法实施例。对于本公开装置实施例中未披露的细节，请参照本公开方法实施例。
52.图3是本公开实施例提供的一种自然语言处理模型的训练装置的示意图。如图3所示，该自然语言处理模型的训练装置包括：
53.获取模块301，被配置为获取训练语料集，其中，所述训练语料集，包括：多条训练语料；
54.训练语料集中的语料，一方面是通过新闻和各类资讯获得的；另一方面是获取的专业领域中的语料，比如自然语言处理模型要被应用到涉及数学应用的领域，那么专业领域中的语料就是数学应用中常用的语料。一段语料可以是一段包含多种语言和多种符号的文本，比如自然语言处理模型要被应用中文文本分类，那么一段语料可以是多句中文组成的。
55.词编码模块302，被配置为对每条训练语料进行词编码处理，得到每条训练语料对应的词编码向量；
56.词性编码模块303，被配置为对每条训练语料进行词性编码处理，得到每条训练语
料对应的词性编码向量；
57.词位置编码模块304，被配置为对每条训练语料进行词位置编码处理，得到每条训练语料对应的词位置编码向量；
58.组建向量模块305，被配置为基于每条训练语料对应的词编码向量、词性编码向量和词位置编码向量，组建每条训练语料对应的三元组向量；
59.对于一条训练语料对应的三元组向量，比如可以是词编码向量、词性编码向量和词位置编码向量依次构成，也可以词位置编码向量调整词编码向量中向量的位置，得到新的词编码向量，新的词编码向量和词性编码向量构成三元组向量。
60.训练模块306，被配置为利用多条训练语料以及每条训练语料对应的三元组向量训练自然语言处理模型。
61.可以是一条训练语料作为自然语言处理模型的输入，该条训练语料对应的三元组向量作为输出。自然语言处理模型可以是transformers模型，也可以是其它常用的文本处理模型。
62.根据本公开实施例提供的技术方案，通过获取训练语料集，其中，所述训练语料集，包括：多条训练语料；对每条训练语料进行词编码处理，得到每条训练语料对应的词编码向量；对每条训练语料进行词性编码处理，得到每条训练语料对应的词性编码向量；对每条训练语料进行词位置编码处理，得到每条训练语料对应的词位置编码向量；基于每条训练语料对应的词编码向量、词性编码向量和词位置编码向量，组建每条训练语料对应的三元组向量；利用多条训练语料以及每条训练语料对应的三元组向量训练自然语言处理模型，因此，采用上述技术手段，可以解决现有技术中，现有的自然语言处理模型常存在模型精度低等问题，进而提高自然语言处理模型的精度。
63.可选地，词编码模块302还被配置为对每条训练语料进行分词处理，得到每条训练语料对应的多个词语；利用词向量模型处理每条训练语料对应的多个词语，得到每条训练语料对应的词编码向量。
64.分词处理是将一条训练语料分为多个词语，常见于自然语言处理技术中。词向量模型可以为word2vec。word2vec处理每个词语，可以得到每个词语对应的向量表示，将一条训练语料对应的多个词语对应的向量表示组合起来，就是该条训练语料对应的词编码向量。
65.可选地，词性编码模块303还被配置为对每条训练语料进行分词处理，得到每条训练语料对应的多个词语；利用词性标注工具标注每条训练语料对应的多个词语各自对应的词性；对每条训练语料对应的多个词语各自对应的词性进行独热编码处理，以得到每条训练语料对应的词性编码向量。
66.确定每条训练语料对应的多个词语各自对应的词性，可以理解为确定每条训练语料对应的每个词语对应的词性。
67.词性标注工具用于标注每个词语对应的词性，词性，包括：名词、动词、形容词等，名词又具体可以分为人名和地名等，动词又具体可以分为不及物动词、及物动词和副动词等；形容词又具体可以分为性质形容词和状态形容词等。
68.比如对于中文，可以使用jieba算法库作为词性标注工具，对于英文，可以使用spacy算法库作为词性标注工具。
69.独热编码是指one-hot encoding。独热编码即one-hot编码，又称一位有效编码，其方法是使用n位状态寄存器来对n个状态进行编码，每个状态都由他独立的寄存器位，并且在任意时候，其中只有一位有效。
70.本公开中的编码处理是将文本或者词语或者词性转换为向量的形式。
71.可选地，词位置编码模块304还被配置为对每条训练语料进行分词处理，得到每条训练语料对应的多个词语；确定每条训练语料对应的多个词语各自在每条训练语料中的位置；对每条训练语料对应的多个词语各自在每条训练语料中的位置进行编码处理，以得到每条训练语料对应的词位置编码向量。
72.对每条训练语料进行词位置编码处理，就是用向量表示每条训练语料中每个词语的位置。确定每条训练语料对应的多个词语各自在每条训练语料中的位置，可以理解为确定每条训练语料对应的每个词语在每条训练语料中的位置。
73.可选地，训练模块306还被配置为对每条训练语料对应的三元组向量进行特征遮挡处理，包括：将每条训练语料对应的三元组向量中的词编码向量从每条训练语料对应的三元组向量中遮挡掉；和/或将每条训练语料对应的三元组向量中的词性编码向量从每条训练语料对应的三元组向量中遮挡掉；和/或将每条训练语料对应的三元组向量中的词位置编码向量从每条训练语料对应的三元组向量中遮挡掉。
74.为了提高自然语言处理模型的精度，可以使用更少的特征向量对自然语言处理模型进行训练，所以本公开在对自然语言处理模型进行训练前，将每个三元组向量中的词编码向量、词性编码向量和词位置编码向量中任何一个遮挡掉。特征遮挡处理或者遮挡可以理解为某个特征向量删除，或者训练中不使用该特征向量。每中向量代表一种特征，所以可以称向量为特征向量。
75.可选地，训练模块306还被配置为对每条训练语料对应的三元组向量进行特征遮挡处理；生成遮挡词识别任务和相邻语句判别任务；基于所述遮挡词识别任务，利用多条训练语料以及经过所述特征遮挡处理后的每条训练语料对应的三元组向量训练所述自然语言处理模型；基于所述相邻语句判别任务，利用多条训练语料以及没经过所述特征遮挡处理的每条训练语料对应的三元组向量训练所述自然语言处理模型。
76.遮挡词识别任务，是训练自然语言处理模型，使得自然语言处理模型可以基于文本上下文识别出被遮挡掉的词语，或者基于向量前后关系识别出被遮挡掉的向量；相邻语句判别任务是训练自然语言处理模型，使得自然语言处理模型可以基于语句之间的关系识别出两条语句是否为相邻的，或者基于向量之间的关系识别出两条向量是否为相邻的。
77.可选地，训练模块306还被配置为基于所述遮挡词识别任务和所述相邻语句判别任务，利用多条训练语料以及经过所述特征遮挡处理后的每条训练语料对应的三元组向量对所述自然语言处理模型进行双任务训练。
78.本实施例不同于上个实施例的地方，在于基于所述遮挡词识别任务和所述相邻语句判别任务，对所述自然语言处理模型进行联合训练，也就是在对所述自然语言处理模型进行训练中，所述遮挡词识别任务和所述相邻语句判别任务同时发挥作用。
79.应理解，上述实施例中各步骤的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本公开实施例的实施过程构成任何限定。
80.图4是本公开实施例提供的电子设备4的示意图。如图4所示，该实施例的电子设备4包括：处理器401、存储器402以及存储在该存储器402中并且可在处理器401上运行的计算机程序403。处理器401执行计算机程序403时实现上述各个方法实施例中的步骤。或者，处理器401执行计算机程序403时实现上述各装置实施例中各模块/单元的功能。
81.电子设备4可以是桌上型计算机、笔记本、掌上电脑及云端服务器等电子设备。电子设备4可以包括但不仅限于处理器401和存储器402。本领域技术人员可以理解，图4仅仅是电子设备4的示例，并不构成对电子设备4的限定，可以包括比图示更多或更少的部件，或者不同的部件。
82.处理器401可以是中央处理单元(central processing unit，cpu)，也可以是其它通用处理器、数字信号处理器(digital signal processor，dsp)、专用集成电路(application specific integrated circuit，asic)、现场可编程门阵列(field-programmable gate array，fpga)或者其它可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。
83.存储器402可以是电子设备4的内部存储单元，例如，电子设备4的硬盘或内存。存储器402也可以是电子设备4的外部存储设备，例如，电子设备4上配备的插接式硬盘，智能存储卡(smart media card，smc)，安全数字(secure digital，sd)卡，闪存卡(flash card)等。存储器402还可以既包括电子设备4的内部存储单元也包括外部存储设备。存储器402用于存储计算机程序以及电子设备所需的其它程序和数据。
84.所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
85.集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读存储介质中。基于这样的理解，本公开实现上述实施例方法中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完成，计算机程序可以存储在计算机可读存储介质中，该计算机程序在被处理器执行时，可以实现上述各个方法实施例的步骤。计算机程序可以包括计算机程序代码，计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质可以包括：能够携带计算机程序代码的任何实体或装置、记录介质、u盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(read-only memory，rom)、随机存取存储器(random access memory，ram)、电载波信号、电信信号以及软件分发介质等。需要说明的是，计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减，例如，在某些司法管辖区，根据立法和专利实践，计算机可读介质不包括电载波信号和电信信号。
86.以上实施例仅用以说明本公开的技术方案，而非对其限制；尽管参照前述实施例对本公开进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本公开各实施例技术方案的精神和范围，均应包含
在本公开的保护范围之内。