用于语音识别的多模态数据融合方法、装置、设备及介质与流程

1.本技术涉及语音识别技术领域，具体而言，涉及一种用于语音识别的多模态数据融合方法、装置、设备及介质。


背景技术：

2.传统的语音识别系统一般是基于语音数据直接进行识别的，理想情况下，语音系统接收到的语音信号应该是干净清晰的，但在实际使用场景中，系统采集的语音信号易受背景环境中各种类型的噪声污染，单纯进行去噪处理对提高语音识别准确率效果有限。
3.研究表明，视频数据（包含唇动变化的视频）也能用于语音识别，若能提供一种综合自适应关注视频数据和语音数据的显著特征的方法将语音数据和视频数据进行有机地融合获取融合数据，并以该融合数据进行语音识别模型的训练和识别便能有效解决噪声污染导致识别准确率低的问题。


技术实现要素：

4.本技术的目的在于提供一种用于语音识别的多模态数据融合方法、装置、设备及介质，以关注语音数据和视频数据各自的显著特征以对两者进行加权融合。
5.第一方面，本技术提供了一种用于语音识别的多模态数据融合方法，用于融合多模态数据，所述多模态数据包括语音数据和视频数据，所述方法包括以下步骤：s1、利用多门控混合专家网络根据所述多模态数据获取不同模态数据的嵌入表示；s2、根据多门控混合专家网络的专家网络及门控网络结合所述嵌入表示获取不同模态数据在不同门控阶段的融合权值；s3、在每个门控阶段根据所述融合权值加权融合对应门控阶段输入的多模态数据生成初步融合数据，并将初步融合数据拼接单模态数据作为下一门控阶段输入的多模态数据，以在末位门控阶段加权融合生成最终多模态融合数据。
6.本技术的用于语音识别的多模态数据融合方法根据多门控混合专家网络获取多模态数据不同模态在不同门控阶段中的融合权值，并利用步骤s3根据融合权值对多模态数据进行多阶段融合，从而获取保存了原始数据特征并能突出不同模态中重要特征的最终多模态融合数据。
7.所述的用于语音识别的多模态数据融合方法，其中，步骤s2包括：根据预设数量的专家网络获取不同模态数据对应的嵌入表示在不同门控阶段中的融合权值，所述融合权值为所述门控阶段对应的门控网络中关于不同模态数据的所有专家网络的加权输出的归一化结果，所述门控网络数量和门控阶段数量一致。
8.所述的用于语音识别的多模态数据融合方法，其中，步骤s3包括：s31、获取当前门控阶段中不同模态数据的融合权值及当前门控阶段输入的多模态数据，根据所述融合权值加权融合当前门控阶段输入的多模态数据以生成初步融合数
据；s32、将生成的初步融合数据分别拼接对应于下一门控阶段的各个单模态数据以形成新的多模态数据，并输入至下一门控阶段；s33、根据所述门控网络分布依次重复执行步骤s31-步骤s32，将末位门控阶段生成的初步融合数据视为最终多模态融合数据。
9.所述的用于语音识别的多模态数据融合方法，其中，所述最终多模态融合数据基于一维卷积网络进行语音识别。
10.该示例的方法利用初步融合数据拼接单模态数据作为新的单模态数据的数据处理过程能保持多模态数据的原始特征，并能逐步关注不同任务中不同模态的重要特征，并能使得最终融合获取的最终多模态融合数据具有与原始多模态数据一致的任务量。
11.所述的用于语音识别的多模态数据融合方法，其中，所述多模态数据还包括扩增语音数据和扩增视频数据，所述扩增语音数据和扩增视频数据基于预先训练的扩增模型根据所述语音数据、所述视频数据和噪声向量生成。
12.所述的用于语音识别的多模态数据融合方法，其中，所述扩增模型为基于条件生成式对抗生成网络训练获取，其训练过程的目标函数为：；其中，表示生成器，表示判别器，表示期望，j表示模态类型的编号，表示输入的模态数据，表示输入的模态数据的分布，表示噪声向量，表示噪声的分布，表示条件信息。
13.所述的用于语音识别的多模态数据融合方法，其中，所述噪声向量为随机噪声向量。
14.第二方面，本技术还提供了一种用于语音识别的多模态数据融合装置，用于融合多模态数据，所述多模态数据包括语音数据和视频数据，所述装置包括：嵌入转换模块，用于利用多门控混合专家网络根据所述多模态数据获取不同模态数据的嵌入表示；权值提取模块，用于根据多门控混合专家网络的专家网络及门控网络结合所述嵌入表示获取不同模态数据在不同门控阶段的融合权值；加权融合模块，用于在每个门控阶段根据所述融合权值加权融合对应门控阶段输入的多模态数据生成初步融合数据，并将初步融合数据拼接单模态数据作为下一门控阶段输入的多模态数据，以在末位门控阶段加权融合生成最终多模态融合数据。
15.本技术的用于语音识别的多模态数据融合装置根据多门控混合专家网络获取多模态数据不同模态在不同门控阶段中的融合权值，并根据融合权值对多模态数据进行多阶段融合，从而获取保存了原始数据特征并能突出不同模态中重要特征的最终多模态融合数据，以该最终多模态融合数据作为语音识别的输入数据能有效提高语音识别的鲁棒性、准确率。
16.第三方面，本技术还提供了一种电子设备，包括处理器以及存储器，所述存储器存储有计算机可读取指令，当所述计算机可读取指令由所述处理器执行时，运行如上述第一
方面提供的所述方法中的步骤。
17.第四方面，本技术还提供了一种存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时运行如上述第一方面提供的所述方法中的步骤。
18.由上可知，本技术提供了一种用于语音识别的多模态数据融合方法、装置、设备及介质，其中，方法根据多门控混合专家网络获取多模态数据不同模态在不同门控阶段中的融合权值，并利用步骤s3根据融合权值对多模态数据进行多阶段融合，从而获取保存了原始数据特征并能突出不同模态中重要特征的最终多模态融合数据，以该最终多模态融合数据作为语音识别的输入数据能有效提高语音识别的鲁棒性、准确率。
附图说明
19.图1为本技术实施例提供的用于语音识别的多模态数据融合方法的流程图。
20.图2为本技术实施例提供的用于语音识别的多模态数据融合方法的数据融合过程示意图。
21.图3为本技术实施例提供的用于语音识别的多模态数据融合装置的结构示意图。
22.图4为本技术实施例提供的电子设备的结构示意图。
23.附图标记：201、嵌入转换模块；202、权值提取模块；203、加权融合模块；204、数据扩增模块；301、处理器；302、存储器；303、通信总线。
具体实施方式
24.下面将结合本技术实施例中附图，对本技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本技术一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本技术实施例的组件可以以各种不同的配置来布置和设计。因此，以下对在附图中提供的本技术的实施例的详细描述并非旨在限制要求保护的本技术的范围，而是仅仅表示本技术的选定实施例。基于本技术的实施例，本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本技术保护的范围。
25.应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。同时，在本技术的描述中，术语“第一”、“第二”等仅用于区分描述，而不能理解为指示或暗示相对重要性。
26.第一方面，请参照图1和图2，本技术一些实施例提供了一种用于语音识别的多模态数据融合方法，用于融合多模态数据，多模态数据包括语音数据和视频数据，方法包括以下步骤：s1、利用多门控混合专家网络根据多模态数据获取不同模态数据的嵌入表示；s2、根据多门控混合专家网络的专家网络及门控网络结合嵌入表示获取不同模态数据在不同门控阶段的融合权值；s3、在每个门控阶段根据融合权值加权融合对应门控阶段输入的多模态数据生成初步融合数据，并将初步融合数据拼接单模态数据作为下一门控阶段输入的多模态数据，以在末位门控阶段加权融合生成最终多模态融合数据。
27.具体地，多门控混合专家网络（multi-gate mixture-of-experts，mmoe）是一种关于多任务的特征加权模型，其核心思想是在模型中引入多个独立、冗余的网络，并引入一个
可以根据样本信息生成各个冗余网络输出结果融合权重的子网络，实现参数空间的分离；因此，多门控混合专家网络能针对不同任务中的不同模态数据的参数空间进行分割，以兼容多任务的多模态数据使用。
28.更具体地，本技术实施例中的视频数据为关于唇动的视频数据，即唇动数据，其采集时机与语音数据的采集时机对应，唇动数据与人类发音直接关联，因此，视频数据能作为语音识别的输入数据使用。
29.更具体地，在本技术实施例中，包括语音数据和视频数据的多模态数据为多任务的多模态数据，利用多门控混合专家网络将多任务划分成多个门控阶段的任务以对不同任务的多模态数据进行权重分析，以关注获取不同任务中不同模态数据之间的重要特征，并基于不同模态的互补关系获取对应融合权值，再基于步骤s3根据不同门控阶段的融合权值来融合多模态数据。
30.更具体地，步骤s1中利用多门控混合专家网络根据多模态数据获取不同模态数据的嵌入表示的过程为利用多门控混合专家网络的多任务网络结构对原始输入的多模态数据进行不同任务之间的关系进行模拟，进而对不同模态数据进行嵌入表示，嵌入（embedding）是将离散（类别）变量映射到连续数字的向量的过程。
31.更具体地，多门控混合专家网络中的门控网络能针对不同任务对不同专家网络分配不同的权重系数，其能根据任务之间的相关性分配对应大小对的权重系数给对应的专家网络；本技术实施例的方法利用多门控混合专家网络根据不同模态数据及不同门控网络（门控阶段）获取对应门控网络的输出作为该模态数据在该门控阶段中的融合权值，从而为后续不同门控阶段的数据融合产生对应于不同模态数据的融合权值，使得多模态数据在融合过程中能保存原始特征并能同时关注不同模态中的重要特征，以提高后续语音识别的鲁棒性、提高语音识别的准确率。
32.更具体地，步骤s3将多模态数据的加权融合过程拆分为多个阶段逐步进行，除第一门控阶段中的加权融合过程外，其余门控阶段的加权融合的多模态数据均基于上一门控阶段产生的初步融合数据拼接当前门控网络对应任务的单模态数据产生，使得最终融合获取的最终多模态融合数据能在保存原始特征的情况下突出了不同任务之间的重要性差异及突出不同任务中的不同模态的重要特征。
33.本技术实施例的用于语音识别的多模态数据融合方法根据多门控混合专家网络获取多模态数据不同模态在不同门控阶段中的融合权值，并利用步骤s3根据融合权值对多模态数据进行多阶段融合，从而获取保存了原始数据特征并能突出不同模态中重要特征的最终多模态融合数据，以该最终多模态融合数据作为语音识别的输入数据能有效提高语音识别的鲁棒性、准确率。
34.在一些优选的实施方式中，步骤s2包括：根据预设数量的专家网络获取不同模态数据对应的嵌入表示在不同门控阶段中的融合权值，融合权值为门控阶段对应的门控网络中关于不同模态数据的所有专家网络的加权输出的归一化结果，门控网络数量和门控阶段数量一致。
35.具体地，步骤s2在每个门控阶段中，将每个任务中的单模态数据输入多门控混合专家网络便能生成对应的融合权值；由于在本技术实施例中多模态数据包括语音数据和视频数据，因此，在一些实施方式中，每个门控阶段的融合权值分为语音融合权值、视频
融合权值，其中，为融合权值参数，为语音数据标记符，为视频数据标记符，为第个门控网络，即对应为第个门控阶段，也可以视为多模态数据加权融合的第个融合阶段。
36.更具体地，由前述内容可知，和分别基于对应门控阶段的任务划分的单模态的语音数据及单模态的视频数据输入专家网络中产生的，因此两者生成过程一致，均基于计算生成，其中，函数为归一化处理过程，用于将对象映射至(0,1)内，为第个门控阶段关于对应单模态数据的融合映射，即第个门控网络关于单模态数据的共享隐藏层的输出结果，为全连接网络构成的门控转换架构，用于将整合为数值，提高网络鲁棒性。
37.更具体地，每个单模态数据的融合映射在多门控混合专家网络中基于下式生成：
ꢀꢀꢀꢀꢀꢀꢀ
（1）其中，为第个门控阶段中的任务划分中的一种单模态数据，可以为语音数据或视频数据，为专家网络的编号，为专家网络的数量，为关于单模态数据在第个门控阶段中多门控混合专家网络中第个专家网络分配的权重系数，为第个专家网络关于单模态数据的输出，受约束，且满足：
ꢀꢀꢀꢀꢀꢀꢀꢀ
（2）其中，为第个门控阶段中第个专家网络的权重矩阵。
38.因此，将多模态数据中的不同模态数据作为输入多门控混合专家网络中，便能生成对应门控阶段中的融合权值。
39.在一些优选的实施方式中，步骤s3包括：s31、获取当前门控阶段中不同模态数据的融合权值及当前门控阶段输入的多模态数据，根据融合权值加权融合当前门控阶段输入的多模态数据以生成初步融合数据；s32、将生成的初步融合数据分别拼接对应于下一门控阶段的各个单模态数据以形成新的多模态数据，并输入至下一门控阶段；s33、根据门控网络分布依次重复执行步骤s31-步骤s32，将末位门控阶段生成的初步融合数据视为最终多模态融合数据。
40.具体地，在本技术实施例中，多模态数据的融合次数与门控阶段对应，且每次加权融合过程均基于对应门控阶段产生的融合权值加权融合。
41.更具体地，第一个门控阶段加权融合过程所输入的多模态数据为多门控混合专家网络的对原始输入的多模态数据进行划分并分配给第一个门控阶段的多模态数据，其余门控阶段加权融合过程所输入的多模态数据均基于上一门控阶段生成的初步融合数据结合多门控混合专家网络的多任务网络结构对原始输入的多模态数据进行划分并分配给对应门控阶段的多模态数据中的单模态数据拼接生成，即从第二个门控阶段开始，加权融合过
程所输入的多模态数据，是通过将上一门控阶段产生的多模态数据分别与当前阶段分配的语音数据和视频数据进行拼接而生成两种数据以作为两种新的单模态数据使用。
42.应当理解的是，末位门控阶段为最终执行多模态数据加权融合的门控阶段，因此，该门控阶段生成最终多模态融合数据后无需再次执行步骤s32。
43.更具体地，加权融合过程为将不同模态数据中的元素基于融合加权后进行相加以生成融合数据的过程。
44.更具体地，如图2所示，本技术实施例的方法利用初步融合数据拼接单模态数据作为新的单模态数据的数据处理过程能保持多模态数据的原始特征，并能逐步关注不同任务中不同模态的重要特征，并能使得最终融合获取的最终多模态融合数据具有与原始多模态数据一致的任务量。
45.在一些优选的实施方式中，最终多模态融合数据基于一维卷积网络进行语音识别。
46.具体地，本技术实施例的方法旨在提取不同模态的互补表示关系，并根据不同模态数据的各自特征中的显著性以对多模态数据进行加权融合，使得生成的最终多模态融合数据用于语音识别时能提高语音识别的鲁棒性和准确率，因此，应当理解的是，本技术实施例方法融合生成的最终多模态融合数据能应用于现有针对语音和视频的融合数据进行语音识别的学习模型中。
47.更具体地，在本技术实施例中，本技术实施例的方法获取的最终多模态融合数据优选为应用在基于一维卷积网络构建的语音识别学习模型中。
48.更具体地，本技术实施例中的专家网络、门控网络优选为与该一维卷积网络构建的语音识别学习模型共同训练，如将最终多模态融合数据输入到该语音识别模型中，利用语音识别模型输出的语音识别结果和标签根据连接时序分类方法计算损失值对整个网络进行网络参数更新，该网络参数包括门控网络、专家网络及一维卷积网络中的网络参数矩阵；因此，本技术实施例的方法可以应用在语音识别模型的训练过程、使用过程中。
49.在一些优选的实施方式中，多模态数据还包括扩增语音数据和扩增视频数据，扩增语音数据和扩增视频数据基于预先训练的扩增模型根据语音数据、视频数据和噪声向量生成。
50.具体地，在语音识别领域中，常常会出现数据贫乏的场合，如语音识别的对象为小语种的特殊场合、带有专业术语（如医院问诊、军事会议、学术报告等）的特殊场合，这些场合的数据采集和标注非常困难，导致针对这些场合的语音识别模型的训练和使用过程均受到极大限制；因此，在本技术实施例中，基于预先训练的扩增模型来生成扩增语音数据和扩增视频数据，以解决特殊场合获取的数据资源少的问题。
51.更具体地，利用该扩增模型可以生成有别于语音数据和视频数据的扩增语音数据和扩增视频数据，从而增加具有标签的新增数据，利用这些新增数据更新门控网络、专家网络及一维卷积网络，能有效提高门控网络、专家网络及一维卷积网络的识别准确率，避免语音识别模型因数据资源过少而导致训练不足以致识别准确率低的问题；另外，在一些别的实施方式中，利用该扩增模型还能产生与语音数据和视频数据分别对应的扩增语音数据和扩增视频数据，从而将原本具有两种单模态数据的多模态数据改变为四种单模态数据，利用这些数据获取的最终多模态融合数据能进一步提高语音识别的准确率。
52.在一些优选的实施方式中，扩增模型为基于条件生成式对抗生成网络训练获取，其训练过程的目标函数为：（3）其中，表示生成器，表示判别器，表示期望，j表示模态类型的编号（如语音数据和视频数据分别编号为1和2），表示输入的模态数据，表示输入的模态数据的分布，表示噪声向量，表示噪声的分布，表示条件信息。
53.具体地，现有技术中的对抗生成网络的网络模型一般只能处理一个任务，但对于多任务的语音识别的输入数据而言，各个任务之间存在关联性，音频数据和视频数据本身具备丰富的关联性，很难将对应于多任务的多模态数据分解为独立任务进行处理，因此，本技术实施例中的条件生成式对抗生成网络利用了多任务学习技术，利用多任务共享一个网络模型，以学习各个子任务之间的关系，来提高该条件生成式对抗生成网络的泛化能力，同时减少占用资源、提高生成速度。
54.更具体地，基于式（3）可以看出，该目标函数包括了语音数据和扩增语音数据的对抗生成部分和视频数据和扩增视频数据的对抗生成部分，使得该条件生成式对抗生成网络在训练过程中能有效学习到语音数据和视频数据两种模态之间共享的隐藏表示关系，从而达到多模态数据扩增的联合学习，能进一步推高扩增模型的泛化能力。
55.更具体地，该条件生成式对抗生成网络的目标函数包括了判别器的最大化过程和生成器的最小化过程，因此，在本技术实施例中，该条件生成式对抗生成网络的训练过程可以分为三部分进行：1、首先对判别器进行k（k为正整数）次训练，将条件信息、真实数据（语音数据和视频数据）和随机噪声向量（用于合成扩增语音数据以及扩增视频数据）输入至条件生成式对抗生成网络中，利用目标函数最大化d以对判别器参数进行更新，其目的在于令判别器能够清晰区分生成器基于随机噪声向量生成的扩增数据和真实数据；2、完成判别器参数更新，固定判别器参数，对生成器进行l（l为正整数）次训练，将条件信息、真实数据（语音数据和视频数据）和随机噪声向量（用于合成扩增语音数据以及扩增视频数据）输入至条件生成式对抗生成网络中，利用目标函数对生成器参数进行更新，以尽可能减小扩增数据与真实数据之间的差距；3、交替执行第1部分和第2部分，进行m（m为正整数）次判别器和生成器的迭代更新操作，使得判别器不能准确判别输入数据为扩增数据还是真实数据，此时得到最优生成器以完成生成器的训练过程，训练完成的生成器即为扩增模型，该模型通过代入不同的噪声向量能生成不同的扩增语音数据和扩增视频数据。
56.在一些优选的实施方式中，噪声向量为随机噪声向量。
57.具体地，当本技术实施例的语音识别的多模态数据融合方法应用于语音识别模型的训练过程中，且对象为上述场合时，本技术实施例的方法利用随机噪声向量产生额外附加的扩增语音数据和扩增视频数据作为新的多任务多模态数据，其标签为对应的条件信息，这些扩增数据能有效增强训练数据，解决语音识别领域中针对小语种、特殊应用场景的低资源问题，以强化语音识别模型的训练效果。
58.第二方面，请参照图3，本技术一些实施例还提供了一种用于语音识别的多模态数据融合装置，用于融合多模态数据，所述多模态数据包括语音数据和视频数据，装置包括：
嵌入转换模块201，用于利用多门控混合专家网络根据多模态数据获取不同模态数据的嵌入表示；权值提取模块202，用于根据多门控混合专家网络的专家网络及门控网络结合嵌入表示获取不同模态数据在不同门控阶段的融合权值；加权融合模块203，用于在每个门控阶段根据融合权值加权融合对应门控阶段输入的多模态数据生成初步融合数据，并将初步融合数据拼接单模态数据作为下一门控阶段输入的多模态数据，以在末位门控阶段加权融合生成最终多模态融合数据。
59.本技术实施例的用于语音识别的多模态数据融合装置根据多门控混合专家网络获取多模态数据不同模态在不同门控阶段中的融合权值，并根据融合权值对多模态数据进行多阶段融合，从而获取保存了原始数据特征并能突出不同模态中重要特征的最终多模态融合数据，以该最终多模态融合数据作为语音识别的输入数据能有效提高语音识别的鲁棒性、准确率。
60.在一些优选的实施方式中，多模态数据还包括扩增语音数据和扩增视频数据，扩增语音数据和扩增视频数据基于数据扩增模块204根据语音数据、视频数据和噪声向量生成，该数据扩增模块204具有预先训练的扩增模型。
61.在一些优选的实施方式中，本技术实施例的语音识别的多模态数据融合装置用于执行上述第一方面提供的语音识别的多模态数据融合方法。
62.第三方面，请参照图4，本技术一些实施例还提供了一种电子设备的结构示意图，本技术提供一种电子设备，包括：处理器301和存储器302，处理器301和存储器302通过通信总线303和/或其他形式的连接机构（未标出）互连并相互通讯，存储器302存储有处理器301可执行的计算机可读取指令，当电子设备运行时，处理器301执行该计算机可读取指令，以执行时执行上述实施例的任一可选的实现方式中的方法。
63.第四方面，本技术实施例提供一种存储介质，其上存储有计算机程序，该计算机程序被处理器执行时，执行上述实施例的任一可选的实现方式中的方法。其中，存储介质可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器（static random access memory, 简称sram），电可擦除可编程只读存储器（electrically erasable programmable read-only memory,简称eeprom），可擦除可编程只读存储器（erasable programmable read only memory, 简称eprom），可编程只读存储器（programmable red-only memory, 简称prom），只读存储器（read-onlymemory, 简称rom），磁存储器，快闪存储器，磁盘或光盘。
64.综上，本技术实施例提供了一种用于语音识别的多模态数据融合方法、装置、设备及介质，其中，方法根据多门控混合专家网络获取多模态数据不同模态在不同门控阶段中的融合权值，并利用步骤s3根据融合权值对多模态数据进行多阶段融合，从而获取保存了原始数据特征并能突出不同模态中重要特征的最终多模态融合数据，以该最终多模态融合数据作为语音识别的输入数据能有效提高语音识别的鲁棒性、准确率。
65.在本技术所提供的实施例中，应该理解到，所揭露装置和方法，可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，又例如，多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间
的耦合或直接耦合或通信连接可以是通过一些通信接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。
66.另外，作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
67.再者，在本技术各个实施例中的各功能模块可以集成在一起形成一个独立的部分，也可以是各个模块单独存在，也可以两个或两个以上模块集成形成一个独立的部分。
68.在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。
69.以上所述仅为本技术的实施例而已，并不用于限制本技术的保护范围，对于本领域的技术人员来说，本技术可以有各种更改和变化。凡在本技术的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本技术的保护范围之内。