一种深度神经网络压缩方法和装置与流程

本发明涉及人工神经网络，更具体涉及一种深度神经网络压缩方法和装置。

背景技术：

人工神经网络（artificialneuralnetworks,ann），也简称神经网络（nns），是一种模仿动物神经网络的行为特征，进行分布式并行信息处理的数学计算模型。近年来，神经网络发展很快，被广泛应用于诸多领域，如图像识别、语音识别、自然语言处理、天气预报、基因表达、内容推送等等。

神经网络中，有大量彼此连接的节点（也称“神经元”），并且具备两个特性：1)每个神经元，通过某种特定的输出函数（也叫激活函数，activationfunction），计算处理来自其它相邻神经元的加权输入值；2)神经元之间的信息传递强度，用所谓权值来定义，算法会不断自我学习，调整这个加权值。

早期的神经网络只有输入和输出层两层，无法处理复杂的逻辑，限制了其实用性。而深度神经网络（deepneuralnetwork,dnn）通过在输入和输出层之间添加隐藏的中间层，革命性地改变了这一点。图1示出了一种深度神经网络的模型。

语音识别（speechrecognition），是将语音的模拟信号顺序映射到一个具体的单词集合上。近年来，人工神经网络的方法在语音识别领域取得的效果已经远远超出了所有传统方法，正在成为全行业的主流。其中，深度神经网络有着极为广泛的应用。

循环神经网络（recurrentneuralnetworks,rnn）是一种常用的深度神经网络模型，不同于传统前向神经网络（feed-forwardneuralnetwork）的是，循环神经网络引入了定向循环，能够处理那些输入之间前后关联的问题。在语音识别中，信号的前后关联很强，例如识别句子中的单词，和该单词前面的单词序列关系十分紧密。因此，循环神经网络在语音识别领域有着非常广泛的应用。

为了解决对长期信息的记忆问题，hochreiter和schmidhuber于1997年提出了长短时记忆（longshort-termmemory,lstm）模型。lstm神经网络是rnn的一种，将普通rnn当中简单的重复神经网络模块改变为复杂的连接交互关系。lstm神经网络在语音识别中也取得了非常好的应用效果。

图2示出了一种应用于语音识别领域的lstm网络模型。

然而，通过近几年的迅速发展，神经网络的规模不断增长，已公开的比较先进的神经网络可达数百层、数亿个连接，属于计算和访存密集型应用。在神经网络逐渐变大的情况下，模型压缩就变得极为重要。

深度神经网络中，神经元的连接关系在数学上可以表示为一系列矩阵。经过训练后的网络虽然预测准确，效果奇佳，但其矩阵都是稠密的，即“矩阵中充满了非零元素”，从而导致大量的存储和计算资源被消耗，不但降低速度，而且增加成本，这样一来，在移动端的推广就面临着巨大的困难，极大的制约了神经网络的应用空间。

近年来，广泛的研究表明，通过训练得到的神经网络模型矩阵中，仅有部分权值较大的元素代表着重要连接，而其他权值较小的元素可以被移除（置为零），与此同时对应的神经元也被剪枝（pruning）。剪枝后的网络精度会下降，但是可以通过重训（finetune），对仍然保留在模型矩阵中权值的大小进行调整，从而减小精度损失。剪枝可以将神经网络中的稠密矩阵稀疏化，能够有效的降低存储量、减少计算量，在保持网络预测精度的同时实现加速。

图3示出了利用剪枝、重训来压缩神经网络的示意图。图4示出了剪枝前后的神经网络的示意图。

由于缺少专门针对稀疏矩阵的计算逻辑设计，cpu与gpu无法充分享受到模型稀疏化带来的好处，取得的加速有限。相比而言，剪枝对于专用的稀疏神经网络加速器而言显得极为重要。基于现场可编程门阵列（field-programmablegatearray，fpga）这一高性能硬件载体实现的稀疏神经网络加速器，相比于主流的cpu和gpu，具有一个数量级以上的能效比优势。然而，现有的lstm深度神经网络中，通过传统的剪枝、重训的方式来压缩神经网络，导致计算量大、压缩率下降、压缩效果不理想，特别是不能够充分发挥fpga的效能。

技术实现要素：

本发明实施例提供一种深度神经网络压缩方法和装置，用以解决现有技术中有关神经网络的计算量大、压缩率下降、压缩效果不理想等缺陷，实现并行计算处理单元负载均衡，从而达到释放储存资源、加快计算速度、降低功耗的效果，使得充分发挥fpga等硬件实现结构的效能。

为实现本发明目的，根据本发明的第一方面，提供一种神经网络压缩方法。所述神经网络的神经元之间的连接关系由多个矩阵来表示。所述方法可以包括：将所述多个矩阵的所有矩阵行进行跨矩阵重排，其中，重排后的矩阵行按序分块为多个子矩阵；对多个子矩阵进行敏感度分析，以确定神经网络的初始压缩率；按照所确定的初始压缩率对所述多个子矩阵进行压缩，以获得压缩后的神经网络。

优选地，所述方法可以进一步包括对所述压缩后的神经网络进行重训的步骤。

优选地，所述的将所述多个矩阵的所有矩阵行进行跨矩阵重排的步骤可以进一步包括：将所述多个矩阵在矩阵行的方向上顺次堆叠，形成大矩阵；通过从大矩阵中每隔n行抽取一行，从而形成按序分块的n个大小相同的子矩阵。这里，所述n根据用于实现所述神经网络的计算单元的个数而确定，且这些计算单元能够以并行方式进行计算。

优选地，所述的对多个子矩阵进行敏感度分析，以确定神经网络的初始压缩率的步骤可以进一步包括：获得压缩前的各个子矩阵所组成的神经网络的错误率；分别对多个子矩阵按照相同的压缩率进行压缩，获得压缩后的各个子矩阵所组成的神经网络的错误率；通过尝试不同的压缩率，找到错误率差值在阈值水平内的最大压缩率，找到的这个压缩率被确定为神经网络的初始压缩率。

优选地，所述的按照所确定的初始压缩率对所述多个子矩阵进行压缩，以获得压缩后的神经网络的步骤可以进一步包括：将各个子矩阵中的元素按绝对值排序，从小到大对子矩阵中的非零元素进行置零，直到达到指定的压缩率。

为实现本发明目的，根据本发明的第二方面，提供一种神经网络压缩装置。所述神经网络的神经元之间的连接关系由多个矩阵来表示。所述装置可以包括：重排分块单元，用于将所述多个矩阵的所有矩阵行进行跨矩阵重排，其中，重排后的矩阵行按序分块为多个子矩阵；敏感度分析单元，用于对多个子矩阵进行敏感度分析，以确定神经网络的初始压缩率；压缩单元，用于按照所确定的初始压缩率对所述多个子矩阵进行压缩，以获得压缩后的神经网络。

优选地，所述装置可以进一步包括重训单元，用于对所述压缩后的神经网络进行重训。

优选地，所述重排分块单元可以进一步包括：堆叠子单元，用于将所述多个矩阵在矩阵行的方向上顺次堆叠，形成大矩阵；抽取分块子单元，用于通过从大矩阵中每隔n行抽取一行，从而形成按序分块的n个大小相同的子矩阵。这里，所述n根据用于实现所述神经网络的计算单元的个数而确定，且这些计算单元能够以并行方式进行计算。

优选地，所述敏感度分析单元可以进一步包括：压缩前错误率获得子单元，用于获得压缩前的各个子矩阵所组成的神经网络的错误率；压缩后错误率获得子单元，用于分别对多个子矩阵按照相同的压缩率进行压缩，获得压缩后的各个子矩阵所组成的神经网络的错误率；初始压缩率确定子单元，用于通过尝试不同的压缩率，找到压缩前后的错误率差值在阈值水平内的最大压缩率，找到的这个压缩率被确定为神经网络的初始压缩率。

优选地，所述压缩单元可以进一步包括：排序置零子单元，用于将各个子矩阵中的元素按绝对值排序，从小到大对子矩阵中的非零元素进行置零，直到达到指定的压缩率。

为实现本发明目的，根据本发明的第三方面，提供一种计算机可读介质，用于记录可由处理器执行的指令，所述指令在被处理器执行时，使得处理器执行对神经网络进行压缩的方法，包括如下操作：将所述多个矩阵的所有矩阵行进行跨矩阵重排，其中，重排后的矩阵行按序分块为多个子矩阵；对多个子矩阵进行敏感度分析，以确定神经网络的初始压缩率；按照所确定的初始压缩率对所述多个子矩阵进行压缩，以获得压缩后的神经网络。

通过采用本发明的方法，可以将压缩原始的稠密网络，生成精度基本保持不变但实际参数大大减少的新网络，解决了运算中有效数据占比较低的问题，极大的减小了存储空间（使得片上存储成为可能），有效地提高了运算效率。

本发明所述的一种深度神经网络压缩方法和装置，针对fpga等平台的工作特点，通过矩阵分块重排，能够让lstm神经网络中的i、f、c、o四种矩阵在稀疏度不同的情况下，考虑fpga等硬件平台多个内核并行计算的特点，保证各个pe中参与运算的矩阵非零元个数相近，实现并行计算处理单元（processelement,pe）负载均衡，从而达到释放储存资源、加快计算速度、降低功耗的全方位综合性能优化的效果。

本发明通过矩阵分块重排，使得硬件并行计算时各个pe都负载均衡，有效解决了在压缩时i、f、c、o矩阵因为属性不同，稠密度不同，导致压缩率下降的问题。对硬件而言，只需要在执行完矩阵向量乘法之后，添加一个调序模块，硬件实现简单，改动较小。

附图说明

下面参考附图结合实施例说明本发明。

图1示出了一种深度神经网络的模型。

图2示出了一种应用于语音识别领域的lstm网络模型。

图3示出了利用剪枝、重训来压缩神经网络的示意图。

图4示出了剪枝前后的神经网络的示意图。

图5示出了各个处理单元负载均衡以减少计算时间的例子。

图6示出了矩阵向量相乘的示意图。

图7示出了针对单个矩阵进行稀疏化的负载均衡的示意图。

图8示出了根据本发明的针对多个矩阵进行稀疏化的负载均衡的示意图。

图9是根据本发明的神经网络压缩方法的流程图。

图10是根据本发明的神经网络压缩装置的示意框图。

具体实施方式

附图仅用于示例说明，不能理解为对本发明的限制。下面结合附图和实施例对本发明的技术方案做进一步的说明。

下文中，通过lstm神经网络中网络稀疏化的示例来作为本发明的一个优选实施例，用于具体地描述根据本发明的对神经网络进行压缩的方法。

lstm神经网络中，前向计算主要是一系列矩阵与向量乘法的组合，如下公式所示：

公式中给出了两种lstm：右边是最简单的lstm结构；左边是lstmp结构，其主要特点是在简单lstm的基础上添加了窥视（peephole）和投影（projection）操作。无论是lstm还是lstmp结构，其中都主要包括c（单元cell）、i（输入门inputgate）、f（遗忘门forgetgate）、o（输出门outputgate）四种矩阵，即wcx、wix、wfx、wox、wcr(h)、wir(h)、wfr(h)、wor(h)。这四种共八个矩阵占据了前向计算时绝大部分计算量。网络稀疏化主要就是将矩阵中的元素置零，只有非零元素参与计算，从而提高效率。专用硬件加速器（如fpga），主要通过并行计算和流水设计进行加速，如果并行计算各处理单元负载均衡，会减少等待时间，提高整体计算效率。

图5给出了一个保证单个矩阵计算时各个处理单元负载均衡，以减少计算时间的例子。

如果只是对单个矩阵依次采取并行计算的方式进行加速，只要在单个矩阵中保证各处理单元负载均衡就足够了。然而，如果想同时对i、f、c、o四种矩阵进行加速，一种负载均衡的想法，就是让i、f、c、o四类矩阵获得一样的稀疏度，但是这样相当于给网络稀疏化添加了限制条件，会影响稀疏化的效果。

本发明的目的在于提供一种针对语音识别中lstm深度神经网络的稀疏化方法，针对fpga等平台的工作特点，通过矩阵分块重排，能够让i、f、c、o四种矩阵在稀疏度不同的情况下，依然保证并行计算处理单元（processelement,pe）负载均衡，从而达到释放储存资源、加快计算速度、降低功耗的全方位综合性能优化的效果。

图6示出了矩阵向量相乘的示意图。

下面通过图7和图8的图例来展示本发明与先前方法的区别。

先前的方法是针对单个矩阵的，逐个保证负载均衡即可，对矩阵之间的稠密度无要求。图7示出了针对单个矩阵进行稀疏化的负载均衡的示意图。

如图7中所示，wix、wfx等矩阵为1024行，512列，都要与向量x相乘，x的维度为512。对每个矩阵进行稀疏化，并将矩阵划分为32个子矩阵，采用32个pe并行计算，可以大大提高效率。由于矩阵向量相乘是依次进行的，所以只需要保证每个矩阵划分的32个子矩阵之间负载均衡，即稠密度相近，不需要保证各个矩阵之间的稠密度也相近。如图7中所示，稀疏化之后wix非零元个数较多，而wfx非零元个数较少。关于这一方法，可参见中国发明专利申请公布cn107239825a（申请日为2016年12月5日、最早优先权日为2016年8月22日）的记载，在此通过引用将该申请公布的全部内容并入到本发明的说明书中，以资参考。

本发明是针对i、f、c、o矩阵组的，要求同时保证负载均衡，因此要求矩阵之间的稠密度相近。图8示出了根据本发明的针对多个矩阵进行稀疏化的负载均衡的示意图。

如图8中所示，wix、wfx、wcx、wox顺次堆叠，形成wifco_x大矩阵，维度为4096行，512列，同样与维度为512的向量x相乘。这里将对wifco_x大矩阵划分为128个子矩阵，采用128个pe并行计算。

根据本发明的优选实施例，对如图8中所示的矩阵组进行稀疏化压缩的具体步骤如下。

首先，需要对wifco_x按照隔n=128行抽取的方式进行重排。应注意，这里的矩阵行重排是跨矩阵进行的。因此，生成的新矩阵从上到下可以命名为abcd矩阵。将abcd矩阵各行按序依次组合，形成128个子矩阵并与128个pe关联起来。同理，对wifco_r采用同样的方式进行处理，视为efgh矩阵，形成128个子矩阵。

然后，对abcd和efgh矩阵的子矩阵进行敏感度分析。分别对abcd/efgh矩阵的128个子矩阵按照相同稠密度进行压缩，对比压缩前后的词错误率（worderrorratio,wer），从而确定abcd/efgh矩阵的初始稠密度，即神经网络的初始压缩率。更具体地说，获得压缩前的各个子矩阵所组成的神经网络的错误率；分别对多个子矩阵按照相同的压缩率进行压缩，获得压缩后的各个子矩阵所组成的神经网络的错误率；通过尝试不同的压缩率，找到压缩前后的错误率差值在阈值水平内的最大压缩率，找到的这个压缩率被确定为神经网络的初始压缩率。

最后，根据上一步骤中确定的初始压缩率对矩阵abcd/efgh的128个子矩阵进行压缩。具体地说，将子矩阵中的元素按绝对值排序，从小到大对子矩阵中的非零元素置零，直到达到指定的压缩率。由于128个子矩阵采用的是完全相同的压缩率，其非零元个数也是均衡的。

可选地，在压缩步骤之后，可以对压缩后的神经网络进行重训（finetune）。从而在不改变压缩率的情况下提升其预测准确率，以减小压缩带来的精度损失。

基于上述技术方案可知，本发明一种考虑负载均衡的lstm深度神经网络压缩方法具有以下有益的效果。

通过采用该方法，可以将原始的稠密网络经过一系列独特的压缩操作，生成精度基本保持不变，但实际参数大大减少的新网络，解决了运算中有效数据占比较低的问题，极大地减小了存储空间（使得片上存储成为可能），有效地提高了运算效率。

pe之间负载不均衡会导致硬件实际性能与理论峰值性能之间的显著差异，因为各个pe中加载的是压缩后的部分网络模型（即矩阵的一部分非零元），且pe之间共享输入数据，运算量较小的pe会等待运算量较大的pe，导致空载周期。负载越是不均衡，空载周期越长。在网络压缩时充分考虑fpga等硬件平台多个内核并行计算的特点，保证各个pe中参与运算的矩阵非零元个数相近，从而保证各个pe负载均衡，可以极大地提升硬件平台的资源利用率。

本发明通过矩阵分块重排，使得硬件并行计算时各个pe都负载均衡，有效解决了在压缩时i、f、c、o矩阵因为属性不同，稠密度不同，导致压缩率下降的问题。对硬件而言，只需要在执行完矩阵向量乘法之后，添加一个调序模块，硬件实现简单，改动较小。

尽管在优选实施例中，神经网络被具体化为lstm神经网络，但本领域技术人员应该理解，本发明的思想同样适用于更一般的人工神经网络、深度神经网络或循环神经网络（rnn）。

下面将根据本发明，给出更一般的方法与装置的实施例。

图9是根据本发明的神经网络压缩方法的流程图。

本领域技术人员应该理解，神经网络的神经元之间的连接关系由多个矩阵来表示。如上所详细描述的，在lstm神经网络的例子中，需要对i、f、c、o四种类型的矩阵进行稀疏化压缩。

如图9所示，根据本发明的对神经网络进行压缩的方法900开始于步骤s910，即重排分块步骤，将多个矩阵的所有矩阵行进行跨矩阵重排，其中，重排后的矩阵行按序分块为多个子矩阵。

具体地说，所述的重排分块步骤可以进一步包括：将所述多个矩阵在矩阵行的方向上顺次堆叠，形成大矩阵；通过从大矩阵中每隔n行抽取一行，从而形成按序分块的n个大小相同的子矩阵。

关于这里n的取值，可以根据用于实现所述神经网络的计算单元的个数而确定n的取值，且这些计算单元能够以并行方式进行计算。例如，在优选实施例中，每隔128行（n=128）抽取一行，形成128个大小相同的子矩阵，且这128个子矩阵分别由对应的128个pe进行相应的并行运算，从而有效提升了计算资源的利用率和效率，降低了计算等待时间。

本领域技术人员应当理解，尽管优选实施例中示例的由四个矩阵堆叠而成的大矩阵维度为4096行和512列（列数与向量x的维度相同），在不同的应用场合，矩阵与向量的维度可能会有不同变化。相应地，计算资源的数目（例如pe的数目）也会因为硬件资源的不同而变化。因此，本领域技术人员应当能够根据具体应用场景和具体可利用的计算资源的情况来确定如何对多个矩阵进行重排、抽取、分块，以及怎样与计算资源的数目相配合。

在某些情况下，由于矩阵维度较大而计算资源数目较少，pe可能需要被重复利用。在此情况下，则本发明的方法中的一些步骤需要被迭代地执行。

如前所述，本发明通过矩阵分块重排，使得硬件并行计算时各个pe都负载均衡，有效解决了在压缩时i、f、c、o矩阵因为属性不同，稠密度不同，导致压缩率下降的问题。

在步骤s920，即敏感度分析步骤，对多个子矩阵进行敏感度分析，以确定神经网络的初始压缩率。

在具体实施中，所述的敏感度分析步骤可以进一步包括：获得压缩前的各个子矩阵所组成的神经网络的错误率；分别对多个子矩阵按照相同的压缩率进行压缩，获得压缩后的各个子矩阵所组成的神经网络的错误率；通过尝试不同的压缩率，找到压缩前后的错误率差值在阈值水平内的最大压缩率，找到的这个压缩率被确定为神经网络的初始压缩率。

在步骤s930，即压缩步骤，按照所确定的初始压缩率对所述多个子矩阵进行压缩，以获得压缩后的神经网络。

具体地说，所述的压缩步骤可以进一步包括：将各个子矩阵中的元素按绝对值排序，从小到大对子矩阵中的非零元素进行置零，直到达到指定的压缩率。

如前所述，通过采用该方法，可以生成精度基本保持不变，但实际参数大大减少的新网络，解决了运算中有效数据占比较低的问题，极大地减小了存储空间，有效地提高了运算效率。

可选地，本方法可以进一步包括重训步骤（未示出），用于对所述压缩后的神经网络进行重训。由此，在不改变压缩率的情况下提升其预测准确率，以减小压缩带来的精度损失。

根据之前的解释与描述，所述神经网络可以是循环神经网络（rnn），更具体而言，可以是长短时记忆（lstm）神经网络。

图10是根据本发明的神经网络压缩装置的示意框图。

如上所述，神经网络的神经元之间的连接关系由多个矩阵来表示。如图10中所示，根据本发明的对神经网络进行压缩的装置1000至少包括重排分块单元1010，用于将多个矩阵的所有矩阵行进行跨矩阵重排，其中，重排后的矩阵行按序分块为多个子矩阵。重排分块单元1010与图9中的重排分块步骤s910相对应。

更具体地，所述重排分块单元1010可以进一步包括堆叠子单元和抽取分块子单元（都未示出）。堆叠子单元用于将所述多个矩阵在矩阵行的方向上顺次堆叠，形成大矩阵；而抽取分块子单元用于通过从大矩阵中每隔n行抽取一行，从而形成按序分块的n个大小相同的子矩阵。如前所述，这里所述的n根据用于实现所述神经网络的计算单元的个数而确定，且这些计算单元能够以并行方式进行计算。

装置1000还包括敏感度分析单元1020，用于对多个子矩阵进行敏感度分析，以确定神经网络的初始压缩率。敏感度分析单元1020与图9中的敏感度分析步骤s920相对应。

更具体地，所述敏感度分析单元1020可以进一步包括（尽管在附图中均未示出）：压缩前错误率获得子单元，用于获得压缩前的各个子矩阵所组成的神经网络的错误率；压缩后错误率获得子单元，用于分别对多个子矩阵按照相同的压缩率进行压缩，获得压缩后的各个子矩阵所组成的神经网络的错误率；初始压缩率确定子单元，用于通过尝试不同的压缩率，找到压缩前后的错误率差值在阈值水平内的最大压缩率，找到的这个压缩率被确定为神经网络的初始压缩率。

装置1000进一步包括压缩单元1030，用于按照所确定的初始压缩率对所述多个子矩阵进行压缩，以获得压缩后的神经网络。压缩单元1030与图9中的压缩步骤s930相对应。

更具体地，所述压缩单元1030可以进一步包括排序置零子单元（未示出），用于将各个子矩阵中的元素按绝对值排序，从小到大对子矩阵中的非零元素进行置零，直到达到指定的压缩率。

尽管未示出，装置1000还可以包括重训单元，用于对所述压缩后的神经网络进行重训。由此，在不改变压缩率的情况下提升其预测准确率，以减小压缩带来的精度损失。

此外，对整个硬件系统而言，与这里的装置1000相对应，需要在执行完矩阵向量乘法之后，添加一个对矩阵进行调序的模块，这样的模块实现简单，对整个硬件系统而言改动较小。

本领域普通技术人员应该认识到，本发明的方法可以实现为计算机程序。如上结合图9和10所述，根据上述实施例的方法可以执行一个或多个程序，包括指令来使得计算机或处理器执行结合附图所述的算法。这些程序可以使用各种类型的非瞬时计算机可读介质存储并提供给计算机或处理器。非瞬时计算机可读介质包括各种类型的有形存贮介质。非瞬时计算机可读介质的示例包括磁性记录介质（诸如软盘、磁带和硬盘驱动器）、磁光记录介质（诸如磁光盘）、cd-rom（紧凑盘只读存储器）、cd-r、cd-r/w以及半导体存储器（诸如rom、prom（可编程rom）、eprom（可擦写prom）、闪存rom和ram（随机存取存储器））。进一步，这些程序可以通过使用各种类型的瞬时计算机可读介质而提供给计算机。瞬时计算机可读介质的示例包括电信号、光信号和电磁波。瞬时计算机可读介质可以用于通过诸如电线和光纤的有线通信路径或无线通信路径提供程序给计算机。

因此，根据本发明，还可以提议一种计算机程序或一种计算机可读介质，用于记录可由处理器执行的指令，所述指令在被处理器执行时，使得处理器执行对神经网络进行压缩的方法，包括如下操作：将所述多个矩阵的所有矩阵行进行跨矩阵重排，其中，重排后的矩阵行按序分块为多个子矩阵；对多个子矩阵进行敏感度分析，以确定神经网络的初始压缩率；按照所确定的初始压缩率对所述多个子矩阵进行压缩，以获得压缩后的神经网络。

上面已经描述了本发明的各种实施例和实施情形。但是，本发明的精神和范围不限于此。本领域技术人员将能够根据本发明的教导而做出更多的应用，而这些应用都在本发明的范围之内。

也就是说，本发明的上述实施例仅仅是为清楚说明本发明所做的举例，而非对本发明实施方式的限定。对于所属领域的普通技术人员来说，在上述说明的基础上还可以做出其他不同形式的变化或变动。这里无需也无法对所有的实施方式予以穷举。凡在本发明的精神和原则之内所作的任何修改、替换或改进等，均应包含在本发明权利要求的保护范围之内。