神经网络模型量化方法及装置、存储介质及电子设备与流程

所属的技术人员能够理解，本公开的各个方面可以实现为系统、方法或程序产品。因此，本公开的各个方面可以具体实现为以下形式，即：完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等)，或硬件和软件方面结合的实施方式，这里可以统称为“电路”、“模块”或“系统”。本公开的示例性实施方式还提供了一种计算机可读存储介质，其上存储有能够实现本说明书上述方法的程序产品。在一些可能的实施方式中，本公开的各个方面还可以实现为一种程序产品的形式，其包括程序代码，当程序产品在终端设备上运行时，程序代码用于使终端设备执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤。需要说明的是，本公开所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑磁盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、rf等等，或者上述的任意合适的组合。此外，可以以一种或多种程序设计语言的任意组合来编写用于执行本公开操作的程序代码，程序设计语言包括面向对象的程序设计语言—诸如java、c++等，还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(lan)或广域网(wan)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本公开的其他实施例。本申请旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和精神由权利要求指出。应当理解的是，本公开并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限。

背景技术：

1、随着深度学习的快速发展，深度学习模型的精度不断地得到提高。这些深度学习模型在应用时，也需要消耗巨大的硬件资源，不适用于移动终端等，为了解决在移动终端上应用高精度的深度学习模型，通常会采用对模型进行量化的方法来获得可以在移动终端上使用的模型。

2、但是，相关技术中的模型量化方法的量化精度较差，会造成模型的精度损失。

3、需要说明的是，在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。

技术实现思路

1、本公开的目的在于提供一种神经网络模型量化方法、神经网络模型量化装置、计算机可读介质和电子设备，进而至少在一定程度上提升模型量化方法的精度，克服了量化过程中模型精度损失较大的问题，提升了量化效率。

2、根据本公开的第一方面，提供一种神经网络模型量化方法，包括：获取待量化神经网络模型和训练数据；利用所述训练数据对所述待量化神经网络模型进行预设数次的量化感知迭代训练；获取初始量化参数，并利用第一次至第n次迭代训练得到的量化参数更新所述初始量化参数；在每次迭代后根据所述初始量化参数更新所述待量化神经网络模型权重，以得到目标神经网络模型；其中，n为大于或等于1且小于或等于所述预设次数的正整数。

3、根据本公开的第二方面，提供一种神经网络模型量化装置，包括：获取模块，用于获取待量化神经网络模型和训练数据；训练模块，用于利用所述训练数据对所述待量化神经网络模型进行预设数次的量化感知迭代训练；参数更新模块，用于获取初始量化参数，并利用第一次至第n次迭代训练得到的量化参数更新所述初始量化参数，所述量化参数包括激活值；模型更新模块，用于在每次迭代后根据所述初始量化参数更新所述待量化神经网络模型权重，以得到目标神经网络模型；其中，n为大于或等于1且小于或等于所述预设次数的正整数。

4、根据本公开的第三方面，提供一种计算机可读介质，其上存储有计算机程序，计算机程序被处理器执行时实现上述的方法。

5、根据本公开的第四方面，提供一种电子设备，其特征在于，包括：一个或多个处理器；以及存储器，用于存储一个或多个程序，当一个或多个程序被一个或多个处理器执行时，使得一个或多个处理器实现上述的方法。

6、本公开的一种实施例所提供的神经网络模型量化方法，获取待量化神经网络模型和训练数据；利用训练数据对待量化神经网络模型进行预设数次的量化感知迭代训练；获取初始量化参数，并利用第一次至第n次迭代训练得到的量化参数更新初始量化参数；在每次迭代后根据初始量化参数更新待量化神经网络模型权重，以得到目标神经网络模型；其中，n为大于或等于2且小于或等于预设次数的正整数。相较于现有技术，利用第一次至第n次迭代训练得到的量化参数更新初始量化参数，充分考虑了多次迭代过程中的量化参数的变化，提升了量化精度，同时，在更新初始量化参数时，并非是每一次迭代都更新，在保证精度的同时，降低了计算量，提升了量化效率。

7、应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。

技术特征：

1.一种神经网络模型量化方法，其特征在于，包括：

2.根据权利要求1所述的方法，其特征在于，所述量化参数包括激活值，所述获取初始量化参数，并利用第一次至第n次迭代训练得到的量化参数更新所述初始量化参数，包括：

3.根据权利要求1所述的方法，其特征在于，根据所述每一次迭代的激活值、所述迭代次数n、所述第一更新比例和第二更新比例更新所述初始量化参数，包括：

4.根据权利要求3所述的方法，其特征在于，所述利用所述第一次至第n次迭代训练得到的量化参数的平均值更新所述初始量化参数：

5.根据权利要求2所述的方法，其特征在于，根据所述每一次迭代的激活值、所述迭代次数n、所述第一更新比例和第二更新比例更新所述初始量化参数，包括：

6.根据权利要求3-5任一项所述的方法，其特征在于，所述方法还包括：

7.根据权利要求1所述的方法，其特征在于，所述获取待量化神经网络模型包括：

8.根据权利要求7所述的方法，其特征在于，所述根据所述预设量化精度对所述预训练神经网络模型进行量化得到待量化神经网络模型，包括：

9.根据权利要求7所述的方法，其特征在于，所述根据所述预设量化精度对所述预训练神经网络模型进行量化得到待量化神经网络模型，包括：

10.根据权利要求9所述的方法，其特征在于，所述预训练神经网络模型中各层网络的量化范围，包括：

11.根据权利要求10所述的方法，其特征在于，根据权重值集合和预设比例系数确定各层网络的量化范围，包括：

12.一种神经网络模型量化装置，其特征在于，包括：

13.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现如权利要求1至11中任一项所述的神经网络模型量化方法。

14.一种电子设备，其特征在于，包括：

技术总结
本公开涉及模型量化技术领域，具体涉及一种神经网络模型量化方法及装置、计算机可读存储介质及电子设备，该方法包括：获取待量化神经网络模型和训练数据；利用训练数据对待量化神经网络模型进行预设数次的量化感知迭代训练；获取初始量化参数，并利用第一次至第N次迭代训练得到的量化参数更新初始量化参数；在每次迭代后根据初始量化参数更新待量化神经网络模型权重，以得到目标神经网络模型；其中，N为大于或等于2且小于或等于预设次数的正整数。本公开实施例的技术方案提升模型量化方法的精度，克服了量化过程中模型精度损失较大的问题，同时提升了量化效率。

技术研发人员：陈腊梅
受保护的技术使用者：OPPO（重庆）智能科技有限公司
技术研发日：
技术公布日：2024/1/13