一种网络模型剪枝方法、装置、电子设备及介质与流程

本申请涉及网络模型，尤其涉及一种网络模型剪枝方法、装置、电子设备及介质。

背景技术：

1、随着深度学习技术的不断发展，神经网络等网络模型的精度不断提高，网络模型被广泛应用于众多领域，取得了远超以往的性能。

2、网络模型想要达到较高的精度，通常需要通过提高网络模型的结构复杂度来获得更高的精度。然而，结构复杂的模型往往占用了大量的存储空间和计算资源，这将大大影响网络模型的计算效率，并且难以部署到资源有限的设备上。

3、因此，如何兼顾网络模型的精度和结构复杂度，是目前亟需解决的一个技术问题。

技术实现思路

1、本申请提供了一种网络模型剪枝方法、装置、电子设备及介质，用于兼顾网络模型的精度和结构复杂度。

2、第一方面，本申请提供了一种网络模型剪枝方法，所述方法包括：

3、针对网络模型中包含的bn层，获取所述bn层包含的各通道各自的缩放因子γ和移位因子β；

4、基于所述bn层包含的各通道的缩放因子γ和移位因子β的大小，对所述各通道进行排序；

5、基于所述排序，确定所述bn层中待保留的目标通道；并基于所述目标通道，对网络模型进行剪枝。

6、第二方面，本申请提供了一种网络模型剪枝装置，所述装置包括：

7、获取模块，用于针对网络模型中包含的bn层，获取所述bn层包含的各通道各自的缩放因子γ和移位因子β；

8、排序模块，用于基于所述bn层包含的各通道的缩放因子γ和移位因子β的大小，对所述各通道进行排序；

9、剪枝模块，用于基于所述排序，确定所述bn层中待保留的目标通道；并基于所述目标通道，对网络模型进行剪枝。

10、第三方面，本申请提供了一种电子设备，所述电子设备至少包括处理器和存储器，所述处理器用于执行存储器中存储的计算机程序时实现如上述任一所述网络模型剪枝方法的步骤。

11、第四方面，本申请提供了一种计算机可读存储介质，其存储有计算机程序，所述计算机程序被处理器执行时实现如上述任一所述网络模型剪枝方法的步骤。

12、由于本申请针对网络模型中包含的bn层，可以获取该bn层包含的各通道各自的缩放因子γ和移位因子β；基于该bn层包含的各通道的缩放因子γ和移位因子β的大小，对各通道进行排序，即可以基于通道的缩放因子γ和移位因子β，衡量通道的重要程度，因此，基于对各通道的该排序，确定该bn层中待保留的目标通道时，可以将重要程度较高的通道保留下来，将重要程度较低的通道剪掉，基于此可以实现兼顾网络模型的精度和结构复杂度的目的。

技术特征：

1.一种网络模型剪枝方法，其特征在于，所述方法包括：

2.根据权利要求1所述的方法，其特征在于，所述基于所述bn层包含的各通道的缩放因子γ和移位因子β的大小，对所述各通道进行排序，包括：

3.根据权利要求2所述的方法，其特征在于，所述基于所述第一排序以及设定的剪枝率，确定所述bn层中待保留的第一候选通道，包括：

4.根据权利要求2所述的方法，其特征在于，所述基于所述第二排序以及设定的剪枝率，确定所述bn层中待保留的第二候选通道，包括：

5.根据权利要求2所述的方法，其特征在于，所述基于所述第一候选通道和所述第二候选通道，确定所述目标通道，包括：

6.根据权利要求1所述的方法，其特征在于，所述基于所述bn层包含的各通道的缩放因子γ和移位因子β的大小，对所述各通道进行排序，包括：

7.根据权利要求6所述的方法，其特征在于，所述基于所述排序，确定所述bn层中待保留的目标通道，包括：

8.根据权利要求1-7任一所述的方法，其特征在于，所述获取所述bn层包含的各通道各自的缩放因子γ之前，所述方法还包括：

9.一种电子设备，其特征在于，所述电子设备至少包括处理器和存储器，所述处理器用于执行存储器中存储的计算机程序时实现如权利要求1-8任一所述网络模型剪枝方法的步骤。

10.一种计算机可读存储介质，其特征在于，其存储有计算机程序，所述计算机程序被处理器执行时实现如权利要求1-8任一所述网络模型剪枝方法的步骤。

技术总结
本申请公开了一种网络模型剪枝方法、装置、电子设备及介质，用于兼顾网络模型的精度和结构复杂度。本申请针对网络模型中包含的BN层，可以获取该BN层包含的各通道各自的缩放因子γ和移位因子β；基于该BN层包含的各通道的缩放因子γ和移位因子β的大小，对各通道进行排序；基于该排序，确定该BN层中待保留的目标通道；并基于目标通道，对网络模型进行剪枝，从而可以实现兼顾网络模型的精度和结构复杂度的目的。

技术研发人员：刘帅帅,张玉,高雪松
受保护的技术使用者：海信集团控股股份有限公司
技术研发日：
技术公布日：2024/1/22