一种深度神经网络的卷积层稀疏化方法及装置与流程

文档序号:20756790发布日期:2020-05-15 17:29阅读:来源:国知局

技术特征:

1.一种深度神经网络的卷积层稀疏化方法,其特征在于,所述方法包括:

获取深度神经网络中卷积层的张量及结构参数;

根据所述结构参数,利用预设维度划分方法,将所述张量中处于同一维度的权值划分为同一维度单元,得到多个维度单元;

针对各维度单元,根据该维度单元中的权值,对该维度单元中的各权值进行相同的稀疏化操作。

2.根据权利要求1所述的方法,其特征在于,所述根据所述结构参数,利用预设维度划分方法,将所述张量中处于同一维度的权值划分为同一维度单元,得到多个维度单元,包括:

根据所述结构参数中滤波器空间维度的行参数,将所述张量中处于同一行的权值划分为同一维度单元,得到多个行维度单元;

或者,

根据所述结构参数中滤波器空间维度的列参数,将所述张量中处于同一列的权值划分为同一维度单元,得到多个列维度单元。

3.根据权利要求1所述的方法,其特征在于,所述根据所述结构参数,利用预设维度划分方法,将所述张量中处于同一维度的权值划分为同一维度单元,得到多个维度单元,包括:

根据所述结构参数中的滤波器空间维度参数,将所述张量中处于同一滤波器空间内的权值划分为同一维度单元,得到多个空间维度单元。

4.根据权利要求1所述的方法,其特征在于,所述根据所述结构参数,利用预设维度划分方法,将所述张量中处于同一维度的权值划分为同一维度单元,得到多个维度单元,包括:

根据所述结构参数中的输入通道参数,将所述张量中处于同一输入通道内的权值划分为同一维度单元,得到多个输入通道维度单元。

5.根据权利要求1所述的方法,其特征在于,所述针对各维度单元,根据该维度单元中的权值,对该维度单元中的各权值进行相同的稀疏化操作,包括:

针对各维度单元,对该维度单元中各权值的绝对值进行求和计算,得到计算结果;

判断所述计算结果是否大于预设阈值;

若不大于,则将该维度单元中的各权值置零;

若大于,则保持该维度单元中的各权值不变。

6.一种深度神经网络的卷积层稀疏化装置,其特征在于,所述装置包括:

获取模块,用于获取深度神经网络中卷积层的张量及结构参数;

划分模块,用于根据所述结构参数,利用预设维度划分方法,将所述张量中处于同一维度的权值划分为同一维度单元,得到多个维度单元;

稀疏模块,用于针对各维度单元,根据该维度单元中的权值,对该维度单元中的各权值进行相同的稀疏化操作。

7.根据权利要求6所述的装置,其特征在于,所述划分模块,具体用于:

根据所述结构参数中滤波器空间维度的行参数,将所述张量中处于同一行的权值划分为同一维度单元,得到多个行维度单元;

或者,

根据所述结构参数中滤波器空间维度的列参数,将所述张量中处于同一列的权值划分为同一维度单元,得到多个列维度单元。

8.根据权利要求6所述的装置,其特征在于,所述划分模块,具体用于:

根据所述结构参数中的滤波器空间维度参数,将所述张量中处于同一滤波器空间内的权值划分为同一维度单元,得到多个空间维度单元。

9.根据权利要求6所述的装置,其特征在于,所述划分模块,具体用于:

根据所述结构参数中的输入通道参数,将所述张量中处于同一输入通道内的权值划分为同一维度单元,得到多个输入通道维度单元。

10.根据权利要求6所述的装置,其特征在于,所述稀疏模块,具体用于:

针对各维度单元,对该维度单元中各权值的绝对值进行求和计算,得到计算结果;

判断所述计算结果是否大于预设阈值;

若不大于,则将该维度单元中的各权值置零;

若大于,则保持该维度单元中的各权值不变。


技术总结
本申请实施例提供了一种深度神经网络的卷积层稀疏化方法及装置,其中,方法包括:获取深度神经网络中卷积层的张量及结构参数;根据卷积层的结构参数,利用预设维度划分方法,将该卷积层的张量中处于同一维度的权值划分为同一维度单元,得到多个维度单元;针对各维度单元,根据该维度单元中的权值,对该维度单元中的各权值进行相同的稀疏化操作。通过本方案,可以提高内存的访问效率。

技术研发人员:张渊;谢迪;浦世亮
受保护的技术使用者:杭州海康威视数字技术股份有限公司
技术研发日:2018.11.07
技术公布日:2020.05.15
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1