神经网络运算方法及相关产品与流程

文档序号:22679118发布日期:2020-10-28 12:38阅读:来源:国知局

技术特征:

1.一种运算数据的量化的方法,其特征在于,所述方法应用于人工智能处理器,所述方法包括如下步骤:

确定运算数据;

获取量化命令,该量化命令包括连续量化精度;依据该运算数据确定该运算数据的连续量化精度f,依据该连续量化精度以及量化函数对该运算数据进行量化操作,得到量化后的数据,以使得所述人工智能处理器根据所述量化后的数据执行运算操作。

2.根据权利要求1所述的方法,其特征在于,

所述运算数据包括:输入神经元a、输出神经元b、权重w、输入神经元导数输出神经元导数权重导数中的一种或任意组合。

3.根据权利要求2所述的方法,其特征在于,所述依据该量化精度以及量化函数对该运算数据进行量化操作,得到量化后的数据具体包括:

依据连续量化精度f以及运算数据的元素值计算得到量化后的数据。

4.根据权利要求3所述的方法,其特征在于,所述依据连续量化精度f以及运算数据的元素值计算得到量化后的数据具体包括:

连续定点量化函数为公式(1);

其中,y为量化后的连续定点数据,f为连续量化精度,σ为取整函数。

5.根据权利要求4所述的方法,其特征在于,

所述取整函数为:向上取整函数、向下取整函数、四舍五入函数或随机取整函数。

6.一种人工智能处理器,其特征在于,所述人工智能处理器包括:

处理单元,用于确定运算数据;获取量化命令,该量化命令包括连续量化精度;依据该运算数据确定该运算数据的量化精度f;

量化单元,用于依据该量化精度以及量化函数对该运算数据进行量化操作,得到量化后的数据,以使得所述人工智能处理器根据所述量化后的数据执行运算操作。

7.一种神经网络运算装置,其特征在于,所述神经网络运算装置包括一个或多个如权利要求6所述的人工智能处理器。

8.一种组合处理装置,其特征在于,所述组合处理装置包括:如权利要求7所述的神经网络运算装置、通用互联接口和通用处理装置;

所述神经网络运算装置通过所述通用互联接口与所述通用处理装置连接。

9.一种电子设备,其特征在于,所述电子设备包括如权利要求6所述的人工智能处理器或如权利要求7所述的神经网络运算装置。

10.一种计算机可读存储介质,其特征在于,存储用于电子数据交换的计算机程序,其中,所述计算机程序使得计算机执行如权利要求1-5任意一项所述的方法。


技术总结
本披露提供一种运算数据的量化的方法及相关产品,该方法包括对神经网络运算的数据执行量化处理,对处理后的数据进行运算,本申请提供的技术方案具有计算量小,计算效率高,能耗低的优点。

技术研发人员:不公告发明人
受保护的技术使用者:上海寒武纪信息科技有限公司
技术研发日:2019.04.16
技术公布日:2020.10.27
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1