1.一种神经网络单元,其特征在于,包括:
一随机位来源,以产生随机位;以及
多个神经处理单元(NPU),各该神经处理单元包括:
一累加器,该神经处理单元将多个乘积累加至该累加器以作为一累加值;以及
一舍入器(rounder),由该随机位来源接收该随机位,并且依据由该随机位来源接收的该随机位,随机地(stochastically)对该累加值执行舍入运算。
2.根据权利要求1所述的神经网络单元,其特征在于,还包括:
一缓存器,可利用一舍入模式予以程序化,并且,当该舍入模式指示随机舍入时,该舍入器依据由该随机位来源接收的该随机位,随机地对该累加值执行舍入运算,当该舍入模式指示不同的舍入模式时,该舍入器执行该不同的舍入模式。
3.根据权利要求1所述的神经网络单元,其特征在于,该累加值为一定点算术值。
4.根据权利要求3所述的神经网络单元,其特征在于,还包括:
一缓存器,可利用该定点算术累加值的一二进制小数点位置予以程序化,该二进制小数点位置指定该定点算术累加值的小数字元的数量。
5.根据权利要求4所述的神经网络单元,其特征在于,该舍入器对该累加值执行舍入运算,以因应该神经处理单元将该累加值对准至一输出表示,该输出表示的小数字元数量少于程序化于该缓存器内的该小数字元数量。
6.根据权利要求5所述的神经网络单元,其特征在于,还包括:
一第二缓存器,可利用该输出表示的一二进制小数点地址予以程序化。
7.根据权利要求1所述的神经网络单元,其特征在于,该神经处理单元利用第一与第二操作数计算各该多个乘积,并且,该第一与第二操作数中的每一个操作数为一定点算术值。
8.根据权利要求7所述的神经网络单元,其特征在于,还包括:
一第一缓存器,可利用该第一操作数的一二进制小数点位置予以程序化;以及
一第二缓存器,可利用该第二操作数的一二进制小数点位置予以程序化。
9.根据权利要求1所述的神经网络单元,其特征在于,该多个乘积中的每一个乘积为一定点算术值。
10.根据权利要求1所述的神经网络单元,其特征在于,该随机位来源依据实现该神经网络单元的一集成电路的随机电性的取样动作产生该随机位。
11.一种运作一神经网络单元的方法,该神经网络单元具有多个神经处理单元(NPU),其特征在于,该方法包括:
利用一随机位来源,以产生随机位;以及
由各该神经处理单元:
将多个乘积累加至一累加器以作为一累加值;
利用一舍入器(rounder),由该随机位来源接收该随机位;以及
利用该舍入器,依据由该随机位来源接收的该随机位,随机地(stochastically)对该累加值执行舍入运算。
12.根据权利要求11所述的方法,其特征在于,还包括:
利用一舍入模式程序化一缓存器;
其中,当该舍入模式指示随机舍入时,利用该舍入器,依据由该随机位来源接收的该随机位,随机地对该累加值执行舍入运算;
其中,当该舍入模式指示不同的舍入模式时,利用该舍入器执行该不同的舍入模式。
13.根据权利要求11所述的方法,其特征在于,该累加值为一定点算术值。
14.根据权利要求13所述的方法,其特征在于,还包括:
利用该定点算术累加值的一二进制小数点位置程序化一缓存器,该二进制小数点位置指定该定点算术累加值的小数字元的数量。
15.根据权利要求14所述的方法,其特征在于,该舍入器对该累加值执行舍入运算,以因应该神经处理单元将该累加值对准至一输出表示,该输出表示的小数字元数量少于程序化于该缓存器内的该小数字元数量。
16.根据权利要求15所述的方法,其特征在于,还包括:
利用该输出呈现的一二进制小数点地址程序化一第二缓存器。
17.根据权利要求11所述的方法,其特征在于,还包括:
利用第一与第二操作数计算各该多个乘积,并且,该第一与第二操作数中的每一个操作数为一定点算术值。
18.根据权利要求17所述的方法,其特征在于,还包括:
利用该第一操作数的一二进制小数点位置程序化一第一缓存器;以及
利用该第二操作数的一二进制小数点位置程序化一第二缓存器。
19.根据权利要求11所述的方法,其特征在于,该多个乘积中的每一个乘积为一定点算术值。
20.根据权利要求11所述的方法,其特征在于,还包括:
利用该随机位来源,依据实现该神经网络单元的一集成电路的随机电性的取样动作,产生该随机位。
21.一种编码于至少一非瞬时计算机可使用媒体以供一计算机装置使用的一计算机程序产品,其特征在于,包括:
内含于该媒体的计算机可使用程序代码,用以描述一神经网络单元,该计算机可使用程序代码包括:
第一程序代码,用以描述一随机位来源,该随机位来源用以产生随机位;以及
第二程序代码,用以描述多个神经处理单元(NPU),各该神经处理单元包括:
一累加器,该神经处理单元将多个乘积累加至该累加器以作为一累加值;以及
一舍入器(rounder),由该随机位来源接收该随机位,并且依据由该随机位来源接收的该随机位,随机地(stochastically)对该累加值执行舍入运算。