数据处理方法及装置、设备和介质与流程

本公开涉及芯片，尤其涉及数据处理领域，具体涉及一种数据处理方法、装置、电子设备、计算机可读存储介质和计算机程序产品。

背景技术：

1、人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科，既有硬件层面的技术也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术；人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术以及机器学习/深度学习、大数据处理技术、知识图谱技术等几大方向。

2、人工智能模型存在大量的计算密集型算子，主要包括矩阵乘法，卷积，池化，激活等等。这些计算非常耗时，传统cpu的计算能力很难在性能上满足需求，因此异构计算成为了主流，包括gpu、fpga、asic在内的各种人工智能处理器大量应用到了人工智能模型计算。同时，数据类型的选择对于人工智能计算的精度、性能等也起着十分重要的作用。

3、在此部分中描述的方法不一定是之前已经设想到或采用的方法。除非另有指明，否则不应假定此部分中描述的任何方法仅因其包括在此部分中就被认为是现有技术。类似地，除非另有指明，否则此部分中提及的问题不应认为在任何现有技术中已被公认。

技术实现思路

1、本公开提供了一种数据处理方法、装置、电子设备、计算机可读存储介质和计算机程序产品。

2、根据本公开的一方面，提供了一种数据处理方法，包括：获取待计算的第一目标矩阵，其中，所述第一目标矩阵中的每个元素以第一数据格式存储在第一存储单元中，所述第一数据格式包括浮点型；将所述第一目标矩阵划分为多个子矩阵，其中，所述多个子矩阵中的每个子矩阵包括第一预设数量的元素；针对所述多个子矩阵中的每个子矩阵，基于该子矩阵中每个元素的绝对值，确定该子矩阵中各个元素的最大绝对值；确定与所述最大绝对值对应的二进制表示的参考最大值max，所述参考最大值max的数位宽度等于所述第一预设数量；针对该子矩阵中的每个元素，确定所述第一存储单元中用于存储该元素的最后一位尾数的位元为目标位元，以得到第一预设数量的目标位元；将所述参考最大值max写入所述第一预设数量的目标位元；以及针对该子矩阵中的每个元素，从所述第一预设数量的目标位元中读取所述参考最大值max，以基于所述参考最大值max，将该元素转换为第二数据格式的转换元素；以及基于所述第一目标矩阵中的每个元素分别对应的转换元素和目标计算类型，确定目标计算结果。

3、根据本公开的另一方面，提供了一种数据处理装置，包括：获取单元，被配置为获取待计算的第一目标矩阵，其中，所述第一目标矩阵中的每个元素以第一数据格式存储在第一存储单元中，所述第一数据格式包括浮点型；划分单元，被配置为将所述第一目标矩阵划分为多个子矩阵，其中，所述多个子矩阵中的每个子矩阵包括第一预设数量的元素；第一确定单元，被配置为针对所述多个子矩阵中的每个子矩阵，基于该子矩阵中每个元素的绝对值，确定该子矩阵中各个元素的最大绝对值；第二确定单元，被配置为确定与所述最大绝对值对应的二进制表示的参考最大值max，所述参考最大值max的数位宽度等于所述第一预设数量；第三确定单元，被配置为针对该子矩阵中的每个元素，确定所述第一存储单元中用于存储该元素的最后一位尾数的位元为目标位元，以得到第一预设数量的目标位元；写入单元，被配置为将所述参考最大值max写入所述第一预设数量的目标位元；转换单元，被配置为针对该子矩阵中的每个元素，从所述第一预设数量的目标位元中读取所述参考最大值max，以基于所述参考最大值max，将该元素转换为第二数据格式的转换元素；以及计算单元，被配置为基于所述第一目标矩阵中的每个元素分别对应的转换元素和目标计算类型，确定目标计算结果。

4、根据本公开的另一方面，提供了一种芯片，包括如上所述的数据处理装置。

5、根据本公开的另一方面，提供了一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述数据处理方法。

6、根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行上述数据处理方法。

7、根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，其中，计算机程序在被处理器执行时能够实现上述数据处理方法。

8、根据本公开的一个或多个实施例，可以提升计算效率。

9、应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

技术特征：

1.一种数据处理方法，包括：

2.如权利要求1所述的方法，其中，所述第二数据格式包括至少一个指数位和多个尾数位，所述基于所述参考最大值max，将该元素转换为第二数据格式的转换元素包括：

3.如权利要求2所述的方法，其中，所述基于所述第二数据格式的指数位的数位宽度m和所述参考最大值max，将区间[0，max]划分为2m个连续的子区间包括：

4.如权利要求3所述的方法，其中，所述基于该元素所处的子区间和所述第二数据格式的尾数位的数位宽度n，将该元素映射至[0，2n]区间，以确定该元素对应的转换元素的尾数位包括：

5.如权利要求1所述的方法，其中，所述第二数据格式包括多个尾数位，所述基于所述参考最大值max，将该元素转换为第二数据格式的转换元素包括：

6.如权利要求2-5中任一项所述的方法，所述第一数据格式和所述第二数据格式还包括1个符号位，所述第一目标矩阵中的每个元素对应的转换元素的符号位与该元素的符号位相同。

7.如权利要求1-6中任一项所述的方法，还包括：

8.如权利要求7所述的方法，其中，当所述第一数据格式和所述第二数据格式还包括1个符号位时，所述结果矩阵中的每个元素的符号位为该元素在所述第一目标矩阵中对应的第一元素的符号位和该元素在所述第二目标矩阵中对应的第二元素的符号位的异或值。

9.一种数据处理装置，包括：

10.如权利要求9所述的装置，其中，所述第二数据格式包括至少一个指数位和多个尾数位，所述转换单元包括：

11.如权利要求10所述的装置，其中，所述划分子单元被配置为：

12.如权利要求11所述的装置，其中，所述第二确定子单元被配置为：

13.如权利要求9所述的装置，其中，所述第二确定子单元被配置为：

14.如权利要求10-13中任一项所述的装置，所述第一数据格式和所述第二数据格式还包括1个符号位，所述第一目标矩阵中的每个元素对应的转换元素的符号位与该元素的符号位相同。

15.如权利要求9-14中任一项所述的装置，其中，

16.如权利要求15所述的装置，其中，当所述第一数据格式和所述第二数据格式还包括1个符号位时，所述结果矩阵中的每个元素的符号位为该元素在所述第一目标矩阵中对应的第一元素的符号位和该元素在所述第二目标矩阵中对应的第二元素的符号位的异或值。

17.一种芯片，包括如权利要求9-16中任一项所述装置。

18.一种电子设备，包括：

19.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使计算机执行根据权利要求1-8中任一项所述的方法。

20.一种计算机程序产品，包括计算机程序，其中，所述计算机程序在被处理器执行时实现根据权利要求1-8中任一项所述的方法。

技术总结
本公开提供了一种数据处理方法及装置、设备和介质，涉及芯片技术领域，尤其涉及数据处理技术领域。实现方案为：获取第一目标矩阵；将第一目标矩阵划分为多个包括第一预设数量的元素的子矩阵；确定每个子矩阵中各个元素的最大绝对值；基于最大绝对值，确定二进制表示的参考最大值，参考最大值的数位宽度等于第一预设数量；针对每个元素，确定第一存储单元中用于存储该元素的最后一位尾数的位元为目标位元；将参考最大值写入第一预设数量的目标位元；针对该子矩阵中的每个元素，从目标位元中读取参考最大值，以将该元素转换为第二数据格式的转换元素；以及基于所述第一目标矩阵中的每个元素分别对应的转换元素和目标计算类型，确定目标计算结果。

技术研发人员：陈庆澍,欧阳剑,王勇
受保护的技术使用者：昆仑芯（北京）科技有限公司
技术研发日：
技术公布日：2024/1/13