矩阵乘法运算的矩阵的近似的制作方法

背景技术：

1、矩阵乘法是跨越多个应用领域的关键构建块，包括在高性能计算(hpc)和机器学习中的使用。矩阵乘法也用于卷积神经网络、递归神经网络和其他形式的人工神经网络。

2、矩阵乘法技术采用并行化来提高矩阵乘法的效率。例如，通常将两个矩阵划分成较小部分(例如，列、行以及列与行的部分)，并且通过执行多个矩阵乘法计算来执行两个矩阵的矩阵乘法运算，每个矩阵乘法计算包括一个矩阵的一部分与另一矩阵的一部分的乘法。矩阵乘法计算被映射到处理器网络的不同处理器核心，并且由不同处理器核心执行以执行矩阵乘法运算。

技术实现思路

技术特征：

1.一种处理设备，所述处理设备包括：

2.根据权利要求1所述的处理设备，其中被丢弃的所述多个乘积被近似为具有最小对应指数和。

3.根据权利要求2所述的处理设备，所述处理设备进一步包括多个乘数累加器(mac)，并且

4.根据权利要求1所述的处理设备，其中所述处理器被配置为通过以下方式来确定哪些乘积待用于执行矩阵乘法：

5.根据权利要求1所述的处理设备，其中所述第一多个元素和所述第二多个元素是整数数据类型格式。

6.根据权利要求1所述的处理设备，其中所述处理器被配置为通过以下方式来提取所述乘积指数：

7.根据权利要求6所述的处理设备，其中所述处理器被配置为通过将每个元素表示为1.m*2e来进一步提取所述乘积指数，其中m是尾数并且e是指数值。

8.根据权利要求1所述的处理设备，其中所述第一多个元素和所述第二多个元素是浮点数据类型格式。

9.根据权利要求1所述的处理设备，其中被丢弃的乘积的所述数量是在运行时确定的乘积的目标数量。

10.根据权利要求1所述的处理设备，所述处理设备进一步包括显示设备，

11.一种矩阵乘法数据选择方法，所述矩阵乘法数据选择方法包括：

12.根据权利要求11所述的方法，其中被丢弃的所述多个乘积被近似为具有最小对应指数和。

13.根据权利要求11所述的方法，所述方法进一步包括通过以下方式来确定哪些乘积待用于执行矩阵乘法：

14.根据权利要求11所述的方法，其中所述第一多个元素和所述第二多个元素是整数数据类型格式。

15.根据权利要求14所述的方法，所述方法进一步包括通过以下方式来提取所述指数：

16.根据权利要求15所述的方法，所述方法进一步包括通过将每个元素表示为1.m*2e来提取所述指数，其中m是尾数并且e是指数值。

17.根据权利要求11所述的方法，其中所述第一多个元素和所述第二多个元素是浮点数据类型格式。

18.根据权利要求11所述的方法，其中被丢弃的乘积的所述数量是在运行时确定的乘积的目标数量。

19.根据权利要求11所述的方法，其中显示从所述矩阵乘法生成的信息。

20.一种非暂态计算机可读介质，所述非暂态计算机可读介质包括用于使得计算机执行矩阵乘法数据选择方法的指令，所述指令包括：

21.根据权利要求19所述的计算机可读介质，其中被丢弃的所述多个乘积被近似为具有最小对应指数和。

技术总结
提供了一种处理设备，该处理设备包括：存储器，该存储器被配置为存储数据；以及处理器，该处理器被配置为接收包括第一多个元素的第一矩阵的数据的一部分以及接收包括第二多个元素的第二矩阵的数据的一部分。该处理器还被配置为通过以下方式来确定第三矩阵的值：基于将第一矩阵和第二矩阵的元素对的乘积近似为元素对的指数的和来从元素对的乘积中丢弃多个乘积，并且对第一矩阵和第二矩阵的元素对的剩余乘积执行矩阵乘法。

技术研发人员：普拉莫德·瓦桑特·阿尔加德,斯瓦普尼尔·P·萨哈舍特,马克西姆·V·卡扎科夫,亚历山大·M·波塔波夫
受保护的技术使用者：超威半导体公司
技术研发日：
技术公布日：2024/1/16