计算图处理方法、装置、设备、存储介质以及程序产品与流程

本公开涉及计算机技术、数据处理，尤其涉及人工智能、深度学习、芯片，具体涉及一种计算图处理方法、装置、设备、存储介质以及程序产品。

背景技术：

1、随着深度学习技术的发展，训练更大的深度学习模型成为一种提高模型精度和性能的主流趋势。更大的深度学习模型需要更多数据进行训练，这对例如图形处理器等硬件单元的资源提出了更大的需求。

技术实现思路

1、本公开提供了一种计算图处理方法、装置、设备、存储介质以及程序产品。

2、根据本公开的一方面，提供了一种计算图处理方法，包括：将深度学习模型的计算图划分为多个计算图分段；确定每一个计算图分段在硬件单元上运行的资源占用-运算比，其中，资源占用-运算比表征计算图分段相对于硬件单元的资源占用量和运算量之间的比值；根据硬件单元的可用资源量和计算图分段的资源占用-运算比，确定目标计算图分段；以及根据目标计算图分段，修改计算图，得到更新计算图。

3、根据本公开的另一方面，提供了一种计算图处理装置，包括：计算图分段确定模块、资源占用-运算比确定模块、目标计算图分段确定模块以及更新计算图确定模块。计算图分段确定模块，用于将深度学习模型的计算图划分为多个计算图分段。资源占用-运算比确定模块，用于确定每一个计算图分段在硬件单元上运行的资源占用-运算比，其中，资源占用-运算比表征计算图分段相对于硬件单元的资源占用量和运算量之间的比值。目标计算图分段确定模块，用于根据硬件单元的可用资源量和计算图分段的资源占用-运算比，确定目标计算图分段。更新计算图确定模块，用于根据目标计算图分段，修改计算图，得到更新计算图。

4、根据本公开的另一方面，提供了一种电子设备，包括：至少一个处理器和与至少一个处理器通信连接的存储器。其中，存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行本公开实施例的方法。

5、根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，计算机指令用于使计算机执行本公开实施例的方法。

6、根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，计算机程序存储于可读存储介质和电子设备其中至少之一上，计算机程序存储于可读存储介质和电子设备其中至少之一上，计算机程序在被处理器执行时实现本公开实施例的方法。

7、应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

技术特征：

1.一种计算图处理方法，包括：

2.根据权利要求1所述的方法，还包括：

3.根据权利要求2所述的方法，其中，所述计算图包括节点，所述节点表征张量或者运算操作；所述根据所述目标计算图分段，修改所述计算图，得到更新计算图包括：

4.根据权利要求3所述的方法，其中，所述计算图还包括连接边，所述连接边表征所述节点之间的相关性和方向；所述将深度学习模型的计算图划分为多个计算图分段包括：

5.根据权利要求4所述的方法，其中，所述将所述计算序列划分为多个所述计算图分段包括：

6.根据权利要求4所述的方法，其中，所述将所述计算序列划分为多个所述计算图分段包括：

7.根据权利要求2所述的方法，其中，所述根据所述硬件单元的可用资源量和所述计算图分段的所述资源占用-运算比，确定目标计算图分段包括：

8.根据权利要求1-7中任一项所述的方法，还包括：

9.根据权利要求1-7中任一项所述的方法，其中，所述硬件单元包括以下中的至少一个：图像处理器、中央处理器以及神经网络处理器。

10.一种计算图处理装置，包括：

11.根据权利要求10所述的装置，还包括：

12.根据权利要求11所述的装置，其中，所述计算图包括节点，所述节点表征张量或者运算操作；所述更新计算图确定模块包括：

13.根据权利要求12所述的装置，其中，所述计算图还包括连接边，所述连接边表征所述节点之间的相关性和方向；所述计算图分段确定模块包括：

14.根据权利要求13所述的装置，其中，所述计算图分段确定子模块包括：

15.根据权利要求13所述的装置，其中，所述计算图分段确定子模块包括：

16.根据权利要求11所述的装置，其中，所述目标计算图分段确定模块包括：

17.根据权利要求10-16中任一项所述的装置，还包括：

18.根据权利要求10-16中任一项所述的装置，其中，所述硬件单元包括以下中的至少一个：图像处理器、中央处理器以及神经网络处理器。

19.一种电子设备，包括：

20.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求1-9中任一项所述的方法。

21.一种计算机程序产品，包括计算机程序，所述计算机程序存储于可读存储介质和电子设备其中至少之一上，所述计算机程序在被处理器执行时实现根据权利要求1-9中任一项所述的方法。

技术总结
本公开提供了一种计算图处理方法、装置、设备、存储介质以及程序产品，涉及计算机技术、数据处理技术领域，尤其涉及人工智能、深度学习、芯片技术领域。具体实现方案为：将深度学习模型的计算图划分为多个计算图分段；确定每一个计算图分段在硬件单元上运行的资源占用‑运算比，其中，资源占用‑运算比表征计算图分段相对于硬件单元的资源占用量和运算量之间的比值；根据硬件单元的可用资源量和计算图分段的资源占用‑运算比，确定目标计算图分段；以及根据目标计算图分段，修改计算图，得到更新计算图。

技术研发人员：梁建中,赵英利,曹州,敖玉龙,于佃海
受保护的技术使用者：北京百度网讯科技有限公司
技术研发日：
技术公布日：2024/1/13