一种深度学习系统和方法与流程

本技术涉及人工智能领域，并且更具体地，涉及一种深度学习系统和方法。

背景技术：

1、人工智能(artificial intelligence，ai)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。ai领域的研究包括深度学习、自然语言处理、计算机视觉、决策与推理、人机交互、推荐与搜索，ai基础理论等。随着人们对ai领域的深入研究，深度学习子领域也得以不断发展。

2、现有技术中，在深度学习子领域，将计算任务分配至具体的计算模块需要通过应用层来实现。然而，应用层将计算任务分配至具体的计算模块时，往往需要应用层在感知计算模块的参数等信息后，才可以针对不同的服务质量指标，对计算任务做出符合实际要求的分配。因此，基于应用层的计算任务分配，不能够实现计算任务的自适应分配，降低了计算模块资源的利用率，也降低了计算模块处理计算任务的效率，从而增加了深度学习的应用难度。

技术实现思路

1、本技术提供一种深度学习系统和方法，可以实现计算任务的自适应分配，提高了计算模块资源的利用率，也提高了计算模块处理计算任务的效率，从而降低了深度学习的应用难度。

2、第一方面，提供了一种深度学习系统，包括处理模块和n个计算模块，处理模块，用于将数据流图分为m个子数据流图，并根据m个子数据流图的参数和n个计算模块的参数之间的映射关系，将m个子数据流图分配给n个计算模块，其中，m、n为正整数；n个计算模块，用于对各自对应的子数据流图的数据进行计算。

3、基于上述技术方案，处理模块可以根据m个子数据流图的参数和n个计算模块的参数之间的映射关系，将m个子数据流图分配给n个计算模块，可以实现计算任务的自适应分配，提高了计算模块资源的利用率，也提高了计算模块处理计算任务的效率，降低了深度学习的应用难度。

4、结合第一方面，在第一方面的某些实现方式中，m个子数据流图的参数包括以下至少一项：m个子数据流图的数据优先级，m个子数据流图的数据量。

5、结合第一方面，在第一方面的某些实现方式中，n个计算模块的参数包括以下至少一项：n个计算模块之间的带宽、n个计算模块的算力、n个计算模块的存储容量。

6、结合第一方面，在第一方面的某些实现方式中，处理模块，用于根据服务质量指标，将数据流图分为m个子数据流图。

7、基于上述技术方案，处理模块可以根据服务质量指标，将数据流图分为m个子数据流图，使得n个计算模块可以对各自对应的子数据流图的数据进行计算。通过该方式，可以提高计算模块资源的利用率，以及提高计算模块处理计算任务的效率，降低深度学习的应用难度。

8、结合第一方面，在第一方面的某些实现方式中，当服务质量指标为时延时，n个计算模块各自对应的子数据流图的数据是由n个计算模块并发计算的。

9、结合第一方面，在第一方面的某些实现方式中，当服务质量指标为吞吐量时，n个计算模块各自对应的子数据流图的数据是由n个计算模块独立计算的。

10、结合第一方面，在第一方面的某些实现方式中，n个计算模块，还用于使用交换操作对各自对应的子数据流图的数据进行交换。

11、基于上述技术方案，n个计算模块可以使用交换操作对各自对应的子数据流图的数据进行交换，从而可以保证n个计算模块对子数据流图的数据进行计算时的准确性。

12、结合第一方面，在第一方面的某些实现方式中，n个计算模块包括至少两个设备，至少两个设备通过互联装置组成至少一个设备组，一个设备组的算力大于或等于一个设备的算力。

13、基于上述技术方案，当n个计算模块包括至少两个设备时，该至少两个设备通过互联装置组成至少一个设备组，使得该一个设备组的算力大于或等于一个设备的算力，从而能够提高单个设备的利用率。

14、第二方面，提供了一种深度学习方法，包括：将数据流图分为m个子数据流图，并根据m个子数据流图的参数和n个计算模块的参数之间的映射关系，将m个子数据流图分配给n个计算模块，其中，m、n为正整数；对各自对应的子数据流图的数据进行计算。

15、基于上述技术方案，可以根据m个子数据流图的参数和n个计算模块的参数之间的映射关系，将m个子数据流图分配给n个计算模块，从而实现计算任务的自适应分配，提高了计算模块资源的利用率，也提高了计算模块处理计算任务的效率，降低了深度学习的应用难度。

16、结合第二方面，在第二方面的某些实现方式中，m个子数据流图的参数包括以下至少一项：m个子数据流图的数据优先级，m个子数据流图的数据量。

17、结合第二方面，在第二方面的某些实现方式中，n个计算模块的参数包括以下至少一项：n个计算模块之间的带宽、n个计算模块的算力、n个计算模块的存储容量。

18、结合第二方面，在第二方面的某些实现方式中，将数据流图分为m个子数据流图，包括：根据服务质量指标，将数据流图分为m个子数据流图。

19、结合第二方面，在第二方面的某些实现方式中，当服务质量指标为时延时，各自对应的子数据流图的数据是由n个计算模块并发计算的。

20、结合第二方面，在第二方面的某些实现方式中，当服务质量指标为吞吐量时，各自对应的子数据流图的数据是由n个计算模块独立计算的。

21、结合第二方面，在第二方面的某些实现方式中，方法还包括：使用交换操作对n个计算模块各自对应的子数据流图的数据进行交换。

22、第三方面，提供了一种深度学习系统，包括：存储器，用于存储程序；处理器，用于执行所述存储器存储的程序，当所述存储器存储的程序被执行时，所述处理器用于执行第二方面以及第二方面中的任意一种实现方式中的方法。

23、上述第三方面中的处理器既可以是中央处理器(central processing unit，cpu)，也可以是cpu与神经网络运算处理器的组合，这里的神经网络运算处理器可以包括图形处理器(graphics processing unit，gpu)、神经网络处理器(neural-networkprocessing unit，npu)和张量处理器(tensor processing unit，tpu)等等。其中，tpu是谷歌(google)为机器学习全定制的人工智能加速器专用集成电路。

24、第四方面，提供一种计算机可读存储介质，该计算机可读存储介质存储用于设备执行的程序代码，该程序代码包括用于执行第二方面或第二方面中的任意一种实现方式中的方法。

25、第五方面，提供一种包含指令的计算机程序产品，当该计算机程序产品在计算机上运行时，使得计算机执行上述第二方面或第二方面中的任意一种实现方式中的方法。

26、第六方面，提供一种芯片，所述芯片包括处理器与数据接口，所述处理器通过所述数据接口读取存储器上存储的指令，执行上述第二方面或第二方面中的任意一种实现方式中的方法。

27、可选地，作为一种实现方式，所述芯片还可以包括存储器，所述存储器中存储有指令，所述处理器用于执行所述存储器上存储的指令，当所述指令被执行时，所述处理器用于执行第二方面或第二方面中的任意一种实现方式中的方法。

28、第七方面，提供一种片上系统(system on a chip，soc)，soc包括上述第一方面或第一方面中的任意一种实现方式中的深度学习系统。