一种数据处理的方法、装置和可读存储介质与流程

本发明涉及计算机，具体涉及一种数据处理的方法、装置和可读存储介质。

背景技术：

1、随着人工智能技术的发展，人工智能领域的应用通常需要密集的数据处理和科学计算；通用的计算机系统不能满足日益增长的人工智能应用需求，因此，提出了一种计算机辅助设备，即神经网络计算加速卡，专门用于人工智能应用所需要的科学计算，可以极大的提高各类人工智能应用的效率。

2、现有技术中，所述神经网络计算加速卡也是一个计算机系统，通过特定的硬件接口与通用的计算机系统连接，利用所述神经网卡计算加速卡来完成特定的数据处理和科学计算。所述神经网卡计算加速卡需要执行数据的输入、计算和输出三个环节，现有技术中，所述神经网卡计算加速卡单独针对每个处理流，采用顺序执行的方式执行上述三个环节，首先需要处理输入任务，然后处理计算任务，最后处理输出任务，然后继续执行下一轮数据的输入、计算和输出，处理效率较低，造成资源的浪费。

3、综上所述，如何在不影响所述输入、计算和输出三个环节的处理顺序的情况下提高处理效率是目前需要解决的问题。

技术实现思路

1、有鉴于此，本发明实施例提供了一种数据处理的方法、装置和可读存储介质，可以提高数据处理效率，提高资源利用率。

2、第一方面，本发明实施例提供了一种数据处理的方法，该方法包括：

3、获取至少一个设定类型的目标子任务，其中，所述设定类型的目标子任务为所述设定类型对应的子任务列表中的任务；

4、响应于所述目标子任务为其所属处理流中的第一个子任务，调度所述目标子任务至对应的执行单元执行所述目标子任务，其中，所述处理流为按照请求时间排序的子任务的集合。

5、可选的，该方法还包括：

6、响应于所述执行单元完成所述目标子任务，在所述目标子任务对应的子任务列表中删除所述目标子任务。

7、可选的，该方法还包括：

8、响应于所述目标子任务并非其所属处理流中的第一个子任务，获取所述设定类型对应的子任务列表中的下一个子任务作为目标子任务。

9、可选的，所述设定类型对应的子任务列表中的任务，按照其在所属处理流中的请求时间从前至后排序；和/或

10、所述设定类型对应的子任务列表包括输入子任务列表、计算子任务列表、输出子任务列表。

11、可选的，响应于所述目标子任务为任一处理流中的第一个子任务之后，该方法还包括：

12、获取所述目标子任务对应的子任务列表中所述目标子任务之后的至少一个待处理子任务；

13、响应于所述至少一个待处理子任务与所述目标子任务属于同一个所述处理流，且与所述目标子任务的执行连续，合并所述目标子任务与所述至少一个待处理子任务，以调度所述合并后的子任务至对应的执行单元执行所述合并后的子任务。

14、可选的，所述获取至少一个设定类型的目标子任务，具体包括：

15、获取至少一个设定类型的子任务列表中多个子任务的时间成本最小的子任务；

16、将所述时间成本最小的子任务确定为所述目标子任务。

17、可选的，所述获取至少一个设定类型的目标子任务，具体包括：

18、对于每个设定类型对应的多个子任务列表，按照设定的优先级，从该设定类型对应的多个子任务列表中，获取至少一个目标子任务列表；

19、从所述至少一个目标子任务列表中，获取该设定类型的目标子任务。

20、可选的，该方法还包括：

21、响应于所述目标子任务为其所属处理流中的暂停点，对于每个设定类型对应的子任务列表，从中获取不属于所述暂停点所属处理流的子任务，确定为该设定类型的目标子任务。

22、第二方面，本发明实施例提供了一种数据处理的装置，该装置包括：

23、获取单元，用于获取至少一个设定类型的目标子任务，其中，所述设定类型的目标子任务为所述设定类型对应的子任务列表中的任务；

24、处理单元，响应于所述目标子任务为其所属处理流中的第一个子任务，用于调度所述目标子任务至对应的执行单元执行所述目标子任务，其中，所述处理流为按照请求时间排序的子任务的集合。

25、可选的，该装置还包括：

26、删除单元，响应于所述执行单元完成所述目标子任务，用于在所述目标子任务对应的子任务列表中删除所述目标子任务。

27、可选的，所述处理单元还用于：

28、响应于所述目标子任务并非其所属处理流中的第一个子任务，获取所述设定类型对应的子任务列表中的下一个子任务作为目标子任务。

29、可选的，所述设定类型对应的子任务列表中的任务，按照其在所属处理流中的请求时间从前至后排序；和/或

30、所述设定类型对应的子任务列表包括输入子任务列表、计算子任务列表、输出子任务列表。

31、可选的，所述获取单元还用于：获取所述目标子任务对应的子任务列表中所述目标子任务之后的至少一个待处理子任务；

32、所述装置还包括：合并单元，响应于所述至少一个待处理子任务与所述目标子任务属于同一个所述处理流，且与所述目标子任务的执行连续，用于合并所述目标子任务与所述至少一个待处理子任务，以调度所述合并后的子任务至对应的执行单元执行所述合并后的子任务。

33、可选的，所述获取单元具体用于：

34、获取至少一个设定类型的子任务列表中多个子任务的时间成本最小的子任务；

35、将所述时间成本最小的子任务确定为所述目标子任务。

36、可选的，所述获取单元具体用于：

37、对于每个设定类型对应的多个子任务列表，按照设定的优先级，从该设定类型对应的多个子任务列表中，获取至少一个目标子任务列表；

38、从所述至少一个目标子任务列表中，获取该设定类型的目标子任务。

39、可选的，所述处理单元还用于：响应于所述目标子任务为其所属处理流中的暂停点，对于每个设定类型对应的子任务列表，从中获取不属于所述暂停点所属处理流的子任务，确定为该设定类型的目标子任务。

40、第三方面，本发明实施例提供了一计算机程序指令，所述计算机程序指令在被处理器执行时实现如第一方面或第一方面任一种可能中任一项所述的方法。

41、第四方面，本发明实施例提供了一种计算机可读存储介质，其上存储计算机程序指令，所述计算机程序指令在被处理器执行时实现如第一方面或第一方面任一种可能中任一项所述的方法。

42、第五方面，本发明实施例提供了一种芯片，包括存储器和处理核，所述存储器用于存储一条或多条计算机程序指令，其中，所述一条或多条计算机程序指令被所述处理核执行以实现如第一方面或第一方面任一种可能中任一项所述的方法。

43、第六方面，本发明实施例提供了一种板卡，所述板卡上包括所述第五方面的芯片。

44、第七方面，本发明实施例提供了一种服务器，所述服务器上包括所述第六方面的板卡。

45、本发明实施例通过获取至少一个设定类型的目标子任务，其中，所述设定类型的目标子任务为所述设定类型对应的子任务列表中的任务；响应于所述目标子任务为其所属处理流中的第一个子任务，调度所述目标子任务至对应的执行单元执行所述目标子任务，其中，所述处理流为按照请求时间排序的子任务的集合。通过上述方法，可以同时对多个设定类型对应的多个目标子任务，当所述多个目标子任务都为其所属的处理流中的第一个子任务时，不同的执行单元可以在同一时间分别对其对应的目标子任务进行处理，进而可以提高数据处理效率，提高资源利用率。