应用工作负载调度方法及系统、存储介质和电子设备与流程

本公开涉及云计算，更具体地，涉及一种应用工作负载调度方法、应用工作负载调度系统、计算机可读存储介质和电子设备。

背景技术：

1、随着用户设备中应用种类和数量的增多，对时延敏感的应用需要更多计算能力或硬件要求。例如gpu(graphic processing unit，图形处理单元)作为一种单芯片处理器，用于管理和提高视频和图形的性能。如何提高此类应用运行工作负载时的能力，减少应用执行工作负载时所需的流量和通信时延，逐渐受到关注。

2、目前，用户设备可通过访问边缘云中可用的虚拟化加速器来解决上述问题，然而边缘云系统是异构的，系统中通常存在各种硬件和软件堆栈的兼容性问题，一定程度影响基于边缘云的工作负载调度效果。

3、需要说明的是，在上述背景技术部分发明的信息仅用于加强对本公开的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。

技术实现思路

1、本公开的目的在于提供一种应用工作负载调度方法及系统、计算机可读存储介质和电子设备，进而能将工作负载从用户设备卸载至边缘云网络中的目标节点，提高运行工作负载时的性能，减少应用执行工作负载所需的流量和整体通信时延。

2、本公开的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本公开的实践而习得。

3、根据本公开的一个方面，提供一种应用工作负载调度方法，包括：

4、根据目标应用的虚拟化请求，在边缘云网络中广播节点请求信息；接收所述边缘云网络中的节点对所述节点请求信息的响应信息，所述响应信息中携带所述边缘云网络中的节点对应的节点指标数据；根据所述节点指标数据，从所述边缘云网络中的节点中确定目标节点以及启动所述目标节点对应的虚拟容器；将所述目标应用的工作负载卸载至所述目标节点，以基于所述目标节点对应的虚拟容器执行所述工作负载。

5、在本公开的一种示例性实施例中，所述将所述目标应用的工作负载卸载至所述目标节点，以基于所述目标节点对应的虚拟容器执行所述工作负载，包括：将所述目标应用对目标库的调用重定向至拦截库，以基于所述拦截库将所述目标应用的工作负载卸载至所述虚拟容器；其中，所述拦截库中包括所述目标库对应的库函数的改写函数，使根据所述改写函数能将所述目标库的库函数所需的数据发送至所述目标节点。

6、在本公开的一种示例性实施例中，所述节点请求信息中包括指标需求描述信息；所述接收所述边缘云网络中的节点对所述节点请求信息的响应信息，包括：接收所述边缘网络中的满足所述指标需求描述信息的节点对所述节点请求信息的响应信息。

7、在本公开的一种示例性实施例中，所述根据所述节点指标数据，从所述边缘云网络中的节点中确定目标节点以及启动所述目标节点对应的虚拟容器，包括：获取所述节点指标数据中各指标数据的权重；根据所述节点指标数据和各指标数据的权重，分别计算各所述节点对应的指标和值；基于各所述节点对应的指标和值，从各所述节点中确定所述目标节点；在所述目标节点启动对应的虚拟容器后，建立所述目标应用对应的用户设备与所述目标节点之间的连接。

8、在本公开的一种示例性实施例中，所述将所述目标应用的工作负载卸载至所述目标节点，以基于所述目标节点对应的虚拟容器执行所述工作负载，包括：向所述虚拟容器发送所述工作负载对应的资源检测请求，所述资源检测请求用于检测所述虚拟容器中是否存在执行所述工作负载所需的目标资源；接收所述虚拟容器的资源检测响应信息，若所述资源检测响应信息指示所述虚拟容器中未缓存所述目标资源，则向所述虚拟容器发送所述目标资源，使所述虚拟容器基于所述目标资源执行所述工作负载；若所述资源检测响应信息指示所述虚拟容器中已缓存所述目标资源，则使所述虚拟容器基于所述目标资源执行所述工作负载。

9、在本公开的一种示例性实施例中，所述将所述目标应用的工作负载卸载至所述目标节点，以基于所述目标节点对应的虚拟容器执行所述工作负载，包括：向所述目标节点发送所述目标应用的帧数据，以使所述虚拟容器基于所述帧数据执行所述工作负载；接收所述虚拟容器发送的所述帧数据的处理结果。

10、在本公开的一种示例性实施例中，所述方法还包括：持续接收所述边缘云网络中的节点对所述节点请求信息的响应信息；在所述接收所述虚拟容器发送的所述帧数据的处理结果之后，所述方法还包括：若根据接收到的响应信息中的节点指标数据确定需要进行节点迁移，则根据所述节点指标数据，确定待迁移节点以及启动所述待迁移节点对应的虚拟容器；将所述目标应用的工作负载卸载至所述待迁移节点对应的虚拟容器，以基于所述待迁移节点对应的虚拟容器继续执行所述工作负载。

11、在本公开的一种示例性实施例中，所述若根据接收到的响应信息中的节点指标数据确定需要进行节点迁移，则根据所述节点指标数据，确定待迁移节点以及启动所述待迁移节点对应的虚拟容器，还包括：暂停所述目标应用的执行，在所述目标应用对应的用户设备与所述待迁移节点之间建立连接后，开始执行所述目标应用。

12、在本公开的一种示例性实施例中，根据接收到的响应信息中的节点指标数据确定需要进行节点迁移，包括：根据接收到的响应信息中的节点指标数据，确定存在新节点的指标和值大于所述目标节点的指标和值，则将所述新节点确定为所述待迁移节点。

13、在本公开的一种示例性实施例中，若所述目标节点的数量为多个，则所述将所述目标应用的工作负载卸载至所述虚拟容器，以基于所述虚拟容器执行所述工作负载，包括：将所述目标应用的工作负载分配至各所述目标节点对应的虚拟容器，以通过各所述目标节点对应的虚拟容器协同执行所述工作负载。

14、根据本公开的一个方面，提供一种应用工作负载调度系统，包括调度模块，所述调度模块用于：根据目标应用的虚拟化请求，在边缘云网络中广播节点请求信息；接收所述边缘云网络中的节点对所述节点请求信息的响应信息，所述响应信息中携带所述节点对应的节点指标数据；根据所述节点指标数据，从所述节点中确定目标节点以及启动所述目标节点对应的虚拟容器；将所述目标应用的工作负载卸载至所述目标节点，以基于所述目标节点对应的虚拟容器执行所述工作负载。

15、在本公开的一种示例性实施例中，所述系统还包括拦截库和重定向模块；所述重定向模块用于将所述目标应用对目标库的调用重定向至拦截库，以基于所述拦截库将所述目标应用的工作负载卸载至所述虚拟容器；其中，所述拦截库中包括所述目标库对应的库函数的改写函数，使根据所述改写函数能将所述目标库的库函数所需的数据发送至所述目标节点。

16、在本公开的一种示例性实施例中，所述系统还包括：通信模块，用于在所述目标应用对应的用户设备与所述目标节点之间传输数据。

17、在本公开的一种示例性实施例中，所述调度模块还用于：持续接收所述边缘云网络中的节点对所述节点请求信息的响应信息；若根据接收到的响应信息中的节点指标数据确定需要进行节点迁移，则根据所述节点指标数据，确定待迁移节点以及启动所述待迁移节点对应的虚拟容器；将所述目标应用的工作负载卸载至所述待迁移节点对应的虚拟容器，以基于所述待迁移节点对应的虚拟容器继续执行所述工作负载。

18、在本公开的一种示例性实施例中，所述系统还包括：迁移模块，用于若根据接收到的响应信息中的节点指标数据确定需要进行节点迁移，则暂停所述目标应用的执行，在所述目标应用对应的用户设备与所述待迁移节点之间建立连接后，开始执行所述目标应用。

19、根据本公开的一个方面，提供一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现上述任意一项所述的方法。

20、根据本公开的一个方面，提供一种电子设备，包括：处理器；以及存储器，用于存储所述处理器的可执行指令；其中，所述处理器配置为经由执行所述可执行指令来执行上述任意一项所述的方法。

21、本公开的示例性实施例中的应用工作负载调度方法，根据目标应用的虚拟化请求，在边缘云网络中广播节点请求信息，然后接收边缘云网络中的节点对节点请求信息的响应信息，该响应信息中携带边缘云网络中的节点对应的节点指标数据，进而根据节点指标数据，从边缘云网络中的节点中确定目标节点以及启动目标节点对应的虚拟容器，最后将目标应用的工作负载卸载至目标节点，以基于目标节点对应的虚拟容器执行工作负载。该过程能够将工作负载从用户设备准确卸载至边缘云网络中合适的目标节点，提高运行工作负载时的性能，减少应用执行工作负载所需的流量和整体通信时延。

22、应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。