一种异构多集群的数据处理方法、装置、介质及终端与流程

1.本发明涉及多集群数据处理领域，尤其涉及一种异构多集群的数据处理方法、装置、介质及终端。


背景技术：

2.多个节点服务器通过局域网络组建成为一个集群，共同实现业务服务。为保证大规模业务的全面数据处理，通常需要设置多个集群。在用户生产环境存在多个集群的情况下，集群数据处理员需要对所有集群中对业务可靠性存在影响的所有服务组件的运行状态，资源和配置状态等进行数据处理。
3.现有多集群或多云作业调度数据处理会面临各个集群之间异构性的问题，异构集群之间不仅集群硬件不一致，各个集群内使用的集群调度数据处理软件也可能不一致，在使用异构集群时，由于集群调度数据处理软件不同，会导致各个集群对外接口不一致，从而使现有异构多集群调度较为困难，导致提交的作业无法正常运行和造成集群资源的极大浪费。


技术实现要素：

4.鉴于上述现有技术的不足，本技术的目的在于提供一种异构多集群的数据处理方法、装置、介质及终端，旨在解决异构多集群调度较为困难的问题。
5.为解决上述技术问题，本技术实施例第一方面提供了一种异构多集群的数据处理方法，所述方法包括：
6.一种异构多集群的数据处理方法，包括：
7.在kubernetes数据处理系统中增加新的kubernetes虚拟节点，将每个所述kubernetes虚拟节点与异构多集群中的每个异构集群相对应；
8.基于所述kubernetes虚拟节点为每个所述异构集群单独创建一个适配器；
9.在kubernetes数据处理系统中部署一个与所述适配器相对应的节点代理程序，其中，所述适配器通过所述节点代理程序可与kubernetes的应用编程接口服务器通信；
10.基于所述节点代理程序，将所述应用编程接口服务器对kubelet的操作转换为对异构集群的作业操作。
11.作为进一步的改进技术方案，所述在kubernetes数据处理系统中增加新的kubernetes虚拟节点，将每个所述kubernetes虚拟节点与异构多集群中的每个异构集群相对应包括：
12.通过编写实现virtual-kubelet中供应节点接口的ping功能；
13.通过编写实现所述virtual-kubelet中供应节点接口的通知节点状态功能；
14.启动所述virtual-kubelet的虚拟节点服务，在kubernetes数据处理系统中增加一个新的kubernetes虚拟节点，将每个所述kubernetes虚拟节点与异构多集群中的每个异构集群相对应。
15.作为进一步的改进技术方案，所述基于所述kubernetes虚拟节点为每个所述异构集群单独创建一个适配器包括：
16.基于所述kubernetes虚拟节点为每个所述异构集群单独创建一个适配器，使用golang语言为适配器编写统一接口，所述统一接口包括创建作业、停止作业、获取作业信息和获取作业资源规格功能，其中，接口的编写需要调用所述适配器对应异构集群的原生api。
17.作为进一步的改进技术方案，所述在kubernetes数据处理系统中部署一个与所述适配器相对应的节点代理程序，其中，所述适配器通过所述节点代理程序可与kubernetes的应用编程接口服务器通信包括：
18.基于virtual-kubelet开源框架创建一个节点代理程序；
19.编写所述节点代理程序的接口标准，实现virtual-kubelet开源框架中podlifecyclehandler接口的创建pod、删除pod、获取pod信息、通知pod和通知节点状态功能；
20.基于所述创建pod、删除pod、获取pod信息、通知pod和通知节点状态功能，实现所述节点代理程序与kubernetes的应用编程接口服务器的通信。
21.作为进一步的改进技术方案，所述基于所述节点代理程序，将所述应用编程接口服务器对kubelet的操作转换为对异构集群的作业操作包括：
22.基于所述节点代理程序的创建pod功能调用适配器统一接口的创建作业功能；
23.基于所述节点代理程序的删除pod功能调用适配器统一接口的停止作业功能；
24.基于所述节点代理程序的获取pod信息功能调用适配器统一接口的获取作业信息功能；
25.基于所述节点代理程序的通知pod功能，通过定时任务调用适配器统一接口的获取作业信息功能获取作业状态并更新pod的状态；
26.基于节点代理程序的通知节点状态功能，通过定时任务调用适配器统一接口的获取作业资源规格获取异构集群的资源情况并更新虚拟节点的资源状态。
27.作为进一步的改进技术方案，所述创建作业功能用于向对应的异构集群提交创建作业的请求，所述停止作业功能用于将正在异构集群中运行的作业进行停止。
28.作为进一步的改进技术方案，所述获取作业信息功能用于向异构集群获取作业的信息，获取作业资源规格功能用于向异构集群获取资源规格的信息。
29.作为进一步的改进技术方案，所述创建pod功能通过调用所述适配器统一接口的创建作业功能将kubernetes创建的单集群pod转换为创建异构集群的作业，所述删除pod功能通过调用所述适配器统一接口的停止作业功能将kubernetes要删除的单集群pod转换为删除对应的异构集群作业。
30.作为进一步的改进技术方案，所述获取pod信息功能通过调用所述适配器统一接口的获取作业信息功能将kubernetes的应用编程接口服务器获取pod信息转换为获取对应的异构集群作业信息。
31.作为进一步的改进技术方案，所述通知pod功能通过定时调用所述适配器统一接口的获取作业信息功能向kubernetes通知pod状态的信息，所述通知节点状态功能通过定时调用所述适配器统一接口的获取作业资源规格功能获取异构集群资源信息，并向
kubernetes通知节点资源的信息。
32.本技术实施例第二方面提供了一种异构多集群的数据处理装置，包括：
33.虚拟节点模块，用于在kubernetes数据处理系统中增加新的kubernetes虚拟节点，将每个所述kubernetes虚拟节点与异构多集群中的每个异构集群相对应；
34.创建适配器模块，用于基于所述kubernetes虚拟节点为每个所述异构集群单独创建一个适配器；
35.软件创建模块，用于在kubernetes数据处理系统中部署一个与所述适配器相对应的节点代理程序，其中，所述适配器通过所述节点代理程序可与kubernetes的应用编程接口服务器通信；
36.操作转换模块，用于基于所述节点代理程序，将所述应用编程接口服务器对kubelet的操作转换为对异构集群的作业操作。
37.本技术实施例第三方面提供了一种计算机可读存储介质，所述计算机可读存储介质存储有一个或者多个程序，所述一个或者多个程序可被一个或者多个处理器执行，以实现如上任一所述的异构多集群的数据处理方法中的步骤。
38.本技术实施例第四方面提供了一种终端设备，其包括：处理器、存储器及通信总线；所述存储器上存储有可被所述处理器执行的计算机可读程序；
39.所述通信总线实现处理器和存储器之间的连接通信；
40.所述处理器执行所述计算机可读程序时实现如上任一所述的异构多集群的数据处理方法中的步骤。
41.有益效果：相较于现有技术本发明的异构多集群的数据处理方法包括，在kubernetes数据处理系统中增加新的kubernetes虚拟节点，将每个所述kubernetes虚拟节点与异构多集群中的每个异构集群相对应；基于所述kubernetes虚拟节点为每个所述异构集群单独创建一个适配器；在kubernetes数据处理系统中部署一个与所述适配器相对应的节点代理程序，其中，所述适配器通过所述节点代理程序可与kubernetes的应用编程接口服务器通信；基于所述节点代理程序，将所述应用编程接口服务器对kubelet的操作转换为对异构集群的作业操作；本发明采用上述方法后解决了异构多集群调度较为困难的问题，实现了能够通过使用kubernetes集群软件像数据处理普通的单集群一样去数据处理异构的多集群。
附图说明
42.图1是本发明的异构多集群的数据处理方法的流程图。
43.图2是本发明提供的终端设备的结构原理图。
44.图3是本发明提供的装置结构框图。
45.图4是本发明的异构多集群的数据处理方法的原理图。
46.本发明目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。
具体实施方式
47.为了便于理解本技术，下面将参照相关附图对本技术进行更全面的描述。附图中给出了本技术的较佳实施方式。但是，本技术可以以许多不同的形式来实现，并不限于本文
所描述的实施方式。相反地，提供这些实施方式的目的是使对本技术的公开内容理解的更加透彻全面。
48.除非另有定义，本文所使用的所有的技术和科学术语与属于本技术的技术领域的技术人员通常理解的含义相同。本文中在本技术的说明书中所使用的术语只是为了描述具体的实施方式的目的，不是旨在于限制本技术。
49.发明人经过研究发现，现有技术存在以下问题：
50.(1)kubernetes(简称k8s，是用8代替8个字符“ubernete”而成的缩写)是一个开源的，用于数据处理云平台中多个主机上的容器化的应用。
51.现有多集群或多云作业调度数据处理会面临各个集群之间异构性的问题，异构集群之间不仅集群硬件不一致各个集群内使用的集群调度数据处理软件也可能不一致。例如，a集群数据处理的是超级计算机集群，使用的集群调度数据处理软件为slurm；b集群使用了华为研发的modelart,我们只能通过它提供的api进行操作；c集群则是一个基于kubernetes的私有集群；在使用异构集群时，由于集群调度数据处理软件不同，会导致各个集群对外接口不一致，从而使现有异构多集群调度较为困难；而现有作业运行由于需要占用一定的资源，系统需要判断哪个集群资源能够满足作业要求，并将作业分配给相应的集群，当数据处理员要提交一个作业到异构集群中进行运行时，系统无法根据集群资源能否满足作业要求而对作业进行分配，导致作业无法正常运行或导致集群资源极大的浪费。
52.(2)异构多集群的作业调度，朴素的做法是创建一个调度器，该调度器使用各个集群的api和集群通信，根据获得的信息来决定作业的调度操作。然而该实现方式需要自己实现所有的调度策略而无法使用当前开源的调度器方案，扩展性和功能性都较差；而当前围绕kubernetes集群数据处理软件的云原生开源生态发展如火如荼，基于kubernetes集群数据处理软件之上的单集群调度器解决方案也有很多新的发展，比如kubernetes原生调度器kube-sheduler、华为volcano调度器等。如何能够让异构的多集群间作业调度问题转化为基于kubernetes的单集群内部的调度问题，从而能够充分利用围绕kubernetes的云原生社区已有的开源项目的能力，使用已有的面向kubernetes的调度器的强大功能，是现有技术待解决的技术问题。
53.为了解决上述问题，下面结合附图，详细说明本技术的各种非限制性实施方式。
54.如图1所示，本技术实施例提供的一种异构多集群的数据处理方法，包括以下步骤：
55.s1，在kubernetes数据处理系统中增加新的kubernetes虚拟节点，将每个所述kubernetes虚拟节点与异构多集群中的每个异构集群相对应；
56.具体的，将一个异构集群向上表示为一个虚拟的kubernetes虚拟节点，在kubernetes单集群数据处理系统的视角下，该虚拟的kubernetes虚拟节点和普通的kubernetes工作节点逻辑上是一致的。kubernetes单集群数据处理系统下的所有能力，包括调度器的能力、作业控制器的能力和其他所有组件的能力都能够复用，以此为基础，可以使用围绕kubernetes单集群数据处理系统的开源生态能力，包括开源的kube-scheduler以及其功能丰富的插件、volcano调度器、各种作业和自定义资源控制器。
57.其中，所述在kubernetes数据处理系统中增加新的kubernetes虚拟节点，将每个所述kubernetes虚拟节点与异构多集群中的每个异构集群相对应包括以下步骤：
58.s101，通过编写实现virtual-kubelet中供应节点接口的ping功能；
59.s102，通过编写实现所述virtual-kubelet中供应节点接口的通知节点状态功能；
60.s103，启动所述virtual-kubelet的虚拟节点服务，在kubernetes数据处理系统中增加一个新的kubernetes虚拟节点，将每个所述kubernetes虚拟节点与异构多集群中的每个异构集群相对应。
61.具体的，使用virtual-kubelet开源框架实现一个虚拟节点，具体需要通过编写实现virtual-kubelet中供应节点(nodeprovider)接口的ping功能和virtual-kubelet中供应节点接口的通知节点状态(notifynodestatus)功能，启动virtual-kubelet开源框架的虚拟节点服务之后，在kubernetes数据处理系统中将增加一个新的kubernetes虚拟节点，该新的kubernetes虚拟节点代表一个异构集群，其实现的原理为vitual-kubelet能够创建一个kubernetes的node资源对象，但该node资源对象并不对应真实的物理节点，而是一个逻辑节点。
62.s2，基于所述kubernetes虚拟节点为每个所述异构集群单独创建一个适配器；
63.每个异构集群的适配器屏蔽了各异构集群软件的api差异，适配器向下跟每个异构集群内部的api进行通信，包括调用集群api向集群提交作业、获取集群作业运行情况、获取集群资源信息等，适配器向上跟虚拟节点代理进行通信，虚拟节点代理可以使用适配器提供的一致的api间接和各异构集群通信。
64.其中，所述基于所述kubernetes虚拟节点为每个所述异构集群单独创建一个适配器包括：
65.基于所述kubernetes虚拟节点为每个所述异构集群单独创建一个适配器，使用golang语言为适配器编写统一接口，所述统一接口包括创建作业、停止作业、获取作业信息和获取作业资源规格功能，其中，接口的编写需要调用所述适配器对应异构集群的原生api。
66.具体的，适配器使用golang语言编写，适配器主要由各个异构集群的开发者或维护者根据我们定义好的接口标准来实现功能，主要定义了一套统一接口，统一接口包括创建作业(createtrainjob)、停止作业(stoptrainjob)、获取作业信息(gettrainjob)和获取作业资源规格(getresourcespec)功能。这些统一接口的功能分别调用该适配器对应的异构集群的原生api来实现，适配器与异构集群的通信采用http协议。
67.其中，所述创建作业功能用于向对应的异构集群提交创建作业的请求，所述停止作业功能用于将正在异构集群中运行的作业进行停止。
68.所述获取作业信息功能用于向异构集群获取作业的信息，获取作业资源规格功能用于向异构集群获取资源规格的信息。
69.具体的，创建作业：用于创建作业；创建作业功能具体用于实现向其对应的异构集群提交创建作业的请求，创建作业的传入参数包括作业名称、镜像名称、作业启动命令、作业所需资源规格等；创建作业的返回参数为作业id；
70.停止作业：用于停止作业，该停止作业功能具体用于将正在异构集群中运行的作业进行停止，停止作业的传入参数为作业id；
71.获取作业信息：用于获取作业信息；该获取作业信息功能具体用于实现向异构集群获取某作业的信息，获取作业信息的传入参数为作业id，获取作业信息的返回参数包括
该作业的名称、作业运行状态、作业开始运行时间、作业结束运行时间等；
72.获取作业资源规格：用于获取作业资源规格信息；该获取作业资源规格具体用于实现向异构集群获取资源规格的信息，获取作业资源规格的传入参数为资源规格类型；获取作业资源规格的返回参数为该资源规格该异构集群是否能够满足。
73.s3，在kubernetes数据处理系统中部署一个与所述适配器相对应的节点代理程序，其中，所述适配器通过所述节点代理程序可与kubernetes的应用编程接口服务器通信；
74.具体的，每一个节点代理程序负责向下与其对应的适配器通信，调用其统一的api接口来间接和异构集群通信，节点代理程序向上通过实现kubernetes普通节点代理的通用接口和kubernetes中应用编程接口服务器通信。实现这些功能需要通过调用适配器中统一接口的功能来实现。
75.其中，所述在kubernetes数据处理系统中部署一个与所述适配器相对应的节点代理程序，其中，所述适配器通过所述节点代理程序可与kubernetes的应用编程接口服务器通信包括包括以下步骤：
76.s301，基于virtual-kubelet开源框架创建一个节点代理程序；
77.s302，编写所述节点代理程序的接口标准，实现virtual-kubelet开源框架中podlifecyclehandler接口的创建pod(createpod)、删除pod(deletepod)、获取pod信息(getpod)、通知pod(notifypods)和通知节点状态(notifynodestatus)功能；
78.s303，基于所述创建pod、删除pod、获取pod信息、通知pod和通知节点状态功能，实现所述节点代理程序与kubernetes的应用编程接口服务器的通信。
79.具体的，为每个适配器创建一个能够与kubernetes中应用编程接口服务器通信的节点代理程序，该节点代理程序的实现使用virtual-kubelet开源框架，从而实现virtual-kubelet开源框架中podlifecyclehandler接口的创建pod、删除pod、获取pod信息、通知pod和通知节点状态功能。实现这些功能之后该节点代理程序就可以接收kubernetes的应用编程接口服务器的各种操作指令。
80.s4，基于所述节点代理程序，将所述应用编程接口服务器对kubelet的操作转换为对异构集群的作业操作。
81.具体的，可通过节点代理程序，将kubernetes的应用编程接口服务器对kubelet的操作转换为对异构集群的作业操作。
82.其中，所述基于所述节点代理程序，将所述应用编程接口服务器对kubelet的操作转换为对异构集群的作业操作包括以下步骤：
83.s401，基于所述节点代理程序的创建pod功能调用适配器统一接口的创建作业功能；
84.s402，基于所述节点代理程序的删除pod功能调用适配器统一接口的停止作业功能；
85.s403，基于所述节点代理程序的获取pod信息功能调用适配器统一接口的获取作业信息功能；
86.s404，基于所述节点代理程序的通知pod功能，通过定时任务调用适配器统一接口的获取作业信息功能获取作业状态并更新pod的状态；
87.s405，基于节点代理程序的通知节点状态功能，通过定时任务调用适配器统一接
口的获取作业资源规格获取异构集群的资源情况并更新虚拟节点的资源状态。
88.具体的，所述创建pod功能通过调用所述适配器统一接口的创建作业功能将kubernetes创建的单集群pod转换为创建异构集群的作业，所述删除pod功能通过调用所述适配器统一接口的停止作业功能将kubernetes要删除的单集群pod转换为删除对应的异构集群作业。
89.具体的，所述获取pod信息功能通过调用所述适配器统一接口的获取作业信息功能将kubernetes的应用编程接口服务器获取pod信息转换为获取对应的异构集群作业信息。
90.具体的，所述通知pod功能通过定时调用所述适配器统一接口的获取作业信息功能向kubernetes通知pod状态的信息，所述通知节点状态功能通过定时调用所述适配器统一接口的获取作业资源规格功能获取异构集群资源信息，并向kubernetes通知节点资源的信息。
91.具体而言，在节点代理程序的创建pod调用适配器的创建作业；在节点代理程序的删除pod调用适配器的停止作业；在节点代理程序的获取pod信息调用适配器的获取作业信息；在节点代理程序的通知pod接口则通过定时任务调用获取作业信息获取作业状态更新pod的状态；在节点代理程序的通知节点状态接口通过定时任务调用获取作业资源规格获取异构集群的资源情况更新虚拟节点的资源状态。
92.创建pod:创建pod功能实现；当kubernetes要创建一个单集群pod时，在此实现中将该操作转换为创建一个异构集群的作业，通过调用适配器的创建作业功能来实现。
93.删除pod：删除pod功能实现；当kubernetes要删除一个单集群pod时，在此实现中将该操作转换为删除其对应的异构集群作业，通过调用适配器的停止作业功能来实现。
94.获取pod信息：获取pod信息；当通过kubernetes的应用编程接口服务器获取pod信息时，在此实现中将该操作转换为获取其对应的异构集群作业信息，通过调用适配器的获取作业信息功能来实现。
95.通知pod：主动通知pod信息变更实现；通过定时调用适配器的获取作业信息功能来及时通知kubernetes关于pod的状态等信息变更。
96.通知节点状态：主动通知节点信息变更实现；通过定时调用适配器的获取作业资源规格来获取异构集群资源相关信息，来及时通知kubernetes关于节点的资源等信息变更。
97.为了能像数据处理普通的kubernetes单集群一样去数据处理异构的多集群，通过将每一个集群表示为一个虚拟节点，为每个虚拟节点创建一个节点代理程序和一个适配器。每个集群适配器屏蔽了各异构集群软件的api差异，向下跟每个集群内部的api进行通信，包括调用集群api向集群提交作业、获取集群作业运行情况、获取集群资源信息等。适配器向上跟虚拟节点代理进行通信，虚拟节点代理可以使用适配器提供的一致的api间接和各集群通信。虚拟节点代理向上则和kubernetes的应用编程接口服务器进行通信，伪装成为一个普通的kubernetes虚拟节点代理。为此，该虚拟节点代理需要实现kubernetes虚拟节点代理的功能接口，以能够接受kubernetes的数据处理和操作。
98.本方法有以下优点：
99.将异构多集群的作业数据处理和调度问题转化为单集群kubernetes作业数据处
理和调度，由此可以充分利用围绕kubernetes开源社区的丰富和强大能力；
100.适配器的设计使得架构上分层解耦，虚拟节点代理只需要调用统一的api，而不需要调用异构集群的原生api，适配器由异构集群的开发者和维护者实现，只要按照我们提出的接口标准实现即可；
101.虚拟节点代理的设计将异构集群逻辑上表示为一个普通节点，能够由kubernetes直接进行控制，且该节点代理屏蔽了下层的异构差异，向上保持了kubernetes的完整功能。
102.举例说明：
103.下以接入使用modelarts的集群为例：
104.第一步：为modelarts集群创建一个适配器，使用golang语言编写，使用http协议与modelarts通信，主要实现以下统一接口：
105.创建作业：通过http的post方法，请求url为/training-jobs，post方法的body传入参数包括：任务名，镜像id，资源规格id，启动命令；此功能用于创建作业。
106.停止作业：通过http的post方法，请求modelarts的url为/training-jobs/{jobid}/versions/{versionid}/stop，以停止该jobid的作业；
107.获取作业信息：通过http的get方法，请求modelarts的url为/training-jobs/{jobid}/versions，获取作业信息；
108.获取作业资源规格：通过http的get方法，请求modelarts的url为/flavors，获取资源规格信息。
109.第二步：使用golang语言创建一个provider项目，引入virtual-kubelet的库，分别实现virtual-kubelet的供应节点(nodeprovider)和通知节点状态接口的所有功能，这些功能的实现需要调用对应适配器的统一接口，具体如下：
110.通知节点状态：通过定时器定时调用适配器的获取作业资源规格功能，获取modelarts集群的资源使用情况，从而通知虚拟节点的资源使用情况。
111.创建pod：调用适配器的创建作业功能，以实现kubernetes创建pod到适配器创建异构集群作业的转换。
112.删除pod：调用适配器的停止作业功能，以实现kubernetes删除pod到适配器停止异构集群作业的转换。
113.获取pod信息：调用适配器的获取作业信息功能，以实现kubernetes获取pod信息到适配器获取异构集群作业信息的转换。
114.通知pod：过定时器定时调用适配器的获取作业信息功能，获取作业的即时状态信息，从而通知pod的状态信息。
115.第三步：运行适配器服务和provider服务。用户通过创建kubernetes的pod资源，该pod资源由kubernetes调度器调度到该provider代表的虚拟节点上，触发了provider中的创建pod功能。创建pod功能调用了适配器的创建作业功能，适配器的创建作业功能则通过post请求将创建作业请求发送到modelarts集群，从而成功地创建了异构集群作业。
116.第四步：当modelarts的状态变更为运行中，通知pod通过定时器即时通过适配器的获取作业信息功能获取到该状态信息，将pod的状态更新为running。用过在kubernetes的命令行数据处理工具可以查询得到该pod的运行状态。
117.第五步：用户通过kubernetes的命令行数据处理工具或应用编程接口服务器d接
口发起删除该pod资源，触发了provider中的删除pod功能。删除pod功能调用了适配器的停止作业功能，适配器的停止作业功能则通过post请求将停止作业请求发送到modelarts集群，从而成功地停止了异构集群作业。
118.基于上述异构多集群的数据处理方法，本实施例提供了一种异构多集群的数据处理装置，包括：
119.虚拟节点模块1，用于在kubernetes数据处理系统中增加新的kubernetes虚拟节点，将每个所述kubernetes虚拟节点与异构多集群中的每个异构集群相对应；
120.创建适配器模块2，用于基于所述kubernetes虚拟节点为每个所述异构集群单独创建一个适配器；
121.软件创建模块3，用于在kubernetes数据处理系统中部署一个与所述适配器相对应的节点代理程序，其中，所述适配器通过所述节点代理程序可与kubernetes的应用编程接口服务器通信；
122.操作转换模块4，用于基于所述节点代理程序，将所述应用编程接口服务器对kubelet的操作转换为对异构集群的作业操作。
123.此外值得说明，本实施例提供的基于异构多集群的数据处理装置的工作过程与上述异构多集群的数据处理方法的工作过程相同，具体可以参照异构多集群的数据处理方法的工作过程，这里就不再赘述。
124.基于上述异构多集群的数据处理方法，本实施例提供了一种计算机可读存储介质，所述计算机可读存储介质存储有一个或者多个程序，所述一个或者多个程序可被一个或者多个处理器执行，以实现如上述实施例所述的异构多集群的数据处理方法中的步骤。
125.如图2所示，基于上述异构多集群的数据处理方法，本技术还提供了一种终端设备，其包括至少一个处理器(processor)20；显示屏21；以及存储器(memory)22，还可以包括通信接口(communications interface)23和总线24。其中，处理器20、显示屏21、存储器22和通信接口23可以通过总线24完成相互间的通信。显示屏21设置为显示初始设置模式中预设的用户引导界面。通信接口23可以传输信息。处理器20可以调用存储器22中的逻辑指令，以执行上述实施例中的方法。
126.此外，上述的存储器22中的逻辑指令可以通过软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。
127.存储器22作为一种计算机可读存储介质，可设置为存储软件程序、计算机可执行程序，如本公开实施例中的方法对应的程序指令或模块。处理器20通过运行存储在存储器22中的软件程序、指令或模块，从而执行功能应用以及数据处理，即实现上述实施例中的方法。
128.存储器22可包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序；存储数据区可存储根据终端设备的使用所创建的数据等。此外，存储器22可以包括高速随机存取存储器，还可以包括非易失性存储器。例如，u盘、移动硬盘、只读存储器(read-only memory，rom)、随机存取存储器(random access memory，ram)、磁碟或者光盘等多种可以存储程序代码的介质，也可以是暂态存储介质。
129.相较于现有技术本发明的异构多集群的数据处理方法包括，在kubernetes数据处理系统中增加新的kubernetes虚拟节点，将每个所述kubernetes虚拟节点与异构多集群中
的每个异构集群相对应；基于所述kubernetes虚拟节点为每个所述异构集群单独创建一个适配器；在kubernetes数据处理系统中部署一个与所述适配器相对应的节点代理程序，其中，所述适配器通过所述节点代理程序可与kubernetes的应用编程接口服务器通信；基于所述节点代理程序，将所述应用编程接口服务器对kubelet的操作转换为对异构集群的作业操作；本发明采用上述方法后解决了异构多集群调度较为困难的问题，实现了能够通过使用kubernetes集群软件像数据处理普通的单集群一样去数据处理异构的多集群。
130.应当理解的是，本发明的应用不限于上述的举例，对本领域普通技术人员来说，可以根据上述说明加以改进或变换，所有这些改进和变换都应属于本发明所附权利要求的保护范围。