服务的创建方法、装置、设备、存储介质及程序产品与流程

文档序号:36811460发布日期:2024-01-26 16:13阅读:16来源:国知局
服务的创建方法、装置、设备、存储介质及程序产品与流程

本技术涉及计算机技术,尤其涉及服务的创建方法、装置、电子设备及计算机可读存储介质。


背景技术:

1、在服务创建的过程中,相关技术中,为了使服务器尽可能运行更多的服务的同时,往往会使用负载均衡的策略,例如,按照接收服务的时间顺序,依次将服务分配给后端的每个服务器,又例如,将服务随机分配给后端的服务器。如此实现的负载均衡度较低及效果较差。


技术实现思路

1、本技术实施例提供一种服务的创建方法、装置及计算机可读存储介质,能够提高负载的均衡度及负载均衡的效果。

2、本技术实施例的技术方案是这样实现的:

3、本技术实施例提供一种服务的创建方法,所述方法包括:

4、接收至少一个服务实例发送的负载参数,所述负载参数,用于指示各所述服务实例在至少两个维度的负载状态;

5、获取记录有各所述服务实例的负载状态的路由表,并根据所述负载参数,更新所述路由表中各所述服务实例的负载状态;

6、当接收到针对目标服务的服务创建请求时,根据所述路由表中各所述服务实例的负载状态,在所述路由表中,确定用于响应所述服务创建请求的目标服务实例;

7、发送所述服务创建请求至所述目标服务实例,所述服务创建请求用于所述目标服务实例对所述服务创建请求响应时,创建所述目标服务。

8、本技术实施例提供一种服务的创建方法,所述方法包括:

9、服务实例向管理实例发送负载参数,以使所述管理实例根据所述负载参数,更新路由表中记录的各服务实例的负载状态,其中,所述负载参数,用于指示各所述服务实例在至少两个维度的负载状态;

10、接收所述管理实例将所述服务实例确定为目标服务实例后发送的服务创建请求;

11、其中,所述目标服务实例为,所述管理实例在接收到所述服务创建请求时,根据所述路由表中各所述服务实例的负载状态所确定;

12、响应于所述服务创建请求,创建所述目标服务。

13、本技术实施例提供一种服务的创建装置,包括:

14、数据接收模块,用于接收至少一个服务实例发送的负载参数,所述负载参数,用于指示各所述服务实例在至少两个维度的负载状态;

15、负载更新模块,用于获取记录有各所述服务实例的负载状态的路由表,并根据所述负载参数,更新所述路由表中各所述服务实例的负载状态;

16、服务实例确定模块,用于当接收到针对目标服务的服务创建请求时,根据所述路由表中各所述服务实例的负载状态,在所述路由表中,确定用于响应所述服务创建请求的目标服务实例;

17、请求发送模块,用于发送所述服务创建请求至所述目标服务实例,所述服务创建请求用于所述目标服务实例对所述服务创建请求响应时,创建所述目标服务。

18、上述数据接收模块,还用于建立与各所述服务实例间的心跳连接;通过所述心跳连接,按照心跳周期接收所述至少一个服务实例发送的负载参数。

19、上述负载更新模块,还用于接收到所述目标服务实例返回的所述服务创建请求,所述服务创建请求为,所述目标服务实例在确定所述服务创建请求不满足响应条件时返回;响应于返回的所述服务创建请求,在所述路由表中将返回所述目标服务实例标记为繁忙服务实例;在所述路由表中,重新确定用于响应所述服务创建请求的目标服务实例;发送所述服务创建请求至重新确定的所述目标服务实例。

20、所述服务实例的负载状态表征所述服务实例的负载占比;

21、上述负载更新模块,还用于按照各所述服务实例的负载状态所对应的负载占比由小到大的顺序,排列所述路由表中包括的各所述服务实例,得到服务实例序列;确定所述服务实例序列中位于首位的服务实例,作为用于响应所述服务创建请求的目标服务实例。

22、上述负载更新模块,还用于响应于所述路由表中至少一个所述服务实例的负载状态得到更新,设置所述路由表对应的排序标识,所述排序标识用于指示对所述路由表中各所述服务实例进行排序;响应于基于排序标识检查周期确定排序标识的检查时间到达,且所述排序标识已被设置,按照各服务实例的负载状态指示的负载占比由小到大的顺序,排列所述路由表中包括的各服务实例。

23、上述负载更新模块,还用于接收到所述服务实例发送的退出指令,所述退出指令,用于指示相应的所述服务实例无法响应所述服务创建请求;响应于所述退出指令,在所述路由表中将所述退出指令对应的所述服务实例标记为离线状态,并设置所述排序标识。

24、上述服务实例确定模块,还用于响应于所述服务实例集群的负载达到扩容阈值,向所述服务实例集群所在的服务器发送扩容指令,以使所述服务器根据所述扩容指令,在所述服务实例集群中增加新的服务实例;接收所述新的服务实例发送的负载参数,并基于所述新的服务实例的负载参数,在所述路由表中添加所述新的服务实例。

25、上述服务实例确定模块,还用于响应于基于超时检查周期确定超时检查时间到达,针对各所述服务实例,获取当前时间所述服务实例最后发送所述负载参数的时间之间的时间间隔;在所述路由表中将所述时间间隔超过时间间隔阈值的服务实例标记为离线状态。

26、本技术实施例提供一种服务的创建装置,包括:

27、参数发送模块,用于服务实例向管理实例发送负载参数,以使所述管理实例根据所述负载参数,更新路由表中记录的各服务实例的负载状态,其中,所述负载参数,用于指示各所述服务实例在至少两个维度的负载状态;

28、请求接收模块,用于接收所述管理实例将所述服务实例确定为目标服务实例后发送的服务创建请求;其中,所述目标服务实例为,所述管理实例在接收到所述服务创建请求时,根据所述路由表中各所述服务实例的负载状态所确定;

29、服务创建模块,用于响应于所述服务创建请求,创建所述目标服务。

30、上述参数发送模块,还用于获取所述服务实例包括的逻辑内核数量以及所述服务实例的不参与绑核的逻辑内核数量;确定所述服务实例包括的逻辑内核数量减去所述服务实例的不参与绑核的逻辑内核数量得到的差值,作为第一差值;响应于所述第一差值为正数,对各所述逻辑内核进行分组,得到各逻辑内核组;响应于所述服务创建请求,基于所述各逻辑内核组,创建所述目标服务。

31、所述服务实例归属于服务实例集群,所述服务实例集群对应至少两个逻辑内核组,每个所述逻辑内核组包括至少两个逻辑内核;所述负载参数至少包括:cpu负载参数;

32、上述参数发送模块,还用于确定各逻辑内核的负载之和与逻辑内核的数量的比值,作为第一cpu负载;针对每个所述逻辑内核组,将所述逻辑内核组包括的逻辑内核的负载之和与逻辑内核的数量之间的比值,作为第二cpu负载;将所述第一cpu负载和所述第二cpu负载之间的最大值,作为所述cpu负载参数。

33、上述参数发送模块,还用于与所述管理实例建立心跳连接,通过所述心跳连接,按照心跳周期向所述管理实例发送负载参数。

34、上述参数发送模块,还用于确定当前所述心跳周期内接收所述服务创建请求的次数,作为请求次数;响应于所述请求次数不小于次数阈值,向所述管理实例返回所述服务创建请求,以使所述管理实例根据返回的所述服务创建请求,将所述服务创建请求转发给其他服务实例。

35、上述服务创建模块,还用于确定当前负载状态,响应于所述当前负载状态为满负载状态,向所述管理实例返回所述服务创建请求,以使所述管理实例根据返回的所述服务创建请求,将所述服务创建请求转发给其他服务实例。

36、所述服务实例按照心跳周期向所述管理实例发送负载参数,所述负载参数至少包括:跳转频率;

37、上述参数发送模块,还用于确定当前所述心跳周期内返回所述服务创建请求的次数,作为转发次数;确定所述转发次数与当前所述心跳周期接收到所述服务创建请求次数的比值,作为跳转频率。

38、所述负载参数至少包括:工作负载参数;

39、上述参数发送模块,还用于确定待执行服务数量与待执行服务数量阈值的比值,作为第一工作负载,其中,所述待执行服务为已接收到服务创建请求,且还未执行所述服务创建请求对应的服务;确定各服务对应的用户参与数量之和与用户数量阈值之间的比值,作为第二工作负载,其中,所述服务包括所述待执行服务和正在执行的服务;将所述第一工作负载和所述第二工作负载中的最大值,作为所述工作负载参数。

40、所述负载参数至少包括:其他负载参数;

41、上述参数发送模块,还用于确定所述服务实例已创建的服务数量与最大服务数量之间的比值,作为第一其他负载;确定服务器的已用内存和所述服务器的总内存之间的比值,作为第二其他负载,其中,所述服务器为运行所述服务实例的服务器;将所述第一其他负载和所述第二其他负载中的最大值,作为所述其他负载参数。

42、本技术实施例提供一种电子设备,所述设备包括:

43、存储器,用于存储计算机可执行指令;

44、处理器,用于执行所述存储器中存储的计算机可执行指令时,实现本技术实施例提供的服务的创建方法。

45、本技术实施例提供一种计算机可读存储介质,存储有计算机程序或计算机可执行指令,用于被处理器执行时实现本技术实施例提供的服务的创建方法。

46、本技术实施例提供一种计算机程序产品,包括计算机程序或计算机可执行指令,述计算机程序或计算机可执行指令被处理器执行时,实现本技术实施例提供的服务的创建方法。

47、本技术实施例具有以下有益效果:

48、服务实例会将自身的负载状态通过负载参数发送到管理实例,以使得管理实例可以通过负载参数感知到服务实例实时的负载状态,之后,管理实例可以根据负载参数更新路由表中各服务实例的负载状态,以使得管理实例可以感知到所有服务实例的负载状态,进而在管理实例接收到服务创建请求时,可以根据路由表中服务实例在多个维度的负载状态,将服务创建请求发送给适合执行服务创建请求的服务实例,从而提高了提高负载的均衡度及负载均衡的效果。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1