一种应用服务器集群请求调度方法及装置与流程

本发明涉及应用服务器技术领域，更具体地说，涉及一种应用服务器集群请求调度方法及装置。

背景技术：

随着国产中间件应用服务器产品应用范围不断扩大，使用国产中间件应用服务器的场景的规模和拓扑的复杂程度不断加大。对应用服务器集群条件下，在功能上和稳定性上提出了更高的要求。为了兼顾高可用性与高可靠性，在针对大负载的多台硬件服务器场景时，中间件应用服务器通常通过软件集群的方式，进行应用系统的部署和发布。将多台应用服务器互连组成一集群系统，可以发挥单台应用服务器无法比拟的高性能。在应用服务器集群系统中，对各个节点的管理包括监视和控制显得尤为重要，因为有效的管理可以显著提高提高集群系统资源利用率和可用性。目前现有的主流国内外应用服务器，大都只是统计了均衡器到每个真实服务器连接数，并按照连接数量协调任务的分配。这种应用服务器集群调度算法没有考虑到在集群运行过程中节点的使用变化，仅靠连接数不能很好反映节点负载。

因此，如何根据每个节点的负载情况，更好的实现对应用服务器集群请求的调度，是本领域技术人员需要解决的问题。

技术实现要素：

本发明的目的在于提供一种应用服务器集群请求调度方法及装置，以实现根据每个节点的负载情况，更好的实现对应用服务器集群请求的调度。

为实现上述目的，本发明实施例提供了如下技术方案：

一种应用服务器集群请求调度方法，包括：

收集应用服务器集群中每个节点的配置参数；所述配置参数包括cpu使用率参数、内存使用率参数和网络使用率参数；

利用每个节点的配置参数确定每个节点的分配权重，并生成调度策略；

接收到节点访问请求后，根据所述调度策略将节点访问请求分配至对应的节点。

其中，所述利用每个节点的配置参数确定每个节点的分配权重，并生成调度策略，包括：

将配置参数超出对应参数阈值的节点作为暂停使用节点，所述暂停使用节点的分配权重为零；

则生成的调度策略为：停止向所述暂停使用节点分配节点访问请求。

其中，所述利用每个节点的配置参数确定每个节点的分配权重，并生成调度策略，包括：

获取cpu权重系数、内存权重系数和网络权重系数；

根据每个节点的cpu使用率参数、内存使用率参数和网络使用率参数，以及所述cpu权重系数、内存权重系数和网络权重系数，确定与每个节点相对应的分配权重；

根据每个节点的分配权重生成调度策略。

其中，所述收集应用服务器集群中每个节点的配置参数，包括：

以预定时长为间隔，收集应用服务器集群中每个节点的配置参数。

其中，所述收集应用服务器集群中每个节点的配置参数之后，还包括：

收集应用服务器集群中每个节点的实际连接数；

则所述利用每个节点的配置参数确定每个节点的分配权重，并生成调度策略，包括：

利用每个节点的配置参数及实际连接数确定每个节点的分配权重，并生成调度策略。

一种应用服务器集群请求调度装置，包括：

第一收集模块，用于收集应用服务器集群中每个节点的配置参数；所述配置参数包括cpu使用率参数、内存使用率参数和网络使用率参数；

调度策略生成模块，用于利用每个节点的配置参数确定每个节点的分配权重，并生成调度策略；

请求分配模块，用于接收到节点访问请求后，根据所述调度策略将节点访问请求分配至对应的节点。

其中，所述调度策略生成模块包括：

第一分配权重确定单元，用于将配置参数超出对应参数阈值的节点作为暂停使用节点，所述暂停使用节点的分配权重为零；

第一调度策略生成单元，用于生成停止向所述暂停使用节点分配节点访问请求的调度策略。

其中，所述调度策略生成模块包括：

获取单元，用于获取cpu权重系数、内存权重系数和网络权重系数；

第二分配权重确定单元，用于根据每个节点的cpu使用率参数、内存使用率参数和网络使用率参数，以及所述cpu权重系数、内存权重系数和网络权重系数，确定与每个节点相对应的分配权重；

第二调度策略生成单元，用于根据每个节点的分配权重生成调度策略。

其中，所述第一收集模块以预定时长为间隔，收集应用服务器集群中每个节点的配置参数。

其中，还包括：

第二收集模块，用于收集应用服务器集群中每个节点的实际连接数；

则所述调度策略生成模块用于，利用每个节点的配置参数及实际连接数确定每个节点的分配权重，并生成调度策略。

通过以上方案可知，本发明实施例提供的一种应用服务器集群请求调度方法及装置，包括：收集应用服务器集群中每个节点的配置参数；所述配置参数包括cpu使用率参数、内存使用率参数和网络使用率参数；利用每个节点的配置参数确定每个节点的分配权重，并生成调度策略；接收到节点访问请求后，根据所述调度策略将节点访问请求分配至对应的节点；

可见，在本方案中，可通过每个节点的cpu使用率参数、内存使用率参数和网络使用率参数生成调度策略，根据该调度策略分配节点访问请求，提高在大规模和复杂拓扑条件下集群功能的稳定性，扩展了国产中间件应用服务器的兼容性和易用性，提高了应用服务器集群调度的效率。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例公开的一种应用服务器集群请求调度方法流程示意图；

图2为本发明实施例公开的应用服务器集群调度流程示意图；

图3为本发明实施例公开的一种具体的集群调度过程示意图；

图4为本发明实施例公开的一种应用服务器集群请求调度装置结构示意图

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

本发明实施例公开了一种应用服务器集群请求调度方法及装置，以实现根据每个节点的负载情况，更好的实现对应用服务器集群请求的调度。

参见图1，本发明实施例提供的一种应用服务器集群请求调度方法，包括：

s101、收集应用服务器集群中每个节点的配置参数；所述配置参数包括cpu使用率参数、内存使用率参数和网络使用率参数；

具体的，参见图2和图3，为本实施例提供的应用服务器集群调度流程，在集群中包括节点1、节点2和节点3，当接收到客户访问发送的节点访问请求后，首先需要收集每个节点的配置参数，该配置参数可以反映出每个节点的负载情况，该配置参数可以为cpu使用率参数、内存使用率参数和网络使用率参数，当然，在本实施例中并不局限于上述参数，只要能反应出节点的负载情况的参数均可，在本实施例中以上述参数为例进行描述。在获取cpu占用率、内存占用率和网络带宽占用率等关键参数时，可从/proc下的文件中读取，并且数据的采集与计算均使用shell脚本实现。

其中，所述收集应用服务器集群中每个节点的配置参数，包括：

以预定时长为间隔，收集应用服务器集群中每个节点的配置参数。

需要说明的是，在本实施例中，收集各节点的配置参数时，可以实时收集各节点的配置参数，也可以以预定时长为间隔收集配置参数，例如：以5分钟为间隔进行收集。

s102、利用每个节点的配置参数确定每个节点的分配权重，并生成调度策略；

具体的，由于收集的各个节点的配置参数能直观的反映出节点的负载情况，因此，在本实施例中，通过各节点的负载情况可以确定出与每个节点对应的分配权重，分配权重与分配的节点访问请求的数量成正比，从而根据每个节点的分配权重生成调度策略。

s103、接收到节点访问请求后，根据所述调度策略将节点访问请求分配至对应的节点。

具体的，在本实施例中，根据每个节点的分配权重确定调度策略后，在接收到节点访问请求后，可根据该调度策略将访问请求分配至对应的节点，更好的实现对应用服务器集群请求的调度；本方案没有改变ssl协议原来的运行机制，不会带来额外的安全问题，并且采用支持国产密码算法的密码套件作为ssl握手协议使用到的密码套件，对网银应用系统的自主性、产品安全乃至整个系统的安全都用重要意义。

基于上述实施例，所述利用每个节点的配置参数确定每个节点的分配权重，并生成调度策略，包括：

将配置参数超出对应参数阈值的节点作为暂停使用节点，所述暂停使用节点的分配权重为零；

则生成的调度策略为：停止向所述暂停使用节点分配节点访问请求。

具体的，在本实施例中，若某一节点的配置参数超出对应的参数阈值，则判定该节点的负载较高，停止向该节点分配访问请求。该参数阈值可以针对所有参数，也可以每种参数设定一个参数阈值。

例如：若存在节点1、节点2和节点3，节点1的cpu使用率参数为70％，内存使用率参数为60％，网络使用率参数为80％，节点2的cpu使用率参数为70％，内存使用率参数为85％，网络使用率参数为75％，节点3的cpu使用率参数为87％，内存使用率参数为80％，网络使用率参数为75％；

若本实施例中针对所有参数的参数阈值为85％，则在上述例子中，只有节点的cpu使用率参数大于85％，则判定节点3为暂停使用节点；若设定cpu使用率阈值为85％，内存使用率阈值为86％，网络使用率阈值为82％，则根据每个参数的阈值与每个节点对应的参数值进行比较。经比较，得出节点3的cpu使用率大于对应的cpu使用率阈值，则判定节点3为暂停使用节点。

基于上述实施例，所述利用每个节点的配置参数确定每个节点的分配权重，并生成调度策略，包括：

获取cpu权重系数、内存权重系数和网络权重系数；

根据每个节点的cpu使用率参数、内存使用率参数和网络使用率参数，以及所述cpu权重系数、内存权重系数和网络权重系数，确定与每个节点相对应的分配权重；其中，每个节点的分配权重与配置参数成负相关；

根据每个节点的分配权重生成调度策略。

具体的，在本实施例中，每个配置参数的的重要程度都是不同的，例如，内存的重要程度相比较其他参数来说，相对重要一些，则可分别设置不同参数的权重系数，从而确定出每个节点的分配权重。

例如：假设节点1的cpu使用率参数为70％，内存使用率参数为60％，网络使用率参数为80％，节点2的cpu使用率参数为70％，内存使用率参数为85％，网络使用率参数为75％，节点3的cpu使用率参数为87％，内存使用率参数为80％，网络使用率参数为75％；且，cpu使用率权重系数为0.3，内存使用率权重系数为0.4，网络使用率权重系数为0.3，则通过计算可得，节点1的综合使用率为：69％，节点2的综合使用率为：77.5％，节点3的综合使用率为：80.6％，通过归一化得出，节点1的分配权重为0.31，节点2的分配权重为0.34，节点3的分配权重为0.35，也就是说，生成的调度策略为节点1分配31％的访问请求，节点2分配34％的访问请求，节点3分配35％的访问请求；若接收到的节点访问请求的数量并不是很多，这时可根据调度策略优先向权重较大的节点分配。

基于上述实施例，所述收集应用服务器集群中每个节点的配置参数之后，还包括：

收集应用服务器集群中每个节点的实际连接数；

则所述利用每个节点的配置参数确定每个节点的分配权重，并生成调度策略，包括：利用每个节点的配置参数及实际连接数确定每个节点的分配权重，并生成调度策略。

具体的，在本实施例中，收集每个节点的配置参数的同时，也可以收集每个节点当前的实际连接数，根据该实际连接数作为参考，结合每个节点的配置参数综合生成调度策略。

下面对本发明实施例提供的请求调度装置进行介绍，下文描述的请求调度装置与上文描述的请求调度方法可以相互参照。

参见图4，本发明实施例提供的一种应用服务器集群请求调度装置，包括：

第一收集模块100，用于收集应用服务器集群中每个节点的配置参数；所述配置参数包括cpu使用率参数、内存使用率参数和网络使用率参数；

调度策略生成模块200，用于利用每个节点的配置参数确定每个节点的分配权重，并生成调度策略；

请求分配模块300，用于接收到节点访问请求后，根据所述调度策略将节点访问请求分配至对应的节点。

基于上述实施例，所述调度策略生成模块包括：

第一分配权重确定单元，用于将配置参数超出对应参数阈值的节点作为暂停使用节点，所述暂停使用节点的分配权重为零；

第一调度策略生成单元，用于生成停止向所述暂停使用节点分配节点访问请求的调度策略。

基于上述实施例，所述调度策略生成模块包括：

获取单元，用于获取cpu权重系数、内存权重系数和网络权重系数；

第二分配权重确定单元，用于根据每个节点的cpu使用率参数、内存使用率参数和网络使用率参数，以及所述cpu权重系数、内存权重系数和网络权重系数，确定与每个节点相对应的分配权重；其中，每个节点的分配权重与配置参数成负相关；

第二调度策略生成单元，用于根据每个节点的分配权重生成调度策略。

基于上述实施例，所述第一收集模块以预定时长为间隔，收集应用服务器集群中每个节点的配置参数。

基于上述实施例，还包括：

第二收集模块，用于收集应用服务器集群中每个节点的实际连接数；

则所述调度策略生成模块用于，利用每个节点的配置参数及实际连接数确定每个节点的分配权重，并生成调度策略。

本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。

对所公开的实施例的上述说明，使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下，在其它实施例中实现。因此，本发明将不会被限制于本文所示的这些实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。