一种对前端应用访问请求进行智能分配的处理系统的制作方法

文档序号:36647105发布日期:2024-01-06 23:30阅读:20来源:国知局
一种对前端应用访问请求进行智能分配的处理系统的制作方法

本发明涉及数据处理,特别涉及一种对前端应用访问请求进行智能分配的处理系统。


背景技术:

1、传统处理系统的网络架构是由网关将前端应用发送的访问请求转发到服务器并将服务器的返回数据向前端应用回发,这种传统结构在高并发状态极易出现网路阻塞的问题。网络运维商为解决这个问题提出了同质服务镜像的处理方案,该方案首先在同一地区或多个地区部署多个服务内容一致的同质服务器,并在网关收到前端应用的访问请求时从多个同质服务器中选择一个负载较小的作为当次服务器并将当前访问请求向该服务器转发。我们在实践中发现,这种改进方案虽然可以较好的应对高并发,但若不能解决负载均衡问题也容易造成网络资源的浪费。


技术实现思路

1、本发明的目的,就是针对现有技术的缺陷,提供一种对前端应用访问请求进行智能分配的处理系统,该系统包括:多个第一地区网络和第一负载均衡服务器;各个第一地区网络包括多个第一前端应用、第一应用网关、第一路由网络和多个第一服务器,第一路由网络由多个第一路由器连接而成;该系统是一个同质服务器系统,系统内所有第一服务器都为同质服务器;其中,各个第一路由器和第一服务器会定期采集本地的资源使用信息向第一负载均衡服务器上报;第一负载均衡服务器一方面会基于各个第一路由器、各个第一服务器的上报数据对与之对应的状态向量进行更新,另一方会定期基于各个地区的历史上报数据对由lstm模型实现的地区网络饱和度预测模型即第一预测模型进行训练;第一应用网关则在接收到第一前端应用发送的访问请求时先向第一负载均衡服务器发送第一地区优选申请、由第一负载均衡服务器使用各个地区对应的第一预测模型对各地区未来时段内的网络饱和度进行预测,并从中选择饱和度最小的作为优选地区向第一应用网关推送;随后,第一应用网关对优选地区是否为本地进行识别,若是则对本地各个第一服务器的路由路径进行统计并将统计后的路径集合发到第一负载均衡服务器进行优选,若否则将本次接收到的访问申请向优选地区的第一应用网关转发并由优选地区的第一应用网关对本地各个第一服务器的路由路径进行统计并将统计后的路径集合发到第一负载均衡服务器进行优选;第一负载均衡服务器则在收到第一应用网关发送的路径集合之后,基于各个路径上所有路由器和目的服务器状态向量计算对应的路径代价,并将其中代价最小路径对应的第一服务器作为优选服务器向第一应用网关推送;第一应用网关最后将当次的访问申请向该优选服务器发送,并将该优选服务器的返回数据向第一前端应用回发。本发明系统一方面可以解决高并发造成的网路阻塞问题,另一方面通过地区+路径两重优选策略可以提高网络的负载均衡能力,再一方面还可以通过持续训练预测模型来持续提高网络的负载均衡处理精度。

2、为实现上述目的,本发明实施例提供了一种对前端应用访问请求进行智能分配的处理系统,所述系统包括:多个第一地区网络和第一负载均衡服务器;

3、各个所述第一地区网络包括多个第一前端应用、第一应用网关、第一路由网络和多个第一服务器;所述第一前端应用与所述第一应用网关连接;所述第一应用网关分别与所述第一路由网络、所述第一负载均衡服务器以及其他所述第一地区网络的所述第一应用网关连接;所述第一路由网络分别与各个所述第一服务器和所述第一负载均衡服务器连接;所述第一路由网络由多个第一路由器连接而成;所有所述第一地区网络的所有所述第一服务器上都部署了同质类服务;

4、所述第一前端应用用于在应用执行过程中向所述第一应用网关发送第一服务访问请求;并接收所述第一应用网关回发的第一服务返回数据;

5、所述第一应用网关用于在接收到所述第一前端应用发送的所述第一服务访问请求时,将本地预置的当前地区标识作为对应的第一地区标识;并向所述第一负载均衡服务器发送第一地区优选申请;并对所述第一负载均衡服务器回发的第一优选地区标识与所述第一地区标识是否匹配进行识别;若所述第一优选地区标识与所述第一地区标识匹配,则基于预设的第一地区网络拓扑图对当前所述第一地区网络中从当前所述第一应用网关出发到各个所述第一服务器的所有路由路径进行搜索得到对应的第一网关-服务器路径集合,并由得到的所有所述第一网关-服务器路径集合组成对应的第一路径总集,并将携带了所述第一路径总集和所述第一地区标识的第一服务器优选申请向所述第一负载均衡服务器发送,并将所述第一负载均衡服务器回发的第一优选服务器标识对应的所述第一服务器作为当前服务器,并将所述第一服务访问请求向所述当前服务器发送,并将所述当前服务器回发的第一返回数据作为对应的所述第一服务返回数据向所述第一前端应用回发;若所述第一优选地区标识与所述第一地区标识不匹配,则将所述第一优选地区标识对应的所述第一应用网关记为对应的下一网关,并将携带了所述第一服务访问请求和所述第一地区标识的第二服务访问请求向所述下一网关转发,并将所述下一网关回发的第二返回数据作为对应的所述第一服务返回数据向所述第一前端应用回发;

6、所述第一应用网关还用于在接收到其他任一所述第一应用网关发送的所述第二服务访问请求时,从中提取出对应的所述第一服务访问请求和所述第一地区标识,并将提取出的所述第一地区标识对应的所述第一应用网关记为对应的前一网关;并将本地预置的当前地区标识作为新的所述第一地区标识;并基于预设的所述第一地区网络拓扑图对当前地区网络中从当前所述第一应用网关出发到各个所述第一服务器的所有路由路径进行搜索得到对应的所述第一网关-服务器路径集合;并由得到的所有所述第一网关-服务器路径集合组成对应的所述第一路径总集;并将携带了所述第一路径总集和所述第一地区标识的所述第一服务器优选申请向所述第一负载均衡服务器发送;并将所述第一负载均衡服务器回发的所述第一优选服务器标识对应的所述第一服务器作为当前服务器;并将所述第一服务访问请求向所述当前服务器发送,并将所述当前服务器回发的所述第二返回数据向所述前一网关回发;

7、所述第一路由网络的各个所述第一路由器用于定期进行本地数据采集生成对应的第一上报数据向所述第一负载均衡服务器发送;

8、所述第一服务器用于定期进行本地数据采集生成对应的第二上报数据向所述第一负载均衡服务器发送;

9、所述第一负载均衡服务器用于在接收到所述第一上报数据时,根据所述第一上报数据更新预设的第一数据表;并在接收到所述第二上报数据时,根据所述第二上报数据更新预设的第二数据表;

10、所述第一负载均衡服务器还用于为各个所述第一地区网络的各个所述第一路由器和各个所述第一服务器分配一个对应的状态向量记为对应的第一状态向量和第二状态向量;并定期根据所述第一数据表对所有所述第一状态向量进行更新;并定期根据所述第二数据表对所有所述第二状态向量进行更新;所述第一状态向量包括第一资源使用率方差、第一响应时间方差和第一负载使用率方差;所述第二状态向量包括第二资源使用率方差、第二响应时间方差和第二负载使用率方差;

11、所述第一负载均衡服务器还用于定期基于所述第二数据表对预置的多个第一地区预测模型进行训练;所述第一地区预测模型与所述第一地区网络一一对应;所述第一地区预测模型基于lstm模型实现;

12、所述第一负载均衡服务器还用于在接收到任一所述第一应用网关发送的所述第一地区优选申请时,根据所述第二数据表和所有所述第一地区预测模型进行地区优选处理得到对应的所述第一优选地区标识向当前所述第一应用网关回发;

13、所述第一负载均衡服务器还用于在接收到任一所述第一应用网关发送的所述第一服务器优选申请时,根据所述第一服务器优选申请、所有所述第一状态向量和所有所述第二状态向量进行服务器优选处理得到对应的所述第一优选服务器标识向当前所述第一应用网关回发。

14、优选的,第一地区网络拓扑图包括多个第一网络节点和多个第一节点边;所述第一网络节点的节点属性包括节点标识、设备类型和设备标识,所述设备类型包括网关、路由器、服务器;所述第一节点边由两个所述第一网络节点连接而成,所述第一节点边的边属性包括节点边标识和节点对标识,所述节点对标识由对应的两个所述第一网络节点的所述节点标识组成;

15、所述第一路径总集包括多个所述第一网关-服务器路径集合;所述第一网关-服务器路径集合包括多个第一网关-服务器路径;所述第一网关-服务器路径包括多个第一节点设备标识;第一个所述第一节点设备标识为对应的所述第一应用网关的网关标识、最后一个所述第一节点设备标识为对应的所述第一服务器的服务器标识、其他各个所述第一节点设备标识为路由器标识与一个所述第一路由器对应;

16、所述第一上报数据包括第一采集数据、第一采集时间戳、第一采集地区标识和第一采集设备标识;所述第一采集数据包括第一基础资源数据、第一网络资源数据、第一基础资源使用率数据和第一网络资源使用率数据;所述第一基础资源数据包括内存配置和内存总容量;所述第一网络资源数据包括最大负载流量和最大接入总量;所述第一基础资源使用率数据包括内存使用率;所述第一网络资源使用率数据包括负载流量使用率和接入数量使用率;

17、所述第二上报数据包括第二采集数据、第二采集时间戳、第二采集地区标识和第二采集设备标识;所述第二采集数据包括第二基础资源数据、第二网络资源数据、第二基础资源使用率数据和第二网络资源使用率数据;所述第二基础资源数据包括cpu配置、gpu配置、内存配置、存储配置、内存总容量和存储总容量;所述第二网络资源数据包括最大负载流量和最大接入总量;所述第二基础资源使用率数据包括cpu使用率、gpu使用率、内存使用率和存储使用率;所述第二网络资源使用率数据包括负载流量使用率和接入数量使用率;

18、所述第一数据表包括多个第一数据记录;所述第一数据记录包括第一地区标识字段、第一设备标识字段、第一基础资源字段、第一网络资源字段、第一内存使用率字段、第一负载流量使用率字段、第一接入数量使用率字段、第一响应时间字段和第一时间戳字段;

19、所述第二数据表包括多个第二数据记录;所述第二数据记录包括第二地区标识字段、第二设备标识字段、第二基础资源字段、第二网络资源字段、第一cpu使用率字段、第一gpu使用率字段、第二内存使用率字段、第一存储使用率字段、第二负载流量使用率字段、第二接入数量使用率、第二响应时间字段和第二时间戳字段。

20、优选的,所述第一应用网关具体用于在所述基于预设的第一地区网络拓扑图对当前所述第一地区网络中从当前所述第一应用网关出发到各个所述第一服务器的所有路由路径进行搜索得到对应的第一网关-服务器路径集合时,对当前所述第一地区网络的各个所述第一服务器进行遍历;并将当前遍历的所述第一服务器作为对应的当前服务器;并将所述第一地区网络拓扑图中与当前所述第一应用网关对应的所述第一网络节点作为对应的起始节点、与所述当前服务器对应的所述第一网络节点作为对应的结束节点;并基于a*算法对从所述起始节点到所述结束节点的网络节点路径进行搜索得到对应的一个或多个第一网络节点路径;并将各个所述第一节点路径中的各个所述第一网络节点的所述设备标识提取出来作为对应的所述第一节点设备标识组成对应的所述第一网关-服务器路径;并由得到的所有所述第一网关-服务器路径组成对应的所述第一网关-服务器路径集合;所述第一网络节点路径由一个或多个所述第一网络节点顺次排列而成。

21、优选的,所述第一负载均衡服务器具体用于在所述根据所述第一上报数据更新预设的第一数据表时,将所述第一上报数据的接收时间作为对应的第一接收时间戳;并从所述第一上报数据中提取出对应的所述第一采集数据、所述第一采集时间戳、所述第一采集地区标识和所述第一采集设备标识;并从所述第一采集数据中提取出对应的所述第一基础资源数据、所述第一网络资源数据、所述第一基础资源使用率数据和所述第一网络资源使用率数据;并将所述第一接收时间戳与所述第一采集时间戳之间的时间差作为对应的第一时间差;并将所述第一时间差的两倍时间作为对应的第一响应时间;并在所述第一数据表中新增一个所述第一数据记录记为对应的当前新增记录;并将所述当前新增记录的所述第一地区标识字段设为对应的第一采集地区标识、所述第一设备标识字段设为对应的所述第一采集设备标识、所述第一基础资源字段设为对应的所述第一基础资源数据、所述第一网络资源字段设为对应的所述第一网络资源数据、所述第一内存使用率字段设为对应的所述第一基础资源使用率数据的内存使用率、所述第一负载流量使用率字段设为对应的所述第一网络资源使用率数据的负载流量使用率、所述第一接入数量使用率字段设为对应的所述第一网络资源使用率数据的接入数量使用率、所述第一响应时间字段设为对应的所述第一响应时间、所述第一时间戳字段设为对应的所述第一采集时间戳。

22、优选的,所述第一负载均衡服务器具体用于在所述根据所述第二上报数据更新预设的第二数据表时,将所述第二上报数据的接收时间作为对应的第二接收时间戳;并从所述第二上报数据中提取出对应的所述第二采集数据、所述第二采集时间戳、所述第二采集地区标识和所述第二采集设备标识;并从所述第二采集数据中提取出对应的所述第二基础资源数据、所述第二网络资源数据、所述第二基础资源使用率数据和所述第二网络资源使用率数据;并将所述第二接收时间戳与所述第二采集时间戳之间的时间差作为对应的第二时间差;并将所述第二时间差的两倍时间作为对应的第二响应时间;并在所述第二数据表中新增一个所述第二数据记录记为对应的当前新增记录;并将所述当前新增记录的所述第二地区标识字段设为对应的所述第二采集地区标识、所述第二设备标识字段设为对应的所述第二采集设备标识、所述第二基础资源字段设为对应的所述第二基础资源数据、所述第二网络资源字段设为对应的所述第二网络资源数据、所述第一cpu使用率字段设为对应的所述第二基础资源使用率数据的cpu使用率、所述第一gpu使用率字段设为对应的所述第二基础资源使用率数据的gpu使用率、所述第二内存使用率字段设为对应的所述第二基础资源使用率数据的内存使用率、所述第一存储使用率字段设为对应的所述第二基础资源使用率数据的存储使用率、第二负载流量使用率字段设为对应的所述第二网络资源使用率数据的负载流量使用率、所述第二接入数量使用率设为对应的所述第二网络资源使用率数据的接入数量使用率、所述第二响应时间字段设为对应的所述第二响应时间、所述第二时间戳字段设为对应的所述第二采集时间戳。

23、优选的,所述第一负载均衡服务器具体用于在所述根据所述第一数据表对所有所述第一状态向量进行更新时,从所述第一数据表中选出与各个所述第一路由器对应的时间最新的所述第一数据记录组成对应的第一数据记录集合;

24、并对所述第一数据记录集合的所述第一数据记录的数量进行统计生成对应的第一数量n;

25、并将所述第一数据记录集合中的各个所述第一数据记录的所述第一内存使用率字段、所述第一负载流量使用率字段、所述第一接入数量使用率字段和所述第一响应时间字段提取出来作为对应的第一使用率a1,i、第二使用率a2,i、第三使用率a3,i和第一时长ti组成对应的第一参数组di,1≤i≤n;

26、并根据所有所述第一参数组di进行资源使用率方差、负载使用率方差和响应时间方差计算:

27、

28、

29、

30、a1+a2=1;

31、其中,s1,i为资源使用率方差、s2,i为负载使用率方差、s3,i为响应时间方差,a1、a2为预设的第一、第二负载使用率权重系数;

32、将各个所述第一参数组di对应的所述第一数据记录对应的所述第一状态向量的所述第一资源使用率方差、所述第一负载使用率方差和所述第一响应时间方差更新为对应的资源使用率方差s1,i、负载使用率方差s2,i和响应时间方差s3,i。

33、优选的,所述第一负载均衡服务器具体用于在所述根据所述第二数据表对所有所述第二状态向量进行更新时,从所述第二数据表中选出与各个所述第一服务器对应的时间最新的所述第二数据记录组成对应的第二数据记录集合;

34、并对所述第二数据记录集合的所述第二数据记录的数量进行统计生成对应的第二数量m;

35、并将所述第二数据记录集合中的各个所述第二数据记录的所述第一cpu使用率字段、所述第一gpu使用率字段、所述第二内存使用率字段、所述第一存储使用率字段、所述第二负载流量使用率字段、所述第二接入数量使用率、所述第二响应时间字段提取出来作为对应的第一使用率b1,j、第二使用率b2,j、第三使用率b3,j、第四使用率b4,j、第五使用率b5,j、第六使用率b6,j和第二时长tj组成对应的第二参数组ej,1≤j≤m;

36、并根据所有所述第二参数组ej进行资源使用率方差、负载使用率方差和响应时间方差计算:

37、

38、

39、

40、y1,j=b1×b1,j+b2×b2,j+b3×b3,j+b4×b4,j,

41、y2,j=a1×b5,j+a2×b6,j,

42、y3,j=tj,

43、a1+a2=1,b1+b2+b3+b4=1;

44、其中,s1,j为资源使用率方差、s2,j为负载使用率方差、s3,j为响应时间方差,a1、a2为预设的第一、第二负载使用率权重系数,b1、b2、b3、b4为预设的第一、第二、第三和第四资源使用率权重系数;

45、将各个所述第二参数组ej对应的所述第二数据记录对应的所述第二状态向量的所述第二资源使用率方差、所述第二负载使用率方差和所述第二响应时间方差更新为对应的资源使用率方差s1,j、负载使用率方差s2,j和响应时间方差s3,j。

46、优选的,所述第一负载均衡服务器具体用于在所述定期基于所述第二数据表对预置的多个第一地区预测模型进行训练时,定期从所述第二数据表中提取出最近一个月的所有所述第二数据记录组成对应的第一记录集合;并将所述第一记录集合中的所述第二数据记录按所述第二地区标识字段分类得到对应的多个第二记录集合;各个所述第一记录集合包括多个所述第二记录集合;所述第二记录集合包括多个所述第二数据记录;所述第二记录集合与所述第一地区网络一一对应,每个所述第二记录集合中的所有所述第二数据记录的所述第二地区标识字段相同;

47、并将各个所述第二记录集合中的所述第二数据记录按所述第二设备标识字段分类得到对应的多个第三记录集合;各个所述第二记录集合包括多个所述第三记录集合;所述第三记录集合包括多个所述第二数据记录;所述第三记录集合与对应的所述第一地区网络的所述第一服务器一一对应,每个所述第三记录集合中的所有所述第二数据记录的所述第二设备标识字段相同;

48、并以最近一个月每天每小时的中心时刻为一个对应的第一基准时刻,并将各个所述第三记录集合中所述第二时间戳字段与各个所述第一基准时刻最近的所述第二数据记录提取出来组成对应的第四记录集合;并对同一个所述第二记录集合对应的所有所述第四记录集合进行合并得到对应的第一合并记录集合;并将所述第一合并记录集合中对应同一个所述第一基准时刻的所有所述第二数据记录组成一个对应的第一时刻记录序列;并根据各个所述第一时刻记录序列进行访问饱和度计算生成对应的第一访问饱和度;并由各个所述第一合并记录集合对应的所有所述第一访问饱和度按时间先后排序组成对应的第一访问饱和度序列;所述第一时刻记录序列的所有所述第二数据记录的所述第二地区标识字段都相同但所述第二设备标识字段都不相同,且所有所述第二数据记录的所述第二时间戳字段对应同一个所述第一基准时刻;

49、并将最近一个月每天每小时中的多个指定时刻记为对应的第二基准时刻,并将各个所述第三记录集合中所述第二时间戳字段与各个所述第二基准时刻最近的所述第二数据记录提取出来组成对应的第五记录集合;并对同一个所述第二记录集合对应的所有所述第五记录集合进行合并得到对应的第二合并记录集合;并将所述第二合并记录集合中对应同一个所述第二基准时刻的所有所述第二数据记录组成一个对应的第二时刻记录序列;并根据各个所述第二时刻记录序列进行特征张量转换得到对应的第一特征张量;并由各个所述第二合并记录集合对应的所有所述第一特征张量按时间先后排序组成对应的第一特征张量序列;所述第二时刻记录序列的所有所述第二数据记录的所述第二地区标识字段都相同但所述第二设备标识字段都不相同,且所有所述第二数据记录的所述第二时间戳字段对应同一个所述第二基准时刻;

50、并将对应同一个所述第一地区网络的所述第一访问饱和度序列和所述第一特征张量序列组成一组对应的第一序列集合;并根据各个所述第一序列集合进行训练数据集准备得到对应的第一训练数据集;并基于各个所述第一训练数据集对对应的所述第一地区预测模型进行训练;所述第一训练数据集与所述第一地区网络一一对应;所述第一训练数据集包括多个第一训练数据记录;所述第一训练数据记录包括第一训练张量序列和第一标签饱和度。

51、进一步的,所述第一负载均衡服务器具体用于在所述根据各个所述第一时刻记录序列进行访问饱和度计算生成对应的第一访问饱和度时,对所述第一时刻记录序列的所有所述第一cpu使用率字段进行均值计算得到对应的第一平均使用率、并对所有所述第一gpu使用率字段进行均值计算得到对应的第二平均使用率、并对所有所述第二内存使用率字段进行均值计算得到对应的第三平均使用率、并对所有所述第一存储使用率字段进行均值计算得到对应的第四平均使用率、并对所有所述第二负载流量使用率字段进行均值计算得到对应的第五平均使用率、并对所有所述第二接入数量使用率进行均值计算得到对应的第六平均使用率;并根据所述第一、第二、第三、第四、第五和第六平均使用率进行加权平均使用率计算得到对应的第一加权平均使用率,第一加权平均使用率=r1×d1+r2×d2+r3×d3+r4×d4+r5×d5+r6×d6,r1+r2+r3+r4+r5+r6=1,d1、d2、d3、d4、d5、d6为所述第一、第二、第三、第四、第五和第六平均使用率,r1、r2、r3、r4、r5、r6为预设的第一、第二、第三、第四、第五和第六加权系数;并将得到的所述第一加权平均使用率作为对应的所述第一访问饱和度。

52、进一步的,所述第一负载均衡服务器具体用于在所述根据各个所述第二时刻记录序列进行特征张量转换得到对应的第一特征张量时,将所述第一时刻记录序列中各个所述第二数据记录的所述第二基础资源字段的内存总容量和存储总容量、所述第二网络资源字段的最大负载流量和最大接入总量、所述第一cpu使用率字段、所述第一gpu使用率字段、所述第二内存使用率字段、所述第一存储使用率字段、所述第二负载流量使用率字段、所述第二接入数量使用率、所述第二响应时间字段和所述第二时间戳字段提取出来组成对应的第一特征向量;并由得到的所有所述第一特征向量组成对应的所述第一特征张量。

53、进一步的,所述第一负载均衡服务器具体用于在所述根据各个所述第一序列集合进行训练数据集准备得到对应的第一训练数据集时,从所述第一序列集合中提取出对应的所述第一访问饱和度序列和所述第一特征张量序列;

54、并对所述第一访问饱和度序列中的所述第一访问饱和度进行遍历;并在遍历时,将当前遍历的所述第一访问饱和度作为对应的当前访问饱和度;并将所述当前访问饱和度对应的时间作为当前参考时间;若所述当前访问饱和度为所述第一访问饱和度序列中的第一个所述第一访问饱和度,则将所述第一特征张量序列中早于所述当前参考时间的所有所述第一特征张量提取出来按时间先后顺序排序组成对应的所述第一训练张量序列;若所述当前访问饱和度不为第一个所述第一访问饱和度,则将所述当前访问饱和度的前一个所述第一访问饱和度对应的时间作为前一参考时间,并将所述第一特征张量序列中早于所述当前参考时间但不早于所述前一参考时间的所有所述第一特征张量提取出来按时间先后顺序排序组成对应的所述第一训练张量序列;并将所述当前访问饱和度作为对应的所述第一标签饱和度;并由得到的所述第一训练张量序列和所述第一标签饱和度组成一个对应的所述第一训练数据记录;并在遍历结束时,由得到的所有所述第一训练数据记录组成对应的所述第一训练数据集。

55、优选的,所述第一负载均衡服务器具体用于在所述根据所述第二数据表和所有所述第一地区预测模型进行地区优选处理得到对应的所述第一优选地区标识时,从所述第二数据表中提取出最近指定时段内与各个所述第一地区网络对应的所有所述第二数据记录组成对应的第一地区记录集合;并按预设的时间间隔将所述最近指定时段均分成多个时间片段,并将各个时间片段的起始、结束时间点作为对应的第一参考时间点;

56、并将所述第一地区记录集合中所述第二时间戳字段与各个所述第一参考时间点最近且分别对应不同的所述第一服务器的所述第二数据记录提取出来组成对应的第一时刻服务器记录序列;并将各个所述第一时刻服务器记录序列中各个所述第二数据记录的所述第二基础资源字段的内存总容量和存储总容量、所述第二网络资源字段的最大负载流量和最大接入总量、所述第一cpu使用率字段、所述第一gpu使用率字段、所述第二内存使用率字段、所述第一存储使用率字段、所述第二负载流量使用率字段、所述第二接入数量使用率、所述第二响应时间字段和所述第二时间戳字段提取出来组成对应的第二特征向量,并由得到的所有所述第二特征向量组成对应的第二特征张量;并由得到的所有所述第二特征张量按时间先后排序组成对应的第二特征张量序列;并将所述第二特征张量序列输入对应的所述第一地区预测模型进行网络访问饱和度预测生成对应的第二预测饱和度;

57、并从得到的所有所述第二预测饱和度中选择最小值作为对应的第一最小饱和度;并将与所述第一最小饱和度对应的所述第一地区网络对应的地区标识作为对应的所述第一优选地区标识。

58、优选的,所述第一负载均衡服务器具体用于在所述根据所述第一服务器优选申请、所有所述第一状态向量和所有所述第二状态向量进行服务器优选处理得到对应的所述第一优选服务器标识时,从所述第一服务器优选申请中提取出对应的所述第一路径总集;

59、并对所述第一路径总集的各个所述第一网关-服务器路径进行遍历;并在遍历时,将当前遍历的所述第一网关-服务器路径作为对应的当前路径;并将所述当前路径对应的各个所述第一路由器对应的所述第一状态向量记为第三状态向量、并将所述当前路径对应的所述第一服务器对应的所述第二状态向量记为第四状态向量;并根据所有所述第三、第四状态向量对所述当前路径进行路径代价计算得到对应的第一路径代价;

60、并在遍历结束时,将代价值最小的所述第一路径代价对应的所述第一网关-服务器路径作为对应的第一最优路径;并将所述第一最优路径对应的所述第一服务器的服务器标识作为对应的所述第一优选服务器标识。

61、进一步的,所述第一负载均衡服务器具体用于在所述根据所有所述第三、第四状态向量对所述当前路径进行路径代价计算得到对应的第一路径代价时,对所述当前路径的所述第一节点设备标识的数量进行统计得到对应的第一节点数量w;

62、并将所述当前路径的第一个所述第一节点设备标识对应的第一节点结代价ctg=1设为0;1≤g≤w;

63、并根据唯一的所述第四状态向量对所述当前路径的最后一个所述第一节点设备标识对应的第一节点结代价ctg=w进行设置:

64、ctg=w=β1×s21+β2×s22+β3×s23,β1+β2+β3=1;

65、其中,β1、β2、β3为预设的第一、第二、第三代价加权系数;s21、s22、s23分别为所述第四状态向量的所述第二资源使用率方差、所述第二负载使用率方差和所述第二响应时间方差;

66、并根据各个所述第三状态向量对所述当前路径中对应的所述第一节点设备标识对应的第一节点结代价ct1<g<w进行设置:

67、ct1<g<w=β1×s11+β2×s12+β3×s13;

68、其中,s11、s12、s13分别为所述第三状态向量的所述第一资源使用率方差、所述第一负载使用率方差和所述第一响应时间方差;

69、并对得到的所有所述第一节点结代价进行总和计算得到对应的第一代价总和;并将所述第一代价总和作为对应的所述第一路径代价。

70、本发明实施例提供了一种对前端应用访问请求进行智能分配的处理系统,该系统包括:多个第一地区网络和第一负载均衡服务器;各个第一地区网络包括多个第一前端应用、第一应用网关、第一路由网络和多个第一服务器,第一路由网络由多个第一路由器连接而成;该系统是一个同质服务器系统,系统内所有第一服务器都为同质服务器;其中,各个第一路由器和第一服务器会定期采集本地的资源使用信息向第一负载均衡服务器上报;第一负载均衡服务器一方面会基于各个第一路由器、各个第一服务器的上报数据对与之对应的状态向量进行更新,另一方会定期基于各个地区的历史上报数据对由lstm模型实现的地区网络饱和度预测模型即第一预测模型进行训练;第一应用网关则在接收到第一前端应用发送的访问请求时先向第一负载均衡服务器发送第一地区优选申请、由第一负载均衡服务器使用各个地区对应的第一预测模型对各地区未来时段内的网络饱和度进行预测,并从中选择饱和度最小的作为优选地区向第一应用网关推送;随后,第一应用网关对优选地区是否为本地进行识别,若是则对本地各个第一服务器的路由路径进行统计并将统计后的路径集合发到第一负载均衡服务器进行优选,若否则将本次接收到的访问申请向优选地区的第一应用网关转发并由优选地区的第一应用网关对本地各个第一服务器的路由路径进行统计并将统计后的路径集合发到第一负载均衡服务器进行优选;第一负载均衡服务器则在收到第一应用网关发送的路径集合之后,基于各个路径上所有路由器和目的服务器状态向量计算对应的路径代价,并将其中代价最小路径对应的第一服务器作为优选服务器向第一应用网关推送;第一应用网关最后将当次的访问申请向该优选服务器发送,并将该优选服务器的返回数据向第一前端应用回发。通过本发明系统,一方面解决了高并发造成的网路阻塞问题,另一方面通过地区+路径两重优选策略提高了网络的负载均衡能力,再一方面通过持续训练预测模型达到了持续提高网络负载均衡处理精度的目的。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1