一种网络访问请求调度方法、装置和存储介质与流程

文档序号:15567814发布日期:2018-09-29 03:45阅读:118来源:国知局

本发明涉及计算机网络技术领域,尤其涉及一种网络访问请求控制方法、装置、系统和介质。



背景技术:

本部分旨在为权利要求书中陈述的本发明的实施方式提供背景或上下文。此处的描述不因为包括在本部分中就承认是现有技术。

服务器集群技术是指将很多服务器集中起来一起进行同一种服务,在客户端看来就像是只有一个服务器。集群可以利用多个计算机进行并行计算从而获得很高的计算速度,也可以用多个计算机做备份,从而使得任何一个计算机故障整个系统还可以正常运行。由于服务器集群技术在业务处理上相比于单个服务器具有不可比拟的优势,因此,服务器集群技术被越来越多的主流网站特别是电子商务网站用于提供业务处理服务。

目前,大多数网站服务器在面临大量用户并发访问时,通过对用户的访问请求进行负载均衡的方式分布到不同的服务器进行处理。这种方法,对于短连接服务可以有效地均衡各服务器的负荷。但是对于长连接服务,由于用户访问请求需要长时间占用资源,长连接只有在服务器故障或者重启后才会断开,这样,对于负责负载均衡的服务器来说其并不知道用户发起的长连接服务何时释放,如果仍然按照现有的负载均衡方法进行分配,将导致集群内某些性能稳定的服务器的负载过高,某些故障或者重启的服务器的负载过低,造成各个服务器的负载不均。



技术实现要素:

本发明实施例提供一种网络访问请求调度方法、装置和介质,用以针对集群服务器中的长连接造成的各个服务器负载不均的问题。

第一方面,提供一种网络访问请求调度系统,包括lookup服务器、zookeeper服务器和至少一台中继relay服务器,其中:

所述至少一台relay服务器,用于向所述zookeeper服务器写入自身的连接信息;

所述lookup服务器,用于通过监听机制从所述zookeeper服务器获得所述至少一台relay服务器的连接信息;针对每一台relay服务器,根据该relay服务器的连接信息确定该relay服务器的实际可分配连接数;按照各relay服务器的实际可分配连接数由高至低的顺序建立relay服务器分配队列;根据所述relay服务器分配队列分配接收到的连接分配请求。

可选地,所述连接信息包括最大连接数和当前连接数;以及

所述lookup服务器,具体用于针对每一台relay服务器,根据该relay服务器的最大连接数和当前连接数确定该relay服务器可分配连接数,确定该relay服务器的可分配连接数的一半作为该relay服务器的实际可分配连接数。

可选地,所述zookeeper服务器,还用于在检测到注册的relay服务器数量发生变化时,重新确定当前可提供服务的relay服务器的连接信息;

所述lookup服务器,用于在监听到所述zookeeper服务器更新了当前可提供服务的relay服务器的连接信息时,重新获取当前可提供服务的relay服务器的连接信息;并根据获取的当前可提供服务的relay服务器的连接信息更新所述relay服务器分配队列。

可选地,所述lookup服务器,还用于在接收到连接分配请求时,从所述relay服务器分配队列中依序选择一个relay服务器进行分配。

第二方面,提供一种网络访问请求调度方法,包括:

通过监听机制从所述zookeeper服务器获得各relay服务器的连接信息,其中,所述连接信息为所述relay服务器向zookeeper服务器写入的;

针对每一台relay服务器,根据该relay服务器的连接信息确定该relay服务器的实际可分配连接数;

按照各relay服务器的实际可分配连接数由高至低的顺序建立relay服务器分配队列;

根据所述relay服务器分配队列分配接收到的连接分配请求。

可选地,所述连接信息包括最大连接数和当前连接数;以及

针对每一台relay服务器,根据该relay服务器的连接信息确定该relay服务器的实际可分配连接数,具体包括:

针对每一台relay服务器,根据该relay服务器的最大连接数和当前连接数确定该relay服务器可分配连接数;

确定该relay服务器的可分配连接数的一半作为该relay服务器的实际可分配连接数。

可选地,本发明实施例提供的网络访问请求调度方法,还包括:

在监听到所述zookeeper服务器更新了当前可提供服务的relay服务器的连接信息时,重新获取当前可提供服务的relay服务器的连接信息,其中,当前可提供服务的relay服务器的连接信息为所述zookeeper服务器在检测到注册的relay服务器数量发生变化时重新确定出的;并

根据获取的当前可提供服务的relay服务器的连接信息更新所述relay服务器分配队列。

可选地,根据所述relay服务器分配队列分配接收到的连接分配请求,包括:

在接收连接分配请求时,从所述relay服务器分配队列中依序选择一个relay服务器进行分配。

第三方面,提供一种网络访问请求调度装置,包括:

监听单元,用于通过监听机制从所述zookeeper服务器获得各relay服务器的连接信息,其中,所述连接信息为所述relay服务器向zookeeper服务器写入的;

确定单元,用于针对每一台relay服务器,根据该relay服务器的连接信息确定该relay服务器的实际可分配连接数;

建立单元,用于按照各relay服务器的实际可分配连接数由高至低的顺序建立relay服务器分配队列;

分配单元,用于根据所述relay服务器分配接收到的连接分配请求。

可选地,所述连接信息包括最大连接数和当前连接数;以及

所述确定单元,具体用于针对每一台relay服务器,根据该relay服务器的最大连接数和当前连接数确定该relay服务器可分配连接数;确定该relay服务器的可分配连接数的一半作为该relay服务器的实际可分配连接数。

可选地,所述确定单元,还用于在监听到所述zookeeper服务器更新了当前可提供服务的relay服务器的连接信息时,重新获取当前可提供服务的relay服务器的连接信息,其中,当前可提供服务的relay服务器的连接信息为所述zookeeper服务器在检测到注册的relay服务器数量发生变化时重新确定出的;并根据获取的当前可提供服务的relay服务器的连接信息更新所述relay服务器分配队列。

可选地,所述分配单元,具体用于在接收连接分配请求时,从所述relay服务器分配队列中依序选择一个relay服务器进行分配。

第四方面,提供一种计算装置,包括至少一个处理器、以及至少一个存储器,其中,所述存储器存储有计算机程序,当所述程序被所述处理器执行时,使得所述处理器执行上述任一方法所述的步骤。

第五方面,提供一种计算机可读介质,其存储有可由计算装置执行的计算机程序,当所述程序在计算装置上运行时,使得所述计算装置执行上述任一方法所述的步骤。

本发明实施例提供的网络访问请求调度方法、装置、系统和存储介质中,各relay服务器向zookeeper服务器写入自身的连接信息,lookup服务器通过监听机制从zookeeper服务器获得各relay服务器的连接信息,并根据获得的连接信息确定每一relay服务器的实际可分配连接数;按照各relay服务器的实际可分配连接数由高至低的顺序依序分配接收到的连接分配请求,这样,解决了长连接服务器负载不均匀的问题,避免连接集中到一台服务器上导致服务器宕机,提高了服务器的服务性能。

本发明的其它特征和优点将在随后的说明书中阐述,并且,部分地从说明书中变得显而易见,或者通过实施本发明而了解。本发明的目的和其他优点可通过在所写的说明书、权利要求书、以及附图中所特别指出的结构来实现和获得。

附图说明

此处所说明的附图用来提供对本发明的进一步理解,构成本发明的一部分,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。在附图中:

图1为根据本发明实施方式的网络访问请求调度系统的结构示意图;

图2为根据本发明实施方式的网络访问请求调度方法的实施流程示意图;

图3为根据本发明实施方式的确定relay服务器的实际可分配连接数的实施流程示意图;

图4为根据本发明实施方式的结构示意图;

图5为根据本发明实施例方式的计算装置的结构示意图。

具体实施方式

为了解决长连接服务器负载不均匀的问题,避免连接集中到一台服务器上导致服务器宕机影响服务性能,本发明实施例提供了一种网络访问请求调度方法、装置、系统和存储介质。

以下结合说明书附图对本发明的优选实施例进行说明,应当理解,此处所描述的优选实施例仅用于说明和解释本发明,并不用于限定本发明,并且在不冲突的情况下,本发明中的实施例及实施例中的特征可以相互组合。

如图1所示,其为本发明实施例提供的网络访问请求调度系统的结构示意图,包括lookup(负载均衡)服务器11、zookeeper(分布式应用程序协调)服务器12和至少一台relay(视频信令)服务器13,其中:

所述至少一台relay服务器13,用于向所述zookeeper服务器12写入自身的连接信息;

所述lookup服务器11,用于通过监听机制从所述zookeeper服务器12获得所述至少一台relay服务器13的连接信息;针对每一台relay服务器13,根据该relay服务器13的连接信息确定该relay服务器13的实际可分配连接数;按照各relay服务器13的实际可分配连接数由高至低的顺序建立relay服务器分配队列;根据所述relay服务器分配队列分配接收到的连接分配请求。

其中,各relay服务器的连接信息包括各relay服务器所能承载的最大连接数和当前连接数,各relay服务器将自身所能承载的最大连接数和当前连接数写入zookeeper服务器,并根据自身当前连接数的变化情况实时更新向zookeeper服务器写入的连接信息,lookup服务器利用zookeeper服务的监听功能从zookeeper服务器获得各relay服务器的连接信息。针对relay服务器集群中包含的每一relay服务器,lookup服务器根据该relay服务器的最大连接数和当前连接数确定该relay服务器可分配连接数,例如,lookup服务器可以确定relay服务器的最大连接数与当前连接数的差值为该relay服务器可分配的连接数,具体实施时,为了避免relay服务器负载过高,本发明实施例中,可以确定relay服务器的可分配连接数的一半作为该relay服务器的实际可分配连接数。即lookup服务器每一次根据各relay服务器向zookeeper服务器写入的连接信息确定出各relay服务器可分配连接数之后,确定relay服务器实际可用连接数为可分配连接数的一半,例如,t1时刻确定relay服务器a的可分配连接数为8,则lookup服务器确定t1时刻relay服务器a实际可分配连接数为4,t2时刻确定relay服务器a的可分配连接数为6,则lookup服务器确定t2时刻relay服务器a实际可分配连接数为3,以此类推。为了解决长连接服务器负载分配不均匀的问题,本发明实施例中,lookup服务器按照各relay服务器的实际可分配连接数由高至低的顺序建立relay服务器分配队列,这样,在接收到连接分配请求中,从relay服务器分配队列中依序选择一个relay服务器进行分配,这样,可以保证每次分配的relay服务器为当前服务器集群中负载最轻的relay服务器,避免将连接集中到一台服务器上导致服务器宕机影响服务性能。

具体实施时,zookeeper服务器还可以通过检测注册的relay服务器数量变化来实时更新可提供服务器的relay服务器的连接信息。例如,服务器集群中新增服relay服务器或者由已注册的relay服务器发生故障无法提供服务器时,zookeeper服务器根据检测到的可提供服务的relay服务器各自写入的连接信息,lookup服务器,在监听到zookeeper服务器更新了当前可提供服务的relay服务器的连接信息时,重新获取当前可提供服务的relay服务器的连接信息;并根据获取的当前可提供服务的relay服务器的连接信息更新所述relay服务器分配队列。在接收到连接分配请求时,lookup服务器根据自身存储的relay服务器分配队列,从relay服务器分配队列中依序选择一个relay服务器进行分配。

本发明实施例提供的网络访问请求调度方法、装置、系统和存储介质中,各relay服务器向zookeeper服务器写入自身的连接信息,lookup服务器通过监听机制从zookeeper服务器获得各relay服务器的连接信息,并根据获得的连接信息确定每一relay服务器的实际可分配连接数;按照各relay服务器的实际可分配连接数由高至低的顺序依序分配接收到的连接分配请求,这样,解决了长连接服务器负载不均匀的问题,避免连接集中到一台服务器上导致服务器宕机,提高了服务器的服务性能。

基于同一发明构思,本发明实施例中还提供了一种网络访问请求调度方法和装置,由于上述方法及装置解决问题的原理与网络访问请求调度系统相似,因此上述方法及装置的实施可以参见方法的实施,重复之处不再赘述。

如图2所示,其为本发明实施例提供的网络访问请求调度方法的实施流程示意图,包括:

s21、通过监听机制从所述zookeeper服务器获得各relay服务器的连接信息。

其中,所述连接信息为所述relay服务器向zookeeper服务器写入的。

s22、针对每一台relay服务器,根据该relay服务器的连接信息确定该relay服务器的实际可分配连接数。

s23、按照各relay服务器的实际可分配连接数由高至低的顺序建立relay服务器分配队列。

s24、根据所述relay服务器分配队列分配接收到的连接分配请求。

可选地,所述连接信息包括最大连接数和当前连接数。

基于此,在步骤s22中,可以按照图3所示的流程实施,包括以下步骤:

s31、针对每一台relay服务器,根据该relay服务器的最大连接数和当前连接数确定该relay服务器可分配连接数;

s32、确定该relay服务器的可分配连接数的一半作为该relay服务器的实际可分配连接数。

可选地,本发明实施例提供的网络访问请求调度方法,还包括:

在监听到所述zookeeper服务器更新了当前可提供服务的relay服务器的连接信息时,重新获取当前可提供服务的relay服务器的连接信息,其中,当前可提供服务的relay服务器的连接信息为所述zookeeper服务器在检测到注册的relay服务器数量发生变化时重新确定出的;并

根据获取的当前可提供服务的relay服务器的连接信息更新所述relay服务器分配队列。

可选地,根据所述relay服务器分配队列分配接收到的连接分配请求,包括:

在接收连接分配请求时,从所述relay服务器分配队列中依序选择一个relay服务器进行分配。

如图4所示,其为本发明实施例提供的网络访问请求调度装置的结构示意图,包括:

监听单元41,用于通过监听机制从所述zookeeper服务器获得各relay服务器的连接信息,其中,所述连接信息为所述relay服务器向zookeeper服务器写入的;

确定单元42,用于针对每一台relay服务器,根据该relay服务器的连接信息确定该relay服务器的实际可分配连接数;

建立单元43,用于按照各relay服务器的实际可分配连接数由高至低的顺序建立relay服务器分配队列;

分配单元44,用于根据所述relay服务器分配接收到的连接分配请求。

可选地,所述连接信息包括最大连接数和当前连接数;以及

所述确定单元,具体用于针对每一台relay服务器,根据该relay服务器的最大连接数和当前连接数确定该relay服务器可分配连接数;确定该relay服务器的可分配连接数的一半作为该relay服务器的实际可分配连接数。

可选地,所述确定单元,还用于在监听到所述zookeeper服务器更新了当前可提供服务的relay服务器的连接信息时,重新获取当前可提供服务的relay服务器的连接信息,其中,当前可提供服务的relay服务器的连接信息为所述zookeeper服务器在检测到注册的relay服务器数量发生变化时重新确定出的;并根据获取的当前可提供服务的relay服务器的连接信息更新所述relay服务器分配队列。

可选地,所述分配单元,具体用于在接收连接分配请求时,从所述relay服务器分配队列中依序选择一个relay服务器进行分配。

为了描述的方便,以上各部分按照功能划分为各模块(或单元)分别描述。当然,在实施本发明时可以把各模块(或单元)的功能在同一个或多个软件或硬件中实现。

在介绍了本发明示例性实施方式的网络访问请求调度方法和装置之后,接下来,介绍根据本发明的另一示例性实施方式的计算装置。

所属技术领域的技术人员能够理解,本发明的各个方面可以实现为系统、方法或程序产品。因此,本发明的各个方面可以具体实现为以下形式,即:完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等),或硬件和软件方面结合的实施方式,这里可以统称为“电路”、“模块”或“系统”。

在一些可能的实施方式中,根据本发明的计算装置可以至少包括至少一个处理器、以及至少一个存储器。其中,所述存储器存储有程序代码,当所述程序代码被所述处理器执行时,使得所述处理器执行本说明书上述描述的根据本发明各种示例性实施方式的网络访问请求调度方法中的步骤。例如,所述处理器可以执行如图2中所示的步骤s21、通过监听机制从所述zookeeper服务器获得各relay服务器的连接信息,和步骤s22、针对每一台relay服务器,根据该relay服务器的连接信息确定该relay服务器的实际可分配连接数,以及步骤s23、按照各relay服务器的实际可分配连接数由高至低的顺序建立relay服务器分配队列;和步骤s24、根据所述relay服务器分配队列分配接收到的连接分配请求。

下面参照图5来描述根据本发明的这种实施方式的计算装置50。图5显示的计算装置50仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。

如图5所示,计算装置50以通用计算设备的形式表现。计算装置50的组件可以包括但不限于:上述至少一个处理器51、上述至少一个存储器52、连接不同系统组件(包括存储器52和处理器51)的总线53。

总线53表示几类总线结构中的一种或多种,包括存储器总线或者存储器控制器、外围总线、处理器或者使用多种总线结构中的任意总线结构的局域总线。

存储器52可以包括易失性存储器形式的可读介质,例如随机存取存储器(ram)521和/或高速缓存存储器522,还可以进一步包括只读存储器(rom)523。

存储器52还可以包括具有一组(至少一个)程序模块524的程序/实用工具525,这样的程序模块524包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。

计算装置50也可以与一个或多个外部设备54(例如键盘、指向设备等)通信,还可与一个或者多个使得用户能与计算装置50交互的设备通信,和/或与使得该计算装置50能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(i/o)接口55进行。并且,计算装置50还可以通过网络适配器56与一个或者多个网络(例如局域网(lan),广域网(wan)和/或公共网络,例如因特网)通信。如图所示,网络适配器56通过总线53与用于计算装置50的其它模块通信。应当理解,尽管图中未示出,可以结合计算装置50使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理器、外部磁盘驱动阵列、raid系统、磁带驱动器以及数据备份存储系统等。

在一些可能的实施方式中,本发明提供的网络访问请求调度方法的各个方面还可以实现为一种程序产品的形式,其包括程序代码,当所述程序产品在计算机设备上运行时,所述程序代码用于使所述计算机设备执行本说明书上述描述的根据本发明各种示例性实施方式的网络访问请求调度方法中的步骤,例如,所述计算机设备可以执行如图2中所示的步骤s21、通过监听机制从所述zookeeper服务器获得各relay服务器的连接信息,和步骤s22、针对每一台relay服务器,根据该relay服务器的连接信息确定该relay服务器的实际可分配连接数,以及步骤s23、按照各relay服务器的实际可分配连接数由高至低的顺序建立relay服务器分配队列;和步骤s24、根据所述relay服务器分配队列分配接收到的连接分配请求。

所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。

本发明的实施方式的用于网络访问请求调度的程序产品可以采用便携式紧凑盘只读存储器(cd-rom)并包括程序代码,并可以在计算设备上运行。然而,本发明的程序产品不限于此,在本文件中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括——但不限于——电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。

可读介质上包含的程序代码可以用任何适当的介质传输,包括——但不限于——无线、有线、光缆、rf等等,或者上述的任意合适的组合。

可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如java、c++等,还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络——包括局域网(lan)或广域网(wan)—连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。

应当注意,尽管在上文详细描述中提及了装置的若干单元或子单元,但是这种划分仅仅是示例性的并非强制性的。实际上,根据本发明的实施方式,上文描述的两个或更多单元的特征和功能可以在一个单元中具体化。反之,上文描述的一个单元的特征和功能可以进一步划分为由多个单元来具体化。

此外,尽管在附图中以特定顺序描述了本发明方法的操作,但是,这并非要求或者暗示必须按照该特定顺序来执行这些操作,或是必须执行全部所示的操作才能实现期望的结果。附加地或备选地,可以省略某些步骤,将多个步骤合并为一个步骤执行,和/或将一个步骤分解为多个步骤执行。

本领域内的技术人员应明白,本发明的实施例可提供为方法、系统、或计算机程序产品。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、cd-rom、光学存储器等)上实施的计算机程序产品的形式。

本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

尽管已描述了本发明的优选实施例,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例做出另外的变更和修改。所以,所附权利要求意欲解释为包括优选实施例以及落入本发明范围的所有变更和修改。

显然,本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样,倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内,则本发明也意图包含这些改动和变型在内。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1