专利名称：主动式集群服务器的制作方法
技术领域：
本发明涉及计算机网络集群服务器，尤其是计算机网络集群服务器的体系结构及其服务调度方法。
背景技术：
随着计算机与网络通讯技术的突飞猛进，计算机网、电视网、通讯网在全球范围内得到普及，三网合一的趋势日趋明显。网络信息服务是国民经济和日常生活中不可缺少的资源和工具。电子商务、电子政府、电子教育，都急需要计算机网站——高性能网络服务器。集群服务器是实现高性能网络服务的有效途径。
按体系结构划分，目前用得最多的集群服务器主要有两类，即基于域名调度的集群服务器(Round-Robin DNS)和基于分发器调度的集群服务器(Dispatcher Based Cluster Server)。它们的特点是1.基于域名调度的集群服务器如NCSA group以及DEC WRL group的可伸缩服务器在市场产品中占有一定地位，它由一个域名服务器(DNS Server)和多个提供相同服务内容的应用服务器组成。应用服务器各自有不同的IP地址。当用户通过域名来访问服务器时，域名服务器通过负载平衡调度策略解析出不同的IP地址，并转告用户，用户根据域名服务器提供的IP地址向对应的应用服务器请求，从而获得透明的服务，其体系结构是一个域名服务器通过内部互连网络与多个应用服务器相连，用户端通过外部网络与集群服务器相连。基于域名调度的集群服务器内部网络一般采用通用网络协议，其请求服务过程是二个分离的网络通讯过程，一次由用户端向域名服务器询问，另一次由用户端向负载平衡调度策略解析出的IP地址对应的应用服务器请求，其服务调度过程是首先由用户向域名服务器询问执行服务的应用服务器IP地址，待域名服务器解析域名后，再由用户根据应答的IP地址向应用服务器请求服务。
2.基于分发器的集群服务器如IBM公司的NetDispatcher，它由一个分发服务器(Dispatcher Server)和多个应用服务器组成。其服务调度过程对用户透明，用户通过域名对应的虚拟IP地址访问集群服务器时，所有的用户请求都集中到分发服务器上，分发器根据应用服务器报告的忙闲情况，进行负载平衡调度，把用户的请求转发给某一个负载轻的应用服务器提供请求服务，集群服务器的应答报文可经过分发器转发给用户，也可直接由应用服务器返回给用户，其体系结构对应有应答报文由分发器转发和应答报文由应用服务器直接返回两种。前者用户通过外部网络与分发器相连，分发器通过内部网络与多个应用服务器相连，用户不直接与应用服务器相连；后者用户通过外部网络与分发器相连，分发器通过内部网络与多个应用服务器相连，应用服务器通过外部网络把应答报文返回给用户。其服务调度过程是首先由用户向分发器发服务请求，分发器根据应用服务器报告的忙闲情况，进行负载平衡调度，把用户的请求转发给某一个负载轻的应用服务器提供请求服务，应答报文或由分发器转发给用户，或由应用服务器返回给用户。通过分发器转发服务应答报文容易造成瓶颈，而由应用服务器直接将应答报文返回给用户可避免这个瓶颈。虽然基于分发器调度的集群服务器跟基于域名的集群服务器一样，一次请求服务过程存在着二个网络通讯过程，一次由用户向分发器，另一次由分发器向分配的应用服务器，但是二次网络通讯都与分发器相关，分发器向应用服务器的调度过程对用户透明，而且二次网络通讯有重叠，可节省时间。
但是，基于域名调度的集群服务器和基于分发器的集群服务器都要进行负载平衡处理，包括应用服务器的负载情况、正在服务的时间预报、负载平衡计算等，前者在域名服务器中处理，后者在分发服务器中执行。用户请求服务分别由域名服务器或分发器根据负载的实时情况分配到某一个实际的应用服务器去完成。这样处理的必然弊病是服务响应延迟由于集中进行负载平衡处理而增加。
技术内容本发明要解决的技术问题是通过取消集群服务器内部的集中负载平衡处理，提高集群服务器服务响应性能，避免因为进行负载平衡处理而导致的服务响应延迟增加，形成基于服务器主动调度的集群服务器，即前端—集中器不再进行服务调度，而由应用服务器根据自身的空闲情况主动向集群服务器的集中器争取用户服务请求。
本发明的技术方案是本发明的体系结构由一个前端服务器—集中器(Collector)和若干个应用服务器组成，它的服务应答报文有由集中器转发和由应用服务器直接发给用户两种方式。应答报文由集中器转发时体系结构是用户通过外部网络与集群服务器的集中器相连，集中器通过内部互连网络与多个应用服务器相连，用户不直接与应用服务器相连；由应用服务器直接发给用户时体系结构是用户通过外部网络与集中器相连，集中器通过内部网络与多个应用服务器相连，应用服务器把应答报文通过外部网络返回给用户。本发明服务过程是用户通过域名对应的虚拟IP地址请求服务，所有的请求报文都集中到集中器上，集中器将请求报文安置在自身的缓冲区内，由应用服务器根据自身的忙闲情况主动到集中器缓冲区去争取，集中器不需要进行负载平衡策略计算。根据集中器与应用服务器内部互连的方式不同，本发明有两种集群互连方式1.紧耦合存储通道型前端集中器和后端应用服务器通过紧耦合的存储通道互连实现，其实质是共享内存。它的请求服务调度工作流程是用户通过网络向集中器发送TCP(Transmission Contral Protocol传输控制协议)请求，集中器将请求放置在缓冲区—内存中，缓冲排队，应用服务器根据忙闲情况，自主地向共享的集中器缓冲区索取用户请求并为用户服务，将服务响应报文放在集中器缓冲区中，再由集中器将缓冲区中服务响应报文通过网络转发给用户。对用户请求服务过程来讲，只有一个单一的网络通讯过程，即用户向集中器提出请求和集中器将应答转发给用户，其中集中器负责网络通讯的状态，而应用服务器负责请求的服务应答报文，二者之间只有四次共享内存访问，用时很短。
2.松耦合网络互联型前端集中器和后端应用服务器之间采用网络来互连，这就是松耦合。其请求服务过程包含了二个交叉重叠的网络通讯过程，而且都以集中器为访问对象，具体的通讯过程是客户端→集中器①客户向集中器提出请求连接；②集中器允许请求连接；③客户进一步提交请求服务报文；④集中器将请求服务报文放到缓冲区中等待索取，同时将应用服务器送来的相应的应答服务报文转发给用户；⑤用户接收应答服务报文完成；⑥集中器撤销此连接。
应用服务器→集中器①应用服务器根据自身的忙闲情况主动向集中器发请求连接；②集中器允许请求连接；③应用服务器索取用户的请求服务报文，同时传送已处理好的请求服务应答报文；④集中器提交适合该应用服务器的请求报文；⑤应用服务器接收回答；⑥集中器撤销此连接。
本发明具有分布控制的特色，集中器不需要进行集中负载平衡和调度。尤其在紧耦合存储通道型中由于集中器和应用服务器之间采用共享内存机制，不需要进行网络联系，减少了网络通讯延迟。在松耦合网络互联型中，用户与应用服务器的地位对集中器来讲是相同的，都是主动向集中器请求通讯的客户(client)端，同时应用服务器还有提供应答报文的功能。在松耦合网络互联型中，如果内部互联与外部网络采用统一的通用网络，则形成统一网络的主动式集群服务器用户和应用服务器都通过通用网络与集中器相连，用户和应用服务器无论在与集中器相连的物理方式还是在与集中器的逻辑地位上都是平等的，集群服务器的网络通讯不需要区分内部网和外部网，因此集中器和应用服务器都只需一个网络接口，控制简洁。
采用本发明能产生如下有益技术效果1.将客户请求的分配和负载平衡计算由集群服务器的前端(域名服务器或分发器)集中处理，改为由多个应用服务器自主分散处理，减少了集中器处理请求的难度，有效缩短了客户请求响应的时间。
2.在本发明紧耦合存储通道型中，用户请求服务过程只有一个网络通讯过程，使得集群服务器像单一的服务器一样，不需要进行内部网络联系，减少了网络通讯延迟。
3.在本发明松耦合网络互联型中，虽然客户请求服务过程和域名调度和分发器调度一样包涵了二个网络通讯过程，但域名调度二个通讯过程是分离串行，分发器调度的二个通讯过程只有部分重叠，而本发明松耦合网络互联型的二个通讯过程分离、交叉、重叠，在应用服务器负载重的情况下，便于流水处理。
4.本发明统一网络主动式集群服务器将外部网络和内部网络统一起来，集群服务器的集中器和应用服务器只有一个网络接口，控制简洁。
5.用户在不同集群服务器中获得服务响应时间不同，其计算公式如下
表中有■ 通用网络的通讯平均延时为tc(约为50-200ms)■ 负载平衡策略与调度耗时为tb(约为50-200ms)■ 应用服务器的平均服务时间为ts(约为50-500ms)■ 共享内存(存储通道)访问时间为tm(为ns(10-9s)量级)，相对于ms(10-3s)可忽略。
■ 二次网络服务过程重叠流水节省的时间为td(约为50-100ms)获得服务响应的时间与请求的内容有关，由上表可看出主动式集群调度比基于域名调度和基于分发器调度获得服务响应延迟减少了负载平衡策略调度耗时，减少了响应延迟约50-200ms。
图1是基于域名调度方式集群服务器体系结构；图2是基于域名调度的集群服务器服务调度工作流程；图3是基于分发调度的集群服务器应答报文由分发器转发时体系结构；图4是基于分发调度的集群服务器应答报文由应用服务器直接返回体系结构；图5是基于分发调度的集群服务器服务调度工作流程；图6是本发明应答报文由集中器转发时体系结构；
图7是本发明应答报文由应用服务器直接返回体系结构；图8是紧耦合主动式集群服务器工作流程；图9是松耦合主动式集群服务器工作流程；图10是统一网络的主动式集群服务器；图11是主动式集群服务器调度模型；图12是基于负载平衡策略的传统式调度模型；图13是本发明与基于负载平衡策略的传统式集群服务器平均响应时间的比较；图14是本发明与基于负载平衡策略的传统式集群服务器资源利用率的比较；图15是本发明与基于负载平衡策略的传统式集群服务器等待队列平均长度的比较；图16是本发明与基于负载平衡策略的传统式集群服务器服务容量一定时系统伸缩性的比较。
具体实施例方式图1示出了基于域名调度方式集群服务器体系结构；图2示出了基于域名调度的集群服务器服务调度工作流程；图3示出了基于分发调度的集群服务器应答报文由分发器转发时体系结构；图4示出了基于分发调度的集群服务器应答报文由应用服务器直接返回体系结构；图5示出了基于分发调度的集群服务器服务调度工作流程。
图6是本发明应答报文由集中器转发时体系结构用户通过外部网络与集群服务器的集中器相连，集中器通过内部互连网络与多个应用服务器相连，用户不直接与应用服务器相连；图7是本发明应答报文由应用服务器直接返回体系结构用户通过外部网络与集中器相连，集中器通过内部网络与多个应用服务器相连，应用服务器把应答报文通过外部网络返回给用户。
图8是紧耦合主动式集群服务器工作流程用户通过网络向集中器发送TCP请求，集中器将请求放置在缓冲区—内存中，缓冲排队，应用服务器根据忙闲情况，自主地向共享的集中器缓冲区索取用户请求并为用户服务，将服务响应报文放在集中器缓冲区中，再由集中器将缓冲区中服务响应报文通过网络转发给用户；图9是松耦合主动式集群服务器工作流程其请求服务过程包含了二个交叉重叠的网络通讯过程，而且都以集中器为访问对象，具体的通讯过程是客户端→集中器①客户向集中器提出请求连接；②集中器允许请求连接；③客户进一步提交请求服务报文；④集中器将请求服务报文放到缓冲区中等待索取，同时将应用服务器送来的相应的应答服务报文转发给用户；⑤用户接收应答服务报文完成；⑥集中器撤销此连接。
应用服务器→集中器①应用服务器根据自身的忙闲情况主动向集中器发请求连接；②集中器允许请求连接；③应用服务器索取用户的请求服务报文，同时传送已处理好的请求服务应答报文；④集中器提交适合该应用服务器的请求报文；⑤应用服务器接收回答；⑥集中器撤销此连接。
图10是统一网络的主动式集群服务器内部互联与外部网络采用统一的通用网络，用户和应用服务器都通过通用网络与集中器相连，用户和应用服务器无论在与集中器相连的物理方式还是在与集中器的逻辑地位上都是平等的，集群服务器的网络通讯不需要区分内部网和外部网，集中器和应用服务器都只有一个网络接口，控制简洁。
从排队论的观点来看，基于服务器主动调度机制的集群网络服务器体系结构与传统的基于负载平衡策略的体系结构体现了不同的排队论模型。通过排队论模型的比较，可以对两种体系结构的性能做一个大致的分析，说明服务器主动调度机制的集群网络服务器体系结构具有的性能潜力。
在服务器主动调度的集群服务器中，用户请求都在集中器处等候分发，应用服务器根据实际的处理能力从集中器获取请求，实际上是单队列(集中器处)，多服务台(各应用服务器)的排队系统，如图11所示。在传统的基于负载平衡策略的体系结构中，用户请求在即域名服务器或分发器处直接转发，在应用服务器处形成等待队列，实际上是由多个单队列、单服务台的简单排队系统组合而成的复合排队系统，如图12所示。
假设用户请求到达速率服从泊松分布，服务器处理单个请求时间服从指数分布，主动式集群服务器调度模型可用M/M/c的排队系统近似表示，基于负载平衡策略的传统式调度模型可用多个M/M/1的排队系统近似表示。
其中，3λ表示用户请求平均到达速率，μ表示服务器平均处理速率。假设每台服务器处理能力相同，并且在两种不同的调度机制下，用户请求都能均匀地分发到各个服务器。由排队论理论分析可知，在图11、图12所示的条件下，单队比多队有显著的优越性。两种不同体系结构集群关键性能的比较给出在图13-16中。对于图13，假定服务器的处理速率保持不变，实际上当负载逐渐增大时，传统基于负载平衡策略的集群服务器中请求内容的处理将受不断到达的用户请求的干扰，造成处理速率的下降，这将大大影响平均响应时间。而主动式集群不受此影响。图14是本发明与基于负载平衡策略的传统式集群服务器资源利用率的比较图，此图反映出本发明的资源利用率明显高。图15所示的基于负载平衡策略的传统式集群等待队列平均长度只是单台服务器上的队列长度，其整体资源消耗要远大于主动式集群。图16说明主动式集群可以使用多台低端服务器替代数量较少的高端服务器而集群性能不受影响，可以得到更高的性能价格比，基于负载平衡策略的传统式集群服务器的性能则有所下降。
采用服务器主动调度机制的体系结构，集群将具有潜在的性能上的优势，特别是在集群服务器的负载接近其服务容量时，这一点更加明显。
权利要求
1.一种主动式集群服务器，由一个前端服务器和若干个应用服务器组成，它的服务应答报文有由前端服务器转发和由应用服务器直接发给用户两种方式，其特征在于前端服务器称为集中器(Collector)，根据应答报文发给用户的两种方式有应答报文由集中器转发体系结构和应答报文由应用服务器直接发给用户体系结构两种，集中器与应用服务器内部互连有紧耦合存储通道型和松耦合存储通道型两种集群互连方式；其服务过程是用户通过域名对应的虚拟IP地址请求服务，所有的请求报文都集中到集中器上，集中器将请求报文安置在自身的缓冲区内，由应用服务器根据自身的忙闲情况主动到集中器缓冲区去争取用户服务请求。
2.如权利要求1所述的主动式集群服务器，其特征在于所述应答报文由集中器转发体系结构是用户通过外部网络与集群服务器的集中器相连，集中器通过内部互连网络与多个应用服务器相连，用户不直接与应用服务器相连；所述由应用服务器直接发给用户体系结构是用户通过外部网络与集中器相连，集中器通过内部网络与多个应用服务器相连，应用服务器把应答报文通过外部网络返回给用户。
3.如权利要求1所述的主动式集群服务器，其特征在于所述紧耦合存储通道型前端集中器和后端应用服务器通过紧耦合的存储通道互连即通过共享内存实现，它的请求服务调度工作流程是用户通过域名对应的虚拟IP地址请求服务，所有的请求报文都集中到集中器上，集中器将请求报文安置在自身的缓冲区内，由应用服务器根据自身的忙闲情况主动到集中器缓冲区去争取，集中器不需进行负载平衡策略计算。
4.如权利要求1所述的主动式集群服务器，其特征在于所述松耦合存储通道型前端集中器和后端应用服务器之间采用网络来互连，其请求服务过程包含了二个交叉重叠的网络通讯过程，都以集中器为访问对象，具体的通讯过程是客户端→集中器①客户向集中器提出请求连接；②集中器允许请求连接；③客户进一步提交请求服务报文；④集中器将请求服务报文放到缓冲区中等待索取，同时将应用服务器送来的相应的应答服务报文转发给用户；⑤用户接收应答服务报文完成；⑥集中器撤销此连接。应用服务器→集中器①应用服务器根据自身的忙闲情况主动向集中器发请求连接；②集中器允许请求连接；③应用服务器索取用户的请求服务报文，同时传送已处理好的请求服务应答报文；④集中器提交适合该应用服务器的请求报文；⑤应用服务器接收回答；⑥集中器撤销此连接。
5.如权利要求1或3所述的主动式集群服务器，其特征在于所述松耦合网络互联型主动式集群服务器，如果内部互联与外部网络采用统一的通用网络，则形成统一网络的主动式集群服务器用户和应用服务器都通过通用网络与集中器相连，用户和应用服务器无论在与集中器相连的物理方式还是在与集中器的逻辑地位上都是平等的，集群服务器的网络通讯不需要区分内部网和外部网，集中器和应用服务器都只需一个网络接口，控制简洁。
全文摘要
本发明公开了一种主动式集群服务器,所要解决的技术问题是取消集群服务器内部的集中负载平衡处理,提高集群服务器服务响应性能,避免由于负载平衡处理而导致服务响应延迟增加。技术方案是:它由一个集中器和若干个应用服务器组成,应答报文有由集中器转发和由应用服务器直接发给用户两种方式,集中器与应用服务器内部有紧耦合和松耦合存储通道型两种集群互连方式;由应用服务器根据自身的空闲情况主动向集中器争取用户服务请求,而不由集中器进行服务调度。本发明将客户请求的分配和负载平衡计算由集群服务器的前端集中处理改为由多个应用服务器自主分散处理,减少了集中器处理请求的难度,有效缩短了客户请求响应的时间。
文档编号G06F13/14GK1371060SQ0211401
公开日2002年9月25日 申请日期2002年3月25日 优先权日2002年3月25日
发明者金士尧, 叶超群, 王晓川, 吴飞 申请人:中国人民解放军国防科学技术大学