一种Web服务器集群的路由方法
【专利摘要】本发明公开了一种Web服务器集群的路由方法，通过设置缓存服务器，由缓存服务器生成并维护热点请求记录，由解析服务器生成并维护普通请求记录，根据普通请求记录对热点请求记录进行更新管理；请求到达时，首先由缓存服务器在热点请求记录中进行匹配，若查找到匹配项，则将该web请求转到记录的目的响应服务器；若未查找到匹配项，则将请求转发到解析服务器集群进行解析并路由到的目的响应服务器。本发明通过将热点请求和普通请求进行区分处理，合理分配请求，能极大的增强对热点请求的处理能力和响应速度；同时，对热点请求记录进行更新管理，保持有效性，能适应于负载多变、确定性低的访问环境。本发明适用于Web服务器集群的路由管理。
【专利说明】-种Web服务器集群的路由方法
【技术领域】
[0001] 本发明涉及网络传输【技术领域】，具体涉及一种Web服务器集群的路由策略。
【背景技术】
[0002] 云计算是指将计算负载、应用程序通过扩展、虚拟化技术迁往云端，组成基于Web 互联网的大量分布式计算机公共资源池，用户通过普通终端，如电脑、笔记本、手机接入计 算机公共资源池按照需要进行数据计算、数据存储和数据获取服务。云计算模式提供可用 的、便捷的、按需的网络访问，进入可配置的计算资源共享池，其资源可包括网络、服务器、 存储、应用软件、服务，这些资源能够被快速提供，只需投入很少的管理工作，或与服务供应 商进行很少的交互。而Web服务器集群技术则是云计算平台的一项基本的必须的支撑性技 术。
[0003] Web服务器集群技术是在常规的Web服务器技术的基础上，结合并行处理、分布式 计算等技术发展而来的，其是将多个常规Web服务器采用并行或分布式的集群技术连接起 来，构成协同工作的Web服务器集群，获得高性能计算能力，大容量存储，为千万甚至上亿 级用户提供高可靠性、高安全性、大负载的网络游戏、电子商务和流媒体视频点播Web应用 服务。
[0004] 整个Web服务器集群体系，具有单一虚拟IP地址，即集群地址，用户端通过虚拟IP 地址访问Web服务器集群体系。Web服务器集群的请求响应是通过Web请求路由系统来实 现。Web请求路由系统通常由Web请求分配器和后端若干台服务器组成，Web请求分配器充 当组织和协调集群中服务器工作的角色，其IP地址为集群地址，Web请求分配器作为到达 请求的代理，负责集中接收所有到达的HTTP请求，并且按照特定的负载分配和均衡策略将 用户端的请求分配给集群中的后端服务器。后端的服务器则负责处理由Web请求分配器转 发过来的同类请求，最优化调用服务器资源来响应请求。
[0005] 因此，负载分配策略也即路由策略直接影响Web服务器集群系统的性能，是一个 非常活跃的研究领域。负载分配中一个需要考虑的重要因素是负载均衡，均衡的负载分配 有助于平衡发挥每台服务器的运算资源和能力，从而获得满意的响应性能。
[0006] 传统的Web服务，绝大多数的Web页面为静态内容，Web请求的负载小，因此负载 分配均采用较简单的算法，如RR轮循算法和随机选择算法。这些分配策略本身开销很小， 且不需要保持客户端或服务器端的状态信息，执行效率很高，但这些分配策略负载均衡能 力很弱，只能实现比较初级的系统负载分配。
[0007] 但随着Web站点动态内容的出现，请求所产生的负载差异越来越大，传统的轮循 等算法越来越显得局限。且在云计算环境下，Web服务器集群采用虚拟技术，更注重于可扩 展性、灵活性、分布式的高效性计算结构和模式，其包含海量级别动态内容数据，Web请求属 于海量级别且具有多样性和局部性，导致Web服务器集群的负载多变，确定性低，因此，传 统的Web服务器集群系统路由策略，已不能适应于当前应用要求，极易由于用户访问的局 部性活跃性，而出现局部负载过大。
【发明内容】
[0008] 本发明所要解决的技术问题是提供一种Web服务器集群的路由方法，其能够适应 于当前web应用访问负载多变、确定性低的特点，能合理的分配Web请求，并均衡服务器的 负载，使得整个系统执行效率高，系统响应快。
[0009] 本发明解决技术问题所采用的技术方案是：一种Web服务器集群的路由方法，所 述Web服务器集群包括Web请求路由系统和响应服务器集群，所述Web请求路由系统包括 请求分配器以及解析服务器集群，在所述Web请求分配器和解析服务器集群之间设置有缓 存服务器，由缓存服务器生成并维护用于记录热点web请求属性值的热点请求记录，热点 web请求属性值包括Web请求名、目的响应服务器地址和请求计数；由解析服务器集群中 的解析服务器生成并维护普通请求记录，所述普通请求记录用于记录普通web请求的属性 值，普通web请求属性值包括Web请求名、目的响应服务器地址和请求计数；Web请求路由 系统根据普通请求记录对热点请求记录进行更新管理；
[0010] 其路由方法如下：
[0011] 步骤一、来自外部的Web请求统一经请求分配器分发到缓存服务器；
[0012] 步骤二、缓存服务器对所接收的Web请求进行过滤处理，所述过滤处理是缓存服 务器对所接收Web请求在热点请求记录中进行匹配过滤，根据匹配结果处理方式如下；
[0013] 方式1、若在热点请求记录中查找到匹配项，则将该web请求转到热点请求记录中 记录的目的响应服务器，并更新该热点web请求的请求计数；
[0014] 方式2、若在热点请求记录中未查找到匹配项，则将请求转发到解析服务器集群， 解析服务器通过查找已注册的路由配置表，将此请求路由到的目的响应服务器，并更新普 通请求记录的数据。
[0015] 进一步的，设定一缓存管理周期T，每隔T时间对热点请求记录进行一次更新管 理，步骤如下：
[0016] 步骤a、汇总统计解析服务器集群中各解析服务器的普通请求记录，计算各普通 Web请求的请求计数；
[0017] 步骤b、缓存服务器对各普通Web请求的请求计数和各热点Web请求的请求计数进 行计算排序，重新确定热点web请求和普通web请求；
[0018] 步骤c、根据新确定的热点web请求更新热点Web请求记录。
[0019] 进一步的，在所述Web请求分配器和解析服务器集群之间设置有至少两台缓存服 务器并按集群方式配置，各缓存服务器在Web请求路由系统中的功能角色、处理逻辑及数 据均一致；在对热点请求记录进行更新管理时，在计算排序前，首先对各缓存服务器热点请 求记录的相同web请求进行合并；在计算排序后，对热点请求记录和普通请求记录中各web 请求的计算值清零；在完成热点请求记录更新后，对各缓存服务器的热点请求记录进行同 止 /J/ 〇
[0020] 具体的，所述步骤一中，来自外部的Web请求统一由请求分配器按照TCP/IP协议 轮循转发给各缓存服务器。
[0021] 进一步的，对热点请求记录中的字段进行哈希处理，在所述步骤2中，缓存服务器 计算出所接收Web请求的哈希值，并通过哈希值在热点请求记录进行匹配过滤。
[0022] 进一步的，在解析服务器集群中选择解析服务器时，使用一致性哈希算法。进一步 的，分别针对各解析服务器引入虚拟节点，且与各解析服务器对应的虚拟节点的数量反比 于该解析服务器的负载程度。具体的，设有j台解析服务器，由&表示第i台解析服务器， 通过如下步骤确定与解析服务器Si对应的虚拟节点的数量：
[0023] 步骤1、计算解析服务器Si的性能指标P(Si)和负载值L(Si)，公式如下：
[0024] P (S^ = (S,) +k2Pffleffl (S,) +k3Pdsk (S,) +k4Pbd (S,)
[0025] 其中，表示标称的CPU频率，PM表示标称的内存容量，Pdsk表示标称的磁盘容 量，P bd表示标称的网络带宽，kn表示各指标标称值的权重系数且
【权利要求】
1. 一种Web服务器集群的路由方法，所采用Web服务器集群包括Web请求路由系统和 响应服务器集群，所述Web请求路由系统包括请求分配器以及解析服务器集群，其特征在 于： 在所述Web请求分配器和解析服务器集群之间设置有缓存服务器，由缓存服务器生成 并维护用于记录热点web请求属性值的热点请求记录，热点web请求属性值包括Web请求 名、目的响应服务器地址和请求计数；由解析服务器生成并维护普通请求记录，所述普通请 求记录用于记录普通web请求的属性值，普通web请求属性值包括Web请求名、目的响应 服务器地址和请求计数；Web请求路由系统根据普通请求记录对热点请求记录进行更新管 理； 其路由方法如下： 步骤一、来自外部的Web请求统一经请求分配器分发到缓存服务器； 步骤二、缓存服务器对所接收的Web请求进行过滤处理，所述过滤处理是缓存服务器 对所接收Web请求在热点请求记录中进行匹配过滤，根据匹配结果处理方式如下； 方式1、若在热点请求记录中查找到匹配项，则将该web请求转到热点请求记录中记录 的目的响应服务器，并更新该热点web请求的请求计数； 方式2、若在热点请求记录中未查找到匹配项，则将请求转发到解析服务器集群，解析 服务器通过查找已注册的路由配置表，将此请求路由到的目的响应服务器，并更新普通请 求记录的数据。
2. 如权利要求1所述的一种Web服务器集群的路由方法，其特征在于设定一缓存管理 周期T，每隔T时间对热点请求记录进行一次更新管理，步骤如下： 步骤a、汇总统计解析服务器集群中各解析服务器的普通请求记录，计算各普通Web请 求的请求计数； 步骤b、缓存服务器对各普通Web请求的请求计数和各热点Web请求的请求计数进行计 算排序，重新确定热点web请求和普通web请求； 步骤c、根据新确定的热点web请求更新热点Web请求记录。
3. 如权利要求2所述的一种Web服务器集群的路由方法，其特征在于：在所述Web请 求分配器和解析服务器集群之间设置有至少两台缓存服务器并按集群方式配置，各缓存服 务器在Web请求路由系统中的功能角色、处理逻辑及数据均一致； 在对热点请求记录进行更新管理时，在计算排序前，首先对各缓存服务器热点请求记 录的相同web请求进行合并；在计算排序后，对热点请求记录和普通请求记录中各web请求 的计算值清零；在完成热点请求记录更新后，对各缓存服务器的热点请求记录进行同步。
4. 如权利要求3所述的一种Web服务器集群的路由方法，其特征在于：所述步骤一中， 来自外部的Web请求统一由请求分配器按照TCP/IP协议轮循转发给各缓存服务器。
5. 如权利要求1所述的一种Web服务器集群的路由方法，其特征在于： 对热点请求记录中的字段进行哈希处理，在所述步骤2中，缓存服务器计算出所接收 Web请求的哈希值，并通过哈希值在热点请求记录进行匹配过滤。
6. 如权利要求1或5所述的一种Web服务器集群的路由方法，其特征在于：在解析服 务器集群中选择解析服务器时，使用一致性哈希算法。
7. 如权利要求6所述的一种Web服务器集群的路由方法，其特征在于：分别针对各解 析服务器引入虚拟节点，且与各解析服务器对应的虚拟节点的数量反比于该解析服务器的 负载程度。
8.如权利要求7所述的一种Web服务器集群的路由方法，其特征在于：设有j台解析 服务器，由Si表示第i台解析服务器，通过如下步骤确定与解析服务器Si对应的虚拟节 点的数量： 步骤1、计算解析服务器Si的性能指标P (Si)和负载值L (Si)，公式如下： P(Si) = k^pu (S^+k2Pfflem (S^+k3Pdsk 其中，表示标称的CPU频率，PM表示标称的内存容量，Pdsk表示标称的磁盘容量， Pbd表示标称的网络带宽，kn表示各指标标称值的权重系数且
L (Si) 一 (Sj) +c2Lmem (Sj) +c3Lio (Sj) +c4Lbd (Sj) +c5Lrsp (Sj) 表示CPU利用率，L_表示内存利用率，Li。表示磁盘I/O占用率，Lbd表示网络带宽 占用率，l^sp表不响应时间，cm表不各指标利用率的权重系数且
步骤2、根据步骤1获得的L(Si)和P(Si)计算解析服务器51的权值W(Si) =L(Si)/ P(Si)； 步骤3、在定义的哈希值环区间上，总的虚拟节点数量为N，对应解析服务器Si的虚拟 节点数量为
。
【文档编号】H04L12/701GK104065568SQ201410321120
【公开日】2014年9月24日 申请日期:2014年7月7日 优先权日:2014年7月7日
【发明者】罗光春, 田玲, 段贵多, 丁林波 申请人:电子科技大学