内容服务器的调度方法及装置的制造方法
【专利摘要】本发明提供一种内容服务器的调度方法及装置。其中，内容服务器的调度方法包括：响应于从客户端接收到的内容业务请求，获取当前记录的各内容服务器的网络运行状态数据和/或负载信息；根据所述网络运行状态数据和/或所述负载信息，为所述客户端分配相应的内容服务器。本发明实施例的内容服务器的调度方法及装置，实现了在用户发起内容业务请求时，考虑网络运行状态和/或负载状况，为用户分配合适的内容服务器，有效地避免了服务器过载，提升用户网络体验，同时，丰富了服务器的调度方式。
【专利说明】
内容服务器的调度方法及装置
技术领域
[0001]本发明涉及互联网技术，尤其涉及一种内容服务器的调度方法及装置。
【背景技术】
[0002]随着互联网技术的快速发展，上网已逐渐成为人们工作、学习、娱乐、生活中非常重要的一部分。因此，服务器需要处理的用户请求也越来越多。服务器为用户所提供的一些业务服务(例如点击观看视频后服务器的响应快慢)直接影响着用户的网络体验。
[0003]在现有技术中，通常基于域名解析或IP地址来静态/手动地配置用户可访问的服务器。例如，在域名系统(Domain Name System，DNS)上会为位于不同地理区域的用户配置相应的服务器。由此，当北京的用户访问某个网站时，DNS解析出设置在北京区域的服务器的IP以提供给该北京的用户。而当广州的用户访问同一个网站时，其DNS则解析出设置在广东的服务器的IP。可见，来自相同地理区域的用户均被引向同一服务器。
[0004]然而，当出现位于同一地理区域的用户在相同的时间段内，集中访问同一网站(如乐视视频网站)的情况下，导致该地理区域的服务器负载急剧上升，服务器的过载必将引起响应速度的降低，进而影响到用户的网络体验。
【发明内容】
[0005]本发明的目的在于，提供一种内容服务器的调度方法及装置，以实现在用户发起内容业务请求时，考虑网络运行状态和/或负载状况，为用户分配合适的内容服务器，有效地避免了服务器过载，提升用户网络体验。
[0006]根据本发明的一方面，提供一种内容服务器的调度方法，包括:响应于从客户端接收到的内容业务请求，获取当前记录的各内容服务器的网络运行状态数据和/或负载信息；根据所述网络运行状态数据和/或所述负载信息，为所述客户端分配相应的内容服务器。
[0007]进一步，所述响应于从客户端接收到的内容业务请求的处理包括:从业务服务器接收与所述响应于从客户端接收到的内容业务请求相应的内容服务器调度请求，并且所述方法还包括:将所述分配的内容服务器的信息发送给所述业务服务器。
[0008]进一步，所述根据所述网络运行状态数据和/或所述负载信息，为所述业务服务器分配相应的内容服务器的处理包括:选取反馈的网络运行状态数据未超过预设的状态阈值，和/或根据所述反馈的负载信息计算的负载量未超过预设的负载阈值的内容服务器。
[0009]进一步，所述网络运行状态数据包括以下至少一种:网络总流量、网络带宽使用率、网络延迟和网络丢包率。
[0010]进一步，所述负载信息包括以下至少一种:传输速度、终端的连接数量、响应时长、CPU占有率、内存利用率和带宽占用率。
[0011]根据本发明的另一方面，还提供一种内容服务器的调度装置，包括:数据获取响应模块，用于响应于从客户端接收到的内容业务请求，获取当前记录的各内容服务器的网络运行状态数据和/或负载信息；服务器分配模块，用于根据所述网络运行状态数据和/或所述负载信息，为所述客户端分配相应的内容服务器。
[0012]进一步，所述数据获取响应模块包括:调度请求接收单元，用于从业务服务器接收与所述响应于客户端接收到的内容业务请求相应的内容服务器调度请求，并且
[0013]所述装置还包括:服务器信息发送模块，用于将所述分配的内容服务器的信息发送给所述业务服务器。
[0014]进一步，所述服务器分配模块包括:
[0015]服务器选取单元，用于选取反馈的网络运行状态数据未超过预设的状态阈值，和/或根据所述反馈的负载信息计算的负载量未超过预设的负载阈值的内容服务器。
[0016]进一步，所述网络运行状态数据包括以下至少一种:网络总流量、网络带宽使用率、网络延迟和网络丢包率。
[0017]进一步，所述负载信息包括以下至少一种:传输速度、终端的连接数量、响应时长、CPU占有率、内存利用率和带宽占用率。
[0018]根据本发明实施例提供的内容服务器的调度方法及装置，在用户发起内容业务请求时，实现了考虑网络运行状态和/或负载状况，为用户分配合适的内容服务器。在有效地避免了服务器过载的同时，更好地达到了负载均衡的效果。此外，可为客户端提供响应能力较好的服务器与客户端进行交互，提高了数据传输的稳定性和用户的网络体验。
【附图说明】
[0019]图1是示出根据本发明实施例一的内容服务器的调度方法的流程图；
[0020]图2是示出根据本发明实施例二的内容服务器的调度方法的流程图；
[0021]图3是示出根据本发明实施例三的内容服务器的调度装置的逻辑框图；
[0022]图4是示出根据本发明实施例四的内容服务器的调度装置的逻辑框图。
【具体实施方式】
[0023]本发明的基本构思是，提供一种对内容服务器进行调度的技术方案。通过用户在客户端发起内容业务请求时，响应于该内容业务请求，获取当前记录的各内容服务器的网络运行状态数据和/或负载信息，进一步根据网络运行状态数据和/或负载信息，为客户端分配相应的内容服务器，以此来提供网络服务。与现有技术相比，一方面，可以拓展现有的仅根据用户所处的地理位置来进行服务器调度的方式，从而实现更多差异化的调度方式；另一方面，可以实现对服务器的用户分流，避免服务器过载，达到负载均衡的目的。
[0024]下面结合附图详细描述本发明的示例性实施例内容服务器的调度方法及装置。
[0025]实施例一
[0026]图1是示出根据本发明实施例一的内容服务器的调度方法的流程图。可在如实施例三所述的内容服务器的调度装置上执行该方法。
[0027]参照图1，在步骤SI10，响应于从客户端接收到的内容业务请求，获取当前记录的各内容服务器的网络运行状态数据和/或负载信息。
[0028]其中，内容业务请求如HTTP请求。具体地，内容业务请求包括但不限于对视频的观看请求，或者，对网络页面的访问请求等任何对互联网资源的请求。例如，多媒体内容的下载请求可包括网际协议(Internet Protocol，IP)地址等，用于标识待下载的多媒体内容的统一资源定位符(Uniform Resource Locator，URL)等。
[0029]在步骤S120，根据所述网络运行状态数据和/或所述负载信息，为所述客户端分配相应的内容服务器。
[0030]在为客户端分配内容服务器时，上述网络运行状态数据和/或负载信息可单独考虑，也可以结合来评定内容服务器的服务质量。例如，为用户分配服务质量最优的内容服务器，即与其终端设备的网络距离近、网络运行状态良好、缓存有所请求的业务内容的资源、带宽冗余高、工作负载低的服务器。再例如，为用户分配为用户分配服务质量次优的内容服务器，即与用户设备的网络距离远、网络运行状态不佳、缓存有所请求的业务内容的资源、带宽冗余高、工作负载高的服务器。
[0031]本发明实施例提供的内容服务器的调度方法，在用户发起内容业务请求时，实现了考虑网络运行状态和/或负载状况，为用户分配合适的内容服务器，从而有效缓解了负载严重的服务器的压力，并且，均衡调节了各个服务器之间的负载。此外，可为客户端提供响应能力较好的服务器与客户端进行交互，提高了数据传输的稳定性和用户的网络体验。同时，丰富了服务器的调度方式。
[0032]实施例二
[0033]图2是示出根据本发明实施例二的内容服务器的调度方法的流程图，所述实施例可视为图1的又一种具体的实现方案。可在如图4所示的内容服务器的调度装置上执行该方法。
[0034]在步骤S210，周期性向所述各内容服务器发送获取网络运行状态数据和/或负载信息的请求。
[0035]这里，网络运行状态数据可包括以下至少一种:网络总流量、网络带宽使用率、网络延迟和网络丢包率，但不限于此。负载信息可包括以下至少一种:传输速度、终端的连接数量、响应时长、CPU占有率、内存利用率和带宽占用率，但不限于此。
[0036]在步骤S220，接收并记录所述各内容服务器反馈的网络运行状态数据和/或负载
?目息O
[0037]在具体的实现方式中，内容服务器在接收到该内容服务器的调度装置发送的请求后，在规定时间内通过调用操作系统的接口获取本机的负载信息，并反馈至内容服务器的调度装置。
[0038]在步骤S230，从业务服务器接收与所述响应于客户端接收到的内容业务请求相应的内容服务器调度请求，获取当前记录的各内容服务器的网络运行状态数据和/或负载信息。
[0039]本步骤可视为实施例一中步骤SllO中响应于从客户端接收到的内容业务请求的处理的具体实现方式。具体地，在调度装置和客户端之间存在一个业务服务器，业务服务器可以为视频业务的服务器，但不限于此。例如，视频业务服务器可处理如对视频的观看请求。业务服务器接收客户端对指定业务的业务请求(例如下载视频剧集的请求)之后，发送与业务请求相应的服务器调度请求给调度装置。最终由调度装置为客户端分配提供服务的服务器，并将分配的服务器的信息发送给业务服务器。再由业务服务器依据接收到的分配的服务器的信息为客户端提供服务。在分配服务器的处理和发送分配的服务器的信息的处理均在后续步骤中进行了详细说明。
[0040]在步骤S240，选取反馈的网络运行状态数据未超过预设的状态阈值，和/或根据所述反馈的负载信息计算的负载量未超过预设的负载阈值的内容服务器。
[0041]本步骤可视为实施例一中步骤S120的具体实现方式。为了给后续为客户端分配服务器的处理提供判定条件，本步骤通过设定了表征服务器所处网络环境的运行状况的相关阈值，例如，网络丢包率阈值、网络带宽使用率阈值、网络延迟阈值等等。以及表征服务器负载状况的负载阈值。
[0042]从网络运行状态或者负载状况，再或者二者均考虑在内，综合地衡量各个内容服务器的当前情况。例如，服务响应中频繁发生丢包的，认为内容服务器所处网络的运行状态不佳。计算出的内容服务器的负载量超过预定阈值的，认为该内容服务器负载压力过大，从而选取负载压力小的且状况良好的内容服务器为客户端提供服务。
[0043]在步骤S250，将所述分配的内容服务器的信息发送给所述业务服务器。
[0044]具体地，可将内容服务器的网络地址发送给业务服务器。举例来说，用户发起的内容业务请求是在乐视视频中观看某电视剧的第一剧集。内容服务器的调度装置将分配的内容服务器的信息发送给业务服务器。再由业务服务器根据分配的内容服务器的信息编制M3U8列表，并发送给客户端。客户端接收到M3U8列表之后，即可依据M3U8列表到对应的网络地址下载第一剧集的音视频文件，从而实现在线播放观看了。
[0045]进一步，所述内容服务器为内容分发网络的节点服务器。
[0046]具体来说，内容分发网络(Content Delivery Network，Q)N)的基本思路是尽可能避开互联网上有可能影响数据传输速度和稳定性的瓶颈和环节，使内容传输的更快、更稳定。通过在网络各处放置节点服务器，从而构成在现有互联网基础之上的一层智能虚拟网络，CDN能够实时地根据网络流量和各节点的连接、负载状况，以及到用户的距离和响应时间等综合信息将用户的请求重新导向离用户最近的服务节点上。其目的是使用户可就近取得所需内容，解决Internet网络拥挤的状况，提高用户访问网站的响应速度。
[0047]本发明实施例提供的内容服务器的调度方法，具有如下技术效果:
[0048]—方面，周期性地向各内容服务器发起请求，可实时获知每个内容服务器的负载状况以及所处的网络环境的状况，从而为后续服务器分配提供先决条件；
[0049]另一方面，通过从业务服务器接收内容服务器调度请求，以及依据网络运行状态数据和/或负载信息选取内容服务器，并将选取的内容服务器的信息提供给业务服务器，而不是由业务服务器完成上述处理，可见，极大地分担了业务服务器的运行压力；
[0050]再一方面，设置多种网络运行状态数据和负载信息可从多个维度分析各个内容服务器的状况；
[0051]又一方面，内容服务器可以是内容分发网络CDN的节点服务器，极大地提高了用户访问网络的响应速度，提升了用户体验。
[0052]实施例三
[0053]基于相同的技术构思，图3是示出根据本发明实施例三的内容服务器的调度装置的逻辑框图。可用以执行如实施例一所述的内容服务器的调度方法流程。
[0054]参照图3，内容服务器的调度装置包括:数据获取响应模块310和服务器分配模块320。
[0055]业务请求接收模块310用于响应于从客户端接收到的内容业务请求，获取当前记录的各内容服务器的网络运行状态数据和/或负载信息。
[0056]服务器分配模块320用于根据所述网络运行状态数据和/或所述负载信息，为所述客户端分配相应的内容服务器。
[0057]本发明实施例提供的内容服务器的调度装置，在用户发起内容业务请求时，实现了考虑网络运行状态和/或负载状况，为用户分配合适的内容服务器，从而有效缓解了负载严重的服务器的压力，并且，均衡调节了各个服务器之间的负载。此外，可为客户端提供响应能力较好的服务器与客户端进行交互，提高了数据传输的稳定性和用户的网络体验。同时，丰富了服务器的调度方式。
[0058]实施例四
[0059]基于相同的技术构思，图4是示出根据本发明实施例四的内容服务器的调度装置的逻辑框图。可用以执行如实施例二所述的内容服务器的调度方法流程。
[0060]参照图4，在前述实施例的基础上，根据本发明优选实施例，数据获取响应模块310包括:调度请求接收单元3101用于从业务服务器接收与所述响应于从客户端接收到的内容业务请求相应的内容服务器调度请求。
[0061 ]并且，该内容服务器的调度装置还可包括:服务器信息发送模块350用于将所述分配的内容服务器的信息发送给所述业务服务器。
[0062]进一步地，服务器分配模块320包括:
[0063]服务器选取单元3201用于选取反馈的网络运行状态数据未超过预设的状态阈值，和/或根据所述反馈的负载信息计算的负载量未超过预设的负载阈值的内容服务器。
[0064]更进一步地，该内容服务器的调度装置还可包括:
[0065]数据获取请求发送模块330用于周期性向所述各内容服务器发送获取网络运行状态数据和/或负载信息的请求。
[0066]数据接收及记录模块340用于接收并记录所述各内容服务器反馈的网络运行状态数据和/或负载信息。
[0067]进一步，所述网络运行状态数据包括以下至少一种:网络总流量、网络带宽使用率、网络延迟和网络丢包率。
[0068]进一步，所述负载信息包括以下至少一种:传输速度、终端的连接数量、响应时长、CPU占有率、内存利用率和带宽占用率。
[0069]进一步地，所述内容服务器为内容分发网络CDN的节点服务器。
[0070]本发明实施例提供的内容服务器的调度装置，具有如下技术效果:
[0071 ] 一是周期性地向各内容服务器发起请求，可实时获知每个内容服务器的负载状况以及所处的网络环境的状况，从而为后续服务器分配提供先决条件；
[0072]二是通过调度请求接收单元和服务器选取单元配合完成内容服务器的调度任务，从而分担了业务服务器的运行压力；
[0073]三是设置多种网络运行状态数据和负载信息可从多个维度分析各个内容服务器的状况；
[0074]四是内容服务器可以是内容分发网络CDN的节点服务器，极大地提高了用户访问网络的响应速度，提升了用户体验。
[0075]需要指出，根据实施的需要，可将本申请中描述的各个部件/步骤拆分为更多部件/步骤，也可将两个或多个部件/步骤或者部件/步骤的部分操作组合成新的部件/步骤，以实现本发明的目的。
[0076]上述根据本发明的方法可在硬件、固件中实现，或者被实现为可存储在记录介质(诸如CD R0M、RAM、软盘、硬盘或磁光盘)中的软件或计算机代码，或者被实现通过网络下载的原始存储在远程记录介质或非暂时机器可读介质中并将被存储在本地记录介质中的计算机代码，从而在此描述的方法可被存储在使用通用计算机、专用处理器或者可编程或专用硬件(诸如ASIC或FPGA)的记录介质上的这样的软件处理。可以理解，计算机、处理器、微处理器控制器或可编程硬件包括可存储或接收软件或计算机代码的存储组件(例如，RAM、ROM、闪存等)，当所述软件或计算机代码被计算机、处理器或硬件访问且执行时，实现在此描述的处理方法。此外，当通用计算机访问用于实现在此示出的处理的代码时，代码的执行将通用计算机转换为用于执行在此示出的处理的专用计算机。
[0077]以上所述，仅为本发明的【具体实施方式】，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以所述权利要求的保护范围为准。
【主权项】
1.一种内容服务器的调度方法，其特征在于，所述方法包括: 响应于从客户端接收到的内容业务请求，获取当前记录的各内容服务器的网络运行状态数据和/或负载信息； 根据所述网络运行状态数据和/或所述负载信息，为所述客户端分配相应的内容服务器。2.根据权利要求1所述的方法，其特征在于，所述响应于从客户端接收到的内容业务请求的处理包括:从业务服务器接收与所述响应于从客户端接收到的内容业务请求相应的内容服务器调度请求，并且 所述方法还包括:将所述分配的内容服务器的信息发送给所述业务服务器。3.根据权利要求1或2所述的方法，其特征在于，所述根据所述网络运行状态数据和/或所述负载信息，为所述业务服务器分配相应的内容服务器的处理包括: 选取反馈的网络运行状态数据未超过预设的状态阈值，和/或根据所述反馈的负载信息计算的负载量未超过预设的负载阈值的内容服务器。4.根据权利要求1所述的方法，其特征在于，所述网络运行状态数据包括以下至少一种:网络总流量、网络带宽使用率、网络延迟和网络丢包率。5.根据权利要求1所述的方法，其特征在于，所述负载信息包括以下至少一种:传输速度、终端的连接数量、响应时长、CPU占有率、内存利用率和带宽占用率。6.—种内容服务器的调度装置，其特征在于，所述装置包括: 数据获取响应模块，用于响应于从客户端接收到的内容业务请求，获取当前记录的各内容服务器的网络运行状态数据和/或负载信息； 服务器分配模块，用于根据所述网络运行状态数据和/或所述负载信息，为所述客户端分配相应的内容服务器。7.根据权利要求6所述的装置，其特征在于，所述数据获取响应模块包括:调度请求接收单元，用于从业务服务器接收与所述响应于从客户端接收到的内容业务请求相应的内容服务器调度请求，并且 所述装置还包括:服务器信息发送模块，用于将所述分配的内容服务器的信息发送给所述业务服务器。8.根据权利要求6或7所述的装置，其特征在于，所述服务器分配模块包括: 服务器选取单元，用于选取反馈的网络运行状态数据未超过预设的状态阈值，和/或根据所述反馈的负载信息计算的负载量未超过预设的负载阈值的内容服务器。9.根据权利要求6所述的装置，其特征在于，所述网络运行状态数据包括以下至少一种:网络总流量、网络带宽使用率、网络延迟和网络丢包率。10.根据权利要求6所述的装置，其特征在于，所述负载信息包括以下至少一种:传输速度、终端的连接数量、响应时长、CPU占有率、内存利用率和带宽占用率。
【文档编号】H04L29/08GK105847381SQ201610243944
【公开日】2016年8月10日
【申请日】2016年4月18日
【发明人】夏彦刚
【申请人】乐视控股（北京）有限公司, 乐视云计算有限公司