负载均衡方法和装置的制造方法_2

文档序号:8383668阅读:来源:国知局
,因此相对于相关技术中的轮选策略,该方案能够实现负载的均衡;由于上述方案是基于同一个负载等级中的一个或多个单板的均衡策略,因此相对于相关技术中的优选策略,该方案对系数的要求和数据的及时、准确性相对要低,而且不容易出现之前负载最轻的单个单板的负载突然增大的问题。由此可见,通过本实施例的上述步骤,解决了相关技术中的内容分发网络的轮选策略或者优选策略导致的负载不均衡的问题,从而实现了内容分发网络的多个单板的负载均衡。
[0036]优选地,多个单板中每个单板的负载是根据预定负载指标确定的,例如,预定负载指标可以是以下至少之一的指标:单板的文件系统输入输出指标、单板的网口流量指标、单板的中央处理器负载指标。当然,预定负载指标不限于上述的指标,用户可以根据需要或者系统的要求设置其他的负载指标或者对这些负载指标进行单独选择或组合应用。
[0037]在用户选取负载指标时,优选地选择对于这类单板而言容易造成整体负载瓶颈的负载指标,例如:对已一类单板而言,其中央处理器处理能力相对较强不容易出现指标过高的情况,而造成其负载过大的主要因素往往是网口流量指标过高,此时可以优选包含网口流量指标作为预定负载指标。
[0038]优选地,可以对多个单板的多种负载指标进行归一化处理,并在同一个内容分发网络的负载均衡处理中对不同单板或者不同类型的单板分别采用归一化处理后的不同预定负载指标来确定各自单板的负载。优选地,不同单板或者不同类型的单板分别选择容易造成其整体负载瓶颈的负载指标作为该预定负载指标。
[0039]优选地,在步骤S104中,为了使得待加入的新用户在选择一个单板为其提供服务后,被选择的单板不会出现负载过大的问题,可以在第一负载等级对应的一个或多个单板中选择单板时先判断这些单板的负载指标是否满足新用户需求的负载指标,例如,剩余的负载能力是否满足新用户请求的服务所需要的负载能力,从而选择这一个或多个单板中负载指标满足新用户需求的负载指标的一个单板为新用户提供服务。
[0040]优选地,新用户需求的负载指标包括但不限于以下至少之一:单板的文件系统输入输出指标、单板的网口流量指标、单板的中央处理器负载指标。
[0041]在步骤S102中,可以根据多个单板的负载分别落入的多个阈值范围,将多个单板依次映射到多个队列中,其中,多个队列中的一个队列分别对应于负载等级中的一个负载等级。其中,多个阈值范围中的一个阈值范围对应一个负载等级,该阈值范围或负载等级的个数可以由用户根据需求的负载均衡的粒度和精度进行选择,阈值范围或负载等级的个数越多,则该负载均衡方法的负载均衡能力越强,但需求的数据实时性、准确性需求将越大。
[0042]优选地,在使用上述的队列策略的情况下,在步骤S104中可以依次判断第一负载等级对应的队列中的一个或多个单板的负载指标是否满足新用户需求的负载指标,并选择第一负载等级对应的队列中满足新用户需求的负载指标的第一个单板为新用户提供服务。其中,新用户需求的负载指标包括以下至少之一:单板的文件系统输入输出指标、单板的网口流量指标、单板的中央处理器负载指标;
[0043]优选地,在判断到第一负载等级的一个或多个单板中没有能够满足新用户需求的负载指标的第一个单板可以为新用户提供服务的情况下,可以选择负载比第一负载等级较高的第二负载等级的一个或多个单板中的一个单板为新用户提供服务,或者更新多个单板的负载情况并重新进行单板的选择,或者选择第一负载等级中负载最轻的单板为新用户提供服务,或者挂起新用户的接入请求并等待符合该新用户需求的单板出现后再为该新用户提供服务。
[0044]其中,由于新用户请求服务时,该服务所需求的某一个负载指标:例如请求录制业务需求的单板的文件系统输入输出负载较大,而在第一负载等级中的一个或多个单板中可能并不存在能够满足其需求的负载能力的单板,而在第二负载等级中的一个或多个单板中,虽然其预定负载指标较第一负载等级较高,但是在预定负载指标能够满足新用户需求的负载能力的情况下,可能也会存在单板的文件系统输入输出负载能力满足新用户需求的负载能力的单板,因此可以在第二负载等级中选择单板为新用户提供服务。
[0045]优选地,在本实施例中,可以在以下至少之一的情况下更新多个单板中的相应单板的负载等级:达到预定的更新周期;相应单板开始为新的用户提供服务;相应单板所提供服务的用户中有用户退出;相应单板下电或者出现异常,其中,确定下电或者出现异常的相应单板的负载为满负载。
[0046]本实施例还提供了一种负载均衡装置,该装置用于实现上述负载均衡方法,该装置的功能实现已经在上述方法实施例中进行了说明,在此不再赘述。
[0047]图2是根据本发明实施例的负载均衡装置的结构示意图,如图2所示,该装置包括确定模块22和选择模块24,其中,确定模块22,用于根据内容分发网络的多个单板的负载,确定多个单板中每个单板对应的负载等级;选择模块24耦合至确定模块22,用于选择负载等级中的第一负载等级对应的一个或多个单板中的一个单板为新用户提供服务,其中,第一负载等级对应的一个或多个单板的负载低于负载等级中其他负载等级对应的负载。
[0048]本发明的实施例中所涉及到的模块、单元可以通过软件的方式实现,也可以通过硬件的方式来实现。本实施例中的所描述的模块、单元也可以设置在处理器中,例如,可以描述为:一种处理器包括确定模块22、选择模块24。其中,这些模块的名称在某种情况下并不构成对该模块本身的限定,例如,确定模块22还可以被描述为“用于根据内容分发网络的多个单板的负载确定多个单板中每个单板对应的负载等级的模块”。
[0049]优选地,该装置还包括:第二确定模块耦合至确定模块22,用于根据预定负载指标,分别确定多个单板的负载。
[0050]优选地,该预定负载指标包括但不限于以下至少之一:单板的文件系统输入输出指标、单板的网口流量指标、单板的中央处理器负载指标。
[0051]图3是根据本发明实施例的负载均衡装置的优选结构示意图一,如图3所示,优选地,选择模块24包括:判断单元242,用于判断一个或多个单板的负载指标是否满足新用户需求的负载指标,其中,新用户需求的负载指标包括以下至少之一:单板的文件系统输入输出指标、单板的网口流量指标、单板的中央处理器负载指标;选择单元244耦合至判断单元242,用于选择一个或多个单板中负载指标满足新用户需求的负载指标的一个单板为新用户提供服务。
[0052]优选地,确定模块22还用于根据多个单板的负载分别落入的多个阈值范围,将多个单板依次映射到多个队列中,其中,多个队列中的一个队列分别对应于负载等级中的一个负载等级。
[0053]优选地,判断单元242还用于依次判断第一负载等级对应的队列中的一个或多个单板的负载指标是否满足新用户需求的负载指标,其中,新用户需求的负载指标包括以下至少之一:单板的文件系统输入输出指标、单板的网口流量指标、单板的中央处理器负载指标;选择单元244还用于选择第一负载等级对应的队列中满足新用户需求的负载指标的第一个单板为新用户提供服务。
[0054]图4是根据本发明实施例的负载均衡装置的优选结构示意图二,如图4所示,优选地,该装置还包括:更新模块42,用于在以下至少之一的情况下更新多个单板中的相应单板的负载等级:达到预定的更新周期;相应单板开始为新的用户提供服务;相应单板所提供服务的用户中有用户退出;相应单板下电或者出现异常,其中,确定下电或者出现异常的相应单板的负载为满负载。其中,更新模块42可以位于确定模块22中,也可以与选择模块24耦合,或者与确定模块22和选择模块24分别耦合。
[0055]下面结合优选实施例进行描述和说明。
[0056]本优选实施例提供了一种CDN系统中基于分级控制的负载均衡方法,以解决CDN系统中用户负载均衡问题,提高系统运行的稳定性。
[0057]本发明优选实施例设计的一种利用分级控制策略实现负载均衡的机制采用如下的方案:
[0058]步骤1,选择一个合适的指标用来反应单板的负载情况,一般是选择单板紧缺的指标,如文件10、网口流量、CPU负载等,在本优选实施例中以文件1为例进行说明。
[0059]文件1是根据单板上承载的业务计算而来,采用预占的方式,如VOD用户占用I倍码率的10,频道录制占用5倍码率的10。对于10,可以根据需求和性能测试,提供一个单板能够承受的最大值。
[0060]步骤2,根据文件1实时占用情况将单板分成几个等级(相当于负载等级),如空闲20%以下
当前第2页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1