一种热点节目负载均衡的方法和装置与流程

文档序号:20081102发布日期:2020-03-10 10:40阅读:114来源:国知局
一种热点节目负载均衡的方法和装置与流程

本发明涉及计算机技术领域,尤其涉及一种热点节目负载均衡的方法和装置。



背景技术:

目前,现有的p2p节点(p2p对等网络,即对等计算机网络,是一种在对等者之间分配任务和工作负载的分布式应用架构,是对等计算模型在应用层形成的一种组网或网络形式。)存储和查询时使用的负载均衡技术一般的实现方法如下:

以节目id作为key,经过一致性哈希的计算,确定对应的缓存服务器,然后执行存储或查询操作。其中,一致性哈希其设计目标是为了解决因特网中的热点(hotspot)问题。

在实现本发明过程中,发明人发现现有技术中至少存在如下问题:

现有的实现方案很难解决热点问题,例如有一个节目正在热播,那么以这个节目id确定的缓存服务器就会集中到一台服务器,造成被热播节目映射的后端缓存服务器压力非常大,而非热播节目映射的后端缓存服务器压力相对比较小,造成负载不均衡。



技术实现要素:

有鉴于此,本发明实施例提供一种热点节目负载均衡的方法和装置,能够解决热点节目造成系统负载不均衡的问题。

为实现上述目的,根据本发明实施例的一个方面,提供了一种热点节目负载均衡的方法,包括在定时周期内识别热点节目,获取所述热点节目的节目标识;根据所述热点节目的节目标识,计算所述热点节目的节目标识别名;对所述的节目标识别名执行一致性哈希计算,定位对应的缓存服务器。

可选地,在定时周期内识别热点节目,包括:

设置以缓存服务器id为key,定时周期内访问次数为value的负载均衡哈希表;

监控负载均衡哈希表中一个缓存服务器负载与另一缓存服务器负载的差值超过预设的负载阈值;

在定时周期内记录该缓存服务器访问的节目标识,以确定热点节目。

可选地,根据所述热点节目的节目标识,计算所述热点节目的节目标识别名,包括:

获取确定为热点节目的节目标识存储至热点节目map中;

提取热点节目map中的节目标识,通过添加随机前缀或后缀的方法计算节目标识别名。

可选地,对所述的节目标识别名执行一致性哈希计算之前,包括:

根据节目标识在热点节目map中定位热点节目别名数组的地址;

将节目标识别名存储在热点节目别名数组中;

随机产生索引值,以根据索引值对应的热点节目别名数组中的顺序号提取相应节目标识别名。

另外,根据本发明实施例的一个方面,提供了一种热点节目负载均衡的装置,包括识别模块,用于在定时周期内识别热点节目,获取所述热点节目的节目标识;计算模块,用于根据所述热点节目的节目标识,计算所述热点节目的节目标识别名;定位模块,用于对所述的节目标识别名执行一致性哈希计算,定位对应的缓存服务器。

可选地,所述定位模块在定时周期内识别热点节目,包括:

设置以缓存服务器id为key,定时周期内访问次数为value的负载均衡哈希表;

监控负载均衡哈希表中一个缓存服务器负载与另一缓存服务器负载的差值超过预设的负载阈值;

在定时周期内记录该缓存服务器访问的节目标识,以确定热点节目。

可选地,所述计算模块根据所述热点节目的节目标识,计算所述热点节目的节目标识别名,包括:

获取确定为热点节目的节目标识存储至热点节目map中;

提取热点节目map中的节目标识,通过添加随机前缀或后缀的方法计算节目标识别名。

可选地,所述定位模块对所述的节目标识别名执行一致性哈希计算之前,包括:

根据节目标识在热点节目map中定位热点节目别名数组的地址;

将节目标识别名存储在热点节目别名数组中;

随机产生索引值,以根据索引值对应的热点节目别名数组中的顺序号提取相应节目标识别名。

根据本发明实施例的另一个方面,还提供了一种电子设备,包括:

一个或多个处理器;

存储装置,用于存储一个或多个程序,

当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现上述任一热点节目负载均衡的实施例所述的方法。

根据本发明实施例的另一个方面,还提供了一种计算机可读介质,其上存储有计算机程序,所述程序被处理器执行时实现上述任一基于热点节目负载均衡的实施例所述的方法。

上述发明中的一个实施例具有如下优点或有益效果:本发明通过在定时周期内识别热点节目,获取所述热点节目的节目标识;根据所述热点节目的节目标识,计算所述热点节目的节目标识别名;对所述的节目标识别名执行一致性哈希计算,定位对应的缓存服务器。从而,本发明可以大大提高p2p系统的整体负载能力,尤其对热点节目能够实现存储和查询的负载均衡。

上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。

附图说明

附图用于更好地理解本发明,不构成对本发明的不当限定。其中:

图1是根据本发明实施例的热点节目负载均衡的方法的主要流程的示意图;

图2是根据本发明可参考实施例的热点节目负载均衡的方法的主要流程的示意图;

图3是根据本发明实施例的热点节目负载均衡的装置的主要模块的示意图;

图4是本发明实施例可以应用于其中的示例性系统架构图;

图5是适于用来实现本发明实施例的终端设备或服务器的计算机系统的结构示意图。

具体实施方式

以下结合附图对本发明的示范性实施例做出说明,其中包括本发明实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本发明的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。

图1是根据本发明实施例的热点节目负载均衡的方法的主要流程的示意图,所述热点节目负载均衡的方法可以包括:

步骤s101,在定时周期内识别热点节目,获取所述热点节目的节目标识。

较佳地,在定时周期内识别热点节目时,可以设置以缓存服务器id为key,定时周期内访问次数为value的负载均衡哈希表,监控负载均衡哈希表中一个缓存服务器负载与另一缓存服务器负载的差值超过预设的负载阈值,在定时周期内记录该缓存服务器访问的节目标识,以确定热点节目。

进一步地,可以在预设的定时周期内获取节目的访问次数,确定该访问次数大于或等于设定的访问次数阈值,则该节目为热点节目。

步骤s102,根据所述热点节目的节目标识,计算所述热点节目的节目标识别名。具体地实施过程包括:

首先,获取确定为热点节目的节目标识存储至热点节目map中。其中,所述的热点节目map存放的是热点节目的相关信息,以map数据结构存储,每个map中可以具有多个热点节目信息。值得说明的是,可以假设每个节目信息平均需要64字节描述,而百万级别热点(1024*1024)占用内存小于100m的内存。

然后,提取热点节目map中的节目标识,通过添加随机前缀或后缀的方法计算节目标识别名。

步骤s103,对所述的节目标识别名执行一致性哈希计算,定位对应的缓存服务器。

较佳地,对所述的节目标识别名执行一致性哈希计算之前,可以根据节目标识在热点节目map中定位热点节目别名数组的地址,将节目标识别名存储在热点节目别名数组中,然后随机产生索引值,以根据索引值对应热点节目别名数组中的顺序号提取相应节目标识别名。

图2是根据本发明可参考实施例的热点节目负载均衡的方法的主要流程的示意图,所述热点节目负载均衡的方法可以包括:

步骤s201,设置以缓存服务器id为key,定时周期内访问次数为value的负载均衡哈希表。

步骤s202,监控到负载均衡哈希表中一个缓存服务器负载与另一缓存服务器负载的差值超过预设的负载阈值。

步骤s203,启动定时器,记录定时周期内该缓存服务器访问的节目id(标识)。

步骤s204,计算定时周期内节目id对应的访问次数。

步骤s205,确定访问次数大于或等于设定的访问次数阈值的节目id为热点节目。

步骤s206,获取确定为热点节目的节目id存储至热点节目map中。

步骤s207,提取热点节目map中的节目id,以计算该节目id别名。

在实施例中,计算节目id别名是为了改变哈希运算的key,不同的key可以映射到不同的缓存服务器上,目的是把一个热点节目信息映射到不同的缓存服务器上。

较佳地,通过添加随机前缀或后缀的方法计算节目id别名。例如:原id:abcdefg,前缀:123abcdefg,后缀:abcdefg567。

优选地,可以通过热点节目别名生成器,生成节目id别名。

步骤s208,根据节目id在热点节目map中定位热点节目别名数组的地址,将节目id别名存储在热点节目别名数组中。

在实施例中,所述的热点节目别名数组地址可以记录在热点节目map中对应的热点节目信息(热点节目信息可以包括节目id等等相关信息)中,其中热点节目别名数组地址就是数组所在的内存地址。具体地,热点节目别名数组可以通过热点节目map的key(节目id)来定位,即可以获取热点节目对应的节目别名数组地址。另外,热点节目map可以用c++标准库中的相关的map数据结构实现。

进一步地,将节目id别名顺序存储到热点节目别名数组,能够保证节目id和节目id别名的对应关系,确保通过节目id别名查找节目信息时可以找到正确的缓存服务器。

步骤s209,随机产生索引值,以根据索引值对应的顺序号提取相应节目id别名。

在实施例中,可以在热点节目别名数组索引生成器中计算索引值。较佳地,可以根据已经存储在热点节目别名数组中的节目id别名的数量产生一个随机数作为索引值。例如:热点节目别名数组可以存入256个元素,即256个节目id别名,计算一个256内的随机数作为索引值。

进一步地,通过随机数产生的索引值,必然对应有与之相同的顺序号,而根据所述顺序号便可以提取相应节目id别名。

步骤s210,对提取的节目id别名执行一致性哈希计算,定位新的对应的缓存服务器。

作为本发明的另一个可参考的实施例,针对热点节目map,如果该热点节目map不为空时,还可以在预设的定时周期内监控热点节目map中存储的各热点节目的访问次数。如果热点节目的访问次数大于或等于设定的访问次数阈值,则可以对该热点节目不进行处理。如果热点节目的访问次数小于设定的访问次数阈值,则将该热点节目从热点节目map中清除。因此,在该实施例中可以实现对热点节目map的定时整理,以优化热点节目map存储的热点节目信息。

在一个具体地实施例中,可以在预设的定时周期内对热点节目map中存储的各热点节目计算访问率,如果热点节目的访问率大于或等于设定的访问率阈值,则可以对该热点节目不进行处理。如果热点节目的访问率小于设定的访问率阈值,则将该热点节目从热点节目map中清除。

图3是根据本发明实施例的热点节目负载均衡的装置,如图3所示,所述热点节目负载均衡的装置包括识别模块301、计算模块302和定位模块303。其中,识别模块301在定时周期内识别热点节目,获取所述热点节目的节目标识。计算模块302根据所述热点节目的节目标识,计算所述热点节目的节目标识别名。定位模块303对所述的节目标识别名执行一致性哈希计算,定位对应的缓存服务器。

作为一个实施例,所述定位模块301可以通过如下过程,在定时周期内识别热点节目:

首先,设置以缓存服务器id为key,定时周期内访问次数为value的负载均衡哈希表。然后,可以对负载均衡哈希表进行监控,当监控到负载均衡哈希表中一个缓存服务器负载与另一缓存服务器负载的差值超过预设的负载阈值的时候,在定时周期内记录该缓存服务器访问的节目标识,以确定热点节目。

另外,还值得说明的是,计算模块302根据所述热点节目的节目标识,计算所述热点节目的节目标识别名的时候,其具体地包括:

获取确定为热点节目的节目标识存储至热点节目map中,提取热点节目map中的节目标识,以计算节目标识别名。其中,通过添加随机前缀或后缀的方法计算节目标识别名。

在另一个实施例中,所述定位模块303对所述的节目标识别名执行一致性哈希计算之前,可以根据节目标识在热点节目map中定位热点节目别名数组的地址,将节目标识别名存储在热点节目别名数组中。然后,随机产生索引值,根据索引值对应的顺序号提取相应节目标识别名。

需要说明的是,在本发明所述热点节目负载均衡的装置的具体实施内容,在上面所述热点节目负载均衡的方法中已经详细说明了,故在此重复内容不再说明。

图4示出了可以应用本发明实施例的热点节目负载均衡的方法或热点节目负载均衡的装置的示例性系统架构400。

如图4所示,系统架构400可以包括终端设备401、402、403,网络404和服务器405。网络404用以在终端设备401、402、403和服务器405之间提供通信链路的介质。网络404可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备401、402、403通过网络404与服务器405交互,以接收或发送消息等。终端设备401、402、403上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。

终端设备401、402、403可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。

服务器405可以是提供各种服务的服务器,例如对用户利用终端设备401、402、403所浏览的购物类网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的产品信息查询请求等数据进行分析等处理,并将处理结果(例如目标推送信息、产品信息--仅为示例)反馈给终端设备。

需要说明的是,本发明实施例所提供的热点节目负载均衡的方法一般由服务器405执行,相应地,热点节目负载均衡的装置一般设置于服务器405中。

应该理解,图4中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。

下面参考图5,其示出了适于用来实现本发明实施例的终端设备的计算机系统500的结构示意图。图5示出的终端设备仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。

如图5所示,计算机系统500包括中央处理单元(cpu)501,其可以根据存储在只读存储器(rom)502中的程序或者从存储部分508加载到随机访问存储器(ram)503中的程序而执行各种适当的动作和处理。在ram503中,还存储有系统500操作所需的各种程序和数据。cpu501、rom502以及ram503通过总线504彼此相连。输入/输出(i/o)接口505也连接至总线504。

以下部件连接至i/o接口505:包括键盘、鼠标等的输入部分506;包括诸如阴极射线管(crt)、液晶显示器(lcd)等以及扬声器等的输出部分507;包括硬盘等的存储部分508;以及包括诸如lan卡、调制解调器等的网络接口卡的通信部分509。通信部分509经由诸如因特网的网络执行通信处理。驱动器510也根据需要连接至i/o接口505。可拆卸介质511,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器510上,以便于从其上读出的计算机程序根据需要被安装入存储部分508。

特别地,根据本发明公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本发明公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分509从网络上被下载和安装,和/或从可拆卸介质511被安装。在该计算机程序被中央处理单元(cpu)501执行时,执行本发明的系统中限定的上述功能。

需要说明的是,本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑磁盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、rf等等,或者上述的任意合适的组合。

附图中的流程图和框图,图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。

描述于本发明实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中,例如,可以描述为:一种处理器包括识别模块、计算模块和定位模块。其中,这些模块的名称在某种情况下并不构成对该模块本身的限定。

作为另一方面,本发明还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的设备中所包含的;也可以是单独存在,而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该设备包括:在定时周期内识别热点节目,获取所述热点节目的节目标识;根据所述热点节目的节目标识,计算所述热点节目的节目标识别名;对所述的节目标识别名执行一致性哈希计算,定位对应的缓存服务器。

根据本发明实施例的技术方案,能够解决热点节目造成系统负载不均衡的问题。

上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,取决于设计要求和其他因素,可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。

当前第1页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1