HBase热点消除方法及系统的制作方法_4

文档序号:9235537阅读:来源:国知局
1.一种HBase热点消除方法,其特征在于,包括: 51、设定集群的HBase表中的每一Reg1n的被交换次数的初始值为O ; 52、检测集群,将集群中的Reg1n热点加入至一热点机器列表,Reg1n热点为请求量超过一第一请求量阈值的Reg1n ; 53、判断该热点机器列表包括的Reg1n热点的数量是否为0,若是,则结束流程,若否,贝IJ执行S4; 54、从该热点机器列表中选择一个Reg1n热点作为待消除Reg1n热点; 55、判断该待消除Reg1n热点的被交换次数是否超过一交换阈值,若超过,则执行S6,若未超过,则执行S7; 56、将该待消除Reg1n热点拆分成两个Reg1n,然后执行S8; 57、从该集群中选择一不具有Reg1n热点的Reg1nServer,并将该待消除Reg1n热点与被选择的Reg1nServer的Reg1n交换,并更新该待消除Reg1n热点的被交换次数; 58、将该待消除Reg1n热点从该热点机器列表中移除,然后执行S3。2.如权利要求1所述的HBase热点消除方法,其特征在于,Si还包括: Sn、设定集群的被检测次数的初始值为O ; S12、判断集群的被检测次数是否达到一检测阈值,若达到,则结束流程,若未达到,则执行S2; S2还包括更新该被检测次数; S3替换为:S 3’、判断该热点机器列表包括的Reg1n热点的数量是否为0,若是,则执行S12,若否,则执行s4。3.如权利要求1所述的HBase热点消除方法,其特征在于,S7还包括: 571、从该集群中请求量最小的Reg1nServer中选取请求量最小的Reg1n,并将该待消除Reg1n热点与被选取的Reg1n交换。4.如权利要求3所述的HBase热点消除方法,其特征在于,S7还包括:判断该集群中的不具有Reg1n热点的Reg1nServer中是否包括与该待消除Reg1n热点同一 table的Reg1n,若是,则执行S72,若否,则执行S71; 572、将该待消除Reg1n热点与该同一table的Reg1n交换。5.如权利要求4所述的HBase热点消除方法,其特征在于,S72包括:从与该待消除Reg1n热点同一 table的Reg1n中选取访问量最低的Reg1n,将该待消除Reg1n热点与选取的访问量最低的Reg1n交换。6.如权利要求1所述的HBase热点消除方法,其特征在于,S2还包括将该热点机器列表中的Reg1n热点按照访问量由高到低排序;S4还包括从该热点机器列表中选择访问量最高的Reg1n热点作为待消除Reg1n热点。7.如权利要求1所述的HBase热点消除方法,其特征在于,还包括: T1、获取集群的HBase表的Reg1nServer热点,Reg1nServer热点为请求量超过一第二请求量阈值的Reg1nServer ; T2、计算该Reg1nServer热点的访问量最高的N个Reg1n的方差,N为正整数; T3、判断该方差是否小于一方差阈值,若是,则执行T4,若否,则执行T5; T4、从该集群中选择一请求量未超过该第二请求量阈值的Reg1nServer,并将该Reg1nServer热点的访问量最高的M1A Reg1n与被选择的Reg1nServer的Reg1n交换,M1为小于或等于N的正整数; T5、将访问量最高的皿2个Reg1n作为Reg1n热点加入至该热点机器列表,然后执行S3,M2为小于或等于N的正整数。8.一种HBase热点消除系统,其特征在于,包括: 一设定单元,用于设定集群的HBase表中的每一 Reg1n的被交换次数的初始值为O ;一检测单元,用于检测集群,将集群中的Reg1n热点加入至一热点机器列表,Reg1n热点为请求量超过一第一请求量阈值的Reg1n ; 一第一判断单元,用于判断该热点机器列表包括的Reg1n热点的数量是否为0,若是,则结束调用,若否,则调用一选择单元; 该选择单元,用于从该热点机器列表中选择一个Reg1n热点作为待消除Reg1n热占.V, 一第二判断单元,用于判断该待消除Reg1n热点的被交换次数是否超过一交换阈值,若超过,则调用一拆分单元,若未超过,则调用一交换单元; 该拆分单元,用于将该待消除Reg1n热点拆分成两个Reg1n,然后调用一移除单元;该交换单元,用于从该集群中选择一不具有Reg1n热点的Reg1nServer,并将该待消除Reg1n热点与被选择的Reg1nServer的Reg1n交换,并更新该待消除Reg1n热点的被交换次数; 该移除单元,用于将该待消除Reg1n热点从该热点机器列表中移除,然后调用该第一判断单元。9.如权利要求8所述的HBase热点消除系统,其特征在于,该设定单元还包括: 一初始值设定模块,用于设定集群的被检测次数的初始值为O ; 一第三判断模块,用于判断集群的被检测次数是否达到一检测阈值,若达到,则结束调用,若未达到,则调用该检测单元; 该检测单元还用于更新该被检测次数; 该第一判断单元替换为:用于判断该热点机器列表包括的Reg1n热点的数量是否为0,若是,则调用该第三判断模块,若否,则调用该选择单元。10.如权利要求8所述的HBase热点消除系统,其特征在于,该交换单元还包括: 一第一交换模块,用于从该集群中请求量最小的Reg1nServer中选取请求量最小的Reg1n,并将该待消除Reg1n热点与被选取的Reg1n交换。11.如权利要求10所述的HBase热点消除系统,其特征在于,该交换单元还包括: 一第四判断模块,用于判断该集群中的不具有Reg1n热点的Reg1nServer中是否包括与该待消除Reg1n热点同一 table的Reg1n,若是,则调用一第二交换模块,若否,则调用该第一交换模块; 该第二交换模块,用于将该待消除Reg1n热点与该同一 table的Reg1n交换。12.如权利要求11所述的HBase热点消除系统,其特征在于,该第二交换模块,用于从与该待消除Reg1n热点同一 table的Reg1n中选取访问量最低的Reg1n,将该待消除Reg1n热点与选取的访问量最低的Reg1n交换。13.如权利要求8所述的HBase热点消除系统,其特征在于,该检测单元还用于将该热点机器列表中的Reg1n热点按照访问量由高到低排序;该选择单元还用于从该热点机器列表中选择访问量最高的Reg1n热点作为待消除Reg1n热点。14.如权利要求8所述的HBase热点消除系统,其特征在于,还包括: 一获取单元,用于获取集群的HBase表的Reg1nServer热点,Reg1nServer热点为请求量超过一第二请求量阈值的Reg1nServer ; 一计算单元,用于计算该Reg1nServer热点的访问量最高的N个Reg1n的方差,N为正整数; 一第五判断单元,用于判断该方差是否小于一方差阈值,若是,则调用一第三交换单元,若否,则调用一添加单元; 该第三交换单元,用于从该集群中选择一请求量未超过该第二请求量阈值的Reg1nServer,并将该Reg1nServer热点的访问量最高的M1A Reg1n与被选择的Reg1nServer的Reg1n交换,M1为小于或等于N的正整数; 该添加单元,用于将访问量最高的M2A Reg1n作为Reg1n热点加入至该热点机器列表,然后调用该第一判断单元,M2为小于或等于N的正整数。
【专利摘要】本发明公开了一种HBase热点消除方法及系统,其中该HBase热点消除方法包括:检测集群,将集群中的Region热点加入至热点机器列表;判断热点机器列表包括的Region热点的数量是否为0,若是,则结束流程,若否,则选择一个待消除Region热点;将待消除Region热点拆分成两个Region或者从该集群中选择一不具有Region热点的RegionServer与该待消除Region热点交换;将该待消除Region热点从该热点机器列表中移除。本发明能够自动检测和消除Region热点和RegionServer热点,缩短数据的请求时间,保证了整个系统的正常运行,具有快速高效的优点。
【IPC分类】G06F17/30
【公开号】CN104951561
【申请号】CN201510398124
【发明人】李亚锋, 刘钰帆
【申请人】携程计算机技术(上海)有限公司
【公开日】2015年9月30日
【申请日】2015年7月8日
当前第4页1 2 3 4 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1