一种系统扩容时零数据迁移的数据分布存储方法及系统的制作方法

文档序号:8226086阅读:267来源:国知局
一种系统扩容时零数据迁移的数据分布存储方法及系统的制作方法
【技术领域】
[0001]本发明涉及通信技术领域,尤其涉及一种系统扩容时零数据迀移的数据分布存储方法及系统。
【背景技术】
[0002]分布式存储系统,是将数据分散存储在多台独立的设备上。传统的网络存储系统采用集中的存储服务器存放所有数据,存储服务器成为系统性能的瓶颈,也是可靠性和安全性的焦点,不能满足大规模存储应用的需要。分布式网络存储系统采用可扩展的系统结构,利用多台存储服务器分担存储负荷,利用位置服务器定位存储信息,它不但提高了系统的可靠性、可用性和存取效率,还易于扩展。
[0003]但是现在的分布式存储系统的数据存储层往往采用各类哈希方法进行数据分布,在数据规模不断扩大需要扩容的时候,无论是常见的哈希方式,还是一致性哈希方式,都需要进行大规模的数据迀移,这样造成了所需的时间、带宽和人力等各类的巨大成本。

【发明内容】

[0004]为了解决上述技术问题,本发明的目的是提供一种实现简单,能有效节省成本的一种系统扩容时零数据迀移的数据分布存储方法及系统。
[0005]本发明所采用的技术方案是:
一种系统扩容时零数据迀移的数据分布存储方法,包括以下步骤:
A、通过接入层接收用户请求并将其转发至路由层;
B、通过路由层将用户请求转发至存储层中对应的集群,并将其广播至该集群的所有机器;
C、根据用户请求,对应集群的所有机器对数据进行相应的处理。
[0006]作为所述的一种系统扩容时零数据迀移的数据分布存储方法的进一步改进,所述步骤B包括:
B1、根据存储层内集群预设的划分规则,计算出用户请求对应的集群;
B2、判断用户请求是否是增加请求,若是,则执行步骤B3 ;反之,则执行步骤B4 ;
B3、获取用户请求对应的集群的单播域名对应的单台机器的IP,并将其增加至用户请求内;
B4、将用户请求广播至对应集群的所有机器。
[0007]作为所述的一种系统扩容时零数据迀移的数据分布存储方法的进一步改进,所述步骤C包括:
Cl、判断用户请求是否是增加请求,若是,则执行步骤C5 ;反之,则执行步骤C2 ;
C2、判断用户请求是否是删除请求,若是,则执行步骤C3 ;反之,则执行步骤C4 ;
C3、根据用户请求,在本机查找对应数据的存储位置,并将其删除;
C4、根据用户请求,在本机查找和读取对应的数据,并返回读取的数据; C5、判断用户请求内的IP是否与本机的IP —致,若是,则在本机查找添加的存储位置并将数据添加至本机;反之,则根据预设的业务要求进行对应的处理。
[0008]作为所述的一种系统扩容时零数据迀移的数据分布存储方法的进一步改进,所述执行步骤BI之前还包括有规划步骤,所述规划步骤具体包括:
BP1、根据预期后将到达的数据规模,将存储层划分为对应的集群组数;
BP2、对每组集群配备广播域名和单播域名;
BP3、解析某组集群的广播域名,得到该组集群内全部机器的IP信息;
BP4、解析某组集群的单播域名,得到该组集群内特定单台机器的IP信息。
[0009]作为所述的一种系统扩容时零数据迀移的数据分布存储方法的进一步改进,所述步骤D还包括有扩容步骤,所述扩容步骤具体包括:
E1、侦测需要扩容的集群,并对侦测到的集群新配置一台空闲机器或在该集群内选取一台空闲机器;
E2、修改该集群的单播域名对应的IP为新配置或选取的机器的IP ;
E3、将新配置或选取的机器的IP添加至该集群的广播域名对应的IP列表中。
[0010]作为所述的一种系统扩容时零数据迀移的数据分布存储方法的进一步改进,所述每个用户请求均对应唯一的KEY值。
[0011]作为所述的一种系统扩容时零数据迀移的数据分布存储方法的进一步改进,所述预设的划分规则为:根据用户请求中的KEY值对集群数量值进行取模运算,得出结果即为对应的集群。
[0012]本发明所采用的另一技术方案是:
一种系统扩容时零数据迀移的数据分布存储系统,包括:
请求接收单元,用于通过接入层接收用户请求并将其转发至路由层;
请求广播单元,用于通过路由层将用户请求转发至存储层中对应的集群,并将其广播至该集群的所有机器;
请求处理单元,用于根据用户请求,对应集群的所有机器对数据进行相应的处理。
[0013]作为所述的一种系统扩容时零数据迀移的数据分布存储系统的进一步改进,所述请求广播单元包括:
计算单元,用于根据存储层内集群预设的划分规则,计算出用户请求对应的集群;
判断单元,用于判断用户请求是否是增加请求,若是,则执行IP获取单元;反之,则执行广播单元;
IP获取单元,用于获取用户请求对应的集群的单播域名对应的单台机器的IP,并将其增加至用户请求内;
广播单元,用于将用户请求广播至对应集群的所有机器。
[0014]作为所述的一种系统扩容时零数据迀移的数据分布存储系统的进一步改进,所述请求处理单元包括:
第一判断单元,用于判断用户请求是否是增加请求,若是,则执行增加请求处理单元;反之,则执行第二判断单元;
第二判断单元,用于判断用户请求是否是删除请求,若是,则执行删除请求处理单元;反之,则执行查找请求处理单元; 删除请求处理单元,用于根据用户请求,在本机查找对应数据的存储位置,并将其删除;
查找请求处理单元,用于根据用户请求,在本机查找和读取对应的数据,并返回读取的数据;
增加请求处理单元,用于判断用户请求内的IP是否与本机的IP —致,若是,则在本机查找添加的存储位置并将数据添加至本机;反之,则根据预设的业务要求进行对应的处理。
[0015]本发明的有益效果是:
本发明一种系统扩容时零数据迀移的数据分布存储方法及系统通过在集群内引入的广播域名和单播域名,进而对用户请求的数据进行对应的处理,从而在扩容时通过变更单播域名对应的单台机器即可轻松完成扩容工作。本发明简单便捷,在数据规模扩大需要扩容时,无需进行数据迀移,在能大大节省各类成本的同时,还能有效提高响应速度。
【附图说明】
[0016]下面结合附图对本发明的【具体实施方式】作进一步说明:
图1是本发明一种系统扩容时零数据迀移的数据分布存储方法的步骤流程图;
图2是本发明一种系统扩容时零数据迀移的数据分布存储方法步骤B的步骤流程图; 图3是本发明一种系统扩容时零数据迀移的数据分布存储方法步骤C的步骤流程图; 图4是本发明一种系统扩容时零数据迀移的数据分布存储系统的模块方框图。
【具体实施方式】
[0017]参考图1,本发明一种系统扩容时零数据迀移的数据分布存储方法,包括以下步骤:
A、通过接入层接收用户请求并将其转发至路由层;
B、通过路由层将用户请求转发至存储层中对应的集群,并将其广播至该集群的所有机器;
C、根据用户请求,对应集群的所有机器对数据进行相应的处理。
[0018]参考图2,作为所述的一种系统扩容时零数据迀移的数据分布存储方法的进一步改进,所述步骤B包括:
B1、根据存储层内集群预设的划分规则,计算出用户请求对应的集群;
B2、判断用户请求是否是增加请求,若是,则执行步骤B3 ;反之,则执行步骤B4 ;
B3、获取用户请求对应的集群的单播域名对应的单台机器的IP,并将其增加至用户请求内;
B4、将用户请求广播至对应集群的所有机器。
[0019]参考图3,作为所述的一种系统扩容时零数据迀移的数据分布存储方法的进一步改进,所述步骤C包括:
Cl、判断用户请求是否是增加请求,若是,则执行步骤C5 ;反之,则执行步骤C2 ;
C2、判断用户请求是否是删除请求,若是,则执行步骤C3 ;反之,则执行步骤C4 ;
C3、根据用户请求,在本机查找对应数据的存储位置,并将其删除;
C4、根据用户请求,在本机查找和读取对应的数据,并返回读取的数据; C5、判断用户请求内的IP是否与本机的IP —致,若是,则在本机查找添加的存储位置并将数据添加至本机;反之,则根据预设的业务要求进行对应的处理。
[0020]作为所述的一种系统扩容时零数据迀移的数据分布存储方法的进一步改进,所述执行步骤BI之前还包括有规划步骤,所述规划步骤具体包括:
BP1、根据预期后将到达的数据规模,将存储层划分为对应的集群组数;
BP2、对每组集群配备广播域名和单播域名;
BP3、解析某组集群的广播域名,得到该组集群内全部机器的IP信息;
BP4、解析某组集群的单播域名,得到该组集群内特定单台机器的IP信息。
[0021]作为所述的一种系统扩容时零数据迀移的数据分布存储方法的进一步改进,所述步骤D还包括有扩容步骤,所述扩容步骤具体包括:
E1、侦测需要扩容的集群,并对侦测到的集群新配置一台空闲机器或在该集群内选取一台空闲机器;
E2、修改该集群的单播域名对应的IP为新配置或选取的机器的IP ;
E3、将新配置或选取的机器的IP添加至该集群的广播域名对应的IP列表中。
[0022]作为所述的一种系统扩容时零数据迀移的数据分布存储方法的进一步改进,所述每个用户请求均对应唯一的KEY值。
[0023]作为所述的一种系统扩容时零数据迀移的数据分布存储方法的进一步改进,所述预设的划分规则为:根据用户请求中的KEY值对集群数量值进行取模运算,得出结果即为对应的集群。
[0024]参考图4,本发明一种系统扩容时零数据迀
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1