MonetDB分布式计算存储方法_2

文档序号:8223510阅读:来源:国知局
,并配置虚拟IP的failover,确定主节点和备节点,
[0058]glusterfs节点子步骤六:monetdbd节点使用这些虚拟IP存储HA,挂载glusterfsnfs 存储;
[0059]所述monetdbd节点以及HA部署步骤包括以下子步骤:
[0060]monetdbd节点子步骤一:monetdbd节点使用glusterfs的虚拟IP挂载glusterfsnfs 存储,
[0061]monetdbd节点子步骤二:在nfs上初始化数据库集群,
[0062]monetdbd节点子步骤三:主节点启动数据库集群,并创建数据库,
[0063]monetdbd 节点子步骤四:配置 discovery,sharedtag ;
[0064]monetdbd节点子步骤五:配置HA,多台主机共享数据库集群文件,在同一时间点,只有主节点启动monetdbd进程和虚拟IP,当主节点故障时,切换到备节点,由备节点启动monetdbd进程,并启动虚拟IP,
[0065]monetdbd节点子步骤六:虚拟IP被用于m-funnel连接;
[0066]所述m-funnel节点以及HA部署步骤包括以下子步骤:
[0067]m-funnel节点子步骤一:初始化数据库集群
[0068]m-funnel节点子步骤二:启动数据库集群,仓Il建m-funnel代理数据库
[0069]m-funnel节点子步骤三:配置HA,在若干台主机上创建对应的若干个m-funnel代理数据库,
[0070]m-funnel节点子步骤四:配置haproxy,代理客户端请求,将客户端分发到各个m-funnel 节点,
[0071]m-funnel节点子步骤五:配置haproxy的后端探测,当m-funnel节点探测失败时,不与这个节点建立新的会话,知道m-funnel节点重新探测成功才允许继续向这个节点建立会话,配置负载均衡算法,
[0072]m-funnel节点子步骤六:配置haproxyHA,当haproxy主节点故障时,虚拟IP切换到haproxy备节点;
[0073]所述分布式计算存储的实现步骤包括以下步骤:
[0074]分布式计算存储子步骤一:在所有的monetdbd节点创建元数据表,插入元数据,元数据包含当前节点号,节点列表,节点个数,节点列表和节点个数一致,
[0075]分布式计算存储子步骤二:在所有的monetdbd节点创建动态接口函数,动态接口函数由人工设定,
[0076]分布式计算存储子步骤三:在所有的monetdbd节点创建静态接口函数,静态接口函数由人工设定,
[0077]分布式计算存储子步骤四:客户端连接到haproxy代理端口,测试接口函数。
[0078]在glusterfs节点子步骤一中,分布式系统添加glusterfs节点peer后,为了提高1PS能力,使用fIashcache或bcache技术,将SSD设备作为读写缓存设备。
[0079]所述配置负载均衡算法为随机算法和权重算法。
[0080]所述元数据表中必须选择一个静态字段作为哈希函数接收的变量。
[0081]所述monetdbd的路由功能主要包含以下组件:
[0082]组件一:哈希函数,用于接收一个变量,输出一个哈希值,
[0083]组件二:节点选择函数,用于接收哈希值,计算并返回节点号,
[0084]组件三:动态接口函数,用于接收用户传入值,负责具体的逻辑,并返回用户传入值,此组件的用户传入值包含节点选择函数名、节点选择函数变量和其他设定的变量,
[0085]组件四:静态接口函数,用于接收用户传入值,负责具体的逻辑,
[0086]组件五:元数据表、存储当前节点号、节点列表和节点个数。
[0087]本实施例中haproxy为专用的软件,用于m-funnel层的HA以及负载均衡,检测后端服务。m-funnel用于代理用户请求发送给monetdbd节点,并接收monetdbd节点的结果返回给客户端。monetdbd为实际存储数据和路由算法的节点,用于接收并返回来自m-funnel节点的请求。
[0088]以上所述的实施例只是本发明的一种较佳的方案,并非对本发明作任何形式上的限制,在不超出权利要求所记载的技术方案的前提下还有其它的变体及改型。
【主权项】
1.一种MonetDB分布式计算存储方法,其特征在于:包括基于P2P通讯的glusterfs节点以及HA的部署步骤、monetdbd节点以及HA部署步骤、m-funnel节点以及HA部署步骤和分布式计算存储的部署步骤, 所述glusterfs节点以及HA的部署步骤包括以下子步骤:glusterfs节点子步骤一,分布式系统添加glusterfs节点peer,glusterfs节点子步骤二:创建文件系统,仓Il建目录用作brick,所有节点的brick组成大的存储池, glusterfs节点子步骤三:设置glusterfs的复制份数、条带和权限,glusterfs节点子步骤四:挑选2个或2个以上的glusterfs节点作为nfs的服务端节点,完成HA布置 glusterfs节点子步骤五:配置这几个节点的虚拟IP,并配置虚拟IP的failover,确定主节点和备节点, glusterfs节点子步骤六:monetdbd节点使用这些虚拟IP存储HA,挂载glusterfsnfs存储; 所述monetdbd节点以及HA部署步骤包括以下子步骤: monetdbd节点子步骤一:monetdbd节点使用glusterfs的虚拟IP挂载glusterfsnfs存储, monetdbd节点子步骤二:在nfs上初始化数据库集群, monetdbd节点子步骤三:主节点启动数据库集群,并创建数据库, monetdbd 节点子步骤四:配置 discovery,sharedtag ; monetdbd节点子步骤五:配置HA,多台主机共享数据库集群文件,在同一时间点,只有主节点启动monetdbd进程和虚拟IP,当主节点故障时,切换到备节点,由备节点启动monetdbd进程,并启动虚拟IP, monetdbd节点子步骤六:虚拟IP被用于m-funnel连接; 所述m-funnel节点以及HA部署步骤包括以下子步骤: m-funnel节点子步骤一:初始化数据库集群 m-funnel节点子步骤二:启动数据库集群,仓Il建m-funnel代理数据库m-funnel节点子步骤三:配置HA,在若干台主机上创建对应的若干个m-funnel代理数据库, m-funnel节点子步骤四:配置haproxy,代理客户端请求,将客户端分发到各个m-funnel 节点, m-funnel节点子步骤五:配置haproxy的后端探测,当m-funnel节点探测失败时,不与这个节点建立新的会话,知道m-funnel节点重新探测成功才允许继续向这个节点建立会话,配置负载均衡算法, m-funnel节点子步骤六:配置haproxyHA,当haproxy主节点故障时,虚拟IP切换到haproxy备节点; 所述分布式计算存储的实现步骤包括以下步骤: 分布式计算存储子步骤一:在所有的monetdbd节点创建元数据表,插入元数据,元数据包含当前节点号,节点列表,节点个数,节点列表和节点个数一致, 分布式计算存储子步骤二:在所有的monetdbd节点创建动态接口函数,动态接口函数由人工设定, 分布式计算存储子步骤三:在所有的monetdbd节点创建静态接口函数,静态接口函数由人工设定, 分布式计算存储子步骤四:客户端连接到haproxy代理端口,测试接口函数。
2.根据权利要求1所述的MonetDB分布式计算存储方法,其特征在于:在glusterfs节点子步骤一中,分布式系统添加glusterfs节点peer后,为了提高1PS能力,使用fIashcache或bcache技术,将SSD设备作为读写缓存设备。
3.根据权利要求1所述的MonetDB分布式计算存储方法,其特征在于:所述配置负载均衡算法为随机算法和权重算法。
4.根据权利要求1或2或3所述的MonetDB分布式计算存储方法,其特征在于:所述元数据表中必须选择一个静态字段作为哈希函数接收的变量。
5.根据权利要求1或2或3所述的MonetDB分布式计算存储方法,其特征在于:所述monetdbd的路由功能主要包含以下组件: 组件一:哈希函数,用于接收一个变量,输出一个哈希值, 组件二:节点选择函数,用于接收哈希值,计算并返回节点号, 组件三:动态接口函数,用于接收用户传入值,负责具体的逻辑,并返回用户传入值,此组件的用户传入值包含节点选择函数名、节点选择函数变量和其他设定的变量, 组件四:静态接口函数,用于接收用户传入值,负责具体的逻辑, 组件五:元数据表、存储当前节点号、节点列表和节点个数。
【专利摘要】本发明涉及一种MonetDB分布式计算存储方法。解决了不能实现MonetDB分布式计算存储,也无法解决数据路由算法和可用的问题,技术方案为:包括基于P2P通讯的glusterfs节点以及HA的部署步骤、monetdbd节点以及HA部署步骤、m-funnel节点以及HA部署步骤和分布式计算存储的部署步骤。本发明同样可以应用在负载均衡场景和数据复制场景,还可以应用在大数据分布式存储的场景,并行计算场景,利用路由选择算法,将数据分布存储,实现线性的性能提升。
【IPC分类】G06F17-30, G06F9-50, H04L29-08
【公开号】CN104536988
【申请号】CN201410751853
【发明人】周正中
【申请人】杭州斯凯网络科技有限公司
【公开日】2015年4月22日
【申请日】2014年12月10日
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1