集群读写装置及系统的制作方法

文档序号:7905369阅读:146来源:国知局
专利名称:集群读写装置及系统的制作方法
技术领域
本实用新型涉及通信领域,具体而言,涉及一种集群读写装置及系统。
背景技术
在相关技术的集群设备中,通常是把读写节点和存储节点结合在一起,各个读 写节点分别对相应的存储节点进行读取,这样的缺点是读写节点(读写装置)的性能不能 随意的增加,要想增加性能就必须增加容量,扩展性差。图1是根据相关技术的集群读写系统的示意图。如图1所示,在该集群读写系统中包括多个读写服务器,该多个读写服务器构 成集群读写装置,在该集群读写系统中,各个读写服务器分别对存储器中的数据进行读 写。其中,该图中所示的存储器可以为一个存储器,各个读写服务器对存储区中的不同 存储区进行读写操作,也可以为多个存储器。但是,在该技术中,当某个读写服务器发 生故障或者读写超负荷时,往往会造成读写数据比较慢的问题,并且在对该集群读写装 置进行拓展比较复杂。针对相关技术中集群读写装置的性能拓展性差的问题,目前尚未提出有效的解 决方案。

实用新型内容针对集群读写装置的性能拓展性差的问题而提出本实用新型,为此,本实用新 型的主要目的在于提供一种集群读写装置及系统,以解决上述问题。为了实现上述目的,根据本实用新型的一个方面,提供了一种集群读写装置。 该集群读写装置包括多个读写服务器;以及控制器,连接于所述多个服务器和存储器 之间,用于控制各个读写服务器对所述存储器中数据的读写。进一步地,控制器包括主用控制器和备用控制器。进一步地,读写服务器设置于机架上,控制器与一个或者多个机架上的读写服 务器相连接。进一步地,读写服务器为刀片服务器,控制器设置于机架上。进一步地,控制器包括读写单元。进一步地,集群读写装置还包括第一交换机,与存储器相连接;以及第一背 板,设置于读写服务器和第一交换机之间。为了实现上述目的,根据本实用新型的另一方面,提供了一种集群读写系统。 该集群读写系统包括存储器,用于存储数据文件;上述的任意一种集群读写装置;以 及应用服务器,经由所述集群读写装置与所述存储器相连接。进一步地,集群读写系统 还包括第二交换机,与应用服务器相连接;以及第二背板,设置于第二交换机和应用 服务器之间。本实用新型通过采用以下结构的集群读写装置多个读写服务器;控制器,连接于所述多个服务器和存储器之间,用于控制各个读写服务器对所述存储器中数据的读 写,解决了集群读写装置的性能拓展性差的问题,进而达到了提高集群读写装置的拓展 性的效果。


[0015]此处所说明的附图用来提供对本实用新型的进一步理解,构成本申请的一部 分,本实用新型的示意性实施例及其说明用于解释本实用新型,并不构成对本实用新型 的不当限定。在附图中[0016]图1是根据相关技术的集群读写系统的示意图;[0017]图2是根据本实用新型实施例的集群读写系统的示意图;[0018]图3a是根据本实用新型第一实施例的集群读写装置的示意图;[0019]图3b是根据本实用新型第二实施例的集群读写装置的示意图;[0020]图4是根据本实用新型第三实施例的集群读写装置的示意图;[0021]图5是根据本实用新型第四实施例的集群读写装置的示意图;[0022]图6是根据本实用新型第五实施例的集群读写装置的示意图;[0023]图7是根据本实用新型实施例的集群读写方法的流程图;[0024]图8是根据本实用新型实施例的集群读写控制器的示意图。
具体实施方式
[0025]需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以 相互组合。下面将参考附图并结合实施例来详细说明本实用新型。[0026]根据本实用新型的实施例,提供了一种集群读写方法、装置及系统。[0027]图2是根据本实用新型实施例的集群读写系统的示意图。[0028]如图2所示,该系统包括存储器30、集群读写装置20和应用服务器10,其中, 所述应用服务器10经由所述集群读写装置20与所述存储器30相连接。[0029]其中,在存储器30中存储有数据文件,应用服务器10利用集群读写装置对存储 器30进行读写。[0030]上述集群读写系统还可以包括第二交换机,与应用服务器相连接;以及第二 背板,设置于第二交换机和应用服务器之间。[0031]图3a是根据本实用新型第一实施例的集群读写装置的示意图。[0032]如图3a所示,该集群读写装置包括多个读写服务器和控制器,其中,控制器 连接于多个服务器和存储器之间,用于控制各个读写服务器对存储器中数据的读写。[0033]在该实施例中,由于控制器连接于多个读写服务器和存储器之间,并且能够对 多个读写服务器对存储器的读写进行控制,对各个读写服务器的读写情况进行监控和资 源调配,从而能够避免部分读写服务器读写超负荷的问题,有利于提高整个集群读写装 置的读写能力,进一步地,在该实施例中,由于控制器对多个服务器的读写进行综合控 制,因而,在集群读写装置中读写服务器读写能力不足,需要增加读写服务器时,仅需 要增加与控制器连接的读写服务器的数量,就可以实现对存储器中各个部分数据的读写 操作,因而可以方便地实现对集群读装置进行拓展,提高了集群读写装置的拓展性。[0034]优选地,上述的控制器还可以包括读写单元,该读写单元可以用于对存储器的 数据进行读写,即作为一个读写节点或者读写服务器。例如,该读写单元可以为具有读 写功能的单片机或CPU。同时,上述的读写服务器也可以作为控制单元,该控制单元可 以实现上述控制器的功能。通过该实施例,极大了提高了集群系统的灵活性和集群系统 内的部件的互换性。在本实用新型中,集群读写装置实现的数据存储管理是将存储的数据文件逻辑 分为两部分,一是文件的基本属性,包括文件名、文件大小、文件创建及修改时间、文 件存储位置等,这类信息我们称之为文件的元数据信息;另一个就是这个数据文件存储 的数据内容,我们称之为文件的数据体。图3b是根据本实用新型第二实施例的集群读写装置的示意图。如图3b所示,集群读写装置中将部署两个网络一个是用于实现元数据在刀片 控制器和刀片读写节点之间传输的以太网络,另一个就是用于文件内容存储访问的存储 区域网络(Storage-Area-Network),简称SAN存储网络。刀片控制器本身可不负责对 数据文件数据体的访问,当刀片读写节点,即刀片服务器希望读取已经存储在集群读写 装置中的数据文件时,它只需要首先通过以太网络(称之为元数据网络,优选地,该网 络仅用于元数据信息传输,有助于提高集群读写装置的读写性能)向刀片控制器发出请 求,由刀片控制器决定该文件是否可用并且该刀片服务器的应用或用户是否有权访问此 文件。如果此文件可被授权访问,则刀片控制器可将此数据在存储设备中的存储位置发 送回该刀片服务器,该刀片服务器就可以直接通过高速的光纤网络访问该文件了 ;对于 新文件的创建,刀片控制器将根据策略在存储设备中分配给这台请求存储空间的刀片服 务器足够的存储地址,在集群读写装置客户端得到这些地址信息后,将通过光纤链路直 接实现数据存储。在此数据存储操作完成后,刀片控制器将及时更新各读写节点(集群 读写装置的刀片读写节点)的存储信息,以确保数据在所有集群读写装置节点间的数据 访问同步。图4是根据本实用新型第三实施例的集群读写装置的示意图;优选地,上述的控制器包括主用控制器,用于控制各个读写服务器对存储器 中数据的读写;备用控制器,用于在主用控制器发生故障的情况下,控制各个读写服务 器对存储器的读写。实现主、备控制器的存储结构,组成双机高可用系统,采用主备方 式的双机高可用模式,以保证当正常运行在主刀片控制器的集群读写装置集群读写装置 管理功能出现故障时,这一功能可在限定的时间内切换到另一台刀片服务器中,不会对 用户正在生产的业务系统运行产生任何影响。这两台刀片服务器都可称之为刀片控制 器,正在实现文件系统管理的刀片服务器为主刀片控制器,也称为“刀片读写节点控制 器(主)”),即作为主用控制器。处于备用状态的刀片服务器称之为备刀片控制器,也 称为“刀片读写节点控制器(备)”,即作为备用控制器。主刀片控制器和备刀片控制 器都可以对存储器的数据进行读写。采用以上存储架构可实现共享存储中的数据以文件形式实现访问,可实现基于 工作流的数据存储管理服务,以提升部门之间、人员之间的协同工作能力,提升工作生 产效率、数据访问及管理效率。同时,虚拟化的、文件级数据共享存储访问提高了数据 存储资料的利用率,同时更为存储系统的按需扩充奠定了坚实基础。[0041]上述的集群读写装置及系统可以实现多个刀片服务器并发共享访问同一个文 件。[0042]图5是根据本实用新型第四实施例的集群读写装置的示意图。[0043]如图5所示,上述集群读写装置还可以包括第一交换机,与存储器相连接; 第一背板,设置于读写服务器和第一交换机之间。第一背板可以设置在机架上,通过第 一背板可以将读写服务器和第一交换机连接起来。[0044]图6是根据本实用新型第五实施例的集群读写装置的示意图。[0045]读写服务器设置于机架上,控制器与一个或者多个机架上的读写服务器相连 接。这样,可以利用一个控制器控制多个机架上的读写服务器,而不必在每一个机架上 设置一个控制器,减少了控制器的设置,降低了成本,而且便于通过增加机架和读写服 务器的方式进行读写性能的扩展。[0046]如图6所示,在一个集群读写系统中可以包括多个集群读写装置。[0047]读写服务器为刀片服务器,控制器设置于机架上。其中,读写服务器和控制器 可以共同设置于机架上。[0048]作为一个基于存储区域网络存储架构的集群读写装置,集群读写装置可以比传 统直连存储模式在数据访问和管理方面提供明显的好处[0049]分配存储资源更容易。通过取代以每个主机为单位供应和跟踪存储资源,集群 读写装置实现了可以被许多主机同时访问的存储管理方式。可以集中进行存储资源分 配、管理和保护数据等管理工作。一个集群读写装置消除了存储冗余度,因为很多主机 不必保存同一文件的多个副本。这不仅提高了存储系统总体的利用率,而且降低了数据 备份和其他数据保护应用的负担。数据的可用性更好,因为数据不再绑定在某个单独的 刀片服务器上。如果一台主机不可用,其它主机依然可以访问共享数据。大大提高了生 产效率、降低网络带宽瓶颈。[0050]在一个通过存储区域网络实现刀片服务器与存储设备连接的生产环境中,刀片 服务器可通过光纤链路实现共享存储的基于块级的数据共享访问,但这种访问是基于物 理层面的,以前往往是服务于数据库系统的。集群读写装置可使得这些刀片服务器可实 现文件级的逻辑层面的数据共享,同时这些文件数据的访问链路依旧是基于光纤的。也 就是说所有的刀片服务器都可以通过光纤链路直接共享访问这些数据文件。因此采用集 群读写装置集群读写装置能够有效利用存储区域网络保证系统中的各刀片服务器对共享 磁盘阵列中数据访问的性能要求。[0051]如上图所示,在具体的系统部署中,我们通常将集群读写装置的管理节点,称 之为刀片控制器(Metadata Server或MetadataController),在其他的基于光纤链路访问共享存储中数据的刀片服务器称之为集群读写装置。在刀片控制器和其他集群读写装置中, 通过在客户端中部署集群读写装置软件,实现整个系统中的多台刀片服务器共享存储在 光纤磁盘阵列上的数据文件。通过上述设置,刀片控制器对所有刀片服务器实现数据访 问集中控制。[0052]图7是根据本实用新型实施例的集群读写方法的流程图。如图7所示,该集群 读写方法包括以下步骤[0053]步骤S602,将待读写文件的元数据信息传递至应用服务器。[0054]步骤S604,将读写服务器的地址传递至所述应用服务器。步骤S606,根据所述读写服务器的地址控制所述读写服务器对所述待读写文件 的元数据信息进行读取。在该步骤中,根据所述读写服务器的地址控制所述读写服务器对所述待读写文 件的元数据信息进行读取包括以下之一或任意多个控制各个读写服务器以相同的流量 对所述存储器中数据进行读写;在检测到第一读写服务器发生故障的情况下,将所述第 一读写服务器需要读取的数据发送给第二读写服务器进行读取;在检测到第三读写服务 器读写超负荷的情况下,将所述第三读写服务器的部分读写数据分配给第四读写服务器 进行读取;以及所述控制器在检测到新的读写服务器时,为所述新的读写服务器分配读 写数据。以下具体论述根据本实用新型实施例的集群读写方法其中,利用本实用新型实施例的集群读写装置进行读文件方法如下步骤S61,“应用服务器或者客户端”把将要读取的文件名传递给“刀片读写节 点控制器(主)”。步骤S62,“刀片读写节点控制器(主)”首先读取文件的“元数 据信息”判断该用户是否有权限进行访问。步骤S63,如果该用户没有权限,则返回相关错误信息。如果有权限,则继续。步骤S64,“刀片读写节点控制器(主)”将需要读取文件的“元数据信息”传 递给“应用服务器或者客户端”,同时“刀片读写节点控制器(主)”会定期的(在一个 心跳范围内)将所有可用的读写节点(“刀片读写节点1”、“刀片读写节点2”、“刀 片读写节点3”、“刀片读写节点4” )的IP地址传递给“应用服务器或者客户端”。步骤S65,“应用服务器或者客户端”获得了所有刀片读写节点的IP地址后。 将大型I/O切片成较小的I/O请求,然后在多个IO节点中同时发布,按照流量分别平均 的发布给所有可用的读写节点(即,如图3至图6中所示的各个集群读写装置)。步骤S66,刀片读写节点得到“应用服务器或者客户端”发送过来的请求后,通 过交换机,把相关的元数据信息向“刀片读写节点控制器(主)”发出请求。步骤S67,刀片读写节点读取成功,则将结果返回给“客户端”,并通过交换机 通知“刀片读写节点控制器(主)”。步骤S68,如果刀片读写节点读取数据失败,则通过交换机通知“刀片读写节 点控制器(主)”。“刀片读写节点控制器(主)”将其需要读取的元数据信息发送给其 他读写节点,由其他读写节点继续读取。步骤S69,如果该读写节点突然出错,例如机器宕机。则“刀片读写节点控制 器(主)”在一定心跳范围内获取不到该读写节点的成功信息,并联系不到该读写节点, 则将其需要读写的元数据信息发送给另一台读写服务节点,由该读写节点继续读取,也 就是将正在进行中的读写操作将自动重新发布。步骤S70,如果任何一个刀片读写节点的I/O队列开始增大,并且不能快速处 理,“应用服务器或者客户端”就把后续的I/O转移到其它的刀片读写节点。步骤S71,当添加额外的读写节点时,“应用服务器或者客户端”会自动收到 “刀片读写节点控制器(主)”的通知,并能开始使用它们处理新的I/O请求。步骤S72,读文件结束。[0070]其中,在任何时候,“刀片读写节点控制器(主)”发生故障,则由“刀片读写 节点控制器(备)”接管所有元数据操作。[0071]其中,利用本实用新型实施例的集群读写装置进行写文件的方法如下[0072]步骤S81,“应用服务器或者客户端”把将要写入的文件名传递给“刀片读写节 点控制器(主)”。[0073]步骤S82,“刀片读写节点控制器(主)”首先判断该用户是否有权限进行写入 操作。[0074]步骤S83,如果该用户没有权限,咱返回相关错误信息。如果有权限,则继续。[0075]步骤S84,“刀片读写节点控制器(主)”将需要写入的文件的“元数据信息” 写入到存储,并将相关信息通过交换机传递给“应用服务器或者客户端”,同时“刀片 读写节点控制器(主)”会定期的(在一个心跳范围内)将所有可用的读写节点(“刀片 读写节点1”、“刀片读写节点2”、“刀片读写节点3”、“刀片读写节点4”)的IP 地址传递给“应用服务器或者客户端”。[0076]步骤S85,“应用服务器或者客户端”获得了所有刀片读写节点的的IP地址后。 将大型I/O切片成较小的I/O请求,然后在多个IO节点中同时发布,按照流量分别平均 的发布给所有可用的读写节点(即,如图3至图6中所示的各个集群读写装置)。[0077]步骤S86,刀片读写节点得到“应用服务器或者客户端”发送过来的请求后,通 过交换机,把相关的元数据信息向“刀片读写节点控制器(主)”发出请求。[0078]步骤S87,刀片读写节点写入成功,则将结果返回给“客户端”,并通过交换机 通知“刀片读写节点控制器(主)”。[0079]步骤S88,如果刀片读写节点写入数据失败,则通过交换机通知“刀片读写节 点控制器(主)”。“刀片读写节点控制器(主)”将其需要写入数据的元数据信息发送 给其他读写节点,由其他读写节点继续写入。[0080]步骤S89,如果该读写节点突然出错,例如机器宕机。则“刀片读写节点控制 器(主)”在一定心跳范围内获取不到该读写节点的成功信息,并联系不到该读写节点, 则将其需要写入的元数据信息发送给另一台读写服务节点,由该读写节点继续写入,也 就是将正在进行中的读写操作将自动重新发布。[0081]步骤S90,如果任何一个刀片读写节点的I/O队列开始增大,并且不能快速处 理,“应用服务器或者客户端”就把后续的I/O转移到其它的刀片读写节点。[0082]步骤S91,当添加额外的读写节点时,“应用服务器或者客户端”会自动收到 “刀片读写节点控制器(主)”的通知,并能开始使用它们处理新的I/O请求。[0083]步骤S92,写文件结束。[0084]其中,在任何时候,“刀片读写节点控制器(主)”发生故障,则由“刀片读写 节点控制器(备)”接管所有元数据操作。[0085]需要说明的是,在附图的流程图示出的步骤可以在诸如一组计算机可执行指令 的计算机系统中执行,并且,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可 以以不同于此处的顺序执行所示出或描述的步骤。[0086]图8是根据本实用新型实施例的集群读写控制器的示意图。如图8所示,该控 制器包括第一传递模块802、第二传递模块804和控制模块806。[0087]其中,第一传递模块802用于将待读写文件的元数据信息传递至应用服务器; 第二传递模块804用于将读写服务器的地址传递至所述应用服务器;以及控制模块806用 于根据所述读写服务器的地址控制所述读写服务器对所述待读写文件的元数据信息进行 读取。从以上的描述中,可以看出,本实用新型可以提高集群读写装置的拓展性。以上所述仅为本实用新型的优选实施例而已,并不用于限制本实用新型,对于 本领域的技术人员来说,本实用新型可以有各种更改和变化。凡在本实用新型的精神和 原则之内,所作的任何修改、等同替换、改进等,均应包含在本实用新型的保护范围之 内。
权利要求1.一种集群读写装置,其特征在于,包括 多个读写服务器;以及控制器,连接于所述多个读写服务器和存储器之间。
2.根据权利要求1所述的集群读写装置,其特征在于,所述控制器包括主用控制器和 备用控制器。
3.根据权利要求1所述的集群读写装置,其特征在于,所述读写服务器设置于机架 上,所述控制器与一个或者多个所述机架上的读写服务器相连接。
4.根据权利要求3所述的集群读写装置,其特征在于,所述读写服务器为刀片服务 器,所述控制器设置于所述机架上。
5.根据权利要求1所述的集群读写装置,其特征在于,所述控制器包括读写单元。
6.根据权利要求1所述的集群读写装置,其特征在于,还包括 第一交换机,与所述存储器相连接;以及第一背板,设置于所述读写服务器和所述第一交换机之间。
7.—种集群读写系统,其特征在于,包括 存储器,用于存储数据文件;权利要求1至6中任一项所述的集群读写装置;以及 应用服务器,经由所述集群读写装置与所述存储器相连接。
8.根据权利要求7所述的集群读写系统,其特征在于,还包括 第二交换机,与所述应用服务器相连接;以及第二背板,设置于所述第二交换机和所述应用服务器之间。
专利摘要本实用新型公开了一种集群读写装置及系统。其中,该集群读写装置包括多个读写服务器;控制器,连接于所述多个服务器和存储器之间。该集群读写系统包括存储器以及应用服务器。通过本实用新型,能够提高集群读写装置的拓展性。
文档编号H04L29/08GK201805455SQ20102055899
公开日2011年4月20日 申请日期2010年10月13日 优先权日2010年10月13日
发明者周家术, 陆荣杰 申请人:北京神州融信信息技术股份有限公司
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1