云存储文件系统的制作方法
【专利摘要】本发明公开了一种云存储文件系统，在Hadoop分布式文件系统基础之上实现日志结构块存储系统；所述Hadoop分布式文件系统，用于提供分布式的存储介质；所述日志结构块存储系统包括快照单元，克隆单元，块压缩单元，缓存单元等等。本发明的优点在于通过封装HDFS(Hadoop?Distributed?File-System)接口实现HLBS(Hadoop?Log-Structured?Block-Storage?System)的接口，在此基础上实现LBS(Log-Structured?Block-Storage?System)，最终实现创新型Hadoop分布式日志结构块存储系统，从而实现对数据的随机读写以及I/O效率的提高，同时包含快照，克隆等功能。
【专利说明】云存储文件系统
【技术领域】
[0001]本发明涉及一种数据存储技术，特别涉及一种云存储文件系统。
【背景技术】
[0002]HDFS是一个高度容错性的系统，适合部署在廉价的机器上。HDFS能提供高吞吐量的数据访问，非常适合大规模数据集上的应用。HDFS —般部署在集群环境中，而且这个集群环境是一个主从(master/slave)系统。在这个系统中有一个命名节点(Namenode)和若干个数据节点(Datanode),命名节点上存储着所有元数据(Meta-data),而数据节点上存储着所有用户数据，这些数据被组织成数据块的形式放在数据节点上，每个数据块默认存放在三个数据节点(可配置)上，用户的请求(读写等)都是通过命名节点，进而操作数据节点。HDFS—次写入不能更改，只可多次读取。一旦创建了一个HDFS文件，并且写入了数据，关闭之后就不能再修改这些数据了。这种方式简化了数据一致性，同时也使高数据吞吐量变为可能。但是，这种方式也限制了用户对数据的操作，这是HDFS的一个鲜明的缺点。
[0003]日志结构文件系统(Log-StructuredFile System)最早由 John K.0usterhout 和Fred Douglis在1988年提出。这种设计是为了提高写数据吞吐量，所有对数据和元数据的更新都是以日志的形式追加，形成一个线性的数据结构。日志结构文件系统(LFS)会不断的追加日志结构，日志中元数据的数据量有可能大于可用数据，每次更新都会产生元数据，那么存储空间就成为我们关注的核心问题，这么多的冗余数据应该如何处理。这就是日志结构文件系统的缺点。
[0004]虽然，中国专利CN201010624684.4公开了一种分布式文件系统的数据存储处理方法，其特征在于，包括:接收分布式文件系统客户端发送的访问请求；根据所述访问请求确定所述分布式文件系统客户端所要访问的存储单元以及所述存储单元对应的虚拟资源池状态，所述存储单元与其对应的虚拟资源池存储有相同的数据，所述虚拟资源池为根据具有相同活动周期的分布式文件系统客户端聚类生成；在确定所述存储单元对应的虚拟资源池处于上线状态时，向发起访问请求的分布式文件系统客户端返回包括客户端标识的访问响应消息，所述客户端标识所标识的分布式文件系统客户端为所述虚拟资源池中的一个，且根据所述访问请求确定。上述技术方案能够提高分布式文件系统的系统稳定性，但并没能进一步解决冗余数据问题。类似的专利技术还有很多，但都程度不同地存在着稳定性和实用性不佳的问题，尚有待于进一步改进完善。
【发明内容】
[0005]本发明的目的在于提供一种云存储文件系统，可以实现对数据的随机读写以及I/O效率的提闻，从而解决上述问题。
[0006]为实现上述发明目的，本发明的技术方案是:一种云存储文件系统，包括=Hadoop分布式文件系统和日志结构块存储系统；所述Hadoop分布式文件系统，用于提供分布式的存储介质；所述日志结构块存储系统是基于日志结构文件系统理念而实现随机读写，它还包括快照单元，克隆单元，块压缩单元，缓存单元。
[0007]作为本发明的优选实施例，所述Hadoop分布式文件系统包括:接收分布式文件系统客户端发送的访问请求；根据所述访问请求确定所述分布式文件系统客户端所要访问的存储单元以及所述存储单元对应的虚拟资源池状态，所述存储单元与其对应的虚拟资源池存储有相同的数据，所述虚拟资源池为根据具有相同活动周期的分布式文件系统客户端聚类生成；在确定所述存储单元对应的虚拟资源池处于上线状态时，向发起访问请求的分布式文件系统客户端返回包括客户端标识的访问响应消息，所述客户端标识所标识的分布式文件系统客户端为所述虚拟资源池中的一个，且根据所述访问请求确定。
[0008]在本发明中，HLBS的磁盘数据格式与一般文件系统无多大差异，都是借助于datablock、indirect block、inode等结构。所不同之处在于LBS会将磁盘(这里是HDFS的存储池)分割成有序的segment进行管理，当前活跃的segment只有一个(也就是日志的逻辑尾的segment)。这些segment逻辑上头尾相连组成线性logs,任何对文件的更新(data
block、indirect block、inode等等)都会以追加方式写入一个新的log-显然这么做的
好处是保证了磁头的顺序移动，提高了吞吐量；而带来的麻烦是需要回收前期写入的旧数据(修改过的)，否则磁盘迟早会写满。综上所述我们设计的基本思路是——利用HDFS为我们提供可靠的、分布式的存储介质；然后在其上实现LBS。
[0009]其中log是我们数据持久化的一个基本写入单位，对于写透需求来说，实际上每次写入动作都会产生一个新的log,而每次的log大小不尽相同。log的内容显然必须包含被写入的数据块，还需要包含对应的元数据(索引块等)信息，以及元数据的元信息(inode)，这样才能完成对数据的索引。任何文件或者目录的修改，LBS都需要向log中写入如上几部分信息，而且要求严格“按照顺序写入(in-order semantics)”——其目的是为了崩溃时能尽可能恢复数据一致性。
[0010]读取文件最新数据时需要通过找到最新的inode map位置，再进而找到所需文件对应inode，再进而找到文件逻辑地址对应的数据块的物理地址(段号+offset)，再进而读取数据。最新的Inode map位置理应记录在checkpoint文件中,HDFS初始化加载时读入；如果运行中则该inode map驻留于内存数据结构中。文件块大小是可变的(可配置)，比如8k。对于不足一个块的修改，一定会伴随先读出完整块再修改，再追加这一过程。
[0011]具体来说，LBS是基于LFS的理念，但是又不同于LFS。LBS简化了 LFS，通过LFS的设计理念设计并实现了块级别的日志存储系统，同时在LBS之上实现了快照(线性快照和树形快照)，克隆，块压缩，缓存等技术。同时，对HDFS也进行了改进，实现了副本迁移，在无网络环境下，可以实现本地启动虚拟机等功能。
[0012]采用了上述技术方案，本发明的有益效果为:通过封装HDFS接口，实现HLBS的接口，在此基础上实现LBS，最终实现创新型Hadoop分布式日志结构块存储系统，HLBS吸取了HDFS和LBS的各自优点，同时弥补了各自的缺点，从而实现对数据的随机读写以及1/0效率的提闻，同时包含快照，克隆等功能。
【专利附图】
【附图说明】
[0013]图1为本发明HLBS实现原理图。【具体实施方式】
[0014]下面结合实施例对本发明进一步说明。
[0015]实施例:一种云存储文件系统，包括:Hadoop分布式文件系统和日志结构块存储系统；所述Hadoop分布式文件系统，用于提供分布式的存储介质；所述日志结构块存储系统是基于日志结构文件系统而实现随机读写，还包括快照单元、克隆单元、块压缩单元和缓存单元。其中:所述Hadoop分布式文件系统包括:接收分布式文件系统客户端发送的访问请求；根据所述访问请求确定所述分布式文件系统客户端所要访问的存储单元以及所述存储单元对应的虚拟资源池状态，所述存储单元与其对应的虚拟资源池存储有相同的数据，所述虚拟资源池为根据具有相同活动周期的分布式文件系统客户端聚类生成；在确定所述存储单元对应的虚拟资源池处于上线状态时，向发起访问请求的分布式文件系统客户端返回包括客户端标识的访问响应消息，所述客户端标识所标识的分布式文件系统客户端为所述虚拟资源池中的一个，且根据所述访问请求确定。HLBS是一个在HDFS文件系统之上实现的LBS系统。但要注意它并非一个实现完整POSIX语义的文件系统(支持目录操作、link等)，目前实现了单一文件的基本管理(open, write, read, close)的系统,所以把它称为存储系统(block-level)可能更加合适，HLBS已经支持了很多高级存储管理技术，比如，快照，克隆，块压缩，缓存等，同时，HLBS也已经支持了目前业内比较有名的系统，如XEN，QEMU/KVM, Libvirt, Openstack 等。
[0016]HLBS快照技术的主要作用是能够进行在线数据备份与恢复。当存储设备发生应用故障或者文件损坏时可以进行快速的数据恢复，将数据恢复到某个可用的时间点的状态。快照的另一个作用是为存储用户提供另外一个数据访问通道，当原数据进行在线应用处理时，用户可以访问快照数据，还可以利用快照进行测试等工作。HLFS快照技术包括线性快照和树形快照，树形快照应用场景更为广泛。
[0017]HLBS克隆技术主要作用是在一个HDFS之上的系统盘镜像，可以作为无数新系统的base系统，从而提高系统新系统生产速度和解决存储空间。同时，为了减少本网络传输压力，提高系统响应速度，可考虑利用本地文件系统作为Base数据宿主:比如一些场景中——我们可以将标准的镜像或某系统通用软件做到工具盘中，并置于到本地HLBS上，即local方式挂载的HLBS系统上，然后再在集群的HDFS上做一个新HLBS系统，并将其base系统放到本地的上述HLBS系统上。从而只有变化的增量数据需要途径网络1/0，这样很大程度上会提高系统性能。HLBS块压缩技术主要作用是通过压缩算法来重新组织数据，使存储空间得到最大利用。HLBS缓存技术主要作用是为了提高I/O效率。HLBS支持XEN虚拟机，在XEN虚拟机中可以创建HLBS卷，从而使XEN虚拟机具备了 HLBS的所有优良特性。HLBS还支持QEMU/KVM虚拟机，在QEMU/KVM虚拟机中可以创建HLBS卷，进而对HLBS卷应用快照，克隆，块压缩，缓存等技术。HLBS支持XEN，QEMU/KVM虚拟机之后，使虚拟机的性能得至Li了极大的提高。Libvirt提供了一套标准的虚拟化接口，HLBS支持Libvirt,使用者可以通过Libvirt创建HLBS卷,进而应用HLBS所提供的一系列功能。Openstack是一个云基础软件，目前在业界非常有影响力，HLBS支持Openstack,可以通过Openstack创建HLBS卷，进而把HLBS的所有特性集成到Opesntack项目中，使Openstack更加强大。
[0018]综上所述，HLBS在HDFS之上实现LBS，从而达到随机读写，存储空间扩展等特性。HLBS还支持快照，克隆，块压缩等技术。目前，HLBS已经支持XEN，QEMU/KVM，Libvirt,Openstack等著名项目。HLBS的应用场景和范围越来越广泛。
[0019]本发明不局限于上述具体的实施方式，本领域的普通技术人员从上述构思出发，不经过创造性的劳动，所作出的种种变换，均落在本发明的保护范围之内。
【权利要求】
1.一种云存储文件系统,其特征在于,包括:Hadoop分布式文件系统和日志结构块存储系统；所述Hadoop分布式文件系统，用于提供分布式的存储介质；所述日志结构块存储系统包括随机读写单元、快照单元、克隆单元、块压缩单元和缓存单元。
2.根据权利要求1所述的一种云存储文件系统，其特征在于，所述Hadoop分布式文件系统包括:接收分布式文件系统客户端发送的访问请求；根据所述访问请求确定所述分布式文件系统客户端所要访问的存储单元以及所述存储单元对应的虚拟资源池状态，所述存储单元与其对应的虚拟资源池存储有相同的数据，所述虚拟资源池为根据具有相同活动周期的分布式文件系统客户端聚类生成；在确定所述存储单元对应的虚拟资源池处于上线状态时，向发起访问请求的分布式文件系统客户端返回包括客户端标识的访问响应消息，所述客户端标识所标识的分布式文件系统客户端为所述虚拟资源池中的一个，且根据所述访问请求确定。
【文档编号】G06F17/30GK103473258SQ201310232354
【公开日】2013年12月25日 申请日期:2013年6月1日 优先权日:2013年6月1日
【发明者】陈莉君, 康华, 贾威威, 王博 申请人:西安邮电大学