提供用于在存储设备的分布式文件系统中进行信息追踪的元数据的系统和方法

专利名称：：提供用于在存储设备的分布式文件系统中进行信息追踪的元数据的系统和方法
技术领域：
：本发明的系统和方法一般涉及分布式文件存储领域，尤其涉及智能分布式文件管理。
背景技术：
：互联网的爆炸式成长带来了新的领域，在该领域中，信息被持续地交换和访问。响应于这种增长，共享数据的规模也在增大。用.户所要求的比标准HTML文档更多，他们希望访问多种数据，例如音频数据、视频数据、图像数据和编程数据。因此，存在着对在提供快速而可靠的数据访问的同时能够存储大的数据组的数据存储器的需要。一种响应是采用可以存储大量的数据但很难提供高流量的单一的存储设备。随着数据容量的增加，访问数据的时间量也随之增加。虽然处理速度和能力已经得到提高，但是磁盘I/O(输入/输出)操作性能没有以相同的速率提高，致使i/o操作效率低下，特别是在大数据文件方面。另一种响应是允许多个服务器利用诸如存储区域网络(SAN)解决方案的系统架构来访问共享磁盘，但是这种系统价格昂贵，并需要复杂的技术来建立并控制数据完整性(integrity)。而且还需要高速适配器来处理大容量的数据请求。常-见方法的一个问题在于，它们受到其可扩展性(scalability)的限制。因而，随着数据容量的增加，系统需要也相应增长，但是扩充费用高昂而且具有高的破坏性。常头见方法的另一共同问题在于它们的灵活性有限。这些系统通常净皮配置为使用预先确定的纠错控制。例如，可使用RAID(磁盘阵列)系统在物理磁盘级别上提供数据文件的冗余和镜像，因而在确定数据在哪里存储或应使用的冗余参数类型方面给管理员很少的灵活性或根本没有灵活性。
发明内容智能分布式文件系统能够很好地将文件数据存储在能像单一文件系统一样得到访问的一组智能(smart)存储单元中。智能分布式文件系统很好地利用元数据(metadata)数据结构来跟踪和管理每个文件的详细信息，包括如文件数据块的块位置和设备，以允许单一文件系统内不同级别的复制和/或冗余，方便冗余参数的改变，为元数据提供高级别的保护，实时地复制和移动数据，等等。本
发明内容的目的、特定方面、优点和新颖的特征在本文中得到了描述。应该理解，未必所有这些优点都在本发明的任何特定的实施例中得到实现。因此，例如，本领域」技术人员应意识到，可以以只实现本文中所教导的一个优点或一组优点而无需实现本文教导或建议的其他优点的方式来实现或完成本发明。附图的简要说明图1是本发明一个实施例的高层方框图2示出了图1所示的组成部件之间的示例数据流；图3示出了示例性的智能存储单元的高层方框图4示出了示例文件目录；图5示出了元数据数据结构的一个实施例；图6A示出了数据位置表结构的一个实施例；图6B示出了数据位置表结构的另一个实施例；图6C示出了数据位置表结构的又一个实施例；图6D示出了数据位置表结构的再一个实施例；图7A示出了用于目录的元数据数据结构的一个实施例；图7B示出了用于文件的元数据数据结构的一个实施例；图8A示出了数据位置表的一个实施例；图8B示出了数据位置表的另一个实施例；图8C示出了数据位置表的又一个实施例；图9示出了带有相应的示例数据的文件的示例元数据数据结构;图IO示出了用于检索数据的流程图的一个实施例；图11示出了的用于实现名称解析的流程图的一个实施例；图12示出了用于检索文件的流程图的一个实施例；图13示出了用于创建奇偶校验信息的流程图的一个实施例；图14示出了用于实现纠错的流程图的一个实施例。其中，图2中的附图标记含义如下A:用户请求文件B:交换机看到请求并转发到可用的智能存储单元0C:智能存储单元0接收请求D:智能存储单元0为目录元数据查询智能存储单元2E:智能存储单元O接收目录元数据F:智能存储单元0查询用于目录元数据的智能存储单元3G:智能存储单元O接收目录元数据H:智能存储单元O检索文件元数据具体实施例方式以下将参照附图对代表了本发明的一个实施例和示例应用的系统和方法进行说明。对该系统和方法的变换所代表的其它实施例也将得至ij描述。为说明的目的，一些实施例将在互联网内容-传送和网络托管(webhosting)的背景中描述。发明人期望本发明不受使用本系统和方法的环境类型的限制，本系统和方法可使用在其他环境中，诸如，举例来说，互联网、万维网、医院专用网络、政府机构广播网、合作企业互连网、企业内部互联网，局域网，广域网等等。然而，在涉及本发明的实施例的说明书和附图中，背景环境是互联网内容-传送和网络托管。也应意识到，在其他的实施例中，所述系统和方法可作为单一的模块实现并且/或者可以其他各种模块等协同实现。而且，本文所描述的特定的实现方式为说明的目的而提出的，它并不是对本发明的限制。本发明的范围由所附权利要求来定义。现在将参照上面简要描述的附图来描述这些和其它的特征。附图和相关的说明被提供用来阐明本发明的实施例，但其不限制本发明的范围。在全部附图中，参考标号可被重复使用以指明所参考部件间的对应关系。另外，每个参考标号的第一个数字一般都表示该部件第一次出现的图。I.概述本发明的系统和方法提供了智能分布式文件系统，其能够在一组可作为单一文件系统得到访问的智能存储单元中存储数据。该智能分布式文件系统跟踪和管理每个文件的详细的元数据。元数据可以包括涉及和/或描述文件的任何数据，例如，包括设备和块位置信息在内的文件数据块的位置、元数据和/或数据块(如果有的话)的冗余备份的位置、纠错信息、访问信息、文件名、文件的大小、文件类型，等等。另外，对该由文件系统管理的不同文件和/或数据块，智能分布式文件系统允许进行不同级别的复制和/或冗余，从而方便了系统激活时冗余参数的改变，并能够实现元数据和数据的实时复制和移动。进一步，通过从智能存储单元组中定位和收集文件数据，各智能存储单元都可响应文件请求。在存在大量的读(READ)请求的情况下，特别是其与写(WRITE)请求成比例的情况下，智能分布式文件系统可以很好地提供对数据的访问。这是由于增加了锁定智能的智能存储单元组以及对单个智能存储单元的浏览的复杂性从而保证了一致性。此外，在对大的数据块的请求很普遍的期间，智能分布式文件系统能够很好地对块的交互进行处理。一些实施例的一个好处是，用于文件和目录的元数据由智能分布式文件系统管理和访问。元数据可指出用于目录或文件的元数据被定位在哪里、内容数据存储在哪里、元数据和/或内容数据的镜像备份存储在哪里、以及与系统相关的奇偶校验或其他纠错信息存储在哪里。可使用如设备和块位置信息来存储数据位置信息。因而，智能分布式文件系统可通过利用分布和存储在智能存储单元组中的元数据来定位和检索被请求的内容数据。另外，因为智能分布式文件系统可以访问元数据，因而智能分布式文件系统可被用于选择数据被存储的位置并根据请求来移动、复制和/或改变数据而不对智能存储单元组产生破坏。一些实施例的另一个好处是，用于每个文件的数据可跨越几个智能存储单元存储并以时序的方式访问。用于每个文件的数据块可能分布在智能存储单元的子集中，这样数据存取时间就可减少。进一步，不同的文件可能跨越不同数量的智能存储单元以及跨越不同智能存储单元组而分布。这种架构使智能分布式文件系统能够根据诸如文件的大小、重要度、预期访问速率，以及可用的存储容量、CPU利用率和每个智能存储单元的网络利用率等因素而智能地存储数据块。一些实施例的另外的益处是，该系统和方法可被用于对数据块或文件提供不同的保护方案，例如纠错、冗余和镜像，以使存储在智能存储单元之中的不同的数据块或文件可以有不同的保护类型。例如，一些目录或文件可以被镜像，其他的目录和文件可利用不同的错误或丟失纠正方案的错误和/或丟失(loss)纠正数据而得到保护，以及其它较不重要的目录或文件可能不使用任何保护方案。一些实施例的进一步的好处是该系统和方法可实时地增加、删除和/或修改智能存储单元而不破坏或中断正在进行的数据请求。因而，在需要更多的存储器时，附加的智能存储单元可实时地加到智能存储单元组并且并入到智能分布式文件系统中，而不打断文件请求或使现有的智能存储单元离线。在现有文件的数据块或新文件被智能分布式文件系统跨越现在已包括了新的智能存储单元的智能存储单元组分布的同时，现有的智能存储单元可处理对文件的请求。一些实施例的另外的益处是，通过将数据块复制在一个或多个智能存储单元上，该系统和方法可实现对这些块的存储的实时修改，因而为任何单独的数据块创造了多点访问。这种复制有助于减少已被观测的频繁访问模式下用于文件或文件组的单个智能存储单元的CPU利用率和网络资源需求。这些访问模式被智能存储单元监测，并且智能分布式文件9系统为智能存储单元提供了在智能分布式文件系统依旧工作的同时复制这类数据的灵活性。II.示例搡作为说明的目的，现在讨论一个其中使用了正在运行的智能分布式文件系统的示例场景。在该示例场景中，智能分布式文件系统由一家通过互联网网站提供电影下栽的公司使用。该公司可使用智能分布式文件系统来存储和管理由消费者经网站访问的可下载的电影及电影预告片、广告和消费者信息的拷贝。数据可以按照不同的保护级别得到存储，并且可以跨越多个智能存储单元存储以进行快速访问。例如，该公司可能想要在智能分布式文件系统中跨越几个智能存储单元地存储客户调查电子邮件以提供对这些电子邮件的快速访问。然而，该公司可以保留全部电子邮件的备份带并可能感到对客户调查立即恢复并不是很重要的。该公司可能指示智能分布式文件系统不对客户调查电子邮件使用纠错或镜像保护。因此，如果一个或更多的智能存储单元变得不可访问，该公司可能感到将这些智能存储单元上的访问客户调查电子邮件延迟到电子邮件可从备份带中恢复为止是可接受的。为进行广告，该公司可能指示智能分布式文件系统使用高纠错参数，这样如果一个或更多的智能存储单元出现故障，则智能分布式文件系统可以恢复数据而不打断广告的显示。例如，该公司可能依据不同的容错测量结果以帮助确定对特定的文件需要提供多少保护。对于重要的信息，该公司可能想确保容错水平x,而对重要性较低的信息，公司想要确保容错水平Y，其中X〉Y。应意识到，容错是被用于说明可靠性的一种测量方法，但可以使用附加于或代替容错的其他方法。因此，即使一个或更多的智能存储单元出现故障，该公司也可以向其广告客户可靠地保证广告的可用性。对于顶级电影下载，该公司可有利地建立智能分布式文件系统以自动存储电影数据的多重拷贝，从而使更多的客户能够访问数据并保证如果一个或更多的智能存储单元出现故障，那么丟失的数据可从其他单元重建或恢复。另外，如果请求的数量增加并且/或者一个或更多的智能存储单元开始充满对驻留在智能存储单元上的数据的请求，则可创建顶级电影下载的另外拷贝并将其存储在智能存储单元之中。该公司可选择提供其他不是如此流行的电影，并可能由于较少的请求而指示智能分布式文件系统存储较少量的拷贝。进一步，随着"顶级下载电影，，变得不那么流行，该公司可有利地建立智能分布式文件系统以从存储电影的智能存储单元上删除电影的额外拷贝，并将"较不流行的"电影移动至性能较低的智能存储单元(例如，那些可用磁盘空间较少的智能存储单元)。智能分布式文件系统可被设定以利用智能存储单元自动地照顾这些任务。另外，随着该公司获得更多的电影，该公司可能为智能分布式文件系统增加额外的智能存储单元。然后，该公司可能使用新的智能存储单元以存储更多的电影、存储现有电影的更多拷贝并且/或者重新分配现有的电影数据以改善响应时间。增加的智能存储单元被合并到智能分布式文件系统中，这样即使智能分布式文件系统管理和存储多组智能存储单元中的数据，智能分布式文件系统也作为单一的文件系统出现。本例中，智能分布式文件系统为该公司提供了对顶级电影下载的可靠的和快速的访问、对较不流行的电影的快速访问以及客户调查电子邮件访问的能力。对每个文件，该公司可能设置错误和/或丟失纠正参数并可选择应存储多少文件的附加拷贝。在某些情况下，该公司可能手工地选择应存储的数据拷贝数并确定存储数据的地方。在其他的情况下，该公司可能依赖智能分布式文件系统的特性以选择应存储的数据拷贝数、将使用的错误和/或丢失纠正方案(如果有的话)，以及/或者数据应存储的位置。因而，该公司能有效地使用其存储空间而更好地响应用户的请求。存储空间不被浪费在稀少的请求文件上，并且不为不重要的文件生成和存储纠错信息。尽管上面的例子涉及提供用于下载的电影的公司，但应该意识到，该例子只是用于说明智能分布式文件系统的一个实施例的特性。进一步，智能分布式文件系统也可在其他的环境中使用，并可能使用其他类型的数据和/或其结合，包括例如声音文件、音频文件、图形文件、多媒体文件、数字相片、可执行文件，等等。III.智能分布式文件系统图1示出了智能分布式文件系统110的一个实施例，其与网络服务器120通信以提供远程文件访问。智能分布式文件系统IIO可使用多种协议，例如NFS(网络文件系统)或CIFS,与网络服务器120通信。用户130经通信介质140(例如互联网145)与网络服务器120交互，以请求被智能分布式文件系统IIO管理的文件。示例的智能分布式文件系统IIO使用了交换部件125，交换部件125与一组智能存储单元114以及网络服务器120通信。智能分布式文件系统IIO使单独文件的数据块能够跨越多个智能存储单元114分布。数据被存储以使对数据的访问可以比数据被存储在单一的设备上提供较高的流量。另外，智能分布式文件系统110可被用于存储利用各种保护方案得到存储的各种的数据文件。示例的智能分布式文件系统IIO在一组智能存储单元114中存储数据。为更详细描述智能存储单元114，请参考下面标题为"智能存储单元"的部分。示例的智能分布式文件系统使用诸如负载平衡交换机的交换部件125,交换部件125为请求指明能处理被请求的数据类型的应用服务器。使用高速技术将引入的请求转发到适当的应用服务器以使延迟最小，从而保证数据的完整性。应该意识到可以使用不同的负载平衡交换机125，例如，1000Base-T(铜)千兆比特负载平衡以太网交换机、ExtremeNetworksSummit71、FoundryFastIronII、北电网络的AlteonACE交换机180、F5Big-Ip)以及标准以太网交换机或其他的负栽平衡交换机。智能分布式文件系统使用支持大帧尺寸(例如"jumbo"以太网帧)的交换机。另外，可使用Foundry网络公司的SERVERIRON交换机、Asante公司的InstraSwitch6200交换机，Asante公司的HotStack、CISCO公司的Catalyst交换机及其他的商业产品和/或私有的产品来实现负载平衡交换机125。然而，本领域的普通技术人员将意识到，也可以使用很大范围的交换部件125，或使用其他技术。此外，应该意识到，也可配置交换机部件125以传输不同大小的网络帧。高度重要的文件可能用高纠错参数存储，在磁盘、主板、CPU、操作系统或其它硬件或软件出现故障而阻止了对一个或更多的智能存储单元的访问时，该纠错参数为数据提供了高的恢复率。如果数据丢失或缺少，智能存储单元114可使用元数据中的冗余信息或镜像信息以从另外的单元获得数据或重建数据。高需求的文件可实时地跨越另外的智能存储单元114而被镜像，从而提供平稳的更高的流量。在智能分布式文件系统110的一个实施例中，元数据数据结构至少受到与它引用的数据(包括与元数据数据结构相应的目录的任何下属内容)一样的保护。由于如果没有元数据数据结构则很难恢复数据，因此元数据数据结构中的数据丟失会危害智能分布式文件系统110。在智能分布式文件系统110中，元数据数据结构的替代拷贝可根据需要被镜像于很多单元中以提供必需的保护。因而，带有奇偶校验保护的文件可能使它的元数据数据结构以至少与奇偶校验保护相同或更好的方式得到存储，并且被镜像两次的文件可能使它的元数据结构至少被镜像在两个单元中。尽管图1示出了智能分布式文件系统110的一个实施例，应该意识到，也可以采用其他的实施例。例如，可以采用另外的服务器，如可与交换部件125通信的应用服务器。这些应用服务器可能包括如音频流服务器、视频流服务器、图像处理服务器、数据库服务器，等等。此外，可能有另外的设备，例如与交换部件125通信的工作站。另外，尽管图1示出的智能分布式文件系统110与四个智能存储单元114协同工作，应该意识到，智能分布式文件系统110也可与不同数目的智能存储单元114协同工作。还应意识到术语"远程"可包括非本地存储(也就是不能通过本地总线访问)的设备、部件和/或模块。因而，远程设备可包括物理上位于同一房间并经诸如交换机或局域网的设备连接的设备。在其他情况下，远程设备也可位于分离的地理范围内，例如在不同的位置、国家等等。也应该意识到，可使用智能分布式文件系统110存储多种类型的数据。例如，智能分布式文件系统110可与大的文件应用程序一起使用，例如，视频点播(video-on-demand)、在线音乐系统、网站镜像、大的数据库、大的图形文件、CAD/CAM设计、软件更新、7>司介绍(corporatepresentation)、保险请求文件、医疗成像文件、公司文件存储等等。图2示出了一种示例环境，其中网站用户130提交了观看数字视频点播的请求。在事件A中，用户130通过互联网145向网站发送请求，请求观看电影mymovie.movie的拷贝。该请求被网站服务器120接收，并且月良务器120确定i亥文4牛4立于movies\comedy\mymovie.movie。在事寸牛B中，智能分布式文件系统110的交换部件125看到该请求而连接到智能分布式文件系统110，并使用标准负栽平衡技术将该请求转发到可用的智能存储单元114，如智能存储单元0。在事件C中，智能存储单元0接收对文4牛/DFSR/movies/comedy/mymovie.movie的i貪求，并乂人它的才艮元数净居数据结构(用于根目录/DFSR)确定出用于子目录movies(电影)的元数据数据结构被存储在智能存储单元2。在事件D中，智能存储单元0发送请求到智能存储单元2,请求用于子目录comedy(喜剧)的元数据数据结构的位置。在事件E中，智能存储单元0收到信息，用于子目录comedy(喜剧)的元数据数据结构被存储在智能存储单元3。在事件F中，智能存储单元0发送请求到智能存储单元3，请求用于文件mymovie.movie的元数据数据结构的位置。在事件G中，智能存储单元0收到这样的信息用于文件mymovie.movie的元数据数据结构被存储在智能存储单元0内。智能存储单元0随后从本地存储器中检索出用于文件mymovie.movie的元数据数据结构。从该元数据数据结构中，智能存储单元0检索出用于文件mymovie.movie的数据位置表(datalocationtable),该数据位置表中保存有文件中的各个数据块的位置。智能存储单元0随后使用数据位置表信息以开始检索本地存储的块并发送对存储在其他智能存储单元上的数据的请求。在文件的数据或数据的一部分被检索之后，文件数据被发送到请求服务器120以被转发给请求的用户130。在一个例子中，文件数据可能被发送到视频流服务器，其可调节数据在何时以何方式被发送到用户130。应该意识到，在一些实施例中，利用预读(readahead)技术以检索更多的数据，然后被请求从而减少等待时间是有利的。IV.智能文件系统结构表1示出了一组示例的文件系统层的一个实施例，通过该文件系统层，文件请求被处理以访问物理存储设备。示例的文件系统层包括用户层、虚拟文件系统层、本地文件系统层、本地文件存储层和存储设备层。_用户层_用户空间_核心空间_虚拟文件系统层__本地文件系统层__本地文件存储层__存储设备层_表1在一类文件请求中，请求通过用于文件共享的用户层协议应用程序被接收，用户层协议如HTTPD(Apache全球网服务)、FTPD或在Unix上使用的实现了微软公司的Windows文件共享服务器协议的一个版本的SMBD。用户层协议应用程序通过例如对libc(C运行时期库)的函数调用来实现核心层的操作，如打开、读、搜索、写或关闭系统调用。系统调用被传送到虚拟文件系统层("VFS")，虛拟文件系统层则维持了緩沖存储器。緩冲存储器可以是如最近最少使用的("LRU")高速緩沖存储器，其用于存储从较低的文件系统层接收的数据或元数据数据结构。下一层是本地文件系统层，该层维护文件系统的等级命名系统(hierarchicalnamingsystem)并发送目录和文件名请求到下层，即本地文件存储层。本地文件系统层处理元数据数据结构的查找和管理。例如，在一些系统中，例如在基于Unix的文件系统中，元数据数据结构是文件的概括，包括与文件访问许可、数据块位置和参考计数有关的信息。一旦利用其名字打开了文件，其它的文件搡作利用唯一的标识符来引用文件，该标识符标识出了用于特定文件的元数据结构。这种方法的益处是，单个文件可能有许多不同的名字，单个文件可通过不同的路径访问，并且可复制新文^f牛以覆盖VFS命名空间中的旧文〗牛，而不会经才示准UNIX用户层应用程序(例如，'MV，命令)而覆盖实际的文件数据。在诸如内容-传送和网络托管的环境中，这些益处可能更有利，因为内容可在适当的位置更新而不会破坏当前的内容服务。元数据数据结构内的参考计数使系统只在打开的文件柄全部被关闭时才能够无效该数据块。第四层是本地文件存储层，其控制"緩沖器请求到块请求，，的翻译以及数据緩沖器请求的管理。例如，本地文件存储层使用块分配方案来改善并最大化用于写和读的流量，以及用于读的块检索方案。最后一层是存储设备层，其托管(host)文件系统使用的用于磁盘硬件的特定块的设备驱动器，例如，如果物理存储设备是ATA磁盘，那么存储设备层托管ATA磁盘驱动程序。V.智能存埤单元在一个实施例中，智能存储单元114是即插即用(plug-and-play)的、高密度的、可架式安装的应用设备，其对高流量数据传送是优选的。智能存储单元可被配置成与各种其他的智能存储单元通信以提供单一的虚拟文件系统。随着所需存储空间的增多或一个或更多的智能存储单元出现故障，另外的智能存储单元可被安装而不会使整个系统关机或导致服务中断。如本文所使用的，字模块是指嵌入在硬件或固件中的逻辑或由程序设计语言(例如C或C十+)编写的、可能具有进入点和退出点的软件指令的集合。软件模块可能被编译并连接为可执行程序，此可执行程序可安装在动态连接库中，或由解释性程序设计语言例如Basic、Perl或Python编写。应该意识到软件模块可能被其他模块或自身所调用，并且/或者可响应检测到的事件或中断而被调用。软件指令可能被嵌入在固件(例如EPROM)中。应该进一步意识到，硬件才莫块可能包含逻辑连接单元，例如门和触发器，和/或可能由可编程单元(例如可编程门阵列或处理器)组成。本文描述的模块优选地由软件模块实现，但也可能在硬件或固件中出现。图3示出了智能存储单元114的一个实施例，其包4舌管理才莫块320、处理模块330、緩沖器340，堆栈350和存储设备360。示例的智能存储单元114可被配置成与交换部件125通信，发送和接收如图1所示的请求。A.管理模块在一个实施例中，智能存储单元包括用于执行管理任务的管理模块320，这些任务例如安装、参数设置、智能分布式文件系统监控，发生在智能分布式文件系统IIO上的事件的记录以及升级。B.处理模块示例的处理模块330可被配置为接收对数据文件的请求，检索本地和/或远程存储的关于被请求的数据文件的元数据，并检索本地和/或远程存储的被请求数据文件的数据块。另外，在一个或更多的被请求数据块损坏或丢失时，处理模块330还可完成数据恢复和纠错。在一个实施例中，处理模块330包括响应文件请求的五个模块，块分配管理器模块331、块緩沖模块333、本地块管理模块335、远程块管理模块337和块设备模块339。1.块分配管理器模块块分配管理器331模块确定在哪里分配块，响应READ(读)请求对块进行定位，以及引导设备进行故障恢复。关于在哪里分配块的信息可以由缺省参数所设置的策略、系统管理员利用工具(例如图形用户界面或外壳接口)设置的策略、或这些策略的组合确定。在一个实施例中，块分配管理器331驻留在本地文件系统层并与标准网络软件层(例如TCP/IP和以太网)配合工作，和/或代替加州大学柏克利分校软件设计通用文件系统("BSDUFS")。示例的块分配管理器331包括3个子模块，块请求翻译模块、预分酉己(forwardallocator)才莫块和故障恢复才莫块。a.块请求翻译模块块请求翻译模块接收引入的读请求，完成名称查找，定位适当的设备，并从该设备取出数据以完成请求。如果数据是直接可用的，块请求翻译模块依据数据块是存储在本地存储设备还是存储在其它的智能存储单元的存储设备上，以发送数据请求到本地块管理器模块或到远程块管理器模块。在一个实施例中，块请求翻译模块包括名称查找过程，其将在哪下面标题为"智能分布式文件系统过程-名称查找处理"中得到讨论。块请求翻译模块也可能对设备故障做出响应。例如，如果设备关机，则块请求翻译模块可使用如奇偶校验信息请求可用于重构数据的本地的和远程的数据块。因而即使READ不能被执行，数据也可被生成。另夕卜，块请求翻译模块可与故障恢复模块通信，这样故障的恢复模块可使用奇偶校验或其他的错误或丢失纠正数据来重建数据并跨越智能分布式文件系统的自由空间地为损失纠正数据重新划分带区(re-stripe)。在其他的实施例中，块请求翻译模块可能请求出错或丢失数据的干净拷贝。b.预分配模块预分配模块根据诸如冗余、空间和性能等因素确定应被用于写请求的设备的块。这些参数由系统管理员设置、可以从嵌入在智能分布式文件系统110中并作为智能分布式文件系统110的逻辑而使用的信息中获得，或可以从其组合中获得。预分配模块110接收来自于其他使用智能分布式文件系统的智能存储单元的统计数据，并使用这些统计数据决定存放新来数据的最好位置。被收集的统计数据包括如所测量的CPU利用率、网络利用率和磁盘利用率。预分配模块还可根据远程智能存储单元的应答时间而从远程块管理器模块接收等待时间信息。如果中间设备的等待时间相对于其他智能存储单元达到高水平，如果可能，则根据冗余设置，分配方案可能被调整以有利于其他的智能存储单元减少对慢的智能存储单元的使用。在一个有利的例子中，智能分布式文件系统可能已将数据块从一个智能存储单元移动到另外的智能存储单元，并相应地更新了对应的元数据结构。等待时间条件可能^皮记录系统记录并才艮告给系统管理员。寸曼的链接条件的原因可能是诸如劣质的网卡、错误的双工协商或设备数据被相对频繁地读或写。可使用多种策略确定在什么地方存储数据。这些策略可依据系统的目的进行调整，例如，遵照系统管理员设置的参数、满足已选择的冗余水平和/或性能改进。下面提供了可被预分配模块采用以存储数据的几个示例性的策略。应该意识到，可采用的策略^艮多，它们并且可以与下文讨论的结合使用，也可在其之外。预分配模块可包括跨越多个智能存储单元的用于划分数据带区的分配方案。对数据划分带区是普通的技术，其通常使用在高端RAID存储设备上，但也在有多个磁盘的单用户工作站机器上使用。划分数据带区简磁盘上。划分数据带区的优势是当读请求跨越分配于多个磁盘上的块时，每个磁盘都分担数据检索的总流量。利用典型的系统，划分数据带区是在软件设备层上完成的。也就是说，文件系统中没有关于划分数据带区的信息。只有文件系统下面的软件层明白该结构。在硬件的一些特定块中，这种划分是在比软件设备层更低、实际是在硬件层上完成的。在智能分布式文件系统110中，文件系统自身可处理数据带区的划分。这种实现为划分数据带区配置提供了更大的灵活性。作为示例，典型的RAID技术的局限之处在于，所有的磁盘必须是一样大小的并具有相同的性能特征。这些约束对于保证数据跨越设备地均勻分布是必须的。为更详细地讨论RAID,请参考由PAULMASSIGLIA撰写的"RAIDBOOK"，第六版(1997)，该文也被引入本文以作为参考。利用智能分布式文件系统110，不同的智能存储单元114可使用不同的磁盘和不同大小的磁盘并将其加入到文件带区中。预分配模块使用性能度量标准或预置规则，在根元数据数据结构中查寻磁盘设备信息并计算文件数据所跨越的智能存储单元的数目。然后预分配模块可分配文件的数据块到一组智能存储单元中。预分配模块也可还包括用于奇偶校验或其他错误或丟失纠正保护的分配方案。在大多数RAID系统中，当文件带区被使用时，奇偶校验保护也可祐使用，以-使除一个以外的所有-兹盘可#:用于数才居存储。最后一个磁盘纯粹用于奇偶校验信息。该奇偶校验信息通常利用对跨越所有数据磁盘的每个数据块按位异或("XOR")来计算。当磁盘故障发生时，该奇偶校验信息用于实现数据恢复。通过对剩余的磁盘数据块和奇偶校验信息按位XOR可重新计算丟失的数据。在典型的RAID系统中，数据是不可恢复的，直到替换磁盘被插入到阵列中以重建丟失的数据为止。利用智能分布式文件系统110，由于奇偶保护发生在文件系统层而不是软件设备层，因此丢失的数据可被重新计算并重写在其余智能存储单元的其他部分的未用空间中。如果没有足够的未用空间来重写数据，奇偶校验数据可能被重新计算的数据覆盖，并且冗余比最初的水平下降的事实可被记录和/或报告给系统管理员。预分配模块可能还包括用于镜像数据的分配方案，也就是在不同的智能存储单元上制造可用数据的多个拷贝。预分配模块可能使用一种分配方案以利用在存储空间、网络利用率、和/或CPU利用率方面使用较少的智能存储单元对跨越智能存储单元的数据块的位置进行负载平衡。镜像可提供增加的性能和增加的容错。如果要求对特定的内容块进行镜像,预分配模块分配用于最初数据及镜像数据的空间。如果要求大于1的容错水平，预分配器可利用容错计算并产生数据带区的镜像，以逻辑地划分智能存储单元或智能存储单元的子集。例如，如杲在智能分布式文件系统110中有IO个智能存储单元114，并且要求容错为2，那么预分配器可以逻辑地将智能分布式文件系统分为两部分，每部分带有5个智能存储单元，使数据带区在每个部分中跨越四个智能存储单元，并使用每个部分中的第5个智能存储单元作为奇偶校验磁盘。智能存储单元的这种划分可被称为阵列镜像切分。c.故障恢复模块故障恢复模块实时地重新配置智能分布式文件系统no,以恢复由于设备故障而不再有效的数据。在维护性能的同时，故障恢复模块可实现重新配置而不中断服务，并可在短的时间周期内将数据恢复到所需的冗余水平。如上面所讨论的，远程块管理器才莫块337检测故障并将这类故障的通知传送到故障恢复模块。对于最初的故障，故障恢复模块定位不能满足系统管理员设置的或智能分布式文件系统110设置的冗余参数的任何数据块。首先，能从奇偶校验信息中重新创建的数据被重新创建，并且请求被发送到预分配模块以分配用于新数据空间。预分配器监测CPU和网络利用率并开始积极地操作直到CPU和网络利用率达到预定标志为止。该预定标志可能是系统管理员设置的或依据如计算机处理器等因素预先设置的。一旦达到该标志，故障恢复模块可有利地在标志的时间以能达到的速率重新计算数据，以减少对智能存储单元性能的冲击。如果最近故障设备重新联机，故障恢复模块与被恢复设备的远程块管理器模块337通信以检验数据的完整性并修正任何不一致。智能分布式文件系统110也可支持热备用设备(hotstandbydevice)的进入。热备用设备是空闲的存储设备，其在当前不处理任何数据存储，但在设备故障时其将被投入使用。在这样的情况下，故障恢复模块可通过与热备用设备的远程块管理器模块337进行通信，从而利用热备用设备重建丢失的数据。2.块緩冲模块块緩冲模块333管理数据块、名称查找和元数据数据结构的緩冲。在一个实施例中，块緩冲模块333与BSD虛拟文件系统緩沖存储器联合工作或代替它工作。块緩沖模块333可使用最近最少使用緩沖算法来高速緩冲数据块和元数据数据块，^旦应该意识到还有多种緩沖算法可以使用，例如，频率緩沖。块緩沖模块333可依据哪个性能最好而确定使用哪种块緩冲算法。而在其他的实施例中，算法可能被设置为默认的。最近最少使用緩沖("LRU")是在大多数系统中使用的典型的緩沖方案。LRU依据这样的原理工作，即，一旦数据被访问，就很可能被再次访问。因而，数据按其最后使用的顺序而被存储，这样最长时间没有被访问的数据被丟弃。频率緩冲存储被最频繁访问的数据。因为磁盘写是相对地时间集中的操作，可通过在元数据数据结构中跟踪访问频率来获得附加性能并根据访问频率进行緩沖。另外，块緩冲模块333可利用特征为所请求的数据比所需要的数据更多的"点播(ondemand)，，协议或"预读(readahead)"协议。块緩冲模块333可发送对一组数据的请求并请求该组数据的一定数量的前置数据。例如，块緩沖才莫块333可执行预读，例如一个才艮文预读，二个才艮文预读、十个报文预读、二十报文预读等等。在其他的实施例中，块緩冲模块333可根据请求的等待时间来使用预读技术。例如，块緩冲模块333可执行K个报文预读，其中K是利用读速率和链路的等待时间计算出来的。块緩沖模块333也可利用其他根据CPU和网络利用率的算法来确定预读数据的大小。此外，块緩沖模块可使用设置緩沖协议(setcachingprotocol),或可改变緩冲协议以响应系统的性能水平。緩冲器340可用由通用多用户操作系统提供的默认大小来实现或更改默认大小以不同程度地增加緩沖块大小，但不能严重地沖击系统性能。这样的调整可通过不同的性能测试来决定，这些性能测试依赖例如被存储的数据的类型，处理速度、在智能分布式文件系统中的智能存储单元的数量和被使用的保护方案等因素。3.本地块管理器模块本地块管理器模块335管理本地存储在存储设备360上的数据块的分配、存储和检索。本地块管理器335可执行零拷贝文件读以将数据从磁盘移动到存储设备360的另外的部分(例如，网卡)，从而改善性能。本地块管理器335还可基于所使用的存储设备360来实现调整，以提高性能。在一个实施例中，本地块管理器模块335驻留在本地文件存储层并可与FreeBSD快速文件系统联合使用或替代它使用。4.远程块管理器模块远程块管理器才莫块337管理设备间通信，包括例如块请求、块应答和远程设备故障检测。在一个实施例中，远程块管理器模块337驻留在本地文件系统层。在一个实施例中，智能存储单元114可能通过远程块管理器337与智能分布式文件系统110中的其他的智能存储设备114连接和/或通信。远程块管理器模块337可使智能存储单元114能够经诸如TCP的连接而相互对话。在一个实施例中，每个智能存储单元之间至少有二个TCP连接，一个用于文件数据传输，一个用于控制报文传输。双通道TCP通信架构的优势在于，只要数据块以页大小的倍数形式发送，数据就可经DMA(直接存储器存取)传送直接从网络接口卡发送到系统内存，并经DMA传送从系统内存发送到系统的其他部分(可能又是网络接口卡)而无需将数据从系统内存的一个部分复制到其它部分。这是因为由于该信息是在控制通道传送的，因而其不包含非-数据报头或识别信息，从而无需使用CPU解析数据报文。在高性能服务器和操作系统中，这些从系统内存的一部分到另外部分的内存拷贝是对系统性能的严重限制。在一个实施例中，远程块管理器模块337使用报文通信进行通信，报文通信利用了例如数据块访问报文(如READ,READ—RESPONSE,WRITE，和WRITE-RESPONSE)、元数据访问报文(例如，GET—INODE,GET一INODERESPONSE,SET—ADDRESS,GETADDRESS，以及INVALIDATE—INODE)、目录报文(如，ADD—DIR和REMOVE_DIR)、状态报文、以及其他类型的各种报文。虽然以上讨论了双通道协议，但应该意识到也可使用其他的通信协议以在智能存储单元114之间进行通信。5.块设备模块块设备模块339托管(host)用于被文件系统使用的特定磁盘硬件的设备驱动程序。例如，如果物理存储设备是ATA磁盘，那么块设备模块339托管ATA磁盘驱动程序。C.緩沖器高速緩冲存储器或高速緩冲器340可由本领域中所周知的多种产品实现，例如，1G的RAM高速緩冲。图3所示的緩沖器340可以存储最近被访问的或在设定的时间量内将被访问的数据块。緩沖器340可由高速存储机构，如静态RAM设备、动态RAM设备、内部緩存、磁盘高速緩存，以及其它类型的多种设备来实现。通常，从緩冲器340访问数据比访问非易失性存储设备的时间要快。緩冲器340存储数据，这样如果智能存储单元114需要从存储设备360访问数据，可首先被检查緩冲器340，看数据是否已经被检索。因而，使用緩沖340可改善智能存储单元在检索数据块时的性能。D.网络堆栈在一个实施例中，智能存储单元310还包括网络堆栈350，其使用协议(例如TCP/IP)处理引入的和输出的报文通信量。然而，应该意识到，也可使用其他的协议或数据结构来实现堆栈350。E.存储设备存储设备360是可用于存储数据块的非易失性存储设备。存储设备360可使用本领域公知的多种产品实现，例如4个1.25GB的ATA100设备，SCSI设备，等等。另外，用于智能分布式文件系统110中的智能存储单元114的存储设备360的大小可以相同，或者也可不同于智能存储单元114的大小。F.系统信息在一个实施例中，智能存储单元114运行在能够使智能存储单元114与其他智能存储单元114通信的计算机上。该计算机可能是使用一个或多个微处理器的通用目的计算机，例如，奔腾处理器、奔腾II处理器、奔腾Pro处理器、奔腾IV处理器、xx86处理器，8051处理器，MIPS(每秒百万条指令)处理器，强力PC处理器、SPARC处理器、Alpha处理器等等。在一个实施例中，处理器单元运4亍源代J马开》文的FreeBSD操作系统并执行标准的搡作系统功能，如打开、读、写和关闭文件。应该意识到，也可以使用其他的操作系统，例如，微软公司的MicrosoftWindows3.X、MicrosoftWindows98、MicrosoftWindows2000、MicrosoftWindowsNT、MicrosoftWindowsCE、MicrosoftWindowsME、PALM公司的PalmPilotOS、苹果公司的AppleMacOS、磁盘操作系统(DOS)、UNIX、IRIX、Solaris、SunOS、FreeBSD、Linux⑧或IBM公司的IBMOS/2⑧操作系统。在一个实施例中，计算机装备有常规的网络连接，例如，以太网(IEEE802.3)、令牌环网(IEEE802.5)、光纤分布式数据连接接口(FDDI)、或异步传输模式(ATM)。进一步，计算机可被配置为支持多种网络协议，如基于UDP/TCP的NFSv2/v3、MicrosoftCIFS、HTTP(超文本连接协议)1.0、HTTP.1.1、DAFS、FTP(文件传送协议)等等。在一个实施例中，智能存储设备114包括单或双CPU2U可架式安装的配置、多个ATA100接口、以及支持超大(jumbo)的9K以太网帧的1000/100网络接口卡。然而，应该意识到，也可以4吏用不同的配置。VI.智能分布式文件系统数据结构图4示出了可与智能分布式文件系统一起使用的示例目录结构。在该例中，根目录(ROOTdirectory)被命名为"DFSR"并包括多个子目录IMPORTANT(重要文件目录)、TEMP(临时目录)和USER(用户目录)。子目录IMPORTANT包括子目录PASSWORD(口令目录)和CREDITCARD(信用卡目录)。文件USER.TXT和ADMIN.TXT存储在PASSWORD子目录内。因而，USER.TXT文件的地址是/DFSR/IMPORTANT/PASSWORDS/USER.TXT关于目录和文件的信息或元数据由智能分布式文件系统110存储和维护。A.元数据数据结构图5示出了用于存储元数据的示例数据结构510。该示例数据结构510存储了下列各项信息<table>tableseeoriginaldocumentpage26</column></row><table>应该意识到，示例数据结构510示出了用于存储元数据的数据结构510的一个实施例，可以根据本发明采用多种实现方式。例如，数据结构510可能包括不同的字段，这些字段可具有不同的类型，这些字段可被分组并单独存储等等。图6A、6B、6C和6D提供了用于数据位置表的一些类型(即分别为类型0、类型1、类型2和类型3)的示例数据位置表结构。在图6A中，类型0的数据位置表包括24个直接块条目，这意味着数据位置表中的条目包括指示数据块存储位置的设备/块数目对。在图6B中，类型1数据位置表包括15个直接块条目、三个单独的间接条目、三个二级间接条目和三个三级间接的条目。代表单独间接条目的条目指示出了直接条目的附加数据位置表所存储的位置。代表二级间接条目的条目指示出了包括单独间接条目的数据位置表所存储的位置。代表三级间接条目的条目指出了包括二级间接条目的数据位置表所存储的位置。因为任何块都可以跨越任意数量的设备而被镜像，所以元数据数据结构510是灵活的，足够代表具有多个位置的块，并仍可提供来自固定空间内的直接索引的快速访问。因而，类型可以有利地与元数据数据结构510联系在一起以指示出待要使用的数据位置表的类型。在元数据数据结构510的一个实施例中，可能有用于24个数据条目的空间(room)，例如，24个指针。数据文件小的时候可以使用类型0;数据位置地址被作为直接条目存储。因而，类型0元数据数据结构包括24个直接条目。类型l用于支持至多达两倍的较大的文件和镜像(文件的三个拷贝)。类型l使用15个直接条目，三个单级间接条目、三个二级间接条目和三个三级间接条目。类型2可被用于支持至多达7倍的镜像(8个文件拷贝)，并包括八个单级间接条目，八个二级间接条目和八个三级间接条目。类型3的数据位置表可以进一步将全部磁盘地址镜像为三级间接条目。结果，其可存储至多达24个完整的文件拷贝。应该意识到可以使用各种不同的数据位置表，而且图6A、6B、6C和6D仅示出了示例性的实施例。在其他的实施例中，例如，数据位置表可包括直接和间接条目的不同混合。进一步，在其他的实施例中，数据位置表可包括指示表中各个条目的条目类型的条目字段。这些类型可包括，例如上面讨论的(例如，直接的、单级间接的、二级间接的，三级间接的)以及其他的(例如，四级间接的等等)。另外，数据位置表可包括至多达X水平的更深嵌套的数据位置表，其中X是整数。271.目录元数据图7A示出了用于目录PASSWORD的一组示例元数据。在图7A中，数据结构存储了关于PASSWORD目录的信息。该目录被镜像两次(总共三个拷贝)。因为目录结构相对较小(例如，其适于在一个块中)，所以只使用了三个直接的指针，每个拷贝使用一个指针。该组示例元数据的示例包括数据位置表710,其包括直接条目720以及一组未用的块条目730，直接条目720用设备/块号对指出了数据块的位置。2.文件元数据图78示出了用于文件1^￡11/1乂丁的一组示例元数据。在图7B中，该数据结构存储了关于文件USER.TXT的信息。对用于USER.TXT文件数据的每个数据块都有一个拷贝，并且数据采用3+l奇偶校验方案保护。用于USER.TXT的内容数据的大小是45K，块的大小是8K，因而，有6个数据块，其中第6个数据块没有完全使用。数据位置表710示出了6个数据块中的每一个被存储的位置720,其中，数据块由设备号和块号引用，其中第一个条目与第一数据块相应。进一步，用于内容数据的奇偶校验信息的位置被存储在奇偶校验映射740中，其位置由数据结构的最后位置的"奇偶校验映射指针"指出。USER.TXT文件使用3+1奇偶校验方案存储，因而，对每三块数据块，存储一个奇偶校验数据块。因为在3+l奇偶校验方案中有六个块，因而有两个奇偶校验数据块(6除以3并舍入到最接近的整数)。奇偶校验映射示出了两个奇偶校验数据块的存储位置，其中奇偶校验数据块被设备号和块号引用，并且第一条目与第一奇偶校验数据块相应。B.数据位置表数据结构智能分布式文件系统110可为各种数据文件提供存储器并可提供如何存储这些数据文件的灵活性。数据文件的冗余和镜像在文件系统级别被完成，从而使智能分布式文件系统110能够支持不同文件的不同冗余参数。例如，一些目录可得到镜像、奇偶校验保护，或根本不受保护。图8A、8B和8C示出了示例的数据位置表，其可用于存储保护类型和级别不同的数据文件的数据位置信息。图8A、8B和8C示出了不同的数据位置表，应该意识到，也可以使用不同的格式和/或结构。图8A示出了示例数据位置表810,其指出了相应文件的每个数据块在哪里存储。虽然应该意识到，数据位置表810可能与一组元数据相应，但应注意，图中并未示出与文件(如图7B所示的文件)相应的元数据。示例的数据位置表810既包括直接条目也包括间接条目。直接条目包括设备ID/块对。设备ID指出数据被存储的智能存储单元，偏移或块地址则指出了数据在存储数据的设备上的位置。数据位置表上的一个示例条目可以为条目设备块17127它表明数据块1被存储在7号设备的块127上。示例数据位置表810还可包括指向另外的数据位置表的间接条目，以使数据位置表能够跟踪较大的数据组的数据位置。虽然间接条目的级别在理论上无限的，但为改善流量最好还是要限制该级别。例如，数据位置表可被限制为只允许至多二级间接条目或至多三级间接条目。示例数据位置表810示出了两个级别的间接条目。进一步，数据位置表的最后条目可被保留以用于存储奇偶校验映射的地址(如果有)。在其他的例子中，奇偶校验映射的地址可被存储在其他的位置，例如，作为元数据数据结构中的一个条目。如果一组数据不包括奇偶校验保护，则地址值可被设置为标准值，例如NULL(零)。图8B示出了用于被镜像在两个附加位置的数据的数据位置表。该数据位置表包括设备ID以及用于数据的每个拷贝的块或偏移地址。在该示例的数据位置表中，镜像位置被逐块(block-by-block)地选择。应该意识到，也可采用其它的方案，例如，选择一个或更多的智能存储单元来镜像特定的智能存储单元。尽管图8B所示的数据位置表只包括直接条目，但应该意识到间接条目也可^皮使用。在一个实施例中，用于文件的镜像信息可以被存储在文件的相应元数据结构中。信息可包括例如数据的拷贝数以及每个拷贝的数据位置表的位置。应该意识到，数据位置表可作为单一的数据结构^皮存储，并且/或者数据位置表的单独拷贝可被存储在不同的位置。虽然图8B所示的带有镜像数据的示例数据位置表不包括奇偶校验保护，但应该意识到该数据位置表也可包括奇偶校验信息。图8C示出了带有奇偶校验映射的数据位置表。在该示例的数据位置表中，数据用3+1奇偶校验方案保护，也就是说，为每三个数据块创建一组奇偶校验数据。可以使用本领域中用于创建数据的公知技术，例如，对数据一起逐比特地(bit-by-bit)、逐字节地(byte-by-byte)或逐块地(block-by-block)进行XOR以创建奇偶校验块。示例的数据位置表提供了与由21个数据块(块0到块20)组成的数据文件有关的信息。因为奇偶校验方案是3+l，所以要为每三个数据块的组创建奇偶校验块。表2示出了图8C所示的一些数据块和一些奇偶校验块之间的对应关系。数据块奇偶校验块0120设备5设备9设备7设备O块100块200块306块0013451设备5设备9设备7设备8块103块203块303块001表2该示例数据位置表包括奇偶校验映射或奇偶校验位置表。在示例的奇偶校验映射中，用于创建数据的一组块条目与奇偶校验映射之间存在着一对一的映射。在其他实施例中，奇偶校验映射还可包括大小可变的条目，在由于设备故障而导致数据的任何直接位置都无效的情况下，该大小可变的条目可以利用设备和块号来指明哪些块将被一起受到奇偶校验的XOR以再生数据。在其他的实施例中，奇偶校验产生方案是预先设置的，这才羊可以由智能分布式文件系统110确定出奇4禺4交-验数据的^立置和对应性而不必指明将被一起进行XOR以再生数据的数据块。在一个实施例中，奇偶校验映射由元数据数据结构指明，例如，在元数据数据结构的最后一项条目中被指明，而并不包含在元数据数据结构之中。因为该映射只在智能存储单元114出现故障的非正常情况下才需使用，所以其可被指明而不是直接包括在元数据结构中。奇偶校验映射也可使用大小可变的条目来表达奇偶校验重组块，以使智能存储单元114能够在单一时间(singletime)上橫移(traverse)奇偶校验映射，同时重建数据并在对橫移的奇偶校验映射进行解析。在一些情况下，与奇偶校验计算时间相比，检索和解析条目的计算和I/O时间是可以忽略的。虽然图8C所示出的带有奇偶校验位置信息的示例数据位置表810不包括镜像信息或间接条目，但应该意识到，这两者中的一个或两者均可与奇偶校验位置信息联合使用。进一步，应该意识到，也可使用其他的数据结构，而且上述数据位置表数据结构的用意只是为了示出本发明的一个实施例。C.示例数据图9示出了示例数据位置表910和奇偶校验映射920以及相应的存储该数据的设备。图9的例子示出了数据如何被存储在设备的不同位置上，被存储的数据"带区(stripes)，，跨过了每个设备的不同的偏移地址，并且奇偶校验数据可被存储在不同的设备上，即使对来自同一文件的数据也是一样。在其他的实施例中，数据可被存储在每个设备的同一偏移地址中。例如，用于第一带区的奇偶校验数据被存储在设备3的位置400上，并与存储在设备0的位置100上的数据块0、存储在设备1的位置200上的数据块l和存储在设备2的位置300上的数据块2相关。用于第二带区的奇偶校验数据被存储在设备2的位置600上，并与存储在设备0的位置300上数据块3、存储在设备4的位置800上的数据块4和存储在设备l的位置700数据块5相关。在一些实施例中，单个设备确定在哪里和/或怎样将该位置映射到磁盘上的实际位置。例如，如果设备0带有4个物理硬盘，每个硬盘带有100块的存储容量，那么设备0将允许从位置0到位置399的存储。下面是可被用于确定该位置如何映射到磁盘上的块的指南的一组示例磁盘号=(位置/每片磁盘的块数)的基数(floor)》兹盘上的块=位置MOD每片》兹盘的块数。注意，MOD是模数操作符，其取的是除运算的余数。应该理解，上述指南仅仅是可用于将位置映射到磁盘和磁盘块的指南的一个示例，也可以使用许多其他的指导方针或方案。例如，一个实施例可使用代表每个磁盘的块范围的链接列表并引导列表的横移。链接列表具有允许多种尺寸的磁盘的优势。由于数据存储和奇偶校验信息的灵活性，在新的智能存储单元被添加时，新的数据可移被存储在新的智能存储单元并且/或者现有的数据可被移动到新的智能存储单元(例如，通过在删除现有单元上的数据之前制造拷贝)而不破坏系统。另外，响应于高的请求量、》兹盘故障、冗余或奇偶校验参数中的变化等等，数据块或全部文件可被实时地移动或复制。VII.智能分布式文件系统的处理过程A.检索数据图IO示出了用于检索数据("检索数据过程")的流程图的一个实施例。可检索多种数椐类型，例如，目录元数据、文件元数据、内容数据等等。在起始状态开始，检索数据过程接收数据被存储的位置(块1010)。在一个实施例中，该位置可由智能存储单元ID以及偏移或块地址指明。在其他的实施例中，可使用存储设备ID，然而在其他的实施例中，也可使用表以将这些ID映射到其他ID之上，等等。接着，检索数据过程确定数据是否是本地存储的(块1020)。如果数据是本地存储的，则检索数据过程从本地存储器中检索数据(块1030)。在一个实施例中，检索数据过程可首先检查高速緩存，如果数据不在那里，则检查存储设备。在其他的实施例，检索数据过程可以只检查存储设备。如果数据不是存储在本地，那么检索数据过程将把对数据的请求发送到数据所存储的智能存储单元(块1040)。在一个实施例中，请求经图1所示的交换部件125发送。接收数据过程随后接收被请求的数据(块1050)。检索数据过程收集被请求的数据并返回该数据(块1060)。在一些实施例中，数据在全部数据被收集之后返回。在其他的实施例中，在数据在本地存储器中检索或从其他的智能存储单元接收时，返回数据组或数据的一部分。该部分可根据文件位置表按照顺序返回或在被检索或接收时返回。在数据被返回之后，检索数据过程进入结束状态。应该意识到，图IO示出了检索数据过程的一个实施例，也可使用其他的实施例。在另一个例子中，可以同时使用一个以上的检索数据过程，从而利用诸如并行处理、管道技术或异步I/O的技术或这些技术的组合以通过多个检索数据过程对数据进行并行检索。B.处理名称查找图11示出了用于名称查找过程("名称查找过程")的一个实施例。在开始状态开始之后，名称查找过程接收文件名(块lllO),检索根目录的元数据，将根元数据的位置设置为当前位置CURRENT(块1120)。在一个实施例中，根目录的数据可存储在数据结构中，例如图5所示的数据结构，但应该意识到，也可使用多种数据结构来存储根目录的元数据。此外，在一些实施例中，根目录的元数据可存储在各个智能存储单元114上，这样每个智能存储单元114都带有相同或相似的根目录元数据的拷贝。在其他的实施例中，根目录的元数据可被存储在智能分布式文件系统110中的其他位置上，或与文件请求一起被发送给智能存储单元114。应该意识到，可以使用公知的用于保证多个拷贝的完整性的技术，例如，经mutexes(多用户终端执行程序)和/或semaphores(信号装置)进行锁定，等等。名称查找过禾呈可以随后检索下一个令牌，该令牌为文件名称的一部分(块1130)。名称查找过程随后请求从存储用于当前位置(CURRENT)的数据的智能存储单元114获取该令牌的元数据的位置地址(块1140)。该请求可以是本地的或远程的。名称查找过程可以随后将返回的地址设置为当前地址(块1150)并确定是否有另外的令牌(块1160)，其中所述令牌表示目录分层结构中的一个单一的层次。如果有另外的令牌，名称查找过程将返回块1130。如果没有更多的令牌，则名称查找过程返回当前位置的(块1170)值或参考并进入结束状态。应该意识到，也可以使用名称查找过程的其它实施方式。例如，名称查找过程可以检索文件的元数据数据。另外，一旦找到了被请求数据的位置，名称查找过程可以确定数据是存储在本地或存储在其他的智能存储单元上。如果数据存储在本地，名称查找过程可以发送读请求到智能存储单元114的本地块管理器模块335;如果数据存储在另外的智能存储单元上，则名称查找过程可以发送读请求到远程智能存储单元的114的远程块管理器模块337。C.处理文件请求图12示出了用于处理文件请求("文件请求过程，，)的流程图的一个实施例。在开始状态开始后，文件请求过程接收检索文件的请求(块1210)。在一个实施例中，用文件的全路径名称，包括位置和文件名，来指定文件。在其他的实施例中，路径可以是相对路径和/或其他的数据结构，例如，可被用于存储关于文件的地址信息的表。下一步，文件请求过程执行名称查找过程，如图11所示出的(块1220)那样，以确定文件的元数据数据结构的位置。虽然可以使用其他的检索文件过程，但文件请求过程可以随后用如图IO所示的和上面讨论的检索文件过程来检索文件的元数据(块1230)。在一个实施例中，文件的元数据可包括数据位置表，其提供对整个智能分布式文件系统的位置的访问，文件中的每个数据块存储在这些位置中。然后，对(For)文件中的每个数据块(块1240,1270)，通过在文件的元数据中进行查找，文件请求过程获得数据块的位置(块125Q)，并用例如如图IO所示的和讨论上面的检索文件过程来检索数据块(块1260),也可4吏用其他的4企索文件过程。文件请求过程随后返回文件的数据(块1280)并进入结束状态。在一些实施例中，在全部数据被收集之后返回文件。在其他的实施例中，随着数据的检索而返回一个或更多的数据块。这些部分可依照文件位置表按顺序返回，或在检索或接收时净皮返回。在一个实施例中，文件请求过程可将数据块按顺序放置，并且/或者其他模块(例如流服务器)可对数据块进行排序。在数据被返回之后，检索数据过程进入结束状态。应该意识到，虽然图12示出了文件请求过程的一个实施例，-f旦也可4吏用其他的实施例。例如，文件请求过程可以^使用与图11所示的不同的名称查找过程来确定文件的位置。在另外的例子中，可以同时使用一个一个以上的检索数据过程来检索数据块，从而利用诸如并行处理、管道技术或异步I/O的技术或这些技术的组合以通过多个检索数据过程对数据进行并行检索。D.奇偶校验产生过程图13示出了用于生成奇偶校验信息("奇偶校验产生过程")的一个实施例的流程图。在开始状态开始之后，奇偶校验产生过程接收与一组数据相关的奇偶校验方案信息(块1310)。这组数据可代表文件数据、文件元数据、目录元数据、文件数据的子集，等等。奇偶校验产生过程接收与这组数据相关的数据位置信息(块1320)。下一步，对每组奇偶校验数据(块1330，1370)，奇偶校验产生过程检索一组数据(块1340)。例如，如果奇偶校验是3+1,奇偶校验产生过程使用如图IO所示的数据检索过程检索数据的前三块。下一步，奇偶校验产生过程生成用于该组数据的奇偶校验数据(块1350)，例如，执行基于逐位(bit-by-bit)、逐字节(byte-by-byte)或逐块(block-by-block)的XOR数据操作。奇偶校验产生过程可随后在緩冲器中存储数据并返回到块1330，直到用于该组数据的奇偶校验信息被生成为止。奇偶校验信息生成之后，奇偶校验产生过程确定在哪里存储奇偶校验数据(块1380)。奇偶校验产生过程可能使用轮转(rotating)奇偶校验方案，其中用于文件数据的每个连续带区的每个奇偶校验块被轮流地存储在下一个设备上。奇偶校验产生过程在与保留有用于当前带区的数据的任何设备不同的设备上分配奇偶校验块，以保证如果发生设备故障，奇偶校验信息不会与数据信息一样丟失。奇偶校验产生过程还可考虑其他的因素，例如存储容量、CPU利用率和网络利用率，以将一些设备排除在用于奇偶校验存储的考虑之外。奇偶校验产生过程随后在分配空间内存储緩冲的数据(块1390),将奇偶校验数据的位置记录在奇偶校验映射中(块1395),并返回到结束状态。应该意识到，虽然图13示出了奇偶校验产生过程的一个实施例，但也可使用其他的实施例。例如，奇偶校验产生可并行地检索数据块并且并行地生成奇偶校验信息，或使公知的管道技术或异步I/O技术。进一步，奇偶校验产生过程可存储奇偶校验信息和奇偶校验信息的位置而不必写到临时的緩沖器中，或者奇偶校验产生过程可返回奇偶校验数据或奇偶校验数据的指针。E.数据恢复过程图14示出了用于恢复丢失的或损坏的数据("数据恢复过程，，)的流程图的一个实施例。在开始状态开始之后，数据恢复过程接收关于所使用的奇偶校验方案的信息(块1410)。数据恢复过程随后接收关于故障或损坏的磁盘或数据信息(块1420)。下一步，数据恢复过程接收用于奇偶校验块组的地址信息，故障或损坏的数据被分配在这些组中(块1430)。数据恢复过程随后从可用的智能存储单元中检索出数据块(块1440)。数据可以利用如图IO所示的检索数据过程被检索。数据恢复过程进行纠错(块1450),例如，根据奇偶校验方案对块执行XOR,并将结果存储在緩冲器中(块1460)。緩冲器中的数据代表丟失的数据。数据恢复过程可以随后返回緩冲器中的数据(块1470)并进入结束状态。应该意识到，虽然图14示出了数据恢复过程的一个实施例，但也可使用其他的实施例。例如，数据恢复过程可返回恢复的数据而不存储它。VIII.结论虽然已经描述了本发明的特定实施例。但这些实施例只是一些示例而已，其意图并不是对本发明范围的限制。因此，本发明的宽度和范围应该根据权利要求及其等价物来定义。权利要求1.一种分布式文件系统，包括多个智能存储设备，被配置成在所述多个智能存储设备中的至少两个中存储用于至少一个文件的内容数据块，以及被配置成在所述多个智能存储设备中的至少两个中存储用于所述至少一个文件的元数据的拷贝，所述元数据包括存储在所述多个智能存储设备中的元数据数据块、内容数据块和奇偶校验数据块的位置，所述智能存储设备进一步包括远程块管理模块，被配置成管理所述多个智能存储设备中与其他智能存储设备的通信，其中，所述远程块管理模块利用报文通信系统进行通信；其中，所述分布式文件系统被配置为可存储和管理所述元数据。2.根据权利要求1所述的分布式文件系统，被进一步配置成可在所述分布式文件系统内提供不同级别的用于文件的复制和冗余，其中，用于特定文件的复制信息和冗余信息作为所述特定文件的相应元数据的一部分保存。3.根据权利要求2所述的分布式文件系统，其中，所述冗余信息包括奇偶校验信息。4.根据权利要求3所述的分布式文件系统，其中，所述奇偶校验信息包括奇偶校验数据块和奇偶校验数据块的位置。5.根据权利要求1所述的分布式文件系统，被进一步配置成可改变文件的冗余参数，从而所述文件的相应元数据被更新以反映所述冗余参数的改变。6.根据权利要求5所述的分布式文件系统，被进一步配置成可遍及多个智能存储设备的子集而实时地存储文件的拷贝，并可在文件的相应元数据中存储所述文件的拷贝的位置。7.根据权利要求1所述的分布式文件系统，被进一步配置成可实时据的位置。8.根据权利要求1所述的分布式文件系统，被进一步配置成可实时地复制数据，其中所述数据的相应元数据被更新以存储所述被复制的数据的位置。9.根据权利要求8所述的分布式文件系统，^皮进一步配置成可响应高容量的数据请求而复制数据。10.根据权利要求8所述的分布式文件系统，被进一步配置成可响应存储数据的硬件的高利用率而复制数据。11.根据权利要求8所述的分布式文件系统，被进一步配置成可处理比写请求更多的读请求。12.根据权利要求8所述的分布式文件系统，被进一步配置可处理块业务。13.—种在分布式文件系统内分布文件的方法，包括在多个智能存储设备中的至少两个中存储用于至少一个文件的内容数据块；在所述多个智能存储设备中的至少两个中存储用于所述至少一个文件的元数据的拷贝，所述元数据包括存储在所述多个智能存储设备中的元数据数据块、内容数据块和奇偶校验数据块的位置；以及利用远程块管理器来管理所述元数据的存储，所述远程块管理器被配置成管理所述多个智能存储设备中与其他存储设备的通信，其中，所述远程块管理器利用报文通信系统进行通信。14.根据权利要求13所述的方法，进一步包括存储用于特定文件的相应元数据的复制信息和冗余信息，其中，所述分布式文件系统支持所述分布式文件系统内的不同级别的用于文件的复制和冗余信息。15.根据权利要求14所述的方法，其中，所述冗余信息包括奇偶校验信息。16.根据权利要求15所述的方法，其中，所述奇偶校验信息包括奇偶校验数据块和奇偶校验数据块的位置。17.根据权利要求13所述的方法，进一步包括改变文件的冗余参数，从而所述文件的相应元数据被更新以反映所述冗余参数的改变。18.根据权利要求17所述的方法，进一步包括遍及多个智能存储设备的子集而实时地存储文件的tt贝，！H在文件的相应元数据中存储所述文件的拷贝的位置。19.根据权利要求13所述的方法，进一步包括实时地移动数据以及更新所述数据的相应元数据以存储所述被移动的数据的位置。20.根据权利要求13所述的方法，进一步包括实时地复制数据以及更新所述数据的相应元数据以存储所述被复制的数据的位置。21.根据权利要求20所述的方法，进一步包括响应于高容量的数据请求而复制数据。22.根据权利要求20所述的方法，进一步包括响应于存储数据的硬件的高利用率而复制数据。全文摘要智能分布式文件系统(110)能够将文件数据存储在可像单一文件系统一样得到访问的多个智能存储单元中。该智能分布式文件系统(110)利用元数据数据结构来跟踪和管理每个文件的详细信息，包括如文件数据块的块位置和设备，从而可以允许单一文件系统内有不同级别的复制和/或冗余，便于冗余参数的改变，提供高级别的元数据保护，以及实时地复制和移动数据等等。文档编号G06F12/00GK101515273SQ20081017355公开日2009年8月26日申请日期2002年8月2日优先权日2001年8月3日发明者保罗·A·米克塞尔,舒亚·M·帕特尔,达雷恩·P·沙克申请人:易斯龙系统公司