数据迁移方法及装置、边缘节点服务器的制造方法

文档序号:10627002阅读:289来源:国知局
数据迁移方法及装置、边缘节点服务器的制造方法
【专利摘要】数据迁移方法及装置、边缘节点服务器,所述方法包括:从预设的数据库中获取自身处于未完成状态的数据迁移任务并插入到数据迁移列表中;从数据迁移任务列表中获取处于未完成状态的数据迁移任务,并判断所述未完成状态的数据迁移任务对应的资源文件是否存在;当存在时,将对应的资源文件的修改时间修改为对应的资源文件在按照预设的第二缓存映射关系存储时的修改时间;当不存在时,通过第二负载均衡器按照预设第二缓存映射关系确定对应的资源文件所在的边缘节点服务器,从所确定的边缘节点服务器中抓取对应的资源文件并存储。上述的方案,可以在边缘集群扩容时提高数据迁移的效率,节省资源。
【专利说明】
数据迁移方法及装置、边缘节点服务器
技术领域
[0001]本发明涉及内容分发网络领域,特别是涉及一种数据迀移方法及装置、
[0002]边缘节服务器。
【背景技术】
[0003]内容分发网络(ContentDelivery Network,Q)N),通过在网络各处放置节点服务器,在现有的互联网基础之上构建一层智能虚拟网络,将网站的内容发布到最接近用户的网络“边缘”,使用户可以就近取得所需的内容,以缓解网络拥挤的状况,提高网站的响应速度。从技术上全面解决由于网络带宽小、用户访问量大、网点分布不均等原因,导致用户访问网站的响应速度慢的问题。
[0004]边缘集群是由多台边缘节点和负载均衡器组成的服务集群。其中,边缘节点负责存储数据和向客户端提供所缓存的数据,负载均衡器则按照预设的负载均衡算法实现边缘节点服务器的负载均衡。
[0005]随着边缘节点服务器中缓存的数据量的增加,访问量的增多,为了提高网站的响应速度,需要对边缘集群进行扩容,即在边缘集群中增加新的边缘节点服务器。但是,在对边缘集群进行扩容的过程中,原有的资源文件和边缘节点服务器之间的缓存映射关系发生变化,因此需要对缓存资源文件进行迀移。
[0006]但是,现有的数据迀移方法,在边缘集群扩容时,边缘节点服务器直接从上层存储器中抓取数据,不但增加了上层存储器的负载和带宽,而且数据迀移时间较长,存在着效率低下且资源浪费的问题。

【发明内容】

[0007]本发明实施例解决的问题是如何在边缘集群扩容时提高数据迀移的效率,节省资源。
[0008]为解决上述问题,本发明实施例提供了一种数据迀移方法,用于在边缘集群中增加边缘节点服务时对资源文件进行迀移,所述方法包括:从预设的数据库中获取自身处于未完成状态的数据迀移任务并插入到数据迀移列表中;其中,所述数据迀移任务包括对应的资源文件在按照预设的第一缓存映射关系存储时对应的URL的信息,所述第一缓存映射关系为所述边缘集群中增加边缘节点服务器后边缘节点服务器与所缓存的资源文件之间的缓存映射关系;从所述数据迀移任务列表中获取处于未完成状态的数据迀移任务,并判断所述未完成状态的数据迀移任务对应的资源文件是否存在;当确定对应的资源文件存在时,将所抓取的对应的资源文件的修改时间修改为对应的资源文件在按照预设的第二缓存映射关系存储时的修改时间;其中,所述第二缓存映射关系为所述边缘集群增加边缘节点服务器之前的边缘节点服务器与所缓存的所有资源文件的缓存映射关系;当确定对应的资源文件不存在时,通过第二负载均衡器按照预设第二缓存映射关系确定对应的资源文件所在的边缘节点服务器,从所确定的边缘节点服务器中抓取对应的资源文件并存储,并将所抓取的对应的资源文件的修改时间修改为对应的资源文件在按照所述第二缓存映射关系存储时的修改时间;其中,所述第二负载均衡器中存储有所述第二缓存映射关系。
[0009]可选地,所述从预设的数据库中获取自身处于未完成状态的数据迀移任务并插入到数据迀移列表中,包括:从所述数据库中获取处于未完成状态的数据迀移任务;基于所述未完成状态的数据迀移任务,确定对应的资源文件的信息;向第一负载均衡服务器发送所确定的资源文件的URL获取请求信息,以使得所述第一负载均衡器返回所确定的资源文件的URL的信息;其中,所述第一负载均衡器中存储有所述第一缓存映射关系;从所返回的URL中解析出对应的IP地址,并判断所解析出的IP地址与自身的IP地址是否一致;当自身的IP地址确定与所解析出的IP地址一致时,将所述未完成状态的数据迀移任务添加至所述数据迀移任务列表中。
[0010]可选地,所述方法还包括:将所述数据迀移任务列表中的数据迀移任务的状态修改为完成;向数据迀移服务器发送对应的状态更新请求,以使得所述数据迀移服务器将所述数据库中所述数据迀移任务的状态修改为完成。
[0011 ]可选地,在将所抓取的资源文件进行存储之前,所述方法还包括:对所抓取的资源文件进行验证并确定验证通过。
[0012]可选地,所述方法还包括:从所述数据库中获取自身处于完成状态的数据迀移任务,并作为数据删除任务插入到数据删除任务列表中;从所述数据删除任务列表中获取数据删除任务,并确定对应的资源文件的信息;通过第一负载均衡器确定对应的资源文件在按照所述第一缓存映射关系存储时所在的边缘节点服务器的信息;所述第一负载均衡器中存储有所述第一缓存映射关系;当确定自身为所确定的边缘节点服务器时,从所述数据删除任务列表中删除所述的数据删除任务;当确定自身不是所确定的边缘节点服务器时,将对应的资源文件删除;向数据迀移服务器发送状态更新请求,以使得所述数据迀移服务器将对应的完成状态的数据迀移任务的状态设置为删除成功。
[0013]可选地,所述从数据库中获取自身处于完成状态的数据迀移任务,并作为数据删除任务插入到数据删除任务列表中,包括:从所述数据库中获取处于完成状态的数据迀移任务,并确定与所获取的数据迀移任务对应的资源文件的信息;通过所述第二负载均衡器确定对应的资源文件在按照预设的第二缓存映射关系存储时所在的边缘节点服务器的信息;当确定自身为所确定的边缘节点服务器时,将所获取的数据迀移任务作为数据删除任务插入到所述数据删除任务列表中。
[0014]本发明实施例还提供了一种数据迀移装置,用于在边缘集群中增加边缘节点服务时对资源文件进行迀移,所述装置包括:第一获取单元,适于从预设的数据库中获取自身处于未完成状态的数据迀移任务并插入到数据迀移列表中;其中,所述数据迀移任务包括对应的资源文件在按照预设的第一缓存映射关系存储时对应的URL的信息,所述第一缓存映射关系为所述边缘集群中增加边缘节点服务器后边缘节点服务器与所缓存的资源文件之间的缓存映射关系;第一判断单元,适于从所述数据迀移任务列表中获取处于未完成状态的数据迀移任务,并判断所述未完成状态的数据迀移任务对应的资源文件是否存在;数据迀移单元,适于当确定对应的资源文件存在时,将所抓取对应的资源文件的修改时间修改为对应的资源文件在按照预设的第二缓存映射关系存储时的修改时间;其中,所述第二缓存映射关系为所述边缘集群增加边缘节点服务器之前的边缘节点服务器与所缓存的所有资源文件的缓存映射关系;当确定对应的资源文件不存在时,通过第二负载均衡器按照预设第二缓存映射关系确定对应的资源文件所在的边缘节点服务器,从所确定的边缘节点服务器中抓取对应的资源文件并存储,并将所抓取的对应的资源文件的修改时间修改为对应的资源文件在按照所述第二缓存映射关系存储时的修改时间;其中,所述第二负载均衡器中存储有所述第二缓存映射关系。
[0015]可选地,所述第一获取单元适于从所述数据库中获取处于未完成状态的数据迀移任务;基于所述未完成状态的数据迀移任务,确定对应的资源文件的信息;向第一负载均衡服务器发送所确定的资源文件的URL获取请求信息,以使得所述第一负载均衡器返回所确定的资源文件的URL的信息;其中,所述第一负载均衡器中存储有所述第一缓存映射关系;从所返回的URL中解析出对应的IP地址,并判断所解析出的IP地址与自身的IP地址是否一致;当自身的IP地址确定与所解析出的IP地址一致时,将所述未完成状态的数据迀移任务添加至所述数据迀移任务列表中。
[0016]可选地,所述装置还包括:状态更新单元,将所述数据迀移任务列表中的数据迀移任务的状态修改为完成;状态更新请求单元,适于向数据迀移服务器发送对应的状态更新请求,以使得所述数据迀移服务器将所述数据库中所述数据迀移任务的状态修改为完成。
[0017]可选地,所述数据迀移单元适于在对所抓取的资源文件进行验证,并确定验证通过时将所抓取的资源文件进行存储。
[0018]可选地,所述装置还包括:第二获取单元,适于从所述数据库中获取自身处于完成状态的数据迀移任务,并作为数据删除任务插入到数据删除任务列表中;第一确定单元,适于从所述数据删除任务列表中获取数据删除任务,并确定对应的资源文件的信息;第二确定单元,适于通过第一负载均衡器确定对应的资源文件在按照所述第一缓存映射关系存储时所在的边缘节点服务器的信息;所述第一负载均衡器中存储有所述第一缓存映射关系;数据删除单元,适于当确定自身为所确定的边缘节点服务器时,从所述数据删除任务列表中删除所述的数据删除任务;当确定自身不是所确定的边缘节点服务器时,将对应的资源文件删除;向所述向数据迀移服务器发送状态更新请求,以使得所述数据迀移服务器将对应的完成状态的数据迀移任务的状态设置为删除成功。
[0019]可选地,所述第二获取单元适于从所述数据库中获取处于完成状态的数据迀移任务,并确定与所获取的数据迀移任务对应的资源文件的信息;通过所述第二负载均衡器确定对应的资源文件在按照预设的第二缓存映射关系存储时所在的边缘节点服务器的信息;当确定自身为所确定的边缘节点服务器时,将所获取的数据迀移任务作为数据删除任务插入到所述数据删除任务列表中。
[0020]本发明实施例还提供了一种边缘节点服务器,包括上述的数据迀移装置。
[0021]与现有技术相比,本发明的技术方案具有以下的优点:
[0022]上述的方案,在边缘集群扩容过程中,为对应的资源文件建立相应的数据迀移任务,通过边缘节点服务器获取自身的数据迀移任务并执行所获取的数据迀移任务,从而实现按照扩容后的第一缓存映射关系将边缘集群中的资源文件缓存在对应的边缘节点服务器上,由于上述的过程仅需要对部分资源文件进行迀移,而不是从上层存储器中重新抓取对应的资源文件,可以节省数据迀移的时间,并可以减轻上层存储器的负载和带宽资源,因此,可以提高数据迀移的效率,并节省资源。
【附图说明】
[0023]图1是本发明实施例中的一种数据迀移方法的流程图;
[0024]图2是本发明实施例中的边缘集群的组成结构示意图;
[0025]图3是图2所示的边缘集群的数据访问请求处理方法的流程图;
[0026]图4是本发明实施例中的一种数据迀移任务的获取方法的流程图;
[0027]图5是本发明实施例中的一种数据迀移任务的处理方法的流程图;
[0028]图6是本发明实施例中的一种数据删除任务的获取方法的流程图;
[0029]图7是本发明实施例中的一种数据删除任务的处理方法的流程图;
[0030]图8是本发明实施例中的一种数据迀移装置的结构示意图。
【具体实施方式】
[0031]正如【背景技术】所言,现有的数据迀移方法,在边缘集群扩容时,边缘节点服务器直接从上层存储器中抓取数据,不但增加了上层存储器的负载和带宽,而且数据迀移时间较长,存在着效率低下且资源浪费的问题。
[0032]为解决现有技术中存在的上述问题,本发明实施例采用的技术方案通过预先将事件与对应执行的动作进行关联,以在满足相应的触发条件时,自动获取所述事件对应的动作组并执行,可以提高服务器运维的效率,提升用户的使用体验。
[0033]为使本发明的上述目的、特征和优点能够更为明显易懂,下面结合附图对本发明的具体实施例做详细的说明。
[0034]图1示出了本发明实施例中的一种数据迀移方法的流程图。请参见图1所示,在具体实施中,本发明实施例中的数据迀移方法可以包括如下的步骤:
[0035]步骤SlOl:从预设的数据库中获取自身处于未完成状态的数据迀移任务并插入到数据迀移列表中。
[0036]在具体实施中,所述数据迀移任务包括对应的资源文件在按照预设的第一缓存映射关系存储时对应的URL的信息,所述第一缓存映射关系为所述边缘集群中增加边缘节点服务器后边缘节点服务器与所缓存的资源文件之间的缓存映射关系。
[0037]步骤S102:从数据迀移任务列表中获取处于未完成状态的数据迀移任务,并判断所述未完成状态的数据迀移任务对应的资源文件是否存在。
[0038]在具体实施中,所述第二缓存映射关系为所述边缘集群增加边缘节点服务器之前的边缘节点服务器与边缘集群所缓存的所有资源文件的缓存映射关系。
[0039]步骤S103:当确定所述未完成状态的数据迀移任务对应的资源文件存在时,将对应的资源文件的修改时间修改为对应的资源文件在按照预设的第二缓存映射关系存储时的修改时间。
[0040]在具体实施中,当确定所述未完成状态的数据迀移任务对应的资源文件存在时,表明对应的资源文件在按照第一缓存映射关系存储时所在的边缘节点服务器与按照第二缓存映射关系存储时所在的边缘节点服务器均时本节点的边缘节点服务器,此时,该数条数据迀移任务对应的数据视为迀移成功,此时,可以所述对应的资源文件的修改时间修改为预设的修改时间即可。
[0041]步骤S104:当确定对应的资源文件不存在时,通过第二负载均衡器按照预设第二缓存映射关系确定对应的资源文件所在的边缘节点服务器,从所确定的边缘节点服务器中抓取对应的资源文件并存储,并将所抓取的对应的资源文件的修改时间修改为对应的资源文件在按照所述第二缓存映射关系存储时的修改时间。
[0042]在具体实施中,所述第二负载均衡器中存储有所述第二缓存映射关系,即在边缘集群扩容前由第二负载均衡器按照所述第二缓存映射关系对边缘集群扩容前的边缘节点服务器进行调度。
[0043]上述的方案,在边缘集群扩容过程中,为对应的资源文件建立相应的数据迀移任务,通过边缘节点服务器获取自身的数据迀移任务并执行所获取的数据迀移任务,从而实现按照扩容后的第一缓存映射关系将边缘集群中的资源文件缓存在对应的边缘节点服务器上,由于上述的过程仅需要对部分资源文件进行迀移,而不是从上层存储器中重新抓取对应的资源文件,可以节省数据迀移的时间,并可以减轻上层存储器的负载和带宽资源,因此,可以提高数据迀移的效率,并节省资源,提升用户的使用体验。
[0044]下面将结合图2至图7对本发明实施例中的一种数据访问请求的处理方法做进一步详细的介绍。
[0045]为了便于描述,下面将结合图2对本发明实施中的边缘集群做详细的介绍。
[0046]请参见图2所示,在具体实施中,本发明实施例中的边缘集群可以包括多个边缘节点服务器、第一负载均衡器102和第二负载均衡器103。
[0047]在具体实施中,第一负载均衡器102中存储有第一缓存映射关系,第二负载均衡器103中存储有第二缓存映射关系。其中,第一缓存映射关系为所述边缘集群增加边缘节点服务器即扩容之后所有的边缘节点服务器与缓存的所有资源文件之间的缓存映射关系,第二缓存映射关系为增加边缘节点服务器也即扩容之前边缘集群中的所有边缘节点服务器与所缓存的所有资源文件之间的缓存映射关系。
[0048]请继续参见图2,边缘集群在扩容前具有三台边缘节点服务器101a,扩容后新增加的边缘节点服务器为三台边缘节点服务器101b。其中,第一负载均衡器102安装边缘集群中的六台边缘节点服务器中的一台上,即从三台边缘节点服务器1la和三台边缘节点服务器1lb选取一台安装第一负载均衡器102。第一负载均衡器102按照所述第一缓存映射关系调度六台边缘节点服务器向客户端返回所请求的资源文件。第二负载均衡器103仅安装在扩容前的边缘节点服务器上,即三台边缘节点服务器1la中的一台中,其按照所述第二缓存映射关系调度三台边缘节点服务器1la向客户端返回所请求的资源文件。
[0049]同时,在边缘集群扩容前,边缘集群采用与第二负载均衡器相对应的第二端口对客户端C的资源文件访问请求进行监听,例如8080端口,对客户端发送的资源文件访问请求进行监听;在边缘集群扩容后,边缘集群中新增了第一负载均衡器102,且设置有第一负载均衡器102相对应的第一端口,如80端口,以对客户端发送的资源文件访问请求进行监听。
[0050]这里需要指出的是,在边缘集群扩容并完成数据迀移之前,即扩容后的所有边缘节点服务器按照所述第一缓存映射关系缓存所述边缘集群中对应的资源文件之前,当用户通过客户端请求对应的资源文件时,边缘集群中的部分资源文件可能已经按照所述第一缓存映射关系迀移至对应的边缘节点服务器上,而另一部分资源文件则可能仍然按照原有的第二缓存映射关系存储在扩容前的边缘节点服务器上。此时,当第一端口监听到客户端发送的资源文件访问请求时,第一负载均衡器将按照第一缓存映射关系调度扩容后的所有边缘节点服务器,可能会导致将客户端的访问请求调度到没有所请求的资源文件的边缘节点服务器上,导致无法向客户端返回所请求的资源文件,影响了用户的使用体验。
[0051]为解决上述的问题,为边缘集群中所有边缘节点服务器中设置有相应的数据访问请求处理装置,以实现将客户端的资源文件访问请求调度至所请求的资源文件所在的边缘节点服务器上,确保边缘集群中所缓存的资源的正常访问,提升用户的使用体验,具体请参见图3。
[0052]请参见图3所示,在具体实施中,本发明实施例中的数据访问请求方法可以包括如下的步骤:
[0053]步骤S301:通过第一端口监听客户端的资源文件访问请求。
[0054]在具体实施中,当用户通过客户端发送相应的资源文件时,可以首先由第一端口对客户端发送的资源文件访问请求进行监听。其中,在本发明一实施例中,所述第一端口为80端口。
[0055]步骤S302:通过预设的第一负载均衡器按照所述第一缓存映射关系确定所请求的资源文件所在的边缘节点服务器。
[0056]在具体实施中,当通过第一端口监听到客户端发送的资源文件访问请求时,将所接收到的客户端的资源文件访问请求发送至安装有第一负载均衡器的边缘节点服务器,以使得安装有第一负载均衡器的边缘节点服务器可以按照所述第一缓存映射关系返回所请求的资源文件对应的统一资源定位符(Uniform Resource LoclOlator,URL)的信息。数据访问请求处理装置在获取到第一负载均衡器返回的URL信息时,可以对所获取URL信息进行解析,以确定所请求的资源文件按照所述第一缓存映射关系存储时所在的边缘节点服务器,并将客户端的资源文件访问请求发送给按照所述第一缓存映射关系所确定的边缘节点服务器。
[0057]步骤S303:判断所请求的资源文件在按照所述第一缓存映射关系确定的边缘节点服务器器中是否存在;当判断结果为是时,执行步骤S304,反之,则可以执行步骤S305。
[0058]在具体实施中,按照第一缓存映射关系所确定的边缘节点服务器在接收到所请求的资源文件的URL信息时,可以将所接收到的URL与自身所缓存的所有资源文件的URL进行一一对比,以确定是否存在所请求的资源文件。
[0059]步骤S304:由按照所述第一缓存映射关系确定的边缘节点服务器向客户端返回所请求的资源文件。
[0060]在具体实施中,在确定按照第一缓存映射关系所确定的边缘节点服务器中存在所请求的资源文件时,由按照第一缓存映射关系所确定的边缘节点服务器直接向客户端返回所请求的资源文件。
[0061 ]步骤S305:向所述客户端返回预设的第二负载均衡器的地址信息,以使得所述客户端将所述资源文件访问请求通过预设的第二端口发送至所述第二负载均衡器。
[0062]在具体实施中,当所请求的资源文件在按照所述第一缓存映射关系所确定的边缘节点服务器中不存在时,表明所请求的资源文件尚未迀移至按照第一缓存映射关系存储时所在的边缘节点服务器上。此时,按照第一缓存映射关系确定的边缘节点服务器可以向客户端返回302,即将所述第二负载均衡器的URL的信息返回给客户端,以使得客户端将所述资源文件访问请求通过第二端口发送至所述第二负载均衡器。其中,在本发明一实施例中,所述第二端口为8080端口。
[0063]步骤S306:通过第二负载均衡器按照所述第二缓存映射关系确定所请求的资源文件所在的边缘节点服务器。
[0064]在具体实施中,当通过第二端口监听到客户端的资源文件访问请求时,数据访问请求处理装置将客户端的资源文件访问请求发送至安装有第二负载均衡器的边缘节点服务器,以使得第二负载均衡器可以按照所述第二缓存映射关系向数据请求处理装置返回所请求的资源文件对应的URL的信息。数据访问请求处理装置在获取到第二负载均衡器返回的URL信息时,可以对所获取URL信息进行解析,以确定所请求的资源文件在按照所述第二缓存映射关系存储时所在的边缘节点服务器的信息。
[0065]步骤S307:判断按照所述第二缓存映射关系所确定的边缘节点服务器中是否存在所请求的资源文件;当判断结果为是时,可以执行步骤S308;反之,则可以执行步骤S309。
[0066]在具体实施中,按照第二缓存映射关系所确定的边缘节点服务器在接收到所请求的资源文件的URL信息时,可以将所接收到的URL与按照第二缓存映射关系缓存在自身中的所有资源文件的URL进行对比,以确定按照第二缓存映射关系所确定的边缘节点服务器中是否存在所请求的资源文件。
[0067]步骤S308:由按照所述第二缓存映射关系所确定的边缘节点服务器向客户端返回所请求的资源文件。
[0068]在具体实施中,在确定按照第二缓存映射关系所确定的边缘节点服务器中存在所请求的资源文件时,由按照第二缓存映射关系所确定的边缘节点服务器直接向客户端端返回所请求的资源文件。
[0069]步骤S309:由按照所述第二缓存映射关系所确定的边缘节点服务器的上一层节点服务器向客户端返回所请求的资源文件。
[0070]在具体实施中,当所请求的资源文件在按照所述第二缓存映射关系所确定的边缘节点服务器中仍然不存在时,表明客户端所请求的资源文件在边缘集群中不存在。此时,按照第二缓存映射关系确定的边缘节点服务器可以向客户端返回相应的返回码302,即向客户端发送按照所述第二缓存映射关系所确定的边缘节点服务器的上一层节点服务器的URL的信息,以使得客户端将所述资源文件访问请求发送至所述上一层节点服务器即上层存储服务器中,由上层存储服务器确定所请求的资源文件所在的其他边缘集群,并由所确定的其他边缘集群向客户端返回所请求的资源文件,从而实现资源文件的成功访问。
[0071]通过上述的介绍可知,本发明实施例中的数据访问请求处理方法,可以在边缘集群扩容的过程中,将客户端的资源文件访问请求准确地调度至所请求的资源文件所在的边缘节点服务器上,从而可以为用户提供正常的数据访问服务,提升用户的使用体验。
[0072]图2所述的边缘集群在进行数据迀移时,边缘节点服务器可以采用现有的方法从上层存储服务器中直接抓取对应的资源文件进行存储。但是,从上层存储服务器中直接抓取数据,将存在以下三方面的问题:
[0073]其一,从上层存储器中直接抓取全部资源文件,这样将会耗费较多的存储资源,需要为上层存储服务器配备相应的带宽资源,存在着带宽资源的浪费的问题。
[0074]其二,从上层存储服务器中直接抓取对应的资源文件,也即是将原本已经全部抓取的资源文件再重新从上层存储器抓取,这将耗费较长的时间,因此,存在着数据迀移效率低下的问题。
[0075]其二,当边缘节点服务器在抓取对应的资源文件并存储时,需要将边缘集群的服务进行关闭并重启,以关闭第二负载均衡器,并使得重启后的边缘集群通过第一负载均衡器对客户端发送的资源文件访问请求调度。在上述的过程中,势必会造成服务的中断,使得在此期间客户端的资源文件访问请求将无法调度,影响了用户的使用体验。
[0076]为此,本发明实施例提供了一种数据迀移方法,进行数据迀移前,生成与边缘集群内的各个资源文件一一对应的数据迀移任务并存储在预设的数据库中。其中,各个资源文件对应的数据迀移任务包括所述资源文件按照预设的第一缓存映射关系存储时的URL的信息,以及对应的任务执行状态的信息。在进行数据迀移时,边缘集群中的各个边缘节点服务器直接从数据库中获取自身对应的数据迀移任务,并通过执行对应的数据迀移任务,抓取对应的资源文件,以实现边缘集群中的所有资源文件按照所述第一缓存映射关系进行存储,从而可以节约上层节点服务器的带宽,提高数据迀移效率,并提升用户的使用体验,具体请参见图4至图7。
[0077]为了便于描述,下面将如何获取数据迀移任务、如何执行所获取的数据迀移任务和多余数据的删除三个方面,对本发明实施例中的数据迀移方法做进一步详细的介绍。
[0078]图4示出了本发明实施例中的一种数据迀移任务的获取方法的流程图。请参见图4所示,在具体实施中,本发明实施例中的数据迀移任务的获取方法,可以包括如下的步骤:
[0079]步骤S401:从数据库中获取处于未完成状态的数据迀移任务。
[0080]在具体实施中,本节点的边缘节点服务器可以按照预设的时间周期向数据库发送任务查询请求,以获取数据库中处于未完成状态的数据迀移任务,并存储在自身的内存中。其中,所述预设的时间周期可以根据实际的需要进行设置,例如设置为3小时等,本发明在此不做限制。
[0081]步骤S402:向第一负载均衡器请求与所获取的数据迀移任务对应的资源文件的URL的信息。
[0082]在具体实施中,当获取到对应的数据迀移任务时,可以从对应的数据迀移任务中确定对应的资源文件的信息,并向第一负载均衡器发送获取所确定的资源文件的URL的GET请求,以向第一负载均衡器发送所确定的资源文件对应的URL请求。第一负载均衡器在接收到所述GET请求时,按照所存储的第一缓存映射关系计算得到所确定的对应文件在边缘集群扩容后对应的URL的信息。
[0083]步骤S403:从所请求的URL信息中解析出对应的IP地址的信息。
[0084]在具体实施中,边缘节点服务器在接收到第一负载均衡器返回的URL信息时,可以对所返回的URL信息进行解析,以确定对应的资源文件在按照所述第一缓存映射关系存储时所在的节点服务器的IP地址的信息。
[0085]步骤S404:判断所解析出的IP地址与自身的IP地址是否一致;当判断结果为是时,可以执行步骤S405;反之,则可以从步骤S401重新开始执行。
[0086]步骤S405:将所获取的数据迀移任务添加至自身的数据迀移任务列表中。
[0087]在具体实施中,本节点的边缘节点服务器可以将所解析出的IP地址与自身的IP地址进行比较,当确定二者一致时,说明对应的资源文件在按照第一缓存映射关系存储时所在的边缘节点服务器正是本节点,此时,本节点的边缘节点服务器可以将所述数据迀移任务添加至自身的数据迀移列表中,以通过执行数据迀移列表中的数据迀移任务,从边缘集群中扩容前的边缘节点服务器中抓取对应的资源文件。
[0088]反之,本节点的边缘节点服务器在确定所解析出的IP地址与自身的IP地址不一致时,说明对应的资源文件在按照第一缓存映射关系存储时所在的边缘节点服务器不是本节点。此时,边缘节点服务器可以将所述数据迀移任务删除。
[0089]在具体实施中,当通过图4所示的数据迀移任务获取方法得到本节点的数据迀移任务并添加至自身的数据迀移任务列表之后,可以通过执行所述数据迀移任务列表中的数据迀移任务,来抓取对应的资源文件进行存储,以实现对应的资源文件按照第一缓存映射关系的存储,具体请参见图5。
[0090]图5示出了本发明实施中的一种数据迀移任务处理方法的流程图。如图5所示,本发明实施例中的数据迀移任务的处理方法,可以包括如下的步骤:
[0091]步骤S501:从自身的数据迀移列表中获取处于未完成状态的数据迀移任务。
[0092]在具体实施中,本节点的边缘节点服务器可以不同的方式从数据迀移列表中获取对应的数据迀移任务进行处理。例如,本节点的边缘节点服务器可以采用单线程的方式,一次从数据迀移列表中获取一条处于未完成状态的数据迀移任务进行处理;或者,也可以采多线程的方式,一次同时获取多条处于未完成状态的数据迀移任务进行处理,以数据迀移的提尚效率。
[0093]步骤S502:判断所获取的数据迀移任务对应的资源文件在自身是否存在;当判断结果为是时,可以执行步骤S503和S504 ;反之,则可以执行步骤S505。
[0094]在具体实施中,本节点的边缘节点服务器可以根据所获取的处于未完成状态的数据迀移任务的信息,确定对应的资源文件的信息,即对应的资源文件的URL的信息,并将所确定对应的资源文件的URL与自身所存储的资源文件的URL进行比较,以确定所获取的数据迀移任务对应的资源文件在自身是否存在。
[0095]步骤S503:将对应的资源文件的修改时间修改为按照预设的第二缓存映射关系存储时的修改时间。
[0096]在具体实施中,本节点的边缘节点服务器在确定所获取的数据迀移任务对应的资源文件在自身存在时,说明数据在按照第一缓存映射关系存储时所在的边缘节点服务器与按照第二缓存映射关系存储时所在的边缘节点服务器均为本节点的边缘节点服务器。因此,将无需从其他边缘节点服务器中抓取该资源文件,该资源文件已经实现了按照预设的第一缓存映射关系进行存储,即视为数据迀移成功。此时,在确定所获取的数据迀移任务对应的资源文件在自身存在时,可以直接执行将该资源文件的修改时间修改为首次从上层服务器节点即父存储节点中抓取该资源文件的修改时间,即实现按照第二缓存映射关系存储时的修改时间即可。
[0097]步骤S504:将所述数据迀移任务从数据迀移列表中删除,向数据迀移服务器发送任务状态更新请求,以使得所述数据迀移服务器将数据库中对应的数据迀移任务更新为完成。
[0098]在具体实施中,在对应的资源文件视为迀移成功时,本节点的边缘节点服务器将所述数据迀移任务从数据迀移列表中删除,并向数据迀移服务器发送任务状态更新请求信息,以使得所述数据迀移服务器可以将数据库中存储的对应的数据迀移任务的任务状态设置为成功,以避免相同数据迀移任务的重复执行,并便于对数据库中的数据迀移任务的执行情况进行掌控。
[0099]步骤S505:通过第二负载均衡器确定对应的资源文件按照所述第二缓存映射关系存储时的URL的信息。
[0100]在具体实施中,本节点的边缘节点服务器在确定所获取的数据迀移任务对应的资源文件在自身不存在时,说明数据在按照第一缓存映射关系存储时所在的边缘节点服务器与按照第二缓存映射关系存储时所在的边缘节点服务器不同,因此,需要从按照预设的第二缓存映射关系存储时所在的边缘节点服务器中抓取该资源文件。
[0101]此时,本节点的边缘节点服务器可以向第二负载均衡器发送该资源文件在按照第二缓存映射关系存储时对应的URL的信息,以从第二负载均衡器返回的对应的URL信息中解析出对应的边缘节点服务器的IP地址的信息,也即确定该资源文件在按照所述第二缓存映射关系存储时所在的边缘节点服务器的IP地址的信息。
[0102]步骤S506:从所确定的URL对应的边缘节点服务器中抓取对应的资源文件。
[0103]在具体实施中,第二负载均衡器返回的对应的URL是以对应的IP地址开头,该IP地址即是该资源文件按照第二缓存映射关系存储时所在的边缘节点服务器的IP地址。因此,本节点的边缘节点服务器在接收到第二负载均衡器返回的对应的URL时,通过对所返回的URL进行解析,便可以得到该资源文件按照第二缓存映射关系存储时所在的边缘节点服务器的IP地址,并从该IP地址对应的边缘节点服务器中抓取该资源文件并存储。
[0104]步骤S507:对所抓取的资源文件进行验证,并判断验证是否通过存储所抓取的资源文件。
[0105]在具体实施中,当抓取到对应的资源文件时,为了确保所抓取的资源文件的可靠性时,本节点的边缘节点服务器可以首先对所抓取的资源文件进行验证,如执行MD5验证,并在验证通过时,将所抓取的资源文件进行存储,从而完成该资源文件的数据迀移,实现该资源文件按照第一缓存映射关系的存储。
[0106]当将所抓取的资源文件进行存储时,可以接着执行步骤S503和S504,以将该资源文件的修改时间修改为首次从上层服务器节点中抓取该资源文件的修改时间,并对将数据迀移任务列表中对应的数据迀移任务删除,同时通过数据迀移服务器将数据库中相应的数据迀移任务的状态更新为成功。
[0107]通过上述的介绍可知,通过边缘节点服务器从数据库中获取自身对应的数据迀移任务并执行,便可以实现将边缘集群中的所有资源文件从扩容前的边缘节点服务器向扩容后的边缘节点服务器的迀移。采用这种方式,一方面可以无需从上层存储节点中重新抓取资源文件,便可以实现资源文件的数据迀移,因此,可以节省上层存储节点的带宽;另一方面,由于仅需要进行部分资源文件的迀移,而无需从上层存储节点将本来已经在边缘集群中的所有资源文件重新再抓取一遍,因此,可以节省数据迀移的时间,提高数据迀移的效率。同时,在上述的数据迀移结束时,即实现边缘集群中的所有资源文件按照第一缓存映射关系存储时,无需对边缘集群进行重启,因而,可以为用户提供正常的数据访问需求,提升用户的使用体验。
[0108]在具体实施中,在进行数据迀移完成时,由于边缘集群扩容前的边缘节点服务器中仍然存储有部分重复的数据,该部分重复的数据为按照所述第二缓存映射关系存储在本节点的边缘节点服务器上,在按照第一缓存映射关系存储时该部分的资源文件存储在其他节点的边缘节点服务器。因此,为了节省资源,可以对该部分重复的数据进行删除,以节省存储资源,具体请参见图6和图7。
[0109]图6示出了本发明实施例中的一种数据删除任务的获取方法的流程图。请参见图6所示,在具体实施中,本发明实施例中的数据删除任务的获取方法可以包括如下的步骤:
[0110]步骤S601:从数据库中获取处于完成状态的数据迀移任务。
[0111]在具体实施中,边缘节点服务器可以按照预设的时间周期向数据库发送任务查询请求,以获取数据库中处于完成状态的数据迀移任务,并存储在自身的内存中。其中,所述预设的时间周期可以根据实际的需要进行设置,本发明在此不做限制。
[0112]步骤S602:向第二负载均衡器请求与所获取的数据迀移任务对应的资源文件的URL的信息。
[0113]在具体实施中,当获取到数据库中处于完成状态的数据迀移任务时,可以从对应的数据迀移任务中确定对应的资源文件的信息,并向第二负载均衡器发送URL的GET请求,以向第二负载均衡器请求所确定的对应的资源文件的URL的信息。第二负载均衡器在接收到所述GET请求时,按照所存储的第二缓存映射关系计算得到对应的URL的信息,并返回给本节点的边缘节点服务器。
[0114]步骤S603:从所请求的URL信息中解析出对应的IP地址的信息。
[0115]在具体实施中,本节点的边缘节点服务器在接收到第二负载均衡器返回的URL信息时,可以所返回的URL信息进行解析,以确定对应的资源文件在按照所述第二缓存映射关系存储时所在的节点服务器的IP地址的信息。
[0116]步骤S604:判断所解析出的IP地址与自身的IP地址是否一致;当判断结果为是时,可以执行步骤S605;反之,则可以从步骤S601重新开始执行。
[0117]步骤S605:将所获取的数据迀移任务插入到自身的数据删除任务列表中。
[0118]在具体实施中,本节点的边缘节点服务器可以将所解析出的IP地址与自身的IP地址进行比较;当确定二者一致时,说明对应的资源文件在按照第二缓存映射关系存储时所在的边缘节点服务器是本节点,该资源文件在按照第一缓存映射关系存储时所在的边缘节点服务器不是本节点,因而需要将该资源文件从本节点删除。此时,边缘节点服务器可以将该处于完成状态的数据迀移任务作为数据删除任务添加至自身的数据迀移列表中,以通过执行数据删除列表中的数据删除任务,删除多余的资源文件。
[0119]反之,本节点的边缘节点服务器在确定所解析出的IP地址与自身的IP地址不一致时,说明对应的资源文件在按照第二缓存映射关系存储时所在的边缘节点服务器不是本节点,因此,该处于完成状态的数据迀移任务存储在其他节点中,因此,无需执行数据删除,因此边缘节点服务器可以将该处于完成状态的数据迀移任务删除。
[0120]图7示出了本发明实施例中的一种数据删除方法的流程图。请参见图7所示,在具体实施中,本发明实施例中的数据删除方法可以包括如下的步骤:
[0121]步骤S701:从自身的数据删除列表中获取处于未完成状态的数据删除任务。
[0122]在具体实施中,本节点的边缘节点服务器可以不同的方式从自身的数据删除列表中获取对应的数据删除任务进行处理。例如,边缘节点服务器可以采用单线程的方式,一次从数据删除列表中获取一条数据删除任务进行处理,也可以采多线程的方式,一次同时获取多条数据删除任务进行处理,以数据删除的提高效率,进而提高数据迀移的效率。
[0123]步骤S702:向第一负载均衡器请求与所获取的数据删除任务对应的资源文件的URL的信息。
[0124]在具体实施中,本节点的边缘节点服务器在处理获取的数据删除任务时,可以根据所获取的数据删除任务的信息确定对应的资源文件的信息,并向第一负载均衡器请求对应的资源文件在按照第一缓存映射关系存储时对应的URL的信息。
[0125]步骤S703:从所请求的URL信息中解析出对应的IP地址的信息。
[0126]在具体实施中,第一负载均衡器返回的对应的URL是以对应的IP地址开头,该IP地址即是该资源文件按照第一缓存映射关系存储时所在的边缘节点服务器的IP地址。因此,本节点的边缘节点服务器在接收到第二负载均衡器返回的对应的URL时,通过对所返回的URL进行解析,便可以得到该资源文件按照第一缓存映射关系存储时所在的边缘节点服务器的IP地址,从而可以确定所解析得到该资源文件按照第一缓存映射关系存储时所在的边缘节点服务器的IP地址与本节点的边缘节点服务器的IP地址是否一致。
[0127]步骤S704:判断所解析出的IP地址与自身的IP地址是否一致;当判断结果为否时,可以执行步骤S705;反之,则可以直接执行步骤S706。
[0128]步骤S705:将对应的资源文件删除。
[0129]在具体实施中,在确定所解析出的该资源文件按照第一缓存映射关系存储时所在的边缘节点服务器的IP地址与本节点的边缘节点服务器的IP地址不一致时,则表明对应的资源文件在按照所述第一缓存映射关系存储时所在的边缘节点服务器为其他节点的边缘节点服务器,因此,本节点的边缘节点服务器可以将所存储的对应的资源文件从本节点中删除。
[0130]步骤S706:将所述数据删除任务从数据删除列表中删除,并向数据迀移服务器发送任务状态更新请求,以使得所述数据迀移服务器将数据库中对应的处于完成状态的数据迀移任务的状态更新为删除成功。
[0131 ]在具体实施中,在确定所解析出的该资源文件按照第一缓存映射关系存储时所在的边缘节点服务器的IP地址与本节点的边缘节点服务器的IP地址一致时,则表明对应的资源文件在按照所述第一缓存映射关系存储时所在的边缘节点服务器为本节点的边缘节点服务器,需要保留对应的文件。此时,即视为数据删除任务执行成功,可以将数据删除任务从数据删除列表中删除,,对应的数据删除任务执行完成。
[0132]在具体实施中,在确定所解析出的该资源文件按照第一缓存映射关系存储时所在的边缘节点服务器的IP地址与本节点的边缘节点服务器的IP地址不一致时,则表明对应的资源文件在按照所述第一缓存映射关系存储时所在的边缘节点服务器不是本节点的边缘节点服务器,此时,可以删除对应的资源文件,并可以在资源文件删除成功时,将数据删除任务从数据删除列表中删除,对应的数据删除任务执行完成。
[0133]同时,本节点的边缘节点服务在确定对应的数据删除任务执行完成时,可以将该数据删除任务从自身的数据删除列表中删除,并向数据迀移服务器发送任务状态更新请求,以使得所述数据迀移服务器将数据库中对应的处于完成状态的数据迀移任务的状态更新为删除成功,以避免相同数据迀移任务的重复执行,并便于对数据库中的数据迀移任务的执行情况进行掌控。
[0134]下面将对本发明实施例中的数据迀移方法对应的数据迀移装置做进一步详细的介绍。
[0135]图8示出了本发明实施例中的一种数据迀移装置的结构。请参见图8所示,在具体实施中,本发明实施例中的数据迀移装置800可以包括第一获取单元801、第一判断单元802和数据迀移单元803,其中:
[0136]第一获取单元801,适于从预设的数据库中获取自身处于未完成状态的数据迀移任务并插入到数据迀移列表中;其中,所述数据迀移任务包括对应的资源文件在按照预设的第一缓存映射关系存储时对应的URL的信息,所述第一缓存映射关系为所述边缘集群中增加边缘节点服务器后边缘节点服务器与所缓存的资源文件之间的缓存映射关系。
[0137]在具体实施中,所述第一获取单元801适于从所述数据库中获取处于未完成状态的数据迀移任务;基于所述未完成状态的数据迀移任务,确定对应的资源文件的信息;向第一负载均衡服务器发送所确定的资源文件的URL获取请求信息,以使得所述第一负载均衡器返回所确定的资源文件的URL的信息;其中,所述第一负载均衡器中存储有所述第一缓存映射关系;从所返回的URL中解析出对应的IP地址,并判断所解析出的IP地址与自身的IP地址是否一致;当自身的IP地址确定与所解析出的IP地址一致时,将所述未完成状态的数据迀移任务添加至数据迀移任务列表中。
[0138]第一判断单元802,适于从数据迀移任务列表中获取处于未完成状态的数据迀移任务,并判断所述未完成状态的数据迀移任务对应的资源文件是否存在;其中,所述第二缓存映射关系为所述边缘集群增加边缘节点服务器之前的边缘节点服务器与所缓存的所有资源文件的缓存映射关系。
[0139]数据迀移单元803,适于当确定对应的资源文件存在时,将对应的资源文件的修改时间修改为对应的资源文件在按照预设的第二缓存映射关系存储时的修改时间;当确定对应的资源文件不存在时,通过第二负载均衡器按照预设第二缓存映射关系确定对应的资源文件所在的边缘节点服务器,从所确定的边缘节点服务器中抓取对应的资源文件并存储,并将对应的资源文件的修改时间修改为对应的资源文件在按照所述第二缓存映射关系存储时的修改时间;其中,所述第二负载均衡器中存储有所述第二缓存映射关系。
[0140]在具体实施中,所述数据迀移单元803适于在对所抓取的资源文件进行验证,并确定验证通过时将抓取资源文件进行存储。
[0141]在具体实施中,本发明实施例中的数据迀移装置800还可以包括状态更新单元804和状态更新请求单元805,其中:
[0142]状态更新单元804,将所述数据迀移任务列表中的数据迀移任务的状态修改为完成。
[0143]状态更新请求单元805,适于向数据迀移服务器发送对应的状态更新请求,以使得所述数据迀移服务器将所述数据库中所述数据迀移任务的状态修改为完成。
[0144]在具体实施中,本发明实施例中的数据迀移装置800还可以包括第二获取单元806:
[0145]第二获取单元806,适于从数据库中获取自身处于完成状态的数据迀移任务,并作为数据删除任务插入到数据删除任务列表中。
[0146]在具体实施中,所述第二获取单元806适于从所述数据库中获取处于完成状态的数据迀移任务,并确定与所获取的数据迀移任务对应的资源文件的信息;通过所述第二负载均衡器确定对应的资源文件在按照预设的第二缓存映射关系存储时所在的边缘节点服务器的信息;当确定自身为所确定的边缘节点服务器时,将所获取的数据迀移任务作为数据删除任务插入到数据删除任务列表中。
[0147]第一确定单元807,适于从数据删除任务列表中获取数据删除任务,并确定对应的资源文件的信息。
[0148]第二确定单元808,适于通过所述第一负载均衡器确定对应的资源文件在按照所述第一缓存映射关系存储时所在的边缘节点服务器的信息。
[0149]数据删除单元809,适于当确定自身为所确定的边缘节点服务器时,从所述数据删除任务列表中删除所述的数据删除任务;当确定自身不是所确定的边缘节点服务器时,将对应的资源文件删除;向所述向数据迀移服务器发送状态更新请求,以使得数据迀移服务器将对应的完成状态的数据迀移任务的状态设置为删除成功。
[0150]本发明实施例还提供了一种边缘节点服务器,包括上述的数据迀移装置。
[0151]与现有技术相比,本发明的技术方案具有以下的优点:
[0152]上述的方案,在边缘集群扩容过程中,为对应的资源文件建立相应的数据迀移任务,通过边缘节点服务器获取自身的数据迀移任务并执行所获取的数据迀移任务,从而实现按照扩容后的第一缓存映射关系将边缘集群中的资源文件缓存在对应的边缘节点服务器上,由于上述的过程仅需要对部分资源文件进行迀移,而不是从上层存储器中重新抓取对应的资源文件,可以节省数据迀移的时间,并可以减轻上层存储器的负载和带宽资源,因此,可以提高数据迀移的效率,并节省资源。
[0153]本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成,该程序可以存储于计算机可读存储介质中,存储介质可以包括:R0M、R101AM、磁盘或光盘等。
[0154]以上对本发明实施例的方法及系统做了详细的介绍,本发明并不限于此。任何本领域技术人员,在不脱离本发明的精神和范围内,均可作各种更动与修改,因此本发明的保护范围应当以权利要求所限定的范围为准。
【主权项】
1.一种数据迀移方法,用于在边缘集群中增加边缘节点服务时对资源文件进行迀移,其特征在于,包括: 从预设的数据库中获取自身处于未完成状态的数据迀移任务并插入到数据迀移列表中;其中,所述数据迀移任务包括对应的资源文件在按照预设的第一缓存映射关系存储时对应的URL的信息,所述第一缓存映射关系为所述边缘集群中增加边缘节点服务器后边缘节点服务器与所缓存的资源文件之间的缓存映射关系; 从所述数据迀移任务列表中获取处于未完成状态的数据迀移任务,并判断所述未完成状态的数据迀移任务对应的资源文件是否存在; 当确定对应的资源文件存在时,将对应的资源文件的修改时间修改为对应的资源文件在按照预设的第二缓存映射关系存储时的修改时间;其中,所述第二缓存映射关系为所述边缘集群增加边缘节点服务器之前的边缘节点服务器与所缓存的所有资源文件的缓存映射关系; 当确定对应的资源文件不存在时,通过第二负载均衡器按照所述第二缓存映射关系确定对应的资源文件所在的边缘节点服务器,从所确定的边缘节点服务器中抓取对应的资源文件并存储,并将所抓取的对应的资源文件的修改时间修改为对应的资源文件在按照所述第二缓存映射关系存储时的修改时间;其中,所述第二负载均衡器中存储有所述第二缓存映射关系。2.根据权利要求1所述的数据迀移方法,其特征在于,所述从预设的数据库中获取自身处于未完成状态的数据迀移任务并插入到数据迀移列表中,包括: 从所述数据库中获取处于未完成状态的数据迀移任务; 基于所述未完成状态的数据迀移任务,确定对应的资源文件的信息; 向第一负载均衡服务器发送所确定的资源文件的URL获取请求信息,以使得所述第一负载均衡器返回所确定的资源文件的URL的信息;其中, 所述第一负载均衡器中存储有所述第一缓存映射关系; 从所返回的URL中解析出对应的IP地址,并判断所解析出的IP地址与自身的IP地址是否一致; 当自身的IP地址确定与所解析出的IP地址一致时,将所述未完成状态的数据迀移任务添加至所述数据迀移任务列表中。3.根据权利要求1所述的数据迀移方法,其特征在于,还包括: 将所述数据迀移任务列表中的数据迀移任务的状态修改为完成; 向数据迀移服务器发送对应的状态更新请求,以使得所述数据迀移服务器将所述数据库中所述数据迀移任务的状态修改为完成。4.根据权利要求1所述的数据迀移方法,其特征在于,在将所抓取的资源文件进行存储之前,还包括: 对所抓取的资源文件进行验证并确定验证通过。5.根据权利要求1所述的数据迀移方法,其特征在于,还包括: 从所述数据库中获取自身处于完成状态的数据迀移任务,并作为数据删除任务插入到数据删除任务列表中; 从所述数据删除任务列表中获取数据删除任务,并确定对应的资源文件的信息; 通过第一负载均衡器确定对应的资源文件在按照所述第一缓存映射关系存储时所在的边缘节点服务器的信息;所述第一负载均衡器中存储有所述第一缓存映射关系; 当确定自身为所确定的边缘节点服务器时,从所述数据删除任务列表中删除所述的数据删除任务;当确定自身不是所确定的边缘节点服务器时,将对应的资源文件删除; 向所述数据迀移服务器发送状态更新请求,以使得所述数据迀移服务器将对应的完成状态的数据迀移任务的状态设置为删除成功。6.根据权利要求5所述的数据迀移方法,其特征在于,所述从所述数据库中获取自身处于完成状态的数据迀移任务,并作为数据删除任务插入到数据删除任务列表中,包括: 从所述数据库中获取处于完成状态的数据迀移任务,并确定与所获取的数据迀移任务对应的资源文件的信息; 通过所述第二负载均衡器确定对应的资源文件在按照所述第二缓存映射关系存储时所在的边缘节点服务器的信息; 当确定自身为所确定的边缘节点服务器时,将所获取的数据迀移任务作为数据删除任务插入到所述数据删除任务列表中。7.—种数据迀移装置,用于在边缘集群中增加边缘节点服务时对资源文件进行迀移,其特征在于,包括: 第一获取单元,适于从预设的数据库中获取自身处于未完成状态的数据迀移任务并插入到数据迀移列表中;其中,所述数据迀移任务包括对应的资源文件在按照预设的第一缓存映射关系存储时对应的URL的信息,所述第一缓存映射关系为所述边缘集群中增加边缘节点服务器后边缘节点服务器与所缓存的资源文件之间的缓存映射关系; 第一判断单元,适于从所述数据迀移任务列表中获取处于未完成状态的数据迀移任务,并判断所述未完成状态的数据迀移任务对应的资源文件是否存在; 数据迀移单元,适于当确定对应的资源文件存在时,将对应的资源文件的修改时间修改为对应的资源文件在按照预设的第二缓存映射关系存储时的修改时间,其中,所述第二缓存映射关系为所述边缘集群增加边缘节点服务器之前的边缘节点服务器与所缓存的所有资源文件的缓存映射关系; 当确定对应的资源文件不存在时,通过第二负载均衡器按照预设第二缓存映射关系确定对应的资源文件所在的边缘节点服务器,从所确定的边缘节点服务器中抓取对应的资源文件并存储,并将所抓取的对应的资源文件的修改时间修改为对应的资源文件在按照所述第二缓存映射关系存储时的修改时间;其中,所述第二负载均衡器中存储有所述第二缓存映射关系。8.根据权利要求7所述的数据迀移装置,其特征在于,所述第一获取单元适于从所述数据库中获取处于未完成状态的数据迀移任务;基于所述未完成状态的数据迀移任务,确定对应的资源文件的信息;向第一负载均衡服务器发送所确定的资源文件的URL获取请求信息,以使得所述第一负载均衡器返回所确定的资源文件的URL的信息;其中,所述第一负载均衡器中存储有所述第一缓存映射关系;从所返回的URL中解析出对应的IP地址,并判断所解析出的IP地址与自身的IP地址是否一致;当自身的IP地址确定与所解析出的IP地址一致时,将所述未完成状态的数据迀移任务添加至所述数据迀移任务列表中。9.根据权利要求7所述的数据迀移装置,其特征在于,还包括: 状态更新单元,将所述数据迀移任务列表中的数据迀移任务的状态修改为完成; 状态更新请求单元,适于向数据迀移服务器发送对应的状态更新请求,以使得所述数据迀移服务器将所述数据库中所述数据迀移任务的状态修改为完成。10.根据权利要求7所述的数据迀移装置,其特征在于,所述数据迀移单元适于在对所抓取的资源文件进行验证,并确定验证通过时将所抓取的资源文件进行存储。11.根据权利要求7所述的数据迀移装置,其特征在于,还包括: 第二获取单元,适于从数据库中获取自身处于完成状态的数据迀移任务,并作为数据删除任务插入到数据删除任务列表中; 第一确定单元,适于从所述数据删除任务列表中获取数据删除任务,并确定对应的资源文件的信息; 第二确定单元,适于通过第一负载均衡器确定对应的资源文件在按照所述第一缓存映射关系存储时所在的边缘节点服务器的信息;所述第一负载均衡器中存储有所述第一缓存映射关系; 数据删除单元,适于当确定自身为所确定的边缘节点服务器时,从所述数据删除任务列表中删除所述的数据删除任务;当确定自身不是所确定的边缘节点服务器时,将对应的资源文件删除;向数据迀移服务器发送状态更新请求,以使得所述数据迀移服务器将对应的完成状态的数据迀移任务的状态设置为删除成功。12.根据权利要求11所述的数据迀移装置,其特征在于,所述第二获取单元适于从所述数据库中获取处于完成状态的数据迀移任务,并确定与所获取的数据迀移任务对应的资源文件的信息;通过所述第二负载均衡器确定对应的资源文件在按照预设的第二缓存映射关系存储时所在的边缘节点服务器的信息;当确定自身为所确定的边缘节点服务器时,将所获取的数据迀移任务作为数据删除任务插入到所述数据删除任务列表中。13.—种边缘节点服务器,其特征在于,包括权利要求7-12任一项所述的数据迀移装置。
【文档编号】H04L29/08GK105991769SQ201610224612
【公开日】2016年10月5日
【申请日】2016年4月12日
【发明人】葛明雷, 吴林峰, 康凯
【申请人】上海帝联信息科技股份有限公司
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1