云计算平台与数据仓库间任务的调度方法与装置的制作方法

文档序号:6422989阅读:149来源:国知局
专利名称:云计算平台与数据仓库间任务的调度方法与装置的制作方法
技术领域
本发明涉及通信领域中云计算与业务支撑技术,具体地,涉及云计算平台与数据仓库的数据调度方法及装置。
背景技术
随着用户数量的不断增长和业务量的不断增加,业务支撑系统中的经营分析系统的性能凸显不足,作为经营分析系统数据处理核心结构的数据仓库,其数据处理能力也面临着越来越大的压力。ETL是构建数据仓库的重要环节,ETL即数据抽取(Extract)、转换(Transform)、装载(Load)的过程。数据仓库是面向主题的、集成的、稳定的且随时间不断变化的数据集合,用以支持经营管理中的决策制定过程。在数据仓库的构建中,ETL贯穿于项目始终,它 是整个数据仓库的生命线,包括了数据清洗、整合、转换、加载等各个过程。在现有技术中,数据仓库的数据处理过程与云计算平台的数据处理过程是作为两套不同的数据处理模式而独立工作的。现有的数据仓库数据ETL处理流程如下I)将数据文件放置在ETL加载服务器;2)通过ETL加载服务器将数据文件装载至数据仓库;3)在数据仓库内进行数据的处理(清洗、转换、汇总、关联等)。现有的云计算平台数据ETL处理流程如下I)将数据文件放置在云计算平台;2)利用云计算平台对数据文件进行处理(清洗、转换、汇总、关联等);3)将处理完成的数据以文本方式导出。

发明内容
本发明的目的是针对现有技术中经营分析系统中数据仓库的数据处理能力不足的缺陷,提出一种云计算平台与数据仓库间任务的方法及装置。为实现上述目的,根据本发明的一个方面,提供了一种云计算平台与数据仓库间任务的调度方法。根据本发明实施例的云计算平台与数据仓库间任务的调度方法,包括I)根据云计算平台与数据仓库之间的任务触发关系,在数据仓库内建立虚拟触发任务;2)根据获取的云计算平台任务的运行状态信息,更新虚拟触发任务的状态;3)根据虚拟触发任务更新后的状态,触发数据仓库内与该虚拟触发任务具有触发关系的任务运行。在上述技术方案中,方法还可以包括4)根据云计算平台与数据仓库之间的任务依赖关系,在数据仓库内建立虚拟依赖任务;5)根据获取的云计算平台任务的运行状态信息,更新虚拟依赖任务的状态;6)根据虚拟依赖任务更新后的状态,运行数据仓库内与该虚拟依赖任务具有依赖关系的任务。在上述技术方案中,在所述步骤I)之前还可以包括7)对云计算平台与数据仓库之间的任务触发关系进行配置,获取触发配置文件。在上述技术方案中,在所述步骤4)之前还可以包括8)对云计算平台与数据仓库之间的任务依赖关系进行配置,获取依赖配置文件。在上述技术方案中,步骤I)具体可以包括
11)对触发配置文件进行扫描处理;12)读取触发配置文件中云计算平台与数据仓库之间的任务触发关系;13)根据触发配置文件中云计算平台与数据仓库之间的任务触发关系,在数据仓库内建立虚拟触发任务。在上述技术方案中,步骤I)进一步可以包括步骤14)实时扫描所述触发配置文件,使用户对触发配置文件的修改进行响应。在上述技术方案中,步骤4)具体可以包括41)对依赖配置文件进行扫描处理;42)读取依赖配置文件中云计算平台与数据仓库之间的任务依赖关系;43)根据依赖配置文件中云计算平台与数据仓库之间的任务依赖关系,在数据仓库内建立虚拟依赖任务。在上述技术方案中,步骤4)进一步可以包括步骤44)实时扫描所述依赖配置文件,使用户对依赖配置文件的修改进行响应。为实现上述目的,根据本发明的一个方面,提供了一种云计算平台与数据仓库间任务的调度方法。根据本发明实施例的云计算平台与数据仓库间任务的调度方法,包括I)根据云计算平台与数据仓库之间的任务触发关系,在云计算平台内建立虚拟触发任务;2)根据获取的数据仓库任务的运行状态信息,更新虚拟触发任务的状态;3)根据虚拟触发任务更新后的状态,触发云计算平台内与该虚拟触发任务具有触发关系的任务运行。在上述技术方案中,方法还可以包括4)根据云计算平台与数据仓库之间的任务依赖关系,在云计算平台内建立虚拟依赖任务;5)根据获取的数据仓库任务的运行状态信息,更新虚拟依赖任务的状态;6)根据虚拟依赖任务更新后的状态,运行云计算平台内与该虚拟依赖任务具有依赖关系的任务。在上述技术方案中,在所述步骤I)之前还可以包括7)对云计算平台与数据仓库之间的任务触发关系进行配置,获取触发配置文件。在上述技术方案中,在步骤4)之前还可以包括
8)对云计算平台与数据仓库之间的任务依赖关系进行配置,获取依赖配置文件。在上述技术方案中,所述步骤I)具体可以包括11)对触发配置文件进行扫描处理;12)读取触发配置文件中云计算平台与数据仓库之间的任务触发关系;13)根据触发配置文件中云计算平台与数据仓库之间的任务触发关系,在云计算平台内建立虚拟触发任务。在上述技术方案中,步骤I)进一步可以包括步骤14)实时扫描所述触发配置文件,使用户对触发配置文件的修改进行响应。
在上述技术方案中,所述步骤4)具体可以包括41)对依赖配置文件进行扫描处理;42)读取依赖配置文件中云计算平台与数据仓库之间的任务依赖关系;43)根据依赖配置文件中云计算平台与数据仓库之间的任务依赖关系,在云计算平台内建立虚拟依赖任务。在上述技术方案中,步骤4)进一步可以包括步骤44)实时扫描所述依赖配置文件,使用户对依赖配置文件的修改进行响应。为实现上述目的,根据本发明的另一个方面,提供了一种云计算平台与数据仓库间任务的调度装置。根据本发明实施例的云计算平台与数据仓库间任务的调度装置,包括虚拟任务模块,用于根据云计算平台与数据仓库之间的任务触发关系,在数据仓库内建立虚拟触发任务;状态更新模块,用于根据获取的云计算平台任务的运行状态信息,更新虚拟触发任务的状态;任务运行模块,用于根据虚拟触发任务更新后的状态,触发数据仓库内与该虚拟触发任务具有触发关系的任务运行。在上述技术方案中,虚拟任务模块,还可以用于根据云计算平台与数据仓库之间的任务依赖关系,在数据仓库内建立虚拟依赖任务;状态更新模块,还可以用于根据获取的云计算平台任务的运行状态信息,更新虚拟依赖任务的状态;任务运行模块,还可以用于根据虚拟依赖任务更新后的状态,运行数据仓库内与该虚拟依赖任务具有依赖关系的任务。在上述技术方案中,装置还可以包括配置模块,用于对云计算平台与数据仓库之间的任务触发关系进行配置,获取触发配置文件。在上述技术方案中,配置模块,还可以用于对云计算平台与数据仓库之间的任务依赖关系进行配置,获取依赖配置文件。在上述技术方案中,虚拟任务模块具体可以包括触发扫描子模块,用于对触发配置文件进行扫描处理;触发读取子模块,用于读取触发配置文件中云计算平台与数据仓库之间的任务触发关系;虚拟触发子模块,用于根据触发配置文件中云计算平台与数据仓库之间的任务触发关系,在数据仓库内建立虚拟触发任务。在上述技术方案中,所述虚拟任务模块进一步可以包括触发响应子模块,用于实时扫描所述触发配置文件,使用户对触发配置文件的修改进行响应。在上述技术方案中,虚拟任务模块具体可以包括依赖扫描子模块,用于对依赖配置文件进行扫描处理;依赖读取子模块,用于读取依赖配置文件中云计算平台与数据仓库之间的任务依赖关系;虚拟依赖子模块,用于根据依赖配置文件中云计算平台与数据仓库之间的任务依赖关系,在数据仓库内建立虚拟依赖任务。 在上述技术方案中,虚拟任务模块进一步可以包括依赖响应子模块,用于实时扫描依赖配置文件,使用户对依赖配置文件的修改进行响应。为实现上述目的,根据本发明的另一个方面,提供了一种云计算平台与数据仓库间任务的调度装置。根据本发明实施例的云计算平台与数据仓库间任务的调度装置,包括虚拟任务模块,用于根据云计算平台与数据仓库之间的任务触发关系,在云计算平台内建立虚拟触发任务;状态更新模块,用于根据获取的数据仓库任务的运行状态信息,更新虚拟触发任务的状态;任务运行模块,用于根据虚拟触发任务更新后的状态,触发云计算平台内与该虚拟触发任务具有触发关系的任务运行。在上述技术方案中,虚拟任务模块,还可以用于根据云计算平台与数据仓库之间的任务依赖关系,在云计算平台内建立虚拟依赖任务;状态更新模块,还可以用于根据获取的数据仓库任务的运行状态信息,更新虚拟依赖任务的状态;任务运行模块,还可以用于根据虚拟依赖任务更新后的状态,运行云计算平台内与该虚拟依赖任务具有依赖关系的任务。在上述技术方案中,装置还可以包括配置模块,用于对云计算平台与数据仓库之间的任务触发关系进行配置,获取触发配置文件。在上述技术方案中,配置模块,还可以用于对所述云计算平台与数据仓库之间的任务依赖关系进行配置,获取依赖配置文件。在上述技术方案中,虚拟任务模块具体可以包括触发扫描子模块,用于对触发配置文件进行扫描处理;触发读取子模块,用于读取触发配置文件中云计算平台与数据仓库之间的任务触发关系;虚拟触发子模块,用于根据触发配置文件中云计算平台与数据仓库之间的任务触发关系,在云计算平台内建立虚拟触发任务。在上述技术方案中,虚拟任务模块进一步可以包括
触发响应子模块,用于实时扫描所述触发配置文件,使用户对触发配置文件的修改进行响应。在上述技术方案中,虚拟任务模块具体可以包括依赖扫描子模块,用于对依赖配置文件进行扫描处理;
依赖读取子模块,用于读取依赖配置文件中云计算平台与数据仓库之间的任务依赖关系;虚拟依赖子模块,用于根据依赖配置文件中云计算平台与数据仓库之间的任务依赖关系,在z 计算平台内建立虚拟依赖任务。在上述技术方案中,虚拟任务模块进一步可以包括依赖响应子模块,用于实时扫描所述依赖配置文件,使用户对依赖配置文件的修改进行响应。本发明各实施例的云计算平台与数据仓库间任务的调度方法和装置,涉及到云计算平台与数据仓库之间双向的任务触发调度,首先在数据仓库和/或云计算平台内建立虚拟触发任务,根据云计算平台和/或数据仓库任务的运行状态,更新对应的虚拟触发任务的状态,最后根据所述虚拟触发任务更新后的状态,触发数据仓库和/或云计算平台的与所述虚拟触发任务具有触发关系的任务运行,从而实现了云计算平台与数据仓库之间任务的双向调度,有利于两者选择合适的数据处理模式处理数据,增强了云计算平台与数据仓库任务的处理能力,提高了数据的处理效率。本发明的其它特征和优点将在随后的说明书中阐述,并且,部分地从说明书中变得显而易见,或者通过实施本发明而了解。本发明的目的和其他优点可通过在所写的说明书、权利要求书、以及附图中所特别指出的结构来实现和获得。下面通过附图和实施例,对本发明的技术方案做进一步的详细描述。


附图用来提供对本发明的进一步理解,并且构成说明书的一部分,与本发明的实施例一起用于解释本发明,并不构成对本发明的限制。在附图中图I为根据本发明实施例一云计算平台与数据仓库间任务调度方法的第一流程图;图2为根据本发明实施例一云计算平台与数据仓库间任务调度方法的第二流程图;图3为根据本发明实施例二云计算平台与数据仓库间任务调度方法的第一流程图;图4为根据本发明实施例二云计算平台与数据仓库间任务调度方法的第二流程图;图5为根据本发明实施例三云计算平台与数据仓库间任务调度方法的第一流程图;图6为根据本发明实施例三云计算平台与数据仓库间任务调度方法的第二流程图;图7为根据本发明实施例一云计算平台与数据仓库间任务调度装置的示意图8为根据本发明实施例二云计算平台与数据仓库间任务调度装置的示意图;图9为根据本发明实施例三云计算平台与数据仓库间任务调度装置的示意图;图10为根据本发明实施例四云计算平台与数据仓库间任务调度装置的示意图;图11为根据本发明实施例五云计算平台与数据仓库间任务调度装置的示意图;图12为图11实施例的任务触发调度的工作流程图;图13为图11实施例的任务依赖调度的工作流程图;图14为根据本发明实施例六云计算平台与数据仓库间任务调度装置的示意图;图15为图14实施例的任务触发调度的工作流程图;
图16为图14实施例的任务依赖调度的工作流程图。
具体实施例方式以下结合附图对本发明的优选实施例进行说明,应当理解,此处所描述的优选实施例仅用于说明和解释本发明,并不用于限定本发明。本发明的云计算平台与数据仓库间任务的调度方法与装置,主要涉及经营分析系统中的数据仓库与云计算平台之间任务的交互调度运行。在数据仓库与云计算平台中,各任务的运行包括触发关系和依赖关系,具体为I)、触发关系一个任务的运行,必须有另外一个任务进行触发,例如,A任务运行完成后触发B任务;2)、依赖关系如上例,A任务触发B任务后,B任务不一定立即开始运行,而是处于等待状态;因为B任务可能还依赖C/D/E三个任务,如果C/D/E的状态满足后,才结束等待状态,开始运行。本发明的云计算平台与数据仓库间任务的调度方法与装置,其数据仓库与云计算平台的触发关系与依赖关系都是双向I)云计算平台的任务既可以依赖数据仓库的任务,也可以触发数据仓库的任务;2)数据仓库的任务既可以依赖云计算平台的任务,也可以触发云计算平台的任务。方法实施例根据本发明实施例,提供了一种云计算平台与数据仓库间任务的调度方法,图I为根据本发明实施例一云计算平台与数据仓库间任务调度方法的第一流程图,图2为根据本发明实施例一云计算平台与数据仓库间任务调度方法的第二流程图,其中,图I为云计算平台任务触发数据仓库任务的情形,图2为数据仓库任务触发云计算平台任务的情形。需要说明的是,图I与图2说明了任务调度方法的两种流程情形,两种流程可以同步运行,可以异步运行,也可以交叉运行,两种流程还可以仅运行一种流程。如图1、2所示,本实施例包括步骤S102 :根据云计算平台与数据仓库之间的任务触发关系,在数据仓库内建立虚拟触发任务;相应地,步骤S202:根据云计算平台与数据仓库之间的任务触发关系,在云计算平台内建立虚拟触发任务;步骤S104 :根据获取的云计算平台任务的运行状态信息,更新虚拟触发任务的状态;相应地,步骤S204 :根据获取的数据仓库任务的运行状态信息,更新虚拟触发任务的状态;步骤S106 :根据虚拟触发任务更新后的状态,触发数据仓库内与该虚拟触发任务具有触发关系的任务运行;相应地,步骤S206:根据虚拟触发任务更新后的状态,触发云计算平台内与该虚拟触发任务具有触发关系的任务运行。本实施例的云计算平台与数据仓库间任务的调度方法,涉及到云计算平台与数据仓库之间双向的任务触发调度,首先在数据仓库和/或云计算平台内建立虚拟触发任务,根据云计算平台和/或数据仓库任务的运行状态,更新对应的虚拟触发任务的状态,最后根据所述虚拟触发任务更新后的状态,触发数据仓库和/或云计算平台的与所述虚拟触发任务具有触发关系的任务运行,从而实现了云计算平台与数据仓库之间任务的双向调度, 有利于两者选择合适的数据处理模式处理数据,增强了云计算平台与数据仓库任务的处理能力,提高了数据的处理效率。需要说明的是,无论是在数据仓库还是在云计算平台中,任务A必须在得到任务B(仅一个)的触发后才能运行,在得到任务B的触发后,如果任务A有依赖任务(可以为多个),任务A将扫描该依赖任务,在该依赖任务的状态也满足后,任务A将开始运行,如果任务A无依赖任务,任务A在得到任务B的触发后立即开始运行;换句话说,数据仓库与云计算平台的任务运行,必须要得到另外任务的触发,在有依赖任务时,还需同时满足该依赖任务的状态,具体参见方法实施例二。根据本发明实施例,提供了一种云计算平台与数据仓库间任务的调度方法,图3为根据本发明实施例二云计算平台与数据仓库间任务调度方法的第一流程图,图4为根据本发明实施例二云计算平台与数据仓库间任务调度方法的第二流程图,其中,图3为云计算平台任务触发数据仓库任务、云计算平台任务依赖数据仓库任务的情形,图4为数据仓库任务触发云计算平台任务、数据仓库任务依赖云计算平台任务的情形。需要说明的是,图3与图4说明了任务调度方法的两种流程情形,两种流程可以同步运行,可以异步运行,也可以交叉运行,两种流程还可以仅运行一种流程。如图3、4所示,本实施例包括步骤S302 :根据云计算平台与数据仓库之间的任务触发关系,在数据仓库内建立虚拟触发任务;相应地,步骤S402:根据云计算平台与数据仓库之间的任务触发关系,在云计算平台内建立虚拟触发任务;步骤S304 :根据云计算平台与数据仓库之间的任务依赖关系,在数据仓库内建立虚拟依赖任务;相应地,步骤S404:根据云计算平台与数据仓库之间的任务依赖关系,在云计算平台内建立虚拟依赖任务;步骤S306 :根据获取的云计算平台任务的运行状态信息,更新虚拟触发任务的状态;相应地,步骤S406:根据获取的数据仓库任务的运行状态信息,更新虚拟触发任务的状态;步骤S308 :根据获取的云计算平台任务的运行状态信息,更新虚拟依赖任务的状态;相应地,步骤S408:根据获取的数据仓库任务的运行状态信息,更新虚拟依赖任务的状态;步骤S310 :根据虚拟触发任务更新后的状态,触发数据仓库内与该虚拟触发任务具有触发关系的任务运行;相应地,步骤S410:根据虚拟触发任务更新后的状态,触发云计算平台内与该虚拟触发任务具有触发关系的任务运行;步骤S312 :根据虚拟依赖任务更新后的状态,运行数据仓库内与该虚拟依赖任务 具有依赖关系的任务; 相应地,步骤S412:根据虚拟依赖任务更新后的状态,运行云计算平台内与该虚拟依赖任务具有依赖关系的任务。需要说明的是,在图3的流程中,步骤S302、S306、S310与图I流程中的步骤S102、S104、S106——对应,属于云计算平台任务触发数据仓库任务的情形;步骤S304、S308、S312属于在图I流程基础上增加的数据仓库任务依赖云计算平台任务的情形;上述两种情形彼此独立,可以同步运行,可以异步运行,可以交叉运行,也可以仅运行任务触发的方式而不运行任务依赖的方式。同理,在图4的流程中,步骤S402、S406、S410与图2流程中的步骤S202、S204、S206 一一对应,属于数据仓库任务触发云计算平台任务的情形;步骤S404、S408、S412属于在图2流程基础上增加的云计算平台任务依赖数据仓库任务的情形;上述两种情形彼此独立,可以同步运行,可以异步运行,可以交叉运行,也可以仅运行任务触发的方式而不运行任务依赖的方式。本实施例的云计算平台与数据仓库间任务的调度方法,在方法实施例一的基础上,不仅涉及到云计算平台与数据仓库之间双向的任务触发调度,还涉及到云计算平台与数据仓库之间双向的任务依赖调度,首先在数据仓库和/或云计算平台内建立虚拟依赖任务,根据云计算平台和/或数据仓库任务的运行状态,更新对应的虚拟依赖任务的状态,最后根据所述虚拟依赖任务更新后的状态,运行数据仓库和/或云计算平台内与该虚拟依赖任务具有依赖关系的任务,从而实现了云计算平台与数据仓库之间任务的双向调度,有利于两者选择合适的数据处理模式处理数据,增强了云计算平台与数据仓库任务的处理能力,提高了数据的处理效率。根据本发明实施例,提供了一种云计算平台与数据仓库间任务的调度方法,图5为根据本发明实施例三云计算平台与数据仓库间任务调度方法的第一流程图,图6为根据本发明实施例三云计算平台与数据仓库间任务调度方法的第二流程图,其中,图5为云计算平台任务触发数据仓库任务、云计算平台任务依赖数据仓库任务的情形,图6为数据仓库任务触发云计算平台任务、数据仓库任务依赖云计算平台任务的情形。需要说明的是,图5与图6说明了任务调度方法的两种流程情形,两种流程可以同步运行,可以异步运行,也可以交叉运行,两种流程还可以仅运行一种流程。如图5、6所示,本实施例包括
步骤S502 :对云计算平台与数据仓库之间的任务触发关系进行配置,获取触发配置文件;由于数据仓库任务调度关系的存储机制与云计算平台任务调度关系的存储机制不一定相同,因此,以配置文件的方式对云计算平台与数据仓库之间的任务触发关系进行配置。如表I所示,触发配置文件JOB TRIGGER, ini,该配置文件只配置跨云计算平台与数据仓库之间的触发关系所涉及的任务,该配置文件包含以下字段内容>任务名称jobname ;>任务所触发的任务名称trigger_jobname ;>描述 -description ;>是否读取该触发关系enable(l为需要读取该触发关系,0为不需要读取该触发关系)。表I
权利要求
1.一种云计算平台与数据仓库间任务的调度方法,其特征在于,包括 1)根据云计算平台与数据仓库之间的任务触发关系,在所述数据仓库内建立虚拟触发任务; 2)根据获取的云计算平台任务的运行状态信息,更新所述虚拟触发任务的状态; 3)根据所述虚拟触发任务更新后的状态,触发所述数据仓库内与该虚拟触发任务具有触发关系的任务运行。
2.根据权利要求I所述的方法,其特征在于,方法还包括 4)根据云计算平台与数据仓库之间的任务依赖关系,在所述数据仓库内建立虚拟依赖任务; 5)根据获取的云计算平台任务的运行状态信息,更新所述虚拟依赖任务的状态; 6)根据所述虚拟依赖任务更新后的状态,运行所述数据仓库内与该虚拟依赖任务具有依赖关系的任务。
3.根据权利要求I所述的方法,其特征在于,在所述步骤I)之前还包括 7)对所述云计算平台与数据仓库之间的任务触发关系进行配置,获取触发配置文件。
4.根据权利要求2所述的方法,其特征在于,在所述步骤4)之前还包括 8)对所述云计算平台与数据仓库之间的任务依赖关系进行配置,获取依赖配置文件。
5.根据权利要求3所述的方法,其特征在于,所述步骤I)具体包括 11)对所述触发配置文件进行扫描处理; 12)读取所述触发配置文件中云计算平台与数据仓库之间的任务触发关系; 13)根据所述触发配置文件中云计算平台与数据仓库之间的任务触发关系,在所述数据仓库内建立虚拟触发任务。
6.根据权利要求5所述的方法,其特征在于,所述步骤I)进一步包括步骤 14)实时扫描所述触发配置文件,使用户对所述触发配置文件的修改进行响应。
7.根据权利要求4所述的方法,其特征在于,所述步骤4)具体包括 41)对所述依赖配置文件进行扫描处理; 42)读取所述依赖配置文件中云计算平台与数据仓库之间的任务依赖关系; 43)根据所述依赖配置文件中云计算平台与数据仓库之间的任务依赖关系,在所述数据仓库内建立虚拟依赖任务。
8.根据权利要求7所述的方法,其特征在于,所述步骤4)进一步包括步骤 44)实时扫描所述依赖配置文件,使用户对所述依赖配置文件的修改进行响应。
9.一种云计算平台与数据仓库间任务的调度方法,其特征在于,包括 1)根据云计算平台与数据仓库之间的任务触发关系,在所述云计算平台内建立虚拟触发任务; 2)根据获取的数据仓库任务的运行状态信息,更新所述虚拟触发任务的状态; 3)根据所述虚拟触发任务更新后的状态,触发所述云计算平台内与该虚拟触发任务具有触发关系的任务运行。
10.根据权利要求9所述的方法,其特征在于,方法还包括 4)根据云计算平台与数据仓库之间的任务依赖关系,在所述云计算平台内建立虚拟依赖任务;5)根据获取的数据仓库任务的运行状态信息,更新所述虚拟依赖任务的状态; 6)根据所述虚拟依赖任务更新后的状态,运行所述云计算平台内与该虚拟依赖任务具有依赖关系的任务。
11.根据权利要求9所述的方法,其特征在于,在所述步骤I)之前还包括 7)对所述云计算平台与数据仓库之间的任务触发关系进行配置,获取触发配置文件。
12.根据权利要求10所述的方法,其特征在于,在所述步骤4)之前还包括 8)对所述云计算平台与数据仓库之间的任务依赖关系进行配置,获取依赖配置文件。
13.根据权利要求11所述的方法,其特征在于,所述步骤I)具体包括 11)对所述触发配置文件进行扫描处理; 12)读取所述触发配置文件中云计算平台与数据仓库之间的任务触发关系; 13)根据所述触发配置文件中云计算平台与数据仓库之间的任务触发关系,在所述云计算平台内建立虚拟触发任务。
14.根据权利要求13所述的方法,其特征在于,所述步骤I)进一步包括步骤 14)实时扫描所述触发配置文件,使用户对所述触发配置文件的修改进行响应。
15.根据权利要求12所述的方法,其特征在于,所述步骤4)具体包括 41)对所述依赖配置文件进行扫描处理; 42)读取所述依赖配置文件中云计算平台与数据仓库之间的任务依赖关系; 43)根据所述依赖配置文件中云计算平台与数据仓库之间的任务依赖关系,在所述云计算平台内建立虚拟依赖任务。
16.根据权利要求15所述的方法,其特征在于,所述步骤4)进一步包括步骤 44)实时扫描所述依赖配置文件,使用户对所述依赖配置文件的修改进行响应。
17.—种云计算平台与数据仓库间任务的调度装置,其特征在于,包括 虚拟任务模块,用于根据云计算平台与数据仓库之间的任务触发关系,在所述数据仓库内建立虚拟触发任务; 状态更新模块,用于根据获取的云计算平台任务的运行状态信息,更新所述虚拟触发任务的状态; 任务运行模块,用于根据所述虚拟触发任务更新后的状态,触发所述数据仓库内与该虚拟触发任务具有触发关系的任务运行。
18.根据权利要求17所述的装置,其特征在于, 所述虚拟任务模块,还用于根据云计算平台与数据仓库之间的任务依赖关系,在所述数据仓库内建立虚拟依赖任务; 所述状态更新模块,还用于根据获取的云计算平台任务的运行状态信息,更新所述虚拟依赖任务的状态; 所述任务运行模块,还用于根据所述虚拟依赖任务更新后的状态,运行所述数据仓库内与该虚拟依赖任务具有依赖关系的任务。
19.根据权利要求18所述的装置,其特征在于,装置还包括 配置模块,用于对所述云计算平台与数据仓库之间的任务触发关系进行配置,获取触发配置文件。
20.根据权利要求19所述的装置,其特征在于,所述配置模块,还用于对所述云计算平台与数据仓库之间的任务依赖关系进行配置,获取依赖配置文件。
21.根据权利要求19所述的装置,其特征在于,所述虚拟任务模块具体包括 触发扫描子模块,用于对所述触发配置文件进行扫描处理; 触发读取子模块,用于读取所述触发配置文件中云计算平台与数据仓库之间的任务触发关系; 虚拟触发子模块,用于根据所述触发配置文件中云计算平台与数据仓库之间的任务触发关系,在所述数据仓库内建立虚拟触发任务。
22.根据权利要求21所述的装置,其特征在于,所述虚拟任务模块进一步包括 触发响应子模块,用于实时扫描所述触发配置文件,使用户对所述触发配置文件的修改进行响应。
23.根据权利要求20所述的装置,其特征在于,所述虚拟任务模块具体包括 依赖扫描子模块,用于对所述依赖配置文件进行扫描处理; 依赖读取子模块,用于读取所述依赖配置文件中云计算平台与数据仓库之间的任务依赖关系; 虚拟依赖子模块,用于根据所述依赖配置文件中云计算平台与数据仓库之间的任务依赖关系,在所述数据仓库内建立虚拟依赖任务。
24.根据权利要求23所述的装置,其特征在于,所述虚拟任务模块进一步包括 依赖响应子模块,用于实时扫描所述依赖配置文件,使用户对所述依赖配置文件的修改进行响应。
25.—种云计算平台与数据仓库间任务的调度装置,其特征在于,包括 虚拟任务模块,用于根据云计算平台与数据仓库之间的任务触发关系,在所述云计算平台内建立虚拟触发任务; 状态更新模块,用于根据获取的数据仓库任务的运行状态信息,更新所述虚拟触发任务的状态; 任务运行模块,用于根据所述虚拟触发任务更新后的状态,触发所述云计算平台内与该虚拟触发任务具有触发关系的任务运行。
26.根据权利要求25所述的装置,其特征在于, 所述虚拟任务模块,还用于根据云计算平台与数据仓库之间的任务依赖关系,在所述云计算平台内建立虚拟依赖任务; 所述状态更新模块,还用于根据获取的数据仓库任务的运行状态信息,更新所述虚拟依赖任务的状态; 所述任务运行模块,还用于根据所述虚拟依赖任务更新后的状态,运行所述云计算平台内与该虚拟依赖任务具有依赖关系的任务。
27.根据权利要求26所述的装置,其特征在于,装置还包括 配置模块,用于对所述云计算平台与数据仓库之间的任务触发关系进行配置,获取触发配置文件。
28.根据权利要求27所述的装置,其特征在于, 所述配置模块,还用于对所述云计算平台与数据仓库之间的任务依赖关系进行配置,获取依赖配置文件。
29.根据权利要求27所述的装置,其特征在于,所述虚拟任务模块具体包括 触发扫描子模块,用于对所述触发配置文件进行扫描处理; 触发读取子模块,用于读取所述触发配置文件中云计算平台与数据仓库之间的任务触发关系; 虚拟触发子模块,用于根据所述触发配置文件中云计算平台与数据仓库之间的任务触发关系,在所述云计算平台内建立虚拟触发任务。
30.根据权利要求29所述的装置,其特征在于,所述虚拟任务模块进一步包括 触发响应子模块,用于实时扫描所述触发配置文件,使用户对所述触发配置文件的修改进行响应。
31.根据权利要求28所述的装置,其特征在于,所述虚拟任务模块具体包括 依赖扫描子模块,用于对所述依赖配置文件进行扫描处理; 依赖读取子模块,用于读取所述依赖配置文件中云计算平台与数据仓库之间的任务依赖关系; 虚拟依赖子模块,用于根据所述依赖配置文件中云计算平台与数据仓库之间的任务依赖关系,在所述云计算平台内建立虚拟依赖任务。
32.根据权利要求31所述的装置,其特征在于,所述虚拟任务模块进一步包括 依赖响应子模块,用于实时扫描所述依赖配置文件,使用户对所述依赖配置文件的修改进行响应。
全文摘要
本发明公开了一种云计算平台与数据仓库间任务的方法及装置,其中,该方法包括1)根据云计算平台与数据仓库之间的任务触发关系,在数据仓库内建立虚拟触发任务;2)根据获取的云计算平台任务的运行状态信息,更新虚拟触发任务的状态;3)根据虚拟触发任务更新后的状态,触发数据仓库内与该虚拟触发任务具有触发关系的任务运行。本发明各实施例的云计算平台与数据仓库间任务的调度方法和装置,实现了云计算平台与数据仓库之间任务的双向调度,有利于两者选择合适的数据处理模式处理数据,增强了云计算平台与数据仓库任务的处理能力,提高了数据的处理效率。
文档编号G06F9/46GK102750179SQ20111010370
公开日2012年10月24日 申请日期2011年4月22日 优先权日2011年4月22日
发明者吴明, 庞咏, 曹雪峰, 李祎 申请人:中国移动通信集团河北有限公司
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1