DDL任务的并行处理方法、计算节点、及电子设备与流程

文档序号:33161061发布日期:2023-02-04 00:38阅读:28来源:国知局
ddl任务的并行处理方法、计算节点、及电子设备
技术领域
:1.申请涉及数据库
技术领域
:,具体而言,本技术涉及一种ddl任务的并行处理方法、计算节点、电子设备、计算机可读存储介质。
背景技术
::2.目前数据定义语言(datadefinitionlanguage,ddl)语句的分布式调度系统主要分为如下集中实现:3.1,以oracle,mysql等传统数据库为例的传统单机或者集群系统。通常采用实现一个metadatalock系统,通过对于需要进行ddl变更的对象加锁的方式,来协调各种ddl语句执行的先后顺序。达到并发效果。4.2,分布式数据库系统oceanbase,tdsql的数据库也是通过采取在分布式系统中实现一种类似mdl锁的方式来达成并发ddl语句调度的效果。5.如何保证在多个ddlworker(也称之为任务执行单元)在并发执行ddl任务的时候,不会造成用户数据库中对象定义或者对象存储的数据的不一致性,是需要解决的问题。技术实现要素:6.本技术实施例提供了一种ddl任务的并行处理方法、计算节点、电子设备、计算机可读存储介质,可以解决现有技术的上述问题。所述技术方案如下:7.根据本技术实施例的一个方面,提供了一种数据定义语言ddl任务的并行处理方法,由数据库系统中的目标计算节点执行,所述方法包括:8.获得作业任务表,所述作业任务表用于记录未处理完成的ddl任务的相关信息,所述相关信息包括ddl任务进入数据库系统的顺序以及ddl任务对应的变更对象所处的数据模式;9.确定正在执行的第一ddl任务,从所述作业任务表中确定符合预先确定的任务并行处理规则的第二ddl任务,所述任务并行处理规则与ddl任务进入数据库系统的顺序以及ddl任务对应的变更对象所处的数据模式相关;10.将所述目标第二ddl任务与所述第一ddl任务并行处理。11.根据本技术实施例的另一个方面,提供了一种数据库系统中的目标计算节点,该节点包括:12.作业任务表模块,用于获得作业任务表,所述作业任务表用于记录未处理完成的ddl任务的相关信息,所述相关信息包括ddl任务进入数据库系统的顺序以及ddl任务对应的变更对象所处的数据模式;13.任务确定模块,用于确定正在执行的第一ddl任务,从所述作业任务表中确定符合预先确定的任务并行处理规则的第二ddl任务,所述任务并行处理规则与ddl任务进入数据库系统的顺序以及ddl任务对应的变更对象所处的数据模式相关;14.并行处理模块,用于将所述第二ddl任务与所述第一ddl任务并行处理。15.根据本技术实施例的另一个方面,提供了一种电子设备,该电子设备包括存储器、处理器及存储在存储器上的计算机程序,处理器执行所述计算机程序以实现上述ddl任务的并行处理方法的步骤。16.根据本技术实施例的再一个方面,提供了一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现上述ddl任务的并行处理方法的步骤。17.本技术实施例提供的技术方案带来的有益效果是:18.通过获取任务作业任务表,任务作业任务表中记录了至少一个ddl任务的相关信息,基于任务并行处理规则,从作业任务表中确定与处理中的第一ddl任务可并行处理的第二ddl任务,将第二ddl任务与第一ddl任务并行处理,实现逻辑简单,并且可扩展性强,能够适应不同的数据块形态的部署,不存在现有技术那样只能从队列中按排序选择ddl任务的限定。附图说明19.为了更清楚地说明本技术实施例中的技术方案,下面将对本技术实施例描述中所需要使用的附图作简单地介绍。20.图1为相关技术提供的ddl任务的执行流程示意图;21.图2为本技术实施例提供的一种ddl任务的并行处理方法的流程示意图;22.图3为本技术实施例提供的一种由三种级别的变更对象构成的树结构;23.图4为本技术另一个实施例提供的一种ddl任务的处理方法的流程示意图;24.图5为本技术再一个实施例提供的一种ddl任务的处理方法的流程示意图;25.图6为本技术实施例提供的一种目标计算节点的结构示意图;26.图7为本技术实施例提供的一种电子设备的结构示意图。具体实施方式27.下面结合本技术中的附图描述本技术的实施例。应理解,下面结合附图所阐述的实施方式,是用于解释本技术实施例的技术方案的示例性描述,对本技术实施例的技术方案不构成限制。28.本
技术领域
:技术人员可以理解,除非特意声明,这里使用的单数形式“一”、“一个”和“该”也可包括复数形式。应该进一步理解的是,本技术实施例所使用的术语“包括”以及“包含”是指相应特征可以实现为所呈现的特征、信息、数据、步骤、操作、元件和/或组件,但不排除实现为本
技术领域
:所支持其他特征、信息、数据、步骤、操作、元件、组件和/或它们的组合等。应该理解,当我们称一个元件被“连接”或“耦接”到另一元件时,该一个元件可以直接连接或耦接到另一元件,也可以指该一个元件和另一元件通过中间元件建立连接关系。此外,这里使用的“连接”或“耦接”可以包括无线连接或无线耦接。这里使用的术语“和/或”指示该术语所限定的项目中的至少一个,例如“a和/或b”可以实现为“a”,或者实现为“b”,或者实现为“a和b”。29.为使本技术的目的、技术方案和优点更加清楚,下面将结合附图对本技术实施方式作进一步地详细描述。30.目前常见的ddl语句的实现采取的解决方案是在分布式集群里面所有的ddl任务会以进入集群的先后顺序登记到一个队列当中,之所以需要登记到队列当中主要是用在故障恢复的目的。这些任务会被执行ddl任务的任务执行单元获取并执行。具体执行流程如图1所示,计算节点都可以接受来自客户端的ddl变更语句,然后将语句存入ddl任务队列中,任务执行单元从ddl任务队列中每次取一个ddl任务执行,由于ddl任务的执行顺序仅与ddl任务队列中的ddl任务的排序相关,因此多个任务执行单元在并发执行ddl任务时,可能造成用户数据库中对象定义或者对象存储的数据的不一致性。通常数据库会使用mdl锁来保证ddl语句之间的正确执行。31.本技术提供的ddl任务的并行处理、装置、电子设备、计算机可读存储介质以及计算机程序产品,旨在解决现有技术的如上技术问题。32.下面通过对几个示例性实施方式的描述,对本技术实施例的技术方案以及本技术的技术方案产生的技术效果进行说明。需要指出的是,下述实施方式之间可以相互参考、借鉴或结合,对于不同实施方式中相同的术语、相似的特征以及相似的实施步骤等,不再重复描述。33.本技术实施例中提供了一种ddl任务的并行处理方法,如图2所示,该方法包括:34.s101、获得作业任务表,所述作业任务表用于记录未处理完成的ddl任务的相关信息,所述相关信息包括ddl任务进入数据库系统的顺序以及ddl任务对应的变更对象所处的数据模式schema。35.客户端在向数据库系统发送ddl语句后,可以根据ddl语句获得至少一个ddl任务,本技术实施例可以根据ddl任务进入数据库系统的顺序,设置每个ddl任务的任务标识,并将ddl任务的相关信息写入作业任务表。36.本技术实施例的ddl任务的相关信息可以包括ddl任务的任务标识、ddl任务的元信息(也即执行ddl任务执行的关键信息,可以确保ddl任务的正确执行与发生异常处理)、ddl任务执行的计算节点等等,本技术实施例不作具体的限定。37.在一个实施例中,通过任务标识用来表征ddl任务进入数据库系统的顺序,例如第一个进入数据库系统的ddl任务的任务标识为1,第二个进入数据库系统的ddl任务的任务标识为2,以此类推。38.s102、确定正在执行的第一ddl任务,从所述作业任务表中确定符合预先确定的任务并行处理规则的第二ddl任务,所述任务并行处理规则与ddl任务进入数据库系统的顺序以及ddl任务对应的变更对象所处的数据模式相关;39.本技术实施例通过将待处理的ddl任务的相关信息记录于作业任务表中,在确定当前执行的第二ddl任务时不存在现有技术那样只能从队列中按排序选择ddl任务的限定。40.本技术实施例的ddl任务并发规则包括但不限于以下内容:41.1)同一数据表上的ddl语句对应的ddl任务需要根据ddl任务进入数据库系统的先后顺序执行;42.2)不同数据表上的ddl语句对应的ddl任务可以并发执行;43.3)数据中不同级别的变更对象对应的ddl任务,也需要根据级别的顺序执行。44.请参见图3,其示例性地示出了本技术实施例由三种级别的变更对象构成的树结构,其中树结构的根节点为第一级别的变更对象:db(schema),第二级别的变更对象包括:function、storedprocedure、table、view,对于table而言,其第三级别的变更对象包括:index、column、tigger和constraint。45.在一个实施例中,本技术实施例基于sql语句实现了任务并行处理规则,基于sql语句实现任务并行处理规则的好处在于其是无锁且非常轻量的操作,不影响dml以及其他ddl任务的执行。46.本技术实施例基于sql语句实现的任务并行处理规则包括:47.语句1:select*fromtidb_ddl_jobwherejob_idin(selectmin(job_id)fromtidb_ddl_jobwherenotreorggroupbytable_id)andexec_owner=0;48.语句1的含义是:找到当前的第二ddl任务,如果是物理ddl任务,在选择执行该第二ddl任务之后,需要将第二ddl任务的相关信息记录到重组信息表中。exec_owner=0表示ddl任务还没有被执行。49.语句2:select*fromtidb_ddl_jobwhereis_drop_schemaandschema_id={job.schemaid}andjob_id《{job.id}limit1;50.语句2的含义是:如果是第二或三级别的变更对象,判断是否有更高级别的变更对象对应的ddl任务执行。51.语句3:select*frommysql.tidb_ddl_jobwhereschema_id={job.schemaid}andjob_id《{job.id}limit1;52.语句3的含义是如果是第一级别的变更对象,判断是否有更低级别的变更对象对应的ddl任务执行。53.需要说明的是,上述3条sql语句是针对tidb开源分布式关系型数据库的实现,对于其他数据库,如果做相应的实现,sql语句会有所改动,本质不变,本技术实施例不再赘述。54.s103、将所述第二ddl任务与第一ddl任务并行处理。55.本技术在确定第二ddl任务后,即可将第二ddl任务与正在执行的第一ddl任务并行处理。本技术实施例的第一ddl任务的数量不作具体限定,例如可以是一个,也可以是多个。56.本技术实施例通过获取作业任务表,作业任务表中记录了至少一个未处理完成的ddl任务的相关信息,基于任务并行处理规则,从作业任务表中确定与处理中的第一ddl任务可并行处理的第二ddl任务,将第二ddl任务与第一ddl任务并行处理,实现逻辑简单,并且可扩展性强,能够适应不同的数据块形态的部署,不存在现有技术那样只能从队列中按排序选择ddl任务的限定。57.在上述各实施例的基础上,作为一种可选实施例,相关信息包括用于指示当前执行对应ddl任务的计算节点的计算节点标识,所述作业任务表包括用于记录计算节点标识的第一字段。58.具体地,本技术实施例可以在作业任务表中设置execowner字段(即第一字段),在该字段中记录当前执行对应ddl任务的计算节点的计算节点标识,应当理解的是,当ddl任务没有被执行过时,第一字段可以为空,或者其他表示没有被执行过的标记(例如0)。如果ddl任务被执行过但没有执行成功,则该字段仍然会记录执行该ddl任务的计算节点的计算节点标识。59.将所述第二ddl任务与所述第一ddl任务并行处理,包括:60.s201、若根据作业任务表中第二ddl任务的第一字段确定第二ddl任务首次被执行,则在第一字段记录目标计算节点的目标计算节点标识;61.s202、调用所述数据库系统中的任务执行单元执行所述第二ddl任务,所述任务执行单元的类型包括进程、线程、协程中的至少一种。62.本技术实施例在确定第二ddl任务首次被执行时,需要初始化第二ddl任务,并在第一字段记录目标计算节点的目标计算节点标识,后续如果第二ddl任务没有执行成功,便于回退。63.在记录目标计算节点标识后,本技术实施例即可调用任务执行单元执行第二ddl任务。需要说明的是,本技术实施例具有多个任务执行单元,计算节点可以从多个任务执行单元选择空闲的任务执行单元执行第二ddl任务。多个任务执行单元可以并行执行ddl任务。在一些实施例中,一个ddl任务可以拆分为多个子任务,每个任务执行单元用于执行一个子任务。64.在上述各实施例的基础上,作为一种可选实施例,相关信息包括ddl任务对应的变更对象的对象标识以及所述ddl任务的元信息。65.具体地,本技术实施例可以在作业任务表中设置table_id字段(即第二字段)记录ddl任务对应的变更对象的对象标识,设置schema_id字段(即第三字段)记录变更对象所处的schema的模式标识,设置jobmeta字段(即第四字段)记录ddl任务的元信息。66.调用数据库系统中的任务执行单元执行第二ddl任务,包括:67.s301、调用所述任务执行单元读取所述作业任务表中所述第二ddl任务的所述第二字段至第四字段,获得所述第二ddl任务对应的目标变更对象的目标对象标识、所述目标变更对象所处的目标数据模式的目标模式标识以及所述第二ddl任务的目标元信息;68.s302、根据所述目标对象标识和所述目标模式标识,从所述数据库系统的所述目标数据模式中确定所述目标变更对象;69.s303、根据所述目标元信息,对所述目标变更对象执行所述第二ddl任务。70.本技术实施例的任务执行单元通过读取作业任务表中第二ddl任务的第二字段至第四字段,可获得第二ddl任务对应的目标变更对象的目标对象标识、所述目标变更对象所处的目标schema的目标模式标识以及所述第二ddl任务的目标元信息,基于目标对象标识和目标模式标识,可以从数据库系统中确定目标变更对象,最后基于目标元信息对目标变更对象执行第二ddl任务,可以实现精准确定变更对象并进行任务处理。71.在上述各实施例的基础上,作为一种可选实施例,对所述第二dll任务进行并行处理,还包括:72.s401、若根据所述作业任务表中所述第二ddl任务的第一字段确定所述第二ddl任务非首次被执行,则判断是否恢复所述第二ddl任务的执行;73.s402、若确定恢复所述第二ddl任务的执行,则执行所述第二ddl任务,若确定不恢复所述第二ddl任务的执行,则回滚上一次执行所述第二ddl任务产生的数据。74.需要说明的是,当第一字段中记录了除目标计算节点之外的计算节点的计算节点标识,表示第二ddl任务不是首次执行,且上一次执行失败,此时需要判断是否恢复第二ddl任务的执行(ddl任务如果执行完毕,则会归档到历史任务表中,如果还在作业任务列表中,则表示仍需要继续执行)。75.若确定恢复第二ddl任务的执行,则执行第二ddl任务,具体地,本技术实施例可以在作业任务表中记录第二ddl任务上一次执行的进度,从而根据上一次执行的进度继续执行第二ddl任务。若确定不恢复第二ddl任务的执行,则回滚上一次执行所述第二ddl任务产生的数据,可以理解的是,回滚后该第二ddl任务也不再执行。76.在上述各实施例的基础上,作为一种可选实施例,相关信息包括用于指示相应ddl任务是否为逻辑ddl任务的类型标识,所述作业任务表包括用于记录所述类型标识的第五字段;77.通常ddl任务可以分为逻辑ddl和物理ddl,逻辑ddl只需要修改数据库中对象(数据表、索引、列等)的定义即可(例如修改表名)。物理ddl,则通常有一个重组(reorg)的过程,这个过程通常需要扫描一次数据表的完整数据,将数据表上的数据同步到新增或者修改的对象上面,确保数据一致性。78.作业任务表包括用于记录所述类型标识的reorg字段(也即第五字段)。79.将所述第二ddl任务与所述第一ddl任务并行处理,包括:80.s501、若根据所述作业任务表中所述第二ddl任务的第五字段确定所述第二ddl任务不为逻辑ddl任务,则将所述第二ddl任务拆分为多个子任务;81.s502、根据所述子任务的数量,调用相应数量的任务执行单元并行执行子任务。82.具体地,本技术实施例若根据第二ddl任务的第五字段确定第二ddl任务为逻辑ddl任务,则不对第二ddl任务进行拆分,即只调用一个任务执行单元执行第二ddl任务。若第二ddl任务不为逻辑ddl任务,也即为物理ddl任务,则将第二ddl任务拆分为多个子任务,由相应数量的任务执行单元并行执行子任务。83.在上述各实施例的基础上,作为一种可选实施例,调用相应数量的任务执行单元执行子任务,之前还包括:84.创建所述第二ddl任务的重组信息表。85.在所述重组信息表中记录所述子任务的元信息;86.所述调用相应数量的任务执行单元执行子任务,包括:87.调用所述任务执行单元,根据所述重组信息表中相应子任务的元信息,执行所述相应子任务。88.具体的,子任务的元信息包括子任务开始扫描和结束扫描的数据位置、所述目标计算节点的节点标识、所述子任务的执行状态中的至少一种。89.本技术实施例的重组信息表包括以下字段:90.jobid,用于记录ddl任务的任务标识;91.reorg_obj_id,用于记录需要重组的变更对象的对象标识,例如addindex中index的标识。92.physical_id,需要scan表的id;93.distpara,用于记录各个子任务的元信息,以进行并行调度。94.在一些实施例中,distpara字段包括:95.exec_dist,用于表示是否在整个集群中分布式执行ddl任务;96.is_canceled,用于表示是否取消执行ddl任务;97.curr_reorg_type,用于表示reorg的任务类型;98.reorgsubtasks,进一步包括:99.subscanstartpoint,用于记录子任务开始扫描的数据位置;100.subscanendpoint,用于记录子任务结束扫描的数据位置;101.subscanexecutor,用于记录子任务的计算节点;102.subtaskstaus,用于记录子任务的执行状态。103.在一个可选实施例中,任务并行处理规则是基于结构化查询语言sql语句实现的;104.从所述作业任务表中确定符合预先确定的任务并行处理规则的第二ddl任务,包括:105.从所述作业任务表中选择参考ddl任务,将参考ddl任务的任务标识和模式标识写入所述任务并行处理规则,若确定所述任务并行处理规则符合预设条件,则将所述参考ddl任务作为所述目标ddl任务。106.在上述各实施例的基础上,作为一种可选实施例,将所述第二ddl任务与所述第一ddl任务并行处理,之后还包括:107.在处理所述第二ddl任务结束后,将所述第二ddl任务的相关信息从所述作业任务表中移动至任务历史表中,所述任务历史表包括所述作业任务表中的字段。108.请参见图4,其示例性地示出了本技术另一个实施例的ddl任务的处理方法的流程示意图,如图所示,包括:109.步骤s601、目标计算节点开始运行;110.步骤s602、目标计算节点根据任务并行处理规则,从作业任务表中选择第二ddl任务;111.步骤s603、启动任务执行节点并发执行步骤s603-608部分的逻辑,判断第二ddl任务是否首次启动,若否,则进入步骤s604,若是,则进入步骤s605;112.步骤s604、初始化第二ddl任务,更新作业任务表,之后进入步骤s610;113.步骤s605、判断是否恢复第二ddl任务,若是,则进入步骤s606,若否,则进入步骤s607;114.步骤s606、恢复之前保存的第二ddl任务的执行进度,并继续执行,在完成第二ddl任务或者出现异常情况后进入步骤608;115.步骤s607、回滚上一次执行所述第二ddl任务产生的数据;116.步骤s608、结束第二ddl任务的执行,将第二ddl任务的相关信息从所述作业任务表中移动至任务历史表中,任务历史表包括所述作业任务表中的字段;117.步骤s609、计算节点并行发起一个后台任务,不断选择可以执行的ddl任务,如果有可选的ddl任务,则进入步骤s602,如果没有可选的ddl任务,进入步骤s610;118.步骤s610、判断是否计算节点结束运行,若否,进入步骤s611,若是,进入步骤s612;119.步骤s611、休眠一个周期,例如1秒,然后进入步骤ss609;120.步骤s612、流程结束。121.请参见图5,其示例性地示出了本技术再一个实施例的ddl任务的处理方法的流程示意图,如图所示,包括:122.s701、每一个物理ddl任务都有一个主子任务,使用第一个子任务作为主子任务;123.s702、判断是否需要启动ddl任务,若是,进入步骤s703;若否,进入步骤s706;124.s703、启动ddl任务;125.s704、读取作业任务表中ddl任务的prefer_rule字段,prefer_rule设置ddl任务在集群中执行时并行的分布策略(例如:根据不同计算阶段的计算资源,设置并行的不同的任务执行节点的数目,或者根据数据位置,设置不同子任务在不同的计算节点上),一个简单的分布策略可以包括按照同一种方式对所有计算节点进行并行设置。126.s705、将需要回填的数据按照ddl任务生成的子任务数,划分子任务数据处理范围。如果需要回填的数据比较少,相应的减少子任务数量。初始化重组信息表中的dist_para,为每一个计算节点初始化dist_para,设置exec_owner.保存dist_para信息。127.s706、各计算节点根据任务并行处理规则获取当前活跃的可执行的ddl任务,查看子任务中是否有需要自身执行的子任务,若有,则恢复子任务的上下文;128.s707、执行子任务,本技术实施例的计算节点根据自身情况启动相应的任务执行节点执行ddl任务;129.s708、每个计算节点启动任务执行节点,检查是否取消执行ddl任务执行,若是,进入步骤s712,若否,进入步骤s709;130.s709、完成数据处理;131.s710、在重组信息表更新子任务状态,这里可以采用乐观事务模式,因为有其他子任务更新同一条ddl任务,更新子任务会有可能失败,因此只需要重新获取最新的ddl任务,只更新和自身相关的子任务,再次提交,直到更新成功;也可以采用悲观事务模式,每次需要提交子任务状态的时候,先获取最新的ddl任务,并锁定记录,完成更新后提交事务。132.s711、判断子任务是否完成,若否,进入步骤s708,若是,进入步骤s715;133.s712、判断是否是主子任务,若否,进入步骤s715,若是,进入步骤s713;134.s713、判断是否所有子任务都结束。具体通过判断每个子任务的status字段来判断是否子任务都结束了。若否,进入步骤s714,若是,进入步骤s716;135.s714、休眠一段时间;136.s715、子任务结束。137.s716、ddl任务结束。138.需要说明的是,当需要取消执行ddl任务时,只需要将is_canceled字段设置为true。所有任务在更新子任务状态时,首先需要读取任务记录,获取该字段即可确定是否取消任务。包括某个子任务发生异常退出,也可以通过设置这个字段来停止ddl任务执行,并通过子任务状态将错误信息返回。139.对于计算节点crash重启的异常情况,计算节点的每个任务执行节点选择一个非活跃的ddl任务,查看属于自身执行的子任务,将子任务恢复即可。计算节点可以编号,即计算节点即使在其他机器上重启,只要编号不变,依然可以根据编号获取子任务,然后恢复对应的子任务,继续执行。140.对于计算节点crash后长期不能启动的情况,计算节点增加一个对于集群中计算节点变更的感知,当有计算节点在一段时间未能重新加入节点,就将重组信息表中子任务的exec_owner修改为集群中的其他节点或者清0(所有活跃节点均可获取改ddl任务并恢复执行),等待其他计算节点的任务执行节点恢复执行。141.本技术具有以下技术效果:142.1,方案实现逻辑简单,可扩展性强143.2,方案能够充分利用集群整体资源,自动进行任务的负载均衡,具备很强的在线扩展性144.3,能够适应不同的数据库形态的部署;145.a)单实例数据库部署;146.b)集群单主节点,全集群分布式ddl任务调度;147.c)集群分布式ddl任务调度(多主节点);148.4,对于分布式系统中故障恢复有特别良好的表现,不会像锁实现方案中会遇到分布式死锁检测的复杂度问题,或者是单点锁中控的性能和故障单点问题。149.5,故障恢复简单,高效,本方案能够在基本上无需额外操作的情况下,使得ddl任务调度恢复正常。150.6,很容易在本模型实现特定的分布式调度规则,将特定的ddl任务调度到特定的计算节点上执行,例如通过数据的位置,多租户的可用计算节点等等条件来调度。151.本技术实施例提供了一种数据库系统中的目标计算节点,如图6所示,该节点可以包括:作业任务表模块601、任务确定模块602以及并行处理模块603,其中,152.作业任务表模块601,用于获得作业任务表,所述作业任务表用于记录未处理完成的ddl任务的相关信息,所述相关信息包括ddl任务进入数据库系统的顺序以及ddl任务对应的变更对象所处的数据模式;153.任务确定模块602,用于确定正在执行的第一ddl任务,从所述作业任务表中确定符合预先确定的任务并行处理规则的第二ddl任务,所述任务并行处理规则与ddl任务进入数据库系统的顺序以及ddl任务对应的变更对象所处的数据模式相关;154.并行处理模块603,用于将所述第二ddl任务与所述第一ddl任务并行处理155.本技术实施例的节点可执行本技术实施例所提供的方法,其实现原理相类似,本技术各实施例的节点中的各模块所执行的动作是与本技术各实施例的方法中的步骤相对应的,对于节点的各模块的详细功能描述具体可以参见前文中所示的对应方法中的描述,此处不再赘述。156.本技术实施例中提供了一种电子设备,包括存储器、处理器及存储在存储器上的计算机程序,该处理器执行上述计算机程序以实现ddl任务的并行处理方法的步骤,与相关技术相比可实现:通过获取任务作业任务表,任务作业任务表中记录了至少一个ddl任务的相关信息,基于sql语句实现任务并行处理规则,从作业任务表中确定与处理中的其他ddl任务可并行处理的第二ddl任务,将第二ddl任务与第一ddl任务并行处理,实现逻辑简单,并且可扩展性强,能够适应不同的数据块形态的部署,不存在现有技术那样只能从队列中按排序选择ddl任务的限定。157.在一个可选实施例中提供了一种电子设备,如图7所示,图7所示的电子设备4000包括:处理器4001和存储器4003。其中,处理器4001和存储器4003相连,如通过总线4002相连。可选地,电子设备4000还可以包括收发器4004,收发器4004可以用于该电子设备与其他电子设备之间的数据交互,如数据的发送和/或数据的接收等。需要说明的是,实际应用中收发器4004不限于一个,该电子设备4000的结构并不构成对本技术实施例的限定。158.处理器4001可以是cpu(centralprocessingunit,中央处理器),通用处理器,dsp(digitalsignalprocessor,数据信号处理器),asic(applicationspecificintegratedcircuit,专用集成电路),fpga(fieldprogrammablegatearray,现场可编程门阵列)或者其他可编程逻辑器件、晶体管逻辑器件、硬件部件或者其任意组合。其可以实现或执行结合本技术公开内容所描述的各种示例性的逻辑方框,模块和电路。处理器4001也可以是实现计算功能的组合,例如包含一个或多个微处理器组合,dsp和微处理器的组合等。159.总线4002可包括一通路,在上述组件之间传送信息。总线4002可以是pci(peripheralcomponentinterconnect,外设部件互连标准)总线或eisa(extendedindustrystandardarchitecture,扩展工业标准结构)总线等。总线4002可以分为地址总线、数据总线、控制总线等。为便于表示,图7中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。160.存储器4003可以是rom(readonlymemory,只读存储器)或可存储静态信息和指令的其他类型的静态存储设备,ram(randomaccessmemory,随机存取存储器)或者可存储信息和指令的其他类型的动态存储设备,也可以是eeprom(electricallyerasableprogrammablereadonlymemory,电可擦可编程只读存储器)、cd-rom(compactdiscreadonlymemory,只读光盘)或其他光盘存储、光碟存储(包括压缩光碟、激光碟、光碟、数字通用光碟、蓝光光碟等)、磁盘存储介质、其他磁存储设备、或者能够用于携带或存储计算机程序并能够由计算机读取的任何其他介质,在此不做限定。161.存储器4003用于存储执行本技术实施例的计算机程序,并由处理器4001来控制执行。处理器4001用于执行存储器4003中存储的计算机程序,以实现前述方法实施例所示的步骤。162.本技术实施例提供了一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,计算机程序被处理器执行时可实现前述方法实施例的步骤及相应内容。163.本技术实施例还提供了一种计算机程序产品,包括计算机程序,计算机程序被处理器执行时可实现前述方法实施例的步骤及相应内容。164.本技术的说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”、“第四”、“1”、“2”等(如果存在)是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本技术的实施例能够以除图示或文字描述以外的顺序实施。165.应该理解的是,虽然本技术实施例的流程图中通过箭头指示各个操作步骤,但是这些步骤的实施顺序并不受限于箭头所指示的顺序。除非本文中有明确的说明,否则在本技术实施例的一些实施场景中,各流程图中的实施步骤可以按照需求以其他的顺序执行。此外,各流程图中的部分或全部步骤基于实际的实施场景,可以包括多个子步骤或者多个阶段。这些子步骤或者阶段中的部分或全部可以在同一时刻被执行,这些子步骤或者阶段中的每个子步骤或者阶段也可以分别在不同的时刻被执行。在执行时刻不同的场景下,这些子步骤或者阶段的执行顺序可以根据需求灵活配置,本技术实施例对此不限制。166.以上所述仅是本技术部分实施场景的可选实施方式,应当指出,对于本
技术领域
:的普通技术人员来说,在不脱离本技术的方案技术构思的前提下,采用基于本技术技术思想的其他类似实施手段,同样属于本技术实施例的保护范畴。当前第1页12当前第1页12
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1