资源分配方法及装置、存储介质、电子装置与流程

本发明涉及通信领域，具体而言，涉及一种资源分配方法及装置、存储介质、电子装置。

背景技术：

在大数据时代，数据规模越来越大成为趋势，而在数据进行治理、分析、运行跑数等情况下，一般的跑数，系统并不知道为其分配多少资源，需要人工手动收入资源数量，如何提高效率，节省资源成为一大难题。

针对相关技术中，只能人工手动的为数据处理任务分配资源等问题，尚未提出有效的技术方案。

技术实现要素：

本发明实施例提供了一种资源分配方法及装置、存储介质、电子装置，以至少解决相关技术中只能人工手动的为数据处理任务分配资源等问题。

根据本发明的一个实施例，提供了一种资源分配方法，包括：获取待进行数据处理的数据任务所对应的数据量，以及所述数据任务的分区情况，其中，所述分区情况用于指示所述数据任务的不同划分区间；根据所述数据量和所述分区情况确定分配给所述数据任务的资源。

在本发明实施例中，根据所述数据量和所述分区情况确定分配给所述数据任务的资源之后，所述方法还包括：按照分配好的资源执行所述数据任务。

在本发明实施例中，获取所述数据任务的分区情况之前，所述方法来包括：确定对所述数据任务进行分区所需的参数；根据所述参数对所述数据任务进行分区，其中，所述参数包括至少以下之一：时间，所述数据任务的执行对象。

在本发明实施例中，根据所述数据量和所述分区情况确定分配给所述数据任务的资源，包括：根据所述数据量确定所述分区情况所指示的不同分区所对应的数据量；根据不同分区对应的数据量依次确定不同分区所需的资源。

根据本发明的另一个实施例，还提供了一种资源分配装置，包括：获取模块，用于获取待进行数据处理的数据任务所对应的数据量，以及所述数据任务的分区情况，其中，所述分区情况用于指示所述数据任务的不同划分区间；确定模块，用于根据所述数据量和所述分区情况确定分配给所述数据任务的资源。

在本发明实施例中，所述装置还包括：执行模块，还用于按照分配好的资源执行所述数据任务。

在本发明实施例中，所述获取模块，还用于确定对所述数据任务进行分区所需的参数；根据所述参数对所述数据任务进行分区，其中，所述参数包括至少以下之一：时间，所述数据任务的执行对象。

在本发明实施例中，所述确定模块，还用于根据所述数据量确定所述分区情况所指示的不同分区所对应的数据量；根据不同分区对应的数据量依次确定不同分区所需的资源。

根据本发明的又一个实施例，还提供了一种存储介质，所述存储介质中存储有计算机程序，其中，所述计算机程序被设置为运行时执行上述任一项方法实施例中的步骤。

根据本发明的又一个实施例，还提供了一种电子装置，包括存储器和处理器，所述存储器中存储有计算机程序，所述处理器被设置为运行所述计算机程序以执行上述任一项方法实施例中的步骤。

通过本发明，获取待进行数据处理的数据任务所对应的数据量，以及所述数据任务的分区情况，其中，所述分区情况用于指示所述数据任务的不同划分区间；根据所述数据量和所述分区情况确定分配给所述数据任务的资源，采用上述技术方案，可以解决相关技术中只能人工手动的为数据处理任务分配资源等问题，进而实现了系统根据数据量和所述分区情况确定分配给所述数据任务的资源，避免了人工手动分配的资源成本高，准确率低。

附图说明

此处所说明的附图用来提供对本发明的进一步理解，构成本申请的一部分，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。在附图中：

图1是本发明实施例的一种资源分配方法的终端的硬件结构框图；

图2是根据本发明实施例的资源分配方法的流程图；

图3是根据本发明实施例的资源分配装置的结构框图；

图4是根据本发明实施例的资源分配装置的另一结构框图。

具体实施方式

下文中将参考附图并结合实施例来详细说明本发明。需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。

需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。

本申请实施例1所提供的方法实施例可以在终端、计算机终端或者类似的运算装置中执行。以运行在终端上为例，图1是本发明实施例的一种资源分配方法的终端的硬件结构框图。如图1所示，终端10可以包括一个或多个(图1中仅示出一个)处理器102(处理器102可以包括但不限于微处理器mcu或可编程逻辑器件fpga等的处理装置)和用于存储数据的存储器104，可选地，上述终端还可以包括用于通信功能的传输设备106以及输入输出设备108。本领域普通技术人员可以理解，图1所示的结构仅为示意，其并不对上述终端的结构造成限定。例如，终端10还可包括比图1中所示更多或者更少的组件，或者具有与图1所示等同功能或比图1所示功能更多的不同的配置。

存储器104可用于存储计算机程序，例如，应用软件的软件程序以及模块，如本发明实施例中的资源分配方法对应的计算机程序，处理器102通过运行存储在存储器104内的计算机程序，从而执行各种功能应用以及数据处理，即实现上述的方法。存储器104可包括高速随机存储器，还可包括非易失性存储器，如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中，存储器104可进一步包括相对于处理器102远程设置的存储器，这些远程存储器可以通过网络连接至终端10。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。

传输装置106用于经由一个网络接收或者发送数据。上述的网络具体实例可包括终端10的通信供应商提供的无线网络。在一个实例中，传输装置106包括一个网络适配器(networkinterfacecontroller，简称为nic)，其可通过基站与其他网络设备相连从而可与互联网进行通讯。在一个实例中，传输装置106可以为射频(radiofrequency，简称为rf)模块，其用于通过无线方式与互联网进行通讯。

在本实施例中提供了一种运行于上述终端的资源分配方法，图2是根据本发明实施例的资源分配方法的流程图，如图2所示，该流程包括如下步骤：

步骤s202,获取待进行数据处理的数据任务所对应的数据量，以及所述数据任务的分区情况，其中，所述分区情况用于指示所述数据任务的不同划分区间；

步骤s204，根据所述数据量和所述分区情况确定分配给所述数据任务的资源。

通过本发明，获取待进行数据处理的数据任务所对应的数据量，以及所述数据任务的分区情况，其中，所述分区情况用于指示所述数据任务的不同划分区间；根据所述数据量和所述分区情况确定分配给所述数据任务的资源，采用上述技术方案，可以解决相关技术中只能人工手动的为数据处理任务分配资源等问题，进而实现了系统根据数据量和所述分区情况确定分配给所述数据任务的资源，避免了人工手动分配的资源成本高，准确率低。

在本发明实施例中，根据所述数据量和所述分区情况确定分配给所述数据任务的资源之后，所述方法还包括：按照分配好的资源执行所述数据任务。

在本发明实施例中，获取所述数据任务的分区情况之前，所述方法来包括：确定对所述数据任务进行分区所需的参数；根据所述参数对所述数据任务进行分区，其中，所述参数包括至少以下之一：时间，所述数据任务的执行对象。

在本发明实施例中，根据所述数据量和所述分区情况确定分配给所述数据任务的资源，包括：根据所述数据量确定所述分区情况所指示的不同分区所对应的数据量；根据不同分区对应的数据量依次确定不同分区所需的资源。

在本发明实施例中，获取待进行数据处理的数据任务所对应的数据量，以及所述数据任务的分区情况之前，所述方法还包括：将所述待进行数据处理的数据任务添加到任务执行页面，其中，在将所述数据任务添加到所述任务执行页面后，触发执行以下操作：获取待进行数据处理的数据任务所对应的数据量，以及所述数据任务的分区情况。

在本发明实施例中，根据所述数据量和所述分区情况确定分配给所述数据任务的资源之后，所述方法还包括：保存所述确定分配的所述数据任务的资源。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到根据上述实施例的方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如rom/ram、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，或者网络设备等)执行本发明各个实施例所述的方法。

在本实施例中还提供了一种资源分配装置，该装置用于实现上述实施例及优选实施方式，已经进行过说明的不再赘述。如以下所使用的，术语“模块”可以实现预定功能的软件和/或硬件的组合。尽管以下实施例所描述的装置较佳地以软件来实现，但是硬件，或者软件和硬件的组合的实现也是可能并被构想的。

图3是根据本发明实施例的资源分配装置的结构框图，如图3所示，该装置包括：

获取模块30，用于获取待进行数据处理的数据任务所对应的数据量，以及所述数据任务的分区情况，其中，所述分区情况用于指示所述数据任务的不同划分区间；

确定模块32，用于根据所述数据量和所述分区情况确定分配给所述数据任务的资源。

通过本发明，获取待进行数据处理的数据任务所对应的数据量，以及所述数据任务的分区情况，其中，所述分区情况用于指示所述数据任务的不同划分区间；根据所述数据量和所述分区情况确定分配给所述数据任务的资源，采用上述技术方案，可以解决相关技术中只能人工手动的为数据处理任务分配资源等问题，进而实现了系统根据数据量和所述分区情况确定分配给所述数据任务的资源，避免了人工手动分配的资源成本高，准确率低。

在本发明实施例中，如图4所示，所述装置还包括：执行模块34，还用于按照分配好的资源执行所述数据任务。

在本发明实施例中，所述获取模块30，还用于确定对所述数据任务进行分区所需的参数；根据所述参数对所述数据任务进行分区，其中，所述参数包括至少以下之一：时间，所述数据任务的执行对象。

在本发明实施例中，所述确定模块32，还用于根据所述数据量确定所述分区情况所指示的不同分区所对应的数据量；根据不同分区对应的数据量依次确定不同分区所需的资源。

在本发明实施例中，所述获取模块30，还用于将所述待进行数据处理的数据任务添加到任务执行页面，其中，在将所述数据任务添加到所述任务执行页面后，触发执行以下操作：获取待进行数据处理的数据任务所对应的数据量，以及所述数据任务的分区情况。

在本发明实施例中，所述确定模块32，还用于保存所述确定分配的所述数据任务的资源。

需要说明的是，上述各个模块是可以通过软件或硬件来实现的，对于后者，可以通过以下方式实现，但不限于此：上述模块均位于同一处理器中；或者，上述各个模块以任意组合的形式分别位于不同的处理器中。

本发明的目的，是在数据进行跑数时，对该部分数据进行预计算，从而自动调整任务参数以达到节省集群资源，更高效率的进行任务调度。

以下结合一示例对上述资源分配过程进行说明，但不用于限定本发明实施例的上述技术方案。

可选地，本发明实施例提出一种基于数据源现状自动调参的任务调度实现方法，包括以下步骤：

假设，有一张表a要进行跑数任务。

步骤1，配置好任务信息，在任务调度页面点击添加任务。

步骤2，添加任务即程序会根据添加任务的内容：表a的数据量和表a的分区情况，在该步骤中需要查询表a数据量有多大，再查表a的分区，例如，表a有日期字段，那么将数据进行分区，可以分区成1-3月，4-6月等；

步骤3，根据查询的表a的数据规模大小，后台算法进行自动参数分配，即自动确定出给表a所分配的资源，自动保存任务调度参数。

步骤4，运行任务，会根据自动调餐的结果进行跑数。

本发明的实施例还提供了一种存储介质，该存储介质中存储有计算机程序，其中，该计算机程序被设置为运行时执行上述任一项方法实施例中的步骤。

可选地，在本实施例中，上述存储介质可以被设置为存储用于执行以下步骤的计算机程序：

s1，获取待进行数据处理的数据任务所对应的数据量，以及所述数据任务的分区情况，其中，所述分区情况用于指示所述数据任务的不同划分区间；

s2，根据所述数据量和所述分区情况确定分配给所述数据任务的资源。

可选地，在本实施例中，上述存储介质可以包括但不限于：u盘、只读存储器(read-onlymemory，简称为rom)、随机存取存储器(randomaccessmemory，简称为ram)、移动硬盘、磁碟或者光盘等各种可以存储计算机程序的介质。

本发明的实施例还提供了一种电子装置，包括存储器和处理器，该存储器中存储有计算机程序，该处理器被设置为运行计算机程序以执行上述任一项方法实施例中的步骤。

可选地，上述电子装置还可以包括传输设备以及输入输出设备，其中，该传输设备和上述处理器连接，该输入输出设备和上述处理器连接。

可选地，在本实施例中，上述处理器可以被设置为通过计算机程序执行以下步骤：

s1，获取待进行数据处理的数据任务所对应的数据量，以及所述数据任务的分区情况，其中，所述分区情况用于指示所述数据任务的不同划分区间；

s2，根据所述数据量和所述分区情况确定分配给所述数据任务的资源。

可选地，本实施例中的具体示例可以参考上述实施例及可选实施方式中所描述的示例，本实施例在此不再赘述。

显然，本领域的技术人员应该明白，上述的本发明的各模块或各步骤可以用通用的计算装置来实现，它们可以集中在单个的计算装置上，或者分布在多个计算装置所组成的网络上，可选地，它们可以用计算装置可执行的程序代码来实现，从而，可以将它们存储在存储装置中由计算装置来执行，并且在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤，或者将它们分别制作成各个集成电路模块，或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样，本发明不限制于任何特定的硬件和软件结合。

以上所述仅为本发明的优选实施例而已，并不用于限制本发明，对于本领域的技术人员来说，本发明可以有各种更改和变化。凡在本发明的原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。