本发明涉及数据处理领域，具体而言，涉及一种数据收集分发方法及装置。
背景技术：
随着云计算、大数据技术的发展，数据的来源多样，数据格式不尽相同，运用大数据技术从海量数据中获取潜在的有用信息已得到了各方面的广泛关注。在全球化的数据系统中同时存在着日志数据的中转和汇总、分发等。
现有技术中对数据的收集和分发未有一个有效的方式，一般都是通过提升设备的性能来加快数据的传输，但是在数据量巨大的情况下，还是无法保证数据能有效的传输，因此，如何有效的收集、分发不同来源的数据，从而保证数据及时有效地处理，越来越受到重视。
技术实现要素：
有鉴于此，本发明实施例的目的在于提供一种数据收集分发方法及装置，以改善上述技术问题。
第一方面，本发明实施例提供了一种数据收集分发方法，所述方法包括：
获取多个数据源；
获取所述多个数据源的优先级；
基于所述多个数据源的优先级将所述多个数据源分为多个队列；
基于所述多个数据源的不同的数据分类将每个队列分为多个子队列；
基于每个队列的优先级及每个子队列的优先级，对所述多个数据源进行发送。
进一步地，获取所述多个数据源的优先级，包括：
判断所述多个数据源中是否携带有优先级标签；
若是，则从所述多个数据源中获取所述多个数据源的优先级；
若否，则为未携带有所述优先级标签的数据源按照预设规则分配对应的优先级。
进一步地，基于所述多个数据源的优先级将所述多个数据源分为多个队列，包括：
将具有相同优先级的数据源分为同一个队列，以获得多个队列。
进一步地，基于所述多个数据源的不同的数据分类将每个队列分为多个子队列，包括：
将所述同一个队列中的数据源按照不同的数据类型分为多个子队列；或者
将所述同一个队列中的数据源按照不同的数据主题分为多个子队列；或者
将所述同一个队列中的数据源按照不同的数据源IP分为多个子队列。
进一步地，基于所述多个数据源的不同的数据分类将每个队列分为多个子队列之后，基于每个队列的优先级及每个子队列的优先级，对所述多个数据源进行发送之前，所述方法还包括：
为每个子队列分配对应的CPU资源及内存资源；
基于每个子队列的CPU资源及内存资源确定每个子队列的优先级。
第二方面，本发明实施例提供了一种数据收集分发装置，所述装置包括：
数据获取模块，用于获取多个数据源；
优先级获取模块，用于获取所述多个数据源的优先级；
队列划分模块，用于基于所述多个数据源的优先级将所述多个数据源分为多个队列；
子队列划分模块，用于基于所述多个数据源的不同的数据分类将每个队列分为多个子队列；
数据发送模块，用于基于每个队列的优先级及每个子队列的优先级，对所述多个数据源进行发送。
进一步地，所述优先级获取模块，具体用于判断所述多个数据源中是否携带有优先级标签；若是，则从所述多个数据源中获取所述多个数据源的优先级；若否，则为未携带有所述优先级标签的数据源按照预设规则分配对应的优先级。
进一步地，所述队列划分模块，用于将具有相同优先级的数据源分为同一个队列，以获得多个队列。
进一步地，所述子队列划分模块，用于将所述同一个队列中的数据源按照不同的数据类型分为多个子队列；或者
将所述同一个队列中的数据源按照不同的数据主题分为多个子队列；或者
将所述同一个队列中的数据源按照不同的数据源IP分为多个子队列。
进一步地，所述装置还包括：
资源分配模块，用于为每个子队列分配对应的CPU资源及内存资源；基于每个子队列的CPU资源及内存资源确定每个子队列的优先级。
第三方面，本发明实施例提供一种电子设备，包括处理器以及存储器，所述存储器存储有计算机可读取指令，当所述计算机可读取指令由所述处理器执行时，运行如上述第一方面提供的所述方法中的步骤。
第四方面，本发明实施例提供一种可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时运行如上述第一方面提供的所述方法中的步骤。
本发明实施例的有益效果是：
本发明实施例提供一种数据收集分发方法及装置，该方法通过获取多个数据源，然后获取所述多个数据源的优先级，再基于所述多个数据源的优先级将所述多个数据源分为多个队列，基于所述多个数据源的不同的数据分类将每个队列分为多个子队列，然后基于每个队列的优先级及每个子队列的优先级，对所述多个数据源进行发送，因此，本方案中将数据源分为不同的多个队列及多个子队列，根据多个队列和多个子队列的优先级对数据源进行发送，由此提高了数据源的有效处理，避免了因数据量过大而无法对数据源进行及时有效的处理的问题。
本发明的其他特征和优点将在随后的说明书阐述，并且，部分地从说明书中变得显而易见，或者通过实施本发明实施例了解。本发明的目的和其他优点可通过在所写的说明书、权利要求书、以及附图中所特别指出的结构来实现和获得。
附图说明
为了更清楚地说明本发明实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本发明的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。
图1示出了一种可应用于本申请实施例中的电子设备的结构框图；
图2为本发明实施例提供的一种数据收集分发方法的流程图；
图3为本发明实施例提供的一种数据收集分发装置的结构框图。
具体实施方式
下面将结合本发明实施例中附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。因此，以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围，而是仅仅表示本发明的选定实施例。基于本发明的实施例，本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本发明保护的范围。
应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。同时，在本发明的描述中，术语“第一”、“第二”等仅用于区分描述，而不能理解为指示或暗示相对重要性。
请参照图1，图1示出了一种可应用于本申请实施例中的电子设备100的结构框图。电子设备100可以包括数据收集分发装置、存储器101、存储控制器102、处理器103、外设接口104、输入输出单元105、音频单元106、显示单元107。
所述存储器101、存储控制器102、处理器103、外设接口104、输入输出单元105、音频单元106、显示单元107各元件相互之间直接或间接地电性连接，以实现数据的传输或交互。例如，这些元件相互之间可通过一条或多条通讯总线或信号线实现电性连接。所述数据收集分发装置包括至少一个可以软件或固件(firmware)的形式存储于所述存储器101中或固化在所述数据收集分发装置的操作系统(operating system，OS)中的软件功能模块。所述处理器103用于执行存储器101中存储的可执行模块，例如所述数据收集分发装置包括的软件功能模块或计算机程序。
其中，存储器101可以是，但不限于，随机存取存储器(Random Access Memory，RAM)，只读存储器(Read Only Memory，ROM)，可编程只读存储器(Programmable Read-Only Memory，PROM)，可擦除只读存储器(Erasable Programmable Read-Only Memory，EPROM)，电可擦除只读存储器(Electric Erasable Programmable Read-Only Memory，EEPROM)等。其中，存储器101用于存储程序，所述处理器103在接收到执行指令后，执行所述程序，前述本发明实施例任一实施例揭示的流过程定义的服务器所执行的方法可以应用于处理器103中，或者由处理器103实现。
处理器103可以是一种集成电路芯片，具有信号的处理能力。上述的处理器103可以是通用处理器，包括中央处理器(Central Processing Unit，简称CPU)、网络处理器(Network Processor，简称NP)等；还可以是数字信号处理器(DSP)、专用集成电路(ASIC)、现成可编程门阵列(FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器103也可以是任何常规的处理器等。
所述外设接口104将各种输入/输出装置耦合至处理器103以及存储器101。在一些实施例中，外设接口104，处理器103以及存储控制器102可以在单个芯片中实现。在其他一些实例中，他们可以分别由独立的芯片实现。
输入输出单元105用于提供给用户输入数据实现用户与所述服务器(或本地终端)的交互。所述输入输出单元105可以是，但不限于，鼠标和键盘等。
音频单元106向用户提供音频接口，其可包括一个或多个麦克风、一个或者多个扬声器以及音频电路。
显示单元107在所述电子设备100与用户之间提供一个交互界面(例如用户操作界面)或用于显示图像数据给用户参考。在本实施例中，所述显示单元107可以是液晶显示器或触控显示器。若为触控显示器，其可为支持单点和多点触控操作的电容式触控屏或电阻式触控屏等。支持单点和多点触控操作是指触控显示器能感应到来自该触控显示器上一个或多个位置处同时产生的触控操作，并将该感应到的触控操作交由处理器103进行计算和处理。
所述外设接口104将各种输入/输入装置耦合至处理器103以及存储器101。在一些实施例中，外设接口104，处理器103以及存储控制器102可以在单个芯片中实现。在其他一些实例中，他们可以分别由独立的芯片实现。
输入输出单元105用于提供给用户输入数据实现用户与处理终端的交互。所述输入输出单元105可以是，但不限于，鼠标和键盘等。
可以理解，图1所示的结构仅为示意，所述电子设备100还可包括比图1中所示更多或者更少的组件，或者具有与图1所示不同的配置。图1中所示的各组件可以采用硬件、软件或其组合实现。
本发明实施例还提供一种可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时运行如下所述的数据收集分发方法中的步骤。
请参照图2，图2为本发明实施例提供的一种数据收集分发方法的流程图，所述方法包括如下步骤：
步骤S110：获取多个数据源。
步骤S120：获取所述多个数据源的优先级。
获取的数据源可以是不同类型的数据源，或者同一类型的数据源，其中，根据数据源的数据格式确定数据的类型。
为了实现对多个数据源的先后发送，在接收到多个数据源后，判断所述多个数据源中是否携带有优先级标签，若是，则从所述多个数据源中获取所述多个数据源的优先级，若否，则为未携带有所述优先级标签的数据源按照预设规则分配对应的优先级。
其中，预设规则为：按照数据源IP、数据的主题、数据的类型(比如json格式，一般文本格式)等多个维度，例如，若按照源IP来分配优先级，对应某一源IP为10.1.1.2的数据源分配优先级为1，对于源IP为10.0.0.3的数据源分配优先级为2；若按照数据的主题来分配优先级，如对于数据的主题为生活的数据源分配优先级为10，对于数据的主题为工作的数据源分配优先级为8；若按照数据的类型来分配优先级，如对于数据的类型为文档格式的数据源分配优先级为7，对于数据的类型为图片格式的数据源分配优先级为8。
需要说明的是，数据源中一般会携带上述的数据源IP、数据的主题、数据的类型中的至少一种，预先对每个分类对应的优先级预先进行定义，若一个数据源中同时包括至少两种数据维度，如包括数据源IP和数据的类型，则为该数据源分配优先级时，将两个维度的优先级取平均值来为数据源分配优先级，如，该数据源的数据源IP对应的优先级为8，数据的类型对应的优先级为7，则最后为该数据源分配的优先级为7.5。
其中，优先级编号从0开始，数值越小，优先级越高。
步骤S130：基于所述多个数据源的优先级将所述多个数据源分为多个队列。
为了实现对多个数据源的分发，可以将多个数据源分为多个队列，然后按照队列的优先级进行分发，作为一种实施方式，可以将具有相同优先级的数据源分为同一个队列，从而获得多个队列。
当然，作为另外的实施方式，还可以将多个数据源的优先级按优先级高低进行排序，例如，将在优先级为10前的数据源分为第一队列，将在优先级为10-20之间的数据源分为第二队列，将在优先级为20之后的数据源分为第三队列。
当然，作为一种实施方式，还可以将在优先级为20之前的属于同一数据主题的数据源分为一个队列，将在优先级为20之后的属于同一个数据主题的数据源分为一个队列，由此可基于不同的数据主题分为多个队列。
步骤S140：基于所述多个数据源的不同的数据分类将每个队列分为多个子队列。
为了对数据源进行进一步细分，还可以将多个队列分为多个子队列，即将所述同一个队列中的数据源按照不同的数据类型分为多个子队列；或者将所述同一个队列中的数据源按照不同的数据主题分为多个子队列；或者将所述同一个队列中的数据源按照不同的数据源IP分为多个子队列。
例如，若每个队列中的数据源为同一个优先级，则为了对这同一个优先级的数据源按先后顺序进行发送，则可将这些数据源基于不同的数据类型再划分为多个子队列，例如数据类型为文档的数据源划分为一个子队列，数据类型为图片格式的数据源划分为另一个子队列。或者，还可将这些数据源基于不同的数据主题再划分多个子队列，例如，数据主题为生活主题的数据源划分为一个子队列，数据主题为工作主题的数据源划分为另一个子队列。或者，还可将这些数据源基于源IP划分为多个子队列，如将某一类的源IP地址的数据源划分为一个子队列，另一类的源IP地址的数据源划分为另一个子队列。由此可通过上述方法将多个队列又划分为多个子队列，即将多个数据源分成多层的队列。
步骤S150：基于每个队列的优先级及每个子队列的优先级，对所述多个数据源进行发送。
由于多个队列是根据数据源的优先级进行划分的，如每个队列中的数据源的优先级相同，则为每个队列分配的优先级为与该队列中数据源的优先级相等，例如，某个队列中的数据源的优先级均为5，则该队列的优先级也为5，所以，可根据队列的优先级来进行数据的发送，即先发送优先级高的队列中的数据源。
需要说明的是，数据源可以发送至数据存储设备或者数据处理设备，以对数据源进行存储或进行其他的处理。
由于队列中还分为多个子队列，多个子队列的优先级可基于数据分类进行分配，如将优先级为5的队列中的数据源基于数据的类型分为了三个子队列，每个数据类型对应的优先级不同，所以三个子队列可以对应不同的优先级，由此可基于三个子队列的优先级高低依次将队列中的数据源发送出去。例如，将数据源分为四个队列，其中四个队列的优先级分别为1、2、4、8，则优先发送优先级为1的队列中的数据源，优先级为1的队列又分为了三个子队列，其三个子队列的优先级分别为2、5、7，则先发送优先级为2中的子队列中的数据源，然后再发送优先级为5的子队列中的数据源，然后再发送优先级为7的子队列中的数据源。
另外，为了对每个子队列进行隔离发送，可以为每个子队列分配对应的CPU资源及内存资源，可以基于每个子队列的CPU资源及内存资源确定每个子队列的优先级。
一个子队列的优先级越高，为其分配的资源占比就越高，发送时，每个子队列使用不同的进程，做到进程间的安全隔离，从而每个子队列之间的数据发送户不影响。
此外，本实施例中，还可时刻监测吞吐量、单位时间的接收发送字节数、单位时间的接收发送记录条数、发送失败数、CPU资源使用情况、内存使用情况等，从而通过监测可获得上述监测信息，在监测信息不理想的情况下，可通过直接在网页中修改数据发送的相关参数选项，即修改上述的监测信息，实现数据分发的控制。另外，管理员还可以给不同的用户配置不同的权限，使得不同权限下的用户能够监控与该用户账户下的所有数据源的分发状态。
请参照图3，图3为本发明实施例提供的一种数据收集分发装置200的结构框图，所述装置包括：
数据获取模块210，用于获取多个数据源；
优先级获取模块220，用于获取所述多个数据源的优先级；
队列划分模块230，用于基于所述多个数据源的优先级将所述多个数据源分为多个队列；
子队列划分模块240，用于基于所述多个数据源的不同的数据分类将每个队列分为多个子队列；
数据发送模块250，用于基于每个队列的优先级及每个子队列的优先级，对所述多个数据源进行发送。
进一步地，所述优先级获取模块220，具体用于判断所述多个数据源中是否携带有优先级标签；若是，则从所述多个数据源中获取所述多个数据源的优先级；若否，则为未携带有所述优先级标签的数据源按照预设规则分配对应的优先级。
进一步地，所述队列划分模块230，用于将具有相同优先级的数据源分为同一个队列，以获得多个队列。
进一步地，所述子队列划分模块240，用于将所述同一个队列中的数据源按照不同的数据类型分为多个子队列；或者
将所述同一个队列中的数据源按照不同的数据主题分为多个子队列；或者
将所述同一个队列中的数据源按照不同的数据源IP分为多个子队列。
进一步地，所述装置还包括：
资源分配模块，用于为每个子队列分配对应的CPU资源及内存资源；基于每个子队列的CPU资源及内存资源确定每个子队列的优先级。
所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的装置的具体工作过程，可以参考前述方法中的对应过程，在此不再过多赘述。
综上所述，本发明实施例提供一种数据收集分发方法及装置，该方法通过获取多个数据源，然后获取所述多个数据源的优先级，再基于所述多个数据源的优先级将所述多个数据源分为多个队列，基于所述多个数据源的不同的数据分类将每个队列分为多个子队列，然后基于每个队列的优先级及每个子队列的优先级，对所述多个数据源进行发送，因此，本方案中将数据源分为不同的多个队列及多个子队列，根据多个队列和多个子队列的优先级对数据源进行发送，由此提高了数据源的有效处理，避免了因数据量过大而无法对数据源进行及时有效的处理的问题。
在本申请所提供的几个实施例中，应该理解到，所揭露的装置和方法，也可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的，例如，附图中的流程图和框图显示了根据本发明的多个实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分，所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现方式中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
另外，在本发明各个实施例中的各功能模块可以集成在一起形成一个独立的部分，也可以是各个模块单独存在，也可以两个或两个以上模块集成形成一个独立的部分。
所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述仅为本发明的优选实施例而已，并不用于限制本发明，对于本领域的技术人员来说，本发明可以有各种更改和变化。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。
以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应所述以权利要求的保护范围为准。
需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。