数据传送方法、装置、电子设备及存储介质与流程

文档序号:25992205发布日期:2021-07-23 21:04阅读:86来源:国知局
数据传送方法、装置、电子设备及存储介质与流程

本发明涉及数据处理领域,尤其涉及一种数据传送方法、装置、电子设备及计算机可读存储介质。



背景技术:

在程序开发中经常要求大量数据在短时间内完成运算,并在限定时间内将完整数据传输给另外一个独立系统库,供日常工作人员在离线系统中使用。比如微服集群信贷项目系统中的贷后组件用户息费数据非常大,多达百万,并与日俱增,因此,基于息费数据的运算非常频繁,且得到的大量计算结果需要传输到催收系统。

现在行业中多是将数据单独传输并完成运算,耗时非常长,计算完成后通过定时任务调用系统独立接口传输到对应系统,依赖于定时任务调用系统的稳定性,如果定时任务调用系统处理失败,该数据需要重新进行传输和运算处理,影响后续数据的传输。



技术实现要素:

本发明提供一种数据传送方法、装置、电子设备及计算机可读存储介质,其主要目的在于提高数据传送的稳定性。

为实现上述目的,本发明提供的一种数据传送方法,包括:

对待传输数据集进行分批处理,并将分批后的数据上传至预设的消息中间件中进行队列生成处理,得到标准消息队列;

将所述标准消息队列分组打包,得到多组打包数据,根据预设的数据传输通道将所述多组打包数据下发至多个服务器中触发空闲实例事件并进行空闲实例运算,得到标准数据集;

利用输入函数将所述标准数据集写入预设的文件,并将所述文件上传至文件存储服务器中;

对所述文件存储服务器中的文件进行数据验证处理,在数据验证通过时,将所述文件中的数据发送至目标数据库中。

可选地,所述将所述标准消息队列分组打包,包括:

利用预设的延迟时间对所述标准消息队列中的数据进行延迟处理;

将延迟处理后的数据按照预设的数据批量大小进行分组打包。

可选地,所述根据预设的数据传输通道将所述多组打包数据下发至多个服务器中触发空闲实例事件并进行空闲实例运算,包括:

获取数据信道;

根据预设的传输协议将所述标准消息队列通过所述数据信道传输至多个服务器中触发空闲实例事件并进行空闲实例运算。

可选地,所述利用输入函数将所述标准数据集写入预设的文件,包括:

将所述标准数据集划分为预设大小的多个单元;

将预设的字符串加入至每个单元的头部,并利用所述输入函数将加入字符串的单元写入至所述预设的文件中。

可选地,所述对所述文件存储服务器中的文件进行数据验证处理,包括:

读取所述文件存储服务器中的文件中的数据;

判断所述文件中的数据与目标数据库中的数据列表中的数据是否一致;

若所述文件中的数据与所述数据列表中的数据不一致,对所述文件中的数据进行分批和队列生成处理;

若所述文件中的数据与所述数据列表中的数据一致,将所述文件中的数据发送至所述目标数据库中。

可选地,所述对待传输数据集进行分批处理,包括:

提取所述待传输数据集中的每笔待传输数据对应的id;

根据所述id的获取时间对所述待传输数据进行分批处理。

可选地,所述对待传输数据集进行分批处理之前,所述方法还包括:

基于字节码增强技术生成采集探针,并利用所述采集探针对目标服务器进行埋点;

利用所述采集探针收集所述目标服务器中的数据信息,得到所述待传输数据集。

为了解决上述问题,本发明还提供一种数据传送装置,所述装置包括:

队列生成模块,用于对待传输数据集进行分批处理,并将分批后的数据上传至预设的消息中间件中进行队列生成处理,得到标准消息队列;

队列下发模块,用于将所述标准消息队列分组打包,得到多组打包数据,根据预设的数据传输通道将所述多组打包数据下发至多个服务器中触发空闲实例事件并进行空闲实例运算,得到标准数据集;

文件上传模块,用于利用输入函数将所述标准数据集写入预设的文件,并将所述文件上传至文件存储服务器中;

数据发送模块,用于对所述文件存储服务器中的文件进行数据验证处理,在数据验证通过时,将所述文件中的数据发送至目标数据库中。

为了解决上述问题,本发明还提供一种电子设备,所述电子设备包括:

存储器,存储至少一个指令;及

处理器,执行所述存储器中存储的指令以实现上述所述的数据传送方法。

为了解决上述问题,本发明还提供一种计算机可读存储介质,所述计算机可读存储介质中存储有至少一个指令,所述至少一个指令被电子设备中的处理器执行以实现上述所述的数据传送方法。

本发明实施例通过对传输数据集进行分批处理,并将分批后的数据上传至消息中间件中进行队列生成处理,所述分批处理保证了数据上传的的稳定性,避免出现一次性上传较大的数据集造成消息中间件不稳定的情况,将打包后的标准消息队列下发至多个服务器中进行空闲实例运算,多个服务器同时运算节约了时间。因此本发明提出的数据传送方法和装置,可以解决数据传送的稳定性不高的问题。

附图说明

图1为本发明一实施例提供的数据传送方法的流程示意图;

图2为图1所示的数据传送方法中其中一个步骤的流程示意图;

图3为本发明一实施例提供的数据传送装置的功能模块图;

图4为本发明一实施例提供的实现所述数据传送方法的电子设备的结构示意图。

本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。

具体实施方式

应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。

本申请实施例提供一种数据传送方法。所述数据传送方法的执行主体包括但不限于服务端、终端等能够被配置为执行本申请实施例提供的该方法的电子设备中的至少一种。换言之,所述数据传送方法可以由安装在终端设备或服务端设备的软件或硬件来执行,所述软件可以是区块链平台。所述服务端包括但不限于:单台服务器、服务器集群、云端服务器或云端服务器集群等。

参照图1所示,为本发明一实施例提供的数据传送方法的流程示意图。

在本实施例中,所述数据传送方法包括:

s1、对待传输数据集进行分批处理,并将分批后的数据上传至预设的消息中间件中进行队列生成处理,得到标准消息队列。

本发明实施例中,所述待传输数据集是指需要在短时间完成运算并限定时间内传输给另一个独立系统库的数据集合。

具体地,所述对待传输数据集进行分批处理,包括:

提取所述待传输数据集中的每笔待传输数据对应的id;

根据所述id的获取时间对所述待传输数据进行分批处理。

详细地,所述每笔待传输数据是指需要完成运算和指定传输至独立系统的数据,所述待传输数据集中的每笔待传输数据对应的id用于唯一标识每笔传输数据,提取id的时间是有先后区别的,所述id的获取时间是会同步记录的,故可以直接根据所述id的获取时间对所述待传输数据进行分批处理。

进一步地,所述根据所述id的获取时间对所述待传输数据进行分批处理,,包括:

获取预设的第一时间阈值和预设的第二时间阈值;

判断所述id的获取时间与所述第一时间阈值、第二时间阈值的大小;

将小于或者等于所述第一时间阈值的对应待传输数据整理为第一数据集;

将大于所述第一时间阈值并且小于或者等于所述第二时间阈值的对应待传输数据整理为第二数据集;

将大于所述第二时间阈值的对应待传输数据整理为第三数据集,所述第一数据集、所述第二数据集、所述第三数据集即为分批后的数据。

其中,所述第一时间阈值小于所述第二时间阈值,所述第一时间阈值和所述第二时间阈值均是指时间点。

详细地,获取预设的第一时间阈值和预设的第二时间阈值,所述第一时间阈值和所述第二时间阈值都是指提前设定的两个时间点,其中,所述第一时间阈值小于所述第二时间阈值,当所述id的获取时间小于或者等于所述第一时间阈值,将其对应的待传输数据命名为第一数据集,当所述id的获取时间大于所述第一时间阈值并且小于或者等于所述第二时间阈值,将对应的待传输数据命名为第二数据集,当所述id的获取时间大于所述第二时间阈值时,将对应的待传输数据命名位第三数据集,此时的所述第一数据集、所述第二数据集、所述第三数据集即为分批后的数据。

进一步地,所述将分批后的数据上传至预设的消息中间件中,得到标准消息队列,包括:

根据所述id的获取时间对所述分批后的数据进行排序,得到任务队列;

利用预设的消息中间件对所述任务队列执行消息分发、应用解耦、异步消息及流量削峰操作,得到标准消息队列。

具体地,根据所述id的获取时间的时间先后对所述分批后的数据进行排序,得到任务队列,所述预设的消息中间件包括activemq、rabbitmq、rocketmq和kafka。其中,在本发明实施例中,采用kafka中间件,所述kafka是一个开源流处理平台,由java和scala编写,是一种高吞吐量的分布式消息系统,它可以处理所述任务队列中的所有信息流数据。所述标准消息队列指mq(messagequeue)信息,其采用“先进先出”的数据结构,把要传输的数据(待处理数据)放在队列中,用队列机制来实现消息传递。所述“先进先出”是指在队列信息中,排在前面的信息会被预先处理。本发明实施例中,所述应用解耦是指一条消息有多个系统或模块对应处理时,通过所述kafka中间件可以降低各个系统或模块间的耦合性。所述异步消息是指计算机多线程的异步处理,不用阻塞当前系统或模块的线程来等待处理完成,而是允许后续系统或模块进行操作。所述流量削峰是指高并发情况下,所述kafka中间件使用mq信息做缓冲,将所述mq信息中的信息分散,在一段时间内进行处理,提供高峰期业务处理能力。

在本发明另一实施例中,所述对待传输数据集进行分批处理之前,所述方法还包括:

基于字节码增强技术生成采集探针,并利用所述采集探针对目标服务器进行埋点;

利用所述采集探针收集所述目标服务器中的数据信息,得到所述待传输数据集。

详细地,所述采集探针是通过字节码增强技术对服务器进行埋点,并收集服务器的指标信息。利用字节码增强技术进行埋点的方式无需修改代码,不同的编程语言通过不同的技术直接在语言运行环境或基础库上植入即可,无需日志等辅助手段即可快速完成数据采集。

其中,所述目标服务器是任意选定的一个服务器,所述目标服务器上的同一个应用程序部署在不同的服务器上,所述目标服务器用于发送待传输数据,除所述目标服务器以外的其他的服务器用于接收后续处理完的数据。

s2、将所述标准消息队列分组打包,得到多组打包数据,根据预设的数据传输通道将所述多组打包数据下发至多个服务器中触发空闲实例事件并进行空闲实例运算,得到标准数据集。

本发明实施例中,参阅图2所示,所述将所述标准消息队列分组打包,包括:

s201、利用预设的延迟时间对所述标准消息队列中的数据进行延迟处理;

s202、将延迟处理后的数据按照预设的数据批量大小进行分组打包。

具体地,将所述标准消息队列中的数据统一延迟至预设的延迟时间,并将延迟处理后的数据进行分组打包,延迟处理后的数据量可能较大,故需要按照预设的数据批量大小进行分组打包。

详细地,由于标准消息队列中的数据较多,一次性下发会导致服务器的压力,故需要设定一个标准的数据批量,并按照所述数据批量对延迟处理后的数据进行分组打包。

其中,在本发明实施例中,所述预设的延迟时间可以为10s,因为所述标准消息队列的数据来自是一个mq集群,经过mq集群过来的数据是异步的,有可能延迟而导致数据没有按生产的时间顺序到达,所以避免获取到顺序错乱的数据,最近10秒的数据不读取,相当于延迟10s后再做处理。

进一步地,所述根据预设的数据传输通道将所述多组打包数据下发至多个服务器中触发空闲实例事件并进行空闲实例运算,包括:

获取数据信道;

根据预设的传输协议将所述标准消息队列通过所述数据信道传输至多个服务器中触发空闲实例事件并进行空闲实例运算。

详细地,本发明实施例中,所述数据信道是专用的通信信道,也可以由数据交换网、电话交换网或其他类型的交换网路来提供,所述预设的传输协议可以为tcp协议,所述tcp协议是一种面向连接的、可靠的、基于字节流的传输层通信协议,根据所述tcp协议将所述标准消息队列通过所述数据信道传输至多个服务器中,同时触发空闲实例事件并进行空闲实例运算。

其中,所述预设的数据运算是结合具体应用场景进行选择的运算方式,例如,由于微服集群信贷项目中的贷后组件用户息费数据非常大,故对日切业务计算息费进行数据清洗运算并传输到催收系统中。

s3、利用输入函数将所述标准数据集写入预设的文件,并将所述文件上传至文件存储服务器中。

本发明实施例中,所述将所述标准数据集写入预设的文件,包括:

将所述标准数据集划分为预设大小的多个单元;

将预设的字符串加入至每个单元的头部,并利用所述输入函数将加入字符串的单元写入至所述预设的文件中。

详细地,将所述标准数据集划分为预设大小的多个单元,所述预设大小可以根据实际情况设定,可以是16k或者128k,所述字符串在存储上类似字符数组,它每一位单个元素都是能提取的,其中所述字符串处于所述单元的前端,起到标识每个单元的作用,以保证在后续数据文件读取过程中,即使所述数据文件中部分单元损坏,仍可以通过查找所述字符串的方式找到对应的单元,将预设的字符串加入至每个单元的头部,并利用所述输入函数将加入字符串的单元写入至所述预设的文件中,所述输入函数可以为scanf函数或者gets函数。

其中,所述预设的文件存储服务器为ftp服务器。

s4、对所述文件存储服务器中的文件进行数据验证处理,在数据验证通过时,将所述文件中的数据发送至目标数据库中。

本发明实施例中,所述对所述文件存储服务器中的文件进行数据验证处理,包括:

读取所述文件存储服务器中的文件中的数据;

判断所述文件中的数据与目标数据库中的数据列表中的数据是否一致;

若所述文件中的数据与所述数据列表中的数据不一致,对所述文件中的数据进行分批和队列生成处理;

若所述文件中的数据与所述数据列表中的数据一致,将所述文件中的数据发送至所述目标数据库中。

详细地,利用读写函数将所述文件存储服务器中的文件中的数据读取出来,所述目标数据库中的数据列表是预先设定好的,判断所述文件中的数据与目标数据库中的数据列表中的数据是否一致,若所述文件中的数据与所述数据列表中的数据不一致,则所述文件中的数据并未达到发送的标准,需要对所述文件中的数据进行分批和队列生成处理,重新进行写入预设的文件和将所述文件上传至文件存储服务器中,若所述文件中的数据与所述数据列表中的数据一致,将所述文件中的数据发送至所述目标数据库中。

本发明实施例通过对传输数据集进行分批处理,并将分批后的数据上传至消息中间件中进行队列生成处理,所述分批处理保证了数据上传的的稳定性,避免出现一次性上传较大的数据集造成消息中间件不稳定的情况,将打包后的标准消息队列下发至多个服务器中进行空闲实例运算,多个服务器同时运算节约了时间。因此本发明提出的数据传送方法可以解决数据传送的稳定性不高的问题。

如图3所示,是本发明一实施例提供的数据传送装置的功能模块图。

本发明所述数据传送装置100可以安装于电子设备中。根据实现的功能,所述数据传送装置100可以包括队列生成模块101、队列下发模块102、文件上传模块103及数据发送模块104。本发明所述模块也可以称之为单元,是指一种能够被电子设备处理器所执行,并且能够完成固定功能的一系列计算机程序段,其存储在电子设备的存储器中。

在本实施例中,关于各模块/单元的功能如下:

所述队列生成模块101,用于对待传输数据集进行分批处理,并将分批后的数据上传至预设的消息中间件中进行队列生成处理,得到标准消息队列;

所述队列下发模块102,用于将所述标准消息队列分组打包,得到多组打包数据,根据预设的数据传输通道将所述多组打包数据下发至多个服务器中触发空闲实例事件并进行空闲实例运算,得到标准数据集;

所述文件上传模块103,用于利用输入函数将所述标准数据集写入预设的文件,并将所述文件上传至文件存储服务器中;

所述数据发送模块104,用于对所述文件存储服务器中的文件进行数据验证处理,在数据验证通过时,将所述文件中的数据发送至目标数据库中。

详细地,所述数据传送装置100中的各模块在由电子设备的处理器所执行时,可以实现一种包括下述步骤的数据传送方法:

步骤一、所述队列生成模块101对待传输数据集进行分批处理,并将分批后的数据上传至预设的消息中间件中进行队列生成处理,得到标准消息队列。

本发明实施例中,所述待传输数据集是指需要在短时间完成运算并限定时间内传输给另一个独立系统库的数据集合。

具体地,所述对待传输数据集进行分批处理,包括:

提取所述待传输数据集中的每笔待传输数据对应的id;

根据所述id的获取时间对所述待传输数据进行分批处理。

详细地,所述每笔待传输数据是指需要完成运算和指定传输至独立系统的数据,所述待传输数据集中的每笔待传输数据对应的id用于唯一标识每笔传输数据,提取id的时间是有先后区别的,所述id的获取时间是会同步记录的,故可以直接根据所述id的获取时间对所述待传输数据进行分批处理。

进一步地,所述根据所述id的获取时间对所述待传输数据进行分批处理,包括:

获取预设的第一时间阈值和预设的第二时间阈值;

buzhou;

将小于或者等于所述第一时间阈值的对应待传输数据整理为第一数据集;

将大于所述第一时间阈值并且小于或者等于所述第二时间阈值的对应待传输数据整理为第二数据集;

将大于所述第二时间阈值的对应待传输数据整理为第三数据集,所述第一数据集、所述第二数据集、所述第三数据集即为分批后的数据。

其中,所述第一时间阈值小于所述第二时间阈值,所述第一时间阈值和所述第二时间阈值均是指时间点。

详细地,获取预设的第一时间阈值和预设的第二时间阈值,所述第一时间阈值和所述第二时间阈值都是指提前设定的两个时间点,其中,所述第一时间阈值小于所述第二时间阈值,当所述id的获取时间小于或者等于所述第一时间阈值,将其对应的待传输数据命名为第一数据集,当所述id的获取时间大于所述第一时间阈值并且小于或者等于所述第二时间阈值,将对应的待传输数据命名为第二数据集,当所述id的获取时间大于所述第二时间阈值时,将对应的待传输数据命名位第三数据集,此时的所述第一数据集、所述第二数据集、所述第三数据集即为分批后的数据。

进一步地,所述将分批后的数据上传至预设的消息中间件中,得到标准消息队列,包括:

根据所述id的获取时间对所述分批后的数据进行排序,得到任务队列;

利用预设的消息中间件对所述任务队列执行消息分发、应用解耦、异步消息及流量削峰操作,得到标准消息队列。

具体地,根据所述id的获取时间的时间先后对所述分批后的数据进行排序,得到任务队列,所述预设的消息中间件包括activemq、rabbitmq、rocketmq和kafka。其中,在本发明实施例中,采用kafka中间件,所述kafka是一个开源流处理平台,由java和scala编写,是一种高吞吐量的分布式消息系统,它可以处理所述任务队列中的所有信息流数据。所述标准消息队列指mq(messagequeue)信息,其采用“先进先出”的数据结构,把要传输的数据(待处理数据)放在队列中,用队列机制来实现消息传递。所述“先进先出”是指在队列信息中,排在前面的信息会被预先处理。本发明实施例中,所述应用解耦是指一条消息有多个系统或模块对应处理时,通过所述kafka中间件可以降低各个系统或模块间的耦合性。所述异步消息是指计算机多线程的异步处理,不用阻塞当前系统或模块的线程来等待处理完成,而是允许后续系统或模块进行操作。所述流量削峰是指高并发情况下,所述kafka中间件使用mq信息做缓冲,将所述mq信息中的信息分散,在一段时间内进行处理,提供高峰期业务处理能力。

在本发明另一实施例中,所述对待传输数据集进行分批处理之前,所述方法还包括:

基于字节码增强技术生成采集探针,并利用所述采集探针对目标服务器进行埋点;

利用所述采集探针收集所述目标服务器中的数据信息,得到所述待传输数据集。

详细地,所述采集探针是通过字节码增强技术对服务器进行埋点,并收集服务器的指标信息。利用字节码增强技术进行埋点的方式无需修改代码,不同的编程语言通过不同的技术直接在语言运行环境或基础库上植入即可,无需日志等辅助手段即可快速完成数据采集。

其中,所述目标服务器是任意选定的一个服务器,所述目标服务器上的同一个应用程序部署在不同的服务器上,所述目标服务器用于发送待传输数据,除所述目标服务器以外的其他的服务器用于接收后续处理完的数据。

步骤二、所述队列下发模块102将所述标准消息队列分组打包,得到多组打包数据,根据预设的数据传输通道将所述多组打包数据下发至多个服务器中触发空闲实例事件并进行空闲实例运算,得到标准数据集。

本发明实施例中,所述将所述标准消息队列分组打包,包括:

利用预设的延迟时间对所述标准消息队列中的数据进行延迟处理;

将延迟处理后的数据按照预设的数据批量大小进行分组打包。

具体地,将所述标准消息队列中的数据统一延迟至预设的延迟时间,并将延迟处理后的数据进行分组打包,延迟处理后的数据量可能较大,故需要按照预设的数据批量大小进行分组打包。

详细地,由于标准消息队列中的数据较多,一次性下发会导致服务器的压力,故需要设定一个标准的数据批量,并按照所述数据批量对延迟处理后的数据进行分组打包。

其中,在本发明实施例中,所述预设的延迟时间可以为10s,因为所述标准消息队列的数据来自是一个mq集群,经过mq集群过来的数据是异步的,有可能延迟而导致数据没有按生产的时间顺序到达,所以避免获取到顺序错乱的数据,最近10秒的数据不读取,相当于延迟10s后再做处理。

进一步地,所述根据预设的数据传输通道将所述多组打包数据下发至多个服务器中触发空闲实例事件并进行空闲实例运算,包括:

获取数据信道;

根据预设的传输协议将所述标准消息队列通过所述数据信道传输至多个服务器中触发空闲实例事件并进行空闲实例运算。

详细地,本发明实施例中,所述数据信道是专用的通信信道,也可以由数据交换网、电话交换网或其他类型的交换网路来提供,所述预设的传输协议可以为tcp协议,所述tcp协议是一种面向连接的、可靠的、基于字节流的传输层通信协议,根据所述tcp协议将所述标准消息队列通过所述数据信道传输至多个服务器中,同时触发空闲实例事件并进行空闲实例运算。

其中,所述预设的数据运算是结合具体应用场景进行选择的运算方式,例如,由于微服集群信贷项目中的贷后组件用户息费数据非常大,故对日切业务计算息费进行数据清洗运算并传输到催收系统中。

步骤三、利用输入函数所述文件上传模块103将所述标准数据集写入预设的文件,并将所述文件上传至文件存储服务器中。

本发明实施例中,所述将所述标准数据集写入预设的文件,包括:

将所述标准数据集划分为预设大小的多个单元;

将预设的字符串加入至每个单元的头部,并利用所述输入函数将加入字符串的单元写入至所述预设的文件中。

详细地,将所述标准数据集划分为预设大小的多个单元,所述预设大小可以根据实际情况设定,可以是16k或者128k,所述字符串在存储上类似字符数组,它每一位单个元素都是能提取的,其中所述字符串处于所述单元的前端,起到标识每个单元的作用,以保证在后续数据文件读取过程中,即使所述数据文件中部分单元损坏,仍可以通过查找所述字符串的方式找到对应的单元,将预设的字符串加入至每个单元的头部,并利用所述输入函数将加入字符串的单元写入至所述预设的文件中,所述输入函数可以为scanf函数或者gets函数。

其中,所述预设的文件存储服务器为ftp服务器。

步骤四、所述数据发送模块104对所述文件存储服务器中的文件进行数据验证处理,在数据验证通过时,将所述文件中的数据发送至目标数据库中。

本发明实施例中,所述对所述文件存储服务器中的文件进行数据验证处理,包括:

读取所述文件存储服务器中的文件中的数据;

判断所述文件中的数据与目标数据库中的数据列表中的数据是否一致;

若所述文件中的数据与所述数据列表中的数据不一致,对所述文件中的数据进行分批和队列生成处理;

若所述文件中的数据与所述数据列表中的数据一致,将所述文件中的数据发送至所述目标数据库中。

详细地,利用读写函数将所述文件存储服务器中的文件中的数据读取出来,所述目标数据库中的数据列表是预先设定好的,判断所述文件中的数据与目标数据库中的数据列表中的数据是否一致,若所述文件中的数据与所述数据列表中的数据不一致,则所述文件中的数据并未达到发送的标准,需要对所述文件中的数据进行分批和队列生成处理,重新进行写入预设的文件和将所述文件上传至文件存储服务器中,若所述文件中的数据与所述数据列表中的数据一致,将所述文件中的数据发送至所述目标数据库中。

如图4所示,是本发明一实施例提供的实现数据传送方法的电子设备的结构示意图。

所述电子设备1可以包括处理器10、存储器11和总线,还可以包括存储在所述存储器11中并可在所述处理器10上运行的计算机程序,如数据传送程序12。

其中,所述存储器11至少包括一种类型的可读存储介质,所述可读存储介质包括闪存、移动硬盘、多媒体卡、卡型存储器(例如:sd或dx存储器等)、磁性存储器、磁盘、光盘等。所述存储器11在一些实施例中可以是电子设备1的内部存储单元,例如该电子设备1的移动硬盘。所述存储器11在另一些实施例中也可以是电子设备1的外部存储设备,例如电子设备1上配备的插接式移动硬盘、智能存储卡(smartmediacard,smc)、安全数字(securedigital,sd)卡、闪存卡(flashcard)等。进一步地,所述存储器11还可以既包括电子设备1的内部存储单元也包括外部存储设备。所述存储器11不仅可以用于存储安装于电子设备1的应用软件及各类数据,例如数据传送程序12的代码等,还可以用于暂时地存储已经输出或者将要输出的数据。

所述处理器10在一些实施例中可以由集成电路组成,例如可以由单个封装的集成电路所组成,也可以是由多个相同功能或不同功能封装的集成电路所组成,包括一个或者多个中央处理器(centralprocessingunit,cpu)、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。所述处理器10是所述电子设备的控制核心(controlunit),利用各种接口和线路连接整个电子设备的各个部件,通过运行或执行存储在所述存储器11内的程序或者模块(例如数据传送程序等),以及调用存储在所述存储器11内的数据,以执行电子设备1的各种功能和处理数据。

所述总线可以是外设部件互连标准(peripheralcomponentinterconnect,简称pci)总线或扩展工业标准结构(extendedindustrystandardarchitecture,简称eisa)总线等。该总线可以分为地址总线、数据总线、控制总线等。所述总线被设置为实现所述存储器11以及至少一个处理器10等之间的连接通信。

图4仅示出了具有部件的电子设备,本领域技术人员可以理解的是,图4示出的结构并不构成对所述电子设备1的限定,可以包括比图示更少或者更多的部件,或者组合某些部件,或者不同的部件布置。

例如,尽管未示出,所述电子设备1还可以包括给各个部件供电的电源(比如电池),优选地,电源可以通过电源管理装置与所述至少一个处理器10逻辑相连,从而通过电源管理装置实现充电管理、放电管理、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电装置、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。所述电子设备1还可以包括多种传感器、蓝牙模块、wi-fi模块等,在此不再赘述。

进一步地,所述电子设备1还可以包括网络接口,可选地,所述网络接口可以包括有线接口和/或无线接口(如wi-fi接口、蓝牙接口等),通常用于在该电子设备1与其他电子设备之间建立通信连接。

可选地,该电子设备1还可以包括用户接口,用户接口可以是显示器(display)、输入单元(比如键盘(keyboard)),可选地,用户接口还可以是标准的有线接口、无线接口。可选地,在一些实施例中,显示器可以是led显示器、液晶显示器、触控式液晶显示器以及oled(organiclight-emittingdiode,有机发光二极管)触摸器等。其中,显示器也可以适当的称为显示屏或显示单元,用于显示在电子设备1中处理的信息以及用于显示可视化的用户界面。

应该了解,所述实施例仅为说明之用,在专利申请范围上并不受此结构的限制。

所述电子设备1中的所述存储器11存储的数据传送程序12是多个指令的组合,在所述处理器10中运行时,可以实现:

对待传输数据集进行分批处理,并将分批后的数据上传至预设的消息中间件中进行队列生成处理,得到标准消息队列;

将所述标准消息队列分组打包,得到多组打包数据,根据预设的数据传输通道将所述多组打包数据下发至多个服务器中触发空闲实例事件并进行空闲实例运算,得到标准数据集;

利用输入函数将所述标准数据集写入预设的文件,并将所述文件上传至文件存储服务器中;

对所述文件存储服务器中的文件进行数据验证处理,在数据验证通过时,将所述文件中的数据发送至目标数据库中。

具体地,所述处理器10对上述指令的具体实现方法可参考图1对应实施例中相关步骤的描述,在此不赘述。

进一步地,所述电子设备1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读存储介质中。所述计算机可读存储介质可以是易失性的,也可以是非易失性的。例如,所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、u盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(rom,read-onlymemory)。

本发明还提供一种计算机可读存储介质,所述可读存储介质存储有计算机程序,所述计算机程序在被电子设备的处理器所执行时,可以实现:

对待传输数据集进行分批处理,并将分批后的数据上传至预设的消息中间件中进行队列生成处理,得到标准消息队列;

将所述标准消息队列分组打包,得到多组打包数据,根据预设的数据传输通道将所述多组打包数据下发至多个服务器中触发空闲实例事件并进行空闲实例运算,得到标准数据集;

利用输入函数将所述标准数据集写入预设的文件,并将所述文件上传至文件存储服务器中;

对所述文件存储服务器中的文件进行数据验证处理,在数据验证通过时,将所述文件中的数据发送至目标数据库中。

在本发明所提供的几个实施例中,应该理解到,所揭露的设备,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。

所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。

另外,在本发明各个实施例中的各功能模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能模块的形式实现。

对于本领域技术人员而言,显然本发明不限于上述示范性实施例的细节,而且在不背离本发明的精神或基本特征的情况下,能够以其他的具体形式实现本发明。

因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本发明的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。

本发明所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。

此外,显然“包括”一词不排除其他单元或步骤,单数不排除复数。系统权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第二等词语用来表示名称,而并不表示任何特定的顺序。

最后应说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或等同替换,而不脱离本发明技术方案的精神和范围。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1