备付金数据实时上报方法、装置、计算机设备和存储介质与流程

文档序号:17889871发布日期:2019-06-13 15:30阅读:292来源:国知局
备付金数据实时上报方法、装置、计算机设备和存储介质与流程

本申请涉及到大数据技术领域,特别是涉及到一种备付金数据实时上报方法、装置、计算机设备和存储介质。



背景技术:

在保险业务系统中,保险产品、客户信息等数据量大,尤其是在业务系统中的支付备付金数据量大,而且备付金数据需要实时上报央行和网联等不同的数据平台以分别在不同的机构进行备案。而且,不同的数据平台所需要备案的备付金数据平台是不完全相同的。目前大部分数据存储都使用数据库或者文件系统,但是当备付金数据量很大时,将大量备付金数据上传到多个数据平台过程中往往会出现操作性能较低的问题,导致上传的速度比较慢,不同的数据平台需要的备付金数据类型也不同,当备付金数据量比较大的时候这样会出现上传错误类型的备付金数据到对应的数据平台的情况。

所以提供一种新的备付金数据实时上报方法是亟需解决的问题。



技术实现要素:

本申请的主要目的为提供一种首先将备付金数据进行分类存储后再根据指令上传到对应的大数据平台的备付金数据实时上报方法、装置、计算机设备和存储介质。

为了实现上述发明目的,本申请提出一种备付金数据实时上报方法,包括:

获取业务系统的备付金数据;

将所述备付金数据通过elasticsearch分类处理后存储到备付金数据库;

接收到大数据平台发送的数据同步指令后,将所述备付金数据库中所述大数据平台需要的类型的备付金数据按照所述数据同步指令上传到大数据平台。

进一步地,所述数据同步指令中包括多个大数据平台,所述接收到数据同步指令后,将所述备付金数据库中所述大数据平台需要的类型的数据按照所述数据同步指令上传到大数据平台的步骤,包括:

接收到大数据平台发送的数据同步指令后,解析所述数据同步指令,获得到需要进行数据同步的多个大数据平台的平台信息;

分别提取与各个所述大数据平台的平台信息对应的备付金数据并进行打包,形成与所述大数据平台对应的数据包,所述平台信息中包括所述大数据平台需要的备付金数据类型;

启动线程,所述线程的数量与所述大数据平台的数量相同;

为每个所述线程配对一个大数据平台,将所述数据包通过所述线程上传到配对的大数据平台。

进一步地,所述将所述备付金数据通过elasticsearch分类处理后存储到备付金数据库的步骤,包括:

根据所述备付金数据的类型,提取出所述备付金数据的关键字段;

分别将所述关键字段存入索引,以便于在检索时可以被检索到;

将所述备付金数据以及对应的关键字段根据所述索引存储到备付金数据库中对应的存储空间。

进一步地,所述将所述备付金数据通过elasticsearch分类处理后存储到备付金数据库的步骤之前,包括:

获取所述备付金数据的属性;

判断所述备付金数据的属性是否符合预设的时效性条件;

若是,生成存储指令,所述存储指令用于指示将所述备付金数据存储到备付金数据库。

进一步地,所述判断所述备付金数据的属性是否符合预设的时效性条件的步骤,包括;

获取所述备付金数据的数据来源端口,所述数据来源端口是所述备付金数据的其中一个属性;

判断所述数据来源端口是否是预设的具有时效性的数据端口;

若是,则判定所述备付金数据的属性符合预设的时效性条件。

进一步地,所述将所述备付金数据库中的备付金数据按照所述指令上传到大数据平台上的步骤之后,包括:

获取所述业务系统中未上传到大数据平台的备付金数据;

将所述未上传到大数据平台的备付金数据从所述业务系统中删除。

进一步地,所述将所述备付金数据库中的备付金数据按照所述指令上传到大数据平台的步骤之后,包括:

获取所述大数据平台的使用内存占比;

若所述使用内存占比超过预设的占比阈值,则发送删除数据的提示信号至所述大数据平台,以便所述大数据平台的管理员对所述大数据平台进行有效管理。

本申请还提供一种备付金数据实时上报装置,包括:

获取模块,用于获取业务系统的备付金数据;

分类模块,用于将所述备付金数据通过elasticsearch分类处理后存储到备付金数据库;

上传模块,用于接收到大数据平台发送的数据同步指令后,将所述备付金数据库中所述大数据平台需要的类型的备付金数据按照所述数据同步指令上传到大数据平台。

本申请还提供一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现上述任一项所述方法的步骤。

本申请还提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述任一项所述的方法的步骤。

本申请的备付金数据实时上报方法、装置、计算机设备和存储介质,引入了elasticsearch作为统一的数据仓库,将业务系统中的备付金数据通过elasticsearch分类存储后,再根据指令将备付金数据分别上传到对应的央行和网联等大数据平台,可以加快备付金数据上传的速度,并有效避免备付金数据上传到错误的大数据平台。并为每个大数据平台配置一个线程,以使备付金数据的上传更加迅速。

附图说明

图1为本申请一实施例的备付金数据实时上报方法的流程示意图;

图2为本申请一实施例的备付金数据实时上报装置的结构示意框图;

图3为本申请一实施例的备付金数据实时上报装置的上传模块的结构示意框图;

图4为本申请一实施例的备付金数据实时上报装置的分类模块的结构示意框图;

图5为本申请一实施例的备付金数据实时上报装置的结构示意框图;

图6为本申请一实施例的备付金数据实时上报装置的判断模块的结构示意框图;

图7为本申请一实施例的备付金数据实时上报装置的结构示意框图;

图8为本申请一实施例的备付金数据实时上报装置的结构示意框图;

图9为本申请一实施例的计算机设备的结构示意框图。

本申请目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。

具体实施方式

为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。

参照图1,本申请实施例提供一种备付金数据实时上报方法,包括步骤:

s1、获取业务系统的备付金数据;

s2、将所述备付金数据通过elasticsearch分类处理后存储到备付金数据库;

s3、接收到大数据平台发送的数据同步指令后,将所述备付金数据库中所述大数据平台需要的类型的备付金数据按照所述数据同步指令上传到大数据平台。

如上述步骤s1所述,该方法的执行主体基于一个保险系统数据的服务器,该服务器与业务系统通信连接,可以互相传输数据。服务器中装置有数据处理系统,可以对其获取到的数据进行处理,或者直接在与其连接的业务系统中对业务系统中的备付金数据进行处理。服务器访问业务系统,获取业务系统中的备付金数据。

如上述步骤s2所述,elasticsearch是一个基于lucene的搜索服务器。它提供了一个分布式多用户能力的全文搜索引擎,基于restfulweb接口。elasticsearch是用java开发的,并作为apache许可条款下的开放源码发布,是当前流行的企业级搜索引擎。elasticsearch具有高性能搜索能力的特点,可以非常快速的检索出需要上报的数据。elasticsearch将备付金数据处理后,即将备付金数据按照预设的规则根据备付金的类型进行分类。将备付金数据进行分类,然后存储到备付金数据库,使备付金数据库中的备付金数据都呈有规律的存储,便于备付金数据被调用时快速准确的被调用到指定的数据。备付金数据库属于上述服务器中的一部分。具体的,elasticsearch根据备付金数据的存储在备付金库的时间来进行分区存储。在另一具体实施例中,elasticsearch根据业务系统的终端来进行分区存储。

如上述步骤s3所述,服务器接收到大数据平台发送的数据同步指令后,解析上述数据同步指令,根据数据同步指令的内容,查找数据同步指令中的关键字,根据上述关键字在备付金数据库中进行检索,查找到与关键字对应的备付金数据。同时,数据同步指令中还包括有大数据平台的相关信息,包括该大数据平台需要的备付金数据的类型,服务器查找到指令对应的备付金数据后,访问数据同步指令对应的大数据平台的信息,将与大数据平台需要的类型相同的备付金数据上传到大数据平台的指定位置。

在一个实施例中,上述数据同步指令中包括多个大数据平台,上述接收到大数据平台发送的数据同步指令后,将所述备付金数据库中所述大数据平台需要的类型的数据按照所述数据同步指令上传到大数据平台的步骤,包括:

s31、接收到大数据平台发送的数据同步指令后,解析所述数据同步指令,获得到需要进行数据同步的多个大数据平台的平台信息;

s32、分别提取与各个所述大数据平台的平台信息对应的备付金数据并进行打包,形成与所述大数据平台对应的数据包,所述平台信息中包括所述大数据平台需要的备付金数据类型;

s33、启动线程,所述线程的数量与所述大数据平台的数量相同;

s34、为每个所述线程配对一个大数据平台,将所述数据包通过所述线程上传到配对的大数据平台。

本实施例中,数据同步指令是由工作人员发出的,或者是由大数据平台根据数据的需求自动发送的。服务器接收到数据同步指令后,解析上述数据同步指令,若是由大数据平台发送的数据同步指令,则获取发送指令的ip,解析出大数据平台的平台信息,平台信息包括大数据平台的名称、大数据平台所需要的备付金数据类型。若是由工作人员发出的数据同步指令,则读取数据同步指令的内容,解析出大数据平台的名称,根据大数据平台的名称获取到大数据平台需要的备付金数据的类型。然后将符合大数据平台需求的数据类型的备付金数据提取出来后打包。备付金数据包含有多个属性的数据,各个大数据平台所需要的数据的属性各不相同,如备付金数据中包含有业务的业务区域、业务类型、客户群体等多种属性信息,不同的属性信息与数据类型分别对应。服务器分别提取出各大数据平台需要的数据类型,然后根据数据类型对应的数据属性,将具有大数据平台对应的数据属性的备付金数据进行打包,得到多个大数据平台对应的数据包。然后服务器使用多线程技术,开启多个线程,其中,线程的数量与大数据平台的数量相同,以使每一个线程与一个大数据平台对应。线程与大数据平台是随机配对的,然后将各自与大数据平台对应的数据包通过该线程发送给大数据平台,以完成迅速准确的将备付金数据同步到对应的大数据平台上。

在一个实施例中,上述将所述业务备付金数据通过elasticsearch分类处理后存储到备付金数据库将所述备付金数据通过分布式实时文件存储的方式存储到备付金数据库的步骤,包括:

s21、根据所述备付金数据的类型,提取出所述备付金数据的关键字段;

s22、分别将所述关键字段存入索引,以便于在检索时可以被检索到;

s23、将所述备付金数据以及对应的关键字段根据所述索引存储到备付金数据库中对应的存储空间。

本实施例中,备付金数据包括很多信息,比如客户的个人信息、客户的财产信息、购买保险的合同信息等。根据备付金数据的不同属性对应的类型,将备付金数据的各个属性对应的类型作为备付金数据的关键字段,然后分别将关键字段存入到索引中。例如,一项备付金数据是一个深圳地区的男性客户的汽车保险需要的备付金相关数据,这项备付金数据根据地区这一属性分为深圳地区,若根据业务类型这一属性分为汽车保险。一个大数据平台需要的是汽车保险相关的备付金数据,则以汽车保险为关键字进行检索,则将该项备付金数据检索到后,上传到该大数据平台。索引是备付金数据库中的目录,上面记载有各个备付金数据的关键字段以及对应的具体存储空间位置。服务器然后读取索引中备付金数据的关键字段分别对应的存储空间位置,将各备付金数据分别存储到对应的存储空间中。

在一个实施例中,上述将所述备付金数据通过分布式实时文件存储的方式存储到备付金数据库的步骤之前,包括;

s201、获取所述备付金数据的属性;

s202、判断所述备付金数据的属性是否符合预设的时效性条件;

s203、若是,生成存储指令,所述存储指令用于指示将所述备付金数据存储到备付金数据库的。

本实施例中,大数据平台上的备付金数据都是实时更新的,而有的备付金数据因不具有实效性,不需要进行上传到大数据平台,对应的,该备付金数据也就不需要存储到备付金数据库中。因此,服务器在存储到备付金数据库之前,首先获取备付金数据的属性,根据备付金数据的属性来判断该备付金数据是否具有时效性。服务器获取备付金数据后,读取备付金数据的属性信息,然后调用预设的时效性条件,根据备付金数据的属性信息来判断备付金数据是否具有时效性,如果具有时效性,则需要将该备付金数据存储到备付金数据库,因此生成存储指令,然后根据该存储指令将备付金数据存储到备付金数据库。其中,用于判断是否符合预设的时效性条件是工作人员预先设置好后存储在服务器中的指定位置,便于服务器获取到备付金数据的性质来进行调用。

在一个实施例中,上述判断所述备付金数据的属性是否符合预设的时效性条件的步骤,包括;

s212、获取所述备付金数据的数据来源端口,所述数据来源端口是所述备付金数据的其中一个属性;

s222、判断所述数据来源端口是否是预设的具有时效性的数据端口;

s232、若是,则判定所述备付金数据的性质符合预设的时效性条件。

本实施例中,备付金数据的来源有多个,有的备付金数据的来源的端口就是固定信息,不是具有实效性的,因此,根据产生不具有时效性的端口的数据来源,来判断备付金数据是否具有时效性。服务器首先读取备付金数据的属性信息,获取其中的来源端口信息,然后调用预设的具有时效性数据端口列表,若数据来源端口是属于预设的具有时效性的数据端口列表中的数据端口,则判定该备付金数据符合预设的时效性条件。其中,具有时效性的数据端口是工作人员预设设置后存储在服务器中的。

在一个实施例中,上述接收到数据同步指令后,将所述备付金数据库中的备付金数据按照所述指令上传到大数据平台上的步骤之后,包括:

s4、获取所述业务系统中未上传到大数据平台的备付金数据;

s5、将所述未上传到大数据平台的备付金数据从所述业务系统中删除。

本实施例中,业务系统中具有很多备付金数据,但是不一定全部上传到大数据平台,只是根据接收到的指令上传对应的备付金数据,因此有的备付金数据不用上传,而这些不用上传的备付金数据在系统上占用一定的空间,时间长了会影响业务系统的运行。因此,服务器解析上述数据同步指令后,获取需要上传的备付金数据的属性,然后将业务系统中不具有上述属性的备付金数据确认为未上传到大数据平台的备付金数据,然后将这些备付金数据删除,清理业务系统的缓存以及内存,节省业务系统的存储空间,使业务系统运行更顺畅。

在一个实施例中,上述将所述备付金数据库中的备付金数据按照所述指令上传到大数据平台的步骤之后,包括:

s6、获取所述大数据平台的使用内存占比;

s7、若所述使用内存占比超过预设的占比阈值,则发送删除数据的提示信号至所述大数据平台,以便所述大数据平台的管理员对所述大数据平台进行有效管理。

本实施例中,大数据平台是一个云存储空间,具有一定的内存空间。当该内存空间存储的数据量达到一定数时,会影响该大数据平台的加载备付金数据的速度,甚至会影响大数据平台所在的系统的运行速度。因此,有必要对大数据平台进行清理,避免大数据平台存储数据过多而减慢备付金数据上传到大数据平台上的速度。服务器首先读取大数据平台的属性,获取到大数据平台的总存储空间大小,同时获取大数据平台上所有数据的内存大小,然后将上述内存大小除以总存储空间大小,得到该大数据平台的内存占比,内存占比是一个百分数。然后将该内存占比与预设的占比阈值进行比较,如果内存占比大于占比阈值,说明大数据平台中的数据过多,则有必要将大数据平台中的备付金数据进行删除。服务器发送删除数据的建议给大数据平台。其中,发送删除数据的建议包括按照备付金数据上传到该大数据平台的先后顺序,优先删除最早上传到大数据平台上的备付金数据,每删除一定的备付金数据后,再次获取大数据平台的内存占比,如果再次获取的内存占比仍大于占比阈值,则继续按照上述顺序删除备付金数据。如此,直至内存占比小于或等于占比阈值。这样保持大数据平台的空间足够大,使备付金数据上传到该大数据平台上时保持快速的上传。

综上所述,本申请的备付金数据实时上传方法,引入了elasticsearch作为统一的数据仓库,将业务系统中的备付金数据通过elasticsearch分类存储后,再根据指令将备付金数据分别上传到对应的央行和网联等大数据平台,可以加快备付金数据上传的速度,并有效避免备付金数据上传到错误的大数据平台。并为每个大数据平台配置一个线程,以使备付金数据的上传更加迅速。

参照图2,本申请实施例中还提供一种备付金数据实时上报装置,包括:

获取模块1,用于获取业务系统的备付金数据;

分类模块2,用于将所述备付金数据通过elasticsearch分类处理后存储到备付金数据库;

上传模块3,用于接收到大数据平台发送的数据同步指令后,将所述备付金数据库中所述大数据平台对应的需要的备付金数据按照所述数据同步指令上传到大数据平台。

本实施例中,该方法的执行主体基于一个保险系统数据的服务器,该服务器与业务系统通信连接,可以互相传输数据。服务器中装置有数据处理系统,可以对其获取到的数据进行处理,或者直接在与其连接的业务系统中对业务系统中的备付金数据进行处理。获取模块1访问业务系统,获取业务系统中的备付金数据。

elasticsearch是一个基于lucene的搜索服务器。它提供了一个分布式多用户能力的全文搜索引擎,基于restfulweb接口。elasticsearch是用java开发的,并作为apache许可条款下的开放源码发布,是当前流行的企业级搜索引擎。elasticsearch具有高性能搜索能力的特点,可以非常快速的检索出需要上报的数据。elasticsearch将备付金数据处理后,即将备付金数据按照预设的规则根据备付金的类型进行分类。分类模块2将备付金数据进行分类,然后存储到备付金数据库,使备付金数据库中的备付金数据都呈有规律的存储,便于备付金数据被调用时快速准确的被调用到指定的数据。备付金数据库属于上述服务器中的一部分。具体的,elasticsearch根据备付金数据的存储在备付金库的时间来进行分区存储。在另一具体实施例中,elasticsearch根据业务系统的终端来进行分区存储。

上传模块3接收到大数据平台发送的数据同步指令后,解析上述数据同步指令,根据数据同步指令的内容,查找数据同步指令中的关键字,根据上述关键字在备付金数据库中进行检索,查找到与关键字对应的备付金数据。同时,数据同步指令中还包括有大数据平台的相关信息,包括该大数据平台需要的备付金数据的类型,上传模块3查找到指令对应的备付金数据后,访问数据同步指令对应的大数据平台的信息,将与大数据平台需要的类型相同的备付金数据上传到大数据平台的指定位置。

参照图3,在一个实施例中,上传模块3包括:

解析单元31,用于接收到大数据平台发送的数据同步指令后,解析所述数据同步指令,获得到需要进行数据同步的多个大数据平台的平台信息;

打包单元32,用于分别提取与各个所述大数据平台的平台信息对应的备付金数据并进行打包,形成与所述大数据平台对应的数据包,所述平台信息中包括所述大数据平台需要的备付金数据类型;

启动单元33,用于启动线程,所述线程的数量与所述大数据平台的数量相同;

上传单元34,用于为每个所述线程配对一个大数据平台,将所述数据包通过所述线程上传到配对的大数据平台。

本实施例中,数据同步指令是由工作人员发出的,或者是由大数据平台根据数据的需求自动发送的。解析单元31接收到数据同步指令后,解析上述数据同步指令,若是由大数据平台发送的数据同步指令,则获取发送指令的ip,解析出大数据平台的平台信息,平台信息包括大数据平台的名称、大数据平台所需要的备付金数据类型。若是由工作人员发出的数据同步指令,则读取数据同步指令的内容,解析出大数据平台的名称,根据大数据平台的名称获取到大数据平台需要的备付金数据的类型。然后打包单元32将符合大数据平台需求的数据类型的备付金数据提取出来后打包。备付金数据包含有多个属性的数据,各个大数据平台所需要的数据的属性各不相同,如备付金数据中包含有业务的业务区域、业务类型、客户群体等多种属性信息,不同的属性信息与数据类型分别对应。打包单元32分别提取出各大数据平台需要的数据类型,然后根据数据类型对应的数据属性,将具有大数据平台对应的数据属性的备付金数据进行打包,得到多个大数据平台对应的数据包。然后启动单元33使用多线程技术,开启多个线程,其中,线程的数量与大数据平台的数量相同,以使每一个线程与一个大数据平台对应。线程与大数据平台是随机配对的,然后上传单元34将各自与大数据平台对应的数据包通过该线程发送给大数据平台,以完成迅速准确的将备付金数据同步到对应的大数据平台上。

参照图4,在一个实施例中,上述分类模块2包括:

提取单元21,用于根据所述备付金数据的类型,提取出所述备付金数据的关键字段;

索引单元22,用于分别将所述关键字段存入索引,以便于在检索时可以被检索到;

存储单元23,用于将所述备付金数据以及对应的关键字段根据所述索引存储到备付金数据库中对应的存储空间。

本实施例中,备付金数据包括很多信息,比如客户的个人信息、客户的财产信息、购买保险的合同信息等。提取单元21根据备付金数据的不同属性对应的类型,将备付金数据的各个属性对应的类型作为备付金数据的关键字段,然后索引单元22分别将关键字段存入到索引中。例如,一项备付金数据是一个深圳地区的男性客户的汽车保险需要的备付金相关数据,这项备付金数据根据地区这一属性分为深圳地区,若根据业务类型这一属性分为汽车保险。一个大数据平台需要的是汽车保险相关的备付金数据,则以汽车保险为关键字进行检索,则将该项备付金数据检索到后,上传到该大数据平台。索引是备付金数据库中的目录,上面记载有各个备付金数据的关键字段以及对应的具体存储空间位置。存储单元23然后读取索引中备付金数据的关键字段分别对应的存储空间位置,将各备付金数据分别存储到对应的存储空间中。

参照图5,在一个实施例中,上述备付金数据实时上报装置还包括:

获取属性模块201,用于获取所述备付金数据的属性;

判断模块202,用于判断所述备付金数据的属性是否符合预设的时效性条件;

生成模块203,用于若所述备付金数据的属性符合预设的时效性条件,生成存储指令,所述存储指令用于指示将所述备付金数据存储到备付金数据库。

本实施例中,大数据平台上的备付金数据都是实时更新的,而有的备付金数据因不具有实效性,不需要进行上传到大数据平台,对应的,该备付金数据也就不需要存储到备付金数据库中。因此,服务器在存储到备付金数据库之前,获取属性模块201首先获取备付金数据的属性,判断模块202根据备付金数据的属性来判断该备付金数据是否具有时效性。获取属性模块201获取备付金数据后,读取备付金数据的属性信息,然后判断模块202调用预设的时效性条件,根据备付金数据的属性信息来判断备付金数据是否具有时效性,如果具有时效性,则需要将该备付金数据存储到备付金数据库,因此生成模块203生成存储指令,然后根据该存储指令将备付金数据存储到备付金数据库。其中,用于判断是否符合预设的时效性条件是工作人员预先设置好后存储在服务器中的指定位置,便于服务器获取到备付金数据的性质来进行调用。

参照图6,在一个实施例中,上述判断模块202包括:

获取单元212,用于获取所述备付金数据的数据来源端口,所述数据来源端口是所述备付金数据的其中一个属性;

判断单元222,用于判断所述数据来源端口是否是预设的具有时效性的数据端口;

判定单元232,用于若所述数据来源端口是预设的具有时效性的数据端口,则判定所述备付金数据的性质符合预设的时效性条件。

本实施例中,备付金数据的来源有多个,有的备付金数据的来源的端口就是固定信息,不是具有实效性的,因此,根据产生不具有时效性的端口的数据来源,来判断备付金数据是否具有时效性。获取单元212首先读取备付金数据的属性信息,获取其中的来源端口信息,然后判断单元222调用预设的具有时效性数据端口列表,若数据来源端口是属于预设的具有时效性的数据端口列表中的数据端口,则判定单元232判定该备付金数据符合预设的时效性条件。其中,具有时效性的数据端口是工作人员预设设置后存储在服务器中的。

参照图7,在一个实施例中,上述备付金数据实时上报装置还包括:

未上传模块4,用于获取所述业务系统中未上传到大数据平台的备付金数据;

删除模块5,用于将所述未上传到大数据平台的备付金数据从所述业务系统中删除。

本实施例中,业务系统中具有很多备付金数据,但是不一定全部上传到大数据平台,只是根据接收到的指令上传对应的备付金数据,因此有的备付金数据不用上传,而这些不用上传的备付金数据在系统上占用一定的空间,时间长了会影响业务系统的运行。因此,未上传模块4解析上述数据同步指令后,获取需要上传的备付金数据的属性,然后将业务系统中不具有上述属性的备付金数据确认为未上传到大数据平台的备付金数据,然后删除模块5将这些备付金数据删除,清理业务系统的缓存以及内存,节省业务系统的存储空间,使业务系统运行更顺畅。

参照图8,在一个实施例中,上述备付金数据实时上报装置还包括:

获取内存模块6,用于获取所述大数据平台的使用内存占比;

提示信号模块7,用于若所述使用内存占比超过预设的占比阈值,则发送删除数据的提示信号至所述大数据平台,以便所述大数据平台的管理员对所述大数据平台进行有效管理。

本实施例中,大数据平台是一个云存储空间,具有一定的内存空间。当该内存空间存储的数据量达到一定数时,会影响该大数据平台的加载备付金数据的速度,甚至会影响大数据平台所在的系统的运行速度。因此,有必要对大数据平台进行清理,避免大数据平台存储数据过多而减慢备付金数据上传到大数据平台上的速度。获取内存模块6首先读取大数据平台的属性,获取到大数据平台的总存储空间大小,同时获取大数据平台上所有数据的内存大小,然后将上述内存大小除以总存储空间大小,得到该大数据平台的内存占比,内存占比是一个百分数。然后将该内存占比与预设的占比阈值进行比较,如果内存占比大于占比阈值,说明大数据平台中的数据过多,则有必要将大数据平台中的备付金数据进行删除。提示信号模块7发送删除数据的建议给大数据平台。其中,发送删除数据的建议包括按照备付金数据上传到该大数据平台的先后顺序,优先删除最早上传到大数据平台上的备付金数据,每删除一定的备付金数据后,再次获取大数据平台的内存占比,如果再次获取的内存占比仍大于占比阈值,则继续按照上述顺序删除备付金数据。如此,直至内存占比小于或等于占比阈值。这样保持大数据平台的空间足够大,使备付金数据上传到该大数据平台上时保持快速的上传。

综上所述,本申请的备付金数据实时上传装置,引入了elasticsearch作为统一的数据仓库,将业务系统中的备付金数据通过elasticsearch分类存储后,再根据指令将备付金数据分别上传到对应的央行和网联等大数据平台,可以加快备付金数据上传的速度,并有效避免备付金数据上传到错误的大数据平台。并为每个大数据平台配置一个线程,以使备付金数据的上传更加迅速。

参照图9,本申请实施例中还提供一种计算机设备,该计算机设备可以是服务器,其内部结构可以如图9所示。该计算机设备包括通过系统总线连接的处理器、存储器、网络接口和数据库。其中,该计算机设计的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统、计算机程序和数据库。该内存器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的数据库用于存储备付金数据等数据。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种备付金数据实时上报方法。

上述处理器执行上述备付金数据实时上报方法的步骤:获取业务系统的备付金数据;将所述备付金数据通过elasticsearch分类处理后存储到备付金数据库;接收到大数据平台发送的数据同步指令后,将所述备付金数据库中所述大数据平台需要的类型的备付金数据按照所述数据同步指令上传到大数据平台。

在一个实施例中,上述数据同步指令中包括多个大数据平台,上述处理器执行所述接收到大数据平台发送的数据同步指令后,将所述备付金数据库中所述大数据平台需要的类型的数据按照所述数据同步指令上传到大数据平台的步骤,包括:接收到大数据平台发送的数据同步指令后,解析所述数据同步指令,获得到需要进行数据同步的多个大数据平台的平台信息;分别提取与各个所述大数据平台的平台信息对应的备付金数据并进行打包,形成与所述大数据平台对应的数据包,所述平台信息中包括所述大数据平台需要的备付金数据类型;启动线程,所述线程的数量与所述大数据平台的数量相同;为每个所述线程配对一个大数据平台,将所述数据包通过所述线程上传到配对的大数据平台。

在一个实施例中,上述处理器执行将所述备付金数据通过elasticsearch分类处理后存储到备付金数据库的步骤,包括:根据所述备付金数据的类型,提取出所述备付金数据的关键字段;分别将所述关键字段存入索引,以便于在检索时可以被检索到;将所述备付金数据以及对应的关键字段根据所述索引存储到备付金数据库中对应的存储空间。

在一个实施例中,上述处理器执行将所述备付金数据通过elasticsearch分类处理后存储到备付金数据库的步骤之前,包括:获取所述备付金数据的属性;判断所述备付金数据的属性是否符合预设的时效性条件;若是,生成存储指令,所述存储指令用于指示将所述备付金数据存储到备付金数据库。

在一个实施例中,上述处理器执行所述判断所述备付金数据的属性是否符合预设的时效性条件的步骤,包括;获取所述备付金数据的数据来源端口,所述数据来源端口是所述备付金数据的其中一个属性;判断所述数据来源端口是否是预设的具有时效性的数据端口;若是,则判定所述备付金数据的属性符合预设的时效性条件。

在一个实施例中,上述处理器执行所述将所述备付金数据库中的备付金数据按照所述指令上传到大数据平台上的步骤之后,包括:获取所述业务系统中未上传到大数据平台的备付金数据;将所述未上传到大数据平台的备付金数据从所述业务系统中删除。

在一个实施例中,上述处理器执行所述将所述备付金数据库中的备付金数据按照所述指令上传到大数据平台的步骤之后,包括:获取所述大数据平台的使用内存占比;若所述使用内存占比超过预设的占比阈值,则发送删除数据的提示信号至所述大数据平台,以便所述大数据平台的管理员对所述大数据平台进行有效管理。

综上所述,本申请的计算机设备,引入了elasticsearch作为统一的数据仓库,将业务系统中的备付金数据通过elasticsearch分类存储后,再根据指令将备付金数据分别上传到对应的央行和网联等大数据平台,可以加快备付金数据上传的速度,并有效避免备付金数据上传到错误的大数据平台。并为每个大数据平台配置一个线程,以使备付金数据的上传更加迅速。

本领域技术人员可以理解,图9中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定。

本申请一实施例还提供一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现一种备付金数据实时上报方法,具体为:获取业务系统的备付金数据;将所述备付金数据通过elasticsearch分类处理后存储到备付金数据库;接收到大数据平台发送的数据同步指令后,将所述备付金数据库中所述大数据平台需要的类型的备付金数据按照所述数据同步指令上传到大数据平台。

在一个实施例中,上述数据同步指令中包括多个大数据平台,上述处理器执行所述接收到大数据平台发送的数据同步指令后,将所述备付金数据库中所述大数据平台需要的类型的数据按照所述指令上传到大数据平台的步骤,包括:接收到大数据平台发送的数据同步指令后,解析所述数据同步指令,获得到需要进行数据同步的多个大数据平台的平台信息;分别提取与各个所述大数据平台的平台信息对应的备付金数据并进行打包,形成与所述大数据平台对应的数据包,所述平台信息中包括所述大数据平台需要的备付金数据类型;启动线程,所述线程的数量与所述大数据平台的数量相同;为每个所述线程配对一个大数据平台,将所述数据包通过所述线程上传到配对的大数据平台。

在一个实施例中,上述处理器执行将所述备付金数据通过elasticsearch分类处理后存储到备付金数据库的步骤,包括:根据所述备付金数据的类型,提取出所述备付金数据的关键字段;分别将所述关键字段存入索引,以便于在检索时可以被检索到;将所述备付金数据以及对应的关键字段根据所述索引存储到备付金数据库中对应的存储空间。

在一个实施例中,上述处理器执行将所述备付金数据通过elasticsearch分类处理后存储到备付金数据库的步骤之前,包括:获取所述备付金数据的属性;判断所述备付金数据的属性是否符合预设的时效性条件;若是,生成存储指令,所述存储指令用于指示将所述备付金数据存储到备付金数据库。

在一个实施例中,上述处理器执行所述判断所述备付金数据的属性是否符合预设的时效性条件的步骤,包括;获取所述备付金数据的数据来源端口,所述数据来源端口是所述备付金数据的其中一个属性;判断所述数据来源端口是否是预设的具有时效性的数据端口;若是,则判定所述备付金数据的属性符合预设的时效性条件。

在一个实施例中,上述处理器执行所述将所述备付金数据库中的备付金数据按照所述指令上传到大数据平台上的步骤之后,包括:获取所述业务系统中未上传到大数据平台的备付金数据;将所述未上传到大数据平台的备付金数据从所述业务系统中删除。

在一个实施例中,上述处理器执行所述将所述备付金数据库中的备付金数据按照所述指令上传到大数据平台的步骤之后,包括:获取所述大数据平台的使用内存占比;若所述使用内存占比超过预设的占比阈值,则发送删除数据的提示信号至所述大数据平台,以便所述大数据平台的管理员对所述大数据平台进行有效管理。

综上所述,本申请的计算机可读存储介质,引入了elasticsearch作为统一的数据仓库,将业务系统中的备付金数据通过elasticsearch分类存储后,再根据指令将备付金数据分别上传到对应的央行和网联等大数据平台,可以加快备付金数据上传的速度,并有效避免备付金数据上传到错误的大数据平台。并为每个大数据平台配置一个线程,以使备付金数据的上传更加迅速。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的和实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和/或易失性存储器。非易失性存储器可以包括只读存储器(rom)、可编程rom(prom)、电可编程rom(eprom)、电可擦除可编程rom(eeprom)或闪存。易失性存储器可包括随机存取存储器(ram)或者外部高速缓冲存储器。作为说明而非局限,ram以多种形式可得,诸如静态ram(sram)、动态ram(dram)、同步dram(sdram)、双速据率sdram(ssrsdram)、增强型sdram(esdram)、同步链路(synchlink)dram(sldram)、存储器总线(rambus)直接ram(rdram)、直接存储器总线动态ram(drdram)、以及存储器总线动态ram(rdram)等。

需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、装置、物品或者方法不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、装置、物品或者方法所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、装置、物品或者方法中还存在另外的相同要素。

以上所述仅为本申请的优选实施例,并非因此限制本申请的专利范围,凡是利用本申请说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本申请的专利保护范围内。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1