本发明属于电力系统自动化领域,涉及一种电力交易业务数据处理方法、系统、设备及存储介质。
背景技术:
1、随着电改的持续深入推进,交易业务品种日益丰富,新一代电力交易平台已在市场服务、市场出清、信息发布、市场合规等方面开展业务,交易业务数据规模急剧增加,业务数据逻辑也日益复杂,交易审计、风险防控等方面面临的历史数据追溯和数据分析问题也日益突出。现有的交易业务系统对交易过程中历史数据的数字档案功能支撑较弱,无法满足交易审计、风险防控和运营监测等方面面临的历史数据追溯和数据分析需求。
2、中国专利申请cn115543697a,公开了一种电子档案存储方法、装置、电子设备和存储介质,包括确定待存储的多个电子档案,以及用于存储电子档案的多个存储介质;将多个电子档案存储于多个存储介质;确定多个存储介质中每一存储介质所存储的数据包;基于各数据包之间的数据差异,确定目标校验包,并将目标校验包存储于校验介质,目标校验包用于恢复任一数据包。
3、如上述的电子档案存储方法,所考虑的是存储每一电子档案的数据包和表征各个电子档案之间数据差异的目标校验包,在中长期电力交易档案存储基础数据量较大的情况下,多次重复存档数据包之间存在大量的未变更数据多次重复存档,很大程度上造成了存储资源的浪费。
技术实现思路
1、本发明的目的在于克服上述现有技术的缺点,提供一种电力交易业务数据处理方法、系统、设备及存储介质。
2、为达到上述目的,本发明采用以下技术方案予以实现:
3、本发明第一方面,提供一种电力交易业务数据处理方法,包括:
4、抽取电力交易业务库中的电力交易业务变更数据;
5、判定所述电力交易业务变更数据的数据主体,并根据所述电力交易业务变更数据的数据主体,将所述电力交易业务变更数据与所述数据主体对应的信息数仓层的历史拉链表的最新状态数据进行对比,获取所述电力交易业务变更数据中的新增数据和变更数据并进行缓存,得到开链数据;
6、将开链数据插入到对应的历史拉链表中,并且在历史拉链表中将开链数据的开始日期字段设置为数据变更时间,结束日期字段设置为预设无穷大时间,状态标识字段设置为最新状态数据标识符。
7、可选的,所述抽取电力交易业务库中的电力交易业务变更数据包括:采用周期性触发和变化监测触发相结合的方式,抽取电力交易业务库中的电力交易业务变更数据。
8、可选的,所述采用周期性触发和变化监测触发相结合的方式,抽取电力交易业务库中的电力交易业务变更数据包括:
9、对于电力交易业务库中具有明确变化时间点的电力交易业务数据,通过获取电力交易业务数据的明确变化时间点,并基于所述明确变化时间点周期性触发数据抽取,抽取电力交易业务变更数据;
10、对于电力交易业务库中不具有明确变化时间点的电力交易业务数据,定时收集电力交易业务库额定回滚时间段的binlog日志数据,并按binlog日志数据的日志文件名、数据库id、目标表名、数据操作事件类型、日志起始、结束位置、执行时间、数据操作信息以及日志采集时间进行解析过滤,得到电力交易业务库各业务源表的数据操作类型、操作内容、操作时间以及操作人,并基于电力交易业务库各业务源表的元组变更建立变更状态监测表;以及根据变更状态监测表,抽取各业务源表的元组数据,得到电力交易业务变更数据。
11、可选的,所述信息数仓层包括业务单元档案信息层、市场主体档案信息层以及市场档案信息应用层;数据主体为业务单元时对应的信息数仓层为业务单元档案信息层,数据主体为市场主体时对应的信息数仓层为市场主体档案信息层,数据主体为其他时对应的信息数仓层为市场档案信息应用层。
12、可选的,采用各信息数仓层设置的档案超级表管理各信息数仓层的各历史拉链表,通过档案超级表定义各历史拉链表的表结构和静态属性。
13、可选的,将所述电力交易业务变更数据与所述数据主体对应的信息数仓层的历史拉链表的最新状态数据进行对比时,抽取所述历史拉链表的最新状态数据中发生变化的数据并缓存,得到关链数据;以及在历史拉链表中将关链数据的结束日期字段更新为数据变更时间-1,状态标识字段更新为历史状态数据标识符。
14、可选的,所述历史拉链表中的数据按照时序进行存储。
15、本发明第二方面,提供一种电力交易业务数据处理系统,包括:
16、数据抽取模块,用于抽取电力交易业务库中的电力交易业务变更数据;
17、数据比对模块,用于判定所述电力交易业务变更数据的数据主体,并根据所述电力交易业务变更数据的数据主体,将所述电力交易业务变更数据与所述数据主体对应的信息数仓层的历史拉链表的最新状态数据进行对比,获取所述电力交易业务变更数据中的新增数据和变更数据并进行缓存,得到开链数据;
18、数据存储模块,用于将开链数据插入到对应的历史拉链表中,并且在历史拉链表中将开链数据的开始日期字段设置为数据变更时间,结束日期字段设置为预设无穷大时间,状态标识字段设置为最新状态数据标识符。
19、本发明第三方面,提供一种计算机设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述电力交易业务数据处理方法的步骤。
20、本发明第四方面,提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述电力交易业务数据处理方法的步骤。
21、与现有技术相比,本发明具有以下有益效果:
22、本发明电力交易业务数据处理方法,首先抽取电力交易业务库中的电力交易业务变更数据,然后判定电力交易业务变更数据的数据主体,进而将电力交易业务变更数据与所述数据主体对应的信息数仓层的历史拉链表的最新状态数据进行对比,以此获取所述电力交易业务变更数据中的新增数据和变更数据并进行缓存,得到开链数据,然后将将开链数据插入到对应的历史拉链表中,并设置开链数据的开始日期字段、结束日期字段和状态标识字段完成电力交易业务数据处理。通过电力交易业务变更数据采集和拉链表存储方式的应用,采用拉链表的形式标记随机缓变的数据在生命周期内的变化历程,在保证数据全生命周期存档的基础上实现了最小化数据量存储,最大程度上避免了信息的冗余储存。与此同时,基于分层的信息数仓层的设计,又使得数据的查询和读取更加高效。
1.一种电力交易业务数据处理方法,其特征在于,包括:
2.根据权利要求1所述的电力交易业务数据处理方法,其特征在于,所述抽取电力交易业务库中的电力交易业务变更数据包括:采用周期性触发和变化监测触发相结合的方式,抽取电力交易业务库中的电力交易业务变更数据。
3.根据权利要求2所述的电力交易业务数据处理方法,其特征在于,所述采用周期性触发和变化监测触发相结合的方式,抽取电力交易业务库中的电力交易业务变更数据包括:
4.根据权利要求1所述的电力交易业务数据处理方法,其特征在于,所述信息数仓层包括业务单元档案信息层、市场主体档案信息层以及市场档案信息应用层;数据主体为业务单元时对应的信息数仓层为业务单元档案信息层,数据主体为市场主体时对应的信息数仓层为市场主体档案信息层,数据主体为其他时对应的信息数仓层为市场档案信息应用层。
5.根据权利要求1所述的电力交易业务数据处理方法,其特征在于,采用各信息数仓层设置的档案超级表管理各信息数仓层的各历史拉链表,通过档案超级表定义各历史拉链表的表结构和静态属性。
6.根据权利要求1所述的电力交易业务数据处理方法,其特征在于,将所述电力交易业务变更数据与所述数据主体对应的信息数仓层的历史拉链表的最新状态数据进行对比时,抽取所述历史拉链表的最新状态数据中发生变化的数据并缓存,得到关链数据;以及在历史拉链表中将关链数据的结束日期字段更新为数据变更时间-1,状态标识字段更新为历史状态数据标识符。
7.根据权利要求1所述的电力交易业务数据处理方法,其特征在于,所述历史拉链表中的数据按照时序进行存储。
8.一种电力交易业务数据处理系统,其特征在于,包括:
9.一种计算机设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述电力交易业务数据处理方法的步骤。
10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述电力交易业务数据处理方法的步骤。