本发明涉及合规风控系统采集资讯行情数据的完整性校验领域,特别是涉及一种资管合规风控平台资讯数据完整性校验方法及系统。
背景技术:
1、为满足资管投资业务发展的需要,避免在业务开展的过程中触发监管风控而受到监管处罚,投资管理人通常会使用合规风控系统对交易行为进行事后风控监测。
2、合规风控系统进行风控规则计算时主要使用了估值及市场资讯这两类数据。资讯数据是各类金融市场公开信息的统称,其中每天发生变化、对风控计算有直接影响且容易发生数据采集缺漏的,是标准证券的每日行情数据。
3、行情数据由于数据量较大,基本通过增量模式进行采集。如果某几天行情数据采集失败且没有进行人工回溯采集,就会出现行情数据不完整的问题。多数情况下,行情数据缺失都是在风控部门处理合规风控系统的风控结果时才能发现,影响风控工作的正常开展。
4、因此,每天对采集的行情数据进行完整性校验,及时发现数据缺失问题,是合规风控系统运维保障极其重要的一环。
技术实现思路
1、本发明的目的是提供一种资管合规风控平台资讯数据完整性校验方法及系统,能够对采集的资讯数据进行完整性校验。
2、为实现上述目的,本发明提供了如下方案:
3、一种资管合规风控平台资讯数据完整性校验方法,所述校验方法包括:
4、构建行情校验信息表、行情校验异常明细表、个券行情校验信息表和个券行情校验异常明细表,并获取行情校验范围信息表、行情表和交易日历表;其中,所述行情校验信息表包括行情表英文名、行情数据最小日期、行情数据最大日期、校验正常天数、校验异常天数及更新时间;所述行情校验异常明细表包括行情表英文名、行情缺失日期及更新时间;所述个券行情校验信息表包括证券代码、行情数据最小日期、行情数据最大日期、校验正常天数、校验异常天数及更新时间;所述个券行情校验异常明细表包括证券代码、行情缺失日期及更新时间;所述行情校验范围信息表包括行情表英文名、行情表中文名、是否需要校验、校验初始开始日期和更新时间;所述行情校验信息表以所述行情表英文名为约束;所述行情校验异常明细表以所述行情表英文名以及所述行情缺失日期为约束;所述个券行情校验信息表以所述证券代码为约束;所述个券行情校验异常明细表以所述证券代码及行情缺失日期作为约束;
5、根据所述行情校验范围信息表的行情表英文名和所述行情校验范围信息表的是否需要校验,应用行情数据校验入参获取方法,获取行情数据校验的行情表英文名;
6、根据所述行情数据校验的行情表英文名、所述行情校验范围信息表、行情表和交易日历表,应用行情表数据校验方法,确定校验后的行情表英文名、校验后的校验异常天数、校验后的校验正常天数、校验后的行情数据最小日期、校验后的行情数据最大日期、校验后的行情缺失日期和校验更新时间,并根据所述校验后的行情表英文名、所述校验后的校验异常天数、所述校验后的校验正常天数、所述校验后的行情数据最小日期、所述校验后的行情数据最大日期和所述校验更新时间对所述行情校验信息表进行更新,以及根据所述校验后的行情表英文名、所述校验后的行情缺失日期和所述校验更新时间对所述行情校验异常明细表进行更新;
7、根据所述行情校验范围信息表的行情表英文名、所述行情校验范围信息表的是否需要校验、所述行情校验范围信息表的校验初始开始日期和所述个券行情校验信息表的行情数据最大日期,应用行情数据校验入参获取方法,获取个券行情校验的行情表英文名和增量校验开始日期;
8、根据所述个券行情校验的增量校验开始日期、所述行情校验范围信息表、行情表和所述交易日历表,应用行情表个券数据校验方法,确定校验后的证券代码、校验后的校验异常天数、校验后的校验正常天数、校验后的行情数据最小日期、校验后的行情数据最大日期、校验后的行情缺失日期和校验更新时间,并根据所述校验后的证券代码、所述校验后的校验异常天数、所述校验后的校验正常天数、所述校验后的行情数据最小日期、所述校验后的行情数据最大日期和所述校验更新时间对所述个券行情校验信息表进行更新,以及根据所述校验后的证券代码、所述校验后的行情缺失日期和所述校验更新时间对所述个券行情校验异常明细表进行更新。
9、可选地,所述校验方法还包括:
10、显示行情校验信息和个券行情校验信息;所述行情校验信息包括更新后的行情校验信息表和更新后的行情校验异常明细表中的内容;所述个券行情校验信息包括更新后的个券行情校验信息表和所述个券行情校验异常明细表中的内容。
11、可选地,所述行情校验信息包括校验时间、表名、异常天数、正常天数、数据最小日、数据最大日和异常日期;所述校验时间为所述行情校验信息表的更新时间;所述表名为所述行情校验信息表的行情表英文名;所述异常天数为所述行情校验信息表的校验异常天数;所述正常天数为所述行情校验信息表的校验正常天数;所述数据最小日为所述行情校验信息表的行情数据最小日期;所述数据最大日为所述行情校验信息表的行情数据最大日期;所述异常日期为所述行情校验信息表的行情缺失日期。
12、可选地,所述个券行情校验信息包括证券代码、数据最小日、数据最大日、正常天数、异常天数和异常日期;所述证券代码为所述个券行情校验信息表的证券代码;所述数据最小日为所述个券行情校验信息表的行情数据最小日期;所述数据最大日为所述个券行情校验信息表的行情数据最大日期;所述正常天数为所述个券行情校验信息表的校验正常天数;所述异常天数为所述个券行情校验信息表的校验异常天数;所述异常日期为所述个券行情校验异常明细表的行情缺失日期。
13、可选地,根据所述行情校验范围信息表的行情表英文名和所述行情校验范围信息表的是否需要校验,应用行情数据校验入参获取方法,获取行情数据校验的行情表英文名,具体包括:
14、获取所述行情校验范围信息表的是否需要校验的字段;
15、当所述行情校验范围信息表的是否需要校验的字段为是时,得到对应的所述行情校验范围信息表的行情表英文名。
16、可选地,根据所述行情数据校验的行情表英文名、所述行情校验范围信息表、所述行情表和所述交易日历表,应用行情表数据校验方法,确定校验后的行情表英文名、校验后的校验异常天数、校验后的校验正常天数、校验后的行情数据最小日期、校验后的行情数据最大日期、校验后的行情缺失日期和校验更新时间,具体包括:
17、根据所述行情数据校验的行情表英文名,确定所述行情校验异常明细表中的行情表英文名;
18、根据所述行情表和所述交易日历表,从行情表中查找数据缺失的交易日,得到校验后的行情缺失日期和行情日期的缺失天数;
19、根据所述行情数据校验的行情表英文名,从所述行情表中获取行情数据最小日期和行情数据最大日期,并将所述行情数据最小日期作为所述行情校验信息表的行情数据最小日期,将所述行情数据最大日期作为所述行情校验信息表的行情数据最大日期;
20、根据从所述行情校验信息表中获取行情数据最小日期和行情数据最大日期以及所述行情日期的缺失天数,计算行情校验信息表的真实行情天数;
21、根据所述行情校验信息表的校验异常天数和所述行情日期的缺失天数,得到校验后的校验异常天数;
22、根据所述行情校验信息表的真实行情天数和所述行情校验信息表的校验异常天数的差,得到校验后的校验正常天数;
23、获取所述行情表中行情日期的最大值作为校验后的行情数据最大日期;
24、获取所述行情表中行情日期的最小值作为校验后的行情数据最小日期;
25、根据所述行情校验信息表和所述行情校验异常明细表的更新时间,得到校验更新时间。
26、可选地,根据所述行情校验范围信息表的行情表英文名、所述行情校验范围信息表的是否需要校验、所述行情校验范围信息表的校验初始开始日期和所述个券行情校验信息表的行情数据最大日期,应用行情数据校验入参获取方法,获取个券行情校验的行情表英文名和增量校验开始日期,具体包括:
27、获取所述行情校验范围信息表的是否需要校验的字段为是的情况下对应的所述行情校验范围信息表的行情表英文名和对应的所述行情校验范围信息表的校验初始开始日期;
28、根据对应的所述行情校验范围信息表的行情表英文名,获取对应的所述行情校验信息表的行情数据最大日期;
29、当所述对应的所述行情校验信息表的行情数据最大日期为空时,将所述行情校验范围信息表的校验初始开始日期作为所述个券行情校验的行情表的增量校验开始日期;
30、当所述对应的所述行情校验信息表的行情数据最大日期不为空时,根据对应的所述行情校验范围信息表的校验初始开始日期的字段值和对应的所述行情校验信息表的行情数据最大日期的字段值的比较结果,确定字段值大的日期为目标日期,并将所述目标日期增加一日后的日期对应的交易日历表中的交易日作为个券行情校验的增量校验开始日期。
31、可选地,根据所述个券行情校验的增量校验开始日期、所述行情校验范围信息表、所述行情表和所述交易日历表,应用行情表个券数据校验方法,确定校验后的证券代码、校验后的校验异常天数、校验后的校验正常天数、校验后的行情数据最小日期、校验后的行情数据最大日期、校验后的行情缺失日期和校验更新时间,具体包括:
32、获取所述行情表中行情日期的最大值作为校验后的行情数据最大日期;
33、获取所述行情表中行情日期的最小值作为校验后的行情数据最小日期;
34、获取所述交易日历表中在所述个券行情校验的增量校验开始日期之后存在数据缺失的交易日,得到校验后的行情缺失日期、校验后的证券代码和行情日期的缺失天数;
35、根据所述行情数据校验的行情表英文名,从所述行情表中获取行情数据最小日期和行情数据最大日期,并将所述行情数据最小日期作为所述个券行情校验信息表的行情数据最小日期,将所述行情数据最大日期作为所述个券行情校验信息表的行情数据最大日期;
36、根据所述个券行情校验信息表的行情数据最小日期、所述个券行情校验信息表的行情数据最大日期和所述行情缺失日期,得到个券行情校验信息表的真实行情天数;
37、将所述行情日期的缺失天数与所述个券行情校验信息表的校验异常天数相加,得到校验后的校验异常天数;
38、将所述个券行情校验信息表的真实行情天数与所述个券行情校验信息表的校验异常天数相减,得到校验后的校验正常天数;
39、根据所述个券行情校验信息表和所述个券行情校验异常明细表的更新时间,得到校验更新时间。
40、一种资管合规风控平台资讯数据完整性校验系统,应用上述的资管合规风控平台资讯数据完整性校验方法,所述校验系统包括:
41、第一获取模块,用于构建行情校验信息表、行情校验异常明细表、个券行情校验信息表和个券行情校验异常明细表,并获取行情校验范围信息表、行情表和交易日历表;其中,所述行情校验信息表包括行情表英文名、行情数据最小日期、行情数据最大日期、校验正常天数、校验异常天数及更新时间;所述行情校验异常明细表包括行情表英文名、行情缺失日期及更新时间;所述个券行情校验信息表包括证券代码、行情数据最小日期、行情数据最大日期、校验正常天数、校验异常天数及更新时间;所述个券行情校验异常明细表包括证券代码、行情缺失日期及更新时间;所述行情校验范围信息表包括行情表英文名、行情表中文名、是否需要校验、校验初始开始日期和更新时间;所述行情校验信息表以所述行情表英文名为约束;所述行情校验异常明细表以所述行情表英文名以及所述行情缺失日期为约束;所述个券行情校验信息表以所述证券代码为约束;所述个券行情校验异常明细表以所述证券代码及行情缺失日期作为约束;
42、第二获取模块,用于根据所述行情校验范围信息表的行情表英文名和所述行情校验范围信息表的是否需要校验,应用行情数据校验入参获取方法,获取行情数据校验的行情表英文名;
43、第一校验模块,用于根据所述行情数据校验的行情表英文名、所述行情校验范围信息表、行情表和交易日历表,应用行情表数据校验方法,确定校验后的行情表英文名、校验后的校验异常天数、校验后的校验正常天数、校验后的行情数据最小日期、校验后的行情数据最大日期、校验后的行情缺失日期和校验更新时间,并根据所述校验后的行情表英文名、所述校验后的校验异常天数、所述校验后的校验正常天数、所述校验后的行情数据最小日期、所述校验后的行情数据最大日期和所述校验更新时间对所述行情校验信息表进行更新,以及根据所述校验后的行情表英文名、所述校验后的行情缺失日期和所述校验更新时间对所述行情校验异常明细表进行更新;
44、第三获取模块,用于根据所述行情校验范围信息表的行情表英文名、所述行情校验范围信息表的是否需要校验、所述行情校验范围信息表的校验初始开始日期和所述个券行情校验信息表的行情数据最大日期,应用行情数据校验入参获取方法,获取个券行情校验的行情表英文名和增量校验开始日期;
45、第二校验模块,用于根据所述个券行情校验的增量校验开始日期、所述行情校验范围信息表、行情表和所述交易日历表,应用行情表个券数据校验方法,确定校验后的证券代码、校验后的校验异常天数、校验后的校验正常天数、校验后的行情数据最小日期、校验后的行情数据最大日期、校验后的行情缺失日期和校验更新时间,并根据所述校验后的证券代码、所述校验后的校验异常天数、所述校验后的校验正常天数、所述校验后的行情数据最小日期、所述校验后的行情数据最大日期和所述校验更新时间对所述个券行情校验信息表进行更新,以及根据所述校验后的证券代码、所述校验后的行情缺失日期和所述校验更新时间对所述个券行情校验异常明细表进行更新。
46、根据本发明提供的具体实施例,本发明公开了以下技术效果:
47、通过在合规风控系统中增加行情数据完整性的自动校验功能,能够在数据采集任务执行完成后,快速确认是否存在由于资讯数据源未更新或未准时更新等异常情况导致的行情数据采集不全或采集为空的意外情况,从而提醒系统运维人员在第一时间进行人工干预,有效的避免了资讯行情数据异常导致的风控计算不准确问题,确保合规风控业务顺利开展。