数据质量管理方法、装置、电子设备、存储介质与流程

本发明涉及计算机应用技术领域，尤其涉及一种数据仓库的数据质量管理方法、装置、电子设备、存储介质。

背景技术：

在互联网的不同业务场景下，不同的数据流入数据仓库。一方面，这些数据分布在各个系统、各类数据库中。并且这些业务和数据源也在快速变化。另一方面，数据仓库作为公司的基础设施，支撑了运营、风控、各类大数据匹配算法等核心业务。数据质量尤为关键。

现有的数据质量管理工具都非常局限，没有从事前预防，事中告警和事后分析做到数据质量管理的闭环，很多现有的工具缺失了影响数据质量的核心流程管理，比如数据仓库上线流程的管理。

技术实现要素：

本发明为了克服上述相关技术存在的缺陷，提供一种数据仓库的数据质量管理方法、装置、电子设备、存储介质，进而至少在一定程度上克服由于相关技术的限制和缺陷而导致的一个或者多个问题。

根据本发明的一个方面，提供一种数据仓库的数据质量管理方法，包括：

配置管理步骤，管理不同类别的账户并配置数据仓库的建表规则；

预防管理步骤，提供公共指标的数据口径，并根据所配置的建表规则校验建表语句；

监控报警步骤，在关联数据仓库的数据表的任务执行时，监控所述数据仓库中数据源的变更、监控该任务的执行状态、根据预配置的数据表的数据质量规则检验所述数据表，并根据监控的数据质量事件向不同类别的账户报警；以及

分析统计步骤，记录并统计所述数据质量事件的数据。

可选地，所述提供公共指标的数据口径包括：

提供公共指标的业务口径，所述业务口径根据业务定义该公共指标；

提供公共指标的技术口径，所述技术口径根据技术定义该公共指标；

提供包含该公共指标的宽表。

可选地，所述不同类别的账户包括第一类账户和第二类账户，所述数据表的数据质量规则由第一类账户配置，所述第二类账户接收所述数据质量事件的报警。

可选地，根据所述数据质量事件的等级，通过不同等级的通信方式向所述第二类账户报警。

可选地，所述不同等级的通信方式包括电话通信、通信软件通信及邮件通信。

可选地，所述记录并统计所述数据质量事件的数据包括：

监控所述数据质量事件的状态；

统计所述数据质量事件的数据并提供图表化显示。

可选地，所述记录并统计所述数据质量事件的数据包括：

记录所述第二类账户处理所述数据质量事件时，录入的所述数据质量事件的影响数据、所述数据质量事件的解决方式及所述数据质量事件的解决事件；

自动获取所述数据质量事件的发生时间、事件等级、事件类型、关联该数据质量时间的第一类账户；

根据记录的及获取的数据对数据质量时间进行统计并以提供图表化显示。

根据本发明的又一方面，还提供一种数据仓库的数据质量管理装置，包括：

配置管理模块，用于管理不同类别的账户并配置数据仓库的建表规则；

预防管理模块，用于提供公共指标的数据口径，并根据所配置的建表规则校验建表语句；

监控报警模块，用于在关联数据仓库的数据表的任务执行时，监控所述数据仓库中数据源的变更、监控该任务的执行状态、根据预配置的数据表的数据质量规则检验所述数据表，并根据监控的数据质量事件向不同类别的账户报警；以及

分析统计模块，用于记录并统计所述数据质量事件的数据。

根据本发明的又一方面，还提供一种电子设备，所述电子设备包括：处理器；存储介质，其上存储有计算机程序，所述计算机程序被所述处理器运行时执行如上所述的步骤。

根据本发明的又一方面，还提供一种存储介质，所述存储介质上存储有计算机程序，所述计算机程序被处理器运行时执行如上所述的步骤。

相比现有技术，本发明的优势在于：

本发明通过在与数据仓库内的数据关联的任务执行前、执行中和执行后对数据仓库进行完整的数据质量管理，且各阶段的数据质量管理紧耦合，不仅可以减少数据质量问题，同时还可以对数据质量问题进行闭环的监控、记录和统计，进一步优化数据仓库的数据质量管理，由此，本发明可以在互联网业务和数据源快速变化的场景下，通过覆盖数据仓库开发的核心流程和数据质量管理的关键环节，一站式解决数据仓库数据质量问题。

附图说明

通过参照附图详细描述其示例实施方式，本发明的上述和其它特征及优点将变得更加明显。

图1示出了根据本发明实施例的数据仓库的数据质量管理方法的流程图。

图2示出了根据本发明实施例的数据仓库的数据质量管理装置的示意图。

图3示出了根据本发明实施例的数据仓库的数据质量管理系统的示意图。

图4示意性示出本发明示例性实施例中一种计算机可读存储介质示意图。

图5示意性示出本发明示例性实施例中一种电子设备示意图。

具体实施方式

现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本发明将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。

此外，附图仅为本发明的示意性图解，并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体，不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

附图中所示的流程图仅是示例性说明，不是必须包括所有的步骤。例如，有的步骤还可以分解，而有的步骤可以合并或部分合并，因此，实际执行的顺序有可能根据实际情况改变。

图1示出了根据本发明实施例的数据仓库的数据质量管理方法的流程图。参考图1，所述数据仓库的数据质量管理方法包括如下步骤：

步骤s110：配置管理步骤，管理不同类别的账户并配置数据仓库的建表规则；

步骤s120：预防管理步骤，提供公共指标的数据口径，并根据所配置的建表规则校验建表语句；

步骤s130：监控报警步骤，在关联数据仓库的数据表的任务执行时，监控所述数据仓库中数据源的变更、监控该任务的执行状态、根据预配置的数据表的数据质量规则检验所述数据表，并根据监控的数据质量事件向不同类别的账户报警；以及

步骤s140：分析统计步骤，记录并统计所述数据质量事件的数据。

在本发明的示例性实施方式的数据仓库的数据质量管理方法中，通过在与数据仓库内的数据关联的任务执行前、执行中和执行后对数据仓库进行完整的数据质量管理，且各阶段的数据质量管理紧耦合，不仅可以减少数据质量问题，同时还可以对数据质量问题进行闭环的监控、记录和统计，进一步优化数据仓库的数据质量管理，由此，本发明可以在互联网业务和数据源快速变化的场景下，通过覆盖数据仓库开发的核心流程和数据质量管理的关键环节，一站式解决数据仓库数据质量问题。

具体而言，步骤s110：配置管理步骤，管理不同类别的账户并配置数据仓库的建表规则中，不同类别的账户至少包括第一类账户和第二类账户。在本实施例中，第一类账户可以是数据仓库的数据表的负责人员账户，负责人员账户例如可以是建表账户、数据表关联的任务的负责账户等等。第二类账户可以是值班人员账户。值班人员在数据仓库出现问题时进行处理的人员。

在一些实施例中，可以手动分配数据表和数据任务关联的责任人账户，或自动从系统中获取数据表和数据任务关联的责任人账户，由此，便于确定后续步骤中的报警对象及数据统计对象等。

在一些实施例中，可以配置或自动分配数据仓库每天的值班人员账户以及备用值班人员账户关联的账户和人员信息，并可以提供值班提醒消息，例如，可以在值班的前一天时候会发短信给值班人员账户以及备用值班人员账户关联的值班人。

在一些实施例中，数据仓库的建表规则可以包括制定数据仓库ods、dwd、dws层(dwd：datawarehousedetail细节数据层，有的也称为ods层，是业务层与数据仓库的隔离层；dwb：datawarehousebase基础数据层，存储的是客观数据，一般用作中间层，可以认为是大量指标的数据层；dws：datawarehouseservice服务数据层，基于dwb上的基础数据，整合汇总成分析某一个主题域的服务数据，一般是宽表。)的表命名规范，以及通用规范。在一些具体实施例中，数据仓库的建表规则可以包括dwd层的要求可以是必须给出数据是增量更新或全量更新的标识。在一些具体实施例中，数据仓库的建表规则可以包括通用规范里的字段注释不能为空。

具体而言，步骤s120预防管理步骤，提供公共指标的数据口径，并根据所配置的建表规则校验建表语句中，所述提供公共指标的数据口径包括：提供公共指标的业务口径，所述业务口径根据业务定义该公共指标；提供公共指标的技术口径，所述技术口径根据技术定义该公共指标；提供包含该公共指标的宽表。在一些具体实施例中，公共指标可以是各个数据表/数据任务都会使用的数据项，为了防止在各个数据表/数据任务中对公共数据项的定义或计数产生差异，通过前述的业务口径、技术口径及宽表来对公共数据项进行统一。以公共数据项为当天支付成功的订单量为例，其业务口径可以是支付发生在当天的订单数；技术口径可以是确定日期为当天、支付状态为成功的订单数量，由此，其它人员可以通过业务口径和技术口径来确定当天支付成功的订单量的业务定义和技术定义，从而不会出现不同的人员通过系统统计的当天支付成功的订单量不同的情况。进一步地，宽表储存了各个公共指标的数据项，其它人员可以直接从宽表获取公共指标的数据项(例如当天支付成功的订单量)，而无需自行统计。由此，可以通过在预防管理步骤统一公共指标，以防止后续数据质量产生问题。

进一步地，步骤s120预防管理步骤，提供公共指标的数据口径，并根据所配置的建表规则校验建表语句中，还基于步骤s110配置的建表规则，在一个建表语句提交时进行校验，如果审核不通过，则不予提交执行。由此，可以在数据任务执行前就防止建表语句不符合规则的建表运行，从而防止后续数据质量产生问题。

具体而言，步骤s130监控报警步骤，在关联数据仓库的数据表的任务执行时，监控所述数据仓库中数据源的变更、监控该任务的执行状态、根据预配置的数据表的数据质量规则检验所述数据表，并根据监控的数据质量事件向不同类别的账户报警中，所述数据表的数据质量规则由第一类账户配置，所述第二类账户接收所述数据质量事件的报警。根据所述数据质量事件的等级，通过不同等级的通信方式向所述第二类账户报警。所述不同等级的通信方式包括电话通信、通信软件通信及邮件通信。

在一些实施例中，步骤s130数据源所有的修改表的操作都会发邮件(或其它通信方式)给第二类账户，以便于第二类账户可以及时修改对应的任务，避免由于数据源的变更造成的数据质量问题。

在一些实施例中，步骤s130数据仓库表和任务的负责人配置数据质量规则，如果出现问题，可以选择邮件、钉钉、电话的方式进行报警。数据质量规则比如可以是，一张表的数据量增长小于等于前7天的最低值。比如一个字段的枚举值的种类增加了等，本发明并非以此为限。

在一些实施例中，每个数据任务都可以标记有重要性等级：高、中、低。等级为高的任务失败后，会直接打电话给值班人(第二类账户)，中等级的任务失败后，会发报警到钉钉群和邮件给值班人(第二类账户)。低等级的任务失败后，会发邮件给值班人(第二类账户)。

具体而言，在步骤s140分析统计步骤，记录并统计所述数据质量事件的数据中，所述记录并统计所述数据质量事件的数据包括：监控所述数据质量事件的状态；统计所述数据质量事件的数据并提供图表化显示。所述记录并统计所述数据质量事件的数据包括：记录所述第二类账户处理所述数据质量事件时，录入的所述数据质量事件的影响数据、所述数据质量事件的解决方式及所述数据质量事件的解决事件；自动获取所述数据质量事件的发生时间、事件等级、事件类型、关联该数据质量时间的第一类账户；根据记录的及获取的数据对数据质量时间进行统计并以提供图表化显示。由此，通过步骤s140一方面对数据质量事件的处理进行追踪和监控，使得数据质量事件的处理形成闭环；另一方面，还对数据质量事件进行统计的分析，以供不同的人员参考。

以上仅仅是示意性地描述了本发明的实施方式，本发明并非以此为限。

下面参见图2，图2示出了根据本发明实施例的数据仓库的数据质量管理装置的示意图。所述数据仓库的数据质量管理装置200包括配置管理模块210、预防管理模块220、监控报警模块230及分析统计模块240。

配置管理模块210用于管理不同类别的账户并配置数据仓库的建表规则；

预防管理模块220用于提供公共指标的数据口径，并根据所配置的建表规则校验建表语句；

监控报警模块230用于在关联数据仓库的数据表的任务执行时，监控所述数据仓库中数据源的变更、监控该任务的执行状态、根据预配置的数据表的数据质量规则检验所述数据表，并根据监控的数据质量事件向不同类别的账户报警；以及

分析统计模块240用于记录并统计所述数据质量事件的数据。

在本发明的示例性实施方式的数据仓库的数据质量管理装置中，通过在与数据仓库内的数据关联的任务执行前、执行中和执行后对数据仓库进行完整的数据质量管理，且各阶段的数据质量管理紧耦合，不仅可以减少数据质量问题，同时还可以对数据质量问题进行闭环的监控、记录和统计，进一步优化数据仓库的数据质量管理，由此，本发明可以在互联网业务和数据源快速变化的场景下，通过覆盖数据仓库开发的核心流程和数据质量管理的关键环节，一站式解决数据仓库数据质量问题。

本发明提供的数据仓库的数据质量管理装置200中各模块可以由软件、硬件、固件、插件其他们的任意组合来实现，本发明并非以此为限。

图2仅仅是示意性的示出本发明提供的数据仓库的数据质量管理装置200，在不违背本发明构思的前提下，模块的拆分、合并、增加都在本发明的保护范围之内。

下面参见图3，图3示出了根据本发明具体实施例的数据仓库的数据质量管理系统的示意图。图3示出的数据仓库的数据质量管理系统包括系统功能层310、储存层320及数据源层330。系统功能层310可以包括配置管理模块311、预防管理模块312、监控报警模块313及分析统计模块314。配置管理模块311、预防管理模块312、监控报警模块313及分析统计模块314与图2中的配置管理模块210、预防管理模块220、监控报警模块230及分析统计模块240的功能相同。储存层320包括配置管理库321和数据质量结果库322。配置管理库321可以用于保存配置管理模块311中配置的账号、规则等。数据质量结果库322用于储存数据质量事件的数据以供分析统计模块314进行追踪、统计和分析。数据源层330包括数据仓库331、元数据332及数据仓库数据源333。前述的系统功能层310和储存层320配合一同对数据源层330进行数据质量的管理。

以上仅仅是示意性地描述了本发明的实施方式，本发明并非以此为限。

在本发明的示例性实施例中，还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被例如处理器执行时可以实现上述任意一个实施例中所述数据仓库的数据质量管理方法的步骤。在一些可能的实施方式中，本发明的各个方面还可以实现为一种程序产品的形式，其包括程序代码，当所述程序产品在终端设备上运行时，所述程序代码用于使所述终端设备执行本说明书上述数据仓库的数据质量管理方法部分中描述的根据本发明各种示例性实施方式的步骤。

参考图4所示，描述了根据本发明的实施方式的用于实现上述方法的程序产品700，其可以采用便携式紧凑盘只读存储器(cd-rom)并包括程序代码，并可以在终端设备，例如个人电脑上运行。然而，本发明的程序产品不限于此，在本文件中，可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。

所述计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、rf等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如java、c++等，还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在租户计算设备上执行、部分地在租户设备上执行、作为一个独立的软件包执行、部分在租户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(lan)或广域网(wan)，连接到租户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。

在本发明的示例性实施例中，还提供一种电子设备，该电子设备可以包括处理器，以及用于存储所述处理器的可执行指令的存储器。其中，所述处理器配置为经由执行所述可执行指令来执行上述任意一个实施例中所述数据仓库的数据质量管理方法的步骤。

所属技术领域的技术人员能够理解，本发明的各个方面可以实现为系统、方法或程序产品。因此，本发明的各个方面可以具体实现为以下形式，即：完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等)，或硬件和软件方面结合的实施方式，这里可以统称为“电路”、“模块”或“系统”。

下面参照图5来描述根据本发明的这种实施方式的电子设备500。图5显示的电子设备500仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。

如图5所示，电子设备500以通用计算设备的形式表现。电子设备500的组件可以包括但不限于：至少一个处理单元510、至少一个存储单元520、连接不同系统组件(包括存储单元520和处理单元510)的总线530、显示单元540等。

其中，所述存储单元存储有程序代码，所述程序代码可以被所述处理单元510执行，使得所述处理单元510执行本说明书上述数据仓库的数据质量管理方法部分中描述的根据本发明各种示例性实施方式的步骤。例如，所述处理单元510可以执行如图1所示的步骤。

所述存储单元520可以包括易失性存储单元形式的可读介质，例如随机存取存储单元(ram)5201和/或高速缓存存储单元5202，还可以进一步包括只读存储单元(rom)5203。

所述存储单元520还可以包括具有一组(至少一个)程序模块5205的程序/实用工具5204，这样的程序模块5205包括但不限于：操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。

总线530可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。

电子设备500也可以与一个或多个外部设备600(例如键盘、指向设备、蓝牙设备等)通信，还可与一个或者多个使得租户能与该电子设备500交互的设备通信，和/或与使得该电子设备500能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(i/o)接口550进行。并且，电子设备500还可以通过网络适配器560与一个或者多个网络(例如局域网(lan)，广域网(wan)和/或公共网络，例如因特网)通信。网络适配器560可以通过总线530与电子设备500的其它模块通信。应当明白，尽管图中未示出，可以结合电子设备500使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、raid系统、磁带驱动器以及数据备份存储系统等。

通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本发明实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是cd-rom，u盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、或者网络设备等)执行根据本发明实施方式的上述数据仓库的数据质量管理方法。

相比现有技术，本发明的优势在于：

本发明通过在与数据仓库内的数据关联的任务执行前、执行中和执行后对数据仓库进行完整的数据质量管理，且各阶段的数据质量管理紧耦合，不仅可以减少数据质量问题，同时还可以对数据质量问题进行闭环的监控、记录和统计，进一步优化数据仓库的数据质量管理，由此，本发明可以在互联网业务和数据源快速变化的场景下，通过覆盖数据仓库开发的核心流程和数据质量管理的关键环节，一站式解决数据仓库数据质量问题。

本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本发明的其它实施方案。本申请旨在涵盖本发明的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本发明未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本发明的真正范围和精神由所附的权利要求指出。