数据存储方法及装置与流程

本申请涉及电器领域，具体而言，涉及一种数据存储方法及装置。

背景技术：

在相关技术中，数据接入后的管理是一项重要的工作。一般用数据库存储，而数据库管理是数据库设计后的一切数据库管理活动，包括数据库模型创建、数据加载、数据库系统日常维护活动等，同时是数据库系统运行期间采取对数据库的活动，包括数据服务、性能监督、数据库重组、数据库重构、数据库完整性控制和安全性控制、数据库恢复等方面。

用户用电数据是用access数据库给入，access数据库是一种桌面数据库，在处理少量数据和单机访问时是很好用的，效率也高，但其是一个小型数据库，有它的局限性，在处理海量数据时效率会受到极大影响。当数据库过大时，一般百m以上性能会变差；且理论上支持255个并发用户，但实际根本支持不了那么多，如果以只读的方式访问大概在100个用户左右，如果是并发编辑，大概在10-20个用户；记录数过多，单表记录数过百万性能就会变得较差，如果再加上设计不良，这个限度还要降低；不能编译成可执行文件，必须安装access运行环境才能使用。

针对相关技术中存储数据的过程中存在数据冗余，导致后续数据库访问压力大的问题，目前还没有有效的解决方案。

技术实现要素：

本申请实施例提供了一种数据存储方法及装置，以至少解决相关技术中存储数据的过程中存在数据冗余，导致后续数据库访问压力大的问题。

根据本申请的一个实施例，提供了一种数据存储方法，包括：接收待存储数据；确定所述待存储数据中的第一类数据和第二类数据；对所述第二类数据按照预设规则进行数据挖掘，得到目标数据；将所述第一类数据和所述目标数据存储至关系型数据库中。

可选地，确定所述待存储数据中的第一类数据和第二类数据，包括：确定所述待存储数据是否符合存储规则；确定符合所述存储规则的所述待存储数据为第一类数据，确定不符合所述存储规则的所述待存储数据为第二类数据。

可选地，对所述第二类数据按照预设规则进行数据挖掘，得到目标数据，包括：使用第一模型对所述第二类数据进行分析处理，得到目标数据，其中，所述第一模型是使用多组数据通过机器学习训练出的，所述多组数据中的每组数据均包括初始状态的用电数据，和对应的存储状态的用电数据。

可选地，使用第一模型对所述第二类数据进行分析处理，包括以下至少之一：依据用电设备的不同状态对所述第二类数据中的多个参数进行分类处理；对所述第二类数据中的参数进行回归分析；在所述第二类数据中的多个参数之间建立关联；对所述第二类数据中的多个参数进行聚合。

可选地，将所述第一类数据和所述目标数据存储至关系型数据库中，包括：存储所述第一类数据和所述目标数据至结构化查询语言sqlserver数据库。

可选地，存储所述第一类数据和所述目标数据至结构化查询语言sqlserver数据库之后，在检测到变更所述sqlserver数据库中存储的数据时，将变更操作记录在日志中。

可选地，将变更操作记录在日志中之后，所述方法还包括：监测所述日志；在监测到所述日志存在异常的情况下，将存在异常的日志进行事务回滚。

根据本申请文件的另一个实施例，还提供了一种数据存储装置，包括：接收模块，用于接收待存储数据；确定模块，用于确定所述待存储数据中的第一类数据和第二类数据；数据挖掘模块，用于对所述第二类数据按照预设规则进行数据挖掘，得到目标数据；存储模块，用于将所述第一类数据和所述目标数据存储至关系型数据库中。

根据本申请的又一个实施例，还提供了一种存储介质，所述存储介质中存储有计算机程序，其中，所述计算机程序被设置为运行时执行上述任一项方法实施例中的步骤。

根据本申请的又一个实施例，还提供了一种电子装置，包括存储器和处理器，所述存储器中存储有计算机程序，所述处理器被设置为运行所述计算机程序以执行上述任一项方法实施例中的步骤。

通过本申请，接收待存储数据；确定所述待存储数据中的第一类数据和第二类数据；对所述第二类数据按照预设规则进行数据挖掘，得到目标数据；将所述第一类数据和所述目标数据存储至关系型数据库中。采用上述技术方案，解决了相关技术中存储数据的过程中存在数据冗余，导致后续数据库访问压力大的问题，对待存储数据按照预设规则进行数据挖掘，挖掘整理后再存储，避免了数据冗余，同时建立数据之间的连接，便于后续迅速读取。

附图说明

此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：

图1是本申请实施例的一种数据存储方法的计算机终端的硬件结构框图；

图2是根据本申请实施例的数据存储方法的流程图；

图3是根据本申请文件的用电数据管理方法的流程示意图。

具体实施方式

下文中将参考附图并结合实施例来详细说明本申请。需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。

需要说明的是，本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。

实施例一

本申请实施例一所提供的方法实施例可以在计算机终端或者类似的运算装置中执行。以运行在计算机终端上为例，图1是本申请实施例的一种数据存储方法的计算机终端的硬件结构框图。如图1所示，计算机终端10可以包括一个或多个(图1中仅示出一个)处理器102(处理器102可以包括但不限于微处理器mcu或可编程逻辑器件fpga等的处理装置)和用于存储数据的存储器104，可选地，上述计算机终端还可以包括用于通信功能的传输装置106以及输入输出设备108。本领域普通技术人员可以理解，图1所示的结构仅为示意，其并不对上述计算机终端的结构造成限定。例如，计算机终端10还可包括比图1中所示更多或者更少的组件，或者具有与图1所示不同的配置。

存储器104可用于存储应用软件的软件程序以及模块，如本申请实施例中的一种数据存储方法对应的程序指令/模块，处理器102通过运行存储在存储器104内的软件程序以及模块，从而执行各种功能应用以及数据处理，即实现上述的方法。存储器104可包括高速随机存储器，还可包括非易失性存储器，如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中，存储器104可进一步包括相对于处理器102远程设置的存储器，这些远程存储器可以通过网络连接至计算机终端10。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。

传输装置106用于经由一个网络接收或者发送数据。上述的网络具体实例可包括计算机终端10的通信供应商提供的无线网络。在一个实例中，传输装置106包括一个网络适配器(networkinterfacecontroller，nic)，其可通过基站与其他网络设备相连从而可与互联网进行通讯。在一个实例中，传输装置106可以为射频(radiofrequency，rf)模块，其用于通过无线方式与互联网进行通讯。

在本实施例中提供了一种运行于上述计算机终端的数据存储方法，图2是根据本申请实施例的数据存储方法的流程图，如图2所示，该流程包括如下步骤：

步骤s202，接收待存储数据；

步骤s204，确定所述待存储数据中的第一类数据和第二类数据；

步骤s206，对所述第二类数据按照预设规则进行数据挖掘，得到目标数据；

步骤s208，将所述第一类数据和所述目标数据存储至关系型数据库中。

本申请文件的方案可以应用于存储用电数据的场景中，用电设备可以是空调等家电设备，不局限于此。

通过上述步骤，接收待存储数据；确定所述待存储数据中的第一类数据和第二类数据；对所述第二类数据按照预设规则进行数据挖掘，得到目标数据；将所述第一类数据和所述目标数据存储至关系型数据库中。采用上述技术方案，解决了相关技术中存储数据的过程中存在数据冗余，导致后续数据库访问压力大的问题，对待存储数据按照预设规则进行数据挖掘，挖掘整理后再存储，避免了数据冗余，同时建立数据之间的连接，便于后续迅速读取。

可选地，确定所述待存储数据中的第一类数据和第二类数据，包括：确定所述待存储数据是否符合存储规则；确定符合所述存储规则的所述待存储数据为第一类数据，确定不符合所述存储规则的所述待存储数据为第二类数据。

可选地，对所述第二类数据按照预设规则进行数据挖掘，得到目标数据，包括：使用第一模型对所述第二类数据进行分析处理，得到目标数据，其中，所述第一模型是使用多组数据通过机器学习训练出的，所述多组数据中的每组数据均包括初始状态的用电数据，和对应的存储状态的用电数据。本实施例中的初始状态的用电数据是指从电表等传输到数据库的初始状态，即还未来得及进行数据整理或数据挖掘等操作。对应的存储的用电数据是指经过数据挖掘或者数据整理的数据，即最终存储关系型数据库的数据。

可选地，使用第一模型对所述第二类数据进行分析处理，包括以下至少之一：

依据用电设备的不同状态对所述第二类数据中的多个参数进行分类处理；用电设备的不同状态可以包括用电设备的开关机状态，或者用电设备处于睡眠模式等。

对所述第二类数据中的参数进行回归分析；

在所述第二类数据中的多个参数之间建立关联，建立关联可以是在不同数据之间建立联系，例如通过时间顺序进行关联，或者将属于同一个设备的数据建立联系。

对所述第二类数据中的多个参数进行聚合。

可选地，将所述第一类数据和所述目标数据存储至关系型数据库中，包括：存储所述第一类数据和所述目标数据至结构化查询语言sqlserver数据库。

可选地，存储所述第一类数据和所述目标数据至结构化查询语言sqlserver数据库之后，在检测到变更所述sqlserver数据库中存储的数据时，将变更操作记录在日志中。

可选地，将变更操作记录在日志中之后，所述方法还包括：监测所述日志；在监测到所述日志存在异常的情况下，将存在异常的日志进行事务回滚。

日志异常可以采用相关技术中的日志异常检测技术，在确定存在日志异常的情况下，拒绝导致上述异常出现的数据操作，取消该数据操作，将日志恢复至更新前或者数据操作前。

下面结合本申请文件的另一个实施例进行详细说明。

本申请文件中采用人工智能算法对用户用电数据进行管理，对不符合需求的数据通过分类、回归分析、聚类、关联规则等方法利用机器学习人工智能算法进行数据处理深度挖掘，有效的减少了数据的冗余，将数据存储在关系型数据库sqlserver数据库，方便以后使用。

将数据存入sqlserver数据库，易于使用，适合分布式组织的可伸缩性、用于决策支持的数据仓库功能、与许多其他服务器软件紧密关联集成性、良好的性价比等使得sqlserver数据库进行数据管理与分析更加灵活；sqlserver数据库在对数据进行操作时通过事务回滚及日志监测保证数据库数据增删改查操作的正确进行；同时采用人工智能算法对用户用电数据进行管理，有效的减少了数据的冗余，通过sqlserver备份功能提高数据的容灾。

本申请文件的实施方式可以如下，图3是根据本申请文件的用电数据管理方法的流程示意图，如图3所示，包括以下步骤：

步骤1)，数据接入：

步骤2)，数据接入后判断数据是否符合需求，对于不符合需求的数据利用深度学习等人工智能算法进行处理，转至步骤3，对于符合需求的数据直接进行数据存储，转至步骤4；

步骤3)，算法处理，利用深度学习等人工智能算法处理数据，具体可以包括：分类、回归分析、聚类、关联规则等；分类方法主要处理了定性数据，如开关机状态等，回归分析主要处理了定量数据，如电流、电压等数据，聚类、关联规则等主要是对数据进行聚合分类，保证数据使用的充分性，同时减少数据的冗余；

步骤4)，数据存储：将符合需求的数据存储在关系型数据库中，如sqlserver数据库等，保证数据的结构与格式；

步骤5)，数据操作：将存储在sqlserver数据库的数据进行相关操作；

步骤6)，对数据库中任何数据变更操作都会被记录在日志中，通过日志监测解决某些问题，如查看某些意外的修改；检查日志是否存在异常，在检测到日志存在异常的请况下，转至步骤7；

步骤7)，对于存在异常的日志进行事务回滚，将所有更新都回滚到事务开始之前的状态，保证数据库的正常使用。

采用上述技术方案，实现了以下有益效果：

1)数据库进行数据管理与分析更加灵活；

2)利用人工智能对数据进行处理，减少了数据的冗余；

3)利用人工智能对数据库进行管理，提高数据库的容灾，保证了数据库对数据相关操作的正确进行。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到根据上述实施例的方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如rom/ram、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，或者网络设备等)执行本申请各个实施例所述的方法。

实施例二

在本实施例中还提供了一种数据存储装置，该装置用于实现上述实施例及优选实施方式，已经进行过说明的不再赘述。如以下所使用的，术语“模块”可以实现预定功能的软件和/或硬件的组合。尽管以下实施例所描述的装置较佳地以软件来实现，但是硬件，或者软件和硬件的组合的实现也是可能并被构想的。

根据本申请文件的另一个实施例，还提供了一种数据存储装置，包括：

接收模块，用于接收待存储数据；

确定模块，用于确定所述待存储数据中的第一类数据和第二类数据；

数据挖掘模块，用于对所述第二类数据按照预设规则进行数据挖掘，得到目标数据；

存储模块，用于将所述第一类数据和所述目标数据存储至关系型数据库中。

采用上述技术方案，接收待存储数据；确定所述待存储数据中的第一类数据和第二类数据；对所述第二类数据按照预设规则进行数据挖掘，得到目标数据；将所述第一类数据和所述目标数据存储至关系型数据库中。解决了相关技术中存储数据的过程中存在数据冗余，导致后续数据库访问压力大的问题，对待存储数据按照预设规则进行数据挖掘，挖掘整理后再存储，避免了数据冗余，同时建立数据之间的连接，便于后续迅速读取。

可选地，所述确定模块还用于确定所述待存储数据是否符合存储规则；确定符合所述存储规则的所述待存储数据为第一类数据，确定不符合所述存储规则的所述待存储数据为第二类数据。

可选地，所述数据挖掘模块还用于使用第一模型对所述第二类数据进行分析处理，得到目标数据，其中，所述第一模型是使用多组数据通过机器学习训练出的，所述多组数据中的每组数据均包括初始状态的用电数据，和对应的存储状态的用电数据。

可选地，使用第一模型对所述第二类数据进行分析处理，包括以下至少之一：依据用电设备的不同状态对所述第二类数据中的多个参数进行分类处理；对所述第二类数据中的参数进行回归分析；在所述第二类数据中的多个参数之间建立关联；对所述第二类数据中的多个参数进行聚合。

可选地，所述存储模块还用于存储所述第一类数据和所述目标数据至结构化查询语言sqlserver数据库。

可选地，所述存储模块在存储所述第一类数据和所述目标数据至结构化查询语言sqlserver数据库之后，还用于在检测到变更所述sqlserver数据库中存储的数据时，将变更操作记录在日志中。

可选地，所述存储模块将变更操作记录在日志中之后，还用于监测所述日志；在监测到所述日志存在异常的情况下，将存在异常的日志进行事务回滚。

需要说明的是，上述各个模块是可以通过软件或硬件来实现的，对于后者，可以通过以下方式实现，但不限于此：上述模块均位于同一处理器中；或者，上述各个模块以任意组合的形式分别位于不同的处理器中。

实施例三

本申请的实施例还提供了一种存储介质。可选地，在本实施例中，上述存储介质可以被设置为存储用于执行以下步骤的程序代码：

s1，接收待存储数据；

s2，确定所述待存储数据中的第一类数据和第二类数据；

s3，对所述第二类数据按照预设规则进行数据挖掘，得到目标数据；

s4，将所述第一类数据和所述目标数据存储至关系型数据库中。

可选地，存储介质还被设置为存储用于执行以下步骤的程序代码：

可选地，在本实施例中，上述存储介质可以包括但不限于：u盘、只读存储器(rom，read-onlymemory)、随机存取存储器(ram，randomaccessmemory)、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。

本申请的实施例还提供了一种电子装置，包括存储器和处理器，该存储器中存储有计算机程序，该处理器被设置为运行计算机程序以执行上述任一项方法实施例中的步骤。

可选地，上述电子装置还可以包括传输装置以及输入输出设备，其中，该传输装置和上述处理器连接，该输入输出设备和上述处理器连接。

可选地，在本实施例中，上述处理器可以被设置为通过计算机程序执行以下步骤：

s1，接收待存储数据；

s2，确定所述待存储数据中的第一类数据和第二类数据；

s3，对所述第二类数据按照预设规则进行数据挖掘，得到目标数据；

s4，将所述第一类数据和所述目标数据存储至关系型数据库中。

可选地，本实施例中的具体示例可以参考上述实施例及可选实施方式中所描述的示例，本实施例在此不再赘述。

可选地，本实施例中的具体示例可以参考上述实施例及可选实施方式中所描述的示例，本实施例在此不再赘述。

显然，本领域的技术人员应该明白，上述的本申请的各模块或各步骤可以用通用的计算装置来实现，它们可以集中在单个的计算装置上，或者分布在多个计算装置所组成的网络上，可选地，它们可以用计算装置可执行的程序代码来实现，从而，可以将它们存储在存储装置中由计算装置来执行，并且在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤，或者将它们分别制作成各个集成电路模块，或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样，本申请不限制于任何特定的硬件和软件结合。

以上所述仅为本申请的优选实施例而已，并不用于限制本申请，对于本领域的技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本申请的保护范围之内。