一种智慧工地对不完整数据的修补方法、装置及存储介质与流程

1.本发明涉及一种智慧工地对不完整数据的修补方法、装置及存储介质，属于数据修补技术领域。


背景技术：

2.硬件设备传输数据产生缺失，主要分为机械原因和人员原因。机械原因是由于机械出现故障导致的数据收集或保存的失败造成的数据缺失，比如数据存储的失败，存储器损坏，机械故障导致某段时间数据未能收集(对于定时数据采集而言)。人为原因是由于人的主观失误、历史局限造成的数据缺失，比如，数据录入人员失误漏录了数据。针对以上的问题，设计了一种数据缺失修补方法，用于修补智慧工地智能设备数据传输时的数据不完整问题。


技术实现要素：

3.本发明的目的在于克服现有技术中的不足，提供一种智慧工地对不完整数据的修补方法、装置及存储介质，用于修补智慧工地智能设备数据传输时的数据不完整问题。
4.为达到上述目的，本发明是采用下述技术方案实现的：
5.第一方面，本发明提供了一种智慧工地对不完整数据的修补方法，包括：
6.获取智慧智能设备的数据，将数据插入到预先创建的数据表中；
7.对所述数据表中的数据进行循环遍历，查找缺失值所在位置并标记为空值；
8.为每个空值产生一套初始插补值，对所述初始插补值进行统计分析，确定最终的插补值并进行插补。
9.进一步的，所述为每个空值产生一套初始插补值，对所述初始插补值进行统计分析，确定最终的插补值并进行插补，包括:
10.采用平均值算法计算数据表中每一行或者每一列数据的平均值作为初始插补值；
11.查看缺失值附件值的数值大小，并与平均值做对比，确定最终的插补值并进行插补。
12.进一步的，所述查看缺失值附件值的数值大小，并与平均值做对比，确定最终的插补值并进行插补包括：
13.当采用每一行数据计算平均值时，若缺失值的左右两侧都有数据值，则使用平均值进行插补，若缺失值的左侧有数据值，右侧没有，则使用数值左侧的值进行插补，若缺失值的右侧有数据值，左侧没有，则使用数值右侧的值进行插补。
14.进一步的，所述查看缺失值附件值的数值大小，并与平均值做对比，确定最终的插补值并进行插补包括：
15.当采用每一列数据计算平均值时，若缺失值的上下两侧都有数据值，则使用平均值进行插补，若缺失值的上侧有数据值，下侧没有，则使用数值上侧的值进行插补，若缺失值的下侧有数据值，上侧没有，则使用数值下侧的值进行插补。
16.进一步的，数据插补完以后，若数据行中没有任何的数据，这种数据将复制上一条或者下一条数据行的值来进行插补。
17.进一步的，数据插补完以后，若数据列中没有任何的数据，这种数据将复制左一侧或者右一侧数据列的值来进行插补。
18.进一步的，所述为每个空值产生一套初始插补值，对所述初始插补值进行统计分析，确定最终的插补值并进行插补，包括:
19.采用多重插补方法为每个空值产生一套初始插补值，组成若干个插补数据集合；
20.对每个插补数据集合都采用针对完整数据集的统计方法进行统计分析；
21.对来自各个插补数据集的结果，根据评分函数进行选择，产生最终的插补值并进行插补。
22.第二方面，本发明提供一种智慧工地对不完整数据的修补装置，包括：
23.获取及插入单元，用于获取智慧智能设备的数据，将数据插入到预先创建的数据表中；
24.缺失值查找单元，用于对所述数据表中的数据进行循环遍历，查找缺失值所在位置并标记为空值；
25.分析单元，用于为每个空值产生一套初始插补值，对所述初始插补值进行统计分析，确定最终的插补值并进行插补。
26.第三方面，本发明提供一种智慧工地对不完整数据的修补装置，包括处理器及存储介质；
27.所述存储介质用于存储指令；
28.所述处理器用于根据所述指令进行操作以执行根据前述任一项所述方法的步骤。
29.第四方面，本发明提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现前述任一项所述方法的步骤。
30.与现有技术相比，本发明所达到的有益效果：
31.本发明提供一种智慧工地对不完整数据的修补方法、装置及存储介质，通过采用平均值法或者多重插补方法，为每个空值产生一套初始插补值，对所述初始插补值进行统计分析，确定最终的插补值并进行插补，用于修补智慧工地智能设备数据传输时的数据不完整问题。
附图说明
32.图1是本发明实施例提供的一种智慧工地对不完整数据的修补方法的流程图。
具体实施方式
33.下面结合附图对本发明作进一步描述。以下实施例仅用于更加清楚地说明本发明的技术方案，而不能以此来限制本发明的保护范围。
34.实施例1
35.如图1所示，本实施例介绍一种智慧工地对不完整数据的修补方法，包括：
36.获取智慧智能设备的数据，将数据插入到预先创建的数据表中；
37.对所述数据表中的数据进行循环遍历，查找缺失值所在位置并标记为空值；
38.为每个空值产生一套初始插补值，对所述初始插补值进行统计分析，确定最终的插补值并进行插补。
39.本实施例提供的智慧工地对不完整数据的修补方法，其应用过程具体涉及如下步骤：
40.一、采用平均值算法进行修补，包括：
41.第一步，创建数据表，假设数据表的行数为6，列数为7，第一行数据填满以后，再填写第二行的数据。如表1所示；
42.表1创建的数据表
43.ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
44.第二步，获取数据并插入到数据表中，假设数据类型为数字的形式表示。
45.如表2所示；
46.表2插入数据的数据表
[0047] 111213141516101112 1415161011
ꢀꢀꢀ
151610 12 14 1610111213
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
[0048]
第三步，通过循环遍历，查找缺失值所在位置并进行标记，如表3所示。
[0049]
表3标记缺失值后的数据表
[0050][0051][0052]
缺失值从缺失的分布来看可以分为完全随机缺失，随机缺失和完全非随机缺失。
[0053]
步骤一：为每个空值产生套可能的插补值，一般情况下是数据全部的值加起来取
平均值。获取平均值的两个公式。
[0054]
(n1+n2+n3+n4+n5+n6+n7)/7
[0055]
步骤二：查看缺失值附近值的数值大小，与平均值做对比。若缺失值的左右两侧都有数据值，则使用平均值进行插补，若缺失值的左侧有数据值，右侧没有，则使用数值左侧的值进行插补，若缺失值的右侧有数据值，左侧没有，则使用数值右侧的值进行插补。
[0056]
步骤三：数据插补完以后，若数据行中没有任何的数据，这种数据将复制上一条数据行的值来进行插补。
[0057]
插补完后的数据表将如表4所示。
[0058]
表4插补完后的数据表
[0059]
111112131415161011121314151610111113151516101112131415161011121313131310111213131313
[0060]
二、采用多重插补方法进行修补，包括：
[0061]
步骤一：为每个空值产生一套可能的插补值，这些值反映了无响应模型的不确定性；每个值都可以被用来插补数据集中的缺失值，产生若干个完整数据集合。
[0062]
步骤二：每个插补数据集合都用针对完整数据集的统计方法进行统计分析。
[0063]
步骤三：对来自各个插补数据集的结果，根据评分函数进行选择，产生最终的插补值。
[0064]
假设一组数据，包括三个变量y1，y2，y3，它们的联合分布为正态分布，将这组数据处理成三组，a组保持原始数据，b组仅缺失y3，c组缺失y1和y2。在多值插补时，对a组将不进行任何处理，对b组产生y3的一组估计值(作y3关于y1，y2的回归)，对c组作产生y1和y2的一组成对估计值(作y1，y2关于y3的回归)。当用多值插补时，对a组将不进行处理，对b、c组将完整的样本随机抽取形成为m组(m为可选择的m组插补值)，每组个案数只要能够有效估计参数就可以了。对存在缺失值的属性的分布作出估计，然后基于这m组观测值，对于这m组样本分别产生关于参数的m组估计值，给出相应的预测即，这时采用的估计方法为极大似然法，在计算机中具体的实现算法为期望最大化法(em)。对b组估计出一组y3的值，对c将利用y1,y2,y3它们的联合分布为正态分布这一前提，估计出一组(y1，y2)。
[0065]
上例中假定了y1,y2,y3的联合分布为正态分布。这个假设是人为的，但是已经通过验证(graham和schafer于1999)，非正态联合分布的变量，在这个假定下仍然可以估计到很接近真实值的结果。多重插补和贝叶斯估计的思想是议致的，但是多重插补弥补了贝叶斯估计的这个不足。
[0066]
实施例2
[0067]
本实施例提供一种智慧工地对不完整数据的修补装置，包括：
[0068]
获取及插入单元，用于获取智慧智能设备的数据，将数据插入到预先创建的数据表中；
[0069]
缺失值查找单元，用于对所述数据表中的数据进行循环遍历，查找缺失值所在位
置并标记为空值；
[0070]
分析单元，用于为每个空值产生一套初始插补值，对所述初始插补值进行统计分析，确定最终的插补值并进行插补。
[0071]
实施例3
[0072]
本实施例提供一种智慧工地对不完整数据的修补装置，包括处理器及存储介质；
[0073]
所述存储介质用于存储指令；
[0074]
所述处理器用于根据所述指令进行操作以执行根据实施例1中任一项所述方法的步骤。
[0075]
实施例4
[0076]
本实施例提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现实施例1中任一项所述方法的步骤。
[0077]
以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明技术原理的前提下，还可以做出若干改进和变形，这些改进和变形也应视为本发明的保护范围。