一种表格数据的自动识别方法与流程

本发明涉及图像识别，具体是一种表格数据的自动识别方法。

背景技术：

1、cad图纸中涉及大量表格，表格格式多样化，表格有边框无边框，少量边框等形式多样，自动识别表格是表格信息与图形信息联动的基础，对表格识别之前，需要先对文档进行版面分析，提取出文档中的表格，然后对表格进行定位，最后根据定位结果识别出表格中的文本。

2、在物体检测和定位方面，常用的技术有：边缘检测技术(canny边缘检测)和rcnn/faster-rcnn/yolo/ssd等技术；在ocr(光学字符识别)方面，主要技术有：基于监督学习的文字分类、cnn(卷积神经网络)和crnn+ctc等；然而随着表格类别的增多，识别效率也会逐渐降低；如果样本集缺乏代表性和普遍性，这就会造成系统学习不到某些模式，最终导致模型对某些表格定位失败，基于以上不足，本发明提出一种表格数据的自动识别方法。

技术实现思路

1、本发明旨在至少解决现有技术中存在的技术问题之一。为此，本发明提出一种表格数据的自动识别方法。

2、为实现上述目的，根据本发明的第一方面的实施例提出一种表格数据的自动识别方法，包括如下步骤：

3、步骤一：获取文档和cad图纸等文件，并将所述文档和cad图纸转化为图像格式，所述图像格式包括：jpg、png；

4、步骤二：对各个图像识别终端的算力占用情况进行监测分析，计算得到算力充余系数ky；选取算力充余系数ky最大的图像识别终端作为目标终端，对所述文档和cad图纸转化的图像进行表格数据识别；

5、步骤三：目标终端对所述文档和cad图纸转化的图像进行表格数据识别，具体识别步骤包括：

6、基于深度学习算法对所述文档和cad图纸转化的图像进行文本框位置检测和文本框内容识别，获取所述图像中每个文本框的文本框位置信息，以及和每个文本框位置信息对应的文本框内容信息；

7、对所述图像中的表格整体单元格进行检测，检测出所述表格整体单元格的所有横线和所有竖线；基于检测出的所有横线和所有竖线获取所述表格整体单元格中所有小单元格的小单元格位置信息；

8、基于所述文本框位置信息和所述小单元格位置信息，判断所述文本框是否与所述小单元格相对应；

9、当判断出所述文本框与所述小单元格相对应时，基于所述文本框位置信息对所述文本框进行排序，获取排序后的文本框内容信息；

10、基于排序后的文本框内容信息确定所述表格整体单元格的内容排布，输出经过排布后的所述图像的结构化文本信息；

11、步骤四：对目标终端进行数据识别监测，对数据识别过程中目标终端的状态偏离值进行评估；若状态偏离值zp大于预设偏离阈值，则生成偏离预警信号，以提醒管理人员对目标终端进行检修。

12、进一步地，对各个图像识别终端的算力占用情况进行监测分析，具体监测分析步骤包括：

13、从初始时刻起，按照预设间隔采集图像识别终端的算力占用率并标记为nc，建立算力占用率nc随时间变化的曲线图；

14、当曲线图处于上升阶段时，对曲线图进行求导获取占用率变化速率曲线图；将图像识别终端的实时算力占用率变化速率标记为vt；

15、将vt与预设速率阈值相比较；若vt＞预设速率阈值，则表示图像识别终端忙于数据识别，在对应的曲线图中截取对应的曲线段进行标注；

16、在预设时间内，统计标注曲线段的数量为r1，将所有的标注曲线段对时间进行积分得到标注参考能量we，利用公式wr=r1×d1+we×d2计算得到图像识别终端的运算热度值wr，其中d1、d2均为系数因子；

17、获取图像识别终端的当前算力占用率为nt，利用公式ky=(1-nt)×d3/(wr×d4)计算得到图像识别终端的算力充余系数ky，其中d3、d4均为系数因子。

18、进一步地，对目标终端进行数据识别监测，对数据识别过程中目标终端的状态偏离值进行评估，具体为：

19、当监测到目标终端进行表格数据识别时，每间隔r2时间采集目标终端的状态参数，状态参数包括访问节点连接数、cpu负载率、带宽负载率和实时网络速率；其中r2为预设值；

20、将访问节点连接数、cpu负载率、带宽负载率和实时网络速率依次标记为q1、q2、q3、q4；利用公式zx=(q1×b1+q4×b4)/(q2×b2+q3×b3)计算得到目标终端的状态系数zx，其中b1、b2、b3、b4为系数因子；

21、将状态系数zx与设定阈值相比较，若状态系数zx小于设定阈值，则生成偏离信号；根据偏离信号的时空变化趋势，计算得到状态偏离值zp。

22、进一步地，状态偏离值zp的具体计算方法为：

23、当监测到偏离信号时，自动倒计时，倒计时时长为td时间，td为预设值；在倒计时阶段继续对偏离信号进行监测，若再次监测到偏离信号，则倒计时自动归为原值，重新按照td进行倒计时；

24、统计倒计时阶段偏离信号的出现次数为c1；当监测到偏离信号时，将对应的状态系数zx与设定阈值进行差值计算，并将所有的差值进行求和得到偏离总值ct，统计倒计时阶段的持续时长为tc；

25、利用公式zp=(c1×b1+ct×b2)/(tc×b3)计算得到状态偏离值zp，其中b1、b2、b3为系数因子。

26、进一步地，对所述图像中的表格整体单元格进行检测，检测出所述表格整体单元格的所有横线和所有竖线；具体包括：

27、将所述图像进行归一化处理，使得所述图像调整为预定尺寸；

28、将调整后的所述图像转化为灰度模式，并进行腐蚀处理；

29、通过中值滤波过滤掉经过腐蚀处理的所述图像的噪声干扰；

30、分别确定所述图像的x方向和y方向的梯度，并进行阈值化处理，通过霍夫直线检测初步筛选出所有横线和所有竖线；分别对筛选出的所有横线和所有竖线进行排序和合并处理。

31、进一步地，当判断出所述文本框与所述小单元格位置不完全重合时，分别计算所述文本框与所述小单元格的面积；

32、计算所述文本框与所述小单元格的交集面积与所述文本框与所述小单元格的并集面积的比值；当计算出的比值满足预设范围时，确定所述文本框与所述小单元格相对应。

33、与现有技术相比，本发明的有益效果是：

34、1、本发明中首先获取文档和cad图纸等文件，并将文档和cad图纸转化为图像格式；对各个图像识别终端的算力占用情况进行监测分析，计算得到算力充余系数ky；选取ky最大的图像识别终端作为目标终端，提高数据识别效率；当监测到目标终端进行表格数据识别时，每间隔r2时间采集目标终端的状态参数，对数据识别过程中目标终端的状态偏离值进行评估，若状态偏离值zp大于预设偏离阈值，则生成偏离预警信号，以提醒管理人员对目标终端进行检修，从而提高数据识别效率；

35、2、本发明中目标终端对文档和cad图纸转化的图像进行表格数据识别，首先基于深度学习算法对文档和cad图纸转化的图像进行文本框位置检测和文本框内容识别，获取图像中每个文本框的文本框位置信息，以及和每个文本框位置信息对应的文本框内容信息；对图像中的表格整体单元格进行检测，检测出表格整体单元格的所有横线和所有竖线；基于检测出的所有横线和所有竖线获取表格整体单元格中所有小单元格的小单元格位置信息；当判断出文本框与小单元格相对应时，基于文本框位置信息对文本框进行排序，获取排序后的文本框内容信息；基于排序后的文本框内容信息确定表格整体单元格的内容排布，输出经过排布后的图像的结构化文本信息，识别精度高。