一种智能塔吊物料挂载位置识别方法和装置与流程

1.本技术涉及智能塔吊技术领域，尤其涉及一种基于图像目标提取的智能塔吊物料挂载位置识别方法和装置。


背景技术：

2.目前的塔吊，基本都是人员在塔吊上的中控室进行操控，或者通过操作人员在远程进行实时智能操控。塔吊行业来说，目前的发展方向是无人塔吊、智能塔吊，那么在产业升级的过程中会遇到很多的技术问题。
3.无人塔吊一般只有一个挂钩，在一个时间段内只能运送一个待吊装物料，对于多个待吊装物料与多个挂钩适配的场景，尚没有解决方案。


技术实现要素：

4.有鉴于此，本技术的目的在于提出一种基于图像目标提取的智能塔吊物料挂载位置识别方法和装置，本技术能够通过视频监控自动化的分析待吊装物料的位置和物理属性，寻找与其匹配的挂钩，兼顾安全和效率，提高智能塔吊工作效率。
5.基于上述目的，本技术提出了一种基于图像目标提取的智能塔吊物料挂载位置识别方法，包括：在无人驾驶智能塔吊的周围安装至少一个摄像头，拍摄并获取所述无人驾驶智能塔吊的视频监控数据；所述塔吊至少安装有两个挂钩；根据所述视频监控数据使用物料识别算法识别所述无人驾驶智能塔吊附近的至少一个待吊装物料位置和物料类型；将获得的所述至少一个待吊装物料位置和物料类型输入训练好的物料挂载位置匹配神经网络，确定所述至少一个待吊装物料的挂钩类型；通过路径规划算法计算每个待吊装物料到达其对应的物料挂载位置的路径，按照所述路径将每个待吊装物料运送到其相应的挂钩正下方。
6.在一些实施例中，所述根据所述视频监控数据使用物料识别算法识别所述无人驾驶智能塔吊附近的至少一个待吊装物料位置和物料类型，包括：获取预设的摄像头位置与智能塔吊的位置；获取所述视频监控数据中的一帧图像，所述图像中包括所述摄像头、塔吊、各个待吊装物料；计算所述图像中各个待吊装物料与所述塔吊的之间所包含的像素数量；将所述摄像头位置、塔吊位置换算到摄像头坐标系中，根据所述摄像头位置、塔吊位置的坐标、所述图像中各个待吊装物料与所述塔吊的之间所包含的像素数量，计算所述各个待吊装物料与所述塔吊的之间的距离和角度关系；根据所述各个待吊装物料与所述塔吊的之间的距离和角度关系计算得到每个待吊装物料位置。
7.在一些实施例中，所述根据所述视频监控数据使用物料识别算法识别所述无人驾驶智能塔吊附近的至少一个待吊装物料位置和物料类型，包括：步骤1，采集视频监控数据，对视频监控数据集进行数据预处理，并生成对应的标签；步骤2，对预处理后的视频监控数据集进行增强操作，包括旋转、缩放、随机裁剪以及亮度、色度变换；步骤3，将增强操作后的数据集进行训练/验证/测试集的划分；步骤4，构建网络结构，导入训练集、验证集及其对应的标签进行训练；步骤5，对视频监控数据集进行数据预处理；步骤6，将预处理后的视频监控数据集输入步骤4构建的网络结构，加载网络结构对应的模型参数进行前向传播；步骤7，取出网络结构的输出结果，根据标签生成规则得到分类标签；步骤8，根据每类标签的含义将所述分类标签转化即得到最终的待吊装物料类型。
8.在一些实施例中，所述将获得的所述至少一个待吊装物料位置和物料类型输入训练好的物料挂载位置匹配神经网络，确定所述至少一个待吊装物料的挂钩类型，包括：将大批量已知待吊装物料位置和物料类型导入到卷积神经网络，得到对应的挂钩类型；将已知待吊装物料位置和物料类型和挂钩类型构成的特征向量作为训练样本，构建训练样本集；用训练样本集训练由基于全连接神经网络的自动编码器模型和k
‑
means模型构成的akc模型；将待分类至少一个待吊装物料位置和物料类型输入训练好的akc模型中，得到所述至少一个待吊装物料的挂钩类型。
9.在一些实施例中，根据所述图像内所述待吊装物料所占据的像素空间，确定所述待吊装物料的体积；根据所述待吊装物料类型和体积，计算所述待吊装物料的重量；根据所述待吊装物料的重量超过预设阈值，更新所述待吊装物料对应的挂钩类型。
10.在一些实施例中，所述通过路径规划算法计算每个待吊装物料到达其对应的物料挂载位置的路径，按照所述路径将每个待吊装物料运送到其相应的挂钩正下方，包括：提取所述待吊装物料适用的挂钩距离所述待吊装物料的距离、角度和方向信息；根据所述挂钩距离所述待吊装物料的距离、角度和方向信息控制移动车将所述待吊装物料运送至所述待吊装物料适用的挂钩正下方。
11.在一些实施例中，根据所述图像内所述待吊装物料所占据的像素空间，确定所述待吊装物料的体积；根据所述待吊装物料类型和体积，计算所述待吊装物料的重量；根据所述待吊装物料的重量超过预设阈值，更新所述待吊装物料对应的路径规划，并按照更新后的路径将每个待吊装物料运送到其相应的挂钩正下方。
12.基于上述目的，本技术还提出了一种基于图像目标提取的智能塔吊物料挂载位置识别装置，包括：监控模块，在无人驾驶智能塔吊的周围安装至少一个摄像头，拍摄并获取所述无人驾驶智能塔吊的视频监控数据；所述塔吊至少安装有两个挂钩；物料识别模块，用于根据所述视频监控数据使用物料识别算法识别所述无人驾驶智能塔吊附近的至少一个待吊装物料位置和物料类型；
挂钩类型匹配模块，用于将获得的所述至少一个待吊装物料位置和物料类型输入训练好的物料挂载位置匹配神经网络，确定所述至少一个待吊装物料的挂钩类型；挂载位置规划模块，用于通过路径规划算法计算每个待吊装物料到达其对应的物料挂载位置的路径，按照所述路径将每个待吊装物料运送到其相应的挂钩正下方。
13.总的来说，本技术的优势及给用户带来的体验在于：本技术能够根据物料所在的位置和物料本身的物理属性，寻找与其匹配的挂钩类型，精准的控制无人驾驶智能塔吊的物料挂载位置，同时保障塔吊的运行安全和效率。
附图说明
14.在附图中，除非另外规定，否则贯穿多个附图相同的附图标记表示相同或相似的部件或元素。这些附图不一定是按照比例绘制的。应该理解，这些附图仅描绘了根据本技术公开的一些实施方式，而不应将其视为是对本技术范围的限制。
15.图1示出本技术的装置架构原理示意图。
16.图2示出根据本技术实施例的基于图像目标提取的智能塔吊物料挂载位置识别方法的流程图。
17.图3示出根据本技术实施例的基于图像目标提取的智能塔吊物料挂载位置识别装置的构成图。
18.图4示出了本技术一实施例所提供的一种电子设备的结构示意图；图5示出了本技术一实施例所提供的一种存储介质的示意图。
具体实施方式
19.下面结合附图和实施例对本技术作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。
20.需要说明的是，在不冲突的情况下，本技术中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本技术。
21.图1示出本技术的装置架构原理示意图。本技术的实施例中，设备包括塔吊、待吊装物料、挂钩、摄像头、服务器等。在无人驾驶智能塔吊的周围安装至少一个摄像头，拍摄并获取所述无人驾驶智能塔吊的视频监控数据；所述塔吊至少安装有两个挂钩；根据所述视频监控数据使用物料识别算法识别所述无人驾驶智能塔吊附近的至少一个待吊装物料位置和物料类型；将获得的所述至少一个待吊装物料位置和物料类型输入训练好的物料挂载位置匹配神经网络，确定所述至少一个待吊装物料的挂钩类型；通过路径规划算法计算每个待吊装物料到达其对应的物料挂载位置的路径，按照所述路径将每个待吊装物料运送到其相应的挂钩正下方。本技术能够精准的控制无人驾驶智能塔吊的物料挂载位置，同时保障塔吊的运行安全和效率。
22.图2示出根据本技术实施例的基于图像目标提取的智能塔吊物料挂载位置识别方法的流程图。如图2所示，该基于图像目标提取的智能塔吊物料挂载位置识别方法包括：步骤101：在无人驾驶智能塔吊的周围安装至少一个摄像头，拍摄并获取所述无人驾驶智能塔吊的视频监控数据；所述塔吊至少安装有两个挂钩；
步骤102：根据所述视频监控数据使用物料识别算法识别所述无人驾驶智能塔吊附近的至少一个待吊装物料位置和物料类型；本实施例中，首先获取预设的摄像头位置与智能塔吊的位置；获取所述视频监控数据中的一帧图像，所述图像中包括所述摄像头、塔吊、各个待吊装物料；计算所述图像中各个待吊装物料与所述塔吊的之间所包含的像素数量；将所述摄像头位置、塔吊位置换算到摄像头坐标系中，根据所述摄像头位置、塔吊位置的坐标、所述图像中各个待吊装物料与所述塔吊的之间所包含的像素数量，计算所述各个待吊装物料与所述塔吊的之间的距离和角度关系；根据所述各个待吊装物料与所述塔吊的之间的距离和角度关系计算得到每个待吊装物料位置。
23.然后通过神经网络对待吊装物料的物理属性进行分类，包括：步骤1，采集视频监控数据，对视频监控数据集进行数据预处理，并生成对应的标签；步骤2，对预处理后的视频监控数据集进行增强操作，包括旋转、缩放、随机裁剪以及亮度、色度变换；步骤3，将增强操作后的数据集进行训练/验证/测试集的划分；步骤4，构建网络结构，导入训练集、验证集及其对应的标签进行训练；步骤5，对视频监控数据集进行数据预处理；步骤6，将预处理后的视频监控数据集输入步骤4构建的网络结构，加载网络结构对应的模型参数进行前向传播；步骤7，取出网络结构的输出结果，根据标签生成规则得到分类标签；步骤8，根据每类标签的含义将所述分类标签转化即得到最终的待吊装物料类型。
24.步骤103：将获得的所述至少一个待吊装物料位置和物料类型输入训练好的物料挂载位置匹配神经网络，确定所述至少一个待吊装物料的挂钩类型；本实施例中，首先将大批量已知待吊装物料位置和物料类型导入到卷积神经网络，得到对应的挂钩类型；将已知待吊装物料位置和物料类型和挂钩类型构成的特征向量作为训练样本，构建训练样本集；用训练样本集训练由基于全连接神经网络的自动编码器模型和k
‑
means模型构成的akc模型；将待分类至少一个待吊装物料位置和物料类型输入训练好的akc模型中，得到所述至少一个待吊装物料的挂钩类型。
25.本实施例中，还可以进一步根据重量来优化待吊装物料对应的挂钩。具体包括：根据所述图像内所述待吊装物料所占据的像素空间，确定所述待吊装物料的体积；根据所述待吊装物料类型和体积，计算所述待吊装物料的重量；根据所述待吊装物料的重量超过预设阈值，更新所述待吊装物料对应的挂钩类型。
26.步骤104：通过路径规划算法计算每个待吊装物料到达其对应的物料挂载位置的路径，按照所述路径将每个待吊装物料运送到其相应的挂钩正下方。
27.本实施例中，首先提取所述待吊装物料适用的挂钩距离所述待吊装物料的距离、角度和方向信息；根据所述挂钩距离所述待吊装物料的距离、角度和方向信息控制移动车将所述待吊装物料运送至所述待吊装物料适用的挂钩正下方。
28.本实施例中，还可以进一步根据重量来优化路径规划，包括：根据所述图像内所述待吊装物料所占据的像素空间，确定所述待吊装物料的体积；根据所述待吊装物料类型和体积，计算所述待吊装物料的重量；根据所述待吊装物料的重量超过预设阈值，更新所述待吊装物料对应的路径规划，并按照更新后的路径将每个待吊装物料运送到其相应的挂钩正下方。
29.本技术能够根据物料所在的位置和物料本身的物理属性，寻找与其匹配的挂钩类型，精准的控制无人驾驶智能塔吊的物料挂载位置，同时保障塔吊的运行安全和效率。
30.以下举例说明本技术的基于图像目标提取的智能塔吊物料挂载位置识别效果：（以下数据仅为示意性举例，具体数据来源参照建筑和塔吊行业常用数据）申请实施例提供了一种基于图像目标提取的智能塔吊物料挂载位置识别装置，该装置用于执行上述实施例所述的基于图像目标提取的智能塔吊物料挂载位置识别方法，如图3所示，该装置包括：监控模块501，在无人驾驶智能塔吊的周围安装至少一个摄像头，拍摄并获取所述无人驾驶智能塔吊的视频监控数据；所述塔吊至少安装有两个挂钩；物料识别模块502，用于根据所述视频监控数据使用物料识别算法识别所述无人驾驶智能塔吊附近的至少一个待吊装物料位置和物料类型；挂钩类型匹配模块503，用于将获得的所述至少一个待吊装物料位置和物料类型输入训练好的物料挂载位置匹配神经网络，确定所述至少一个待吊装物料的挂钩类型；挂载位置规划模块504，用于通过路径规划算法计算每个待吊装物料到达其对应的物料挂载位置的路径，按照所述路径将每个待吊装物料运送到其相应的挂钩正下方。
31.本技术的上述实施例提供的基于图像目标提取的智能塔吊物料挂载位置识别装置与本技术实施例提供的基于图像目标提取的智能塔吊物料挂载位置识别方法出于相同的发明构思，具有与其存储的应用程序所采用、运行或实现的方法相同的有益效果。
32.本技术实施方式还提供一种与前述实施方式所提供的基于图像目标提取的智能塔吊物料挂载位置识别方法对应的电子设备，以执行上基于图像目标提取的智能塔吊物料挂载位置识别方法。本技术实施例不做限定。
33.请参考图4，其示出了本技术的一些实施方式所提供的一种电子设备的示意图。如图4所示，所述电子设备2包括：处理器200，存储器201，总线202和通信接口203，所述处理器200、通信接口203和存储器201通过总线202连接；所述存储器201中存储有可在所述处理器200上运行的计算机程序，所述处理器200运行所述计算机程序时执行本技术前述任一实施方式所提供的基于图像目标提取的智能塔吊物料挂载位置识别方法。
34.其中，存储器201可能包含高速随机存取存储器（ram：random access memory），也可能还包括非不稳定的存储器（non
‑
volatile memory），例如至少一个磁盘存储器。通过至少一个通信接口203（可以是有线或者无线）实现该装置网元与至少一个其他网元之间的通信连接，可以使用互联网、广域网、本地网、城域网等。
35.总线202可以是isa总线、pci总线或eisa总线等。所述总线可以分为地址总线、数据总线、控制总线等。其中，存储器201用于存储程序，所述处理器200在接收到执行指令后，执行所述程序，前述本技术实施例任一实施方式揭示的所述基于图像目标提取的智能塔吊物料挂载位置识别方法可以应用于处理器200中，或者由处理器200实现。
36.处理器200可能是一种集成电路芯片，具有信号的处理能力。在实现过程中，上述方法的各步骤可以通过处理器200中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器200可以是通用处理器，包括中央处理器(central processing unit，简称cpu)、网络处理器(network processor，简称np)等；还可以是数字信号处理器(dsp)、专用集成电路(asic)、现成可编程门阵列(fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本技术实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本技术实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器，闪存、只读存储器，可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器201，处理器200读取存储器201中的信息，结合其硬件完成上述方法的步骤。
37.本技术实施例提供的电子设备与本技术实施例提供的基于图像目标提取的智能塔吊物料挂载位置识别方法出于相同的发明构思，具有与其采用、运行或实现的方法相同的有益效果。
38.本技术实施方式还提供一种与前述实施方式所提供的基于图像目标提取的智能塔吊物料挂载位置识别方法对应的计算机可读存储介质，请参考图5，其示出的计算机可读存储介质为光盘30，其上存储有计算机程序（即程序产品），所述计算机程序在被处理器运行时，会执行前述任意实施方式所提供的基于图像目标提取的智能塔吊物料挂载位置识别方法。
39.需要说明的是，所述计算机可读存储介质的例子还可以包括，但不限于相变内存 (pram)、静态随机存取存储器 (sram)、动态随机存取存储器 (dram)、其他类型的随机存取存储器 (ram)、只读存储器 (rom)、电可擦除可编程只读存储器 (eeprom)、快闪记忆体或其他光学、磁性存储介质，在此不再一一赘述。
40.本技术的上述实施例提供的计算机可读存储介质与本技术实施例提供的基于图像目标提取的智能塔吊物料挂载位置识别方法出于相同的发明构思，具有与其存储的应用程序所采用、运行或实现的方法相同的有益效果。
41.需要说明的是：在此提供的算法和显示不与任何特定计算机、虚拟装置或者其它设备有固有相关。各种通用装置也可以与基于在此的示教一起使用。根据上面的描述，构造这类装置所要求的结构是显而易见的。此外，本技术也不针对任何特定编程语言。应当明白，可以利用各
种编程语言实现在此描述的本技术的内容，并且上面对特定语言所做的描述是为了披露本技术的最佳实施方式。
42.在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本技术的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。
43.类似地，应当理解，为了精简本技术并帮助理解各个发明方面中的一个或多个，在上面对本技术的示例性实施例的描述中，本技术的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本技术要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如下面的权利要求书所反映的那样，发明方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本技术的单独实施例。
44.本领域那些技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
45.此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本技术的范围之内并且形成不同的实施例。例如，在下面的权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
46.本技术的各个部件实施例可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器( dsp )来实现根据本技术实施例的虚拟机的创建装置中的一些或者全部部件的一些或者全部功能。本技术还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如，计算机程序和计算机程序产品)。这样的实现本技术的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。
47.应该注意的是上述实施例对本技术进行说明而不是对本技术进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本技术可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名
称。
48.以上所述，仅为本技术的具体实施方式，但本技术的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本技术揭露的技术范围内，可轻易想到其各种变化或替换，这些都应涵盖在本技术的保护范围之内。因此，本技术的保护范围应以所述权利要求的保护范围为准。