一种焊缝三维重建方法、装置、设备及存储介质与流程

本发明一般涉及三维重建领域，具体涉及一种焊缝三维重建方法、装置、设备及存储介质。

背景技术：

随着技术的发展，人工焊接技术慢慢被移动式爬行机焊接技术取代，尤其是野外焊接或高空焊接等其他焊接工人不易到的地方的焊接，都采用爬行机进行焊接。

在焊接工人不易到的地方采用移动式爬行机进行焊接之后，人们也不方便检查焊接的焊缝外观如何，焊接的焊缝质量如何等。

技术实现要素：

鉴于现有技术中的上述缺陷或不足，期望提供一种焊缝三维重建方法、装置、设备及存储介质。

第一方面，本申请提供了一种焊缝三维重建方法，包括：

对激光传感器捕获的焊缝图像进行图像处理，得到焊缝图像中的焊缝特征点在图像坐标系中的二维坐标；

将焊缝特征点在图像坐标系中的二维坐标转换为焊缝特征点在相机坐标系中的三维坐标；

根据预先标定的激光传感器到爬行机的第一旋转矩阵和第一位移矢量以及焊缝特征点在相机坐标系中的三维坐标，确定焊缝特征点在爬行机坐标系中的三维坐标；

根据焊缝特征点在爬行机坐标系中的三维坐标，确定焊缝特征点在世界坐标系中的三维坐标，实现焊缝三维重建。

在其中一个实施例中，爬行机上装配有视觉导航设备；

根据视觉导航设备，确定爬行机在世界坐标系中的三维位置坐标和姿态信息；

根据爬行机在世界坐标系中的三维位置坐标和姿态信息，确定爬行机坐标系到世界坐标系的第二旋转矩阵及第二位移矢量。

在其中一个实施例中，根据焊缝特征点在爬行机坐标系中的三维坐标，确定焊缝特征点在世界坐标系中的三维坐标的步骤包括：

根据爬行机坐标系到世界坐标系的第二旋转矩阵和第二位移矢量以及焊缝特征点在爬行机坐标系中的三维坐标，确定焊缝特征点在世界坐标系中的三维坐标。

在其中一个实施例中，视觉导航设备包括第二相机和惯性测量单元中的至少一者。

在其中一个实施例中，方法还包括：

对激光传感器进行标定及对激光传感器到爬行机进行标定。

在其中一个实施例中，对激光传感器到爬行机进行标定的步骤包括标定激光传感器到爬行机的第一旋转矩阵及第一位移矢量的参数。

在其中一个实施例中，激光传感器包括第一相机和激光发生器；

对激光传感器进行标定包括第一相机的标定和激光发生器的光平面标定，其中，第一相机的标定包括标定相机内外参数，光平面标定包括标定光平面方程的参数。

第二方面，本申请提供了一种焊缝三维重建装置，包括：

处理模块，用于对激光传感器捕获的焊缝图像进行图像处理，得到焊缝图像中的焊缝特征点在图像坐标系中的二维坐标；

转换模块，用于将焊缝特征点在图像坐标系中的二维坐标转换为焊缝特征点在相机坐标系中的三维坐标；

第一确定模块，用于根据预先标定的激光传感器到爬行机的第一旋转矩阵和第一位移矢量、以及焊缝特征点在相机坐标系中的三维坐标，确定焊缝特征点在爬行机坐标系中的三维坐标；

第二确定模块，用于根据焊缝特征点在爬行机坐标系中的三维坐标，确定焊缝特征点在世界坐标系中的三维坐标，实现焊缝三维重建。

第三方面，本申请实施例提供一种终端设备，包括存储器、处理器以及存储在存储器上并能在处理器上运行的计算机程序，该处理器执行该程序时实现如第一方面的焊缝三维重建方法。

第四方面，本申请实施例提供一种计算机可读存储介质，存储有程序，程序被处理器执行时实现如第一方面的焊缝三维重建方法。

本实施例焊缝三维重建方法、装置、设备及存储介质中，该方法将第一相机拍摄的焊缝图像进行图像处理，得到焊缝图像中焊缝特征点在图像坐标系中的二维坐标，将焊缝特征点在图像坐标系中的二维坐标转换到在相机坐标系中的三维坐标，再转换到在爬行机坐标系中的三维坐标，最后转换为在世界坐标系中的三维坐标，实现焊缝三维重建。在检查高空或者野外等焊接工人不易到的地方的焊缝时，通过该焊缝三维重建方法，焊接工人在地面即可观察到焊接的焊缝的质量、外观、工艺等，可以提高焊接工人的安全系数，及工作效率。

附图说明

通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本申请的其它特征、目的和优点将会变得更明显：

图1为根据本发明的实施例提供的焊缝三维重建方法的流程示意图；

图2为根据本发明的实施例提供的焊缝三维重建装置的结构示意图；

图3为根据本发明的实施例提供的一种计算机设备的结构示意图。

具体实施方式

下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与发明相关的部分。

需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。

本申请的焊缝三维重建方法可以适用的爬行机结构，可以包括安装在爬行机上的视觉导航设备、激光传感器等部件。其中视觉导航设备例如可以为相机，也可以为imu(inertialmeasurementunit，惯性测量单元)，还可以为两者融合等。其中，激光传感器可以包括第一相机及激光发生器。可选的，第一相机可以为2d相机，可以为3d相机等，这里不做限定。

本申请实施例提供的焊缝三维重建方法，适用于不需要到焊接现场即可查看焊缝是否美观及焊缝质量是否过关等情形。

需要说明的是，在实施本申请实施例焊缝三维重建方法之前，还可以包括：

对激光传感器进行标定、及对激光传感器到爬行机进行定。当然，此步骤也可以包含在焊缝三维重建方法内。

可选的，激光传感器可以包括第一相机和激光发生器，对激光传感器进行标定可以包括第一相机标定和激光发生器的光平面标定，第一相机标定包括标定相机的内外参数，光平面标定包括标定光平面方程的参数。

具体的，第一相机可以安装于垂直于待测工件的表面，而激光发生器发射的激光束投射到待测工件的表面，可以理解的，激光发生器和相机之间可以有一定的倾斜度，例如可以设定为10°、20°、45°等。

其中，第一相机标定，例如，可以标定相机的焦距、中心点的位置及畸变参数等。激光发生器发射的激光束形成的平面称为光平面，光平面标定就是确定光平面方程的参数。可以理解的，第一相机标定及光平面标定均可采用现有技术完成，这里不再赘述。

需要说明的是，第一相机和激光发生器的位置是相对固定的，因此，光平面的标定与第一相机的标定应一次完成，否则，当第一相机标定完成后，如果改变了标定位置，则两者都需要重新标定。

另外，预先标定的激光传感器，包括预先标定的第一相机及预先标定的激光发生器，可以存储于爬行机硬件内，也可以存储于计算机flash内，还可以存储于配置文件里，这里不做限制。

可选的，激光传感器到爬行机的标定，可以包括标定激光传感器到爬行机的第一旋转矩阵及第一位移矢量的参数。

具体的，激光传感器到爬行机的标定是指确定激光传感器和爬行机之间的相对位置，该相对位置关系可以通过第一旋转矩阵及第一位移矢量进行表达。需要说明的是，预先标定的激光传感器到爬行机的第一旋转矩阵及第一位移矢量，可以存储于爬行机硬件内，也可以存储于计算机flash内，还可以存储于配置文件里，这里不做限制。

参照图1，其示出了根据本申请一个实施例提供的焊缝三维重建方法的示例性流程图。

s110、对第一相机捕获的焊缝图像进行图像处理，得到焊缝图像中的焊缝特征点在图像坐标系中的二维坐标。

具体的，第一相机安装于爬行机上，在焊缝三维重建的过程中，爬行机不停的运动，当爬行机通过焊缝时，第一相机对焊缝进行拍照，并且每间隔一段时间拍一张焊缝图像，间隔时间可以根据爬行机的运动速度进行设置，例如可以为30ms，也可以为1s等，这里对此不进行限制。

其中，焊缝图像为激光发生器的激光束以扇面形式投射到被测工件表面的焊缝处，裁切被测工件行成激光条纹，激光条纹被第一相机拍摄而得到图像。

具体的，对焊缝图像进行图像处理，可以包括对焊缝图像滤波降噪、激光条纹中心线的提取、roi区域(regionofinterest，感兴趣区域)的选择等。可选的，对焊缝图像滤波降噪可以采用高斯滤波、中值滤波等；激光条纹中心线的提取，例如可以采用极值法、阈值法、质心法、高斯拟合法等；roi区域的选择，例如可以采用漫水填充算法等。需要说明的是，本实施例对此不做限定。

图像坐标系可以为图像物理坐标系，也可以为图像像素坐标系，其中图像像素坐标系以像平面的左上角为原点，原点向右为u轴正向，原点向下位v轴正向，图像物理坐标系以像平面的中心为原点，原点沿着u轴正向的方向为x轴正向，原点沿着v轴正向的方向为y轴正向。下述以图像物理坐标系为例，在下述描述中提到的图像坐标系均理解为图像物理坐标系。

图像坐标系为二维坐标系，即可以得到焊缝图像中的焊缝特征点在图像坐标系中的二维坐标，例如焊缝特征点在图像坐标系中的二维坐标为(xp,yp)。

s120、将焊缝特征点在图像坐标系中的二维坐标转换为焊缝特征点在相机坐标系中的三维坐标。

具体的，根据预先的第一相机标定和光平面标定，可以将焊缝特征点在图像坐标系中的二维坐标，转换为焊缝特征点在相机坐标系c中的三维坐标pc。需要说明的是，将焊缝特征点在图像坐标系中的二维坐标转换为在相机坐标系中的三维坐标，可以通过现有技术实现，这里不再赘述。

s130、根据预先标定的激光传感器到爬行机的第一旋转矩阵和第一位移矢量、以及焊缝特征点在相机坐标系中的三维坐标，得到焊缝特征点在爬行机坐标系中的三维坐标。

具体的，预先标定的激光传感器到爬行机的第一旋转矩阵和第一位移矢量焊缝特征点在相机坐标系c中的三维坐标pc，得到焊缝特征点在爬行机坐标系n中的三维坐标pn可以为需要说明的是，该表达式仅是一种简单的表达，不作为对焊缝特征点从相机坐标系到爬行机坐标系转换算法的限定。

s140、根据焊缝特征点在爬行机坐标系中的三维坐标，得到焊缝特征点在世界坐标系中的三维坐标，实现焊缝三维重建。

在爬行机上还可以装配视觉导航设备，根据视觉导航设备，可以确定爬行机在世界坐标系中的三维位置坐标和姿态信息；根据爬行机在世界坐标系中的三维位置坐标和姿态信息，可以确定爬行机坐标系到世界坐标系的第二旋转矩阵及第二位移矢量。

具体的，以爬行机的起始点为原点，建立世界坐标系w，当爬行机在待测工件上移动时，实时计算爬行机距离原点的距离及方位角等，即实时确定爬行机在世界坐标系中的三维位置坐标和姿态信息，根据实时确定爬行机在世界坐标系中的三维位置坐标和姿态信息，可以实时计算爬行机坐标系n到世界坐标系w的第二旋转矩阵及第二位移矢量

需要说明的是，建立世界坐标系时，可以以空间中任意一个点为圆心建立世界坐标系，也可以以地心为圆心建立世界坐标系，对此不进行限制。

可选的，视觉导航设备可以包括第二相机或imu(inertialmeasurementunit，惯性测量单元)中至少一种，也可以采用其他视觉导航设备，这里不做限制。可选的，第二相机可以为2d相机，可以为3d相机等，这里不做限定。

可选的，根据焊缝特征点在爬行机坐标系中的三维坐标，得到焊缝特征点在世界坐标系中的三维坐标，包括：根据爬行机坐标系到世界坐标系的第二旋转矩阵及第二位移矢量以及焊缝特征点在爬行机坐标系中的三维坐标，得到焊缝特征点在世界坐标系中的三维坐标。

具体的，焊缝特征点在爬行机坐标系n中的三维坐标pn，爬行机坐标系到世界坐标系的第二旋转矩阵及第二位移矢量得到焊缝特征点在世界坐标系w中的三维坐标pw可以表示为需要说明的是，该表达式仅是一种简单的表达，不作为对焊缝特征点从爬行机坐标系到世界坐标系转换算法的限定。

通过上述步骤可以实时确定焊缝特征点在世界坐标系中的三维坐标，通过拼图方式，将上述实时确定的所有焊缝特征点在世界坐标系中的三维坐标都拼到一张图像上，即可达到三维重建的效果，即实现了焊缝三维重建。需要说明的是，上述拼图方式可以采用拼图软件，也可以通过算法实现，这里不做限定。

三维重建技术是获取物体或者场景的三维空间信息，在计算机中建立相应的三维模型。通过三维重建技术可以比较直观的看清重建物体的具体结构。本实施例中，将焊缝进行三维重建之后，可以看清焊缝工艺及质量。

本实施例焊缝三维重建方法，将第一相机拍摄的焊缝图像进行图像处理，得到焊缝图像中焊缝特征点在图像坐标系中的二维坐标，将焊缝特征点在图像坐标系中的二维坐标转换到在相机坐标系中的三维坐标，再转换到在爬行机坐标系中的三维坐标，最后转换为在世界坐标系中的三维坐标，实现焊缝三维重建。在检查高空或者野外等焊接工人不易到的地方的焊缝时，通过该焊缝三维重建方法，焊接工人在地面即可观察到焊接的焊缝的质量、外观、工艺等，可以提高焊接工人的安全系数，及工作效率。

如图2所示，为本申请实施例提供的焊缝三维重建装置200的结构示意图。如图2所示，该装置实现如图1所示的方法，该装置可以包括：

处理模块210，用于对激光传感器捕获的焊缝图像进行图像处理，得到焊缝图像中的焊缝特征点在图像坐标系中的二维坐标；

转换模块220，用于将焊缝特征点在图像坐标系中的二维坐标，转换为焊缝特征点在相机坐标系中的三维坐标；

第一确定模块230，用于根据预先标定的激光传感器到爬行机的第一旋转矩阵和第一位移矢量、以及焊缝特征点在相机坐标系中的三维坐标，确定焊缝特征点在爬行机坐标系中的三维坐标；

第二确定模块240，用于根据焊缝特征点在爬行机坐标系中的三维坐标，确定焊缝特征点在世界坐标系中的三维坐标，实现焊缝三维重建。

可选的，爬行机上装配有视觉导航设备；该装置还包括：

第三确定模块，用于根据视觉导航设备，确定爬行机在世界坐标系中的三维位置坐标和姿态信息；

第四确定模块，用于根据爬行机在世界坐标系中的三维位置坐标和姿态信息，确定爬行机坐标系到世界坐标系的第二旋转矩阵及第二位移矢量。

可选的，第二确定模块还用于：根据爬行机坐标系到世界坐标系的第二旋转矩阵及第二位移矢量以及焊缝特征点在爬行机坐标系中的三维坐标，确定焊缝特征点在世界坐标系中的三维坐标。

可选的，视觉导航设备包括第二相机和惯性测量单元中的至少一者。

可选的，该装置还包括：标定模块，用于对激光传感器进行标定、及对激光传感器到爬行机进行标定。

可选的，标定模块还用于：标定激光传感器到爬行机的第一旋转矩阵及第一位移矢量的参数。

可选的，激光传感器包括第一相机和激光发生器；标定模块还用于第一相机标定和激光发生器的光平面标定，其中，第一相机标定包括标定相机的内外参数，光平面标定包括标定光平面方程的参数。

本实施例提供的焊缝三维重建装置，可以执行上述方法的实施例，其实现原理和技术效果类似，在此不再赘述。

图3为本发明实施例提供的一种计算机设备的结构示意图。如图3所示，示出了适于用来实现本申请实施例的终端设备或服务器的计算机系统300的结构示意图。

如图3所示，计算机系统300包括中央处理单元(cpu)301，其可以根据存储在只读存储器(rom)302中的程序或者从存储部分308加载到随机访问存储器(ram)303中的程序而执行各种适当的动作和处理。在ram303中，还存储有系统300操作所需的各种程序和数据。cpu301、rom302以及ram303通过总线304彼此相连。输入/输出(i/o)接口306也连接至总线304。

以下部件连接至i/o接口305：包括键盘、鼠标等的输入部分306；包括诸如阴极射线管(crt)、液晶显示器(lcd)等以及扬声器等的输出部分307；包括硬盘等的存储部分308；以及包括诸如lan卡、调制解调器等的网络接口卡的通信部分309。通信部分309经由诸如因特网的网络执行通信处理。驱动器310也根据需要连接至i/o接口306。可拆卸介质311，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器310上，以便于从其上读出的计算机程序根据需要被安装入存储部分308。

特别地，根据本公开的实施例，上文参考图1描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括有形地包含在机器可读介质上的计算机程序，计算机程序包含用于执行上述焊缝三维重建方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分309从网络上被下载和安装，和/或从可拆卸介质311被安装。

附图中的流程图和框图，图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，前述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本申请实施例中所涉及到的单元或模块可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的单元或模块也可以设置在处理器中。这些单元或模块的名称在某种情况下并不构成对该单元或模块本身的限定。

作为另一方面，本申请还提供了一种计算机可读存储介质，该计算机可读存储介质可以是上述实施例中前述装置中所包含的计算机可读存储介质；也可以是单独存在，未装配入设备中的计算机可读存储介质。计算机可读存储介质存储有一个或者一个以上程序，前述程序被一个或者一个以上的处理器用来执行描述于本申请的焊缝三维重建方法。

以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本申请中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离所述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。