多相机标定的图像地面找平方法、装置、电子设备和介质与流程

1.本公开的实施例涉及视觉测量技术领域，具体涉及一种多相机标定的图像地面找平方法、装置、电子设备和介质。


背景技术：

2.随着计算机视觉技术的发展，其应用越来越广泛。一般而言，在计算机视觉应用中，需要确定空间物体某点的三维几何位置与其在图像中对应点之间的相互关系，即建立图像坐标和空间位置坐标的映射关系。这个映射关系的求解过程就是相机标定。在计算机视觉应用中，相机参数的标定是非常关键的环节，其标定结果的精度及算法的稳定性直接影响计算机视觉产生结果的准确性。因此，做好相机标定是做好后续工作的前提。目前，传统的相机标定法有直接线性变换标定法、张正友标定法等。传统的相机标定需要使用尺寸已知的标定物，通过建立标定物上已知的坐标点与图像点之间的对应，利用算法获得相机模型的内外参数。
3.传统的相机标定法可以建立像素坐标和世界坐标的映射关系，但是因为世界坐标系选取方式各异，世界坐标与空间位置坐标未必是一致的。比较典型的一个问题就是如果世界坐标系xoy平面和地面不平行，则计算机视觉应用中计算得到的z坐标就不是高度信息。在一些实际的应用中，比如人体姿态估计中判断站姿坐姿是否笔直时，就会导致判断不准。具体来说，使用三维标定物时，比如三维标定框架，一般使用最下面的4个标定球所在平面作为世界坐标系xoy平面。如果制作工艺稍不精准，或者使用时间长导致框架的形变，都会导致xoy平面出现偏差。使用平面型标定物时，世界坐标系以标定板为基准，所以就需要将标定板平行或垂直于地面进行第一次标定，垂直很难保证，相机平视时若标定板放在地面上则在图像里倾斜角度较大也难以检测。
4.此外，要获取地面所在平面，则需要找到地面上至少3个位置坐标点，反映在相机标定过程中，则需要在多相机的图像中人工标出或者检测到至少3个特征点。这就首先要求地面上有额外的标定物，供人工标注或算法检测，且在多相机的图像中特征点具有唯一性，便于匹配。此种方式进行人工标注费时费力且误差较大，算法检测则受环境、视角等影响较大，且需要专门的检测和匹配算法。


技术实现要素：

5.有鉴于此，本公开实施例提供了多相机标定的图像地面找平方法、装置、电子设备和介质，以解决现有技术中采用额外的标定物进行多相机标定的图像地面找平方法存在的误差较大、精度较低、容易受环境和视角等因素影响且需要专门的检测和匹配算法的技术问题。
6.针对上述现有技术中的缺陷，本技术的技术方案的发明构思在于，在没有外界标定物的情况下，完全可以根据人体自身作为标定物。因为地面找平并不需要特征点尺寸已知，而只需要平行于地面。人体关键点具备唯一性，且算法成熟易于检测，只需设计规则选
取平行于地面的关键点即可。随着深度学习技术的发展，人体关键点检测技术越来越成熟，针对某些关键点比如人脸关键点，其检测精度甚至不亚于人类。人体不同关键点检测的难易程度是不一样的，对于腰部、腿部这类关键点的检测要明显难于人脸关键点的检测，而且该类关键点本身区域较广，在多相机中很难确定检测的是同一个特征点，难以保证检测精度。因此，发明人选择人眼作为特征点。因为人眼区域较小且特征明显，易于检测且检测精度高。当人立正站直时，两眼离地面高度基本一致；考虑到人头部姿态可能会变化，因此在多次检测中取头部姿态比较一致的，用双眼或单眼作为特征点，多个特征点拟合平面，可以近似认为平行于地面。之后就可以求取xoy平面到拟合平面的旋转矩阵，从而进行世界坐标系的变换。
7.为实现上述目的，本公开实施例的第一方面，提供了一种多相机标定的图像地面找平方法，该方法包括：在多相机标定过程中建立图像坐标到世界坐标的映射关系；
8.获取人体图像信息并在所述人体图像信息中进行人脸关键点检测得到人体眼部关键点信息和头部姿态辅助关键点信息；
9.基于所述映射关系、所述人体眼部关键点信息和所述头部姿态辅助关键点信息计算得到世界坐标系下的3d关键点；
10.获取姿态一致的人体双眼或单眼关键点构建拟合平面；
11.计算所述世界坐标系下的xoy平面到所述拟合平面的旋转矩阵，所述旋转矩阵乘以所述映射关系为图像坐标到找平后的世界坐标的映射关系。
12.本公开实施例的第二方面，提供了一种多相机标定的图像地面找平装置，包括：
13.建立单元，被配置为在多相机标定过程中建立图像坐标到世界坐标的映射关系；
14.第一获取单元，被配置为获取人体图像信息并在所述人体图像信息中进行人脸关键点检测得到人体眼部关键点信息和头部姿态辅助关键点信息；
15.第一计算单元，被配置为基于所述映射关系、所述人体眼部关键点信息和所述头部姿态辅助关键点信息计算得到世界坐标系下的3d关键点；
16.第二获取单元，被配置为获取姿态一致的人体双眼或单眼关键点构建拟合平面；
17.第二计算单元，被配置为计算所述世界坐标系下的xoy平面到所述拟合平面的旋转矩阵，所述旋转矩阵乘以所述映射关系为图像坐标到找平后的世界坐标的映射关系。
18.本公开实施例的第三方面，提供了一种电子设备，包括存储器、处理器以及存储在存储器中并且可以在处理器上运行的计算机程序，该处理器执行计算机程序时实现上述方法的步骤。
19.本公开实施例的第四方面，提供了一种计算机可读存储介质，该计算机可读存储介质存储有计算机程序，该计算机程序被处理器执行时实现上述方法的步骤。
20.本公开的上述各个实施例中的一个实施例具有如下有益效果：通过本技术的多相机标定的图像地面找平方法，适用于各种相机标定方法。使得世界坐标系与地面是一致的，便于进行后续各项评测。不使用额外标定物，不需要人工标记，通过人体关键点检测进行相机标定后的自动地面找平，简单易行，适用于各种作业环境。
附图说明
21.结合附图并参考以下具体实施方式，本公开各实施例的上述和其他特征、优点及
方面将变得更加明显。贯穿附图中，相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的，元件和元素不一定按照比例绘制。
22.图1是根据本公开的多相机标定的图像地面找平方法的一些实施例的流程示意图；
23.图2是根据本公开的多相机标定的图像地面找平方法装置的一些实施例的结构示意图；
24.图3是适于用来实现本公开的一些实施例的电子设备的结构示意图。
具体实施方式
25.以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本公开实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本公开。在其它情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本公开的描述。
26.下面将结合附图详细说明根据本公开实施例的一种多相机标定的图像地面找平方法。
27.图1是本公开实施例提供的多相机标定的图像地面找平方法的流程示意图。如图1所示，该多相机标定的图像地面找平方法，包括以下步骤：
28.步骤s101,在多相机标定过程中建立图像坐标到世界坐标的映射关系；
29.步骤s102,获取人体图像信息并在所述人体图像信息中进行人脸关键点检测得到人体眼部关键点信息和头部姿态辅助关键点信息。
30.在一些实施例中，所述获取人体图像信息是通过多个相机在预设间隔时间段内进行同步定时拍照。所述人体图像信息包括人体处于不同位置、多个不同时间段内的图像信息；所述多个不同时间段的数量至少为三个。所述头部姿态辅助关键点信息包括所有预设时间段内用于头部姿态估计的辅助关键点信息，如鼻子关键点。
31.步骤s103,基于所述映射关系、所述人体眼部关键点信息和所述头部姿态辅助关键点信息计算得到世界坐标系下的3d关键点。
32.步骤s104,获取姿态一致的人体双眼或单眼关键点构建拟合平面；
33.在一些实施例中，所述姿态一致包括所有预设时间段内人体双眼关键点和辅助关键点所构建平面法向量方向较为一致的时间点。
34.步骤s105，计算所述世界坐标系下的xoy平面到所述拟合平面的旋转矩阵，所述旋转矩阵乘以所述映射关系为图像坐标到找平后的世界坐标的映射关系。
35.作为示例，在一些实施例中，进行多相机标定(相机数＝n)，建立图像坐标到世界坐标的映射关系m:2d1…
2dn→
3d。多相机设置间隔定时同步拍照，拍摄人在多个不同位置站直的图像i
t,n
，其中t为时刻，n为相机编号。在图像i
t,n
中进行人脸关键点检测，得到人眼关键点和进行头部姿态估计的辅助关键点，比如leye_2d
t,n
，reye_2d
t,n
和nose_2d
t,n
。根据相机标定映射关系m和2d
t，1
...2d
t，n
，得到世界坐标系下的3d关键点，比如leye_3d
t
，reye_3d
t
和nose_3d
t
。根据面部关键点估计头部姿态，得到headpose
t
，从所有时刻中取姿态一致的k个，k＞＝3，记为t1
…
tk。取姿态一致的双眼或单眼关键点如leye_3d
t1
...leye_3d
tk
，拟合平面leye_surface。计算原世界坐标系下xoy平面到眼部拟合平面leye_surface的旋转矩
阵r，则r
⊙
m为图像坐标到找平后的世界坐标的映射关系。
36.上述所有可选技术方案，可以采用任意结合形成本技术的可选实施例，在此不再一一赘述。
37.下述为本公开装置实施例，可以用于执行本公开方法实施例。对于本公开装置实施例中未披露的细节，请参照本公开方法实施例。
38.图2是本公开实施例提供的多相机标定的图像地面找平装置的示意图。如图2所示，该多相机标定的图像地面找平装置包括：建立单元201、第一获取单元202、第一计算单元203、第二获取单元204及第二计算单元205。建立单元201，被配置为在多相机标定过程中建立图像坐标到世界坐标的映射关系；第一获取单元202，被配置为获取人体图像信息并在所述人体图像信息中进行人脸关键点检测得到人体眼部关键点信息和头部姿态辅助关键点信息；第一计算单元203，被配置为基于所述映射关系、所述人体眼部关键点信息和所述头部姿态辅助关键点信息计算得到世界坐标系下的3d关键点；第二获取单元204，被配置为获取姿态一致的人体双眼或单眼关键点构建拟合平面；第二计算单元205，被配置为计算所述世界坐标系下的xoy平面到所述拟合平面的旋转矩阵，所述旋转矩阵乘以所述映射关系为图像坐标到找平后的世界坐标的映射关系。应理解，上述实施例中各步骤的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本公开实施例的实施过程构成任何限定。
39.图3是本公开实施例提供的计算机设备3的示意图。如图3所示，该实施例的计算机设备3包括：处理器301、存储器302以及存储在该存储器302中并且可以在处理器301上运行的计算机程序303。处理器301执行计算机程序303时实现上述各个方法实施例中的步骤。或者，处理器301执行计算机程序303时实现上述各装置实施例中各模块/单元的功能。
40.示例性地，计算机程序303可以被分割成一个或多个模块/单元，一个或多个模块/单元被存储在存储器302中，并由处理器301执行，以完成本公开。一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段，该指令段用于描述计算机程序303在计算机设备3中的执行过程。
41.计算机设备3可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算机设备。计算机设备3可以包括但不仅限于处理器301和存储器302。本领域技术人员可以理解，图3仅仅是计算机设备3的示例，并不构成对计算机设备3的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如，计算机设备还可以包括输入输出设备、网络接入设备、总线等。
42.处理器301可以是中央处理单元(central processing unit，cpu)，也可以是其它通用处理器、数字信号处理器(digital signal processor，dsp)、专用集成电路(application specific integrated circuit，asic)、现场可编程门阵列(field-programmable gate array，fpga)或者其它可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
43.存储器302可以是计算机设备3的内部存储单元，例如，计算机设备3的硬盘或内存。存储器302也可以是计算机设备3的外部存储设备，例如，计算机设备3上配备的插接式硬盘，智能存储卡(smart media card，smc)，安全数字(secure digital，sd)卡，闪存卡
(flash card)等。进一步地，存储器302还可以既包括计算机设备3的内部存储单元也包括外部存储设备。存储器302用于存储计算机程序以及计算机设备所需的其它程序和数据。存储302还可以用于暂时地存储已经输出或者将要输出的数据。
44.所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。另外，各功能单元、模块的具体名称也只是为了便于相互区分，并不用于限制本技术的保护范围。上述系统中单元、模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
45.在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其它实施例的相关描述。
46.本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本公开的范围。
47.在本公开所提供的实施例中，应该理解到，所揭露的装置/计算机设备和方法，可以通过其它的方式实现。例如，以上所描述的装置/计算机设备实施例仅仅是示意性的，例如，模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口，装置或单元的间接耦合或通讯连接，可以是电性，机械或其它的形式。
48.作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
49.另外，在本公开各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
50.集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读存储介质中。基于这样的理解，本公开实现上述实施例方法中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完成，计算机程序可以存储在计算机可读存储介质中，该计算机程序在被处理器执行时，可以实现上述各个方法实施例的步骤。计算机程序可以包括计算机程序代码，计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质可以包括：能够携带计算机程序代码的任何实体或装置、记录介质、u盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(read-only memory，rom)、随机存取存储器(random access memory，ram)、电载波信号、电信信号以及软件分发介质等。需要说明的是，计算机可读介质包含的内容可以根据司
法管辖区内立法和专利实践的要求进行适当的增减，例如，在某些司法管辖区，根据立法和专利实践，计算机可读介质不包括电载波信号和电信信号。
51.以上实施例仅用以说明本公开的技术方案，而非对其限制；尽管参照前述实施例对本公开进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本公开各实施例技术方案的精神和范围，均应包含在本公开的保护范围之内。