路面要素重建方法、装置、电子设备及存储介质与流程

1.本公开涉及驾驶技术，尤其是一种路面要素重建方法、装置、电子设备及存储介质。


背景技术：

2.环境感知是无人驾驶和场景理解等领域的研究重点，在进行环境感知时，一些情况下存在进行路面要素重建的需求，目前的路面要素重建方式仅对前视相机前方的路面目标进行重建输出，无法对前视相机视野之外的路面目标进行重建。


技术实现要素：

3.为了解决目前的路面要素重建方式无法对前视相机视野之外的路面目标进行重建，影响到路面要素重建结果的完整性的问题，提出了本公开。本公开的实施例提供了一种路面要素重建方法、装置、电子设备及存储介质。
4.根据本公开实施例的一个方面，提供了一种路面要素重建方法，包括：
5.获取环境图像集，所述环境图像集包括：设置于可移动设备不同方位的多个图像采集装置在当前时刻，针对所述可移动设备周围的环境采集的不同视角的多帧图像，所述环境图像集中的每帧图像均包含有至少一个路面目标；
6.基于所述环境图像集，经由神经网络生成鸟瞰空间下包含有语义分割信息的第一特征图；
7.基于所述语义分割信息，确定所述第一特征图中各个所述路面目标各自的像素区域；
8.将所述第一特征图中各个所述路面目标各自的像素区域映射至所述可移动设备对应的预设坐标系下，得到第二特征图；
9.对所述第二特征图进行多目标跟踪，得到跟踪结果；
10.基于所述跟踪结果，生成路面要素重建结果。
11.根据本公开实施例的另一个方面，提供了一种路面要素重建装置，包括：
12.第一获取模块，用于获取环境图像集，所述环境图像集包括：设置于可移动设备不同方位的多个图像采集装置在当前时刻，针对所述可移动设备周围的环境采集的不同视角的多帧图像，所述环境图像集中的每帧图像均包含有至少一个路面目标；
13.第一生成模块，用于基于所述第一获取模块获取的所述环境图像集，经由神经网络生成鸟瞰空间下包含有语义分割信息的第一特征图；
14.确定模块，用于基于所述第一生成模块生成的所述第一特征图包含的所述语义分割信息，确定所述第一特征图中各个所述路面目标各自的像素区域；
15.第二获取模块，用于将所述确定模块确定的所述第一特征图中各个所述路面目标各自的像素区域映射至所述可移动设备对应的预设坐标系下，得到第二特征图；
16.多目标跟踪模块，用于对所述第二获取模块得到的所述第二特征图进行多目标跟
踪，得到跟踪结果；
17.第二生成模块，用于基于所述多目标跟踪模块得到的所述跟踪结果，生成路面要素重建结果。
18.根据本公开实施例的再一个方面，提供了一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序用于执行上述路面要素重建方法。
19.根据本公开实施例的又一个方面，提供了一种电子设备，包括：
20.处理器；
21.用于存储所述处理器可执行指令的存储器；
22.所述处理器，用于从所述存储器中读取所述可执行指令，并执行所述指令以实现上述路面要素重建方法。
23.基于本公开上述实施例提供的路面要素重建方法、装置、电子设备及存储介质，可以基于包括设置于可移动设备不同方位的多个图像采集装置采集的不同视角的多帧图像的环境图像集，经由神经网络生成鸟瞰空间下包含有语义分割信息的第一特征图，基于第一特征图可以生成第二特征图，基于对第二特征图进行多目标跟踪得到的跟踪结果，可以生成路面要素重建结果。这样，路面要素重建的输入并不是单一的前视相机观测，而是基于多个图像采集装置的多视角观测，路面要素最终是在鸟瞰空间下重建的，这样，路面要素重建结果对应的视野范围可以认为是全视野范围，路面要素重建结果对应的视野范围更加广泛，路面要素重建结果的完整性能够得到较好的保证。
24.下面通过附图和实施例，对本公开的技术方案做进一步的详细描述。
附图说明
25.通过结合附图对本公开实施例进行更详细的描述，本公开的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本公开实施例的进一步理解，并且构成说明书的一部分，与本公开实施例一起用于解释本公开，并不构成对本公开的限制。在附图中，相同的参考标号通常代表相同部件或步骤。
26.图1是本公开所适用的场景示意图。
27.图2是本公开一示例性实施例提供的路面要素重建方法的流程示意图。
28.图3是本公开一示例性实施例中路面要素重建结果的示意图。
29.图4是本公开另一示例性实施例提供的路面要素重建方法的流程示意图。
30.图5是本公开再一示例性实施例提供的路面要素重建方法的流程示意图。
31.图6是本公开又一示例性实施例提供的路面要素重建方法的流程示意图。
32.图7是本公开又一示例性实施例提供的路面要素重建方法的流程示意图。
33.图8是本公开一示例性实施例提供的路面要素重建装置的结构示意图。
34.图9是本公开另一示例性实施例提供的路面要素重建装置的结构示意图。
35.图10是本公开再一示例性实施例提供的路面要素重建装置的结构示意图。
36.图11是本公开又一示例性实施例提供的路面要素重建装置的结构示意图。
37.图12是本公开一示例性实施例提供的电子设备的结构图。
具体实施方式
38.下面，将参考附图详细地描述根据本公开的示例实施例。显然，所描述的实施例仅仅是本公开的一部分实施例，而不是本公开的全部实施例，应理解，本公开不受这里描述的示例实施例的限制。
39.应注意到：除非另外具体说明，否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本公开的范围。
40.本领域技术人员可以理解，本公开实施例中的“第一”、“第二”等术语仅用于区别不同步骤、设备或模块等，既不代表任何特定技术含义，也不表示它们之间的必然逻辑顺序。
41.还应理解，在本公开实施例中，“多个”可以指两个或两个以上，“至少一个”可以指一个、两个或两个以上。
42.还应理解，对于本公开实施例中提及的任一部件、数据或结构，在没有明确限定或者在前后文给出相反启示的情况下，一般可以理解为一个或多个。
43.另外，本公开中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，a和/或b，可以表示：单独存在a，同时存在a和b，单独存在b这三种情况。另外，本公开中字符“/”，一般表示前后关联对象是一种“或”的关系。
44.还应理解，本公开对各个实施例的描述着重强调各个实施例之间的不同之处，其相同或相似之处可以相互参考，为了简洁，不再一一赘述。
45.同时，应当明白，为了便于描述，附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。
46.以下对至少一个示例性实施例的描述实际上仅仅是说明性的，决不作为对本公开及其应用或使用的任何限制。
47.对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论，但在适当情况下，所述技术、方法和设备应当被视为说明书的一部分。
48.应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步讨论。
49.本公开实施例可以应用于终端设备、计算机系统、服务器等电子设备，其可与众多其它通用或专用计算系统环境或配置一起操作。适于与终端设备、计算机系统、服务器等电子设备一起使用的众所周知的终端设备、计算系统、环境和/或配置的例子包括但不限于：个人计算机系统、服务器计算机系统、瘦客户机、厚客户机、手持或膝上设备、基于微处理器的系统、机顶盒、可编程消费电子产品、网络个人电脑、小型计算机系统﹑大型计算机系统和包括上述任何系统的分布式云计算技术环境，等等。
50.终端设备、计算机系统、服务器等电子设备可以在由计算机系统执行的计算机系统可执行指令(诸如程序模块)的一般语境下描述。通常，程序模块可以包括例程、程序、目标程序、组件、逻辑、数据结构等等，它们执行特定的任务或者实现特定的抽象数据类型。计算机系统/服务器可以在分布式云计算环境中实施，分布式云计算环境中，任务是由通过通信网络链接的远程处理设备执行的。在分布式云计算环境中，程序模块可以位于包括存储设备的本地或远程计算系统存储介质上。
51.申请概述
52.在一些情况下，安装有高级驾驶辅助系统(advanced driving assistance system)的车辆需要进行路面要素重建。
53.在实现本公开的过程中，发明人发现，目前的路面要素重建方式基于传统的相机传感器实现，只能对车辆上设置的前视相机前方的路面目标进行重建输出，无法对前视相机视野之外的路面目标进行重建，这样，路面要素重建结果对应的视野范围仅为前视相机的视野范围，路面要素重建结果对应的视野范围较窄，路面要素重建结果的完整性无法得到保证。
54.示例性系统
55.如图1所示，本公开所适用的场景示意图中可以包括：车辆12、电子设备14和多个摄像头16；其中，电子设备14可以设置于车辆12上，或者，电子设备14可以不设置于车辆12上，而是与车辆12进行远程通信；多个摄像头16可以设置于车辆12的不同方位。
56.具体实施时，多个摄像头16可以周期性地进行环境图像的采集，多个摄像头16各自采集的图像均可以提供给电子设备14，电子设备14可以基于多个摄像头16提供的图像，执行本公开的实施例中的路面要素重建方法，以得到所对应视野范围更加广泛的路面要素重建结果，从而保证路面要素重建结果的完整性。
57.示例性方法
58.图2是本公开一示例性实施例提供的路面要素重建方法的流程示意图。图2所示的方法包括步骤210、步骤220、步骤230、步骤240、步骤250和步骤260，下面分别对各步骤进行说明。
59.步骤210，获取环境图像集，环境图像集包括：设置于可移动设备不同方位的多个图像采集装置在当前时刻，针对可移动设备周围的环境采集的不同视角的多帧图像，环境图像集中的每帧图像均包含有至少一个路面目标。
60.可选地，可移动设备可以为车辆，例如为图1中的车辆12；图像采集装置可以为摄像头，例如为图1中的摄像头16；设置于可移动设备不同方位的多个图像采集装置的数量可以为四个，四个图像采集装置可以分别设置于可移动设备的正前方、左前方、右前方、正后方，当然，设置于可移动设备不同方位的多个图像采集装置的数量还可以为三个、五个或者五个以上。
61.需要说明的是，本公开的实施例中涉及的路面目标均属于静态的路面要素，包括但不限于斑马线、停止线、路面方向箭头等。
62.步骤220，基于环境图像集，经由神经网络生成鸟瞰空间(bird's eye view，bev)下包含有语义分割信息的第一特征图。
63.在步骤220中，可以将步骤210中获取的环境图像集作为输入提供给神经网络，神经网络可以据此进行运算，以生成鸟瞰空间下包含有语义分割信息的第一特征图；其中，语义分割信息可以包括第一特征图中的所有像素点各自的类别，像素点的类别包括但不限于斑马线类别、停止线类别、路面方向箭头类别等；第一特征图也可以称为bev空间分割结果或者bev观测。
64.步骤230，基于语义分割信息，确定第一特征图中各个路面目标各自的像素区域。
65.由于语义分割信息包括第一特征图中的所有像素点各自的类别，在步骤230中，参考语义分割信息，可以高效快捷地提取第一特征图中各个路面目标各自的像素区域；其中，
任一路面目标对应的像素区域中的每个像素点的类别均为该路面目标对应的类别。
66.步骤240，将第一特征图中各个路面目标各自的像素区域映射至可移动设备对应的预设坐标系下，得到第二特征图。
67.为了便于理解，本公开的实施例中均以可移动设备对应的预设坐标系为车体坐标系(vehicle coordinate system)的情况为例进行介绍。
68.需要说明的是，可以预先建立鸟瞰坐标系与车体坐标系之间的转换关系，在步骤240中，可以利用预先建立的转换关系，将第一特征图中各个路面目标各自的像素区域均映射至车体坐标系下的一张空白的预定大小的特征图上，由此形成第二特征图，第二特征图中可以包括各个路面目标各自的矩形框。
69.步骤250，对第二特征图进行多目标跟踪(multiple object tracking，mot)，得到跟踪结果。
70.需要说明的是，本公开的实施例中可以周期性地进行环境图像集的获取，在每获取一个环境图像集之后，可以针对该环境图像集，生成对应的第一特征图和第二特征图，由此可以周期性地得到第二特征图，从而形成包括多帧第二特征图的序列。在步骤250中，可以采用多目标跟踪算法，对包括多帧第二特征图的序列进行多目标跟踪，即厘清前后帧中的路面目标之间的关系，关联前后帧中的同一路面目标，并赋予唯一的跟踪id，从而得到跟踪结果。
71.步骤260，基于跟踪结果，生成路面要素重建结果。
72.可选地，路面要素重建结果的效果图可以参见图3，路面要素重建结果可以用于呈现可移动设备周围的环境中存在的各个路面目标各自的位置、大小等信息。
73.本公开的实施例中，可以基于包括设置于可移动设备不同方位的多个图像采集装置采集的不同视角的多帧图像的环境图像集，经由神经网络生成鸟瞰空间下包含有语义分割信息的第一特征图，基于第一特征图可以生成第二特征图，基于对第二特征图进行多目标跟踪得到的跟踪结果，可以生成路面要素重建结果。这样，路面要素重建的输入并不是单一的前视相机观测，而是基于多个图像采集装置的多视角观测，路面要素最终是在鸟瞰空间下重建的，这样，路面要素重建结果对应的视野范围可以认为是全视野范围，路面要素重建结果对应的视野范围更加广泛，路面要素重建结果的完整性能够得到较好的保证。
74.在图2所示实施例的基础上，如图4所示，在步骤260之前，该方法还包括步骤252。
75.步骤252，获取多个历史的环境图像集对应的第一目标特征图序列，多个历史的环境图像集表示设置于可移动设备不同方位的多个图像采集装置在多个历史时刻采集的多个环境图像集，第一目标特征图序列包括：多个历史的环境图像集对应的多帧历史的第二特征图。
76.如上文所述，本公开的实施例中可以周期性地进行环境图像集的获取，那么，在当前时刻可以获取到对应的环境图像集，该环境图像集可以称为当前的环境图像集，当前的环境图像集对应的第二特征图可以称为当前的第二特征图；在多个历史时刻(即当前时刻之外的时刻)中的每个历史时刻也可以获取到对应的环境图像集，该环境图像集可以称为历史的环境图像集，历史的环境图像集对应的第二特征图可以称为历史的第二特征图。另外，与多个历史的环境图像集一一对应的多帧历史的第二特征图顺序排列即可组成第一目标特征图序列。
77.步骤260可以包括步骤2601、步骤2603、步骤2605、步骤2607和步骤2609。
78.步骤2601，基于第一目标特征图序列对应的跟踪结果，确定已跟踪的第一路面目标。
79.需要说明的是，通过对第一目标特征图序列进行多目标跟踪，可以得到第一目标特征图序列对应的跟踪结果，基于得到的跟踪结果，可以确定哪些路面目标已经被成功跟踪，这些已经被成功跟踪的路面目标中的每个路面目标均可以作为一个第一路面目标，由于针对每个第一路面目标的后续处理方式均是类似的，下文中主要针对单个第一路面目标的处理方式进行介绍。
80.步骤2603，将第一路面目标对应于第一目标特征图序列中的最后一帧历史的第二特征图的第一状态变量作为参考状态变量，将第一状态变量对应的第一不确定度作为参考不确定度。
81.可选地，任一路面目标的状态变量可以包括：该路面目标的矩形框的中心点的三维坐标，以及该路面目标的矩形框的长度、宽度和偏航角。
82.可选地，任一状态变量对应的不确定度可以用于表征该状态变量可信赖的程度，任一不确定度均可以利用协方差矩阵进行表征。
83.步骤2605，基于参考状态变量、参考不确定度、第一路面目标在当前的第二特征图中的第一观测信息和观测噪声，确定第一路面目标对应于当前的第二特征图的第二状态变量，以及第二状态变量的第二不确定度。
84.可选地，第一路面目标在当前的第二特征图中的第一观测信息可以包括：当前的第二特征图中第一路面目标的检测框的四个顶点各自的三维坐标；观测噪声可以是指针对当前的第二特征图进行观测时存在的噪声。
85.在一种具体实施方式中，步骤2605，包括：
86.将第一观测信息转换至世界坐标系，得到第二观测信息；
87.确定第二观测信息相对于状态变量的目标雅可比矩阵；
88.基于参考不确定度、目标雅可比矩阵和观测噪声，确定卡尔曼增益；
89.基于参考状态变量、卡尔曼增益、第二观测信息和目标雅可比矩阵，确定第二状态变量；
90.基于单位矩阵、卡尔曼增益、目标雅可比矩阵和参考不确定度，确定第二不确定度。
91.需要说明的是，可以预先确定车体坐标系与世界坐标系之间的转换关系，该转换关系具体可以为一种转换矩阵的形式。第一观测信息可以认为是在车体坐标系下的观测信息，在得到第一观测信息之后，可以利用该转换矩阵，将第一观测信息由车体坐标系转换至世界坐标系，以得到第二观测信息。在一个具体例子中，第一观测信息包括四个三维坐标，通过将四个三维坐标分别与该转换矩阵相乘，可以得到与四个三维坐标一一对应的另外四个三维坐标，得到的另外四个三维坐标可以组成第二观测信息。
92.在得到第二观测信息之后，可以确定第二观测信息相对于状态变量的目标雅可比矩，目标雅可比矩阵可以用于表征第二观测信息相对于状态变量的梯度信息。
93.可选地，确定第二观测信息相对于状态变量的目标雅可比矩阵，包括：
94.基于第二观测信息，确定第一路面目标的检测框的左上顶点、右上顶点、左下顶
点、右下顶点四者各自的观测三维坐标，以得到四个观测三维坐标；
95.基于四个观测三维坐标，确定第一路面目标的检测框的长度、宽度和偏航角；
96.基于长度、宽度、偏航角，以及预设坐标系与世界坐标系之间的旋转矩阵，确定左上顶点对应的第一雅可比矩阵、右上顶点对应的第二雅可比矩阵，左下顶点对应的第三雅可比矩阵，以及右下顶点对应的第四雅可比矩阵；
97.基于第一雅可比矩阵、第二雅可比矩阵、第三雅可比矩阵、以及第四雅可比矩阵，确定目标雅可比矩阵。
98.需要说明的是，本公开的实施例中涉及的检测框均可以为矩形框。
99.假设第二观测信息中左上顶点的三维坐标表示为y1＝(x
tl
,y
tl
,z
tl
)
t
，右上顶点的三维坐标表示为y2＝(x
tr
,y
tr
,z
tr
)
t
，左下顶点的三维坐标表示为y3＝(x
br
,y
br
,z
br
)
t
，右下顶点的三维坐标表示为y4＝(x
bl
,y
bl
,z
bl
)
t
，则可以得到四个观测三维坐标，其中，左上顶点、右上顶点、左下顶点、右下顶点四者各自的观测三维坐标可以依次为y1＝(x
tl
,y
tl
,z
tl
)
t
、y2＝(x
tr
,y
tr
,z
tr
)
t
、y3＝(x
br
,y
br
,z
br
)
t
、y4＝(x
bl
,y
bl
,z
bl
)
t
。
100.接下来，可以基于四个观测三维坐标，确定第一路面目标的检测框的长度、宽度和偏航角，确定长度、宽度和偏航角采用的公式可以为：
[0101][0102][0103]
θ＝arctan((ytl-ytr)/(xtl-xtr))
[0104]
其中，l、w、θ依次表示第一路面目标的检测框的长度、宽度、偏航角。
[0105]
可选地，基于四个观测三维坐标，还可以确定第一路面目标的检测框的中心点的三维坐标，确定第一路面目标的检测框的中心点的三维坐标采用的公式为：
[0106]
x＝(x
tl
+x
tr
+x
br
+x
bl
)/4
[0107]
y＝(y
tl
+y
tr
+y
br
+y
bl
)/4
[0108]
z＝z
tl
＝z
tr
＝z
br
＝z
bl
[0109]
其中，x、y、z依次表示第一路面目标的检测框的中心点的三维坐标中的x坐标、y坐标、z坐标。
[0110]
接下来，可以基于确定出的长度、宽度、偏航角，以及车体坐标系与世界坐标系之间的旋转矩阵，确定左上顶点对应的第一雅可比矩阵、右上顶点对应的第二雅可比矩阵，左下顶点对应的第三雅可比矩阵，以及右下顶点对应的第四雅可比矩阵。
[0111]
可选地，车体坐标系与世界坐标系之间的变换矩阵可以预先确定，车体坐标系与世界坐标系之间的变换矩阵可以表示为如下形式：
[0112][0113]
其中，twv表示车体坐标系与世界坐标系之间的变换矩阵，twv中左上角的9个元素
组成车体坐标系与世界坐标系之间的旋转矩阵，t1表示x方向对应的平移向量，t2表示y方向对应的平移向量，t3表示z方向对应的平移向量。
[0114]
可选地，第一雅可比矩阵表示为j
tl
，则：
[0115][0116]jxtl_θ
＝-sin(θ)
·
(r
11
·
l/2+r
12
·
w/2)+cos(θ)
·
(r
12
·
l/2-r
11
·
w/2)
[0117]jxtl_l
＝[(r
11
·
cos(θ)+r
12
·
sin(θ)]/2
[0118]jxtl_w
＝[(r
12
·
cos(θ)-r
11
·
sin(θ)]/2
[0119]jytl_θ
＝-sin(θ)
·
(r
21
·
l/2+r
22
·
w/2)+cos(θ)
·
(r
22
·
l/2-r
21
·
w/2)
[0120]jytl_l
＝[(r
21
·
cos(θ)+r
22
·
sin(θ)]/2
[0121]jytl_w
＝[(r
22
·
cos(θ)-r
21
·
sin(θ)]/2
[0122]jztl_θ
＝-sin(θ)
·
(r
31
·
l/2+r
32
·
w/2)+cos(θ)
·
(r
32
·
l/2-r
31
·
w/2)
[0123]jztl_l
＝[(r
31
·
cos(θ)+r
32
·
sin(θ)]/2
[0124]jztl_w
＝[(r
32
·
cos(θ)-r
31
·
sin(θ)]/2
[0125]
可选地，第二雅可比矩阵表示为j
tr
，则：
[0126][0127]jxtr_θ
＝-sin(θ)
·
(r
11
·
l/2-r
12
·
w/2)+cos(θ)
·
(r
12
·
l/2+r
11
·
w/2)
[0128]jxtr_l
＝[(r
11
·
cos(θ)+r
12
·
sin(θ)]/2
[0129]jxtr_w
＝[(-r
12
·
cos(θ)+r
11
·
sin(θ)]/2
[0130]jytr_θ
＝-sin(θ)
·
(r
21
·
l/2-r
22
·
w/2)+cos(θ)
·
(r
22
·
l/2+r
21
·
w/2)
[0131]jytr_l
＝[(r
21
·
cos(θ)+r
22
·
sin(θ)]/2
[0132]jytr_w
＝[(-r
22
·
cos(θ)+r
21
·
sin(θ)]/2
[0133]jztr_θ
＝-sin(θ)
·
(r
31
·
l/2-r
32
·
w/2)+cos(θ)
·
(r
32
·
l/2+r
31
·
w/2)
[0134]jztr_l
＝[(r
31
·
cos(θ)+r
32
·
sin(θ)]/2
[0135]jztr_w
＝[(-r
32
·
cos(θ)+r
31
·
sin(θ)]/2
[0136]
可选地，第三雅可比矩阵表示为j
bl
，则：
[0137][0138]jxbl_θ
＝-sin(θ)
·
(-r
11
·
l/2+r
12
·
w/2)+cos(θ)
·
(-r
12
·
l/2-r
11
·
w/2)
[0139]jxbl_l
＝-(r
11
·
cos(θ)+r
12
·
sin(θ)]/2
[0140]jxbl_w
＝[(r
12
·
cos(θ)-r
11
·
sin(θ)]/2
[0141]jybl_θ
＝-sin(θ)
·
(-r
21
·
l/2+r
22
·
w/2)+cos(θ)
·
(-r
22
·
l/2-r
21
·
w/2)j
ybl_l
＝-(r
21
·
cos(θ)+r
22
·
sin(θ)]/2
[0142]jybl_w
＝[(r
22
·
cos(θ)-r
21
·
sin(θ)]/2
[0143]jzbl_θ
＝-sin(θ)
·
(-r
31
·
l/2+r
32
·
w/2)+cos(θ)
·
(-r
32
·
l/2-r
31
·
w/2)
[0144]jzbl_l
＝-(r
31
·
cos(θ)+r
32
·
sin(θ)]/2
[0145]jzbl_w
＝[(r
32
·
cos(θ)-r
31
·
sin(θ)]/2
[0146]
可选地，第四雅可比矩阵表示为j
br
，则：
[0147][0148]jxbr_θ
＝-sin(θ)
·
(-r
11
·
l/2-r
12
·
w/2)+cos(θ)
·
(-r
12
·
l/2+r
11
·
w/2)
[0149]jxbr_l
＝-(r
11
·
cos(θ)+r
12
·
sin(θ)]/2
[0150]jxbr_w
＝[(-r
12
·
cos(θ)+r
11
·
sin(θ)]/2
[0151]jybr_θ
＝-sin(θ)
·
(-r
21
·
l/2-r
22
·
w/2)+cos(θ)
·
(-r
22
·
l/2+r
21
·
w/2)
[0152]jybr_l
＝-(r
21
·
cos(θ)+r
22
·
sin(θ)]/2
[0153]jybr_w
＝[(-r
22
·
cos(θ)+r
21
·
sin(θ)]/2
[0154]jzbr_θ
＝-sin(θ)
·
(-r
31
·
l/2-r
32
·
w/2)+cos(θ)
·
(-r
32
·
l/2+r
31
·
w/2)
[0155]jzbr_l
＝-(r
31
·
cos(θ)+r
32
·
sin(θ)]/2
[0156]jzbr_w
＝[(-r
32
·
cos(θ)+r
31
·
sin(θ)]/2
[0157]
其中，涉及的公式中，l表示长度，w表示宽度，θ表示偏航角，j
xtl_θ
、j
xtl_l
、j
xtl_w
、j
ytl_θ
、j
ytl_l
、j
ytl_w
、j
ztl_θ
、j
ztl_l
、j
ztl_w
为计算j
tl
时的中间变量，j
xtr_θ
、j
xtr_l
、j
xtr_w
、j
ytr_θ
、j
ytr_l
、j
ytr_w
、j
ztr_θ、jztr_l
、j
ztr_w
为计算j
tr
时的中间变量，j
xbl_θ
、j
xbl_l
、j
xbl_w
、j
ybl_θ
、j
ybl_l
、j
ybl_w
、j
zbl_θ
、j
zbl_l
、j
zbl_w
为计算j
bl
时的中间变量，j
xbr_θ
、j
xbr_l
、j
xbr_w
、j
ybr_θ
、j
ybr_l
、j
ybr_w
、j
zbr_θ
、j
zbr_l
、j
zbr_w
为计算j
br
时的中间变量。
[0158]
在得到j
tl
、j
tr
、j
bl
、j
br
之后，可以按照如下公式确定目标雅可比矩阵j
12
×6：
[0159][0160]
这种实施方式中，基于第二观测信息，可以高效可靠地得到四个观测三维坐标，基于四个观测三维坐标，可以高效可靠地确定出第一路面目标的长度、宽度和偏航角，通过将确定出的长度、宽度和偏航角代入相应公式进行运算，可以高效可靠地确定出第一雅可比矩阵至第四雅可比矩阵，由此可以高效可靠地得到目标雅可比矩阵，以便将目标雅可比矩阵用于后续步骤。
[0161]
具体地，可以基于参考不确定度、目标雅可比矩阵和观测噪声，确定卡尔曼增益，基于参考状态变量、卡尔曼增益、第二观测信息和目标雅可比矩阵，确定第二状态变量，并
基于单位矩阵、卡尔曼增益、目标雅可比矩阵和参考不确定度，确定第二不确定度。
[0162]
可选地，任一不确定度均可以利用协方差矩阵进行表征，确定卡尔曼增益利用的公式可以为：
[0163]
k＝p
k-1ht
(hp
k-1ht
+rk)-1
[0164]
其中，k表示卡尔曼增益，p
k-1
表示参考不确定度，h表示目标雅可比矩阵，rk表示观测噪声。
[0165]
可选地，确定第二状态变量利用的公式可以为：
[0166]
xk＝x
k-1
+k(y
k-hx
k-1
)
[0167]
其中，xk表示第二状态变量，x
k-1
表示参考状态变量，k表示卡尔曼增益，yk表示第二观测信息，h表示目标雅可比矩阵。
[0168]
可选地，任一不确定度均利用协方差矩阵进行表征，确定第二不确定度利用的公式为：
[0169]
pk＝(i－kh)p
k-1
[0170]
其中，pk表示第二不确定度，i表示单位矩阵，k表示卡尔曼增益，h表示目标雅可比矩阵，p
k-1
表示参考不确定度。
[0171]
可见，在参考不确定度、目标雅可比矩阵、观测噪声、参考状态变量、第二观测信息等信息均已知的情况下，只需将相应信息代入相应公式进行运算，即可高效可靠地确定出卡尔曼增益、第二状态变量和第二不确定度。
[0172]
步骤2607，响应于第二不确定度满足预设收敛条件，基于第二状态变量，生成路面要素重建结果。
[0173]
步骤2609，响应于第二不确定度不满足预设收敛条件，将参考状态变量更新为第二状态变量，并将参考不确定度更新为第二不确定度。
[0174]
在确定第二状态变量和第二不确定度之后，可以将第二不确定度与预设不确定度进行比较。
[0175]
如果第二不确定度未超过预设不确定度，可以判定第二不确定度满足预设收敛条件，则可以基于第二状态变量，生成路面要素重建结果。可选地，路面要素重建结果所呈现的第一路面目标的位置、大小等信息可以基于第二状态变量确定。
[0176]
如果第二不确定度超过预设不确定度，可以判定第二不确定度不满足预设收敛条件，则可以将参考状态变量更新为第二状态变量，并将参考不确定度更新为第二不确定度。接下来，当前时刻的第二特征图会变为一帧历史的第二特征图，第一目标特征图序列中会增加该帧历史的第二特征图，同时，还会得到新的当前的第二特征图，由此可以再次得到新的第二状态变量和新的第二不确定度，并据此再次判定新的第二不确定度是否满足预设收敛条件，后续过程依此类推。
[0177]
在一个例子中，多个历史时刻的数量为5个，分别是t1、t2、t3、t4、t5，当前时刻为t6，t1、t2、t3、t4、t5、t6各自对应的环境图像集依次为q1、q2、q3、q4、q5、q6，t1、t2、t3、t4、t5、t6各自对应的第二特征图依次为z1、z2、z3、z4、z5、z6。
[0178]
在得到z6之后，可以判断之前是否确定出了第一路面目标对应于z5的状态变量，以及第一路面目标对应于z5的状态变量所对应的协方差矩阵。
[0179]
如果之前并未确定第一路面目标对应于z5的状态变量，以及第一路面目标对应于
z5的状态变量所对应的协方差矩阵，则可以进行状态变量和协方差矩阵的初始化。可选地，可以基于第一路面目标在z6中的观测信息，并参照上文中用于计算得到x、y、z、l、w、θ的公式，为第一路面目标确定相应的状态变量，该状态变量可以作为第一路面目标对应于z6的状态变量，另外，还可以依据多次实验，计算初始状态变量的噪声水平，以初始化协方差矩阵，该协方差矩阵即可作为第一路面目标对应于z6的状态变量的协方差矩阵。
[0180]
如果之前已经确定出第一路面目标对应于z5的状态变量，以及第一路面目标对应于z5的状态变量所对应的协方差矩阵，则可以基于第一路面目标对应于z5的状态变量，第一路面目标对应于z5的状态变量所对应的协方差矩阵，第一路面目标在z6中的观测信息和观测噪声，确定第一路面目标对应于z6的状态变量，以及第一路面目标对应于z6的状态变量所对应的协方差矩阵。
[0181]
如果第一路面目标对应于z6的状态变量所对应的协方差矩阵未超过阈值(相当于上文中的第二不确定度满足预设收敛条件)，则可以基于第一路面目标对应于z6的状态变量，生成路面要素重建结果。
[0182]
如果第一路面目标对应于z6的状态变量所对应的协方差矩阵超过阈值(相当于上文中的第二不确定度不满足预设收敛条件)，则可以获取t6的下一时刻t7对应的环境图像集q7，并得到q7对应的第二特征图z7，且基于第一路面目标对应于z6的状态变量，第一路面目标对应于z6的状态变量所对应的协方差矩阵，第一路面目标在z7中的观测信息和观测噪声，确定第一路面目标对应于z7的状态变量，以及第一路面目标对应于z7的状态变量所对应的协方差矩阵。
[0183]
如果第一路面目标对应于z7的状态变量所对应的协方差矩阵未超过阈值，则可以基于第一路面目标对应于z7的状态变量，生成路面要素重建结果。
[0184]
如果第一路面目标对应于z7的状态变量所对应的协方差矩阵超过阈值，则可以获取t7的下一时刻t8对应的环境图像集q8，后续过程与获取q7之后的处理过程类似，在此不再赘述。
[0185]
本公开的实施例中，通过引入扩展卡尔曼滤波(extended kalman filter，ekf)算法，可以实时地对已跟踪的路面目标的状态变量进行更新优化，直至收敛，由此可以得到高精度的路面要素重建结果。另外，在滤波时可以选择矩形框模型(即各检测框均为矩形框)，由此可以实现状态变量的快速收敛。
[0186]
在图2所示实施例的基础上，如图5所示，在步骤250之前，该方法还包括步骤242。
[0187]
步骤242，获取多个历史的环境图像集对应的第二目标特征图序列，多个历史的环境图像集表示设置于可移动设备不同方位的多个图像采集装置在多个历史时刻采集的多个环境图像集，第二目标特征图序列包括：多个历史的环境图像集对应的多帧历史的第二特征图。
[0188]
需要说明的是，步骤242的具体实施过程参照对步骤252的说明即可，在此不再赘述。
[0189]
步骤250可以包括步骤2501、步骤2503、步骤2505和步骤2507。
[0190]
步骤2501，基于第二目标特征图序列对应的跟踪结果，确定已跟踪的第二路面目标。
[0191]
需要说明的是，步骤2501的具体实施过程参照对步骤2601的说明即可，在此不再
赘述。
[0192]
步骤2503，对当前的第二特征图进行目标检测，确定当前的第二特征图中的第三路面目标。
[0193]
在步骤2503中，可以利用目标检测算法，对当前的第二特征图进行目标检测，以确定当前的第二特征图中的各个路面目标，这些路面目标中的每个路面目标均可以作为一个第三路面目标，由于针对每个第三路面目标的后续处理方式是类似的，下文中主要针对单个第三路面目标的处理方式进行介绍。
[0194]
步骤2505，响应于第三路面目标与第二路面目标的类别相同，采用与第三路面目标的类别对应的计算方式，计算第三路面目标与第二路面目标之间的代价值。
[0195]
在一种具体实施方式中，采用与第三路面目标的类别对应的计算方式，计算第三路面目标与第二路面目标之间的代价值，包括：
[0196]
响应于第三路面目标的类别为路面箭头类别，基于第二目标特征图序列对应的跟踪结果，确定当前的第二特征图中第二路面目标的第一预测检测框；
[0197]
计算第一预测检测框，以及当前的第二特征图中第三路面目标的第一实际检测框的检测框交并比(intersection over union)和第一检测框欧式距离；
[0198]
计算检测框交并比与预设交并比的第一比值；
[0199]
计算第一检测框欧式距离与预设欧式距离的第二比值；
[0200]
基于第一比值与第二比值的加权结果，确定第三路面目标与第二路面目标之间的代价值。
[0201]
在第三路面目标的类别为路面箭头类型的情况下，可以根据第二目标特征图序列对应的跟踪结果，确定第二路面目标在第二目标特征图序列中的各帧历史的第二特征图中的实际检测框，并据此预测当前的第二特征图中第二路面目标的检测框，以确定第一预测检测框。
[0202]
接下来，可以将对当前的第二特征图中第三路面目标进行目标检测得到的第一实际检测框，以及第一预测检测框两者进行检测框交并比和检测框欧式距离的计算；其中，计算出的检测框交并比表征的可以是第一实际检测框与第一预测检测框的交集和并集之比；计算出的第一检测框欧式距离可以是第一实际检测框的中心点与第一预测检测框的中心点的欧式距离。
[0203]
之后，可以将检测框交并比与预设交并比相除，以得到第一比值，并将第一检测框欧式距离与预设欧式距离相除，以得到第二比值。
[0204]
再之后，可以对第一比值和第二比值进行加权处理，并基于加权结果，确定第三路面目标与第二路面目标之间的代价值。可选地，在进行第一比值和第二比值的加权处理时，第一比值和第二比值各自对应的权重可以根据实际情况设置，只需保证第一比值和第二比值各自对应的权重的和值为1即可，在得到加权结果之后，可以直接将加权结果作为代价值，或者，可以将加权结果映射至一指定数值区间(例如0至1，0至5等)，并将得到的映射值作为代价值。
[0205]
需要说明的是，第三路面目标的数量可能为多个，第二路面目标的数量也可能为多个，则针对第i个第三路面目标和第j个第二路面目标进行代价值的计算时，可以使用如下公式：
[0206]iij
＝k1·dij
/d
max
+(1－k1)
·
rect_iou
ij
/rect_iou
min
[0207]
其中，i
ij
表示第i个第三路面目标和第j个第二路面目标之间的代价值，k1表示预设权重，d
ij
表示针对第i个第三路面目标和第j个第二路面目标计算得到的检测框交并比，d
max
表示预设交并比，rect_iou
ij
表示针对第i个第三路面目标和第j个第二路面目标计算得到的第一检测框欧式距离，rect_iou
min
表示预设欧式距离。
[0208]
这种实施方式中，针对路面箭头类别的路面目标，通过进行检测框交并比和检测框欧式距离的计算，并进一步结合加权处理，能够高效可靠地计算出相应的代价值。
[0209]
在另一种具体实施方式中，采用与第三路面目标的类别对应的计算方式，计算第三路面目标与第二路面目标之间的代价值，包括：
[0210]
响应于第三路面目标的类别为斑马线类别或者停止线类别，基于第二目标特征图序列对应的跟踪结果，确定当前的第二特征图中第二路面目标的第二预测检测框；
[0211]
将当前的第二特征图中第三路面目标的第二实际检测框投影至第二预测检测框的长边，得到投影线段；
[0212]
计算投影线段与长边的线段交并比；
[0213]
计算第二预测检测框与第二实际检测框的第二检测框欧式距离；
[0214]
计算线段交并比与预设交并比的第三比值；
[0215]
计算第二检测框欧式距离与预设欧式距离的第四比值；
[0216]
基于第三比值和第四比值的加权结果，确定第三路面目标与第二路面目标之间的代价值。
[0217]
在第三路面目标的类别为为斑马线类别或者停止线类别的情况下，可以根据第二目标特征图序列对应的跟踪结果，确定第二路面目标在第二目标特征图序列中的各帧历史的第二特征图中的实际检测框，并据此预测当前的第二特征图中第二路面目标的检测框，以确定第二预测检测框。
[0218]
接下来，可以将对当前的第二特征图中第三路面目标进行目标检测得到第二实际检测框投影至第二预测检测框的长边，以确定投影线段，计算投影线段与长边的线段交并比，并计算第二预测检测框与第二实际检测框的第二检测框欧式距离；其中，计算出的线段交并比表征的是投影线段与长边的交集和并集之比；计算出的第二检测框欧式距离可以是第二实际检测框的中心点与第二预测检测框的中心点的欧式距离。
[0219]
之后，可以将线段交并比与预设交并比相除，以得到第三比值，并将第二检测框欧式距离与预设欧式距离相除，以得到第四比值。
[0220]
再之后，可以对第三比值和第四比值进行加权处理，并基于加权结果，确定第三路面目标与第二路面目标之间的代价值。可选地，在进行第三比值和第四比值的加权处理时，第三比值和第四比值各自对应的权重可以根据实际情况设置，只需保证第三比值和第四比值各自对应的权重的和值为1即可，在得到加权结果之后，可以直接将加权结果作为代价值，或者，可以将加权结果映射至一指定数值区间(例如0至1，0至5等)，并将得到的映射值作为代价值。
[0221]
需要说明的是，第三路面目标的数量可能为多个，第二路面目标的数量也可能为多个，则针对第i个第三路面目标和第j个第二路面目标进行代价值的计算时，可以使用如下公式：
[0222]iij
＝k1·dij
/d
max
+(1－k1)
·
line_iou
ij
/line_iou
min
[0223]
其中，i
ij
表示第i个第三路面目标和第j个第二路面目标之间的代价值，k1表示预设权重，d
ij
表示针对第i个第三路面目标和第j个第二路面目标计算得到的线段交并比，d
max
表示预设交并比，line_iou
ij
表示针对第i个第三路面目标和第j个第二路面目标计算得到的第二检测框欧式距离，rect_iou
min
表示预设欧式距离。
[0224]
这种实施方式中，针对斑马线类别或者停止线类别的路面目标，通过进行线段交并比和检测框欧式距离的计算，并进一步结合加权处理，能够高效可靠地计算出相应的代价值。
[0225]
步骤2507，基于第二目标特征图序列对应的跟踪结果，以及代价值，确定第三目标特征图序列对应的跟踪结果，第三目标特征图序列包括：第二目标特征图序列中的多帧历史的第二特征图，以及当前的第二特征图。
[0226]
在步骤2507中，在第二目标特征图序列对应的跟踪结果，以及第三路面目标与第二路面目标之间的代价值已知的情况下，可以采用匈牙利匹配算法，多对多进行路面目标的匹配。
[0227]
假设基于第二目标特征图序列对应的跟踪结果，确定了五个第二路面目标，分别是路面目标1、路面目标2、路面目标3、路面目标4、路面目标5，且其中路面目标1、路面目标2、路面目标3的类型是路面箭头类别，而通过对当前的第二特征图进行目标检测，确定了两个第三路面目标，分别是路面目标6和路面目标7，且路面目标6的类别是路面箭头类别，则可以分别计算路面目标6与路面目标1、路面目标2、路面目标3之间的代价值。
[0228]
假设路面目标6与路面目标1之间的代价值为代价值1，路面目标6与路面目标2之间的代价值为代价值2，路面目标6与路面目标3之间的代价值为代价值3，则可以先从代价值1、代价值2、代价值3中滤除超过预设代价值的代价值。
[0229]
假设过滤后还保留代价值1和代价值2，且代价值1小于代价值2，则可以认为路面目标6和路面目标1属于同一路面目标；假设代价值1、代价值2、代价值3均被滤除，则可以认为路面目标6和路面目标1不属于同一路面目标，并且，路面目标6为不同于路面目标1、路面目标2、路面目标3的路面目标，路面目标6为新出现的路面目标。
[0230]
采用上述方式厘清了路面目标6与路面目标1、路面目标2、路面目标3、路面目标4、路面目标5之间的关系，按照类似的方式，还可以厘清路面目标7与路面目标1、路面目标2、路面目标3、路面目标4、路面目标5之间的关系，由此可以得到第三目标特征图序列对应的跟踪结果。
[0231]
本公开的实施例中，针对不同类别的路面要素，可以使用相适配的方式进行代价值的计算，从而较好地保证计算结果的准确性和可靠性，由此可以保证进行多目标跟踪得到的跟踪结果的准确性和可靠性，从而有利于得到高精度的路面要素重建结果。
[0232]
在图2所示实施例的基础上，如图6所示，该方法还包括步骤270和步骤280。
[0233]
步骤270，对路面要素重建结果进行压缩，得到压缩结果；其中，路面要素重建结果包括：各个路面目标的检测框的四个顶点各自的优化三维坐标。
[0234]
需要说明的是，通过采用扩展卡尔曼滤波算法，可以不断对各个路面目标的状态变量进行优化更新，基于路面目标收敛时的状态变量，可以反推路面目标的检测框的四个顶点各自的三维坐标，该三维坐标即可作为优化三维目标，由此可以得到路面要素重建结
果。
[0235]
之后，可以遵循protobuf协议，对路面要素重建结果进行压缩，得到压缩结果；其中，protobuf是一种语言无关，平台无关，可扩展的序列化结构数据的方法，可用于通信和数据存储。
[0236]
步骤280，将压缩结果传输给上位机，压缩结果用于供上位机更新环境模型。
[0237]
可选地，环境模型可以为三维模型。
[0238]
在步骤280中，可以遵循protobuf协议，将压缩结果传输给上位机，上位机可以依据得到的压缩结果，更新可移动设备所处环境的环境模型，例如，上位机可以在环境模型中的合适位置添加各个路面目标。
[0239]
本公开的实施例中，可以对路面要素重建结果进行压缩传输，这样，路面要素重建结果所需占据的空间较小，并且，将路面要素重建结果用于环境模型的更新，有利于保证环境模型的准确性和可靠性。
[0240]
在一个可选示例中，如图7所示，路面要素重建流程可以包括如下步骤：bev神经网络输出、感知预处理、多目标跟踪、滤波优化、矢量化输出。
[0241]
bev神经网络输出步骤可以由bev神经网络输出模块实现，bev神经网络输出模块可以通过神经网络对多路图像(相当于上文中的环境图像集)预测，输出bev空间分割结果(相当于上文中的第一特征图)。
[0242]
感知预处理步骤可以由感知预处理模块实现，感知预处理模块可以提取bev观测中各类路面目标(包括斑马线、停止线、路面箭头等)的像素区域，通过变换可以找到车体坐标系下对应路面目标的区域，从而得到对应路面目标的最外围矩形框(相当于上文中的第一特征图中各个路面目标各自的像素区域映射至可移动设备对应的预设坐标系下，得到第二特征图)。
[0243]
多目标跟踪步骤可以由多目标跟踪模块实现，多目标跟踪模块可以计算新的观测(相当于上文中的第三路面目标)和已有路面目标(相当于上文中的第二路面目标)之间的代价值，通过匈牙利匹配算法，可以将新的观测和已有的路面目标相关联，分配唯一的跟踪id。
[0244]
滤波优化步骤可以由滤波优化模块实现，对于跟踪成功的路面目标，滤波优化模块可以用新的观测来优化已有的重建结果，考虑到实时性，路面目标优化采用的是扩展卡尔曼滤波算法，每个路面目标的状态变量选择为x＝(x，y，z，l，w，θ)
t
，其中，(x，y，z)
t
为矩形框的中心点的三维坐标，l，w，θ分别为该矩形框的长度、宽度和偏航角。每次新的观测用矩形框四个顶点坐标y1、y2、y3、y4来更新状态变量以及对应协方差矩阵，当协方差矩阵小于一定阈值时，认为该路面目标已经收敛，停止更新。
[0245]
矢量化输出步骤可以由矢量化输出模块实现，对于路面要素，矢量化输出模块可以仅仅输出矩形框的四个顶点坐标，并且支持protobuf协议进行压缩传输(相当于上文中的遵循protobuf协议，对路面要素重建结果进行压缩，得到压缩结果，并将压缩结果传输给上位机)，这种方式相对于点云表达，具有占据空间小的优点。
[0246]
综上，本公开的实施例中的路面要素重建方法，不同于传统的单一的前视相机观测，基于bev观测，可以实现更为稳定的路面静态要素的跟踪重建，且不局限于前视相机视野范围；对于不同的路面要素，跟踪关联时以相适配的方式计算代价值，可以获取稳定准确
的跟踪结果；滤波器模型选择矩形框模型，可以实现状态变量的快速收敛。
[0247]
本公开实施例提供的任一种路面要素重建方法可以由任意适当的具有数据处理能力的设备执行，包括但不限于：终端设备和服务器等。或者，本公开实施例提供的任一种路面要素重建方法可以由处理器执行，如处理器通过调用存储器存储的相应指令来执行本公开实施例提及的任一种路面要素重建方法。下文不再赘述。
[0248]
示例性装置
[0249]
图8是本公开一示例性实施例提供的路面要素重建装置的结构示意图。图8所示的装置包括第一获取模块810、第一生成模块820、确定模块830、第二获取模块840、多目标跟踪模块850和第二生成模块860。
[0250]
第一获取模块810，用于获取环境图像集，环境图像集包括：设置于可移动设备不同方位的多个图像采集装置在当前时刻，针对可移动设备周围的环境采集的不同视角的多帧图像，环境图像集中的每帧图像均包含有至少一个路面目标；
[0251]
第一生成模块820，用于基于第一获取模块810获取的环境图像集，经由神经网络生成鸟瞰空间下包含有语义分割信息的第一特征图；
[0252]
确定模块830，用于基于第一生成模块820生成的第一特征图包含的语义分割信息，确定第一特征图中各个路面目标各自的像素区域；
[0253]
第二获取模块840，用于将确定模块830确定的第一特征图中各个路面目标各自的像素区域映射至可移动设备对应的预设坐标系下，得到第二特征图；
[0254]
多目标跟踪模块850，用于对第二获取模块840得到的第二特征图进行多目标跟踪，得到跟踪结果；
[0255]
第二生成模块860，用于基于多目标跟踪模块850得到的跟踪结果，生成路面要素重建结果。
[0256]
在一个可选示例中，如图9所示，该装置还包括：
[0257]
第三获取模块852，用于在基于多目标跟踪模块850得到的跟踪结果，生成路面要素重建结果之前，获取多个历史的环境图像集对应的第一目标特征图序列，多个历史的环境图像集表示设置于可移动设备不同方位的多个图像采集装置在多个历史时刻采集的多个环境图像集，第一目标特征图序列包括：多个历史的环境图像集对应的多帧历史的第二特征图；
[0258]
第二生成模块860，包括：
[0259]
第一确定子模块8601，用于基于多目标跟踪模块850得到的第一目标特征图序列对应的跟踪结果，确定已跟踪的第一路面目标；
[0260]
第二确定子模块8603，用于将第一确定子模块8601确定的第一路面目标对应于第一目标特征图序列中的最后一帧历史的第二特征图的第一状态变量作为参考状态变量，将第一状态变量对应的第一不确定度作为参考不确定度；
[0261]
第三确定子模块8605，用于基于第二确定子模块8603确定的参考状态变量、第二确定子模块8603确定的参考不确定度、第一路面目标在当前的第二特征图中的第一观测信息和观测噪声，确定第一路面目标对应于当前的第二特征图的第二状态变量，以及第二状态变量的第二不确定度；
[0262]
生成子模块8607，用于响应于第三确定子模块8605确定的第二不确定度满足预设
收敛条件，基于第三确定子模块8605确定的第二状态变量，生成路面要素重建结果；
[0263]
更新子模块8609，用于响应于第三确定子模块8605确定的第二不确定度不满足预设收敛条件，将参考状态变量更新为第二状态变量，并将参考不确定度更新为第二不确定度。
[0264]
在一个可选示例中，第三确定子模块8605，包括：
[0265]
转换单元，用于将第一观测信息转换至世界坐标系，得到第二观测信息；
[0266]
第一确定单元，用于确定转换单元得到的第二观测信息相对于状态变量的目标雅可比矩阵；
[0267]
第二确定单元，用于基于第二确定子模块8603确定的参考不确定度、第一确定单元确定的目标雅可比矩阵，以及观测噪声，确定卡尔曼增益；
[0268]
第三确定单元，用于基于第二确定子模块8603确定的参考状态变量、第二确定单元确定的卡尔曼增益、转换单元得到的第二观测信息，以及第一确定单元确定的目标雅可比矩阵，确定第二状态变量；
[0269]
第四确定单元，用于基于单位矩阵、第二确定单元确定的卡尔曼增益、第一确定单元确定的目标雅可比矩阵，以及第二确定子模块8603确定的参考不确定度，确定第二不确定度。
[0270]
在一个可选示例中，第一确定单元，包括：
[0271]
第一确定子单元，用于基于转换单元得到的第二观测信息，确定第一路面目标的检测框的左上顶点、右上顶点、左下顶点、右下顶点四者各自的观测三维坐标，以得到四个观测三维坐标；
[0272]
第二确定子单元，用于基于第一确定子单元得到的四个观测三维坐标，确定第一路面目标的检测框的长度、宽度和偏航角；
[0273]
第三确定子单元，用于基于第二确定子单元确定的长度、宽度、偏航角，以及预设坐标系与世界坐标系之间的旋转矩阵，确定左上顶点对应的第一雅可比矩阵、右上顶点对应的第二雅可比矩阵，左下顶点对应的第三雅可比矩阵，以及右下顶点对应的第四雅可比矩阵；
[0274]
第四确定子单元，用于基于第三确定子单元确定的第一雅可比矩阵、第二雅可比矩阵、第三雅可比矩阵、以及第四雅可比矩阵，确定目标雅可比矩阵。
[0275]
在一个可选示例中，任一不确定度均利用协方差矩阵进行表征，确定卡尔曼增益利用的公式为：
[0276]
k＝p
k-1ht
(hp
k-1ht
+rk)-1
[0277]
其中，k表示卡尔曼增益，p
k-1
表示参考不确定度，h表示目标雅可比矩阵，rk表示观测噪声。
[0278]
在一个可选示例中，确定第二状态变量利用的公式为：
[0279]
xk＝x
k-1
+k(y
k-hx
k-1
)
[0280]
其中，xk表示第二状态变量，x
k-1
表示参考状态变量，k表示卡尔曼增益，yk表示第二观测信息，h表示目标雅可比矩阵。
[0281]
在一个可选示例中，任一不确定度均利用协方差矩阵进行表征，确定第二不确定度利用的公式为：
[0282]
pk＝(i－kh)p
k-1
[0283]
其中，pk表示第二不确定度，i表示单位矩阵，k表示卡尔曼增益，h表示目标雅可比矩阵，p
k-1
表示参考不确定度。
[0284]
在一个可选示例中，如图10所示，该装置还包括：
[0285]
第四获取模块842，用于在对第二获取模块840得到的第二特征图进行多目标跟踪，得到跟踪结果之前，获取多个历史的环境图像集对应的第二目标特征图序列，多个历史的环境图像集表示设置于可移动设备不同方位的多个图像采集装置在多个历史时刻采集的多个环境图像集，第二目标特征图序列包括：多个历史的环境图像集对应的多帧历史的第二特征图；
[0286]
多目标跟踪模块850，包括：
[0287]
第四确定子模块8501，用于基于第四获取模块842获取的第二目标特征图序列对应的跟踪结果，确定已跟踪的第二路面目标；
[0288]
第五确定子模块8503，用于对当前的第二特征图进行目标检测，确定当前的第二特征图中的第三路面目标；
[0289]
计算子模块8505，用于响应于第五确定子模块8503确定的第三路面目标与第四确定子模块8501确定的第二路面目标的类别相同，采用与第三路面目标的类别对应的计算方式，计算第三路面目标与第二路面目标之间的代价值；
[0290]
第六确定子模块8507，用于基于第四获取模块842获取的第二目标特征图序列对应的跟踪结果，以及计算子模块8505计算出的代价值，确定第三目标特征图序列对应的跟踪结果，第三目标特征图序列包括：第二目标特征图序列中的多帧历史的第二特征图，以及当前的第二特征图。
[0291]
在一个可选示例中，计算子模块8505，包括：
[0292]
第五确定单元，用于响应于第五确定子模块8503确定的第三路面目标的类别为路面箭头类别，基于第四获取模块842获取的第二目标特征图序列对应的跟踪结果，确定当前的第二特征图中第二路面目标的第一预测检测框；
[0293]
第一计算单元，用于计算第五确定单元确定的第一预测检测框，以及当前的第二特征图中第三路面目标的第一实际检测框的检测框交并比和第一检测框欧式距离；
[0294]
第二计算单元，用于计算第一计算单元计算出的检测框交并比与预设交并比的第一比值；
[0295]
第三计算单元，用于计算第一计算单元计算出的第一检测框欧式距离与预设欧式距离的第二比值；
[0296]
第六确定单元，用于基于第二计算单元计算出的第一比值与第三计算单元计算出的第二比值的加权结果，确定第三路面目标与第二路面目标之间的代价值。
[0297]
在一个可选示例中，计算子模块8505，包括：
[0298]
第七确定单元，用于响应于第五确定子模块8503确定的第三路面目标的类别为斑马线类别或者停止线类别，基于第四获取模块842获取的第二目标特征图序列对应的跟踪结果，确定当前的第二特征图中第二路面目标的第二预测检测框；
[0299]
投影单元，用于将第七确定单元确定的当前的第二特征图中第三路面目标的第二实际检测框投影至第二预测检测框的长边，得到投影线段；
[0300]
第三计算单元，用于计算投影单元得到的投影线段与长边的线段交并比；
[0301]
第四计算单元，用于计算第七确定单元确定的第二预测检测框与第二实际检测框的第二检测框欧式距离；
[0302]
第五计算单元，用于计算第三计算单元计算出的线段交并比与预设交并比的第三比值；
[0303]
第六计算单元，用于计算第四计算单元计算出的第二检测框欧式距离与预设欧式距离的第四比值；
[0304]
第八确定单元，用于基于第五计算单元计算出的第三比值和第六计算单元计算出的第四比值的加权结果，确定第三路面目标与第二路面目标之间的代价值。
[0305]
在一个可选示例中，如图11所示，该装置还包括：
[0306]
压缩模块870，用于对路面要素重建结果进行压缩，得到压缩结果；其中，路面要素重建结果包括：各个路面目标的检测框的四个顶点各自的优化三维坐标；
[0307]
传输模块880，用于将压缩模块870得到的压缩结果传输给上位机，压缩结果用于供上位机更新环境模型。
[0308]
示例性电子设备
[0309]
下面，参考图12来描述根据本公开实施例的电子设备。该电子设备可以是第一设备和第二设备中的任一个或两者、或与它们独立的单机设备，该单机设备可以与第一设备和第二设备进行通信，以从它们接收所采集到的输入信号。
[0310]
图12图示了根据本公开实施例的电子设备的框图。
[0311]
如图12所示，电子设备1200包括一个或多个处理器1210和存储器1220。
[0312]
处理器1210可以是中央处理单元(cpu)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元，并且可以控制电子设备1200中的其他组件以执行期望的功能。
[0313]
存储器1220可以包括一个或多个计算机程序产品，所述计算机程序产品可以包括各种形式的计算机可读存储介质，例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(ram)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(rom)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令，处理器1210可以运行所述程序指令，以实现上文所述的本公开的各个实施例的路面要素重建方法以及/或者其他期望的功能。
[0314]
在一个示例中，电子设备1200还可以包括：输入装置1230和输出装置1240，这些组件通过总线系统和/或其他形式的连接机构(未示出)互连。
[0315]
例如，在该电子设备是第一设备或第二设备时，该输入装置1230可以是麦克风或麦克风阵列。在该电子设备是单机设备时，该输入装置1230可以是通信网络连接器，用于从第一设备和第二设备接收所采集的输入信号。
[0316]
此外，该输入装置1230还可以包括例如键盘、鼠标等等。该输出装置1240可以向外部输出各种信息。该输出装置1240可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。
[0317]
当然，为了简化，图12中仅示出了该电子设备1200中与本公开有关的组件中的一些，省略了诸如总线、输入/输出接口等等的组件。除此之外，根据具体应用情况，电子设备1200还可以包括任何其他适当的组件。
[0318]
示例性计算机程序产品和计算机可读存储介质
[0319]
除了上述方法和设备以外，本公开的实施例还可以是计算机程序产品，其包括计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的路面要素重建方法中的步骤。
[0320]
所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例操作的程序代码，所述程序设计语言包括面向对象的程序设计语言，诸如java、c++等，还包括常规的过程式程序设计语言，诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。
[0321]
此外，本公开的实施例还可以是计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的路面要素重建方法中的步骤。
[0322]
所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。
[0323]
以上结合具体实施例描述了本公开的基本原理，但是，需要指出的是，在本公开中提及的优点、优势、效果等仅是示例而非限制，不能认为这些优点、优势、效果等是本公开的各个实施例必须具备的。另外，上述公开的具体细节仅是为了示例的作用和便于理解的作用，而非限制，上述细节并不限制本公开为必须采用上述具体的细节来实现。
[0324]
本说明书中各个实施例均采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同或相似的部分相互参见即可。对于系统实施例而言，由于其与方法实施例基本对应，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
[0325]
本公开中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的，可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇，指“包括但不限于”，且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”，且可与其互换使用，除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”，且可与其互换使用。
[0326]
可能以许多方式来实现本公开的方法和装置。例如，可通过软件、硬件、固件或者软件、硬件、固件的任何组合来实现本公开的方法和装置。用于所述方法的步骤的上述顺序仅是为了进行说明，本公开的方法的步骤不限于以上具体描述的顺序，除非以其他方式特别说明。此外，在一些实施例中，还可将本公开实施为记录在记录介质中的程序，这些程序包括用于实现根据本公开的方法的机器可读指令。因而，本公开还覆盖存储用于执行根据本公开的方法的程序的记录介质。
[0327]
还需要指出的是，在本公开的装置、设备和方法中，各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本公开的等效方案。
[0328]
提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本公开。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的，并且在此定义的一般原理可以应用于其他方面而不脱离本公开的范围。因此，本公开不意图被限制到在此示出的方面，而是按照与在此公开的原理和新颖的特征一致的最宽范围。
[0329]
为了例示和描述的目的已经给出了以上描述。此外，此描述不意图将本公开的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例，但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。