用于访问来自其他车辆的补充感知数据的方法与流程

文档序号:22400326发布日期:2020-09-29 18:12阅读:112来源:国知局
用于访问来自其他车辆的补充感知数据的方法与流程

相关申请的交叉引用

本申请要求提交于2017年12月27日的美国临时申请62/610,689的权益,该申请全文以引用方式并入本文。

本发明整体涉及自主驾驶车辆的领域,并且更具体地涉及自主驾驶车辆的领域中用于访问来自其他车辆的补充数据的新且有用的方法。

附图说明

图1a和图1b为方法的流程图表示;

图2为该方法的流程图表示;

图3为该方法的流程图表示;以及

图4为该方法的流程图表示。

具体实施方式

以下对本发明实施方案的描述并非旨在将本发明限制于这些实施方案,而是旨在使本领域的技术人员能够制备和使用本发明。本文所述的变型、配置、具体实施、示例性具体实施和示例是任选的,并且不排除它们描述的变型、配置、具体实施、示例性具体实施和示例。本文所述的发明可包括这些变型、配置、具体实施、示例性具体实施和示例的任何和所有排列。

1.方法

如图1a和图1b所示,用于访问来自其他车辆的补充数据的方法包括:在自主驾驶车辆处:在框s110中,在第一时间记录自主驾驶车辆周围的场景的扫描图像;在框s120中,在该扫描图像的区域中检测到感知数据不足;响应于在该扫描图像的该区域中检测到感知数据不足,在框s130中限定包含该扫描图像的该区域的感兴趣的地面区域,并且在框s140中无线地广播对表示该感兴趣的地面区域内的对象的感知数据的查询;响应于接收到来自该场景近侧的第二车辆的补充感知数据,在框s150中将该补充感知数据结合到该扫描图像中以形成复合扫描图像,该补充感知数据表示在大约该第一时间由该第二车辆检测到的该感兴趣的地面区域内的对象;在框s160中,基于由该复合扫描图像表示的该场景中的对象来选择第一导航动作;并且在框s170中自主地执行第一导航动作。

2.应用程序

一般来讲,彼此接近的自主驾驶车辆可各自执行方法s100的框以形成本地自组织无线网络并在它们之间共享感知数据(例如,原始传感器数据、从传感器数据解释的对象图),这可使得这些本地自主驾驶车辆中的一些或全部车辆能够:实现更大的传感器冗余;实现对其局部场景的更完整感知(例如,附近对象的位置、类型和轨迹);在更远的距离处感知即将到来的车辆和即将到来的障碍物;并且在较短时间内以更大置信度执行更多的通知甚至抢占的导航动作。

2.1请求补充感知数据

具体地讲,自主驾驶车辆沿路线自主地导航可以执行方法s100的框,以响应于某些触发而向附近的其他车辆请求(或“拉取”)补充感知数据,诸如:由于外部对象遮挡自主驾驶车辆上的传感器的视场,该自主驾驶车辆处的传感器冗余低或不足;准备执行特定导航动作(例如,右转为红色,无保护的左转);与常见事故位置的接近度;传感器数据不足以确信地对在该自主驾驶车辆附近的场景中检测到的对象的类型进行分类;在该自主驾驶车辆附近的场景中检测到新的轨迹未知的可变对象;等,如图2所示。例如,自主驾驶车辆可以:生成对原始传感器数据、对象图和/或表示感兴趣的特定地面区域内的对象的其他感知数据的查询,在该感兴趣的特定地面区域中该自主驾驶车辆在特定时间窗口内记录的深度图和/或摄影传感器数据不足,无法验证这些传感器数据、确认执行导航操作的权限、以超过最小置信度对场景中的对象进行分类和/或以超过最小置信度预测该场景中的对象的轨迹;然后通过本地无线网络将该查询直接传输到其他仪器化车辆(例如,同一或其他自主驾驶车辆车队中的其他自主驾驶车辆)。因此,自主驾驶车辆可以请求补充感知数据,该补充感知数据对应于自主驾驶车辆选择和执行下一个导航动作所需的特定感兴趣的地面区域,或者使自主驾驶车辆能够以更大的置信度且更低的与外部对象碰撞的概率来选择和执行下一个导航动作。

在接收到该查询时,附近的第二车辆可以:检索与感兴趣的特定地面区域相交并且是在该查询中指定的特定时间窗口期间从本地存储器记录的地理参考原始传感器数据、对象图或其他感知数据;然后经由同一本地无线网络将这些感知数据广播回到该自主驾驶车辆。在从附近的第二车辆接收到这些补充感知数据时,自主驾驶车辆可以:利用由自主驾驶车辆自身收集的传感器数据编译这些补充感知数据,以在特定时间窗口期间形成对该自主驾驶车辆周围的场景的更完整、更高分辨率并且/或者更高置信度的感知;基于对场景的此类感知来选择下一个导航动作(例如,加速、制动、转向或不改变);然后自主地执行该下一个导航动作。

2.2补充感知数据特性

如图3所示,自主驾驶车辆还可以请求特定类型的感知数据,如果本地无线网络支持高带宽无线通信或如果其他车辆的感知方法未知,则诸如:原始深度图数据(例如,整个或部分lidar帧)和/或摄影图像(例如,整个或部分彩色图像);或者如果本地无线网络不支持高带宽无线通信或如果验证了其他车辆的感知方法,则包含对象的类型和地理位置的对象图(从原始深度图和/或摄影图像数据导出)。因此,通过从附近的其他车辆请求更具体的选择性传感器数据,自主驾驶车辆可以限制从这些其他车辆传输到自主驾驶车辆的补充感知数据的总量,并因此限制无线网络的带宽消耗。

此外,自主驾驶车辆可以请求超过在其中该自主驾驶车辆可用的感知数据不足的感兴趣的特定地面区域的补充感知数据。例如,自主驾驶车辆可以请求针对其中自主驾驶车辆可以访问足够的感知数据(例如,足够的传感器冗余、对检测到的对象类型的置信度、对对象的预测轨迹类型的置信度)的第一感兴趣的地面区域以及其中自主驾驶车辆可以访问感知数据不足的第二感兴趣的地面区域的补充感知数据。在接收到跨越这两个感兴趣的地面区域的补充感知数据时,自主驾驶车辆可以:验证由该自主驾驶车辆生成的感知数据与第一感兴趣的地面区域中的从另一车辆接收的补充感知数据之间的对准;然后如果验证了针对第一感兴趣的地面区域的补充感知数据,则结合对应于第二感兴趣的地面区域的补充感知数据。自主驾驶车辆因此可以请求扩展超过该自主驾驶车辆周围的场景中的区域的补充感知数据,该自主驾驶车辆针对该区域访问不足的感知数据,以便使该自主驾驶车辆能够验证这些所接收的补充感知数据的完整性。

2.3传输补充感知数据

如图4所示,自主驾驶车辆还可以:在操作期间记录传感器数据,诸如以2d彩色图像、3d彩色图像、深度(例如,lidar)扫描等的形式;并且广播这些传感器数据的全部或片段。自主驾驶车辆可以附加地或另选地:将这些传感器数据转换为对象图或该自主驾驶车辆周围的场景的其他表示;并且广播该场景的这些导出的感知的全部或片段。附近的其他自主驾驶车辆然后可以选择性地访问由自主驾驶车辆广播的这些感知数据,以补充其自身的本地生成的感知数据。另选地,自主驾驶车辆可以:访问另一车辆的位置、轨迹和/或规划路线;选择与其他自主驾驶车辆的导航和/或感知相关的最近感知数据的片段;并且将其最近感知数据的该片段选择性地广播(或“推送”)到该另一自主驾驶车辆。又或者,自主驾驶车辆可以在根据方法s100由另一自主驾驶车辆明确请求(或“拉取”)时将其当前感知数据的所有或选择片段返回到该另一自主驾驶车辆。

因此,执行方法s100的框的自主驾驶车辆可以:从附近的其他车辆选择性地请求(或“拉取”)补充感知数据,以便增强其自身对其环境的感知;并且单独地或同时地将其自身的感知数据传输到附近的其他车辆,以便增强对这些其他自主驾驶车辆的个体感知。

为了共享感知数据,这些本地自主驾驶车辆(和/或附近的其他启用感测的车辆)可以形成自组织无线网络,并且经由该自组织无线网络在自主驾驶车辆之间直接共享感知数据(例如,而不是经由已建立的蜂窝网络将这些感知数据传递到继而通过同一蜂窝网络将这些数据分发给其他车辆的远程计算机系统)。

方法s100在本文中被描述为由自主驾驶车辆执行,以在满足某些触发条件时(接近)实时地通过本地自组织网络发送和接收补充感知数据,诸如:与另一车辆的接近度;传感器冗余不足;与被标记的道路位置的接近度;准备被标记的导航动作;等。然而,自主驾驶车辆还可以经由持久性无线网络(例如,蜂窝网络)将感知数据上传到远程计算机系统,并且这些自主驾驶车辆和远程计算机系统可以基本上实时协作地执行方法s100的框,以在这些自主驾驶车辆之间选择性地重新分配这些感知数据,以便增强这些自主驾驶车辆对其环境的感知,从而实现更高置信度且更高准确度的自主操作。

3.无线网络

执行方法s100的框以发送和接收补充感知数据的本地自主驾驶车辆可以形成移动自组织无线网络。例如,每个自主驾驶车辆可用作无线网络中的节点并且可经由无线通信协议连接到附近的其他节点(即,其他自主驾驶车辆)以在整个该无线网络中发送、接收和传递数据。然而,这些自主驾驶车辆可以实现任何其他方法或技术以创建自配置的动态自组织(或“网状”)无线网络,通过该无线网络,由一个自主驾驶车辆记录的补充感知数据可以被重新分配到一个或多个其他自主驾驶车辆,然后可根据方法s100将这些补充感知数据与其自身的传感器数据进行编译,以改善对本地环境的感知并改善导航动作的速度和质量。

4.自主驾驶车辆和传感器套件

方法s100的框s110详述了记录自主驾驶车辆周围的场景的扫描图像。一般来讲,在框s110中,自主驾驶车辆访问来自布置在该自主驾驶车辆上或集成在该自主驾驶车辆中的各种传感器的传感器数据,该传感器数据由布置在该自主驾驶车辆上的传感器大约同时地记录(并且限定视场,该视场在与该自主驾驶车辆的距离范围内表现出一定重叠),诸如来自多个lidar传感器的距离扫描和/或来自多个彩色相机的二维图像。

在一个具体实施中,自主驾驶车辆包括:一组lidar传感器,诸如布置在该自主驾驶车辆的前部、后部、左侧和右侧中的每一者处的该自主驾驶车辆的顶部。每个lidar传感器每旋转一圈(即,每扫描循环一次)都可以输出一个三维深度图(或“lidar帧”),诸如以3d点云的形式表示lidar传感器视场内该lidar传感器与外表面之间的距离。例如,自主驾驶车辆上的lidar传感器可以20hz的速率输出lidar帧,其中每个lidar帧包括围绕该自主驾驶车辆的偏航轴360°视场的3d点云间距,并且其中lidar帧中的每个点表示从该lidar传感器到该自主驾驶车辆周围的场中的表面的距离。此外,在其中自主驾驶车辆包括布置在其上的不同位置和/或取向中的多个lidar传感器的一个变型中,每个lidar传感器可每扫描循环输出一个lidar帧;并且自主驾驶车辆可以基于这些lidar传感器在其上的已知位置在每扫描循环将从这些lidar传感器接收到的并发lidar帧组合成一个复合lidar帧。自主驾驶车辆然后可以将lidar帧(来自单个lidar传感器或从多个lidar传感器组合而成)传递到在下文所述并在图2中示出的网格占用、基线感知和深度学习流水线中。

自主驾驶车辆还包括布置在该自主驾驶车辆的前部并且从该前部面向外的雷达传感器,该雷达传感器被配置为检测其视场中(即,自主驾驶车辆之前)的表面,并且被配置为每扫描循环输出这些表面及其位置的列表一次。例如,雷达传感器可限定从自主驾驶车辆的前部水平且向外延伸的大约2d视场。每扫描循环(例如,以20hz的速率)一次,雷达传感器可输出在其视场中检测到的对象(例如,至多64个对象)的对象列表,诸如包括:对象列表中的每个对象相对于雷达传感器的方位角、距雷达传感器的距离以及相对于雷达传感器(即,更一般地,相对于自主驾驶车辆)的速度。在其中自主驾驶车辆包括布置在其上的不同位置和/或取向中的多个雷达传感器的一个变型中,每个雷达传感器可每扫描循环输出一个对象列表;并且自主驾驶车辆可以基于这些雷达传感器在其上的已知位置在每扫描循环将从这些雷达传感器接收到的基于雷达的并发对象列表组合成一个复合对象列表。自主驾驶车辆然后可将基于雷达的对象列表(来自单个雷达传感器或从多个雷达传感器组合而成)传递到下文所述的网格占用流水线中。

自主驾驶车辆还可包括一组彩色相机,诸如从该自主驾驶车辆的前部、后部、左侧面和右侧面向外。例如,每个相机可以20hz的速率输出数字摄影图像(例如,彩色图像或“相机图像”)。

自主驾驶车辆可以附加地或另选地包括:一组红外发射器,该组红外发射器被配置为将结构光投影到该自主驾驶车辆附近的场中;一组红外检测器(例如,红外相机);以及处理器,该处理器被配置为将由该红外检测器输出的图像转换成该场的深度图。类似地,自主驾驶车辆可包括一组红外接近传感器,该组红外接近传感器沿自主驾驶车辆的基座的周边布置,并且被配置为输出与距该自主驾驶车辆的一米之内的对象和行人的接近度相对应的信号。

在操作期间,在框s110中,控制器可定期访问由该组lidar传感器记录的距离扫描、访问由相机记录的2d彩色图像,并且/或者访问由布置在自主驾驶车辆上的雷达传感器输出的对象列表和位置。例如,自主驾驶车辆可以将这些不同类型和不同格式的扫描数据编译成表示该自主驾驶车辆周围的场的一个扫描图像。自主驾驶车辆还可以实现占用网格、基线感知和/或深度学习感知技术以:从扫描图像解释场景中固定和可变对象的位置;对这些对象的类型(例如,车辆、卡车、行人、车道标记、道路标志、交通信号)进行分类;预测这些对象的状态;并且/或者预测这些对象的运动或轨迹(例如,基于先前扫描图像中的对象类型和对象位置)。

自主驾驶车辆还可以将在该当前扫描图像中检测到的特征与定位图进行比较以确定该自主驾驶车辆在实际空间中的位置和取向。控制器还可以基于导航图以及从当前扫描图像得出的自主驾驶车辆的实际位置和取向来计算该自主驾驶车辆的当前位置与朝向指定目的地的规划路线之间的标称路径。

自主驾驶车辆还可以从扫描图像诸如基于在当前扫描图像中检测到的对象的类型、状态和运动或轨迹来确定(或“感知”)该自主驾驶车辆周围的场景的情境(例如,该自主驾驶车辆是否有权沿其规划路线行驶)。因此,自主驾驶车辆可以:基于该自主驾驶车辆周围的场景的情境及其实际位置和取向选择下一个导航动作(诸如保持在规划路线上或偏离该规划路线);然后操纵车辆内的致动器(例如,加速器、制动器和转向致动器)以便自主地执行所选择的导航动作。

5.补充感知数据传输

自主驾驶车辆因此可以在框s110中的扫描循环期间收集各种类型的传感器数据。如下所述,自主驾驶车辆可经由无线网络将原始传感器数据(例如,原始深度图、原始彩色图像)传输到附近的其他自主驾驶车辆,诸如通过:默认经由本地自组织无线网络广播这些原始传感器数据;或者当这些原始传感器数据在对补充感知数据的请求中与由另一车辆明确指定的感兴趣的地面区域相交时,将这些原始传感器数据无线地传输到附近的特定车辆,如图1b和图4所示。

另选地,自主驾驶车辆可以将导出的感知数据(诸如以自主驾驶车辆附近的标记有其位置、类型和/或轨迹的可变对象的对象图的形式)传输到附近的其他车辆。

5.1导出的感知数据

在一个具体实施中,自主驾驶车辆向附近的其他车辆广播主要或唯一地表示可变对象(即,非静止对象诸如其他车辆、行人等)的导出的感知数据。例如,自主驾驶车辆可以访问:描绘地理区域内的地理参考不可变对象(诸如道路表面、建筑物、交通和街道标志、车道标记、路缘等)的定位图;并且将自主驾驶车辆上次生成的当前3d图像扫描中的特征与定位图中表示的不可变特征进行比较,以确定该自主驾驶车辆在实际空间中的位置和取向。然而,其他(诸如在同一自主驾驶车辆车队中的)自主驾驶车辆可访问相同的定位图,并且因此可访问地理区域中的这些相同的不可变对象的类型和位置。因此,自主驾驶车辆的表示该地理区域中的不可变对象和表面的扫描数据中的特征对于这些其他自主驾驶车辆可能是冗余的,并且表示这些不可变对象和表面的附加扫描数据可能不会显著改善这些其他自主驾驶车辆的定位、场景感知或导航。因此,自主驾驶车辆可以:分离当前扫描图像中与定位图中表示的不可变对象和表面不同的特征,因为这些不同的特征可以(主要)表示该自主驾驶车辆周围的场景中的可变对象;并且将表示这些可变对象的感知数据选择性地传输到附近的其他车辆,诸如通过将这些感知数据推送到这些其他车辆或者通过在具体请求时将这些感知数据返回到附近车辆。

在一个示例中,自主驾驶车辆可以:在当前扫描循环期间,从该自主驾驶车辆上的lidar传感器记录的深度图构建该自主驾驶车辆周围区域的3d扫描图像;大约识别由该自主驾驶车辆上的相机记录的并发彩色图像中的对象;将来自这些彩色图像的对象注释投影到该3d扫描图像中的对应点簇上;实现对象跟踪技术以在先前3d扫描图像与当前3d扫描图像之间跟踪(可变)对象并导出这些对象的速度;并且用其对应的速度标记当前3d扫描图像中的对象。自主驾驶车辆还可以:预测这些对象的边界;在3d扫描图像中的对应点簇周围插入该边界;并且用这些对象的地理参考位置和取向来标记这些边界和/或对应的点簇。自主驾驶车辆还可以实现运动模型以基于这些对象的类型来预测其轨迹,并将预测的轨迹插入到当前3d扫描图像中的对应点簇(或对应对象)上。自主驾驶车辆因此可以生成包含可变对象和不可变对象的地理参考表示的3d扫描图像,每个对象标记有其预测的类型、状态、2d或3d边界、速度和/或预测的轨迹等。

在该示例中,自主驾驶车辆还可以:实现定位技术以将当前3d扫描图像中的特征与定位图中的地理参考特征对准,从而确定该自主驾驶车辆在当前扫描循环时的地理空间位置和取向;分离当前3d扫描图像中表示的与定位图中表示的不可变表面偏移的对象(例如,或表面、点、特征等);分离由该自主驾驶车辆识别为可变的其他对象;并且将这些分离的对象(包括其预测类型、类型置信度分数、边界、速度和/或轨迹)编译成压缩扫描图像,该压缩扫描图像表示在当前时间自主驾驶车辆周围的场景中的可变对象(和未知对象)。因此,该压缩扫描图像可以形成“对象图”,该“对象图”描绘了在当前扫描循环期间在由自主驾驶车辆记录的传感器数据中检测到的可变对象的地理参考位置和这些可变对象的各种特性。

自主驾驶车辆然后可以通过自组织无线网络将该压缩扫描图像的全部或部分传输到附近的其他车辆,以便补充由这些其他车辆在类似时间生成的3d扫描图像。因此,在该示例中,自主驾驶车辆可以将大的3d扫描图像压缩为一组对可变对象的表示,并且可以将该压缩扫描图像传输到附近的其他自主驾驶车辆,以便减少由该自主驾驶车辆通过自组织无线网络广播的感知数据的总体积,从而限制该无线网络上的带宽消耗。

自主驾驶车辆可以附加地或另选地基于针对该其他车辆计算或从该其他车辆接收的感兴趣的地面区域来过滤传输到附近的另一车辆的感知数据。例如,在从附近的第二车辆接收到对表示感兴趣的特定地理参考地面区域的补充扫描数据的查询时(如下文所述),自主驾驶车辆可以提取与该感兴趣的地面区域相交的压缩扫描图像的片段,然后将该“截短的”扫描图像返回到该第二车辆,从而限制传输到该第二车辆的感知数据的密度、限制由这些感知数据表示的总地理空间区域,并且在响应于对该第二车辆的补充感知数据的请求时限制该无线网络上的带宽消耗。

此外,通过将描绘自主驾驶车辆附近场景中的可变对象的预测类型、类型置信度分数、边界、速度和/或轨迹等的压缩或截短的扫描图像(例如,对象图)传输到附近的其他车辆,自主驾驶车辆因此可以:将预处理的感知数据(而不是原始传感器数据)提供给另一车辆,从而减少该另一车辆将该压缩或截短的扫描图像结合到其自身本地生成的扫描图像中所需的处理时间和处理能力。

然而,自主驾驶车辆可以任何其他方式预处理扫描数据,并且可以任何其他格式将这些扫描数据传输到本地或自组织无线网络上的其他车辆。

5.2推送感知数据

在一种变型中,自主驾驶车辆默认向附近的其他车辆自动地广播(或“推送”)补充感知数据,并且不存在来自这些其他车辆的对感兴趣的特定地面区域的特定补充感知数据的请求。

在一个具体实施中,自主驾驶车辆经由无线网络定期广播扫描图像(例如,在一个扫描循环期间生成的完整、截短或压缩的扫描图像,如上所述),诸如每扫描循环一次或间歇地(例如,以1hz的速率)。在该具体实施中,自主驾驶车辆可默认向无线网络定期广播(或“推送”)这些感知数据。另选地,当至少一辆自主驾驶车辆占据该自主驾驶车辆的阈值距离内的位置(诸如300米的预设静态范围或与该自主驾驶车辆相对于另一自主驾驶车辆的相对速度成比例的动态范围)时该自主驾驶车辆可以广播这些传感器数据;或者当附近的另一车辆明确请求时。

在另一个具体实施中,自主驾驶车辆可以:向附近的其他自主驾驶车辆(或远程计算机系统)查询以获得它们的位置、速度、行进方向和/或规划路线;预测由自主驾驶车辆在当前或最近扫描循环期间生成的感知数据是否可能与这些其他自主驾驶车辆相关;然后相应地广播这些感知数据。例如,对于附近的第二车辆,自主驾驶车辆可以基于该第二车辆的速度、方向和取向来计算该第二车辆的感兴趣的地面区域,诸如经过以下各处的椭圆:沿该第二车辆前后轴线向前200米的第一点;在该第二车辆的左侧100米处的第二点;在该第二车辆的右侧100米的第三点;以及给定第二车辆的当前位置和取向,在该第二车辆后面50米处的第四点。另选地,自主驾驶车辆可以限定沿第二车辆的规划路线的下一英里路段纵向延伸,并且沿该第二车辆的规划路线的该下一英里路段从每个交叉路口横向向外(短距离)延伸的该第二车辆的感兴趣的地面区域。在该示例中,自主驾驶车辆然后可以:计算该第二车辆的感兴趣的地面区域的垂直投影与该自主驾驶车辆生成的当前3d扫描图像(或其他最近扫描图像)的交叉点;将该3d扫描图像裁剪到该交叉路口;并且该将3d扫描图像的该裁剪片段自动地传输到该第二车辆。然后,该第二车辆可以将其自身的扫描数据附加在从该自主驾驶车辆接收到的该3d扫描图像的该裁剪片段内以改善对其环境的感知,从而使得该第二车辆能够选择和执行具有更为空间完整的信息、具有跨越更长时间段的信息并因此具有更大置信度的下一个导航动作。

自主驾驶车辆还可以:同时执行该过程的附加实例以向附近的其他车辆提供目标补充感知数据;并且在每个后续扫描循环期间重复该过程以选择性地向这些其他车辆广播补充感知数据。

5.3响应于对感知数据的拉取请求

在另一种变型中,自主驾驶车辆响应于来自另一自主驾驶车辆的请求而选择性地将补充感知数据返回到该另一车辆(即,当补充感知数据被该另一车辆“拉取”时)。

在一个具体实施中,自主驾驶车辆记录原始传感器数据、实现感知技术以将这些传感器数据编译成扫描图像(例如,具有对象类型、位置、速度和轨迹注释的3d扫描图像;或对象图),并且在一个扫描循环期间基于该扫描图像执行导航动作诸如跨越50毫秒的周期。在该具体实施中,自主驾驶车辆还:将特定时间的时间戳(诸如对应于扫描循环的开始)写入本地存储器中的扫描图像;在扫描循环期间,用该自主驾驶车辆的地理空间位置和取向标记该扫描图像;并且将该扫描图像存储在本地存储器中,诸如存储在十秒滚动缓冲器中。随后,自主驾驶车辆可以在大约特定时间接收来自第二车辆的对表示感兴趣的特定地面区域内的对象的感知数据的查询。如果存储在本地存储器中的由扫描图像表示的地理区域与该感兴趣的地面区域相交,则自主驾驶车辆然后可以将该整个扫描图像(或与该感兴趣的地面区域相交的扫描图像的片段)、特定时间的时间戳以及该自主驾驶车辆在该特定时间的地理空间位置传输到该第二车辆。自主驾驶车辆可以重复该过程以将存储在本地存储器中并且与感兴趣的地面区域相交的其他扫描图像以及查询中指定的更长时间段提供给该第二车辆。

6.补充感知数据请求

自主驾驶车辆可以附加地或另选地传输对补充感知数据的请求以增强在当前或最近的扫描循环期间生成的扫描图像。

在该变型中,自主驾驶车辆可以执行该方法的框s120、s130和s140,这些框详述了:在扫描图像的区域中检测到感知数据不足;响应于在该扫描图像的区域中检测到感知数据不足,限定包含该扫描图像的该区域的感兴趣的地面区域;以及无线地广播分别对表示该感兴趣的地面区域内的对象的感知数据的查询。一般来讲,在框s120、s130和s140中,当自主驾驶车辆确定补充感知数据可能是有益或必要的时,该自主驾驶车辆可以选择性地向附近的另一车辆请求(或“拉取”)此类补充感知数据以使该自主驾驶车辆以足够的完整性和准确性感知其本地环境,并且使该自主驾驶车辆能够以足够的置信度(例如,以自主驾驶车辆拥有通行权并且与另一对象碰撞的风险低的置信度)选择和执行下一导航动作。具体地讲,自主驾驶车辆可以执行框s120、s130和s140以在该自主驾驶车辆处满足某些触发条件时,经由本地自组织无线网络请求访问附近的其他车辆的补充感知数据。

例如,在该变型中,自主驾驶车辆可以向附近的其他车辆广播(或“推送”)查询以获得补充感知数据:自主驾驶车辆的视场的一部分是否被阻挡(例如,被与该自主驾驶车辆相邻的车道中的卡车阻挡);是否该自主驾驶车辆在其视场的一部分中实现了小于阈值传感器冗余;是否该自主驾驶车辆访问扫描图像的区域中的传感器数据的密度不足以确信地预测对象的类型或轨迹;或者是否该自主驾驶车辆检测到另一补充感知数据触发。在该示例中,自主驾驶车辆可直接经由本地自组织网络或经由持久无线网络(例如,经由互联网连接到远程计算机系统的蜂窝网络)将该查询传输到附近的第二车辆。在接收到该请求时,该第二车辆可以执行上述方法和技术以:分离在时间上和空间上与该请求相交(例如,落入请求中指定的时间窗口和感兴趣的地面区域内)的原始传感器数据或导出的感知数据;并且将这些原始或导出的感知数据(接近)实时地返回到该自主驾驶车辆。

因此,在该变型中,自主驾驶车辆可以经由本地自组织无线网络直接向第二车辆传输查询,然后经由该本地自组织无线网络从该第二车辆接收补充感知数据。自主驾驶车辆然后可以:将从第二车辆接收到的这些补充感知数据与其自身的并发感知数据(例如,基于与补充感知数据相关联的地理空间位置和取向)组合,以便“填充”该自主驾驶车辆对其本地环境的感知;然后基于对该环境的该“填充”(例如,更完整和/或更高分辨率)表示来选择导航动作。

自主驾驶车辆还可以同时执行该过程的多个实例以向附近的多个车辆请求针对相同或不同感兴趣的地面区域的补充感知数据,并且将从这些车辆中的每个接收到的补充感知数据结合到由自主驾驶车辆生成的并发扫描图像中,如图1a、图1b和图3所示。

6.1触发:可访问性

在一个具体实施中,当附近的其他车辆连接到无线网络或以其他方式进入自主驾驶车辆的无线范围时,该自主驾驶车辆会向这些其他车辆请求一般补充数据。

例如,在框s130中自主驾驶车辆可以根据其速度、方向和/或路线来计算感兴趣的地面区域,并且在框s140中可向附近的其他车辆请求对应于该感兴趣的地面区域的补充数据。在该示例中,自主驾驶车辆可以限定:当该自主驾驶车辆停靠在交通信号灯处时,主要在该自主驾驶车辆前方延伸50米的椭圆形感兴趣的地面区域;当该自主驾驶车辆以每小时50英里向前移动时,主要在该自主驾驶车辆前方延伸300米的椭圆形感兴趣的地面区域;当该自主驾驶车辆右转或准备右转时,主要向该自主驾驶车辆的右侧延伸的椭圆形感兴趣的地面区域;等。另选地,在框s130中,当自主驾驶车辆执行规划路线时,该自主驾驶车辆可以限定沿该规划路线从该自主驾驶车辆的当前位置向前延伸一英里,并且沿该规划路线的该下一英里路段从每个交叉路口横向向外(例如,延伸200米)延伸的感兴趣的地面区域。在框s140中,自主驾驶车辆然后可以将对表示该感兴趣的地面区域的补充感知数据的请求推送到连接到该无线网络的其他车辆。例如,自主驾驶车辆可以:以感兴趣的地面区域的顶点的地理空间坐标的形式限定该感兴趣的地面区域;如果无线网络在当前时间表现出高带宽,则请求原始传感器数据形式的补充感知数据;并且如果无线网络在当前时间表现出低带宽,则请求对象图形式的补充感知数据(例如,包含可变对象的类型、地理空间位置、速度和轨迹)。

在类似的示例中,当自主驾驶车辆沿其规划路线以一定速度穿过高速公路的路段时,在框s130中,该自主驾驶车辆可限定沿该自主驾驶车辆前方的规划路线延伸并且在由该自主驾驶车辆占用的高速公路的一侧上延伸的感兴趣的地面区域。自主驾驶车辆然后可以向在该自主驾驶车辆前方的高速公路的同一路段上(诸如在该自主驾驶车辆前方至多两英里处)以相同方向行驶的其他车辆广播对补充感知数据的请求。在接收到该请求时,其他车辆可将其视场与由该自主驾驶车辆指定的感兴趣的地面区域进行比较;然后,具有与该感兴趣的地面区域相交的视场的那些车辆可以经由无线网络将对应于该感兴趣的地面区域的截短的感知数据选择性地返回到该自主驾驶车辆。在接收到这些压缩和截短的感知数据时,在框s150中,自主驾驶车辆可大约同时将其自身的由该自主驾驶车辆记录的扫描图像与这些外部感知数据附加在一起,以便在该自主驾驶车辆前方更远的距离处实现对高速公路这一侧的交通和障碍物(包括该自主驾驶车辆的即时视场之外的交通和障碍物)的感知。

因此,这些补充感知数据可以使得自主驾驶车辆能够识别在距自主驾驶车辆更远的距离处并且可能与该自主驾驶车辆的视场模糊的交通和障碍物,从而使得自主驾驶车辆能够更快且以更高置信度地进行导航动作。此外,通过请求具体表示自主驾驶车辆的规划路线上和规划路线附近的可变对象的补充感知数据,该自主驾驶车辆可以访问已经被其他车辆处理、解释并压缩为感兴趣对象的高值表示的补充感知数据,从而在传输这些补充感知数据时限制对无线网络带宽的影响,并且限制该自主驾驶车辆的附加处理以将这些补充感知数据结合到先前由该自主驾驶车辆生成的扫描图像中。

6.2触发:即将到来的导航动作

在另一个具体实施中,当自主驾驶车辆准备执行特定类型的导航动作时,该自主驾驶车辆选择性地向附近的其他车辆请求补充感知数据。

例如,自主驾驶车辆可以实现被标记用于检索补充感知数据的预定义一组导航动作,诸如:执行未受保护的左转;在有红灯的交叉路口处右转;或退出停车库;等。在该示例中,当自主驾驶车辆接近交叉路口或停靠在交叉路口处,面向该自主驾驶车辆的交通灯为红色且该自主驾驶车辆的规划路线指示在交叉路口处右转时,该自主驾驶车辆可以限定感兴趣的地面区域,该地面区域包括:交叉路口;面向该自主驾驶车辆并从该交叉路口往回延伸100米的左转车道;以及在框s130中,从该自主驾驶车辆向左延伸300米的交叉车道。在框s140中,自主驾驶车辆然后可经由无线网络向附近的其他车辆广播对该感兴趣的地面区域内的补充感知数据的请求。限定与该感兴趣的地面区域相交的视场的其他车辆然后可以经由无线网络向该自主驾驶车辆返回补充感知数据,如上所述。

因此,这些补充感知数据可以使自主驾驶车辆能够检测到在该自主驾驶车辆前方并沿其规划路线接近右转弯合并车道的其他车辆(诸如沿交叉车道或从面向自主驾驶车辆的左转车道),即使这些其他车辆不直接处于该自主驾驶车辆的视场内或太远离该自主驾驶车辆而无法直接检测或识别。具体地讲,自主驾驶车辆可以:利用从附近的其他车辆接收到的补充感知数据来扩展其对交叉路口附近的车辆、行人和其他可变(例如,移动)对象的感知;然后以更大的置信度并且以减小与即将到来的流量碰撞的概率来确定是否延迟或执行该交叉路口处的右转动作。

在该具体实施中,自主驾驶车辆可以实现其他规则诸如交通密度和/或交通速度,以确定是否向附近的其他车辆查询以获得补充感知数据。

6.3触发:事故历史

在另一个具体实施中,由自主驾驶车辆实现的导航图(或定位图等)被注释有触发对补充感知数据的请求的位置。在该具体实施中,当自主驾驶车辆接近或占用导航图中指定的此类触发位置时,该自主驾驶车辆选择性地向附近的其他车辆请求补充感知数据。

例如,远程计算机系统(如上所述)可以访问各种历史数据,诸如:占用自主驾驶车辆的本地人工操作员对其自主驾驶车辆进行手动控制的位置;和/或涉及手动操作的车辆的事故位置(以及严重程度、费用等)。然后,远程计算机系统可以:外推离散位置、交叉路口、车道和/或其他路段,在这些路段上自主驾驶车辆可能处于更高的事故风险,或者特别受益于来自附近其他车辆的补充感知数据;并且用这些离散位置、交叉路口、车道和/或其他路段处的补充感知数据触发来填补导航图。附加地或另选地,远程计算机系统可以在对应于特定道路、交叉路口、障碍物或其他道路情况类型(诸如铁路道口、人流量高的人行横道、学校附近的道路或交叉路口不停的交叉路口等)的位置处将补充感知数据触发写入导航图。远程计算机系统还可以为该导航图中的这些补充感知数据触发分配预定义的感兴趣的地面区域。

在操作期间,当自主驾驶车辆接近与导航图中所指示的补充感知数据触发相关联的位置时,在框s140中,该自主驾驶车辆可以经由无线网络向附近的其他车辆自动地广播对补充感知数据的请求,诸如包括针对该导航图中的该位置限定的预定义的感兴趣的地面区域。在接收到该查询时,附近的其他车辆可以基本上实时地将表示该感兴趣的地面区域内的对象和其他表面的补充感知数据流式传输到该自主驾驶车辆;并且该自主驾驶车辆可以将这些补充感知数据与其自身的传感器数据组合,并且利用其对环境的增强感知以更大的置信度且更低的与其他对象碰撞的概率来驶入和经过该位置。

在该具体实施中,一旦自主驾驶车辆移动经过或离开与导航图中的该补充感知数据触发相关联的离散位置、交叉路口、车道和/或其他路段,该自主驾驶车辆就可以向本地应用程序广播提示以停止向这些其他车辆传输补充感知数据。

6.4触发:视场和传感器冗余

在图3所示的又一个具体实施中,当自主驾驶车辆上的传感器的视场基本上被遮挡时,该自主驾驶车辆选择性地向附近的其他车辆查询以获得补充感知数据。

一般来讲,光学传感器(诸如lidar和彩色相机传感器)能够以在距自主驾驶车辆最小距离处并且在标称条件下(例如,当自主驾驶车辆占用附近无高大对象的开放区域时)在这些传感器之间产生最小冗余(例如,重叠视场)的取向布置在该自主驾驶车辆上。然而,在操作中,当自主驾驶车辆导航通过某场景时,诸如沿道路经过建筑物、通过停车场经过其他车辆等,这些传感器的视场的重叠区域可能被附近的高大对象(例如,客运车辆、卡车、建筑物)阻挡。因此,当自主驾驶车辆自主地导航规划路线或朝向指定目的地导航时,实际冗余(例如,或这些传感器的视场之间的重叠程度)可能会改变,诸如随时改变。

在没有对象落入传感器套件的可感测范围内的标称条件下,相邻lidar传感器和/或彩色相机的视场可在三维空间中表现出已知的标称重叠。例如,两个相邻传感器的视场:可在距传感器小于一米处不重叠;可在距传感器五米的距离处横向重叠两米;并且可在距传感器四十米的距离处横向重叠二十米;等。自主驾驶车辆因此可以比较从由这些传感器输出的两个并发图像的重叠区域提取的特征(例如,表面、对象),以便验证这两个传感器(例如,以确认在第一图像的该区域中检测到的对象的存在、位置和/或与该区域的距离充分匹配在第二图像的对应区域中检测到的类似对象的特征)。(自主驾驶车辆可类似地比较从该自主驾驶车辆上的三个或更多个传感器的视场的重叠区域提取到的特征以验证这些传感器的功能。)然而,当自主驾驶车辆接近外部对象或表面(诸如另一车辆、超车、行人、交通标志、建筑物等)时该外部对象或表面可遮挡这两个(或更多个)传感器的视场的重叠区域,使得这些传感器的视场中的较少的视场重叠或不重叠,从而减少或消除由这两个传感器输出的数据之间的冗余。

因此,当检测到足够的重叠时,自主驾驶车辆可以选择性地检查传感器的视场的重叠区域之间的对准;相应地验证由这些传感器输出的传感器数据;并且基于这些已验证的本地生成的传感器数据来选择和执行导航动作。然而,当自主驾驶车辆检测到这些传感器的视场之间的重叠不足时,在框s140中,该自主驾驶车辆可以向附近的其他车辆请求补充感知数据,并且利用这些补充感知数据来增加表示这些传感器的视场的数据的冗余。

例如,如果自主驾驶车辆以第二车辆(例如,卡车)恰好停靠在其右侧的方式停靠在交叉路口处,或者如果自主驾驶车辆正沿道路自主地导航,其中该第二车辆恰好以类似的速度向该自主驾驶车辆的右侧移动,则该第二车辆可能遮挡从该自主驾驶车辆的右侧向外延伸的光学传感器的视场。具体地讲,当第二车辆恰好保持在自主驾驶车辆的右侧时,该第二车辆可能:从布置在该自主驾驶车辆上的光学传感器遮挡该自主驾驶车辆右侧的视场,从而直接防止自主驾驶车辆检测到其右侧的车辆、障碍物和道路标志等;并且减少或消除由这些光学传感器收集到的光学数据之间的重叠,从而减少或消除自主驾驶车辆可以利用其验证这些光学传感器的操作的传感器数据。

因此,在该示例中,在框s130中,自主驾驶车辆可以:限定向该自主驾驶车辆的右侧延伸超过第二车辆的感兴趣的地面区域;并且在框s140中,可以向自组织无线网络广播对与该感兴趣的地面区域相对应的补充感知数据的请求。在从附近的其他车辆接收到这些补充感知数据时,自主驾驶车辆可以将这些补充感知数据与本地记录的传感器数据对准,以便扩展该自主驾驶车辆的视场超过第二车辆。自主驾驶车辆还可以验证在该自主驾驶车辆上的这些传感器的相对对准、数据的准确性以及由在该自主驾驶车辆上的这些传感器所记录的数据的感知,以及基于这些本地传感器数据中相似特征的对准和并发补充感知数据从其他车辆接收到的补充感知数据的准确性和感知。

因此,在该具体实施中,自主驾驶车辆可利用从附近的其他车辆接收到的补充感知数据来增强其对环境的观察并增强其传感器套件的冗余。

6.5场景混淆

在图3所示的类似具体实施中,自主驾驶车辆向附近的其他车辆查询以获得表示该自主驾驶车辆附近的但被另一对象(例如,建筑物、卡车、客车)混淆的感兴趣的地面区域的补充感知数据,以便:扩展该自主驾驶车辆的视场超过该对象;并且在选择和执行下一个导航动作时考虑自主驾驶车辆的即时视场之外的其他车辆、行人等。

在一个示例中,自主驾驶车辆可以:在扫描循环期间的第一时间记录传感器数据(例如,距离图和/或彩色图像);在框s110中,将这些传感器数据编译成扫描图像;在框s120中,识别由于场景中的外部对象在第一时间混淆自主驾驶车辆上的传感器的视场而缺乏数据(或“空”)的扫描图像的区域;在框s130中,限定与该区域相交并且延伸超过与该自主驾驶车辆相对的外部对象的感兴趣的地面区域;然后在框s140中,广播对该表示感兴趣的地面区域内的对象和表面的补充感知数据的请求。自主驾驶车辆然后可以从远离该自主驾驶车辆与外部对象相对的第二车辆接收由该第二车辆在大约第一时间记录的补充感知数据。自主驾驶车辆然后可以将这些补充感知数据与该自主驾驶车辆在第一时间生成的扫描图像组合,以形成复合扫描图像,该复合扫描图像描绘了在第一时间对该自主驾驶车辆可见的对象以及在大约该第一时间不在该自主驾驶车辆视线内(例如,远离该自主驾驶车辆与外部对象相对)的对象两者。

6.6对象分类

在图3所示的另一个具体实施中,自主驾驶车辆响应于以至少最小置信度未能对当前扫描图像中的对象类型进行分类而向附近的其他车辆查询以获得补充感知数据。具体地讲,如果自主驾驶车辆在扫描中检测到可表示离散对象的特征(例如,深度图中可表示车辆、行人的点簇),但由于在扫描图像的该区域中缺乏足够的数据密度而无法以足够的置信度对该对象进行分类,则该自主驾驶车辆可以请求描绘该对象的补充感知数据。类似地,如果自主驾驶车辆在扫描中检测到可表示一个对象或两个离散对象中任一者的特征(例如,深度图中可表示一辆卡车或两辆离散客运车辆的点簇),但由于在扫描图像的该区域中缺乏足够的数据密度而无法以足够的置信度将这些特征分类为一个或两个对象,则该自主驾驶车辆可以请求描绘该一个或多个对象的补充感知数据。

在一个示例中,自主驾驶车辆请求描绘该未分类对象的原始传感器数据。在该示例中,在框s110中,自主驾驶车辆经由布置在该自主驾驶车辆上的一组深度传感器在扫描循环期间的大约第一时间记录第一组深度图,并且将该第一组深度图编译成表示场景中在第一时间对该自主驾驶车辆可见的一组表面的第一扫描图像。如果该自主驾驶车辆然后识别出在该第一扫描图像中被预测为表示单个对象但包含用于识别该单个对象的类型的不足量的点的第一点簇(诸如利用深度学习流水线),则该自主驾驶车辆:基于该自主驾驶车辆在第一时间的地理空间位置来计算包含点簇的地理参考边界;并且向附近车辆传输对描绘地理参考边界的地理参考深度图数据和/或原始颜色图像的查询。自主驾驶车辆然后可以从附近的第二车辆接收包含与该感兴趣的地面区域内的表面相对应的第二点簇的地理参考原始深度图的片段。因此,自主驾驶车辆然后:基于与该原始深度图一起接收到的地理参考来在扫描图像中定位该第二点簇以形成复合扫描图像;然后基于该复合扫描图像中的第一点簇和第二点簇的组合来预测对象的类型。在该示例中,自主驾驶车辆可以实现深度学习感知流水线以解释由复合扫描图像中的该组合组的点表示的对象类型(例如,车辆、行人、垃圾箱、道路标志、灌木丛)。自主驾驶车辆可以附加地或另选地实现计算机视觉、深度学习或人工智能技术以将从第二车辆接收到的原始、地理参考彩色图像中描绘的该对象进行分类。

在对对象进行分类之后,自主驾驶车辆还可以访问与该对象的类型相关联的运动模型,并且基于该对象(或被预测为表示对象的点)在先前扫描图像中的运动模型和地理空间位置来预测该对象的轨迹。自主驾驶车辆然后可以实现路径规划模型,以基于该预测的对象轨迹来选择限制或减小与对象碰撞的概率的下一个导航动作。

除此之外或另选地,自主驾驶车辆可以向附近的其他车辆请求该物体的类别或类型、该物体周围的地理参考边界和/或该物体的轨迹等,诸如向比该自主驾驶车辆更靠近该对象的其他车辆请求。

6.7未知对象轨迹

在图3所示的类似具体实施中,响应于检测到自主驾驶车辆周围的场景中的新(移动)对象,该自主驾驶车辆向附近的其他车辆查询以获得表示该新对象的补充感知数据,以便该自主驾驶车辆能够在先前不知道该对象的位置或速度的情况下预测该对象的速度和轨迹。

在一个示例中,自主驾驶车辆:基于在大约第一时间记录的传感器数据在当前扫描循环期间生成第一扫描图像;识别场景中首先由该自主驾驶车辆在该第一扫描图像中检测到但在框s120中未表示在先前扫描循环期间生成的扫描图像中(即,不存在)的特定对象;在框s130中,限定包含特定对象的感兴趣的地面区域;然后在框s140中,无线地广播对感兴趣的地面区域内的对象的轨迹的查询。自主驾驶车辆然后可以从附近的第二车辆接收包括由该第二车辆基于其在大约第一时间通过一系列其自身的扫描循环所记录的传感器数据而估计的特定对象的预测轨迹(以及其预测类型和地理空间位置)的补充感知数据。自主驾驶车辆然后可以用从第二车辆接收到的特定对象的轨迹来为该特定对象在第一扫描图像中的表示加注释。

然而,在框s130和框s140中,自主驾驶车辆能够以任何其他方式并且响应于任何其他一个或多个触发器而向其他车辆请求补充感知数据。

此外,一旦自主驾驶车辆已经清除所有触发(诸如通过移动到补充感知数据位置之外或完成与补充感知数据触发相关联的导航动作),则该自主驾驶车辆可以:停止向网络上的其他车辆查询以获得补充扫描数据;并且可以替代地转变为依赖于本地收集到的传感器数据,以确定其位置和取向并选择下一个导航动作。

7.导出的感知与原始传感器数据

在前述具体实施中,自主驾驶车辆可以向其他车辆请求原始传感器数据和/或导出的感知数据以便增强其自身对其环境的感知。

7.1原始传感器数据

在一个示例中,在框s110中,自主驾驶车辆经由布置在该自主驾驶车辆上的一组深度传感器在扫描循环期间的大约第一时间记录第一组深度图,并且将该第一组深度图编译成表示场景中在第一时间对该自主驾驶车辆可见的一组表面的第一扫描图像。该自主驾驶车辆然后无线地广播对与感兴趣的地面区域相交并且大约在第一时间记录的原始深度图数据的查询。该自主驾驶车辆然后可以从附近的第二车辆接收:补充感知数据,该补充感知数据包括原始深度图的与感兴趣的地面区域相交并且由该第二车辆在接近第一时间的第二时间(例如,在第一时间的100毫秒内)记录的片段;以及该第二车辆在该第二时间的地理空间位置。该自主驾驶车辆然后可以:基于该第二车辆在该第二时间的地理空间位置,在该扫描图像中定位从该第二车辆接收到的原始深度图的该片段;并且实现占用网格、基线感知和/或深度学习感知流水线,以在大约第一时间解释所得复合扫描图像中描绘的对象的类型、位置、速度和/或轨迹。

7.2导出的感知数据

另选地,自主驾驶车辆可以请求导出的补充感知数据,诸如以从另一车辆的原始传感器数据导出的对象图的形式。例如,自主驾驶车辆可以:经由布置在该自主驾驶车辆上的一组深度传感器在大约第一时间记录第一组深度图;经由布置在该自主驾驶车辆上的一组相机在大约第一时间记录第一组摄影图像;然后实现计算机视觉、深度学习和/或人工智能技术以基于该第一组深度图和该第一组摄影图像生成包括指定场景内的第一组对象的类型和地理参考位置的第一对象图的扫描图像。响应于检测到扫描图像的区域中的数据不足,在框s120中,自主驾驶车辆可以限定与该区域相交的感兴趣的地面区域,然后无线地广播对在大约第一时间该感兴趣的地面区域内的对象的类型、位置、速度和/或预测轨迹的查询。该自主驾驶车辆然后可以从第二车辆接收第二对象图片段形式的补充感知数据,该第二图像图片段:由该第二车辆基于其在大约第一时间(例如,在第一时间的100毫秒内;在第一时间的一个50毫秒扫描循环内)记录的感知数据而生成;并且指定在大约该第一时间感兴趣的地面区域内的第二组对象的类型、位置、速度和/或预测轨迹。自主驾驶车辆然后可以将从第二车辆接收到的第二对象图片段插入到由该自主驾驶车辆生成的第一对象图中,以形成描绘由该第二车辆(而不是由该自主驾驶车辆)检测到的对象和由该自主驾驶车辆自身检测到的对象两者的复合扫描图像。

在该具体实施中,该第二对象图片段还可以限定该第二组对象中的每个对象的地理参考边界;并且该自主驾驶车辆可以将这些对象边界投影到该第一对象地图中。自主驾驶车辆还可以基于其对从第二车辆接收到的导出的感知数据的置信度来调整这些边界。例如,自主驾驶车辆可将第二组对象插入到第一对象图中,其中该第二组对象中的每个对象的地理参考边界扩展了缓冲距离。在该示例中,自主驾驶车辆可以:在第二车辆与自主驾驶车辆所在的同一自主驾驶车辆车队相关联并且正在执行更新的感知流水线以检测、分类和跟踪附近的对象的情况下,将缓冲距离设定为第一(最小)距离;响应于该第二车辆与不同于该第一自主驾驶车辆但历史上表现出高对象感知准确性的自主驾驶车辆车队的关联,将缓冲距离设定为大于该第一距离的第二距离;以及响应于该第二车辆与不同于该第一自主驾驶车辆并且历史上表现出不良对象感知准确性的自主驾驶车辆车队的关联,将缓冲距离设定为大于该第二距离的第三距离。

7.5.3导出的感知与原始传感器数据选择

在该变型中,自主驾驶车辆可以基于无线网络上的无线连接性和/或带宽限制选择性地请求原始传感器数据和导出的感知数据,如图3所示。例如,自主驾驶车辆可以:在扫描循环期间的大约第一时间测量本地无线网络的带宽;并且如果无线连接性差和/或如果本地无线网络的带宽在大约第一时间下降到阈值带宽以下,则经由无线网络无线地广播对在大约第一时间包括在感兴趣的地面区域内的对象的类型和位置的导出的感知数据的查询。然而,如果无线连接性良好和/或本地无线网络的带宽在大约第一时间超过阈值带宽,则自主驾驶车辆可相反地广播对与感兴趣的地面区域相交并且在大约第一时间记录的原始传感器数据的查询。

8.补充感知数据验证

在一个变型中,自主驾驶车辆请求扩展超过扫描图像中该自主驾驶车辆访问不充足的感知数据的区域的补充感知数据。在接收到补充感知数据时,自主驾驶车辆:验证扫描图像的高数据密度片段中的已知对象的存在以及与这些补充感知数据的第一片段中表示的类似对象的对准;并且然后响应于对该补充感知数据的该第一片段的验证,将对应于该扫描图像的低数据密度片段的这些感知数据的第二片段结合到该扫描图像中。然而,如果自主驾驶车辆未能验证该补充感知数据的该第一片段,则该自主驾驶车辆可以:丢弃这些补充感知数据的整体;将这些补充感知数据结合到并发扫描图像中,但用较低置信度值进行标记;或将这些具有较大回避(或“缓冲”)区的补充感知数据结合到并发扫描图像中。

在一个示例中,自主驾驶车辆:识别由于该自主驾驶车辆上的传感器的视场在第一时间被场景中的外部对象混淆而缺乏数据的当前扫描图像的第一区域;识别该扫描图像中包含足够(例如,高密度、高分辨率、更高冗余)的感知数据的第二区域;限定地面区域,该地面区域包括包含该扫描图像的该第一区域的第一片段和包含该扫描图像的该第二区域的第二片段;并且在该感兴趣的地面区域中传输对补充感知数据的查询。自主驾驶车辆然后可以从附近的第二车辆接收由第二自主驾驶车辆在大约第一时间检测到的表示感兴趣的地面区域的第一片段的第一感知数据集以及表示感兴趣的地面区域的第二片段的第二感知数据集。自主驾驶车辆然后可以:基于第二感知数据集与在该扫描图像的该第二区域中检测到的特征之间的对准来验证该补充感知数据;并且响应于对补充感知数据的验证,组合该扫描图像和该第一感知数据集以形成复合扫描图像。否则,自主驾驶车辆可以丢弃或解除对这些补充感知数据的优先级排序。

9.延迟访问补充感知数据

在另一个变型中,如果向另一车辆所请求的感知数据当前不可用但预测将在不久的将来(例如,在接下来的十秒内)可用,则自主驾驶车辆等待来自该另一车辆的补充感知数据。

在一个示例中,自主驾驶车辆在第一时间自主地导航到第一位置处的停靠点;基于在大约该第一时间记录的传感器数据生成第一扫描图像;检测该第一扫描图像中的数据不足的区域;并且随后广播对该区域内的补充感知数据的请求。在第一时间之后的第二时间(例如,三秒钟),自主驾驶车辆可从附近的第二车辆接收被预测为在该第一时间之后的第三时间(例如,第一时间之后五秒钟)落入该第二车辆的视场中的感兴趣的地面区域当前不在其视场中的响应。如果第一时间和第三时间之间的差值保持低于阈值等待时间(例如,十秒钟),则自主驾驶车辆可保持停靠在第一位置处并且在第三时间左右(例如,之后不久)从第二车辆下载描绘感兴趣的地面区域的补充感知数据。在等待这些补充感知数据时,自主驾驶车辆可以在后续的扫描循环期间继续生成扫描图像;在第三时间左右从第二车辆接收到补充感知数据时,自主驾驶车辆可以将这些补充感知数据与由该自主驾驶车辆生成的并发扫描图像组合。自主驾驶车辆然后可以在第三时间之后基于从这些复合扫描图像得出的对象和场景情境自主地导航离开该第一位置,并且相应地停止访问来自该第二车辆的补充感知数据。

10.数据组合

框s150详述了响应于从自主驾驶车辆附近的另一车辆接收到补充感知数据而将该补充感知数据结合到扫描图像中以形成复合扫描图像。一般来讲,在框s150中,自主驾驶车辆将从其他车辆接收到的补充数据与本地记录的传感器数据进行编译,以放大和/或富集该自主驾驶车辆对其周围环境的视图。

如上所述,自主驾驶车辆可在响应于补充感知数据请求而将这些补充感知数据广播到自组织无线网络或特定自主驾驶车辆之前将地理位置标记插入到补充感知数据中。在接收到补充感知数据时,自主驾驶车辆因此可以将这些补充感知数据与基于这些补充感知数据中的地理位置标记在大约相同的时间(例如,在补充感知数据的记录的两秒内)本地记录的其自身的传感器数据对准,以形成复合传感器图像。

在一个示例中,在基于在第一时间记录的传感器数据生成第一扫描图像之后,自主驾驶车辆将该第一扫描图像(具有该第一时间的时间戳)存储在本地存储器中。自主驾驶车辆在每个后续扫描循环期间重复该过程,以生成具有时间戳的扫描图像的序列并将这些扫描图像存储在本地存储器中(例如,在十秒钟的滚动缓冲器中)。在该时间段期间,自主驾驶车辆可以在第一时间请求感兴趣的地面区域的补充感知数据,并且可以在该第一时间之后的第三时间(例如,三秒钟)从第二车辆接收由该第二车辆在第二时间记录的第一组补充感知数据。在接收到该第一组补充感知数据时,自主驾驶车辆可以从本地存储器检索第一扫描图像,并且基于该第一扫描图像与该第一组补充感知数据的时间接近度将该第一组补充感知数据结合到该第一扫描图像中以形成复合扫描图像。直到场景或自主驾驶车辆的位置的改变消除了由该自主驾驶车辆生成的扫描图像中感知数据不足的区域,该自主驾驶车辆可以保留对补充感知数据的该请求,并且可以重复该过程以将从一个或多个其他车辆接收到的补充感知数据注入到存储在自主驾驶车辆上的本地存储器中的并发扫描图像中。

自主驾驶车辆因此可以生成在先前的扫描循环期间描绘该自主驾驶车辆周围的场景的复合扫描图像序列。自主驾驶车辆还可以:检测并跟踪该序列的过去的复合扫描图像中的对象;基于其在先前复合扫描图像的该序列期间的地理空间位置的变化来估计该对象的轨迹;基于当前扫描循环期间对象的预测地理空间位置与实际地理空间位置之间的差值来验证该估计轨迹;然后如果经过验证(例如,如果对象的预测地理空间位置和实际地理空间位置之间的差值小于阈值差值),则将该轨迹向前外推到将来。自主驾驶车辆然后可以基于场景、场景中的对象和这些对象的预测轨迹自主地选择并执行下一个导航动作,诸如降低将来与这些对象碰撞的概率。

11.自主导航

方法s100的框s160详述了基于复合扫描图像选择下一个导航动作;并且方法s100的框s170详述了自主地执行该下一个导航动作。一般来讲,在框s160和s170中,自主驾驶车辆可以实现自主定位、感知和导航技术,以基于在复合传感器图像中检测到的可变和不可变对象来选择下一个导航动作。

12.下一个时间窗口

系统可以在每个后续扫描循环期间重复该过程以:生成下一个扫描图像;检测该下一个扫描图像中的数据不足的区域;限定跨越该区域的新感兴趣的地面区域;以及在该扫描循环期间广播对表示该感兴趣的地面区域的补充感知数据的查询。具体地讲,自主驾驶车辆可重新限定感兴趣的地面区域并更新时间或时间窗口以随着时间的推移接收补充感知数据,诸如响应于自主驾驶车辆在场景内移动和/或其他对象在自主驾驶车辆周围移动时。

13.同时数据共享

当自主驾驶车辆经由自组织无线网络请求并下载来自其他车辆的补充扫描数据时,该自主驾驶车辆可以同时将其自身的传感器数据(例如,压缩和/或截短的3d扫描图像)传输到该自组织无线网络上的其他车辆,诸如默认或如这些其他车辆所请求的。具体地讲,自主驾驶车辆既可以生成对补充感知数据的请求,又可以通过将其自身的传感器数据(接近)实时地传输到附近其他车辆来响应来自这些其他车辆的查询。

14.远程管理

在一个变型中,一个自主驾驶车辆车队内或跨多个不同自主驾驶车辆车队的自主驾驶车辆之间的补充感知数据请求和数据分布由远程计算机系统(诸如计算机网络或远程服务器)管理。

在一个具体实施中,自主驾驶车辆车队内的自主驾驶车辆自动地向远程计算机系统返回(诸如经由如上所述的持久性蜂窝网络)感知数据、其地理空间位置和取向、其规划路线等。远程计算机系统然后可以跟踪这些自主驾驶车辆、实施方法和技术以确定这些自主驾驶车辆中的哪些可以受益于对从车队其他车辆收集到的全部或某些补充感知数据的访问(例如,基于上述一个或多个触发器),然后经由蜂窝网络将这些补充感知数据相应地分发给这些自主驾驶车辆。

在类似的具体实施中,当自主地在地理区域内操作时,自主驾驶车辆实现上述方法和技术以基于在特定时间生成的扫描图像来限定感兴趣的地面区域,并且生成对该感兴趣的地面区域内的补充感知数据的查询。自主驾驶车辆然后经由无线网络将该查询返回到远程计算机系统。随时间推移,远程计算机系统跟踪同一地理区域内的一组其他车辆的地理空间位置。针对该组车辆中的每个车辆,远程计算机系统基于该车辆在大约特定时间的地理空间位置来估计落入该车辆上的传感器套件在大约该特定时间的视场内的该车辆周围的可感测区域。远程计算机系统然后从该组车辆中选择特定车辆以基于针对该特定车辆估计的被预测为与查询中所限定的感兴趣的地面区域相交的特定可感测区域而对自主驾驶车辆的查询作出响应。然后,远程计算机系统:经由无线网络从该特定车辆检索针对特定时间的补充感知数据;并且经由无线网络将这些补充感知数据相应地传输到自主驾驶车辆。在该具体实施中,自主驾驶车辆可定期更新感兴趣的地面区域,诸如在每个后续扫描循环期间。计算机系统可以继续:跟踪自主驾驶车辆和特定车辆的地理空间位置;验证针对该特定车辆估计的可感测区域与由该自主驾驶车辆限定的感兴趣的地面区域相交;并且继续(接近)实时地指引从该特定车辆接收到的感知数据至该自主驾驶车辆。然而,一旦由自主驾驶车辆指定的感兴趣的地面区域落在针对特定车辆估计的可感测区域之外,远程计算机系统就可以停止将补充感知数据从该特定车辆传输到该自主驾驶车辆。

因此,在该变型中,远程计算机系统可以:用作网关以用于感知同一自主驾驶车辆车队或不同自主驾驶车辆车队内的不同车辆之间的数据共享;并且可以监测地理空间位置、感知数据增强需求以及传感器视场以管理感知数据在这些自主驾驶车辆之间的分布。

本文所述的系统和方法可至少部分地体现和/或实现为被配置为接收存储计算机可读指令的计算机可读介质的机器。这些指令可由与应用程序、小应用程序、主机、服务器、网络、网站、通信服务、通信接口、人类注释器计算机或移动设备的硬件/固件/软件元件、腕带、智能电话或它们的任何合适的组合集成的计算机可执行部件来执行。实施方案的其他系统和方法可至少部分地体现和/或实现为被配置为接收存储计算机可读指令的计算机可读介质的机器。这些指令可由上述类型的装置和网络集成的计算机可执行部件来执行。计算机可读介质可存储在任何合适的计算机可读介质上,诸如ram、rom、闪存存储器、eeprom、光学设备(cd或dvd)、硬盘驱动器、软盘驱动器或任何合适的设备。计算机可执行部件可为处理器,但任何合适的专用硬件设备可(另选地或除此之外)执行指令。

如本领域的技术人员将从之前的详细描述以及从附图和权利要求中认识到的,在不脱离如以下权利要求所限定的本发明的范围的情况下,可对本发明的实施方案进行修改和改变。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1