一种自动驾驶测试方法、装置及电子设备与流程

1.本申请涉及计算机技术中的自动驾驶等人工智能技术领域，尤其涉及一种自动驾驶测试方法、装置及电子设备。


背景技术：

2.随着自动驾驶技术的不断发展，自动驾驶车辆越来越多，也越来越智能。由于自动驾驶系统所要处理的场景非常复杂多变，在算法迭代过程中为了准确评估算法的表现往往需要进行大规模的道路测试，并使用一些宏观评估指标来反映算法的整体表现，如每公里急刹次数、每公里碰撞次数等，这些指标代表了算法在业务层面的最终表现。对于自动驾驶这类非常复杂的系统，需要实现宏观评估指标变化的可解释性，即需要能够通过有效的方法来定位到是算法哪里的改动引起了整体的宏观评估指标的变化，从而更好地指引算法开发人员的迭代。
3.目前，常采用的方法主要是通过对测试过程中的数据进行人工分析，例如针对每公里急刹次数的宏观评估指标，通常会对每次急刹的场景进行人工分类(如非路口直行被切车、路口左转遇对向车直行等)，然后对比两个版本算法急刹的场景分布来实现对指标变化的解释，完成自动驾驶的测试。


技术实现要素：

4.本申请提供一种自动驾驶测试方法、装置及电子设备。
5.第一方面，本申请一个实施例提供一种自动驾驶测试方法，所述方法包括：
6.获取自动驾驶车辆在第一版本算法下的第一自动驾驶测试数据；
7.对所述第一自动驾驶测试数据进行语义分类，确定多类语义场景数据；
8.分别对每类语义场景数据进行参数分类，确定每类语义场景数据的多个参数级别场景数据；
9.确定所述第一自动驾驶测试数据的参数级别场景数据的第一指标值与第二自动驾驶测试数据的参数级别场景数据的第一指标值之间的第一差值，其中，所述第一版本算法为第二版本算法迭代后的算法，所述第二自动驾驶测试数据为所述自动驾驶车辆在所述第二版本算法下的自动驾驶测试数据。
10.在本申请实施例中的自动驾驶测试方法中，先对第一自动驾驶测试数据进行语义分类，确定多类语义场景数据；然后分别对每类语义场景数据进行参数分类，确定每类语义场景数据的多个参数级别场景数据，再确定第一自动驾驶测试数据的参数级别场景数据的第一指标值与第二自动驾驶测试数据的参数级别场景数据的第一指标值之间的第一差值，完成第一自动驾驶测试数据的参数级别场景数据的第一指标值与第二自动驾驶测试数据的参数级别场景数据的第一指标值之间的对比。无需人工分析自动驾驶测试数据，提高自动驾驶测试效率。
11.第二方面，本申请一个实施例提供一种自动驾驶测试装置，所述装置包括：
12.第一获取模块，用于获取自动驾驶车辆在第一版本算法下的第一自动驾驶测试数据；
13.第一分类模块，用于对所述第一自动驾驶测试数据进行语义分类，确定多类语义场景数据；
14.第二分类模块，用于分别对每类语义场景数据进行参数分类，确定每类语义场景数据的多个参数级别场景数据；
15.第一确定模块，用于确定所述第一自动驾驶测试数据的参数级别场景数据的第一指标值与第二自动驾驶测试数据的参数级别场景数据的第一指标值之间的第一差值，其中，所述第一版本算法为第二版本算法迭代后的算法，所述第二自动驾驶测试数据为所述自动驾驶车辆在所述第二版本算法下的自动驾驶测试数据。
16.第三方面，本申请一个实施例还提供一种电子设备，包括：
17.至少一个处理器；以及
18.与所述至少一个处理器通信连接的存储器；其中，
19.所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本申请各实施例提供的自动驾驶测试方法。
20.第四方面，本申请一个实施例还提供一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行本申请各实施例提供的自动驾驶测试方法。
21.第五方面，本申请一个实施例提供一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现本申请各实施例提供的自动驾驶测试方法。
附图说明
22.附图用于更好地理解本方案，不构成对本申请的限定。其中：
23.图1是本申请提供的一个实施例的自动驾驶测试方法的流程示意图之一；
24.图2是本申请提供的一个实施例的自动驾驶测试方法的流程示意图之二；
25.图3是本申请提供的一个实施例的场景拆分图；
26.图4是本申请提供的一个实施例的自动驾驶测试装置的结构图之一；
27.图5是本申请提供的一个实施例的自动驾驶测试装置的结构图之二；
28.图6是用来实现本申请实施例的自动驾驶测试方法的电子设备的框图。
具体实施方式
29.以下结合附图对本申请的示范性实施例做出说明，其中包括本申请实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本申请的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
30.如图1所示，根据本申请的实施例，本申请提供一种自动驾驶测试方法，可应用于电子设备，该方法包括：
31.步骤s101：获取自动驾驶车辆在第一版本算法下的第一自动驾驶测试数据。
32.其中，第一自动驾驶测试数据包括多类语义场景数据，每类语义场景数据包括多个参数级别场景数据。
33.第一版本算法可以理解为自动驾驶车辆的第一版本自动驾驶算法，自动驾驶在自动驾驶算法的基础上进行自动驾驶。自动驾驶车辆在第一版本算法的基础上进行自动驾驶，在自动驾驶过程中产生自动驾驶测试数据并记录，得到第一自动驾驶测试数据。需要说明的是，第一自动驾驶测试数据可包括自动驾驶车辆自身的行驶数据(例如、位置、速度以及运行状态等)以及对环境检测得到的环境数据(即自动驾驶车辆采集到的环境信息)，例如，环境数据可包括自动驾驶车辆周围交通环境数据(比如，其他交通参与者(例如其他车辆、行人等)以及信号灯等数据)。
34.步骤s102：对第一自动驾驶测试数据进行语义分类，确定多类语义场景数据。
35.第一自动驾驶数据包括多类语义场景数据，在第一版本算法的基础上，自动驾驶车辆进行行驶测试，在行驶过程中可记录各种场景下的数据，对于第一自动驾驶测试数据，可分成不同的语义场景类别的数据，即将第一自动驾驶数据拆分成更细的语义场景数据，得到多类语义场景数据，第一自动驾驶测试数据可看作是多类语义场景数据的组合，可通过多类语义场景数据表达。例如，语义场景数据可以包括但不限于路口直行场景数据、非路口场景数据、左转场景数据以及右转场景数据等。
36.步骤s103：分别对每类语义场景数据进行参数分类，确定每类语义场景数据的多个参数级别场景数据。
37.每类语义场景数据包括多个参数级别场景数据，对于任一类语义场景数据，可进行进一步细化，可分成不同的参数级别场景类别的数据，即分成多个参数级别场景数据。
38.作为一个示例，参数可以包括但不限于自动驾驶车辆的车速、障碍物切入速度、障碍物切入距离以及障碍物切入角度中的至少一项等。每类语义场景数据分别有对应的参数，对于任一类语义场景数据，可利用其对应的参数进行参数分类得到多个参数级别场景数据，即对于每类语义场景数据，可分别分类得到多个参数级别场景数据。
39.例如，对于路口直行被切车场景数据(一类语义场景数据)，根据上述车速、障碍物切入速度、障碍物切入距离等参数对该路口直行被切车场景数据进行划分，即是从直行被切车场景数据中提取出上述车速对应的场景数据，得到车速的参数级别数据，从直行被切车场景数据中提取出上述障碍物切入速度对应的场景数据，得到障碍物切入速度的参数级别数据，从直行被切车场景数据中提取出上述障碍物切入距离对应的场景数据，得到障碍物切入距离的参数级别数据，如此，这对直行被切车场景数据，进行参数分类，可得到上述三个参数级别场景数据。
40.步骤s104：确定第一自动驾驶测试数据的参数级别场景数据的第一指标值与第二自动驾驶测试数据的参数级别场景数据的第一指标值之间的第一差值。
41.其中，第一版本算法为第二版本算法迭代后的算法，第二自动驾驶测试数据为自动驾驶车辆在第二版本算法下的自动驾驶测试数据。第一自动驾驶测试数据的参数级别场景数据的第一指标值与第二自动驾驶测试数据的参数级别场景数据的第一指标值之间的第一差值，为第一自动驾驶测试数据的参数级别场景数据的第一指标值减去第二自动驾驶测试数据的参数级别场景数据的第一指标值的差值。即是确定第一自动驾驶测试数据的每个参数级别场景数据的第一指标值与第二自动驾驶测试数据的对应的参数级别场景数据
的第一指标值之间的第一差值。
42.需要说明的是，第一自动驾驶数据下有多类语义场景数据，每类语义场景数据下有多个参数级别场景数据，则上述第一自动驾驶测试数据的参数级别场景数据的第一指标值包括第一自动驾驶测试数据的多类语义场景数据中每类语义场景数据下的多个参数级别场景数据的第一指标值，同理，上述第二自动驾驶测试数据的参数级别场景数据的第一指标值包括第二自动驾驶测试数据的多类语义场景数据中每类语义场景数据下的多个参数级别场景数据的第一指标值。例如，五类语义场景数据，五类语义场景数据均分成6个参数级别场景数据，则共有30个参数级别场景数据，可统计每个参数级别场景数据的第一指标值，则可得到30个第一指标值，可得到30个第一差值。
43.第一指标可以理解为指标集，可包括多个指标，例如，每公里急刹次数以及每公里碰撞次数等，这些指标的值越大，表示自动驾驶车辆的自动驾驶表现越差，这些指标的值越小，表示自动驾驶车辆的自动驾驶表现越好。对于第一自动驾驶测试数据的每公里急刹次数是指第一自动驾驶测试数据中发生的所有急刹次数除以第一自动驾驶测试数据的驾驶里程，对于第一自动驾驶测试数据中某一类语义场景数据的每公里急刹次数是指该类语义场景数据中发生的急刹次数除以该类语义场景数据的驾驶里程。多类语义场景数据的驾驶里程的总和为第一自动驾驶测试数据的驾驶里程。第一自动驾驶测试数据的急刹次数为多类语义场景数据的急刹次数的总和。
44.确定第一自动驾驶测试数据的参数级别场景数据的第一指标值与第二自动驾驶测试数据的参数级别场景数据的第一指标值之间的第一差值，即完成在第一版本算法和第二版本算法下，第一自动驾驶测试数据与第二自动驾驶测试数据在参数级别场景下第一指标值之间的比对，确定在第一版本算法和第二版本算法下，第一自动驾驶测试数据与第二自动驾驶测试数据在参数级别场景下第一指标值之间的变化量，即可确定在第一版本算法和第二版本算法下，第一自动驾驶测试数据与第二自动驾驶测试数据在参数级别场景下第一指标值之间的差异，完成自动驾驶测试。
45.需要说明的是，第二版本算法可以理解为自动驾驶车辆的第二版本自动驾驶算法，自动驾驶在自动驾驶算法的基础上进行自动驾驶。自动驾驶车辆在第二版本算法的基础上进行自动驾驶，在自动驾驶过程中产生自动驾驶测试数据并记录，得到第二自动驾驶测试数据。即自动驾驶车辆需要完成两次道路测试，得到第一自动驾驶测试数据和第二自动驾驶测试数据。
46.第二自动驾驶测试数据的参数级别场景数据的第一指标值的确定过程与上述第一自动驾驶测试数据的参数级别场景数据的第一指标值确定的过程类似，不同之处在于测试数据不同，一个是采用第一自动驾驶测试数据，另一个采用的是第二自动驾驶测试数据，即确定第一自动驾驶测试数据的参数级别场景数据的第一指标值与第二自动驾驶测试数据的参数级别场景数据的第一指标值之间的第一差值之前，可预先确定第二自动驾驶测试数据的参数级别场景数据的第一指标值，确定第二自动驾驶测试数据的参数级别场景数据的第一指标值的过程可包括：获取自动驾驶车辆在第二版本算法下的第二自动驾驶测试数据，其中，第二自动驾驶测试数据包括多类语义场景数据(与第一自动驾驶测试数据的多类语义场景数据存在不同)，第二自动驾驶测试数据中每类语义场景数据包括多个参数级别场景数据(与第一自动驾驶测试数据中每类语义场景数据的多个参数级别场景数据存在不
同)；对第二自动驾驶测试数据进行语义分类，确定第二自动驾驶测试数据的多类语义场景数据；分别对第二自动驾驶测试数据的每类语义场景数据进行参数分类，确定第二自动驾驶测试数据的每类语义场景数据的多个参数级别场景数据；确定第二自动驾驶测试数据的参数级别场景数据的第一指标值。
47.在本申请实施例中的自动驾驶测试方法中，先对第一自动驾驶测试数据进行语义分类，确定多类语义场景数据；然后分别对每类语义场景数据进行参数分类，确定每类语义场景数据的多个参数级别场景数据，再确定第一自动驾驶测试数据的参数级别场景数据的第一指标值与第二自动驾驶测试数据的参数级别场景数据的第一指标值之间的第一差值，完成第一自动驾驶测试数据的参数级别场景数据的第一指标值与第二自动驾驶测试数据的参数级别场景数据的第一指标值之间的对比。无需人工分析自动驾驶测试数据，提高自动驾驶测试效率。与此同时，可减少人工分析成本，从而减少测试成本。另外，上述第一差值定位到了两个版本算法下，参数级别场景数据下的第一指标值之间的差值，可提高在第一版本算法和第二版本算法下的第一指标值之间的对比的准确性，可实现不同版本算法之间更加细致和准确的对比。以及能够避免人工分析标准不统一导致结果准确性较差的问题，提高在第一版本算法和第二版本算法下的第一指标值之间的对比的准确性。
48.在一个实施例中，在确定第一自动驾驶测试数据的参数级别场景数据的第一指标值与第二自动驾驶测试数据的参数级别场景数据的第一指标值之间的第一差值之后，还可包括：根据多个第一差值，得到测试结果，例如，对于每公里急刹次数的指标，若第一自动驾驶测试数据的每公里急刹次数的值与第二自动驾驶测试数据的每公里急刹次数的值之间的第一差值小于预设值(预设值小于或等于零)，则可认为对于每公里急刹次数的指标，第一版本算法的测试通过，即可得到测试通过的测试结果。若第一自动驾驶测试数据的每公里急刹次数的值与第二自动驾驶测试数据的每公里急刹次数的值之间第一差值大于或等于预设值，可认为对于急刹次数的指标，第一版本算法的测试不通过，即可得到测试不通过的测试结果。
49.在一个实施例中，在确定第一自动驾驶测试数据的参数级别场景数据的第一指标值与第二自动驾驶测试数据的参数级别场景数据的第一指标值之间的第一差值之后，还可包括：根据多个第一差值，确定第一目标算法。即通过多个第一差值可定位哪些参数级别场景数据的第一指标对车辆整体的第一指标影响较大，从而可根据多个第一差值从第一版本算法中定位第二目标算法，即定位到影响自动驾驶测试数据的第一指标较大的算法，以便后续更好地引导开发人员对算法的迭代等。
50.在本实施例中，可实现参数级别的分类，进而实现不同算法版本之间更加细致准确的对比，以便定位引起指标变动的第一目标算法，从而更好地指引算法开发人员的迭代。
51.在一个实施例中，对第一自动驾驶测试数据进行语义分类，确定多类语义场景数据之后，还包括：
52.确定第一自动驾驶测试数据的语义场景数据的第一指标值与第二自动驾驶测试数据的语义场景数据的第一指标值之间的第二差值。
53.第一自动驾驶测试数据的语义场景数据的第一指标值与第二自动驾驶测试数据的语义场景数据的第一指标值之间的第二差值，为第一自动驾驶测试数据的语义场景数据的第一指标值减去第二自动驾驶测试数据的语义场景数据的第一指标值的差值。
54.上述第一自动驾驶测试数据的语义场景数据的第一指标值包括第一自动驾驶测试数据的多类语义场景数据中每个语义场景数据的第一指标值，上述第二自动驾驶测试数据的语义场景数据的第一指标值包括第二自动驾驶测试数据的多类语义场景数据中每类语义场景数据的第一指标值。即是确定第一自动驾驶测试数据的每个语义场景数据的第一指标值与第二自动驾驶测试数据的对应的语义场景数据的第一指标值之间的第二差值。例如，五类语义场景数据，可统计每个语义场景数据的第一指标值，则可得到五个第二差值。
55.在本实施例中，还可对在第一版本算法和第二版本算法下，第一自动驾驶测试数据与第二自动驾驶测试数据在语义场景下第一指标值之间的比对，确定在第一版本算法和第二版本算法下，第一自动驾驶测试数据与第二自动驾驶测试数据在语义场景下第一指标值之间的变化量，即可确定在第一版本算法和第二版本算法下，第一自动驾驶测试数据与第二自动驾驶测试数据在参数级别场景下第一指标值之间的差异，提高在两个版本算法下的指标值比对的完整性，提高自动驾驶测试的完整性。
56.作为一个示例，可基于多个第二差值，确定第二目标算法。可选的，从第一版本算法中确定第二目标算法，例如，第二目标算法可以是目标语义场景的算法，目标语义场景可以为第一自动驾驶数据的多个语义场景数据中多个第二差值场景中最小差值对应的语义场景数据的语义场景。
57.如图2所示，在一个实施例中，对第一自动驾驶测试数据进行语义分类，确定多类语义场景数据的步骤s102，包括：
58.步骤s1021：对第一自动驾驶测试数据进行语义解析，确定多个场景标签。
59.可以理解多个场景标签(tag)为第一自动驾驶测试数据中的多个场景，例如，包括但不限于主车直行、变道、障碍车切入、障碍车左转等场景。在对第一自动驾驶测试数据进行语义解析，确定多个场景标签的过程中，对第一自动驾驶测试数据进行语义解析，以及结合地图数据，确定多个场景标签。
60.步骤s1022：根据多个场景标签，确定多类语义场景。
61.其中，任一类语义场景为多个场景标签中至少两个场景标签的组合，也即是语义场景是对第一自动驾驶测试数据进行语义解析得到的多个场景中至少两个场景组合得到的场景。比如，组合主车直行、路口、障碍车左转这些场景标签得到主车路口直行遇障碍车左转的语义场景。
62.步骤s1023：利用多类语义场景，对第一自动驾驶测试数据进行分类，确定多类语义场景数据。
63.确定多类语义场景后，即可对第一自动驾驶测试数据进行拆分，得到多类语义场景数据。
64.在本实施例中，首先通过对第一自动驾驶测试数据进行语义解析，确定多个场景标签，再利用多个场景标签，确定多类语义场景，可提高语义场景分类准确性，然后用多类语义场景，对第一自动驾驶测试数据进行分类，确定多类语义场景数据，如此，可提高得到的语义场景数据的准确性。
65.在一个实施例中，确定第一自动驾驶测试数据的参数级别场景数据的第一指标值与第二自动驾驶测试数据的参数级别场景数据的第一指标值之间的第一差值之前，还包括：确定目标参数级别场景数据的多个区间数据的第一指标值；
66.其中，目标参数级别场景数据为多类语义场景数据的参数级别场景数据中任一参数级别场景数据，目标参数级别场景数据的第一指标值包括目标参数级别场景数据的多个区间数据的第一指标值。
67.对于目标参数级别场景数据，可基于目标参数的预设划分区间对目标参数级别场景数据进行区间划分，得到多个区间数据。例如，对于障碍物切入速度的参数，可按照障碍物切入速度的大小将障碍物切入速度级别场景数据分成多个速度区间数据。比如，障碍物切入速度分为(0km/h，10km/h]以及(10km/h，30km/h]的区间，km/h即千米/小时，按照上述区间对障碍物切入速度的参数级别场景数据进行划分，得到的多个区间数据包括速度为(0km/h，10km/h]的数据以及速度为(10km/h，30km/h]的数据，(0km/h，10km/h]的数据对应一个第一指标值，(10km/h，30km/h]的数据对应一个第一指标值。
68.在本实施例中，可在参数级别场景数据的基础上，进一步划分为不同区间的数据，可先确定参数级别场景数据的多个区间数据的每个区间数据的第一指标值，依据目标参数级别场景数据的多个区间数据的第一指标值，依次来确定第一自动驾驶测试数据的参数级别场景数据的第一指标值与第二自动驾驶测试数据的参数级别场景数据的第一指标值之间的第一差值，可进一步得到更细化的差值，实现两个版本算法下的更加细化和准确的指标值对比。
69.下面以一个具体实施例对上述自动驾驶测试方法的过程加以具体说明，上述自动驾驶测试方法可应用于自动驾驶场景中。
70.对于自动驾驶车辆的自动驾驶算法的测试，通常使用的方式是将自动驾驶车辆在两个不同版本算法的基础上在道路中进行实际行驶，得到在两个不同版本算法下的自动驾驶数据，即第一自动驾驶测试数据和第二自动驾驶测试数据。在观察相关输入下两个版本算法输出的表现。实际的道路测试在时间维度上是一个连续的过程，且遇到的场景不随人的主观意愿变化，显然对于两个版本算法的两次道路测试无法做到完全相同的输入。但从概率角度看当道路测试的里程达到一定规模后，每一种场景出现的概率会趋于稳定，从宏观上两次道路测试对算法的输入可以认为是一致的，即可以理解两个不同版本算法之间的多个语义场景是相同的，以及两个不同版本算法之间的参数级别场景是相同的，两个不同版本算法之间的在同一语义场景或参数级别场景下记录的数据存在不同。但这种宏观概率上的一致对算法来讲造成了可解释性的困难，对于开发人员来讲宏观指标的可解释性意味着能够将指标的变化进行更细粒度地刻画，实现在相同输入情况下算法的效果的对比。
71.为了实现效果指标的可解释性，本申请实施例的方法上对这个连续过程中的自动驾驶测试数据进行语义级别和参数级别的分类，将道路测试这个连续过程中的自动驾驶测试数据更细粒度地刻画为语义和参数级别的场景数据，在分类后的场景数据上对比算法的效果，从而解决了在确定指标发生变化后，确定在哪些语义场景、哪些参数级别场景上发生了变化的问题。
72.首先，获取在第一版本算法下一次大规模道路测试的第一自动驾驶测试数据，可基于第一自动驾驶测试数据可获得全量真实场景数据即场景数据全集，可记为road_test，第一自动驾驶测试数据包括全量真实场景数据。第一自动驾驶测试数据的第一指标值可以理解为场景数据全集的第一指标值，关注的是在这个场景数据全集输入下表征第一版本算法表现的指标集indictor_set，即第一指标。
73.上述对于第一指标的解释意味着将全量真实场景数据road_test进行更细粒度的拆分，首先拆分分为多个语义场景数据，再分别将每个语义场景数据拆分为多个参数级别，即拆分得到两个层面的场景数据，如图3所示。
74.从自动驾驶车辆道路测试产生的是时间连续的数据，其中可包括自动驾驶车辆的位置及车速、运行状态信息以及感知到的周围交通环境数据(例如，其它交通车参与者、信号灯等信息)，语义场景拆分本质上是对这些连续的数据进行语义分类的过程。语义分类过程主要分为两个步骤，首先通过对自动驾驶车辆道路测试过程中的自动驾驶测试数据进行解析，结合地图数据分析出较细粒度的场景tag，比如主车直行、变道、障碍车切入、障碍车左转等；其次通过事件表达式对这些tag进行组合来得到想要的语义级场景，比如主车路口直行遇障碍车左转(组合了主车直行、路口、障碍车左转这些场景tag)。通过组合得到的多个语义级场景，就能对一次完整道路测试的全量场景进行拆分刻画。
75.针对每个语义场景，首先根据需求分析出这个语义场景下的关键特征参数，例如对于非路口直行被切车场景的语义场景呢，可以选取自动驾驶车辆的车速、障碍车切入速度、切入距离、切入角度为关键参数，然后从每个场景的数据中解算出参数级别场景数据。通过对同一类语义级场景参数分布的分析，对每个参数进行区间的划分，例如障碍车切入速度分为(0km/h，10km/h]以及(10km/h，30km/h]等。划分之后可以在这些细分参数区间的分类下观察算法效果的变化。
76.语义场景重点关注的是自动驾驶车辆与其它交通参与者行为层面的特征，如路口直行、路口左转、非路口直行被切车等，通过对全量真实场景数据road_test进行语义解析，可以将其进行语义层面的拆分，即可将全量真实场景数据看作是一组语义场景数据的联合概率分布，即可通过一组语义场景数据的联合概率分布来表达这个全量真实场景数据。
77.对于某个语义场景数据semantic_scenario
i
(即第i个语义场景数据)，又可进行参数级别的分类刻画，首先提取出描述某个语义场景的关键参数组例如对于非路口直行被切车场景，可以选取主车车速、障碍车切入速度、切入距离、切入角度等参数进行参数分类，然后可用这组参数的参数级别场景数据联合概率分布来表达该语义场景数据。
78.获得第一版本算法下的全量真实场景数据和第二版本算法下的全量真实场景数据后，可计算两者差值δp(indictor_set|road_test)，得到两次道路测试在全集下的第一指标的变化。完成对第一版本算法下的全量真实场景数据road_test的语义级和参数级分类后，可得到在第一版本算法下的全量真实场景数据的语义场景数据的第一指标值以及参数级别场景数据的第一指标值。通过上述类似的过程，同样可得到在第二版本算法下的全量真实场景数据(即基于第二自动驾驶测试数据的全量真实场景数据，第二自动驾驶测试数据的第一指标值可以理解为该全量真实场景数据的第一指标值，第二自动驾驶测试数据是在第二版本算法的基础上进行道路测试得到的数据)的语义场景数据的第一指标值以及参数级别场景数据的第一指标值。计算两个算法版本下的语义场景数据的第一指标值之间的第二差值，得到两次道路测试在语义场景下的第一指标的变化，以及可计算两个算法版本下的参数级别场景数据的第一指标值之间的第一差值δp(indictor_set|parameter)，
得到两次道路测试在参数级别场景下的第一指标的变化。即本申请实施例，通过对场景数据进行语义分类来对第一指标的变化进行语义级别的分析，还可以根据选择的关键参数对语义场景数据进行参数级别的分类，进而实现不同版本算法之间更加细致准确的对比。
79.如图4所示，根据本申请的实施例，本申请还提供一种自动驾驶测试装置400，装置包括：
80.第一获取模块401，用于获取自动驾驶车辆在第一版本算法下的第一自动驾驶测试数据；
81.第一分类模块402，用于对第一自动驾驶测试数据进行语义分类，确定多类语义场景数据；
82.第二分类模块403，用于分别对每类语义场景数据进行参数分类，确定每类语义场景数据的多个参数级别场景数据；
83.第一确定模块404，用于确定第一自动驾驶测试数据的参数级别场景数据的第一指标值与第二自动驾驶测试数据的参数级别场景数据的第一指标值之间的第一差值，其中，第一版本算法为第二版本算法迭代后的算法，第二自动驾驶测试数据为自动驾驶车辆在第二版本算法下的自动驾驶测试数据。
84.在其中一个实施例中，装置还包括：
85.第二确定模块，用于确定第一自动驾驶测试数据的语义场景数据的第一指标值与第二自动驾驶测试数据的语义场景数据的第一指标值之间的第二差值。
86.如图5所示，在其中一个实施例中，第一分类模块402，包括：
87.语义解析模块4021，用于对第一自动驾驶测试数据进行语义解析，确定多个场景标签；
88.场景确定模块4022，用于根据多个场景标签，确定多类语义场景，其中，任一类语义场景为多个场景标签中至少两个场景标签的组合；
89.分类子模块4033，用于利用多类语义场景，对第一自动驾驶测试数据进行分类，确定多类语义场景数据。
90.在其中一个实施例中，装置还包括：
91.第三确定模块，用于确定目标参数级别场景数据的多个区间数据的第一指标值；
92.其中，目标参数级别场景数据为多类语义场景数据的参数级别场景数据中任一参数级别场景数据，目标参数级别场景数据的第一指标值包括目标参数级别场景数据的多个区间数据的第一指标值。
93.上述各实施例的自动驾驶测试装置为实现上述各实施例的自动驾驶测试方法的装置，技术特征对应，技术效果对应，在此不再赘述。
94.根据本申请的实施例，本申请还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
95.本申请实施例的非瞬时计算机可读存储介质存储计算机指令，该计算机指令用于使计算机执行本申请所提供的自动驾驶测试方法。
96.本申请实施例的计算机程序产品，包括计算机程序，计算机程序用于使计算机执行本申请各实施例提供的自动驾驶测试方法。
97.图5示出了可以用来实施本申请的实施例的示例电子设备500的示意性框图。电子
设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本申请的实现。
98.如图6所示，电子设备600包括计算单元601，其可以根据存储在只读存储器(rom)602中的计算机程序或者从存储单元608加载到随机访问存储器(ram)603中的计算机程序，来执行各种适当的动作和处理。在ram603中，还可存储电子设备600操作所需的各种程序和数据。计算单元601、rom 602以及ram 603通过总线604彼此相连。输入/输出(i/o)接口605也连接至总线604。
99.电子设备600中的多个部件连接至i/o接口605，包括：输入单元606，例如键盘、鼠标等；输出单元607，例如各种类型的显示器、扬声器等；存储单元608，例如磁盘、光盘等；以及通信单元609，例如网卡、调制解调器、无线通信收发机等。通信单元609允许电子设备600通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
100.计算单元601可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元601的一些示例包括但不限于中央处理单元(cpu)、图形处理单元(gpu)、各种专用的人工智能(ai)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(dsp)、以及任何适当的处理器、控制器、微控制器等。计算单元601执行上文所描述的各个方法和处理，例如自动驾驶测试方法。例如，在一些实施例中，自动驾驶测试方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元608。在一些实施例中，计算机程序的部分或者全部可以经由rom 602和/或通信单元609而被载入和/或安装到设备600上。当计算机程序加载到ram603并由计算单元601执行时，可以执行上文描述的自动驾驶测试方法的一个或多个步骤。备选地，在其他实施例中，计算单元601可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行自动驾驶测试方法。本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(fpga)、专用集成电路(asic)、专用标准产品(assp)、芯片上系统的系统(soc)、负载可编程逻辑设备(cpld)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
101.用于实施本申请的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
102.在本申请的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读存介质。机器可读介质可以包括但不限于电子
的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦除可编程只读存储器(eprom或快闪存储器)、光纤、便捷式紧凑盘只读存储器(cd
‑
rom)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
103.为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，crt(阴极射线管)或者lcd(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
104.可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(lan)、广域网(wan)、互联网和区块链网络。
105.计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端
‑
服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与vps服务("virtual private server"，或简称"vps")中，存在的管理难度大，业务扩展性弱的缺陷。服务器也可以为分布式系统的服务器，或者是结合了区块链的服务器。
106.应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本申请公开的技术方案所期望的结果，本文在此不进行限制。
107.上述具体实施方式，并不构成对本申请保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等，均应包含在本申请保护范围之内。