目标检测模型的训练、检测方法、装置及电子设备与流程

1.本公开涉及人工智能领域，尤其涉及计算机视觉和深度学习技术，具体可用于智慧城市和智能交通场景下。


背景技术：

2.计算机视觉技术在工业场景中的应用越来越丰富。作为计算机视觉技术的基础，目标检测技术能够解决利用人工的传统方式耗时耗力的问题，因此具有十分广泛的应用前景。在对图像进行目标检测的过程中，由于检测技术发展的局限性，检测结果的精度较低。


技术实现要素：

3.本公开提供了一种目标检测模型的训练、检测方法、装置及电子设备。
4.根据本公开的一方面，提供了一种目标检测模型的训练方法，包括：利用目标检测模型提取样本图像的多个特征信息，对该多个特征信息进行类别检测，得到类别的个数；基于该类别的个数，对该多个特征信息进行聚类分析，得到该目标检测模型的聚类损失；基于该目标检测模型的网络损失和该聚类损失对该目标检测模型的网络参数进行调整，得到训练好的目标检测模型。
5.根据本公开的另一方面，提供了一种目标检测模型的检测方法，包括：利用上述训练方法训练好的目标检测模型对目标图像进行检测，得到该目标图像中目标对象的第二检测结果，该目标图像为一个图像帧或多个图像帧。
6.根据本公开的另一方面，提供了一种目标检测模型的训练装置，包括：提取模块，用于利用目标检测模型提取样本图像的多个特征信息，对该多个特征信息进行类别检测，得到类别的个数；聚类模块，用于基于该类别的个数，对该多个特征信息进行聚类分析，得到该目标检测模型的聚类损失；训练模块，用于基于该目标检测模型的网络损失和该聚类损失对该目标检测模型的网络参数进行调整，得到训练好的目标检测模型。
7.根据本公开的另一方面，提供了一种目标检测模型的检测装置，包括：第二检测模块，用于利用上述训练装置训练好的目标检测模型对目标图像进行检测，得到该目标图像中目标对象的第二检测结果，该目标图像为一个图像帧或多个图像帧。
8.根据本公开的另一方面，提供了一种电子设备，包括：至少一个处理器；以及与该至少一个处理器通信连接的存储器；其中，该存储器存储有可被该至少一个处理器执行的指令，该指令被该至少一个处理器执行，以使该至少一个处理器能够执行本公开提供的目标检测模型的训练方法或检测方法。
9.根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，该计算机指令用于使该计算机执行本公开提供的目标检测模型的训练方法或检测方法。
10.根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现本公开提供的目标检测模型的训练方法或检测方法。
11.本公开利用将视频序列的不同图像帧之间的类别的目标进行聚合的方式，对目标检测模型进行优化训练，并利用训练好的目标检测模型实现对视频序列中的目标进行检测，能够对交通场景下的车辆/行人等事物进行精准的检测，从而可以为后续一系列的诸如异常事件检测、犯人追踪、车辆统计等任务提供帮助。
12.应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
13.附图用于更好地理解本方案，不构成对本公开的限定。其中：
14.图1是根据本公开实施例的目标检测模型的训练、检测方法、装置、及电子设备的应用场景示意图。
15.图2是根据本公开实施例的目标检测模型的训练方法的流程图；
16.图3是根据本公开实施例的目标检测模型的检测方法的流程图；
17.图4根据本公开实施例的目标检测模型的训练方法的原理示意图；
18.图5是根据本公开实施例的目标检测模型的训练装置的结构框图；
19.图6是根据本公开实施例的目标检测模型的检测装置的结构框图；
20.图7是用来实现本公开实施例的目标检测模型的训练、检测方法的电子设备的框图。
具体实施方式
21.以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
22.本公开针对基于计算机视觉与人工智能技术的交通场景下的视频目标检测技术，提出一种利用将视频序列的不同图像帧之间的类别的目标进行聚合的方式，对目标检测模型进行优化训练，并利用训练好的目标检测模型实现对视频序列中的目标进行检测的技术。本公开利用训练好的目标检测模型能够对交通场景下的车辆/行人等事物进行精准的检测，从而可以为后续一系列的诸如异常事件检测、犯人追踪、车辆统计等任务提供帮助。
23.请参阅图1，图1是根据本公开实施例的目标检测模型的训练、检测方法、装置、及电子设备的应用场景示意图。
24.如图1所示，该应用场景100包括电子设备110，该电子设备110可以为具有处理功能的任意电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机、台式计算机和服务器等等。
25.该电子设备110例如可以对输入的视频帧序列120中的每个图像帧进行处理，具体可以对每个图像帧进行目标检测，得到检测结果130。该检测结果可以包括目标物体的类别和该目标物体在该每个图像帧中的位置信息(例如可以通过目标物体的检测框来体现)。可以理解的是，该电子设备110例如可以采用目标检测模型来对图像帧进行处理。再者，电子设备110除了可以对视频帧序列中的图像帧进行处理，也可以对输入的任意一个图像进行
处理，本公开对此不做限定。
26.根据本公开的实施例，如图1所示，该应用场景100还可以包括服务器140。电子设备110可以通过网络与服务器140通信连接，该网络可以包括无线或有线通信链路。
27.示例性地，服务器140可以用于训练目标检测模型，并响应于电子设备110发送的模型获取请求，将训练好的目标检测模型150发送给电子设备110，便于电子设备110对图像或视频帧序列中的图像帧进行目标检测。在一实施例中，电子设备110还可以通过网络将输入的图像或视频帧序列发送给服务器140，由服务器根据训练好的目标检测模型对获得的图像或视频帧序列中的图像帧进行目标检测。
28.根据本公开的实施例，如图1所示，该应用场景100还可以包括数据库160，该数据库160可以维护有海量的视频帧序列或图像，该些视频帧序列或图像可以具有标签，标签指示目标物体的类别和目标物体的位置信息。服务器140可以访问该数据库160，并从数据库160中抽取部分视频帧序列或图像，以对目标检测模型进行训练。
29.示例性地，目标检测模型例如可以为dert(detection transformer) 模型、基于记忆增强的全局-局部整合网络(memory enhancedglobal-local aggregation，mega)模型等。其中，dert模型使用主干网络(backbone)模型进行特征提取，随后将提取的特征送入transformer 架构中进行编码-解码，输出目标物体的检测框和类别。dert模型的改进版本deformable dert则使用特征金字塔网络(feature pyramidnetworks，fpn)来提取图像特征，以增加transformer架构的输入特征数量，该改进版本还使用可变形卷积(deformable conv)对transformer架构进行加速。mega模型则通过增强注意力(attention)的方式对视频帧序列中的前后帧的检测特征进行关系建模。或者，该目标检测模型例如还可以为针对视频的目标检测模型，该模型使用两阶段的方式进行目标检测，首先使用区域生成网络(region proposal network，rpn)进行特征的提取，随之通过对时域和空域的特征进行关系建模，以此提升视频目标检测的效果。
30.示例性地，输入电子设备110的视频帧序列或图像可以是在智能交通场景下采集的，以通过目标检测来进行车辆统计等。可以理解的是，该视频帧序列或图像的采集场景仅作为示例以利于理解本公开，该视频帧序列或图像还可以在任意的其他场景下采集。
31.需要说明的是，本公开所提供的目标检测模型的训练方法可以由服务器140执行。相应地，本公开所提供的目标检测模型的训练装置可以设置于服务器140中。
32.应该理解，图1中的电子设备、服务器和数据库的数目和类型仅仅是示意性的。根据实现需要，可以具有任意数目和类型的终端设备、服务器和数据库。
33.图2是根据本公开实施例的目标检测模型的训练方法的流程图。
34.请参阅图2所示，该实施例的目标检测模型的训练方法可以包括如下步骤：
35.步骤s201：利用目标检测模型提取样本图像的多个特征信息，对提取的多个特征信息进行类别检测，得到类别的个数。
36.步骤s202：基于类别的个数，对提取的多个特征信息进行聚类分析，得到目标检测模型的聚类损失。
37.步骤s203：基于目标检测模型的网络损失和聚类损失对目标检测模型的网络参数进行调整，得到训练好的目标检测模型。
38.根据本公开实施例的目标检测模型的训练方法，将视频序列的不同图像帧之间的
类别的目标进行聚合的方式，对目标检测模型进行优化训练，提高目标检测模型的检测准确率，便于提高下游应用(例如检测异常物体或异常事件的应用，或者统计目标物体个数的应用)的准确性和用户体验。
39.根据本公开的实施例，目标检测模型至少包括有特征提取层和类别预测层。在步骤s201中，可以经由特征提取层获得样本图像的多个特征信息，该特征信息例如可以为特征图(feature，map)，基于多个特征信息，经由类别预测层确定针对样本图像预测的类别的个数。
40.根据本公开的实施例，样本图像为包括多个图像帧在内的视频帧序列或者为一个图像，从而可以利用一个或多个图像对目标检测模型进行优化。
41.可选的，特征提取层可以使用自注意力机制的transformer模型来进行特征提取，以此使得该特征提取层更适合对序列数据进行处理，并使得提取的特征能够融合上下文信息。
42.在此基础上，该实施例的特征提取层可以包括图像特征提取层和编码解码层。其中，图像特征提取层的输入为前述按自后向前的顺序依次输入的任一图像帧。该图像特征提取层的输出为特征序列，该特征序列中包括针对每一图像帧的特征向量。图像特征提取层输出的特征序列作为编码解码层的输入，经由编码解码层处理后可以输出得到前述的针对任一图像帧的多个特征信息。
43.示例性地，编码解码层可以包括编码层(transformer encoder)和解码层(transformer decoder)。编码层用于对输入的特征序列进行统一编码，以实现对上下文信息的融合。该编码层输出的编码后特征信息作为解码层的输入，经由解码层解码后实现对融合了上下文信息的编码后特征信息的特征提取，得到前述的针对任一图像帧的多个特征信息。
44.根据本公开的实施例，在经由特征提取层提取特征信息时，例如还可以融合该任一图像帧的时间信息和/或位置信息后，再进行特征提取，以此使得特征提取过程在基于自注意力机制的transformer模型来实现的同时，可以保留该任一图像帧的时间特征和/或位置特征。
45.本公开实施例，在步骤s202中，基于类别的个数，对提取的多个特征信息进行聚类分析，得到目标检测模型的聚类损失，可以通过特征聚类模型实现，具体包括如下过程：基于类别的个数，对提取的多个特征信息进行聚类，获得多个聚类组和多个聚类组各自的聚类中心；根据每个特征信息与聚类中心计算每个聚类组的聚类内损失；根据每个聚类组的聚类中心计算每两个聚类组的聚类间损失；将聚类内损失和聚类间损失作为该目标检测模型的聚类损失。
46.通过上述过程，能够将不同图像帧之间类别相同的特征信息进行聚类的方式计算聚类损失，从而为后续的目标检测模型的优化提供基础。
47.在一种可能的实施方式中，根据每个特征信息与聚类中心计算每个聚类组的聚类内损失，可以通过如下方式实现：针对每个聚类组，计算每个特征信息与其所在聚类组的聚类中心的第一距离，并将第一距离中的最大值作为聚类内损失。
48.通过特征信息与聚类中心的最大值来描述聚类内损失，从而在对目标检测模型进行优化时使聚类内损失越小越好，进而提供目标检测模型的检测准确率。
49.在一种可能的实施方式中，根据每个聚类组的聚类中心计算每两个聚类组的聚类间损失，可以通过如下方式实现：针对每两个聚类组，计算两个聚类组的聚类中心的距离作为第二距离，并将第二距离中的最小值作为聚类间损失。
50.通过不同聚类中心的距离的最小值来描述聚类间损失，从而在对目标检测模型进行优化时使聚类间损失越大越好，进而提供目标检测模型的检测准确率。
51.本公开实施例中，步骤s203执行之前，需要预先确目标模型的网络损失，可以采用如下过程实现：通过该目标检测模型对该样本图像进行处理，得到该样本图像中参照对象的第一检测结果和热力图；基于该第一检测结果、该热力图以及该样本图像的监督信息，确定该目标检测模型的网络损失，其中，该热力图用于指示该参照对象在该样本图像中的预测位置。
52.可选的，样本图像的监督信息可以指示参照对象的类别以及在样本图像中的位置信息。
53.通过上述过程，利用样本图像确定目标检测模型的网络损失，从而为目标检测模型的网络参数优化提供基础。可选的，在确定目标检测模型的网络损失的情况下，可以利用一些损失函数计算目标检测模型的网络损失，例如，可以利用对数损失函数、l1损失函数、交叉熵损失函数等损失函数确定目标检测模型的网络损失。
54.本公开实施例中基于目标检测模型的聚类损失和网络损失对目标检测模型的网络参数进行调整，得到训练好的目标检测模型。在一个可选的示例中，对目标检测模型进行监督训练时，以最大化聚类间损失、最小化聚类内损失为优化目标，利用确定的网络损失对目标检测模型的网络参数进行调整。这里，目标检测模型的网络参数可以是权重参数。
55.请参阅图3所示，利用上述训练好的目标检测模型，本公开实施例提供一种目标检测模型的检测方法。
56.需要说明的是，本公开所提供的目标检测模型的检测方法可以由服务器140或电子设备110执行。相应地，本公开所提供的目标检测模型的检测装置可以设置于服务器140或电子设备110中。
57.请参阅图3所示，该实施例的目标检测模型的检测方法可以包括如下步骤：
58.步骤s301：利用训练好的目标检测模型对目标图像进行检测，得到该目标图像中目标对象的第二检测结果，该目标图像为一个图像帧或多个图像帧。
59.利用训练好的目标检测模型能够对交通场景下的车辆/行人等事物进行精准的检测，从而可以为后续一系列的诸如异常事件检测、犯人追踪、车辆统计等任务提供帮助。
60.在一种可能的实施方式中，利用训练好的目标检测模型对目标图像进行检测，得到该目标图像中目标对象的第二检测结果，可以通过如下过程实现：利用该训练好的目标检测模型对该目标图像进行特征提取，根据提取的图像特征，确定至少一个候选区域；基于该至少一个候选区域的图像特征，得到包括该目标对象的类别信息和位置信息的第二检测结果。
61.这样通过训练好的目标检测模型可以确定目标对象可能位于的至少一个候选区域，可以针对候选区域中可能存在的目标对象进行检测，从而使检测到的目标对象更加全面。
62.在一些实现方式中，可以将目标图像输入目标检测模型，利用目标检测模型对目
标图像进行特征提取，例如，可以利用目标检测模型对目标图像进行卷积操作、池化操作、特征融合操作等，提取目标图像的图像特征。再根据目标图像的图像特征，可以确定至少一个候选区域，例如，可以在图像特征对应的特征图中，随机确定至少一个候选区域。候选区域可以是目标对象可能位于的特征区域，例如，可以对提取的目标图像的图像特征进一步进行卷积操作等，确定目标对象可能位于的一个或多个候选区域。进一步地，可以将至少一个候选区域的特征尺寸(即提取的候选区域的图像特征的特征尺寸)放缩为预设尺寸，例如，将候选区域的特征尺寸放缩为7
×7×
256。然后针对多个候选区域的图像特征，可以对每个候选区域的图像特征进行多次池化操作和全连接操作，得到每个候选区域中目标对象的类别信息和位置信息。一些实现方式中，一些候选区域可能交叠或对应同一个目标对象，从而可以进一步对多个候选区域的检测结果进行整合，得到目标图像中每个目标对象的类别信息和位置信息。
63.举例来说，训练好的目标检测模型至少包括特征提取层和类别预测层。将目标图像输入训练好的目标检测模型，可以利用特征提取层可以提取目标图像的图像特征，并由目标图像的图像特征确定至少一个候选区域，进一步可以将至少一个候选区域转变为预设尺寸。进一步地，可以利用类别预测层对多个候选区域的图像特征进行多次池化操作、全连接操作，得到目标图像中目标对象的第二检测结果。这里，第二检测结果可以包括目标对象的类别信息和位置信息。
64.下面将结合图4所示，针对本公开一示例性实施例所采用的目标检测模型及目标检测模型的训练方法的实现原理进行描述。
65.图4是本公开一示例性实施例示出的目标检测模型的训练方法的原理示意图。
66.根据图4所示的目标检测模型包括图像特征提取层、编码层、解码层和类别预测层。其中，图像特征提取层的输入为按自后向前的顺序依次输入的3个图像帧。分别为第n-1帧、第n帧和第n+1帧。图像特征提取层的输出为特征序列，该特征序列中包括针对每一图像帧的特征向量。图像特征提取层输出的特征序列作为编码层的输入，经由编码层、解码层处理后可以输出得到前述的针对3个图像帧的多个特征信息。
67.解码层输出的多个特征信息作为类别预测层的输入框的检测和识别得到预测的类别的个数，将相同类别的特征信息输入特征聚类模型中进行聚类中心的计算，并根据计算的聚类中心计算聚类损失。例如，针对解码层输出的m个特征信息，总共分出c个类别，这里就有c个簇。然后对每个簇进行聚类中心的计算，可选的，将相同类别的特征信息进行平均获得其聚类中心。在获得了c个聚类中心之后，计算每个特征信息与其聚类中心的距离并取最大值作为聚类内损失，计算c个聚类中心中两两之间的距离并取最小值作为聚类间损失，利用目标检测模型的网络损失和计算的聚类内损失、聚类间损失对目标检测模型进行监督训练，优化聚类内损失越小越好，优化聚类间损失越大越好，从而调整目标检测模型的网络参数。
68.基于相同的发明构思，请参阅图5所示本公开实施例提供一种目标检测模型的训练装置，包括提取模块501、聚类模块502和训练模块503，其中：
69.提取模块501，用于利用目标检测模型提取样本图像的多个特征信息，对该多个特征信息进行类别检测，得到类别的个数。
70.聚类模块502，用于基于该类别的个数，对该多个特征信息进行聚类分析，得到该
目标检测模型的聚类损失。
71.训练模块503，用于基于该目标检测模型的网络损失和该聚类损失对该目标检测模型的网络参数进行调整，得到训练好的目标检测模型。
72.在一种可能的实施方式中，该聚类模块502包括：
73.特征信息聚类单元，用于基于该类别的个数，对该多个特征信息进行聚类，获得多个聚类组和该多个聚类组各自的聚类中心；
74.聚类内损失计算单元，用于根据每个特征信息与聚类中心计算每个聚类组的聚类内损失；
75.聚类间损失计算单元，用于根据每个聚类组的聚类中心计算每两个聚类组的聚类间损失；
76.聚类损失计算单元，用于将该聚类内损失和该聚类间损失作为该目标检测模型的聚类损失。
77.在一种可能的实施方式中，该聚类内损失计算单元具体用于：
78.针对每个聚类组，计算每个特征信息与其所在聚类组的聚类中心的第一距离，并将第一距离中的最大值作为聚类内损失。
79.在一种可能的实施方式中，该聚类间损失计算单元具体用于：
80.针对每两个聚类组，计算该两个聚类组的聚类中心的距离作为第二距离，并将第二距离中的最小值作为聚类间损失。
81.在一种可能的实施方式中，该装置还包括：
82.第一检测模块，用于基于该目标检测模型的网络损失和该聚类损失对该目标检测模型的网络参数进行调整之前，通过该目标检测模型对该样本图像进行处理，得到该样本图像中参照对象的第一检测结果和热力图；
83.网络损失确定模块，用于基于该第一检测结果、该热力图以及该样本图像的监督信息，确定该目标检测模型的网络损失，其中，该热力图用于指示该参照对象在该样本图像中的预测位置。
84.在一种可能的实施方式中，该样本图像为一个图像或多个图像帧。
85.基于相同的发明构思，请参阅图6所示，本公开实施例提供一种目标检测模型的检测装置，包括：
86.第二检测模块601，用于利用训练好的目标检测模型对目标图像进行检测，得到该目标图像中目标对象的第二检测结果，该目标图像为一个图像帧或多个图像帧。
87.在一种可能的实施方式中，该第二检测模块包括：
88.候选区域确定单元，用于利用该训练好的目标检测模型对该目标图像进行特征提取，根据提取的图像特征，确定至少一个候选区域；
89.类别和位置检测单元，用于基于该至少一个候选区域的图像特征，得到包括该目标对象的类别信息和位置信息的第二检测结果。
90.本公开的技术方案中，所涉及的各种图像的获取，存储和应用等，均符合相关法律法规的规定，且不违背公序良俗。
91.根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
92.图7示出了可以用来实施本公开的实施例的示例电子设备700的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。
93.如图7所示，设备700包括计算单元701，其可以根据存储在只读存储器(rom)702中的计算机程序或者从存储单元708加载到随机访问存储器(ram)703中的计算机程序，来执行各种适当的动作和处理。在ram 703中，还可存储设备700操作所需的各种程序和数据。计算单元701、 rom 702以及ram 703通过总线704彼此相连。输入/输出(i/o)接口 705也连接至总线704。
94.设备700中的多个部件连接至i/o接口705，包括：输入单元706，例如键盘、鼠标等；输出单元707，例如各种类型的显示器、扬声器等；存储单元708，例如磁盘、光盘等；以及通信单元709，例如网卡、调制解调器、无线通信收发机等。通信单元709允许设备700通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
95.计算单元701可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元701的一些示例包括但不限于中央处理单元(cpu)、图形处理单元(gpu)、各种专用的人工智能(ai)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(dsp)、以及任何适当的处理器、控制器、微控制器等。计算单元701执行上文所描述的各个方法和处理，例如目标模型的训练或检测方法。例如，在一些实施例中，目标模型的训练或检测方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元708。在一些实施例中，计算机程序的部分或者全部可以经由rom 702和/或通信单元709而被载入和/或安装到设备 700上。当计算机程序加载到ram 703并由计算单元701执行时，可以执行上文描述的目标模型的训练或检测方法的一个或多个步骤。备选地，在其他实施例中，计算单元701可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行目标模型的训练或检测方法。
96.本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(fpga)、专用集成电路(asic)、专用标准产品(assp)、芯片上系统的系统(soc)、负载可编程逻辑设备(cpld)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/ 或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
97.用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
98.在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦除可编程只读存储器(eprom或快闪存储器)、光纤、便捷式紧凑盘只读存储器(cd-rom)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
99.为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，crt(阴极射线管)或者lcd(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入) 来接收来自用户的输入。
100.可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(lan)、广域网(wan)和互联网。
101.计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，也可以为分布式系统的服务器，或者是结合了区块链的服务器。
102.应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。
103.上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。