本申请涉及视觉定位技术领域，尤其涉及一种模型训练以及视觉定位方法及装置。
背景技术：
目前，无人驾驶设备在行驶过程中，可实时确定自身位置，并根据自身位置以及目的地，规划行驶路径。其中，在确定无人车自身位置时，可采用基于深度学习的视觉定位方法进行定位，避免了传统视觉定位方法中需要大量数据构建地图的弊端，通过训练好的视觉定位模型便可以根据输入的环境图像输出无人车的位姿。视觉定位过程中所采用的视觉定位模型通常由特征提取分支网络和定位分支网络两部分组成。并且，输入视觉定位模型的是环境图像，因此通常特征提取分支网络是卷积神经网络(convolutionalneuralnetworks,cnn)，例如：视觉几何群网络(visualgeometrygroupnetwork-19，vgg-19)以及残差网络(residualnetwork-50，resnet-50)等模型，用于从环境图像中提取图像特征。定位分支网络通常是全连接网络，例如，多层感知机(multilayerperceptron，mlp)结构的网络，用于根据特征提取分支网络输出的图像特征确定无人车位姿。
现有技术中在训练视觉定位模型时，服务器可先获取历史上采集的若干环境图像以及采集环境图像时的采集设备的真实位姿(包含位置坐标以及朝向)，并针对每个环境图像，将采集该环境图像时采集设备的真实位姿作为该环境图像的标注，根据该环境图像以及该环境图像标注的真实位姿，确定训练样本。之后针对每个训练样本，将该训练样本中包含的环境图像输入待训练的视觉定位模型的特征提取分支网络中，确定该环境图像的图像特征，再将该环境图像的图像特征输入待训练的视觉定位模型的定位分支网络中，确定该环境图像的预测位姿。以最小化该预测位姿与该训练样本中的真实位姿为优化目标，调整待训练的视觉定位模型中的模型参数。
但是，现有技术对视觉定位模型进行模型训练的方法，往往需要经过较多次的迭代过程，才能调整得到合适的模型参数，训练出较为精确的视觉定位模型，而迭代次数越多，模型训练的时间越长，因此现有技术中训练出较为精确的视觉定位模型往往需要以训练时间为代价，消耗较长的训练时间。
技术实现要素：
本说明书实施例提供一种模型训练以及视觉定位方法及装置，用于部分解决现有技术中存在的上述问题。
本说明书实施例采用下述技术方案：
本说明书提供的一种模型训练方法，包括：
获取若干环境图像以及采集环境图像时采集设备的真实位姿；
针对每个环境图像，将该环境图像作为训练样本，将采集该环境图像时采集设备的真实位姿作为所述训练样本的标注；
针对每个训练样本，将该训练样本作为输入，输入待训练的视觉定位模型的特征提取分支网络，确定该训练样本对应在各特征通道中的图像特征分布；
针对每个特征通道，根据该特征通道的图像特征分布，确定该特征通道对应的第一注意力加权值，并根据该特征通道对应的第一注意力加权值，对该特征通道的各图像特征进行第一注意力加权，其中，该特征通道的图像特征的特征值越大，该特征通道对应的第一注意力加权值越大；
针对图像特征分布中的每个位置，根据各特征通道进行第一注意力加权的图像特征，确定该位置对应的第二注意力加权值，并根据该位置对应的第二注意力加权值，对该位置对应的各图像特征进行第二注意力加权，其中，该位置对应的各特征通道的图像特征的特征值越大，该位置对应的第二注意力加权值越大；
将进行第二注意力加权后的图像特征分布作为输入，输入所述待训练的视觉定位模型的定位分支网络，确定该训练样本的预测位姿；
以最小化所述预测位姿与该训练样本标注的真实位姿之间的差异为优化目标，调整所述视觉定位模型中的模型参数，所述视觉定位模型用于进行视觉定位。
可选地，根据该特征通道的图像特征分布，确定该特征通道对应的第一注意力加权值，具体包括：
根据该特征通道的图像特征分布，确定该特征通道中各图像特征的特征值；
从确定出的各特征值中，确定最大的特征值，作为该特征通道对应的第一注意力加权值。
可选地，根据该特征通道的图像特征分布，确定该特征通道对应的第一注意力加权值，具体包括：
根据该特征通道的图像特征分布，确定该特征通道中各图像特征的特征值；
将确定出的各特征值的平均值，作为该特征通道对应的第一注意力加权值。
可选地，根据该特征通道对应的第一注意力加权值，对该特征通道的各图像特征进行第一注意力加权，具体包括：
针对每个图像特征，将该图像特征的特征值与该特征通道对应的第一注意力加权值相乘，确定第一注意力加权后的该图像特征的特征值。
可选地，根据各特征通道进行第一注意力加权的图像特征，确定该位置对应的第二注意力加权值，具体包括：
确定进行第一注意力加权后的各特征通道在该位置的图像特征的特征值；
将确定出的各特征值的平均值，作为该位置对应的第二注意力加权值。
可选地，根据各特征通道进行第一注意力加权的图像特征，确定该位置对应的第二注意力加权值，具体包括：
确定进行第一注意力加权后的各特征通道在该位置的图像特征的特征值；
从确定出的各特征值中，确定最大的特征值，作为该位置对应的第二注意力加权值。
可选地，根据该位置对应的第二注意力加权值，对该位置对应的各图像特征进行第二注意力加权，具体包括：
针对每个特征通道，将该位置对应该特征通道的图像特征的特征值与该位置对应的第二注意力加权值相乘，确定该位置对应的该特征通道经过第二注意力加权后的图像特征的特征值。
可选地，将进行第二注意力加权后的图像特征分布作为输入，具体包括：
将该训练样本对应在各特征通道中的图像特征分布与进行第二注意力加权后的图像特征分布进行级联，确定级联后的图像特征分布作为输入。
本说明书提供的一种视觉定位方法，包括：
无人车采集当前周围环境的环境图像；
将所述环境图像作为输入，输入视觉定位模型的特征提取分支网络，确定所述环境图像对应在各特征通道中的图像特征分布；
针对每个特征通道，根据该特征通道的图像特征分布，确定该特征通道对应的第一注意力加权值，并根据该特征通道对应的第一注意力加权值，对该特征通道的各图像特征进行第一注意力加权，其中，该特征通道的图像特征的特征值越大，该特征通道对应的第一注意力加权值越大；
针对图像特征分布中的每个位置，根据各特征通道进行第一注意力加权的图像特征，确定该位置对应的第二注意力加权值，并根据该位置对应的第二注意力加权值，对该位置对应的各图像特征进行第二注意力加权，其中，该位置对应的各特征通道的图像特征的特征值越大，该位置对应的第二注意力加权值越大；
将进行第二注意力加权后的图像特征分布作为输入，输入所述视觉定位模型的定位分支网络，确定所述无人车的当前位姿。
本说明书提供一种模型训练装置，包括：
获取模块，获取若干环境图像以及采集环境图像时采集设备的真实位姿；
标注模块，针对每个环境图像，将该环境图像作为训练样本，将采集该环境图像时采集设备的真实位姿作为训练样本的标注；
特征提取模块，针对每个训练样本，将该训练样本作为输入，输入待训练的视觉定位模型的特征提取分支网络，确定该训练样本对应在各特征通道中的图像特征分布；
第一加权模块，针对每个特征通道，根据该特征通道的图像特征分布，确定该特征通道对应的第一注意力加权值，并根据该特征通道对应的第一注意力加权值，对该特征通道的各图像特征进行第一注意力加权，其中，该特征通道的图像特征的特征值越大，该特征通道对应的第一注意力加权值越大；
第二加权模块，针对图像特征分布中的每个位置，根据各特征通道进行第一注意力加权的图像特征，确定该位置对应的第二注意力加权值，并根据该位置对应的第二注意力加权值，对该位置对应的各图像特征进行第二注意力加权，其中，该位置对应的各特征通道的图像特征的特征值越大，该位置对应的第二注意力加权值越大；
预测位姿确定模块，将进行第二注意力加权后的图像特征分布作为输入，输入所述待训练的视觉定位模型的定位分支网络，确定该训练样本的预测位姿；
优化模块，以最小化所述预测位姿与该训练样本标注的真实位姿之间的差异为优化目标，调整所述视觉定位模型中的模型参数，所述视觉定位模型用于进行视觉定位。
本说明书提供一种视觉定位装置，包括：
采集模块，采集当前周围环境的环境图像；
特征提取模块，将所述环境图像作为输入，输入视觉定位模型的特征提取分支网络，确定所述环境图像对应在各特征通道中的图像特征分布；
第一加权模块，针对每个特征通道，根据该特征通道的图像特征分布，确定该特征通道对应的第一注意力加权值，并根据该特征通道对应的第一注意力加权值，对该特征通道的各图像特征进行第一注意力加权，其中，该特征通道的图像特征的特征值越大，该特征通道对应的第一注意力加权值越大；
第二加权模块，针对图像特征分布中的每个位置，根据各特征通道进行第一注意力加权的图像特征，确定该位置对应的第二注意力加权值，并根据该位置对应的第二注意力加权值，对该位置对应的各图像特征进行第二注意力加权，其中，该位置对应的各特征通道的图像特征的特征值越大，该位置对应的第二注意力加权值越大；
位姿确定模块，将进行第二注意力加权后的图像特征分布作为输入，输入所述视觉定位模型的定位分支网络，确定所述无人车的当前位姿。
本说明书提供的一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序被处理器执行时实现上述模型训练方法或实现上述视觉定位方法。
本说明书提供的一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现上述模型训练方法。
本说明书提供的一种无人车，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现上述视觉定位方法。
本说明书实施例采用的上述至少一个技术方案能够达到以下有益效果：
在对视觉定位模型进行训练时，服务器可先将获取到的若干环境图像作为训练样本，并将采集环境图像时采集设备的真实位姿作为训练样本的标注。之后针对每个训练样本，将该训练样本输入待训练的视觉定位模型的特征提取分支网络，确定该训练样本对应在各特征通道中的图像特征分布，然后针对每个特征通道，根据该特征通道的图像特征分布，确定该特征通道对应的第一注意力加权值，并对该特征通道的各图像特征进行第一注意力加权，即，提取空间维度的关键图像特征，并对该关键图像特征进行第一注意力加权。再针对图像特征分布中的每个位置，根据各特征通道进行第一注意力加权的图像特征，确定该位置对应的第二注意力加权值，并对该位置对应的各图像特征进行第二注意力加权，即，提取通道维度的关键图像特征，并对该关键图像特征进行第二注意力加权。最后将进行第二注意力加权后的图像特征分布输入待训练的视觉定位模型的定位分支网络，确定该环境图像的预测位姿，以最小化预测位姿与该真实位姿之间的差异为优化目标，调整该视觉定位模型中的模型参数。通过引入注意力机制，确定各环境图像的图像特征分布中在空间维度以及通道维度的关键图像特征，并通过注意力加权增大该关键图像特征的特征值，使该关键图像特征更显著，以增强对该关键图像特征的注意力，更有效的确定预测位姿。在模型训练过程中使模型收敛更快，精度更高。
附图说明
此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：
图1为本说明书实施例提供的一种模型训练方法的流程示意图；
图2为本说明书实施例提供的视觉定位模型的架构示意图；
图3为本说明书实施例提供的图像特征分布的示意图；
图4为本说明书实施例提供的提取空间维度的关键图像特征的示意图；
图5为本说明书实施例提供的提取通道维度的关键图像特征的示意图；
图6为本说明书实施例提供的视觉定位模型的架构示意图；
图7为本说明书实施例提供的一种视觉定位方法的流程示意图；
图8为本说明书实施例提供的一种模型训练装置的结构示意图；
图9为本说明书实施例提供的一种视觉定位装置的结构示意图；
图10为本说明书实施例提供的实现模型训练方法的电子设备示意图；
图11为本说明书实施例提供的实现视觉定位方法的无人车。
具体实施方式
为使本说明书的目的、技术方案和优点更加清楚，下面将结合本说明书具体实施例及相应的附图对本申请技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本申请一部分实施例，而不是全部的实施例。基于说明书中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
以下结合附图，详细说明本申请各实施例提供的技术方案。
图1为本说明书实施例提供的一种模型训练过程，具体可包括以下步骤：
s100：获取若干环境图像以及采集环境图像时采集设备的真实位姿。
s102：针对每个环境图像，将该环境图像作为训练样本，将采集该环境图像时采集设备的真实位姿作为训练样本的标注。
目前，无人驾驶设备通过深度学习的视觉定位模型进行视觉定位时，无人车可采集周围环境的环境图像，并将该环境图像输入预先训练的视觉定位模型中，得到视觉定位模型输出的该无人车的当前位姿。
本说明书实施例提供的模型训练方法是对视觉定位模型进行训练的过程。因此在本说明书中，对该视觉定位模型进行模型训练时，可先获取若干次历史行驶过程中的采集设备采集的周围环境的环境图像，以及采集各环境图像时采集设备的真实位姿。
之后，针对每个环境图像，将该环境图像作为训练样本，并将采集该环境图像时采集设备的真实位姿作为该训练样本的标注，以通过该训练样本对视觉定位模型进行训练。其中，采集该环境图像时采集设备的真实位姿包含采集设备采集该环境图像时的位置坐标以及采集设备采集该环境图像时的朝向。
需要说明的是，本说明书提供的模型训练方法具体可由控制视觉定位模型训练过程的服务器执行，该服务器可以是单独的服务器，也可以是多个服务器组成的系统，本说明书对此不做限制，可根据需要设置。
s104：针对每个训练样本，将该训练样本作为输入，输入待训练的视觉定位模型的特征提取分支网络，确定该训练样本对应在各特征通道中的图像特征分布。
通常视觉定位模型主要由特征提取分支网络以及定位分支网络两部分组成，如图2所示，将作为训练样本的环境图像输入该视觉定位模型的特征提取分支网络，可得到该训练样本在各特征通道(c1、c2、c3……cn)的图像特征分布，之后再将该训练样本的图像特征分布输入该视觉定位模型的定位分支网络，得到该视觉定位模型输出的预测位姿。其中，特征提取分支网络为cnn，例如：vgg-19以及resnet-50等模型，用于从环境图像中提取图像特征。定位分支网络通常是全连接网络，例如，mlp网络等，用于根据特征提取分支网络输出的图像特征确定预测位姿。
在本说明书实施例中，当通过步骤s102确定出的训练样本后，服务器可针对每个训练样本，将该训练样本作为输入，输入待训练的视觉定位模型的特征提取分支网络中，输出该训练样本对应在各特征通道中的图像特征分布。其中，该训练样本对应在各特征通道中的图像特征分布如图3所示，假设该待训练的视觉定位模型的特征提取分支网络输出的该训练样本的图像特征分布为h×w×c，有c1、c2、c3三个特征通道，图3中左图分别为c1、c2、c3特征通道中的图像特征分布，图3中右图表示h×w在该c1特征通道中的图像特征分布，包含该c1特征通道中各图像特征的位置以及特征值，图中以3×3为例表示。
s106：针对每个特征通道，根据该特征通道的图像特征分布，确定该特征通道对应的第一注意力加权值，并根据该特征通道对应的第一注意力加权值，对该特征通道的各图像特征进行第一注意力加权。
目前，基于深度学习的视觉定位模型的训练过程为：将步骤s104输出的该训练样本对应在各特征通道中的图像特征分布作为输入，输入到该待训练的视觉定位模型的定位分支网络中，使该定位分支网络根据该训练样本对应在各特征通道中的图像特征分布，确定该训练样本的预测位姿。
为了缩短模型训练时间以及提高模型训练精度，本说明书实施例在该模型训练过程中引入了注意力机制(attentionmechanism)。注意力机制是一种从全局信息中提取出对实现目标任务更有效的关键信息，并向该关键信息分配更多的注意力资源，以增强关键信息的注意力，更高效的实现目标任务。在本说明书中，确定该训练样本的图像特征分布是为了进一步确定预测位姿，而在该图像特征分布中存在部分图像特征能够更准确、更迅速的确定预测位姿，即，图像特征分布中对确定预测位姿更有效的关键图像特征，例如：标志性地标等。通过对该图像特征分布中的关键图像特征进行注意力加权，增大该关键图像特征的特征值，使该关键图像特征更明显，增强对该关键图像特征的注意力，更有效的确定预测位姿。
于是在本说明书中，可先针对每个特征通道，从该特征通道的图像特征分布中确定更加有效的关键图像特征，即，确定该训练样本在空间维度上的关键图像特征，并对该关键图像特征进行注意力加权，以更加有效的确定预测位姿。
具体的，首先，该服务器可针对该每个特征通道，根据该特征通道的图像特征分布，确定该特征通道中各图像特征的特征值，之后从确定出的各图像特征的特征值中，确定最大的特征值，作为该特征通道对应的第一注意力加权值。最后，针对每个图像特征，通过将该图像特征的特征值与该特征通道对应的第一注意力加权值相乘，确定第一注意力加权后的该图像特征的特征值，使该特征通道中的关键图像特征的特征值更大，该关键图像特征更突出。其中，该特征通道的图像特征的特征值越大，该特征通道对应的第一注意力加权值越大。
在本说明书中，从确定出的各图像特征的特征值中，确定最大的特征值，作为该特征通道对应的第一注意力加权值，即采用全局最大值池化的方法，确定各图像特征的特征值中最大的特征值，作为该特征通道对应的第一注意力加权值。
图4为本说明书提供的提取空间维度的关键图像特征的示意图，通过该待训练的视觉定位模型的特征提取分支网络输出的该环境图像的图像特征分布为h×w×c，其中，以hi、wj表示各图像特征在各特征通道中的分布位置，hi表示该图像特征的位置处于第i行，i表示所处行数，wj表示该图像特征的位置处于第j列，j表示所处列数，c表示特征通道，图中c1、c2……cn-1、cn分别表示不同的特征通道。如图4上方所示，对左侧c1、c2……cn-1、cn等各特征通道中h×w维的图像特征分布，确定h×w维中特征值最大的图像特征，作为各特征通道的关键图像特征，并将该最大特征值作为该特征通道对应的第一注意力加权值。也就是说，针对每个特征通道，将该特征通道的h×w维的图像特征分布中提取出1个关键图像特征，如图4上方虚线指向所示，左侧c1特征通道中h×w维的图像特征分布提取出中间c1特征通道中1个关键图像特征，左侧c2特征通道中h×w维的图像特征分布提取出中间c2特征通道中1个关键图像特征，左侧cn-1特征通道中h×w维的图像特征分布提取出中间cn-1特征通道中1个关键图像特征，左侧cn特征通道中h×w维的图像特征分布提取出中间cn特征通道中1个关键图像特征。则对于c个特征通道，分别提取出c个图像特征，即，h×w×c维的图像特征分布提取出1×1×c维的关键图像特征。图4上方右侧
以c1特征通道的图像特征分布为例进行说明，如图4中左侧h×w×c下方箭头所指的c1特征通道的图像特征分布，根据该特征通道的图像特征分布，可确定该特征通道中各图像特征的特征值分别为(h1，w1)＝1，(h1，w2)＝2，(h1，w3)＝1，(h2，w1)＝1，(h2，w2)＝5，(h2，w3)＝1，(h3，w1)＝1，(h3，w2)＝2，(h3，w3)＝1，可确定各特征值中最大的特征值为5，则c1特征通道对应的第一注意力加权值为5，如图4中1×1×c下方箭头所指的c1特征通道对应的第一注意力加权值。根据确定出的各特征通道对应的第一注意力加权值，可确定1×1×c的注意力加权向量，该注意力加权向量表征该h×w×c的图像特征分布在空间维度上的关键图像特征。再以对该c1特征通道中关键图像特征进行注意力加权为例，将c1特征通道中各图像特征的特征值与该c1特征通道对应的第一注意力加权值相乘，确定第一注意力加权后的c1特征通道中各图像特征的特征值为(h1，w1)＝5，(h1，w2)＝10，(h1，w3)＝5，(h2，w1)＝5，(h2，w2)＝25，(h2，w3)＝5，(h3，w1)＝5，(h3，w2)＝10，(h3，w3)＝5。
s108：针对图像特征分布中的每个位置，根据各特征通道进行第一注意力加权的图像特征，确定该位置对应的第二注意力加权值，并根据该位置对应的第二注意力加权值，对该位置对应的各图像特征进行第二注意力加权。
在本说明书实施例中，当通过步骤s106对该训练样本的图像特征分布在空间维度的关键图像特征进行注意力加权后，可进一步对训练样本的图像特征分布在通道维度的关键图像特征进行注意力加权。需要说明的是，在确定通道维度的关键图像特征时，该关键图像特征应该不只在某一特征通道中突出，而在各特征通道中均应突出。
具体的，首先，该服务器可针对图像特征分布中的每个位置，确定进行第一注意力加权后的各特征通道在该位置的图像特征的特征值，之后将确定出的各特征值的平均值，作为该位置对应的第二注意力加权值，最后针对每个特征通道，将该位置对应该特征通道的图像特征的特征值与该位置对应的第二注意力加权值相乘，确定该位置对应的该特征通道经过第二注意力加权后的图像特征的特征值。其中，该位置对应的各特征通道的图像特征的特征值越大，该位置对应的第二注意力加权值越大。
在本说明书中，将确定出的各特征值的平均值，作为该位置对应的第二注意力加权值，即采用均值池化的方法，确定该位置各特征通道的特征值的平均值作为该位置对应的第二注意力加权值。需要说明的是，该位置对应的第二注意力加权值表征的是该位置在各特征通道中图像特征的特征值的平均值，而非表征单一特征通道中的图像特征的特征值，也就是说，该位置在各特征通道中图像特征均越突出，该位置对应的图像特征为关键图像特征的概率越大。
图5为本说明书提供的提取通道维度的关键图像特征的示意图，进行第一注意力加权后该环境图像的图像特征分布为h×w×c，假设存在c1、c2、c3三个特征通道，针对每个位置(hi、wj)，确定进行第一注意力加权后的各特征通道在该位置的图像特征的特征值，以图中位置(h1、w1)为例进行说明，假设进行第一注意力加权后c1特征通道在该位置(h1、w1)的图像特征的特征值为5，进行第一注意力加权后c2特征通道在该位置(h1、w1)的图像特征的特征值为10，进行第一注意力加权后c3特征通道在该位置(h1、w1)的图像特征的特征值为30，可确定各特征通道在该位置的图像特征的特征值的平均值为15，如图5中h×w×1维的图像特征分布所示，该h×w×1维的图像特征分布中h1×w1位置的特征值为15，即，该位置对应的第二注意力加权值为15。根据确定出的各位置对应的第二注意力加权值，可确定h×w×1的注意力加权信息，该注意力加权信息表征经过第一注意力加权后的h×w×c的图像特征分布在通道维度上的关键图像特征。再以对该位置(h1、w1)进行注意力加权为例，分别将该位置的对应各特征通道的图像特征的特征值与该位置对应的第二注意力加权值相乘，可确定该位置对应的c1特征通道经过第二注意力加权后的图像特征的特征值为75，该位置对应的c2特征通道经过第二注意力加权后的图像特征的特征值为225，该位置对应的c3特征通道经过第二注意力加权后的图像特征的特征值为450。
s110：该进行第二注意力加权后的图像特征分布作为输入，输入所述待训练的视觉定位模型的定位分支网络，确定该训练样本的预测位姿。
在本说明书实施例中，通过步骤s106～步骤s108确定出该环境图像的图像特征分在空间维度以及通道维度中的关键图像特征后，便可确定该环境图像的预测位姿。
具体的，该服务器可将进行第二注意力加权后的图像特征分布作为输入，输入该待训练的视觉定位模型的定位分支网络，确定待训练的视觉定位模型输出的该训练样本的预测位姿。
进一步的，为防止图像特征提取时出现异常，以及增强模型鲁棒性，在本说明书中，该服务器可将该训练样本对应在各特征通道中的图像特征分布与进行第二注意力加权的图像特征分布进行级联，确定级联后的图像特征分布作为输入，根据该级联后的图像特征分布确定该训练样本的预测位姿。
其中，将该训练样本对应在各特征通道中的图像特征分布与进行第二注意力加权的图像特征分布进行级联，接上述图4、图5所述，可确定该环境图像对应在各特征通道中的图像特征分布为h×w×c，进行第二注意力加权的图像特征分布也为h×w×c的图像特征信息，将这两个图像特征分布进行通道维度的级联，可得h×w×2c的图像特征分布。
s112：以最小化所述预测位姿与该训练样本标注的真实位姿之间的差异为优化目标，调整所述视觉定位模型中的模型参数，所述视觉定位模型用于进行视觉定位。
在本说明书实施例中，将该训练样本输入待训练的视觉定位模型，输出该训练样本的预测位姿。可根据该预测位姿与该训练样本标注的真实位姿，调整该视觉定位模型中的模型参数，使该待训练的视觉定位模型输出的预测位姿与该训练样本标注的真实位姿越接近。
具体的，该服务器以最小化该视觉定位模型输出的预测位姿与该训练样本标注的真实位姿之间的差异为优化目标，调整该视觉定位模型中的模型参数，通过本说明书提供的模型训练方法训练出的视觉定位模型可应用于有视觉定位需求的各无人驾驶设备中。
基于图1所示的模型训练方法，服务器可先将获取到的若干环境图像作为训练样本，并将采集环境图像时采集设备的真实位姿作为训练样本的标注。之后针对每个训练样本，将该训练样本输入待训练的视觉定位模型的特征提取分支网络，确定该训练样本对应在各特征通道中的图像特征分布，然后针对每个特征通道，根据该特征通道的图像特征分布，确定该特征通道对应的第一注意力加权值，并对该特征通道的各图像特征进行第一注意力加权，即，提取空间维度的关键图像特征，并对该关键图像特征进行第一注意力加权。再针对图像特征分布中的每个位置，根据各特征通道进行第一注意力加权的图像特征，确定该位置对应的第二注意力加权值，并对该位置对应的各图像特征进行第二注意力加权，即，提取通道维度的关键图像特征，并对该关键图像特征进行第二注意力加权。最后将进行第二注意力加权后的图像特征分布输入待训练的视觉定位模型的定位分支网络，确定该环境图像的预测位姿，以最小化预测位姿与该真实位姿之间的差异为优化目标，调整该视觉定位模型中的模型参数。通过引入注意力机制，确定各环境图像的图像特征分布中在空间维度以及通道维度的关键图像特征，并通过注意力加权增大该关键图像特征的特征值，使该关键图像特征更显著，以增强对该关键图像特征的注意力，更有效的确定预测位姿。在模型训练过程中使模型收敛更快，精度更高。
此外，在本说明书步骤s106中确定该特征通道对应的第一注意力加权值时，该服务器也可根据该特征通道的图像特征分布，确定该特征通道中各图像特征的特征值，并将确定出的各特征值的平均值，作为该特征通道对应的第一注意力加权值。
在本说明书步骤s108中确定该位置对应的第二注意力加权值时，该服务器也可确定进行第一注意力加权后的各特征通道在该位置的图像特征的特征值，并从确定出的各特征值中，确定最大的特征值，作为该位置对应的第二注意力加权值。
本说明书对确定第一注意力加权值以及确定第二注意力加权值的特征提取方式不做限制，可根据需要任意组合使用。
本说明书提供的视觉定位模型的模型结构区别于现有技术，如图6所示，在特征提取分支网络与定位分支网络中添加了注意力分支网络，通过注意力分支网络确定该特征提取分支网络输出的环境图像的图像特征分布中的关键图像特征，并对该关键图像特征进行注意力加权，以增强对该关键图像特征的注意力，更有效的确定预测位姿。
另外，目前还存在两种对视觉定位模型进行改进的方法。第一种方法是：在特征提取器与位姿回归器之间增加循环神经网络，例如：长短期记忆网络(longshort-termmemory，lstm)等。通过循环神经网络学习各环境图像的图像特征分布在时序上的约束关系，在确定预测位姿时通过时间和运动方面的约束，确定更准确的预测位姿。第二种方法是：增加损失函数的损失项，通过增加真实位姿与预测位姿之间的运动几何的约束关系，或增加真实位姿与预测位姿对应在图像中的像素坐标的场景几何的约束关系，使视觉定位模型的约束项更多，模型收敛更快更精准，训练效果更好。
但是采用上述第一种方法进行改进时，由于增加了循环神经网络，增加了需要训练的网络层数，导致训练难度更高，训练过程更长。采用上述第二种方法进行改进时，由于增加了损失函数的损失项，增强了损失函数对各可训练参数的约束，也进一步增加了训练过程中的学习的权重。综上，采用上述两种方法对视觉定位算法进行改进，增加了训练难度，延长了模型训练时长。
图7为本说明书实施例提供的一种视觉定位过程，具体可包括以下步骤：
s200：无人车采集当前周围环境的环境图像。
通常采用基于深度学习的视觉定位方法进行定位时，通过训练好的视觉定位模型便可以根据输入的环境图像输出无人车的位姿。因此在本说明书中对无人车进行视觉定位时，可先采集无人车周围环境的环境图像，以通过后续步骤确定无人车的当前位姿。
具体的，当需要进行定位时，无人车可通过自身设置的图像传感器，例如：相机等，采集周围环境的环境图像。本说明书提供的视觉定位方法具体可由无人车执行，也可以由控制无人车的服务器执行，本说明书对此不做限定，可根据需要设置。当由控制无人车的服务器执行时，无人车可将采集的环境图像发送至该服务器，由该服务器根据该环境图像确定无人车的当前位姿。
s202：将所述环境图像作为输入，输入视觉定位模型的特征提取分支网络，确定所述环境图像对应在各特征通道中的图像特征分布。
当通过步骤s100确定出无人车当前周围环境的环境图像后，可将该环境图像输入预先训练的视觉定位模型，以通过后续步骤确定当前位姿。
在本说明书实施例中，具体的，将该环境图像作为输入，输入预先训练的视觉定位模型的特征提取分支网络，对该环境图像进行图像特征提取，确定该环境图像对应在各特征通道中的图像特征分布。
s204：针对每个特征通道，根据该特征通道的图像特征分布，确定该特征通道对应的第一注意力加权值，并根据该特征通道对应的第一注意力加权值，对该特征通道的各图像特征进行第一注意力加权。
在本说明书中，当确定出该环境图像对应在各特征通道中的图像特征分布后，可确定该环境图像的图像特征分布在空间维度的关键图像特征。
具体的，首先，该服务器可针对该环境图像的每个特征通道，根据该特征通道的图像特征分布，确定该特征通道中各图像特征的特征值，之后从确定出的各图像特征的特征值中，确定最大的特征值，作为该特征通道对应的第一注意力加权值。最后，针对每个图像特征，通过将该图像特征的特征值与该特征通道对应的第一注意力加权值相乘，确定第一注意力加权后的该图像特征的特征值，使该特征通道中突出的图像特征更为突出。其中，该特征通道的图像特征的特征值越大，该特征通道对应的第一注意力加权值越大。
当然，在确定该特征通道对应的第一注意力加权值时，也可根据该特征通道的图像特征分布，确定该特征通道中各图像特征的特征值，并将确定出的各特征值的平均值，作为该特征通道对应的第一注意力加权值。本步骤的详细过程可参考上述步骤s106中的描述，本说明书对此不再赘述。
s206：针对图像特征分布中的每个位置，根据各特征通道进行第一注意力加权的图像特征，确定该位置对应的第二注意力加权值，并根据该位置对应的第二注意力加权值，对该位置对应的各图像特征进行第二注意力加权。
在本说明书中，当确定出该环境图像的图像特征分布在空间维度的关键图像特征后，可再确定在通道维度的关键图像特征。
具体的，首先，可针对图像特征分布中的每个位置，确定进行第一注意力加权后的各特征通道在该位置的图像特征的特征值，之后将确定出的各特征值的平均值，作为该位置对应的第二注意力加权值，最后针对每个特征通道，将该位置对应该特征通道的图像特征的特征值与该位置对应的第二注意力加权值相乘，确定该位置对应的该特征通道经过第二注意力加权后的图像特征的特征值。其中，该位置对应的各特征通道的图像特征的特征值越大，该位置对应的第二注意力加权值越大。
当然，在确定该位置对应的第二注意力加权值时，也可确定进行第一注意力加权后的各特征通道在该位置的图像特征的特征值，并从确定出的各特征值中，确定最大的特征值，作为该位置对应的第二注意力加权值。本步骤的详细过程可参考上述步骤s108中的描述，本说明书对此不再赘述。
s208：根据所述环境图像对应在各特征通道中的图像特征分布以及进行第二注意力加权的图像特征分布作为输入，输入所述视觉定位模型的定位分支网络，确定所述无人车的当前位姿。
在本说明书中，当通过步骤s106～步骤s108确定出该环境图像的关键图像特征后，便可根据该关键图像特征，确定无人车的当前位姿。
具体的，可将进行第二注意力加权后的图像特征分布作为输入，输入该预先训练的视觉定位模型的定位分支网络，确定该无人车的当前位姿。
进一步的，为防止图像特征提取时出现异常，保证无人车定位的准确性，在本说明书中，该服务器可将该环境图像对应在各特征通道中的图像特征分布与进行第二注意力加权的图像特征分布进行级联，确定级联后的图像特征分布作为输入，根据该级联后的图像特征分布确定该无人车的当前位姿。
上述无人车进行视觉定位所采用的视觉定位模型可由本说明书提供的模型训练方法进行模型训练，以应用于无人车视觉定位过程中。
基于图7所示的视觉定位方法，当需要进行定位时，无人车可先采集当前周围环境的环境图像，并通过视觉定位模型的特征提取分支网络提取该环境图像的图像特征，确定该环境图像对应在各特征通道中的图像特征分布，之后针对每个特征通道，根据该特征通道的图像特征分布，确定该特征通道对应的第一注意力加权值，并对该特征通道的各图像特征进行第一注意力加权，然后再针对图像特征分布中的每个位置，根据各特征通道进行第一注意力加权的图像特征，确定该位置对应的第二注意力加权值，并对该位置对应的各图像特征进行第二注意力加权，最后将进行第二注意力加权后的图像特征分布作为输入，输入该视觉定位模型的定位分支网络，确定该无人车的当前位姿。通过引入注意力机制，对各环境图像的图像特征分布在空间维度以及通道维度的关键图像特征进行注意力加权，根据该关键图像特征，更有效的确定无人车的当前位姿，使定位精度更高。
另外，在本说明书中该无人车可用于无人配送，本说明书提供的上述视觉定位方法具体可应用于使用无人车进行配送的领域中，当无人车进行配送时，可通过该视觉定位方法，实时确定自身位置，并根据确定出的自身位置以及目的地，规划配送路径进行配送。具体可用于：如，使用无人车进行快递、外卖等配送的场景中。
进一步地，在本说明书中，并不限制该无人车控制过程的主体，有移动功能的机器人在移动过程中，也可通过执行该视觉定位方法进行定位，或者具有无人驾驶功能的车辆，在实现无人驾驶功能时，也可通过执行该无人车控制过程进行运动状态的规划，或者，智能车辆在控制车辆运动状态时，也可通过该过程进行运动状态的规划，例如，利用车辆在使用自适应巡航控制(adaptivecruisecontrol，acc)功能时，通过该运动状态规划过程控制车辆的运动状态，等等。在本说明书中执行该运动状态规划过程的主体，既可以是无人车、也可以是机器人、智能车辆或者具有无人驾驶功能的车辆等，本说明书对此不做限制。
基于图1所示的模型训练方法，本说明书实施例还对应提供一种模型训练装置的结构示意图，如图8所示。
图8为本说明书实施例提供的一种模型训练装置的结构示意图，所述装置包括：
获取模块300，获取若干环境图像以及采集环境图像时采集设备的真实位姿；
标注模块302，针对每个环境图像，将该环境图像作为训练样本，将采集该环境图像时采集设备的真实位姿作为训练样本的标注；
特征提取模块304，针对每个训练样本，将该训练样本中包含的环境图像作为输入，输入待训练的视觉定位模型的特征提取分支网络，确定该训练样本对应在各特征通道中的图像特征分布；
第一加权模块306，针对每个特征通道，根据该特征通道的图像特征分布，确定该特征通道对应的第一注意力加权值，并根据该特征通道对应的第一注意力加权值，对该特征通道的各图像特征进行第一注意力加权，其中，该特征通道的图像特征的特征值越大，该特征通道对应的第一注意力加权值越大；
第二加权模块308，针对图像特征分布中的每个位置，根据各特征通道进行第一注意力加权的图像特征，确定该位置对应的第二注意力加权值，并根据该位置对应的第二注意力加权值，对该位置对应的各图像特征进行第二注意力加权，其中，该位置对应的各特征通道的图像特征的特征值越大，该位置对应的第二注意力加权值越大；
预测位姿确定模块310，将该训练样本对应在各特征通道中的图像特征分布以及进行第二注意力加权的图像特征分布作为输入，输入所述待训练的视觉定位模型的定位分支网络，确定该训练样本的预测位姿；
优化模块312，以最小化所述预测位姿与该训练样本标注的真实位姿之间的差异为优化目标，调整所述视觉定位模型中的模型参数，所述视觉定位模型用于进行视觉定位。
可选地，所述第一加权模块306具体用于，根据该特征通道的图像特征分布，确定该特征通道中各图像特征的特征值，从确定出的各特征值中，确定最大的特征值，作为该特征通道对应的第一注意力加权值。
可选地，所述第一加权模块306具体用于，根据该特征通道的图像特征分布，确定该特征通道中各图像特征的特征值，将确定出的各特征值的平均值，作为该特征通道对应的第一注意力加权值。
可选地，所述第一加权模块306具体用于，针对每个图像特征，将该图像特征的特征值与该特征通道对应的第一注意力加权值相乘，确定第一注意力加权后的该图像特征的特征值。
可选地，所述第二加权模块308具体用于，确定进行第一注意力加权后的各特征通道在该位置的图像特征的特征值，将确定出的各特征值的平均值，作为该位置对应的第二注意力加权值。
可选地，所述第二加权模块308具体用于，确定进行第一注意力加权后的各特征通道在该位置的图像特征的特征值，从确定出的各特征值中，确定最大的特征值，作为该位置对应的第二注意力加权值。
可选地，所述第二加权模块308具体用于，针对每个特征通道，将该位置对应该特征通道的图像特征的特征值与该位置对应的第二注意力加权值相乘，确定该位置对应的该特征通道经过第二注意力加权后的图像特征的特征值。
可选地，所述预测位姿确定模块310具体用于，将该训练样本对应在各特征通道中的图像特征分布与进行第二注意力加权的图像特征分布进行级联，确定级联后的图像特征分布作为输入。
基于图7所示的视觉定位方法，本说明书实施例还对应提供一种视觉定位装置的结构示意图，如图9所示。
图9为本说明书实施例提供的一种视觉定位装置的结构示意图，所述装置包括：
采集模块400，采集当前周围环境的环境图像；
特征提取模块402，将所述环境图像作为输入，输入视觉定位模型的特征提取分支网络，确定所述环境图像对应在各特征通道中的图像特征分布；
第一加权模块404，针对每个特征通道，根据该特征通道的图像特征分布，确定该特征通道对应的第一注意力加权值，并根据该特征通道对应的第一注意力加权值，对该特征通道的各图像特征进行第一注意力加权，其中，该特征通道的图像特征的特征值越大，该特征通道对应的第一注意力加权值越大；
第二加权模块406，针对图像特征分布中的每个位置，根据各特征通道进行第一注意力加权的图像特征，确定该位置对应的第二注意力加权值，并根据该位置对应的第二注意力加权值，对该位置对应的各图像特征进行第二注意力加权，其中，该位置对应的各特征通道的图像特征的特征值越大，该位置对应的第二注意力加权值越大；
位姿确定模块408，将进行第二注意力加权后的图像特征分布作为输入，输入所述视觉定位模型的定位分支网络，确定所述无人车的当前位姿。
本说明书实施例还提供了一种计算机可读存储介质，该存储介质存储有计算机程序，计算机程序可用于执行上述图1提供的模型训练方法或上述图7提供的视觉定位方法。
基于图1所示的模型训练方法，本说明书实施例还提出了图10所示的电子设备的示意结构图。如图10，在硬件层面，该电子设备包括处理器、内部总线、网络接口、内存以及非易失性存储器，当然还可能包括其他业务所需要的硬件。处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行，以实现上述图1所示的模型训练方法。
基于图7所示的视觉定位方法，本说明书实施例还提出了图11所示的无人车的示意结构图。如图11，在硬件层面，该无人车包括处理器、内部总线、网络接口、内存以及非易失性存储器，处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行，以实现上述视觉定位方法中的任一个。当然，该无人车中还可包括实现无人车其他功能所需要的硬件。例如，无人车移动所需的移动装置、进行通信所需的通信装置、采集周围环境信息的电子设备等等。
当然，除了软件实现方式之外，本说明书并不排除其他实现方式，比如逻辑器件抑或软硬件结合的方式等等，也就是说以下处理流程的执行主体并不限定于各个逻辑单元，也可以是硬件或逻辑器件。
在20世纪90年代，对于一个技术的改进可以很明显地区分是硬件上的改进(例如，对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而，随着技术的发展，当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此，不能说一个方法流程的改进就不能用硬件实体模块来实现。例如，可编程逻辑器件(programmablelogicdevice,pld)(例如现场可编程门阵列(fieldprogrammablegatearray，fpga))就是这样一种集成电路，其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片pld上，而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且，如今，取代手工地制作集成电路芯片，这种编程也多半改用“逻辑编译器(logiccompiler)”软件来实现，它与程序开发撰写时所用的软件编译器相类似，而要编译之前的原始代码也得用特定的编程语言来撰写，此称之为硬件描述语言(hardwaredescriptionlanguage，hdl)，而hdl也并非仅有一种，而是有许多种，如abel(advancedbooleanexpressionlanguage)、ahdl(alterahardwaredescriptionlanguage)、confluence、cupl(cornelluniversityprogramminglanguage)、hdcal、jhdl(javahardwaredescriptionlanguage)、lava、lola、myhdl、palasm、rhdl(rubyhardwaredescriptionlanguage)等，目前最普遍使用的是vhdl(very-high-speedintegratedcircuithardwaredescriptionlanguage)与verilog。本领域技术人员也应该清楚，只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中，就可以很容易得到实现该逻辑方法流程的硬件电路。
控制器可以按任何适当的方式实现，例如，控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(applicationspecificintegratedcircuit，asic)、可编程逻辑控制器和嵌入微控制器的形式，控制器的例子包括但不限于以下微控制器：arc625d、atmelat91sam、microchippic18f26k20以及siliconelabsc8051f320，存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道，除了以纯计算机可读程序代码方式实现控制器以外，完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件，而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至，可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
上述实施例阐明的系统、装置、模块或单元，具体可以由计算机芯片或实体实现，或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的，计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便，描述以上装置时以功能分为各种单元分别描述。当然，在实施本说明书时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、cd-rom、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中，计算设备包括一个或多个处理器(cpu)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(ram)和/或非易失性内存等形式，如只读存储器(rom)或闪存(flashram)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(pram)、静态随机存取存储器(sram)、动态随机存取存储器(dram)、其他类型的随机存取存储器(ram)、只读存储器(rom)、电可擦除可编程只读存储器(eeprom)、快闪记忆体或其他内存技术、只读光盘只读存储器(cd-rom)、数字多功能光盘(dvd)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitorymedia)，如调制的数据信号和载波。
还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白，本说明书的实施例可提供为方法、系统或计算机程序产品。因此，本说明书可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、cd-rom、光学存储器等)上实施的计算机程序产品的形式。
本说明书可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于系统实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
以上所述仅为本说明书的实施例而已，并不用于限制本说明书。对于本领域技术人员来说，本说明书可以有各种更改和变化。凡在本说明书的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本说明书的权利要求范围之内。