轨迹表示模型训练方法、电子设备及计算机可读介质与流程

本技术涉及数据处理，具体地，涉及一种轨迹表示模型训练方法、一种电子设备及一种计算机可读介质。

背景技术：

1、随着时空数据的积累，轨迹预测、轨迹相似度计算以及旅行时间估计等轨迹数据挖掘任务逐渐成为研究热点，主要服务于人类出行、交通管理、城市运营等领域。然而传统的轨迹数据分析研究仍旧处于碎片化状态，需要针对不同的轨迹数据挖掘任务进行特定的特征工程以及构建独特的模型，耗时较长、成本较高且难以迁移复用到不同的应用中。轨迹表示学习(trajectory representation learning，trl)因此逐步受到重视，其目的是将原始轨迹数据转换为通用的低秩表示向量，以应用于各种下游任务。

2、然而，相关的轨迹表示学习中，轨迹表示往往缺乏全面性和鲁棒性。

技术实现思路

1、本技术旨在一定程度上解决相关技术中的技术问题之一。为此，本技术提供了一种轨迹表示模型训练方法、一种电子设备及一种计算机可读介质。

2、作为本技术的第一个方面，提供一种轨迹表示模型训练方法，其中，所述轨迹表示模型包括轨迹表示模块和预训练任务模块，所述方法包括：

3、基于所述轨迹表示模块，根据原始轨迹序列数据确定轨迹表示向量矩阵；其中，所述原始轨迹序列数据包括至少一个用户的多个轨迹点，每个用户的每个所述轨迹点均包括该用户途经的道路及对应的开始途经时间、持续途经时间；

4、基于所述预训练任务模块，根据所述轨迹表示向量矩阵确定位置预测结果和时间预测结果；

5、根据所述位置预测结果与所述原始轨迹序列数据中相应的实际位置之间的位置损失函数，以及所述时间预测结果与所述原始轨迹序列数据中相应的实际时间之间的时间损失函数，优化所述轨迹表示模型的参数。

6、可选地，所述轨迹表示模块包括级联的时空嵌入层和转换器解码器子模块；所述基于所述轨迹表示模块，根据原始轨迹序列数据确定轨迹表示向量矩阵，包括：

7、基于所述时空嵌入层，根据所述原始轨迹序列数据进行空间特征嵌入处理和时间特征嵌入处理，以得到轨迹嵌入向量矩阵；

8、基于所述转换器解码器子模块，根据所述轨迹嵌入向量矩阵确定所述轨迹表示向量矩阵。

9、可选地，所述转换器解码器子模块包括级联的位置编码单元和解码器单元，所述基于所述转换器解码器子模块，根据所述轨迹嵌入向量矩阵确定所述轨迹表示向量矩阵，包括：

10、基于所述位置编码单元，根据轨迹嵌入向量对应到所述原始轨迹序列数据中的位置信息，对所述轨迹嵌入向量进行位置编码，得到轨迹编码向量矩阵；

11、基于所述解码器单元，根据所述轨迹编码向量矩阵确定所述轨迹表示向量矩阵。

12、可选地，所述解码器单元包括级联的填充指数、第一归一化子层以及多层级联的转换器解码器；所述根据所述轨迹编码向量矩阵确定所述轨迹表示向量矩阵包括：

13、根据所述填充指数，对所述轨迹编码向量矩阵进行填充处理；

14、基于所述第一归一化子层，对填充处理后的所述轨迹编码向量矩阵进行层归一化处理；

15、基于所述多层级联的转换器解码器，根据层归一化处理后的所述轨迹编码向量矩阵确定所述轨迹表示向量矩阵。

16、可选地，所述转换器解码器包括自注意力子层和前馈神经网络子单元；所述基于所述多层级联的转换器解码器，根据层归一化处理后的所述轨迹编码向量矩阵确定所述轨迹表示向量矩阵，包括：

17、在第一层转换器解码器上，基于所述自注意力子层，对层归一化处理后的所述轨迹编码向量矩阵进行计算，得到多头自注意力输出矩阵；

18、基于所述前馈神经网络子单元，根据所述多头自注意力输出矩阵确定第一层转换器解码器输出矩阵；

19、将所述第一层转换器解码器输出矩阵传递给第二层转换器解码器，以供所述第二层转换器解码器根据所述第一层转换器解码器输出矩阵确定第二层转换器解码器输出矩阵；其中，所述轨迹表示向量矩阵为最后一层转换器解码器输出矩阵。

20、可选地，所述前馈神经网络子单元包括级联的第一残差连接子层、第二归一化子层、两个前馈神经网络子层、gelu激活函数、随机失活子层和第二残差连接子层；所述基于所述前馈神经网络子单元，根据所述多头自注意力输出矩阵确定第一层转换器解码器输出矩阵，包括：

21、基于所述第一残差连接子层和第二归一化子层，对所述多头自注意力输出矩阵进行残差连接和层归一化处理，得到前馈神经网络输入矩阵；

22、基于所述两个前馈神经网络子层、gelu激活函数、随机失活子层和第二残差连接子层，根据所述前馈神经网络输入矩阵，确定第一层转换器解码器输出矩阵。

23、可选地，所述预训练任务模块包括级联的两个线性层和一个归一化指数函数层；所述基于所述预训练任务模块，根据所述轨迹表示向量矩阵确定位置预测结果，包括：

24、基于所述两个线性层和一个归一化指数函数层，确定每一所述轨迹表示向量对应的位置预测输出，以获得所述位置预测结果。

25、可选地，所述位置损失函数为交叉熵损失函数。

26、可选地，所述预训练任务模块还包括级联的两个线性层；所述基于所述预训练任务模块，根据所述轨迹表示向量矩阵确定时间预测结果，包括：

27、基于所述两个线性层，确定每一所述轨迹表示向量对应的时间预测输出，以获得所述时间预测结果。

28、可选地，所述时间损失函数为平均绝对误差损失函数。

29、作为本技术的第二个方面，提供一种电子设备，其特征在于，所述节点设备包括：

30、一个或多个处理器；

31、存储器，其上存储有一个或多个计算机程序，当所述一个或多个计算机程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现本技术第一个方面所述的轨迹表示模型训练方法。

32、作为本技术的第三个方面，提供一种计算机可读介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现本技术第一个方面所述的轨迹表示模型训练方法。

33、在本技术实施例提供的轨迹表示模型训练方法中，所述轨迹表示模型包括轨迹表示模块和预训练任务模块，原始轨迹序列数据包括至少一个用户的多个轨迹点，每个用户的每个所述轨迹点均包括该用户途经的道路及对应的开始途经时间、持续途经时间，基于所述轨迹表示模块根据原始轨迹序列数据确定轨迹表示向量矩阵之后，通过在预训练任务模块上根据所述轨迹表示向量矩阵确定位置预测结果和时间预测结果，根据所述位置预测结果与所述原始轨迹序列数据中相应的实际位置之间的位置损失函数，以及所述时间预测结果与所述原始轨迹序列数据中相应的实际时间之间的时间损失函数，优化所述轨迹表示模型的参数，不仅充分学习了原始轨迹序列数据的空间特征，而且充分学习了原始轨迹序列数据的时间特征，从而使得轨迹表示模型能够学习到更鲁棒和更全面的轨迹表征，进而提升了轨迹表示模型的准确性和效率。与此同时，轨迹表示模型可以应用于各种类型的下游任务例如位置预测、行程时间预测、轨迹修复等等，从而降低了轨迹表示模型的移植和开发成本。