模型训练方法、信息生成方法、装置、设备、介质和产品与流程

文档序号:36734117发布日期:2024-01-16 12:47阅读:20来源:国知局
模型训练方法、信息生成方法、装置、设备、介质和产品与流程

本公开的实施例涉及计算机,具体涉及模型训练方法、信息生成方法、装置、设备、介质和产品。


背景技术:

1、物品图数据是记录物品和其他物品之间关联关系的图谱。通过物品图数据,可以提供更多的物品相关特征,以用于物品相关任务模型的训练。目前,在对物品相关任务模型进行训练时,通常采用的方式为:使用固定温度系数的神经网络蒸馏方法,或独立考虑图数据中每个节点在教师模型和学生模型中生成的输出向量确定温度系数。

2、然而,发明人发现,当采用上述方式对物品相关任务模型进行训练时,经常会存在如下技术问题:相比采用动态温度系数的神经网络蒸馏方法,采用固定温度系数方式训练得到的物品相关任务模型的准确率较低,确定温度系数时独立考虑图数据中每个节点在教师模型和学生模型中生成的输出向量,导致相邻节点之间的温度系数差异较大,造成训练得到的物品相关任务模型的准确率较低。

3、该背景技术部分中所公开的以上信息仅用于增强对本发明构思的背景的理解,并因此,其可包含并不形成本国的本领域普通技术人员已知的现有技术的信息。


技术实现思路

1、本公开的内容部分用于以简要的形式介绍构思,这些构思将在后面的具体实施方式部分被详细描述。本公开的内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征,也不旨在用于限制所要求的保护的技术方案的范围。

2、本公开的一些实施例提出了信息生成模型训练方法、信息生成方法、装置、电子设备、计算机可读介质和计算机程序产品,来解决以上背景技术部分提到的技术问题中的一项或多项。

3、第一方面,本公开的一些实施例提供了一种信息生成模型训练方法,该方法包括:根据获取的物品图数据,对第一初始物品信息生成模型进行训练,得到第一物品信息生成模型,其中,上述第一物品信息生成模型对应有与各个物品节点对应的各个第一预测分向量,上述各个物品节点对应上述物品图数据;基于物品图数据,执行以下训练步骤:对于物品图数据对应的至少一个物品节点中的每个物品节点,根据物品图数据中上述物品节点对应的物品节点数据和第二初始物品信息生成模型,生成对应上述物品节点的初始温度系数,其中,第二初始物品信息生成模型为图神经网络模型;对于上述至少一个物品节点中的每个物品节点,根据对应上述物品节点的各个邻接物品节点的初始温度系数和上述物品节点的初始温度系数,生成对应上述物品节点的温度系数;根据上述各个第一预测分向量、对应上述至少一个物品节点的各个温度系数、第二初始物品信息生成模型对应上述至少一个物品节点的各个第二预测分向量,生成损失值;响应于确定第二初始物品信息生成模型未达到收敛条件,根据上述损失值,调整第二初始物品信息生成模型的网络参数,以及使用未使用过的物品节点的节点数据组成物品图数据,使用调整后的第二初始物品信息生成模型作为第二初始物品信息生成模型,再次执行上述训练步骤。

4、可选地,上述训练步骤还包括:响应于确定第二初始物品信息生成模型达到收敛条件,将第二初始物品信息生成模型确定为训练完成的物品信息生成模型。

5、可选地,上述根据物品图数据中上述物品节点对应的物品节点数据和第二初始物品信息生成模型,生成对应上述物品节点的初始温度系数,包括:响应于确定上述物品节点满足预设条件,将上述物品节点的初始温度系数确定为对应预设温度系数范围的最大预设温度系数,其中,上述预设条件为物品节点对应有标签信息,且上述第一物品信息生成模型对应上述物品节点的预测标签信息满足预设错误条件。

6、可选地,上述根据物品图数据中上述物品节点对应的物品节点数据和第二初始物品信息生成模型,生成对应上述物品节点的初始温度系数,还包括:响应于确定上述物品节点不满足上述预设条件,将上述物品节点数据输入至第二初始物品信息生成模型,得到第二预测分向量;确定上述第二预测分向量中的最大值;根据上述最大值和上述预设温度系数范围,生成对应上述物品节点的初始温度系数。

7、可选地,上述根据对应上述物品节点的各个邻接物品节点的初始温度系数和上述物品节点的初始温度系数,生成对应上述物品节点的温度系数,包括:将上述各个邻接物品节点的初始温度系数的平均值确定为平均初始温度系数;根据上述平均初始温度系数、上述物品节点的初始温度系数和超参数,生成对应上述物品节点的温度系数。

8、可选地,上述根据上述各个第一预测分向量、对应上述至少一个物品节点的各个温度系数、第二初始物品信息生成模型对应上述至少一个物品节点的各个第二预测分向量,生成损失值,包括:对于上述至少一个物品节点中的每个物品节点,执行以下步骤:响应于确定上述物品节点对应有标签信息,根据上述标签信息和对应上述物品节点的第二预测分向量,生成监督损失值;根据对应上述物品节点的温度系数、第一预测分向量和第二预测分向量,生成蒸馏损失值;根据上述监督损失值和上述蒸馏损失值,生成对应上述物品节点的物品节点损失值;将所生成的各个物品节点损失值的和确定为损失值。

9、可选地,方法还包括:对上述物品信息生成模型进行上线处理。

10、第二方面,本公开的一些实施例提供了一种信息生成模型训练装置,装置包括:第一训练单元,被配置成根据获取的物品图数据,对第一初始物品信息生成模型进行训练,得到第一物品信息生成模型,其中,上述第一物品信息生成模型对应有与各个物品节点对应的各个第一预测分向量,上述各个物品节点对应上述物品图数据;第二训练单元,被配置成基于物品图数据,执行以下训练步骤:对于物品图数据对应的至少一个物品节点中的每个物品节点,根据物品图数据中上述物品节点对应的物品节点数据和第二初始物品信息生成模型,生成对应上述物品节点的初始温度系数,其中,第二初始物品信息生成模型为图神经网络模型;对于上述至少一个物品节点中的每个物品节点,根据对应上述物品节点的各个邻接物品节点的初始温度系数和上述物品节点的初始温度系数,生成对应上述物品节点的温度系数;根据上述各个第一预测分向量、对应上述至少一个物品节点的各个温度系数、第二初始物品信息生成模型对应上述至少一个物品节点的各个第二预测分向量,生成损失值;响应于确定第二初始物品信息生成模型未达到收敛条件,根据上述损失值,调整第二初始物品信息生成模型的网络参数,以及使用未使用过的物品节点的节点数据组成物品图数据,使用调整后的第二初始物品信息生成模型作为第二初始物品信息生成模型,再次执行上述训练步骤。

11、可选地,上述训练步骤还包括:响应于确定第二初始物品信息生成模型达到收敛条件,将第二初始物品信息生成模型确定为训练完成的物品信息生成模型。

12、可选地,第二训练单元进一步被配置成:响应于确定上述物品节点满足预设条件,将上述物品节点的初始温度系数确定为对应预设温度系数范围的最大预设温度系数,其中,上述预设条件为物品节点对应有标签信息,且上述第一物品信息生成模型对应上述物品节点的预测标签信息满足预设错误条件。

13、可选地,第二训练单元进一步被配置成:响应于确定上述物品节点不满足上述预设条件,将上述物品节点数据输入至第二初始物品信息生成模型,得到第二预测分向量;确定上述第二预测分向量中的最大值;根据上述最大值和上述预设温度系数范围,生成对应上述物品节点的初始温度系数。

14、可选地,第二训练单元进一步被配置成:将上述各个邻接物品节点的初始温度系数的平均值确定为平均初始温度系数;根据上述平均初始温度系数、上述物品节点的初始温度系数和超参数,生成对应上述物品节点的温度系数。

15、可选地,第二训练单元进一步被配置成:对于上述至少一个物品节点中的每个物品节点,执行以下步骤:响应于确定上述物品节点对应有标签信息,根据上述标签信息和对应上述物品节点的第二预测分向量,生成监督损失值;根据对应上述物品节点的温度系数、第一预测分向量和第二预测分向量,生成蒸馏损失值;根据上述监督损失值和上述蒸馏损失值,生成对应上述物品节点的物品节点损失值;将所生成的各个物品节点损失值的和确定为损失值。

16、可选地,信息生成模型训练装置还包括:上线处理单元,被配置成对上述物品信息生成模型进行上线处理。

17、第三方面,本公开的一些实施例提供了一种信息生成方法,该方法包括:获取待分类的物品图数据;将上述物品图数据输入至预先训练好的物品类别信息生成模型,得到对应各个物品节点的各个物品类别信息,其中,上述物品类别信息生成模型为物品信息生成模型,是通过上述第一方面任一实现方式所描述的方法训练的。

18、可选地,上述各个物品类别信息中的物品类别信息包括物品标识和物品类别;以及方法还包括:对于上述各个物品节点中的每个物品节点,执行以下步骤:将对应上述物品节点的物品类别信息确定为目标物品类别信息;获取对应上述目标物品类别信息包括的物品类别的仓库存放位置信息;控制相关联的物品调度设备将对应上述目标物品类别信息包括的物品标识的各个物品调度至上述仓库存放位置信息对应的位置。

19、第四方面,本公开的一些实施例提供了一种信息生成装置,装置包括:获取单元,被配置成获取待分类的物品图数据;输入单元,被配置成将上述物品图数据输入至预先训练好的物品类别信息生成模型,得到对应各个物品节点的各个物品类别信息,其中,上述物品类别信息生成模型为物品信息生成模型,是通过上述第一方面任一实现方式所描述的方法训练的。

20、可选地,上述各个物品类别信息中的物品类别信息包括物品标识和物品类别。

21、可选地,信息生成装置还包括:执行单元,被配置成对于上述各个物品节点中的每个物品节点,执行以下步骤:将对应上述物品节点的物品类别信息确定为目标物品类别信息;获取对应上述目标物品类别信息包括的物品类别的仓库存放位置信息;控制相关联的物品调度设备将对应上述目标物品类别信息包括的物品标识的各个物品调度至上述仓库存放位置信息对应的位置。

22、第五方面,本公开的一些实施例提供了一种电子设备,包括:一个或多个处理器;存储装置,其上存储有一个或多个程序,当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现上述第一方面或第三方面任一实现方式所描述的方法。

23、第六方面,本公开的一些实施例提供了一种计算机可读介质,其上存储有计算机程序,其中,程序被处理器执行时实现上述第一方面或第三方面任一实现方式所描述的方法。

24、第七方面,本公开的一些实施例提供了一种计算机程序产品,包括计算机程序,计算机程序在被处理器执行时实现上述第一方面或第三方面任一实现方式所描述的方法。

25、本公开的上述各个实施例具有如下有益效果:通过本公开的一些实施例的信息生成模型训练方法得到的物品信息生成模型,物品信息生成模型生成的物品信息的准确性有所提高。具体来说,造成训练得到的物品相关任务模型的准确率较低的原因在于:相比采用动态温度系数的神经网络蒸馏方法,采用固定温度系数方式训练得到的物品相关任务模型的准确率较低,确定温度系数时独立考虑图数据中每个节点在教师模型和学生模型中生成的输出向量,导致相邻节点之间的温度系数差异较大,造成训练得到的物品相关任务模型的准确率较低。基于此,本公开的一些实施例的信息生成模型训练方法,首先,根据获取的物品图数据,对第一初始物品信息生成模型进行训练,得到第一物品信息生成模型。其中,上述第一物品信息生成模型对应有与各个物品节点对应的各个第一预测分向量。上述各个物品节点对应上述物品图数据。由此,训练得到的第一物品信息生成模型可以作为教师模型指导第二初始物品信息生成模型的训练。然后,基于物品图数据,执行以下训练步骤:第一步,对于物品图数据对应的至少一个物品节点中的每个物品节点,根据物品图数据中上述物品节点对应的物品节点数据和第二初始物品信息生成模型,生成对应上述物品节点的初始温度系数。其中,第二初始物品信息生成模型为图神经网络模型。由此,可以在一批次训练时,预先生成每个节点的初始温度系数。第二步,对于上述至少一个物品节点中的每个物品节点,根据对应上述物品节点的各个邻接物品节点的初始温度系数和上述物品节点的初始温度系数,生成对应上述物品节点的温度系数。由此,可以利用一物品节点的邻接物品节点的各个初始温度系数,对该物品节点的初始温度系数进行调整,以确定该物品节点的温度系数。第三步,根据上述各个第一预测分向量、对应上述至少一个物品节点的各个温度系数、第二初始物品信息生成模型对应上述至少一个物品节点的各个第二预测分向量,生成损失值。由此,可以利用第一物品信息生成模型对应各个物品节点的各个第一预测分向量,以及第二初始物品信息生成模型对应各个物品节点的各个第二预测分向量和各个温度系数,综合确定第二初始物品信息生成模型的损失值。第四步,响应于确定第二初始物品信息生成模型未达到收敛条件,根据上述损失值,调整第二初始物品信息生成模型的网络参数,以及使用未使用过的物品节点的节点数据组成物品图数据,使用调整后的第二初始物品信息生成模型作为第二初始物品信息生成模型,再次执行上述训练步骤。由此,可以在第二初始物品信息生成模型未训练完成时,利用第二初始物品信息生成模型的损失值,对第二初始物品信息生成模型进行调整,以供继续训练第二初始物品信息生成模型。也因为每批次训练第二初始物品信息生成模型时,各个物品节点温度系数都是重新确定的,且一个物品节点的温度系数是综合了与其邻接的各个邻接物品节点的初始温度系数确定的,可以动态地确定每个物品节点的温度系数,且可以减少相邻物品节点之间温度系数的差异。从而提高了物品信息生成模型的准确性和物品信息生成模型所生成的物品信息的准确性。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1