一种联合训练方法、装置、设备及介质与流程

本申请涉及模型训练，尤其涉及一种联合训练方法、装置、设备及介质。

背景技术：

1、现有的多模态多任务学习，默认由一个参与方完成数据的搜集清洗，模型训练及服务。该方式可以有效在数据中心化的场景下应用，但是对于数据分散在不同企业的情况，因为数据安全及数据主权的问题，数据将无法出域故而无法交由一个参与方完成数据的清洗及模型的训练服务，使得训练出的模型的学习、识别等能力较差。

技术实现思路

1、本申请实施例提供了一种联合训练方法、装置、设备及介质，用以解决相关技术中在数据不出域的情况下，模型的学习、识别等能力较差的问题。

2、第一方面，本申请实施例提供了一种联合训练方法，所述方法包括：

3、接收每个参与方设备发送的在参与方设备上训练完成的模型的每个参数的参数值；

4、针对每个参数，根据所述每个参与方设备发送的该参数的参数值，确定目标参数值；

5、将每个参数及对应的目标参数值发送至所述每个参与方设备，以使所述每个参与方设备采用接收到的目标参数值替换参与方设备上训练完成的模型的参数的参数值。

6、进一步地，所述根据所述每个参与方设备发送的该参数的参数值，确定目标参数值包括：

7、将所述每个参与方设备发送的该参数的参数值的平均值确定为目标参数值。

8、进一步地，所述根据所述每个参与方设备发送的该参数的参数值，确定目标参数值包括：

9、将所述每个参与方设备发送的该参数的参数值的中位数确定为目标参数值。

10、进一步地，所述根据所述每个参与方设备发送的该参数的参数值，确定目标参数值包括：

11、识别所述每个参与方设备发送的该参数的参数值中的最大参数值及最小参数值，确定获取到的每个参数值中除最大参数值及最小参数值外的其他参数值的平均值，将所述平均值确定为目标参数值。

12、进一步地，接收每个参与方设备发送的在参与方设备上训练完成的模型的每个参数的参数值之后，所述针对每个参数，根据所述每个参与方设备发送的该参数的参数值，确定目标参数值之前，所述方法还包括：

13、针对每个参数，获取针对该参数保存的参数值范围，过滤位于所述参数值范围外的参数值，针对过滤后的每个参数值，执行后续针对每个参数，根据所述每个参与方设备发送的该参数的参数值，确定目标参数值的步骤。

14、第二方面，本申请实施例还提供了一种联合训练装置，所述装置包括：

15、接收模块，用于接收每个参与方设备发送的在参与方设备上训练完成的模型的每个参数的参数值；

16、处理模块，用于针对每个参数，根据所述每个参与方设备发送的该参数的参数值，确定目标参数值；

17、发送模块，用于将每个参数及对应的目标参数值发送至所述每个参与方设备，以使所述每个参与方设备采用接收到的目标参数值替换参与方设备上训练完成的模型的参数的参数值。

18、进一步地，所述处理模块，具体用于将所述每个参与方设备发送的该参数的参数值的平均值确定为目标参数值。

19、进一步地，所述处理模块，具体用于将所述每个参与方设备发送的该参数的参数值的中位数确定为目标参数值。

20、进一步地，所述处理模块，具体用于识别所述每个参与方设备发送的该参数的参数值中的最大参数值及最小参数值，确定获取到的每个参数值中除最大参数值及最小参数值外的其他参数值的平均值，将所述平均值确定为目标参数值。

21、进一步地，所述处理模块，还用于针对每个参数，获取针对该参数保存的参数值范围，过滤位于所述参数值范围外的参数值，针对过滤后的每个参数值，执行后续针对每个参数，根据所述每个参与方设备发送的该参数的参数值，确定目标参数值的步骤。

22、第三方面，本申请实施例还提供了一种电子设备，所述电子设备至少包括处理器和存储器，所述处理器用于执行存储器中存储的计算机程序时实现如上述任一项所述联合训练方法的步骤。

23、第四方面，本申请实施例还提供了一种计算机可读存储介质，其存储有计算机程序，所述计算机程序被处理器执行时实现如上述任一项所述联合训练方法的步骤。

24、在本申请实施例中，电子设备接收每个参与方设备发送的在参与方设备上训练完成的模型的每个参数的参数值；针对每个参数，根据每个参与方设备发送的该参数的参数值，确定目标参数值；将每个参数及对应的目标参数值发送至每个参与方设备，以使每个参与方设备采用接收到的目标参数值替换参与方设备上训练完成的模型的参数的参数值。由于在本申请实施例中，由电子设备根据每个参与方设备训练完成的模型的参数的参数值，确定目标参数值，并将目标参数值发送至每个参与方设备，从而实现联合训练，进而可以在数据不出域的情况下，基于数据准确有效地完成模型的训练。

技术特征：

1.一种联合训练方法，其特征在于，所述方法包括：

2.根据权利要求1所述的方法，其特征在于，所述根据所述每个参与方设备发送的该参数的参数值，确定目标参数值包括：

3.根据权利要求1所述的方法，其特征在于，所述根据所述每个参与方设备发送的该参数的参数值，确定目标参数值包括：

4.根据权利要求1所述的方法，其特征在于，所述根据所述每个参与方设备发送的该参数的参数值，确定目标参数值包括：

5.根据权利要求1所述的方法，其特征在于，接收每个参与方设备发送的在参与方设备上训练完成的模型的每个参数的参数值之后，所述针对每个参数，根据所述每个参与方设备发送的该参数的参数值，确定目标参数值之前，所述方法还包括：

6.一种联合训练装置，其特征在于，所述装置包括：

7.根据权利要求6所述的装置，其特征在于，所述处理模块，具体用于将所述每个参与方设备发送的该参数的参数值的平均值确定为目标参数值。

8.根据权利要求6所述的装置，其特征在于，所述处理模块，具体用于将所述每个参与方设备发送的该参数的参数值的中位数确定为目标参数值。

9.一种电子设备，其特征在于，所述电子设备至少包括处理器和存储器，所述处理器用于执行存储器中存储的计算机程序时实现如上述权利要求1-5任一项所述联合训练方法的步骤。

10.一种计算机可读存储介质，其特征在于，其存储有计算机程序，所述计算机程序被处理器执行时实现如上述权利要求1-5任一项所述联合训练方法的步骤。

技术总结
本申请实施例提供了一种联合训练方法、装置、设备及介质，用以解决相关技术中在数据不出域的情况下，模型的学习、识别等能力较差的问题。由于在本申请实施例中，由电子设备根据每个参与方设备训练完成的模型的参数的参数值，确定目标参数值，并将目标参数值发送至每个参与方设备，从而实现联合训练，进而可以在数据不出域的情况下，基于数据准确有效地完成模型的训练。

技术研发人员：史超,李同治,刘辉,王莹
受保护的技术使用者：新奥新智科技有限公司
技术研发日：
技术公布日：2024/2/21