针对标签推理攻击的联邦学习模型训练方法

本说明书实施例涉及人工智能，特别涉及一种针对标签推理攻击的联邦学习模型训练方法。

背景技术：

1、随着深度学习的发展，使用深度学习模型被广泛应用于语音识别，计算机视觉，推荐系统等领域。同时深度学习模型需要大量的数据进行训练，但是两个不同的公司之间往往这不会提供各自数据给其他公司做模型的训练，导致数据也往往以孤岛形式出现。

2、基于以上数据孤岛，以及隐私保护问题，拆分学习应运而生。但是现在的拆分学习算法在梯度压缩后仍然可能被恶意攻击者通过梯度反推出其他参与者的训练集，并且，目前大多通过在上传的梯度中添加噪声解决梯度攻击问题会导致模型训练效率降低。所以，需要一种在保护数据安全的前提下提高模型训练效率的拆分学习标签推断攻击防御方法。

技术实现思路

1、有鉴于此，本说明书一个或者多个实施例提供了一种应用于联邦学习模型中第二子模型的针对标签推理攻击的联邦学习模型训练方法、一种针对标签推理攻击的联邦学习模型训练方法、一种目标业务处理方法。本说明书一个或者多个实施例同时涉及一种应用于联邦学习模型中第二子模型的针对标签推理攻击的联邦学习模型训练装置，一种计算设备，一种计算机可读存储介质以及一种计算机程序，以解决现有技术中存在的技术缺陷。

2、根据本说明书实施例的第一方面，提供了一种应用于联邦学习模型中第二子模型的针对标签推理攻击的联邦学习模型训练方法，包括：

3、接收所述第一子模型发送的中间特征数据，并基于所述中间特征数据生成预测标签特征数据，其中，所述中间特征数据基于目标业务样本数据生成；

4、获取所述目标业务样本数据对应的原始标签，并根据所述原始标签获取与原始标签对应的原始标签特征数据；

5、基于所述原始标签特征数据生成标签扩展特征数据，其中，所述标签扩展特征数据的维度大于等于所述中间特征数据的维度；

6、基于所述标签扩展特征数据和所述预测标签特征数据计算梯度；

7、根据所述梯度调整所述第二子模型的模型参数，并将所述梯度发送至所述第一子模型，以使所述第一子模型调整模型参数；

8、继续训练所述联邦学习模型，直至达到模型训练停止条件。

9、根据本说明书实施例的第二方面，提供了一种针对标签推理攻击的联邦学习模型训练方法，所述联邦学习模型包括第一子模型和第二子模型，该方法包括：

10、所述第一子模型，根据目标业务样本数据生成中间特征数据，并将所述中间特征数据发送至第二子模型；

11、所述第二子模型，接收所述第一子模型发送的中间特征数据，并基于所述中间特征数据生成预测标签特征数据，其中，所述中间特征数据基于目标业务样本数据生成；获取所述目标业务样本数据对应的原始标签，并根据所述原始标签获取与原始标签对应的原始标签特征数据；基于所述原始标签特征数据生成标签扩展特征数据，其中，所述标签扩展特征数据的维度大于等于所述中间特征数据的维度；基于所述标签扩展特征数据和所述预测标签特征数据计算梯度；根据所述梯度调整所述第二子模型的模型参数，并将所述梯度发送至所述第一子模型，以使所述第一子模型调整模型参数；

12、所述第一子模型，接收所述梯度，并根据所述梯度调整所述第一子模型的模型参数；

13、所述第二子模型和所述第一子模型，继续训练所述联邦学习模型训练方法，直至达到模型训练停止条件。

14、根据本说明书实施例的第三方面，提供了一种目标业务处理方法，所述目标业务处理方法包括联邦学习模型，所述联邦学习模型通过上述实施例的第一方面所提供的应用于联邦学习模型中第二子模型的针对标签推理攻击的联邦学习模型训练方法训练获得，所述联邦学习模型包括第一子模型和第二子模型，所述方法包括：

15、所述第一子模型，接收目标业务数据，并基于所述目标业务数据生成目标业务数据中间特征信息，将所述目标业务数据中间特征信息发送至所述第二子模型；

16、所述第二子模型，根据所述目标业务中间数据特征信息，获取与所述目标业务数据对应的目标业务数据预测特征信息；基于预设替换位置从所述目标业务数据预测特征信息中确认目标业务标签特征信息；根据所述目标业务标签特征信息生成与所述目标业务数据对应的目标业务处理结果。

17、根据本说明书实施例的第四方面，提供了一种应用于联邦学习模型中第二子模型的针对标签推理攻击的联邦学习模型训练装置，包括：

18、预测模块，被配置为接收所述第一子模型发送的中间特征数据，并基于所述中间特征数据生成预测标签特征数据，其中，所述中间特征数据基于目标业务样本数据生成；

19、原始特征生成模块，被配置为获取所述目标业务样本数据对应的原始标签，并根据所述原始标签获取与原始标签对应的原始标签特征数据；

20、扩展特征生成模块，被配置为基于所述原始标签特征数据生成标签扩展特征数据，其中，所述标签扩展特征数据的维度大于等于所述中间特征数据的维度；

21、梯度计算模块，被配置为基于所述标签扩展特征数据和所述预测标签特征数据计算梯度；

22、梯度使用模块，被配置为根据所述梯度调整所述第二子模型的模型参数，并将所述梯度发送至所述第一子模型，以使所述第一子模型调整模型参数；

23、结束模块，被配置为继续训练所述联邦学习模型，直至达到模型训练停止条件。

24、根据本说明书实施例的第五方面，提供了一种计算设备，包括：

25、存储器和处理器；

26、所述存储器用于存储计算机可执行指令，所述处理器用于执行所述计算机可执行指令，该计算机可执行指令被处理器执行时实现上述应用于联邦学习模型中第二子模型的针对标签推理攻击的联邦学习模型训练方法的步骤。

27、根据本说明书实施例的第六方面，提供了一种计算机可读存储介质，其存储有计算机可执行指令，该指令被处理器执行时实现上述应用于联邦学习模型中第二子模型的针对标签推理攻击的联邦学习模型训练方法的步骤。

28、根据本说明书实施例的第七方面，提供了一种计算机程序，其中，当所述计算机程序在计算机中执行时，令计算机执行上述应用于联邦学习模型中第二子模型的针对标签推理攻击的联邦学习模型训练方法的步骤。

29、本说明书一个实施例提供的应用于联邦学习模型中第二子模型的针对标签推理攻击的联邦学习模型训练方法，了接收所述第一子模型发送的中间特征数据，并基于所述中间特征数据生成预测标签特征数据，其中，所述中间特征数据基于目标业务样本数据生成；获取所述目标业务样本数据对应的原始标签，并根据所述原始标签获取与原始标签对应的原始标签特征数据；基于所述原始标签特征数据生成标签扩展特征数据，其中，所述标签扩展特征数据的维度大于等于所述中间特征数据的维度；基于所述标签扩展特征数据和所述预测标签特征数据计算梯度；根据所述梯度调整所述第二子模型的模型参数，并将所述梯度发送至所述第一子模型，以使所述第一子模型调整模型参数；继续训练所述联邦学习模型，直至达到模型训练停止条件。

30、根据本说明书实施例提供的方法，通过相较于原始标签特征数据维度更大的标签扩展特征数据，可以有效的对标签推断攻击进行防御，进而保证了标签数据的安全性，并且由于仅使用与原始标签特征数据对应的标签扩展特征数据与模型的预测特征数据计算梯度，可以避免由于在标签中直接添加干扰项而导致的模型训练效率降低的问题，从而可以在保护数据安全的前提下提高模型训练效率。