针对联邦推荐系统的梯度攻击方法及装置

本说明书实施例涉及隐私计算，特别涉及一种针对联邦推荐系统的梯度攻击方法。

背景技术：

1、随着互联网和人工智能的发展，机器学习在很多领域都有所应用，例如风险评估、语音识别、自然语言处理等领域。然而，近年来隐私泄露带来的安全问题，使得人们越发地关注自身的隐私安全。在此背景下，联邦学习应运而生。联邦学习是一种分布式学习模式，客户端的训练数据不会上传到服务器中，而是会在本地进行训练，最后上传梯度或参数至服务器，协助服务器完成模型的训练。

2、在基于联邦学习的对象推荐场景中，为了满足运营方的推广需求，需要对用户客户端进行指定对象的推荐。但是由于联邦学习的特性，在提高指定对象曝光率的前提下还要保证联邦学习的全局模型的推荐性能。因此目前亟需一种在不影响整体模型的推荐性能下，又能提高特定目标对象的曝光率的方法。

技术实现思路

1、有鉴于此，本说明书实施例提供了一种针对联邦推荐系统的梯度攻击方法。本说明书一个或者多个实施例同时涉及一种针对联邦推荐系统的梯度攻击装置，一种计算设备，一种计算机可读存储介质以及一种计算机程序，以解决现有技术中存在的技术缺陷。

2、根据本说明书实施例的第一方面，提供了一种针对联邦推荐系统的梯度攻击方法，包括：

3、响应于针对联邦学习任务的对象推荐请求在对象集合中选择待推荐对象，并构建用于调整所述待推荐对象的推荐系数的初始模拟数据；

4、通过本地推荐模型对所述初始模拟数据进行处理，根据处理结果获得所述本地推荐模型对应的模拟梯度，确定全局推荐模型对应的全局梯度，并根据所述全局梯度和所述模拟梯度对所述初始模拟数据进行更新，获得目标模拟数据；

5、将所述目标模拟数据输入至所述本地推荐模型，获得所述本地推荐模型针对所述对象集合输出的预测推荐数据，基于所述预测推荐数据确定目标推荐对象和所述目标推荐对象的目标推荐信息，以及所述待推荐对象的待推荐信息；

6、根据所述目标推荐信息和所述待推荐信息计算第一损失值，根据所述预测推荐数据和所述目标模拟数据中的目标推荐数据计算第二损失值；

7、基于所述第一损失值和所述第二损失值对所述本地推荐模型进行调参，直至获得满足模型训练停止条件的目标本地推荐模型，其中，所述目标本地推荐模型用于参与所述联邦学习任务。

8、根据本说明书实施例的第二方面，提供了一种针对联邦推荐系统的梯度攻击装置，包括：

9、选择模块，被配置为响应于针对联邦学习任务的对象推荐请求在对象集合中选择待推荐对象，并构建用于调整所述待推荐对象的推荐系数的初始模拟数据；

10、更新模块，被配置为通过本地推荐模型对所述初始模拟数据进行处理，根据处理结果获得所述本地推荐模型对应的模拟梯度，确定全局推荐模型对应的全局梯度，并根据所述全局梯度和所述模拟梯度对所述初始模拟数据进行更新，获得目标模拟数据；

11、预测模块，被配置为将所述目标模拟数据输入至所述本地推荐模型，获得所述本地推荐模型针对所述对象集合输出的预测推荐数据，基于所述预测推荐数据确定目标推荐对象和所述目标推荐对象的目标推荐信息，以及所述待推荐对象的待推荐信息；

12、计算模块，被配置为根据所述目标推荐信息和所述待推荐信息计算第一损失值，根据所述预测推荐数据和所述目标模拟数据中的目标推荐数据计算第二损失值；

13、训练模块，被配置为基于所述第一损失值和所述第二损失值对所述本地推荐模型进行调参，直至获得满足模型训练停止条件的目标本地推荐模型，其中，所述目标本地推荐模型用于参与所述联邦学习任务。

14、根据本说明书实施例的第三方面，提供了一种计算设备，包括：

15、存储器和处理器；

16、所述存储器用于存储计算机可执行指令，所述处理器用于执行所述计算机可执行指令，该计算机可执行指令被处理器执行时实现上述针对联邦推荐系统的梯度攻击方法的步骤。

17、根据本说明书实施例的第四方面，提供了一种计算机可读存储介质，其存储有计算机可执行指令，该指令被处理器执行时实现上述针对联邦推荐系统的梯度攻击方法的步骤。

18、根据本说明书实施例的第五方面，提供了一种计算机程序，其中，当所述计算机程序在计算机中执行时，令计算机执行上述针对联邦推荐系统的梯度攻击方法的步骤。

19、本说明书提供了一种针对联邦推荐系统的梯度攻击方法，包括响应于针对联邦学习任务的对象推荐请求在对象集合中选择待推荐对象，并构建用于调整所述待推荐对象的推荐系数的初始模拟数据；通过本地推荐模型对所述初始模拟数据进行处理，根据处理结果获得所述本地推荐模型对应的模拟梯度，确定全局推荐模型对应的全局梯度，并根据所述全局梯度和所述模拟梯度对所述初始模拟数据进行更新，获得目标模拟数据；将所述目标模拟数据输入至所述本地推荐模型，获得所述本地推荐模型针对所述对象集合输出的预测推荐数据，基于所述预测推荐数据确定目标推荐对象和所述目标推荐对象的目标推荐信息，以及所述待推荐对象的待推荐信息；根据所述目标推荐信息和所述待推荐信息计算第一损失值，根据所述预测推荐数据和所述目标模拟数据中的目标推荐数据计算第二损失值；基于所述第一损失值和所述第二损失值对所述本地推荐模型进行调参，直至获得满足模型训练停止条件的目标本地推荐模型，其中，所述目标本地推荐模型用于参与所述联邦学习任务。

20、本说明书一个实施例实现了通过构建初始模拟数据，并利用全局梯度和模拟梯度对初始模拟数据进行更新优化，获得能够与真实用户具有相似特征的目标模拟数据。基于预测推荐数据确定目标推荐对象，并利用目标推荐对象的目标推荐信息和待推荐对象的待推荐信息计算第一损失值，从而将待推荐对象的推荐系数接近于目标推荐对象的推荐系数，提高待推荐对象的曝光率。并且为了保证本地推荐模型的推荐能力，还利用预测推荐数据和目标推荐数据计算第二损失值，从而实现在不影响推荐模型的整体推荐性能的前提下，提高待推荐对象的推荐系数及曝光率。

技术特征：

1.一种针对联邦推荐系统的梯度攻击方法，其特征在于，包括：

2.根据权利要求1所述的方法，其特征在于，响应于针对联邦学习任务的对象推荐请求在对象集合中选择待推荐对象之前，所述方法还包括：

3.根据权利要求1所述的方法，其特征在于，构建用于调整所述待推荐对象的推荐系数的初始模拟数据，包括：

4.根据权利要求3所述的方法，其特征在于，通过本地推荐模型对所述初始模拟数据进行处理，根据处理结果获得所述本地推荐模型对应的模拟梯度，包括：

5.根据权利要求4所述的方法，其特征在于，将所述模型参数梯度和所述对象表征梯度作为所述本地推荐模型对应的模拟梯度之后，所述方法还包括：

6.根据权利要求1所述的方法，其特征在于，确定全局推荐模型对应的全局梯度，包括：

7.根据权利要求3所述的方法，其特征在于，根据所述全局梯度和所述模拟梯度对所述初始模拟数据进行更新，获得目标模拟数据，包括：

8.根据权利要求7所述的方法，其特征在于，根据所述全局梯度和所述模拟梯度对所述初始模拟用户表征进行更新，获得目标模拟用户表征，包括：

9.根据权利要求1所述的方法，其特征在于，基于所述预测推荐数据确定目标推荐对象和所述目标推荐对象的目标推荐信息，以及所述待推荐对象的待推荐信息，包括：

10.一种针对联邦推荐系统的梯度攻击装置，其特征在于，包括：

11.一种计算设备，其特征在于，包括：

12.一种计算机可读存储介质，其特征在于，其存储有计算机可执行指令，该计算机可执行指令被处理器执行时实现权利要求1至9任意一项所述方法的步骤。

技术总结
本说明书实施例提供针对联邦推荐系统的梯度攻击方法及装置，其中所述方法包括：响应于针对联邦学习任务的对象推荐请求在对象集合中选择待推荐对象，并构建用于调整待推荐对象的推荐系数的初始模拟数据；通过本地推荐模型对初始模拟数据进行处理，获得模拟梯度，确定全局推荐模型对应的全局梯度，根据全局梯度和模拟梯度对初始模拟数据进行更新，获得目标模拟数据；将目标模拟数据输入至本地推荐模型，获得预测推荐数据，基于预测推荐数据确定目标推荐对象和目标推荐信息，以及待推荐对象的待推荐信息；计算第一损失值、第二损失值；基于第一损失值和第二损失值对本地推荐模型进行调参，获得目标本地推荐模型用于参与联邦学习任务。

技术研发人员：陈超超,王逸濠,郑小林,苏嘉婕
受保护的技术使用者：浙江大学
技术研发日：
技术公布日：2024/4/17