用于隐私保护推理的系统、方法和装置与流程

本发明大体上涉及机器学习/神经网络系统，并且具体涉及用于隐私保护推理(ppi)的系统、方法和装置。

背景技术：

1、推理是一种过程，其中，使用经过训练的机器学习/神经网络模型来预测针对给定输入的输出。例如，经过训练以将动物图像分类为不同物种的模型可以被用来从图像识别动物的物种(推理过程)。为了执行推理，通常信息从客户端设备被发送到服务器，从而危害客户端的隐私。

2、操作使用经过训练的机器学习/神经网络模型进行推理的客户端设备的用户可能不想暴露他们的输入，因为输入可能包含敏感信息。同时，可能不希望向客户端设备公开与经过训练的机器学习/神经网络模型相关联的操作参数，例如权重。为此，来自包含私有信息的客户端设备的输入应在客户端侧保持私密，与经过训练的机器学习/神经网络模型相关的权重应在服务器侧保持私密。在这种场景下，服务器可以访问推理，而不侵犯任何隐私。但是客户端设备无法访问推理，因为它可能会暴露权重。

3、虽然如此，但有兴趣在服务器处计算经过训练的机器学习/神经网络模型的输出，同时在客户端设备处保持原始输入的私密性，并且操作参数(例如权重)仅为服务器所知。

4、某些提议的系统可能会加剧这些挑战。这些提议的系统包括同态加密。这种加密在计算上是昂贵的，因为公钥加密操作必须应用于输入向量的每个元素。此外，基于同态加密的系统必须处理密钥管理问题，从而使与系统相关的硬件组件和软件处理资源紧张。

技术实现思路

1、本公开的实施例是基于开发人员对与现有技术相关的缺点的理解而开发的。

2、本公开提供了一种隐私保护推理(ppi)环境，ppi环境被配置为保存与用户、组织、机构等相关联的敏感信息，敏感信息可以被保存在客户端侧，同时与经过训练的机器学习/神经网络模型相关联的操作参数可以被保存在服务器侧，而不依赖于可能使相关联的硬件组件和软件处理资源紧张的公钥加密操作。

3、根据本公开的第一广义方面，提供了一种用于隐私保护推理(ppi)的方法，在服务器上实现，该方法包括：从客户端设备接收第一矩阵信息集合，第一矩阵信息集合包括kc-1个种子和矩阵其中，kc是整数值；通过使用kc-1个种子操作与服务器相关联的第一密码学安全伪随机数生成器(csprng)来生成kc-1个矩阵，并将kc-1个矩阵和矩阵表示为kc个矩阵的集合，其中，矩阵是kc个矩阵的集合中的第kc个矩阵；根据kc个矩阵的集合中的矩阵中的每一个矩阵计算推理，并将推理表示为具有第一维度的推理矩阵y；生成矩阵ss，矩阵ss包括ks个随机系数，其中，ks是整数值；生成ks-1个随机矩阵，每个随机矩阵具有与推理矩阵y的维度相同的维度；根据推理矩阵y、矩阵ss和ks-1个随机矩阵计算矩阵并将ks-1个随机矩阵和矩阵表示为ks个矩阵的集合；向客户端设备发送第二矩阵信息集合，第二矩阵信息集合包括对应于ks-1个随机矩阵的ks-1个种子和矩阵从客户端设备接收矩阵u；根据矩阵u计算推理值y。

4、根据本公开的其它方面，该方法，其中矩阵由客户端设备计算为：

5、

6、其中：

7、x是对应于由客户端设备选择的敏感信息的输入矩阵，

8、xi是由客户端设备生成的kc个矩阵的集合中的第i个矩阵，kc个矩阵的集合中的kc-1个矩阵是随机生成的，

9、sci是矩阵sc中的第i个系数，包括kc个随机系数的矩阵sc由客户端设备生成，

10、是矩阵sc中的第kc个系数。

11、根据本公开的其它方面，该方法，其中kc-1个随机矩阵是通过使用kc-1个种子操作与客户端设备相关联的第二csprng生成的。

12、根据本公开的其它方面，该方法，其中的值等于1。

13、根据本公开的其它方面，该方法，其中矩阵被计算为：

14、

15、其中：

16、yi是ks个矩阵的集合中的第i个矩阵，

17、ssi是矩阵ss中的第i个系数，

18、是矩阵ss中的第ks个系数。

19、根据本公开的其它方面，该方法，其中的值等于1。

20、根据本公开的其它方面，该方法，其中矩阵u的元素被计算为：

21、ui＝yit.sc

22、其中：

23、ui是矩阵u的第i个元素，

24、yit是ks个矩阵的集合中第i个矩阵的转置。

25、根据本公开的其它方面，该方法，其中第ks个矩阵被计算为：

26、

27、其中：

28、yi是ks个矩阵的集合中的第i个矩阵，

29、ssi是矩阵ss中的第i个系数，

30、是矩阵ss中的第ks个系数。

31、根据本公开的其它方面，该方法，其中的值等于1。

32、根据本公开的其它方面，该方法，其中矩阵u的元素被计算为：

33、ui＝yit.sc

34、其中：

35、ui是矩阵u的第i个元素，

36、yit是ks个矩阵的集合中第i个矩阵的转置。

37、根据公开的其它方面，该方法，其中推理值y被计算为：

38、

39、其中：

40、ui是矩阵u的第i个元素，

41、是矩阵ss中的第i个系数。

42、根据本公开的其它方面，该方法，其中ks-1个随机矩阵是通过使用ks-1个种子操作与服务器相关联的第一csprng生成的。

43、根据本公开的其它方面，该方法，其中服务器还被配置为根据推理值y得出特征。

44、根据本公开的其它方面，该方法，其中服务器将得出的特征发送到客户端设备。

45、根据本公开的第二广义方面，提供了一种用于隐私保护推理(ppi)的系统，该ppi系统包括：服务器，该服务器包括：用于执行指令的处理器；用于存储指令的非瞬时性存储元件，该指令当由处理器执行时配置该系统执行用于以下的步骤：从客户端设备接收第一矩阵信息集合，第一矩阵信息集合包括kc-1个种子和矩阵其中，kc是整数值；通过使用kc-1个种子操作与服务器相关联的第一密码学安全伪随机数生成器(csprng)来生成kc-1个矩阵，并将kc-1个矩阵和矩阵表示为kc个矩阵的集合，其中，矩阵是kc个矩阵的集合中的第kc个矩阵；根据kc个矩阵的集合中的矩阵中的每一个矩阵计算推理，并将推理表示为具有第一维度的推理矩阵y；生成矩阵ss，矩阵ss包括ks个随机系数，其中，ks是整数值；生成ks-1个随机矩阵，每个随机矩阵具有与推理矩阵y的维度相同的维度；根据推理矩阵y、矩阵ss和ks-1个随机矩阵计算矩阵并将ks-1个随机矩阵和矩阵表示为ks个矩阵的集合；向客户端设备发送第二矩阵信息集合，第二矩阵信息集合包括对应于ks-1个随机矩阵的ks-1个种子和矩阵从客户端设备接收矩阵u；根据矩阵u计算推理值y。

46、根据本公开的其它方面，该系统，其中矩阵由客户端设备计算为：

47、

48、其中：

49、x是对应于由客户端设备选择的敏感信息的输入矩阵，

50、xi是由客户端设备生成的kc个矩阵的集合中的第i个矩阵，kc个矩阵的集合中的kc-1个矩阵是随机生成的，

51、sci是矩阵sc中的第i个系数，包括kc个随机系数的矩阵sc由客户端设备生成，

52、是矩阵sc中的第kc个系数。

53、根据本公开的其它方面，该系统，其中kc-1个随机矩阵是通过使用kc-1个种子，操作与客户端设备相关联的第二csprng生成的。

54、根据本公开的其它方面，该系统，其中的值等于1。

55、根据本公开的其它方面，该系统，其中矩阵被计算为：

56、

57、其中：

58、yi是ks个矩阵的集合中的第i个矩阵，

59、ssi是矩阵ss中的第i个系数，

60、是矩阵ss中的第ks个系数。

61、根据本公开的其它方面，该系统，其中矩阵u的元素被计算为：

62、ui＝yit.sc

63、其中：

64、ui是矩阵u的第i个元素，

65、yit是ks个矩阵的集合中第i个矩阵的转置。

66、根据本公开的其它方面，该系统，其中推理值y被计算为：

67、

68、其中：

69、ui是矩阵u的第i个元素，

70、是矩阵ss中的第i个系数。

71、根据本公开的其它方面，该系统，其中ks-1个随机矩阵是通过使用ks-1个种子，操作与服务器相关联的第一csprng生成的。