联合学习引擎整体架构系统的制作方法

1.本发明涉及联合学习引擎技术领域，特别涉及联合学习引擎整体架构系统。


背景技术：

2.联合学习是指一系列算法，其试图在训练数据不能远离其来源，也就是服务器不能收集数据的背景现状中解决机器学习问题，它们的重要细节不同，但基本思想共通：虽然服务器不能收集数据，但是可以收集模型的参数，服务器协调边缘设备参与训练，每个边缘设备都有训练数据，每个边缘设备都利用自己的数据训练一个本地模型，将自己的参数加密上传或者不加密上传给服务器，服务器通过将收集上来的参数进行平均或者加权平均，广播给每个边缘设备。
3.目前的联合学习引擎，在使用时，其接口标准不统一，不能为云服务提供稳定且可靠的云基础设施，不能充分保障云服务的正常运行，且联合学习引擎不能得到有效的服务支撑，导致联合学习效率低下。


技术实现要素：

4.本发明的目的在于提供联合学习引擎整体架构系统，云基础设施为云服务提供保障，云服务为联合学习引擎服务提供支撑，联合学习引擎服务通过统一接口为联合学习应用提供高效的学习，其接口统一标准，框架融合能力强，联合学习引擎服务可得到云服务的有效支撑，使联合学习效率高，以解决上述背景技术中提出的问题。
5.为实现上述目的，本发明提供如下技术方案：
6.联合学习引擎整体架构系统，包括云基础设施、云服务、联合学习引擎服务和联合学习应用，所述云基础设施为云服务提供保障，所述云服务为联合学习引擎服务提供支撑，所述联合学习引擎服务通过统一接口为联合学习应用提供高效的学习，其中：
7.云基础设施用于稳定云服务，保障云服务的正常运行；
8.云服务用于提供可靠的一系列服务，对联合学习引擎服务提供有效的支撑，保证联合学习引擎服务可以顺利学习；
9.联合学习引擎服务用于智能化的各种学习，为联合学习应用提供各种学习策略及算法，保证高效的联合学习应用；
10.联合学习应用用于各种领域，提高各种领域的学习效率。
11.进一步地，所述云基础设施包括模型数据接入、计算资源、运行环境资源、模型存储和网络服务，其中：模型数据接入通过相应的数据接口接入模型数据，并向云服务提供相应的模型数据，计算资源用于为云服务提供计算机程序运行时所需的cpu资源、内存资源、硬盘资源和网络资源，运行环境资源用于为云服务提供计算机程序运行时所需的运行环境资源，模型存储用于存储模型，网络服务用于为云服务提供网络上运行的、面向服务的、基于分布式程序的软件模块，网络服务采用http和xml(标准通用标记语言的子集)等互联网通用标准，使人们可以在不同的地方通过不同的终端设备访问web上的数据。
12.进一步地，所述云服务包括容器服务、api网关、消息队列、数据库服务和服务流水线，其中：容器服务用于提供高性能可伸缩的容器应用管理服务，支持用docker容器进行应用生命周期管理，提供多种应用发布方式和持续交付能力并支持微服务架构，容器服务简化了容器管理集群的搭建工作，整合了阿里云虚拟化、存储、网络和安全能力，打造docker云端最佳运行环境，api网关用于实现一个api网关接管所有的入口流量，将所有用户的请求转发给后端的云服务器，api网关做的不仅仅只是简单的转发，也会针对流量做一些扩展，通过引入api网关，客户端只需要与api网关交互，而不用与各个业务方的接口分别通讯，消息队列用于在消息的传输过程中保存消息，消息队列就是一个消息的链表，可以把消息看作一个记录，具有特定的格式以及特定的优先级，对消息队列有写权限的进程可以向消息队列中按照一定的规则添加新消息，对消息队列有读权限的进程则可以从消息队列中读走消息，数据库服务用于将数据库资源以标准服务的形式提供给一个或多个租户，数据库服务为用户提供一个统一的数据库访问服务，它屏蔽了底层的异构数据库，为上层应用提供了简单方便的数据库访问接口，将应用和数据库隔离开来，降低了耦合性，增强了系统的灵活性和健壮性，为增强数据访问控制提供了可能，服务流水线用于提供高并发、高可靠、易运维及一致性的可靠服务。
13.进一步地，所述联合学习引擎服务包括联合算法、联合策略、聚合策略、安全策略、分布式异常、算法注册、引擎控制、训练任务协调、通讯协议和模型读写，其中：联合算法用于对联合学习提供相应的算法支撑，联合策略用于对联合学习提供相应的策略支撑，聚合策略用于将附加到消息流中的一个或多个聚合节点以在运行时控制超时值或事件存储，安全策略为在某个安全区域内(一个安全区域，通常是指属于某个组织的一系列处理和通信资源)，用于所有与安全相关活动的一套规则，这些规则是由此安全区域中所设立的一个安全权力机构建立的，并由安全控制机构来描述、实施或实现的，分布式异常用于检测联合学习的异常，算法注册用于注册联合学习的各种算法，引擎控制用于控制整个引擎系统的运行，训练任务协调用于协调联合学习训练任务，使其充分配合，通讯协议用于约定通信双方对数据的传送控制，约定中包括对数据格式、同步方式、传送速度、传送步骤、检纠错方式以及控制字符定义等问题做出统一规定，通信双方必须共同遵守，模型读写用于读写模型，使模型充分利用起来。
14.进一步地，所述联合学习应用包括能源领域、健康领域和其他领域，其中：能源领域可将联合学习引擎应用在能源领域上，健康领域可将联合学习引擎应用在健康领域上，其他领域可将联合学习引擎应用在其他领域上。
15.进一步地，所述安全策略按照授权的性质，安全策略分为基于身份的安全策略、基于规则的安全策略和基于角色的安全策略，安全策略通常建立在授权的基础之上，未经适当授权的实体，信息不可以给予、不被访问、不允许引用、任何资源也不得使用。
16.进一步地，所述通讯协议为tcp/ip协议，tcp/ip是网络中使用的基本的通信协议，虽然从名字上看tcp/ip包括两个协议，传输控制协议(tcp)和网际协议(ip)，但tcp/ip实际上是一组协议，它包括上百个各种功能的协议，如：远程登录、文件传输和电子邮件等，而tcp协议和ip协议是保证数据完整传输的两个基本的重要协议，通常说tcp/ip是internet协议族，而不单单是tcp和ip，每一台连接到internet上的电脑，为了要让资料能够正确且顺利地传输，它会为每一台机器定义一个ip(ip地址)，也就等于是给你的电脑装上门牌号
码，如果有了ip(门牌号码)，网络的设备马上便能得知，这一份资料是要送到哪一台电脑去，可有效保证数据完整且快速地传输。
17.进一步地，包括如下步骤：
18.s10：远程用户注册、认证，并进行策略选择；
19.s20：引擎根据算法返回初始模型+建议安全协议；
20.s30：用户开始训练本地模型；
21.s40：用户安全上传本地更新模型；
22.s50：引擎根据联合策略进行多用户联合并根据异常策略处理各类异常；
23.s60：引擎根据聚合策略聚合多用户的更新模型；
24.s70：引擎下发更新模型给用户；
25.s80：模型达到要求，用户通知引擎退出联合训练；
26.s90：引擎根据联合策略选择是否结束联合学习，如果学习成功，更新模型到模型仓库。
27.进一步地，所述远程用户注册、认证包括如下步骤：
28.s101：远程用户账号采集单元采集远程用户账号，并将采集的远程用户账号反馈给远程用户账号执行单元；
29.s102：远程用户账号执行单元接收到远程用户账号后，将其传送给远程用户账号检测单元，通过远程用户账号检测单元对其进行检测；
30.s103：若本地数据库内存储有远程用户账号，则远程用户账号执行单元向远程用户账号认证单元传送指令，通过远程用户账号认证单元对远程用户账号进行认证；
31.s104：若本地数据库内未存储有远程用户账号，则远程用户账号执行单元向远程用户账号注册单元传送指令，通过远程用户账号注册单元对远程用户账号进行注册。
32.进一步地，所述远程用户注册、认证包括如下步骤：
33.s101：远程用户账号采集单元采集远程用户账号，并将采集的远程用户账号反馈给远程用户账号执行单元；
34.s102：远程用户账号执行单元接收到远程用户账号后，将其传送给远程用户账号检测单元，通过远程用户账号检测单元对其进行检测；
35.s103：若本地数据库内存储有远程用户账号，则远程用户账号执行单元向远程用户账号认证单元传送指令，通过远程用户账号认证单元对远程用户账号进行认证；
36.s104：若本地数据库内未存储有远程用户账号，则远程用户账号执行单元向远程用户账号注册单元传送指令，通过远程用户账号注册单元对远程用户账号进行注册；
37.s105：通过远程用户认证注册检测单元对远程用户账号认证或注册进行检测，且将检测结果反馈给远程用户认证注册执行单元；
38.s106：若远程用户账号认证或注册不成功，则重新进行认证或注册；
39.s107：若远程用户账号认证或注册成功，则远程用户通过策略选择单元进行策略选择。
40.与现有技术相比，本发明的有益效果是：
41.本发明的联合学习引擎整体架构系统，云基础设施为云服务提供保障，云服务为联合学习引擎服务提供支撑，联合学习引擎服务通过统一接口为联合学习应用提供高效的
学习，其接口统一标准，框架融合能力强，联合学习引擎服务可得到云服务的有效支撑，使联合学习效率高。
附图说明
42.图1为本发明的联合学习引擎整体架构系统的整体架构图；
43.图2为本发明的联合学习引擎整体架构系统的流程图；
44.图3为本发明的实施例一的远程用户注册、认证的流程图；
45.图4为本发明的实施例一的远程用户注册、认证的模块图；
46.图5为本发明的实施例一的远程用户注册、认证的算法图；
47.图6为本发明的实施例二的远程用户注册、认证的流程图；
48.图7为本发明的实施例二的远程用户注册、认证的模块图；
49.图8为本发明的实施例二的远程用户注册、认证的算法图。
具体实施方式
50.下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
51.实施例一
52.参阅图1，联合学习引擎整体架构系统，包括云基础设施、云服务、联合学习引擎服务和联合学习应用，云基础设施为云服务提供保障，云服务为联合学习引擎服务提供支撑，联合学习引擎服务通过统一接口为联合学习应用提供高效的学习，其中：
53.云基础设施用于稳定云服务，保障云服务的正常运行；
54.云服务用于提供可靠的一系列服务，对联合学习引擎服务提供有效的支撑，保证联合学习引擎服务可以顺利学习；
55.联合学习引擎服务用于智能化的各种学习，为联合学习应用提供各种学习策略及算法，保证高效的联合学习应用；
56.联合学习应用用于各种领域，提高各种领域的学习效率。
57.云基础设施为云服务提供保障，云服务为联合学习引擎服务提供支撑，联合学习引擎服务通过统一接口为联合学习应用提供高效的学习，其接口统一标准，框架融合能力强，联合学习引擎服务可得到云服务的有效支撑，使联合学习效率高。
58.云基础设施包括模型数据接入、计算资源、运行环境资源、模型存储和网络服务，其中：模型数据接入通过相应的数据接口接入模型数据，并向云服务提供相应的模型数据，计算资源用于为云服务提供计算机程序运行时所需的cpu资源、内存资源、硬盘资源和网络资源，运行环境资源用于为云服务提供计算机程序运行时所需的运行环境资源，模型存储用于存储模型，网络服务用于为云服务提供网络上运行的、面向服务的、基于分布式程序的软件模块，网络服务采用http和xml(标准通用标记语言的子集)等互联网通用标准，使人们可以在不同的地方通过不同的终端设备访问web上的数据。
59.云服务包括容器服务、api网关、消息队列、数据库服务和服务流水线，其中：容器
服务用于提供高性能可伸缩的容器应用管理服务，支持用docker容器进行应用生命周期管理，docker是一种虚拟环境容器，提供多种应用发布方式和持续交付能力并支持微服务架构，容器服务简化了容器管理集群的搭建工作，整合了阿里云虚拟化、存储、网络和安全能力，打造docker云端最佳运行环境，api网关用于实现一个api网关接管所有的入口流量，将所有用户的请求转发给后端的云服务器，api网关做的不仅仅只是简单的转发，也会针对流量做一些扩展，通过引入api网关，客户端只需要与api网关交互，而不用与各个业务方的接口分别通讯，消息队列用于在消息的传输过程中保存消息，消息队列就是一个消息的链表，可以把消息看作一个记录，具有特定的格式以及特定的优先级，对消息队列有写权限的进程可以向消息队列中按照一定的规则添加新消息，对消息队列有读权限的进程则可以从消息队列中读走消息，数据库服务用于将数据库资源以标准服务的形式提供给一个或多个租户，数据库服务为用户提供一个统一的数据库访问服务，它屏蔽了底层的异构数据库，为上层应用提供了简单方便的数据库访问接口，将应用和数据库隔离开来，降低了耦合性，增强了系统的灵活性和健壮性，为增强数据访问控制提供了可能，服务流水线用于提供高并发、高可靠、易运维及一致性的可靠服务。
60.联合学习引擎服务包括联合算法、联合策略、聚合策略、安全策略、分布式异常、算法注册、引擎控制、训练任务协调、通讯协议和模型读写，其中：联合算法用于对联合学习提供相应的算法支撑，联合策略用于对联合学习提供相应的策略支撑，聚合策略用于将附加到消息流中的一个或多个聚合节点以在运行时控制超时值或事件存储，安全策略为在某个安全区域内(一个安全区域，通常是指属于某个组织的一系列处理和通信资源)，用于所有与安全相关活动的一套规则，这些规则是由此安全区域中所设立的一个安全权力机构建立的，并由安全控制机构来描述、实施或实现的，安全策略按照授权的性质，安全策略分为基于身份的安全策略、基于规则的安全策略和基于角色的安全策略，安全策略通常建立在授权的基础之上，未经适当授权的实体，信息不可以给予、不被访问、不允许引用、任何资源也不得使用，分布式异常用于检测联合学习的异常，算法注册用于注册联合学习的各种算法，引擎控制用于控制整个引擎系统的运行，训练任务协调用于协调联合学习训练任务，使其充分配合，通讯协议用于约定通信双方对数据的传送控制，约定中包括对数据格式、同步方式、传送速度、传送步骤、检纠错方式以及控制字符定义等问题做出统一规定，通信双方必须共同遵守，通讯协议为tcp/ip协议，tcp/ip是网络中使用的基本的通信协议，虽然从名字上看tcp/ip包括两个协议，传输控制协议(tcp)和网际协议(ip)，但tcp/ip实际上是一组协议，它包括上百个各种功能的协议，如：远程登录、文件传输和电子邮件等，而tcp协议和ip协议是保证数据完整传输的两个基本的重要协议，通常说tcp/ip是internet协议族，而不单单是tcp和ip，每一台连接到internet上的电脑，为了要让资料能够正确且顺利地传输，它会为每一台机器定义一个ip(ip地址)，也就等于是给你的电脑装上门牌号码，如果有了ip(门牌号码)，网络的设备马上便能得知，这一份资料是要送到哪一台电脑去，可有效保证数据完整且快速地传输，模型读写用于读写模型，使模型充分利用起来。
61.联合学习应用包括能源领域、健康领域和其他领域，其中：能源领域可将联合学习引擎应用在能源领域上，健康领域可将联合学习引擎应用在健康领域上，其他领域可将联合学习引擎应用在其他领域上。
62.参阅图2，联合学习引擎整体架构系统，包括如下步骤：
63.s10：远程用户注册、认证，并进行策略选择；
64.s20：引擎根据算法返回初始模型+建议安全协议；
65.s30：用户开始训练本地模型；
66.s40：用户安全上传本地更新模型；
67.s50：引擎根据联合策略进行多用户联合并根据异常策略处理各类异常；
68.s60：引擎根据聚合策略聚合多用户的更新模型；
69.s70：引擎下发更新模型给用户；
70.s80：模型达到要求，用户通知引擎退出联合训练；
71.s90：引擎根据联合策略选择是否结束联合学习，如果学习成功，更新模型到模型仓库。
72.参阅图3-图5，远程用户注册、认证包括如下步骤：
73.s101：远程用户账号采集单元采集远程用户账号，并将采集的远程用户账号反馈给远程用户账号执行单元；
74.s102：远程用户账号执行单元接收到远程用户账号后，将其传送给远程用户账号检测单元，通过远程用户账号检测单元对其进行检测；
75.s103：若本地数据库内存储有远程用户账号，则远程用户账号执行单元向远程用户账号认证单元传送指令，通过远程用户账号认证单元对远程用户账号进行认证；
76.s104：若本地数据库内未存储有远程用户账号，则远程用户账号执行单元向远程用户账号注册单元传送指令，通过远程用户账号注册单元对远程用户账号进行注册。
77.实施例二
78.联合学习引擎整体架构系统，包括云基础设施、云服务、联合学习引擎服务和联合学习应用，云基础设施为云服务提供保障，云服务为联合学习引擎服务提供支撑，联合学习引擎服务通过统一接口为联合学习应用提供高效的学习，其中：
79.云基础设施用于稳定云服务，保障云服务的正常运行；
80.云服务用于提供可靠的一系列服务，对联合学习引擎服务提供有效的支撑，保证联合学习引擎服务可以顺利学习；
81.联合学习引擎服务用于智能化的各种学习，为联合学习应用提供各种学习策略及算法，保证高效的联合学习应用；
82.联合学习应用用于各种领域，提高各种领域的学习效率。
83.云基础设施包括模型数据接入、计算资源、运行环境资源、模型存储和网络服务，其中：模型数据接入通过相应的数据接口接入模型数据，并向云服务提供相应的模型数据，计算资源用于为云服务提供计算机程序运行时所需的cpu资源、内存资源、硬盘资源和网络资源，运行环境资源用于为云服务提供计算机程序运行时所需的运行环境资源，模型存储用于存储模型，网络服务用于为云服务提供网络上运行的、面向服务的、基于分布式程序的软件模块，网络服务采用http和xml(标准通用标记语言的子集)等互联网通用标准，使人们可以在不同的地方通过不同的终端设备访问web上的数据。
84.云服务包括容器服务、api网关、消息队列、数据库服务和服务流水线，其中：容器服务用于提供高性能可伸缩的容器应用管理服务，支持用docker容器进行应用生命周期管理，提供多种应用发布方式和持续交付能力并支持微服务架构，容器服务简化了容器管理
集群的搭建工作，整合了阿里云虚拟化、存储、网络和安全能力，打造docker云端最佳运行环境，api网关用于实现一个api网关接管所有的入口流量，将所有用户的请求转发给后端的云服务器，api网关做的不仅仅只是简单的转发，也会针对流量做一些扩展，通过引入api网关，客户端只需要与api网关交互，而不用与各个业务方的接口分别通讯，消息队列用于在消息的传输过程中保存消息，消息队列就是一个消息的链表，可以把消息看作一个记录，具有特定的格式以及特定的优先级，对消息队列有写权限的进程可以向消息队列中按照一定的规则添加新消息，对消息队列有读权限的进程则可以从消息队列中读走消息，数据库服务用于将数据库资源以标准服务的形式提供给一个或多个租户，数据库服务为用户提供一个统一的数据库访问服务，它屏蔽了底层的异构数据库，为上层应用提供了简单方便的数据库访问接口，将应用和数据库隔离开来，降低了耦合性，增强了系统的灵活性和健壮性，为增强数据访问控制提供了可能，服务流水线用于提供高并发、高可靠、易运维及一致性的可靠服务。
85.联合学习引擎服务包括联合算法、联合策略、聚合策略、安全策略、分布式异常、算法注册、引擎控制、训练任务协调、通讯协议和模型读写，其中：联合算法用于对联合学习提供相应的算法支撑，联合策略用于对联合学习提供相应的策略支撑，聚合策略用于将附加到消息流中的一个或多个聚合节点以在运行时控制超时值或事件存储，安全策略为在某个安全区域内(一个安全区域，通常是指属于某个组织的一系列处理和通信资源)，用于所有与安全相关活动的一套规则，这些规则是由此安全区域中所设立的一个安全权力机构建立的，并由安全控制机构来描述、实施或实现的，安全策略按照授权的性质，安全策略分为基于身份的安全策略、基于规则的安全策略和基于角色的安全策略，安全策略通常建立在授权的基础之上，未经适当授权的实体，信息不可以给予、不被访问、不允许引用、任何资源也不得使用，分布式异常用于检测联合学习的异常，算法注册用于注册联合学习的各种算法，引擎控制用于控制整个引擎系统的运行，训练任务协调用于协调联合学习训练任务，使其充分配合，通讯协议用于约定通信双方对数据的传送控制，约定中包括对数据格式、同步方式、传送速度、传送步骤、检纠错方式以及控制字符定义等问题做出统一规定，通信双方必须共同遵守，通讯协议为tcp/ip协议，tcp/ip是网络中使用的基本的通信协议，虽然从名字上看tcp/ip包括两个协议，传输控制协议(tcp)和网际协议(ip)，但tcp/ip实际上是一组协议，它包括上百个各种功能的协议，如：远程登录、文件传输和电子邮件等，而tcp协议和ip协议是保证数据完整传输的两个基本的重要协议，通常说tcp/ip是internet协议族，而不单单是tcp和ip，每一台连接到internet上的电脑，为了要让资料能够正确且顺利地传输，它会为每一台机器定义一个ip(ip地址)，也就等于是给你的电脑装上门牌号码，如果有了ip(门牌号码)，网络的设备马上便能得知，这一份资料是要送到哪一台电脑去，可有效保证数据完整且快速地传输，模型读写用于读写模型，使模型充分利用起来。
86.联合学习应用包括能源领域、健康领域和其他领域，其中：能源领域可将联合学习引擎应用在能源领域上，健康领域可将联合学习引擎应用在健康领域上，其他领域可将联合学习引擎应用在其他领域上。
87.联合学习引擎整体架构系统，包括如下步骤：
88.s10：远程用户注册、认证，并进行策略选择；
89.s20：引擎根据算法返回初始模型+建议安全协议；
90.s30：用户开始训练本地模型；
91.s40：用户安全上传本地更新模型；
92.s50：引擎根据联合策略进行多用户联合并根据异常策略处理各类异常；
93.s60：引擎根据聚合策略聚合多用户的更新模型；
94.s70：引擎下发更新模型给用户；
95.s80：模型达到要求，用户通知引擎退出联合训练；
96.s90：引擎根据联合策略选择是否结束联合学习，如果学习成功，更新模型到模型仓库。
97.参阅图6-图8，远程用户注册、认证包括如下步骤：
98.s101：远程用户账号采集单元采集远程用户账号，并将采集的远程用户账号反馈给远程用户账号执行单元；
99.s102：远程用户账号执行单元接收到远程用户账号后，将其传送给远程用户账号检测单元，通过远程用户账号检测单元对其进行检测；
100.s103：若本地数据库内存储有远程用户账号，则远程用户账号执行单元向远程用户账号认证单元传送指令，通过远程用户账号认证单元对远程用户账号进行认证；
101.s104：若本地数据库内未存储有远程用户账号，则远程用户账号执行单元向远程用户账号注册单元传送指令，通过远程用户账号注册单元对远程用户账号进行注册；
102.s105：通过远程用户认证注册检测单元对远程用户账号认证或注册进行检测，且将检测结果反馈给远程用户认证注册执行单元；
103.s106：若远程用户账号认证或注册不成功，则重新进行认证或注册；
104.s107：若远程用户账号认证或注册成功，则远程用户通过策略选择单元进行策略选择。
105.综上所述，本发明的联合学习引擎整体架构系统，云基础设施为云服务提供保障，云服务为联合学习引擎服务提供支撑，联合学习引擎服务通过统一接口为联合学习应用提供高效的学习，其接口统一标准，框架融合能力强，联合学习引擎服务可得到云服务的有效支撑，使联合学习效率高。
106.以上所述，仅为本发明较佳的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明披露的技术范围内，根据本发明的技术方案及其发明构思加以等同替换或改变，都应涵盖在本发明的保护范围之内。