联邦学习方法、数据分析模型训练方法及装置、存储介质与流程

文档序号:30755115发布日期:2022-07-13 10:42阅读:114来源:国知局
联邦学习方法、数据分析模型训练方法及装置、存储介质与流程

1.本公开涉及计算机技术领域,具体而言,涉及一种联邦学习方法、数据分析模型训练方法、联邦学习装置、数据分析模型训练装置、计算机可读存储介质及电子设备。


背景技术:

2.在5g系统中,通常需要通过数据分析网元对用户数据进行分析,以便提供更好的服务。
3.在相关技术中,在需要执行数据分析任务时,可以从用户终端设备中采集数据分析任务对应的用户数据,并将该些用户数据上传至数据分析网元,在数据分析网元中进行模型训练以及数据分析的过程。
4.然而,数据分析任务所涉及的数据量较大,在进行传输时,会造成较大的时延,影响用户的正常使用,且数据分析的速度较慢,此外,在采集用户数据的过程中,还具有泄漏用户数据的风险。
5.需要说明的是,在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。


技术实现要素:

6.本公开的目的在于提供一种联邦学习方法及联邦学习装置、计算机可读存储介质及电子设备,可以解决现有技术中数据分析任务执行效率较差的问题。
7.本公开的其他特性和优点将通过下面的详细描述变得显然,或部分地通过本公开的实践而习得。
8.根据本公开的第一方面,提供了一种联邦学习方法,应用于数据分析网元,包括:接收数据分析任务,获取所述数据分析任务对应的待训练模型;将所述待训练模型发送至多个用户终端设备,以使所述用户终端设备根据所述用户终端设备对应的数据对所述待训练模型进行训练,得到所述待训练模型对应的训练参数;接收所述多个用户终端设备返回的待训练模型对应的训练参数,根据多个所述待训练模型对应的训练参数确定执行所述数据分析任务的数据分析模型。
9.在本公开的一种示例性实施例中,基于前述方案,所述将所述待训练模型发送至多个用户终端设备,包括:获取所述数据分析任务对应的用户终端设备标识;将所述待训练模型发送至多个所述用户终端设备标识对应的用户终端设备。
10.在本公开的一种示例性实施例中,基于前述方案,所述将所述待训练模型发送至多个用户终端设备,包括:获取所述数据分析任务对应的用户终端设备,通过接入网获取所述用户终端设备对应的基站;将所述待训练模型发送至所述用户终端设备对应的基站,以使所述基站将所述待训练模型发送至所述用户终端设备。
11.在本公开的一种示例性实施例中,基于前述方案,所述待训练模型对应的训练参数为训练梯度,所述根据多个所述待训练模型对应的训练参数确定执行数据分析任务的数
据分析模型,包括:根据所述多个所述待训练模型对应的训练梯度确定所述待训练模型的聚合训练梯度;根据所述聚合训练梯度对所述待训练模型进行优化,以得到执行所述数据分析任务的数据分析模型。
12.在本公开的一种示例性实施例中,基于前述方案,所述根据所述多个所述待训练模型对应的训练梯度确定所述待训练模型的聚合训练梯度,包括:将所述多个所述待训练模型对应的训练梯度通过加权平均算法确定所述待训练模型的聚合训练梯度。
13.根据本公开的第二方面,提供了一种数据分析模型训练方法,应用于用户终端设备,包括:接收数据分析网元发送的待训练模型;根据所述用户终端设备对应的数据对所述待训练模型进行训练,得到所述待训练模型对应的训练参数;将所述待训练模型对应的训练参数发送至所述数据分析网元,以使所述数据分析网元根据多个所述待训练模型对应的训练参数确定执行所述数据分析任务的数据分析模型。
14.根据本公开的第三方面,提供了一种联邦学习装置,应用于数据分析网元,包括:数据分析任务接收模块,用于接收数据分析任务,获取所述数据分析任务对应的待训练模型;训练模型发送模块,用于将所述待训练模型发送至多个用户终端设备,以使所述用户终端设备根据所述用户终端设备对应的数据对所述待训练模型进行训练,得到所述待训练模型对应的训练参数;训练参数接收模块,用于接收所述多个用户终端设备返回的待训练模型对应的训练参数,根据多个所述待训练模型对应的训练参数确定执行所述数据分析任务的数据分析模型。
15.根据本公开的第四方面,提供了一种数据分析模型分析装置,应用于用户终端设备,包括:待训练模型接收模块,用于接收数据分析网元发送的待训练模型;训练参数获取模块,用于根据所述用户终端设备对应的数据对所述待训练模型进行训练,得到所述待训练模型对应的训练参数;训练参数发送模块,用于将所述待训练模型对应的训练参数发送至所述数据分析网元,以使所述数据分析网元根据多个所述待训练模型对应的训练参数确定执行所述数据分析任务的数据分析模型。
16.根据本公开的第五方面,提供了一种计算机可读存储介质,其上存储有计算机程序,所述程序被处理器执行时实现如上述实施例中第一方面所述的联邦学习方法或第二方面所述的数据分析模型分析方法。
17.根据本公开的第六方面,提供了一种电子设备,包括:
18.一个或多个处理器;以及
19.存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器实现如上述实施例中第一方面所述的联邦学习方法或第二方面所述的数据分析模型分析方法。
20.本公开实施例提供的技术方案可以包括以下有益效果:
21.本公开的一种实施例所述提供的联邦学习方法或数据分析模型分析方法中,可以接收数据分析任务,获取所述数据分析任务对应的待训练模型,将所述待训练模型发送至多个用户终端设备,以使所述用户终端设备根据所述用户终端设备对应的数据对所述待训练模型进行训练,得到所述待训练模型对应的训练参数,接收所述多个用户终端设备返回的待训练模型对应的训练参数,根据多个所述待训练模型对应的训练参数确定执行所述数据分析任务的数据分析模型。
22.一方面,无需将用户数据传输至数据分析网元,可以将数据分析任务涉及的模型下发至各个用户终端设备,利用各用户终端设备的算力对模型进行训练,提升了模型训练的效率,避免数据分析网元中算力不足所导致的数据分析速度过慢的问题;另一方面,无需采集用户数据以及传输用户数据,避免了传输用户数据时产生时延从而影响用户正常使用的问题,此外,还避免了用户数据在传输过程中泄漏的问题,提升了用户数据的安全性。
23.应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
24.此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。显而易见地,下面描述中的附图仅仅是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。在附图中:
25.图1示意性示出了可以应用本公开实施例中联邦学习方法的流程图;
26.图2示意性示出本公开示例性实施例中将待训练模型发送至多个用户终端设备标识对应的用户终端设备的流程图;
27.图3示意性示出本公开示例性实施例中将待训练模型发送至用户终端设备对应的基站,以使基站将待训练模型发送至用户终端设备的流程图;
28.图4示意性示出本公开示例性实施例中根据聚合训练梯度对待训练模型进行优化,以得到执行数据分析任务的数据分析模型的流程图;
29.图5示意性示出本公开示例性实施例中将待训练模型对应的训练参数发送至数据分析网元的流程图;
30.图6示意性示出本公开示例性实施例中通过多个用户终端设备进行联邦学习并执行数据分析任务的流程图;
31.图7示意性示出本公开示例性实施例中通过基站将待训练模型发送至用户终端设备的示意图;
32.图8示意性示出本公开示例性实施例中一种联邦学习装置的组成示意图;
33.图9示意性示出本公开示例性实施例中一种数据分析模型训练装置的组成示意图;
34.图10示意性示出了适于用来实现本公开示例性实施例的电子设备的计算机系统的结构示意图。
具体实施方式
35.现在将参照附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本公开将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。此外,所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中,提供许多具体细节从而给出对本公开的实施例的充分理解。然而,本领域技术人员将意识到,可以实践
本公开的技术方案而没有特定细节中的一个或更多,或者可以采用其它的方法、组元、装置、步骤等。在其它情况下,不详细示出或描述公知结构、方法、装置、实现、材料或者操作以避免模糊本公开的各方面。
36.附图中所示的方框图仅仅是功能实体,不一定必须与物理上独立的实体相对应。即,可以采用软件形式来实现这些功能实体,或在一个或多个软件硬化的模块中实现这些功能实体或功能实体的一部分,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
37.本公开中联邦学习的方案,可以应用于5g场景,在需要采集用户终端设备的数据并在一单独网元中进行数据分析时,均可以采用本公开的方案。需要说明的是,本公开对于应用场景并不做特殊限定。
38.根据本示例性实施例中所提供的联邦学习方法中,接收数据分析任务,获取数据分析任务对应的待训练模型,将待训练模型发送至多个用户终端设备,以使用户终端设备根据用户终端设备对应的数据对待训练模型进行训练,得到待训练模型对应的训练参数,接收多个用户终端设备返回的待训练模型对应的训练参数,根据多个待训练模型对应的训练参数确定执行数据分析任务的数据分析模型。如图1所示,该联邦学习方法可以包括以下步骤:
39.步骤s110,接收数据分析任务,获取数据分析任务对应的待训练模型;
40.步骤s120,将待训练模型发送至多个用户终端设备,以使用户终端设备根据用户终端设备对应的数据对待训练模型进行训练,得到待训练模型对应的训练参数;
41.步骤s130,接收多个用户终端设备返回的待训练模型对应的训练参数,根据多个待训练模型对应的训练参数确定执行数据分析任务的数据分析模型。
42.一方面,无需将用户数据传输至数据分析网元,可以将数据分析任务涉及的模型下发至各个用户终端设备,利用各用户终端设备的算力对模型进行训练,提升了模型训练的效率,避免数据分析网元中算力不足所导致的数据分析速度过慢的问题;另一方面,无需采集用户数据以及传输用户数据,避免了传输用户数据时产生时延从而影响用户正常使用的问题,此外,还避免了用户数据在传输过程中泄漏的问题,提升了用户数据的安全性。
43.下面,将结合附图及实施例对本示例性实施例中的联邦学习方法的步骤s110~s130进行更详细的说明。
44.步骤s110,接收数据分析任务,获取数据分析任务对应的待训练模型;
45.在本公开的一种示例实施例中,可以接收数据分析任务。具体的,该数据分析任务可以用于指示任务类型。举例而言,数据分析任务为用户体验质量(qoe)的分析任务;又如,数据分析任务为网络质量分析任务;再如,数据分析任务为通话质量分析任务。
46.进一步的,数据分析任务可以由其它网元或者服务器发送,由数据分析网元接收。举例而言,可以通过应用层网元(af,application function)发送数据分析任务,由数据分析网元接收;或者,可以通过会话管理网元(smf,session management function)发送数据分析任务,由数据分析网元接收;或者,可以通过网元数据仓库网元(nrf,nf repository function)发送数据分析任务,由数据分析网元接收。
47.需要说明的是,本公开对于发送数据分析任务的主体以及数据分析任务的具体类型并不做特殊限定。
48.其中,数据分析网元可以用于接收数据分析任务,并执行数据分析任务,再将数据分析任务对应的结果反馈至发布数据分析任务的主体。
49.举例而言,数据分析网元可以包括网络数据分析网元(nwdaf,network data analytics function)。
50.需要说明的是,本公开对于数据分析网元的具体类型并不做特殊限定。
51.在本公开的一种示例实施例中,在通过上述步骤接收数据分析任务之后,可以获取数据分析任务对应的待训练模型。具体的,数据分析任务对应的待训练模型,是指为了执行数据分析任务所使用的模型,该待训练模型处于未进行训练或者进行了部分训练的训练阶段。
52.其中,数据分析任务对应的待训练模型可以包括基于现有模型架构的模型。举例而言,数据分析任务对应的待训练模型可以包括基于长短期记忆网络(lstm,long short-term memory)的模型;或者,数据分析任务对应的待训练模型可以包括基于对抗生成网络(gan,generative adversarial network)。
53.具体而言,可以为各数据分析任务配置对应的待训练模型,或者,在接收到数据分析任务之后,可以根据数据分析任务的类型生成数据分析任务对应的待训练模型。
54.需要说明的是,本公开对于数据分析任务对应的待训练模型的具体类型以及获取数据分析任务对应的待训练模型的具体方式并不做特殊限定。
55.步骤s120,将待训练模型发送至多个用户终端设备,以使用户终端设备根据用户终端设备对应的数据对待训练模型进行训练,得到待训练模型对应的训练参数;
56.在本公开的一种示例实施例中,在通过上述步骤得到数据分析任务对应的待训练模型之后,可以将数据分析任务对应的待训练模型发送至多个用户终端设备。具体的,可以获取数据分析任务对应的用户终端设备,并将数据分析任务对应的待训练模型发送至上述用户终端设备中。或者,可以设置筛选条件,在多个用户终端设备中筛选出目标用户终端设备,并将数据分析任务对应的待训练模型发送至上述目标用户终端设备。
57.需要说明的是,本公开对于多个用户终端设备的确定方法并不做特殊限定。
58.在本公开的一种示例实施例中,将数据分析任务对应的待训练模型发送至多个用户终端设备之后,可以通过用户终端设备根据用户终端设备对应的数据对待训练模型进行训练,得到待训练模型对应的训练参数。具体的,用户终端设备中包括用于训练待训练模型的数据,可以根据该些数据对待训练模型进行训练,得到各待训练模型对应的训练参数。其中,在对待训练模型进行训练时,可以采用现有的模型训练方法。
59.其中,待训练模型对应的训练参数可以包括待训练模型的梯度,还可以包括待训练模型对应的神经网络参数。
60.需要说明的是,本公开对于待训练模型对应的训练参数的具体类型并不做特殊限定。
61.举例而言,在用户终端设备接收到数据分析任务对应的待训练模型之后,可以在用户终端设备中获取与数据分析任务相关的数据,并将该数据输入待训练模型,通过待训练模型得到预测值,再将预测值与真实值进行比较,通过预测值与真实值之间的差距确定待训练模型的损失函数,通过待训练模型的损失函数确定待训练模型的梯度,根据待训练模型的梯度对待训练模型进行训练,直至模型收敛,结束针对待训练模型的训练,并获取当
前待训练模型对应的训练参数。
62.需要说明的是,本公开对于根据用户终端设备对应的数据对待训练模型进行训练,得到待训练模型对应的训练参数的具体方式并不做特殊限定。
63.步骤s130,接收多个用户终端设备返回的待训练模型对应的训练参数,根据多个待训练模型对应的训练参数确定执行数据分析任务的数据分析模型。
64.在本公开的一种示例实施例中,在通过上述步骤将待训练模型发送至多个用户终端设备,并在多个用户终端设备中根据用户终端设备对应的数据对待训练模型进行训练,得到待训练模型对应的训练参数之后,可以接收多个用户终端设备返回的待训练模型对应的训练参数,并根据多个待训练模型对应的训练参数确定执行数据分析任务的数据分析模型。具体的,可以将多个待训练模型对应的训练参数进行参数聚合得到聚合参数,并根据聚合参数确定执行数据分析任务的数据分析模型。
65.举例而言,待训练模型对应的训练参数为模型梯度,可以将多个待训练模型对应的模型梯度聚合为聚合梯度,再根据该聚合梯度对待训练模型进行更新,以得到执行数据分析任务的数据分析模型。
66.需要说明的是,本公开对于根据多个待训练模型对应的训练参数确定执行数据分析任务的数据分析模型的具体方式并不做特殊限定。
67.在本公开的一种示例实施例中,可以获取数据分析任务对应的用户终端设备标识,将待训练模型发送至多个用户终端设备标识对应的用户终端设备。参照图2所示,将待训练模型发送至多个用户终端设备标识对应的用户终端设备,可以包括以下步骤s210~s220:
68.步骤s210,获取数据分析任务对应的用户终端设备标识;
69.在本公开的一种示例实施例中,在通过上述步骤得到数据分析任务对应的待训练模型之后,可以获取数据分析任务对应的用户终端设备标识。其中,数据分析任务对应的用户终端设备标识可以用于指示数据分析任务对应的数据分析对象,即需要针对该些用户终端设备进行数据分析。具体的,数据分析任务中可以包括用户终端设备标识,即在其它网元或服务器发布数据分析任务时,已经为该数据分析任务配置了对应的用户终端设备标识,可以将配置好的用户终端设备标识与数据分析任务共同下发,此时数据分析网元可以获取数据分析任务对应的用户终端设备标识。
70.步骤s220,将待训练模型发送至多个用户终端设备标识对应的用户终端设备。
71.在本公开的一种示例实施例中,在通过上述步骤获取到数据分析任务对应的用户终端设备标识时,可以将待训练模型发送至多个用户终端设备标识对应的用户终端设备中。具体的,用户终端设备标识可以用于指示具体的用户终端设备,即用户终端设备标识对应的用户终端设备,可以将上述步骤得到的待训练模型发送至用户终端设备标识对应的用户终端设备中。
72.举例而言,通过上述步骤得到的数据分析任务对应的用户终端设备标识为a1、a2、a5、a6,可以将数据分析任务对应的待训练模型发送至用户终端设备标识a1对应的用户终端设备a1、用户终端设备标识a2对应的用户终端设备a2、用户终端设备标识a5对应的用户终端设备a5、用户终端设备标识a6对应的用户终端设备a6,。
73.需要说明的是,本公开对于数据分析任务对应的用户终端设备标识的具体形式以
及获取数据分析任务对应的用户终端设备标识的具体方法并不做特殊限定。
74.通过上述步骤s210~s220,可以获取数据分析任务对应的用户终端设备标识,将待训练模型发送至多个用户终端设备标识对应的用户终端设备。
75.在本公开的一种示例实施例中,可以获取数据分析任务对应的用户终端设备,通过接入网获取用户终端设备对应的基站,将待训练模型发送至用户终端设备对应的基站,以使基站将待训练模型发送至用户终端设备。参照图3所示,将待训练模型发送至用户终端设备对应的基站,以使基站将待训练模型发送至用户终端设备,可以包括以下步骤s310~s320:
76.步骤s310,获取数据分析任务对应的用户终端设备,通过接入网获取用户终端设备对应的基站;
77.在本公开的一种示例实施例中,在通过上述步骤得到数据分析任务对应的待训练模型之后,可以获取数据分析任务对应的用户终端设备。具体的,数据分析任务对应的用户终端设备可以用于指示数据分析任务的对象,即需要针对该些用户终端设备进行数据分析。具体的,数据分析任务中可以包括所要进行数据分析的用户终端设备的相关信息,并可以通过用户终端设备的相关信息确定数据分析任务对应的用户终端设备。即在其它网元或服务器发布数据分析任务时,已经为该数据分析任务配置了对应的用户终端设备,可以将配置好的用户终端设备与数据分析任务共同下发,此时数据分析网元可以获取数据分析任务对应的用户终端设备。
78.在本公开的一种示例实施例中,在通过上述步骤确定数据分析任务对应的用户终端设备之后,可以通过接入网确定用户终端设备对应的基站。具体的,用户终端设备对应的基站可以用于指示用户终端设备所属的基站,可以根据用户终端设备的链接链路确定用户终端设备对应的基站。其中,是移动设备接入互联网的接口设备,也是无线电台站的一种形式,是指在一定的无线电覆盖区中,通过移动通信交换中心,与移动电话终端之间进行信息传递的无线电收发信电台。
79.需要说明的是,本公开对于基站的具体类型以及通过接入网确定用户终端设备对应的基站的具体方式并不做特效限定。
80.步骤s320,将待训练模型发送至用户终端设备对应的基站,以使基站将待训练模型发送至用户终端设备。
81.在本公开的一种示例实施例中,在通过上述步骤得到用户终端设备对应的基站之后,可以将数据分析任务对应的待训练模型发送至用户终端设备对应的基站,以使用户终端设备对应的基站将数据分析任务对应的待训练模型发送至数据分析任务对应的用户终端设备中。具体的,可以通过用户终端设备对应的基站对数据分析任务对应的待训练模型进行中转,先将数据分析任务对应的待训练模型发送至用户终端设备对应的基站,再从用户终端设备对应的基站发送至用户终端设备。
82.需要说明的是,本公开对于基站将待训练模型发送至用户终端设备的具体方式并不做特殊限定。
83.通过上述步骤s310~s320,可以获取数据分析任务对应的用户终端设备,通过接入网获取用户终端设备对应的基站,将待训练模型发送至用户终端设备对应的基站,以使基站将待训练模型发送至用户终端设备。
84.在本公开的一种示例实施例中,可以根据多个待训练模型对应的训练梯度确定待训练模型的聚合训练梯度,根据聚合训练梯度对待训练模型进行优化,以得到执行数据分析任务的数据分析模型。参照图4所示,根据聚合训练梯度对待训练模型进行优化,以得到执行数据分析任务的数据分析模型,可以包括以下步骤s410~s420:
85.步骤s410,根据多个待训练模型对应的训练梯度确定待训练模型的聚合训练梯度;
86.在本公开的一种示例实施例中,在通过上述步骤将待训练模型发送至多个用户终端设备,用户终端设备根据用户终端设备对应的数据对待训练模型进行训练之后,可以得到待训练模型对应的训练梯度。其中,待训练模型对应的训练梯度是指损失函数在该点处的方向导数沿着该方向取得最大值,即函数在该点处沿着该方向变化最快,变化率最大。可以通过待训练模型对应的训练梯度对待训练模型进行优化。具体的,可以采用现有的算法计算待训练模型对应的训练梯度。
87.在通过上述步骤得到多个待训练模型对应的训练梯度之后,可以根据多个待训练模型对应的训练梯度确定待训练模型的聚合训练梯度。具体的,待训练模型的聚合训练梯度是指将多个用户终端设备训练得到的待训练模型对应的训练梯度进行融合得到的训练梯度。
88.需要说明的是,本公开对于根据多个待训练模型对应的训练梯度确定待训练模型的聚合训练梯度的具体方式并不做特殊限定。
89.步骤s420,根据聚合训练梯度对待训练模型进行优化,以得到执行数据分析任务的数据分析模型。
90.在本公开的一种示例实施例中,在通过上述步骤得到待训练模型的聚合训练梯度之后,可以根据聚合训练梯度对待训练模型进行优化,以得到执行数据分析任务的数据分析模型。具体的,在根据聚合训练梯度对待训练模型进行优化时,可以对待训练模型的神经网络参数进行更新,以得到执行数据分析任务的数据分析模型。
91.需要说明的是,本公开对于根据聚合训练梯度对待训练模型进行优化的具体方式并不做特殊限定。
92.在本公开的一种示例实施例中,可以将多个待训练模型对应的训练梯度通过加权平均算法确定待训练模型的聚合训练梯度。具体的,数据分析网元将多个待训练模型对应的训练梯度相加,再基于加权平均算法确定待训练模型的聚合训练梯度。需要说明的是,本公开对于通过加权平均算法确定待训练模型的聚合训练梯度的具体方式并不做特殊限定。
93.通过上述步骤s410~s420,可以根据多个待训练模型对应的训练梯度确定待训练模型的聚合训练梯度,根据聚合训练梯度对待训练模型进行优化,以得到执行数据分析任务的数据分析模型。
94.在本公开的一种示例实施例中,可以在用户终端设备中接收数据分析网元发送的待训练模型,根据用户终端设备对应的数据对待训练模型进行训练,得到待训练模型对应的训练参数,将待训练模型对应的训练参数发送至数据分析网元,以使数据分析网元根据多个待训练模型对应的训练参数确定执行数据分析任务的数据分析模型。参照图5所示,将待训练模型对应的训练参数发送至数据分析网元,可以包括以下步骤s510~s530:
95.步骤s510,接收数据分析网元发送的待训练模型;
96.在本公开的一种示例实施例中,在数据分析网元接收到数据分析任务之后,可以获取数据分析任务对应的待训练模型,可以通过数据分析网元将数据分析任务对应的待训练模型发送至用户终端设备,并由用户终端设备接收数据分析网元发送的待训练模型。具体的,接收数据分析网元发送的待训练模型的用户终端设备可以为数据分析任务对应的用户终端设备,即可以通过数据分析任务所针对的对象(用户终端设备)接收数据分析网元发送的待训练模型。
97.需要说明的是,本公开对于接收数据分析网元发送的待训练模型的具体方式并不做特殊限定。
98.步骤s520,根据用户终端设备对应的数据对待训练模型进行训练,得到待训练模型对应的训练参数;
99.在本公开的一种示例实施例中,在通过上述步骤接收到数据分析网元发送的待训练模型之后,可以根据用户终端设备对应的数据对待训练模型进行训练,得到待训练模型对应的训练参数。具体的,用户终端设备中包括用于训练待训练模型的数据,可以根据该些数据对待训练模型进行训练,得到各待训练模型对应的训练参数。其中,在对待训练模型进行训练时,可以采用现有的模型训练方法。
100.其中,待训练模型对应的训练参数可以包括待训练模型的梯度,还可以包括待训练模型对应的神经网络参数。
101.需要说明的是,本公开对于待训练模型对应的训练参数的具体类型并不做特殊限定。
102.举例而言,在用户终端设备接收到数据分析任务对应的待训练模型之后,可以在用户终端设备中获取与数据分析任务相关的数据,并将该数据输入待训练模型,通过待训练模型得到预测值,再将预测值与真实值进行比较,通过预测值与真实值之间的差距确定待训练模型的损失函数,通过待训练模型的损失函数确定待训练模型的梯度,根据待训练模型的梯度对待训练模型进行训练,直至模型收敛,结束针对待训练模型的训练,并获取当前待训练模型对应的训练参数。
103.需要说明的是,本公开对于根据用户终端设备对应的数据对待训练模型进行训练,得到待训练模型对应的训练参数的具体方式并不做特殊限定。
104.步骤s530,将待训练模型对应的训练参数发送至数据分析网元,以使数据分析网元根据多个待训练模型对应的训练参数确定执行数据分析任务的数据分析模型。
105.在本公开的一种示例实施例中,在通过上述步骤得到待训练模型对应的训练参数之后,可以将待训练模型对应的训练参数发送至数据分析网元。具体的,可以将多个待训练模型对应的训练参数进行参数聚合得到聚合参数,并根据聚合参数确定执行数据分析任务的数据分析模型。
106.举例而言,待训练模型对应的训练参数为模型梯度,可以将多个待训练模型对应的模型梯度聚合为聚合梯度,再根据该聚合梯度对待训练模型进行更新,以得到执行数据分析任务的数据分析模型。
107.需要说明的是,本公开对于根据多个待训练模型对应的训练参数确定执行数据分析任务的数据分析模型的具体方式并不做特殊限定。
108.通过上述步骤s510~s530,可以在用户终端设备中接收数据分析网元发送的待训
练模型,根据用户终端设备对应的数据对待训练模型进行训练,得到待训练模型对应的训练参数,将待训练模型对应的训练参数发送至数据分析网元,以使数据分析网元根据多个待训练模型对应的训练参数确定执行数据分析任务的数据分析模型。
109.在本公开的一种示例实施例中,可以通过网元向数据分析网元订阅数据分析服务,数据分析网元接收到数据分析服务之后,可以向设备管理网元发送数据分析任务,根据设备管理网元确定数据分析任务对应的用户终端设备,设备管理网元将得到的用户终端设备返回至数据分析网元,并为用户终端设备、基站、设备管理网元建立pdu会话,数据分析网元将数据分析任务对应的待训练模型发送至多个用户终端设备,用户终端设备根据用户终端设备对应的数据对待训练模型进行训练,得到待训练模型对应的训练参数,用户终端设备将待训练模型对应的训练参数上传至数据分析网元,在数据分析网元中根据多个待训练模型的训练梯度确定聚合训练梯度,根据聚合训练梯度对待训练模型进行优化,得到执行数据分析任务的数据分析模型,在数据分析网元中通过数据分析模型执行数据分析任务,再将数据分析任务对应的结果返回至订阅数据分析服务的网元。参照图6所示,通过多个用户终端设备进行联邦学习并执行数据分析任务,可以包括以下步骤s601~s608:
110.步骤s601,向数据分析网元订阅数据分析服务;步骤s602,向设备管理网元发送数据分析任务;步骤s603,确定数据分析任务对应的用户终端设备;步骤s604,将得到的用户终端设备返回至数据分析网元;步骤s605,用户终端设备、基站、设备管理网元建立pdu会话;步骤s606,将数据分析任务对应的待训练模型发送至多个用户终端设备;步骤s607,根据用户终端设备对应的数据对待训练模型进行训练;步骤s608,将待训练模型对应的训练参数上传至数据分析网元;
111.步骤s609,根据多个待训练模型的训练梯度确定聚合训练梯度,进行优化,得到数据分析模型;步骤s610,通过数据分析模型执行数据分析任务;步骤s611,将数据分析任务对应的结果返回至订阅数据分析服务的网元。
112.进一步的,可以将通过数据分析网元聚合得到的聚合训练梯度下发至各用户终端设备,在用户终端设备中根据聚合训练梯度对待训练模型进行优化,并继续进行训练,再将得到的训练梯度返回至数据分析网元,以此类推,直至训练结束得到执行数据分析任务的数据分析模型。
113.在本公开的一种示例实施例中,参照图7所示,可以通过基站将待训练模型发送至用户终端设备,数据分析网元可以向设备管理网元发送数据分析任务,由设备管理网元获取数据分析任务对应的用户终端设备,并获取用户终端设备对应的基站,再将待训练模型发送至用户终端设备对应的基站,由基站将待训练模型发送至用户终端设备,在用户终端设备中得到待训练模型对应的训练参数之后,可以将待训练模型对应的训练参数上传至基站,再由基站将待训练模型对应的训练参数发送至设备管理网元,由设备管理网元将待训练模型对应的训练参数返回至数据分析网元,由数据分析网元根据多个待训练模型对应的训练参数确定执行数据分析任务的数据分析模型。
114.在本公开的一种示例实施例中,在通过上述步骤得到执行数据分析任务的数据分析模型之后,可以将数据分析模型下发至各个用户终端设备,并通过数据分析模型结合用户终端设备中的数据进行分析得到子分析结果,再将子分析结果返回值数据分析网元中,在数据分析网元中对多个子分析结果进行数据处理得到数据分析任务对应的结果,将数据
分析任务对应的结果发送至订阅数据分析服务的网元。
115.根据本示例性实施例中所提供的联邦学习方法中,接收数据分析任务,获取数据分析任务对应的待训练模型,将待训练模型发送至多个用户终端设备,以使用户终端设备根据用户终端设备对应的数据对待训练模型进行训练,得到待训练模型对应的训练参数,接收多个用户终端设备返回的待训练模型对应的训练参数,根据多个待训练模型对应的训练参数确定执行数据分析任务的数据分析模型。
116.一方面,无需将用户数据传输至数据分析网元,可以将数据分析任务涉及的模型下发至各个用户终端设备,能够利用各用户终端设备的算力对模型进行训练,提升了模型训练的效率,避免数据分析网元中算力不足所导致的数据分析速度过慢的问题;另一方面,无需采集用户数据以及传输用户数据,避免了传输用户数据时产生时延从而影响用户正常使用的问题,此外,还避免了用户数据在传输过程中泄漏的问题,提升了用户数据的安全性。
117.需要注意的是,上述附图仅是根据本公开示例性实施例的方法所包括的处理的示意性说明,而不是限制目的。易于理解,上述附图所示的处理并不表明或限制这些处理的时间顺序。另外,也易于理解,这些处理可以是例如在多个模块中同步或异步执行的。
118.此外,在本公开的示例性实施方式中,还提供了一种联邦学习装置。参照图8所示,一种联邦学习装置800包括:数据分析任务接收模块810、训练模型发送模块820、训练参数接收模块830。
119.其中,数据分析任务接收模块,用于接收数据分析任务,获取数据分析任务对应的待训练模型;训练模型发送模块,用于将待训练模型发送至多个用户终端设备,以使用户终端设备根据用户终端设备对应的数据对待训练模型进行训练,得到待训练模型对应的训练参数;训练参数接收模块,用于接收多个用户终端设备返回的待训练模型对应的训练参数,根据多个待训练模型对应的训练参数确定执行数据分析任务的数据分析模型。
120.在本公开的一种示例性实施例中,基于前述方案,将待训练模型发送至多个用户终端设备,装置还包括:用户终端设备标识获取单元,用于获取数据分析任务对应的用户终端设备标识;第一待训练模型发送子单元,用于将待训练模型发送至多个用户终端设备标识对应的用户终端设备。
121.在本公开的一种示例性实施例中,基于前述方案,将待训练模型发送至多个用户终端设备,装置还包括:基站获取单元,用于获取数据分析任务对应的用户终端设备,通过接入网获取用户终端设备对应的基站;第二待训练模型发送子单元,用于将待训练模型发送至用户终端设备对应的基站,以使基站将待训练模型发送至用户终端设备。
122.在本公开的一种示例性实施例中,基于前述方案,待训练模型对应的训练参数为训练梯度,根据多个待训练模型对应的训练参数确定执行数据分析任务的数据分析模型,装置还包括:第一聚合训练梯度确定单元,用于根据多个待训练模型对应的训练梯度确定待训练模型的聚合训练梯度;模型优化单元,用于根据聚合训练梯度对待训练模型进行优化,以得到执行数据分析任务的数据分析模型。
123.在本公开的一种示例性实施例中,基于前述方案,根据多个待训练模型对应的训练梯度确定待训练模型的聚合训练梯度,装置还包括:第二聚合训练梯度单元,用于将多个待训练模型对应的训练梯度通过加权平均算法确定待训练模型的聚合训练梯度。
124.由于本公开的示例实施例的联邦学习装置的各个功能模块与上述联邦学习方法的示例实施例的步骤对应,因此对于本公开装置实施例中未披露的细节,请参照本公开上述的联邦学习方法的实施例。
125.此外,在本公开的示例性实施方式中,还提供了一种数据分析模型训练装置。参照图9所示,一种数据分析模型训练装置900包括:待训练模型接收模块910、训练参数获取模块920、训练参数发送模块930。
126.其中,待训练模型接收模块,用于接收数据分析网元发送的待训练模型;训练参数获取模块,用于根据用户终端设备对应的数据对待训练模型进行训练,得到待训练模型对应的训练参数;训练参数发送模块,用于将待训练模型对应的训练参数发送至数据分析网元,以使数据分析网元根据多个待训练模型对应的训练参数确定执行数据分析任务的数据分析模型。
127.由于本公开的示例实施例的数据分析模型训练装置的各个功能模块与上述数据分析模型训练方法的示例实施例的步骤对应,因此对于本公开装置实施例中未披露的细节,请参照本公开上述的数据分析模型训练方法的实施例。
128.应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本公开的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
129.此外,在本公开的示例性实施例中,还提供了一种能够实现上述联邦学习方法以及数据分析模型训练方法的电子设备。
130.所属技术领域的技术人员能够理解,本公开的各个方面可以实现为系统、方法或程序产品。因此,本公开的各个方面可以具体实现为以下形式,即:完全的硬件实施例、完全的软件实施例(包括固件、微代码等),或硬件和软件方面结合的实施例,这里可以统称为“电路”、“模块”或“系统”。
131.下面参照图10来描述根据本公开的这种实施例的电子设备1000。图10显示的电子设备1000仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
132.如图10所示,电子设备1000以通用计算设备的形式表现。电子设备1000的组件可以包括但不限于:上述至少一个处理单元1010、上述至少一个存储单元1020、连接不同系统组件(包括存储单元1020和处理单元1010)的总线1030、显示单元1040。
133.其中,存储单元存储有程序代码,程序代码可以被处理单元1010执行,使得处理单元1010执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施例的步骤。例如,处理单元1010可以执行如图1中所示的步骤s100,接收数据分析任务,获取数据分析任务对应的待训练模型;步骤s120,将待训练模型发送至多个用户终端设备,以使用户终端设备根据用户终端设备对应的数据对待训练模型进行训练,得到待训练模型对应的训练参数;步骤s130,接收多个用户终端设备返回的待训练模型对应的训练参数,根据多个待训练模型对应的训练参数确定执行数据分析任务的数据分析模型。或者,处理单元1010可以执行如图5中所示的步骤s510,接收数据分析网元发送的待训练模型;步骤s520,根据用户终端设备对应的数据对待训练模型进行训练,得到待训练模型对应的训练参数;步骤s530,将待训练模型对应的训练参数发送至数据分析网元,以使数据分析网元根据多个待训练模
型对应的训练参数确定执行数据分析任务的数据分析模型。
134.又如,电子设备可以实现如图1或图5所示的各个步骤。
135.存储单元1020可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(ram)1021和/或高速缓存存储单元1022,还可以进一步包括只读存储单元(rom)1023。
136.存储单元1020还可以包括具有一组(至少一个)程序模块1025的程序/实用工具1024,这样的程序模块1025包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
137.总线1030可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
138.电子设备1000也可以与一个或多个外部设备1070(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得用户能与该电子设备1000交互的设备通信,和/或与使得该电子设备1000能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(i/o)接口1050进行。并且,电子设备1000还可以通过网络适配器1060与一个或者多个网络(例如局域网(lan),广域网(wan)和/或公共网络,例如因特网)通信。如图所示,网络适配器1060通过总线1030与电子设备1000的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备1000使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、raid系统、磁带驱动器以及数据备份存储系统等。
139.通过以上的实施例的描述,本领域的技术人员易于理解,这里描述的示例实施例可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本公开实施例的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是cd-rom,u盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者网络设备等)执行根据本公开实施例的方法。
140.在本公开的示例性实施例中,还提供了一种计算机可读存储介质,其上存储有能够实现本说明书上述方法的程序产品。在一些可能的实施例中,本公开的各个方面还可以实现为一种程序产品的形式,其包括程序代码,当程序产品在终端设备上运行时,程序代码用于使终端设备执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施例的步骤。
141.计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
142.可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、rf等等,或者上述的任意合适的组合。
143.可以以一种或多种程序设计语言的任意组合来编写用于执行本公开操作的程序代码,程序设计语言包括面向对象的程序设计语言—诸如java、c++等,还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算
设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(lan)或广域网(wan),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
144.此外,上述附图仅是根据本公开示例性实施例的方法所包括的处理的示意性说明,而不是限制目的。易于理解,上述附图所示的处理并不表明或限制这些处理的时间顺序。另外,也易于理解,这些处理可以是例如在多个模块中同步或异步执行的。
145.本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本公开的其他实施例。本技术旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由权利要求指出。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1