5G核心网络中的机器学习(ML)模型重新训练的制作方法

本技术总体上涉及通信网络领域，并且更具体地，涉及用于基于机器学习(ml)模型在通信网络中生成分析的技术，包括对5g核心(5gc)网络中使用的这种模型的重新训练。

背景技术：

1、目前，第五代(“5g”)蜂窝系统，也被称为新无线电(nr)，正在第三代合作伙伴计划(3gpp)内进行标准化。nr的开发旨在实现最大的灵活性，以支持多种且截然不同的用例。这些用例包括增强型移动宽带(embb)、机器类型通信(mtc)、超可靠低时延通信(urllc)、辅链路设备到设备(d2d)以及其他若干用例。

2、在高层次上，5g系统(5gs)由接入网络(an)和核心网络(cn)组成。an例如经由基站(例如，下面描述的gnb或ng-enb)来提供ue到cn的连接。cn包括提供宽范围的不同功能(例如，会话管理、连接管理、计费、认证等)的各种网络功能(nf)。

3、图1示出了示例性5g网络架构的高级视图，该示例性5g网络架构由下一代无线电接入网络(ng-ran)199和5g核心(5gc)198组成。ng-ran 199可以包括经由一个或多个ng接口连接到5gc的一个或多个gnodeb(gnb)，例如分别经由接口102、152连接的gnb 100、150。更具体地，gnb 100、150可以经由相应ng-c接口连接到5gc 198中的一个或多个接入和移动性管理功能(amf)。类似地，gnb 100、150可以经由相应ng-u接口连接到5gc 198中的一个或多个用户平面功能(upf)。各种其他网络功能(nf)可以包括在5gc 198中，如下面更详细地描述的。

4、另外，gnb可以经由一个或多个xn接口(例如，gnb 100和150之间的xn接口140)彼此连接。ng-ran的无线电技术通常被称为“新无线电”(nr)。关于到ue的nr接口，每个gnb可以支持频分双工(fdd)、时分双工(tdd)或其组合。每个gnb可以为包括一个以上小区的地理覆盖区域提供服务，并且在一些情况下，还可以使用各种定向波束来在相应小区中提供覆盖。

5、ng-ran 199被分层为无线电网络层(rnl)和传输网络层(tnl)。ng-ran架构(即，ng-ran逻辑节点和它们之间的接口)被定义为rnl的一部分。对于每个ng-ran接口(ng、xn、f1)，指定了相关的tnl协议和功能。tnl提供了用于用户平面传输和信令传输的服务。

6、图1所示的ng-ran逻辑节点包括中央单元(cu或gnb-cu)和一个或多个分布式单元(du或gnb-du)。例如，gnb 100包括gnb-cu 110以及gnb-du 120和130。cu(例如，gnb-cu110)是托管高层协议并执行各种gnb功能(例如，控制du的操作)的逻辑节点。du(例如，gnb-du 120、130)是分散式逻辑节点，该分散式逻辑节点托管低层协议并且可以取决于功能拆分选项而包括gnb功能的各种子集。

7、gnb-cu通过相应f1逻辑接口(例如，图1所示的接口122和132)连接到一个或多个gnb-du。然而，gnb-du仅可以连接到单个gnb-cu。gnb-cu和所连接的gnb-du仅对其他gnb和作为gnb的5gc可见。换言之，f1接口在gnb-cu之外不可见。

8、5g网络中(例如，5gc中)的另一变化是，前代网络中的传统对等接口和协议被基于服务的架构(sba)所修改和/或替换，在sba中，网络功能(nf)向一个或多个服务消费者提供一个或多个服务。例如，这可以通过超文本传输协议/表示状态传输(http/rest)应用编程接口(api)来进行。通常，各种服务是自包含的功能，可以以孤立的方式改变和修改这些功能，而不会影响其他服务。

9、此外，服务由各种“服务操作”组成，它们是整个服务功能的更细粒度的划分。服务消费者和生产者之间的交互可以是“请求/响应”或“订阅/通知”类型。在5g sba中，网络存储库功能(nrf)允许每个网络功能发现由其他网络功能提供的服务，而数据存储功能(dsf)允许每个网络功能存储其上下文。该5g sba模型基于包括nf的模块化、可重用性和独立性的原则，这可以使网络部署能够利用最新的虚拟化和软件技术。

10、本公开中特别感兴趣的5gc nf是网络数据分析功能(nwdaf)。该nf在网络切片实例级别上向其他nf提供网络分析信息(例如，过去事件的统计信息和/或预测信息)。nwdaf可以从任何5gc nf收集数据。注意，“网络切片”是5g网络的逻辑分区，其提供例如支持特定服务的特定网络能力和特性。网络切片实例是nf实例和所需网络资源(例如，计算、存储、通信)的集合，该所需网络资源提供网络切片的能力和特性。

11、机器学习(ml)是一种类型的人工智能(ai)，其专注于使用数据和算法来模仿人类的学习方式，随着更多数据变得可用来逐渐提高准确性。ml算法基于样本(或“训练”)数据来构建模型，随后使用该模型来做出预测或决策。ml算法可以用在各种应用(例如医学、电子邮件过滤、语音识别等)中，在这些应用中，开发常规算法来执行所需任务是困难或不可行的。ml的子集与计算统计密切相关。

12、3gpp ts 23.288(v17.2.0)指定nwdaf是用于计算分析报告的主要网络功能，并且将nwdaf分类为两个子功能(或逻辑功能)：分析逻辑功能(anlf)，其执行分析过程；以及模型训练逻辑功能(mtlf)，其对由anlf使用的ml模型执行训练和重新训练。

技术实现思路

1、预期机器学习模型将随着时间而退化，使得将需要重新训练退化的模型或用新模型代替退化的模型。3gpp ts23.288(v17.2.0)指定nwdaf mtlf可以确定需要对现有ml模型的进一步训练，但没有为该确定提供指南和/或要求。

2、ml模型重新训练可能还需要收集数据，这可能花费大量时间，在这些时间期间，已知退化的ml模型正被用于网络分析。如果退化严重，则应简单地终止ml模型，因为使用有缺陷的ml模型可能对用户和/或网络有害。需要一种机制来缩短当ml模型被确定为无用时与当经重新训练的ml模型可用时之间的间隙。

3、本公开的实施例解决了这些和其他问题、难题和/或困难，从而促进用于网络分析的ml模型的其他有利部署。

4、本公开的一些实施例包括用于通信网络(例如，5gc)的nwdaf的漂移检测逻辑功能(ddlf)的方法(例如，过程)。

5、这些示例性方法可以包括从nwdaf的mtlf接收对与由nwdaf的anlf使用的ml模型相关联的漂移监测通知的订阅请求。这些示例性方法还可以包括基于与ml模型相关联的元数据来监测与ml模型相关联的漂移。这些示例性方法还可以包括：基于该监测满足元数据中包括的一项或多项标准，根据订阅向mtlf发送一个或多个漂移监测通知。

6、在一些实施例中，对多个监测对象执行监测(例如，在框840中)。每个监测对象与以下类型的数据之一相关联：

7、·由anlf获取的用于输入到ml模型的原始数据；

8、·由anlf基于原始数据计算出的特征向量；以及

9、·基于ml模型的预测。

10、在一些变型中，当与基于ml模型的预测相对应的实际值可用时，与预测相关联的每个监测对象还与这种实际值相关联。

11、在这些实施例中的一些实施例中，与ml模型相关联的元数据包括漂移检测配置，对于监测对象中的每个特定监测对象，该漂移检测配置包括以下项中的一项或多项：

12、·要用于该特定监测对象的数据的访问信息；

13、·要用于该特定监测对象的数据的具体属性和/或子集；以及

14、·要用于该特定监测对象的数据的大小、持续时间和/或采样率。

15、在一些变型中，漂移检测配置还包括：

16、·对于与原始数据或特征向量相关联的每个特定监测对象，对所支持的数据漂移测试的标识；以及

17、·对于与基于ml模型的预测相关联的每个特定监测对象，对相关性能度量以及每个相关性能度量的一个或多个阈值的标识。

18、在一些实施例中，根据元数据中包括的监测时段来周期性地执行漂移监测。另外，监测漂移可以包括：在每个监测时段，评估与每个监测对象相关联的数据的类型的度量。

19、在这些实施例中的一些实施例中，发送给mtlf的该一个或多个漂移监测通知包括与周期性评估相对应的周期性漂移监测通知。在这种实施例中，每个(周期性)漂移监测通知包括以下项中的一项或多项：

20、·ml模型或与漂移监测相关联的分析的标识符，

21、·时间戳，

22、·观察到的与每个监测对象相关联的漂移水平，

23、·用于每个监测对象的数据漂移测试或性能度量的标识符，以及

24、·与每个监测对象相关联的数据的类型的度量的值。

25、在这些实施例中的其他实施例中，监测漂移还包括每个监测时段处的以下操作：

26、确定监测对象的相应度量和与监测对象相关联的相应阈值之间的相应第一关系；以及

27、基于相应第一关系之间的第二关系来确定是否已经发生漂移；以及

28、当确定已经发生漂移时，基于终止阈值来确定漂移是否严重。

29、阈值、第一关系、第二关系和终止阈值可以是漂移监测配置的一部分。

30、在这种实施例中，元数据中的该一项或多项标准(即，监测必须满足其以触发漂移监测通知)包括已经发生漂移。在这种情况下，漂移监测通知包括以下项中的一项或多项：

31、·漂移是否严重的指示；

32、·ml模型或与漂移监测相关联的分析的标识符；

33、·时间戳；

34、·漂移监测的周期；以及

35、·与每个监测对象相关联的数据的类型的度量的值。

36、在一些实施例中，漂移监测可以包括以下操作：

37、·针对监测对象启动相应漂移监视器；

38、·从漂移监视器接收相应漂移通知，以及

39、·随后关闭相应漂移监视器。

40、在这种实施例中，发送给mtlf的该一个或多个漂移监测通知基于来自漂移监视器的相应漂移通知。

41、在一些实施例中，订阅请求包括以下项中的一项或多项：

42、·与ml模型相关联的元数据；

43、·与漂移监测相关联的一个或多个分析标识符；

44、·与漂移监测相关联的一个或多个ml模型标识符；

45、·用于发送漂移监测通知的地址；

46、·订阅请求的时间戳；以及

47、·订阅请求的有效性持续时间。

48、在这些实施例中的一些实施例(例如，其中订阅请求不包括元数据)中，该示例性方法还可以包括：响应于接收到订阅请求，向mtlf发送对ml模型信息的请求，并且从mtlf接收包括与ml模型相关联的元数据的响应。

49、其他实施例包括用于通信网络(例如，5gc)的nwdaf的mtlf的示例性方法(例如，过程)。

50、这些示例性方法可以包括向nwdaf的ddlf发送对与由nwdaf的anlf使用的ml模型相关联的漂移监测通知的订阅请求。这些示例性方法还可以包括随后根据订阅从ddlf接收一个或多个漂移监测通知。这些示例性方法还可以包括基于漂移监测通知来确定以下项中的一项或多项：是否重新训练ml模型，是否通知anlf终止ml模型的使用，以及是否训练不同的ml模型。

51、在各种实施例中，订阅请求可以包括上面关于ddlf实施例总结的任何信息。

52、在一些实施例(例如，其中订阅请求不包括元数据)中，这些示例性方法还可以包括：响应于发送订阅请求，从ddlf接收对ml模型信息的请求，并且向ddlf发送包括与ml模型相关联的元数据的响应。

53、在一些实施例中，每个漂移监测通知基于多个监测对象，其中每个监测对象与以下类型的数据之一相关联：

54、·由anlf获取的用于输入到ml模型的原始数据；

55、·由anlf基于原始数据计算出的特征向量；以及

56、·基于ml模型的预测。

57、在一些变型中，当与基于ml模型的预测相对应的实际值可用时，与预测相关联的每个监测对象还与这种实际值相关联。

58、在这些实施例中的一些实施例中，与ml模型相关联的元数据包括漂移检测配置，其可以包括上面关于ddlf实施例总结的任何信息。

59、在一些实施例中，ddlf根据元数据中包括的监测时段来周期性地执行监测漂移。从ddlf接收到的该一个或多个漂移监测通知包括与监测时段相对应的周期性漂移监测通知。在这些实施例中的一些实施例中，每个(周期性)漂移监测通知包括以下项中的一项或多项：

60、·ml模型或与漂移监测相关联的分析的标识符，

61、·时间戳，

62、·观察到的与每个监测对象相关联的漂移水平，

63、·用于每个监测对象的数据漂移测试或性能度量的标识符，以及

64、·与每个监测对象相关联的数据的类型的度量的值。

65、在这些实施例中的一些实施例中，这些示例性方法还可以包括在每个监测时段处的以下操作：

66、·确定监测对象的相应度量和与监测对象相关联的相应阈值之间的相应第一关系；

67、·基于相应第一关系之间的第二关系来确定是否已经发生漂移；以及

68、·当确定已经发生漂移时，基于终止阈值来确定漂移是否严重。

69、阈值、第一关系、第二关系和终止阈值可以是漂移监测配置的一部分。

70、在这些实施例中的其他实施例中，每个漂移监测通知是基于ddlf确定已经发生漂移来接收的。在这种实施例中，每个漂移监测通知包括以下项中的一项或多项：

71、·漂移是否严重的指示；

72、·ml模型或与漂移监测相关联的分析的标识符；

73、·时间戳；

74、·漂移监测的周期；以及

75、与每个监测对象相关联的数据的类型的度量的值。

76、在一些实施例中，这些示例性方法还可包括：基于由ddlf指示或由mtlf确定已经发生ml模型的漂移，重新训练ml模型并且向anlf通知经重新训练的ml模型的可用性。在一些实施例中，这些示例性方法还可包括：基于由ddlf指示或由mtlf确定ml模型的漂移严重，通知anlf终止ml模型的使用。

77、在这些实施例中的一些实施例中，这些示例性方法还可以包括从anlf接收对与ml模型相关联的通知的订阅请求。发送给ddlf的针对漂移监测通知的订阅请求基于从anlf接收到的订阅请求，并且通知anlf是基于该订阅请求的。

78、其他实施例包括用于通信网络(例如，5gc)的nwdaf的anlf的方法(例如，过程)。

79、这些示例性方法可以包括将ml模型应用于由anlf获取的原始数据，以获得与通信网络相关联的分析的预测。这些示例性方法还可以包括向nwdaf的mtlf发送对与ml模型相关联的通知的订阅请求。这些示例性方法还可以包括基于订阅请求从mtlf接收以下中的一项或多项：经重新训练的ml模型的可用性的通知，以及终止ml模型的使用的通知。

80、在一些实施例中，对mtlf的订阅请求包括以下项中的一项或多项：

81、·与ml模型相关联的元数据；

82、·一个或多个分析标识符；

83、·一个或多个ml模型标识符；

84、·用于发送通知的地址；

85、·订阅请求的时间戳；以及

86、·订阅请求的有效性持续时间。

87、在一些实施例中，这些示例性方法还可以包括将以下信息中的一种或多种信息存储在可由mtlf和nwdaf的ddlf访问的数据储存库中：

88、·原始数据；

89、·由anlf基于原始数据计算出的ml模型的特征向量；以及

90、·基于ml模型的预测。

91、在一些变型中，当与基于ml模型的预测相对应的实际值可用时，数据存储库中存储的信息还包括这种实际值。

92、在一些实施例中，这些示例性方法还可以包括：基于接收到经重新训练的ml模型的可用性的通知，从mtlf获得经重新训练的ml模型并且应用经重新训练的ml模型而不是ml模型。在一些实施例中，这些示例性方法还可以包括基于接收到终止ml模型的使用的通知来终止ml模型的使用。

93、其他实施例包括ddlf、mtlf和anlf(或托管ddlf、mtlf和anlf的网络节点)，其被配置为执行与本文描述的示例性方法中的任一方法相对应的操作。其他实施例还包括：存储计算机可执行指令的非暂时性计算机可读介质，该计算机可执行指令当由与这种ddlf、mtlf和anlf相关联的处理电路执行时，将ddlf、mtlf和anlf配置为执行与根据本文描述的示例性方法中的任一方法相对应的操作。

94、这些实施例和其他公开的实施例可以促进检测用于nwdaf分析的ml模型中的漂移并且及时向mtlf提供该漂移的指示，这可以在由漂移所导致的不准确性达到不可接受的水平之前(例如，在周期性和/或预定义的模型重新训练事件之前)重新训练ml模型。备选地，当报告所检测到的漂移和/或不准确性变得太严重时，mtlf可以触发ml模型的终止。此外，简化了ml模型漂移的检测和提供，因为它由特定逻辑功能(例如，ddlf)来执行。

95、在结合以下简要描述的附图阅读以下详细描述时，本公开的这些和其他目的、特征和优点将变得显而易见。