一种在通信网端侧使用人工智能服务的方法及其装置

本公开涉及通信，尤其涉及一种在通信网端侧使用人工智能服务的方法及其装置。

背景技术：

1、在未来的万物智联通信网络中，网络节点趋向于智能化，网络节点智能化导致了信息空间快速扩张、甚至维度灾难，加剧了表征信息承载空间的难度，导致传统的网络服务能力与高维信息空间难以匹配，通信网传输的数据量过大，信息业务服务系统无法持续满足人们复杂、多样和智能化信息传输的需求。而通过人工智能模型来编码、传播、解码业务信息，可显著降低通信业务中的数据传输量，极大地提升了信息传输效率。这些模型相对稳定，并具有复用性、传播性。模型的传播和复用将有助于增强网络智能，同时降低开销和资源浪费，形成节点极智、网络极简的智简通信网络。

2、在目前现有的人工智能服务中，由厂商训练人工智能模型，并把模型部署在厂商所提供的互联网服务器里供人使用或下载；使用互联网服务器里部署的模型会使得“端侧-通信网-互联网”时延比较高；而且互联网服务器相对于通信网服务器来说集中度较高，并发访问量过大时会造成互联网服务器瘫痪。并且现有技术通常使用已部署的模型，并没有考虑到未部署模型如何获取；因此用户需要消耗时间在互联网中寻找模型，还有可能由于模型厂商不同从而无法让多个模型协作应用。

3、因此目前需要解决如何高效地获取和使用人工智能服务的问题。

技术实现思路

1、本公开提供了一种在通信网端侧使用人工智能服务的方法及其装置。

2、根据本公开的第一方面，提供了一种在通信网端侧使用人工智能服务的方法，其中，包括：

3、获取待处理数据；

4、响应于所述本地节点存储有所述待处理数据所需的第一模型，采用所述第一模型对所述待处理数据进行处理，获取处理结果；

5、响应于所述本地节点未存储有所述第一模型，选择第一方法或第二方法获取所述处理结果；

6、其中，所述第一方法：从提供所述第一模型下载的第一邻近节点中获取所述第一模型，并根据所述第一模型对所述待处理数据进行处理，获取所述处理结果；

7、所述第二方法：将所述待处理数据发送至提供所述第一模型在线处理的第二邻近节点，使得所述第二邻近节点采用所述第一模型对所述待处理数据进行在线处理，生成所述处理结果；所述本地节点从所述第二邻近节点获取所述处理结果。

8、根据本公开的第二方面，提供了在通信网端侧使用人工智能服务的装置，其中，包括：

9、获取单元，获取待处理数据；

10、第一处理单元，响应于所述本地节点存储有所述待处理数据所需的第一模型，采用所述第一模型对所述待处理数据进行处理，获取处理结果；

11、第二处理单元，响应于所述本地节点未存储有所述第一模型，选择第一方法或第二方法获取所述处理结果；

12、其中，所述第一方法：从提供所述第一模型下载的第一邻近节点中获取所述第一模型，并根据所述第一模型对所述待处理数据进行处理，获取所述处理结果；

13、所述第二方法：将所述待处理数据发送至提供所述第一模型在线处理的第二邻近节点，使得所述第二邻近节点采用所述第一模型对所述待处理数据进行在线处理，生成所述处理结果；所述本地节点从所述第二邻近节点获取所述处理结果。

14、根据本公开的第三方面，提供了一种电子设备，包括：

15、至少一个处理器；以及

16、与至少一个处理器通信连接的存储器；其中，

17、存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行上述方法。

18、根据本公开的第四方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，计算机指令用于使计算机执行上述方法。

19、本公开提供的技术方案带来的有益效果是：

20、使用通信网来提供人工智能模型服务的能力，实现了“端侧-通信网”之间提供和使用人工智能模型服务的能力，降低了时延；

21、使用通信网来提供人工智能模型服务的能力，分布性比较好，避免了集中访问导致的系统瘫痪；

22、综合考虑通信网端侧的处理能力、通信时延等因素的影响，优选最小化获取所述处理结果所需的时间的方案，降低了时延；

23、支持多模型协同处理同一个待处理数据；降低了单个模型的大小，提高了模型更新和传递的效率；进而降低通信时延和减少服务器并发，并且解决了本地节点未存储有所述第一模型时的模型更新问题。

24、应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

技术特征：

1.一种在通信网端侧使用人工智能服务的方法，其特征在于，应用于通信网端侧的本地节点，包括：

2.如权利要求1所述的在通信网端侧使用人工智能服务的方法，其中，所述选择第一方法或第二方法获取所述处理结果，具体包括以下步骤：

3.如权利要求2所述的在通信网端侧使用人工智能服务的方法，其中，所述采用所述目标策略选择所述第一方法或所述第二方法获取所述处理结果，具体包括：

4.如权利要求3所述的在通信网端侧使用人工智能服务的方法，其中，所述第二估计时间为，所述本地节点向所述第二邻近节点传输所述待处理数据的时间，加上所述第二邻近节点从其本地提供或从第三方节点获取所述第一模型所需的时间，加上所述第二邻近节点进行任务调度和处理所述待处理数据所需的时间，加上所述第二邻近节点向所述本地节点传输所述处理结果的时间。

5.如权利要求1所述的在通信网端侧使用人工智能服务的方法，其中，所述从提供所述第一模型下载的第一邻近节点中获取所述第一模型，具体包括以下步骤：

6.如权利要求1所述的在通信网端侧使用人工智能服务的方法，其中，

7.如权利要求6所述的在通信网端侧使用人工智能服务的方法，其中，

8.一种在通信网端侧使用人工智能服务的装置，其特征在于，应用于通信网端侧的本地节点，包括：

9.一种电子设备，包括：

10.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求1-7中任一项所述的方法。

技术总结
一种在通信网端侧使用人工智能服务的方法及其装置，涉及通信技术领域。该方法应用于通信网端侧的本地节点，包括：获取待处理数据；响应于存储有所述待处理数据所需的第一模型，采用所述第一模型对待处理数据进行处理，获取处理结果；响应于未存储有所述第一模型，选择第一方法或第二方法得到处理结果；第一方法：从提供所述第一模型下载的第一邻近节点中获取所述第一模型，并根据所述第一模型对待处理数据进行处理，获取处理结果；第二方法：提供所述第一模型在线处理的第二邻近节点，使得第二邻近节点采用所述第一模型对待处理数据进行处理，获取第二邻近节点处理得到的处理结果。

技术研发人员：王碧舳,李雨泽,许晓东,董辰,张平,韩书君
受保护的技术使用者：北京邮电大学
技术研发日：
技术公布日：2024/1/15