一种云边端AI模型管理方法、存储介质、电子设备与流程

本申请涉及信息处理，尤其涉及一种云边端ai模型管理方法、存储介质、电子设备。

背景技术：

1、水电行业是一个关键的基础产业，其重要性在于水资源管理和电力供应对社会经济发展至关重要。随着科技的不断进步，人工智能(ai)技术在水电行业中的应用逐渐崭露头角，这些ai模型被广泛用于数据分析、预测、设备监控和决策支持，以提高水电系统的效率、可靠性和运营管理。

2、在水电行业中，ai模型的训练和部署是关键步骤，以确保其在实际运营中发挥最大的潜力。例如，一个用于水电站设备故障检测的ai模型需要经过训练，然后部署到现场设备上，以实时监测设备状态并预测潜在故障。这些模型的有效管理和部署对水电行业的可持续发展至关重要。

3、然而，目前在水电行业中，ai模型的在边端设备的部署仍然存在一些挑战。传统的模型部署方法可能涉及复杂的编程和配置部署过程，不仅需要专业的技能和大量的时间，还需在现场设备进行部署。此外，ai模型的更新和版本控制也可能变得混乱，模型部署后的启停和删除等管理工作也比较麻烦。

技术实现思路

1、本申请提供一种云边端ai模型管理方法、存储介质、电子设备，以解决相关技术中存在的问题。

2、第一方面，本发明提供一种云边端ai模型管理方法，包括响应于边端设备的配置请求，基于所述配置请求指示的内容配置边端设备；基于接收到模型服务部署请求，配置服务部署所需的配置信息，并在kubernetes创建服务部署集；监听所述服务部署集的状态变化，并将所述状态变化进行回调。

3、可选地，所述响应于边端设备的配置请求，基于所述配置请求指示的内容配置边端设备包括：响应于边端设备的创建请求，通过创建字段完成边端设备的创建；响应于将所述边端设备添加至集群的请求，生成添加用脚本，并在所述脚本被调用执行后加入集群中完成对创建的边端设备的激活；部署边端设备的守护进程。

4、可选地，所述响应于边端设备的配置请求，基于所述配置请求指示的内容配置边端设备还包括：响应于边端设备的删除请求，退出所述守护进程并删除作为节点的所述边端设备。

5、可选地，在kubernetes创建ai模型服务部署集包括：在kubernetes创建deployment，其中，下载容器用于模型的下载，算法容器为模型提供算法服务。

6、可选地，监听所述服务部署集的状态变化，并将所述状态变化进行回调包括：监听deployment和容器的状态变化，将所述状态变化通过请求消息进行回调。

7、可选地，所述方法还包括：响应于接收到模型处理请求，基于所述请求指示的信息调用所述算法服务。

8、可选地，所述方法还包括：响应于对服务部署集中部署的服务状态进行修改的请求，调整服务的最大副本数和最小副本数。

9、可选地，所述方法还包括：在接收到服务部署集的删除请求，删除所述服务部署集。

10、第二方面，本发明提供一种计算机可读存储介质，其特征在于，所述存储介质存储有计算机程序，所述计算机程序被处理器执行时实现上述第一方面任一实现方式所述的方法。

11、第三方面，本发明提供一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现第一方面提供的方法。

12、本发明公开了一种云边端ai模型管理方法、存储介质及电子设备，其中方法包括响应于边端设备的配置请求，基于所述配置请求指示的内容配置边端设备；基于接收到模型服务部署请求，配置服务部署所需的配置信息，并在kubernetes创建服务部署集；监听所述服务部署集的状态变化，并将所述状态变化进行回调。通过简单的配置和操作，就可以实现云边端ai模型的快速部署，更快的使用ai模型，并且对部署后的ai模型服务有更多的控制能力。额服了相关技术中存在的缺陷。

技术特征：

1.一种云边端ai模型管理方法，包括：

2.根据权利要求1所述的云边端ai模型管理方法，其特征在于，所述响应于边端设备的配置请求，基于所述配置请求指示的内容配置边端设备包括：

3.根据权利要求2所述的云边端ai模型管理方法，其特征在于，所述响应于边端设备的配置请求，基于所述配置请求指示的内容配置边端设备还包括：

4.根据权利要求1所述的云边端ai模型管理方法，其特征在于，在kubernetes创建ai模型服务部署集包括：

5.根据权利要求4所述的云边端ai模型管理方法，其特征在于，监听所述服务部署集的状态变化，并将所述状态变化进行回调包括：

6.根据权利要求5所述的云边端ai模型管理方法，其特征在于，所述方法还包括：

7.根据权利要求1所述的云边端ai模型管理方法，其特征在于，所述方法还包括：

8.根据权利要求1所述的云边端ai模型管理方法，其特征在于，所述方法还包括：

9.一种计算机可读存储介质，其特征在于，所述存储介质存储有计算机程序，所述计算机程序被处理器执行时实现上述权利要求1～7任一项所述的方法。

10.一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现上述权利要求1～7任一项所述的方法。

技术总结
本发明公开了一种云边端AI模型管理方法、存储介质及电子设备，其中方法包括响应于边端设备的配置请求，基于所述配置请求指示的内容配置边端设备；基于接收到模型服务部署请求，配置服务部署所需的配置信息，并在Kubernetes创建服务部署集；监听所述服务部署集的状态变化，并将所述状态变化进行回调。通过简单的配置和操作，就可以实现云边端AI模型的快速部署，更快的使用AI模型，并且对部署后的AI模型服务有更多的控制能力。额服了相关技术中模型部署存在的部署难度大成本高的缺陷。

技术研发人员：张保虎,王嵘,宋华婷,綦晓杰,马勇,尹海华,贾煜逸,刘至阳,吴承霖,徐宗泽,龙辰
受保护的技术使用者：新疆新华水电投资股份有限公司
技术研发日：
技术公布日：2024/3/24