一种基于云边端架构的人工智能算法应用管理方法与流程

1.本发明涉及人工智能算法技术领域，尤其涉及一种基于云边端架构的人工智能算法应用管理方法。


背景技术：

2.随着人工智能算法技术的逐渐成熟，人工智能算法在交通、金融、医疗、农业、制造业、城市管理等多个领域得到广泛的应用，人工智能算法通过对业务相关数据进行结构化的分析计算，可以获得实时的监控、检测、告警信息或与未来相关的趋势预测与决策建议。
3.在人工智能算法的应用过程中，往往需要先将业务相关数据接入具有包含人工智能算法模型与计算能力的硬件或平台进行运算，针对这一流程，市场上现存2种技术方案：
4.第一种是将业务数据通过网络传输至云端算法应用平台，在云端算法应用平台完成计算流程，通过云端算法平台更新与切换使用的算法模型，在多场景应用中灵活度较高，但高度依赖网络稳定性，对于业务数据基数大且需要实时计算的数据分析场景存在较大风险；
5.第二种是将为某类业务定制的人工智能算法内嵌于具备算力的定制边缘端设备，本地化部署于业务场景中，由边缘端设备连接数据源终端，从中获取业务数据，在边缘端设备完成数据的计算处理过程，相较于第一种方案可以保证数据计算处理流程的速度与稳定性，但是本地化部署的边缘计算盒无法通过网络或者上层管理平台对其算法进行更新，若要进行算法更新则需要运维人员上门重新对边缘端设备内算法进行升级部署，同时边缘盒子内嵌算法通常是面向行业场景进行定制开发的，若需要其它场景的算法，则需要重新定制边缘端设备，在需要面向多种业务场景进行应用时灵活度较低。
6.综上，虽然目前市场上的人工智能算法应用技术方案都可以完成人工智能算法计算过程，但是仍然无法在兼备算法模型升级变更的灵活度与实时数据计算处理流程的稳定性，因此，本发明提供一种基于云边端架构的人工智能算法应用管理方法，在实现算法模型场景化升级变更的同时，保证数据计算处理流程的速度与稳定性。


技术实现要素：

7.为了解决上述背景技术中所提到的技术问题，而提出的一种基于云边端架构的人工智能算法应用管理方法。
8.为了实现上述目的，本发明采用了如下技术方案：
9.一种基于云边端架构的人工智能算法应用管理方法，包括以下步骤：
10.s1、在算法应用模型管理模块创建或修改某个算法应用模型，确定算法应用模型的名称、应用组件和运维特征，不同的运维特征绑定于应用组件中为应用组件提供不同的运维能力；
11.s2、在边缘节点管理模块通过节点接入的方式接入边缘端设备，确定节点名称、节点分类和边缘端设备的ip信息；
12.s3、在算法应用模型管理模块选择已创建的算法应用模型，并下发部署至边缘端设备，部署为边缘端算法应用管理平台；
13.s4、在设备管理模块接入数据源终端，确定终端设备的设备名称、类型、型号和ip信息；
14.s5、在任务管理模块中选择数据源终端，并发起数据计算处理任务；
15.s6、在任务管理模块中查看任务结果。
16.作为上述技术方案的进一步描述：
17.所述云端应用管理平台包括算法应用模型管理模块和边缘节点管理模块；
18.所述算法应用模型管理模块，用于创建和管理算法应用模型，所述算法应用模型管理模块通过oam模型将某个微服务应用部署所需的应用组件和各项运维动作描述为一个统一的、与基础设施无关的部署模型，部署应用采用k8s容器编排技术；
19.所述边缘节点管理模块，用于接入与管理边缘端设备。
20.作为上述技术方案的进一步描述：
21.所述算法应用模型为内嵌某类算法的应用程序，运行于边缘端应用管理平台进行数据计算处理任务，通过修改算法应用模型内部算法应用组件，实现应用模型内算法的更改。
22.作为上述技术方案的进一步描述：
23.所述边缘端应用管理平台包括设备管理模块和任务管理模块，所述设备管理模块用于接入数据源终端，以及创建和管理数据源终端下的数据计算处理任务，所述任务管理模块用于发起数据计算处理任务，选择数据源终端和算法应用模型进行任务配置，并产生结果。
24.作为上述技术方案的进一步描述：
25.所述边缘端应用管理平台部署于边缘端设备，所述边缘端设备作为边缘节点纳管于云端应用管理平台，所述云端应用管理平台部署于云端集群。
26.综上所述，由于采用了上述技术方案，本发明的有益效果是：首先，本发明将数据处理计算流程置于边缘端应用管理平台中，相较于直接将数据接入云端应用管理平台，可大幅降低网络延迟，提升数据获取、处理的速度，同时有益于保证实时计算任务的安全性，其次，本发明可使用云端应用管理平台下发多种算法应用模型至边缘端应用管理平台，突破了过往定制边缘盒子只能应用于一类场景的应用局限，最后，本发明中边缘端设备采用k8s容器编排技术，可根据不同计算任务的资源需求进行算力资源的自动化分配，提升资源利用率和计算任务的稳定性。
附图说明
27.图1示出了根据本发明实施例提供的一种基于云边端架构的人工智能算法应用管理方法的拓扑结构图；
28.图2示出了根据本发明实施例提供的一种基于云边端架构的人工智能算法应用管理方法的流程示意图。
具体实施方式
29.下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其它实施例，都属于本发明保护的范围。
30.实施例一
31.请参阅图1和图2，本发明提供一种技术方案：一种基于云边端架构的人工智能算法应用管理方法，包括云端应用管理平台、边缘端设备、边缘端应用管理平台和数据源终端，边缘端应用管理平台部署于边缘端设备中，边缘端设备作为边缘节点纳管于云端应用管理平台，云端应用管理平台部署于云端集群；
32.云端应用管理平台包括算法应用模型管理模块和边缘节点管理模块，边缘节点管理模块，用于接入与管理边缘端设备；
33.算法应用模型管理模块，用于创建和管理算法应用模型，算法应用模型管理模块通过oam模型将某个微服务应用部署所需的应用组件和各项运维动作描述为一个统一的、与基础设施无关的部署模型，该模型定义了一个应用的描述规范，算法应用模型管理模块的应用模型由应用组件与运维特征构成，其中，应用组件定义了一个服务或者制品的交付和管理形式，不同的运维特征绑定于应用组件中为应用组件提供不同的运维能力，如提供数据持久化、网关策略等能力；
34.算法应用模型为内嵌某类算法的应用程序，运行于边缘端应用管理平台进行数据计算处理任务，开发者可将算法应用模型运行所需算法模型服务与其它云服务程序代码打包成为应用组件，依照oam规范编写配置文件来描述组件与其它服务的关系，在算法应用模型管理模块，如需更新该应用中的算法，则对算法应用模型中的算法相关组件进行修改或替换即可，实现应用模型内算法的更改；
35.其中，应用组件cue配置文件格式如下所示：
36.[0037][0038]
运维特征cue配置文件格式如下所示：
[0039][0040]
在算法应用模型管理模块中，部署应用采用k8s容器编排技术，在k8s中，所有的容器都运行于pod中进行管理，k8s会根据容器中运行服务的亲和性以及其它需求创建pod，并根据集群中节点的资源状态选择节点进行部署，当容器中的服务因为软件或硬件资源问题而挂掉时，k8s会自动对容器进行重启，同时，k8s可以根据资源的负载情况进行容器的弹性伸缩，增加或缩减容器数量，因此运用k8s技术部署所述云端应用管理平台与边缘端应用管理平台，可有效提升集群资源利用率和计算任务的稳定性；
[0041]
边缘端应用管理平台包括设备管理模块和任务管理模块，设备管理模块用于接入数据源终端，以及创建和管理数据源终端下的数据计算处理任务，任务管理模块用于发起数据计算处理任务，选择数据源终端和算法应用模型进行任务配置，并产生结果；
[0042]
具体的，包括以下步骤：
[0043]
s1、在算法应用模型管理模块创建或修改某个算法应用模型，确定算法应用模型的名称、应用组件和运维特征，不同的运维特征绑定于应用组件中为应用组件提供不同的运维能力；
[0044]
s2、在边缘节点管理模块通过节点接入的方式接入边缘端设备，确定节点名称、节点分类和边缘端设备的ip信息；
[0045]
s3、在算法应用模型管理模块选择已创建的算法应用模型，并下发部署至边缘端设备，部署为边缘端算法应用管理平台；
[0046]
s4、在设备管理模块接入数据源终端，确定终端设备的设备名称、类型、型号和ip信息；
[0047]
s5、在任务管理模块中选择数据源终端，并发起数据计算处理任务；
[0048]
s6、在任务管理模块中查看任务结果。
[0049]
现预设目标场景为a园区的园区大门，a园区大门需要对园区出入车辆进行监控，园区门口已加设摄像机a，需要接入车辆识别算法对摄像头a采集内容进行分析处理，则一种基于云边端架构的人工智能算法应用管理方法运用于该场景的具体实施步骤如下：
[0050]
s11、在算法应用模型管理模块中创建车辆识别算法应用模型；
[0051]
s12、在边缘节点管理模块接入边缘端设备b，并点击“接入节点”，填写设备b的名称、节点分类选择“边缘节点”、填入设备b的ip信息；
[0052]
s13、在算法应用模型管理模块选择已创建的车辆识别算法应用模型，并下发部署于边缘端设备b，该车辆识别算法应用模型即为边缘端应用管理平台；
[0053]
s14、访问部署于边缘端的车辆识别算法应用平台，在设备管理模块接入数据源终端，即摄像机a，填写摄像机a名称、类型、型号和ip信息；
[0054]
s15、在任务管理模块中，选择摄像头a，并发起数据计算处理任务，任务是拉取摄像头a采集的园区门口视频数据，运用车辆识别算法进行分析处理；
[0055]
s16、在任务管理模块中，查看任务结果。
[0056]
若在使用一段时间后，车辆识别算法需要更新，则继续进行以下操作：
[0057]
s17、在云端应用管理平台中修改车辆识别算法应用模型，将车辆识别算法应用模型中的算法应用组件修改为新版本车辆识别算法应用组件，同理，若a园区需要使用其它类型算法，则可创建新的算法应用模型。
[0058]
s18、在云端应用管理平台中选择新版本车辆识别算法应用模型下发部署至边缘端，即该例中的车辆识别算法应用平台；
[0059]
s19、访问最新部署的车辆识别算法应用平台任务管理模块中，选择摄像头a，再次发起数据计算处理任务；
[0060]
s22、在任务管理模块中，查看任务结果。
[0061]
首先，本发明将数据处理计算流程置于边缘端应用管理平台中，相较于直接将数据接入云端应用管理平台，可大幅降低网络延迟，提升数据获取、处理的速度，同时有益于
保证实时计算任务的安全性，其次，本发明可使用云端应用管理平台下发多种算法应用模型至边缘端应用管理平台，突破了过往定制边缘盒子只能应用于一类场景的应用局限，最后，本发明中边缘端设备采用k8s容器编排技术，可根据不同计算任务的资源需求进行算力资源的自动化分配，提升资源利用率和计算任务的稳定性。
[0062]
以上所述，仅为本发明较佳的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，根据本发明的技术方案及其发明构思加以等同替换或改变，都应涵盖在本发明的保护范围之内。