一种模型部署方法、装置、设备及介质与流程

文档序号:31094502发布日期:2022-08-10 00:31阅读:来源:国知局

技术特征:
1.一种模型部署方法,其特征在于,所述方法包括:接收训练完成的模型以及所述模型的第一标识;根据预先保存的模型的标识与算法的对应关系,确定所述第一标识对应的第一配置算法,通过所述第一配置算法部署所述模型;生成部署完成的所述模型对应的第一模型服务,保存所述第一标识与所述第一模型服务的对应关系。2.根据权利要求1所述的方法,其特征在于,所述方法还包括:接收应用设备发送的应用请求,其中,所述应用请求中携带待使用的模型的第二标识;根据保存的模型的标识与模型服务的对应关系,确定所述第二标识对应的第二模型服务,将所述第二模型服务发送至所述应用设备。3.根据权利要求1所述的方法,其特征在于,所述方法还包括:若接收到组合服务生成请求,则获取所述组合服务生成请求中携带的推理图、所述推理图中每个节点中记录待组合的模型的第三标识及组合服务对应的第四标识;根据保存的模型的标识与模型服务的对应关系,确定所述第三标识对应的第三模型服务;按照所述推理图中节点之间的连接关系,将所述推理图中每个节点对应的第三模型服务进行组合得到组合服务;在保存的模型的标识与模型服务的对应关系中添加所述第四标识与所述组合服务的对应关系。4.根据权利要求1所述的方法,其特征在于,所述确定所述第一标识对应的第一配置算法之后,所述通过所述第一配置算法部署所述模型之前,所述方法还包括:构建所述第一配置算法的镜像;所述通过所述第一配置算法部署所述模型包括:运行所述镜像生成对应的容器,在所述容器中通过所述第一配置算法部署所述模型。5.根据权利要求1所述的方法,其特征在于,所述方法还包括:若第五标识对应的第四模型服务当前满足预设的停用条件,则停用所述第四模型服务,释放所述第四模型服务占用的资源。6.根据权利要求5所述的方法,其特征在于,所述第五标识对应的第四模型服务当前满足预设的停用条件包括:接收到的携带的待使用的模型为所述第五标识的应用请求达到设定数量;或当前时刻为所述第五标识对应的第四模型服务的预设停用时刻;或所述第五标识对应的第四模型服务被部署的时长达到第一预设时长。7.根据权利要求5或6所述的方法,其特征在于,所述方法还包括:若被停用的第五标识对应的第四模型服务当前满足预设的部署条件,则根据预先保存的模型的标识与算法的对应关系,确定所述第五标识对应的第二配置算法,通过所述第二配置算法部署第五标识的模型;生成部署完成的所述第五标识的模型对应的第四模型服务。8.根据权利要求7所述的方法,其特征在于,所述被停用的第五标识对应的第四模型服务当前满足预设的部署条件包括:
当前时刻为所述第五标识对应的第四模型服务的预设部署时刻;或所述被停用的第五标识对应的第四模型服务被停用的时长达到第二预设时长。9.根据权利要求1所述的方法,其特征在于,所述生成部署完成的所述模型对应的第一模型服务之后,所述保存所述第一标识与所述第一模型服务的对应关系之前,所述方法还包括:判断保存的模型的标识与模型服务的对应关系中是否包含所述第一标识;所述保存所述第一标识与所述第一模型服务的对应关系包括:若保存的模型的标识与模型服务的对应关系中包含所述第一标识,则采用所述第一标识与对应的第一模型服务对保存的所述第一标识对应的模型服务进行更新;若保存的模型的标识与模型服务的对应关系中不包含所述第一标识,则将所述第一标识与所述第一模型服务的对应关系添加到保存的模型的标识与模型服务的对应关系中。10.一种模型部署装置,其特征在于,所述装置包括:接收模块,用于接收训练完成的模型以及所述模型的第一标识;处理模块,用于根据预先保存的模型的标识与算法的对应关系,确定所述第一标识对应的第一配置算法,通过所述第一配置算法部署所述模型;生成部署完成的所述模型对应的第一模型服务,保存所述第一标识与所述第一模型服务的对应关系。11.根据权利要求10所述的装置,其特征在于,所述处理模块,还用于接收应用设备发送的应用请求,其中,所述应用请求中携带待使用的模型的第二标识;根据保存的模型的标识与模型服务的对应关系,确定所述第二标识对应的第二模型服务,将所述第二模型服务发送至所述应用设备。12.根据权利要求10所述的装置,其特征在于,所述处理模块,还用于若接收到组合服务生成请求,则获取所述组合服务生成请求中携带的推理图、所述推理图中每个节点中记录待组合的模型的第三标识及组合服务对应的第四标识;根据保存的模型的标识与模型服务的对应关系,确定所述第三标识对应的第三模型服务;按照所述推理图中节点之间的连接关系,将所述推理图中每个节点对应的第三模型服务进行组合得到组合服务;在保存的模型的标识与模型服务的对应关系中添加所述第四标识与所述组合服务的对应关系。13.根据权利要求10所述的装置,其特征在于,所述处理模块,还用于构建所述第一配置算法的镜像;运行所述镜像生成对应的容器,在所述容器中通过所述第一配置算法部署所述模型。14.根据权利要求10所述的装置,其特征在于,所述处理模块,还用于若第五标识对应的第四模型服务当前满足预设的停用条件,则停用所述第四模型服务,释放所述第四模型服务占用的资源。15.根据权利要求14所述的装置,其特征在于,所述处理模块,还用于若被停用的第五标识对应的第四模型服务当前满足预设的部署条件,则根据预先保存的模型的标识与算法的对应关系,确定所述第五标识对应的第二配置算法,通过所述第二配置算法部署第五标识的模型;生成部署完成的所述第五标识的模型对应的第四模型服务。16.根据权利要求10所述的装置,其特征在于,所述处理模块,还用于判断保存的模型的标识与模型服务的对应关系中是否包含所述第一标识;若保存的模型的标识与模型服务的对应关系中包含所述第一标识,则采用所述第一标识与对应的第一模型服务对保存的所
述第一标识对应的模型服务进行更新;若保存的模型的标识与模型服务的对应关系中不包含所述第一标识,则将所述第一标识与所述第一模型服务的对应关系添加到保存的模型的标识与模型服务的对应关系中。17.一种电子设备,其特征在于,所述电子设备至少包括处理器和存储器,所述处理器用于执行存储器中存储的计算机程序时实现如上述权利要求1-9任一项所述模型部署方法的步骤。18.一种计算机可读存储介质,其特征在于,其存储有计算机程序,所述计算机程序被处理器执行时实现如上述权利要求1-9任一项所述模型部署方法的步骤。19.一种计算机程序产品,其特征在于,其计算机程序产品包括:计算机程序代码,当所述计算机程序代码在计算机上运行时,使得计算机执行如上述权利要求1-9任一项所述模型部署方法的步骤。

技术总结
本申请涉及数据处理技术领域,尤其涉及一种模型部署方法、装置、设备及介质。用以解决现有技术中在部署模型时,既需要专业人员的部署,又受到生产上线的窗口的限制的问题。由于在本申请实施例中是在电子设备中保存有模型的标识与算法的对应关系,因此当接收到的模型的第一标识后,可以确定该第一标识的模型对应的第一配置算法,从而采用该第一配置算法对该模型进行部署,从而可以避免在应用设备上进行部署,受生产上线的窗口限制的问题,并且不需要专业人员在每个模型上线时,分别撰写部署每个模型的代码,因此方便模型的应用。因此方便模型的应用。因此方便模型的应用。


技术研发人员:卢凌云 张晨 王全礼 李昱
受保护的技术使用者:建信金融科技有限责任公司
技术研发日:2022.05.09
技术公布日:2022/8/9
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1