一种模型部署方法、装置、设备及介质与流程

1.本技术涉及数据处理技术领域，尤其涉及一种模型部署方法、装置、设备及介质。


背景技术：

2.随着深度学习在人工智能领域的崛起及不断深化应用，以计算机视觉及自然语言处理技术为代表的新兴技术已落地到各个行业。目前快速部署模型可以更快为企业提供更高的效益。
3.然而目前大多企业使用的模型均是在生产上线的窗口进行的部署，也就是说专业人员基本上都在固定时间在需要应用模型的应用设备上部署模型，例如每个月的1号由专业人员进行模型的部署，并且专业人员在进行模型的部署时，是通过撰写支持模型运行的代码，来将模型部署到企业对应的应用设备上。这既需要专业人员的部署，也受到生产上线的窗口的限制，不利于企业对模型的应用。


技术实现要素：

4.本技术实施例提供一种模型部署方法、装置、设备及介质，用以解决现有技术中在部署模型时，既需要专业人员的部署，又受到生产上线的窗口的限制的问题。
5.第一方面，本技术实施例提供了一种模型部署方法，所述方法包括：
6.接收训练完成的模型以及所述模型的第一标识；
7.根据预先保存的模型的标识与算法的对应关系，确定所述第一标识对应的第一配置算法，通过所述第一配置算法部署所述模型；
8.生成部署完成的所述模型对应的第一模型服务，保存所述第一标识与所述第一模型服务的对应关系。
9.进一步地，所述方法还包括：
10.接收应用设备发送的应用请求，其中，所述应用请求中携带待使用的模型的第二标识；
11.根据保存的模型的标识与模型服务的对应关系，确定所述第二标识对应的第二模型服务，将所述第二模型服务发送至所述应用设备。
12.进一步地，所述方法还包括：
13.若接收到组合服务生成请求，则获取所述组合服务生成请求中携带的推理图、所述推理图中每个节点中记录待组合的模型的第三标识及组合服务对应的第四标识；
14.根据保存的模型的标识与模型服务的对应关系，确定所述第三标识对应的第三模型服务；
15.按照所述推理图中节点之间的连接关系，将所述推理图中每个节点对应的第三模型服务进行组合得到组合服务；
16.在保存的模型的标识与模型服务的对应关系中添加所述第四标识与所述组合服务的对应关系。
17.进一步地，所述确定所述第一标识对应的第一配置算法之后，所述通过所述第一配置算法部署所述模型之前，所述方法还包括：
18.构建所述第一配置算法的镜像；
19.所述通过所述第一配置算法部署所述模型包括：
20.运行所述镜像生成对应的容器，在所述容器中通过所述第一配置算法部署所述模型。
21.进一步地，所述方法还包括：
22.若第五标识对应的第四模型服务当前满足预设的停用条件，则停用所述第四模型服务，释放所述第四模型服务占用的资源。
23.进一步地，所述第五标识对应的第四模型服务当前满足预设的停用条件包括：
24.接收到的携带的待使用的模型为所述第五标识的应用请求达到设定数量；或
25.当前时刻为所述第五标识对应的第四模型服务的预设停用时刻；或
26.所述第五标识对应的第四模型服务被部署的时长达到第一预设时长。
27.进一步地，所述方法还包括：
28.若被停用的第五标识对应的第四模型服务当前满足预设的部署条件，则根据预先保存的模型的标识与算法的对应关系，确定所述第五标识对应的第二配置算法，通过所述第二配置算法部署第五标识的模型；
29.生成部署完成的所述第五标识的模型对应的第四模型服务。
30.进一步地，所述被停用的第五标识对应的第四模型服务当前满足预设的部署条件包括：
31.当前时刻为所述第五标识对应的第四模型服务的预设部署时刻；或
32.所述被停用的第五标识对应的第四模型服务被停用的时长达到第二预设时长。
33.进一步地，所述生成部署完成的所述模型对应的第一模型服务之后，所述保存所述第一标识与所述第一模型服务的对应关系之前，所述方法还包括：
34.判断保存的模型的标识与模型服务的对应关系中是否包含所述第一标识；
35.所述保存所述第一标识与所述第一模型服务的对应关系包括：
36.若保存的模型的标识与模型服务的对应关系中包含所述第一标识，则采用所述第一标识与对应的第一模型服务对保存的所述第一标识对应的模型服务进行更新；
37.若保存的模型的标识与模型服务的对应关系中不包含所述第一标识，则将所述第一标识与所述第一模型服务的对应关系添加到保存的模型的标识与模型服务的对应关系中。
38.第二方面，本技术实施例还提供了一种模型部署装置，所述装置包括：
39.接收模块，用于接收训练完成的模型以及所述模型的第一标识；
40.处理模块，用于根据预先保存的模型的标识与算法的对应关系，确定所述第一标识对应的第一配置算法，通过所述第一配置算法部署所述模型；生成部署完成的所述模型对应的第一模型服务，保存所述第一标识与所述第一模型服务的对应关系。
41.进一步地，所述处理模块，还用于接收应用设备发送的应用请求，其中，所述应用请求中携带待使用的模型的第二标识；根据保存的模型的标识与模型服务的对应关系，确定所述第二标识对应的第二模型服务，将所述第二模型服务发送至所述应用设备。
42.进一步地，所述处理模块，还用于若接收到组合服务生成请求，则获取所述组合服务生成请求中携带的推理图、所述推理图中每个节点中记录待组合的模型的第三标识及组合服务对应的第四标识；根据保存的模型的标识与模型服务的对应关系，确定所述第三标识对应的第三模型服务；按照所述推理图中节点之间的连接关系，将所述推理图中每个节点对应的第三模型服务进行组合得到组合服务；在保存的模型的标识与模型服务的对应关系中添加所述第四标识与所述组合服务的对应关系。
43.进一步地，所述处理模块，还用于构建所述第一配置算法的镜像；运行所述镜像生成对应的容器，在所述容器中通过所述第一配置算法部署所述模型。
44.进一步地，所述处理模块，还用于若第五标识对应的第四模型服务当前满足预设的停用条件，则停用所述第四模型服务，释放所述第四模型服务占用的资源。
45.进一步地，所述处理模块，还用于若被停用的第五标识对应的第四模型服务当前满足预设的部署条件，则根据预先保存的模型的标识与算法的对应关系，确定所述第五标识对应的第二配置算法，通过所述第二配置算法部署第五标识的模型；生成部署完成的所述第五标识的模型对应的第四模型服务。
46.进一步地，所述处理模块，还用于判断保存的模型的标识与模型服务的对应关系中是否包含所述第一标识；若保存的模型的标识与模型服务的对应关系中包含所述第一标识，则采用所述第一标识与对应的第一模型服务对保存的所述第一标识对应的模型服务进行更新；若保存的模型的标识与模型服务的对应关系中不包含所述第一标识，则将所述第一标识与所述第一模型服务的对应关系添加到保存的模型的标识与模型服务的对应关系中。
47.第三方面，本技术实施例还提供了一种电子设备，所述电子设备至少包括处理器和存储器，所述处理器用于执行存储器中存储的计算机程序时实现如上述任一项所述模型部署方法的步骤。
48.第四方面，本技术实施例还提供了一种计算机可读存储介质，其存储有计算机程序，所述计算机程序被处理器执行时实现如上述任一项所述模型部署方法的步骤。
49.第五方面，本技术实施例还提供了一种计算机程序产品，其计算机程序产品包括：计算机程序代码，当所述计算机程序代码在计算机上运行时，使得计算机执行如上述任一项所述模型部署方法的步骤。
50.在本技术实施例中，电子设备接收训练完成的模型及模型的第一标识，根据预先保存的模型的标识与算法的对应关系，确定第一标识的模型对应的第一配置算法，电子设备通过第一配置算法部署模型，生成部署完成的模型对应的第一模型服务，并保存模型的第一标识与第一模型服务的对应关系。由于在本技术实施例中是在电子设备中保存有模型的标识与算法的对应关系，因此当接收到的模型的第一标识后，可以确定该第一标识的模型对应的第一配置算法，从而采用该第一配置算法对该模型进行部署，从而可以避免在应用设备上进行部署，受生产上线的窗口限制的问题，并且不需要专业人员在每个模型上线时，分别撰写部署每个模型的代码，因此方便模型的应用。
附图说明
51.为了更清楚地说明本技术实施例中的技术方案，下面将对实施例描述中所需要使
用的附图作简要介绍，显而易见地，下面描述中的附图仅仅是本技术的一些实施例，对于本领域的普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
52.图1为本技术实施例提供的一种模型部署过程示意图；
53.图2为本技术实施例提供的一种推理图的流程示意图；
54.图3为本技术实施例提供的一种生成模型服务的过程示意图；
55.图4为本技术实施例提供的一种组合服务生成的过程示意图；
56.图5为本技术实施例提供的一种模型部署装置结构示意图；
57.图6为本技术实施例提供的一种电子设备结构示意图。
具体实施方式
58.下面将结合附图对本技术作进一步地详细描述，显然，所描述的实施例仅仅是本技术一部分实施例，而不是全部的实施例。基于本技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例，都属于本技术保护的范围。
59.在本技术实施例中，电子设备接收训练完成的模型及模型的第一标识，根据预先保存的模型的标识与算法的对应关系，确定第一标识的模型对应的第一配置算法，电子设备通过第一配置算法部署模型，生成部署完成的模型对应的第一模型服务，并保存模型的第一标识与第一模型服务的对应关系。
60.为了可以快速、便捷的完成模型的部署，本技术实施例提供了一种模型部署方法、装置、设备及介质。
61.实施例1：
62.图1为本技术实施例提供的一种模型部署过程示意图，该过程包括以下步骤：
63.s101：接收训练完成的模型以及所述模型的第一标识。
64.本技术实施例提供的模型部署方法应用于与应用设备具有连接关系的电子设备，该电子设备可以是pc或服务器等智能设备。
65.在本技术实施例中，当用户有部署模型的需求时，可以通过自身使用的设备将训练完成的模型以及模型的第一标识发送至电子设备。其中，可以是用户在自身使用的设备的预设页面选择训练完成的模型以及模型的第一标识，并点击预设按钮，例如“提交”按钮，电子设备即可接收到训练完成的模型及模型的第一标识。具体的，用户使用的设备将该模型的代码发送至电子设备。用户所使用的设备与电子设备具有连接关系。
66.另外，在本技术实施例中，还可以是电子设备按照预设的时间间隔向预设设备发送模型获取请求，预设设备在接收到模型获取请求后，若存在训练完成且未发送给电子设备的模型，则将训练完成且未发送给电子设备的模型及模型的第一标识发送至电子设备。
67.s102：根据预先保存的模型的标识与算法的对应关系，确定所述第一标识的模型对应的第一配置算法，通过所述第一配置算法部署所述模型，生成部署完成的所述模型对应的第一模型服务，保存所述第一标识与所述第一模型服务的对应关系。
68.在本技术实施例中，为了实现模型的部署，电子设备中预先保存有模型的标识与算法的对应关系，电子设备在接收到预先训练完成的模型及模型的第一标识后，确定预先保存的模型的标识与算法的对应关系中，第一标识对应的算法为第一配置算法，在电子设
备确定第一配置算法后，通过该第一配置算法部署该模型。
69.在本技术实施例中，模型的标识与算法的对应关系是一一对应的，形如：
70.algi→
modeli71.其中，modeli为模型的标识，algi为该标识的模型对应的算法。
72.在本技术实施例中，标识对应的算法为预先由专业人员进行配置的，专业人员可以预先配置有预设数量个算法，例如可以分别为alg1、alg2、alg3、
…
,algi、
…
,algn。
73.在本技术实施例中，算法包括该算法对应的代码以及通过该算法部署模型时依赖的资源，其中资源包括中央处理器(central processing unit，cpu)核的数目，cpu内存的大小及图形处理器(graphics processing unit，gpu)显存的大小等。
74.在本技术实施例中，一个算法中包括的信息如下：
[0075][0076]
codei＝
″
/home/ap/text_cnn
″
[0077]
resourcei＝{cpucore：1,cpumemory：2g,gpumemory：2g}
[0078]
其中，algi指的是配置算法，codei表示配置算法对应的代码存储的位置，resourcei表示部署模型时依赖的资源。/home/ap/text_cnn为配置算法algi对应的代码具体存储的位置，cpucore：1表示具体依赖的cpu核的数目是1个，cpumemory：2g表示具体依赖的cpu内存的大小为2g，gpumemory：2g表示具体依赖的gpu显存的大小为2g。
[0079]
在本技术实施例中，电子设备通过第一配置算法部署模型后，即可生成部署完成的模型对应的第一模型服务，该第一模型服务是可以运行的模型，即具有对数据进行处理能力的模型，该第一模型服务中包含接收待处理的数据的链接，应用设备在获取到该第一模型服务后，在该第一模型服务中的链接中输入对应待处理的数据，该第一模型服务即可对数据进行相应的处理。
[0080]
电子设备在生成模型对应的第一模型服务后，保存第一标识与第一模型服务的对应关系。由于标识对应的算法是预先配置好的，因此不再需要专业人员每次编写对应的代码来部署模型，普通的用户即可实现模型的部署。另外，该电子设备并非应用模型的应用设备，因此也不会受到生产上线的窗口的限制，当应用设备有获取模型服务的需求时，由于该电子设备与应用设备具有连接关系，该电子设备即可将对应的模型服务发送至应用设备，而对于应用设备而言，不受到生产上线的窗口的限制，在任何时间都可接收对应的模型服务。
[0081]
由于在本技术实施例中是在电子设备中保存有模型的标识与算法的对应关系，因此当接收到的模型的第一标识后，可以确定该第一标识的模型对应的第一配置算法，从而采用该第一配置算法对该模型进行部署，从而可以避免在应用设备上进行部署，受生产上线的窗口限制的问题，并且不需要专业人员在每个模型上线时，分别撰写部署每个模型的代码，因此方便模型的应用。
[0082]
实施例2：
[0083]
为了实现模型的应用，在上述实施例的基础上，在本技术实施例中，所述方法还包括：
[0084]
接收应用设备发送的应用请求，其中，所述应用请求中携带待使用的模型的第二标识；
[0085]
根据保存的模型的标识与模型服务的对应关系，确定所述第二标识对应的第二模型服务，将所述第二模型服务发送至所述应用设备。
[0086]
在本技术实施例中，为了实现模型的应用，电子设备可以接收应用设备发送的应用请求，其中，应用设备指的是企业中有应用模型的需求的设备，当企业的员工有对模型进行应用的需求时，企业的员工可以通过应用设备选择待使用的模型的第二标识，并点击预设按钮，电子设备即可接收到应用设备发送的应用请求，该应用请求中携带有应用设备想要获取的模型的第二标识，即待使用的模型的第二标识。
[0087]
电子设备在接收到应用设备发送的应用请求后，可以获取应用请求中携带的待使用的模型的第二标识，电子设备获取预先保存的标识与模型服务的对应关系中第二标识对应的模型服务，并确定该第二标识对应的模型服务为第二模型服务。电子设备在确定第二模型服务后，可以将第二模型服务发送至应用设备。应用设备在接收到电子设备发送的第二模型服务后，即可直接通过第二模型服务进行模型的应用，该第二模型服务是能够对数据进行处理的模型，该第二模型服务中包含接到待处理的数据的链接，在该链接中输入对应待处理的数据，该第二模型服务即可对该数据进行相应的处理。在本技术实施例中，可以是电子设备提供应用程序接口(application program interface，api)，电子设备可以通过该api接口将第二模型服务发送至应用设备。
[0088]
实施例3：
[0089]
为了生成适用于复杂应用场景的模型服务，在上述各实施例的基础上，在本技术实施例中，所述方法还包括：
[0090]
若接收到组合服务生成请求，则获取所述组合服务生成请求中携带的推理图、所述推理图中每个节点中记录待组合的模型的第三标识及组合服务对应的第四标识；
[0091]
根据保存的标识与模型服务的对应关系，确定所述第三标识对应的第三模型服务；
[0092]
按照所述推理图中节点之间的连接关系，将所述推理图中每个节点对应的第三模型服务进行组合得到组合服务；
[0093]
在保存的标识与模型服务的对应关系中添加所述第四标识与所述组合服务的对应关系。
[0094]
在本技术实施例中，训练完成的模型对应的模型服务仅适用于较为简单的场景，例如，仅可以识别图像中存在的物体。但是对于一些复杂的场景仅通过一个模型服务无法实现，例如自然语言处理场景中，先进行文本内容大小写的转换，再获取文本内容对应的类别，其中，类别包括娱乐类、经济类等。为了满足更复杂的应用场景，本技术实施例中提供了一种组合服务的生成方法。
[0095]
在本技术实施例中，当具有生成组合服务的需求时，专业人员可以通过自身所使用的设备的预设页面输入推理图，具体可以是先选择推理图中包含的节点，选择箭头建立所选择的每个节点之间的连接关系从而得到推理图，可以在选择的节点中输入待组合的模型的第三标识，另外，还可以输入组合服务对应的第四标识，当专业人员点击预设按钮后，电子设备即可接收到组合服务生成请求。该推理图中包含多个节点，节点之间具有连接关系，并且每个节点中还包括待组合的模型的第三标识。其中，电子设备可以为专业人员所使用的设备，也可以为与专业人员所使用的设备具有连接关系的设备。推理图为有向无环图。
[0096]
电子设备在接收到组合服务生成请求后，可以先获取组合服务生成请求中携带的推理图、推理图中每个节点中记录待组合的模型的第三标识及组合服务对应的第四标识。电子设备在获取到推理图中每个节点中记录的待组合的模型的第三标识后，可以根据预先保存的标识与模型服务的对应关系，确定第三标识对应的第三模型服务，并按照推理图中节点之间的连接关系，将推理图中每个节点对应的第三模型服务对应进行组合，得到推理图对应的组合服务。
[0097]
具体的，若推理图中节点之间是依次连接的，并不存在多个节点连接一个节点或一个节点连接多个节点的情况，也就是说仅存在一个节点指向一个节点的情况，则电子设备按照推理图中节点之间的连接关系对节点对应的第三模型服务进行组合时，将排序在前的节点对应的第三模型服务的输出，作为该节点指向的节点对应的第三模型服务的输入。例如节点a指向节点b，则将节点a对应的第三模型服务的输出，作为节点b对应的第三模型服务的输入。
[0098]
若推理图中存在多个节点连接一个节点的情况，也就是说存在至少两个节点指向一个节点的情况，则电子设备按照推理图中对应的连接关系，即节点对应的指向关系，将该至少两个节点对应的第三模型服务的输出，作为该至少两个节点所指向的节点对应的第三模型服务的输入。例如，节点c指向节点d，并且节点e也指向节点d，则将节点c对应的第三模型服务的输出及节点e对应的第三模型服务的输出，作为节点d对应的第三模型服务的输入。
[0099]
若推理图中存在一个节点连接多个节点的情况，也就是说存在一个节点指向至少两个节点的情况，则电子设备按照推理图中对应的连接关系，即节点对应的指向关系，将指向至少两个节点的节点对应的第三模型服务的输出分别作为该至少两个节点对应的第三模型服务的输入。例如，节点f指向节点g，并且节点f还指向节点h，则将节点f对应的第三模型服务的输出，分别作为节点g及节点h对应的第三模型服务的输入。
[0100]
为了便于获取对应的组合服务，电子设备在生成组合服务后，电子设备将第四标识与组合服务的对应关系添加存保存的标识与模型服务的对应关系中。由于在本技术实施例中，电子设备可以根据组合服务生成请求中携带的推理图、推理图中每个节点中记录待组合的模型的第三标识生成对应的组合服务。该组合服务是可以运行的模型，该组合服务中包含接到待处理的数据的链接，应用设备在获取到该组合服务后，在该组合服务中的链接中输入对应待处理的数据，该组合服务即可对数据进行相应的处理。由于组合服务中包含多个模型服务，因此组合服务可以满足复杂的应用场景。
[0101]
在本技术实施例中，为了使得得到的处理结果更加准确，在采用模型服务对数据进行处理之前，可以先对数据进行预处理，在本技术实施例中具体的可以通过数据处理服务对数据进行预处理，在采用模型服务对数据进行处理之后，可以再对数据进行数据再加工处理，电子设备中可以预先保存数据处理的标识与数据处理服务的对应关系，推理图中的节点中还可以记录数据处理方法对应的标识，其中，预处理例如可以是自然语言处理中的分词、去停用词、大小写转化、特定实体替换以及简体繁体转换等；数据再加工处理例如可以是数据字段合并，数据拼接及数据加权平均等。具体的，在本技术实施例中推理图的每个节点中记录一个标识，该标识可以是数据处理的标识，也可以是模型的标识。
[0102]
具体的，电子设备在生成组合服务时，获取每个节点中记录的标识对应的服务，按
照推理图中每个节点之间的连接关系，将每个节点中记录的标识对应的服务进行组合。其中，若某一节点中记录的是待组合的数据处理的标识，则获取对应的数据处理服务，若某一节点中记录的是待组合的模型的标识，则获取对应的模型服务，电子设备按照推理图中每个节点之间的连接关系，将每个节点中记录的数据处理的标识对应的数据处理服务或模型的标识对应的模型服务进行组合，从而进一步满足复杂的应用场景，具体的组合方式在本技术实施例中已经描述过，在此不再赘述。
[0103]
在本技术实施例中，通过该方式可以满足复杂的应用场景，例如可以先对文本内容进行去形容词操作，再调用两种不同的模型服务确定文本内容对应的类别，最后对两种不同的模型服务确定的文本内容对应的类别加权求平均，从而准确地确定文本内容对应的类别。
[0104]
以数据再加工算法为数据加权平均为例，假设通过两个不同的分类模型服务获取的分类结果及对应的概率分别为：
[0105]
m_servicem＝{label1：score
m1
，label2：score
m2
}
[0106]
m_servicen＝{label1：score
n1
，label2：score
n2
}
[0107]
其中，m_servicem为两个分类模型服务中的一个分类模型服务，m_servicen为两个分类模型服务中的另一个分类模型服务，label1：score
m1
表示分类模型服务m_servicem所确定的分类结果为label1的概率为score
m1
；label2：score
m2
表示分类模型服务m_servicem所确定的分类结果为label2的概率为score
m2
；label1：score
n1
表示分类模型服务m_servicen所确定的分类结果为label1的概率为score
n1
；label2：score
n2
表示分类模型服务m_servicen所确定的分类结果为label2的概率为score
n2
。
[0108]
最终获取的结果为：
[0109][0110]
其中，result表示最终获取的结果，wm表示分类模型服务m_servicem的结果对应的权重值，为分类模型服务m_servicem的结果，wn表示分类模型服务m_servicen的结果对应的权重值，为分类模型服务m_servicen的结果。其中，该权重值可以是对应记录在推理图中对应中的节点。label1表示分类结果，label2表示另一个分类结果，wm*score
m1
+wn*score
n1
表示分类结果为label1的概率，score
m1
表示分类模型服务m_servicem确定的分类结果为label1的概率，score
n1
表示分类模型服务m_servicen确定的分类结果为label1的概率，wm*score
m2
+wn*score
n2
表示分类结果为label2的概率，score
m2
表示分类模型服务m_servicem确定的分类结果为label2的概率，score
n2
表示类模型服务m_servicen确定的分类结果为label2的概率。
[0111]
表1为本技术实施例提供的推理图的流程示例。
[0112][0113]
表1
[0114]
其中，表1中的“推理图”列包含的是组合服务生成请求中携带的组合服务的标识，“预处理”列包含的是采用模型服务对数据进行处理之前进行的数据处理的标识，“模型”列包含的是模型服务对应的标识，“数据再加工处理”列包含的是采用模型服务对数据进行处理之后进行的数据处理的标识，表1中第二行指的组合服务的标识g_service1对应的组合服务的生成方法为，将p_service1的输出作为m_service1的输入，并将m_service1的输出作为p_service2的输入；表1中的第三行指的是组合服务的标识g_service2对应的组合服务的生成方法为，将p_service1的输出作为m_service1的输入，将m_service1的输出作为m_service2的输入，并将m_service2的输出作为p_service2的输入；表1中第四行指的是组合服务的标识g_service3对应的组合服务的生成方法为，将p_service1的输出分别作为m_service1及m_service2的输入，将m_service1的输出和m_service2的输出作为p_service2的输入；表1中第五行指的是组合服务的标识g_service4对应的组合服务的生成方法为，将p_service1的输出作为m_service1的输入，将m_service1的输出作为p_service2的输入，之后将p_service2的输出作为m_service3的输入，并将m_service3的输出作为p_service3的输入。
[0115]
图2为本技术实施例提供的一种推理图的流程示意图。
[0116]
由图2可知，可以先调用数据处理服务1，再调用数据处理服务2，在调用数据处理服务2之后，分别调用模型服务1及模型服务2，在调用模型服务1与模型服务2之后，调用数据处理服务3，即将数据处理服务1的输出作为数据处理服务2的输入，将数据处理服务2的输出分别作为模型服务1与模型服务2的输入，并将模型服务1与模型服务2的输出，作为数据处理服务3的输入。
[0117]
实施例4：
[0118]
为了准确地完成模型的部署，在上述各实施例的基础上，在本技术实施例中，所述确定所述第一标识对应的第一配置算法之后，所述通过所述第一配置算法部署所述模型之前，所述方法还包括：
[0119]
构建所述第一配置算法的镜像；
[0120]
所述通过所述第一配置算法部署所述模型包括：
[0121]
运行所述镜像生成对应的容器，在所述容器中通过所述第一配置算法部署所述模
型。
[0122]
在本技术实施例中，为了提供第一配置算法对应的运行环境，从而实现模型的部署，电子设备在获取到第一标识对应的第一配置算法后，可以构建第一配置算法对应的镜像。其中，在本技术实施例中，电子设备可以采用kaniko构建第一配置算法对应的镜像。其中，kaniko是一种构建镜像的工具，具体的，如何构建第一配置算法对应的镜像为现有技术，在此不再赘述。在本技术实施例中，镜像可以被称为推理镜像，镜像可以理解为一种针对第一配置算法的微型运行环境，镜像中包含了可以提供对应的运行环境的算法逻辑，及第一配置算法运行依赖的python基础包，镜像是模型部署时所需要的基础资源。
[0123]
电子设备在构建完成第一配置算法对应的镜像后，可以运行该镜像生成镜像对应的容器，通过该容器为第一配置算法提供对应的运行环境，电子设备在获取到镜像对应的容器后，在容器中通过第一配置算法部署训练完成的模型。
[0124]
在本技术实施例中，电子设备在构建完成镜像后，可以将镜像上传到港口(harbor)镜像仓库中，并在后续有使用该第一配置算法对应的镜像的需求时，可以直接在harbor镜像仓库中获取该镜像，具体的，如何将镜像上传到harbor镜像仓库中，以及如何在harbor镜像仓库中获取该镜像均为现有技术，在此不再赘述。
[0125]
具体的，本技术实施例中构建第一配置算法对应的镜像的方法可以为：电子设备采用kubernetes的job任务构建获取第一配置算法对应的预测代码，其中，job适用于执行完一次性工作任务就不再执行。电子设备获取kaniko构建基础镜像，基于该基础镜像获取第一配置算法算法对应的镜像，在构建完成镜像后，最终将构建成功的镜像上传到harbor镜像仓库。
[0126]
其中，电子设备针对第一配置算法构建的镜像可以为imagei，该第一配置算法可以为algi。
[0127]
另外，在本技术实施例中，还可以是其他与电子设备具有连接关系的设备，构建完第一配置算法对应的镜像后，将第一配置算法对应的镜像发送至电子设备。
[0128]
图3为本技术实施例提供的一种生成模型服务的过程示意图。
[0129]
电子设备在接收到训练完成的模型与模型的标识的对应关系后，获取模型的标识对应的配置算法，构建配置算法对应的镜像，运行镜像生成对应的容器，在容器中通过配置算法部署模型，生成模型服务，该模型服务即可对数据进行处理。其中，配置算法中包括对应的代码以及部署模型时依赖的资源。
[0130]
图4为本技术实施例提供的一种组合服务生成的过程示意图。
[0131]
由图4可知，专业人员预先配置有模型的标识对应的算法，并且算法中包括对应的代码以及部署模型时依赖的资源。电子设备在接收到训练完成的模型与模型的标识后，获取模型的标识对应的配置算法，构建配置算法对应的镜像，运行镜像生成对应的容器，在容器中通过配置算法部署模型，生成模型服务。
[0132]
电子设备在接收到组合服务生成请求，则获取组合服务生成请求中携带的推理图、推理图中每个节点中记录待组合的模型的第三标识；根据保存的模型的标识与模型服务的对应关系，确定第三标识对应的第三模型服务；按照推理图中节点之间的连接关系，将推理图中每个节点对应的第三模型服务进行组合得到组合服务。
[0133]
实施例5：
[0134]
为了节约资源，在上述各实施例的基础上，在本技术实施例中，所述方法还包括：
[0135]
若第五标识对应的第四模型服务当前满足预设的停用条件，则停用所述第四模型服务，释放所述第四模型服务占用的资源。
[0136]
由于本技术实施例中的电子设备中可能保存有很多模型服务，然而当前应用设备可能没有获取某些模型服务的需求，因此在本技术实施例中，电子设备可以预先针对每个标识对应的模型服务保存有对应的停用条件，若第五标识对应的第四模型服务当前满足预设的停用条件，则电子设备停用第四模型服务，释放第四模型服务占用的资源。具体的，释放的资源为cpu资源及gpu资源。
[0137]
为了节约资源，在上述各实施例的基础上，在本技术实施例中，所述第五标识对应的第四模型服务当前满足预设的停用条件包括：
[0138]
接收到的携带的待使用的模型为所述第五标识的应用请求达到设定数量；或
[0139]
当前时刻为所述第五标识对应的第四模型服务的预设停用时刻；或
[0140]
所述第五标识对应的第四模型服务被部署的时长达到第一预设时长。
[0141]
在本技术实施例中，由于在应用设备获取完模型服务后，后续应用设备就没有获取该模型服务的需求了，因此第五标识对应的第四模型服务当前满足预设的停用条件可以为，接收到携带待使用的模型为第五标识的应用请求，并且接收到的携带第五标识的应用请求的数量达到设定数量，该设定数量可以为任意数量，例如可以为1。
[0142]
由于大多应用设备都是在固定时刻有获取模型服务的需求，在应用设备获取完模型服务后，后续可能不再有获取模型服务的需求，因此在电子设备可以预先保存有每个标识对应的模型服务的停用时刻，第五标识对应的四模型服务当前满足预设的停用条件可以为，当前时刻为第五标识对应的第四模型服务的预设停用时刻。其中，预设停用时刻可以为任意时刻，例如可以为每天的十点。
[0143]
在本技术实施例中，由于存在某些应用设备按照预设的时间间隔获取模型服务的可能，在应用设备获取到模型服务之后，则在该预设的时间间隔内不会再有获取模型服务的需求，因此在本技术实施例中，第五标识对应的第四模型服务当前满足预设的停用条件可以为，第五标识对应的第四模型服务被部署的时长达到第一预设时长，其中，该第一预设时长可以与应用设备获取第四模型服务对应的时间间隔相同，也可以不同。
[0144]
实施例6：
[0145]
为了准确地生成对应的模型服务，在上述各实施例的基础上，在本技术实施例中，所述方法还包括：
[0146]
若被停用的第五标识对应的第四模型服务当前满足预设的部署条件，则根据预先保存的模型的标识与算法的对应关系，确定所述第五标识对应的第二配置算法，通过所述第二配置算法部署第五标识的模型；
[0147]
生成部署完成的所述第五标识的模型对应的第四模型服务。
[0148]
在本技术实施例中，某一模型服务被停用后，应用设备可能还会有获取并应用该模型服务的需求，因此在本技术实施例中，电子设备中可以预先针对每个标识对应的模型服务保存有对应的部署条件，若被停用的第五标识对应的第四模型服务当前满足预设的部署条件，则电子设备重新生成部署完成的第四模型服务。具体的，电子设备根据预先保存的模型的标识与算法的对应关系，确定模型的标识与算法的对应关系中第五标识对应的算
法，并将该算法作为第二配置算法，电子设备在获取到第二配置算法后，通过第二配置算法部署第五标识的模型，即可生成部署完成的第五标识的模型对应的第四模型服务。
[0149]
其中，被停用的第五标识对应的第四模型服务当前满足预设的部署条件可以为接收到携带该第五标识的重新部署指令。
[0150]
为了准确地生成对应的模型服务，在上述各实施例的基础上，在本技术实施例中，所述被停用的第五标识对应的第四模型服务当前满足预设的部署条件包括：
[0151]
当前时刻为所述第五标识对应的第四模型服务的预设部署时刻；或
[0152]
所述被停用的第五标识对应的第四模型服务被停用的时长达到第二预设时长。
[0153]
在本技术实施例中，由于应用设备通常在固定时刻有获取模型服务的需求，因此在本技术实施例中，电子设备中可以预先针对每个标识对应的模型服务保存有部署时刻，第五标识对应的第四模型服务当前满足预设的部署条件，可以是当前时刻为第五标识对应的第四模型服务的预设部署时刻。也就是说若第五标识对应的第四模型服务被停用，且当前时刻为第五标识对应的第四模型服务的预设部署时刻，则电子设备可以部署该第五标识对应的第四模型服务。
[0154]
在本技术实施例中，由于存在某些应有设备按照预设的时间间隔获取模型服务的可能，因此第五标识对应的第四模型服务当前满足预设的部署条件，可以是被停用的第五标识对应的第五模型服务被停用的时长达到第二预设时长，其中，该第二预设时长可以与应用设备获取第四模型服务对应的时间间隔相同，也可以不同。
[0155]
实施例7：
[0156]
为了准确地生成保存模型的标识对应的模型服务，在上述各实施例的基础上，在本技术实施例中，所述生成部署完成的所述模型对应的第一模型服务之后，所述保存所述第一标识与所述第一模型服务的对应关系之前，所述方法还包括：
[0157]
判断保存的模型的标识与模型服务的对应关系中是否包含所述第一标识；
[0158]
所述保存所述第一标识与所述第一模型服务的对应关系包括：
[0159]
若保存的模型的标识与模型服务的对应关系中包含所述第一标识，则采用所述第一标识与对应的第一模型服务对保存的所述第一标识对应的模型服务进行更新；
[0160]
若保存的模型的标识与模型服务的对应关系中不包含所述第一标识，则将所述第一标识与所述第一模型服务的对应关系添加到保存的模型的标识与模型服务的对应关系中。
[0161]
在本技术实施例中，模型可能会不停的被优化，当某一模型被优化且电子设备接收到携带被优化后的该模型及模型的标识时，电子设备基于该被优化后的模型及模型的标识，会生成该被优化后的该模型对应的模型服务，但是该模型的标识并不会发生改变，因此电子设备会保存该模型的标识与被优化后的该模型对应的模型服务的对应关系，由于电子设备中已经保存有该模型的标识与该模型被优化前的模型服务的对应关系，因此在本技术实施例中，电子设备采用该模型对应的标识与优化后的该模型对应的模型服务的对应关系，更新所保存的该模型的标识与该模型的标识对应的模型服务的对应关系。
[0162]
电子设备在生成第一标识的模型对应的第一模型服务后，可以通过电子设备中是否保存有第一标识，来确定该第一模型服务是否为被优化后的模型对应的模型服务，因此电子设备可以线判断保存的模型的标识与模型服务的对应关系中是否包含第一标识。
[0163]
若保存的模型的标识与模型服务的对应关系中不包含第一标识，则说明该第一标识对应的第一模型服务并非优化后的模型服务，则无需采用该第一模型服务替换其他模型服务，则电子设备可以将第一标识与第一模型服务的对应关系，增加在保存的模型与模型服务的对应关系中。
[0164]
若保存的模型的标识与模型服务的对应关系中包含第一标识，则说明该第一标识对应的第一模型服务为优化后的模型服务，优化后的模型服务的性能优于优化前的模型服务，通常应用设备在应用第一标识对应的模型服务时，均会应有优化后的模型服务，因此若保存的模型的标识与模型服务的对应关系中包含第一标识，则电子设备采用第一标识与对应的第一模型服务对保存的第一标识与对应的模型服务进行更新。从而使得电子设备中保存的模型的标识与模型服务的对应关系中，模型服务均为最新优化后的模型服务，从而可以使得应用设备采用获取到的模型服务的信息在进行数据处理时，处理结果更准确。
[0165]
在本技术实施例中，当生成推理表现更好的新版本模型服务即被优化后的模型服务后，可以快速替代所保存的老版本模型服务即优化前的模型服务，从而增加推理服务的推理能力。
[0166]
假设原始模型服务为：
[0167][0168]
其中，algi表示对应的配置算法，imagei表示配置算法对应的镜像，model
i-1
表示优化前的模型，m_servicei表示优化前的模型服务。上述表示通过配置算法algi构建对应的镜像imagei，通过镜像为配置算法提供运行环境，通过配置算法部署模型model
i-1
，生成对应的模型服务m_servicei。
[0169]
被优化后的模型服务为：
[0170][0171]
其中，algi表示对应的配置算法，imagei表示配置算法对应的镜像，model
i-2
表示优化后的模型，m_servicei表示优化后的模型服务。上述表示通过配置算法algi构建对应的镜像imagei，通过镜像为配置算法提供运行环境，通过配置算法部署模型model
i-2
，生成对应的模型服务m_servicei，model
i-2
相较于模型model
i-1
为更新的模型，因此模型服务m_servicei获得了更强的推理能力。
[0172]
在本技术实施例中，新生成的模型服务也可以接受在线的测试及问题反馈，从而为下一次的模型提供优化建议。为了验证模型服务的性能，本技术实施例主要包括两方面的验证，一是推理能力的验证，二是推理性能验证。推理能力验证主要侧重于模型准确度的验证，具体如文本分类分类准确度验证等；推理性能验证主要侧重于对高并发，高时效的推理场景测试，在线推理服务的一个重要特点是快速响应大量的在线推理请求，也就是能快速准确地数据很多数据，推理性能验证主要测试的是该类场景下的推理能力表现。
[0173]
实施例8：
[0174]
图5为本技术实施例提供的一种模型部署装置结构示意图，所述装置包括：
[0175]
接收模块501，用于接收训练完成的模型以及所述模型的第一标识；
[0176]
处理模块502，用于根据预先保存的模型的标识与算法的对应关系，确定所述第一标识对应的第一配置算法，通过所述第一配置算法部署所述模型；生成部署完成的所述模型对应的第一模型服务，保存所述第一标识与所述第一模型服务的对应关系。
[0177]
在一种可能的实施方式中，所述处理模块502，还用于接收应用设备发送的应用请求，其中，所述应用请求中携带待使用的模型的第二标识；根据保存的模型的标识与模型服务的对应关系，确定所述第二标识对应的第二模型服务，将所述第二模型服务发送至所述应用设备。
[0178]
在一种可能的实施方式中，所述处理模块502，还用于若接收到组合服务生成请求，则获取所述组合服务生成请求中携带的推理图、所述推理图中每个节点中记录待组合的模型的第三标识及组合服务对应的第四标识；根据保存的模型的标识与模型服务的对应关系，确定所述第三标识对应的第三模型服务；按照所述推理图中节点之间的连接关系，将所述推理图中每个节点对应的第三模型服务进行组合得到组合服务；在保存的模型的标识与模型服务的对应关系中添加所述第四标识与所述组合服务的对应关系。
[0179]
在一种可能的实施方式中，所述处理模块502，还用于构建所述第一配置算法的镜像；运行所述镜像生成对应的容器，在所述容器中通过所述第一配置算法部署所述模型。
[0180]
在一种可能的实施方式中，所述处理模块502，还用于若第五标识对应的第四模型服务当前满足预设的停用条件，则停用所述第四模型服务，释放所述第四模型服务占用的资源。
[0181]
在一种可能的实施方式中，所述处理模块502，还用于若被停用的第五标识对应的第四模型服务当前满足预设的部署条件，则根据预先保存的模型的标识与算法的对应关系，确定所述第五标识对应的第二配置算法，通过所述第二配置算法部署第五标识的模型；生成部署完成的所述第五标识的模型对应的第四模型服务。
[0182]
在一种可能的实施方式中，所述处理模块502，还用于判断保存的模型的标识与模型服务的对应关系中是否包含所述第一标识；若保存的模型的标识与模型服务的对应关系中包含所述第一标识，则采用所述第一标识与对应的第一模型服务对保存的所述第一标识对应的模型服务进行更新；若保存的模型的标识与模型服务的对应关系中不包含所述第一标识，则将所述第一标识与所述第一模型服务的对应关系添加到保存的模型的标识与模型服务的对应关系中。
[0183]
实施例9：
[0184]
图6为本技术实施例提供的一种电子设备结构示意图，在上述各实施例的基础上，本技术实施例还提供了一种电子设备，如图6所示，包括：处理器601、通信接口602、存储器603和通信总线604，其中，处理器601，通信接口602，存储器603通过通信总线604完成相互间的通信；
[0185]
所述存储器603中存储有计算机程序，当所述程序被所述处理器601执行时，使得所述处理器601执行如下步骤：
[0186]
接收训练完成的模型以及所述模型的第一标识；
[0187]
根据预先保存的模型的标识与算法的对应关系，确定所述第一标识对应的第一配置算法，通过所述第一配置算法部署所述模型；
[0188]
生成部署完成的所述模型对应的第一模型服务，保存所述第一标识与所述第一模
型服务的对应关系。
[0189]
进一步地，所述处理器601，还用于接收应用设备发送的应用请求，其中，所述应用请求中携带待使用的模型的第二标识；
[0190]
根据保存的模型的标识与模型服务的对应关系，确定所述第二标识对应的第二模型服务，将所述第二模型服务发送至所述应用设备。
[0191]
进一步地，所述处理器601，还用于若接收到组合服务生成请求，则获取所述组合服务生成请求中携带的推理图、所述推理图中每个节点中记录待组合的模型的第三标识及组合服务对应的第四标识；
[0192]
根据保存的模型的标识与模型服务的对应关系，确定所述第三标识对应的第三模型服务；
[0193]
按照所述推理图中节点之间的连接关系，将所述推理图中每个节点对应的第三模型服务进行组合得到组合服务；
[0194]
在保存的模型的标识与模型服务的对应关系中添加所述第四标识与所述组合服务的对应关系。
[0195]
进一步地，所述处理器601，还用于构建所述第一配置算法的镜像；运行所述镜像生成对应的容器，在所述容器中通过所述第一配置算法部署所述模型。
[0196]
进一步地，所述处理器601，还用于若第五标识对应的第四模型服务当前满足预设的停用条件，则停用所述第四模型服务，释放所述第四模型服务占用的资源。
[0197]
进一步地，所述处理器601，还用于若被停用的第五标识对应的第四模型服务当前满足预设的部署条件，则根据预先保存的模型的标识与算法的对应关系，确定所述第五标识对应的第二配置算法，通过所述第二配置算法部署第五标识的模型；
[0198]
生成部署完成的所述第五标识的模型对应的第四模型服务。
[0199]
进一步地，所述处理器601，还用于判断保存的模型的标识与模型服务的对应关系中是否包含所述第一标识；若保存的模型的标识与模型服务的对应关系中包含所述第一标识，则采用所述第一标识与对应的第一模型服务对保存的所述第一标识对应的模型服务进行更新；
[0200]
若保存的模型的标识与模型服务的对应关系中不包含所述第一标识，则将所述第一标识与所述第一模型服务的对应关系添加到保存的模型的标识与模型服务的对应关系中。
[0201]
上述服务器提到的通信总线可以是外设部件互连标准(peripheral component interconnect，pci)总线或扩展工业标准结构(extended industry standard architecture，eisa)总线等。该通信总线可以分为地址总线、数据总线、控制总线等。为便于表示，图中仅用一条粗线表示，但并不表示仅有一根总线或一种类型的总线。
[0202]
通信接口用于上述电子设备与其他设备之间的通信。
[0203]
存储器可以包括随机存取存储器(random access memory，ram)，也可以包括非易失性存储器(non-volatile memory，nvm)，例如至少一个磁盘存储器。可选地，存储器还可以是至少一个位于远离前述处理器的存储装置。
[0204]
上述处理器可以是通用处理器，包括中央处理器、网络处理器(network processor，np)等；还可以是数字指令处理器(digital signal processing，dsp)、专用集
成电路、现场可编程门阵列或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。
[0205]
实施例10：
[0206]
在上述各实施例的基础上，本技术实施例还提供了一种计算机可读存储介质，所述计算机可读存储介质内存储有可由电子设备执行的计算机程序，当所述程序在所述电子设备上运行时，使得所述电子设备执行时实现如下步骤：
[0207]
所述存储器中存储有计算机程序，当所述程序被所述处理器执行时，使得所述处理器执行如下步骤：
[0208]
接收训练完成的模型以及所述模型的第一标识；
[0209]
根据预先保存的模型的标识与算法的对应关系，确定所述第一标识对应的第一配置算法，通过所述第一配置算法部署所述模型；
[0210]
生成部署完成的所述模型对应的第一模型服务，保存所述第一标识与所述第一模型服务的对应关系。
[0211]
在一种可能的实施方式中，所述方法还包括：
[0212]
接收应用设备发送的应用请求，其中，所述应用请求中携带待使用的模型的第二标识；
[0213]
根据保存的模型的标识与模型服务的对应关系，确定所述第二标识对应的第二模型服务，将所述第二模型服务发送至所述应用设备。
[0214]
在一种可能的实施方式中，所述方法还包括：
[0215]
若接收到组合服务生成请求，则获取所述组合服务生成请求中携带的推理图、所述推理图中每个节点中记录待组合的模型的第三标识及组合服务对应的第四标识；
[0216]
根据保存的模型的标识与模型服务的对应关系，确定所述第三标识对应的第三模型服务；
[0217]
按照所述推理图中节点之间的连接关系，将所述推理图中每个节点对应的第三模型服务进行组合得到组合服务；
[0218]
在保存的模型的标识与模型服务的对应关系中添加所述第四标识与所述组合服务的对应关系。
[0219]
在一种可能的实施方式中，所述确定所述第一标识对应的第一配置算法之后，所述通过所述第一配置算法部署所述模型之前，所述方法还包括：
[0220]
构建所述第一配置算法的镜像；
[0221]
所述通过所述第一配置算法部署所述模型包括：
[0222]
运行所述镜像生成对应的容器，在所述容器中通过所述第一配置算法部署所述模型。
[0223]
在一种可能的实施方式中，所述方法还包括：
[0224]
若第五标识对应的第四模型服务当前满足预设的停用条件，则停用所述第四模型服务，释放所述第四模型服务占用的资源。
[0225]
在一种可能的实施方式中，所述第五标识对应的第四模型服务当前满足预设的停用条件包括：
[0226]
接收到的携带的待使用的模型为所述第五标识的应用请求达到设定数量；或
[0227]
当前时刻为所述第五标识对应的第四模型服务的预设停用时刻；或
[0228]
所述第五标识对应的第四模型服务被部署的时长达到第一预设时长。
[0229]
在一种可能的实施方式中，所述方法还包括：
[0230]
若被停用的第五标识对应的第四模型服务当前满足预设的部署条件，则根据预先保存的模型的标识与算法的对应关系，确定所述第五标识对应的第二配置算法，通过所述第二配置算法部署第五标识的模型；
[0231]
生成部署完成的所述第五标识的模型对应的第四模型服务。
[0232]
在一种可能的实施方式中，所述被停用的第五标识对应的第四模型服务当前满足预设的部署条件包括：
[0233]
当前时刻为所述第五标识对应的第四模型服务的预设部署时刻；或
[0234]
所述被停用的第五标识对应的第四模型服务被停用的时长达到第二预设时长。
[0235]
在一种可能的实施方式中，所述生成部署完成的所述模型对应的第一模型服务之后，所述保存所述第一标识与所述第一模型服务的对应关系之前，所述方法还包括：
[0236]
判断保存的模型的标识与模型服务的对应关系中是否包含所述第一标识；
[0237]
所述保存所述第一标识与所述第一模型服务的对应关系包括：
[0238]
若保存的模型的标识与模型服务的对应关系中包含所述第一标识，则采用所述第一标识与对应的第一模型服务对保存的所述第一标识对应的模型服务进行更新；
[0239]
若保存的模型的标识与模型服务的对应关系中不包含所述第一标识，则将所述第一标识与所述第一模型服务的对应关系添加到保存的模型的标识与模型服务的对应关系中。
[0240]
实施例11：
[0241]
本技术实施例还提供了一种计算机程序产品，该计算机程序产品被计算机执行时实现上述应用于电子设备的任一方法实施例所述的模型部署方法。
[0242]
在上述实施例中，可以全部或部分地通过软件、硬件、固件或者其任意组合来实现，可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令，在计算机上加载和执行所述计算机指令时，全部或部分地产生按照本技术实施例所述的流程或功能。
[0243]
由于在本技术实施例中是在电子设备中保存有模型的标识与算法的对应关系，因此当接收到的模型的第一标识后，可以确定该第一标识的模型对应的第一配置算法，从而采用该第一配置算法对该模型进行部署，从而可以避免在应用设备上进行部署，受生产上线的窗口限制的问题，并且不需要专业人员在每个模型上线时，分别撰写部署每个模型的代码，因此方便模型的应用。
[0244]
本领域内的技术人员应明白，本技术的实施例可提供为方法、系统、或计算机程序产品。因此，本技术可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本技术可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、cd-rom、光学存储器等)上实施的计算机程序产品的形式。
[0245]
本技术是参照根据本技术的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或
方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
[0246]
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
[0247]
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
[0248]
显然，本领域的技术人员可以对本技术进行各种改动和变型而不脱离本技术的精神和范围。这样，倘若本技术的这些修改和变型属于本技术权利要求及其等同技术的范围之内，则本技术也意图包含这些改动和变型在内。