深度模型的管理方法及服务器与流程

本发明实施方式涉及计算机技术领域，特别涉及深度模型的管理方法及服务器。

背景技术：

深度学习是机器学习研究中的一个新的领域，其动机在于建立、模拟人脑进行分析学习的神经网络，通过模仿人脑的机制来解释数据。随着计算机和互联网的飞速发展，深度学习在大数据处理、人工智能分析等方面占有越来越重要的地位。目前，服务器内部往往将模型训练和对外提供服务捆绑在一起，即进行模型训练的同时也对外提供服务，服务器通过不断地训练、调整深度模型的参数，生成新的深度模型，当有新的深度模型时，会将新的深度模型直接替换当前正在使用的深度模型，以使用新的深度模型进行服务。

但是，本专利申请的发明人发现：深度模型的服务准确度并不是随着训练次数的增加而单调递增的。而现有技术中直接使用新的深度模型去替换当前正在使用的深度模型，容易出现模型更新所导致的服务准确度跌落的情况，服务器服务质量的稳定性较差。

技术实现要素：

本发明实施方式的目的在于提供一种深度模型的管理方法及服务器，能够对新获取的深度模型进行检测验证，避免了模型更新所导致的服务准确度跌落的情况，为保证服务器服务质量的稳定性提供了基础。

为解决上述技术问题，本发明的实施方式提供了一种深度模型的管理方法，应用于服务器，该方法包括：

采用备用深度模型处理客户端的服务请求，并校验备用深度模型对服务请求的处理结果，得到校验结果；其中，备用深度模型为与当前使用的深度模型并行的新获取的深度模型；

根据校验结果判断备用深度模型是否达标；若判断结果为否，则废弃备用深度模型；若判断结果为是，则废弃当前使用的深度模型。

本发明的实施方式还提供了一种服务器，包括：

至少一个处理器；以及，

与至少一个处理器通信连接的存储器；其中，

存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行上述的深度模型的管理方法。

本发明的实施方式还提供了一种计算机可读存储介质，存储有计算机程序，该计算机程序被处理器执行时实现上述的深度模型的管理方法。

本发明实施方式相对于现有技术而言，服务器能够将新获取的深度模型作为备用深度模型，令当前使用的深度模型与备用深度模型并行处理服务请求。并且，服务器会对备用深度模型是否达标进行检测验证，若备用深度模型不达标，则服务器依然可以使用当前使用的深度模型进行对外服务；若备用深度模型达标，则服务器便可以废弃当前使用的深度模型，从而使用备用深度模型进行对外服务。通过这种方式，避免了模型更新所导致的服务准确度跌落的情况，为保证服务器服务质量的稳定性提供了基础。

另外，校验备用深度模型对服务请求的处理结果，得到校验结果，具体包括：将备用深度模型对服务请求的处理结果返回至客户端；接收客户端针对处理结果的反馈信息；根据反馈信息获取校验结果。这样，基于客户端的反馈信息获取校验结果，校验结果与用户需求的匹配度较高，从而能够提高后续判断备用深度模型是否达标的准确率，为提高服务器服务质量提供了基础。

另外，深度模型的管理方法还利用当前使用的深度模型处理服务请求，并将当前使用的深度模型对服务请求的处理结果返回至客户端。这样，客户端能够获取到尽可能多的相关信息，有效地提高了客户端展示的内容能够满足用户需求的可能性，从而能够保证服务器服务质量的稳定性。

另外，深度模型的管理方法还判断反馈信息是否为否定式反馈信息；其中，若判断结果为是，则执行利用当前使用的深度模型处理服务请求的步骤。这样，服务器在备用深度模型的处理结果不满足用户需求的情况下，才将当前使用的深度模型对服务请求的处理结果返回至客户端，不仅能够保证服务器服务质量的稳定性，而且能够避免过多无效信息的推送给用户造成困扰。

另外，根据校验结果判断备用深度模型是否达标，具体包括：若校验结果为备用深度模型的第n次校验结果，则计算备用深度模型的校验通过率；判断校验通过率是否大于或等于预设通过率；其中，n为正整数。这样，提供了根据校验结果判断备用深度模型是否达标的一种具体实现形式，增加了本发明实施方式的灵活性。

另外，若校验结果为备用深度模型的第n次校验结果，且校验结果为校验通过，则判断校验结果前是否存在连续的m次校验通过；其中，m为正整数。这样，提供了根据校验结果判断备用深度模型是否达标的一种具体实现形式，增加了本发明实施方式的灵活性。

另外，采用备用深度模型处理客户端的服务请求前，还包括：接收训练端服务器推送的深度模型，并将接收的深度模型作为备用深度模型。这样，将模型训练端和模型服务端分别设置在两个服务器上，能够避免计算资源的浪费、提高了计算资源的利用率。

另外，训练端服务器周期性的推送深度模型，为实现模型的快速更新、保证服务质量的稳步增长提供了基础。

附图说明

一个或多个实施方式通过与之对应的附图中的图片进行示例性说明，这些示例性说明并不构成对实施方式的限定，附图中具有相同参考数字标号的元件表示为类似的元件，除非有特别申明，附图中的图不构成比例限制。

图1是根据第一实施方式的深度模型的管理方法的具体流程图；

图2是根据第五实施方式的深度模型的管理方法的具体流程图；

图3是根据第五实施方式的模型训练端与模型服务端对应关系的结构示意图；

图4是根据第六实施方式的服务器的示意图。

具体实施方式

为使本发明实施方式的目的、技术方案和优点更加清楚，下面将结合附图对本发明的各实施方式进行详细的阐述。然而，本领域的普通技术人员可以理解，在本发明各实施方式中，为了使读者更好地理解本申请而提出了许多技术细节。但是，即使没有这些技术细节和基于以下各实施方式的种种变化和修改，也可以实现本申请所要求保护的技术方案。

本发明的第一实施方式涉及一种深度模型的管理方法，具体流程如图1所示。本实施方式中深度模型的管理方法应用于服务器，以下进行具体说明：

步骤101，采用备用深度模型处理客户端的服务请求，并校验备用深度模型对服务请求的处理结果，得到校验结果。

具体地说，服务器中有一当前使用的深度模型，并且服务器获取到新的深度模型时，服务器并不使用新获取的深度模型去替换当前使用的深度模型，而是将所获取的新的深度模型作为备用深度模型，从而令备用深度模型与当前使用的深度模型并行处理客户端的服务请求。

在一实施方式中，服务器中可以预存有校验数据，这样，服务器在接收到客户端的服务请求时，便可以利用备用深度模型处理客户端的服务请求，以便于自行根据预设的校验数据对备用深度模型的处理结果进行校验，从而得到校验结果。

在另一实施方式中，服务器基于客户端的反馈信息获取校验结果，校验结果与用户需求的匹配度较高，从而能够提高后续判断备用深度模型是否达标的准确率，为提高服务器服务质量提供了基础。

具体地说，服务器将备用深度模型对服务请求的处理结果返回至客户端，接收客户端针对处理结果的反馈信息，根据反馈信息获取校验结果。如，以服务器为智能客服服务器为例，用户在客户端上输入提问所对应的标签时，客户端将当前获取的标签作为服务请求发送至服务器。而后，服务器中的备用深度模型根据服务请求中的标签，检索获取标签相关的问题解答，并将所获取的问题解答作为处理结果返回给客户端，以便于客户端将接收到的处理结果展示给用户进行查看。需要注意的是，客户端在展示处理结果是时，还显示询问信息(如，以上答案是否解决了您的问题的字样)并提供选择按钮“是”、“否”。若用户选定“是”的选择按钮，则反馈信息为是，若用户选定“否”的选择按钮，则反馈信息为否。这样，服务器若检测到反馈信息为是，则认为备用深度模型的校验结果为校验通过；服务器若检测到反馈信息为否，则认为备用深度模型的校验结果为校验不通过。

然而，上述反馈信息为是、否，仅作为便于理解所作的示例性说明，在实际操作时，反馈信息可以以其他形式存在。也就是说，服务器在根据反馈信息获取备用深度模型的校验结果时，可以通过判断反馈信息是否为否定式反馈信息的方式，来获取校验结果。如，反馈信息为否定式反馈信息，则服务器认为校验结果为校验不通过；反馈信息不为否定式反馈信息，则服务器认为校验结果为校验通过。

步骤102，根据校验结果判断备用深度模型是否达标。若判断结果为是，则执行步骤103，否则，执行步骤104。

具体地说，服务器判断此次校验结果是否为对备用深度模型的第n次校验结果。若此次校验结果为对备用深度模型的第n次校验结果，则服务器计算备用深度模型的校验通过率，判断校验通过率是否大于或等于预设通过率。如果校验通过率大于或等于预设通过率，则步骤102的输出结果为是，否则，步骤102的输出结果为否。其中，n的数值、预设通过率可以由技术人员预先设置并保存在服务器。

步骤103，废弃当前使用的深度模型。

步骤104，废弃备用深度模型。

本发明的实施方式相对于现有技术而言，服务器能够将新获取的深度模型作为备用深度模型，令当前使用的深度模型与备用深度模型并行处理服务请求。并且，服务器会对备用深度模型是否达标进行检测验证，若备用深度模型不达标，则服务器依然可以使用当前使用的深度模型进行对外服务；若备用深度模型达标，则服务器便可以废弃当前使用的深度模型，从而使用备用深度模型进行对外服务。通过这种方式，避免了模型更新所导致的服务准确度跌落的情况，为保证服务器服务质量的稳定性提供了基础。

本发明的第二实施方式涉及一种深度模型的管理方法。第二实施方式在第一实施方式的基础上加以改进，主要改进之处在于：在本发明第二实施方式中，服务器还将当前使用的深度模型的处理结果也返回给客户端，有效地保证了服务器服务质量的稳定性。

具体地说，服务器在接收客户端的服务请求后，还可以利用当前使用的深度模型处理服务请求，将当前使用的深度模型对服务请求的处理结果返回至客户端。这样，客户端能够获取到尽可能多的相关信息，有效地提高了客户端展示的内容能够满足用户需求的可能性，从而能够保证服务器服务质量的稳定性。如，以服务器为智能客服服务器为例，客户端展示备用深度模型的处理结果以及当前深度模型的处理结果，能够令用户在客户端上输入的提问被解决的可能性更高。

本实施方式中，服务器将备用深度模型的处理结果(以下记为第一处理结果)以及当前深度模型的处理结果(以下记为第二处理结果)一同反馈给客户端，以便于用户在查看客户端展示的内容时，自行选择与自己需求匹配度较高的处理结果。并且，客户端还可以将用户的选择结果作为反馈信息，并将反馈信息上传给服务器。如，用户点击第一处理结果进行查看，则客户端将第一处理结果被选择作为反馈信息上传给服务器，服务器根据该反馈信息获取的备用深度模型的校验结果为校验通过。如，用户点击第二处理结果进行查看，则客户端将第二处理结果被选择作为反馈信息上传给服务器，服务器根据该反馈信息获取的备用深度模型的校验结果为校验不通过。其中，客户端可以根据用户的点击操作、查看各处理结果的时长等信息，确定用户的选择结果。

本发明第三实施方式涉及一种深度模型的管理方法。第三实施方式与第二实施方式大致相同，主要区别之处在于：服务器推送第一处理结果以及第二处理结果的时机不同。以下进行具体说明：

具体地说，服务器在接收到客户端的服务请求时，服务器利用备用深度模型处理客户端的服务请求，将备用深度模型对服务请求的处理结果返回至客户端后，服务器等待接收客户端的反馈信息。服务器在接收到客户端的反馈信息后，判断反馈信息是否为否定式反馈信息，在判定反馈信息为否定式反馈信息的情况下，服务器才利用当前使用的深度模型处理服务请求，并将当前使用的深度模型对服务请求的处理结果返回至客户端。这样，服务器能够在备用深度模型的处理结果不满足用户需求的情况下，及时地将当前使用的深度模型对服务请求的处理结果返回至客户端，不仅能够保证服务器服务质量的稳定性，而且能够避免过多无效信息的推送给用户造成困扰。

本发明第四实施方式涉及一种深度模型的管理方法。第四实施方式与第一实施方式大致相同，主要区别之处在于：根据校验结果判断备用深度模型是否达标的方式不同。以下进行具体说明：

本实施方式中，服务器根据校验结果判断备用深度模型是否达标的方式为：服务器检测此次校验结果是否为对备用深度模型的第n次校验结果。若此次校验结果为对备用深度模型的第n次校验结果，则服务器判断此次校验结果是否为校验通过。若此次校验结果为校验通过，则服务器检测此次校验结果前是否存在连续的m次校验通过。若服务器检测到此次校验结果前存在连续的m次校验通过，则服务器判定备用深度模型达标；若服务器检测到此次校验结果前不存在连续的m次校验通过，则服务器判定备用深度模型不达标。其中，n、m的数值可以由技术人员预先设置并保存在服务器。

本发明第五实施方式涉及一种深度模型的管理方法，具体流程如图2所示。第五实施方式在上述任意一实施方式的基础上加以改进，主要改进之处在于：在本发明第五实施方式中，模型训练端和模型服务端分别设置在两个服务器上，能够避免计算资源的浪费、提高了计算资源的利用率。以下进行具体说明：

本实施方式中的步骤202至步骤205与第一实施方式中的步骤101至步骤104大致相同，为减少重复，再次不再赘述，以下仅对不同部分进行说明：

步骤201，接收训练端服务器推送的深度模型，并将接收的深度模型作为备用深度模型。

具体地说，技术人员可以设置训练端服务器周期性的推送深度模型，从而为实现模型的快速更新、保证服务质量的稳步增长提供了基础。如，周期可以为一周。

更具体地说，若模型训练端和模型服务端都设置在一个服务器上，则每个服务器都是一个独立的个体，分别做着自己的模型训练和对外服务，模型训练往往会耗费大量的计算资源。然而，功能相同的服务器所做的训练都是相同的，不同服务器之间的模型训练并没有共享，因而模型训练端和模型服务端都设置在一个服务器时，服务器的计算资源利用率较低。本实施方式中，深度模型的管理方法的服务器为模型服务端的服务器。这样，采用模型训练端和模型服务端分别设置在两个服务器上的方式，能够实现一个模型训练端对应多个模型服务端的情况，如图3所示，从而能够减少不同服务器对模型的重复训练，保证了计算资源的利用率，并实现了模型服务端的轻量化。

上面各种方法的步骤划分，只是为了描述清楚，实现时可以合并为一个步骤或者对某些步骤进行拆分，分解为多个步骤，只要包括相同的逻辑关系，都在本专利的保护范围内；对算法中或者流程中添加无关紧要的修改或者引入无关紧要的设计，但不改变其算法和流程的核心设计都在该专利的保护范围内。

本发明第六实施方式涉及一种服务器，如图4所示，包括：至少一个处理器301；以及，与至少一个处理器301通信连接的存储器302。其中，存储器302存储有可被至少一个处理器301执行的指令，指令被至少一个处理器301执行，以使至少一个处理器301能够执行上述方法实施方式中的深度模型的管理方法。

其中，存储器302和处理器301采用总线方式连接，总线可以包括任意数量的互联的总线和桥，总线将一个或多个处理器301和存储器302的各种电路连接在一起。总线还可以将诸如外围设备、稳压器和功率管理电路等之类的各种其他电路连接在一起，这些都是本领域所公知的，因此，本文不再对其进行进一步描述。总线接口在总线和收发机之间提供接口。收发机可以是一个元件，也可以是多个元件，比如多个接收器和发送器，提供用于在传输介质上与各种其他装置通信的单元。经处理器处理的数据通过天线在无线介质上进行传输，进一步，天线还接收数据并将数据传送给处理器。

处理器301负责管理总线和通常的处理，还可以提供各种功能，包括定时，外围接口，电压调节、电源管理以及其他控制功能。而存储器302可以被用于存储处理器在执行操作时所使用的数据。

本发明的实施方式相对于现有技术而言，避免了模型更新所导致的服务准确度跌落的情况，为保证服务器服务质量的稳定性提供了基础。

本发明第七实施方式涉及一种计算机可读存储介质，存储有计算机程序。计算机程序被处理器执行时实现上述方法实施方式。

本发明的实施方式相对于现有技术而言，避免了模型更新所导致的服务准确度跌落的情况，为保证服务器服务质量的稳定性提供了基础。

即，本领域技术人员可以理解，实现上述实施方式方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成，该程序存储在一个存储介质中，包括若干指令用以使得一个设备(可以是单片机，芯片等)或处理器(processor)执行本申请各个实施方式所述方法的全部或部分步骤。而前述的存储介质包括：u盘、移动硬盘、只读存储器(rom，read-onlymemory)、随机存取存储器(ram，randomaccessmemory)、磁碟或者光盘等各种可以存储程序代码的介质。

本领域的普通技术人员可以理解，上述各实施方式是实现本发明的具体实施方式，而在实际应用中，可以在形式上和细节上对其作各种改变，而不偏离本发明的精神和范围。