标注模型训练、样本标注方法及相关装置与流程

文档序号:26589816发布日期:2021-09-10 20:32阅读:489来源:国知局
标注模型训练、样本标注方法及相关装置与流程

1.本公开涉及计算机技术领域,具体涉及计算机视觉和深度学习等人工智能技术领域,可用于智能交通或车辆分析场景下,尤其涉及一种标注模型训练和样本标注方法,以及以对应的装置、电子设备、计算机可读存储介质及计算机程序产品。


背景技术:

2.在用于训练模型的样本集合中存在少量有标注样本和大量非标注样本时,为了实现对模型进行训练,可以利用半监督学习方式实现模型的训练,该方式具体通过有标注样本对模型规模较大、标注能力较强的模型进行训练后,利用该训练后的模型生成非标注样本的参考标注结果,并利用该非参考标注结果对其他模型进行训练,以训练后的其他模型作为目标模型进行输出。


技术实现要素:

3.本公开实施例提出了一种标注模型训练、样本标注方法、装置、电子设备、计算机可读存储介质及计算机程序产品。
4.第一方面,本公开实施例提出了一种标注模型训练方法,包括:按半监督学习方式分别训练用于标注的第一模型和第二模型,该第一模型基于有标注样本训练得到,该第二模型基于非标注样本和由该第一模型确定的参考标注结果训练得到,该第一模型的网络规模大于该第二模型的网络规模;分别利用该第一模型和当前的第二模型输出测试样本的第一特征图和第二特征图;根据该第一特征图与该第二特征图之间的差异,对当前的第二模型进行调整;将该差异小于预设差异的第二模型输出为目标标注模型。
5.第二方面,本公开实施例提出了一种标注模型训练装置,包括:第一模型及第二模型训练单元,被配置成按半监督学习方式分别训练用于标注的第一模型和第二模型,该第一模型基于有标注样本训练得到,该第二模型基于非标注样本和由该第一模型确定的参考标注结果训练得到,该第一模型的网络规模大于该第二模型的网络规模;特征图输出单元,被配置成分别利用当前的第一模型和第二模型输出测试样本的第一特征图和第二特征图;第二模型调整单元,被配置成根据该第一特征图与该第二特征图之间的差异,对当前的第二模型进行调整;标注模型生成单元,被配置成将该差异小于预设差异的第二模型输出为目标标注模型。
6.第三方面,本公开实施例提出了一种样本标注方法,包括:获取待标注样本;调用目标标注模型对该待标注样本进行标注;其中,该目标标注模型根据如第一方面中任一实现方式描述的标注模型训练方法得到。
7.第四方面,本公开实施例提出了一种样本标注装置,包括:待标注样本获取单元,被配置成获取待标注样本;调用模型标注单元,被配置成调用目标标注模型对该待标注样本进行标注;其中,该目标标注模型根据如第二方面中任一实现方式描述的标注模型训练装置得到。
8.第五方面,本公开实施例提供了一种电子设备,该电子设备包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,该指令被至少一个处理器执行,以使至少一个处理器执行时能够实现如第一方面中任一实现方式描述的标注模型训练方法或如第三方面中任一实现方式描述的样本标注方法。
9.第六方面,本公开实施例提供了一种存储有计算机指令的非瞬时计算机可读存储介质,该计算机指令用于使计算机执行时能够实现如第一方面中任一实现方式描述的标注模型训练方法或如第三方面中任一实现方式描述的样本标注方法。
10.第七方面,本公开实施例提供了一种包括计算机程序的计算机程序产品,该计算机程序在被处理器执行时能够实现如第一方面中任一实现方式描述的标注模型训练方法或如第三方面中任一实现方式描述的样本标注方法。
11.本公开实施例提供的标注模型训练、样本标注方法,按半监督学习方式分别训练用于标注的第一模型和小于第一模型的网络规模的第二模型后,分别利用该第一模型和当前的第二模型输出测试样本的第一特征图和第二特征图,根据第一特征图与第二特征图之间的差异对当前的第二模型进行调整,将差异小于预设差异的第二模型输出为目标标注模型,以基于标注模型生成的特征图对半监督学习方式训练模型的过程进行监督,提升标注模型的训练效果、得到质量更优的标注模型,并在利用该标注模型训练方法得到的模型对样本进行标注时,提升标注质量。
12.应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
13.通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本公开的其它特征、目的和优点将会变得更明显:
14.图1是本公开可以应用于其中的示例性系统架构;
15.图2为本公开实施例提供的一种标注模型训练方法的流程图;
16.图3为本公开实施例提供的另一种标注模型训练方法的流程图;
17.图4为本公开实施例提供的一种样本标注方法的流程图;
18.图5为本公开实施例提供的在一应用场景下的标注模型训练方法的流程示意图;
19.图6为本公开实施例提供的一种标注模型训练装置的结构框图;
20.图7为本公开实施例提供的一种样本标注装置的结构框图;
21.图8为本公开实施例提供的一种适用于执行标注模型训练方法和/或样本标注方法的电子设备的结构示意图。
具体实施方式
22.以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。需要说明的是,在不
冲突的情况下,本公开中的实施例及实施例中的特征可以相互组合。
23.本公开的技术方案中,所涉及的用户个人信息的获取,存储和应用等,均符合相关法律法规的规定,采取了必要的保密措施,且不违背公序良俗。
24.图1示出了可以应用本公开的用于训练人脸识别模型以及识别人脸的方法、装置、电子设备及计算机可读存储介质的实施例的示例性系统架构100。
25.如图1所示,系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
26.用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103和服务器105上可以安装有各种用于实现两者之间进行信息通讯的应用,例如远程模型训练类应用、样本标注类应用等。
27.终端设备101、102、103和服务器105可以是硬件,也可以是软件。当终端设备101、102、103为硬件时,可以是具有显示屏的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等;当终端设备101、102、103为软件时,可以安装在上述所列举的电子设备中,其可以实现成多个软件或软件模块,也可以实现成单个软件或软件模块,在此不做具体限定。当服务器105为硬件时,可以实现成多个服务器组成的分布式服务器集群,也可以实现成单个服务器;服务器为软件时,可以实现成多个软件或软件模块,也可以实现成单个软件或软件模块,在此不做具体限定。
28.服务器105通过内置的各种应用可以提供各种服务,以可以为用户提供标注模型训练的远程模型训练类应用为例,服务器105在运行该活体人脸识别类应用时可实现如下效果:首先,在服务器接收到标注模型训练的请求后,服务器105获取到用户传入的样本集,响应该样本集中仅有部分样本带有标注,则按半监督学习方式分别训练用于标注的第一模型和第二模型利用该样本集训练得到第一模型和第二模型,该第一模型的网络规模大于该第二模型的网络规模;然后,服务器105,分别利用该第一模型和当前的第二模型输出测试样本的第一特征图和第二特征图;接下来,服务器105根据该第一特征图与该第二特征图之间的差异,对当前的第二模型进行调整;最后,服务器105将该差异小于预设差异的第二模型输出为目标标注模型。
29.后续,用户可通过终端设备101、102、103向服务器105发送待标注样本,以获取对应的标注服务,在服务器105中运行样本标注类应用时可实现如下效果:服务器105获取到由用户使用的终端设备101、102、103传入的待标注样本后,调用如上述示例中的方式训练得到目标标注模型对该待标注样本进行标注。
30.由于为训练得到目标标注模型需要占用较多的运算资源和较强的运算能力,因此本公开后续各实施例所提供的标注模型训练方法一般由拥有较强运算能力、较多运算资源的服务器105来执行,相应地,标注模型训练装置一般也设置于服务器105中。但同时也需要指出的是,在终端设备101、102、103也具有满足要求的运算能力和运算资源时,终端设备101、102、103也可以通过其上安装的标注模型训练类应用完成上述本交由服务器105做的各项运算,进而输出与服务器105同样的结果。相应的,标注模型训练装置也可以设置于终端设备101、102、103中。在此种情况下,示例性系统架构100也可以不包括服务器105和网络104。
31.当然,用于训练得到目标标注模型的服务器可以不同于调用训练好的目标标注模型来使用的服务器。特殊的,经由服务器105训练得到的目标标注模型也可以通过模型蒸馏的方式得到适合置入终端设备101、102、103的轻量级的目标标注模型,即可以根据实际需求的识别准确度灵活选择使用终端设备101、102、103中的轻量级的目标标注模型,还是选择使用服务器105中的较复杂的目标标注模型。
32.应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
33.请参考图2,图2为本公开实施例提供的一种标注模型训练方法的流程图,其中流程200包括以下步骤:
34.步骤201,按半监督学习方式分别训练用于标注的第一模型和第二模型。
35.在本实施例中,由标注模型训练方法的执行主体(例如图1所示的服务器105),按照半监督学习方式分别训练用于标注的第一模型和第二模型,在该训练过程中,所采用的待训练第一模型的网络规模大于待训练的第二模型,以便于利用网络规模较大、处理能力较强的第一模型进行训练、学习,在完成训练后,利用得到的第一模型对余下非标注样本进行处理,得到参考标注结果后,利用该参考标注结果和非标注样本对网络规模较小、处理能力相对于第一模型较弱的第二模型进行学习。
36.实践中,待训练第一模型的主干可以基于resnet系列模型构建(例如resnet34,resnet50,resent101等)或darknet系列(darknet19,darknet53)等具有较强学习、处理能力的网络构成,第二模型的主干可以基于具体的场景,选择适当大小的模型进行构建,如轻量化模型可以选择resnet18,resnet34,darknet19,中型模型可以选择resnet50,resnext50,rarknet53,重型模型可以选择resent101,resnext152等等。
37.在本实施例的一些可选的实现方式中,按半监督学习方式分别训练用于标注的第一模型和第二模型,包括:以训练样本集合中的有标注样本作为输入、与该有标注样本对应的标注信息作为输出,训练待训练第一模型,得到第一模型;利用该第一模型对该训练样本集合中的非标注样本进行处理,得到该非标注样本的参考标注结果;以该非标注样本作为输入、该参考标注结果作为输出,训练待训练第二模型,得到第二模型,以实现在训练样本集合中同时存在有标注样本和非标注样本时,同样可以基于完整的训练样本集合对第二模型进行训练。
38.步骤202,分别利用第一模型和当前的第二模型输出测试样本的第一特征图和第二特征图。
39.在本实施例中,分别利用上述步骤201中得的第一模型和第二模型对同一份测试样本进行测试,以得到第一模型处理该测试样本得到的第一特征图和第二模型处理该测试样本得到的第二特征图。
40.示例性的,当测试样本为图像样本时,第一特征图和第二特征图分别表示有第一模型和第二模型分别对该图像样本进行处理时所提取到的特征,例如在进行车辆标注时,第一特征图中、第二特征图可能包括的特征有“车牌信息特征”、“车身颜色特征”等。
41.步骤203,根据第一特征图与第二特征图之间的差异,对当前的第二模型进行调整。
42.在本实施例中,基于上述步骤202中分别得到第一特征图和第二特征图后,比较两
者之间存在的差异,该差异至少可以包括:特征图中包含特征的种类、范围等等,以通过比较特征图之间的差异来了解第一模型和当前的第二模型之间的差异,以便于对当前的第二模型进行相应的调整。
43.示例性的,当测试样本为包括车辆的图像样本时,第一特征图中存在完整的“车牌信息特征”,而在第二特征图中缺失“车牌信息特征”,则可确定两者之间存在的差异,对当前第二模型针对“车牌信息特征”所缺失的识别、标注能力进行优化。
44.在实践中,在获取到第一特征图与第二特征图之间的差异后,基于第一模型的损失函数结合上述差异对第二模型的损失函数进行调整,以达到对第二模型进行调整的目的。
45.步骤204,将差异小于预设差异的第二模型输出为目标标注模型。
46.在本实施例中,在上述步骤203中得到的差异小于预设差异时,确定当前的第二模型满足训练目的,将该差异小于预设差异的第二模型输出为目标标注模型,其中,预设差异根据实际的精度需求进行相应调整,以平衡对于标注模型训练所需资源和用户需求之间的关系。
47.本公开实施例提供的标注模型训练方法,按半监督学习方式分别训练用于标注的第一模型和小于第一模型的网络规模的第二模型后,分别利用该第一模型和当前的第二模型输出测试样本的第一特征图和第二特征图,根据第一特征图与第二特征图之间的差异对当前的第二模型进行调整,将差异小于预设差异的第二模型输出为目标标注模型,以基于标注模型生成的特征图对半监督学习方式训练模型的过程进行监督,提升标注模型的训练效果、得到质量更优的标注模型。
48.在本实施例一些可选的实现方式中,根据该第一特征图与该第二特征图之间的差异,对当前的第二模型进行调整,包括:获取该第一模型和该第二模型之间的网络规模比值;根据该网络规模比值确定目标差异阈值;响应于该差异大于该目标差异阈值,以训练样本集合中的有标注样本作为输入、与该有标注样本对应的标注信息作为输出,训练当前的第二模型。
49.具体的,在确定第一特征图与第二特征图之间存在差异后,获取该第一模型和该第二模型之间的网络规模比值,并根据该网络规模比值确定对应的目标差异阈值,该目标差异阈值可以用于表征因第一模型和第二模型之间网络规模差异而造成的合理差异,即认为在第一特征图与第二特征图之间存在的差异小于该目标差异阈值时,认为该差异属于因第一模型和第二模型之间网络规模不同带来的合理差异,在第一特征图与第二特征图之间存在差异大于该目标差异阈值后,则确定当前针对第二模型训练后得到的当前的第二模型质量不够理想,则以训练样本集合中的有标注样本作为输入、与该有标注样本对应的标注信息作为输出,训练当前的第二模型,以利用标注更为准确的有标注样本对第二模型进行训练,提升当前的第二模型的质量。
50.请参考图3,图3为本公开实施例提供的一种标注模型训练方法的流程图,在针对图2所示的流程200的基础上,进一步涉及到一种具体的确定第一特征图和第二特征图之间的差异是否小于预设差异的方法,其中流程300包括以下步骤:
51.步骤301,按半监督学习方式分别训练用于标注的第一模型和第二模型。
52.步骤302,分别利用第一模型和当前的第二模型输出测试样本的第一特征图和第
二特征图。
53.步骤303,根据第一特征图与第二特征图之间的差异,对当前的第二模型进行调整。
54.步骤304,利用对抗网络确定第一特征图和/或第二特征图所来源的模型。
55.在本实施例中,对抗网络(gan,generative adversarial networks)是一种深度学习模型,模型通过框架中(至少)两个模块:生成模型(generative model)和判别模型(discriminative model)的互相博弈学习产生相当好的输出,利用该网络对生成的第一特征图和/或第二特征图进行判断,以确定生成该第一特征图和/或该第二特征图的是第一模型还是当前的第二模型。
56.步骤305,响应于对抗网络无法确定第一特征图和/或第二特征图来源于第一模型或当前的第二模型,确定第一特征图和第二特征图之间的差异小于预设差异。
57.在本实施例中,在该对抗网络无法确定第一特征图和/或第二特征图来源于第一模型或当前的第二模型时,则可确定第一模型和第二模型生成的特征图之间的差异较小,第一模型和当前的第二模型之间的相似度可以满足训练的要求,并确定第一特征图和第二特征图之间的差异小于预设差异。
58.步骤306,将差异小于预设差异的第二模型输出为目标标注模型。
59.以上步骤301

304、306分别与如图2所示的步骤201

203、204对应,相同部分内容请参见上一实施例的相应部分,此处不再进行赘述,本实施例在上述图2所示实施例的基础上,进一步的利用对抗网络来判断第一特征图和/或第二特征图的来源,即生成第一特征图和/或第二特征图的模型的方式来判断第一特征图和/或第二特征图之间的差异,当第一特征图和第二特征图之间的差异小于预设差异时,则该对抗网络无法判断中第一特征图和第二特征图中任一张的所来源的模型,确定第一模型和当前的第二模型之间的差异满足要求,以实现对第二模型训练质量的自动监督,提升对于第二模型训练的效果。
60.在上述任一实施例的基础上,该标注模型的训练方法还包括:响应于对当前的第二模型进行调整后该差异的最少值仍大于标准阈值,生成有样本差异反馈信息,该样本差异反馈信息用于反馈该有标注样本和该非标注样本之间的差异异常。
61.具体的,在单次或多次对当前的第二模型进行调整后该差异的最少值仍大于标准阈值时,则可确定在当前的训练样本条件下,无法基于对当前的第二模型进行调整的方式,以得到满足需求的目标标注模型,因此,对该情况进行反馈,即反馈因有标注样本与非标注样本之间差异过大导致的无法基于第一模型得到第二模型的情况,生成对应的样本差异反馈信息反馈反馈该有标注样本和该非标注样本之间的差异异常,以便于对有标注样本和非标注样本进行调整。
62.其中,对于第二模型进行调整的次数也可以根据实际的使用需求设置对应的阈值条件,在调整的次数超过该阈值条件后仍无法将当前的第二模型调整至于第一模型的差异最少值小于该标注阈值时,确定样本差异异常。
63.进一步的,在生成有样本差异反馈信息时,还可以进一步的对用于训练第二模型的样本进行优化,以提升训练效果,在此情况下,一种可选的实现方式为,该标注模型训练方法还包括:响应于生成该样本差异反馈信息,对该有标注样本进行随机增量处理后,得到更新训练样本集合;利用该第一模型生成该更新训练样本集合中的更新非标注样本进行处
理,得到该更新非标注样本的更新参考标注结果;以该更新非标注样本作为输入、该更新参考标注结果作为输出,训练当前的第二模型,得到更新第二模型。
64.具体的,在生成由样本差异反馈信息后进行响应,确定当前有标注样本与非标注样本之间的差异过大,导致无法基于当前的有标注样本与非标注样本完成对第二模型的训练、得到目标标注模型,因此通过对有标注样本进行随机增量处理,以得到更新训练样本集合,因该更新训练样本集合中的内容基于对有标准样本进行随机增量处理得到,所以该更新训练样本集合中的内容之间的差异度较小,并利用该更新训练样本集合对当前的第二模型进行训练、更新第二模型,以得到质量较高的目标标注模型。
65.上述各实施例从各个方面阐述了如何训练得到目标标注模型,为了尽可能的从实际使用场景突出训练出的目标标注模型所起到的效果,本公开还具体提供了一种使用训练好的目标标注模型来解决实际问题的方案,可参考图4,图2位本公开实施例提供的一种样本标注方法的流程图,其中流程400包括以下步骤:
66.步骤401,获取待标注样本。
67.在本实施例中,由样本标注方法的执行主体(例如图1所示的服务器105)获取到待标注样本,其中,待标注样本可以为待标注图像、待标注文本、待标注音频等。
68.需要指出的是,待标注样本可以由上述执行主体直接从本地的存储设备获取,也可以从非本地的存储设备(例如图1所示的终端设备101、102、103)中获取。本地的存储设备可以是设置在上述执行主体内的一个数据存储模块,例如服务器硬盘,在此种情况下,待标注样本可以在本地快速读取到;非本地的存储设备还可以为其它任何被设置用于存储数据的电子设备,例如一些用户终端等,在此情况下,上述执行主体可以通过向该电子设备发送获取命令来获取所需的待标注样本。
69.步骤402,调用目标标注模型对该待标注样本进行标注。
70.在本实施例中,在基于上述步骤401中获取到待标注样本后,调用目标标注模型对该待标注样本进行标注,得到相应的标注结果,该目标标注模型基于上述任一方面实施例中提供的标注模型训练方法得到。
71.为加深理解,本公开还结合一个具体应用场景,给出了一种具体的实现方案,可参考图5所示,其中,示出了在按半监督学习方式分别训练用于标注样本图像中所存在的车辆的第一模型和第二模型后一种具体的实现方式,具体如下:
72.按半监督学习方式分别训练用于标注样本图像中所存在的车辆的第一模型和第二模型后,分别利用第一模型和当前的第二模型输出测试样本的第一特征图和第二特征图。
73.根据第一特征图与第二特征图之间的差异,对当前的第二模型进行调整,得到基于调整后的第二模型得到的调整后的第二特征图,并利用对抗网络确定第一特征图和/或调整后的第二特征图所来源的模型。
74.响应于对抗网络无法确定第一特征图和/或调整后的第二特征图来源于第一模型或当前的第二模型,确定第一特征图和调整后的第二特征图之间的差异小于预设差异,将差异小于预设差异的第二模型输出为目标标注模型。
75.进一步参考图6和图7,作为对上述各图所示方法的实现,本公开分别提供了一种标注模型训练装置实施例和一种样本标注装置的实施例,标注模型训练装置实施例与图2
所示的标注模型训练方法实施例相对应,样本标注装置实施例与图4所示的样本标注方法实施例相对应。上述装置具体可以应用于各种电子设备中。
76.如图6所示,本实施例的标注模型训练装置600可以包括:第一模型及第二模型训练单元601、特征图输出单元602、第二模型调整单元603和标注模型生成单元604。其中,第一模型及第二模型训练单元601,被配置成按半监督学习方式分别训练用于标注的第一模型和第二模型,该第一模型基于有标注样本训练得到,该第二模型基于非标注样本和由该第一模型确定的参考标注结果训练得到,该第一模型的网络规模大于该第二模型的网络规模;特征图输出单元602,被配置成分别利用当前的第一模型和第二模型输出测试样本的第一特征图和第二特征图;第二模型调整单元603,被配置成根据该第一特征图与该第二特征图之间的差异,对当前的第二模型进行调整;标注模型生成单元604,被配置成将该差异小于预设差异的第二模型输出为目标标注模型。
77.在本实施例中,标注模型训练装置600中:第一模型及第二模型训练单元601、特征图输出单元602、第二模型调整单元603和标注模型生成单元604的具体处理及其所带来的技术效果可分别参考图2对应实施例中的步骤201

204的相关说明,在此不再赘述。
78.在本实施例的一些可选的实现方式中,该第一模型及第二模型训练单元601,包括:第一模型训练子单元,被配置成以训练样本集合中的有标注样本作为输入、与该有标注样本对应的标注信息作为输出,训练待训练第一模型,得到第一模型;参考标注生成子单元,被配置成利用该第一模型对该训练样本集合中的非标注样本进行处理,得到该非标注样本的参考标注结果;第二模型训练子单元,被配置成以该非标注样本作为输入、该参考标注结果作为输出,训练待训练第二模型,得到第二模型。
79.在本实施例的一些可选的实现方式中,该第二模型调整单元603,包括:网络规模比值确定子单元,被配置成获取该第一模型和该第二模型之间的网络规模比值;差异阈值确定子单元,被配置成根据该网络规模比值确定目标差异阈值;第二模型调整子单元,被配置成响应于该差异大于该目标差异阈值,以训练样本集合中的有标注样本作为输入、与该有标注样本对应的标注信息作为输出,训练当前的第二模型。
80.在本实施例的一些可选的实现方式中,该标注模型训练装置600,还包括:特征图来源确定单元,被配置成利用对抗网络确定该第一特征图和/或该第二特征图所来源的模型;差异输出单元,被配置成响应于该对抗网络无法确定该第一特征图和/或该第二特征图来源于该第一模型或当前的第二模型,确定该第一特征图和该第二特征图之间的差异小于该预设差异。
81.在本实施例的一些可选的实现方式中,该标注模型训练装置600,还包括:差异异常反馈单元,被配置成响应于对当前的第二模型进行调整后该差异的最少值仍大于标准阈值,生成有样本差异反馈信息,该样本差异反馈信息用于反馈该有标注样本和该非标注样本之间的差异异常。
82.在本实施例的一些可选的实现方式中,该标注模型训练装置600,还包括:训练样本更新单元,被配置成响应于生成该样本差异反馈信息,对该有标注样本进行随机增量处理后,得到更新训练样本集合;参考标注结果更新单元,被配置成利用该第一模型生成该更新训练样本集合中的更新非标注样本进行处理,得到该更新非标注样本的更新参考标注结果;第二模型更新单元,被配置成以该更新非标注样本作为输入、该更新参考标注结果作为
输出,训练当前的第二模型,得到更新第二模型。
83.如图7所示,本实施例的样本标注装置700可以包括:待标注样本获取单元701、调用模型标注单元702。其中,待标注样本获取单元701,被配置成获取待标注样本;调用模型标注单元,被配置成调用目标标注模型对该待标注样本进行标注;其中,目标标注模型根据标注模型训练装置600得到。
84.在本实施例中,样本标注装置700中:待识别人脸图像获取单元701、调用模型识别单元702的具体处理及其所带来的技术效果可分别参考图4对应实施例中的步骤401

402的相关说明,在此不再赘述
85.本实施例作为对应于上述方法实施例的装置实施例存在,本实施例提供的标注模型训练装置以及样本标注装置,按半监督学习方式分别训练用于标注的第一模型和小于第一模型的网络规模的第二模型后,分别利用该第一模型和当前的第二模型输出测试样本的第一特征图和第二特征图,根据第一特征图与第二特征图之间的差异对当前的第二模型进行调整,将差异小于预设差异的第二模型输出为目标标注模型,以基于标注模型生成的特征图对半监督学习方式训练模型的过程进行监督,提升标注模型的训练效果、得到质量更优的标注模型,并在利用该标注模型训练方法得到的模型对样本进行标注时,提升标注质量。
86.根据本公开的实施例,本公开还提供了一种电子设备,该电子设备包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,该指令被至少一个处理器执行,以使至少一个处理器执行时能够实现上述任一实施例描述的标注模型训练方法和/或样本标注方法。
87.根据本公开的实施例,本公开还提供了一种可读存储介质,该可读存储介质存储有计算机指令,该计算机指令用于使计算机执行时能够实现上述任一实施例描述的标注模型训练方法和/或样本标注方法。
88.本公开实施例提供了一种计算机程序产品,该计算机程序在被处理器执行时能够实现上述任一实施例描述的标注模型训练方法和/或样本标注方法。
89.图8示出了可以用来实施本公开的实施例的示例电子设备800的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
90.如图8所示,设备800包括计算单元801,其可以根据存储在只读存储器(rom)802中的计算机程序或者从存储单元808加载到随机访问存储器(ram)803中的计算机程序,来执行各种适当的动作和处理。在ram 803中,还可存储设备800操作所需的各种程序和数据。计算单元801、rom 802以及ram 803通过总线804彼此相连。输入/输出(i/o)接口805也连接至总线804。
91.设备800中的多个部件连接至i/o接口805,包括:输入单元806,例如键盘、鼠标等;输出单元807,例如各种类型的显示器、扬声器等;存储单元808,例如磁盘、光盘等;以及通信单元809,例如网卡、调制解调器、无线通信收发机等。通信单元809允许设备800通过诸如
因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
92.计算单元801可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元801的一些示例包括但不限于中央处理单元(cpu)、图形处理单元(gpu)、各种专用的人工智能(ai)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(dsp)、以及任何适当的处理器、控制器、微控制器等。计算单元801执行上文所描述的各个方法和处理,例如标注模型训练方法和/或样本标注方法。例如,在一些实施例中,标注模型训练方法和/或样本标注方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元808。在一些实施例中,计算机程序的部分或者全部可以经由rom 802和/或通信单元809而被载入和/或安装到设备800上。当计算机程序加载到ram 803并由计算单元801执行时,可以执行上文描述的标注模型训练方法和/或样本标注方法的一个或多个步骤。备选地,在其他实施例中,计算单元801可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行标注模型训练方法和/或样本标注方法。
93.本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(fpga)、专用集成电路(asic)、专用标准产品(assp)、芯片上系统的系统(soc)、负载可编程逻辑设备(cpld)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
94.用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
95.在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦除可编程只读存储器(eprom或快闪存储器)、光纤、便捷式紧凑盘只读存储器(cd

rom)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
96.为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,crt(阴极射线管)或者lcd(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
97.可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(lan)、广域网(wan)和互联网。
98.计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端

服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决传统物理主机与虚拟专用服务器(vps,virtual private server)服务中存在的管理难度大,业务扩展性弱的缺陷。
99.本公开实施例的技术方案,按半监督学习方式分别训练用于标注的第一模型和小于第一模型的网络规模的第二模型后,分别利用该第一模型和当前的第二模型输出测试样本的第一特征图和第二特征图,根据第一特征图与第二特征图之间的差异对当前的第二模型进行调整,将差异小于预设差异的第二模型输出为目标标注模型,以基于标注模型生成的特征图对半监督学习方式训练模型的过程进行监督,提升标注模型的训练效果、得到质量更优的标注模型,并在利用该标注模型训练方法得到的模型对样本进行标注时,提升标注质量。
100.应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
101.上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1