一种基于生成对抗网络的车牌清晰化方法及装置与流程

文档序号:13453940阅读:359来源:国知局

本发明涉及图像处理技术领域,特别是涉及一种基于生成对抗网络的车牌清晰化方法及装置。



背景技术:

随着车辆的普及,车辆管理在城市交通监控系统中的位置越来越重要。车牌作为车辆的唯一标识信息,在车辆检测、车辆识别以及重识别任务中有非常重要的作用。但是受到各种因素的影响,例如:光照、摄像机角度、摄像机分辨率、遮挡以及高速运动等,因此,在车辆交通监控系统中所采集到的车牌图片大多数是不清晰的,而不清晰的车牌严重影响后续的车辆检测、车辆识别等工作的进行。

目前,通过设置高清摄像机、多角度同时拍摄等方法,虽然可以在一定程度上获得较清晰的图像,但是对于整个交通监控系统来说改造工程较大,耗费的成本较大,而且所能达到的效果并不明显,尤其是在车速较快、光照不好的情况下,依旧得不到清晰的车牌。因此,如何获取清晰的车牌是亟待解决的问题。



技术实现要素:

本发明实施例的目的在于提供一种基于生成对抗网络的车牌清晰化方法及装置,以通过生成对抗网络对车牌图像进行清晰化处理,并且清晰化后的车牌图像符合相应的标准。具体技术方案如下:

第一方面,本发明实施例提供的一种基于生成对抗网络的车牌清晰化方法,所述方法包括:

将目标车牌图像输入至生成网络,所述生成网络由样本车牌图像训练得到,用于将低分辨率的车牌图像进行清晰化处理,并生成符合车牌标准的高分辨率的车牌图像,其中,所述样本车牌图像为符合车牌标准的车牌图像;

基于所述生成网络,对所述目标车牌图像进行清晰化处理;

输出符合车牌标准的清晰车牌图像。

可选地,所述生成网络为全卷积网络,包括:多个卷积层、反卷积层,其中,卷积层用于对图像进行特征提取并降低图像分辨率的下采样处理,反卷积层用于对图像进行提高分辨率的上采样处理;

所述基于所述生成网络,对目标车牌图像进行清晰化处理的步骤,包括:

通过当前卷积层对上一卷积层所输出的图像进行下采样,并将所得到的下采样图像发送至下一个卷积层,直至所述多个卷积层均完成对所述目标车牌图像的下采样,得到所述目标车牌图像对应的低分辨率图像;

通过所述反卷积层,对所述低分辨率图像进行上采样,得到清晰车牌图像。

可选地,所述方法还包括:

将待处理车牌图像输入至所述生成网络;

基于所述生成网络,对所述待处理车牌图像进行清晰化处理,得到所述待处理车牌图像对应的高分辨率车牌图像;

将所述高分辨率车牌图像输入至对抗网络,其中,所述对抗网络用于:判断输入所述对抗网络的图像是否为所述样本车牌图像的网络;

基于所述对抗网络,将所述高分辨率车牌图像与所述样本车牌图像进行对比,得到第一数值,其中,所述第一数值为:所述对抗网络判断所述高分辨率车牌图像为所述样本车牌图像的概率;

判断所述第一数值是否大于预设阈值;

如果否,将所述高分辨率车牌图像确定为待处理车牌图像,并返回执行将待处理车牌图像输入至所述生成网络的步骤。

可选地,所述判断所述第一数值是否大于预设阈值的步骤之后,所述方法还包括:

当所述第一数值不大于所述预设阈值时,利用以下公式计算所述清晰车牌图像与所述样本车牌图像的均方误差:

其中,w为所述样本车牌图像的宽度,h为所述样本车牌图像的高度,r为所述清晰车牌图像相比于所述样本车牌图像的缩放比例,ig(x,y)表示所述样本车牌图像中坐标为(x,y)的像素点对应的像素值,g(il)(x,y)表示所述清晰车牌图像中坐标为(x,y)的像素点对应的像素值;

利用以下公式计算所述对抗网络判断所述清晰车牌图像与所述样本车牌图像的不相似的百分比为:

ld=-logd(g(il))

其中,d(g(il))为所述第一数值;

利用以下公式计算所述生成网络的对抗损失值为:

lg=lmse+λld

其中,λ为自定义数值;

根据所述对抗损失值,对所述生成网络的参数进行调整。

可选地,基于所述对抗网络,将所述高分辨率车牌图像与所述样本车牌图像进行对比,得到第一数值的步骤,包括:

将所述高分辨率车牌图像转换成特征车牌图像,所述特征车牌图像为所述高分辨率车牌图像的映射图像;

将所述特征车牌图像进行分割处理,得到多个图像子区域,其中,每个图像子区域包括至少一个字符;

将所得到的多个图像子区域分别与所述样本车牌图像中所述多个图像子区域各自对应的区域进行对比;

得到所述多个图像子区域各自对应的多个数值,其中,所述多个数值中的每个数值为:各自所对应的图像子区域与所述样本车牌图像中该图像子区域所对应的区域的相似度;

将得到的多个数值进行乘积运算,得到所述第一数值。

第二方面,本发明实施例提供了一种基于生成对抗网络的车牌清晰化装置,所述装置包括:

第一输入模块,用于将目标车牌图像输入至生成网络,所述生成网络由样本车牌图像训练得到,用于将低分辨率的车牌图像进行清晰化处理,并生成符合车牌标准的高分辨率的车牌图像,其中,所述样本车牌图像为符合车牌标准的车牌图像;

第一清晰化处理模块,用于基于所述生成网络,对所述目标车牌图像进行清晰化处理;

输出模块,用于输出符合车牌标准的清晰车牌图像。

可选地,所述生成网络为全卷积网络,包括:多个卷积层、反卷积层,其中,卷积层用于对图像进行特征提取并降低图像分辨率的下采样处理,反卷积层用于对图像进行提高分辨率的上采样处理;

所述第一清晰化处理模块包括:

下采样子模块,用于通过当前卷积层对上一卷积层所输出的图像进行下采样,并将所得到的下采样图像发送至下一个卷积层,直至所述多个卷积层均完成对所述目标车牌图像的下采样,得到所述目标车牌图像对应的低分辨率图像,其中;

上采样子模块,用于通过所述反卷积层,对所述低分辨率图像进行上采样,得到清晰车牌图像。

可选地,所述装置还包括:

第二输入模块,用于将待处理车牌图像输入至所述生成网络;

第二清晰化处理模块,用于基于所述生成网络,对所述待处理车牌图像进行清晰化处理,得到所述待处理车牌图像对应的高分辨率车牌图像;

第三输入模块,用于将所述高分辨率车牌图像输入至对抗网络,其中,所述对抗网络用于:判断输入所述对抗网络的图像是否为所述样本车牌图像的网络;

对比模块,用于基于所述对抗网络,将所述高分辨率车牌图像与所述样本车牌图像进行对比,得到第一数值,其中,所述第一数值为:所述对抗网络判断所述高分辨率车牌图像为所述样本车牌图像的概率;

判断模块,用于判断所述第一数值是否大于预设阈值;

确定模块,用于当所述判断模块的判断结果为否时,将所述高分辨率车牌图像确定为待处理车牌图像,并触发所述第二输入模块。

可选地,所述装置还包括:

第一计算模块,用于当所述判断模块的判断结果为否时,利用以下公式计算所述清晰车牌图像与所述样本车牌图像的均方误差:

其中,w为所述样本车牌图像的宽度,h为所述样本车牌图像的高度,r为所述清晰车牌图像相比于所述样本车牌图像的缩放比例,ig(x,y)表示所述样本车牌图像中坐标为(x,y)的像素点对应的像素值,g(il)(x,y)表示所述清晰车牌图像中坐标为(x,y)的像素点对应的像素值;

第二计算模块,用于利用以下公式计算所述对抗网络判断所述清晰车牌图像与所述样本车牌图像的不相似的百分比为:

ld=-logd(g(il))

其中,d(g(il))为所述第一数值;

第三计算模块,用于利用以下公式计算所述生成网络的对抗损失值为:

lg=lmse+λld

其中,λ为自定义数值;

调整模块,用于根据所述对抗损失值,对所述生成网络的参数进行调整。

可选地,所述对比模块包括:

转换子模块,用于将所述高分辨率车牌图像转换成特征车牌图像,所述特征车牌图像为所述高分辨率车牌图像的映射图像;

分割处理模块,用于将所述特征车牌图像进行分割处理,得到多个图像子区域,其中,每个图像子区域包括至少一个字符;

对比子模块,用于将所得到的多个图像子区域分别与所述样本车牌图像中所述多个图像子区域各自对应的区域进行对比;

第一得到子模块,用于得到所述多个图像子区域各自对应的多个数值,其中,所述多个数值中的每个数值为:各自所对应的图像子区域与所述样本车牌图像中该图像子区域所对应的区域的相似度;

第二得到子模块,用于将得到的多个数值进行乘积运算,得到所述第一数值。

本发明实施例提供的技术方案中,通过将目标车牌图像输入至生成网络,生成网络由样本车牌图像训练得到,用于将低分辨率的车牌图像进行清晰化处理,并生成符合车牌标准的高分辨率的车牌图像,其中,样本车牌图像为符合车牌标准的车牌图像;基于生成网络,对目标车牌图像进行清晰化处理;输出符合车牌标准的清晰车牌图像。通过本发明实施例提供的技术方案,利用样本车牌图像所训练的生成网络对模糊车牌图像进行清晰化处理,所得到的清晰车牌图像是符合国家统一的车牌标准的,这样,不仅提高了车牌图像的清晰度,同时符合国家统一的车牌标准,进而可以更准确地对车牌进行识别。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。

图1为本发明实施例提供的一种基于生成对抗网络的车牌清晰化方法的一种流程图;

图2为本发明实施例提供的生成网络的一种结构示意图;

图3为本发明实施例提供的生成对抗网络的一种结构示意图;

图4为本发明实施例提供的一种基于生成对抗网络的车牌清晰化装置的一种结构示意图;

图5为本发明实施例提供的一种电子设备的一种结构示意图。

具体实施方式

下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。

为了对车牌图像进行清晰化,并且清晰化后的车牌图像符合相应的标准,进而可以提高对车牌识别的准确度,本发明实施例提供了一种基于生成对抗网络的车牌清晰化方法及装置。

其中,生成对抗网络可以包括生成网络和对抗网络,对于生成网络,可以将一张低分辨率图像处理成为高分辨率图像;对抗网络,是对输入对抗网络的图像进行判断,判断该输入图像是生成网络所生成的高分辨率图像还是预先设定的样本图像。

生成对抗网络是一深度学习网络,通过不断的训练进而不断地对生成对抗网络本身进行调整改进,以使得生成网络可以输出更清晰的图像,使得对抗网络可以更加准确的判断输入对抗网络的图像是生成网络所生成的高分辨率图像还是预先设定的样本图像。

其中,生成网络可以采用卷积神经网络,还可以采用全卷积网络,在此不做限定;对抗网络的主干网络结构可以是多种层级结构,例如,vgg网络结构,对于对抗网络的主干网络结构不做限定。

下面首先就本发明实施例提供的一种基于生成对抗网络的车牌清晰化方法进行介绍,如图1所示,本发明实施例提供的一种基于生成对抗网络的车牌清晰化方法,包括如下步骤:

s101,将目标车牌图像输入至生成网络,生成网络由样本车牌图像训练得到,用于将低分辨率的车牌图像进行清晰化处理,并生成符合车牌标准的高分辨率的车牌图像,其中,样本车牌图像为符合车牌标准的车牌图像。

其中,目标车牌图像可以为任一待进行清晰化处理的模糊车牌图像,模糊车牌图像可以是车辆交通监控系统中任一摄像机所能拍摄到的完整车牌的图像。

生成网络可以是使用神经网络的算法,例如,感知器、卷积神经网络、全卷积网络等。

并且,车牌是按照国家统一标准统一制定的,因此车牌中的字符均有严格的规定要求,例如:字符的位置、字符间的间距、字符结构及高度等。因此,对于样本车牌图像中的车牌可以是符合国家统一标准的,并且,样本车牌图像中的字符也是符合国家统一标准的车牌字符。这样,将包括符合国家统一标准的车牌字符的样本车牌图像作为参考,更有利于生成网络生成更接近标准字符的清晰车牌图像,进而提高对车牌的识别。

对于样本车牌图像的获得,可以通过车辆交通监控系统中的摄像机获取到大量的同一车牌的图像,进而可以得到该车牌的车牌号。然后通过人工合成的方法,合成该车牌号所对应的样本车牌图像,并且,该人工合成方法综合了符合国家统一标准的车牌的特点,所得到的样本车牌图像是符合国家统一标准的。

s102,基于生成网络,对目标车牌图像进行清晰化处理。

生成网络为全卷积网络,包括:多个卷积层、反卷积层,其中,卷积层用于对图像进行特征提取并降低图像分辨率的下采样处理,反卷积层用于对图像进行提高分辨率的上采样处理。

一种实施方式中,通过当前卷积层对上一卷积层所输出的图像进行下采样,并将所得到的下采样图像发送至下一个卷积层,直至多个卷积层均完成对所述目标车牌图像的下采样,得到目标车牌图像对应的低分辨率图像;

通过所述反卷积层,对所述低分辨率图像进行上采样,得到清晰车牌图像。

进一步地,如图2所示,generator为生成网络,data为输入生成网络的图像,label为样本图像,convolution为卷积层,relu为非线形模型激励层,bn为批量正则化层,residualblock为残差块,deconvolution为反卷积层。

生成网络以全卷积网络为主网络,全卷积网络中可以包括多个残差块、批量正则化层、relu(rectifiedlinearunits,非线形模型)激励层以及反卷积层,其中,每个残差块可以包括多个卷积层。

进一步地,该生成网络的全卷积网络包括:多个残差块、两个批量归一化层、一个relu激励层以及一个反卷积层,其中,每个残差块包含两个卷积层,每个卷积层包括64个3*3大小的卷积核。

其中,卷积层用于对图像中的特征进行提取,并且,卷积层可以通过下采样操作降低图像的分辨率。一个卷积核表示可以对图像中的一个特征进行提取,两个卷积核表示可以对图像中的两个特征进行提取,例如,当一个卷积层中包含n个卷积核时,在该卷积层对图像进行处理时可以对图像中的n个特征进行提取。

批量归一化层用于将上一网络层输出的数据进行归一化,然后输出至下一网络层。因为在深度学习网络中,尤其是全卷积网络中,学习数据分布,一旦所训练的样本数据与测试数据的分布不一样,那么网络的学习能力也会大大降低,通过批量归一化层,可以使得样本数据与测试数据的分布相同。

relu激励层用于增加了全卷积网络的非线形特征,这样,可以使得上一网络层的输出与下一网络层也不再是线性关系。

在生成网络中,每一个残差块对所输入的图像进行相应的处理之后输出至下一残差块或者其他网络层。对于每一个残差块内的各卷积层,当前卷积层对上一卷积层所输出的图像进行下采样,并将所得到的下采样图像发送至下一个卷积层;下采样是卷积层对图像进行特征提取,并降低图像的分辨率。

对于生成网络来说,当生成网络中所包括的各残差块中的卷积层均完成对目标车牌图像的下采样,便可以得到目标车牌图像对应的低分辨率图像,即排列在最后的一层卷积层的输出。

例如,生成网络包括2个残差块:第一残差块、第二残差块,每个残差块包括2个卷积层,第一残差块包括第一卷积层、第二卷积层,第二残差块包括第三卷积层、第四卷积层。目标车牌图像输入生成网络之后,第一卷积层对目标车牌图像进行特征提取,并将目标车牌图像的分辨率缩小2倍;第二卷积层在第一卷积层的基础上进一步地对目标车牌图像进行特征提取,并将目标车牌图像的分辨率缩小4倍;第三卷积层在第二卷积层的基础上进一步地对目标车牌图像进行特征提取,并将目标车牌图像的分辨率缩小8倍;第四卷积层在第三卷积层的基础上进一步地对目标车牌图像进行特征提取,并将目标车牌图像的分辨率缩小16倍。并且,该第四卷积层的输出即为目标车牌图像对应的低分辨率图像。

当然,每一个卷积层在对图像进行特征提取并降低分辨率的处理后,均可以经过批量归一化层和relu激励层的处理之后,再输出给下一个卷积层。

在生成网络中所包括的卷积层均完成对目标车牌图像的下采样之后,最后一层卷积层可以将所得到的低分辨率图像发送至反卷积层,通过反卷积层,对低分辨率图像进行上采样,得到清晰车牌图像。

其中,所得到的清晰车牌图像为目标车牌图像的清晰图像。

另外,上采样可以是通过反卷积层实现的,将低分辨率图像的分辨率提高,可以是恢复到原图像的分辨率,即输入到生成网络的目标车牌图像的分辨率。

例如,经过多个卷积层的相应处理后,所得到的低分辨率图像的分辨率相比于目标车牌图像的分辨率缩小了16倍,则在反卷积层可以进行16倍的上采样,进而得到与目标车牌图像的分辨率相同的图像。

s103,输出符合车牌标准的清晰车牌图像。

生成网络是由样本车牌图像训练得到的,而样本车牌图像是具有国家统一标准的车牌特点,例如,标准的字符位置,车牌长度、高度,字符及数字结构等。因此,经过该生成网络进行清晰化处理之后,所生成的车牌图像也可以具有国家统一标准的车牌的特定,即清晰车牌图像具有国家统一标准的车牌特点。

另外,生成对抗网络是深度学习训练网络,因此,对于生成网络的训练可以通过样本车牌图像进行。例如,可以将样本车牌图像进行下采样,这样得到该样本车牌图像的低分辨率图像,然后将得到的低分辨率图像进行仿射变换,得到变形了的低分辨率图像。最后将变形的低分辨率图像输入生成网络进行清晰化处理,之后经过对抗网络的对比判断是否合格,不合格的话继续经过生成网络的清晰化处理,直至得到满足要求的图像。在这个过程中,持续的对生成网络和对抗网络进行训练和优化,进而可以使得该网络生成更清晰更高分辨率的图像。

一种实施方式中,第一步,可以将待处理车牌图像输入至生成网络。

待处理车牌图像可以为不清晰的程度不同的各种车牌图像,对于待处理车牌图像的获得,可以是样本车牌图像经过下采样之后,样本车牌图像的分辨率降低,再经过仿射变换将样本车牌图像进行变形处理。这样,所得到的图像为不清晰的车牌图像,可以作为生成网络的输入图像,进而对生成对抗网络进行训练。

待处理车牌图像的获取,还可以是交通监控系统中各摄像机所拍摄的不清晰的车牌图像。

第二步,基于生成网络,对待处理车牌图像进行清晰化处理,得到待处理车牌图像对应的高分辨率车牌图像。

其中,该步骤的内容与上述步骤s102相似,可以参考上述步骤s102的实施方式,在此不再赘述。

第三步,将高分辨率车牌图像输入至对抗网络,其中,对抗网络用于:判断输入所述对抗网络的图像是否为样本车牌图像的网络。

第四步,基于对抗网络,将高分辨率车牌图像与样本车牌图像进行对比,得到第一数值。

其中,对抗网络用于对输入的图像进行判断,判断该输入图像是生成网络所生成的清晰车牌图像还是样本车牌图像,对抗网络输入的图像是生成网络生成的清晰车牌图像。

对抗网络可以采用多种类型的网络结构,例如,可以是vgg(visualgeometrygroup)神经网络结构,包括一个卷积层和一个m卷积块的层级网络;还可以在vgg网络结构的基础上增加一个s型函数sigmoid层,该sigmoid层可以用来进行分类计算任务。

其中,第一数值表示:对抗网络判断高分辨率车牌图像为样本车牌图像的概率。该第一数值越大表示清晰车牌图像与样本车牌图像相似度越高。例如,该第一数值为最小值0时,表示清晰车牌图像与样本车牌图像完全不同;该第一数值为最大值1时,表示清晰车牌图像与样本车牌图像完全一样。

在上述实施方式中的第四步中,一种实施方式,首先,将高分辨率车牌图像转换成特征车牌图像,特征车牌图像为高分辨率车牌图像的映射图像。

其中,转换的方式可以是通过图像映射得到,映射得到的特征车牌图像与高分辨率车牌图像一致,特征车牌图像中可以包括高分辨率车牌图像中的所有特征。

然后,将特征车牌图像进行分割处理,得到多个图像子区域,其中,每个图像子区域包括至少一个字符。

其中,将特征车牌图像进行分割处理的方式可以是通过空间分割层(spatialspiltlayer,ssl)进行分割,该空间分割层可以是位于对抗网络中的一个网络层,空间分割层可以将该特征车牌图像分割成为多个图像子区域,即为感兴趣区域(regionsofinterst,roi),每一个图像子区域包括至少一字符,字符可以是数字、字母、汉字等。

可以在空间分割层之后设置包括一个卷积核的卷积层,用来对每一图像子区域进行特征提取,这样可以更方便后续与样本车牌图像的对比。

其次,将所得到的多个图像子区域分别与样本车牌图像中多个图像子区域各自对应的区域进行对比;

其中,进行对比的各区域是一一对应的,例如,车牌号为“a.pp855”,可以将目标车牌图像可以分割成6个图像子区域:一个字符“a”子区域,两个字符“p”子区域,一个字符“8”子区域,两个字符“5”子区域。那么,在进行区域对比时,将字符“a”子区域与样本车牌图像中的字符“a”区域进行对比,将两个字符“p”子区域分别与样本车牌图像中的字符“p”区域进行对比,将字符“8”子区域与样本车牌图像中的字符“8”区域进行对比,将两个字符“5”子区域分别与样本车牌图像中的字符“5”区域进行对比。

再次,得到多个图像子区域各自对应的多个数值,其中,多个数值中的每个数值为:各自所对应的图像子区域与所述样本车牌图像中该图像子区域所对应的区域的相似度。

例如,将目标车牌图像中分割出的字符“a”子区域与样本车牌图像中的字符“a”区域进行对比,可以得到的数值为85%,表示字符“a”子区域与样本车牌图像中的字符“a”区域的相似度为85%;将字符“8”子区域与样本车牌图像中的字符“8”区域进行对比,可以得到数值为90%,表示字符“8”子区域与样本车牌图像中的字符“8”区域的相似度为90%。

最后,将得到的多个数值进行乘积运算,得到所述第一数值。

例如,将目标车牌图像中分割出的字符“a”子区域与样本车牌图像中的字符“a”区域进行对比得到的数值为90%,将两个字符“p”子区域分别与样本车牌图像中的字符“p”区域进行对比得到的两个数值均为1,将字符“8”子区域与样本车牌图像中的字符“8”区域进行对比得到的数值为80%,将两个字符“5”子区域分别与样本车牌图像中的字符“5”区域进行对比得到的两个数值均为1;则通过将各数值进行乘积运算:90%×1×1×80%×1×1,可以得到第一数值为72%,表示目标车牌图像与样本车牌图像的相似度为72%。

第五步,判断第一数值是否大于预设阈值;

其中,预设阈值可以是自定义设定的,预设阈值设置的越高,最终得到的合格车牌图像分辨率越高,越接近样本车牌图像。

一种实施方式中,当判断出第一数值不大于预设阈值时,可以根据所得到的第一数值,通过计算进一步地得到生成网络的对抗损失值,对抗损失值可以反映出生成网络生成图像的效果,对抗损失值越小,表示生成网络所得到的清晰车牌图像效果越好。

而且,在对生成网络和对抗网络的不断训练过程中,目的就是为了使得生成网络的对抗损失值能降到最小。因此,在得到对抗损失值之后,便可以根据该对抗损失值,对生成网络的相关参数进行调整,进而可以使得生成网络所得到的清晰车牌图像的效果更好。

一种实施方式中,可以通过以下方式计算得到生成网络的对抗损失值:

首先,可以利用以下公式计算清晰车牌图像与样本车牌图像的均方误差:

其中,w为所述样本车牌图像的宽度,h为所述样本车牌图像的高度,r为所述清晰车牌图像相比于所述样本车牌图像的缩放比例,ig(x,y)表示样本车牌图像中坐标为(x,y)的像素点对应的像素值,g(il)(x,y)表示清晰车牌图像中坐标为(x,y)的像素点对应的像素值;

其次,可以利用以下公式计算对抗网络判断清晰车牌图像与样本车牌图像的不相似的百分比为:

ld=-logd(g(il))

其中,d(g(il))为第一数值;

最后,利用以下公式计算生成网络的对抗损失值为:

lg=lmse+λld

其中,λ为自定义数值。

根据所得到的对抗损失值,对生成网络的参数进行调整。

第六步,如果判断出第一数值不大于预设阈值,将高分辨率车牌图像确定为待处理车牌图像,并返回执行将待处理车牌图像输入至所述生成网络的步骤。

即将生成网络输出的高分辨率车牌图像重新作为生成网络的输入图像,继续对生成对抗网络进行训练。

一种实施方式中,当判断出第一数值大于预设阈值时,则可确定该清晰车牌图像为合格车牌图像,既可以满足国家统一标准,清晰度又可以达到要求。

例如,预设阈值为90%,当所得到的第一数值为95%,大于预设阈值90%,则可以确定生成网络生成的清晰车牌图像为合格车牌图像。

一种实施方式中,如图3所示,生成对抗网络包括生成网络和对抗网络,针对于生成网络,参见上述步骤s102,在此不再赘述。

针对于对抗网络,discriminator表示对抗网络,data为输入生成网络的图像,label为样本图像,convolution为卷积层,leakyrelu为非线形模型激励层,bn为批量正则化层,spatialsplit为空间分割层;sigmoid为s型函数,用来做分类任务;mconvolutionblocks为m卷积层。avgpooling用于保持图像特征的不变性,并减少卷积值的冗余。

对抗网络的主网络部分采用了类似vgg的网络结构,可以包括一个卷积层和一个m卷积块的层级结构。空间分割层可以将高分辨率车牌图像的映射图像进行分割,具体地,可以分割成多个图像子区域,其中,每个图像子区域包括一个字符,并且,对于所有的图像子区域,可以通过一个卷积核的卷积层来获得每一个图像子区域的标量。

在每一个图像子区域与样本车牌图像的对应区域对比之后,均可对应得到一个表示相似度的概率,由sigmoid最后根据各图像子区域对应的概率,进而可以得出高分辨率车牌图像为样本车牌图像的概率,即第一数值。

第一数值为0到1之间的百分比,当输出的第一数值为0时,对抗网络可以判断出高分辨率车牌图像为假图像,即与样本车牌图像完全不同;当输出的第一数值为1时,对抗网络可以判断出高分辨率车牌图像为真图像,即与样本车牌图像完全一样。

本发明实施例提供的技术方案中,通过将目标车牌图像输入至生成网络,生成网络由样本车牌图像训练得到,用于将低分辨率的车牌图像进行清晰化处理,并生成符合车牌标准的高分辨率的车牌图像,其中,样本车牌图像为符合车牌标准的车牌图像;基于生成网络,对目标车牌图像进行清晰化处理;输出符合车牌标准的清晰车牌图像。通过本发明实施例提供的技术方案,利用样本车牌图像所训练的生成网络对模糊车牌图像进行清晰化处理,所得到的清晰车牌图像是符合国家统一的车牌标准的,这样,不仅提高了车牌图像的清晰度,同时符合国家统一的车牌标准,进而可以更准确地对车牌进行识别。

相应于上述方法实施例,本发明实施例还提供一种基于生成对抗网络的车牌清晰化装置,如图4所示,所述装置包括:

第一输入模块410,用于将目标车牌图像输入至生成网络,所述生成网络由样本车牌图像训练得到,用于将低分辨率的车牌图像进行清晰化处理,并生成符合车牌标准的高分辨率的车牌图像,其中,所述样本车牌图像为符合车牌标准的车牌图像;

第一清晰化处理模块420,用于基于所述生成网络,对所述目标车牌图像进行清晰化处理;

输出模块430,用于输出符合车牌标准的清晰车牌图像。

可选地,一种实施方式中,所述生成网络为全卷积网络,包括:多个卷积层、反卷积层,其中,卷积层用于对图像进行特征提取并降低图像分辨率的下采样处理,反卷积层用于对图像进行提高分辨率的上采样处理;

所述第一清晰化处理模块420可以包括:

下采样子模块,用于通过当前卷积层对上一卷积层所输出的图像进行下采样,并将所得到的下采样图像发送至下一个卷积层,直至所述多个卷积层均完成对所述目标车牌图像的下采样,得到所述目标车牌图像对应的低分辨率图像,其中;

上采样子模块,用于通过所述反卷积层,对所述低分辨率图像进行上采样,得到清晰车牌图像。

可选地,一种实施方式中,所述装置还包括:

第二输入模块,用于将待处理车牌图像输入至所述生成网络;

第二清晰化处理模块,用于基于所述生成网络,对所述待处理车牌图像进行清晰化处理,得到所述待处理车牌图像对应的高分辨率车牌图像;

第三输入模块,用于将所述高分辨率车牌图像输入至对抗网络,其中,所述对抗网络用于:判断输入所述对抗网络的图像是否为所述样本车牌图像的网络;

对比模块,用于基于所述对抗网络,将所述高分辨率车牌图像与所述样本车牌图像进行对比,得到第一数值,其中,所述第一数值为:所述对抗网络判断所述高分辨率车牌图像为所述样本车牌图像的概率;

判断模块,用于判断所述第一数值是否大于预设阈值;

确定模块,用于当所述判断模块的判断结果为否时,将所述高分辨率车牌图像确定为待处理车牌图像,并触发所述第二输入模块。

可选地,一种实施方式中,所述装置还可以包括:

第一计算模块,用于当所述判断模块的判断结果为否时,利用以下公式计算所述清晰车牌图像与所述样本车牌图像的均方误差:

其中,w为所述样本车牌图像的宽度,h为所述样本车牌图像的高度,r为所述清晰车牌图像相比于所述样本车牌图像的缩放比例,ig(x,y)表示所述样本车牌图像中坐标为(x,y)的像素点对应的像素值,g(il)(x,y)表示所述清晰车牌图像中坐标为(x,y)的像素点对应的像素值;

第二计算模块,用于利用以下公式计算所述对抗网络判断所述清晰车牌图像与所述样本车牌图像的不相似的百分比为:

ld=-logd(g(il))

其中,d(g(il))为所述第一数值;

第三计算模块,用于利用以下公式计算所述生成网络的对抗损失值为:

lg=lmse+λld

其中,λ为自定义数值;

调整模块,用于根据所述对抗损失值,对所述生成网络的参数进行调整。

可选地,一种实施方式中,所述对比模块可以包括:

转换子模块,用于将所述高分辨率车牌图像转换成特征车牌图像,所述特征车牌图像为所述高分辨率车牌图像的映射图像;

分割处理模块,用于将所述特征车牌图像进行分割处理,得到多个图像子区域,其中,每个图像子区域包括至少一个字符;

对比子模块,用于将所得到的多个图像子区域分别与所述样本车牌图像中所述多个图像子区域各自对应的区域进行对比;

第一得到子模块,用于得到所述多个图像子区域各自对应的多个数值,其中,所述多个数值中的每个数值为:各自所对应的图像子区域与所述样本车牌图像中该图像子区域所对应的区域的相似度;

第二得到子模块,用于将得到的多个数值进行乘积运算,得到所述第一数值。

本发明实施例提供的技术方案中,通过将目标车牌图像输入至生成网络,生成网络由样本车牌图像训练得到,用于将低分辨率的车牌图像进行清晰化处理,并生成符合车牌标准的高分辨率的车牌图像,其中,样本车牌图像为符合车牌标准的车牌图像;基于生成网络,对目标车牌图像进行清晰化处理;输出符合车牌标准的清晰车牌图像。通过本发明实施例提供的技术方案,利用样本车牌图像所训练的生成网络对模糊车牌图像进行清晰化处理,所得到的清晰车牌图像是符合国家统一的车牌标准的,这样,不仅提高了车牌图像的清晰度,同时符合国家统一的车牌标准,进而可以更准确地对车牌进行识别。

本发明实施例还提供了一种电子设备,如图5所示,包括处理器510、通信接口520、存储器530和通信总线540,其中,处理器510,通信接口520,存储器530通过通信总线540完成相互间的通信;

存储器530,用于存放计算机程序;

处理器510,用于执行存储器530上所存放的程序时,实现如下步骤:

将目标车牌图像输入至生成网络,所述生成网络由样本车牌图像训练得到,用于将低分辨率的车牌图像进行清晰化处理,并生成符合车牌标准的高分辨率的车牌图像,其中,所述样本车牌图像为符合车牌标准的车牌图像;

基于所述生成网络,对所述目标车牌图像进行清晰化处理;

输出符合车牌标准的清晰车牌图像。

本发明实施例提供的技术方案中,通过将目标车牌图像输入至生成网络,生成网络由样本车牌图像训练得到,用于将低分辨率的车牌图像进行清晰化处理,并生成符合车牌标准的高分辨率的车牌图像,其中,样本车牌图像为符合车牌标准的车牌图像;基于生成网络,对目标车牌图像进行清晰化处理;输出符合车牌标准的清晰车牌图像。通过本发明实施例提供的技术方案,利用样本车牌图像所训练的生成网络对模糊车牌图像进行清晰化处理,所得到的清晰车牌图像是符合国家统一的车牌标准的,这样,不仅提高了车牌图像的清晰度,同时符合国家统一的车牌标准,进而可以更准确地对车牌进行识别。

上述电子设备提到的通信总线可以是外设部件互连标准(peripheralcomponentinterconnect,pci)总线或扩展工业标准结构(extendedindustrystandardarchitecture,eisa)总线等。该通信总线可以分为地址总线、数据总线、控制总线等。为便于表示,图中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。

通信接口用于上述电子设备与其他设备之间的通信。

存储器可以包括随机存取存储器(randomaccessmemory,ram),也可以包括非易失性存储器(non-volatilememory,nvm),例如至少一个磁盘存储器。可选的,存储器还可以是至少一个位于远离前述处理器的存储装置。

上述的处理器可以是通用处理器,包括中央处理器(centralprocessingunit,cpu)、网络处理器(networkprocessor,np)等;还可以是数字信号处理器(digitalsignalprocessing,dsp)、专用集成电路(applicationspecificintegratedcircuit,asic)、现场可编程门阵列(field-programmablegatearray,fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。

需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

本说明书中的各个实施例均采用相关的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于装置实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。

以上所述仅为本发明的较佳实施例而已,并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等,均包含在本发明的保护范围内。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1