图像增强方法和装置与流程

文档序号:24159418发布日期:2021-03-05 14:31阅读:99来源:国知局
[0001]本申请涉及人工智能领域,并且更具体地,涉及一种图像增强方法和装置。
背景技术
::[0002]计算机视觉是各个应用领域,如制造业、检验、文档分析、医疗诊断,和军事等领域中各种智能/自主系统中不可分割的一部分,它是一门关于如何运用照相机/摄像机和计算机来获取我们所需的,被拍摄对象的数据与信息的学问。形象地说,就是给计算机安装上眼睛(照相机/摄像机)和大脑(算法)用来代替人眼对目标进行识别、跟踪和测量等,从而使计算机能够感知环境。因为感知可以看作是从感官信号中提取信息,所以计算机视觉也可以看作是研究如何使人工系统从图像或多维数据中“感知”的科学。总的来说,计算机视觉就是用各种成像系统代替视觉器官获取输入信息,再由计算机来代替大脑对这些输入信息完成处理和解释。计算机视觉的最终研究目标就是使计算机能像人那样通过视觉观察和理解世界,具有自主适应环境的能力。[0003]在计算机视觉领域内,常常需要对数字图像进行图像质量增强(imagequalityenhancement)处理。例如,在手机拍照、自动驾驶、平安城市等多种应用场景中,可以先对图像或视频进行图像质量增强处理,再对增强后的图像或视频进行识别或分析。但是,在很多情况下,图像质量增强处理的效果并不理想。[0004]因此,如何提升图像质量增强处理的效果,成为一个亟需解决的技术问题。技术实现要素:[0005]本申请提供一种图像增强方法和装置,能够提升图像质量增强处理的效果。[0006]第一方面,提供了一种图像增强方法,该方法包括:[0007]调整待处理图像的像素值,得到k个图像,所述k个图像的像素值不同,k为大于1的正整数;提取所述k个图像的局部特征;提取所述待处理图像的全局特征;根据所述全局特征和所述局部特征对所述待处理图像进行图像增强处理,得到图像增强后的输出图像。[0008]本申请实施例中的图像增强方法,通过调整待处理图像的像素值得到多个像素值不同的图像,并利用这多个像素值不同的图像对该待处理图像进行图像质量增强处理,从而可以从多个像素值不同的图像中得到更多的局部细节信息,来实现对待处理图像进行图像增强,该方法能够提升图像质量增强处理的效果。[0009]同时,通过调整待处理图像的像素值,得到k个图像,可以保证参与图像增强处理的k个图像中的图像画面内容一致且没有像素偏移,从而能够避免由于图像画面内容不一致或像素偏移引起的鬼影。[0010]可选地,上述局部特征是从图像局部区域中抽取的特征,包括:边缘、角点、线、曲线或特别属性的区域等;上述全局特征是指图像的整体属性,包括:颜色特征、纹理特征、形状特征或直方图等。[0011]可选地,对所述待处理图像的像素值进行k次调整,可以得到k个图像,此时,所述k个图像都是通过调整所述待处理图像的像素值得到的,即所述k个图像不包括所述待处理图像。[0012]或者,对所述待处理图像的像素值进行k-1次调整,可以得到k-1个图像,根据所述k-1个图像与所述待处理图像可以得到k个图像,此时,所述k个图像包括所述待处理图像,所述k个图像中除所述待处理图像以外的其他k-1个图像,是通过调整所述待处理图像的像素值得到的。[0013]可选地,所述待处理图像可以为所述待处理图像的原始图像经过下采样处理之后得到的图像(低分辨率图像)。[0014]在本申请实施例中,可以先对需要进行图像增强的图像(即待处理图像的原始图像)进行下采样处理,得到低分辨率图像(即待处理图像)后,再提取该低分辨率图像的特征,从而降低图像增强处理的计算量。[0015]结合第一方面,在第一方面的某些实现方式中,所述调整待处理图像的像素值,得到k个图像,包括:通过非线性变换增大和/或减小所述待处理图像的全部像素值,得到所述k个图像。[0016]在本申请实施例中,通过非线性变换增大和/或减小所述待处理图像的全部像素值,,可以方便地得到k个图像,从而能够从k个图像中得到更多的局部细节信息。[0017]可选地,所述非线性变换可以为伽马(gamma)变换(或γ变换),或者,也可以为其他能够调整图像像素值的非线性变换的方法,本申请实施例对此并不限定。[0018]结合第一方面,在第一方面的某些实现方式中,所述方法还包括:对所述待处理图像进行语义分割,得到语义分割图;对所述语义分割图进行特征提取,得到语义条件,所述语义条件包括所述待处理图像的语义信息;其中,所述k个图像的局部特征中的至少一个是根据所述语义条件提取的。[0019]在本申请实施例,基于语义分割图,提取所述k个图像中的至少一个图像的局部特征,可以在图像增强后的图像中体现出不同局部区域的语义差异性。[0020]进一步地,对语义分割图进行特征提取,得到语义条件,根据语义条件,提取所述k个图像中的至少一个图像的局部特征,可以更好地体现出图像增强后的图像中不同局部区域的语义差异性。[0021]结合第一方面,在第一方面的某些实现方式中,所述k个图像的局部特征中的至少一个是根据第一语义特征和第二语义特征提取的,所述第一语义特征和所述第二语义特征是根据所述语义条件确定的。[0022]结合第一方面,在第一方面的某些实现方式中,所述k个图像的局部特征中的至少一个是根据残差估计值确定的,所述残差估计值是根据所述第一语义特征、所述第二语义特征及所述待处理图像的图像特征确定的。[0023]结合第一方面,在第一方面的某些实现方式中,所述方法还包括:对所述k个图像的局部特征进行特征融合,得到局部融合特征;其中,所述根据所述全局特征和所述局部特征对所述待处理图像进行图像增强处理,得到图像增强后的输出图像,包括:根据所述全局特征和所述局部融合特征对所述待处理图像进行图像增强处理,得到图像增强后的输出图像。[0024]结合第一方面,在第一方面的某些实现方式中,所述根据所述全局特征和所述局部特征对所述待处理图像进行图像增强处理,得到图像增强后的输出图像,包括:对所述全局特征和所述局部特征进行特征融合,得到融合特征;根据所述融合特征对所述待处理图像进行图像增强处理,得到图像增强后的输出图像。[0025]在本申请实施例中,所述融合特征是所述全局特征和所述局部特征进行特征融合后得到的,而不是简单地将所述全局特征和所述局部特征相加后得到的,因此,可以避免图像增强后图像的局部区域具有相同的全局特征,从而能够提升图像增强处理的效果。[0026]可选地,可以使用神经网络对所述全局特征和所述局部特征进行特征融合,得到融合特征。[0027]结合第一方面,在第一方面的某些实现方式中,所述对所述全局特征和所述局部特征进行特征融合,得到融合特征,包括:对所述全局特征进行特征提取,得到第一全局特征和第二全局特征;对所述第一全局特征与所述局部特征进行加法操作,得到候选融合特征;对所述候选融合特征和所述第二全局特征进行连接操作和卷积操作,得到所述融合特征。[0028]在本申请实施例中,将全局特征分成两个独立的通道后(即第一全局特征和第二全局特征),再将第一全局特征及第二全局特征与局部特征进行融合,可以使该模型学习到更精确的全局信息,可以使待处理图像中不同光照、不同语义的色彩过渡的更加自然。[0029]结合第一方面,在第一方面的某些实现方式中,所述对所述全局特征和所述局部特征进行特征融合,得到融合特征,包括:对所述全局特征进行特征提取,得到第一全局特征和第二全局特征;对所述第一全局特征与所述局部特征进行连接操作和卷积操作,得到候选融合特征;对所述候选融合特征和所述第二全局特征进行加法操作,得到所述融合特征。[0030]在本申请实施例中,将全局特征分成两个独立的通道后(即第一全局特征和第二全局特征),再将第一全局特征及第二全局特征与局部特征进行融合,可以使该模型学习到更精确的全局信息,可以使待处理图像中不同光照、不同语义的色彩过渡的更加自然。[0031]结合第一方面,在第一方面的某些实现方式中,所述待处理图像为所述待处理图像的原始图像经过下采样处理后得到的图像;其中,所述根据所述全局特征和所述局部特征对所述待处理图像进行图像增强处理,得到图像增强后的输出图像,包括:根据所述全局特征和所述局部特征对所述待处理图像的原始图像进行图像增强处理,得到图像增强后的输出图像。[0032]结合第一方面,在第一方面的某些实现方式中,在所述待处理图像为所述待处理图像的原始图像经过下采样处理后得到的图像的情况下,所述根据所述融合特征对所述待处理图像进行图像增强处理,得到图像增强后的输出图像,包括:根据所述待处理图像的原始图像,对所述融合特征进行上采样处理,得到目标融合特征;根据所述目标融合特征对所述待处理图像的原始图像进行图像增强处理,得到图像增强后的输出图像。[0033]第二方面,提供了一种图像增强装置,包括:像素调整单元,用于调整待处理图像的像素值,得到k个图像,所述k个图像的像素值不同,k为大于1的正整数;局部特征提取单元,用于提取所述k个图像的局部特征;全局特征提取单元,用于提取所述待处理图像的全局特征;图像增强单元,用于根据所述全局特征和所述局部特征对所述待处理图像进行图像增强处理,得到图像增强后的输出图像。[0034]本申请实施例中的图像增强装置,通过调整待处理图像的像素值得到多个像素值不同的图像,并利用这多个像素值不同的图像对该待处理图像进行图像质量增强处理,从而可以从多个像素值不同的图像中得到更多的局部细节信息,来实现对待处理图像进行图像增强,该方法能够提升图像质量增强处理的效果。[0035]同时,通过调整待处理图像的像素值,得到k个图像,可以保证参与图像增强处理的k个图像中的图像画面内容一致且没有像素偏移,从而能够避免由于图像画面内容不一致或像素偏移引起的鬼影。[0036]可选地,上述局部特征是从图像局部区域中抽取的特征,包括:边缘、角点、线、曲线或特别属性的区域等;上述全局特征是指图像的整体属性,包括:颜色特征、纹理特征、形状特征或直方图等。[0037]可选地,对所述待处理图像的像素值进行k次调整,可以得到k个图像,此时,所述k个图像都是通过调整所述待处理图像的像素值得到的,即所述k个图像不包括所述待处理图像。[0038]或者,对所述待处理图像的像素值进行k-1次调整,可以得到k-1个图像,根据所述k-1个图像与所述待处理图像可以得到k个图像,此时,所述k个图像包括所述待处理图像,所述k个图像中除所述待处理图像以外的其他k-1个图像,是通过调整所述待处理图像的像素值得到的。[0039]可选地,所述待处理图像可以为所述待处理图像的原始图像经过下采样处理之后得到的图像(低分辨率图像)。[0040]在本申请实施例中,可以先对需要进行图像增强的图像(即待处理图像的原始图像)进行下采样处理,得到低分辨率图像(即待处理图像)后,再提取该低分辨率图像的特征,从而降低图像增强处理的计算量。[0041]结合第二方面,在第二方面的某些实现方式中,所述像素调整单元具体用于:通过非线性变换增大和/或减小所述待处理图像的全部像素值,得到所述k个图像。[0042]在本申请实施例中,通过非线性变换增大和/或减小所述待处理图像的全部像素值,,可以方便地得到k个图像,从而能够从k个图像中得到更多的局部细节信息。[0043]可选地,所述非线性变换可以为伽马(gamma)变换(或变换),或者,也可以为其他能够调整图像像素值的非线性变换的方法,本申请实施例对此并不限定。[0044]结合第二方面,在第二方面的某些实现方式中,所述装置还包括语义分割单元,用于:对所述待处理图像进行语义分割,得到语义分割图;所述装置还包括语义条件生成单元,用于:对所述语义分割图进行特征提取,得到语义条件,所述语义条件包括所述待处理图像的语义信息;其中,所述k个图像的局部特征中的至少一个是根据所述语义条件提取的。[0045]在本申请实施例,基于语义分割图,提取所述k个图像中的至少一个图像的局部特征,可以在图像增强后的图像中体现出不同局部区域的语义差异性。[0046]进一步地,对语义分割图进行特征提取,得到语义条件,根据语义条件,提取所述k个图像中的至少一个图像的局部特征,可以更好地体现出图像增强后的图像中不同局部区域的语义差异性。[0047]结合第二方面,在第二方面的某些实现方式中,所述k个图像的局部特征中的至少一个是根据第一语义特征和第二语义特征提取的,所述第一语义特征和所述第二语义特征是根据所述语义条件确定的。[0048]结合第二方面,在第二方面的某些实现方式中,所述k个图像的局部特征中的至少一个是根据残差估计值确定的,所述残差估计值是根据所述第一语义特征、所述第二语义特征及所述待处理图像的图像特征确定的。[0049]结合第二方面,在第二方面的某些实现方式中,所述局部特征提取单元还用于:对所述k个图像的局部特征进行特征融合,得到局部融合特征;其中,所述图像增强单元具体用于:根据所述全局特征和所述局部融合特征对所述待处理图像进行图像增强处理,得到图像增强后的输出图像。[0050]结合第二方面,在第二方面的某些实现方式中,所述图像增强单元具体用于:对所述全局特征和所述局部特征进行特征融合,得到融合特征;根据所述融合特征对所述待处理图像进行图像增强处理,得到图像增强后的输出图像。[0051]在本申请实施例中,所述融合特征是所述全局特征和所述局部特征进行特征融合后得到的,而不是简单地将所述全局特征和所述局部特征相加后得到的,因此,可以避免图像增强后图像的局部区域具有相同的全局特征,从而能够提升图像增强处理的效果。[0052]可选地,可以使用神经网络对所述全局特征和所述局部特征进行特征融合,得到融合特征。[0053]结合第二方面,在第二方面的某些实现方式中,所述图像增强单元具体用于:对所述全局特征进行特征提取,得到第一全局特征和第二全局特征;对所述第一全局特征与所述局部特征进行加法操作,得到候选融合特征;对所述候选融合特征和所述第二全局特征进行连接操作和卷积操作,得到所述融合特征。[0054]在本申请实施例中,将全局特征分成两个独立的通道后(即第一全局特征和第二全局特征),再将第一全局特征及第二全局特征与局部特征进行融合,可以使该模型学习到更精确的全局信息,可以使待处理图像中不同光照、不同语义的色彩过渡的更加自然。[0055]结合第二方面,在第二方面的某些实现方式中,所述图像增强单元具体用于:对所述全局特征进行特征提取,得到第一全局特征和第二全局特征;对所述第一全局特征与所述局部特征进行连接操作和卷积操作,得到候选融合特征;对所述候选融合特征和所述第二全局特征进行加法操作,得到所述融合特征。[0056]在本申请实施例中,将全局特征分成两个独立的通道后(即第一全局特征和第二全局特征),再将第一全局特征及第二全局特征与局部特征进行融合,可以使该模型学习到更精确的全局信息,可以使待处理图像中不同光照、不同语义的色彩过渡的更加自然。[0057]结合第二方面,在第二方面的某些实现方式中,所述待处理图像为所述待处理图像的原始图像经过下采样处理后得到的图像;其中,所述图像增强单元具体用于:根据所述全局特征和所述局部特征对所述待处理图像的原始图像进行图像增强处理,得到图像增强后的输出图像。[0058]结合第二方面,在第二方面的某些实现方式中,在所述待处理图像为所述待处理图像的原始图像经过下采样处理后得到的图像的情况下,所述图像增强单元具体用于:根据所述待处理图像的原始图像,对所述融合特征进行上采样处理,得到目标融合特征;根据所述目标融合特征对所述待处理图像的原始图像进行图像增强处理,得到图像增强后的输出图像。[0059]第三方面,提供了一种图像增强装置,该装置包括:存储器,用于存储程序;处理器,用于执行所述存储器存储的程序,当所述存储器存储的程序被执行时,所述处理器用于执行上述第一方面中的任意一种实现方式中的方法。[0060]上述第三方面中的处理器既可以是中央处理器(centralprocessingunit,cpu),也可以是cpu与神经网络运算处理器的组合,这里的神经网络运算处理器可以包括图形处理器(graphicsprocessingunit,gpu)、神经网络处理器(neural-networkprocessingunit,npu)和张量处理器(tensorprocessingunit,tpu)等等。其中,tpu是谷歌(google)为机器学习全定制的人工智能加速器专用集成电路。[0061]第四方面,提供一种计算机可读介质,该计算机可读介质存储用于设备执行的程序代码,该程序代码包括用于执行第一方面中的任意一种实现方式中的方法。[0062]第五方面,提供一种包含指令的计算机程序产品,当该计算机程序产品在计算机上运行时,使得计算机执行上述第一方面中的任意一种实现方式中的方法。[0063]第六方面,提供一种芯片,所述芯片包括处理器与数据接口,所述处理器通过所述数据接口读取存储器上存储的指令,执行上述第一方面中的任意一种实现方式中的方法。[0064]可选地,作为一种实现方式,所述芯片还可以包括存储器,所述存储器中存储有指令,所述处理器用于执行所述存储器上存储的指令,当所述指令被执行时,所述处理器用于执行第一方面中的任意一种实现方式中的方法。[0065]上述芯片具体可以是现场可编程门阵列(field-programmablegatearray,fpga)或者专用集成电路(application-specificintegratedcircuit,asic)。[0066]第七方面,提供了一种电子设备,该电子设备包括上述第二方面中的任意一个方面中的图像增强装置。[0067]当上述电子设备包括上述第二方面中的任意一个方面中的图像增强装置时,该电子设备具体可以是终端设备或服务器。[0068]本申请实施例中的图像增强方法,通过调整待处理图像的像素值得到多个像素值不同的图像,并利用这多个像素值不同的图像对该待处理图像进行图像质量增强处理,从而可以从多个像素值不同的图像中得到更多的局部细节信息,来实现对待处理图像进行图像增强,该方法能够提升图像质量增强处理的效果。附图说明[0069]图1是本申请实施例提供的系统架构的结构示意图。[0070]图2是本申请实施例提供的根据卷积神经网络模型进行图像增强的示意图。[0071]图3是本申请实施例提供的一种芯片硬件结构示意图。[0072]图4是本申请实施例提供的一种应用场景示意图。[0073]图5是本申请一个实施例提供的图像增强方法的示意性流程图。[0074]图6是本申请一个实施例提供的图像增强装置的示意性框图。[0075]图7是本申请一个实施例提供的局部特征提取方法的示意性框图。[0076]图8是本申请另一个实施例提供的局部特征提取方法的示意性框图。[0077]图9是本申请一个实施例提供的残差块的示意性框图。[0078]图10是本申请一个实施例提供的语义空间转换的示意性框图。[0079]图11是本申请一个实施例提供的局部特征融合的示意性框图。[0080]图12是本申请一个实施例提供的特征融合的示意性框图。[0081]图13是本申请另一个实施例提供的特征融合的示意性框图。[0082]图14是本申请实施例的图像增强装置的硬件结构示意图。[0083]图15是本申请实施例的模型训练装置的硬件结构示意图。具体实施方式[0084]下面将结合附图,对本申请中的技术方案进行描述。[0085]本申请实施例提供的图像增强方法能够应用在拍照、录像、平安城市、人机交互以及其他需要进行图像复原(imagerestoration)或图像质量增强(imagequalityenhancement)的场景,如图像识别、图像分类等。[0086]应理解,本申请实施例中的图像可以为静态图像(或称为静态画面)或动态图像(或称为动态画面),例如,本申请中的图像可以为视频或动态图片,或者,本申请中的图像也可以为静态图片或照片。为了便于描述,本申请在下述实施例中将静态图像或动态图像统一称为图像。[0087]本申请实施例的图像增强方法可以具体应用到拍照场景和图像识别场景中,下面对这两种场景进行简单的介绍。[0088]拍照(或录像)场景:[0089]在利用相机、终端设备或者其他智能电子设备进行拍照时,为了显示质量更好的图像,在拍照时或者拍照后可以采用本申请实施例的图像增强方法来对拍照得到的图像进行自动图像增强处理。[0090]通过采用本申请实施例的图像增强方法,能够提高图像质量,提升图像显示效果和提高后续对图像进行的视觉算法(例如,图像识别或图像分类)的准确度。[0091]图像识别(视频监控)场景:[0092]随着人工智能技术的应用的范围越来越广,在很多情况下,需要对图像中的内容进行识别,在对图像进行识别时,往往会对图像进行图像增强处理(例如,在平安城市视频监控场景下,需要对光照不充分的暗处细节进行图像增强处理)。通过采用本申请实施例的图像增强方法在图像识别过程中或者图像识别正式开始之前对图像进行图像增强处理,能够提高图像的质量,从而提高后续的图像识别的效果。[0093]片源增强场景:[0094]在利用智能终端(例如智能电视、智慧屏等)播放电影时,为了显示更好的图像质量(画质),可以对电影的原始片源采用本申请实施例的图像增强方法进行图像增强处理,以提升片源的画质,获得更好的视觉观感。[0095]例如,在使用智能电视或智慧屏播放老电影(老电影的片源的时间比较早、片源的画质较差)时,可以使用本申请实施例的图像增强方法对老电影的片源进行图像增强处理,能显示现代电影的视觉感官。[0096]图像风格化(图像美化)场景:[0097]利用相机、终端设备或者其他智能电子设备进行拍照后,在使用图像处理软件(如photoshop、美图秀秀等软件)对拍照得到的图像进行图像风格化处理或图像美化处理时,可以采用本申请实施例的图像增强方法对图像进行图像增强处理,以提升图像显示效果。[0098]本申请实施例涉及了大量神经网络的相关应用,为了更好地理解本申请实施例的方案,下面先对本申请实施例可能涉及的神经网络的相关术语和概念进行介绍。[0099](1)神经网络[0100]神经网络可以是由神经单元组成的,神经单元可以是指以xs和截距1为输入的运算单元,该运算单元的输出可以如公式(1-1)所示:[0101][0102]其中,s=1、2、……n,n为大于1的自然数,ws为xs的权重,b为神经单元的偏置。f为神经单元的激活函数(activationfunctions),用于将非线性特性引入神经网络中,来将神经单元中的输入信号转换为输出信号。该激活函数的输出信号可以作为下一层卷积层的输入,激活函数可以是sigmoid函数。神经网络是将多个上述单一的神经单元联结在一起形成的网络,即一个神经单元的输出可以是另一个神经单元的输入。每个神经单元的输入可以与前一层的局部接受域相连,来提取局部接受域的特征,局部接受域可以是由若干个神经单元组成的区域。[0103](2)深度神经网络[0104]深度神经网络(deepneuralnetwork,dnn),也称多层神经网络,可以理解为具有多层隐含层的神经网络。按照不同层的位置对dnn进行划分,dnn内部的神经网络可以分为三类:输入层,隐含层,输出层。一般来说第一层是输入层,最后一层是输出层,中间的层数都是隐含层。层与层之间是全连接的,也就是说,第i层的任意一个神经元一定与第i+1层的任意一个神经元相连。[0105]虽然dnn看起来很复杂,但是就每一层的工作来说,其实并不复杂,简单来说就是如下线性关系表达式:其中,是输入向量,是输出向量,是偏移向量,w是权重矩阵(也称系数),α()是激活函数。每一层仅仅是对输入向量经过如此简单的操作得到输出向量由于dnn层数多,系数w和偏移向量的数量也比较多。这些参数在dnn中的定义如下所述:以系数w为例:假设在一个三层的dnn中,第二层的第4个神经元到第三层的第2个神经元的线性系数定义为上标3代表系数w所在的层数,而下标对应的是输出的第三层索引2和输入的第二层索引4。[0106]综上,第l-1层的第k个神经元到第l层的第j个神经元的系数定义为[0107]需要注意的是,输入层是没有w参数的。在深度神经网络中,更多的隐含层让网络更能够刻画现实世界中的复杂情形。理论上而言,参数越多的模型复杂度越高,“容量”也就越大,也就意味着它能完成更复杂的学习任务。训练深度神经网络的也就是学习权重矩阵的过程,其最终目的是得到训练好的深度神经网络的所有层的权重矩阵(由很多层的向量w形成的权重矩阵)。[0108](3)卷积神经网络[0109]卷积神经网络(convolutionalneuronnetwork,cnn)是一种带有卷积结构的深度神经网络。卷积神经网络包含了一个由卷积层和子采样层构成的特征抽取器,该特征抽取器可以看作是滤波器。卷积层是指卷积神经网络中对输入信号进行卷积处理的神经元层。在卷积神经网络的卷积层中,一个神经元可以只与部分邻层神经元连接。一个卷积层中,通常包含若干个特征平面,每个特征平面可以由一些矩形排列的神经单元组成。同一特征平面的神经单元共享权重,这里共享的权重就是卷积核。共享权重可以理解为提取图像信息的方式与位置无关。卷积核可以以随机大小的矩阵的形式初始化,在卷积神经网络的训练过程中卷积核可以通过学习得到合理的权重。另外,共享权重带来的直接好处是减少卷积神经网络各层之间的连接,同时又降低了过拟合的风险。[0110](4)循环神经网络(recurrentneuralnetworks,rnn)是用来处理序列数据的。在传统的神经网络模型中,是从输入层到隐含层再到输出层,层与层之间是全连接的,而对于每一层层内之间的各个节点是无连接的。这种普通的神经网络虽然解决了很多难题,但是却仍然对很多问题无能无力。例如,你要预测句子的下一个单词是什么,一般需要用到前面的单词,因为一个句子中前后单词并不是独立的。rnn之所以称为循环神经网路,即一个序列当前的输出与前面的输出也有关。具体的表现形式为网络会对前面的信息进行记忆并应用于当前输出的计算中,即隐含层本层之间的节点不再无连接而是有连接的,并且隐含层的输入不仅包括输入层的输出还包括上一时刻隐含层的输出。理论上,rnn能够对任何长度的序列数据进行处理。对于rnn的训练和对传统的cnn或dnn的训练一样。[0111]既然已经有了卷积神经网络,为什么还要循环神经网络?原因很简单,在卷积神经网络中,有一个前提假设是:元素之间是相互独立的,输入与输出也是独立的,比如猫和狗。但现实世界中,很多元素都是相互连接的,比如股票随时间的变化,再比如一个人说了:我喜欢旅游,其中最喜欢的地方是云南,以后有机会一定要去。这里填空,人类应该都知道是填“云南”。因为人类会根据上下文的内容进行推断,但如何让机器做到这一步?rnn就应运而生了。rnn旨在让机器像人一样拥有记忆的能力。因此,rnn的输出就需要依赖当前的输入信息和历史的记忆信息。[0112](5)损失函数[0113]在训练深度神经网络的过程中,因为希望深度神经网络的输出尽可能的接近真正想要预测的值,所以可以通过比较当前网络的预测值和真正想要的目标值,再根据两者之间的差异情况来更新每一层神经网络的权重向量(当然,在第一次更新之前通常会有初始化的过程,即为深度神经网络中的各层预先配置参数),比如,如果网络的预测值高了,就调整权重向量让它预测低一些,不断地调整,直到深度神经网络能够预测出真正想要的目标值或与真正想要的目标值非常接近的值。因此,就需要预先定义“如何比较预测值和目标值之间的差异”,这便是损失函数(lossfunction)或目标函数(objectivefunction),它们是用于衡量预测值和目标值的差异的重要方程。其中,以损失函数举例,损失函数的输出值(loss)越高表示差异越大,那么深度神经网络的训练就变成了尽可能缩小这个loss的过程。[0114](6)反向传播算法[0115]神经网络可以采用误差反向传播(backpropagation,bp)算法在训练过程中修正初始的神经网络模型中参数的大小,使得神经网络模型的重建误差损失越来越小。具体地,前向传递输入信号直至输出会产生误差损失,通过反向传播误差损失信息来更新初始的神经网络模型中参数,从而使误差损失收敛。反向传播算法是以误差损失为主导的反向传播运动,旨在得到最优的神经网络模型的参数,例如权重矩阵。[0116](7)像素值[0117]图像的像素值可以是一个红绿蓝(rgb)颜色值,像素值可以是表示颜色的长整数。例如,像素值为256*red+100*green+76blue,其中,*表示乘法运算,blue代表蓝色分量,green代表绿色分量,red代表红色分量。各个颜色分量中,数值越小,亮度越低,数值越大,亮度越高。对于灰度图像来说,像素值可以是灰度值。[0118]如图1所示,本申请实施例提供了一种系统架构100。在图1中,数据采集设备160用于采集训练数据。针对本申请实施例的图像增强方法来说,训练数据可以包括原始图像以及该原始图像对应的真值(groundtruth,gt),其中,该原始图像对应的真值可以是由人工预先处理得到的。[0119]在采集到训练数据之后,数据采集设备160将这些训练数据存入数据库130,训练设备120基于数据库130中维护的训练数据训练得到目标模型/规则101。[0120]下面对训练设备120基于训练数据得到目标模型/规则101进行描述,训练设备120对输入的原始图像进行处理,将输出的图像与原始图像对应的真值进行对比,直到训练设备120输出的图像与原始图像的真值之间的差值小于一定的阈值,从而完成目标模型/规则101的训练。[0121]上述目标模型/规则101能够用于实现本申请实施例的图像增强方法,即,将待处理图像通过相关预处理后输入该目标模型/规则101,即可得到图像增强后的输出图像。本申请实施例中的目标模型/规则101具体可以为本申请实施例中的图像增强装置。需要说明的是,在实际的应用中,所述数据库130中维护的训练数据不一定都来自于数据采集设备160的采集,也有可能是从其他设备接收得到的。另外需要说明的是,训练设备120也不一定完全基于数据库130维护的训练数据进行目标模型/规则101的训练,也有可能从云端或其他地方获取训练数据进行模型训练,上述描述不应该作为对本申请实施例的限定。[0122]根据训练设备120训练得到的目标模型/规则101可以应用于不同的系统或设备中,如应用于图1所示的执行设备110,所述执行设备110可以是终端,如手机终端,平板电脑,笔记本电脑,增强现实(augmentedreality,ar)/虚拟现实(virtualreality,vr),车载终端等,还可以是服务器或者云端设备等。在图1中,执行设备110配置输入/输出(input/output,i/o)接口112,用于与外部设备进行数据交互,用户可以通过客户设备140向i/o接口112输入数据,所述输入数据在本申请实施例中可以包括:客户设备输入的待处理图像。[0123]预处理模块113和预处理模块114用于根据i/o接口112接收到的输入数据(如待处理图像)进行预处理,在本申请实施例中,也可以没有预处理模块113和预处理模块114(也可以只有其中的一个预处理模块),而直接采用计算模块111对输入数据进行处理。[0124]在执行设备110对输入数据进行预处理,或者在执行设备110的计算模块111执行计算等相关的处理过程中,执行设备110可以调用数据存储系统150中的数据、代码等以用于相应的处理,也可以将相应处理得到的数据、指令等存入数据存储系统150中。[0125]最后,i/o接口112将处理结果,如上述得到的图像增强后的输出图像返回给客户设备140,从而提供给用户。[0126]值得说明的是,训练设备120可以针对不同的目标或称不同的任务,基于不同的训练数据生成相应的目标模型/规则101,该相应的目标模型/规则101即可以用于实现上述目标或完成上述任务,从而为用户提供所需的结果。[0127]在图1所示情况下,用户可以手动给定输入数据,该手动给定可以通过i/o接口112提供的界面进行操作。另一种情况下,客户设备140可以自动地向i/o接口112发送输入数据,如果要求客户设备140自动发送输入数据需要获得用户的授权,则用户可以在客户设备140中设置相应权限。用户可以在客户设备140查看执行设备110输出的结果,具体的呈现形式可以是显示、声音、动作等具体方式。客户设备140也可以作为数据采集端,采集如图所示输入i/o接口112的输入数据及输出i/o接口112的输出结果作为新的样本数据,并存入数据库130。当然,也可以不经过客户设备140进行采集,而是由i/o接口112直接将如图所示输入i/o接口112的输入数据及输出i/o接口112的输出结果,作为新的样本数据存入数据库130。[0128]值得注意的是,图1仅是本申请实施例提供的一种系统架构的示意图,图中所示设备、器件、模块等之间的位置关系不构成任何限制,例如,在图1中,数据存储系统150相对执行设备110是外部存储器,在其它情况下,也可以将数据存储系统150置于执行设备110中。[0129]如图1所示,根据训练设备120训练得到目标模型/规则101,该目标模型/规则101在本申请实施例中可以是本申请中的图像增强装置,具体的,本申请实施例提供的图像增强装置可以包括一个或多个神经网络,该一个或多个神经网络可以包括cnn、深度卷积神经网络(deepconvolutionalneuralnetworks,dcnn)和/或循环神经网络(recurrentneuralnetwork,rnns)等等。[0130]由于cnn是一种非常常见的神经网络,下面结合图2重点对cnn的结构进行详细的介绍。如上文的基础概念介绍所述,卷积神经网络是一种带有卷积结构的深度神经网络,是一种深度学习(deeplearning)架构,深度学习架构是指通过机器学习的算法,在不同的抽象层级上进行多个层次的学习。作为一种深度学习架构,cnn是一种前馈(feed-forward)人工神经网络,该前馈人工神经网络中的各个神经元可以对输入其中的图像作出响应。[0131]如图2所示,卷积神经网络(cnn)200可以包括输入层210,卷积层/池化层220(其中池化层为可选的),以及神经网络层230。下面对这些层的相关内容做详细介绍。[0132]卷积层/池化层220:[0133]卷积层:[0134]如图2所示卷积层/池化层220可以包括如示例221-226层,举例来说:在一种实现方式中,221层为卷积层,222层为池化层,223层为卷积层,224层为池化层,225为卷积层,226为池化层;在另一种实现方式中,221、222为卷积层,223为池化层,224、225为卷积层,226为池化层。即卷积层的输出可以作为随后的池化层的输入,也可以作为另一个卷积层的输入以继续进行卷积操作。[0135]下面将以卷积层221为例,介绍一层卷积层的内部工作原理。[0136]卷积层221可以包括很多个卷积算子,卷积算子也称为核,其在图像处理中的作用相当于一个从输入图像矩阵中提取特定信息的过滤器,卷积算子本质上可以是一个权重矩阵,这个权重矩阵通常被预先定义,在对图像进行卷积操作的过程中,权重矩阵通常在输入图像上沿着水平方向一个像素接着一个像素(或两个像素接着两个像素……这取决于步长stride的取值)的进行处理,从而完成从图像中提取特定特征的工作。该权重矩阵的大小应该与图像的大小相关,需要注意的是,权重矩阵的纵深维度(depthdimension)和输入图像的纵深维度是相同的,在进行卷积运算的过程中,权重矩阵会延伸到输入图像的整个深度。因此,和一个单一的权重矩阵进行卷积会产生一个单一纵深维度的卷积化输出,但是大多数情况下不使用单一权重矩阵,而是应用多个尺寸(行×列)相同的权重矩阵,即多个同型矩阵。每个权重矩阵的输出被堆叠起来形成卷积图像的纵深维度,这里的维度可以理解为由上面所述的“多个”来决定。不同的权重矩阵可以用来提取图像中不同的特征,例如一个权重矩阵用来提取图像边缘信息,另一个权重矩阵用来提取图像的特定颜色,又一个权重矩阵用来对图像中不需要的噪点进行模糊化等。该多个权重矩阵尺寸(行×列)相同,经过该多个尺寸相同的权重矩阵提取后的特征图的尺寸也相同,再将提取到的多个尺寸相同的特征图合并形成卷积运算的输出。[0137]这些权重矩阵中的权重值在实际应用中需要经过大量的训练得到,通过训练得到的权重值形成的各个权重矩阵可以用来从输入图像中提取信息,从而使得卷积神经网络200进行正确的预测。[0138]当卷积神经网络200有多个卷积层的时候,初始的卷积层(例如221)往往提取较多的一般特征,该一般特征也可以称之为低级别的特征;随着卷积神经网络200深度的加深,越往后的卷积层(例如226)提取到的特征越来越复杂,比如高级别的语义之类的特征,语义越高的特征越适用于待解决的问题。[0139]池化层/池化层220:[0140]由于常常需要减少训练参数的数量,因此卷积层之后常常需要周期性的引入池化层,在如图2中220所示例的221-226各层,可以是一层卷积层后面跟一层池化层,也可以是多层卷积层后面接一层或多层池化层。在图像处理过程中,池化层的唯一目的就是减少图像的空间大小。池化层可以包括平均池化算子和/或最大池化算子,以用于对输入图像进行采样得到较小尺寸的图像。平均池化算子可以在特定范围内对图像中的像素值进行计算产生平均值作为平均池化的结果。最大池化算子可以在特定范围内取该范围内值最大的像素作为最大池化的结果。另外,就像卷积层中用权重矩阵的大小应该与图像尺寸相关一样,池化层中的运算符也应该与图像的大小相关。通过池化层处理后输出的图像尺寸可以小于输入池化层的图像的尺寸,池化层输出的图像中每个像素点表示输入池化层的图像的对应子区域的平均值或最大值。[0141]神经网络层230:[0142]在经过卷积层/池化层220的处理后,卷积神经网络200还不足以输出所需要的输出信息。因为如前所述,卷积层/池化层220只会提取特征,并减少输入图像带来的参数。然而为了生成最终的输出信息(所需要的类信息或其他相关信息),卷积神经网络200需要利用神经网络层230来生成一个或者一组所需要的类的数量的输出。因此,在神经网络层230中可以包括多层隐含层(如图2所示的231、232至23n)以及输出层240,该多层隐含层中所包含的参数可以根据具体的任务类型的相关训练数据进行预先训练得到,例如该任务类型可以包括图像识别,图像分类,图像超分辨率重建等等。[0143]在神经网络层230中的多层隐含层之后,也就是整个卷积神经网络200的最后层为输出层240,该输出层240具有类似分类交叉熵的损失函数,具体用于计算预测误差,一旦整个卷积神经网络200的前向传播(如图2由210至240方向的传播为前向传播)完成,反向传播(如图2由240至210方向的传播为反向传播)就会开始更新前面提到的各层的权重值以及偏差,以减少卷积神经网络200的损失,及卷积神经网络200通过输出层输出的结果和理想结果之间的误差。[0144]需要说明的是,如图2所示的卷积神经网络200仅作为一种卷积神经网络的示例,在具体的应用中,卷积神经网络还可以以其他网络模型的形式存在。[0145]本申请中,图像增强装置可以包括图2所示的卷积神经网络200,该图像增强装置可以对待处理图像进行图像增强处理,得到图像增强后的输出图像。[0146]图3为本申请实施例提供的一种芯片硬件结构,该芯片包括神经网络处理器50。该芯片可以被设置在如图1所示的执行设备110中,用以完成计算模块111的计算工作。该芯片也可以被设置在如图1所示的训练设备120中,用以完成训练设备120的训练工作并输出目标模型/规则101。如图2所示的卷积神经网络中各层的算法均可在如图3所示的芯片中得以实现。[0147]神经网络处理器npu50作为协处理器挂载到主cpu(hostcpu)上,由主cpu分配任务。npu的核心部分为运算电路503,控制器504控制运算电路503提取存储器(权重存储器或输入存储器)中的数据并进行运算。[0148]在一些实现方式中,运算电路503内部包括多个处理单元(processengine,pe)。在一些实现方式中,运算电路503是二维脉动阵列。运算电路503还可以是一维脉动阵列或者能够执行例如乘法和加法这样的数学运算的其它电子线路。在一些实现方式中,运算电路503是通用的矩阵处理器。[0149]举例来说,假设有输入矩阵a,权重矩阵b,输出矩阵c。运算电路503从权重存储器502中取矩阵b相应的数据,并缓存在运算电路503中每一个pe上。运算电路503从输入存储器501中取矩阵a数据与矩阵b进行矩阵运算,得到的矩阵的部分结果或最终结果,保存在累加器(accumulator)508中。[0150]向量计算单元507可以对运算电路503的输出做进一步处理,如向量乘,向量加,指数运算,对数运算,大小比较等等。例如,向量计算单元507可以用于神经网络中非卷积/非fc层的网络计算,如池化(pooling),批归一化(batchnormalization),局部响应归一化(localresponsenormalization)等。[0151]在一些实现方式中,向量计算单元能507将经处理的输出的向量存储到统一缓存器506。例如,向量计算单元507可以将非线性函数应用到运算电路503的输出,例如累加值的向量,用以生成激活值。在一些实现方式中,向量计算单元507生成归一化的值、合并值,或二者均有。在一些实现方式中,处理过的输出的向量能够用作到运算电路503的激活输入,例如用于在神经网络中的后续层中的使用。[0152]统一存储器506用于存放输入数据以及输出数据。[0153]权重数据直接通过存储单元访问控制器505(directmemoryaccesscontroller,dmac)将外部存储器中的输入数据搬运到输入存储器501和/或统一存储器506、将外部存储器中的权重数据存入权重存储器502,以及将统一存储器506中的数据存入外部存储器。[0154]总线接口单元(businterfaceunit,biu)510,用于通过总线实现主cpu、dmac和取指存储器509之间进行交互。[0155]与控制器504连接的取指存储器(instructionfetchbuffer)509,用于存储控制器504使用的指令;[0156]控制器504,用于调用指存储器509中缓存的指令,实现控制该运算加速器的工作过程。[0157]一般地,统一存储器506,输入存储器501,权重存储器502以及取指存储器509均为片上(on-chip)存储器,外部存储器为该npu外部的存储器,该外部存储器可以为双倍数据率同步动态随机存储器(doubledataratesynchronousdynamicrandomaccessmemory,ddrsdram)、高带宽存储器(highbandwidthmemory,hbm)或其他可读可写的存储器。[0158]其中,图2所示的卷积神经网络中各层的运算可以由运算电路503或向量计算单元307执行。[0159]上文中介绍的图1中的执行设备110能够执行本申请实施例的图像增强方法的各个步骤,图2所示的cnn模型和图3所示的芯片也可以用于执行本申请实施例的图像增强方法的各个步骤。下面结合附图对本申请实施例的图像增强方法进行详细的介绍。[0160]本申请实施例提供的图像增强方法可以在服务器上被执行,也可以在云端被执行,还可以在终端设备上被执行。以终端设备为例,如图4所示,本发明实施例的技术方案可以应用于终端设备,本申请实施例中的图像增强方法可以对输入图像进行图像增强处理,得到该输入图像经图像增强后的输出图像。该终端设备可以为移动的或固定的,例如该终端设备可以是具有图像增强功能的移动电话、平板个人电脑(tabletpersonalcomputer,tpc)、媒体播放器、智能电视、笔记本电脑(laptopcomputer,lc)、个人数字助理(personaldigitalassistant,pda)、个人计算机(personalcomputer,pc)、照相机、摄像机、智能手表、可穿戴式设备(wearabledevice,wd)或者自动驾驶的车辆等,本发明实施例对此不作限定。[0161]在现有技术中,受限于终端设备的运算能力和功耗,常常会对待处理图像进行下采样处理,得到低分辨率的图像后,再对其进行图像质量增强。但是,通过低分辨率的图像难以获取到精确的局部细节信息,从而会影响图像质量增强处理的效果。[0162]本申请实施例提出了一种图像增强方法,通过调整待处理图像的像素值得到多个像素值不同的图像,并利用这多个像素值不同的图像进行图像质量增强处理,从而可以从多个像素值不同的图像中得到更多的局部细节信息,因此,该方法能够提升图像质量增强处理的效果。[0163]需要说明的是,图像质量增强也可以称为图像增强,具体可以是指对图像的亮度、颜色、对比度、饱和度和/或动态范围等进行处理,以使得该图像的各项指标满足预设的条件。在本申请实施例中,图像增强和图像质量增强具有相同的涵义。[0164]图5示出了本申请实施例提供的图像增强方法500的示意性流程图,该方法可以由能够进行图像增强的装置或设备执行,例如,该方法可以由图4中的终端设备执行。[0165]s510,调整待处理图像的像素值,得到k个图像。[0166]其中,所述k个图像的像素值不同,k为大于1的正整数。[0167]应理解,这里所说的所述k个图像的像素值不同,可以是指所述k个图像的全部像素值不同,或者,也可以是指所述k个图像的部分像素值不同。[0168]同时,通过调整待处理图像的像素值,得到k个图像,可以保证参与图像增强处理的k个图像中的图像画面内容一致且没有像素偏移,从而能够避免由于图像画面内容不一致或像素偏移引起的鬼影。[0169]可选地,对所述待处理图像的像素值进行k次调整,可以得到k个图像,此时,所述k个图像都是通过调整所述待处理图像的像素值得到的,即所述k个图像不包括所述待处理图像。[0170]或者,对所述待处理图像的像素值进行k-1次调整,可以得到k-1个图像,根据所述k-1个图像与所述待处理图像可以得到k个图像,此时,所述k个图像包括所述待处理图像,所述k个图像中除所述待处理图像以外的其他k-1个图像,是通过调整所述待处理图像的像素值得到的。[0171]可选地,所述调整待处理图像的像素值,得到k个图像,可以包括:通过非线性变换增大和/或减小所述待处理图像的全部像素值,得到所述k个图像。[0172]在本申请实施例中,通过非线性变换增大和/或减小所述待处理图像的全部像素值,,可以方便地得到k个图像,从而能够从k个图像中得到更多的局部细节信息。[0173]上述s510中的非线性变换可以为伽马(gamma)变换(或γ变换),或者,也可以为其他能够调整图像像素值的非线性变换的方法,本申请实施例对此并不限定。[0174]通常,gamma变换也可以称为gamma校正,或gamma非线性化,是一种用于对图像进行非线性变换的方法。[0175]gamma变换可以通过下式来实现:[0176][0177]其中,vin为输入图像像素,vout为输出图像像素,a为增益,γ为非线性的幂。[0178]vin可以为经过归一化处理后的输入图像像素,也就是说,vin的数值在[0,1]之间。在vin经过归一化处理的情况下,当γ<1时,可以增大输入图像的像素值,此时,可以认为vout是相对于vin的高曝光图像;当γ>1时,可以减小输入图像的像素值,此时,可以认为vout是相对于vin的低曝光图像。[0179]在本申请中,可以通过上述gamma变换调整待处理图像的像素值。[0180]例如,待处理图像可以为上述公式中的vin,可以通过一次gamma变换可以得到k个图像中的一个图像,通过k次gamma变换就可以得到k个图像。此时,所述k个图像都是通过gamma变换得到的,k个图像不包括待处理图像。[0181]或者,可以通过k-1次gamma变换得到k-1个图像,根据所述k-1个图像和所述待处理图像就可以得到所述k个图像。此时,所述k个图像包括待处理图像,所述k个图像中除待处理图像以外的其他k-1个图像,是通过gamma变换得到的。[0182]在本申请实施例中,在高曝光处理(即使用gamma变换增大待处理图像的像素值)时,上述公式中的γ可以用γhigh-exop表示,在低曝光处理(即使用gamma变换减小待处理图像的像素值)时,上述公式中的γ可以用γlow-exop表示,γhigh-exop和γlow-exop可以通过以下公式确定:[0183][0184][0185][0186]其中,lavg为待处理图像中全部像素的平均亮度值,lhigh为亮度的高阈值,llow为亮度的低阈值,且0<llow<lhigh<1,p(l≥lhigh)表示待处理图像的全部像素中像素亮度值高于lhigh的像素的比例,p(l≤llow)表示待处理图像的全部像素中像素亮度值低于llow的像素的比例,a为高曝光处理时γ的低阈值,b为高曝光处理时γ的高阈值,a、b、lhigh及llow均为超参数。[0187]在本申请中,当图5所示的方法由图4中的终端设备执行时,该待处理图像可以是终端设备通过摄像头拍摄到的图像,或者,该待处理图像也可以是从终端设备内部获得的图像(例如,终端设备的相册中存储的图像,或者终端设备从云端获取的图像),本申请实施例对此并不限定。[0188]或者,在本申请中,为了减少计算量,可以先对需要进行图像增强的图像(即待处理图像的原始图像)进行下采样处理,得到低分辨率图像后,再提取该低分辨率图像的特征,从而降低图像增强处理的计算量。[0189]图6是本申请实施例的一种可能的实现方式,例如,如图6所示,所述待处理图像可以为所述待处理图像的原始图像经图6中的下采样单元100处理之后得到的图像。[0190]此时,所述待处理图像的原始图像可以是终端设备通过摄像头拍摄到的图像,或者,该待处理图像的原始图像也可以是从终端设备内部获得的图像,所述待处理图像可以为所述待处理图像的原始图像经过下采样处理之后得到的图像(低分辨率图像)。[0191]s520,提取所述k个图像的局部特征。[0192]可选地,可以使用神经网络来提取所述k个图像的局部特征。[0193]上述局部特征可以是从图像局部区域中抽取的特征,包括:边缘、角点、线、曲线或特别属性的区域等。[0194]由于所述k个图像的像素值不同,可以使用k个神经网络,提取所述k个图像的局部特征。[0195]可选地,所述k个神经网络可以与所述k个图像一一对应,分别使用所述k个神经网络,提取其对应的图像的局部特征。[0196]例如,如图6所示,待处理图像为所述待处理图像的原始图像经图6中的下采样单元100处理之后得到的图像(低分辨率图像);调整所述待处理图像的像素值,得到3个图像,这3个图像包括高曝光图像、低曝光图像与所述待处理图像,其中,图6中的局部特征提取单元302对应所述待处理图像,用于提取所述待处理图像的局部特征,图6中的局部特征提取单元304对应高曝光图像,用于提取所述高曝光图像的局部特征,图6中的局部特征提取单元306对应低曝光图像,用于提取所述低曝光图像的局部特征。[0197]上述对所述待处理图像的原始图像进行下采样处理得到的所述待处理图像的方法,具体可以参考现有技术,本申请实施例中不再赘述。[0198]可选地,图6中的局部特征提取单元302、局部特征提取单元304及局部特征提取单元306可以通过三个神经网络来实现。[0199]例如,图6中的局部特征提取单元302、局部特征提取单元304及局部特征提取单元306中的一个或多个可以使用图7所示的多尺度自学习网络结构来实现,或者,也可以使用其他的神经网络来实现,本申请实施例对此并不限定。[0200]图7中的多尺度自学习网络结构,包含上层子网络(topsub-network)、中间子网络(middlesub-network)和底层子网络(bottomsub-network)多个模块,其中,上层子网络是原始特征提取层,中间子网络是不同的中间特征提取层,底层子网络是最终的特征提取层,使用space2depth(或者也可以表示为spacetodepth)操作进行下采样。该网络结构的具体描述可以参考相关申请(发明名称为图像去噪方法和装置,申请号为201910156951.0),本申请实施例中不再赘述。[0201]需要说明的是,本申请中的多尺度自学习网络结构,在上述相关申请的基础上进行了优化。如图7所示,待处理图像经过spaec2depth操作之后,可以使用分离卷积(separableconvolution)替代普通卷积,这样在计算量不过分增大的前提下,增加卷积深度,增加卷积感受野(receptivefield),实现更精确的特征提取。当然,在本申请中,也可以使用上述相关申请中的网络结构进行特征提取,本申请实施例中对此并不限定。[0202]在本申请实施例中,还可以对所述待处理图像进行语义分割,得到语义分割图;对所述语义分割图进行特征提取,得到语义条件。其中,所述语义条件可以包括所述待处理图像的语义信息。[0203]本申请实施例中的语义分割也可以称为图像语义分割,是指按照某种规则(例如,光照或类别)将图像中的像素点分成不同的区域的过程。对图像进行语义分割,得到的结果就是语义分割图。[0204]可选地,可以按照类别,将图像在像素级别划分成不同的区域,比如,可以使用不同的颜色区分图像中的不同的区域。[0205]例如,可以按照类别,将图像中的建筑物所在区域标记为蓝色、将图像中的天空所在区域标记为绿色、将图像中的植物所在区域标记为黄色。这个用不同颜色标记图像中不同类别的图像就可以称为语义分割图。[0206]语义分割图中携带的、可以用于指示图像中的不同类别(例如,建筑物、植物及天空等)的信息,可以称为语义信息(或图像的语义信息)。同样地,语义分割图中也可以包括用于指示图像中其他信息(例如,将图像中的不同光照划分成不同的类别)的语义信息,本申请实施例对此并不限定。[0207]在本申请实施例中,所述语义条件可以包括待处理图像的语义信息,该语义信息可以用于指示待处理图像中的不同类别或光照等信息。或者,该语义信息也可以用于指示待处理图像中的其他信息,本申请实施例对此并不限定。[0208]上述对所述待处理图像进行语义分割得到语义分割图的方法,具体可以参考现有技术,本申请实施例中不再赘述。[0209]可选地,可以使用神经网络对所述语义分割图进行特征提取,得到语义条件。例如,如图6所示,可以通过语义条件生成单元301,对所述语义分割图进行特征提取,得到语义条件,其中,所述语义条件生成单元301可以由神经网络来实现。[0210]在本申请中,所述提取所述k个图像的局部特征,可以包括:根据所述语义条件,提取所述k个图像中的一个或多个图像的局部特征。[0211]也就是说,所述k个图像的局部特征中的至少一个可以是根据所述语义条件提取的。[0212]在本申请实施例,对语义分割图进行特征提取,得到语义条件,根据语义条件,提取所述k个图像中的一个或多个图像的局部特征,可以更好地体现出图像增强后的图像中不同局部区域的语义差异性。[0213]例如,如图6所示,调整所述待处理图像的像素值,得到3个图像,包括:高曝光图像、低曝光图像与所述待处理图像;此时,可以根据由语义条件生成单元301得到的语义条件,提取这3个图像中的所述待处理图像的局部特征;或者,也可以根据所述语义条件,提取这3个图像中的高曝光图像或低曝光图像的局部特征;或者,也可以根据所述语义条件,提取这3个图像中的多个图像的局部特征,比如,根据所述语义条件,提取高曝光图像与低曝光图像的局部特征,本申请实施例对此并不限定。[0214]例如,在使用图7所示的网络结构对所述k个图像的一个或多个图像进行特征提取时,如图8所示,可以将所述语义条件输入到各个残差块(residualconvolutionblock)中,并根据所述语义条件,确定残差估计值;根据所述残差估计值,确定所述k个图像中的一个或多个图像的局部特征。[0215]图8中的残差块的结构可以如图9所示,可以看出,本申请实施例中的残差块可以包括一个或多个卷积层,残差块中的每一个卷积层的前面可以包括一个语义空间变换(semanticspatialtransform,sst)层,sst层的具体实现可以如图10所示。[0216]应理解,图8和图9所示的实施例仅为示例而非限定,在本申请中,在使用其他网络进行特征提取时,也可以根据所述语义条件,提取所述k个图像中的一个或多个图像的局部特征。[0217]可选地,所述根据所述语义条件,提取所述k个图像中的一个或多个图像的局部特征,可以包括:根据所述语义条件确定第一语义特征和第二语义特征;根据所述第一语义特征和所述第二语义特征,提取所述k个图像中的一个图像的局部特征。[0218]也就是说,所述k个图像的局部特征中的至少一个可以是根据第一语义特征和第二语义特征提取的,所述第一语义特征和所述第二语义特征是根据所述语义条件确定的。[0219]进一步地,所述根据所述第一语义特征和所述第二语义特征,提取所述k个图像中的一个图像的局部特征,可以包括:根据所述第一语义特征、所述第二语义特征及所述待处理图像的图像特征,确定残差估计值;根据所述残差估计值,确定所述k个图像中的一个图像的局部特征。[0220]即,所述k个图像的局部特征中的至少一个可以是根据残差估计值确定的,所述残差估计值是根据所述第一语义特征、所述第二语义特征及所述待处理图像的图像特征确定的。[0221]需要说明的是,上述提取所述k个图像中的一个图像的局部特征,并不是限定只能提取所述k个图像中的一个图像的局部特征,而且是指对于所述k个图像中的每一个图像,根据语义条件确定的该图像对应的第一语义特征和第二语义特征可以不同。[0222]例如,可以使用图10所示的语义空间变换(semanticspatialtransform,sst)模型去确定所述k个图像中的一个图像对应的第一语义特征(即图10中的β)和第二语义特征(即图10中的γ),并根据所述第一语义特征、所述第二语义特征及所述待处理图像的图像特征,确定残差估计值。[0223]图10中sst模型可以用下式来表示:[0224]sst=relu((β·f)+γ)[0225]其中,sst为语义空间变换的结果,relu为修正线性单元relu,β为所述第一语义特征,γ为所述第二语义特征,f为所述待处理图像的图像特征,“·”为点乘运算。[0226]在得到所述语义空间变换的结果之后,如图9所示,可以对所述语义空间变换的结果进行卷积操作,再将卷积后结果与所述待处理图像的图像特征相加,就可以得到残差估计值。[0227]需要说明的是,图9所示的残差块可以包括一个或多个sst模型、以及一个或多个卷积层,也就是说,在本申请实施例中,可以经过一次或多次sst,以及一次或多次卷积操作后,再与所述待处理图像的图像特征相加,以得到残差估计值,本申请实施例对sst和卷积操作的次数并不限定。[0228]在提取所述k个图像的局部特征之后,可以对所述k个图像的局部特征进行特征融合,得到融合后的局部融合特征。[0229]例如,如图6所示,可以通过局部特征融合单元308,对高曝光图像的局部特征、低曝光图像的局部特征与所述待处理图像的局部特征进行特征融合,其中,局部特征融合单元308的结构可以如图11所示。[0230]具体地,在图11中,可以对高曝光图像的局部特征、低曝光图像的局部特征与所述待处理图像的局部特征进行连接操作(concatenation)和卷积操作(convolution),得到融合后的局部融合特征。[0231]应理解,图11所示的结构仅为示例而非限定,局部特征融合单元308中可以包括更多或更少的卷积层,也可以包括神经网络中的池化层(pooling)、全连接层(fullconnection,fc)或其他层,本申请实施例中对此并不限定。[0232]s530,提取所述待处理图像的全局特征。[0233]可选地,可以使用神经网络来提取所述待处理图像的全局特征。例如,该神经网络可以是预先训练好的卷积神经网络。[0234]上述全局特征可以是指图像的整体属性,包括:颜色特征、纹理特征、形状特征或直方图等。[0235]需要说明的是,本申请实施例中并不限定s520与s530的执行顺序。例如,s520可以在s530之前执行;或者,s530可以在s520之前执行;或者,s520与s530可以同时执行,本申请对此并不限定。[0236]s540,根据所述全局特征和所述局部特征对所述待处理图像进行图像增强处理,得到图像增强后的输出图像。[0237]在本申请中,在对所述k个图像的局部特征进行特征融合得到局部融合特征的情况下,所述根据所述全局特征和所述局部特征对所述待处理图像进行图像增强处理,得到图像增强后的输出图像,可以包括:根据所述全局特征和所述局部融合特征对所述待处理图像进行图像增强处理,得到图像增强后的输出图像。[0238]可选地,所述根据所述全局特征和所述局部特征对所述待处理图像进行图像增强处理,得到图像增强后的输出图像,可以包括:对所述全局特征和所述局部特征进行特征融合,得到融合特征;根据所述融合特征对所述待处理图像进行图像增强处理,得到图像增强后的输出图像。[0239]在本申请实施例中,所述融合特征是所述全局特征和所述局部特征进行特征融合后得到的,而不是简单地将所述全局特征和所述局部特征相加后得到的,因此,可以避免图像增强后图像的局部区域具有相同的全局特征,从而能够提升图像增强处理的效果。[0240]可选地,可以使用神经网络对所述全局特征和所述局部特征进行特征融合,得到融合特征。[0241]可选地,在本申请中,可以通过以下两种方式,对全局特征和局部特征进行特征融合,得到融合特征:[0242]方式一:[0243]可选地,可以对所述全局特征进行特征提取,得到第一全局特征和第二全局特征;可以对所述第一全局特征与所述局部特征进行加法操作,得到候选融合特征;可以对所述候选融合特征和所述第二全局特征进行连接操作(concatenation)和卷积操作(convolution),得到所述融合特征。[0244]例如,如图12所示,可以使全局特征经过两个独立的全连接层,产生两个全局特征(即第一全局特征和第二全局特征),这两个全局特征中的一个全局特征可以先与局部特征相加,再将相加得到的结果与这两个全局特征中的另一个全局特征进行连接操作和卷积操作,从而得到融合特征。[0245]方式二:[0246]可选地,可以对所述全局特征进行特征提取,得到第一全局特征和第二全局特征;可以对所述第一全局特征与所述局部特征进行连接操作和卷积操作,得到候选融合特征;可以对所述候选融合特征和所述第二全局特征进行加法操作,得到所述融合特征。[0247]例如,如图13所示,可以使全局特征经过两个独立的全连接层,产生两个全局特征(即第一全局特征和第二全局特征),这两个全局特征中的一个全局特征可以先与局部特征进行连接操作和卷积操作,再将连接和卷积得到的结果与这两个全局特征中的一个全局特征相加,从而得到融合特征。[0248]上述方式一及方式二的融合方式中,将全局特征分成两个独立的通道后(即第一全局特征和第二全局特征),再将第一全局特征及第二全局特征与局部特征进行融合,可以使该模型学习到更精确的全局信息,可以使待处理图像中不同光照、不同语义的色彩过渡的更加自然。[0249]可选地,在所述待处理图像为所述待处理图像的原始图像经过下采样处理后得到的图像的情况下,所述根据所述全局特征和所述局部特征对所述待处理图像进行图像增强处理,得到图像增强后的输出图像,可以包括:根据所述全局特征和所述局部特征对所述待处理图像的原始图像进行图像增强处理,得到图像增强后的输出图像。[0250]可选地,在所述待处理图像为所述待处理图像的原始图像经过下采样处理后得到的图像的情况下,所述根据所述融合特征对所述待处理图像进行图像增强处理,得到图像增强后的输出图像,可以包括:根据所述待处理图像的原始图像,对所述融合特征进行上采样处理,得到目标融合特征;根据所述目标融合特征对所述待处理图像的原始图像进行图像增强处理,得到图像增强后的输出图像。[0251]本申请实施例中的图像增强方法,通过调整待处理图像的像素值得到多个像素值不同的图像,并利用这多个像素值不同的图像对该待处理图像进行图像质量增强处理,从而可以从多个像素值不同的图像中得到更多的局部细节信息,来实现对待处理图像进行图像增强,该方法能够提升图像质量增强处理的效果。[0252]图6是本申请一个实施例中的图像增强装置的示意性框图,应理解,图6所示的模型仅为示例而非限定,图6中的模型可以包括更多或更少的单元或模块,本申请实施中对此并不限定。[0253]在本申请实施例中,可以使用图6中的图像增强装置对待处理图像进行图像增强。具体的图像增强过程可以如下:[0254]如图6所示,待处理图像的原始图像经过下采样单元100处理之后,可以得到低分辨率图像,即所述待处理图像。[0255]可选地,所述待处理图像经过语义分割单元200处理之后,可以得到语义分割图;所述语义分割图经过语义条件生成单元301,可以得到语义条件。其中,所述语义条件包括所述待处理图像的语义信息。[0256]可选地,所述待处理图像经过局部特征提取单元302处理之后,可以得到所述待处理图像的局部特征。所述局部特征提取单元302可以神经网络来实现,[0257]例如,所述局部特征提取单元302的结构可以如图7所示。[0258]进一步地,在使用所述局部特征提取单元302提取所述待处理图像的局部特征时,还可以引入所述待处理图像的语义信息。可选地,可以在使用所述局部特征提取单元302提取所述待处理图像的局部特征时,引入所述语义条件。[0259]例如,如图8所示,可以将所述语义条件引入到残差块的处理中。所述残差块的具体实现可以如图9和图10所示。[0260]可选地,还可以通过高曝光处理单元303及低曝光处理单元305,得到所述待处理图像对应的高曝光图像,及所述待处理图像对应的低曝光图像。[0261]所述高曝光处理单元303和所述低曝光处理单元305可以通过非线性变换来改变所述待处理图像的像素值。[0262]例如,所述高曝光处理单元303和所述低曝光处理单元305可以使用gamma变换来改变所述待处理图像的像素值。[0263]可选地,可以通过局部特征提取单元304提取所述高曝光图像的局部特征,通过局部特征提取单元306提取所述低曝光图像的局部特征。[0264]所述局部特征提取单元304和所述局部特征提取单元306可以为图7或图8所示的结构,或者,也可以为现有技术中的其他神经网络结构,本申请实施例对此并不限定。[0265]可选地,还可以通过全局特征提取单元307提取所述待处理图像的全局特征。[0266]可选地,可以使用局部特征融合单元308,对所述待处理图像的局部特征、高曝光图像的局部特征及低曝光图像的局部特征进行特征融合,得到局部融合特征。[0267]所述局部特征融合单元308的结构可以如图11所示。[0268]可选地,可以通过特征融合单元309,对所述局部融合特征及所述待处理图像的全局特征进行融合,得到融合特征。[0269]所述特征融合单元309的结构可以如图12所示,或者,所述特征融合单元309的结构也可以如图13所示。[0270]可选地,可以通过上采样单元400,根据所述待处理图像的原始图像,对所述融合特征进行上采样处理,以得到全分辨率的融合特征。[0271]应理解,这里所说的全分辨率的融合特征是指,该全分辨率的融合特征能够与所述待处理图像的原始图像通过现有技术中的计算方法,得到图像增强后的输出图像,该输出图像的分辨率可以与所述待处理图像的原始图像的分辨率相同。[0272]可选地,所述待处理图像的原始图像和所述全分辨率的特征经过全分辨率计算单元500处理之后,可以图像增强后的输出图像。所述全分辨率计算单元500的实现可以参照现有技术,本申请实施例中不再赘述。[0273]图6中的图像增强装置可以是预先训练好的。在本申请实施例中,所述图像增强装置可以是使用下述损失函数进行训练得到的,具体如下:[0274]lmix=lcontent+α*lvisual+β*laesthetic+γ*lgrad+ρ*lsaturation+σ*lregularization[0275]其中,α、β、γ、ρ及σ为超参数,lmix为上述损失函数,lcontent为内容保真度(contentloss),lvisual为视觉友好(visualloss),laesthetic为美学质量(aestheticloss),lgrad为梯度约束(gradloss),lsaturation为饱和度约束(saturationloss),lregularization为l1正则化约束,具体如下:[0276]lcontent=|enhanced-gt|[0277]其中,enhanced为图像增强后的输出图像,gt为真值,lcontent使用l1范式,对enhanced和gt进行像素级约束。[0278]lvisual=mssim(enhanced,gt)[0279]其中,mssim(·)为多尺度结构相似性(multi-scale-structuralsimilarityindex,ms-ssim),使用mssim(·)对enhanced和gt进行评价。[0280]laesthetic=n-aesthetic(enhanced)[0281]其中,n为美学评估的最高分,aesthetic(enhanced)为图像增强后的输出图像的美学得分。[0282]lgrad=|grad(input)-grad(enhanced)|[0283]其中,input为输入图像(即待处理图像的原始图像),grad(·)为梯度计算,计算input和enhanced在平坦区的梯度,用以抑制平坦区的视频闪烁。[0284]lsaturation=w*|enhanced-input|+(1-w)*|enhanced-gt|[0285]其中,w为权重系数,在人眼主观敏感的区域(如人脸、天空等)进行饱和度约束,采用饱和度权重曲线,使用enhanced对input和gt进行加权求损失。[0286]lregularization=γ||ω||1=∑i|ωi|[0287]其中,||||1为l1范数,||为取绝对值,γ表示范数||ω||1在损失函数中的权重,ω表示全部神经网络的权重,ωi表示第i个神经网络的权重,i为正整数,lregularization为l1正则化约束,可以使得网络更加稀疏,对于视频中相邻图片帧的差异不会被过于放大,从而抑制视频的全局和局部闪烁。[0288]图14是本申请实施例的图像增强装置的硬件结构示意图。图14所示的图像增强装置4000包括存储器4001、处理器4002、通信接口4003以及总线4004。其中,存储器4001、处理器4002、通信接口4003通过总线4004实现彼此之间的通信连接。[0289]存储器4001可以是只读存储器(readonlymemory,rom),静态存储设备,动态存储设备或者随机存取存储器(randomaccessmemory,ram)。存储器4001可以存储程序,当存储器4001中存储的程序被处理器4002执行时,处理器4002和通信接口4003用于执行本申请实施例的图像增强装置的各个步骤。[0290]处理器4002可以采用通用的中央处理器(centralprocessingunit,cpu),微处理器,应用专用集成电路(applicationspecificintegratedcircuit,asic),图形处理器(graphicsprocessingunit,gpu)或者一个或多个集成电路,用于执行相关程序,以实现本申请实施例的图像增强装置中的单元所需执行的功能,或者执行本申请方法实施例的图像增强方法。[0291]处理器4002还可以是一种集成电路芯片,具有信号的处理能力。在实现过程中,本申请实施例的图像增强方法的各个步骤可以通过处理器4002中的硬件的集成逻辑电路或者软件形式的指令完成。[0292]上述处理器4002还可以是通用处理器、数字信号处理器(digitalsignalprocessing,dsp)、asic、现成可编程门阵列(fieldprogrammablegatearray,fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。上述通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本申请实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器4001,处理器4002读取存储器4001中的信息,结合其硬件完成本申请实施例的图像增强装置中包括的单元所需执行的功能,或者执行本申请方法实施例的图像增强方法。[0293]通信接口4003使用例如但不限于收发器一类的收发装置,来实现装置4000与其他设备或通信网络之间的通信。例如,可以通过通信接口4003获取待处理图像。[0294]总线4004可包括在装置4000各个部件(例如,存储器4001、处理器4002、通信接口4003)之间传送信息的通路。[0295]图15是本申请实施例的模型训练装置5000的硬件结构示意图。与上述装置4000类似,图15所示的模型训练装置5000包括存储器5001、处理器5002、通信接口5003以及总线5004。其中,存储器5001、处理器5002、通信接口5003通过总线5004实现彼此之间的通信连接。[0296]存储器5001可以存储程序,当存储器5001中存储的程序被处理器5002执行时,处理器5002用于执行训练本申请实施例的图像增强装置的训练方法的各个步骤。[0297]处理器5002可以采用通用的cpu,微处理器,asic,gpu或者一个或多个集成电路,用于执行相关程序,以实现训练本申请实施例的图像增强装置的训练方法。[0298]处理器5002还可以是一种集成电路芯片,具有信号的处理能力。在实现训练过程中,本申请实施例的图像增强装置的训练方法的各个步骤可以通过处理器5002中的硬件的集成逻辑电路或者软件形式的指令完成。[0299]应理解,通过图15所示的模型训练装置5000对图像增强装置进行训练,训练得到的图像增强装置就可以用于执行本申请实施例的图像增强方法了。具体地,通过装置5000对神经网络进行训练能够得到图5所示的方法中的图像增强装置,或图6所示的图像增强装置。[0300]具体地,图15所示的装置可以通过通信接口5003从外界获取训练数据以及待训练的图像增强装置,然后由处理器根据训练数据对待训练的图像增强装置进行训练。[0301]应注意,尽管上述装置4000和装置5000仅仅示出了存储器、处理器、通信接口,但是在具体实现过程中,本领域的技术人员应当理解,装置4000和装置5000还可以包括实现正常运行所必须的其他器件。同时,根据具体需要,本领域的技术人员应当理解,装置4000和装置5000还可包括实现其他附加功能的硬件器件。此外,本领域的技术人员应当理解,装置4000和装置5000也可仅仅包括实现本申请实施例所必须的器件,而不必包括图14和图15中所示的全部器件。[0302]应理解,本申请实施例中的处理器可以为中央处理单元(centralprocessingunit,cpu),该处理器还可以是其他通用处理器、数字信号处理器(digitalsignalprocessor,dsp)、专用集成电路(applicationspecificintegratedcircuit,asic)、现成可编程门阵列(fieldprogrammablegatearray,fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。[0303]还应理解,本申请实施例中的存储器可以是易失性存储器或非易失性存储器,或可包括易失性和非易失性存储器两者。其中,非易失性存储器可以是只读存储器(read-onlymemory,rom)、可编程只读存储器(programmablerom,prom)、可擦除可编程只读存储器(erasableprom,eprom)、电可擦除可编程只读存储器(electricallyeprom,eeprom)或闪存。易失性存储器可以是随机存取存储器(randomaccessmemory,ram),其用作外部高速缓存。通过示例性但不是限制性说明,许多形式的随机存取存储器(randomaccessmemory,ram)可用,例如静态随机存取存储器(staticram,sram)、动态随机存取存储器(dram)、同步动态随机存取存储器(synchronousdram,sdram)、双倍数据速率同步动态随机存取存储器(doubledataratesdram,ddrsdram)、增强型同步动态随机存取存储器(enhancedsdram,esdram)、同步连接动态随机存取存储器(synchlinkdram,sldram)和直接内存总线随机存取存储器(directrambusram,drram)。[0304]上述实施例,可以全部或部分地通过软件、硬件、固件或其他任意组合来实现。当使用软件实现时,上述实施例可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令或计算机程序。在计算机上加载或执行所述计算机指令或计算机程序时,全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以为通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集合的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质(例如,软盘、硬盘、磁带)、光介质(例如,dvd)、或者半导体介质。半导体介质可以是固态硬盘。[0305]应理解,本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,a和/或b,可以表示:单独存在a,同时存在a和b,单独存在b这三种情况,其中a,b可以是单数或者复数。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系,但也可能表示的是一种“和/或”的关系,具体可参考前后文进行理解。[0306]本申请中,“至少一个”是指一个或者多个,“多个”是指两个或两个以上。“以下至少一项(个)”或其类似表达,是指的这些项中的任意组合,包括单项(个)或复数项(个)的任意组合。例如,a,b,或c中的至少一项(个),可以表示:a,b,c,a-b,a-c,b-c,或a-b-c,其中a,b,c可以是单个,也可以是多个。[0307]应理解,在本申请的各种实施例中,上述各过程的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请实施例的实施过程构成任何限定。[0308]本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。[0309]所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。[0310]在本申请所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。[0311]所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。[0312]另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。[0313]所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:u盘、移动硬盘、只读存储器(read-onlymemory,rom)、随机存取存储器(randomaccessmemory,ram)、磁碟或者光盘等各种可以存储程序代码的介质。[0314]以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本
技术领域
:的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以所述权利要求的保护范围为准。当前第1页1 2 3 当前第1页1 2 3 
当前第1页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1