图像融合方法及装置与流程

文档序号:13709408阅读:181来源:国知局
技术领域本发明涉及图像处理技术领域,尤其涉及一种图像融合方法及图像融合装置。

背景技术:
图像融合是一种信息综合处理技术,其主要目的是通过对多幅图像间冗余数据的处理提高图像的可靠性,通过对多幅图像间互补信息的处理提高图像的清晰度。近年来,图像融合已成为图像处理领域中一项重要而有用的新技术。图像的融合处理被广泛应用于各个领域,通过图像的融合处理可以有效改善图像质量。在成像设备获取图像的过程中,由于镜头的成像能力的限制,可能存在单帧图像在成像条件不理想时难以得到理想的成像效果。所以,在现有技术中,可以通过多帧图像的融合算法将多帧图像进行融合处理,以获取较好的成像效果。现有技术中,在对多帧图像进行融合处理时,可以基于图像的平移的移动向量特征,对图像进行融合处理,但在通过移动终端进行拍摄时,移动终端所拍摄的相邻帧之间的差异通常是不容易直接使用平移进行补偿融合的;也可以根据图像的特征匹配方式对图像进行融合处理,但在图像缺乏典型匹配特征点时将难以得到准确的图像融合处理结果。其它一些基于超分辨率的重建方法具有非常高的复杂度,并不适用于在移动终端进行处理。现有技术,在对移动终端所获取的图像进行融合处理的过程中,存在难以简单、有效对图像进行准确融合的问题。

技术实现要素:
本发明解决的难以简单、有效对图像进行准确融合的问题。为解决上述问题,本发明技术方案提供一种图像融合方法,用于对移动终端获取的图像进行融合处理;所述方法包括:获取第一图像,所述第一图像为多阶金字塔图像中的每一阶待融合的图像,所述多阶金字塔图像为对移动终端所获取的图像进行金字塔分解所得到的多阶图像;根据图像对齐算法获取对应所述第一图像的变形参数;根据所述变形参数对第一图像进行变形操作,以获取对应所述第一图像的第二图像;对所述第二图像进行加权融合处理。可选的,所述图像对齐算法为LucasKanede反向合成图像对齐算法。可选的,所述获取对应所述第一图像的变形参数的过程包括:对所述第一图像进行扭曲变化,使得∑x[I(W(x;p))-T(W(x;Δp))]2最小化,其中,x表示第一图像中的像素,I(W(x;p))表示将待融合的第一图像通过W(x;p)扭曲后的图像,W(x;p)是关于p的线性参数,p是对应所述第一图像的变形参数,Δp为p的增量值,T(W(x;Δp))表示将参考图像通过W(x;Δp)扭曲后的图像;根据扭曲变化的结果获取变形参数。可选的,所述第一图像进行扭曲变化的过程中采用第一图像和参考图像的Y通道值。可选的,所述扭曲变化包括第一变换和仿射变换中的任意一种,所述第一变换包括平移、缩放和旋转变换中的至少一种变换。可选的,所述方法还包括:在对所述第一图像进行扭曲变化前,对所述第一图像中的像素进行加权处理。可选的,所述对所述第一图像中的像素进行加权处理的过程包括:通过公式进行加权,其中,z表示第一图像中的像素位置处的像素值和参考图像中对应所述像素位置的像素值的差值,ρ(z)表示所述像素位置处的像素的权重,所述像素位置横向坐标的取值范围为所述像素位置纵向坐标的取值范围为其中,w为所述第一图像的宽度,h为所述第一图像的高度。可选的,所述方法还包括:所述多阶金字塔图像中的当前阶所对应的第一图像的变形参数用于确定所述多阶金字塔图像中的下一阶所对应的第一图像的变形参数。可选的,所述方法还包括:所述多阶金字塔图像中的当前阶所对应的第一图像的变形参数为p1至p6,通过公式p3new=2p3,p6new=2p6获取p3new和p6new,将p1、p2、p3new、p4、p5和p6new确定为所述多阶金字塔图像中的下一阶所对应的第一图像的变形参数。可选的,所述对第二图像进行加权融合处理的过程包括:通过公式:R(x)=WH,d(x)<v1WL,d(x)>v2v2-d(x)v2-v1(WH-WL)+WL,v1≤d(x)≤v2]]>确定第二图像的像素的融合权重,其中R(x)表示第二图像中的像素x的权重值,I(W(x;p))表示第二图像中的像素的值,T(x)为参考图像中对应位置的像素的值,|I(W(x;p))-T(x)|表示对I(W(x;p))和T(x),表示卷积运算,K为卷积核,v1和v2为常数,WH和WL为常数;将各第二图像中像素位置的灰度值和所述像素位置的像素的权重值的乘积进行求和平均,将所得到的平均值确定为融合图像中所述像素位置的灰度值。可选的,所述d(x)的计算过程中采用第二图像中的像素的值和参考图像中对应位置的像素的值为YUV值。可选的,所述方法还包括:在获取第一图像之前,去除待融合图像中的模糊图像。可选的,所述去除待融合图像中的模糊图像的过程包括:获取各待融合图像的Y通道梯度值;在检测的待融合图像的梯度值满足:G<k×Gmax时,确定所述检测的待融合图像为模糊图像,其中,G为所述检测的待融合图像的梯度值,k为比例系数,Gmax为所述各待融合图像的Y通道梯度值中的最大梯度值;将所述模糊图像从待融合图像中去除。可选的,所述方法还包括:在对所述第二图像进行加权融合处理后,对融合后的图像进行锐化处理。为解决上述技术问题,本发明技术方案还提供一种图像融合装置,用于对移动终端获取的图像进行融合处理;所述装置包括:获取单元,用于获取第一图像,所述第一图像为多阶金字塔图像中的每一阶待融合的图像,所述多阶金字塔图像为对移动终端所获取的图像进行金字塔分解所得到的多阶图像;参数确定单元,用于根据图像对齐算法获取对应所述第一图像的变形参数;变形单元,用于根据所述变形参数对第一图像进行变形操作,以获取对应所述第一图像的第二图像;融合单元,用于对所述第二图像进行加权融合处理。与现有技术相比,本发明的技术方案具有以下优点:在移动终端获取到图像后,对所获取的图像进行金字塔分解得到多阶金字塔图像,进而将每一阶图像作为待融合的第一图像,根据图像对齐算法获取对应所述第一图像的变形参数,进而根据所述变形参数对第一图像进行变形操作,获取变形后的第二图像,最后将所述第二图像进行加权融合处理。对于对应每一阶金字塔图像的第一图像,都可以得到一个相应的第二图像,对每一个第二图像进行加权融合后,得到最终融合图像。该方法可以简单、快速的获取到多阶图像的融合图像,且可以取得准确、有效的图像融合质量,取得较好的融合效果。附图说明图1是本发明技术方案提供的图像融合方法的流程示意图;图2是本发明实施例提供的图像融合方法的流程示意图;图3是本发明实施例提供的图像融合装置的结构示意图。具体实施方式现有技术,在对移动终端所获取的图像进行融合处理的过程中,存在难以简单、有效对图像进行准确融合的问题。为解决上述问题,本发明技术方案提供一种图像融合方法。图1是本发明技术方案提供的图像融合方法的流程示意图,如图1所示,首先执行步骤S1,获取第一图像,所述第一图像为多阶金字塔图像中的每一阶待融合的图像。对于移动终端所获取的图像,首先可以进行金字塔分解以得到用于融合的多阶金字塔图像,在本申请文件中,将每一阶金字塔图像均称为一个对应该阶金字塔图像的第一图像。执行步骤S2,根据图像对齐算法获取对应所述第一图像的变形参数。根据图像对齐算法获取对应每一个第一图像的变形参数,所述图像对齐算法可以为LucasKanede反向合成图像对齐算法。执行步骤S3,根据所述变形参数对第一图像进行变形操作,以获取对应所述第一图像的第二图像。根据对应第一图像的变形参数,对所述第一图像进行变形操作,将变形后图像称为对应该第一图像的第二图像,对于每一个第一图像均可以得到一个与之对应的第二图像。执行步骤S4,对所述第二图像进行加权融合处理。在获取到所有第二图像后,对每个第二图像进行加权处理,进而根据所有图像的加权结果进行加权融合处理,以得到最后的融合处理结果。该方法可以简单、快速的获取到多阶图像的融合图像,且可以取得准确、有效的图像融合质量,取得较好的融合效果。为使本发明的上述目的、特征和优点能够更为明显易懂,下面结合附图对本发明的具体实施例做详细的说明。在本实施例中,以需要进行融合处理的图像为YUV格式的图像为例进行说明。在本实施例中,在得到多阶待融合的图像后,首先去除待融合图像中的模糊图像;然后基于LucasKanede反向合成图像对齐算法实现对图像的变形操作;进而对变形处理后的图像采用加权融合处理,实现对图像的融合处理;在得到融合图像后可以进一步进行锐化处理等后续操作,以提高图像的融合处理质量。图2是本发明实施例提供的图像融合方法的流程示意图。如图2所示,首先执行步骤S201,对移动终端所获取的图像进行金字塔分解,获取多阶金字塔图像。在对图像进行图像融合算法前,先对图像进行金字塔分解,现有技术中有高斯金字塔分解、拉普拉斯金字塔分解等方法可以实现对图像的金字塔分解。在对图像进行金字塔分解的过程中,可以以需要分解的图像作为金字塔的底层(0层)图像,然后对底层图像进行滤波、下采样等操作,得到第二层图像,依次类推,实现多阶金字塔图像的构建。金字塔分解方法为本领域技术人员所熟知,在此不再赘述。基于金字塔分解的图像融合算法的融合过程是在不同尺度、不同空间分辨率和不同分解层上分别进行的,与简单图像融合算法相比能够获得更好的融合效果。执行步骤S202,对待融合图像中的模糊图像进行滤除。在得到多阶金字塔图像后,将所述多阶金字塔图像作为待融合的图像,对所述待融合的图像中的模糊图像进行滤除。具体地,以输入的图像为YUV图像为例,通过公式(1)计算获取每一幅图像中的Y通道的梯度值。G=Σ((∂IY∂x)2+(∂IY∂y)2)---(1)]]>其中,G为所述检测的待融合图像的梯度值,IY为所检测的待融合图像中的像素点的Y通道值。对每一个待融合的图像均通过公式(1)获取Y通道梯度值,在此可以将所有的待检测的图像梯度值记为G1,G2,….Gn,其中,n为检测图像的个数。根据公式(2)获取最大梯度值。Gmax=max(G1,G2…Gn)(2)在检测的待融合图像的梯度值满足G<k×Gmax时,确定所述检测的待融合图像为模糊图像,其中,为比例系数,Gmax为所述各待融合图像的Y通道梯度值中的最大梯度值。k的取值范围可以根据实验数据等进行相应的确定,在本实施例中,所述k的取值范围可以介于0.8~0.9之间。在检测到模糊图像后,将该模糊图像从待融合的图像中去除。将滤除模糊图像后所剩余的多阶图像作为待融合的图像,在本实施例中,将滤除模糊图像后所剩余的待融合的图像称为第一图像。执行步骤S203,基于LucasKanede反向合成图像对齐算法获取对应第一图像的变形参数。对于每一个尺度的第一图像进行扭曲变化。在扭曲变化过程中,先给定锐化效果较好的图像的Y通道图像作为参考图像T(x),对每一个第一图像I1,I2…Im进行最小化对齐误差(m为待融合图像的个数),即使得∑x[I(W(x;p))-T(W(x;Δp))]2最小化,其中,x表示第一图像中的像素,I(W(x;p))表示将待融合的第一图像通过W(x;p)扭曲后的图像,W(x;p)是关于p的线性参数,p是对应所述第一图像的变形参数,Δp为p的增量值,T(W(x;Δp))表示将参考图像通过W(x;Δp)扭曲后的图像。在上述对所述第一图像进行扭曲变化的过程中采用第一图像和参考图像的Y通道值。在通过W(x;p)扭曲的过程中可以采用平移旋转缩放变换和仿射变换实现扭曲变化,所述W(x;p)可以称为变形函数。若W(x;p)使用仿射变换时,可以采用公式(3)进行表示。W(x;p)=p1p2p3p4p5p6xy1---(3)]]>对应仿射变换,通过公式(4)求取∂W∂p=x0y0100x0y01---(4)]]>若W(x;p)使用平移旋转缩放变换时,可以采用公式(5)进行表示。W(x;p)=p1p2p3-p2p1p6xy1---(5)]]>对应仿射变换,通过公式(6)求取∂W∂p=xy10y-x01---(6)]]>其中,W(x;p)中的p对应的扭曲参数,具体地,对应的扭曲参数为p1至p6。通过如下所示出的公式(7)求取Hessian矩阵。H=Σ[▿T∂W∂p]T[▿T∂W∂p]---(7)]]>然后根据初始化变形参数p,使用梯度下降法估计Δp,具体地,通过公式(8)求取Δp。Δp=Σx[▿T∂W∂p]T[T(x)-I(W(x;p))](H)-1---(8)]]>在得到p的增量值Δp后,即可以通过公式(9)对更新变形参数p。通过公式(3)至公式(9)即可以获取到对应第一图像的变形参数。需要说明的是,在上述通过公式(8)估计Δp时,可以先对第一图像进行加权处理。例如,可以使用M-estimator使得不同像素具有不同的权重,M-estimators是一类广泛估计函数。具体地,可以通过公式进行加权,其中,z表示第一图像中的像素位置处的像素值和参考图像中对应所述像素位置的像素值的差值,ρ(z)表示所述像素位置处的像素的权重。为了有效降低计算位宽,同时简化多尺度之间变形参数的更新,对于宽度为w,高度为h的第一图像,所述第一图像中的像素位置横向坐标的取值范围可以定义为所述像素位置纵向坐标的取值范围可以为其中,w为所述第一图像的宽度,h为所述第一图像的高度。这里还需要说明的是,对于多阶金字塔图像中的当前阶所对应的第一图像的变形参数用于确定所述多阶金字塔图像中的下一阶所对应的第一图像的变形参数。例如,对于当前阶所对应的第一图像的变形参数为p1至p6,可以对第一图像的变形参数更新后用作下一阶所对应的第一图像的初始参数。具体地,可以通过公式p3new=2p3,p6new=2p6获取参数p3更新后的参数p3new和参数p6更新后的参数p6new,进而可以将p1、p2、p3new、p4、p5和p6new作为下一阶所对应的第一图像的初始变形参数,进而通过上述公式(3)至公式(9)得到对应下一阶所对应的第一图像的变形参数。在本实施例中,使用多尺度的金字塔图像的处理方式,可以有效节省计算参数过程中的计算消耗,当尺度k的变形参数估计完成后,对参数进行更新后可以用作下一阶图像的初始估计值。执行步骤S204,根据对应第一图像的变形参数,对所述第一图像进行变形操作,生成第二图像。对于每一个第一图像,都可以得到与第一图像相对应的变形参数,进而根据通过对应于第一图像的变形参数,结合相应的仿射变换的变形函数或者平移旋转缩放变换的变形函数实现对该第一图像的变形操作,对应每一个第一图像,均可以得到一个对应的变形后的图像,在此将第一图像变形后的图像称为对应该第一图像的第二图像。执行步骤S205,对各第二图像进行加权处理。考虑到移动终端计算处理能力的限制,在本实施例中对变换后的待融合的第二图像使用基于空间域的直接加权融合方式。为了抑制物体移动时直接融合可能产生的伪影效果,通过如下公式(10)对第二图像中的每一个像素计算融合权重。R(x)=WH,d(x)<v1WL,d(x)>v2v2-d(x)v2-v1(WH-WL)+WL,v1≤d(x)≤v2---(10)]]>其中R(x)表示第二图像中的像素x的权重值,I(W(x;p))表示第二图像中的像素的值,T(x)为参考图像中对应位置的像素的值,|I(W(x;p))-T(x)|表示对I(W(x;p))和T(x)的差值取绝对值,表示卷积运算,K为卷积核,v1和v2为常数,WH和WL为常数。WH为最高的权重阈值,L为最低的权重阈值,例如,所述WH可以设置为1,所述WL可以设置为0。d(x)表示第二图像中像素位置处的像素值和参考图像中对应的像素位置的像素值的差值的绝对值与平滑核的卷积结果,所述平滑核的大小可以根据移动终端处理能力以及具体情况等进行相应的设定,在本实施例中,所述平滑核的大小可以为11×11,通过卷积运算可以有效提高图像融合过程中对图像噪声的鲁棒性。所述d(x)的计算过程中采用第二图像中的像素的值和参考图像中对应位置的像素的值为YUV值。所述v1和v2以及WH和WL的常数可以结合移动终端的处理能力以及实验数据等进行相应的设定。通过公式(10)可以得到每一个第二图像中的各像素的所对应的融合权重值。执行步骤S206,根据各第二图像中的像素的权重值获取最终的融合图像的像素值。可以将各第二图像中像素位置的灰度值和所述像素位置的像素的权重值的乘积进行求和平均,将所得到的平均值确定为融合图像中所述像素位置的灰度值。由此可以得到最终的融合图像中的各像素的像素值,即最终的融合图像的各像素的灰度值。执行步骤S207,对融合图像进行锐化处理。为了图像质量,在得到融合图像后,可以进一步对融合后的图像进行锐化、去模糊等相关操作,以实现对融合图像的进一步锐化处理,有效提高图像质量。本实施例提供的图像融合方法,可以简单、快速的获取到多阶图像的融合图像,且可以取得准确、有效的图像融合质量,取得较好的融合效果。对应上述融合图像方法,本发明实施例还提供一种图像融合装置。图3是本实施例提供的图像融合装置的结构示意图。如图3所示,所述装置包括:获取单元U11、参数确定单元U12、变形单元U13和融合单元U14。所述获取单元U11,用于获取第一图像,所述第一图像为多阶金字塔图像中的每一阶待融合的图像,所述多阶金字塔图像为对移动终端所获取的图像进行金字塔分解所得到的多阶图像.所述参数确定单元U12,用于根据图像对齐算法获取对应所述第一图像的变形参数.所述变形单元U13,用于根据所述变形参数对第一图像进行变形操作,以获取对应所述第一图像的第二图像.所述融合单元U14,用于对所述第二图像进行加权融合处理。所述参数确定单元U12包括:变化单元U121和参数获取单元U122。所述变化单元U121,用于对所述第一图像进行扭曲变化,使得∑x[I(W(x;p))-T(W(x;Δp))]2最小化,其中,x表示第一图像中的像素,I(W(x;p))表示将待融合的第一图像通过W(x;p)扭曲后的图像,W(x;p)是关于p的线性参数,p是对应所述第一图像的变形参数,Δp为p的增量值,T(W(x;Δp))表示将参考图像通过W(x;Δp)扭曲后的图像。所述参数获取单元U122,用于根据扭曲变化的结果获取变形参数。所述参数确定单元U12还包括:更新单元U123,用于根据所述多阶金字塔图像中的当前阶所对应的第一图像的变形参数确定所述多阶金字塔图像中的下一阶所对应的第一图像的变形参数。所述变形单元U13还包括:加权单元U131,用于在对所述第一图像进行扭曲变化前,对所述第一图像中的像素进行加权处理。所述融合单元U14包括:权重确定单元U141和求和平均单元U142。所述权重确定单元U141,用于通过公式:R(x)=WH,d(x)<v1WL,d(x)>v2v2-d(x)v2-v1(WH-WL)+WL,v1≤d(x)≤v2]]>确定第二图像的像素的融合权重,其中R(x)表示第二图像中的像素x的权重值,I(W(x;p))表示第二图像中的像素的值,T(x)为参考图像中对应位置的像素的值,表示卷积运算,K为卷积核,v1和v2为常数,WH和WL为常数。所述求和平均单元U142,用于将各第二图像中像素位置的灰度值和所述像素位置的像素的权重值的乘积进行求和平均,将所得到的平均值确定为融合图像中所述像素位置的灰度值。所述装置还包括:去除单元U15,用于在获取第一图像之前,去除待融合图像中的模糊图像。所述去除单元U15包括:梯度获取单元U151、判断单元U152和滤除单元U153。所述梯度获取单元U151,用于获取各待融合图像的Y通道梯度值。所述判断单元U152,用于在检测的待融合图像的梯度值满足:G<k×Gmax时,确定所述检测的待融合图像为模糊图像,其中,G为所述检测的待融合图像的梯度值,k为比例系数,Gmax为所述各待融合图像的Y通道梯度值中的最大梯度值。所述滤除单元U153,用于将所述模糊图像从待融合图像中去除。所述装置还包括:锐化单元U16,用于在对所述第二图像进行加权融合处理后,对融合后的图像进行锐化处理。虽然本发明披露如上,但本发明并非限定于此。任何本领域技术人员,在不脱离本发明的精神和范围内,均可作各种更动与修改,因此本发明的保护范围应当以权利要求所限定的范围为准。
当前第1页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1