基于近景遥感的去运动模糊方法与流程

文档序号:12826162阅读:661来源:国知局

本发明属于遥感、图像处理技术领域,特别涉及一种基于近景遥感的去运动模糊方法。



背景技术:

近年来基于移动平台的摄影测量或虚拟现实系统方兴未艾,李德仁等率先提出并实现了车载道路量测系统(李德仁2008),腾讯、百度等公司的车载街景采集系统(宁永强2016)也逐渐成熟并取得了大规模商业化应用,这些基于移动平台的量测或虚拟现实系统有赖于清晰的图像。但在光线不佳、速度过快的情况下,移动平台影像可能会出现运动模糊,去除运动模糊成为扩展移动平台遥感应用适用条件的重要需求。

随着传感器技术的高速发展,使信息化测绘踏入新的时代,迅速、便捷地获取近景遥感视频,街景应用工作中具有十分重要的意义,然而在图像采集的过程中易受空气气流的影响、摄影平台的机械震动以及摄影平台与参测物之间的相对运动造成了图像的运动模糊,严重影响了在各种场景的应用。部分学者通过使用稀疏的模糊核复原图像的方法(caietal提出的多重图像去模糊算法)、采用新型能量公式优化光流的方法(kimandlee提出的动态视频去模糊算法)、采用多图像在傅立叶域变换累积的方法(delbracioandsapiro提出傅立叶频域累积算法)以及通过使用清晰的图像还原模糊图像的方法(choetal提出使用幸运像素点的方法)。上述方法都具有一定的去运动模糊能量,但是存在很大的不确定性,干扰因素较多,结果不够准确。



技术实现要素:

本发明的目的在于提供一种基于近景遥感的去运动模糊方法,该方法通过将模糊街景视频,按帧提取为序列模糊图像,同时将模糊图像数字化,并通过空域光流预处理,得到初步的模糊街景去模糊效果,再通过数字图像匹配配准处理,获得具有空间相关性的序列,而后对具有空间相关性的图像序列进行图像金字塔分层处理,再由进过图像金字塔处理后的数据进行傅立叶累积,在此处理后,可以获得去模糊的街景图像。

为解决上述技术问题,本发明公开的一种基于近景遥感的去运动模糊方法,其特征在于,它包括如下步骤:

步骤1:获取选定区域的街景视频,然后通过分帧提取,获得所述街景视频的序列模糊图像,再将序列模糊图像数字化处理,得到数字序列模糊图像;

步骤2:得到上述数字序列模糊图像的rgb(红、绿、蓝三色)三维数据矩阵,然后根据前向光流与后向光流的双向对称性特点,以数字序列模糊图像亮度变化为基础,利用双向光流估计法进行数据正则化估算处理,进而得到估算的数字序列模糊图像光流;

步骤3:对估算的数字序列模糊图像光流利用光流复原方法得到初步复原图像,并对初步复原图像进行图像分割处理,将初步复原图像等分成若干图像块,然后对图像块进行配准处理,并对配准后的图像进行金字塔分层处理,然后对图像金字塔分层进行傅立叶累积得到最终的复原图像,该复原的图像相对于上述数字序列模糊图像提升了图像整体清晰度,去除图像中物体的边缘模糊。

本发明通过对街景图像处理,利用光流算法、金字塔分层算法以及傅立叶累积算法对街景中的模糊域进行复原,使其能够达到街景应用的水准,此方法计算复原结果更为准确,可以适应于更多的街景场合,有较好的适用性。

具体实施方式

以下结合具体实施例对本发明作进一步的详细说明:

本发明的基于近景遥感的去运动模糊方法,它包括如下步骤:

步骤1:获取选定区域的街景视频,然后通过分帧提取,获得所述街景视频的序列模糊图像,再由matlab软件将序列模糊图像数字化处理,得到数字序列模糊图像;

步骤2:matlab软件得到上述数字序列模糊图像的rgb三维数据矩阵,然后根据前向光流与后向光流的双向对称性特点,以数字序列模糊图像亮度变化为基础,利用双向光流估计法进行数据正则化估算处理,进而得到估算的数字序列模糊图像光流,通过此方法初步提升图像整体清晰度以及去除图像中物体的边缘模糊;

步骤3:对估算的数字序列模糊图像光流利用光流复原方法得到初步复原图像,并对初步复原图像进行图像分割处理,将初步复原图像等分成若干图像块,然后对图像块进行配准处理,并对配准后的图像进行金字塔分层处理,然后对图像金字塔分层进行傅立叶累积得到最终的复原图像,该复原的图像相对于上述数字序列模糊图像提升了图像整体清晰度,去除图像中物体的边缘模糊。

上述技术方案的步骤2中以数字序列模糊图像亮度变化为基础,利用双向光流估计法进行数据正则化估算处理,以及步骤3中对估算的数字序列模糊图像光流利用光流复原方法得到初步复原图像的具体计算方式为:

e=edata+etemporal+espatial(1)

其中,e为能量公式,edata为数字序列模糊图像本身的能量,etemporal为两幅相邻数字序列模糊图像变换的能量,espatial为一副数字序列模糊图像前后运动趋势的能量;bi代表模糊的街景图像,τi代表模糊的街景图像曝光时间除以采集时间的数值,一般为1,li代表复原的图像,ui→i+1及ui→i-1为双向的光流,h(li,t·ui→i+1)为正向的复原图像li进过变形矩阵h的处理后得到li+1图像,h(li,t·ui→i-1)为反向的复原图像li进过变形矩阵h的处理后得到li-1图像,t为模糊图像变化趋势时间参数;公式7是使其这个公式的值最小,公式中有变量,这个相当于一个约束条件;

edata为一个数据矩阵,λ为复原图像的权重分布值,l,u,b分别代表复原图像、光流和模糊图像,代表托普利茨矩阵对应的线性算子,ki为模糊核;

etemporal为一个时间数据,n为序列图像张数,n为图像序列,μn为一个定常参数表示模糊图像中不同物景占的权重,li(x)为表示各个像素点的复原图像,li+n(x+ui→i+n)为复原图像各个像素点加上光流偏移量的变化趋势;

espatial为一个空间数据,公式中为空间正则化项,使用了tv(totalvariation)方法进行优化,为对光流的空间平滑项,采用的是耦合tv方法进行优化,表示对复原图像做正则化处理,gi(x)表示模糊图像边缘,表示采用了耦合tv方法处理的光流。

ν代表复原图像边缘平衡,参数σi代表模糊图像边缘权重,为关于复原图像的初次迭代,exp为指数函数;

通过公式7的迭代优化,获得的初步复原图像提升了整体清晰度以及去除图像中物体的边缘模糊。

所述步骤3中对初步复原图像进行如下处理得到最终复原图的方法为:

此后,模糊图像通过光流处理达到去模糊效果一般性,为了提高运行效率以及满足频域累积的需求,对初步复原图像进行图像分割处理,将初步复原图像等分成若干图像块;

对图像块的图像序进行匹配,通过设置图像块的中间帧为基准帧,随之与图像块其它帧图匹配,获得基于基准帧的特征点,利用如下的仿射变换的方法实现图像块其它帧图与基准帧的配准;

g=lreference⊙lregistration(8)

l'reference(x,y)=g(lreference(x,y))(9)

lregistration为每个图像块的中间帧,lreference为每个图像块的参考帧,参考帧为中间帧以外的其它帧,g为参考帧的仿射变换矩阵,⊙符号指的对二者进行空间位置分析,获得g仿射变换,令(x,y)分别代表每个图像块中的横纵坐标,l'reference为经过仿射变换配准的参考帧,通过配准后的图像序列,具有了较强的空间相关性。

所述步骤3中,为了适应更多的场景,根据如下公式10对配准后的图像进行金字塔分层处理,即插值变换;

为了获得i+1层的配准后图像,首先对配准后图像i层进行高斯内核卷积,然后将所有偶数行和列去除,就可以获得i+1层的配准后图像,结果图为原图的四分之一;

公式10中,w(m,n)为长度5的高斯卷积核,gi(2i-m,2j-n)为去掉偶数行和列的配准后图像,gi+1(i,j)为经过缩小的配准后图像。

所述步骤3中,利用以下方式对经过插值变换的图像做去模糊处理,首先,通过对经过金字塔分层算法后的图像序列做傅立叶变换,设经过金字塔分层算法后的图像序列为{pi},(i=1,...,2m),m为指图像序列中的张数,配准后的图像块为{pi,k},k=1,...,n,n为图像分块处理后的块数,序列图像金字塔层为{pi,k,l},(l=1,...,m),m表示金字塔分层处理后的层数,为达到去模糊效果,通过对序列图像金字塔层做傅立叶变换得到并为稳定傅立叶权重,于是对平滑处理,获得表示经过傅立叶变换后的数据,gσ为设置标准偏差的高斯滤波器,表示对平滑处理后的数据;

f-1表示傅立叶反变换,m指的图像序列的张数,p指的范数参数,ωi,k,l代表着权重分布值,通过对p值的数值变换,ωi,k,l权重分布发生改变,当p值增加,导致在不同图块上的权重值发生变化,当p值为0,即为加权平均,为了获得更好的效果,进过大量实验证明选用p=11,效果不错,之后,通过对平滑处理后的数据按照权重分布比进行累积(傅立叶累积),得到最终的复原图像,达到去模糊效果。最后获得的复原图像可以达到减缓边界的振铃效应,并且获得强且光顺的边缘,弥补了光流法由于光线变换造成误差的缺陷,从而提升了频域累积法整体的清晰度。

对比与其他几类方法,本方法有着更好的效果,其对应的数值参考为表1:

tab.1comparethegmg/smd/evavaluesforthedifferentmethods

实验采用图像细节数据对比,通过不同方法处理,获得不同效果的去模糊图像。由于kimandlee的方法对光线变化过于敏感,导致复原图像招牌边缘出现不平滑效果,而fba方法纵然得到不错的物体边缘效果,但图像整体噪声偏重,导致图像整体不清晰,然而本文方法,通过结合二者的特点,首先减弱图像整体的噪声以及初步平滑物体边缘,其次利用傅立叶频域的优势,进而平滑物体的边缘,并且也控制了图像整体噪声,达到较为不错的图像去模糊效果。

本说明书未作详细描述的内容属于本领域专业技术人员公知的现有技术。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1