图像补偿方法和装置、计算机可读存储介质和电子设备与流程

文档序号:16589750发布日期:2019-01-14 19:00阅读:139来源:国知局
图像补偿方法和装置、计算机可读存储介质和电子设备与流程

本申请涉及计算机技术领域,特别是涉及图像补偿方法和装置、计算机可读存储介质和电子设备。



背景技术:

光学防抖(opticalimagestabilization,光学图像稳定)作为目前被公众认可的一种防抖技术,主要是通过镜头的浮动透镜来纠正“光轴偏移”,其原理是通过镜头内的陀螺仪侦测到微小的移动,然后将信号传至微处理器,处理器立即计算需要补偿的位移量,然后通过补偿镜片组,根据镜头的抖动方向及位移量加以补偿;从而有效的克服因摄像头的振动产生的影像模糊。

但是,在抖动的过程中会产生图像的偏移,镜头的移动会对图像带来实际的影响,一般的光学防抖技术无法解决图像偏移的问题。



技术实现要素:

本申请实施例提供一种图像补偿方法和装置、计算机可读存储介质和电子设备,可以对抖动产生的图像偏移进行补偿,提高图像的清晰度。

一种图像补偿方法,所述方法包括:

控制摄像头采集图像,并获取采集所述图像的曝光信息;所述摄像头包括光学图像稳定系统;

当检测到摄像头发生抖动时,获取采集所述图像时所述摄像头的镜头偏移;

根据所述曝光信息确定目标标定函数,并获取与所述镜头偏移量相对应的图像偏移量;

根据所述曝光信息和所述图像偏移量对所述图像进行补偿。

一种图像补偿装置,所述装置,包括:

曝光信息获取模块,用于控制摄像头采集图像,并获取采集所述图像的曝光信息;所述摄像头包括光学图像稳定系统;

镜头偏移获取模块,用于当检测到摄像头发生抖动时,获取采集所述图像时所述摄像头的镜头偏移;

图像偏移获取模块,用于根据所述曝光信息确定目标标定函数,并获取与所述镜头偏移量相对应的图像偏移量;

图像补偿模块,用于根据所述曝光信息和所述图像偏移量对所述图像进行补偿。

一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现图像补偿方法的步骤。

一种电子设备,包括存储器及处理器,所述存储器中储存有计算机可读指令,所述指令被所述处理器执行时,使得所述处理器执行图像补偿方法的步骤。

上述图像补偿方法和装置、计算机可读存储介质和电子设备,可以控制摄像头采集图像,并获取采集所述图像的曝光信息;当检测到摄像头发生抖动时,获取采集所述图像时所述摄像头的镜头偏移;根据所述曝光信息确定目标标定函数,并获取与所述镜头偏移量相对应的图像偏移量;根据所述曝光信息和所述图像偏移量对所述图像进行补偿,可以根据曝光信息更为精准的获取图像偏移,进而在对图像进行补偿,可以提高图像的清晰度。

附图说明

为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。

图1为一个实施例中电子设备的框图;

图2为一个实施例中图像补偿方法的流程图;

图3为一个实施例中根据曝光信息确定目标标定函数,并获取与镜头偏移量相对应的图像偏移量的流程图;

图4为一个实施例中针对每档标准曝光信息,确定与标准曝光信息相匹配的预设标定函数的流程图;

图5为一个实施例中根据曝光信息和图像偏移量对图像进行补偿的流程图;

图6为另一个实施例中根据曝光信息和图像偏移量对图像进行补偿的流程图;

图7为一个实施例中当检测到摄像头发生抖动时,获取采集图像时摄像头的镜头偏移的流程图;

图8为一个实施例中图像补偿装置的结构图;

图9为一个实施例中图像处理电路的示意图。

具体实施方式

为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。

可以理解,本申请所使用的术语“第一”、“第二”等可在本文中用于描述各种元件,但这些元件不受这些术语限制。这些术语仅用于将第一个元件与另一个元件区分。举例来说,在不脱离本申请的范围的情况下,可以将第一图像称为第二图像,且类似地,可将第二图像称为第一图像。第一图像和第二图像两者都是图像,但其不是同一图像。

电子设备可通过成像设备对场景内的所有景物、人等进行拍摄。其中,成像设备包括ois(opticalimagestabilization,光学防抖)系统,也即,成像设备包括携带ois系统的摄像头。光学防抖是依靠特殊的镜头或者ccd感光元件的结构在最大程度的降低操作者在使用过程中由于抖动造成影像不稳定。具体地,当摄像头内的陀螺仪侦测到微小的移动时,会将信号传至微处理器立即计算需要补偿的位移量,然后通过补偿镜片组,根据镜头的抖动方向及位移量加以补偿,从而有效的克服因摄像头的抖动产生的影像模糊。

可选的,本方案还可以适用于包括两个或两个以上的摄像头的成像设备,其中,两个或两个以上的摄像头中至少包括一个具备ois功能的摄像头。

上述成像设备可以应用在电子设备中,电子设备可以为手机、平板电脑、pda(personaldigitalassistant,个人数字助理)、pos(pointofsales,销售终端)、车载电脑、穿戴式设备、数码相机等具备拍照、摄像功能的任意终端设备。需要说明的是,成像设备可设置在电子设备上,也可不设置在电子设备上但与电子设备连接,电子设备的屏幕上可展示成像设备采集的图像。

成像设备可以控制摄像头采集图像,并获取采集图像的曝光信息;摄像头包括光学图像稳定系统;当检测到摄像头发生抖动时,获取摄像头的镜头偏移;根据曝光信息确定目标标定函数,并获取与镜头偏移量相对应的图像偏移量;根据曝光信息和图像偏移量对发生抖动时摄像头采集的图像进行补偿。

图1为一个实施例中电子设备的框图。如图1所示,该电子设备包括通过系统总线连接的处理器、存储器、显示屏和输入装置。其中,存储器可包括非易失性存储介质及处理器。电子设备的非易失性存储介质存储有操作系统及计算机程序,该计算机程序被处理器执行时以实现本申请实施例中提供的一种图像补偿方法。该处理器用于提供计算和控制能力,支撑整个电子设备的运行。电子设备中的内存储器为非易失性存储介质中的计算机程序的运行提供环境。电子设备的显示屏可以是液晶显示屏或者电子墨水显示屏等,输入装置可以是显示屏上覆盖的触摸层,也可以是电子设备外壳上设置的按键、轨迹球或触控板,也可以是外接的键盘、触控板或鼠标等。该电子设备可以是手机、平板电脑、pda(personaldigitalassistant,个人数字助理)、pos(pointofsales,销售终端)、车载电脑、穿戴式设备、数码相机等具备拍照、摄像功能的任意终端设备。本领域技术人员可以理解,图1中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的电子设备的限定,具体的电子设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。

图2为一个实施例中图像补偿方法的流程图。。在一个实施例中图像补偿方法,包括步骤202-步骤208。其中,

步骤202,控制摄像头采集图像,并获取采集图像的曝光信息。

摄像头包括光学图像稳定系统(opticalimagestabilization,ois)。摄像头包括镜头、音圈马达、红外滤光片、图像传感器(sensoric)和数字信号处理(dsp)及pcb电路板。其中,镜头通常由多个镜片组成,其成像作用,若镜头具备ois功能时,在有抖动的情况下,控制镜头相对于图像传感器平移而将手抖造成的图像偏移抵消补偿掉。

当成像设备进入图像预览界面时,成像设备可以控制摄像头实时预览采集各个视角范围的图像,或者,当成像设备进入图像预览界面时,成像设备可以拍摄各个视角范围的图像。

成像设备在采集图像的过程中,也会采集该图像的曝光信息。其中,曝光可指成像设备的感光元件接收外界的光线,再形成图像的过程,该过程直接决定了画面的亮/暗。曝光三要素分别为光圈、快门、感光度(iso)。

曝光信息可理解为曝光三要素中的快门或感光度。其中,快门速度通常简称为快门,是指成像设备快门从开启到关闭的时间,通过快门来控制ccd的感光时间。快门速度通常用分数形式来表示,习惯上呈倍数关系,按1秒、1/2秒....1/1000秒的序列排列。比如1/100表示快门开启到关闭是0.01秒,1/10是0.1秒。感光度,又称为iso值,可指底片对于光的灵敏程度,在光圈和快门不变的情况下,感光度越高,成像设备的感光能力越强,拍出来的图像就会越亮;反之就会越暗。

步骤204,当检测到摄像头发生抖动时,获取摄像头的镜头偏移量。

成像设备中还包括用于检测摄像头是否发生抖动的陀螺仪传感器。当陀螺仪传感器采集的角速度信息发生变化时,则可认为该摄像头发生了抖动。当摄像头发生抖动时,可以获取该摄像头的镜头偏移。

可选的,基于成像设备中的陀螺仪传感器或基于电子设备原有中的陀螺仪传感器和/或加速度传感器可以检测摄像头是否发生抖动。

在一个实施例中,可以以摄像头的图像传感器所在平面为xy平面,建立二维坐标系,其二维坐标系的原点位置在本申请中不做进一步的限定。镜头偏移可以理解为镜头抖动后的当前位置与镜头抖动前的起始位置在二维坐标系中的矢量偏移,也即,镜头抖动后的当前位置相对于镜头抖动前的初始位置的矢量距离。其中,初始位置可以理解为镜头与图像传感器之间的距离为镜头的一倍焦距时的镜头位置。镜头偏移指的是镜头(凸透镜)移动前后,光心之间的矢量距离。

进一步的,可以基于摄像头中的霍尔传感器或激光技术来采集摄像头中镜头的移动量,也即,镜头偏移。其中,陀螺仪传感器采集的角速度信息与霍尔传感器采集的霍尔值在时序上对应。在本申请实施例中,已知霍尔传感器采集的霍尔值的大小,即可确定出当前时刻该镜头偏移量的大小。在ois系统中,该镜头偏移量数量级在微米级别。

需要说明的是,控制摄像头采集图像的同时,也会同步判断获取镜头偏移量,其霍尔传感器的采集频率高于获取摄像头采集图像的频率。也即,当摄像头采集一帧图像的同时,可以同步获取多个镜头偏移量。例如,摄像头以30hz进行图像采集,同一时刻霍尔传感器以200hz进行霍尔值的采集,则采集一帧图像的时间,在时序上将对应采集6-7个霍尔值,以及可以采集多个镜头偏移量。

步骤206,根据曝光信息确定目标标定函数,并获取与镜头偏移量相对应的图像偏移量。

目标标定函数可以理解为与当前曝光信息相匹配的标定函数,不同的曝光信息所对应的目标标定函数可能相同,也可能不相同。由于镜头偏移量的单位为code,图像偏移量的单位为像素(pixel),基于该目标标定函数将镜头偏移量转换为图像偏移量,可以将镜头偏移量转换为图像偏移量。

图像偏移量可以理解为一次采集图像的过程中,在同一视野范围内,同一特征点在镜头抖动前和抖动后的位移量。例如,成像设备在抖动前,即镜头在第一位置时采集第一图像并记录第一图像中各个像素点在xy平面的坐标位置。当成像设备发生抖动时,镜头会在xy平面发生移动,即镜头在第二位置(发生移动后的当前位置)时,采集第二图像并记录第二图像中各个像素点在xy平面的坐标位置,可将第二图像相对于第一图像的偏移称之为图像偏移量。

其中,目标标定函数可以根据特定的标定方式获取,目标标定函数可以为一元二次函数、二元二次函数或二元多次函数,其中,可以将镜头在xy平面沿x轴的偏移量与沿y轴的偏移量带入至目标标定函数中,通过计算,以获取对应的图像偏移量d1。采集一帧图像会对应多个镜头偏移量,则根据该目标标定函数,可以对应获取多个图像偏移量。

步骤208,根据曝光信息和图像偏移量对图像进行补偿。

根据获取的曝光信息和图像偏移量对图像进行补偿。不同的曝光信息其对应的补偿策略不同,例如,补偿策略可包括逐帧或隔帧补偿、分块补偿、逐行或隔行补偿等等。其中,逐帧或隔帧补偿可对不同帧图像的全部区域采用一个图像偏移量进行统一补偿;分块补偿、逐行或隔行补偿可针对同一帧图像的不同区域进行分区补偿,也即,可以对不同的区域采用不同的图像偏移量进行补偿。

上述图像补偿方法,可以控制摄像头采集图像,并获取采集所述图像的曝光信息;当检测到摄像头发生抖动时,获取采集所述图像时所述摄像头的镜头偏移;根据所述曝光信息确定目标标定函数,并获取与所述镜头偏移量相对应的图像偏移量;根据所述曝光信息和所述图像偏移量对所述图像进行补偿,可以根据曝光信息更为精准的获取图像偏移,进而在对图像进行补偿,可以提高图像的清晰度。

图3为一个实施例中根据曝光信息确定目标标定函数,并获取与镜头偏移量相对应的图像偏移量的流程图。在一个实施例中,根据曝光信息确定目标标定函数,并获取与镜头偏移量相对应的图像偏移量,包括:

步骤302,构建多个档位的标准曝光信息与多个预设标定函数的映射关系。

在一个实施例中,曝光信息为感光度,感光度是衡量底片对于光的灵敏程度,由敏感度测量学及测量数个数值来决定。其中,感光度包括iso100、iso200、iso400、iso800、iso1000、iso1600、iso3200、iso6400、iso12800多个档位等。在采集图像的过程中,可以直接获取当前采集图像的感光度,例如iso400。

电子设备可以预先存储多个档位的标准曝光信息,其中,可以将标准曝光信息的档位设置为五个档位,其分别iso100(一档)、iso500(二档)、iso1000(三档)、iso2000(四档)、iso4000(五档)。

可选的,也可以将标准曝光信息的档位设置为六个档位,其分别iso100(一档)、iso200(二档)、iso400(三档)、iso800(四档)、iso1000(五档)、iso1600(六档)。在本申请实施例中,可以根据实际需求来设定标准曝光信息的档位数量以及每个档位的具体数值,在此不做进一步的限定。

例如,当电子设备将标准曝光信息的档位设置为五个档位,其分别so100、iso500、iso1000、iso2000、iso4000时,电子设备可分别在iso100、iso500、iso1000、iso2000、iso4000的情况下,按照预设标定模型以确定具有标定系数的预设标定函数。其中,每个档位的标准曝光信息对应一个预设标定模型,根据该预设标定模块就可以确定唯一的预设标定函数。若包括五个档位的标准曝光信息则对应的,也可以确定五个相应的预设标定函数可分别记为f1(δx,δy)、f2(δx,δy)、f3(δx,δy)、(δx,δy)、f5(δx,δy)。

例如,映射关系可表示为iso100→f1(δx,δy)、iso500→f2(δx,δy)、iso1000→f3(δx,δy)、iso2000f4→(δx,δy)、iso4000→f5(δx,δy)。

具体地,预设标定函数可以为一元二次函数、二元二次函数、二元多次函数等等,其感光度的数值越低,其对应的预设标定函数的次元也就越复杂,其感光度的数值越高,其对应的预设标定函数的次元也就越简单。

在同一光圈的条件下,若需获取同一曝光值,其感光度与快门速度成反比,也即,感光度越高,其对应的开门速度也就也小,反之,若感光度越小,其对应的开门速度也就也大。

可选的,在一个实施例中,曝光信息还可以快门速度。快门速度代表着曝光时间的长短,通常在光线充足的条件下,所需要的曝光时间越短,光线不足的状况下,所需的曝光时间越长。快门速度通常用分数形式来表示,习惯上呈倍数关系,按1秒、1/2秒....1/1000秒的序列排列。电子设备可以预先存储多个档位的标准曝光信息,其中,可以将标准曝光信息的档位设置为五个档位,其分别1秒、1/2秒、1/4秒、1/8秒、1/16秒。电子设备可分别在1秒、1/2秒、1/4秒、1/8秒、1/16秒的情况下,按照预设标定模型以确定具有标定系数的预设标定函数。其中,每个档位的标准曝光信息对应一个预设标定模型,根据该预设标定模块就可以确定唯一的预设标定函数。若包括五个档位的标准曝光信息,则对应的,也可以确定五个相应的预设标定函数。其快门速度越快,其对应的预设标定函数的次元也就越简单,其快门速度越慢,其对应的预设标定函数的次元也就越复杂。

步骤304,根据多个档位的标准曝光信息确定曝光信息的档位。

电子设备可以获取采集图像时的曝光信息,将曝光信息与多个档位的标准曝光信息进行对比,以确定与该曝光信息最接近的标准曝光信息。例如,采集图像时的曝光信息为iso400,其标准曝光信息的档位设置为五个档位,其分别iso100、iso500、iso1000、iso2000、iso4000,则可以确定,与该与该曝光信息最接近的标准曝光信息为iso500,其对应的档位为二档,也即,当前曝光信息的档位也为二挡。相应的,若曝光信息为快门速度,也可以确定与该快门速度最接近的标准曝光信息,进而确定该快门速度的档位。

步骤306,根据映射关系,在多个预设标定函数中确定与曝光信息的档位相匹配的目标标定函数。

若电子设备中的映射关系为iso100→f1(δx,δy)、iso500→f2(δx,δy)、iso1000→f3(δx,δy)、iso2000f4→(δx,δy)、iso4000→f5(δx,δy),根据确定的曝光信息的档位,可以从五个预设标定函数中确定目标标定函数。若曝光信息iso400的档位为二档,其二档标准曝光信息iso500对应的预设标定函数为f2(δx,δy),则将该二档标准曝光信息所对应的预设标定函数称之为目标标定函数。

步骤308,根据目标标定函数确定与镜头偏移量相对应的图像偏移量。

在一个实施例中,预设标定函数可以为一元二次函数、二元二次函数、二元多次函数等等。例如,预设标定函数f1(δx,δy)可以表示为:

f1(δx,δy)=ax(n)+by(n)+...+cxy+dx+ey+f;

预设标定函数f2(δx,δy)可以表示为:

f2(δx,δy)=ax2+by2+cxy+dx+ey+f

预设标定函数f3(δx,δy)可以表示为:

f3(δx,δy)=ax2+by2+cx+dy+e

预设标定函数f4(δx,δy)可以表示为:

f4(δx,δy)=axy+bx+cy+d

预设标定函数f5(δx,δy)可以表示为:

f5(δx,δy)=ax+by+c

上述各式中,a、b、c、d、e、f分别为标定系数,为已知系数。fi(δx,δy)(i=1、2、3、4、5)用于表示当前图像偏移量,x、y分别表示当前镜头偏移量的横轴坐标、纵轴坐标。

上述预设标定函数,是根据预设规则来获取的。需要说明的是,预设标定函数的表达式不限于上述举例说明,还可以用其他表达式进行表示。

若目标标定函数为预设标定函数f2(δx,δy),则根据目标标定函数f2(δx,δy)可以获取图像偏移量。例如,若当前的镜头偏移量为p(2,1),则对应的图像偏移量f2(δx,δy)为4a+b+2c+2d+e+f,根据确定的标定系数,则可以获取图像偏移量f2(δx,δy),该图像偏移量为标量偏移。该预设标定函数为二元二次函数,其综合考虑镜头偏移量的x轴偏移和y轴偏移两个维度的信息,可以更为精准、高效的将镜头偏移量转换为图像偏移量。

在一个实施例中,构建标准曝光信息与预设标定函数的映射关系前,还包括步骤300,针对每档标准曝光信息,确定与标准曝光信息相匹配的预设标定函数。

图4为一个实施例中针对每档标准曝光信息,确定与标准曝光信息相匹配的预设标定函数的流程图。具体的,针对每档标准曝光信息,确定与标准曝光信息相匹配的预设标定函数,包括:

步骤402,针对每档标准曝光信息,驱动马达按照预设轨迹移动摄像头,预设轨迹包括多个位移点。

将测试标板固定在摄像头的成像范围内,并控制马达按照预设轨迹移动摄像头的镜头驱动镜头。其中,测试标板可以为ctf(contrasttransferfunction)标板、sfr(spatialfrequencyresponse)标板、db标板或其他自定义标板。预设轨迹可以为圆周、椭圆、矩形或其他预设轨迹。在预设轨迹上设定了多个位移点,其中,相邻两个位移点的距离可以相同,也可以不相同。其位移点的位置信息可以在xy平面中用坐标位置进行表示。例如,位移点qi的位置信息可以在xy平面中用坐标位置qi(xi,yj)进行表示,也即,位移点的第一位置信息可以用坐标qi(xi,yj)进行表示。

若标准曝光信息的档位设置为五个档位,其分别iso100、iso500、iso1000、iso2000、iso4000。则在分别在iso100、iso500、iso1000、iso2000、iso4000的标准曝光信息下驱动,马达按照预设轨迹移动摄像头,并分组记录存储相应的图像数据。

步骤404,当镜头移动至每个位移点时,对应采集测试标板的图像信息。

当驱动马达推动摄像头的镜头按照预设轨迹移动时,在每个位移点对对应采集测试标板的图像信息。一个位移点对应一幅测试标板的图像信息,该图像信息可以理解为构成该图像的多个像素点的位置信息。例如,当位移点的数量为六个时,其需要对应采集六幅测试标板的图像信息。

步骤406,对应获取每个位移点的第一位置信息及在每个位移点采集的图像信息中同一特征点相对于初始位置的图像偏移量。

电子设备可以在图像信息中选取一个特征点pi,以获取在特征点pi的第二位置信息,特征点pi的第二位置信息也可以在xy平面中用坐标pi(xi,yj)进行表示。

其中,特征点pi可以为该图像信息中靠近中心位置的像素点对应的拍摄目标物,也可以为该图像信息中亮度最亮的像素点或其他具有突出意义的像素点对应的拍摄目标物,在此,对特征点的具体位置及定义不做进一步的限定。

需要说明的是,多个测试标板的图像信息中的特征点所对应的拍摄目标物相同,也即,在不同位移点采集的图像信息中的特征点的位置信息不同,但同一特征点对应的拍摄目标物相同。

在一个实施例中,镜头在初始位置处的位移点q0(x0,y0)可以为原点。当镜头在初始位置q0(x0,y0)时,可获取的测试标板的图像信息中特征点,该特征点也可用p0(x0,y0)表示。

当镜头移动至位移点q1(x1,y1)时,对应获取测试标板的图像信息中的特征点p1(x1,y1),以及该特征点p1(x1,y1)相对于在初始位置获取的特征点p0(x0,y0)的图像偏移量d1;依次类推,当镜头移动至位移点q6(x6,y6)时,对应获取测试标板的图像信息中的特征点p6(x6,y6)以及在该特征点p6(x6,y6)相对于在初始位置获取的特征点p0(x0,y0)的图像偏移量d6。

步骤408,将第一位置信息和图像偏移输入至预设偏移转换模型,以确定具有标定系数的预设偏移转换函数,其中,位移点的数量与标定系数的数量相关联。

不同的档位的标准曝光信息对应于不同的预设标定模型,不同的预设标定模型具有不同的标定系数。其中,预设标定模型不同,其需要获取的位移点的数量也不相同,且预设标定模型中的未知系数的数量小于等于位移点的数量。

预设标定模型可以为一元二次函数模型,二元二次函数模型,也可以为二元多次函数模型,其该预设标定模型的设定,是通过学习的方式来获取的。

可以根据当前的标准曝光信息的档位来确定对应的预设标定模型,并将获取的特征移动点的第一位置信息,与该位移点相对应的特征点的第二位置信息以及图像偏移量均输入值预设标定模型,通过分析运算,即确定该预设标定模型中的各个系数,进而具有标定系数的预设标定函数。相应的,可以获取每个档位的标准曝光信息所对应的预设标定函数。

需要说明的是,预设标定模型与预设标定函数的表达式一致,对于预设标定模型,其中的标定系数为未知数,而对于预设标定函数,其对应的标定系数为已知数。

例如,当预设标定模型为二元二次函数模型时,可以用如下公式进行表示:

f(δx,δy)=ax2+by2+cxy+dx+ey+f

式中,(δx,δy)表示图像偏移量,该图像偏移量表示当前位移点q(xi,yj)相对于在初始位置q(x0,y0)处获取的同一特征点的图像偏移量,该图像偏移量为标量偏移,也即,当前位移点q(xi,yj)与初始位置q(x0,y0)的同一特征点之间的距离。x表示位移点横轴x的坐标参数;y表示位移点纵轴y的坐标参数。

其中,二元二次函数模型中包括六个未知系数a、b、c、d、e、f,将获取的六个位移点q1(x1,y1)-q6(x6,y6)以及与该六个特征点p1(x1,y1)-p6(x6,y6)对应的图像偏移量d1-d6分别输入至二元二次函数模型,就可以解析出上述等式中的a、b、c、d、e、f,其中,获取的系数a、b、c、d、e、f带入二元二次函数模型,则可以获取对应的预设标定函数,其中,a、b、c、d、e、f为预设标定函数的标定系数。

本实施例中的图像补偿方法,根据预设标定模型、多个位移点以及对应的多个特征点,可以获取对应的预设标定函数,该预设标定函数可以直接基于镜头偏移量准确、高效的获取图像偏移量值,标定效率、精准度更高,为补偿图像奠定了好的基础。

图5为一个实施例中根据曝光信息和图像偏移量对图像进行补偿的流程图。在一个实施例中,根据曝光信息和图像偏移量对图像进行补偿,包括:

步骤502,确定曝光信息的曝光等级,曝光等级包括一级曝光、二级曝光和三级曝光。

在一个实施例中,若曝光信息为感光度,其可以根据感光度来设定其曝光等级。电子设备的感光度包括iso100、iso200、iso400、iso800、iso1000、iso1600、iso3200、iso6400、iso12800等等,可以根据感光度来划分曝光等径。例如,可以将小于或等于iso500的感光度作为一级曝光,将大于iso500且小于或等于iso1000的感光度作为二级曝光,将大于iso1000的感光度作为三级曝光。电子设备可以根据设定的一级曝光、二级曝光和三级曝光来确定当前曝光信息的曝光等级。

在一个实施例中,若曝光信息为快门速度,其可以根据快门速度来设定其曝光等级。电子设备的快门速度包括1秒、1/2秒、1/4秒、1/8秒、1/16秒等等,可以根据快门速度来划分曝光等径。例如,可以将大于1/2秒的快门速度小于或等于1/8秒的快门速度作为一级曝光,将大于1/8秒且小于或等于1/2秒的快门速度作为二级曝光,将大于1/2秒的快门速度为三级曝光。电子设备可以根据设定的一级曝光、二级曝光和三级曝光来确定当前曝光信息的曝光等级。

需要说明的是,电子设备根据曝光信息来划分曝光等级,其具体的划分规则不限于上述举例说明,还可以根据实际需求来设定各个曝光等级的曝光信息的范围。

步骤504,根据曝光等级确定相应的补偿策略。

每个曝光等级对应的图像补偿策略不同。具体地,当曝光等级为一级曝光时,对应的补偿策略为逐帧或隔帧补偿;当曝光等级为二级曝光时,对应的补偿策略为分块补偿;当曝光等级为三级曝光时,对应的补偿策略为逐行或隔行补偿。

步骤506,根据图像偏移量和补偿策略对图像进行补偿。

在一个实施例中,若曝光信息对应的曝光等级为一级曝光时,则可以采用逐帧或隔帧补偿。电子设备采集一帧图像时,其对应获取的图像偏移量为多个。当采用逐帧或隔帧补偿策略对图像进行补偿时,可以在多个图像偏移量中获取最小图像偏移量、导数最小的图像偏移量、与平均抖动量相差最小的图像偏移量作为目标图像偏移量对每帧图像或隔帧图像的所有像素点进行补偿。

在一个实施例中,若曝光信息对应的曝光等级为二级曝光时,则可以分块补偿。电子设备采集一帧图像时,其对应获取的图像偏移量为多个。例如,目前有hall1-hall6共六个霍尔值,每一个霍尔值对应唯一一个图像偏移量,记为biaspixel1-biaspixel6,此时,若cmos扫描了60行,则可进行分块修正,即60行分为6块,一块包含10行,分别用biaspixel1-biaspixel6对此6块图像进行逐块修正,即,第一块包含的10行均采用biaspixel1作为修正参数进行补偿修正,第二块包含的10行采用biaspixel2作为修正参数进行补偿修正。

在一个实施例中,若曝光信息对应的曝光等级为三级曝光时,则可以逐行或隔行补偿。电子设备采集一帧图像时,其对应获取的图像偏移量为多个。例如,有hall1-hall6共六个霍尔值,每一个霍尔值对应唯一一个图像偏移量,6个图像偏移量可分别记为biaspixel1-biaspixel6,此时,若cmos扫描了6行,则可用biaspixel1对第1行像素点进行补偿,用biaspixel2对第2行像素点进行补偿,可用biaspixel3对第3行像素点进行补偿,用biaspixel4对第4行像素点进行补偿,可用biaspixel,5对第5行像素点进行补偿,用biaspixel6对第6行像素点进行补偿,也即,采用biaspixel1-biaspixel6对1-6行像素点进行逐行补偿,依次类推,以完成对这个图像的补偿

可选的,还可以基于获取的6个图像偏移量biaspixel1-biaspixel6,任意选择1个、2个或3个图像偏移量分别对第1行、第3行、第5行像素点进行隔行补偿,或,分别对第2行、第4行、第6行像素点进行隔行补偿,依次类推,以完成对这个图像的补偿。

本实施例中,可以基于不同的曝光等级自适应采用不同的补偿策略对图像进行补偿,可以提高不同曝光等级下的图像清晰度。

图6为一个实施例中当曝光等级为二级曝光时,根据图像偏移量和补偿策略对图像进行补偿的流程图。在一个实施例中,当曝光等级为二级曝光时,根据图像偏移量和补偿策略对图像进行补偿,包括:

步骤602,对图像进行识别,以识别待补偿区域与非补偿区域,其中,非补偿区域的各个像素点的颜色相同,且所述非补偿区域占图像的比例大于或等于预设值。

在一个实施例中,电子设备可以获取图像中各个像素点的颜色值;基于所述各个像素点的颜色值,对各像素点进行聚类。其中,每个像素点类别中的像素点的颜色值相同;针对聚类处理后的每类像素点,确定由该类像素点中的像素点构成的各个连通区域的轮廓,得到轮廓集合,进而获取各个轮廓集合的面积,以筛选出具有最大面积的轮廓,并将该轮廓对应的区域作为非补偿区域。

其中,非补偿区域与待补偿区域的合集为整个图像,获取非补偿区域后,判断该非补偿区域占整个图像比例,若该比例大于或等于预设值,则认为该非补偿区域有效,进而获取待补偿区域。若该比例小于预设值,则认为该非补偿区域有效,则将整个图像作为待补偿区域。

进一步的,预设值可以为二分之一,五分之三、七分之四等数据,其具体预设值不做进一步的限定,可以根据实际需求来设定。

例如,若采集的图像为夜景图像,其图像中大部分区域为纯黑色区域,而只有相对较小部分为亮光区域,则可以将黑色区域作为非补偿区域,而将亮光区域作为待补偿区域。若采集的图像为人像+背景图,其中,人像为前景区域,其背景区域为具有相同颜色的区域,做该背景区域占整个图像的比例大于或等于预设值,则将背景区域作为非补偿区域,将人像前景区域作为带补偿区域,该背景区域占整个图像的比例小于预设值,则将整个图像作为待补偿区域。

需要说明的是,其图像识别的方式不限于上述举例说明,还可以采用颜色特征提取纹理特征提取边缘特征提取的算法进行识别,在此,对识别待补偿区域与非补偿区域的方式不做进一步的限定。

步骤604,根据图像偏移量和补偿策略对补偿区域进行补偿。

二级曝光等级对应的补偿策略为分块补偿,也即,根据图像偏移量,可以对待补偿区域进行分块补偿,也即,可以对待补偿区域进行精细化补偿,而对非补偿区域不做任何处理,以提高待补偿区域的清晰度,同时提高图像处理的效率。

图7为一个实施例中当检测到摄像头发生抖动时,获取采集图像时摄像头的镜头偏移的流程图。在一个实施例中,当检测到摄像头发生抖动时,获取采集图像时摄像头的镜头偏移,包括:

步骤702,当检测到摄像头发生抖动时,同步获取采集一帧图像时摄像头的多个抖动量。

具体地,获取摄像头采集图像的第一频率以及陀螺仪传感器采集角速度信息的第二频率;也即,当摄像头采集一帧图像的同时,同步获取陀螺仪传感器采集的多个角速度信息。其中,陀螺仪传感器的采集频率高于获取摄像头采集图像的频率。例如,摄像头以30hz进行图像采集,同一时刻以陀螺仪传感器以200hz进行角速度信息的采集,则采集一帧图像的时间,在时序上将对应采集6-7个角速度信息。

根据获取的多个角速度信息确定对应的抖动量,其中,抖动量与角速度信息一一对应,每个角速度信息对应一个抖动量,则采集的6~7角速度信息对应的6~7个抖动量。抖动量可以理解为角速度信息积分后的角度信息。其中,积分时间与陀螺仪传感器采集角速度信息的频率相关。

步骤704,根据多个抖动量控制马达驱动摄像头镜头的移动。

其中,该成像设备中还包括用于驱动摄像头的镜头移动的马达以及用于控制马达运动的ois控制器。当陀螺仪传感器检测到摄像头发生抖动时,电子设备可以根据获取的多个抖动量控制马达以驱动摄像头的镜头移动,其镜头的移动量与该抖动量的方向相反,以消除因抖动引起的偏移。

步骤706,基于霍尔传感器的霍尔值确定摄像头的镜头偏移量,角速度信息与霍尔值同步采集。

其中,该成像设备中还包括用于记录镜片移动量的霍尔传感器,霍尔传感器是根据霍尔效应制作的一种磁场传感器,霍尔效应从本质上讲是运动的带电粒子在磁场中受洛仑兹力作用引起的偏转。其中,陀螺仪传感器采集的角速度信息与霍尔传感器采集的霍尔值在时序上对应。

成像设备可以通过霍尔传感器或激光记录摄像头的镜头在xy平面上的偏移刻度,并记录偏移刻度的同时,还可以记录偏移的方向,根据每个刻度对应的距离,以及偏移方向,继而得到镜头偏移量p(xi,yj)。

本实施例中,基于陀螺仪传感器与霍尔传感器采集数据的频率在时序上对应,同时,摄像头采集拍摄对象与陀螺仪传感器采集数据在时间戳上同步且频率不同,采集一帧图像的时间可以对应采集多个角速度信息,进而可以在多个角速度信息中确定多个镜头偏移量,从而转换为多个图像偏移量,继而可以提高了图像补偿的精度和效果。

应该理解的是,虽然图2-7的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,图2-7中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些子步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。

图8为一个实施例中图像补偿装置的结构图。本申请实施例还提供了一种图像补偿装置,应用于包括光学图像稳定系统的成像设备,成像设备设有携带光学图像稳定系统的摄像头,图像补偿装置,包括:曝光信息获取模块810、镜头偏移获取模块820、图像偏移获取模块830及图像补偿模块840。其中,

曝光信息获取模块810,用于控制摄像头采集图像,并获取采集图像的曝光信息;摄像头包括光学图像稳定系统;

镜头偏移获取模块820,用于当检测到摄像头发生抖动时,获取摄像头的镜头偏移;

图像偏移获取模块830,用于根据曝光信息确定目标标定函数,并获取与镜头偏移量相对应的图像偏移量;

图像补偿模块840,用于根据曝光信息和图像偏移量对图像进行补偿。

上述图像补偿装置,可以控制摄像头采集图像,并获取采集所述图像的曝光信息;当检测到摄像头发生抖动时,获取采集所述图像时所述摄像头的镜头偏移;根据所述曝光信息确定目标标定函数,并获取与所述镜头偏移量相对应的图像偏移量;根据所述曝光信息和所述图像偏移量对所述图像进行补偿,可以根据曝光信息更为精准的获取图像偏移,进而在对图像进行补偿,可以提高图像的清晰度。

在一个实施例中,所述曝光信息包括快门速度或感光度;图像偏移获取模块830,包括:

构建单元,用于构建多个档位的标准曝光信息与多个预设标定函数的映射关系,其中,每一档位的所述标准曝光信息对应于一个所述预设标定函数;

档位确定单元,用于根据所述多个档位的标准曝光信息确定所述曝光信息的档位;

匹配单元,用于根据所述映射关系,在所述多个预设标定函数中确定与所述曝光信息的档位相匹配的所述目标标定函数;

偏移获取单元,用于根据所述目标标定函数确定与所述镜头偏移量相对应的图像偏移量。

在一个实施例中,图像偏移获取模块830,还包括:

函数确定单元,用于针对每档所述标准曝光信息,确定与所述标准曝光信息相匹配的预设标定函数。

本实施例中的图像补偿方法,根据预设标定模型、多个位移点以及对应的多个特征点,可以获取对应的预设标定函数,该预设标定函数可以直接基于镜头偏移量准确、高效的获取图像偏移量值,标定效率、精准度更高,为补偿图像奠定了好的基础。

在一个实施例中,图像补偿模块840,包括:

等级确定单元,用于确定所述曝光信息的曝光等级,所述曝光等级包括一级曝光、二级曝光和三级曝光;

策略单元,用于根据所述曝光等级确定相应的补偿策略;

补偿单元,用于根据所述图像偏移量和所述补偿策略对所述图像进行补偿。

在一个实施例中,策略单元,还用于:

当所述曝光等级为一级曝光时,对应的补偿策略为逐帧或隔帧补偿;

当所述曝光等级为二级曝光时,对应的补偿策略为分块补偿;

当所述曝光等级为三级曝光时,对应的补偿策略为逐行或隔行补偿。

本实施例中,可以基于不同的曝光等级自适应采用不同的补偿策略对图像进行补偿,可以提高不同曝光等级下的图像清晰度。

在一个实施例中,当所述曝光等级为二级曝光时,补偿单元,还用于:对所述图像进行识别,以识别待补偿区域与非补偿区域,其中,所述非补偿区域的各个像素点的颜色相同,且所述非补偿区域占图像的比例大于或等于预设值;根据所述图像偏移量和所述补偿策略对所述补偿区域进行补偿。

本实施例中,可以对待补偿区域进行精细化补偿,而对非补偿区域不做任何处理,以提高待补偿区域的清晰度,同时提高图像处理的效率。

在一个实施例中,镜头偏移获取模块820,包括:

抖动采集单元,用于当检测到摄像头发生抖动时,同步获取采集一帧所述图像时所述摄像头的多个抖动量;

驱动单元,用于根据所述多个抖动量控制马达驱动所述摄像头镜头的移动;

计算单元,用于基于霍尔传感器的霍尔值确定所述摄像头的镜头偏移量,所述抖动量与所述霍尔值同步采集。

本实施例中,基于陀螺仪传感器与霍尔传感器采集数据的频率在时序上对应,同时,摄像头采集拍摄对象与陀螺仪传感器采集数据在时间戳上同步且频率不同,采集一帧图像的时间可以对应采集多个角速度信息,进而可以在多个角速度信息中确定多个镜头偏移量,从而转换为多个图像偏移量,继而可以提高了图像补偿的精度和效果。

上述图像补偿装置中各个模块的划分仅用于举例说明,在其他实施例中,可将图像补偿装置按照需要划分为不同的模块,以完成上述图像补偿装置的全部或部分功能。

本申请实施例还提供了一种计算机可读存储介质。一个或多个包含计算机可执行指令的非易失性计算机可读存储介质,当所述计算机可执行指令被一个或多个处理器执行时,使得所述处理器执行上述任一实施例中的图像补偿方法。

本申请实施例还提供一种电子设备。电子设备包括光学图像稳定系统的成像设备、存储器及处理器,所述成像设备包括携带光学图像稳定系统的摄像;所述存储器中储存有计算机可读指令,所述指令被所述处理器执行时,使得所述处理器执行上述任一实施例中的图像补偿方法。电子设备中包括图像处理电路,图像处理电路可以利用硬件和/或软件组件实现,可包括定义isp(imagesignalprocessing,图像信号处理)管线的各种处理单元。图9为一个实施例中图像处理电路的示意图。如图9所示,为便于说明,仅示出与本申请实施例相关的图像补偿技术的各个方面。

如图9所示,图像处理电路包括isp处理器940和控制逻辑器950。成像设备910捕捉的图像数据首先由isp处理器940处理,isp处理器940对图像数据进行分析以捕捉可用于确定和/或成像设备910的一个或多个控制参数的图像统计信息。成像设备910可包括具有一个或多个透镜912和图像传感器914的照相机。图像传感器914可包括色彩滤镜阵列(如bayer滤镜),图像传感器914可获取用图像传感器914的每个成像像素捕捉的光强度和波长信息,并提供可由isp处理器940处理的一组原始图像数据。传感器920(如陀螺仪)可基于传感器920接口类型把采集的图像补偿的参数(如防抖参数)提供给isp处理器940。传感器920接口可以利用smia(standardmobileimagingarchitecture,标准移动成像架构)接口、其它串行或并行照相机接口、或上述接口的组合。

此外,图像传感器914也可将原始图像数据发送给传感器920,传感器920可基于传感器920接口类型把原始图像数据提供给isp处理器940进行处理,或者传感器920将原始图像数据存储到图像存储器930中。

isp处理器940按多种格式逐个像素地处理原始图像数据。例如,每个图像像素可具有9、10、12或14比特的位深度,isp处理器940可对原始图像数据进行一个或多个图像补偿操作、收集关于图像数据的统计信息。其中,图像补偿操作可按相同或不同的位深度精度进行。

isp处理器940还可从图像存储器930接收像素数据。例如,传感器920接口将原始图像数据发送给图像存储器930,图像存储器930中的原始图像数据再提供给isp处理器940以供处理。图像存储器930可为存储器装置的一部分、存储设备、或电子设备内的独立的专用存储器,并可包括dma(directmemoryaccess,直接直接存储器存取)特征。

当接收到来自图像传感器914接口或来自传感器920接口或来自图像存储器930的原始图像数据时,isp处理器940可进行一个或多个图像补偿操作,如时域滤波。isp处理器940处理后的图像数据可发送给图像存储器930,以便在被显示之前进行另外的处理。isp处理器940从图像存储器930接收处理数据,并对所述处理数据进行原始域中以及rgb和ycbcr颜色空间中的图像数据处理。处理后的图像数据可输出给显示器980,以供用户观看和/或由图形引擎或gpu(graphicsprocessingunit,图形处理器)进一步处理。此外,isp处理器940的输出还可发送给图像存储器930,且显示器980可从图像存储器930读取图像数据。在一个实施例中,图像存储器930可被配置为实现一个或多个帧缓冲器。此外,isp处理器940的输出可发送给编码器/解码器970,以便编码/解码图像数据。编码的图像数据可被保存,并在显示于显示器980设备上之前解压缩。

isp处理后的图像数据可发送给编码器/解码器970,以便编码/解码图像数据。编码的图像数据可被保存,并在显示与显示器980设备上之前解压缩。isp处理器940处理后的图像数据还可以先经过编码器/解码器970处理。其中,编码器/解码器970可为移动终端中cpu(centralprocessingunit,中央处理器)或gpu(graphicsprocessingunit,图形处理器)等。

isp处理器940确定的统计数据可发送给控制逻辑器950单元。例如,统计数据可包括自动曝光、自动白平衡、自动聚焦、闪烁检测、黑电平补偿、透镜912阴影补偿等图像传感器914统计信息。控制逻辑器950可包括执行一个或多个例程(如固件)的处理器和/或微控制器,一个或多个例程可根据接收的统计数据,确定成像设备910的控制参数以及isp处理器940的控制参数。例如,成像设备910的控制参数可包括传感器920控制参数(例如增益、曝光控制的积分时间、防抖参数等)、照相机闪光控制参数、透镜912控制参数(例如聚焦或变焦用焦距)、或这些参数的组合。isp控制参数可包括用于自动白平衡和颜色调整(例如,在rgb处理期间)的增益水平和色彩补偿矩阵,以及透镜912阴影补偿参数。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的程序可存储于一非易失性计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,所述的存储介质可为磁碟、光盘、只读存储记忆体(read-onlymemory,rom)等。

以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本申请专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请专利的保护范围应以所附权利要求为准。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1