一种图像处理的方法和装置与流程

文档序号:15152344发布日期:2018-08-10 21:16阅读:175来源:国知局

本申请涉及拍照技术领域,并且更具体地,涉及一种图像处理的方法和装置。



背景技术:

夜景拍摄一直是手机拍摄的难题,因为光源的亮度和非光源区域的亮度差异过大,具有非常高的动态范围;通过单帧拍摄容易同时存在高亮过曝和低亮欠曝;另一方面,由于夜景一般亮度都比较低,在有限的曝光时间下,对于非高动态场景会存在比较高的噪声,难以获得高质量的图像;但在人们实际的拍照场景中,存在很多亮度变化范围很高的高动态场景,例如晴天室外逆光场景、夜景人像场景等,单幅图像只能采集到高动态范围场景的一部分信息,或者存在亮区过曝问题,或者存在暗区亮度不足问题。

在夜景高动态场景下,为了获得高动态照片,业界通用的方案是多帧不同曝光图像融合方案。例如cn105163047a公开的方案中先拍摄不同曝光设置的多帧jpg图像作为输入(通常为短曝光、正常曝光、长曝光三帧图像);再通过相机响应曲线将三帧输入图像转换为三帧场景的真实亮度图;然后进行配准鬼影检测操作,将三帧图像合成为一帧高动态范围图像。在现有技术的处理中,不同亮度的图像之间合成之后的成像效果非常的一般。



技术实现要素:

本申请第一方面的实施例提供了一种图像处理的装置,所述装置包括:

获取模块,所述获取模块用于获取终端设备的状态信息;图像拍摄模块,所述图像拍摄模块用于获取终端设备的拍摄场景信息;模式选择模块,所述模式选择模块用于根据所述状态信息和所述拍摄场景信息确定图像处理模式;所述图像拍摄模块还用于根据所述图像处理模式获取待显示图像。

根据本发明实施例的图像处理的装置,根据对终端设备的状态信息和拍摄场景信息的判断结果,可以选择不同的图像处理模式。通过不同的调节曝光值和不同的图像融合模式来拍摄更好的图像,用于后续的合成。

本发明实施例所述的终端设备,可以是具有拍照功能的智能手机,平板电脑,也可以是具有拍照功能的智能手表,智能眼镜,智能头盔等其它可穿戴式设备。

在一种可能的实现方式中,所述状态信息用于判断所述终端设备的拍摄状态是否稳定。

在一种可能的实现方式中,所述获取模块可以从终端设备的重力传感器或者陀螺仪中获取终端设备的状态信息。状态信息可以是通过终端设备上的传感器直接采集得到的信息,例如可以通过终端设备上的重力感应器或者陀螺仪等设备采集得到的信息,也可以是基于上述信息进行计算或其它处理之后得到的信息。

在一种可能的实现方式中,可以通过重力感应器测量由于重力引起的加速度的值,将加速度的值作为状态信息;在另一种可能的实现方式中,可以通过陀螺仪测量终端设备是否处于稳定状态,将陀螺仪采集的终端设备的姿态信息作为状态信息。

可以理解的是,在获取终端设备的状态信息之前,终端设备还可以获取触发信息,所述触发信息可以使得终端设备进入预览显示模式,在终端设备的显示屏上呈现摄像头捕捉的图像。该触发信息可以是用户触发移动终端的实体按键所形成的信息,例如快门按键;也可以是用户在触摸屏上进行相应操作后所形成的信息,例如通过点击或者滑动的方式激活摄像头的拍摄功能。在一种可能的实现方式中,预览显示模式指的是终端设备在显示屏上呈现摄像头捕捉的图像,旨在提示用户当前摄像头所能捕捉的图像内容,以便用户调整相应的取景状态,但此时未进行正式的拍照,取景的图像不会保存到设备的存储介质(但相关的参数或图像数据会在缓存中存储一段时间)。拍照模式是指当用户完成取景并按下快门按键时,设备会获取摄像头捕捉的图像,经过相应的方法处理之后,最终的照片图像保存至设备的存储介质。

在一种可能的实现方式中,所述拍摄场景信息用于判断所述终端设备的拍摄场景是否属于高动态场景。

在一种可能的实现方式中,所述图像拍摄模块可以根据摄像头获取的图像数据得到拍摄场景信息。拍摄场景信息可以是当前图像的直方图,拍摄场景信息也可以是当前图像的动态范围。

直方图在图像处理中有着广泛的应用,亮度直方图是用来体现图像亮度分布的图表,它显示了图像中不同亮度对象所占的图像比例。在一个示例中,在一张图像的直方图中,横轴代表的是图像中的亮度,由左向右,从全黑逐渐过渡到全白;纵轴代表的则是图像中处于这个亮度范围的像素的相对数量。

在图像拍摄处理领域,动态范围主要是指拍摄对象的亮度范围,即拍摄对象里最暗点到最亮点的亮度跨度。在大动态范围的场景里,最亮部分与最暗部分相差比较大,画面的对比度高,层次丰富;而在小动态范围的场景里,则多数对象的亮度都差不多,画面对比度低。动态范围可以用比值或者差值来进行量化描述。

在一种可能的实现方式中,所述模式选择模块具体用于,根据所述状态信息判断所述终端设备的拍摄状态是否稳定;根据所述拍摄场景信息确定所述终端设备的拍摄场景是否属于高动态场景;当所述终端设备的拍摄状态稳定,且所述终端设备的拍摄场景属于高动态场景时,所述图像处理模式为第一曝光融合模式,其中,所述第一曝光融合模式中存在至少两个相邻帧的图像的曝光值不同。

当终端设备处于静止的状态时,例如放置于三角架或其它固定装置上,可以认为终端设备处于稳定状态;当终端设备处于运动状态或者轻微抖动状态时,例如用户手持终端设备进行拍摄,或者用户手持终端设备的固定装置(例如自拍杆)进行拍摄,可以认为终端设备处于非稳定状态。在可能的方式中,可以通过将状态信息与预设阈值进行比较的方式来判断终端设备是否处于稳定状态。例如,当陀螺仪获取到的值大于第一阈值时,可以认为终端设备处于非稳定状态;或者当陀螺仪获取到的值小于等于第一阈值时,可以认为终端设备处于稳定状态。其中,第一阈值的取值范围可以是大于0.005,小于0.015。例如第一阈值可以是0.01。

在一种可能的实现方式中,可以通过当前图像的直方图判断当前的拍摄场景。例如,先获取当前图像的直方图,统计直方图的过曝和欠曝比例;比如亮度高于250以上的像素作为过曝的像素,亮度小于10以下的像素视为欠曝的像素,统计过曝和欠曝像素的比例,如果过曝比例大于一个设定的阈值,且欠曝比例大于另一个预先设定的阈值,则认为图像属于高动态场景。一般高动态范围的比例会根据算法实际效果进行调整,在一个示例中,判断阈值是过曝的比例大于1%及欠曝的比例大于5%或10%,在其它的示例中,过曝比例可以取0.5%到2%之间的值,欠曝比例可以取5%到10%之间的值。可以理解的是,上述只是对判断高动态场景的一个示例,本领域普通技术人员也可以采用其它方式得到图像的动态范围,在此不再赘述。可以理解的是,在某些应用场景下,也可以是由用户选择是否使用高动态场景。

可以理解的是,本发明实施例所述判断终端设备是否处于稳定状态和判断拍摄场景是否属于高动态场景,在一种实现方式中,可以根据不同的状态信息和拍摄场景信息进入不同的曝光融合模式的分支进行处理,而不需要有具体的参数来表示稳定状态或者高动态场景,例如当状态信息大于第一阈值时,则认为终端设备处于不稳定的拍摄状态;在一种实现方式中,也可以有对应的参数来表示终端设备的状态信息和拍摄场景信息,例如当状态信息大于第一阈值时,则给终端设备状态参数赋值(可以为0,1等,也可以为其它值)。

本发明实施例在曝光融合模式中可以对至少两帧图像进行拍摄,在使用第一曝光融合模式进行拍摄时,至少有两个相邻图像帧的曝光值不同。例如某一图像帧的曝光值为30,则后一图像帧的曝光值可以为31。可以理解的是,在使用第一曝光融合模式拍摄的多帧中,也可以是有两个相邻图像帧的曝光值相同的。以3帧图像为例,每一帧对应的曝光值可以为30,31,31。

对于高动态场景,通过不同的曝光值的曝光融合模式,可以在高动态场景下获得质量更好的高动态范围的图像。

在一种可能的实现方式中,当所述终端设备的拍摄状态稳定,且所述终端设备的拍摄场景不属于高动态场景时,确定所述图像处理模式为第二曝光融合模式,其中,所述第二曝光融合模式中图像的曝光值相同。例如,以第二曝光融合模式拍摄3帧图像为例,每一帧对应的曝光值可以为40。

对于非高动态场景,使用相同的曝光值进行处理,可以获得噪声更低的图像。

在一种可能的实现方式中,当所述终端设备的拍摄状态不稳定,且所述终端设备的拍摄场景属于高动态场景时,确定所述图像处理模式为第三曝光融合模式,其中,所述第三曝光融合模式中存在至少两个相邻帧的图像的曝光值不同。

在一种可能的实现方式中,当所述终端设备的拍摄状态不稳定,且所述终端设备的拍摄场景不属于高动态场景时,确定所述图像处理模式为第四曝光融合模式,其中,所述第四曝光融合模式中图像的曝光值相同。

在一种可能的实现方式中,所述第一曝光融合模式的曝光时间大于所述第三曝光融合模式的曝光时间;在拍摄多帧图像时,此处的第一曝光融合模式的曝光时间大于第三曝光融合模式的曝光时间可以是指第一曝光融合模式中对应最大曝光值的图像帧的曝光时间大于第三曝光融合模式中对应最大曝光值的图像帧的曝光时间;或者也可以是指当第一曝光融合模式中的某一图像帧的曝光值与第三曝光融合模式中的某一图像帧的曝光值相等时,第一曝光融合模式中该图像帧的曝光时间大于第三曝光融合模式中该图像帧的曝光时间。

例如,对于所述第一曝光融合模式中对应最大曝光值的帧的最大曝光时间为1秒,而第三曝光融合模式中对应最大曝光值的帧的最大曝光时间为250毫秒。此外,对于某个特定的曝光值的实现,在第一曝光融合模式中,会优先使用较大的曝光时间,而使用较低的感光度和光圈值,比如采用500毫秒的曝光时间和100的感光度;而在第三模式中,实现相同的曝光值,则会采用较短的曝光时间,而使用相对较高的感光度和较大的光圈值,例如使用100毫秒的曝光时间与500感光度的组合。

在一种可能的实现方式中,所述第二曝光融合模式的曝光时间大于所述第四曝光融合模式的曝光时间。例如,对于所述第二曝光融合模式中对应最大曝光值的帧的最大曝光时间为2秒,而第四曝光融合模式中对应最大曝光值的帧的最大曝光时间为1秒。此外,对于某个特定的曝光值的实现,在第二曝光融合模式中,会优先使用较大的曝光时间,而使用较低的感光度和光圈值,比如采用500毫秒的曝光时间和100的感光度;而在第四模式中,实现相同的曝光值,则会采用较短的曝光时间,而使用相对较高的感光度和较大的光圈值,例如使用100毫秒的曝光时间与500感光度的组合。

可以理解的是,本发明实施例的不属于高动态场景与非高动态场景的含义相同。

在一种可能的实现方式中,所述第一曝光融合模式中要处理的图像帧数和所述第二曝光融合模式中要处理的图像帧数相同。

在一种可能的实现方式中,所述第三曝光融合模式中要处理的图像帧数和所述第四曝光融合模式中要处理的图像帧数相同。

在一种可能的实现方式中,所述第一曝光融合模式中要处理的图像帧数大于所述第三曝光融合模式或所述第四曝光融合模式中要处理的图像帧数。

在一种可能的实现方式中,所述第二曝光融合模式中要处理的图像帧数和所述第四曝光融合模式中要处理的图像帧数相同。

在一种可能的实现方式中,所述第二曝光融合模式中要处理的图像帧数和所述第四曝光融合模式中要处理的图像帧数不同。

在确定了要使用的图像处理模式后,图像拍摄模块根据相应的处理模式获取待显示图像进行处理。

在一种可能的实现方式中,本发明实施例所述的根据图像处理模式获取待显示图像,可以是指在确定了图像的帧数和每一帧对应的曝光参数之后,按照相应的曝光参数使用摄像头拍摄待显示图像。不同的图像处理模式所对应的曝光参数的设置方式不同。可以理解的是,在一种实现方式中,确定图像的帧数和每一帧对应的曝光参数的处理过程可以由终端设备的处理器执行,终端设备的摄像头根据设置的曝光参数进行待显示图像的获取。

在一种可能的实现方式中,待显示图像可以是用户触发快门键时需要捕捉的图像。快门键可以是实体的按键,也可以是触摸屏上的虚拟按键。在一些示例中,也可以不通过快门键,而是可以通过捕捉语音指令或者用户动作的方式触发拍照,此时摄像头捕捉的数据为待显示图像。

在一种示例中,待显示图像可以包括触发拍摄功能后摄像头拍摄的多帧图像。待显示图像可以是触发拍摄功能后摄像头拍摄的第一帧图像,或者是触发拍摄功能后在一个拍摄周期内摄像头拍摄的最后一帧图像,或者是触发拍摄功能后在一个拍摄周期中处于中间时刻时摄像头拍摄的图像。本示例所述的拍摄周期,可以是指曝光融合模式中所要拍摄的多帧图像的拍摄时间段,例如第一曝光融合模式需要拍摄10帧图像,则当前待显示图像可以为第1帧图像,第4帧图像或第10帧图像。

在一种可能的实现方式中,前述实施例所述的当前图像,指的是触发终端设备的拍摄功能时摄像头获取的图像数据,此时可以是在预览显示模式下。在一种示例中,待显示图像的前一帧图像为当前图像。通过当前图像的参数信息,例如直方图等信息,和终端设备的状态信息,来设置拍摄待显示图像所需的曝光参数。

在一种可能的实现方式中,图像拍摄模块可以根据模式选择模块的不同输出结果,执行相应的功能分支,对待显示图像进行处理。

在本发明实施例的一种可能的实现方式中,所述图像处理装置还包括处理模块,所述处理模块用于对所述待显示图像进行处理,例如图像合成等操作,得到处理后的图像。

在本发明实施例的一种可能的实现方式中,模式选择模块和处理模块的功能可以是由终端设备的处理器执行的。

在一种可能的实现方式中,所述图像处理装置还呈现模块,所述呈现模块用于显示所述处理后的图像。

在一种可能的实现方式中,呈现模块可以是终端设备的显示屏。显示所述处理后的图像包括显示最终的合成图像;也可以是使用预览的方式进行呈现,例如在使用上述图像处理模式对多帧图像进行处理的过程中,呈现当前处理完成后的图像。

在一个示例中,终端设备会生成很多张原始输出,终端设备会依次处理收到的每一帧图像。每收到一帧图像会和上一帧的处理结果合成一张图像,并将当前处理结果在屏幕上显示,提供用于预览,直到用户提前结束,或者所有帧都处理完之后,就会将最终结果保存到设备里。

本发明第二方面实施例公开了一种图像处理的方法,所述方法包括:获取终端设备的状态信息;获取终端设备的拍摄场景信息;根据所述状态信息和所述拍摄场景信息确定图像处理模式;根据所述图像处理模式获取待显示图像。

根据本发明实施例的图像处理的方法,根据对终端设备的状态信息和拍摄场景信息的判断结果,可以选择不同的图像处理模式。通过不同的曝光值和不同的图像融合模式来获得更好的合成图像。

在一种可能的实现方式中,所述根据所述状态信息和所述拍摄场景信息确定图像处理模式包括:根据所述状态信息判断所述终端设备的拍摄状态是否稳定;根据所述拍摄场景信息判断所述终端设备的拍摄场景是否属于高动态场景;当所述终端设备的拍摄状态稳定,且所述终端设备的拍摄场景属于高动态场景时,确定所述图像处理模式为第一曝光融合模式,其中,所述第一曝光融合模式中存在至少两个相邻帧的图像的曝光值不同。

在一种可能的实现方式中,所述根据所述状态信息和所述拍摄场景信息确定图像处理模式包括:根据所述状态信息判断所述终端设备的拍摄状态是否稳定;根据所述拍摄场景信息判断所述终端设备的拍摄场景是否属于高动态场景;当所述终端设备的拍摄状态稳定,且所述终端设备的拍摄场景不属于高动态场景时,确定所述图像处理模式为第二曝光融合模式,其中,所述第二曝光融合模式中图像的曝光值相同。

在一种可能的实现方式中,所述根据所述状态信息和所述拍摄场景信息确定图像处理模式包括:根据所述状态信息判断所述终端设备的拍摄状态是否稳定;根据所述拍摄场景信息判断所述终端设备的拍摄场景是否属于高动态场景;当所述终端设备的拍摄状态不稳定,且所述终端设备的拍摄场景属于高动态场景时,确定所述图像处理模式为第三曝光融合模式,其中,所述第三曝光融合模式中存在至少两个相邻帧的图像的曝光值不同。

在一种可能的实现方式中,所述根据所述状态信息和所述拍摄场景信息确定图像处理模式包括:根据所述状态信息判断所述终端设备的拍摄状态是否稳定;根据所述拍摄场景信息判断所述终端设备的拍摄场景是否属于高动态场景;当所述终端设备的拍摄状态不稳定,且所述终端设备的拍摄场景不属于高动态场景时,确定所述图像处理模式为第四曝光融合模式,其中,所述第四曝光融合模式中图像的曝光值相同。

在一种可能的实现方式中,所述根据所述状态信息和所述拍摄场景信息确定图像处理模式包括:当所述终端的状态信息不大于第一预设阈值时,根据所述拍摄场景信息确定第一曝光融合模式或第二曝光融合模式为所述图像处理模式;其中,所述第一预设阈值大于0.005,且所述第一预设阈值小于0.015,所述第一曝光融合模式中存在至少两个相邻帧的图像的曝光值不同,所述第二曝光融合模式中图像的曝光值相同。

在一种可能的实现方式中,所述根据所述状态信息和所述拍摄场景信息确定图像处理模式包括:当所述终端的状态信息大于第一预设阈值时,根据所述拍摄场景信息确定第三曝光融合模式或第四曝光融合模式为所述图像处理模式;其中,所述第一预设阈值大于0.005,且所述第一预设阈值小于0.015,所述第三曝光融合模式中存在至少两个相邻帧的图像的曝光值不同,所述第四曝光融合模式中图像的曝光值相同。

在一种可能的实现方式中,所述根据所述状态信息和所述拍摄场景信息确定图像处理模式包括:根据所述拍摄场景信息确定所述终端设备的拍摄场景为高动态场景;根据所述状态信息判断所述终端设备的拍摄状态是否稳定;当所述终端设备的拍摄状态稳定,确定所述图像处理模式为第一曝光融合模式,其中,所述第一曝光融合模式中存在至少两个相邻帧的图像的曝光值不同;当所述终端设备的拍摄状态不稳定,确定所述图像处理模式为第三曝光融合模式,其中,所述第三曝光融合模式中存在至少两个相邻帧的图像的曝光值不同;所述第一曝光融合模式的曝光时间大于所述第三曝光融合模式的曝光时间。

在一种可能的实现方式中,所述根据所述状态信息和所述拍摄场景信息确定图像处理模式包括:根据所述拍摄场景信息确定所述终端设备的拍摄场景为非高动态场景;根据所述状态信息判断所述终端设备的拍摄状态是否稳定;当所述终端设备的拍摄状态稳定,确定所述图像处理模式为第二曝光融合模式,其中,所述第二曝光融合模式中图像的曝光值相同;当所述终端设备的拍摄状态不稳定,确定所述图像处理模式为第四曝光融合模式,其中,所述第四曝光融合模式中图像的曝光值相同;所述第二曝光融合模式的曝光时间大于所述第四曝光融合模式的曝光时间。

在一种可能的实现方式中,所述根据所述状态信息和所述拍摄场景信息确定图像处理模式包括:根据所述拍摄场景信息确定所述终端设备的拍摄场景为高动态场景;当所述终端的状态信息不大于第一预设阈值时,确定所述图像处理模式为第一曝光融合模式,其中,所述第一曝光融合模式中存在至少两个相邻帧的图像的曝光值不同;当所述终端的状态信息大于第一预设阈值时,确定所述图像处理模式为第三曝光融合模式,其中,所述第三曝光融合模式中存在至少两个相邻帧的图像的曝光值不同;其中,所述第一预设阈值大于0.005,且所述第一预设阈值小于0.015,所述第一曝光融合模式的曝光时间大于所述第三曝光融合模式的曝光时间。

在一种可能的实现方式中,所述根据所述状态信息和所述拍摄场景信息确定图像处理模式包括:根据所述拍摄场景信息确定所述终端设备的拍摄场景为非高动态场景;当所述终端的状态信息不大于第一预设阈值时,确定所述图像处理模式为第二曝光融合模式,其中,所述第二曝光融合模式中图像的曝光值相同;当所述终端的状态信息大于第一预设阈值时,确定所述图像处理模式为第四曝光融合模式,其中,所述第四曝光融合模式中图像的曝光值相同;其中,所述第一预设阈值大于0.005,且所述第一预设阈值小于0.015,所述第二曝光融合模式的曝光时间大于所述第四曝光融合模式的曝光时间。

本发明第二方面实施例中对应特征的示例和具体的实现方式可以参考上述第一方面实施例中的有关规定,在此不再赘述。

本发明第三方面实施例公开了一种图像处理的装置,所述装置包括:

获取模块,所述获取模块用于获取终端设备的状态信息;

模式选择模块,所述模式选择模块用于根据所述状态信息选择第一图像处理模式集合或者选择第二图像处理模式集合,其中,所述第一图像处理模式集合中任一图像处理模式的曝光时间大于所述第二图像处理模式集合中任一图像处理模式的曝光时间;

图像拍摄模块,所述图像拍摄模块用于获取终端设备的拍摄场景信息;

所述模式选择模块还用于根据所述拍摄场景信息,从所述第一图像处理模式集合或所述第二图像处理模式集合中确定目标图像处理模式;

图像拍摄模块,所述图像拍摄模块还用于根据所述目标图像处理模式获取待显示图像。

在本发明的一种可能的实现方式中,所述第一图像处理模式集合可以包括第一曝光融合模式和第二曝光融合模式。所述第二图像处理模式集合中可以包括第三曝光融合模式和第四曝光融合模式。关于第一曝光融合模式、第二曝光融合模式、第三曝光融合模式和第四曝光融合模式的说明和示例可以参考第一方面装置实施例的有关说明,在此不再赘述。

在一种可能的实现方式中,目标图像处理模式为上述第一至第四曝光融合模式中的一个。

本发明第三方面实施例里根据状态信息和拍摄场景信息选择目标图像处理模式的处理方式可以参考第一方面实施例里的有关示例和说明,在此不再赘述。

本发明第四方面实施例公开了一种图像处理的方法,所述方法包括:获取终端设备的状态信息;根据所述状态信息选择第一图像处理模式集合或者选择第二图像处理模式集合,其中,所述第一图像处理模式集合中任一图像处理模式的曝光时间大于所述第二图像处理模式集合中任一图像处理模式的曝光时间;获取终端设备的拍摄场景信息;根据所述拍摄场景信息,从所述第一图像处理模式集合或所述第二图像处理模式集合中确定目标图像处理模式;根据所述目标图像处理模式获取待显示图像。

在本发明的一种可能的实现方式中,所述第一图像处理模式集合可以包括第一曝光融合模式和第二曝光融合模式。所述第二图像处理模式集合中可以包括第三曝光融合模式和第四曝光融合模式。关于第一曝光融合模式、第二曝光融合模式、第三曝光融合模式和第四曝光融合模式的说明和示例可以参考第一方面装置实施例的有关说明,在此不再赘述。

在一种可能的实现方式中,目标图像处理模式为上述第一至第四曝光融合模式中的一个。

本发明第四方面实施例里根据状态信息和拍摄场景信息选择目标图像处理模式的处理方式可以参考第一方面实施例里的有关示例和说明,在此不再赘述。

本发明第五方面实施例公开了一种图像处理的装置,所述装置包括:一个或多个处理器、存储器。该存储器与一个或多个处理器耦合;存储器用于存储计算机程序代码,计算机程序代码包括指令,当一个或多个处理器执行指令时,处理装置执行如上述第二或第四方面以及第二或第四方面的任意一种可能的实现方式所述的图像处理方法。

本发明第六方面实施例公开了一种计算机可读存储介质,所述计算机可读存储介质中存储有指令,其特征在于,当所述指令在设备上运行时,使得设备执行如上述第二或第四方面以及第二或第四方面的任意一种可能的实现方式所述的图像处理方法。

本发明第七方面实施例公开了一种处理器,所述处理器用于执行如上述第二或第四方面以及第二或第四方面的任意一种可能的实现方式所述的图像处理方法。

应理解,本申请的第二至第七方面及对应的实现方式所取得的有益效果参见本申请的第一方面及对应的实现方式所取得的有益效果,在此不再赘述。

附图说明

图1是本发明实施例的一种直方图和动态范围的示意图。

图2是本发明实施例的一种图像处理方法的流程示意图。

图3是本发明实施例的另一图像处理方法的流程示意图。

图4是本发明实施例的另一图像处理方法的流程示意图。

图5是本发明实施例的另一图像处理方法的流程示意图。

图6是本发明实施例的一种图像处理装置的结构示意图。

图7是本发明实施例的另一种图像处理装置的结构示意图。

图8是本发明实施例的一种用于图像处理的终端设备的结构示意图。

具体实施方式

下面将结合附图,对本发明实施例中的技术方案进行描述。

如图2所示,根据本发明实施例的一种图像处理的方法s20,所述方法包括:

s201:获取终端设备的状态信息。

状态信息可以是通过终端设备上的传感器直接采集得到的信息,例如可以通过终端设备上的重力感应器或者陀螺仪等设备采集得到的信息,也可以是基于上述信息进行计算或其它处理之后得到的信息。终端设备可以包括智能手机,平板电脑,笔记本电脑等设备。

在一种可能的实现方式中,可以通过重力感应器测量由于重力引起的加速度的值,将加速度的值作为状态信息;在另一种可能的实现方式中,可以通过陀螺仪测量终端设备是否处于稳定状态,将陀螺仪采集的终端设备的姿态信息作为状态信息。

可以理解的是,在获取终端设备的状态信息之前,终端设备还可以获取触发信息,所述触发信息可以使得终端设备进入预览显示模式,在终端设备的显示屏上呈现摄像头捕捉的图像。该触发信息可以是用户触发移动终端的实体按键所形成的信息,例如快门按键;也可以是用户在触摸屏上进行相应操作后所形成的信息,例如通过点击或者滑动的方式激活摄像头的拍摄功能。在一种可能的实现方式中,预览显示模式指的是终端设备在显示屏上呈现摄像头捕捉的图像,旨在提示用户当前摄像头所能捕捉的图像内容,以便用户调整相应的取景状态,但此时未进行正式的拍照,取景的图像不会保存到设备的存储介质。拍照模式是指当用户完成取景并按下快门按键时,设备会获取摄像头捕捉的图像,经过相应的方法处理之后,最终的照片图像保存至设备的存储介质。在一种可能的实现方式中,当前图像指的是预览显示模式下终端设备的摄像头捕捉到的图像数据。

s202:获取终端设备的拍摄场景信息。

终端设备的拍摄场景信息主要用于表示拍摄场景的动态范围。通常以直方图的形式表示。

直方图在图像处理中有着广泛的应用,亮度直方图是用来体现图像亮度分布的图表,它显示了图像中不同亮度对象所占的图像比例。在一个示例中,在一张图像的直方图中,横轴代表的是图像中的亮度,由左向右,从全黑逐渐过渡到全白;纵轴代表的则是图像中处于这个亮度范围的像素的相对数量。

在图像拍摄处理领域,动态范围主要是指拍摄对象的亮度范围,即拍摄对象里最暗点到最亮点的亮度跨度。在大动态范围的场景里,最亮部分与最暗部分相差比较大,画面的对比度高,层次丰富;而在小动态范围的场景里,则多数对象的亮度都差不多,画面对比度低。动态范围可以用比值或者差值来进行量化描述。

图1给出了一个直方图和动态范围的示例,如图1所述,左上图为拍摄得到的一副图像,左下图是左上图像的直方图,从左下的直方图可以看出左上图像的亮度范围较广,动态范围高;右下图是右上图像的直方图,从右下的直方图可以看出右上图像的亮度范围较窄,动态范围较低。

s203:确定图像处理模式。

在一种实现方式中,在获取了终端设备的状态信息之后,根据状态信息判断终端设备是否处于稳定状态。

当终端设备处于静止或者基本静止的状态时,例如放置于三角架或其它固定装置上,可以认为终端设备处于稳定状态;当终端设备处于运动状态或者轻微抖动状态时,例如用户手持终端设备进行拍摄,或者用户手持终端设备的固定装置(例如自拍杆)进行拍摄,可以认为终端设备处于非稳定状态。在可能的方式中,可以通过将状态信息与预设阈值进行比较的方式来判断终端设备是否处于稳定状态。例如,当陀螺仪获取到的值大于第一阈值时,可以认为终端设备处于非稳定状态;或者当陀螺仪获取到的值小于等于第一阈值时,可以认为终端设备处于稳定状态。第一阈值的取值可以根据设备的特性进行设置,一个典型的手机陀螺仪的稳定阈值可以设为0.01。

在一种实现方式中,对拍照前一小段时间内进行多次判断可以提升检测的准确性,例如在拍照前的小段时间内,陀螺仪获取的数值大于第一阈值的情况达到2次或以上,即为非稳定状态。

在本发明方案的一种可能的实现方式中,还包括对拍摄场景的判断,根据终端设备的状态和拍摄场景的动态范围,决定要使用的图像处理模式。

在一种可能的实现方式中,可以通过当前图像的直方图判断当前的拍摄场景。例如,先获取当前图像的直方图,统计直方图的过曝和欠曝比例;比如亮度高于250的像素作为过曝的像素,亮度小于10的像素视为欠曝的像素,统计过曝和欠曝像素的比例,如果过曝比例大于一个设定的阈值,且欠曝比例大于另一个预先设定的阈值,则认为图像属于高动态场景,一般高动态范围的比例会根据算法实际效果进行调整,在一个示例中,判断阈值是过曝的比例大于1%及欠曝的比例大于5%或10%。可以理解的是,上述数值和比例只是为了帮助理解本发明实施例而举出的一般性示例,本领域普通技术人员可以根据终端设备的参数设置其它的阈值数值。

当所述终端设备的拍摄状态稳定,且所述终端设备的拍摄场景属于高动态场景时,所述图像处理模式为第一曝光融合模式,其中,所述第一曝光融合模式中存在至少两个相邻帧的图像的曝光值不同;

在一种可能的实现方式中,当所述终端设备的拍摄状态稳定,且所述终端设备的拍摄场景不属于高动态场景时,确定所述图像处理模式为第二曝光融合模式,其中,所述第二曝光融合模式中图像的曝光值相同。例如,曝光值可以都为40。

对于非高动态场景,使用相同的曝光值进行处理,可以获得噪声更低的图像。

在一种可能的实现方式中,当所述终端设备的拍摄状态不稳定,且所述终端设备的拍摄场景属于高动态场景时,确定所述图像处理模式为第三曝光融合模式,其中,所述第三曝光融合模式中存在至少两个相邻帧的图像的曝光值不同。

在一种可能的实现方式中,当所述终端设备的拍摄状态不稳定,且所述终端设备的拍摄场景不属于高动态场景时,确定所述图像处理模式为第四曝光融合模式,其中,所述第四曝光融合模式中图像的曝光值相同。

在一种可能的实现方式中,所述第一曝光融合模式的曝光时间大于所述第三曝光融合模式的曝光时间;例如,

在一种可能的实现方式中,所述第二曝光融合模式的曝光时间大于所述第四曝光融合模式的曝光时间;

可以理解的是,本发明实施例的不属于高动态场景与非高动态场景的含义相同。

在一种可能的实现方式中,所述第一曝光融合模式中要处理的图像帧数和所述第二曝光融合模式中要处理的图像帧数相同;

在一种可能的实现方式中,所述第三曝光融合模式中要处理的图像帧数和所述第四曝光融合模式中要处理的图像帧数相同;

在一种可能的实现方式中,所述第一曝光融合模式或所述第二曝光融合模式中要处理的图像帧数大于所述第三曝光融合模式或所述第四曝光融合模式中要处理的图像帧数。

s204:根据图像处理模式获取待显示图像。

本发明实施例所述的根据图像处理模式获取待显示图像,可以是指在确定了图像的帧数和每一帧对应的曝光参数之后,按照相应的曝光参数使用摄像头拍摄待显示图像。不同的图像处理模式所对应的曝光参数的设置方式不同。

在一种可能的实现方式中,在图像处理模式为第一曝光融合模式时,计算拍摄所用的最大和最小的曝光值;计算最大曝光值时,统计当前图像较暗的一定比例的像素的平均值(一种典型的实施例是选取图像中最暗的30%的像素,计算这些像素的亮度平均值),如果一定比例的像素的平均值小于预设的目标亮度(例如对于亮度在0-255范围内的图像,目标亮度可以是60或相近的值),则增加曝光值(提升曝光值的方法可以使增加曝光时间,或者增加相机增益,甚至有些可以是增大光圈,从而提升所有像素的亮度),使选取的像素的平均亮度值达到目标亮度,此时目标亮度对应的曝光值则为最大曝光值。在一个示例中,通过记录最大曝光值对应的曝光参数(例如曝光时间、光圈值和感光度组合),用于拍摄待显示图像时设置相应的曝光参数。

曝光值指的是按照曝光参数(光圈,曝光时间,感光度组合等)计算出来的一个值,反映了相机的进光量及相机增益。通常曝光值的计算方式可以是:

l=t*iso/(a*a),

其中l为曝光值,t为曝光时间,iso为相机感光度,a为光圈值。

曝光值和图像亮度存在一定的关系,同一光照场景下,曝光值l越大,相机得到的图像亮度越高。

在一种可能的实现方式中,如果一定比例的像素的平均值不小于预设的目标值,则最大曝光值为当前图像的曝光参数所对应的曝光值。将当前图像的曝光参数(例如曝光时间、光圈值和感光度组合等),设置为拍摄待显示图像时的曝光参数。

可以理解的是,因为进入第一曝光融合模式的前提是高动态场景,在判定高动态场景时,欠曝像素比例超过5%至10%,因此最暗的30%通常情况下亮度都能低于目标亮度,达不到的预设的目标值情况较少。

本发明实施例所述的图像较暗的一定比例,可以是指像素的比例,例如,图像的像素个数是100时,按照亮度值从小到大选取30个亮度值较小的像素。

计算最小曝光值时,统计图像最亮的一定比例的像素的亮度平均值(一种实施例是选取最亮的1%的像素,计算这些像素的平均值),如果该平均值大于设定的阈值(例如,对于0-255亮度范围的图像,阈值可以为180),则减小曝光值,直到平均值达到设定的阈值,此时的曝光值作为最小曝光值;如果像素的平均值不大于设定的阈值,则将像素的平均值作为最小曝光值。

可以理解的是,此处与最大曝光计算方式相似,一般高动态都能满足1%的过曝,因此基本都大于目标值。如果小于目标值,则无需调整,纪录当前曝光参数用于拍摄待显示图像。

在得到了最大曝光值和最小曝光之后,根据最大曝光值和最小曝光值的比例,计算出所需要的不同曝光的帧数;

在计算不同的曝光所需要的帧数时,可以先设定一个步长,第一融合处理模式下会设定一个相对小一些的步长,例如步长可以是1.5。可以理解的是,此处还可以设置更长的步长,如果步长更长的话拍摄的帧数就会相对较少,拍摄更快,不容易模糊。

在每种融合处理模式下,步长是相对固定的值,具体取值可以根据终端设备的参数进行不同的设置,比如有光学防抖的设备可以设的相对小一些,其它的设备可以设的大一些。典型值是1.5-2.0。

在得到了步长之后,用最小的曝光值乘以相应的步长,如果第n次乘以步长之后曝光值大于最大曝光值,则最后帧数就定为n,n为正整数。在一个示例中,例如最小曝光值是10,最大曝光值是60,步长是1.5,则n为5。

示例:

10x1.5=15

15x1.5=22.5

22.5x1.5=33.75

33.75x1.5=50.625

50.625x1.5=75.9375

上面计算出的n帧图像,曝光值是各不相同的。

而在计算出n帧图像之后,还会计算出需要的最大曝光图像的数量,这些帧的曝光值是相同的,都是最大曝光值。

在一种示例中,最大曝光图像的数量的计算方法是,以最大曝光图像的亮度做非线性累加,累加到m帧后的图像平均亮度达到设定的目标值(对于终端设备处于稳定状态时,目标值可以设置为80),那m就是最大曝光值所需要出的帧数。最终需要处理的总帧数就是n+m。m为正整数。此处的图像平均亮度指的是某一帧图像内的像素的平均亮度值。

在一个示例中,非线性累加过程指的是,以当前图像帧为基础,当收到一帧输入图像时,根据当前图像的亮度值设定一个累加系数,累加系数和图像帧中像素的亮度值成反比关系。图像的亮度值越大,累加系数就越小;然后将系数乘以输入图像的亮度后加到当前图像上,从而得到累加结果。在一个示例中,当前图像的某个像素的亮度值为100,则对应的累加系数为0.3,如果待显示图像中相同坐标的像素点亮度为80,那么累加后像素亮度为100+0.3x80=124;而当前图像中另一个像素的亮度值为60,其累加系数为0.5,对应的输入图上同一位置的像素亮度为40,则累加后亮度为60+0.5x40=80。

在本发明的一种可能的实现方式中,在图像处理模式为第二曝光融合模式时:

先计算所需要的曝光值,统计当前图像最亮的区域的均值,例如统计当前图像最亮的,占全图数量1%的像素的平均值。如果均值大于设定的目标亮度则减小曝光值使均值达到目标亮度,一般情况下,如果亮度高于目标值,为了提升效果,尽量选择降低曝光值;在一种可能的实现方式中,也可以直接将像素的平均值作为目标值。在一种可能的实现方式中,也可以不进行目标亮度值的判断或者在平均亮度值小于等于目标值的情况下,以当前曝光值对应的曝光参数拍摄待显示图像。

根据当前场景的相机增益,计算所需要的图像帧数,相机增益越大,帧数越多;在一个帧数计算的示例中,比如增益在400(iso)以下,帧数为4帧,400-1600之间使用8帧,1600-3200使用16帧。数量可以自行设置。

在本发明的一种可能的实现方式中,第三曝光融合模式和第一曝光融合模式的处理比较类似,主要区别在于,计算最大曝光值和最小曝光值的目标亮度有所区别,以及计算帧数时步长的设置有区别。

在终端设备处于非稳定状态时,最大曝光值对应的目标亮度小于稳定状态下的目标亮度,例如非稳定状态下的目标亮度可以设置为40,稳定状态下的目标亮度可以设置为60。在终端设备处于非稳定状态时,最小曝光值对应的目标亮度大于稳定状态小的目标亮度,例如亮度目标设置为200,稳定状态下目标亮度可以设置为180。

在终端设备处于非稳定状态下,计算帧数时的步长可以设定一个比稳定状态下更大的值。例如稳定状态下步长设置为1.5,非稳定状态下步长设为2.0。步长更长的话拍摄的帧数就会相对较少,拍摄更快,不容易模糊。对于计算最长曝光帧数时的累加目标亮度值,非稳定状态下要比稳定状态下低,例如稳定状态下累加目标亮度值可以设为80,非稳定状态下累加目标亮度值可以设为60。

在一种可能的实现方式中,所述第一曝光融合模式的曝光时间大于所述第三曝光融合模式的曝光时间;例如,对于所述第一曝光融合模式中对应最大曝光值的帧的最大曝光时间为1秒,而第三曝光融合模式中对应最大曝光值的帧的最大曝光时间为250毫秒。此外,对于某个特定的曝光值的实现,在第一曝光融合模式中,会优先使用较大的曝光时间,而使用较低的感光度和光圈值,比如采用500毫秒的曝光时间和100的感光度;而在第三模式中,实现相同的曝光值,则会采用较短的曝光时间,而使用相对较高的感光度和较大的光圈值,例如使用100毫秒的曝光时间与500感光度的组合。

在本发明一种可能的实现方式中,第四曝光融合模式和第二曝光融合模式的处理比较类似,主要区别在于,目标亮度值的不同,曝光时间的不同。

在一种可能的实现方式中,所述第二曝光融合模式的曝光时间大于所述第四曝光融合模式的曝光时间。例如,对于所述第二曝光融合模式中对应最大曝光值的帧的最大曝光时间为2秒,而第四曝光融合模式中对应最大曝光值的帧的最大曝光时间为1秒。此外,对于某个特定的曝光值的实现,在第二曝光融合模式中,会优先使用较大的曝光时间,而使用较低的感光度和光圈值,比如采用500毫秒的曝光时间和100的感光度;而在第四模式中,实现相同的曝光值,则会采用较短的曝光时间,而使用相对较高的感光度和较大的光圈值,例如使用100毫秒的曝光时间与500感光度的组合。

在一个示例中,当图像处理模式为第三曝光融合模式时,

计算拍摄所用的最大和最小的曝光值;计算最大曝光值时,统计图像较暗的一定比例的像素的平均值(一种典型的实施例是选取图像中最暗的30%的像素,计算这些像素的亮度平均值),如果一定比例的像素的平均值小于预设的目标值(例如对于亮度在0-255范围内的图像,目标亮度可以是40或相近的值),则增加曝光值(提升曝光值的方法可以使增加曝光时间,或者增加相机增益,甚至有些可以是增大光圈,从而提升所有像素的亮度),使其达到目标值。在一个示例中,通过记录最大曝光值对应的曝光参数(例如曝光时间、光圈值和感光度组合),用于拍摄待显示图像时设置相应的曝光参数。

在一种可能的实现方式中,如果一定比例的像素的平均值不小于预设的目标值,则最大曝光值为当前图像的曝光参数所对应的曝光值。将当前图像的曝光参数(例如曝光时间、光圈值和感光度组合等),设置为拍摄待显示图像时的曝光参数。

可以理解的是,因为进入第一曝光融合模式的前提是高动态场景,在判定高动态场景时,欠曝像素比例超过5%至10%,因此最暗的30%通常情况下亮度都能低于目标亮度,达不到的预设的目标值情况较少。

本发明实施例所述的图像较暗的一定比例,可以是指像素的比例,例如,图像的像素个数是100时,按照亮度值从小到大选取30个亮度值较小的像素。

计算最小曝光值时,统计图像最亮的一定比例的像素的亮度平均值(一种实施例是选取最亮的1%的像素,计算这些像素的平均值),如果该平均值大于设定的阈值(例如,对于0-255亮度范围的图像,阈值可以为180),则减小曝光值,直到平均值达到设定的阈值,此时的曝光值作为最小曝光值;如果像素的平均值不大于设定的阈值,则将像素的平均值作为最小曝光值。

可以理解的是,此处与最大曝光计算方式相似,一般高动态都能满足1%的过曝,因此基本都大于目标值。如果小于目标值,则无需调整,纪录当前曝光参数用于拍摄待显示图像。

在得到了最大曝光值和最小曝光之后,根据最大曝光值和最小曝光值的比例,计算出所需要的不同曝光的帧数;

在计算不同的报告所需要的帧数时,可以先设定一个步长,第一融合处理模式下会设定一个相对小一些的步长,例如步长可以是2。可以理解的是,此处还可以设置更长的步长,如果步长更长的话拍摄的帧数就会相对较少,拍摄更快,不容易模糊。

在每种融合处理模式下,步长是相对固定的值,具体取值可以根据终端设备的参数进行不同的设置,比如有光学防抖的设备可以设的相对小一些,其它的设备可以设的大一些。典型值是1.5-2.0。

在得到了步长之后,用最小的曝光值乘以相应的步长,如果第n次乘以步长之后曝光值大于最大曝光值,则最后帧数就定为n,n为正整数。在一个示例中,例如最小曝光值是10,最大曝光值是40,步长是2,则n为3。

上面计算出的n帧图像,曝光值是各不相同的。

而在计算出n帧图像之后,还会计算出需要的最大曝光图像的数量,这些帧的曝光值是相同的,都是最大曝光值。

在一种示例中,最大曝光图像的数量的计算方法是,以最大曝光图像的亮度做非线性累加,累加到m帧后的图像平均亮度达到设定的目标值(对于终端设备处于稳定状态时,目标值可以设置为80),那m就是最大曝光值所需要出的帧数。最终需要处理的总帧数就是n+m。m为正整数。

在一个示例中,非线性累加过程指的是,以当前图像帧为基础,当收到一帧输入图像时,根据当前图像的亮度值设定一个累加系数,累加系数和图像帧的亮度值成反比关系。图像的亮度值越大,累加系数就越小;然后将系数乘以输入图像的亮度后加到当前图像上,从而得到累加结果。在一个示例中,当前图像的某个像素的亮度值为100,则对应的累加系数为0.3,如果收到的输入图像中相同坐标的像素点亮度为80,那么累加后像素亮度为100+0.3x80=124;而当前图像中另一个像素的亮度值为60,其累加系数为0.5,对应的输入图上同一位置的像素亮度为40,则累加后亮度为60+0.5x40=80。

在本发明的一种可能的实现方式中,在图像处理模式为第四曝光融合模式时,

先计算所需要的曝光值,统计当前图像最亮的区域的均值,例如统计当前图像最亮的,占全图数量1%的像素的平均值。如果均值大于设定的目标亮度则减小曝光值使均值达到目标亮度,一般情况下,如果亮度高于目标值,为了提升效果,尽量选择降低曝光值;在一种可能的实现方式中,也可以不进行目标亮度值的判断或者在平均亮度值小于等于目标值的情况下,以当前曝光值对应的曝光参数拍摄待显示图像。

根据当前场景的相机增益,计算所需要的图像帧数,相机增益越大,帧数越多;在一个帧数计算的示例中,比如增益在400(iso)以下,帧数为4帧,400-1600之间使用8帧,1600-3200使用16帧。数量可以自行设置。

第四曝光融合模式和第二曝光融合模式下,一个拍摄周期内拍摄的帧数可以相同,也可以不同。

在一种可能的实现方式中,待显示图像可以是用户触发快门键时摄像头需要捕捉的图像。快门键可以是实体的按键,也可以是触摸屏上的虚拟按键。在一些示例中,也可以不通过快门键,而是可以通过捕捉语音指令或者用户动作的方式触发拍照,此时摄像头捕捉的数据为待显示图像。

在一种示例中,待显示图像可以包括触发拍摄功能后摄像头拍摄的多帧图像。待显示图像可以是触发拍摄功能后摄像头拍摄的第一帧图像,或者是触发拍摄功能后在一个拍摄周期内摄像头拍摄的最后一帧图像,或者是触发拍摄功能后在一个拍摄周期中处于中间时刻时摄像头拍摄的图像。本示例所述的拍摄周期,可以是指曝光融合模式中所要拍摄的多帧图像的拍摄时间段,例如第一曝光融合模式需要拍摄10帧图像,则当前待显示图像可以为第1帧图像,第4帧图像或第10帧图像。

在一种可能的实现方式中,本发明实施例所述的图像处理的方法还包括,

s205:对待显示图像进行处理。

在一个示例中,在摄像头根据所需要的曝光值进行拍照后,每拍摄得到的待显示图像中的一帧图像与上一帧图像进行相加,同时平均后的结果用于屏幕显示。

在一种可能的实现方式中,当收到最后一帧图像或者提前终止时,对累加图像进行平均后,进行降噪和动态范围矫正,然后经过isp处理输出最后的图像,用于显示屏显示。

s206:显示处理后的图像。在一种可能的实现方式中,终端设备每收到一帧图像会和上一帧的处理结果合成一张图像,并将当前处理结果在屏幕上显示,提供用于预览,但是不会保存当前图像到储存介质,直到用户提前结束,或者所有帧都处理完之后,就会将最终结果保存到设备里,作为最终的输出供用户浏览。可以理解的是,终端设备可以在处理完成后在显示屏上呈现最终的合成图像,也可以暂时先不呈现,待后续用户进行图像浏览时再在显示屏上呈现最终的合成图像。

在一个示例中,

1、对于前n个不同曝光的帧,每处理一帧,会用当前处理帧与前一帧的结果做hdr融合,并将融合结果进行显示,同时也将当前处理帧的亮度值非线性累加到上一帧的累加结果上,但是累加结果既不显示,也不参与融合;

2、对于相同曝光的m帧,每个输入帧会先累加到前一次累加的结果上,然后将累加结果与上一帧的hdr融合结果进行hdr融合,再将融合结果进行显示。

在本发明实施例的一种可能的实现方式中,当收到最大曝光之后的相同曝光图像,对每帧图像进行非线性累加,并将累加结果同样建立图像金字塔后与现有的金字塔进行融合;每收到一帧图像时,对建立的金字塔进行重建,得到的图像显示在屏幕上;图像金字塔是hdr多帧融合采用的一种现有技术,是将图像按照频率分成不同的图像层,对两副图像中对应的图像层进行加权求和,最后将各层的结果重新叠加成一幅图像。当收到最后一帧图像时,或者应用提前终止时,对图像进行金字塔重建,得到最终的输出图像。

可以理解的是,在上述的示例中,在某些情况下,在执行了s205的步骤后,并不必然执行s206的显示步骤。

下面结合图3进一步描述本发明实施例的图像处理方法,如图3所示,所述方法包括:

s301:终端设备是否处于稳定状态;

在一种可能的实现方式中,状态信息可以是通过终端设备上的传感器直接采集得到的信息,例如可以通过终端设备上的重力感应器或者陀螺仪等设备采集得到的信息,也可以是基于上述信息进行计算或其它处理之后得到的信息。终端设备可以包括智能手机,平板电脑,笔记本电脑等设备。

在一种可能的实现方式中,可以通过重力感应器测量由于重力引起的加速度的值,将加速度的值作为状态信息;在另一种可能的实现方式中,可以通过陀螺仪测量终端设备是否处于稳定状态,将陀螺仪采集的终端设备的姿态信息作为状态信息。

在获取了终端设备的状态信息之后,根据状态信息判断终端设备是否处于稳定状态。

当终端设备处于静止或者基本静止的状态时,例如放置于三角架或其它固定装置上,可以认为终端设备处于稳定状态;当终端设备处于运动状态或者轻微抖动状态时,例如用户手持终端设备进行拍摄,或者用户手持终端设备的固定装置(例如自拍杆)进行拍摄,可以认为终端设备处于非稳定状态。在可能的方式中,可以通过将状态信息与预设阈值进行比较的方式来判断终端设备是否处于稳定状态。例如,当陀螺仪获取到的值大于第一阈值时,可以认为终端设备处于非稳定状态;或者当陀螺仪获取到的值小于等于第一阈值时,可以认为终端设备处于稳定状态。第一阈值的取值可以根据设备的特性进行设置,一个典型的手机陀螺仪的稳定阈值可以设为0.008,0.01,0.011等数值。

s302:是否属于高动态场景;

在一种可能的实现方式中,步骤s302可以参考前述图2中相关的示例,在此不再赘述。

s303:使用第一曝光融合模式至第四曝光融合模式中的一个获取待显示图像。

在一种可能的实现方式中,步骤s303可以参考前述图2中相关的示例,在此不再赘述。

下面结合图4进一步描述本发明实施例的图像处理方法,如图4所示,所述方法包括:

s401:是否属于高动态场景;

在一种可能的实现方式中,步骤s401可以参考前述图2中相关的示例,在此不再赘述。

s402:终端设备是否处于稳定状态;

在一种可能的实现方式中,在一种可能的实现方式中,状态信息可以是通过终端设备上的传感器直接采集得到的信息,例如可以通过终端设备上的重力感应器或者陀螺仪等设备采集得到的信息,也可以是基于上述信息进行计算或其它处理之后得到的信息。终端设备可以包括智能手机,平板电脑,笔记本电脑等设备。

在一种可能的实现方式中,可以通过重力感应器测量由于重力引起的加速度的值,将加速度的值作为状态信息;在另一种可能的实现方式中,可以通过陀螺仪测量终端设备是否处于稳定状态,将陀螺仪采集的终端设备的姿态信息作为状态信息。

在获取了终端设备的状态信息之后,根据状态信息判断终端设备是否处于稳定状态。

当终端设备处于静止或者基本静止的状态时,例如放置于三角架或其它固定装置上,可以认为终端设备处于稳定状态;当终端设备处于运动状态或者轻微抖动状态时,例如用户手持终端设备进行拍摄,或者用户手持终端设备的固定装置(例如自拍杆)进行拍摄,可以认为终端设备处于非稳定状态。在可能的方式中,可以通过将状态信息与预设阈值进行比较的方式来判断终端设备是否处于稳定状态。例如,当陀螺仪获取到的值大于第一阈值时,可以认为终端设备处于非稳定状态;或者当陀螺仪获取到的值小于等于第一阈值时,可以认为终端设备处于稳定状态。第一阈值的取值可以根据设备的特性进行设置,一个典型的手机陀螺仪的稳定阈值可以设为0.008,0.01,0.011等数值。

s403:使用第一曝光融合模式至第四曝光融合模式中的获取对待显示图像。

在一种可能的实现方式中,步骤s403可以参考前述图2中相关的示例,在此不再赘述。

下面结合图5描述本发明实施例的一种图像处理方法,如图5所示,所述方法包括:

s501:判断终端设备是否处于稳定状态;

在一种可能的实现方式中,步骤s501可以参考前述图2中相关的示例,在此不再赘述。

s502:确定第一处理模式集合或第二处理模式集合;

在一种可能的实现方式中,第一处理模式集合包括了第一曝光融合模式和第二曝光融合模式;第二处理模式集合包括了第三曝光融合模式和第四曝光融合模式。

s503:判断是否属于高动态场景;

在一种可能的实现方式中,步骤s503可以参考前述图2中相关的示例,在此不再赘述。

s504:使用第一曝光融合模式至第四曝光融合模式中的一个获取待显示图像。

在一种可能的实现方式中,步骤s504可以参考前述图2中相关的示例,在此不再赘述。

可以理解的是,本发明方案实施例的执行过程中,可以不进行终端设备状态的判断,而是根据状态信息得到要使用的图像处理模式。例如,当陀螺仪获取到的值大于第一阈值时,使用第二图像处理模式集合中的曝光融合模式进行图像的拍摄处理;当陀螺仪获取到的值小于等于第一阈值时,使用第一处理模式集合中的曝光融合模式进行图像的拍摄处理。第一阈值的取值可以是0.01,即一般手机陀螺仪的稳定阈值。其中,第一处理模式集合中对图像的曝光时间比第二处理模式集合中对图像的曝光时间要长。在一些实现方式中,第一处理模式集合中需要处理的帧数也会比第二处理模式集合中的帧数更多,总时间上也更长。

下面结合图6描述本发明实施例的一种图像处理装置,如图6所示,图像处理装置600包括:

获取模块601,图像拍摄模块602,模式选择模块603,处理模块604,其中,模式选择模块603分别和获取模块601、图像拍摄模块602相连,处理模块604分别和图像拍摄模块602、模式选择模块603相连,呈现模块605和处理模块604相连。

获取模块601用于获取终端设备的状态信息;图像拍摄模块602用于获取终端设备的拍摄场景信息;模式选择模块603用于根据状态信息和拍摄场景信息确定图像处理模式;图像拍摄模块602还用于根据所述图像处理模式获取待显示图像;处理模块604用于对所述待显示图像进行处理,得到处理后的图像,呈现模块605用于显示处理后的图像。

图像处理装600中各模块的实施方式可以对应参考上述方法实施例中的有关示例和说明,在此不再赘述。

图7是本申请实施例的图像处理装置的结构示意图。图7所示的装置700可以看成是一种计算机设备,装置700可以作为本申请实施例的图像处理装置的一种实现方式,也可以作为本申请实施例的图像处理方法的一种实现方式,装置700包括处理器701、存储器702、输入/输出接口703和总线705,还可以包括通信接口704。其中,处理器701、存储器702、输入/输出接口703和通信接口704通过总线705实现彼此之间的通信连接。

处理器701可以采用通用的中央处理器(centralprocessingunit,cpu),微处理器,应用专用集成电路(applicationspecificintegratedcircuit,asic),或者一个或多个集成电路,用于执行相关程序,以实现本申请实施例的图像处理装置中的模块所需执行的功能,或者执行本申请方法实施例的图像处理的方法。处理器701可能是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法的各步骤可以通过处理器701中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器701可以是通用处理器、数字信号处理器(digitalsignalprocessing,dsp)、专用集成电路(asic)、现成可编程门阵列(fieldprogrammablegatearray,fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本申请实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器702,处理器701读取存储器702中的信息,结合其硬件完成本申请实施例的图像处理装置中包括的模块所需执行的功能,或者执行本申请方法实施例的图像处理的方法。

存储器702可以是只读存储器(readonlymemory,rom),静态存储设备,动态存储设备或者随机存取存储器(randomaccessmemory,ram)。存储器702可以存储操作系统以及其他应用程序。在通过软件或者固件来实现本申请实施例的图像处理装置中包括的模块所需执行的功能,或者执行本申请方法实施例的图像处理的方法时,用于实现本申请实施例提供的技术方案的程序代码保存在存储器702中,并由处理器701来执行图像处理装置中包括的模块所需执行的操作,或者执行本申请方法实施例提供的图像处理的方法。

输入/输出接口703用于接收输入的数据和信息,输出操作结果等数据。

通信接口704使用例如但不限于收发器一类的收发装置,来实现装置700与其他设备或通信网络之间的通信。可以作为处理装置中的获取模块或者发送模块。

总线705可包括在装置700各个部件(例如处理器701、存储器702、输入/输出接口703和通信接口704)之间传送信息的通路。

应注意,尽管图7所示的装置700仅仅示出了处理器701、存储器702、输入/输出接口703、通信接口704以及总线705,但是在具体实现过程中,本领域的技术人员应当明白,装置700还包括实现正常运行所必须的其他器件,例如还可以包括显示器,用于显示要播放的视频数据。同时,根据具体需要,本领域的技术人员应当明白,装置700还可包括实现其他附加功能的硬件器件。此外,本领域的技术人员应当明白,装置700也可仅仅包括实现本申请实施例所必须的器件,而不必包括图7中所示的全部器件。

下面结合图8描述本发明实施例的一种用于图像处理的终端设备,如图8所示,终端设备800包括:处理器801,摄像头802,显示屏803。

其中,图8中左侧的图为终端设备800的正面视图,图8中右侧的图为终端设备的背面视图。处理器801置于机体中。显示屏803可以覆盖正面机体的全部,也可以覆盖正面机体的部分。显示屏803可以是led(lightemittingdiode,发光二极管)屏,也可以是其它材质的屏幕,在一种可能的实现方式中,显示屏803具备触摸感应功能,可以接收用户的触摸操作。

处理器801用于获取终端设备的状态信息。

状态信息可以是通过终端设备上的传感器直接采集得到的信息,例如可以通过终端设备上的重力感应器或者陀螺仪等设备采集得到的信息,也可以是基于上述信息进行计算或其它处理之后得到的信息。终端设备可以包括智能手机,平板电脑,笔记本电脑等设备。

在一种可能的实现方式中,可以通过重力感应器测量由于重力引起的加速度的值,将加速度的值作为状态信息;在另一种可能的实现方式中,可以通过陀螺仪测量终端设备是否处于稳定状态,将陀螺仪采集的终端设备的姿态信息作为状态信息。

可以理解的是,在获取终端设备的状态信息之前,终端设备还可以获取触发信息,所述触发信息可以使得终端设备进入预览显示模式,在终端设备的显示屏上呈现摄像头捕捉的图像。该触发信息可以是用户触发移动终端的实体按键所形成的信息,例如快门按键;也可以是用户在触摸屏上进行相应操作后所形成的信息,例如通过点击或者滑动的方式激活摄像头的拍摄功能。在一种可能的实现方式中,预览显示模式指的是终端设备在显示屏上呈现摄像头捕捉的图像,旨在提示用户当前摄像头所能捕捉的图像内容,以便用户调整相应的取景状态,但此时未进行正式的拍照,取景的图像不会保存到设备的存储介质。拍照模式是指当用户完成取景并按下快门按键时,设备会获取摄像头捕捉的图像,经过相应的方法处理之后,最终的照片图像保存至设备的存储介质。

处理器801还用于获取终端设备800的拍摄场景信息。

终端设备的拍摄场景信息主要用于表示拍摄场景的动态范围。通常以直方图的形式表示。

直方图在图像处理中有着广泛的应用,亮度直方图是用来体现图像亮度分布的图表,它显示了图像中不同亮度对象所占的图像比例。在一个示例中,在一张图像的直方图中,横轴代表的是图像中的亮度,由左向右,从全黑逐渐过渡到全白;纵轴代表的则是图像中处于这个亮度范围的像素的相对数量。

在图像拍摄处理领域,动态范围主要是指拍摄对象的亮度范围,即拍摄对象里最暗点到最亮点的亮度跨度。在大动态范围的场景里,最亮部分与最暗部分相差比较大,画面的对比度高,层次丰富;而在小动态范围的场景里,则多数对象的亮度都差不多,画面对比度低。动态范围可以用比值或者差值来进行量化描述。

图1给出了一个直方图和动态范围的示例,如图1所述,左上图为拍摄得到的一副图像,左下图是左上图像的直方图,从左下的直方图可以看出左上图像的亮度范围较广,动态范围高;右下图是右上图像的直方图,从右下的直方图可以看出右上图像的亮度范围较窄,动态范围较低。

处理器801还用于根据状态信息和拍摄场景信息确定图像处理模式。具体的实现方式可以参考上述方法和装置实施例中的示例,例如图2实施例中的示例,在此不再赘述。

摄像头802用于根据确定的图像处理模式获取当前待显示图像,在一种可能的实现方式中,待显示图像可以包括触发拍摄功能后摄像头拍摄的多帧图像。待显示图像可以是触发拍摄功能后摄像头拍摄的第一帧图像,或者是触发拍摄功能后在一个拍摄周期内摄像头拍摄的最后一帧图像,或者是触发拍摄功能后在一个拍摄周期中处于中间时刻时摄像头拍摄的图像。本示例所述的拍摄周期,可以是指曝光融合模式中所要拍摄的多帧图像的拍摄时间段,例如第一曝光融合模式需要拍摄10帧图像,则当前待显示图像可以为第1帧图像,第4帧图像或第10帧图像。具体的,实现方式可以参考上述方法和装置实施例中的示例,例如图2实施例中的示例,在此不再赘述。

处理器801还用于对待显示图像进行处理。具体的,实现方式可以参考上述方法和装置实施例中的示例,例如图2实施例中的示例,在此不再赘述。

显示屏803用于显示处理后的图像。在一种可能的实现方式中,终端设备每收到一帧图像会和上一帧的处理结果合成一张图像,并将当前处理结果在屏幕上显示,提供用于预览,但是不会保存当前图像到储存介质,直到用户提前结束,或者所有帧都处理完之后,就会将最终结果保存到设备里,作为最终的输出供用户浏览。可以理解的是,终端设备可以在处理完成后在显示屏上呈现最终的合成图像,也可以暂时先不呈现,待后续用户进行图像浏览时再在显示屏上呈现最终的合成图像。

在一个示例中,对于前n个不同曝光的帧,每处理一帧,会用当前处理帧与前一帧的结果做hdr融合,并将融合结果进行显示,同时也将当前处理帧的亮度值非线性累加到上一帧的累加结果上,但是累加结果既不显示,也不参与融合;

对于相同曝光的m帧,每个输入帧会先累加到前一次累加的结果上,然后将累加结果与上一帧的hdr融合结果进行hdr融合,再将融合结果进行显示。

在本发明实施例的一种可能的实现方式中,当收到最大曝光之后的相同曝光图像,对每帧图像进行非线性累加,并将累加结果同样建立图像金字塔后与现有的金字塔进行融合;每收到一帧图像时,对建立的金字塔进行重建,得到的图像显示在屏幕上;图像金字塔是hdr多帧融合采用的一种现有技术,是将图像按照频率分成不同的图像层,对两副图像中对应的图像层进行加权求和,最后将各层的结果重新叠加成一幅图像。当收到最后一帧图像时,或者应用提前终止时,对图像进行金字塔重建,得到最终的输出图像。

本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的模块,单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。

所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的设备、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。

在本申请所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。

所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:u盘、移动硬盘、只读存储器(read-onlymemory,rom)、随机存取存储器(randomaccessmemory,ram)、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以所述权利要求的保护范围为准。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1