曝光的方法、装置、计算机系统和可移动设备与流程

文档序号:15403073发布日期:2018-09-11 18:01阅读:139来源:国知局
本专利文件披露的内容包含受版权保护的材料。该版权为版权所有人所有。版权所有人不反对任何人复制专利与商标局的官方记录和档案中所存在的该专利文件或者该专利披露。本发明涉及信息
技术领域
,并且更具体地,涉及一种曝光的方法、装置、计算机系统和可移动设备。
背景技术
:自动曝光是针对不同光线亮度和场景中物体反光强度的差异性对曝光时间和增益进行调节,以使目标物体在图像中亮度始终维持在一定范围内。对于自动驾驶、辅助驾驶、户外作业机器人等系统中多路相机组成的图像采集系统,在光照强度动态变化的场景下实时调整相机曝光时间,可以得到曝光合理的图像,作为诸如视觉里程计、双目/多目立体视觉、图像识别与跟踪等上层计算机视觉算法的输入,能够保证其结果的准确性和稳定性。因此,如何有效地调整曝光时间,成为一个亟待解决的技术问题。技术实现要素:本发明实施例提供了一种曝光的方法、装置、计算机系统和可移动设备,能够有效地调整曝光时间。第一方面,提供了一种曝光的方法,包括:根据第一图像的像素的亮度和该像素的亮度权重,确定该第一图像的平均亮度;根据该第一图像的平均亮度,该第一图像对应的曝光时间和第二图像的期望平均亮度,确定该第二图像对应的曝光时间。第二方面,提供了一种曝光的方法,包括:分别确定具有依赖关系的多个视觉传感器的曝光时间;对该多个视觉传感器的分别确定的曝光时间进行联合优化,以使该多个视觉传感器的优化后的曝光时间间的差异最小。第三方面,提供了一种曝光的装置,包括:平均亮度确定模块,用于根据第一图像的像素的亮度和该像素的亮度权重,确定该第一图像的平均亮度;曝光时间确定模块,用于根据该第一图像的平均亮度,该第一图像对应的曝光时间和第二图像的期望平均亮度,确定该第二图像对应的曝光时间。第四方面,提供了一种曝光的装置,包括:确定模块,用于分别确定具有依赖关系的多个视觉传感器的曝光时间;联合优化模块,用于对该多个视觉传感器的分别确定的曝光时间进行联合优化,以使该多个视觉传感器的优化后的曝光时间间的差异最小。第五方面,提供了一种计算机系统,包括:存储器,用于存储计算机可执行指令;处理器,用于访问所述存储器,并执行所述计算机可执行指令,以进行上述第一或第二方面的方法中的操作。第六方面,提供了一种移动设备,包括:上述第三或第四方面的曝光的装置;或者,上述第五方面的的计算机系统。第七方面,提供了一种计算机存储介质,该计算机存储介质中存储有程序代码,该程序代码可以用于指示执行上述第一或第二方面的方法。本发明实施例的技术方案,基于亮度权重确定图像的平均亮度,并根据该平均亮度调整曝光时间,这样所得到的曝光时间与像素的重要性关联,从而能够有效地调整曝光时间。附图说明图1是本发明实施例的可移动设备的示意性架构图。图2是本发明一个实施例的曝光的方法的示意性流程图。图3是本发明实施例的图像区域划分的示意图。图4是本发明实施例的图像过曝光的示意图。图5是本发明另一个实施例的曝光的方法的示意性流程图。图6是本发明一个实施例的曝光的装置的示意性框图。图7是本发明另一个实施例的曝光的装置的示意性框图。图8是本发明又一个实施例的曝光的装置的示意性框图。图9是本发明实施例的计算机系统的示意性框图。具体实施方式下面将结合附图,对本发明实施例中的技术方案进行描述。应理解,本文中的具体的例子只是为了帮助本领域技术人员更好地理解本发明实施例,而非限制本发明实施例的范围。还应理解,本发明实施例中的公式只是一种示例,而非限制本发明实施例的范围,各公式可以进行变形,这些变形也应属于本发明保护的范围。还应理解,在本发明的各种实施例中,各过程的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本发明实施例的实施过程构成任何限定。还应理解,本说明书中描述的各种实施方式,既可以单独实施,也可以组合实施,本发明实施例对此并不限定。本发明实施例的技术方案可以应用于各种图像采集系统、以及依赖图像或图像采集系统的各种设备,例如可移动设备。该可移动设备也可以称为移动设备。该可移动设备可以是无人机、无人驾驶船、自动驾驶车辆或机器人等,但本发明实施例对此并不限定。图1是本发明实施例的可移动设备100的示意性架构图。如图1所示,可移动设备100可以包括动力系统110、控制系统120、传感系统130和处理系统140。动力系统110用于为该可移动设备100提供动力。以无人机为例,无人机的动力系统可以包括电子调速器(简称为电调)、螺旋桨以及与螺旋桨相对应的电机。电机连接在电子调速器与螺旋桨之间,电机和螺旋桨设置在对应的机臂上;电子调速器用于接收控制系统产生的驱动信号,并根据驱动信号提供驱动电流给电机,以控制电机的转速。电机用于驱动螺旋桨旋转,从而为无人机的飞行提供动力。传感系统130可以用于测量可移动设备100的姿态信息,即可移动设备100在空间的位置信息和状态信息,例如,三维位置、三维角度、三维速度、三维加速度和三维角速度等。传感系统130例如可以包括陀螺仪、电子罗盘、惯性测量单元(inertialmeasurementunit,imu)、视觉传感器、全球定位系统(globalpositioningsystem,gps)、气压计、空速计等传感器中的至少一种。传感系统130还可用于采集图像,即传感系统130包括用于采集图像的传感器,例如相机等。控制系统120用于控制可移动设备100的移动。控制系统120可以按照预先设置的程序指令对可移动设备100进行控制。例如,控制系统120可以根据传感系统130测量的可移动设备100的姿态信息控制可移动设备100的移动。控制系统120也可以根据来自遥控器的控制信号对可移动设备100进行控制。例如,对于无人机,控制系统120可以为飞行控制系统(飞控),或者为飞控中的控制电路。处理系统140可以处理传感系统130采集的图像。例如,处理系统140可以为图像信号处理(imagesignalprocessing,isp)类芯片。在一些可能的设计中,处理系统140可以根据传感系统130已采集的图像确定采集下一图像的曝光时间。例如,处理系统140可以采用本发明实施例的技术方案确定曝光时间。在一些可能的设计中,处理系统140可以与传感系统130集成设置。例如,处理系统140可以集成到相应的视觉传感器中。应理解,上述对于可移动设备100的各组成部件的划分和命名仅仅是示例性的,并不应理解为对本发明实施例的限制。还应理解,可移动设备100还可以包括图1中未示出的其他部件,本发明实施例对此并不限定。图2示出了本发明一个实施例的曝光的方法200的示意性流程图。该方法200可以由图1所示的可移动设备100执行。具体地,可以由图1中的处理系统140执行。210,根据第一图像的像素的亮度和该像素的亮度权重,确定该第一图像的平均亮度。在本发明实施例中,在确定图像的平均亮度时,考虑像素的亮度权重。也就是说,对于图像的每个像素,在计算图像的平均亮度时,要考虑该像素的权重,即越重要的像素所占的权重越大。可选地,该第一图像的平均亮度为该第一图像的像素的亮度的加权平均值。例如,可以根据以下公式(1)计算图像的平均亮度其中i={r,g,b}表示图像,为像素p的亮度,ωp为像素p的亮度权重,w为归一化系数,w=∑ωp。可选地,该像素的亮度权重可以包括区域权重和色度权重中的至少一项,其中,该区域权重为与该像素的区域关联的权重,该色度权重为与该像素的色度关联的权重。可选地,作为一个示例,亮度权重ω可以表示为:ω=ωrωc(2)其中ωr为区域权重,ωc为色度权重。应理解,本发明实施例中的亮度权重可以只包括区域权重,或者只包括色度权重,或者同时包括区域权重和色度权重,或者还可以包括其他权重,本发明对此并不限定。可选地,对于该区域权重,若该像素的区域越接近目标对象的区域,则该区域权重越大。具体而言,针对特定场景,不同区域的重要性可能不同。对于不同的区域,可以根据区域的重要性设置不同的区域权重。例如,若某一区域越接近目标对象的区域,则区域权重越大。例如,以自动驾驶项目中的前视相机为例,在平行路面采集的图像中主要有行驶道路、道路两旁目标物体,天空和远处目标物体等组成,其中以行驶路面(目标对象)最为重要,其次是远处的目标和道路两侧的目标,再次则是图像中的剩余部分。根据这个先验知识,我们可以对图像进行区域划分,对于不同的区域,根据其重要性设置不同的权重,以保证最重要的区域获得更加合理的曝光设置。可选地,图像的区域划分策略和权重分配可以根据场景以及相机的安装位置决定。举例来说,在前视相机图像中可以如图3所示划分区域,各区域相应的权重可以如表1所示。表10.10.20.20.10.21.01.00.20.51.51.50.5在表1中,行驶路面所在区域的权重最大,而远离行驶路面的区域的权重较小。可选地,对于该色度权重,若该像素的色度越接近目标对象的色度,则该色度权重越大。具体而言,针对特定场景,不同色度的重要性也可能不同。对于不同的色度,也可以设置不同的色度权重。例如,若某一色度越接近目标对象的色度,则色度权重越大。例如,在图2中,行驶路面(目标对象)大部分为灰色,因此,可以利用色度权重来控制不同颜色物体的权重,使得颜色越接近灰色,权重越大。可选地,可以根据以下公式(3)确定色度权重ωc:其中列向量为灰色的色度。220,根据该第一图像的平均亮度,该第一图像对应的曝光时间和第二图像的期望平均亮度,确定该第二图像对应的曝光时间。在本发明实施例中,根据上述基于亮度权重的第一图像的平均亮度确定第二图像对应的曝光时间。该第一图像为已拍摄的图像,该第二图像为待拍摄的图像。可选地,该第一图像为最新的已拍摄的图像。也就是说,可以根据上一时刻拍摄的图像的基于亮度权重的平均亮度确定下一时刻进行拍摄的曝光时间。可选地,可以根据该第一图像的平均亮度和该第一图像对应的曝光时间,确定平均亮度导数;根据该第二图像的期望平均亮度,该第一图像的平均亮度和该平均亮度导数,确定曝光时间调整量;再根据该第一图像对应的曝光时间和该曝光时间调整量,确定该第二图像对应的曝光时间,可选地,可以根据该第一图像对应的曝光时间,该曝光时间调整量和调节系数,确定该第二图像对应的曝光时间。例如,平均亮度导数可以通过以下公式(4)计算:其中,平均亮度函数是关于曝光时间t的单调自增函数。根据1阶的泰勒展开公式可以得到:若期望平均亮度为假设则可以得到曝光时间调整量:所以可以得到下一时刻的曝光时间tn+1为:其中β为调节系数,用于控制自动曝光调节的速度。例如,若调节速度偏大,则可以通过降低调节系数来减缓调节速度,反之亦然。应理解,本发明实施例中的曝光时间的概念可以理解为曝光总量,其控制可以通过调整相机的快门速度(shutterspeed)、光圈大小(aperturesize)、或者增益(gain)来达到,并不特指某一分量。在本发明实施例中,基于亮度权重确定图像的平均亮度,并根据该平均亮度调整曝光时间,这样所得到的曝光时间与像素的重要性关联,从而能够有效地调整曝光时间。可选地,该第二图像的期望平均亮度可以为预先设定的。也就是说,可以预先设定待拍摄图像的期望平均亮度,据此得到相应的曝光时间,进而拍摄得到接近该期望平均亮度的图像。比如在8位的图像中,可以设置可选地,还可以对该第二图像的期望平均亮度进行动态调整。可选地,可以根据该第一图像中过曝光像素的百分比,调整该第二图像的期望平均亮度。例如,在不同天气情况或者不同场景下,道路路面的反光强度的差异有可能达到几十倍,假如应用固定的期望平均亮度,在道路两旁树木茂盛的地方,由于道路两旁树木反光相对于路面反光有可能出现十几倍的差距,这时候很容易出现路面过曝的问题,如图4所示。为此,可以通过动态调整期望平均亮度来解决这个问题。在本发明实施例中,可以通过利用图像过曝光像素所占百分比来调节期望平均亮度其中σ为图像in中过度曝光像素(例如)所占的百分比,为期望的过曝光比例。例如,可以设置为0.05。通过动态调整期望平均亮度,可以有效避免过曝光问题。上述本发明实施例的技术方案可以用于确定每个视觉传感器(相机)的曝光时间。图像采集系统中可能会包括多个具有依赖关系的视觉传感器。以双目立体视觉为例,其要求左右目相机的曝光时间一致,以便于进行图像特征点的匹配。如果曝光差异较大,有可能导致双目匹配的效果不佳,进而影响视觉算法的性能。如果系统中只存在一套双目视觉系统,则可以将其曝光时间设置为一致(比如针对双目独立曝光所计算的曝光时间的平均值)。但是当系统中存在多目立体视觉、或者某一相机被用于多套双目视觉系统中时,就需要对系统中所有相机的曝光时间进行联合优化。相应地,在本发明实施例中,还可以对具有依赖关系的多个视觉传感器的分别确定的曝光时间进行联合优化,以使该多个视觉传感器的优化后的曝光时间间的差异最小。对于每个视觉传感器,可以采用前述方案分别确定其曝光时间,然后再对多个视觉传感器的曝光时间进行联合优化。可选地,在进行进行联合优化时,可以根据该多个视觉传感器的配置,确定优化矩阵;根据该优化矩阵和该多个视觉传感器的分别确定的曝光时间,确定该多个视觉传感器的优化后的曝光时间。以系统中存在多套双目立体视觉系统为例(多目立体视觉与此情况类似),在具有任意路相机的系统中,假设有n个相机,分别确定的曝光时间为{t1,t2,t3,…,tn},其中存在m对双目立体视觉系统每一对双目立体视觉系统的权重系数分别为则可以得到以下方程组:上述线性方程组可以表达为以下矩阵的形式:at′=b(10)其中t′=(t‘1,t′2,t′3,…,t′n)t表示联合优化后的相机曝光时间,b=(t1,t2,…,tn,0,0,…,0)t。上述矩阵可以通过最小二乘法计算得到:t′=(ata)-1atb(11)矩阵a依赖于多个视觉传感器的配置,即图像采集系统的具体配置,因此(ata)-1at可以进行预计算,并不会在运行时带来额外的开销。以系统中采用3个相机,其中1,2、1,3号相机组成双目系统,双目权重系数均为1为例,矩阵a为:这样,通过b和a可以得到联合优化后的曝光时间t′。通过联合优化,可以使多个视觉传感器的曝光时间整体最优,从而提升整体性能。应理解,上述本发明实施例的确定曝光时间的技术方案和曝光时间联合优化的技术方案可以联合实施,也可以单独实施。换句话说,曝光时间联合优化的技术方案可以依赖于上述确定曝光时间的技术方案,也可以不依赖于上述确定曝光时间的技术方案。基于此,本发明实施例又提供了另一种曝光的方法,下面结合图5进行描述。应理解,图5所示方法中的一些具体的描述可以参考前述实施例,以下为了简洁,不再赘述。图5示出了本发明另一个实施例的曝光的方法500的示意性流程图。如图5所示,该方法500包括:510,分别确定具有依赖关系的多个视觉传感器的曝光时间;520,对该多个视觉传感器的分别确定的曝光时间进行联合优化,以使该多个视觉传感器的优化后的曝光时间间的差异最小。对于每个视觉传感器,其曝光时间可以采用前述实施例的技术方案确定,也可以采用其他方式确定,本发明实施例对此并不限定。对分别确定的多个视觉传感器的曝光时间的联合优化可以采用前述实施例的联合优化的技术方案,为了简洁,在此不再赘述。通过联合优化,可以使多个视觉传感器的曝光时间整体最优,从而提升整体性能。根据采用本发明实施例的技术方案确定的曝光时间,可以得到曝光合理的图像,作为诸如视觉里程计、双目立体视觉、图像识别与跟踪等上层计算机视觉算法的输入,能够保证其结果的准确性和稳定性。上文详细描述了本发明实施例的曝光的方法,下面将描述本发明实施例的曝光的装置、计算机系统和可移动设备。应理解,本发明实施例的曝光的装置、计算机系统和可移动设备可以执行前述本发明实施例的各种方法,即以下各种产品的具体工作过程,可以参考前述方法实施例中的对应过程。图6示出了本发明一个实施例的曝光的装置600的示意性框图。如图6所示,该装置600可以包括:平均亮度确定模块610,用于根据第一图像的像素的亮度和该像素的亮度权重,确定该第一图像的平均亮度;曝光时间确定模块620,用于根据该第一图像的平均亮度,该第一图像对应的曝光时间和第二图像的期望平均亮度,确定该第二图像对应的曝光时间。可选地,在本发明一个实施例中,该像素的亮度权重包括区域权重和色度权重中的至少一项,其中,该区域权重为与该像素的区域关联的权重,该色度权重为与该像素的色度关联的权重。可选地,在本发明一个实施例中,若该像素的区域越接近目标对象的区域,则该区域权重越大;和/或,若该像素的色度越接近目标对象的色度,则该色度权重越大。可选地,在本发明一个实施例中,该第一图像的平均亮度为该第一图像的像素的亮度的加权平均值。可选地,在本发明一个实施例中,该第二图像的期望平均亮度为预先设定的。可选地,如图7所示,在本发明一个实施例中,该装置600还可以包括:调整模块630,用于根据该第一图像中过曝光像素的百分比,调整该第二图像的期望平均亮度。可选地,在本发明一个实施例中,该曝光时间确定模块620用于:根据该第一图像的平均亮度和该第一图像对应的曝光时间,确定平均亮度导数;根据该第二图像的期望平均亮度,该第一图像的平均亮度和该平均亮度导数,确定曝光时间调整量;根据该第一图像对应的曝光时间和该曝光时间调整量,确定该第二图像对应的曝光时间。可选地,在本发明一个实施例中,该曝光时间确定模块620用于:该根据该第一图像对应的曝光时间,该曝光时间调整量和调节系数,确定该第二图像对应的曝光时间。可选地,在本发明一个实施例中,该第一图像为已拍摄的图像,该第二图像为待拍摄的图像。可选地,在本发明一个实施例中,该第一图像为最新的已拍摄的图像。可选地,如图7所示,在本发明一个实施例中,该装置600还可以包括:联合优化模块640,用于对具有依赖关系的多个视觉传感器的分别确定的曝光时间进行联合优化,以使该多个视觉传感器的优化后的曝光时间间的差异最小。可选地,在本发明一个实施例中,该联合优化模块640用于:根据该多个视觉传感器的配置,确定优化矩阵;根据该优化矩阵和该多个视觉传感器的分别确定的曝光时间,确定该多个视觉传感器的优化后的曝光时间。图8示出了本发明另一个实施例的曝光的装置800的示意性框图。如图8所示,该装置800可以包括:确定模块810,用于分别确定具有依赖关系的多个视觉传感器的曝光时间;联合优化模块820,用于对多个视觉传感器的分别确定的曝光时间进行联合优化,以使该多个视觉传感器的优化后的曝光时间间的差异最小。可选地,在本发明一个实施例中,该联合优化模块820用于:根据该多个视觉传感器的配置,确定优化矩阵;根据该优化矩阵和该多个视觉传感器的分别确定的曝光时间,确定该多个视觉传感器的优化后的曝光时间。应理解,上述本发明实施例的曝光的装置可以是芯片,其具体可以由电路实现,但本发明实施例对具体的实现形式不做限定。本发明实施例还提供了一种处理器,该处理器可以包括上述本发明各种实施例的曝光的装置。图9示出了本发明实施例的计算机系统900的示意性框图。如图9所示,该计算机系统900可以包括处理器910和存储器920。应理解,该计算机系统900还可以包括其他计算机系统中通常所包括的部件,例如,输入输出设备、通信接口等,本发明实施例对此并不限定。存储器920用于存储计算机可执行指令。存储器920可以是各种种类的存储器,例如可以包括高速随机存取存储器(randomaccessmemory,ram),还可以包括非不稳定的存储器(non-volatilememory),例如至少一个磁盘存储器,本发明实施例对此并不限定。处理器90用于访问该存储器920,并执行该计算机可执行指令,以进行上述本发明各种实施例的曝光的方法中的操作。处理器910可以包括微处理器,现场可编程门阵列(field-programmablegatearray,fpga),中央处理器(centralprocessingunit,cpu),图形处理器(graphicsprocessingunit,gpu)等,本发明实施例对此并不限定。本发明实施例还提供了一种可移动设备,该移动设备可以包括上述本发明各种实施例的曝光的装置、处理器或者计算机系统。本发明实施例的曝光的装置、计算机系统和可移动设备可对应于本发明实施例的曝光的方法的执行主体,并且曝光的装置、计算机系统和可移动设备中的各个模块的上述和其它操作和/或功能分别为了实现前述各个方法的相应流程,为了简洁,在此不再赘述。本发明实施例还提供了一种计算机存储介质,该计算机存储介质中存储有程序代码,该程序代码可以用于指示执行上述本发明实施例的曝光的方法。应理解,在本发明实施例中,术语“和/或”仅仅是一种描述关联对象的关联关系,表示可以存在三种关系。例如,a和/或b,可以表示:单独存在a,同时存在a和b,单独存在b这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,上述描述的系统、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。在本申请所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另外,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口、装置或单元的间接耦合或通信连接,也可以是电的,机械的或其它的形式连接。所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本发明实施例方案的目的。另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以是两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分,或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:u盘、移动硬盘、只读存储器(rom,read-onlymemory)、随机存取存储器(ram,randomaccessmemory)、磁碟或者光盘等各种可以存储程序代码的介质。以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本
技术领域
的技术人员在本发明揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。当前第1页12
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1