亮度补偿方法、装置、设备以及存储介质与流程

1.本技术涉及图像处理领域，尤其涉及一种亮度补偿方法、装置、设备以及存储介质。


背景技术：

2.在各类摄像装置的使用场景中，摄像装置以及其光源装置可能会采用交流电作为电源，而交流电为正弦信号。同时，一般摄像装置的cmos (complementary metal oxide semiconductor，互补金属氧化物半导体)传感器曝光会采用卷帘快门，这种曝光形式是以行为单位逐行曝光，因此，画面中不同行的背景光源强度由于正弦交流电的起伏可能会有不同。如此一来，摄像装置感测到的画面会出现明暗间隔的条状现象，称为光源闪烁问题 (flicker)。
3.具体而言，对于逐行复位积分产生的帧内光源闪烁问题，其显示时图像出现明暗行交替的现象，主要是因为一帧内不同行虽然曝光积分时间一致，但是因为曝光积分起始位置不一样，且交流电光源的发光强度与交流电的频率呈周期关系，导致不同行的受光量不一致，从而产生这种明暗行交替的现象。
4.例如，对于两种电源频率：50hz和60hz的正弦波形，由于能量是没有方向性的，因此，该两种电源频率对应的能量是一个频率为100hz和120hz 的波形，如图1和图2所示。由于能量在时间方向上的波形，照在传感器上就使每一个像素产生在时间方向上的相应波形，由于cmos传感器的曝光方式是一行一行的方式进行的，任何一个像素的曝光时间是一样的，也就是同一行上的每个像素的曝光开始点和曝光的时间都是一模一样的，所以同一行的所有点所接受到的能量是一样的，而在不同行之间虽然曝光时间都是一样的，但是曝光的开始点是不同的，所以不同行之间所接受到的能量不一定相同的，从而产生帧内光源闪烁问题。
5.对于闪烁问题，之前的解决方法大多是，针对不同国家灯的光源做不同的曝光特殊处理。例如，一些欧美国家灯都是60hz光源，而中国的灯则是50hz光源。当检测到60hz光源时会选择一套60hz自动曝光表来防止摄像设备画面出现闪烁，而当检测到50hz的时候选择一套50hz的曝光表来解决闪烁问题。又例如，为了使不同行之间所接受的能量相同，将曝光积分时间设置为光能量周期的整数倍时间，即为：t＝n*t(n＝1，2，3
…
)，其中t为曝光积分时间，t为光能量周期，从而使每一行即使曝光开始点不同，但是所接受的光能量是相同的，由此避免帧内光源闪烁问题。然而，上述解决方案皆需要在曝光积分时间为光能量周期的整数倍时，才能够实现。
6.由此，如何提供适用范围更广的防闪烁方案，从而无论曝光积分时间是否满足光能量周期的整数倍，皆可以避免帧内光源闪烁，是本领域技术人员亟待解决的技术问题。


技术实现要素：

7.本技术为了克服上述现有技术存在的缺陷，提供一种亮度补偿方法、装置、设备以
及存储介质，从而提供适用范围更广的防闪烁方案，从而无论曝光积分时间是否满足光能量周期的整数倍，皆可以避免帧内光源闪烁。
8.根据本技术的一个方面，提供一种亮度补偿方法，包括：
9.获取摄像装置的光源的光源能量周期；
10.对待补偿图像帧，计算所述光源能量周期内的光源能量积分，以及每行曝光积分时间内的光源能量积分；
11.根据所述光源能量周期内的光源能量积分，以及每行曝光积分时间内的光源能量积分计算所述待补偿图像帧的每行像素的亮度补偿系数；
12.根据所述待补偿图像帧的每行像素的亮度补偿系数对待补偿图像帧的每行像素进行亮度补偿。
13.在本发明的一些实施例中，所述待补偿图像帧的各行像素的亮度补偿系数为所述光源能量周期内的光源能量积分与该行曝光积分时间内的光源能量积分之比。
14.在本发明的一些实施例中，所述光源能量周期内的光源能量积分为其中，t为光源能量周期，α为常数；
15.第p行曝光积分时间内的光源能量积分为其中，δt为图像相邻两行曝光起始时间的时间差，t为曝光积分时间，p为大于等于 1且小于等于所述待补偿图像帧的总行数的整数，α为常数。
16.在本发明的一些实施例中，所述对待补偿图像帧，计算所述光源能量周期内的光源能量积分，以及每行曝光积分时间内的光源能量积分包括：
17.计算前m行中，每行曝光积分时间内的光源能量积分，其中，mδt＝nt， m，n为正整数，且m＞n，t为光源能量周期，δt为图像相邻两行曝光起始时间的时间差；
18.使得第rm+q行曝光积分时间内的光源能量积分等于第q行曝光积分时间内的光源能量积分，其中，q为大于等于1且小于等于m的整数，r为正整数，且rm+q小于等于所述待补偿图像帧的总行数。
19.在本发明的一些实施例中，第rm+q行像素的亮度补偿系数等于第q行像素的亮度补偿系数，其中，q为大于等于1且小于等于m的整数，r为正整数，且rm+q小于等于所述待补偿图像帧的总行数。
20.在本发明的一些实施例中，还包括：
21.使得一帧图像帧所占用的时间为所述光源能量周期的整数倍，所述待补偿图像帧的每行像素的亮度补偿系数用于对其它图像帧的每行像素进行亮度补偿。
22.在本发明的一些实施例中，所述光源能量周期t根据如下公式计算：
23.t＝1/(h*2)，其中，h为所述的摄像装置的光源的交流电频率。
24.根据本发明的又一方面，还提供一种亮度补偿装置，包括：
25.获取模块，配置成获取摄像装置的光源的光源能量周期；
26.第一计算模块，配置成对待补偿图像帧，计算所述光源能量周期内的光源能量积分，以及每行曝光积分时间内的光源能量积分；
27.第二计算模块，配置成根据所述光源能量周期内的光源能量积分，以及每行曝光积分时间内的光源能量积分计算所述待补偿图像帧的每行像素的亮度补偿系数；
28.补偿模块，配置成根据所述待补偿图像帧的每行像素的亮度补偿系数对待补偿图像帧的每行像素进行亮度补偿。
29.根据本技术的又一方面，还提供一种电子设备，所述电子设备包括：处理器；存储介质，其上存储有计算机程序，所述计算机程序被所述处理器运行时执行如上所述的步骤。
30.根据本技术的又一方面，还提供一种存储介质，所述存储介质上存储有计算机程序，所述计算机程序被处理器运行时执行如上所述的步骤。
31.由此可见，本技术提供的方案，与现有技术相比，具有如下优势：
32.通过待补偿图像帧的所述光源能量周期内的光源能量积分，以及每行曝光积分时间内的光源能量积分计算亮度补偿系数，以此实现亮度补偿，从而使得本技术提供的方案适用范围更广，无论曝光积分时间是否满足光能量周期的整数倍，皆可以避免帧内光源闪烁。
附图说明
33.通过参照附图详细描述其示例实施方式，本技术的上述和其它特征及优点将变得更加明显。
34.图1示出了根据本技术实施例的摄像装置的光源的电源信号的波形图。
35.图2示出了根据本技术实施例的摄像装置的光源能量的波形图。
36.图3示出了根据本技术实施例的亮度补偿方法的流程图。
37.图4示出了根据本技术实施例的亮度补偿装置的模块图。
38.图5示意性示出本公开示例性实施例中一种计算机可读存储介质示意图。
39.图6示意性示出本公开示例性实施例中一种电子设备示意图。
具体实施方式
40.现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本技术将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。
41.此外，附图仅为本技术的示意性图解，并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体，不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
42.附图中所示的流程图仅是示例性说明，不是必须包括所有的步骤。例如，有的步骤还可以分解，而有的步骤可以合并或部分合并，因此，实际执行的顺序有可能根据实际情况改变。
43.为了克服上述现有技术存在的缺陷，本技术提供一种视频图像增强方法及其模型训练方法、相关设备，从而实现视频图像增强的同时，减少了时延和模型计算量，以适应实时视频图像增强场景。具体而言，本技术提供的亮度补偿方法可以应用于各类视频监控场景中，诸如车辆监控、行人监控等应用场景中，本技术并非以此为限制。在本发明各个实施
例中，图像增强可以包括但不限于提亮、去噪、增强对比度、颜色风格的调整等。
44.首先参见图3，图3示出了根据本技术实施例的亮度补偿方法的流程图。本技术提供的亮度补偿方法包括：
45.步骤s110：获取摄像装置的光源的光源能量周期。
46.具体而言，所述光源能量周期t可以根据如下公式计算：t＝1/(h*2)，其中，h为所述的摄像装置的光源的交流电频率。例如，中国的交流电频率为50hz，则光源能量周期t＝1/(50*2)秒＝1/100秒。日本的交流电频率为60hz，则光源能量周期t＝1/(60*2)秒＝1/120秒。
47.步骤s120：对待补偿图像帧，计算所述光源能量周期内的光源能量积分，以及每行曝光积分时间内的光源能量积分。
48.具体而言，所述光源能量周期内的光源能量积分为其中，t为光源能量周期，α为常数。
49.第p行曝光积分时间内的光源能量积分为其中，δt为图像相邻两行曝光起始时间的时间差，t为曝光积分时间，p为大于等于 1且小于等于所述待补偿图像帧的总行数的整数，α为常数。例如，第一行曝光积分时间内光源能量积分为：第二行曝光积分时间内光源能量积分为：
50.因为光源能量如图2所示是周期变换的，因此，当mδt＝nt时，m，n为正整数，且m＞n，t为光源能量周期，δt为图像相邻两行曝光起始时间的时间差，可以仅计算前m行的曝光积分时间内光源能量积分。此时，第rm+q行曝光积分时间内的光源能量积分等于第q行曝光积分时间内的光源能量积分，其中，q为大于等于1且小于等于m的整数，r为正整数，且rm+q小于等于所述待补偿图像帧的总行数。例如，第m+1行曝光积分时间内光源能量积分为：以此类推。由此，可以减少光源能量积分的计算量。
51.步骤s130：根据所述光源能量周期内的光源能量积分，以及每行曝光积分时间内的光源能量积分计算所述待补偿图像帧的每行像素的亮度补偿系数。
52.具体而言，所述待补偿图像帧的各行像素的亮度补偿系数为所述光源能量周期内的光源能量积分与该行曝光积分时间内的光源能量积分之比。
53.例如，第一行像素的亮度补偿系数ratio1为：
[0054][0055]
第二行像素的亮度补偿系数ratio2为：
[0056][0057]
第m行像素的亮度补偿系数ratiom为：
[0058][0059]
依次类推。其中，由于第rm+q行曝光积分时间内的光源能量积分等于第q行曝光积分时间内的光源能量积分，因此，第rm+q行像素的亮度补偿系数等于第q行像素的亮度补偿系数，其中，q为大于等于1且小于等于m 的整数，r为正整数，且rm+q小于等于所述待补偿图像帧的总行数。由此，可以仅计算前m行像素的亮度补偿系数，从而第m+1至总行数的每个像素的亮度补偿系数皆可以通过第1至第m行像素的亮度补偿系数获得。
[0060]
步骤s140：根据所述待补偿图像帧的每行像素的亮度补偿系数对待补偿图像帧的每行像素进行亮度补偿。
[0061]
具体而言，步骤s140可以使得待补偿图像帧的每行像素的像素值/亮度值与对应计算获得的亮度补偿系数相乘，从而基于相乘后的像素值/亮度值进行显示，从而实现亮度补偿，由此，消除视频帧内明暗相间的条纹，实现防闪烁的效果。
[0062]
具体而言，本技术提供的亮度补偿方法还可以包括如下步骤：使得一帧图像帧所占用的时间为所述光源能量周期的整数倍，所述待补偿图像帧的每行像素的亮度补偿系数用于对其它图像帧的每行像素进行亮度补偿。由此，使得闪烁在多帧之间稳定下来，从而可以仅计算视频中其中一帧图像的亮度补偿系数，并基于所计算的亮度补偿系数对其它图像帧进行亮度补偿，无需计算视频中每帧的亮度补偿系数，节省计算成本。
[0063]
由此，本技术提供的亮度补偿方法中，通过待补偿图像帧的所述光源能量周期内的光源能量积分，以及每行曝光积分时间内的光源能量积分计算亮度补偿系数，以此实现亮度补偿，从而使得本技术提供的方案适用范围更广，无论曝光积分时间是否满足光能量周期的整数倍，皆可以避免帧内光源闪烁。
[0064]
以上示例性地示出本技术的多个实现方式，本技术并非以此为限制，各实施方式中，步骤的增加、省略、顺序变换皆在本技术的保护范围之内；各实施方式可以单独或组合来实现。
[0065]
下面结合图4描述本技术提供的亮度补偿装置200。亮度补偿装置200 包括获取模块210、第一计算模块220、第二计算模块230以及补偿模块240。
[0066]
获取模块210配置成获取摄像装置的光源的光源能量周期。
[0067]
第一计算模块220配置成对待补偿图像帧，计算所述光源能量周期内的光源能量积分，以及每行曝光积分时间内的光源能量积分。
[0068]
第二计算模块230配置成根据所述光源能量周期内的光源能量积分，以及每行曝光积分时间内的光源能量积分计算所述待补偿图像帧的每行像素的亮度补偿系数。
[0069]
补偿模块240配置成根据所述待补偿图像帧的每行像素的亮度补偿系数对待补偿图像帧的每行像素进行亮度补偿。
[0070]
本技术提供的亮度补偿装置中，通过待补偿图像帧的所述光源能量周期内的光源能量积分，以及每行曝光积分时间内的光源能量积分计算亮度补偿系数，以此实现亮度补偿，从而使得本技术提供的方案适用范围更广，无论曝光积分时间是否满足光能量周期的整数倍，皆可以避免帧内光源闪烁。
[0071]
本技术可以通过软件、硬件、固件及其任意结合的方式实现亮度补偿装置200。图4
仅仅是示意性的示出本技术提供的亮度补偿装置200，在不违背本技术构思的前提下，模块的拆分、合并、增加都在本技术的保护范围之内。
[0072]
在本公开的示例性实施例中，还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被例如处理器执行时可以实现上述任意一个实施例中所述亮度补偿方法的步骤。在一些可能的实施方式中，本技术的各个方面还可以实现为一种程序产品的形式，其包括程序代码，若所述程序产品在终端设备上运行时，所述程序代码用于使所述终端设备执行本说明书上述亮度补偿方法部分中描述的根据本技术各种示例性实施方式的步骤。
[0073]
参考图5所示，描述了根据本技术的实施方式的用于实现上述方法的程序产品800，其可以采用便携式紧凑盘只读存储器(cd-rom)并包括程序代码，并可以在终端设备，例如个人电脑上运行。然而，本技术的程序产品不限于此，在本文件中，可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
[0074]
所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。
[0075]
所述计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适若的介质传输，包括但不限于无线、有线、光缆、rf等等，或者上述的任意合适的组合。
[0076]
可以以一种或多种程序设计语言的任意组合来编写用于执行本技术操作的程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如java、 c++等，还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在租户计算设备上执行、部分地在租户设备上执行、作为一个独立的软件包执行、部分在租户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(lan)或广域网(wan)，连接到租户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
[0077]
在本公开的示例性实施例中，还提供一种电子设备，该电子设备可以包括处理器，以及用于存储所述处理器的可执行指令的存储器。其中，所述处理器配置为经由执行所述可执行指令来执行上述任意一个实施例中所述亮度补偿方法的步骤。
[0078]
所属技术领域的技术人员能够理解，本技术的各个方面可以实现为系统、方法或程序产品。因此，本技术的各个方面可以具体实现为以下形式，即：完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等)，或硬件和软件方面结合的实施方式，这里可以统称为“电路”、“模块”或“系统”。
[0079]
下面参照图6来描述根据本技术的这种实施方式的电子设备600。图6 显示的电子设备600仅仅是一个示例，不应对本技术实施例的功能和使用范围带来任何限制。
[0080]
如图6所示，电子设备600以通用计算设备的形式表现。电子设备600 的组件可以包括但不限于：至少一个处理单元610、至少一个存储单元620、连接不同系统组件(包括存储单元620和处理单元610)的总线630、显示单元640等。
[0081]
其中，所述存储单元存储有程序代码，所述程序代码可以被所述处理单元610执行，使得所述处理单元610执行本说明书上述亮度补偿方法部分中描述的根据本技术各种示例性实施方式的步骤。例如，所述处理单元610可以执行如图2或3中所示的步骤。
[0082]
所述存储单元620可以包括易失性存储单元形式的可读介质，例如随机存取存储单元(ram)6201和/或高速缓存存储单元6202，还可以进一步包括只读存储单元(rom)6203。
[0083]
所述存储单元620还可以包括具有一组(至少一个)程序模块6205的程序/实用工具6204，这样的程序模块6205包括但不限于：操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。
[0084]
总线630可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
[0085]
电子设备600也可以与一个或多个外部设备700(例如键盘、指向设备、蓝牙设备等)通信，还可与一个或者多个使得租户能与该电子设备600交互的设备通信，和/或与使得该电子设备600能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(i/o)接口650进行。并且，电子设备600还可以通过网络适配器660与一个或者多个网络(例如局域网(lan)，广域网(wan)和/或公共网络，例如因特网)通信。网络适配器660可以通过总线630与电子设备600的其它模块通信。应若明白，尽管图中未示出，可以结合电子设备600 使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、raid系统、磁带驱动器以及数据备份存储系统等。
[0086]
通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本公开实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是cd-rom，u盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、或者网络设备等)执行根据本公开实施方式的上述亮度补偿方法。
[0087]
由此可见，本技术提供的方案，与现有技术相比，具有如下优势：
[0088]
通过待补偿图像帧的所述光源能量周期内的光源能量积分，以及每行曝光积分时间内的光源能量积分计算亮度补偿系数，以此实现亮度补偿，从而使得本技术提供的方案适用范围更广，无论曝光积分时间是否满足光能量周期的整数倍，皆可以避免帧内光源闪烁。
[0089]
本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本公开的其它实施方案。本技术旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识
或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和精神由所附的权利要求指出。