本技术的实施例涉及图像处理的,尤其涉及一种基于双通道网络的低照度图像增强方法及相关设备。
背景技术:
1、低照度图像的增强算法会出现曝光现象,也就是说,在一些情况中,在增强图像亮度同时,会出现过增强问题,并且相关的低照度图像的优化中,往往依赖图像先验模型和环境假设,且需手动调参,在增强图像的同时易出现失真和光晕等现象。
2、在另一些情况中,在优化低照度图像时,图像增强的效果局限在亮度的提升,易出现噪声、伪影和色差等过增强问题,增强后的图像存在油画感和过增强问题,通过先验模型优化,在抑制图像噪声的同时,还会出现曝光问题,例如,retinexnet模型。
技术实现思路
1、有鉴于此,本技术的目的在于提出一种基于双通道网络的低照度图像增强方法及相关设备。
2、基于上述目的,本技术提供了基于双通道网络的低照度图像增强方法,包括:
3、将预设的正常光图像和低照度图像输入至待训练的优化模型,对所述正常光图像和所述低照度图像分别进行分解,得到对应所述正常光图像的正常光反射图和对应所述低照度图像的低照度光照图;
4、对所述正常光反射图进行亮通道变换,得到亮通道图,对所述正常光反射图和所述亮通道图进行小波变换后融合,得到第一小波融合图像并提取特征,得到第一融合图像特征,利用混合注意力机制对所述第一融合图像特征进行去噪得到去噪图像,所述混合注意力机制由多个注意力机制组成;
5、利用所述低照度光照图确定出对应的暗通道图,对所述低照度光照图和所述暗通道图进行小波变换后融合,得到第二小波融合图像并提取特征,得到第二融合图像特征,利用所述混合注意力机制对所述第二融合图像特征进行光照度增强得到增强特征,利用所述增强特征和所述暗通道图确定出折射率,对所述折射率和所述增强特征进行卷积操作后得到增强图像;
6、利用所述去噪图像和所述增强图像生成目标图像,使用混合损失函数约束所述优化模型的训练,响应于完成所述优化模型的训练,将待优化的图像输入至完成训练的优化模型,并输出优化后的目标图像。
7、进一步地,对所述正常光图像和所述低照度图像分别进行分解,得到对应所述正常光图像的正常光反射图和对应所述低照度图像的低照度光照图,包括:
8、对所述正常光图像进行特征提取,得到正常光浅层特征;
9、将所述正常光浅层特征输入至反射分量网络进行分解,得到正常光反射分量特征,对所述正常光反射分量特征进行归一化得到所述正常光反射图,所述反射分量网络包括多个卷积层和多个反卷积层;
10、对所述低照度图像进行特征提取,得到低照度浅层特征;
11、将所述低照度浅层特征输入至反射分量网络进行分解,得到低照度反射分量特征;
12、将所述低照度反射分量特征输入至光照分量网络进行分解,得到所述低照度光照图,所述光照分量网络包括多个卷积层。
13、进一步地,多个注意力机制中依次设置通道注意力机制、空间注意力机制和像素注意力机制;
14、所述利用混合注意力机制对所述第一融合图像特征进行去噪得到去噪图像,包括:
15、对所述第一融合图像进行卷积运算,将该卷积运算后的特征输入至所述混合注意力机制;
16、利用所述通道注意力机制对所述卷积运算后的特征进行如下所示的最大池化和平均池化操作,得到通道维度权重:
17、
18、其中,f表示输入所述卷积运算后的特征,avgpool表示平均池化的操作 ,maxpool表示最大池化的操作,mlp表示多层感知机制运算,表示第一mlp权重,表示第二mlp权重,mc(f)表示所述通道维度权重,
19、按照如下所示的公式,利用所述通道维度权重确定出用于输入空间注意力机制的空间注意力输入图,
20、
21、其中,f1表示所述空间注意力输入图;
22、利用所述空间注意力机制对所述空间注意力输入图进行如下所示的最大池化和平均池化操作,得到空间维度权重,
23、
24、其中,ms(f)表示所述空间维度权重;
25、按照如下所示的公式,利用所述通空间维度权重确定出用于输入像素注意力机制的像素注意力输入图,
26、
27、其中,f2表示所述像素注意力输入图;
28、对所述像素注意力输入图进行所述像素注意力机制的运算,得到像素维度权重;
29、根据所述通道维度权重、所述空间维度权重和所述像素维度权重确定出所述去噪图像。
30、进一步地,利用所述低照度光照图确定出对应的暗通道图,包括:
31、利用暗通道先验算法,按照如下所示的公式对所述低照度光照图进行计算,得到所述暗通道图:
32、
33、其中,表示超参数,a表示大气光值,ic(x)表示所述低照度光照图中的像素,c表示颜色参量。
34、进一步地,利用所述混合注意力机制对所述第二融合图像特征进行光照度增强得到增强特征,包括:
35、对所述第二融合图像特征进行下采样,得到下采样图;
36、对所述下采样图依次进行通道注意力机制、空间注意力机制和像素注意力机制的运算,并对运算结果进行上采样,得到上采样图;
37、利用所述上采样图计算折射率确定出增强图像。
38、进一步地,使用混合损失函数约束所述优化模型的训练,包括:
39、利用所述目标图像计算如下所示的混合损失函数:
40、
41、其中,ltotal表示所述混合损失函数,le表示曝光损失函数,li表示图像平滑度损失函数,ld表示对比度损失函数,lc表示颜色损失函数,ln表示噪声函数,ls表示反射分量相似性损失函数,表示第一系数,表示第二系数,表示第三系数;
42、在对所述优化模型的训练中,利用所述混合损失函数对所述目标图像的峰值信噪比进行约束,以使所述目标图像与预设的标准图像的峰值信噪比差距达到预定的误差范围。
43、进一步地,利用所述混合损失函数约束所述目标图像与预设的标准图像在反向传播时的差距,包括:
44、响应于确定所述目标图像与预设的标准图像的差距在预定的误差范围内时,则确定完成优化模型的训练;
45、响应于确定所述目标图像与所述标准图像的差距超出所述误差范围时,则再次对优化模型进行训练。
46、基于同一发明构思,本技术还提供了一种基于双通道网络的低照度图像增强系统,包括:分解模块、去噪模块、增强模块和输出模块;
47、其中,所述分解模块,被配置为,将预设的正常光图像和低照度图像输入至待训练的优化模型,对所述正常光图像和所述低照度图像分别进行分解,得到对应所述正常光图像的正常光反射图和对应所述低照度图像的低照度光照图;
48、所述去噪模块,被配置为,对所述正常光反射图进行亮通道变换,得到亮通道图,对所述正常光反射图和所述亮通道图进行小波变换后融合,得到第一小波融合图像并提取特征,得到第一融合图像特征,利用混合注意力机制对所述第一融合图像特征进行去噪得到去噪图像,所述混合注意力机制由多个注意力机制组成;
49、增强模块,被配置为,利用所述低照度光照图确定出对应的暗通道图,对所述低照度光照图和所述暗通道图进行小波变换后融合,得到第二小波融合图像并提取特征,得到第二融合图像特征,利用所述混合注意力机制对所述第二融合图像特征进行光照度增强得到增强特征,利用所述增强特征和所述暗通道图确定出折射率,对所述折射率和所述增强特征进行卷积操作后得到增强图像;
50、输出模块,被配置为,利用所述去噪图像和所述增强图像生成目标图像,使用混合损失函数约束所述优化模型的训练,响应于完成所述优化模型的训练,将待优化的图像输入至完成训练的优化模型,并输出优化后的目标图像。
51、基于同一发明构思,本技术还提供了一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现如上任意一项所述的基于双通道网络的低照度图像增强方法。
52、基于同一发明构思,本技术还提供了一种非暂态计算机可读存储介质,其中,所述非暂态计算机可读存储介质存储计算机指令,所述计算机指令用于使所述计算机执行如上述基于双通道网络的低照度图像增强方法。
53、基于同一构思,与上述任意实施例方法相对应的,本技术还提供了一种计算机程序产品,包括计算机程序指令,当所述计算机程序指令在计算机上运行时,使得所述计算机执行如上任一项所述的基于双通道网络的低照度图像增强方法。
54、从上面所述可以看出,本技术提供的基于双通道网络的低照度图像增强方法及相关设备,基于对正常光图像和低照度图像分别进行反射分量和光照分量的分解,从而得到正常光反射图和低照度光照图,并基于在优化模型中设置的亮通道和暗通道两个通道,来对优化模型进行训练,在训练中,利用亮通道变化,得到对应正常光反射图的亮通道图,并利用混合注意力机制来对亮通道图与正常光反射图融合后的第一融合图像特征进行去噪,从而获得去噪图像;同时,利用卷积操作来确定出暗通道图,并利用混合注意力机制来对暗通道图与低照度光照图融合后的第二融合图像特征进行增强,从而获得增强图像;基于此,通过设置的混合损失函数,实现对增强图像和去噪图像生成的目标图像进行损失值的计算,从而根据损失值实现对优化模型的训练。