处理数字图像的图像处理装置的制作方法

文档序号:11890892阅读:321来源:国知局
本发明涉及数字图像处理领域,具体而言涉及数字图像的降噪。
背景技术
:在数字图像处理应用中,降噪是一项重要的任务。虽然现代数字图像传感器可提供改进的图像质量,但是由于数字图像传感器的物理效应和限制等,噪声可能仍然存在于数字图像中。尤其是对于智能手机的相机,由于数字图像传感器的像素大小减少,所以噪声移除更具挑战性。可以应用有效降噪的算法方案以便恢复视觉质量提高的降噪数字图像。可以使用不同技术进行降噪,例如,基于块的方法、变换域方法、基于机器学习的方法、空间域方法和/或混合方法。例如,基于块的方法可以利用感兴趣的数字图像内部的小型块的相似性。K.Dabov、A.Foi、V.Katvonik和K.Egiazarian在2007年的IEEE图像处理会刊第16卷第8期第2080至2095页的“通过稀疏3D变换域协同滤波的图像降噪(ImageDenoisingbySparse3DTransform-DomainCollaborativeFiltering)”中描述了一种用于对数字图像进行降噪的方法。A.Buades、B.Coll、J.M.Morel在2005年的IEEE计算机视觉与模式识别2005第2卷第60至65页的“用于图像降噪的非局部算法(Anon-localalgorithmforimagedenoising)”中描述了另一种用于对数字图像进行降噪的方法。技术实现要素:本发明的目的是提供一种用于处理数字图像的有效概念,具体而言是一种能够实现改善的块匹配和降噪性能的用于处理数字图像的有效概念。该目的由独立权利要求的特征来实现。另外的实施形式在从属权利要求、描述内容和附图中显而易见。本发明的各方面和实施形式是基于以下发现:普通方法通常假设在整个数字图像中具有恒定单一标准偏差的平稳噪声分布和/或高斯噪声分布。然而,具体而言,该假设通常无效。因此,普通方法可能存在块匹配和降噪性能降低的问题。本发明的各方面和实施形式还基于以下发现:所述数字图像内的噪声统计可以取决于所述数字图像的局部属性,例如,强度、光度或纹理等图像特征测量。因此,建议非平稳噪声模型,其中所述噪声统计可能不表明整个数字图像中的相同标准偏差。对于处理所述数字图像,可以执行所述数字图像内的块匹配,其中可以依据表示对应噪声分布之间的相似性的多个相似性测量来确定参考块的多个相似块。因此,在处理所述数字图像时,可以考虑非平稳噪声。基于所述块匹配,可以执行所述数字图像的有效滤波和降噪以提供降噪数字图像。根据第一方面,本发明涉及一种用于处理数字图像的图像处理装置,所述数字图像包括参考块和多个其它块,所述图像处理装置包括确定器,用于确定所述参考块与所述多个其它块之间的多个相似性测量,其中每个相似性测量指示所述参考块中的噪声分布与所述多个其它块的其中一个其它块中的噪声分布之间的相似性,所述确定器还用于依据所述多个相似性测量从所述多个其它块中确定多个相似块。因此,可以实现用于处理数字图像的有效概念。图像处理装置可以实现数字图像内的有效块匹配,其中数字图像可例如包括非平稳高斯噪声。术语“多个”可以指“一个或一个以上”。也就是说,多个其它块可以是一个或一个以上其它块,多个相似性测量可以是一个或一个以上相似性测量,多个相似块可以是一个或一个以上相似块。根据如上所述第一方面,在所述图像处理装置的第一实施形式中,每个相似性测量还指示所述参考块中的强度分布与所述多个其它块的所述其中一个其它块中的强度分布之间的相似性。因此,所述多个相似性测量可以指示噪声分布的相似性以及强度分布的相似性。每个相似性测量可以指示参考块中的强度分布与其中一个其它块中的强度分布之间的二次距离。根据如上所述第一方面或所述第一方面的任一前述实施形式,在所述图像处理装置的第二实施形式中,所述确定器用于将所述数字图像划分为多个块,以及用于从所述多个块中确定所述参考块和所述多个其它块。因此,可以有效地实现所述数字图像的划分。参考块和多个其它块可以重叠。根据如上所述第一方面或所述第一方面的任一前述实施形式,在所述图像处理装置的第三实施形式中,所述参考块的大小和所述多个其它块的其中一个其它块的大小相等,或者参考块和/或所述多个其它块的其中一个其它块是矩形的。因此,可以实现所述参考块和所述多个其它块的有效处理。参考块和/或多个其它块的其中一个其它块可以是正方形并可例如包括kxk个像素。根据如上所述第一方面或所述第一方面的任一前述实施形式,在所述图像处理装置的第四实施形式中,将所述多个其它块布置在与所述参考块关联的搜索窗口区域中,其中,所述搜索窗口区域包括所述参考块,并且所述搜索窗口区域具有预定大小。因此,可以有效地确定所述多个相似块。可以将多个其它块和/或多个相似块布置在参考块附近。根据如上所述第一方面或所述第一方面的任一前述实施形式,在所述图像处理装置的第五实施形式中,所述确定器用于:确定指示所述参考块中的所述噪声分布的参考噪声指示符,确定指示所述多个其它块中的所述噪声分布的多个其它噪声指示符,以及合并所述参考噪声指示符与所述多个其它噪声指示符以确定所述参考块与所述多个其它块之间的所述多个相似性测量。因此,可以有效地确定所述多个相似性测量。参考噪声指示符可以指示参考块中噪声分布的标准偏差。多个其它噪声指示符可以指示多个其它块中噪声分布的标准偏差。合并参考噪声指示符与多个其它噪声指示符可以包括从参考噪声指示符中减去多个其它噪声指示符。合并参考噪声指示符与多个其它噪声指示符还可以包括确定差的绝对值。合并参考噪声指示符与多个其它噪声指示符还可以包括将该绝对值乘以预定缩放因子。根据如上所述第一方面的第五实施形式,在所述图像处理装置的第六实施形式中,所述确定器用于:确定所述参考块的参考图像特征测量,具体而言是平均强度,确定所述多个其它块的多个其它图像特征测量,具体而言是平均强度,依据所述参考图像特征测量确定所述参考噪声指示符,以及依据所述多个其它图像特征测量确定所述多个其它噪声指示符。因此,可以考虑所述数字图像的局部属性。参考图像特征测量和/或多个其它图像特征测量还可以是平均梯度或平均光度。根据所述第一方面的所述第六实施形式,在所述图像处理装置的第七实施形式中,所述图像处理装置还包括存储器,其中所述存储器用于存储多个已存储图像特征测量和多个已存储噪声指示符,其中每个已存储图像特征测量与一个已存储噪声指示符关联,以及所述确定器用于:将所述参考图像特征测量和/或一个其它图像特征测量与所述存储器中的所述多个已存储图像特征测量进行比较,以及从所述存储器中检索与对应于所述参考图像特征测量和/或所述其它图像特征测量的一个已存储图像特征测量关联的已存储噪声指示符。因此,可以使用图像特征测量到噪声指示符的预存储映射以便确定噪声指示符。预存储映射可以例如使用存储器中的查找表来实施。根据所述第一方面的所述第七实施形式,在所述图像处理装置的第八实施形式中,所述图像处理装置还包括另一确定器,其中,所述另一确定器用于依据多个其它数字图像确定多个图像特征测量和多个噪声指示符,其中每个图像特征测量与一个噪声指示符关联,以及所述另一确定器用于将所述确定的多个图像特征测量和所述确定的多个噪声指示符存储在所述存储器中。因此,可以实现预存储映射的离线预计算。另一确定器可以用于依据多个其它数字图像执行统计分析。另一确定器可以用于得到图像特征测量到噪声指示符映射。根据如上所述第一方面或所述第一方面的任一前述实施形式,在所述图像处理装置的第九实施形式中,所述图像处理装置还包括降噪滤波器,所述降噪滤波器用于布置所述参考块和所述多个相似块以形成三维数组,以及用于对所述三维数组协同滤波以获得滤波参考块和多个滤波相似块。因此,可以实现所述参考块和所述多个相似块的有效滤波。图像处理装置可以提供数字图像的有效滤波,其中数字图像可以例如包括非平稳高斯噪声。滤波可以以三维执行。滤波可以包括硬阈值滤波和/或维纳滤波。根据所述第一方面的所述第九实施形式,在所述图像处理装置的第十实施形式中,所述确定器用于确定指示所述参考块中的所述噪声分布的参考噪声指示符,以及确定指示所述多个其它块中的所述噪声分布的多个其它噪声指示符,其中所述降噪滤波器用于依据与所述参考块关联的所述参考噪声指示符和与所述多个相似块关联的其它噪声指示符对所述三维数组协同滤波。因此,可以考虑所述参考块中的和所述多个相似块中的噪声分布。所以,可以采用修改的硬阈值滤波和/或修改的维纳滤波。根据所述第一方面的所述第九实施形式或所述第十实施形式,在所述图像处理装置的第十一实施形式中,所述降噪滤波器用于:将所述三维数组从空间域变换到变换域中以获得变换三维数组,对所述变换域中的所述变换三维数组协同滤波以获得滤波变换三维数组,以及将所述滤波变换三维数组从所述变换域逆变换到所述空间域中以获得所述滤波参考块和所述多个滤波相似块。因此,可以有效地执行所述滤波。变换域可以是空间频域。变换可以依据离散傅里叶变换(discreteFouriertransform,DFT)或快速傅里叶变换(fastFouriertransform,FFT)执行。逆变换可以依据离散傅里叶逆变换(inversediscreteFouriertransform,IDFT)或快速傅里叶逆变换(inversefastFouriertransform,IFFT)执行。变换域中的协同滤波,例如硬阈值滤波或维纳滤波,可以对变换域中三维数组的系数执行。根据所述第一方面的所述第九实施形式至所述第十一实施形式,在所述图像处理装置的第十二实施形式中,所述图像处理装置还包括合路器,所述合路器用于合并所述滤波参考块与所述多个滤波相似块以获得降噪数字图像。因此,可以有效地提供降噪数字图像。图像处理装置可以实现数字图像的有效降噪,其中数字图像可以例如包括非平稳高斯噪声。合并可以包括依据关联的相似性测量加权滤波参考块和/或多个滤波相似块。合并可以实现聚合加权。根据所述第一方面的所述第十二实施形式,在所述图像处理装置的第十三实施形式中,所述确定器用于:确定指示所述数字图像内所述参考块的位置的参考位置指示符,以及确定所述数字图像内所述多个相似块的位置的多个位置指示符,所述合路器用于依据所述确定的参考位置指示符和所述确定的多个位置指示符来合并所述滤波参考块与所述多个滤波相似块。因此,可以实现所述滤波参考块与所述多个滤波相似块的有效合并。参考位置指示符和/或多个位置指示符可以包括数字图像内的像素坐标。根据第二方面,本发明涉及一种用于处理数字图像的方法,所述数字图像包括参考块和多个其它块,所述方法包括:确定所述参考块与所述多个其它块之间的多个相似性测量,其中每个相似性测量指示所述参考块中的噪声分布与所述多个其它块的其中一个其它块中的噪声分布之间的相似性,以及依据所述多个相似性测量从所述多个其它块中确定多个相似块。因此,可以实现用于处理数字图像的有效概念。所述第二方面的第一至第十三实施形式对应所述第一方面的所述第一至第十三实施形式。所述方法可由所述图像处理装置执行。所述方法的更多特征可以直接来自所述图像处理装置的功能。根据第三方面,本发明涉及一种包括程序代码的计算机程序,当所述计算机程序在计算机上执行时,用于执行根据所述第二方面或所述第二方面的任一实施形式的所述方法。因此,可以自动执行所述方法。图像处理装置,例如确定器、降噪滤波器、合路器和/或另一确定器,可以可编程地布置以执行该计算机程序。根据第四方面,可以将图像处理装置,例如确定器、降噪滤波器、合路器和/或另一确定器,的功能布置在单个处理器中或不同的处理器中实施,例如,每个功能在一个不同的处理器中。所述第四方面的第一至第十三实施形式对应所述第一方面的所述第一至第十三实施形式。本发明的各方面和实施形式可以在硬件和/或软件中实施。附图说明本发明的实施例将结合以下附图进行描述,其中:图1所示为根据一实施例的用于处理数字图像的图像处理装置的图;图2所示为根据一实施例的用于处理数字图像的方法的图;图3所示为根据一实施例的用于处理数字图像的图像处理装置的图;图4所示为根据一实施例的用于确定参考块与多个其它块之间的多个相似性测量的确定器的图;图5所示为根据一实施例的数字图像和三维数组的图;图6所示为根据一实施例的通过降噪滤波器对三维数组协同滤波的图;图7所示为根据一实施例的用于对三维(3-dimensional,3D)数组协同滤波的降噪滤波器的图;图8所示为通过合路器合并滤波参考块与多个滤波相似块以获得降噪数字图像的图;图9所示为根据一实施例的用于依据多个其它数字图像确定多个图像特征测量和多个噪声指示符的另一确定器的图;图10所示为根据一实施例的被布置以形成测量到噪声的映射的多个已存储图像特征测量和多个已存储噪声指示符的图。具体实施方式图1所示为根据一实施例的用于处理数字图像的图像处理装置100的图。数字图像包括参考块和多个其它块。图像处理装置包括确定器101,用于确定参考块与多个其它块之间的多个相似性测量,其中每个相似性测量指示参考块中的噪声分布与多个其它块的其中一个其它块中的噪声分布之间的相似性,确定器101还用于依据多个相似性测量从多个其它块中确定多个相似块。图像处理装置100还可以包括降噪滤波器,降噪滤波器用于布置参考块和多个相似块以形成三维数组,并用于对该三维数组协同滤波以获得滤波参考块和多个滤波相似块。图像处理装置100还可以包括合路器,合路器用于合并滤波参考块与多个滤波相似块以获得降噪数字图像。图像处理装置100还可以包括另一确定器,其中,该另一确定器用于依据多个其它数字图像确定多个图像特征测量和多个噪声指示符,其中每个图像特征测量与一个噪声指示符关联,并且该另一确定器用于将确定的多个图像特征测量和确定的多个噪声指示符存储在存储器中。图2所示为根据一实施例的用于处理数字图像的方法200的图。数字图像包括参考块和多个其它块。方法200包括:确定201参考块与多个其它块之间的多个相似性测量,其中每个相似性测量指示参考块中的噪声分布与多个其它块的其中一个其它块中的噪声分布之间的相似性,以及依据多个相似性测量从多个其它块中确定203多个相似块。方法200可由图像处理装置100执行。下文更详细地描述了图像处理装置100和方法200的其它实施形式和实施例。本发明的实施例可以涉及计算机视觉和计算摄影领域,具体而言涉及通过数码相机或手机等记录的数字图像和视频中的视觉质量增强和降噪。本发明的实施例可以用于包括非平稳高斯噪声的数字图像的基于块的降噪。本发明的实施例可以处理数字图像降噪的主题。许多噪声类型会使通过数码相机等记录的数字图像的质量下降,例如,光的量子涨落引起的光子散粒噪声、由于硬件缺陷而导致的固定模式噪声、热量引起的暗电流噪声、放大器噪声和/或量化噪声。数字图像内的降噪在许多应用中是一项重要的任务。虽然现代数字图像传感器可以提供提高的图像质量,但是由于例如底层捕集系统等的物理限制,噪声可能无法避免。挑战甚至变得更加明显,因为数字图像传感器制造商可能趋向于在每单元区域打包数量更多的像素。尤其是对于智能手机的相机,由于像素大小减少,所以噪声移除更具挑战性。可以应用有效降噪的算法方案来恢复视觉质量提高的降噪数字图像。可以使用不同技术进行降噪,例如,基于块的方法、变换域方法、基于机器学习的方法、空间域方法和/或混合方法。尽管在该领域中进行了大量工作,但是数字图像和视频中的噪声仍然是计算摄影中待解决的一个挑战。BM3D、NLM或UINTA等基于块的算法和最佳空间自适应技术是有效的。例如,基于块的方法可以利用感兴趣的数字图像内部的小型块的相似性。基于块的方法的一个示例性结构包括以下三个步骤:首先,块匹配(blockmatching,BM)可以旨在为数字图像中的每个所选参考块查找多个相似块。这些块可以相互叠加以便形成三维(3-dimensional,3D)数组。其次,利用块冗余和/或块相似性的协同滤波可以应用各种滤波技术。例如,噪声分量的消除可以通过考虑每个三维(3-dimensional,3D)数组的块中的冗余来实现。一旦被滤波,降噪块可以被移至它们在数字图像中的原始位置。第三,可以执行聚合。当块被重新定位到它们在数字图像内的原始位置中后,可以应用合适的权重以便估计数字图像内的可能重叠区域中的最终像素强度。分配的权重通常可取决于在前一步骤中使用的滤波技术。一种用于降噪的3D中块匹配的特定方法表示为BM3D。其可以采用上述步骤,其中块匹配(blockmatching,BM)可以给出相似块的一组3D数组,这些相似块的已存储位置坐标作为输出。然后可以执行协同滤波。首先可以应用3D变换,然后执行使用阈值算子的滤波操作和/或统计滤波。最后,可以通过应用3D逆变换实现降噪块到空间域中的再转换。因此,在协同滤波之后可以重新获得具有降噪块的一组3D数组。最后可以实现聚合,其中3D数组中的估计降噪块可以通过重叠块的合适加权被分散回它们在数字图像中的原始位置。另一种用于非局部构件降噪的特定方法表示为NLM。该方法可以采用上述步骤,其中块匹配的实现可以不取决于考虑的块到参考块在空间上的接近,而是取决于它们的邻域的相似性。然后可以在空间域中执行滤波而不应用3D变换,聚合权重可以与指示邻域相似性的块匹配相似性测量成比例。这些方法假设在数字图像中具有恒定单一标准偏差的平稳噪声分布和/或高斯噪声分布。实际上,例如基于对实施的数字图像传感器的分析,这个假设可能是无效的。事实上,噪声统计可以取决于数字图像的图像特征,例如数字图像的光度或纹理,这可指示非平稳噪声模型。换言之,在真实世界场景中,噪声统计可能不表明整个数字图像中的相同标准偏差。场景光度、梯度变换或局部纹理信息等许多因素可以促成同一数字图像中的噪声特性。因此,高斯噪声的标准偏差也可以被视为取决于这类表示为图像特征测量的因素。本发明的实施例可以应用旨在自适应地处理实际非平稳高斯噪声的非局部降噪算法。降噪方法可以是基于块的,并且可以包括三个步骤,也就是块匹配(blockmatching,BM)、滤波和聚合。可以修改这些步骤以便有效地从数字图像中移除非平稳高斯噪声。在块匹配(blockmatching,BM)中,可以通过添加将噪声特性纳入考虑的附加项来执行相似性标准的修改,以获得参考块与相似块之间的相似标准偏差等。在滤波中,可以通过自适应地使用可用块的标准偏差等噪声电平,而不是使用全局恒定标准偏差,来执行修改。在聚合中,可以根据重叠块的标准偏差等噪声电平自适应地应用加权。这些修改可以例如在由手机和相机捕集的数字图像中的图像降噪方面带来性能提高。在特定方法中,假设图像噪声可以通过具有恒定标准偏差σ的平稳高斯分布描述。这可导致次优的噪声移除效果,因为应用的统计对真实图像噪声的建模可能不恰当。实际上,噪声特性的检查通常显示非平稳高斯分布,其中噪声电平可以取决于特定图像特征测量,例如强度。其它图像特征测量可以是数字图像的强度梯度或局部纹理。在下文中,这类标准表示为图像特征测量。图3所示为根据一实施例的用于处理数字图像的图像处理装置100的图。该图该示出了降噪方法的流程图。图像处理装置100形成如结合图1描述的图像处理装置的可能实施方式。图像处理装置100包括确定器101、降噪滤波器301、合路器303和另一确定器305。确定器101可以用于在输入数字图像内执行块匹配(blockmatching,BM)。降噪滤波器301可以用于对确定器101提供的三维(3-dimensional,3D)数组协同滤波。合路器303可以用于依据三维(3-dimensional,3D)数组对降噪滤波器301提供的估计降噪块执行聚合。聚合还可以依据确定器101提供的所有块的坐标执行。合路器可以用于提供降噪数字图像。另一确定器305可以用于根据使用的图像特征测量针对映射生成执行噪声建模。映射可以提供给确定器101、降噪滤波器301和/或合路器303。降噪方法可以包括所描述的实现数字图像的自适应降噪的步骤,其中数字图像可以包括非平稳高斯噪声等。操作的顺序可以按如上所述执行,其中这些步骤可以修改以便处理真实场景中显而易见的非平稳噪声统计。图4所示为根据一实施例的用于确定参考块与多个其它块之间的多个相似性测量的确定器101的图。确定器101形成如结合图1描述的确定器101的可能实施方式。确定器101包括查找器401、搜索器403、堆积器405和加法器407。该图示出了块匹配(blockmatching,BM)。查找器401可以用于查找输入数字图像内的下一参考块。搜索器403可以用于使用参考块搜索输入数字图像内的相似块,其中决定可以基于相似性测量。堆积器405可以用于堆积关于参考块的相似块以提供三维(3-dimensional,3D)数组。加法器407可以将该三维(3-dimensional,3D)数组和块坐标添加到输出列表中以提供所有块的三维(3-dimensional,3D)数组和坐标。查找器401可以在输入数字图像内选择参考块。搜索器403可以在输入数字图像内搜索参考块的一组相似块,其中可以考虑重叠的块。可以根据组成的相似性标准进行基于相似性的决定。例如,相似性标准可以通过计算块之间的二次距离来定义,例如两个块之间在像素方面的差异标准,其被添加到对比两个块中包含的噪声电平的第二项中。可以使用单个图像特征测量和/或图像特征测量的组合从预存储映射中获得定义每个块的噪声电平的标准偏差。例如,可以计算一个块中所有像素的平均强度值,并且可以查找与该强度对应的映射中的标准偏差。给定输入数字图像的降噪可以开始于确定器101进行的块匹配(blockmatching,BM)。每个数字图像可以划分为固定数量的正方块,这些块具有固定大小k×k。对于数字图像中的每个块,即,数字图像中的参考块,查找器401可以在n×n像素的固定搜索窗口大小内的输入数字图像中,例如围绕一个参考块的位置,执行重叠搜索。搜索器403可以执行搜索,从而为每个参考块查找搜索窗口区域内的最佳匹配相似块。可以通过最小化相似性测量或相似性度量来进行选择,其中该相似性测量或相似性度量将参考块与可用相似块之间的差异量化。用于决定相似性的相似性测量可以是块的像素方面的平均强度差。然而,任何其它相似性测量可以用作等式的首项。为了考虑非平稳噪声,可以添加噪声电平相似性项,从而比较在不同块中估计的噪声统计。噪声电平可以通过噪声分布的标准偏差来描述,噪声分布的标准偏差通过由另一确定器305执行的噪声建模来估计,这可离线执行。块匹配(blockmatching,BM)的实现相似性标准或相似性度量的相似性测量可以例如根据以下等式确定:d(xr,xs)=[Σ0<i,j<k||xr(i,j)-xs(i,j)||2]+α|σr-σs|]]>其中,xr表示参考块的强度,xs表示一个其它块的强度,i表示像素位置,j表示像素位置,k表示块的长度或宽度,α表示缩放因子,σr表示参考块的噪声分布的标准偏差,σs表示该其它块的噪声分布的标准偏差,d表示相似性测量。第一被加数可以指示参考块的强度与该其它块的强度之间的二次距离。第二被加数可以指示参考块的噪声分布与该其它块的噪声分布的相似性。因此,可以针对块的所有像素执行相似性测量d(xr,xs)的像素方面的计算。换言之,为了计算非平稳噪声下参考块与一个其它块之间的d(xr,xs),可以将噪声分布相似性测量添加到强度分布相似性测量中。噪声分布相似性测量可以是参考块与该其它块的噪声电平之间的加权差,例如,定义每个块的噪声电平的标准偏差之间的差。缩放因子α可以应用于该差。缩放因子可以预先确定。缩放因子可以是恒定的并且可以凭经验确定。合适的缩放因子可以为α=0.3等。堆积器405可以将所选参考块的一组相似块相互堆积以便形成三维(3-dimensional,3D)数组。对于来自输入数字图像的每个参考块,加法器407可以实现块匹配。输出可以是一组包含相似块的3D数组,这些相似块与它们的相应位置坐标存储在一起。图5所示为根据一实施例的数字图像501和三维数组503的图。数字图像501包括参考块,指示为“R”,以及多个相似块,其中参考块和多个相似块是正方形。三维数组503包括参考块和互相堆积的多个相似块。该图示出了块匹配和单个参考块的3D数组生成。可以为每个参考块保留预定数量N,例如最大数量,的最相似块。这些可以聚集并由堆积器405相互垂直堆积,形成3D数组503。3D数组503还可以包括每个块的位置坐标。查找器401在输入数字图像内选择参考块以及搜索器403进行搜索会导致重叠的块。确定器101的输出可以提供一系列3D数组。图6所示为根据一实施例的通过降噪滤波器301对三维数组503协同滤波的图.降噪滤波器301可以形成如结合图1描述的降噪滤波器的可能实施方式。该图还包括变换三维(3-dimensional,3D)数组601、滤波变换三维(3-dimensional,3D)数组603和滤波三维(3-dimensional,3D)数组605。降噪滤波器301可以用于布置参考块和多个相似块以形成三维(3-dimensional,3D)数组503,以及对三维数组503协同滤波以获得滤波参考块和多个滤波相似块。降噪滤波器301可以用于:将三维(3-dimensional,3D)数组503从空间域变换到变换域中以获得变换三维(3-dimensional,3D)数组601,在变换域中对变换三维(3-dimensional,3D)数组601协同滤波以获得滤波变换三维(3-dimensional,3D)数组603,以及将滤波变换三维(3-dimensional,3D)数组603从变换域逆变换到空间域中以获得滤波三维(3-dimensional,3D)数组605,其中滤波三维(3-dimensional,3D)数组605包括滤波参考块和多个滤波相似块。降噪滤波器301可以执行降噪算法。该算法可以包括用于恢复具有降噪块的一组3D数组的若干步骤。图7所示为根据一实施例的用于对三维(3-dimensional,3D)数组协同滤波的降噪滤波器301的图。降噪滤波器301形成如结合图1描述的降噪滤波器301的可能实施方式。该图示出了协同滤波。降噪滤波器301包括选择器701、变换器703、滤波器705、逆变换器707和加法器709。选择器701可以用于从多个三维(3-dimensional,3D)数组中选择下一个三维(3-dimensional,3D)数组。变换器703可以用于对三维(3-dimensional,3D)数组执行三维(3-dimensional,3D)变换。滤波器705可以用于在变换域中对三维(3-dimensional,3D)数组进行滤波。逆变换器707可以用于在变换域中对滤波三维(3-dimensional,3D)数组进行三维(3-dimensional,3D)逆变换。加法器709可以用于在空间域中向输出列表中添加滤波三维(3-dimensional,3D)数组以提供具有估计降噪块的三维(3-dimensional,3D)数组。首先,选择器701可以从一组三维(3-dimensional,3D)数组中选择一个三维(3-dimensional,3D)数组。变换器703可以将3D变换操作应用到该三维(3-dimensional,3D)数组,然后滤波器705进行滤波以降低块中的噪声分量,接着逆变换器707进行3D逆变换以计算对应的空间域值。加法器709可以将产生的包括降噪块的三维(3-dimensional,3D)数组添加到包括降噪块的一组输出三维(3-dimensional,3D)数组。换言之,选择器701可以从块匹配之后产生的列表中选择单个三维(3-dimensional,3D)数组。变换器703可以对该三维(3-dimensional,3D)数组应用稀疏强制三维(3-dimensional,3D)变换,目的是简化滤波。滤波器705可以,例如通过使用阈值机制或统计滤波机制,应用滤波以对三维(3-dimensional,3D)数组中固有的块进行联合降噪。这可以通过利用块间的冗余和/或相似性来执行。这还可以根据从测量到噪声的映射中确定的参考块标准偏差来自适应地实现,其中测量可以是梯度、光度和/或颜色坡度等图像特征测量。针对滤波器705,将方法的特定部分作为滤波操作的修改而引入,该滤波操作用于通过利用同一三维(3-dimensional,3D)数组包括的不同块之间的冗余联合移除固有噪声。不同的阈值机制和/或统计滤波器可以根据每个块中包括的噪声以自适应的方式实施。该方法可以基于修改的阈值机制来使用可用块的对应标准偏差,而非使用全局恒定标准偏差。该对应水平通常可以通过块相关的标准偏差来确定,块相关的标准偏差例如从另一确定器305采用的噪声建模期间定义的测量到噪声的映射中获得。使用硬阈值机制的修改协同滤波可以根据以下等式执行:δ(x)=0if|x|<λ3Dσxrxotherwise]]>其中,x表示变换域中的系数,λ3D表示预定阈值因子,σxr表示对应参考块的标准偏差,δ表示变换域中的滤波的系数。使用维纳滤波机制的修改协同滤波可以根据以下等式执行:Cxr=||τ3D(Pxr)||2||τ3D(Pxr)||2+σxr]]>其中,τ3D表示预定功能映射,Pxr表示变换域中的系数,σxr表示对应参考块的标准偏差,Cxr表示变换域中的滤波的系数。逆变换器707可以对滤波三维(3-dimensional,3D)数组进行3D逆变换以便恢复估计降噪块。加法器709可以将包括降噪块的滤波3D数组添加到输出列表中。结果可以是包括估计降噪块的一组滤波三维(3-dimensional,3D)数组。图8所示为通过合路器303合并滤波参考块与多个滤波相似块以获得降噪数字图像805的图。合路器303形成如结合图1描述的合路器303的可能实施方式。该图示出了聚合,用于使降噪块回到它们在数字图像中的原始位置以便获得降噪数字图像805。滤波参考块和多个滤波相似块包括在滤波三维(3-dimensional,3D)数组605中。另一滤波参考块和其它多个滤波相似块包括在另一滤波三维(3-dimensional,3D)数组801中。另一滤波参考块和其它多个滤波相似块包括在另一滤波三维(3-dimensional,3D)数组803中。合路器303可以执行降噪方法的聚合。假设包括降噪块和所有块的位置坐标的一组三维(3-dimensional,3D)数组,在将产生的重叠降噪块分散回它们在数字图像中的原始位置后,可以实现它们的聚合。聚合可以通过将合适的加权因子分配给数字图像中每个像素位置处的分散块以及对应归一化实现,以便确定最佳强度值。权重的选择通常可以与降噪滤波器301内滤波器705使用的滤波机制的选择有关。聚合权重可以根据以下等式确定,其中恒定标准偏差可以替换为块相关的标准偏差。换言之,合路器303可以将三维(3-dimensional,3D)数组中的滤波估计降噪块分散回它们在数字图像中的原始位置。数字图像的过完备表示,例如因为来自不同三维(3-dimensional,3D)数组的重叠块使原始数字图像损坏,可以恢复,因为它们中的一些可能不重叠。可以通过以下方式实现适当的聚合:给予重叠块合适的加权以便估计共享位置处的像素值。聚合权重可以例如在硬阈值滤波机制之后根据以下等式确定:wxr={1σxr2Nxr}]]>其中,σxr表示对应参考块的标准偏差,Nxr表示变换域中零值系数的数量,wxr表示聚合权重。聚合权重可以例如在维纳滤波机制之后根据以下等式确定:wxr=σxr-2||Cxr||-2]]>其中,σxr表示对应参考块的标准偏差,Cxr表示变换域中的滤波的系数,wxr表示聚合权重。图9所示为根据一实施例的用于依据多个其它数字图像确定多个图像特征测量和多个噪声指示符的另一确定器305的图。另一确定器305形成如结合图1描述的另一确定器305的可能实施方式。该图示出了噪声建模。另一确定器305包括捕集器901、平均器903和映射器905。捕集器901可以捕集多个其它数字图像以提供静态场景的n个噪杂镜头。平均器903可以平均静态场景的这些噪杂镜头以提供无噪声数字图像。映射器905可以根据使用的图像特征测量执行映射生成。对于评估该方法,数字图像中噪声建模的预处理可以与其属性的统计分析一起实现。假设实际噪声是高斯分布的,可以估计实际数字图像传感器提供的统计属性,例如标准偏差。该假设可以通过以下事实确认:相机噪声可以来自多种类型的噪声。根据中心极限定理,平均多种不同类型的分布往往可以近似高斯分布。重新考虑关于通过单个恒定标准偏差描述的噪声模型的假设。事实上,观察确认了图像块的噪声分布的标准偏差可以取决于其局部属性,例如块的平均强度或平均梯度。这可以表明为数字图像噪声假设非平稳分布,这可以取决于可用的块。本发明的实施例基于单个数字图像内不同区域的自适应降噪,并基于以下假设:实际噪声可以显示非平稳统计,并且可以与数字图像内区域的纹理、几何和局部统计紧密相关。噪声的统计可以取决于捕集数字图像传感器的性质。因此,方法的第一步骤可以包括学习阶段,以便估计标准偏差对光度和/或纹理等多个图像特征测量的依赖性。学习阶段可以应用于测试数据集,其包括由一组捕集系统记录的梯度、光度和纹理等不同属性的其它数字图像。因此,可以计算参数模型,其可以根据数字图像内考虑的块确定标准偏差。这样,可以为每个块分配一个单独的标准偏差。为简单起见,更详细地描述了局部强度和噪声电平相关性的示例。因此,梯度、颜色和/或纹理内容等其它图像特征测量可以对数字图像内的局部噪声电平产生相应影响。可以使用聚类机制来描述相关性。当数字图像传感器的分类是依据光度进行时,可以为同一集群分配,例如根据颜色空间或灰度等具有类似强度的像素。每一个集群可以配置有符合对应噪声电平的标准偏差。光度集群“I”与噪声分布的标准偏差σ之间的映射可以描述为:这可以指标准偏差σ可以描述为以下函数:σ(I)降噪方法可以基于映射。每一个块可以根据其包含的强度和标准偏差被单独处理,而非为所有块假设平稳、恒定标准偏差。块中噪声分布的平均标准偏差可以根据考虑的强度和/或梯度等图像特征测量而变化。该依赖性可以通过从测量到标准偏差的映射来描述。使用强度作为图像特征测量,可以计算每个块的平均强度。根据映射,可以为该值分配对应的标准偏差。降噪可以使用分配的标准偏差按块执行。换言之,在实际数字图像传感器的情况下,假设噪声是高斯,预处理可以基于标准偏差等自然噪声属性的统计分析。该假设通过以下事实确认:相机噪声可以来自多种不同类型的噪声。根据中心极限定理,平均多种不同类型的噪声分布往往近似高斯噪声分布。观察确认了每个块的噪声分布的标准偏差可以取决于其局部图像特征属性,例如块的平均强度或平均梯度。因此,本发明的实施例使用图像噪声的非平稳噪声分布,这取决于可用的块。另一确定器305可以执行噪声建模,旨在根据强度、梯度和/或纹理等不同的图像特征测量估计噪声统计在实际数字图像传感器中如何变化。另一确定器305可以执行一种用于对非平稳噪声统计与每个图像块的纹理和/或几何局部特征或特异性之间的相关性进行建模的方法。该方法可以包括学习阶段,应用于与捕集器901关联的一组捕集系统记录的具有不同属性的其它数字图像的测试数据集。该阶段可以具有以下目标:估计并以图形方式近似噪声标准偏差对光度、梯度和/或纹理等多个图像特征测量的依赖性,假设一个降噪地面真值数字图像可用。该降噪地面真值数字图像可以例如通过平均描绘相同场景的多个其它数字图像来确定,并且可以由平均器903执行。因此,参数模型可以由映射器905计算。映射器905可以根据描述可用块的图像特征测量来确定标准偏差。这样,可以为每个块分配描述包括的噪声电平的一个单独的标准偏差。捕集器901可以在相同条件下实现静态场景的其它数字图像的n个嘈杂数字图像帧的捕集。只有被记录的嘈杂数字图像中的单个数字图像可用作嘈杂输入数字图像。平均器903执行的平均可以旨在计算近似地面真值数字图像,例如无噪声数字图像。映射器905可以根据所选的光度、梯度和/或颜色坡度等图像特征测量或图像特征测量的组合来执行噪声建模,以便定义映射。在本示例中,提供了强度到噪声的映射。在本发明的实施例中,离线执行噪声建模,并且在应用降噪方法之前存储或预定义输出,例如测量到噪声的映射。降噪可以在线执行,例如在运行中执行。图10所示为根据一实施例的被布置以形成测量到噪声的映射1001的多个已存储图像特征测量和多个已存储噪声指示符的图。多个已存储图像特征测量、多个已存储噪声指示符和/或测量到噪声的映射1001可以存储在图像处理装置100的存储器中。该图示出了测量到噪声的映射,具体而言是强度到西格玛的映射。噪声通过对应的标准偏差指示。当基于局部图像特征测量,例如根据颜色空间或灰度的强度测量,执行数字图像传感器的分类时,具有相同强度的对应像素可以分配给同一集群。对于每一个集群,可以估计噪声标准偏差,从而确定对应的噪声电平。光度集群I与噪声分布的标准偏差σ之间的映射在数学上可以通过I→σ描述,标准偏差σ可以描述为函数σ(I)。本发明的实施例可以指向针对降噪调节基于块的方法以实现包括非平稳高斯噪声的数字图像的自适应降噪。假定某一数字图像传感器,该方法可以用于包括以下步骤的数字图像降噪:学习单个图像特征测量或光度、纹理和/或颜色等关联图像特征测量的组合的噪声统计,在高频滤波上应用基于块的降噪机制,以及依据所学习的统计应用阈值机制或统计滤波机制的自适应降噪。可以在噪声建模中确定块的噪声电平,例如σr或σs。噪声电平可以离线计算。学习阶段可以应用于预先确定的一组其它数字图像,例如测试图像,以便在考虑噪声的情况下根据光度、纹理和/或颜色等多个图像特征测量来学习噪声标准偏差。这可以离线执行。例如,测量到噪声的映射或直方图可以离线计算并且可以预存储。因此,噪声建模可以离线执行,并且测量到噪声的映射可以在应用降噪之前存储或预先确定。假设输入数字图像,可以通过考虑离线学习的噪声标准偏差来执行实际降噪。也就是,对于输入数字图像的每个块,可以基于光度、梯度、纹理等实际图像特征测量以及对应块的其它参数来确定σ的值,它们可以映射到预存储的映射或直方图上。这样,可以根据噪声电平为输入数字图像中的每个块分配一个单独的标准偏差。这可以在线执行,例如在运行中执行。基于块的分配的σ值,可以根据提供的与相似性测量有关的等式来选择每个参考块的最佳匹配和/或相似块。在整个描述中,使用了以下缩略语和术语的定义:3D表示三维空间;数字图像表示数码相机进行的真实世界或合成场景的视觉表示,也可以称为图片;像素表示最小可寻址图像或图片元素;块表示从图像中提取的像素的块;3D数组表示包括互相堆积的相似块的数组;稀疏信号表示可以仅通过变换域中的少数系数描述的信号;块匹配表示在数字图像内搜索参考块的相似块的方法或算法;协同滤波表示一种滤波方法,其中,不是考虑单个块进行滤波,而是在彼此顶部堆积的多个块,这多个块形成3D数组,可以在考虑它们之间的相关性的情况下进行联合滤波;聚合表示某一像素位置处的重叠块带来的不同强度估计的加权平均;地面真值表示在平均相同场景的一组n个嘈杂图像帧后产生的无噪声图像;高斯分布,也称为正常分布,表示连续对称钟形概率函数,通过平均值μ和正标准偏差描述;测量表示数字图像中的特性,通常用于从数字图像中提取信息,例如强度、梯度和/或颜色坡度,并且通常可以与局部噪声电平相关;标准偏差表示测量与平均值的变化或离差总量的值,并且可以是报告的针对真值的误差限度;映射表示数据集之间的关系的图示,并且可以是图像噪声与梯度、光度和/或颜色坡度等考虑的测量之间的相关性的参数模型;二次距离表示量化两个数字图像和/或块之间的相似性的距离度量,可以计算为数字图像和/或块之间像素方面的差异的标准;噪声表示图像中亮度、纹理、梯度或颜色的随机变化,例如捕集的场景中不存在的变化。当前第1页1 2 3 
当前第1页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1