对在低光照中捕获的视频进行编码的制作方法_4

文档序号:9757302阅读:来源:国知局
升。例如,可以将概率与阈值进行对比,以做出关于帧是否提升其亮度通道的"是/否"决 策(如果概率足够高,则应用提升)。可替代地,可以使提升成为基于概率等级(例如基于查 找表)的程度问题,或者根据低光照的概率来计算提升。在实施例中,可以响应于检测到所 述相同的低光照条件(基于其提升色度)来执行色度调整。例如,为了降低蓝色伪影的影响, 色度调整可以包括使视频信号的色温暖化。例如,在色度通道包括红色通道和蓝色通道的 情况中(如在YUV空间中),可以通过扩大红色通道并且缩小蓝色通道来执行色温的暖化。可 以通过向红色通道增加偏移并且从蓝色通道减去偏移来执行色温的暖化。可替代地,可以 应用其它功能(例如乘法调整),或者可以使用查找。可以在依赖于概率是否超过用于检测 低光照的阈值的"是/否"的基础上应用色度调整(如果概率足够高则应用),或者可以使得 色度调整成为基于概率的程度的问题(例如,所计算的概率函数或所确定的查找,从而高概 率意味着更多的调整)。
[0069] 在下文中陈述了由模块24执行的亮度提升和色度调整的更详细的示例性实现。
[0070] 在低光照中捕获的视频的常见问题是场景黑暗并且常常在面部区域包含阴影。不 能够清楚地看到眼睛和面部表情潜在地降低了通信的质量。以下算法中的亮度提升块是在 图6中所示出的形式的强度变换。该变换是类似伽马函数并且可以例如由以下确定:
[0072]其中,P控制亮度提升的积极性,其中Yin (X,y)、Ycmt (X,y)分别表示输入和输出亮度 像素强度,并且C1、cdPc3是常数。" Round"表示凑整至亮度通道Y可以采用的离散等级中的 最近的一个等级(例如,针对8比特的Y通道而言256个可能的Y等级(0-255)中的一个)的凑 整操作。参数P的建议的范围在〇. 6到1之间(其中,0.6对应于最积极的亮度提升)。C1、(32和《 的示例性值是(^ = 102、(32 = 255和C3 = 3/5。变换的效果是在低强度区域中的细节变得更加 可见。这在图6中示出。
[0073] 例如,p可以被设置成固定值,并且依赖于低光照概率是否超过阈值来应用或者不 应用提升(如果概率足够高,则应用提升)。可替代地,P可以作为基于所确定的概率的程度 问题而变化(较高的概率被设置为引起较高的P值)。
[0074] 针对色度调整,可以将小的负偏移应用至蓝色色度像素值U(x,y),并且可以将小 的正偏移应用至红色色度像素值V(x,y),目的是增加色温(远离蓝色色调)。可以在取决于 低光照的概率是否超过阈值的是/否基础上应用偏移(如果概率足够高,则应用调整),或者 可以利用亮度提升的力度来调整偏移的大小(较高的概率被设置为引起更高的偏移)。
[0075] 关于由模块28执行的降噪,这可以具有多个相关的效果。如所提及的,在色度或颜 色通道上受到的噪声引入了帧内或帧间的更大的差,其反过来增加了在色度通道上花费的 比特数。应用降噪来减少由噪声引起的可见的伪影,也减少由该噪声产生的比特数。此外, 这具有使更多比特可用于对亮度通道进行编码的效果。如所提及的,比特率控制器21分配 一定的比特预算用于编码,并且调整编码以尝试在不超过该预算约束的情况下花费尽可能 多的预算比特。因此,如果在色度通道中一个或两个上产生更少的比特,那么比特率控制器 21将自动地把比特预算中"释放的"比特重新分配至剩余的通道一一至少包括亮度通道。
[0076] 在实施例中,也希望将降噪的复杂度保持在可控制的水平。在下文中陈述了具有 降低的复杂度的降噪操作的详细示例。
[0077]给定坚定的复杂度目标,以前的用于降噪的方法(例如基于补丁 /块的BM3D(块匹 配和3D滤波)的降噪方法)可能未必是最想要的实现。相反,降噪器28可以依靠更基本的滤 波技术。所发现的用于在计算复杂度和降噪性能之间提供折衷的方法是应用至色度通道的 递归实现的盒式模糊。
[0078]当实现盒式滤波时,可能希望利用滤波器内核是均匀的(即,在进行平均时盒子内 的所有像素被相等地加权)这一事实。所发现的最快速的算法是基于滤波器内核的递归更 新。算法如下:令C (x-w,y)是例如在水平位置x-w (内核宽度是2w+l)和垂直位置y (内核的中 心位置是(X,y))处在滤波器内核内的列中蓝色色度像素(即,U-通道)的和,即:
[0080]在初始化阶段中,针对第一水平行计算阵列C(这里忽略边界处理)。通过对从C(x-w,y)到C(x+w,y)的所有列求和并且利用盒式区域归一化而获得位置(x,y)处的经滤波的像 素。令S(x,y)表示该总和,即:
[0082] 为了对下一个像素进行滤波,未必必须计算求和的列C上的完整的总和。相反,可 以仅仅减去最左边的求和的列,并且加上新的列,即:
[0083] S(x+1,y) =S(x,y)+C( (x+1 )+w,y)_C(x_w,y) ·
[0084] 当处理行时,可以执行经求和的列的递归的更新以获得下一行的经求和的列,即:
[0085] C(x,y+1) = C(x,y)+U(x,y+w+l)-U(x,y_w) ·
[0086] 该方法本质上每像素仅仅必须产生两个加法和两个减法以执行滤波。在实施例 中,可以在两个色度通道中或仅在一个通道(例如蓝色通道)上执行相同的处理。
[0087]在实施例中,可以在取决于是否检测到噪声条件(例如,取决于噪声概率是否超过 阈值)的是/否基础上应用降噪(如果概率足够高,则应用降噪)。可替代地,降噪滤波器的一 个或多个参数可以作为依赖于概率的程度问题而变化。
[0088] 应当理解的是,仅仅通过示例的方式描述了以上的实施例。
[0089]例如,虽然已经就用于减少由具有噪声的颜色通道产生的比特数的降噪操作对上 文进行了描述,但是,替代形式将是在颜色通道中增加量化步长(与非彩色通道对比)。也就 是说,降噪模块28可以由颜色通道上的噪声依赖的量化步长所替代(或补充),其通过应用 比帧没有被分类为包含由于低光照产生的干扰时粗的量化粒度(并且比非彩色通道粗)来 降低颜色通道上的比特数。这将具有与降噪类似的效果(尽管其可能没有达到相同的平滑 效果,并且可能没有将斑点减轻到相同的程度,这就是为什么在以上的实施例中使用盒式 滤波的原因)。另一个替换形式将是在颜色通道上的数据不太有用或质量较低的基础上,仅 抑制颜色通道中的一个或两个而不改变量化步长(例如,将样本的大小减小某个因子或减 去一定的偏移)。也就是说,为了更高的主观质量的图像(更灰色或更单色)我们可以牺牲颜 色。
[0090] 也应当注意,低光照增强不是必须要在预处理阶段中实现的,并且相反,低光照增 强操作中的一个或多个可以被实现为编码器6的组成部分。例如,在应用至颜色通道的操作 包括量化步长的增加(粒度的减少)的情况下,其可以实现在编码器6中而不是预处理阶段。
[0091] 此外,虽然已经就比特率控制器重新分配释放的比特描述了上文,但是其它效果 导致这样的比特花费在亮度或非彩色通道上也是可能的。例如,一般而言,上文所描述的亮 度提升不是必须在亮度通道上产生更多的比特,这是因为通常是运动预测残差被变换、量 化和编码。然而(假设残差是负差)如果提升给出的对γ ιη曲线刚好比梯度1的直线陡(即, 刚好比Υ_ = Υιη+固定的偏移更陡),那么这可能倾向于导致低亮度样本的更大的残差。即, 与较小的值相比,较大的值被增加更大的偏移,从而导致更大的负差。在图6的Υ?3?Υ ιη曲线 中,该虚线在底端较陡而在顶端较浅,因此总而言之,残差可能更大或更小。然而,在非常低 的光照的捕获中,样本倾向于朝着该曲线的底端下落,并且因此由于提升而产生更大的残 差。因此,当在编码之前应用提升时,将以最低的强度范围增加预测残差的能量,尽管对于 整个强度范围这不是有效的。由这样的提升引起的亮度比特的任何增加(如果有的话)可以 由色度通道上的降噪来补偿,和/或可以由比特率控制器重新分配预算中的仍然留下来的 任意比特。也可以应用其它亮度提升,例如,可以实现明确地被设计为增加在亮度通道上花 费的比特数的亮度提升操作。
[0092] 此外,在上文中所公开的各种增强阶段的教导未必必须一起被应用。例如,上文公 开了以某种方式都基于光照的两个不同的色度:响应于与亮度提升相同的低光照条件而执 行的色度调整,以及响应于单独的噪声条件(但是所述噪声条件考虑了帧上的亮度)而执行 的色度通道上的降噪操作。在可替代的实施例中,通过仅仅应用色度调整而没有降噪,或者 仅仅应用降噪而没有色度调整来达成增强效果中的一些将是可能的,和/或这些中的任何 一个可以在具有或者不具有亮度提升的情况下被应用。此外,可以使用不同的条件来触发 或改变这样的操作和/或亮度提升的程度。此外,可以独立于色度调整和降噪中的一个或两 个来应用亮度提升。
[0093] 因此,根据本发明的另一个方面,可以提供一种装置,其包括:编码器,其被设置为 对从摄像机所捕获的视频信号进行编码;以及低光照争抢模块,其被配置为在包括表示颜 色的两个颜色通道和表示光照等级的非彩色通道的颜色空间中对视频信号执行低光照增 强,低光照增强包括:根据所捕获的视频信号确定光照特征的测量,以及
当前第4页1 2 3 4 5 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1