一种插帧质量评估方法和装置与流程

文档序号:21083843发布日期:2020-06-12 16:45阅读:357来源:国知局
一种插帧质量评估方法和装置与流程

本公开涉及视频处理技术领域,尤其涉及一种插帧质量评估方法和装置。



背景技术:

视频帧率提升是一种将低帧率视频转换为高帧率视频的视频后处理方法,利用相邻帧原始图像之间的时域相关性确定内插帧图像,然后将内插帧图像插入相邻帧原始图像之间以达到增加帧率的目的。例如,将视频帧率从30fps(framespersecond,帧每秒)提升至60fps。视频帧率越高,视频画面中动作越流畅,用户观看体验越好。

目前常用的视频帧率提升方法为基于光流的光流插帧法,通过计算视频中相邻帧原始图像之间的光流,进而生成相邻帧原始图像之间的内插帧图像。实际应用中,由于无法确保相邻帧原始图像之间的光流是否准确,导致光流插帧之后的高帧率视频中可能会出现物体边缘破碎等影响用户观看体验的现象。

因此,亟需一种插帧质量评估方法。



技术实现要素:

有鉴于此,本公开提出了一种插帧质量评估方法和装置,用于实现对基于光流插帧法得到的内插帧图像进行插帧质量评估。

根据本公开的第一方面,提供了一种插帧质量评估方法,包括:基于光流插帧法,确定相邻两帧原始图像之间的内插帧图像;针对所述内插帧图像中的内插像素点,确定所述内插像素点在所述相邻两帧原始图像中的映射像素点对应的权重;根据所述映射像素点对应的权重,判断所述内插像素点的像素质量是否达标。

在一种可能的实现方式中,确定所述内插像素点在所述相邻两帧原始图像中的映射像素点对应的权重,包括:在所述相邻两帧原始图像中的任一帧原始图像中,确定与所述内插像素点的坐标位置相同的第一像素点;根据所述第一像素点的光流,确定所述内插像素点对应的映射像素点;确定所述第一像素点的光流质量;根据所述第一像素点的光流质量,确定所述映射像素点对应的权重,其中,所述第一像素点的光流质量与所述映射像素点对应的权重成正比。

在一种可能的实现方式中,确定所述第一像素点的光流质量,包括:根据所述第一像素点与所述第一像素点在相邻帧原始图像中对应的第二像素点之间的像素值一致性,确定所述第一像素点的光流质量。

在一种可能的实现方式中,根据所述第一像素点与所述第一像素点在相邻帧原始图像中对应的第二像素点之间的像素值一致性,确定所述第一像素点的光流质量,包括:根据所述第一像素点的光流,确定所述第一像素点在相邻帧原始图像中对应的所述第二像素点;确定所述第一像素点与所述第二像素点之间的像素值一致性误差;根据所述像素值一致性误差,确定所述第一像素点的光流质量,其中,所述像素值一致性误差与所述第一像素点的光流质量成反比。

在一种可能的实现方式中,确定所述第一像素点的光流质量,包括:根据所述第一像素点与所述第一像素点在相邻帧原始图像中对应的第二像素点之间的光流一致性,确定所述第一像素点的光流质量。

在一种可能的实现方式中,根据所述第一像素点与所述第一像素点在相邻帧原始图像中对应的第二像素点之间的光流一致性,确定所述第一像素点的光流质量,包括:根据所述第一像素点的光流,确定所述第一像素点在相邻帧原始图像中对应的所述第二像素点;确定所述第一像素点与所述第二像素点之间的光流一致性误差;根据所述光流一致性误差,确定所述第一像素点的光流质量,其中,所述光流一致性误差与所述第一像素点的光流质量成反比。

在一种可能的实现方式中,所述内插像素点在所述相邻两帧原始图像中的映射像素点为多个;根据所述映射像素点对应的权重,判断所述内插像素点的像素质量是否达标,包括:当至少一个映射像素点对应的权重大于第一阈值时,确定所述内插像素点的像素质量达标。

在一种可能的实现方式中,还包括:当所述内插帧图像中像素质量达标的内插像素点的数目大于第二阈值时,确定所述内插帧图像的插帧质量达标。

根据本公开的第二方面,提供了一种插帧质量评估装置,包括:第一确定模块,用于基于光流插帧法,确定相邻两帧原始图像之间的内插帧图像;第二确定模块,用于针对所述内插帧图像中的内插像素点,确定所述内插像素点在所述相邻两帧原始图像中的映射像素点对应的权重;判断模块,用于根据所述映射像素点对应的权重,判断所述内插像素点的像素质量是否达标。

在一种可能的实现方式中,所述第二确定模块包括:第一确定子模块,用于在所述相邻两帧原始图像中的任一帧原始图像中,确定与所述内插像素点的坐标位置相同的第一像素点;第二确定子模块,用于根据所述第一像素点的光流,确定所述内插像素点对应的映射像素点;第三确定子模块,用于确定所述第一像素点的光流质量;第四确定子模块,用于根据所述第一像素点的光流质量,确定所述映射像素点对应的权重,其中,所述第一像素点的光流质量与所述映射像素点对应的权重成正比。

在一种可能的实现方式中,所述第三确定子模块具体用于:根据所述第一像素点与所述第一像素点在相邻帧原始图像中对应的第二像素点之间的像素值一致性,确定所述第一像素点的光流质量。

在一种可能的实现方式中,所述第三确定子模块包括:第一确定单元,用于根据所述第一像素点的光流,确定所述第一像素点在相邻帧原始图像中对应的所述第二像素点;第二确定单元,用于确定所述第一像素点与所述第二像素点之间的像素值一致性误差;第三确定单元,用于根据所述像素值一致性误差,确定所述第一像素点的光流质量,其中,所述像素值一致性误差与所述第一像素点的光流质量成反比。

在一种可能的实现方式中,所述第三确定子模块具体用于:根据所述第一像素点与所述第一像素点在相邻帧原始图像中对应的第二像素点之间的光流一致性,确定所述第一像素点的光流质量。

在一种可能的实现方式中,所述第三确定子模块包括:第四确定单元,用于根据所述第一像素点的光流,确定所述第一像素点在相邻帧原始图像中对应的所述第二像素点;第五确定单元,用于确定所述第一像素点与所述第二像素点之间的光流一致性误差;第六确定单元,用于根据所述光流一致性误差,确定所述第一像素点的光流质量,其中,所述光流一致性误差与所述第一像素点的光流质量成反比。

在一种可能的实现方式中,所述内插像素点在所述相邻两帧原始图像中的映射像素点为多个;所述判断模块具体用于:当至少一个映射像素点对应的权重大于第一阈值时,确定所述内插像素点的像素质量达标。

在一种可能的实现方式中,所述判断模块还用于:当所述内插帧图像中像素质量达标的内插像素点的数目大于第二阈值时,确定所述内插帧图像的插帧质量达标。

根据本公开的第三方面,提供了一种插帧质量评估装置,包括:处理器;用于存储处理器可执行指令的存储器;其中,所述处理器被配置为执行上述第一方面所述的插帧质量评估方法。

根据本公开的第四方面,提供了一种非易失性计算机可读存储介质,其上存储有计算机程序指令,其中,所述计算机程序指令被处理器执行时实现上述第一方面所述的插帧质量评估方法。

基于光流插帧法确定相邻两帧原始图像之间的内插帧图像之后,针对内插帧图像中的内插像素点,确定内插像素点在相邻两帧原始图像中的映射像素点对应的权重,进而根据映射像素点对应的权重,判断内插像素点的像素质量是否达标,从而可以对内插帧图像中任一内插像素点的像素质量进行有效评估。

根据下面参考附图对示例性实施例的详细说明,本公开的其它特征及方面将变得清楚。

附图说明

包含在说明书中并且构成说明书的一部分的附图与说明书一起示出了本公开的示例性实施例、特征和方面,并且用于解释本公开的原理。

图1示出本公开一实施例的插帧质量评估方法的流程示意图;

图2示出本公开一实施例的基于光流插帧法确定相邻两帧原始图像之间的内插帧图像的示意图;

图3示出本公开一实施例的插针质量评估装置的结构示意图;

图4示出本公开一实施例的电子设备的结构示意图。

具体实施方式

以下将参考附图详细说明本公开的各种示例性实施例、特征和方面。附图中相同的附图标记表示功能相同或相似的元件。尽管在附图中示出了实施例的各种方面,但是除非特别指出,不必按比例绘制附图。

在这里专用的词“示例性”意为“用作例子、实施例或说明性”。这里作为“示例性”所说明的任何实施例不必解释为优于或好于其它实施例。

另外,为了更好的说明本公开,在下文的具体实施方式中给出了众多的具体细节。本领域技术人员应当理解,没有某些具体细节,本公开同样可以实施。在一些实例中,对于本领域技术人员熟知的方法、手段、元件和电路未作详细描述,以便于凸显本公开的主旨。

图1示出本公开一实施例的插帧质量评估方法的流程示意图。如图1所示,该方法可以包括:

步骤s11,基于光流插帧法,确定相邻两帧原始图像之间的内插帧图像。

步骤s12,针对内插帧图像中的内插像素点,确定内插像素点在相邻两帧原始图像中的映射像素点对应的权重。

步骤s13,根据映射像素点对应的权重,判断内插像素点的像素质量是否达标。

在一种可能的实现方式中,基于光流插帧法,确定相邻两帧原始图像之间的内插帧图像,包括:基于光流插帧法,针对内插帧图像中的任一内插像素点,确定内插像素点在相邻两帧原始图像中的多个映射像素点;确定多个映射像素点中任一映射像素点对应的权重;根据任一映射像素点对应的权重和像素值,确定内插像素点对应的像素值。

图2示出本公开一实施例的基于光流插帧法确定相邻两帧原始图像之间的内插帧图像的示意图。

如图2所示,基于光流插帧法,确定第t帧原始图像和第t+1帧原始图像之间的第t+0.5帧内插帧图像,即确定第t+0.5帧内插帧图像中任一内插像素点对应的像素值。

确定第t+0.5帧内插帧图像中内插像素点(i,j)对应的像素值,具体地:

首先,针对第t+0.5帧内插帧图像中的内插像素点(i,j),根据第t帧原始图像中的像素点(i,j)的前向光流,确定内插像素点(i,j)在第t+1帧原始图像中的第一映射点(a,b);根据第t帧原始图像中的像素点(i,j)的后向光流,确定内插像素点(i,j)在第t帧原始图像中的第二映射点(c,d);根据第t+1帧原始图像中的像素点(i,j)的后向光流,确定内插像素点(i,j)在第t帧原始图像中的第三映射点(e,f);根据第t+1帧原始图像中的像素点(i,j)的前向光流,确定内插像素点(i,j)在第t+1帧原始图像中的第四映射点(g,h);

其次,确定第一映射点(a,b)对应的权重w1、第二映射点(c,d)对应的权重w2、第三映射点(e,f)对应的权重w3、第四映射点(g,h)对应的权重w4;

最后,根据下述加权平均算法确定内插像素点(i,j)对应的像素值

其中,为第一映射点(a,b)对应的像素值,为第二映射点(c,d)对应的像素值,为第三映射点(e,f)对应的像素值,为第四映射点(g,h)对应的像素值。

在一种可能的实现方式中,确定内插像素点在相邻两帧原始图像中的映射像素点对应的权重,包括:在相邻两帧原始图像中的任一帧原始图像中,确定与内插像素点的坐标位置相同的第一像素点;根据第一像素点的光流,确定内插像素点对应的映射像素点;确定第一像素点的光流质量;根据第一像素点的光流质量,确定映射像素点对应的权重,其中,第一像素点的光流质量与映射像素点对应的权重成正比。

第一像素点的光流质量越好,映射像素点对应的权重越大,进而根据映射像素点的权重得到的内插像素点的像素质量越高。因此,通过确定第一像素点的光流质量,可以确定映射像素点对应的权重,进而有效判断内插像素点的像素值量是否达标。

仍以上述图2为例,确定第t+0.5帧内插帧图像中内插像素点(i,j)在第t帧原始图像和/或第t+1帧原始图像中的映射像素点对应的权重的过程包括下述至少一个步骤。

确定第t+0.5帧内插帧图像中的内插像素点(i,j)在第t+1帧原始图像中的第一映射像素点(a,b)对应的权重w1,具体地:确定第t帧原始图像中的第一像素点(i,j)的前向光流值(vx_a,vy_a),也即第一映射像素点确定第一像素点(i,j)的前向光流(vx_a,vy_a)的光流质量;根据第一像素点(i,j)的前向光流(vx_a,vy_a)的光流质量,确定第一映射像素点对应的权重w1,其中,第一像素点(i,j)的前向光流(vx_a,vy_a)的光流质量与第一映射像素点对应的权重w1成正比,即第一像素点(i,j)的前向光流(vx_a,vy_a)的光流质量越好,第一映射像素点对应的权重w1越大。

确定第t+0.5帧内插帧图像中的内插像素点(i,j)在第t帧原始图像中的第二映射像素点(c,d)对应的权重w2,具体地:确定第t帧原始图像中的第一像素点(i,j)的后向光流值(-vx_b,-vy_b),也即第二映射像素点确定第一像素点(i,j)的后向光流(-vx_b,-vy_b)的光流质量;根据第一像素点(i,j)的后向光流(-vx_b,-vy_b)的光流质量,确定第二映射像素点对应的权重w2,其中,第一像素点(i,j)的后向光流(-vx_b,-vy_b)的光流质量与第二映射像素点对应的权重w2成正比,即第一像素点(i,j)的后向光流(-vx_b,-vy_b)的光流质量越好,第二映射像素点对应的权重w2越大。

确定第t+0.5帧内插帧图像中的内插像素点(i,j)在第t帧原始图像中的第三映射像素点(e,f)对应的权重w3,具体地:确定第t+1帧原始图像中的第一像素点(i,j)的后向光流值(-vx_c,-vy_c),也即第三映射像素点确定第一像素点(i,j)的后向光流(-vx_c,-vy_c)的光流质量;根据第一像素点(i,j)的后向光流(-vx_c,-vy_c)的光流质量,确定第三映射像素点对应的权重w3,其中,第一像素点(i,j)的后向光流(-vx_c,-vy_c)的光流质量与第三映射像素点对应的权重w3成正比,即第一像素点(i,j)的后向光流(-vx_c,-vy_c)的光流质量越好,第三映射像素点对应的权重w3越大。

确定第t+0.5帧内插帧图像中的内插像素点(i,j)在第t+1帧原始图像中的第四映射像素点(g,h)对应的权重w4,具体地:确定第t+1帧原始图像中的第一像素点(i,j)的前向光流值(vx_d,vy_)d,也即第四映射像素点确定第一像素点(i,j)的前向光流(vx_d,vy_d)的光流质量;根据第一像素点(i,j)的前向光流(vx_d,vy_d)的光流质量,确定第四映射像素点对应的权重w4,其中,第一像素点(i,j)的前向光流(vx_d,vy_d)的光流质量与第四映射像素点对应的权重w4成正比,即第一像素点(i,j)的前向光流(vx_d,vy_d)的光流质量越好,第四映射像素点对应的权重w4越大。

确定第一像素点的光流质量的方式包括但不限于下述两种。

第一种:

在一种可能的实现方式中,确定第一像素点的光流质量,包括:根据第一像素点与第一像素点在相邻帧原始图像中对应的第二像素点之间的像素值一致性,确定第一像素点的光流质量。

当第一像素点的光流质量较好时,第一像素点与第一像素点在相邻帧原始图像中对应的第二像素点为相同特征点,即第一像素点与第二像素点之间具有像素值一致性。因此,通过判断第一像素点与第一像素点在相邻帧原始图像中对应的第二像素点之间的像素值一致性,可以有效确定第一像素点的光流质量。

在一种可能的实现方式中,根据第一像素点与第一像素点在相邻帧原始图像中对应的第二像素点之间的像素值一致性,确定第一像素点的光流质量,包括:根据第一像素点的光流,确定第一像素点在相邻帧原始图像中对应的第二像素点;确定第一像素点与第二像素点之间的像素值一致性误差;根据像素值一致性误差,确定第一像素点的光流质量,其中,像素值一致性误差与第一像素点的光流质量成反比。

例如,第一像素点(i,j)为第t帧原始图像中的像素点,则确定第一像素点(i,j)的光流质量的过程包括下述至少一个步骤。

确定第一像素点(i,j)的前向光流(vx_a,vy_a)的光流质量,具体地:根据第一像素点(i,j)的前向光流(vx_a,vy_a),确定第一像素点(i,j)在第t+1帧原始图像中对应的第二像素点(i+vx_a,j+vy_a);确定第一像素点(i,j)与第二像素点(i+vx_a,j+vy_a)之间的像素值一致性误差;根据第一像素点(i,j)与第二像素点(i+vx_a,j+vy_a)之间的像素值一致性误差,确定第一像素点(i,j)的前向光流(vx_a,vy_a)的光流质量,其中,第一像素点(i,j)与第二像素点(i+vx_a,j+vy_a)之间的像素值一致性误差与第一像素点(i,j)的前向光流(vx_a,vy_a)的光流质量成反比,即第一像素点(i,j)与第二像素点(i+vx_a,j+vy_a)之间的像素值一致性误差越小,第一像素点(i,j)的前向光流(vx_a,vy_a)的光流质量越好。

确定第一像素点(i,j)的后向光流(vx_b,vy_b)的光流质量,具体地:根据第一像素点(i,j)的后向光流(vx_b,vy_b),确定第一像素点(i,j)在第t-1帧原始图像中对应的第二像素点(i-vx_b,j-vy_b);确定第一像素点(i,j)与第二像素点(i-vx_b,j-vy_b)之间的像素值一致性误差;根据第一像素点(i,j)与第二像素点(i-vx_b,j-vy_b)之间的像素值一致性误差,确定第一像素点(i,j)的后向光流(vx_b,vy_b)的光流质量,其中,第一像素点(i,j)与第二像素点(i-vx_b,j-vy_b)之间的像素值一致性误差与第一像素点(i,j)的后向光流(vx_b,vy_b)的光流质量成反比,即第一像素点(i,j)与第二像素点(i-vx_b,j-vy_b)之间的像素值一致性误差越小,第一像素点(i,j)的后向光流(vx_b,vy_b)的光流质量越好。

同理,可以确定第t+1帧原始图像中的第一像素点(i,j)的前向光流和后向光流的光流质量,这里不再赘述。

确定第一像素点和第二像素点之间的像素值一致性误差,包括但不限于下述两种方式。

a、在一种可能的实现方式中,确定第一像素点和第二像素点之间的像素值一致性误差,包括:

将第一像素点和第二像素点之间的像素值之差确定为该像素值一致性误差。

例如,第一像素点的像素值为30,第二像素点的像素值为28,则第一像素点和第二像素点之间的像素值一致性误差为2。

b、在一种可能的实现方式中,确定第一像素点和第二像素点之间的像素值一致性误差,包括:

以第一像素点为中心确定第一邻域窗口,以及以第二像素点为中心确定第二邻域窗口;

将所述第一邻域窗口与所述第二邻域窗口内像素点的像素值绝对差之和(sad,sumofabsolutedifferences)确定为该像素值一致性误差。

例如,以第一像素点为中心确定3×3的第一邻域窗口以第二像素点为中心确定3×3的第二邻域窗口第一邻域窗口与第二邻域窗口中对应像素点的像素值绝对差为则第一邻域窗口与第二邻域窗口的sad为17,即第一像素点和第二像素点之间的像素值一致性误差为17。

第二种:

在一种可能的实现方式中,确定第一像素点的光流质量,包括:根据第一像素点与第一像素点在相邻帧原始图像中对应的第二像素点之间的光流一致性,确定第一像素点的光流质量。

当第一像素点的光流质量较好时,第一像素点与第一像素点在相邻帧原始图像中对应的第二像素点为相同特征点,第一像素点的前向光流与第二像素点的后向光流的相同,或第一像素点的后向光流与第二像素点的前向光流的相同,即第一像素点与第二像素点之间具有光流一致性。因此,通过判断第一像素点与第一像素点在相邻帧原始图像中对应的第二像素点之间的光流一致性,可以有效确定第一像素点的光流质量。

在一种可能的实现方式中,根据第一像素点与第一像素点在相邻帧原始图像中对应的第二像素点之间的光流一致性,确定第一像素点的光流质量,包括:根据第一像素点的光流,确定第一像素点在相邻帧原始图像中对应的第二像素点;确定第一像素点与第二像素点之间的光流一致性误差;根据光流一致性误差,确定第一像素点的光流质量,其中,光流一致性误差与第一像素点的光流质量成反比。

例如,第一像素点(i,j)为第t帧原始图像中的像素点,则确定第一像素点(i,j)的光流质量的过程包括下述至少一个步骤。

确定第一像素点(i,j)的前向光流(vx_a,vy_a)的光流质量,具体地:根据第一像素点(i,j)的前向光流(vx_a,vy_a),确定第一像素点(i,j)在第t+1帧原始图像中对应的第二像素点(i+vx_a,j+vy_a);确定第二像素点(i+vx_a,j+vy_a)的后向光流(vx_e,vy_e);确定前向光流(vx_a,vy_a)与后向光流(vx_e,vy_e)之间的光流一致性误差;根据前向光流(vx_a,vy_a)与后向光流(vx_e,vy_e)之间的光流一致性误差,确定第一像素点(i,j)的前向光流(vx_a,vy_a)的光流质量,其中,前向光流(vx_a,vy_a)与后向光流(vx_e,vy_e)之间的光流一致性误差与第一像素点(i,j)的前向光流(vx_a,vy_a)的光流质量成反比,即前向光流(vx_a,vy_a)与后向光流(vx_e,vy_e)之间的光流一致性误差越小,第一像素点(i,j)的前向光流(vx_a,vy_a)的光流质量越好。

确定第一像素点(i,j)的后向光流(vx_b,vy_b)的光流质量,具体地:根据第一像素点(i,j)的后向光流(vx_b,vy_b),确定第一像素点(i,j)在第t-1帧原始图像中对应的第二像素点(i-vx_b,j-vy_b);确定第二像素点(i-vx_b,j-vy_b)的前向光流(vx_f,vy_f);确定后向光流(vx_b,vy_b)与前向光流(vx_f,vy_f)之间的光流一致性误差;根据后向光流(vx_b,vy_b)与前向光流(vx_f,vy_f)之间的光流一致性误差,确定第一像素点(i,j)的后向光流(vx_b,vy_b)的光流质量,其中,后向光流(vx_b,vy_b)与前向光流(vx_f,vy_f)之间的光流一致性误差与第一像素点(i,j)的后向光流(vx_b,vy_b)的光流质量成反比,即后向光流(vx_b,vy_b)与前向光流(vx_f,vy_f)之间的光流一致性误差越小,第一像素点(i,j)的后向光流(vx_b,vy_b)的光流质量越好。

同理,可以确定第t+1帧原始图像中的第一像素点(i,j)的前向光流和后向光流的光流质量,这里不再赘述。

在一种可能的实现方式中,确定前向光流与后向光流之间的光流一致性误差,包括:

将前向光流与后向光流之间的光流值之差的绝对值确定为该光流一致性误差。

例如,前向光流为(2,3),后向光流为(-1,-3),则前向光流与后向光流之间的光流值之差的绝对值为即前向光流与后向光流之间的光流一致性误差为

在一种可能的实现方式中,所述内插像素点在所述相邻两帧原始图像中的映射像素点为多个;根据映射像素点对应的权重,判断内插像素点的像素质量是否达标,包括:当至少一个映射像素点对应的权重大于第一阈值时,确定内插像素点的像素质量达标。

针对内插像素点在相邻帧原始图像中的多个映射像素点,当至少有一个映射像素点对应的权重大于第一阈值时,则可以确定该内插像素点的像素质量达标。本公开对第一阈值的具体取值不作限定。

在一种可能的实现方式中,还包括:当内插帧图像中像素质量达标的内插像素点的数目大于第二阈值时,确定内插帧图像的插帧质量达标。

确定内插帧图像中包括的像素质量达标的内插像素点的数目,当像素质量达标的内插像素点的数目大于第二阈值时,可以确定该内插帧图像的插帧质量达标。本公开对第二阈值的具体取值不作限定。

基于光流插帧法确定相邻两帧原始图像之间的内插帧图像之后,针对内插帧图像中的内插像素点,确定内插像素点在相邻两帧原始图像中的映射像素点对应的权重,进而根据映射像素点对应的权重,判断内插像素点的像素质量是否达标,从而可以对内插帧图像中任一内插像素点的像素质量进行有效评估。

图3示出本公开一实施例的插帧质量评估装置的结构示意图。图3所示的装置30可以用于执行上述图1所示方法实施例的步骤,装置30包括:

第一确定模块31,用于基于光流插帧法,确定相邻两帧原始图像之间的内插帧图像;

第二确定模块32,用于针对内插帧图像中的内插像素点,确定内插像素点在相邻两帧原始图像中的映射像素点对应的权重;

判断模块33,用于根据映射像素点对应的权重,判断内插像素点的像素质量是否达标。

在一种可能的实现方式中,第二确定模块32包括:

第一确定子模块,用于在相邻两帧原始图像中的任一帧原始图像中,确定与内插像素点的坐标位置相同的第一像素点;

第二确定子模块,用于根据第一像素点的光流,确定内插像素点对应的映射像素点;

第三确定子模块,用于确定第一像素点的光流质量;

第四确定子模块,用于根据第一像素点的光流质量,确定映射像素点对应的权重,其中,第一像素点的光流质量与映射像素点对应的权重成正比。

在一种可能的实现方式中,第三确定子模块具体用于:

根据第一像素点与第一像素点在相邻帧原始图像中对应的第二像素点之间的像素值一致性,确定第一像素点的光流质量。

在一种可能的实现方式中,第三确定子模块包括:

第一确定单元,用于根据第一像素点的光流,确定第一像素点在相邻帧原始图像中对应的第二像素点;

第二确定单元,用于确定第一像素点与第二像素点之间的像素值一致性误差;

第三确定单元,用于根据像素值一致性误差,确定第一像素点的光流质量,其中,像素值一致性误差与第一像素点的光流质量成反比。

在一种可能的实现方式中,第三确定子模块具体用于:

根据第一像素点与第一像素点在相邻帧原始图像中对应的第二像素点之间的光流一致性,确定第一像素点的光流质量。

在一种可能的实现方式中,第三确定子模块包括:

第四确定单元,用于根据第一像素点的光流,确定第一像素点在相邻帧原始图像中对应的第二像素点;

第五确定单元,用于确定第一像素点与第二像素点之间的光流一致性误差;

第六确定单元,用于根据光流一致性误差,确定第一像素点的光流质量,其中,光流一致性误差与第一像素点的光流质量成反比。

在一种可能的实现方式中,内插像素点在相邻两帧原始图像中的映射像素点为多个;

判断模块33具体用于:

当至少一个映射像素点对应的权重大于第一阈值时,确定内插像素点的像素质量达标。

在一种可能的实现方式中,判断模块33还用于:

当内插帧图像中像素质量达标的内插像素点的数目大于第二阈值时,确定内插帧图像的插帧质量达标。

本公开提供的装置30能够实现图1所示方法实施例中的各个步骤,并实现相同的技术效果,为避免重复,这里不再赘述。

图4示出本公开一实施例的电子设备的结构示意图。如图4所示,在硬件层面,该电子设备包括处理器,可选地还包括内部总线、网络接口、存储器。其中,存储器可能包含内存,例如高速随机存取存储器(random-accessmemory,ram),也可能还包括非易失性存储器(non-volatilememory),例如至少1个磁盘存储器等。当然,该电子设备还可能包括其他业务所需要的硬件。

处理器、网络接口和存储器可以通过内部总线相互连接,该内部总线可以是isa(industrystandardarchitecture,工业标准体系结构)总线、pci(peripheralcomponentinterconnect,外设部件互连标准)总线或eisa(extendedindustrystandardarchitecture,扩展工业标准结构)总线等。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示,图3中仅用一个双向箭头表示,但并不表示仅有一根总线或一种类型的总线。

存储器,存放程序。具体地,程序可以包括程序代码,所述程序代码包括计算机操作指令。存储器可以包括内存和非易失性存储器,并向处理器提供指令和数据。

处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行,在逻辑层面上形成插帧质量评估装置。处理器,执行存储器所存放的程序,并具体执行图1所示方法实施例的步骤。

上述如图1所示方法可以应用于处理器中,或者由处理器实现。处理器可能是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器可以是通用处理器,包括中央处理器(centralprocessingunit,cpu)、网络处理器(networkprocessor,np)等;还可以是数字信号处理器(digitalsignalprocessor,dsp)、专用集成电路(applicationspecificintegratedcircuit,asic)、现场可编程门阵列(field-programmablegatearray,fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本说明书实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本说明书实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器,处理器读取存储器中的信息,结合其硬件完成上述方法的步骤。

该电子设备可执行图1所示方法实施例执行的方法,并实现上述图1所示方法实施例的功能,本说明书实施例在此不再赘述。

本说明书实施例还提出了一种计算机可读存储介质,该计算机可读存储介质存储一个或多个程序,该一个或多个程序包括指令,该指令当被包括多个应用程序的电子设备执行时,能够使该电子设备执行图1所示实施例中的改善插帧效果的方法,并具体执行图1所示方法实施例的步骤。

本公开可以是系统、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质,其上载有用于使处理器实现本公开的各个方面的计算机可读程序指令。

计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:便携式计算机盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、静态随机存取存储器(sram)、便携式压缩盘只读存储器(cd-rom)、数字多功能盘(dvd)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身,诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如,通过光纤电缆的光脉冲)、或者通过电线传输的电信号。

这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备,或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令,并转发该计算机可读程序指令,以供存储在各个计算/处理设备中的计算机可读存储介质中。

用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(isa)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码,所述编程语言包括面向对象的编程语言—诸如smalltalk、c++等,以及常规的过程式编程语言—诸如“c”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络—包括局域网(lan)或广域网(wan)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中,通过利用计算机可读程序指令的状态信息来个性化定制电子电路,例如可编程逻辑电路、现场可编程门阵列(fpga)或可编程逻辑阵列(pla),该电子电路可以执行计算机可读程序指令,从而实现本公开的各个方面。

这里参照根据本公开实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解,流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合,都可以由计算机可读程序指令实现。

这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器,从而生产出一种机器,使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时,产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中,这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作,从而,存储有指令的计算机可读介质则包括一个制造品,其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。

也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上,使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤,以产生计算机实现的过程,从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。

附图中的流程图和框图显示了根据本公开的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分,所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。

以上已经描述了本公开的各实施例,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨在最好地解释各实施例的原理、实际应用或对市场中的技术的技术改进,或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1