一种基于边缘检测的3D-HEVC深度图帧内编码模式快速决策方法与流程

本发明涉及基于3d-hevc的视频编码技术，具体涉及一种3d-hevc编码中基于边缘检测的深度图帧内编码模式快速决策方法
背景技术：
：随着计算机多媒体技术的兴起，电影、电视等方面的视频技术不断发展和完善，数字视频技术已经成为现代学术界和工业界的研究热点。三维视频不仅给人们感官上带来更高的体验感，而且也具有较为广泛的应用前景，如医学、教育等领域。为了满足各方面应用在视频压缩和传输等方面的需求，众多国内外学者和研究机构在3d视频高效编码方面开展了大量的科学研究。截止目前，正式颁布的最新3d视频编码标准是基于新一代高效视频编码标准(highefficiencyvideocoding,hevc)的3d-hevc标准。3d-hevc编码标准采用多视点视频加深度(multi-viewvideoplusdepth，mvd)的视频格式。这种视频格式只需编码少量视点的视频，并在视频的解码端利用基于深度的图像绘制(depth-image-basedrendering，dibr)技术来合成相邻视点间的虚拟视点。这样就可以利用较少的已编码视点来获得更多数量的虚拟视点，从而有效提高视频的压缩和传输效率。进行编码的每个视点均为同一时间从不同角度对同一场景进行拍摄得到的，包含纹理图和深度图。如图1所示，(a)为纹理图，(b)为相应视点的深度图，其像素值表示物体到摄像机的量化距离。通过观察可知，纹理图含有较多的纹理细节，而深度图则存在锐利边缘(实线框所示)和大片平坦区域(虚线框所示)。3d-hevc标准针对于深度视频边缘信息丰富的特征，在保留原有的35中帧内编码模式以外，引入了新的帧内编码技术——深度模型模式(depthmodelingmode，dmm)，该模式包括楔形(wedgelet)模式和轮廓(contour)模式。该新技术在提升视频质量的同时也使帧内编码复杂度急剧增加。表1给出了传统的35种帧内预测模式以及3d-hevc深度图帧内编码时引入的两种dmm预测模式的编号，模式0为planar模式，模式1为dc模式，模式2～34为33种角度模式，模式37、38分别为dmm1(wedgelet)模式和dmm4(contour)模式。传统的35种预测模式方向如图2所示，其中模式2～17称为水平类模式，模式18～34称为垂直类模式。planar模式适用于像素值缓慢变化的区域，dc模式适用于大面积平坦区域，因此这两种模式在平坦区域被选择的概率较大；而角度模式则是为了能更好的适应视频内容中不同的纹理方向，因此在纹理复杂的区域应用的概率较大。传统的帧内编码方法，存在计算复杂度高，编码效率低的问题。本发明针对于具有较高计算复杂度的深度图帧内编码过程，提出了一种基于边缘检测的帧内编码快速决策方法，在保证视频质量的同时，有效减少帧内预测编码过程的计算复杂度，提高编码效率。表13d-hevc帧内预测模式帧内模式编号帧内模式名称0planar模式1dc模式2～3433种角度模式37dmm1(wedgelet)模式38dmm4(contour)模式在帧内预测编码过程中，对于每一个预测单元(pu)，均使用粗模式选择(roughmodedecision，rmd)和率失真优化(ratedistortionoptimation，rdo)相结合的过程，最终选择出最佳的帧内预测模式，具体过程如图3所示。首先进行粗模式选择，利用基于hadamard变换得到的绝对变换差的和(sumofabsolutetransformdifferences，satd)，计算35种帧内预测模式的低复杂度率失真代价值，并将其从小到大排序后，选择前n种(8×8和4×4尺寸的pu为8种，16×16、32×32和64×64尺寸的pu为3种)代价值最小的模式加入到候选列表中[8]。然后，将最有可能的模式(mostprobablemodes，mpms)加入到候选列表中。当编码深度图时，由于深度模型模式被设计为帧内预测模式，因此dmm1和dmm4也被加入到最终的率失真优化候选列表中；而编码纹理图时，则跳过dmm模式选择过程。最后，对候选列表中的所有模式进行率失真优化计算，得到更加精确的率失真代价函数，并通过比较率失真代价值选择出代价值最小的模式作为当前pu的最佳帧内预测模式。技术实现要素：本发明的目的在于，针对基于hevc的3d视频编码标准3d-hevc中深度图帧内编码过程计算复杂度高的问题，提出了一种基于边缘检测的深度图帧内模式快速决策方法，在保证视频成虚拟视点质量的前提下，有效降低编码复杂度，提高编码效率，缩短编码时间。为解决上述技术问题，本发明采取的技术方案为：一种基于边缘检测的3d-hevc深度图帧内编码模式快速度选择方法，该方法通过判断当前预测单元(predictionunit，pu)属于平坦区域还是纹理复杂区域来简化帧内模式选择过程。若满足平坦区域条件，则跳过相应帧内预测模式；否则，通过检测边缘的方向来减少粗模式选择(roughmodedecision，rmd)中角度模式计算数量，从而降低帧内编码复杂度，减少编码时间。本发明的技术方案流程如图所示。本方法包含如下步骤：s1判断当前pu是否属于为深度图，如为深度图继续进行步骤1.2，若为纹理图则进行35种帧内预测模式的粗模式选择过程，并跳转到步骤1.3；s2、提取深度图的灰度值，并利用边缘检测的方法判断当前pu的纹理特征，确定帧内编码候选模式：s2.1：对于pu的各个像素点，将水平、垂直、45度和135度角方向的各向同性sobel算子模板与其覆盖的图像3×3区域的9个像素进行卷积计算后，可得到该像素点的4个方向的边缘梯度分量g0,g45,g90和g135。4个方向的各向同性sobel算子模板如图4所示。4个方向的边缘梯度计算公式为：g0,g45,g90和g135分别为当前编码单元pu中各像素点水平、45度角、垂直、和135度角方向的边缘梯度分量，p为像素点的亮度值；s2.2：计算各个方向的边缘梯度后，利用公式：计算当前像素的总梯度值。g为当前编码单元pu中各像素点的边缘梯度值。s2.3：得到pu中每个像素的总梯度值后，利用公式：计算当前pu的纹理复杂度。w为当前预测单元pu的宽度，gi为边缘梯度值矩阵中第i个像素点的梯度幅值，t为当前pu的纹理复杂度。s2.4：若t＝0，则跳过粗模式选择过程，直接将planar、dc模式加到帧内模式候选列表中；s2.5：若t≠0，计算在当前pu中每个像素的边缘梯度分量g0,g45,g90和g135分别为最大值的次数，记为d0,d45,d90和d135。s2.6：根据公式：maind＝max{d0，d45，d90，d135}，选择d0,d45,d90和d135中最大值所代表的方向为当前pu的纹理预测方向，并根据表2选择相应的帧内预测模式范围，并对相应模式进行粗模式选择计算。d0，d45，d90，d135分别表示当前pu中每个边缘梯度(g0,g45,g90,g135)为最大值的次数,maind为d0，d45，d90，d135中的最大值，即当前pu的纹理预测方向。表2纹理预测方向对应的帧内预测模式纹理预测方向帧内预测模式d00,1,21-31d450,1,13-23d900,1,5-15d1350,1,2-7,29-34s3、将mpms模式添加到候选列表中；s4、如果当前帧是深度图，则将dmms添加到候选列表中；否则跳过此步骤；s5、计算候选列表中每个模式的率失真代价值，率失真代价值最小的模式作为最佳预测模式。附图说明图1是纹理图深度图对比(序列kendo，视点5的第1帧)；图2是3d-hevc中35种帧内编码预测模式方向图3是3d-hevc帧内预测编码的流程图；图4是4个方向(水平、垂直、45度和135度)的各向同性sobel算子模板图5是本发明方法的流程图图6是本发明方法与3d-hevc原始编码方法的率失真曲线比较图图7是本发明方法与3d-hevc原始方法编码后视频的主观质量及细节比较图(视频序列“balloons”，视点5，第20帧)具体实施方式以下结合附图对本发明作进一步详细阐述。本发明针对基于hevc的3d视频编码标准3d-hevc中深度图帧内编码过程计算复杂度高的问题，提出了一种基于边缘检测的深度图帧内模式快速决策方法，在保证视频成虚拟视点质量的前提下，有效降低编码复杂度，提高编码效率，缩短编码时间。图5位本发明方法的流程图。本发明方法的具体步骤如下：步骤一：判断当前pu是否属于为深度图，如为深度图继续进行步骤二，若为纹理图则进行35种帧内预测模式的粗模式选择过程(图3为3d-hevc这内预测编码流程图)，并跳转到步骤三。步骤二：提取深度图的灰度值，并利用边缘检测的方法判断当前pu的纹理特征，确定帧内编码候选模式：2.1：对于pu的各个像素点，将水平、垂直、45度和135度角方向的各向同性sobel算子模板与其覆盖的图像3×3区域的9个像素进行卷积计算后，得到像素点4个方向的边缘梯度分量g0,g45,g90和g135。4个方向的各向同性sobel算子模板如图4所示。4个方向的边缘梯度计算公式为：g0,g45,g90和g135分别为当前编码单元pu中各像素点水平、45度角、垂直、和135度角方向的边缘梯度分量，p为像素点的亮度值2.2：计算各个方向的边缘梯度后，利用公式：计算当前像素的总梯度值。g为当前编码单元pu中各像素点的边缘梯度值。2.3：得到pu中每个像素的总梯度值后，利用公式：计算当前pu的纹理复杂度。w为当前预测单元pu的宽度，gi为边缘梯度值矩阵中第i个像素点的梯度幅值，t为当前pu的纹理复杂度。2.4：若t＝0，则跳过粗模式选择过程，直接将planar、dc模式加到帧内模式候选列表中；2.5：若t≠0，计算在当前pu中每个像素的边缘梯度分量g0,g45,g90和g135分别为最大值的次数，记为d0,d45,d90和d135。2.6：根据公式：maind＝max{d0，d45，d90，d135}，选择d0,d45,d90和d135中最大值所代表的方向为当前pu的纹理预测方向，并根据表2选择相应的帧内预测模式范围，并对相应模式进行粗模式选择计算。d0，d45，d90，d135分别表示当前pu中每个边缘梯度(g0,g45,g90,g135)为最大值的次数,maind为d0，d45，d90，d135中的最大值，即当前pu的纹理预测方向。表2纹理预测方向对应的帧内预测模式纹理预测方向帧内预测模式d00,1,21-31d450,1,13-23d900,1,5-15d1350,1,2-7,29-34步骤三：将mpms模式添加到候选列表中；步骤四：如果当前帧是深度图，则将dmms添加到候选列表中；否则跳过此步骤；步骤五：计算候选列表中每个模式的率失真代价值，率失真代价值最小的模式作为最佳预测模式。为了对本发明方法的可行性和有效性进行验证，本文在3d-hevc测试平台htm-16.0上进行实验，采用全帧内编码配置文件进行编码。本实验选取分辨率为1024×768的balloons、kendo、newspaper1序列以及分辨率为1920×1088的gt_fly、poznan_hall2、poznan_street、undo_dancer、shark序列。测试序列具体参数见表3。实验的硬件配置及编码参数见表4。表3测试序列参数表4实验配置参数依照公布的3d-hevc的测试标准对3d-hevc标准编码方法和引入边缘检测的帧内模式快速决策方法进行比较。etr(encodingtimereduction)表示与原始htm16.0测试平台相比，本发明方法所能节省的时间百分比，计算公式为：实验结果如表5所示。从表5中可以看出，本发明方法可以有效降低视频的编码复杂度，缩短编码时间。timehtm16.0表示htm16.0测试平台的编码时间，time本发明方法表示本发明提出的快速编码方法的编码时间。etr表示与原始htm16.0测试平台相比，本发明方法所能节省的时间百分比。表5本发明方法与标准编码方法的编码时间性能比较结果(％)在有效降低编码复杂度的同时，还需要保证各个视点视频编码质量以及合成视点的视频质量。因此还需要对使用原始编码方法和本发明方法编码后的纹理视频和合成视点视频的质量进行比较。结果图表6所示，其中videopsnr/totalbitrate(简称v/t)表示编码后的视频峰值信噪比(peaksignal-to-noiseratio,psnr)与总比特率的bd-rate的比值；synthpsnr/totalbitrate(简称s/t)表示合成视点的psnr与总比特率的bd-rate的比值。从表6中可看出，与原始的3d-hevc标准编码方法相比，本发方法在保证较好的视频质量的前提下，可以较好的降低帧内编码的计算复杂度。从而证明本方法在帧内编码的性和高效性方面具有先进性。表6本发明方法与标准编码方法的视频质量比较结果(％)当前第1页12