用于编码单元的三叉树划分处理方法、设备及存储介质与流程

本申请涉及视频压缩，特别涉及一种用于编码单元的三叉树划分处理方法、设备及存储介质。

背景技术：

1、h.266/vvc是一种视频编码标准，能够提供更高的压缩效率和更好的视频质量。

2、在相关技术中，块划分可以将视频帧划分为多个块，每个块都可以独立地进行编码和解码，以提升视频质量。

3、然而，h.266/vvc引入了多类型树划分模式，增加了寻找最优块划分方式的复杂度，会给视频编解码带来很大的计算量，严重影响视频编码效率。

技术实现思路

1、本申请提供了一种用于编码单元的三叉树划分处理方法、设备及存储介质，可以通过预测以跳过三叉树划分，进而提高视频编码效率；所述技术方案内容如下。

2、根据本申请的一方面，提供了一种用于编码单元的三叉树划分处理方法，所述方法包括：

3、获取编码单元cu的特征向量；所述特征向量用于表示所述cu的图像特征以及所述cu的邻域图像特征；

4、基于所述特征向量，获取预测值；所述预测值用于指示所述cu跳过三叉树划分的概率；

5、响应于所述预测值大于预测阈值，基于对所述cu的不划分的预测结果、四叉树划分的预测结果、二叉树水平划分的预测结果以及二叉树垂直划分的预测结果，跳过对所述cu的三叉树水平划分和三叉树垂直划分中的至少一个划分流程。

6、根据本申请的一方面，提供了一种用于编码单元的三叉树划分处理方法，所述方法包括：

7、获取cu样本的特征向量样本，以及所述cu样本的最优三叉树划分方式；

8、将所述特征向量样本，输入网络预测模型，获得所述网络预测模型输出的，所述cu样本的三叉树划分方式预测结果；所述三叉树划分方式预测结果用于指示所述cu样本跳过三叉树划分的概率；

9、基于所述cu样本的最优三叉树划分方式，以及所述三叉树划分方式预测结果，获取所述网络预测模型的损失函数值；

10、基于所述网络预测模型的损失函数值，对所述网络预测模型进行参数更新；

11、其中，所述网络预测模型，用于基于输入的cu的特征向量，输出预测值；所述特征向量用于表示所述cu的图像特征以及所述cu的邻域图像特征；所述预测值用于指示所述cu跳过三叉树划分的概率。

12、根据本申请的一方面，提供了一种用于编码单元的三叉树划分处理装置，所述装置包括：

13、第一获取模块，用于获取编码单元cu的特征向量；所述特征向量用于表示所述cu的图像特征以及所述cu的邻域图像特征；

14、第二获取模块，用于基于所述特征向量，获取预测值；所述预测值用于指示所述cu跳过三叉树划分的概率；

15、执行模块，用于响应于所述预测值大于预测阈值，基于对所述cu的不划分的预测结果、四叉树划分的预测结果、二叉树水平划分的预测结果以及二叉树垂直划分的预测结果，跳过对所述cu的三叉树水平划分和三叉树垂直划分中的至少一个划分流程。

16、根据本申请的一方面，提供了一种用于编码单元的三叉树划分处理装置，所述装置包括：

17、样本获取模块，用于获取cu样本的特征向量样本，以及所述cu样本的最优三叉树划分方式；

18、输入输出模块，用于将所述特征向量样本，输入网络预测模型，获得所述网络预测模型输出的，所述cu样本的三叉树划分方式预测结果；所述三叉树划分方式预测结果用于指示所述cu样本跳过三叉树划分的概率；

19、损失获取模块，用于基于所述cu样本的最优三叉树划分方式，以及所述三叉树划分方式预测结果，获取所述网络预测模型的损失函数值；

20、参数更新模块，用于基于所述网络预测模型的损失函数值，对所述网络预测模型进行参数更新；

21、其中，所述网络预测模型，用于基于输入的cu的特征向量，输出预测值；所述特征向量用于表示所述cu的图像特征以及所述cu的邻域图像特征；所述预测值用于指示所述cu跳过三叉树划分的概率。

22、根据本申请的另一方面，提供了一种计算机设备，所述计算机设备包括处理器和存储器，所述存储器中存储有至少一条指令、至少一段程序、代码集或指令集，所述至少一条指令、所述至少一段程序、所述代码集或指令集由所述处理器加载并执行以实现如上方面所述的用于编码单元的三叉树划分处理方法。

23、根据本申请的另一方面，提供了一种计算机可读存储介质，所述可读存储介质中存储有至少一条指令、至少一段程序、代码集或指令集，所述至少一条指令、所述至少一段程序、所述代码集或指令集由处理器加载并执行以实现如上方面所述的用于编码单元的三叉树划分处理方法。

24、根据本申请的另一方面，提供了一种计算机程序产品，所述计算机程序产品包括计算机指令，所述计算机指令存储在计算机可读存储介质中，处理器从所述计算机可读存储介质读取并执行所述计算机指令，以实现上述如上方面所述的用于编码单元的三叉树划分处理方法。

25、本申请实施例提供的技术方案可以包括如下有益效果：

26、获取四种预测结果，包括获取cu的特征向量；根据获取cu的特征向量，获取预测值；当获取的预测值大于设置的预测阈值，结合对编码单元cu的不划分的预测结果、四叉树划分的预测结果、二叉树水平划分的预测结果以及二叉树垂直划分的预测结果，跳过对cu的三叉树划分或者三叉树水平划分或者三叉树垂直划分；本方案可以提前跳过不必要的tt划分方式，节约划分流程，在不影响视频质量的前提下实现cu划分的加速处理，降低视频编解码的计算量，进而提高视频编码效率。

技术特征：

1.一种用于编码单元的三叉树划分处理方法，其特征在于，所述方法包括：

2.根据权利要求1所述的方法，其特征在于，所述获取编码单元cu的特征向量，包括：

3.根据权利要求2所述的方法，其特征在于，所述指定条件包括：

4.根据权利要求3所述的方法，其特征在于，所述响应于所述预测值大于预测阈值，基于对所述cu的不划分的预测结果、四叉树划分的预测结果、二叉树水平划分的预测结果以及二叉树垂直划分的预测结果，跳过对所述cu的三叉树水平划分和三叉树垂直划分中的至少一个划分流程，包括：

5.根据权利要求1至4任一所述的方法，其特征在于，所述基于所述特征向量，获取预测值，包括：

6.根据权利要求5所述的方法，其特征在于，所述基于所述特征向量，获取预测值之前，还包括：

7.根据权利要求5所述的方法，其特征在于，所述方法还包括：

8.根据权利要求1至4任一所述的方法，其特征在于，所述特征向量包括：

9.一种用于编码单元的三叉树划分处理方法，其特征在于，所述方法包括：

10.根据权利要求9所述的方法，其特征在于，所述获取cu样本的特征向量样本，以及所述cu样本的最优三叉树划分方式，包括：

11.一种用于编码单元的三叉树划分处理装置，其特征在于，所述装置包括：

12.一种用于编码单元的三叉树划分处理装置，其特征在于，所述装置包括：

13.一种计算机设备，其特征在于，所述计算机设备包括处理器和存储器，所述存储器存储有至少一条计算机指令，所述至少一条计算机指令由所述处理器加载并执行以实现如权利要求1至10任一所述的用于编码单元的三叉树划分处理方法。

14.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质中存储有至少一条计算机指令，所述计算机指令由处理器加载并执行以实现如权利要求1至10任一所述的用于编码单元的三叉树划分处理方法。

15.一种计算机程序产品，其特征在于，所述计算机程序产品包括计算机指令，所述计算机指令存储在计算机可读存储介质中；所述计算机指令由计算机设备的处理器读取并执行，以实现如权利要求1至10任一所述的用于编码单元的三叉树划分处理方法。

技术总结
本申请关于一种用于编码单元的三叉树划分处理方法、设备及存储介质，涉及视频压缩技术领域。该方法包括：获取编码单元CU的特征向量；特征向量用于表示CU的图像特征以及CU的邻域图像特征；基于特征向量，获取预测值；预测值用于指示CU跳过三叉树划分的概率；响应于预测值大于预测阈值，基于对CU的不划分的预测结果、四叉树划分的预测结果、二叉树水平划分的预测结果以及二叉树垂直划分的预测结果，跳过对CU的三叉树水平划分和三叉树垂直划分中的至少一个划分流程。本申请能够通过预测提前跳过不必要的三叉树划分流程，提高视频编码效率。

技术研发人员：张宏顺
受保护的技术使用者：腾讯科技（深圳）有限公司
技术研发日：
技术公布日：2024/3/11