专利名称：一种视频编解码方法及设备的制作方法
技术领域：
本发明涉及通信领域，尤其涉及一种视频编解码方法及设备。
背景技术：
一个完整的视频编解码系统包括编码器与解码器两部分。大致而言，在混合编码 框架下的编码端，视频信号首先会经过预测模块，编码器依照一定的最优化准则从若干种 预测模式中选择最佳的一种，然后生成残差信号；残差信号经过变换、量化后进入熵编码模 块，并最终形成输出码流。在解码端，首先从码流中解析出预测模式信息，生成与编码端完 全一致的预测信号；接着解析出码流中已经量化过的变换系数值，进行反量化与反变换，生 成重构残差信号；最后用预测信号与重建残差信号合成出重构视频信号。在混合编码框架下，编码的流程当中包含一项关键的技术变换。变换的作用是通 过对残差块进行某种线性运算，将残差变换为另外一种表达形式，并且在这种表达形式下， 数据的能量集中在少数的几个变换系数上，其余大部分的系数的能量很低或者为零，通过 这样的变换，能够使后续的熵编码高效地进行。在视频编码中，对于某个残差块X而言，如 果将X看作为矩阵，那么变换实际上就是进行矩阵相乘，相乘的一种形式为F = C · X · R， 其中，C和R是和X尺寸相同的变换矩阵，F是变换得到的变换系数矩阵。由于离散余弦变 换(Discrete Cosine Transform, DCT)在复杂度和性能这两方面，相对于其他现有的变换 而言有更好的折中，因此，被广泛采纳。在视频编码技术中，一项被称为依赖方向变换模式(Mode dependentDirectional Transform, MDDT)的技术被采纳。其核心思想是①由于不同帧内预测模式得到的残差体 现着不同的统计特性，所以变换应该根据预测方向的不同，采用不同的变换矩阵来提高压 缩编码效率，②为了降低变换的复杂度，MDDT采用行列分离的变换形式，得到一对变换矩 阵，即一个行列变换矩阵C i和一个行变换矩阵Ri，那么变换的过程即为Fi = Ci · X · Ri， 其中，i为对应的帧内预测模式，X为预测残差，Fi为转换后的预测残差，Ci和Ri可以看到， 水平和垂直变换由Ci和Ri两个矩阵分离开来，这也就是所谓的行列分离的变换。在实现上述变换的过程中，发明人发现现有技术中至少存在如下问题虽然MDDT技术能够针对帧内编码，对不同的预测方向，采用不同组的变换矩阵， 但在实际的编码过程中，即使在一个相同的帧内预测模式下，残差数据的统计特性仍然会 存在明显的差异，所以上述一种帧内预测模式对应一组变换矩阵的方法仍然不够准确，使 得后续编码效率较低。
发明内容
本发明的实施例提供一种视频编解码方法及设备，能够根据每个残差块的特性， 针对性地选择有效的变换矩阵进行变换，从而提高编码效率。为达到上述目的，本发明的实施例采用如下技术方案一种视频数据编码方法，包括
根据输入的视频数据生成预测残差；根据帧内预测模式，根据率失真准则从多个候选变换矩阵中选择一组最优的变换 矩阵对预测残差进行变换编码，得到变换结果；根据所述变换结果和所选用的变换矩阵索引信息，生成编码码流。一种视频数据编码器，包括残差生成单元，用于根据输入的视频数据生成预测残差；变换单元，用于根据帧内预测模式，根据率失真准则从多个候选变换矩阵中选择 一组最优的变换矩阵对预测残差进行变换编码，得到变换结果；码流生成单元，用于根据所述变换结果和所选用的变换矩阵索引信息，生成编码 码流。一种视频数据解码方法，包括对视频编码码流进行解析，得到计算结果和编码变换系数矩阵的索引信息；根据所述索引信息和帧内预测模式从多个候选变换矩阵中确定变换系数矩阵，利 用所述变换系数矩阵对所述计算结果进行反变换，得到残差数据，根据所述残差数据重建 视频数据。一种视频解码器，包括解析单元，用于对视频码流进行解析，得到计算结果和编码变换系数矩阵的索引 fn息；确定单元，用于根据所述索引信息和所述帧内预测模式从多个候选变换矩阵中确 定变换系数矩阵；重建单元，用于利用所述变换系数矩阵对所述计算结果进行反变换，得到残差数 据；根据所述残差数据重建视频数据。一种视频数据编码方法，其特征在于，包括根据输入的视频数据生成预测残差；根据帧内预测模式，根据最优化准则从多个候选变换矩阵中选择一组最优的变换 矩阵对预测残差进行变换编码，得到变换结果；根据所述变换结果和所选用的变换矩阵索引信息，生成编码码流。一种视频解码方法，其特征在于，包括对视频编码码流进行解析，得到变换结果和变换矩阵索引信息；根据所述变换矩阵索引信息和帧内预测模式从多个候选变换矩阵中确定一组变 换矩阵，利用所述一组变换矩阵对所述变换结果进行反变换，得到残差数据，根据所述残差 数据重建视频数据。一种视频数据编码方法，其特征在于，包括根据输入的视频数据生成预测残差；根据最优化准则从多个候选变换矩阵中选择一组最优的变换矩阵对预测残差进 行变换编码，得到变换结果；根据所述变换结果，并根据帧内预测模式对所选用的变换矩阵索引信息进行编 码，生成编码码流。一种视频解码方法，其特征在于，包括
对视频编码码流进行解析，得到变换结果，并根据帧内预测模式得到变换矩阵索 引信息；根据所述变换矩阵索引信息从多个候选变换矩阵中确定变换矩阵，利用确定的变 换矩阵对所述变换结果进行反变换，得到残差数据，根据所述残差数据重建视频数据。一种视频数据编码器，其特征在于，包括残差生成单元，用于根据输入的视频数据生成预测残差；变换单元，用于根据最优化准则从多个候选变换矩阵中选择一组最优的变换矩阵 对预测残差进行变换编码，得到变换结果；码流生成单元，用于根据所述变换结果，并根据帧内预测模式对所选用的变换矩 阵索引信息进行编码，生成编码码流。一种视频解码器，其特征在于，包括解析单元，用于对视频码流进行解析，得到变换结果，并根据帧内预测模式得到变 换矩阵索引信息；确定单元，用于根据所述变换矩阵索引信息从多个候选变换矩阵中确定变换矩 阵；重建单元，用于利用确定的变换矩阵对所述变换结果进行反变换，得到残差数据； 根据所述残差数据重建视频数据。本发明实施例提供的视频编解码方法及设备，可以根据帧内预测模式，根据率失 真准则从多个候选变换矩阵中选择一组最优的变换矩阵对预测残差进行变换编码，得到变 换结果。通过这种方式进行编码，可以根据每个残差快的特性，针对性地选择最有效的变换 矩阵进行变换，从而提高编码效率。同样，通过变换系数矩阵索引信息和帧内预测模式也从 多个候选变换矩阵中找到所述变换系数矩阵，利用该变换系数矩阵进行反变换，得到残差 数据，从而重建视频数据。
为了更清楚地说明本发明实施例中的技术方案，下面将对实施例或现有技术描述 中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些 实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附 图获得其他的附图。图1为本发明实施例提供的视频编码方法的流程框图；图2为本发明实施例提供的视频解码方法的流程框图；图3为本发明实施例提供的视频编码方法的残差变换示意图；图4为本发明实施例提供的视频编码器的结构框图；图5为本发明另一实施例提供的视频编码器的结构框图；图6为本发明实施例提供的视频解码器的结构框图；图7为本发明另一实施例提供的视频解码器的结构框图；图8为本发明实施例提供的又一个视频编码方法的流程框图；图9为本发明实施例提供的又一个视频解码方法的流程框图；图10为本发明实施例提供的再一个视频编码方法的流程框图11为本发明实施例提供的再一个视频解码方法的流程框图；图12为本发明实施例提供的又一个视频编码器的结构框图；图13为本发明实施例提供的再一个视频编码器的结构框图；图14为本发明实施例提供的又一个视频解码器的结构框图；图15为本发明实施例提供的再一个视频解码器的结构框图。
具体实施例方式下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完 整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发 明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施 例，都属于本发明保护的范围。本发明实施例提供的视频数据编码方法，如图1所示，该方法步骤包括S101、根据输入的视频数据生成预测残差。S102、根据帧内预测模式，根据率失真准则从多个候选变换矩阵中选择一组最优 的变换矩阵对预测残差进行变换编码，得到变换结果。在进行变换的过程中，还可以采用行列分离变换，即根据帧内预测模式，遍历多个 候选变换矩阵中的所有可能的列变换矩阵和行变换矩阵的组合，选择矩阵相乘后率失真代 价最小的变换组合作为变换系数矩阵，并得到变换结果。S103、根据变换结果和所选用的变换矩阵索引信息，生成编码码流。进一步地，该方法还可以包括系数扫描过程，为根据帧内预测模式和变换矩阵索 引信息选择一组系数扫描顺序对变换后的系数进行扫描。然后选择变换后率失真代价最小的一种作为最佳帧内预测模式，对其结果量化后 进行熵编码。此外，还可以将变换系数矩阵的索引信息写入编码数据中。本发明实施例提供的视频编码方法，可以根据帧内预测模式，根据率失真准则从 多个候选变换矩阵中选择一组最优的变换矩阵对预测残差进行变换编码，得到变换结果。 通过这种方式进行编码，可以根据每个残差快的特性，针对性地选择最有效的变换矩阵进 行变换，从而提高编码效率。下面结合图1，对本发明实施例提供的视频数据编码方法进行进一步说明S101、根据输入的视频数据生成预测残差。S102、根据帧内预测模式，根据率失真准则从多个候选变换矩阵中选择一组最优 的变换矩阵对预测残差进行变换编码，得到变换结果。本发明实施例中，选择的一组最优的变换矩阵可以为一个非分离变换矩阵；也可 以为一对变换矩阵，即包括一个列变换矩阵和一个行变换矩阵。本发明实施例中，根据帧内预测模式，根据率失真准则从多个候选变换矩阵中选 择一组最优的变换矩阵对预测残差进行变换编码，得到变换结果即为，根据帧内预测模式， 利用多个候选变换矩阵对预测残差进行变换编码，根据率失真准则选择一组最优的变换矩 阵，并将这组最优变换矩阵对应的变换结果用于后续和所选用的变换矩阵索引信息生成编 码码流。
在进行变换的过程中，还可以采用行列分离变换，即根据帧内预测模式，遍历多个 候选变换矩阵中的所有可能的列变换矩阵和行变换矩阵的组合，选择矩阵相乘后率失真代 价最小的变换组合作为变换矩阵，并得到变换结果。也即根据帧内预测模式，遍历多个候选 变换矩阵中的所有列变换矩阵和行变换矩阵的组合，选择残差变换编码后率失真代价最小 的变换组合作为最优的变换矩阵，并将这组最优变换矩阵对应的变换结果用于后续和所选 用的变换矩阵索引信息生成编码码流。S103、根据变换结果和所选用的变换矩阵索引信息，生成编码码流。进一步地，本发明实施例还可以包括系数扫描过程，为根据帧内预测模式和变换 矩阵索引信息选择一组系数扫描顺序对变换后的系数进行扫描。然后选择变换后率失真代价最小的一种作为最佳帧内预测模式，对其结果量化后 进行熵编码。即以各种编码方式对所述预测残差进行编码，以其中率失真代价最小的模式 作为帧内预测模式，得到编码结果。本发明实施例中，所述根据所述变换结果和所选用的变换矩阵索引信息，生成编 码码流，包括将变换矩阵索引信息写入编码数据中。若所述一组最优的变换矩阵为一对变换矩阵，则将变换矩阵索引信息写入编码数 据中包括对一对变换矩阵的索引信息进行联合编码，或对一对变换矩阵的索引信息分别 进行编码；将索引信息编码结果写入编码数据中。联合编码表明列变换矩阵和行变换矩阵成对出现，每一个行变换矩阵对应一个相 应的列变换矩阵；分别编码表明列变换矩阵和行变换矩阵没有对应性的限制，例如一个行 变换矩阵可以对应任意个一个列变换矩阵，这样可以节省变换矩阵的存储空间。本发明实施例提供的视频编码方法，可以根据帧内预测模式，根据率失真准则从 多个候选变换矩阵中选择一组最优的变换矩阵对预测残差进行变换编码，得到变换结果。 通过这种方式进行编码，可以根据每个残差块的特性，针对性地选择最有效的变换矩阵进 行变换，从而提高编码效率。本发明实施例提供的视频解码方法，如图2所示，该方法包括S201、对视频编码码流进行解析，得到计算结果和编码变换系数矩阵的索引信息。进一步地，该方法还包括反系数扫描过程，为根据帧内预测模式和变换系数矩阵 的索引信息，选择一组系数扫描顺序对该变换后的系数进行反系数扫描。S202、根据索引信息和帧内预测模式从多个候选变换矩阵中确定变换系数矩阵， 利用变换系数矩阵对计算结果进行反变换，得到残差数据，根据残差数据重建视频数据。具体的，当编码变换过程中，采用的是分离变换时，本步骤S202中的变换系数矩 阵可以为根据索引信息中的行变换系数矩阵索引信息和列变换系数矩阵索引信息，以及帧 内预测模式从一组候选的行变换矩阵和列变换矩阵中确定的。本发明实施例提供的视频解码方法，能够对视频编码码流进行解析，得到计算结 果和编码变换系数矩阵的索引信息，根据索引信息和帧内预测模式从多个候选变换矩阵中 确定变换系数矩阵，利用变换系数矩阵对计算结果进行反变换，得到残差数据，根据残差数 据重建视频数据。这样，可以再不增加复杂度的情况下，进行解码。由于该编码采用了上述 实施例提供的方法，能够针对残差的特性选择最优的变换矩阵，从而使熵编码效率有所提 高，再通过本实施例提供的解码方法，能够有效提高视频编解码的整体效率。
下面结合图2，对本发明实施例提供的视频解码方法进行进一步说明S201、对视频编码码流进行解析，得到计算结果和变换矩阵索引信息。本发明实施例中，解析得到的结果包括变换结果，也即本发明实施例中用到的计 算结果即为变换结果，变换结果可以包括经过变换后得到的变换系数矩阵。进一步地，本发明实施例还包括反系数扫描过程，为根据帧内预测模式和变换矩 阵索引信息，选择一组系数扫描顺序对该变换后的系数进行反系数扫描。S202、根据变换矩阵索引信息和帧内预测模式从多个候选变换矩阵中确定变换矩 阵，利用确定的变换矩阵对计算结果进行反变换，得到残差数据，根据残差数据重建视频数 据。本发明实施例中，确定的变换矩阵是一组变换矩阵，一组变换矩阵可以为一个非 分离变换矩阵；也可以为一对变换矩阵，即包括一个列变换矩阵和一个行变换矩阵。具体的，当编码变换过程中，采用的是分离变换时，本步骤S202中的变换矩阵可 以为根据索引信息中的行变换矩阵索引信息和列变换矩阵索引信息，以及帧内预测模式从 一组候选的行变换矩阵和列变换矩阵中确定的。此处一组候选的行变换矩阵和列变换矩阵 包括多个行变换矩阵和列变换矩阵。本发明实施例提供的视频解码方法，能够对视频编码码流进行解析，得到计算结 果和变换矩阵索引信息，根据变换矩阵索引信息和帧内预测模式从多个候选变换矩阵中确 定变换矩阵，利用变换矩阵对计算结果进行反变换，得到残差数据，根据残差数据重建视频 数据。这样，可以在不增加复杂度的情况下，进行解码。由于该编码采用了上述实施例提供 的方法，能够针对残差的特性选择最优的变换矩阵，从而使熵编码效率有所提高，再通过本 实施例提供的解码方法，能够有效提高视频编解码的整体效率。本发明实施例提供的视频数据编码方法，以H. 264/AVC中的帧内编码为例进行说明。步骤1、在H. ^4/AVC中的帧内编码过程中，对于每一个宏块，首先采用原有的 14MB模式、I16MB模式和I8MB对宏块进行编码，并记录其码率分别为R_I4MB、R_I16MB和 R_I8MB,失真分别为D_I4MB、D_I16MB和D_I8MB ；然后分别计算率失真代价RDcost_I4MB =D_I4MB+ λ · R_I4MB、RDcost_I16MB = D_I16MB+A · R_I16MB 禾Π RDcost_I8MB = D_ 116MB+λ ·Ι _Ι8ΜΒ，其中λ为编码过程中指定的一个常数。之后再采用新的宏块编码模式 即本发明实施例提供的方法，假设为I4MB_RD0T、I16MB_RD0T和I8MB_RD0T模式对宏块进行 编码，并计算对应的率失真代价 RDcost_I4MB_RD0T、RDcost_I16MB_RD0T 和 RDcost_I8MB_ RDOT。其中I4MB_RD0T、I16MB_RD0T和I8MB_RD0T的具体编码过程如下描述。a)、在对宏块采用所谓的I4MB_RD0T模式进行编码时，首先，类似I4MB的编码过 程，16X16大小的宏块被划分为互不交叠的16个4X4的子块。然后，对每个子块的最佳预 测方向进行选择。这一步与I4MB编码过程的不同，不同之处在于，对残差进行变换时，根据 当前的帧内预测模式选定多组待选变换矩阵，对残差进行变换编码，分别记录其码率R和 失真D，计算率失真代价，选择率失真代价最小的变换矩阵组合作为最佳组合，并用于实际 的残差数据的编码。其残差变换过程可参见图3。其中，X为预测残差，T(X)为变换后的预 测残差，和灭/…[/为预测方向所对应的候选变换矩阵。
b)、在对宏块采用所谓的I8MB_RD0T模式进行编码时，首先，类似I8MB的编码过 程，16X16大小的宏块被划分为互不交叠的4个8X8的子块。然后，对每个子块的最佳预 测方向进行选择。这一步与I8MB编码过程的不同，不同之处在于，对残差进行变换时，根据 当前的帧内预测模式选定多组待选变换矩阵，对残差进行变换编码，分别记录其码率R和 失真D，计算率失真代价，选择率失真代价最小的变换矩阵组合作为最佳组合，并用于实际 的残差数据的编码。其残差变换过程可参见图6。其中，X为预测残差，T(X)为变换后的预 测残差，C/’+7和及/‘+7为预测方向所对应的候选变换矩阵。c)、在对宏块采用所谓的I16MB_RD0T模式进行编码时，类似116MB的编码过程，对 每个16X16大小的块的最佳预测方向进行选择，这一步与I16MB编码过程的不同，不同之 处在于，对残差进行变换时，根据预测方向选定一组给定的待选变换矩阵，并遍历这组待选 变换矩阵的所有可能的列变换矩阵和行变换矩阵的组合，分别记录其码率R和失真D，计算 率失真代价，选择率失真代价最小的变换矩阵组合作为最佳组合，并用于实际的残差数据 的编码。步骤2、在I4MB_RD0T、I16MB_RD0T和I8MB_RD0T的宏块编码模式时，对每个子块 转换后的残差根据帧内预测模式以及和变换矩阵选择所对应的系数扫描顺序。步骤3、根据步骤1中得到的四个帧内宏块编码模式I4MB，116MB, 18MB, I4MB_ RDOT、I16MB_RD0T和I8MB_RD0T所对应的率失真代价，选择率失真代价最小的模式作为最 佳的宏块编码模式。如果最佳宏块编码模式为I4MB、I16MB或者是I8MB，那么在对宏块头信 息进行熵编码时，在语法元素CBP之后写入语法元素RD0T_0N，并且将该语法元素赋值为0， 表示不使用提出的技术；如果最佳宏块模式为I4MB_RD0T、I16MB_RD0T或者是I8MB_RD0T， 那么在宏块头信息进行熵编码时，在语法元素CBP之后写入语法元素RD0T_0N，并且将语法 元素赋值为1，表示使用提出的技术，并在该语法元素之后依次熵编码写入当前宏块各个块 所使用的变换矩阵索引号。具体的，本发明实施例对H. 264视频编码标准的语法变更如表1所示。在每个宏块 头中，在原有的语法元素CBP之后写入语法元素RD0T_0N，如果该宏块模式为I4MB、116MB或 者是I8MB，那么RD0T_0N取值为0，否则如果该宏块模式为I4MB_RD0T、I16MB_RD0T或者是 I8MB_RD0T，那么RD0T_0N取值为1。如果RD0T_0N取值为1，也就是宏块模式为I4MB_RD0T、 I16MB_RD0T或者是I8MB_RD0T，那么在语法元素RD0T_0N之后写入语法元素Transform_ matrixjnded变换矩阵索引)，该语法元素包含宏块内每个块所选中的变换矩阵的索引 巧fn息。
权利要求
1.一种视频数据编码方法，其特征在于，包括 根据输入的视频数据生成预测残差；根据帧内预测模式，根据率失真准则从多个候选变换矩阵中选择一组最优的变换矩阵 对预测残差进行变换编码，得到变换结果；根据所述变换结果和所选用的变换矩阵索引信息，生成编码码流。
2.根据权利要求1所述的视频数据编码方法，其特征在于，所述方法还包括 根据所述帧内预测模式和所述变换矩阵索引信息选择一组系数扫描顺序对变换后的系数进行扫描。
3.根据权利要求1所述的视频数据编码方法，其特征在于，所述方法还包括以各种编码方式对所述预测残差进行编码，以其中率失真代价最小的模式作为帧内预 测模式，得到编码结果。
4.根据权利要求1所述的视频数据编码方法，其特征在于，所述根据所述变换编码后 的预测残差和所选用的变换矩阵索引信息，生成编码码流，包括将所述变换系数矩阵的索引信息写入编码数据中。
5.根据权利要求1所述的视频数据编码方法，其特征在于，所述根据帧内预测模式，根 据率失真准则从多个候选变换矩阵中选择一组最优的变换矩阵对预测残差进行变换编码， 得到变换结果，包括根据帧内预测模式，遍历多个候选变换矩阵中的所有列变换矩阵和行变换矩阵的组 合，选择矩阵相乘后率失真代价最小的变换组合作为最优的变换矩阵，并得到变换结果。
6.根据权利要求1所述的视频数据编码方法，其特征在于 所述一组最优的变换矩阵为一个非分离变换矩阵；或者，所述一组最优的变换矩阵为一对变换矩阵，所述一对变换矩阵包括一个列变换矩阵和 一个行变换矩阵。
7.根据权利要求6所述的视频数据编码方法，其特征在于，所述根据所述变换结果和 所选用的变换矩阵索引信息，生成编码码流，包括将所述变换矩阵索引信息写入编码数据中。
8.根据权利要求4或7所述的视频数据编码方法，其特征在于，若所述一组最优的变换 矩阵为一对变换矩阵，所述将所述变换矩阵索引信息写入编码数据中包括对一对变换矩阵的索引信息进行联合编码，或对一对变换矩阵的索引信息分别进行编码；将索引信息编码结果写入编码数据中。
9.一种视频解码方法，其特征在于，包括对视频编码码流进行解析，得到计算结果和编码变换系数矩阵的索引信息； 根据所述索引信息和帧内预测模式从多个候选变换矩阵中确定变换系数矩阵，利用所 述变换系数矩阵对所述计算结果进行反变换，得到残差数据，根据所述残差数据重建视频 数据。
10.根据权利要求9所述的视频解码方法，其特征在于，所述方法还包括根据所述帧 内预测模式和所述变换系数矩阵的索引信息，选择一组系数扫描顺序对变换后的系数进行 反系数扫描。
11.根据权利要求9所述的视频解码方法，其特征在于，所述变换系数矩阵为根据所述 索引信息中的行变换系数矩阵索引信息和列变换系数矩阵索引信息，以及所述帧内预测模 式从一组候选的行变换矩阵和列变换矩阵中确定的。
12.根据权利要求9所述的视频解码方法，其特征在于 所述确定的变换矩阵为一个非分离变换矩阵；或者，所述确定的变换矩阵为一对变换矩阵，所述一对变换矩阵包括一个列变换矩阵和一个 行变换矩阵。
13.根据权利要求12所述的视频解码方法，其特征在于，变换矩阵为根据所述变换矩 阵索引信息中的行变换矩阵索引信息和列变换矩阵索引信息，以及所述帧内预测模式从一 组候选的行变换矩阵和列变换矩阵中确定的。
14.一种视频数据编码器，其特征在于，包括残差生成单元，用于根据输入的视频数据生成预测残差；变换单元，用于根据帧内预测模式，根据率失真准则从多个候选变换矩阵中选择一组 最优的变换矩阵对预测残差进行变换编码，得到变换结果；码流生成单元，用于根据所述变换结果和所选用的变换矩阵索引信息，生成编码码流。
15.根据权利要求14所述的视频数据编码器，其特征在于，所述视频数据编码器还包括系数扫描单元，具体用于根据所述帧内预测模式和所述变换矩阵索引信息选择一组系 数扫描顺序对变换后的系数进行扫描。
16.根据权利要求14所述的视频数据编码器，其特征在于，所述视频数据编码器还包括判断单元，用于确定以各种编码方式对所述预测残差进行编码后率失真代价最小的模 式作为帧内预测模式，并得到编码结果。
17.根据权利要求14所述的视频数据编码器，其特征在于，所述视频数据编码器还包括索引编码单元，用于将所述变换系数矩阵的索引信息写入编码数据中。
18.根据权利要求14所述的视频数据编码器，其特征在于，所述变换单元，具体用于根 据帧内预测模式，遍历多个候选变换矩阵中的所有列变换矩阵和行变换矩阵的组合，选择 矩阵相乘后率失真代价最小的变换组合作为最优的变换矩阵，并得到变换结果。
19.一种视频解码器，其特征在于，包括解析单元，用于对视频码流进行解析，得到计算结果和编码变换系数矩阵的索引信息；确定单元，用于根据所述索引信息和所述帧内预测模式从多个候选变换矩阵中确定变 换系数矩阵；重建单元，用于利用所述变换系数矩阵对所述计算结果进行反变换，得到残差数据；根 据所述残差数据重建视频数据。
20.根据权利要求19所述的视频解码器，其特征在于，所述视频解码器还包括反系数 扫描单元，用于根据所述帧内预测模式和所述变换系数矩阵的索引信息，选择一组系数扫 描顺序对变换后的系数进行反系数扫描。
21.根据权利要求19所述的视频解码器，其特征在于，所述确定单元具体用于根据所 述索引信息中的行变换系数矩阵索引信息和列变换系数矩阵索引信息，以及所述帧内预测 模式从一组候选的行变换矩阵和列变换矩阵中确定变换矩阵。
22.一种视频数据编码方法，其特征在于，包括 根据输入的视频数据生成预测残差；根据帧内预测模式，根据最优化准则从多个候选变换矩阵中选择一组最优的变换矩阵 对预测残差进行变换编码，得到变换结果；根据所述变换结果和所选用的变换矩阵索引信息，生成编码码流。
23.根据权利要求22所述的视频数据编码方法，其特征在于 所述一组最优的变换矩阵为一个非分离变换矩阵；或者，所述一组最优的变换矩阵为一对变换矩阵，所述一对变换矩阵包括一个列变换矩阵和 一个行变换矩阵。
24.根据权利要求22所述的视频数据编码方法，其特征在于，所述的最优化准则包括 率失真准则、绝对误差和SAD、编码比特或失真。
25.根据权利要求22所述的视频数据编码方法，其特征在于，所述方法还包括 根据所述帧内预测模式和所述变换矩阵索引信息选择一组系数扫描顺序对变换后的系数进行扫描。
26.根据权利要求22所述的视频数据编码方法，其特征在于，所述方法还包括以各种编码方式对所述预测残差进行编码，以其中最优化准则代价最小的模式作为帧 内预测模式，得到编码结果。
27.根据权利要求22或23所述的视频数据编码方法，其特征在于，所述根据所述变换 结果和所选用的变换矩阵索引信息，生成编码码流，包括将所述变换矩阵索引信息写入编码数据中。
28.根据权利要求27所述的视频数据编码方法，其特征在于，若所述一组最优的变换 矩阵为一对变换矩阵，所述将所述变换矩阵索引信息写入编码数据中包括对一对变换矩阵的索引信息进行联合编码，或对一对变换矩阵的索引信息分别进行编码；将索引信息编码结果写入编码数据中。
29.根据权利要求22所述的视频数据编码方法，其特征在于，所述根据帧内预测模式， 根据最优化准则从多个候选变换矩阵中选择一组最优的变换矩阵对预测残差进行变换编 码，得到变换结果，包括根据帧内预测模式，遍历多个候选变换矩阵中的所有列变换矩阵和行变换矩阵的组 合，选择残差变换编码后最优化准则代价最小的变换组合作为最优的变换矩阵，并得到变 换结果。
30.一种视频解码方法，其特征在于，包括对视频编码码流进行解析，得到变换结果和变换矩阵索引信息； 根据所述变换矩阵索引信息和帧内预测模式从多个候选变换矩阵中确定一组变换矩 阵，利用所述一组变换矩阵对所述变换结果进行反变换，得到残差数据，根据所述残差数据 重建视频数据。
31.根据权利要求30所述的视频解码方法，其特征在于所述一组变换矩阵为一个非分离变换矩阵；或者，所述一组变换矩阵为一对变换矩阵，所述一对变换矩阵包括一个列变换矩阵和一个行 变换矩阵。
32.根据权利要求30所述的视频解码方法，其特征在于，所述方法还包括根据所述帧 内预测模式和所述变换矩阵索引信息，选择一组系数扫描顺序对变换后的系数进行反系数 扫描。
33.根据权利要求30或31所述的视频解码方法，其特征在于，所述一组变换矩阵为根 据所述变换矩阵索引信息中的行变换矩阵索引信息和列变换矩阵索引信息，以及所述帧内 预测模式从多个候选的行变换矩阵和列变换矩阵中确定的。
34.一种视频数据编码方法，其特征在于，包括根据输入的视频数据生成预测残差；根据最优化准则从多个候选变换矩阵中选择一组最优的变换矩阵对预测残差进行变 换编码，得到变换结果；根据所述变换结果，并根据帧内预测模式对所选用的变换矩阵索引信息进行编码，生 成编码码流。
35.根据权利要求34所述的视频数据编码方法，其特征在于所述一组最优的变换矩阵为一个非分离变换矩阵；或者，所述一组最优的变换矩阵为一对变换矩阵，所述一对变换矩阵包括一个列变换矩阵和 一个行变换矩阵。
36.根据权利要求34所述的视频数据编码方法，其特征在于，所述的最优化准则包括 率失真准则、绝对误差和SAD、编码比特或失真。
37.根据权利要求34所述的视频数据编码方法，其特征在于，所述方法还包括根据所述变换矩阵索引信息选择一组系数扫描顺序对变换后的系数进行扫描。
38.根据权利要求34所述的视频数据编码方法，其特征在于，所述方法还包括以各种编码方式对所述预测残差进行编码，以其中最优化准则代价最小的模式作为帧 内预测模式，得到编码结果。
39.根据权利要求34所述的视频数据编码方法，其特征在于，所述根据所述变换结果， 并根据帧内预测模式对所选用的变换矩阵索引信息进行编码，生成编码码流，包括根据所选用的帧内预测模式，选定一种变换矩阵索引信息的编码方法，将所述变换矩 阵索引信息写入编码数据中。
40.根据权利要求39所述的视频数据编码方法，其特征在于，若所述一组最优的变换 矩阵为一对变换矩阵，所述根据所选用的帧内预测模式，选定一种变换矩阵索引信息的编 码方法，将所述变换矩阵索引信息写入编码数据中包括对一对变换矩阵的索引信息进行联合编码，或对一对变换矩阵的索引信息分别进行编码；根据所选用的帧内预测模式，选定一种变换矩阵索引信息的编码方法，将所述变换矩 阵索引信息写入编码数据中。
41.根据权利要求34所述的视频数据编码方法，其特征在于，所述根据最优化准则从多个候选变换矩阵中选择一组最优的变换矩阵对预测残差进行变换编码，得到变换结果， 包括遍历多个候选变换矩阵中的所有列变换矩阵和行变换矩阵的组合，选择残差变换编码 后最优化准则代价最小的变换组合作为最优的变换矩阵，并得到变换结果。
42.一种视频解码方法，其特征在于，包括对视频编码码流进行解析，得到变换结果，并根据帧内预测模式得到变换矩阵索引信息；根据所述变换矩阵索引信息从多个候选变换矩阵中确定变换矩阵，利用确定的变换矩 阵对所述变换结果进行反变换，得到残差数据，根据所述残差数据重建视频数据。
43.根据权利要求42所述的视频解码方法，其特征在于 所述确定的变换矩阵为一个非分离变换矩阵；或者，所述确定的变换矩阵为一对变换矩阵，所述一对变换矩阵包括一个列变换矩阵和一个 行变换矩阵。
44.根据权利要求42所述的视频解码方法，其特征在于，所述根据帧内预测模式得到 变换矩阵索引信息包括根据所述帧内预测模式，选定一种变换矩阵索引信息的解码方法，解码得到所述变换 矩阵索引信息。
45.根据权利要求42所述的视频解码方法，其特征在于，所述方法还包括根据变换矩 阵索引信息选择一组系数扫描顺序对变换后的系数进行反系数扫描。
46.根据权利要求42或43所述的视频解码方法，其特征在于，变换矩阵为根据所述变 换矩阵索引信息中的行变换矩阵索引信息和列变换矩阵索引信息，从一组候选的行变换矩 阵和列变换矩阵中确定的。
47.一种视频数据编码器，其特征在于，包括残差生成单元，用于根据输入的视频数据生成预测残差；变换单元，用于根据最优化准则从多个候选变换矩阵中选择一组最优的变换矩阵对预 测残差进行变换编码，得到变换结果；码流生成单元，用于根据所述变换结果，并根据帧内预测模式对所选用的变换矩阵索 引信息进行编码，生成编码码流。
48.根据权利要求47所述的视频数据编码器，其特征在于，所述视频数据编码器还包括系数扫描单元，用于根据所述变换矩阵索引信息选择一组系数扫描顺序对变换后的系 数进行扫描。
49.根据权利要求47所述的视频数据编码器，其特征在于，所述视频数据编码器还包括判断单元，用于确定以各种编码方式对所述预测残差进行编码后最优化准则代价最小 的模式作为帧内预测模式，并得到编码结果。
50.根据权利要求47所述的视频数据编码器，其特征在于，所述视频数据编码器还包括索引编码单元，用于根据所选用的帧内预测模式，选定一种变换矩阵索引信息的编码方法，将所述变换矩阵索引信息写入编码数据中。
51.根据权利要求47所述的视频数据编码器，其特征在于，所述变换单元，具体用于遍 历多个候选变换矩阵中的所有列变换矩阵和行变换矩阵的组合，选择残差变换编码后最优 化准则代价最小的变换组合作为最优的变换矩阵，并得到变换结果。
52.一种视频解码器，其特征在于，包括解析单元，用于对视频码流进行解析，得到变换结果，并根据帧内预测模式得到变换矩 阵索引信息；确定单元，用于根据所述变换矩阵索引信息从多个候选变换矩阵中确定变换矩阵；重建单元，用于利用确定的变换矩阵对所述变换结果进行反变换，得到残差数据；根据 所述残差数据重建视频数据。
53.根据权利要求52所述的视频解码器，其特征在于，所述视频解码器还包括反系数 扫描单元，用于根据所述变换矩阵索引信息选择一组系数扫描顺序对变换后的系数进行反 系数扫描。
54.根据权利要求52所述的视频解码器，其特征在于，所述确定单元具体用于根据所 述变换矩阵索引信息中的行变换矩阵索引信息和列变换矩阵索引信息，从一组候选的行变 换矩阵和列变换矩阵中确定变换矩阵。
全文摘要
本发明实施例提供一种视频编解码方法及设备，涉及通信领域，能够根据每个残差块的特性，针对性地选择有效的变换矩阵进行变换，从而提高编码效率。本发明的实施例提供方案为根据输入的视频数据生成预测残差；根据帧内预测模式，根据率失真准则从多个候选变换矩阵中选择一组最优的变换矩阵对预测残差进行变换编码，得到变换结果；根据所述变换结果和所选用的变换矩阵索引信息，生成编码码流。
文档编号H04N7/26GK102045560SQ20101021379
公开日2011年5月4日 申请日期2010年6月17日 优先权日2009年10月23日
发明者张莉, 杨名远, 熊联欢, 王栋, 赵欣, 马思伟, 高文 申请人:北京大学, 华为技术有限公司