专利名称：一种变换模式的编解码方法和装置的制作方法
技术领域：
本发明涉及通信技术领域，特别涉及一种变换模式的编解码方法和装置。
背景技术：
变换编码是视频编解码技术的一个组成部分。变换编码是指对信号进行某种函数变换，从一种信号空间的信号变换到另一种信号空间的信号，然后对变换后的信号进行量化和编码。变换编码系统中压缩数据有三个步骤:变换、量化以及熵编码。一般而言，变换过程是可逆的，即存在反变换，以恢复原来的数据。编码端通过预测编码，得到视频图像的残差数据，对残差数据进行量化操作，然后通过熵编码环节，编入码流，完成编码过程。解码端通过解析码流，获得数据，通过反量化、反变换操作后，重建残差数据，再通过和预测编码部分所得到的预测值相结合后，重建解码图像，完成解码过程。在当前的变换编码技术中，依据变换矩阵的不同，存在不同的变换类型，其中一种分类方式按照变换矩阵的形状，可分为正方块变换，横向长方块变换和纵向长方块变换这三种变换模式，来分别处理正方块，横向长方块和纵向长方块三种残差数据块类型，如图1所示。目前在视频编码端，在进行变换模式的选择时，从上述三种变换模式中通过率失真优化准则选择最优的变换模式；然后使用选择的变换模式对残差数据进行变换，将变换模式的选择信息编入码流，传递给解码端。由于在视频的编码端，需要在三种扫描模式中进行模式的选择，使编码端复杂度高；另外，需要将变换模式的选择信息编入码流，影响了压缩编码效率。
发明内容
本发明实施例提供一种变换模式的编解码方法和装置，以降低编码端复杂度，提高压缩编码效率。本发明实施例提供一种变换模式的编码方法，包括:获取所述待编码视频图像的残差数据块所对应预测数据块的预测模式；从候选变换模式集中选择与所述预测模式对应的变换模式；使用所述变换模式对所述待编码视频图像的残差数据块进行变换操作；本发明实施例提供一种变换模式的解码方法，包括:获取待解码图像的变换系数块所对应预测数据块的预测模式；从候选变换模式集中选择与所述预测模式对应的变换模式；使用所述变换模式对待解码图像的变换系数块进行反变换操作；本发明实施例提供一种变换模式的编码装置，包括:第一获取单元，用于获取所述待编码视频图像的残差数据块所对应预测数据块的预测模式；第一选择单元，用于从候选变换模式集中选择与所述预测模式对应的变换模式；
第一处理单元，用于使用所述变换模式对所述待编码视频图像的残差数据块进行变换操作；本发明实施例提供一种变换模式的解码装置，包括:第四获取单元，用于获取待解码图像的变换系数块所对应预测数据块的预测模式；第四选择单元，用于从候选变换模式集中选择与所述预测模式对应的变换模式；第四处理单元，用于使用所述变换模式对待解码图像的变换系数块进行反变换操作；本发明实施例提供一种变换模式的编码方法，包括:获取所述待编码视频图像的残差数据块所对应预测数据块的预测模式；根据所述预测模式，根据候选变换模式集与所述预测模式的对应关系，确定简化的候选变换模式集；从所述简化的候选变换模式集中择优选择最优变换模式，所述最优变换模式用于使所述待编码视频图像和解码端得到重建视频图像的失真最小和使所述待编码视频图像所需要的编码比特数最小；使用所述最优变换模式对所述待编码视频图像的残差数据块进行变换操作；将所述最优变换模式的索引编入码流；本发明实施例提供一种变换模式的解码方法，包括:获取待解码图像的变换系数块所对应预测数据块的预测模式；根据所述预测模式，根据候选变换模式集与所述预测模式的对应关系，确定简化的候选变换模式集；解析码流获得最优变换模式的索引；使用所述最优变换模式对待解码图像的变换系数块进行反变换操作；本发明实施例提供一种变换模式的编码装置，包括:第二获取单元，用于获取所述待编码视频图像的残差数据块所对应预测数据块的预测模式；第二判断单元，用于根据所述预测模式，根据候选变换模式集与所述预测模式的对应关系，确定简化的候选变换模式集；第二选择单元，从所述简化的候选变换模式集中择优选择最优变换模式，所述最优变换模式用于使所述待编码视频图像和解码端得到重建视频图像的失真最小和使所述待编码视频图像所需要的编码比特数最小；第二编码单元，用于将所述最优变换模式的索引编入码流；第二处理单元，用于使用所述最优变换模式对所述待编码视频图像的残差数据块进行变换操作；本发明实施例提供一种变换模式的解码装置，包括:第五获取单元，用于获取待解码图像的变换系数块所对应预测数据块的预测模式；第五判断单元，用于根据所述预测模式，根据候选变换模式集与所述预测模式的对应关系，确定简化的候选变换模式集；
第五解码单元，用于解析码流获得最优变换模式的索引；第五处理单元，用于使用所述变换模式对待解码图像的变换系数块进行反变换操作；本发明实施例提供一种变换模式的编码方法，包括:获取所述待编码视频图像的残差数据块所对应预测数据块的预测模式；从候选变换模式集中择优选择最优变换模式，所述最优变换模式用于使所述待编码视频图像和解码端得到重建视频图像的失真最小和使所述待编码视频图像所需要的编码比特数最小；判断所述最优变换模式是否为与预测模式存在对应关系的模式；将所述判断结果写入码流；如果所述判断为否，则将所述最优变换模式的索引编入码流；使用所述最优变换模式对所述待编码视频图像的残差数据块进行变换操作；本发明实施例提供一种变换模式的解码方法，包括:获取待解码图像的变换系数块所对应预测数据块的预测模式；解析码流获得最优变换模式是否为与预测模式存在对应关系的模式的判断结果;如果所述判断结果为否，则解析码流获得最优变换模式的索引；使用所述最优变换模式对待解码图像的变换系数块进行反变换操作；本发明实施例提供一种变换模式的编码装置，包括:第三获取单元，用于获取所述待编码视频图像的残差数据块所对应预测数据块的预测模式；第三选择单元，从候选变换模式集中择优选择最优变换模式，所述最优变换模式用于使所述待编码视频图像和解码端得到重建视频图像的失真最小和使所述待编码视频图像所需要的编码比特数最小；第三判断单元，用于判断所述最优变换模式是否为与预测模式存在对应关系的模式；第三编码单元，用于将所述判断结果及所述最优变换模式的索引编入码流；第三处理单元，用于使用所述最优变换模式对所述待编码视频图像的残差数据块进行变换操作；本发明实施例提供一种变换模式的解码装置，包括:第六获取单元，用于获取待解码图像的变换系数块所对应预测数据块的预测模式；第六判断单元，用于确定候选变换模式集中与所述预测模式对应的变换模式；第六解码单元，用于解析码流获得最优变换模式是否为与预测模式存在对应关系的模式的判断结果以及最优变换模式的索引；第六处理单元，用于使用所述变换模式对待解码图像的变换系数块进行反变换操作；本发明实施例通过上述技术方案，利用所述预测模式与所述变化模式之间的相关性，通过对最优变换模式候选集的简化，在将其编入编码头信息时，会节省资源；另外，在编码端进行选择的时候，编码效率也更高。
为了更清楚地说明本发明实施例的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。图1A为本发明实施例正方块变换所对应的所述待编码视频图像的残差数据块、待解码图像的变换系数块形状示意图；图1B为本发明实施例横向长方块变换所对应的所述待编码视频图像的残差数据块、待解码图像的变换系数块形状示意图；图1C为本发明实施例纵向长方块变换所对应的所述待编码视频图像的残差数据块、待解码图像的变换系数块形状示意图；图2为本发明实施例方法流程示意图；图3为本发明实施例方法流程示意图；图4为本发明实施例装置结构示意图；图5为本发明实施例装置结构示意图；图6为本发明实施例方法流程示意图；图7为本发明实施例方法流程示意图；图8为本发明实施例装置结构示意图；图9为本发明实施例装置结构示意图；图10为本发明实施例方法流程示意图；图11为本发明实施例方法流程示意图；图12为本发明实施例装置结构示意图；图13为本发明实施例装置结构示意图；图14为本发明实施例方法流程示意图；图15为本发明实施例方法流程示意图；图16为本发明实施例装置结构示意图；图17为本发明实施例装置结构示意图；图18为本发明实施例方法流程示意图；图19为本发明实施例方法流程示意图；图20为本发明实施例装置结构示意图；图21为本发明实施例装置结构示意具体实施例方式下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
本发明实施例的编码端在编码过程中，对于每一待编码块，从各种编码类型中根据率失真准则选择最优的编码类型，同时得到预测信息，由预测信息及已编码的重构帧信息，得到待编码块的预测值，对预测值和待编码块的像素值做差，得到残差值，对残差值依次进行变换、量化、扫描、熵编码操作，编入码流，同时将预测信息编入码流，完成编码过程。以下对编码和解码过程中的扫描进行具体说明。本发明实施例提到的变换可以是离散余弦变换，也可以是多变换技术，对此本发明实施例不予限定。举例方案一、以下对在编码端执行的变换模式选择环节进行具体说明，如图2所示，包括:101:获取所述待编码视频图像的残差数据块所对应预测数据块的预测模式，更具体的，获取所述待编码视频图像的残差数据块所对应预测数据块的帧内预测模式；102:从候选变换模式集中选择与所述预测模式对应的变换模式，更具体的，按照“如果所述预测模式为帧内预测模式，则如果所述预测模式的预测像素中超过设定数量的像素编码单元上、右上边界时，选择横向长方块变换作为所述预测模式的对应变换类型；如果所述预测模式的预测像素中超过设定数量的像素编码单元左、左下边界时，选择纵向长方块变换作为所述预测模式的对应变换类型；否则，选择正方块变换作为所述预测模式的对应变换类型”的原则，确定预测模式与变换模式之间的对应关系，比如，水平预测模式选择纵向长方块变换作为所述预测模式的对应变换类型，竖直预测模式选择横向长方块变换作为所述预测模式的对应变换类型，具体对应关系在所述原则下，不做具体限定；所述预测像素中超过设定数量的像素中所述数量，可以为全部，或者一半，或者三分之二，不做具体限定；103:使用所述变换模式对所述待编码视频图像的残差数据块进行变换操作；对应的，本发明实施例还提供了在解码端执行的变换模式选择环节，如图3所示，包括:201:获取待解码图像的变换系数块所对应预测数据块的预测模式，更具体的，获取待解码图像的变换系数块所对应预测数据块的帧内预测模式；202:按照与102相同的规则，从候选变换模式集中选择与所述预测模式对应的变换模式；203:使用所述变换模式对待解码图像的变换系数块进行反变换操作；一种变换模式的编码装置，如图4所示，包括:第一获取单元301，用于获取所述待编码视频图像的残差数据块所对应预测数据块的预测模式；第一选择单元302，用于从候选变换模式集中选择与所述预测模式对应的变换模式；第一处理单元303，用于使用所述变换模式对所述待编码视频图像的残差数据块进行变换操作；一种变换模式的解码装置，如图5所示，包括:第四获取单元401，用于获取待解码图像的变换系数块所对应预测数据块的预测模式；第四选择单元402，用于从候选变换模式集中选择与所述预测模式对应的变换模式；第四处理单元403，用于使用所述变换模式对待解码图像的变换系数块进行反变换操作；举例方案二、以下对在编码端执行的变换模式选择环节进行具体说明，如图6所示，包括:501:获取所述待编码视频图像的残差数据块所对应预测数据块的预测模式，更具体的，获取所述待编码视频图像的残差数据块所对应预测数据块的帧内预测模式；502:根据所述预测模式，根据候选变换模式集与所述预测模式的对应关系，确定简化的候选变换模式集，更具体的，按照“如果所述预测模式的预测像素中超过设定数量的像素编码单元上、右上边界时，则所述候选变换模式为横向长方块变换和正方形块变换；如果所述预测模式的预测像素中超过设定数量的像素编码单元左、左下边界时，则所述候选变换模式为纵向长方块变换和正方形块变换；否则，述候选变换模式为正方形块变换”的原贝U，确定简化候选变换模式集，比如，水平预测模式选择纵向长方块变换作为所述预测模式的对应变换类型和正方块变换，竖直预测模式选择横向长方块变换作为所述预测模式的对应变换类型和正方块变换，具体对应关系在所述原则下，不做具体限定；所述预测像素中超过设定数量的像素中所述数量，可以为全部，或者一半，或者三分之二，不做具体限定；503:从所述简化的候选变换模式集中择优选择最优变换模式，所述最优变换模式用于使所述待编码视频图像和解码端得到重建视频图像的失真最小和使所述待编码视频图像所需要的编码比特数最小，可以使用率失真优化的方法等，具体方法不做限定；504:使用所述变换模式对所述待编码视频图像的残差数据块进行变换操作；505:将所述最优变换模式的索引编入码流，更具体的，当候选变换模式为横向长方块和正方块时，用I标志位表示，当候选变换模式为纵向长方块和正方块时，用I标志位表示，当候选变换模式为正方块时，无需用标志位表示；步骤504和步骤505没有顺序关系;对应的，本发明实施例还提供了在解码端执行的变换模式选择环节，如图7所示，包括:601:获取待解码图像的变换系数块所对应预测数据块的预测模式，更具体的，获取待解码图像的变换系数块所对应预测数据块的帧内预测模式；602:按照与502相同的规则，根据所述预测模式，根据候选变换模式集与所述预测模式的对应关系，确定简化的候选变换模式集；603:解析码流获得最优变换模式的索引，更具体的，与503相对应，当候选变换模式为横向长方块和正方块时，解析I标志位获得，当候选变换模式为纵向长方块和正方块时，解析I标志位获得，特别的，当候选变换模式为正方块时，无需解析标志位；604:使用所述最优变换模式对待解码图像的变换系数块进行反变换操作；一种变换模式的编码装置，如图8所示，包括:第二获取单元701，用于获取所述待编码视频图像的残差数据块所对应预测数据块的预测模式；第二判断单元702，用于根据所述预测模式，根据候选变换模式集与所述预测模式的对应关系，确定简化的候选变换模式集；
第二选择单元703，从所述简化的候选变换模式集中择优选择最优变换模式，所述最优变换模式用于使所述待编码视频图像和解码端得到重建视频图像的失真最小和使所述待编码视频图像所需要的编码比特数最小；第二编码单元704，用于将所述最优变换模式的索引编入码流；第二处理单元705，用于使用所述最优变换模式对所述待编码视频图像的残差数据块进行变换操作；一种变换模式的解码装置，如图9所示，包括:第五获取单元801，用于获取待解码图像的变换系数块所对应预测数据块的预测模式；第五判断单元802，用于根据所述预测模式，根据候选变换模式集与所述预测模式的对应关系，确定简化的候选变换模式集；第五解码单元803，用于解析码流获得最优变换模式的索引；第五处理单元804，用于使用所述变换模式对待解码图像的变换系数块进行反变换操作；举例方案三、以下对在编码端执行的变换模式选择环节进行具体说明，如图10所示，包括:901:获取所述待编码视频图像的残差数据块所对应预测数据块的预测模式，更具体的，获取所述待编码视频图像的残差数据块所对应预测数据块的帧内预测模式；902:根据所述预测模式，根据候选变换模式集与所述预测模式的对应关系，确定简化的候选变换模式集，更具体的，按照“如果所述预测模式的预测像素中超过设定数量的像素编码单元上、右上边界时，则所述候选变换模式为横向长方块变换和正方形块变换；如果所述预测模式的预测像素中超过设定数量的像素编码单元左、左下边界时，则所述候选变换模式为纵向长方块变换和正方形块变换；否则，述候选变换模式为横向长方块变换、纵向长方块变换、正方形块变换”的原则，确定简化候选变换模式集，比如，水平预测模式选择纵向长方块变换作为所述预测模式的对应变换类型和正方块变换，竖直预测模式选择横向长方块变换作为所述预测模式的对应变换类型和正方块变换，具体对应关系在所述原则下，不做具体限定；所述预测像素中超过设定数量的像素中所述数量，可以为全部，或者一半，或者三分之二，不做具体限定；903:从所述简化的候选变换模式集中择优选择最优变换模式，所述最优变换模式用于使所述待编码视频图像和解码端得到重建视频图像的失真最小和使所述待编码视频图像所需要的编码比特数最小，可以使用率失真优化的方法等，具体方法不做限定；904:使用所述变换模式对所述待编码视频图像的残差数据块进行变换操作；905:将所述最优变换模式的索引编入码流，更具体的，当候选变换模式为横向长方块和正方块时，用I标志位表示，当候选变换模式为纵向长方块和正方块时，用I标志位表不，当候选变换模式为横向长方块、纵向长方块、正方块时，需用I标志位表不是否为正方块，如果不是正方块，则再用I标志位表示为横向长方块还是纵向长方块；步骤904和步骤905没有顺序关系；对应的，本发明实施例还提供了在解码端执行的变换模式选择环节，如图11所示，包括:
1001:获取待解码图像的变换系数块所对应预测数据块的预测模式，更具体的，获取待解码图像的变换系数块所对应预测数据块的帧内预测模式；1002:按照与902相同的规则，根据所述预测模式，根据候选变换模式集与所述预测模式的对应关系，确定简化的候选变换模式集；1003:解析码流获得最优变换模式的索引，更具体的，与903相对应，当候选变换模式为横向长方块和正方块时，解析I标志位获得，当候选变换模式为纵向长方块和正方块时，解析I标志位获得，当候选变换模式为横向长方块、纵向长方块、正方块时，解析I标志位获得是否为正方块，如果不是正方块，则再解析I标志位获得为横向长方块还是纵向长方块；1004:使用所述最优变换模式对待解码图像的变换系数块进行反变换操作；一种变换模式的编码装置，如图12所示，包括:第二获取单元1101，用于获取所述待编码视频图像的残差数据块所对应预测数据块的预测模式；第二判断单元1102，用于根据所述预测模式，根据候选变换模式集与所述预测模式的对应关系，确定简化的候选变换模式集；第二选择单元1103，从所述简化的候选变换模式集中择优选择最优变换模式，所述最优变换模式用于使所述待编码视频图像和解码端得到重建视频图像的失真最小和使所述待编码视频图像所需要的编码比特数最小；第二编码单元1104，用于将所述最优变换模式的索引编入码流；第二处理单元1105，用于使用所述最优变换模式对所述待编码视频图像的残差数据块进行变换操作；一种变换模式的解码装置，如图13所示，包括:第五获取单元1201，用于获取待解码图像的变换系数块所对应预测数据块的预测模式；第五判断单元1202，用于根据所述预测模式，根据候选变换模式集与所述预测模式的对应关系，确定简化的候选变换模式集；第五解码单元1203，用于解析码流获得最优变换模式的索引；第五处理单元1204，用于使用所述变换模式对待解码图像的变换系数块进行反变换操作；举例方案四、以下对在编码端执行的变换模式选择环节进行具体说明，如图14所示，包括:1301:获取所述待编码视频图像的残差数据块所对应预测数据块的预测模式，更具体的，获取所述待编码视频图像的残差数据块所对应预测数据块的帧内预测模式；1302:从候选变换模式集中择优选择最优变换模式，所述最优变换模式用于使所述待编码视频图像和解码端得到重建视频图像的失真最小和使所述待编码视频图像所需要的编码比特数最小，可以使用率失真优化的方法等，具体方法不做限定；1303:按照“如果所述预测模式的预测像素中超过设定数量的像素编码单元上、右上边界时，则所述候选变换模式选择横向长方块变换作为所述预测模式的对应变换类型；如果所述预测模式的预测像素中超过设定数量的像素编码单元左、左下边界时，则所述候选变换模式选择纵向长方块变换作为所述预测模式的对应变换类型；否则，所述候选变换模式对应正方形块变换”的原则，判断所述最优变换模式是否为与预测模式存在对应关系的模式，比如，水平预测模式选择纵向长方块变换作为所述预测模式的对应变换类型，竖直预测模式选择横向长方块变换作为所述预测模式的对应变换类型，具体对应关系在所述原则下，不做具体限定；所述预测像素中超过设定数量的像素中所述数量，可以为全部，或者一半，或者三分之二，不做具体限定；1304:将判断结果用I标志位编入码流；1305:如果所述判断为否，则将所述最优变换模式的索引编入码流，更具体的，用I标志位表不；1306:使用所述变换模式对所述待编码视频图像的残差数据块进行变换操作；步骤1304、1305和步骤1306之间没有顺序关系；对应的，本发明实施例还提供了在解码端执行的变换模式选择环节，如图15所示，包括:1401:获取待解码图像的变换系数块所对应预测数据块的预测模式，更具体的，获取待解码图像的变换系数块所对应预测数据块的帧内预测模式；1402:按照与1303相同的规则，确定与预测模式存在对应关系的变换模式；1403:与1304对应，解析码流I标志位，获得最优变换模式是否为与预测模式存在对应关系的模式的判断结果；1404:与1305对应，如果所述判断结果为否，则解析码流I标志位，获得最优变换模式的索引；1405:使用所述最优变换模式对待解码图像的变换系数块进行反变换操作；一种变换模式的编码装置，如图16所示，包括:第三获取单元1501，用于获取所述待编码视频图像的残差数据块所对应预测数据块的预测模式；第三选择单元1502，从候选变换模式集中择优选择最优变换模式，所述最优变换模式用于使所述待编码视频图像和解码端得到重建视频图像的失真最小和使所述待编码视频图像所需要的编码比特数最小；第三判断单元1503，用于判断所述最优变换模式是否为与预测模式存在对应关系的模式；第三编码单元1504，用于将所述判断结果及所述最优变换模式的索引编入码流；第三处理单元1505，用于使用所述最优变换模式对所述待编码视频图像的残差数据块进行变换操作；—种变换模式的解码装置，如图17所示，包括:第六获取单元1601，用于获取待解码图像的变换系数块所对应预测数据块的预测模式；第六判断单元1602，用于确定候选变换模式集中与所述预测模式对应的变换模式；第六解码单元1603，用于解析码流获得最优变换模式是否为与预测模式存在对应关系的模式的判断结果以及最优变换模式的索引；
第六处理单元1604，用于使用所述变换模式对待解码图像的变换系数块进行反变换操作；举例方案五、以下对在编码端执行的变换模式选择环节进行具体说明，如图18所示，包括:1701:获取所述待编码视频图像的残差数据块所对应预测数据块的预测模式，更具体的，获取所述待编码视频图像的残差数据块所对应预测数据块的帧内预测模式；1702:从候选变换模式集中择优选择最优变换模式，所述最优变换模式用于使所述待编码视频图像和解码端得到重建视频图像的失真最小和使所述待编码视频图像所需要的编码比特数最小，可以使用率失真优化的方法等，具体方法不做限定；1703:按照“如果所述预测模式的预测像素中超过设定数量的像素编码单元上、右上边界时，则所述候选变换模式选择横向长方块变换作为所述预测模式的对应变换类型；如果所述预测模式的预测像素中超过设定数量的像素编码单元左、左下边界时，则所述候选变换模式选择纵向长方块变换作为所述预测模式的对应变换类型；否则，所述最优候选变换模式为正方形块变换”的原则，判断所述最优变换模式是否为与预测模式存在对应关系的模式，比如，水平预测模式选择纵向长方块变换作为所述预测模式的对应变换类型，竖直预测模式选择横向长方块变换作为所述预测模式的对应变换类型，具体对应关系在所述原则下，不做具体限定；所述预测像素中超过设定数量的像素中所述数量，可以为全部，或者一半，或者三分之二，不做具体限定；1704:将判断结果用I标志位编入码流，特别的，当所述对应关系为仅对应正方块时，无需编码标志位；1705:如果所述判断为否，则将所述最优变换模式的索引编入码流，更具体的，用I标志位表不；1706:使用所述变换模式对所述待编码视频图像的残差数据块进行变换操作；步骤1704、1705和步骤1706之间没有顺序关系；对应的，本发明实施例还提供了在解码端执行的变换模式选择环节，如图19所示，包括:1801:获取待解码图像的变换系数块所对应预测数据块的预测模式，更具体的，获取待解码图像的变换系数块所对应预测数据块的帧内预测模式；1802:按照与1703相同的规则，确定与预测模式存在对应关系的变换模式；1803 与1704对应，解析 码流I标志位，获得最优变换模式是否为与预测模式存在对应关系的模式的判断结果，特别的，当所述对应关系为仅对应正方块时，无需解析标志位；1804 ■ 与1705对应，如果所述判断结果为否，则解析码流I标志位，获得最优变换模式的索引；1805:使用所述最优变换模式对待解码图像的变换系数块进行反变换操作；一种变换模式的编码装置，如图20所示，包括:第三获取单元1901，用于获取所述待编码视频图像的残差数据块所对应预测数据块的预测模式；第三选择单元1902，从候选变换模式集中择优选择最优变换模式，所述最优变换模式用于使所述待编码视频图像和解码端得到重建视频图像的失真最小和使所述待编码视频图像所需要的编码比特数最小；第三判断单元1903，用于判断所述最优变换模式是否为与预测模式存在对应关系的模式；第三编码单元1904，用于将所述判断结果及所述最优变换模式的索引编入码流；第三处理单元1905，用于使用所述最优变换模式对所述待编码视频图像的残差数据块进行变换操作；一种变换模式的解码装置，如图21所示，包括:第六获取单元2001，用于获取待解码图像的变换系数块所对应预测数据块的预测模式；第六判断单元2002，用于确定候选变换模式集中与所述预测模式对应的变换模式；第六解码单元2003，用于解析码流获得最优变换模式是否为与预测模式存在对应关系的模式的判断结果以及最优变换模式的索引；第六处理单元2004，用于使用所述变换模式对待解码图像的变换系数块进行反变换操作；在上述各不同实施例中均利用了预测信息与变换模式信息的相关性，由于该相关性的存在，一些变换模式候选集中的冗余候选可以被剔出，各实施例从不同的角度，简化了变换模式候选集，在编码端提高了编码效率，节省了编码时间和资源开销，同时由于候选模式数量的减少，可以用更少的编码比特来表示候选模式的选择信息，减少了头信息，提高了编码性能。本发明实施例提供的方法可以应用在数字信号处理领域中，通过视频编码器，解码器实现。视频编码器，解码器广泛应用于各种通讯设备或电子设备中，例如:媒体网关，移动电话，无线装置，个人数据助理(PDA)，手持式或便携式计算机，GPS接收机/导航器，照相机，视频播放器，摄像机，录像机，监控设备等等。这类设备中包括处理器，存储器，以及传输数据的接口。视频编解码器可以直接由数字电路或芯片例如DSP(digital signalprocessor)实现；或者由软件代码驱动一处理器执行软件代码中的流程而实现。本领域普通技术人员可以理解实现上述实施例方法中的全部或部分步骤是可以通过程序来指令相关的硬件完成，上述的程序可以存储于一种计算机可读存储介质中，上述提到的存储介质可以是只读存储器，磁盘或光盘等。以上对本发明实施例所提供的一种待解码图像的变换系数块的扫描方法、装置和系统进行了详细介绍，本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式
及应用范围上均会有改变之处，综上，本说明书内容不应理解为对本发明的限制。
权利要求
1.一种变换模式的编码方法,其特征在于,包括: 获取所述待编码视频图像的残差数据块所对应预测数据块的预测模式； 从候选变换模式集中选择与所述预测模式对应的变换模式； 使用所述变换模式对所述待编码视频图像的残差数据块进行变换操作。
2.一种变换模式的编码方法,其特征在于,包括: 获取所述待编码视频图像的残差数据块所对应预测数据块的预测模式； 根据所述预测模式，根据候选变换模式集与所述预测模式的对应关系，确定简化的候选变换模式集； 从所述简化的候选变换模式集中择优选择最优变换模式，所述最优变换模式用于使所述待编码视频图像和解码端得到重建视频图像的失真最小和使所述待编码视频图像所需要的编码比特数最小； 使用所述最优变换模式对所述待编码视频图像的残差数据块进行变换操作； 将所述最优变换模式的索引编入码流。
3.一种变换模式的编码方法,其特征在于,包括: 获取所述待编码视频图像的残差数据块所对应预测数据块的预测模式； 从候选变换模式集中择优选择最优变换模式，所述最优变换模式用于使所述待编码视频图像和解码端得到重建视频图像的失真最小和使所述待编码视频图像所需要的编码比特数最小； 判断所述最优变换模式是否为与预测模式存在对应关系的模式； 将所述判断结果写入码流； 如果所述判断为否，则将所述最优变换模式的索引编入码流； 使用所述最优变换模式对所述待编码视频图像的残差数据块进行变换操作。
4.根据权利要求1、2、3所述方法，其特征在于，所述待编码视频图像的残差数据块所对应预测数据块的预测模式，包括: 帧内预测中的帧内预测模式；或者， 帧间预测中的帧间预测单元分割模式；或者， 帧内预测中的帧内预测单元分割模式；或者， 所述待编码视频图像的残差数据块时域或空域的待解码图像的变换系数块的变换模式。
5.根据权利要求1、2、3所述方法，其特征在于，所述候选变换模式集，包括: 方块形变换，横向长方形变换，纵向长方形变换；或者， 反映无纹理及不规则纹理的变换，反映横向纹理的变换，反映纵向纹理的变换；或者， 反映无纹理的变换，反映不规则纹理的变换，反映横向纹理的变换，反映纵向纹理的变换。
6.根据权利要求1、2、3所述方法，其特征在于，所述候选变换模式集与所述预测模式的对应关系，包括: 如果所述预测模式为帧内预测模式，则如果所述预测模式的预测像素中超过设定数量的像素编码单元上、右上边界时，选择横向长方块变换作为所述预测模式的对应变换类型；如果所述预测模式的预测像素中超过设定数量的像素编码单元左、左下边界时，选择纵向长方块变换作为所述预测模式的对应变换类型；否则，选择正方块变换作为所述预测模式的对应变换类型；或者， 如果所述预测模式为帧内预测模式，则如果所述预测模式的预测像素中超过设定数量的像素编码单元上、右上边界时，选择非纵向长方块变换作为所述预测模式的对应变换类型；如果所述预测模式的预测像素中超过设定数量的像素编码单元左、左下边界时，选择非横向长方块变换作为所述预测模式的对应变换类型；否则，选择所有变换类型中预置的变换类型作为所述预测模式的对应变换类型；或者， 如果预测信息表征竖直纹理，选择横向长方块变换作为所述预测模式的对应变换类型；如果预测信息表征水平纹理，选择纵向长方块变换作为所述预测模式的对应变换类型；如果预测信息表征无纹理或者不规则纹理，则，选择正方块变换作为所述预测模式的对应变换类型；或者， 如果预测信息表征竖直纹理，选择非纵向长方块变换作为所述预测模式的对应变换类型；如果预测信息表征水平纹理，选择非横向长方块变换作为所述预测模式的对应变换类型；如果预测信息表征无纹理或者不规则纹理，则，对应所有类型变换；或者， 如果预测信息表征横向或非纵向长方块变换，选择横向长方块变换作为所述预测模式的对应变换类型；如果预测信息表征纵向或非横向长方块变换，选择纵向长方块变换作为所述预测模式的对应变换类型；如果预测信息表征正方块变换，则，选择正方块变换作为所述预测模式的对应变换类型；或者， 如果预测信息表征横向或非纵向长方块变换，选择非纵向长方块变换作为所述预测模式的对应变换类型；如果预测信息表征纵向或非横向长方块变换，选择非横向长方块变换作为所述预测模式的对应变换类型；如果预测信息表征正方块变换，则，对应所有类型变换。
7.根据权利要求2所述方法，其特征在于，所述根据所述预测模式，根据候选变换模式集与所述预测模式的对应 关系，确定简化的候选变换模式集，包括: 所述简化的候选变换模式集为与所述预测模式存在所述对应关系的候选变换模式的 口 O
8.根据所述权利要求7所述方法，其特征在于，所述候选变换模式集的简化方法，包括: 如果所述预测模式的预测像素中超过设定数量的像素编码单元上、右上边界时，则所述候选变换模式为横向长方块变换和正方形块变换；如果所述预测模式的预测像素中超过设定数量的像素编码单元左、左下边界时，则所述候选变换模式为纵向长方块变换和正方形块变换；否则，述候选变换模式为正方形块变换；或者， 如果所述预测模式的预测像素中超过设定数量的像素编码单元上、右上边界时，则所述候选变换模式为横向长方块变换和正方形块变换；如果所述预测模式的预测像素中超过设定数量的像素编码单元左、左下边界时，则所述候选变换模式为纵向长方块变换和正方形块变换；否则，述候选变换模式为横向长方块变换、纵向长方块变换、正方形块变换。
9.根据所述权利要求2、3所述方法，其特征在于，所述从所述简化的候选变换模式集；或者，所述候选变换模式集中择优选择最优变换模式，所述最优变换模式用于使所述待编码视频图像和解码端得到重建视频图像的失真最小和使所述待编码视频图像所需要的编码比特数最小的方法，包括: 使用率失真优化的方法；或者， 使用简化的编码代价比较方法，仅计算编码比特或仅计算失真；或者， 使用编解码端的协议。
10.根据所述权利要求2所述方法，其特征在于，将所述最优变换模式的索引编入码流，包括: 当所述候选变换模式集合包括横向长方块和正方块时，在所述码流中，用第一标志位表示所述最优变换模式是横向长方块还是纵向长方块； 当所述候选变换模式集合包括纵向长方块和正方块时，在所述码流中，用第一标志位表示所述最优变换模式是横向长方块还是纵向长方块； 当所述候选变换模式集合包括横向长方块、纵向长方块和正方块时，在所述码流中，用第一标志位表示是否所述最优变换模式是正方块变换，如果第一标志位为否，则在所述码流中，用第二标志位表示所述最优变换模式是横向长方块还是纵向长方块。
11.根据所述权利要求3所述的方法，其特征在于，将所述最优变换模式的判断结果及索引编入码流，包括: 在所述码流中，用第三标志位表示所述最优变换模式是否为与所述预测模式具有所述对应关系的变换模式，如果第三标志位为否，则在所述码流中，用第四标志位表示所述最优变换模式是所述候选变换集合中剩余两个变换模式之一。
12.一种变换模式的解码 方法，其特征在于，包括: 获取待解码图像的变换系数块所对应预测数据块的预测模式； 从候选变换模式集中选择与所述预测模式对应的变换模式； 使用所述变换模式对待解码图像的变换系数块进行反变换操作。
13.一种变换模式的解码方法，其特征在于，包括: 获取待解码图像的变换系数块所对应预测数据块的预测模式； 根据所述预测模式，根据候选变换模式集与所述预测模式的对应关系，确定简化的候选变换模式集； 解析码流获得最优变换模式的索引； 使用所述索引对应的最优变换模式对待解码图像的变换系数块进行反变换操作。
14.一种变换模式的解码方法,其特征在于,包括: 获取待解码图像的变换系数块所对应预测数据块的预测模式； 解析码流获得最优变换模式是否为与预测模式存在对应关系的模式的判断结果； 如果所述判断结果为否，则解析码流获得最优变换模式的索引； 使用所述索引对应的最优变换模式对待解码图像的变换系数块进行反变换操作。
15.根据权利要求12、13、14所述方法，其特征在于，所述待解码图像的变换系数块所对应预测数据块的预测模式，包括: 帧内预测中的帧内预测模式；或者， 帧间预测中的帧间预测单元分割模式；或者， 帧内预测中的帧内预测单元分割模式；或者， 所述待解码图像的变换系数块时域或空域的待解码图像的变换系数块的变换模式。
16.根据权利要求12、13、14所述方法，其特征在于，所述候选变换模式集，包括: 方块形变换，横向长方形变换，纵向长方形变换；或者， 反映无纹理及不规则纹理的变换，反映横向纹理的变换，反映纵向纹理的变换；或者， 反映无纹理的变换，反映不规则纹理的变换，反映横向纹理的变换，反映纵向纹理的变换。
17.根据权利要求12、13、14所述方法，其特征在于，所述候选变换模式集与所述预测模式的对应关系，包括: 如果所述预测模式为帧内预测模式，则如果所述预测模式的预测像素中超过设定数量的像素编码单元上、右上边界时，选择横向长方块变换作为所述预测模式的对应变换类型；如果所述预测模式的预测像素中超过设定数量的像素编码单元左、左下边界时，选择纵向长方块变换作为所述预测模式的对应变换类型；否则，选择正方块变换作为所述预测模式的对应变换类型；或者， 如果所述预测模式为帧内预测模式，则如果所述预测模式的预测像素中超过设定数量的像素编码单元上、右上边界时，选择非纵向长方块变换作为所述预测模式的对应变换类型；如果所述预测模式的预测像素中超过设定数量的像素编码单元左、左下边界时，选择非横向长方块变换作为所述预测模式的对应变换类型；否则，选择所有变换类型中预置的变换类型作为所述预测模式的对应变换类型；或者， 如果预测信息表征竖直纹理，选择横向长方块变换作为所述预测模式的对应变换类型；如果预测信息表征水平纹理，选择纵向长方块变换作为所述预测模式的对应变换类型；如果预测信息表征无纹理或者不规则纹理，则，选择正方块变换作为所述预测模式的对应变换类型；或者， 如果预测信息表征竖直纹理，选择非纵向长方块变换作为所述预测模式的对应变换类型；如果预测信息表征水平纹理，选择非横向长方块变换作为所述预测模式的对应变换类型；如果预测信息表征无纹理或者不规则纹理，则，对应所有类型变换；或者， 如果预测信息表征横向或非纵向长方块变换，选择横向长方块变换作为所述预测模式的对应变换类型；如果预测信息表征纵向或非横向长方块变换，选择纵向长方块变换作为所述预测模式的对应变换类型；如果预测信息表征正方块变换，则，选择正方块变换作为所述预测模式的对应变换类型；或者， 如果预测信息表征横向或非纵向长方块变换，选择非纵向长方块变换作为所述预测模式的对应变换类型；如果预测信息表征纵向或非横向长方块变换，选择非横向长方块变换作为所述预测模式的对应变换类型；如果预测信息表征正方块变换，则，对应所有类型变换。
18.根据权利要求13所述方法，其特征在于，所述根据所述预测模式，根据候选变换模式集与所述预测模式的对应关系，确定简化的候选变换模式集，包括: 所述简化的候选变换模式集为与所述预测模式存在所述对应关系的候选变换模式的隹A 口 O
19.根据所述权利要求18所述方法，其特征在于，所述候选变换模式集的简化方法，包括: 如果所述预测模式的预测像素中超过设定数量的像素编码单元上、右上边界时，则所述候选变换模式为横向长方块变换和正方形块变换；如果所述预测模式的预测像素中超过设定数量的像素编码单元左、左下边界时，则所述候选变换模式为纵向长方块变换和正方形块变换；否则，述候选变换模式为正方形块变换；或者， 如果所述预测模式的预测像素中超过设定数量的像素编码单元上、右上边界时，则所述候选变换模式为横向长方块变换和正方形块变换；如果所述预测模式的预测像素中超过设定数量的像素编码单元左、左下边界时，则所述候选变换模式为纵向长方块变换和正方形块变换；否则，述候选变换模式为横向长方块变换、纵向长方块变换、正方形块变换。
20.根据所述权利要求13所述方法，其特征在于，解析码流获得所述最优变换模式的索引，包括: 当所述候选变换模式集合包括横向长方块和正方块时，解析所述码流，用第五标志位表示所述最优变换模式是横向长方块还是纵向长方块； 当所述候选变换模式集合包括纵向长方块和正方块时，解析所述码流，用第五标志位表示所述最优变换模式是横向长方块还是纵向长方块； 当所述候选变换模式集合包括横向长方块、纵向长方块和正方块时，解析所述码流，用第五标志位表示是否所述最 优变换模式是正方块变换，如果第五标志位为否，则解析所述码流，用第六标志位表示所述最优变换模式是横向长方块还是纵向长方块。
21.根据所述权利要求14所述的方法，其特征在于，解析码流获得所述最优变换模式的判断结果及索引，包括: 解析所述码流，用第七标志位表示所述最优变换模式是否为与所述预测模式具有所述对应关系的变换模式，如果第七标志位为否，则解析所述码流，用第八标志位表示所述最优变换模式是所述候选变换集合中剩余两个变换模式之一。
22.一种变换模式的编码装置，其特征在于，包括: 第一获取单元，用于获取所述待编码视频图像的残差数据块所对应预测数据块的预测模式； 第一选择单元，用于从候选变换模式集中选择与所述预测模式对应的变换模式； 第一处理单元，用于使用所述变换模式对所述待编码视频图像的残差数据块进行变换操作。
23.一种变换模式的编码装置，其特征在于，包括: 第二获取单元，用于获取所述待编码视频图像的残差数据块所对应预测数据块的预测模式； 第二判断单元，用于根据所述预测模式，根据候选变换模式集与所述预测模式的对应关系，确定简化的候选变换模式集； 第二选择单元，从所述简化的候选变换模式集中择优选择最优变换模式，所述最优变换模式用于使所述待编码视频图像和解码端得到重建视频图像的失真最小和使所述待编码视频图像所需要的编码比特数最小； 第二编码单元，用于将所述最优变换模式的索引编入码流； 第二处理单元，用于使用所述最优变换模式对所述待编码视频图像的残差数据块进行变换操作。
24.一种变换模式的编码装置，其特征在于，包括:第三获取单元，用于获取所述待编码视频图像的残差数据块所对应预测数据块的预测模式； 第三选择单元，从候选变换模式集中择优选择最优变换模式，所述最优变换模式用于使所述待编码视频图像和解码端得到重建视频图像的失真最小和使所述待编码视频图像所需要的编码比特数最小； 第三判断单元，用于判断所述最优变换模式是否为与预测模式存在对应关系的模式； 第三编码单元，用于将所述判断结果及所述最优变换模式的索引编入码流； 第三处理单元，用于使用所述最优变换模式对所述待编码视频图像的残差数据块进行变换操作。
25.一种变换模式的解码装置，其特征在于，包括: 第四获取单元，用于获取待解码图像的变换系数块所对应预测数据块的预测模式； 第四选择单元，用于从候选变换模式集中选择与所述预测模式对应的变换模式； 第四处理单元，用于使用所述变换模式对待解码图像的变换系数块进行反变换操作。
26.一种变换模式的解码装置，其特征在于，包括: 第五获取单元，用于获取待解码图像的变换系数块所对应预测数据块的预测模式；第五判断单元，用于根据所述预测模式，根据候选变换模式集与所述预测模式的对应关系，确定简化的候选变换模式集； 第五解码单元，用于解析码流获得最优变换模式的索引； 第五处理单元，用于使 用所述变换模式对待解码图像的变换系数块进行反变换操作。
27.一种变换模式的解码装置，其特征在于，包括: 第六获取单元，用于获取待解码图像的变换系数块所对应预测数据块的预测模式； 第六判断单元，用于确定候选变换模式集中与所述预测模式对应的变换模式； 第六解码单元，用于解析码流获得最优变换模式是否为与预测模式存在对应关系的模式的判断结果以及最优变换模式的索引； 第六处理单元，用于使用所述变换模式对待解码图像的变换系数块进行反变换操作。
全文摘要
本发明实施例公开了一种变换模式的编解码方法和装置，其中方法的实现包括获取视频图象的残差数据块所对应的预测数据块的预测模式，所述预测模式可以为但不限于帧内预测模式；从候选变换模式中择优选择最优变换模式，所述最优变换模式用于使所述待编码视频图像和解码端得到重建视频图像的失真最小和使所述待编码视频图像所需要的编码比特数最小；如果优选变换模式与预测模式相关，则传递信息或者编解码端达成协议，使解码端获知所选变换模式；如果优选变换模式与预测模式无关，则传递信息，使解码端获知所选变换模式；上述传递信息编入码流；上述方案可以节省资源，效率也更高。
文档编号H04N7/50GK103096053SQ20111034606
公开日2013年5月8日 申请日期2011年11月4日 优先权日2011年11月4日
发明者宋锦, 周建同 申请人:华为技术有限公司