使用用于定点变换的比特深度调整的视频编码方法及其设备，以及视频解码方法及其设备的制作方法
【专利摘要】一种调整编码的输出数据的范围以在恢复编码的样值期间调整比特深度的视频编码方法，和一种防止在解码处理的操作中输出数据发生溢出的视频解码方法。所述视频解码方法包括：从接收到的比特流中以图像的块为单位来解析并恢复被量化的变换系数；通过对被量化的变换系数执行反量化来恢复第一比特深度或小于第一比特深度的变换系数；通过对被量化的变换系数执行一维（1D）逆变换和逆缩放来恢复第二比特深度或小于第二比特深度的样值。
【专利说明】使用用于定点变换的比特深度调整的视频编码方法及其设备，以及视频解码方法及其设备
【技术领域】
[0001]本发明涉及通过使用定点变换/逆变换编码和解码视频。
【背景技术】
[0002]随着用于再现和存储高分辨率或高质量视频内容的硬件的发展和提供，越来越需要用于有效地编码或解码高分辨率或高质量视频内容的视频编解码器。在传统的视频编解码器中，基于具有预定尺寸的宏块根据受限的编码方法来对视频进行编码。
[0003]空域中的图像数据通过变换被变换成频域中的系数。对于快速变换，视频编解码器将图像划分成预定尺寸的块，并对预定尺寸的块中的每个块执行离散余弦变换(DCT)以按预定尺寸的块为单位来编码频率系数。频域中的系数具有可比空域中的图像数据的系数更容易压缩的形式。具体地，可用通过视频编解码器的帧间预测或帧内预测的预测误差来表示空域中的图像的像素值。因此，当对预测误差执行变换时，大量的数据会被转换成“O”。视频编解码器通过用小量数据代替连续和重复产生的数据来减少数据量。
【发明内容】
[0004]技术问题
[0005]本发明提供一种调整编码的输出数据的范围以在恢复编码的样值期间调整比特深度的视频编码方法，和一种防止在解码处理的子操作中输出数据溢出的视频解码方法。
[0006]解决方案
[0007]根据本发明的一方面，提供一种视频解码方法，所述视频解码方法包括:从接收到的流中以图像的块为单位解析并恢复被量化的变换系数；通过对被量化的变换系数执行反量化来恢复第一比特深度或小于第一比特深度的变换系数；通过对被量化的变换系数执行一维(ID)逆变换和逆缩放来恢复第二比特深度或小于第二比特深度的样值。
[0008]有益效果
[0009]当在视频解码处理期间执行定点变换时防止溢出，从而节省用于执行裁剪(clip)的硬件资源。
【专利附图】
【附图说明】
[0010]图1是根据本发明的实施例的视频编码设备的框图。
[0011]图2是根据本发明的实施例的视频解码设备的框图。
[0012]图3示出根据本发明的实施例的在编码/解码系统中改变比特深度的处理。
[0013]图4是示出根据本发明的实施例的视频编码方法的流程图。
[0014]图5是示出根据本发明的实施例的视频解码方法的流程图。
[0015]图6是根据本发明的另一实施例的基于具有树结构的编码单元的视频编码设备的框图。[0016]图7是根据本发明的另一实施例的基于具有树结构的编码单元的视频解码设备的框图。
[0017]图8是根据本发明的实施例的用于描述编码单元的概念的示图。
[0018]图9是根据本发明的实施例的基于编码单元的图像编码器的框图。
[0019]图10是根据本发明的实施例的基于编码单元的图像解码器的框图。
[0020]图11是示出根据本发明的实施例的根据深度的较深层编码单元和分区的示图。
[0021]图12是用于描述根据本发明的实施例的编码单元和变换单元之间的关系的示图。
[0022]图13是用于描述根据本发明的实施例的与编码深度相应的编码单元的编码信息的示图。
[0023]图14是根据本发明的实施例的根据深度的较深层编码单元的示图。
[0024]图15至图17是用于描述根据本发明的实施例的编码单元、预测单元和变换单元之间的关系的示图。
[0025]图18是用于描述根据表I的编码模式信息的编码单元、预测单元或分区以及变换单元之间的关系的示图。
[0026]最佳实施方式
[0027]根据本发明的一方面，提供一种视频解码方法，所述方法包括:从接收到的比特流中以图像的块为单位来解析并恢复被量化的变换系数；通过对被量化的变换系数执行反量化来恢复第一比特深度或小于第一比特深度的变换系数；通过对被量化的变换系数执行一维(ID)逆变换和逆缩放来恢复第二比特深度或小于第二比特深度的样值。
[0028]其中，恢复变换系数的步骤可包括:在无需对通过执行反量化而获得的变换系数进行裁剪的情况下，在反量化被执行之后产生第一比特深度或小于第一比特深度的变换系数。第一比特深度可等于用于存储通过执行反量化而获得的变换系数的第一存储单元的大小。
[0029]恢复样值的步骤可包括:在无需对通过执行ID逆变换和逆缩放而获得的样值进行裁剪的情况下，在ID逆变换和逆缩放被执行之后产生第二比特深度或小于第二比特深度的样值。第二比特深度可等于用于存储通过执行逆变换和逆缩放而获得的样值的第二存储单元的大小。
[0030]解析并恢复被量化的变换系数的步骤可包括按以下方式解析并恢复具有调整的最大范围的被量化的变换系数:在反量化被执行之后产生第一比特深度或小于第一比特深度的变换系数，并在逆变换和逆缩放被执行之后产生第二比特深度或小于第二比特深度的样值。
[0031]如果通过对在ID反量化被执行之后所获得的数据位移预定比特值来执行逆缩放，则基于用于在ID逆变换被执行之后的逆缩放的移位比特数来确定被量化的变换系数的最大范围。
[0032]根据本发明的另一方面，提供一种视频编码方法，所述方法包括:通过以图像的块为单位执行变换和量化来产生被量化的变换系数；按以下方式确定被量化的变换系数的最大范围:通过对被量化的变换系数执行反量化而获得的输出数据和/或通过对变换系数执行ID逆变换和逆缩放而获得的输出数据均具有预定比特深度或小于预定比特深度；调整被量化的变换系数的范围以落在最大范围内。
[0033]确定被量化的变换系数的最大范围的步骤可包括通过使用第一比特深度来确定被量化的变换系数的最大范围，使得在样值的恢复期间，在无需在反量化被执行之后执行裁剪的情况下产生第一比特深度或小于第一比特深度的变换系数。第一比特深度可等于用于存储变换系数的第一存储单元的大小。
[0034]确定被量化的变换系数的最大范围的步骤可包括通过使用第二深度来确定被量化的变换系数的最大范围，使得在样值的恢复期间，在无需在ID逆变换和逆缩放被执行之后执行裁剪的情况下产生第二比特深度或小于第二比特深度的样值。第二比特深度等于用于存储样值的第二存储单元的大小。
[0035]确定被量化的变换系数的最大范围的步骤可包括通过使用预定比特深度值来确定被量化的变换系数的最大范围，使得在无需裁剪在逆缩放被执行之后所获得的样值的情况下，通过对在ID逆变换被执行之后所获得的数据位移移位比特数来产生第二比特深度或小于第二比特深度的样值。
[0036]调整被量化的范围的步骤可包括:对被量化的变换系数的范围进行裁剪以落在最大范围内。
[0037]根据本发明的另一方面，提供一种视频解码设备，所述视频解码设备包括:接收单元，用于从接收到的比特流中以图像的块为单位来解析并恢复被量化的变换系数；反量化单元，用于通过对被量化的变换系数执行反量化来恢复第一比特深度或小于第一比特深度的变换系数；逆变换单元，用于通过对被量化的变换系数执行一维(ID)逆变换和逆缩放来恢复第二比特深度或小于第二比特深度的样值；图像恢复单元，用于通过使用以块为单位而恢复的样值来恢复图像。
[0038]根据本发明的另一方面，提供一种视频编码设备，所述视频编码设备包括:变换量化单元，用于通过以图像的块为单位执行变换和量化来产生被量化的变换系数；最大范围确定单元，用于按以下方式确定被量化的变换系数的最大范围:通过对被量化的变换系数执行反量化而获得的输出数据和/或通过对变换系数执行ID逆变换和逆缩放而获得的输出数据均具有预定比特深度或小于预定比特深度；输出单元，用于调整被量化的变换系数的范围以落在最大范围内，并将调整的被量化的变换系数输出在比特流中。
[0039]根据本发明的另一方面，提供一种用于通过计算机执行所述视频解码方法的计算机可读记录介质。
[0040]根据本发明的另一方面，提供一种用于通过计算机执行所述视频编码方法的计算机可读记录介质。
【具体实施方式】
[0041]在下文中，将参照附图更加全面地描述本发明，在所述附图中示出了本发明的示例性实施例。
[0042]在下文中，将参照图1至图5来描述根据本发明的实施例的通过调整定点变换和逆变换的比特深度而执行的视频编码方法和视频解码方法。将参照图6至图18描述根据本发明的实施例的通过调整定点变换和逆变换的比特深度基于具有树结构的编码单元而执行的视频编码方法和视频解码方法。在下文中，术语“图像”可表示视频的静止图像或运动画面(即，视频)。
[0043]首先，将参照图1至图5来描述通过调整定点变换和逆变换的比特深度而执行的视频编码方法和视频解码方法。
[0044]图1是根据本发明的实施例的视频编码设备10的框图。
[0045]视频编码设备10包括变换量化单元12、最大范围确定单元14和输出单元16。
[0046]根据本发明的实施例,视频编码设备10接收视频图像，将每个视频图像划分成块，并以所述块为单位来编码视频图像。所述块均可具有正方形、矩形或任何其他几何形状。也就是说，所述块不限于预定尺寸的数据单元。根据本发明的实施例，所述块可包括在具有树结构的编码单元中的最大编码单元、编码单元、预测单元和变换单元。以下将参照图6至图8来描述基于具有树结构的编码单元而执行的视频编码/解码。
[0047]根据本发明的实施例，视频编码设备10通过对所述块中的每个块执行帧内预测、帧间预测、变换和量化来产生样值，对所述样值执行熵编码，然后将熵编码的结果输出在比特流中。
[0048]根据本发明的实施例，变换量化单元12可通过对所述块中的每个块执行变换和量化来产生被量化的变换系数。变换量化单元12可通过接收像素值或经由图像预测编码而获得的在像素值之间的差别信息，并通过以变换单元为单位对所述像素值或所述差别信息进行变换，来产生变换系数。变换量化单元12可通过对变换系数进行量化来产生被量化的变换系数(即，量化系数)。根据本发明的实施例，变换量化单元12以变换单元为单位执行定点变换以产生变换系数。
[0049]为了恢复样值，可执行反量化以从被量化的变换系数中恢复变换系数，并且可将作为执行反量化的结果而被输出的输出数据存储在预定数据大小的存储单元中。
[0050]用于存储通过执行反量化而获得的变换系数的第一存储单元的数据大小可等于能够存储第一比特深度的数据的存储单元的数据大小。因此，作为执行反量化的结果而被输出的输出数据可以是第一比特深度或小于第一比特深度的数据。
[0051]在下文中，假设可通过比特深度来确定数据的最大绝对值，数据值是最小值和最大值之间的值，并且可通过比特深度来确定数据的动态范围。也可通过数据的比特深度来确定用于存储预定比特深度的存储单元的数据大小。在本公开中，“数据的比特深度”、“最大绝对值”、“数据的动态范围”和“存储单元的数据大小”应该被理解为具有相似含义的术语。
[0052]在样值的恢复期间，对变换系数执行逆变换以从通过定点变换而获得的变换系数中恢复原始数据。可将通过与定点变换相应的定点逆变换而获得的输出数据逆缩放到预定比特深度或小于预定比特深度。可将作为在定点逆变换之后执行逆缩放的结果而被输出的输出数据存储在预定数据大小的存储单元中。换句话说，用于存储通过执行逆变换和逆缩放而获得的样值的第二存储单元的数据大小可等于能够存储第二比特深度的数据的存储单元的大小。因此，通过执行逆变换和逆缩放而获得的输出数据可以是第二比特深度或小于第二比特深度的数据。
[0053]可连续地执行两次一维(1D)变换以对2D块执行二维(2D)变换。在样值的恢复期间，可连续地执行两次与由变换量化单元12执行的变换相应的ID逆变换以执行2D逆变换。每当ID逆变换被执行时都可执行逆缩放。[0054]根据本公开的实施例，可将通过逆变换而获得的输出数据位移预定比特值，从而对执行逆变换的结果进行逆缩放。因此，对用于逆缩放的输出数据进行位移的结果的比特深度可以是第二比特深度或小于第二比特深度。
[0055]如果通过顺序地执行逆变换和逆缩放而获得的输出数据的比特深度被限制为第二比特深度，则作为输入到逆变换中的输入值的变换系数也可基于第二比特深度被限制为小于或等于预定范围的值。
[0056]作为输入到反量化的输入值的被量化的变换系数也可被限制为小于或等于另一范围的值，从而将通过反量化而获得的变换系数限制为小于或等于输入到逆变换中的输入值。
[0057]因此，根据本发明的实施例，视频编码设备10可考虑反量化的输出范围和逆变换/逆缩放的输出范围，来调整将输出到比特流中的量化变换系数的动态范围。因此，最大范围确定单元14可确定将从视频编码设备10输出的被量化的变换系数的最大范围。
[0058]根据本发明的实施例，最大范围确定单元14可确定被量化的变换系数的最大范围，使得在样值的恢复期间，通过对被量化的变换系数执行反量化而获得的输出数据和/或通过对变换系数执行逆变换和逆缩放而获得的输出数据可小于或等于预定比特深度。
[0059]根据本发明的实施例，最大范围确定单元14可确定基于第一比特深度而被量化的变换系数的最大范围，使得在样值的恢复期间，可在无需裁剪通过反量化而获得的变换系数的情况下，产生第一比特深度或小于第一比特深度的变换系数。
[0060]根据本发明的实施例，最大范围确定单元14可基于第二比特深度确定被量化的变换系数的最大范围，使得在样值的恢复期间，可在无需裁剪通过执行ID逆变换和逆缩放而获得的样值的情况下，产生第二比特深度或小于第二比特深度的样值。
[0061]根据本发明的实施例，当在样值的恢复期间将数据位移预定比特值以便在ID逆变换之后执行逆缩放时，最大范围确定单元14可基于移位的比特数确定被量化的变换系数的最大范围。
[0062]根据本发明的实施例，输出单元16可调整被量化的变换系数的范围以落在由最大范围确定单元14确定的最大范围内，并将所述调整的结果输出在比特流中。可将被量化的变换系数裁剪成落在由最大范围确定单元14确定的最大范围内的值。
[0063]如上所述，最大范围确定单元14可以以下方式确定被量化的变换系数的最大范围:在样值的恢复期间，可均在执行反量化之后和在执行逆变换之后跳过裁剪。如另一示例，最大范围确定单元14可以以下方式确定被量化的变换系数的最大范围:在样值的恢复期间，可在执行反量化之后跳过裁剪。
[0064]根据本发明的实施例，视频编码设备10可包括中央处理器(CPU)(未示出)，所述中央处理器控制变换量化单元12、最大范围确定单元14和输出单元16的全部操作。另外，可通过视频编码设备10中的不同处理器(未示出)来操作变换量化单元12、最大范围确定单元14和输出单元16，并且所述不同处理器可相互操作以操作视频编码设备10的全部操作。另外，可在视频编码设备10的外部处理器(未示出)的控制下操作变换量化单元12、最大范围确定单元14和输出单元16。
[0065]根据本发明的实施例，视频编码设备10可包括至少一个数据存储单元(未示出)，所述至少一个数据存储单元用于存储输入到变换量化单元12、最大范围确定单元14和输出单元16的数据以及从变换量化单元12、最大范围确定单元14和输出单元16输出的数据。视频编码设备10可包括存储控制器(未示出)，所述存储控制器控制数据输入到至少一个存储单元和从至少一个存储单元输出。
[0066]根据本发明的实施例，为了输出执行编码的结果，视频编码设备10可执行包括通过与内部视频编码处理器或外部视频编码处理器相关联地被执行的变换的视频编码。根据本发明的实施例，视频编码设备10的内部视频编码处理器可被实现为单独的处理器，或者包括在视频编码设备10、用于执行基本视频编码操作的中央算术装置或图形算术装置中的视频编码处理模块。
[0067]图2是根据本发明的实施例的视频解码设备20的框图。
[0068]根据本发明的实施例，视频解码设备20包括接收单元22、反量化单元24、逆变换单元26和图像恢复单元28。
[0069]根据本发明的实施例，视频解码设备20可接收包含编码的视频数据的比特流。视频解码设备20可从比特流解析编码的视频样值，并通过以图像块执行熵解码、反量化、逆变换、预测和运动估计来产生恢复的像素，从而获得恢复的图像。
[0070]根据本发明的实施例，接收单元22以图像块为单位从比特流解析并恢复被量化的变换系数。因此，根据本发明的实施例，接收单元22可从比特流解析并恢复落在预定的最大范围内的被量化的变换系数。根据本发明的实施例，从比特流解析出的被量化的变换系数已在编码处理期间被调整为落在预定的最大范围内并随后被输出在比特流中。
[0071]根据本发明的实施例，反量化单元24可通过对被量化的变换系数执行反量化来恢复第一比特深度或小于第一比特深度的变换系数。第一比特深度可等于用于存储通过执行反量化而获得的变换系数的第一存储单元的数据大小。根据本发明的实施例，反量化单元24可在无需裁剪通过反量化而获得的变换系数的情况下，在执行反量化之后产生第一比特深度或小于第一比特深度的变换系数。
[0072]根据本发明的实施例，反变换单元26可通过对变换系数执行至少一次ID逆变换和逆缩放来恢复第二比特深度或小于第二比特深度的样值。例如，对于2D逆变换，可连续地执行两次逆变换和逆缩放。第二比特深度可等于用于存储通过执行逆变换和逆缩放而产生的样值的第二存储单元的数据大小。
[0073]根据本发明的实施例，逆变换单元26可在无需裁剪通过执行ID逆变换和逆缩放而获得的样值的情况下，通过执行ID逆变换和逆缩放来产生第二比特深度或小于第二比特深度的样值。
[0074]根据本发明的实施例，对于逆缩放，逆变换单元26可将通过执行ID逆变换而获得的数据位移达预定比特值。接收单元22可接收被量化的变换系数，其中，所述被量化的变换系数根据基于移位比特数而确定的最大范围被裁剪。
[0075]如上所述，应将具有受限范围的被量化的变换系数输入到反量化单元24，使得反量化单元24可在无需执行裁剪的情况下输出第一比特深度或小于第一比特深度的变换系数。类似地，应将具有受限范围的变换系数输入到逆变换单元26，使得逆变换单元26可在无需执行裁剪的情况下输出第二比特深度或小于第二比特深度的变换系数。
[0076]由于由接收单元22接收到的被量化的变换系数具有受限的最大范围，因此在反量化单元24执行反量化之后，可在无需执行裁剪的情况下产生第一比特深度或小于第一比特深度的变换系数，并且，在逆变换单元26执行逆变换和逆缩放之后，可在无需执行裁剪的情况下产生第二比特深度或小于第二比特数深度的样值。
[0077]根据本发明的实施例，图像恢复单元28可从以块为单位被恢复的样值中恢复图像。例如，可通过对以块为单位被恢复的样值执行帧内预测或运动补偿来恢复图像。
[0078]根据本发明的实施例，可根据接收到的被量化的变换系数的最大范围，在反量化单元24执行反量化之后以及在逆变换单元26执行逆变换之后跳过裁剪。如另一示例，可根据接收到的被量化的变换系数的最大范围，仅在反量化单元24执行反量化之后跳过裁剪。
[0079]根据本发明的实施例，视频解码设备20可包括中央处理器(CPU)(未示出)，所述中央处理器控制接收单元22、反量化单元24、逆变换单元26和图像恢复单元28的全部操作。另外，可通过在视频解码设备20中的不同处理器(未示出)来操作接收单元22、反量化单元24、逆变换单元26和图像恢复单元28，并且所述不同处理器可相互操作以操作视频编码设备10的全部操作。另外，可在视频解码设备20的外部处理器(未示出)的控制下操作接收单元22、反量化单元24、逆变换单元26和图像恢复单元28。
[0080]根据本发明的实施例，视频解码设备20可包括至少一个数据存储单元(未示出)，所述至少一个数据存储单元用于存储输入到接收单元22、反量化单元24、逆变换单元26和图像恢复单元28的数据以及从接收单元22、反量化单元24、逆变换单元26和图像恢复单元28输出的数据。视频解码设备20可包括存储控制器(未示出)，所述存储控制器控制数据输入到至少一个存储单元和从至少一个存储单元输出。
[0081]根据本发明的实施例，为了根据解码处理来恢复视频，视频解码设备20可执行与内部视频解码处理器或外部视频解码处理器相关联地被操作的视频解码。根据本发明的实施例，视频解码设备20的内部视频解码处理器可被实现为单独的处理器，或者包括在视频编码设备10、用于执行基本视频编码操作的中央算术装置或图形算术装置中的视频解码处理模块。
[0082]根据本发明的实施例，视频编码设备10已经基于存储单元(例如，临时缓冲器)的大小预先限制了被量化的变换系数的数据范围，所述存储单元用于存储在样值的恢复期间反量化和逆变换被执行之后获得的数据。因此，在对接收到的被量化的变换系数执行反量化和逆变换期间，视频解码设备20可在不需裁剪输出数据的情况下将输出数据存储在固定比特深度的临时缓冲器中。因此，可防止在视频解码处理期间执行定点变换时发生溢出，从而节省用于执行裁剪的硬件资源。
[0083]图3示出根据本发明的实施例的在编码/解码系统30中改变比特深度的处理。
[0084]参照图3，编码/解码系统30包括用于编码处理的量化单元31，并包括用于解码处理的解析单元33、反量化单元34、第一 ID逆变换单元36和第二 ID逆变换单元38。
[0085]量化单元31可对根据视频编码处理而获得的变换系数进行量化，并输出包括被量化的变换系数的比特流。可将输出被量化的变换系数的范围限制到预定范围。为此，可将变换系数裁剪成落在所述预定范围内。
[0086]解析单元33可从比特流中解析并恢复被量化的变换系数。反量化单元34可通过对被量化的变换系数执行反量化来恢复变换系数。可将变换系数在被从反量化单元34输出之前临时存储在存储单元35中。因此，反量化单元34的输出数据的大小可被限制为小于或等于存储单元35的第一比特深度。[0087]第一 ID逆变换单元36可在第一方向上对变换系数执行ID逆变换。第二 ID逆变换单元38可在第二方向上对从第一 ID逆变换单元36接收到的执行ID逆变换的结果执行ID逆变换。
[0088]第一 ID逆变换单元36和第二 ID逆变换单元38中的每个可执行定点逆变换，并可对执行逆变换的结果执行逆缩放。
[0089]第一 ID逆变换单元36可将通过在第一方向上执行ID逆变换而获得的数据位移达第一移位值shiftl，来对该数据执行逆缩放。第二 ID逆变换单元38可将通过在第二方向上执行ID逆变换而获得的数据位移达第二移位值shift2，来对该数据执行逆缩放。
[0090]第一 ID逆变换单元36可将从其输出的数据临时存储在存储单元37中。因此，第
一ID逆变换单元36的输出数据的大小可被限制为小于或等于存储单元37的数据大小。
[0091]类似地，第二 ID逆变换单元38可将从其输出的数据临时存储在存储单元39中。因此，第二 ID逆变换单元38的输出数据的大小可被限制为小于或等于存储单元39的数据大小。
[0092]例如，可根据以下等式来限制由反量化单元34反量化的变换系数C的最大绝对值MaxC:
[0093][等式I]
[0094]C|<MaxC=2bq-l,
[0095]其中，如果存储单元35的数据大小的比特深度为bq比特长，则变换系数C的最大绝对值MaxC可以是2bq-l，并且变换系数C可落在{-2'范围内。
[0096]与第一 ID逆变换单元36和第二 ID逆变换单元38的操作类似，可根据以下等式来限制通过执行第klD逆变换而被逆变换的数据Ck的最大绝对值Maxk:
[0097][等式2]
[0098]|Ck|〈Maxk=2bk_l，
[0099]其中，如果存储单元37和39为bk比特长，则被逆变换的数据Ck的最大绝对值Maxk可以是2bk-l，并且变换系数C可落在{-2bk，"％2bk-l}范围内。
[0100]因此，可根据等式I和等式2来限制反量化单元34、第一 ID逆变换单元36和第二ID逆变换单元38中的每个的输出数据的范围，以防止发生溢出。
[0101]通常，执行裁剪，使得反量化单元34、第一 ID逆变换单元36和第二 ID逆变换单元38的输出数据的大小可根据等式I和等式2分别小于或等于存储单元35、存储单元37和存储单元39的数据大小。
[0102]然而，根据本发明的实施例，视频编码设备10和视频解码设备20采用调整被量化的变换系数的最大范围的方法，来最小化在视频解码处理期间执行的裁剪操作。
[0103]可限制输入到第一 ID逆变换单元36或第二 ID逆变换单元38的数据的大小，来控制第一 ID逆变换单元36或第二 ID逆变换单元38的输出数据小于或等于预定的比特深度。为此，可限制反量化单元34的输出数据的大小。此外，输入到反量化单元34的被量化的变换系数的大小可被限制为小于或等于预定的比特深度，以便将反量化单元34的输出数据的大小限制为小于或等于预定的比特深度。因此，可控制从量化单元31输出的被量化的变换系数的最大范围以在无需执行裁剪的情况下限制反量化单元34、第一 ID逆变换单元36和第二 ID逆变换单元38中的每个的输出数据的范围。[0104]首先，可通过使用以下等式基于变换矩阵来确定限制第一 ID逆变换单元36或第
二ID逆变换单元38的输出数据的范围所需的输入数据的最大范围:
[0105][等式3]
[0106]Y=TR_MATRIXXX,
[0107]其中，向量X表不用于逆变换的大小为N的输入数据，向量Y表不大小为N的输出数据，并且“TR_MATRIX”表示大小为NXN的变换矩阵。如果向量X的元素的最大绝对值是max_abs_X并且在变换矩阵TR_MATRIX的第i行上的元素的最大绝对值是max_abs_TR_MATRIX，则可根据以下等式来确定输出数据Yi的最大绝对值和向量Y的元素的最大绝对值max_abs_Y:
[0108][等式4]
[0109]Yi =max_abs_TR_MATRIXi*max_abs_X ；
[0110]max_abs_Y=Max {max_ab s_T R_MAT RIXj *max_abs_X，
[0111]其中，“MaxImax.absJlLMATRIXi} ”被称为用于第k变换的变换矩阵的LI范数，SP，Ll_TR_MATRIX_k。第klD变换的最后的运算是用于逆缩放的位移。因此，可通过以下等式来确定在第klD变换期间比特深度的总增加量:
[0112][等式5]
[0113]max_abs_Y=(LI_TR_MATRIX_k*max_ab s_X+o ff_s e t_k)>>shift_k,
[0114]其中，对于第k逆缩放，偏移“off_set_k”是2shift-h。
[0115]如上所述，如果通过执行ID变换而获得的输出数据Y的大小小于或等于bk比特深度，则输出数据Y的范围可表示如下:
[0116][等式6]
[0117]-2bk ^ Y ^ 2bk-l ；
[0118]max_abs_Y ^ 2bk-l
[0119]因此，可从等式5和等式6推导出以下不等式:
[0120][等式7]
[0121 ] ((Ll_TR_MATRIX_k*max_abs_X+off_set_k) ?shift_k) ( 2bk_l ；
[0122](Ll_TR_MATRIX_k*max_abs_X+off_set_k)≤(2bk+shift-k-2shift-k)；
[0123]max_abs_X ≤(2bk+shift—k_2shift—k_2(shift—卜1))/Ll_TR_MATRIX_k
[0124]如果用于逆变换的输入数据的范围根据在等式7中表示的最后的不等式被限制，则可防止在通过执行逆变换而获得的输出数据中发生溢出。
[0125]因此，如果在等式6和等式7中表示的bk比特深度归纳到Max_k，则用于第k逆变换的输入数据的最大范围可被产生如下:
[0126][等式8]
[0127]max—abs—Y ^ Max—k ；
[0128]max_abs_X ≤(Max_k*2shift—k_2(shift—卜υ)/Ll_TR_MATRIX_k
[0129]也就是说，可基于存储单元大小Max_k、用于逆缩放的移位值shift_k和变换矩阵的LI范数(Ll_TR_MATRIX_k)来确定用于第k逆变换的输入数据的最大范围。
[0130]然后，可根据以下等式基于反量化变量来确定限制反量化单元34的输出数据的范围所需的输入数据的范围。根据等式9，可通过反量化将被量化的变换系数qC恢复到变换系数C。
[0131][等式9]
[0132]C= (((qOscale (QP)) ?bits (QP)) +iAdd) ?iShift ；
[0133]如果变换系数C的大小被限制为如等式I中所示的最大限制MaxC，则可基于以下等式来确定作为用于反量化的输入数据的被量化的变换系数qC的最大范围:
[0134][等式10]
[0135]-MaxC ^ (((qOscale (QP))〈〈bits (QP))+iAdd) >>iShift < MaxC ;
[0136]qCI ^ ((MaxC〈〈iShift)-1Add)>>bits (QP)/scale (QP)；
[0137]换句话说，可基于输出数据的最大限制MaxC和反量化变量来确定用于反量化的输入数据的最大范围。
[0138]然后，当反量化和逆变换被顺序地执行时，在每个操作中的输出数据的限制和输入数据的最大范围之间的关系如下所示:
[0139][表O]
[0140]
【权利要求】
1.一种视频解码方法，包括: 从接收到的比特流中以图像的块为单位来解析并恢复被量化的变换系数； 通过对被量化的变换系数执行反量化来恢复第一比特深度或小于第一比特深度的变换系数； 通过对被量化的变换系数执行一维(ID)逆变换和逆缩放来恢复第二比特深度或小于第二比特深度的样值。
2.如权利要求1所述的视频解码方法，其中，恢复变换系数的步骤包括:在无需对通过执行反量化而获得的变换系数进行裁剪的情况下，在反量化被执行之后产生第一比特深度或小于第一比特深度的变换系数， 第一比特深度等于用于存储通过执行反量化而获得的变换系数的第一存储单元的大小。
3.如权利要求1所述的视频解码方法，其中，恢复样值的步骤包括:在无需对通过执行ID逆变换和逆缩放而获得的样值进行裁剪的情况下，在ID逆变换和逆缩放被执行之后产生第二比特深度或小于第二比特深度的样值， 第二编码深度等于用于存储通过执行逆变换和逆缩放而获得的样值的第二存储单元的大小。
4.如权利要求1所述的视频解码方法，其中，解析并恢复被量化的变换系数的步骤包括按以下方式解析并恢复具有调整的最大范围的被量化的变换系数:在反量化被执行之后产生第一比特深度或小于第一比特深度的变换系数，并在逆变换和逆缩放被执行之后产生第二比特深度或小于第二比特深度的样值。
5.如权利要求4所述的视频解码方法，其中，如果通过对在ID逆变换被执行之后所获得的数据位移预定比特值来执行逆缩放，则基于用于在ID逆变换被执行之后的逆缩放的移位比特数来确定被量化的变换系数的最大范围。
6.—种视频编码方法，包括: 通过以图像的块为单位执行变换和量化来产生被量化的变换系数； 按以下方式确定被量化的变换系数的最大范围:通过对被量化的变换系数执行反量化而获得的输出数据和/或通过对变换系数执行ID逆变换和逆缩放而获得的输出数据均具有预定比特深度或小于预定比特深度； 调整被量化的变换系数的范围以落在最大范围内。
7.如权利要求6所述的视频编码方法，其中，确定被量化的变换系数的最大范围的步骤包括通过使用第一比特深度来确定被量化的变换系数的最大范围，使得在样值的恢复期间，在无需在反量化被执行之后执行裁剪的情况下，产生第一比特深度或小于第一比特深度的变换系数， 其中，第一比特深度等于用于存储变换系数的第一存储单元的大小。
8.如权利要求6所述的视频编码方法，其中，确定被量化的变换系数的最大范围的步骤包括通过使用第二比特深度来确定被量化的变换系数的最大范围，使得在样值的恢复期间，在无需在ID逆变换和逆缩放被执行之后执行裁剪的情况下，产生第二比特深度或小于第二比特深度的样值， 其中，第二比特深度等于用于存储样值的第二存储单元的大小。
9.如权利要求8所述的视频编码方法，其中，确定被量化的变换系数的最大范围的步骤包括:通过使用预定比特值来确定被量化的变换系数的最大范围，使得在无需对在逆缩放被执行之后所获得的样值进行裁剪的情况下，通过对在ID逆变换被执行之后所获得的数据位移移位比特数来产生第二比特深度或小于第二比特深度的样值。
10.如权利要求6所述的视频编码方法，其中，调整被量化的变换系数的范围的步骤包括:对被量化的变换系数的范围进行裁剪以落在最大范围内。
11.一种视频解码设备，包括: 接收单元，用于从接收到的比特流中以图像的块为单位来解析并恢复被量化的变换系数； 反量化单元，用于通过对被量化的变换系数执行反量化来恢复第一比特深度或小于第一比特深度的变换系数； 逆变换单元，用于通过对被量化的变换系数执行一维(1D)逆变换和逆缩放来恢复第二比特深度或小于第二比特深度的样值； 图像恢复单元，用于通过使用以块为单位而恢复的样值来恢复图像。
12.一种视频编码设备，包括: 变换量化单元，用于通过以图像的块为单位执行变换和量化来产生被量化的变换系数； 最大范围确定单元，用于按以下方式确定被量化的变换系数的最大范围:通过对被量化的变换系数执行反量化而获得的输出数据和/或通过对变换系数执行ID逆变换和逆缩放而获得的输出数据均具有预定比特深度或小于预定比特深度； 输出单元，用于调整被量化的变换系数的范围以落在最大范围内，并将调整的被量化的变换系数输出在比特流中。
13.—种记录用于执行如权利要求1所述的视频解码方法的程序的计算机可读记录介质。
14.一种记录用于执行如权利要求6所述的视频编码方法的程序的计算机可读记录介质。
【文档编号】H04N19/89GK103765893SQ201280042084
【公开日】2014年4月30日 申请日期:2012年7月2日 优先权日:2011年6月30日
【发明者】艾琳娜·阿尔辛娜, 亚历山大·阿尔辛 申请人:三星电子株式会社