图像处理装置及方法

图像处理装置及方法
【专利摘要】本公开内容涉及能够抑制由于编码/解码造成的图像质量下降的图像处理设备和方法。图像处理设备包括：量化单元，当正交变换处理针对当前块被跳过时，利用一个加权系统量化当前块的所有分量，并且当正交变换处理针对当前块执行时，利用量化矩阵来量化当前块的每个分量；编码单元，编码被量化单元量化的当前块的系数；以及发送单元，发送通过编码单元编码所获得的当前块的编码数据。本公开内容可以应用到例如图像处理设备。
【专利说明】
图像处理装置及方法

【技术领域】
[0001]本公开内容涉及图像处理设备及方法，更具体而言涉及能够抑制图像退化的图像处理设备及方法。

【背景技术】
[0002]近年来，为了执行信息的高效传输和存储，通过采用编码系统把图像信息处理为数字的而且此时通过诸如离散余弦变换等正交变换以及利用作为图像信息的特征的冗余性的运动补偿来压缩图像而让图像接受压缩编码的设备已经被广泛使用。这种编码系统的例子包括运动图片专家组(MPEG)等。
[0003]特别地，MPEG2(IS0/IEC 13818-2)被定义为通用图像编码系统，并且覆盖隔行(interlaced)扫描图像和逐行(progressive)扫描图像以及标准分辨率图像和高清晰度图像的标准。例如，MPEG2目前广泛用在专业使用和消费者使用的广泛应用中。通过使用MPEG2压缩方法，在例如720X480像素的标准分辨率隔行扫描图像的情况下，分配4至8Mbps的编码量(位率)。此外，通过使用MPEG2压缩方法，在例如1920 X 1088像素的高分辨率隔行扫描图像的情况下，分配18至22Mbps的编码量(位率)。由于这个原因，有可能实现高压缩率和有利的图像质量。
[0004]MPEG2主要用于适于广播的高图像质量编码，但与具有低于MPEGl编码量的编码量(位率)(换句话说，更高压缩率)的编码系统不兼容。随着移动终端的广泛使用，预期对这种编码系统的需求在未来将增加，响应于此，MPEG4编码系统的标准化已经执行。关于图像编码系统，规范是作为如ISO-1EC 14496-2的国际标准在1998年12月被批准。
[0005]另外，近年来，称为H.26L(ITU-T(国际电信联盟电信标准化部门)Q6/16VCEG (视频编码专家组))的标准的标准化已经发展，其目标最初是视频会议用途的图像编码。关于H.26L，已知它虽然与诸如MPEG2或MPEG4的常规编码系统相比而言对于其编码和解码要求更大的计算量，但是实现了更高的编码效率。而且，目前，作为MPEG4活动的一部分，包括未被H.26L支持的功能的标准化已经作为增强压缩视频编码的联合模型(Joint Model ofEnhanced-Compress1n Video Coding)而被执行,其中这个H.26L被作为实现更高编码效率的基础。
[0006]作为标准化时间表，2003年3月确立了被称为H.264和MPEG-4部分10 (高级视频编码，下文中称为AVC)的国际标准。
[0007]此外，作为H.264/AVC的扩展，FRExt (保真度范围扩展)的标准化在2005年2月完成，其中FRExt包括商业使用必需的编码工具，诸如RGB、4:2:2或4:4:4，以及在MPEG-2中定义的8 X 8DCT和量化度量。从而能够利用H.264/AVC有利地表示甚至包括在电影中的电影噪声的编码系统已经确立，这种系统用于诸如Blu-Ray Disc (注册商标)的广泛应用。
[0008]但是，近年来对于以更高压缩速率进行编码有增长的需求，例如，对压缩具有大约4000X2000像素的图像的需求，这种图像是高清晰图像的四倍，或者对在诸如互联网之类具有有限传输能力的环境中分发高清晰图像的需求。因此，以上描述的ITU-T下的视频编码专家组(VCEG)，对提高编码效率的研究已在持续地进行。
[0009]因此，为了与AVC相比而言进一步提高编码效率，被称为高效视频编码(HEVC)的编码系统的标准化目前正由联合协作团队-视频编码(JCTVC)进行，该团队是ITU-T和IS0/IEC的联合标准化团队(参见例如非专利文档I)。
[0010]但是，非专利文档I公开的HEVC标准，采用称为“帧内变换跳过(Intra TransformSkipping) ”的技术(参见例如非专利文档2)。
[0011]S卩，首先，关于变换跳过(Transform Skip，也称为“正交变换跳过”)是否在序列中可被应用的标记，被发送到序列参数集(SPS)。
[0012]当值为I是，有可能对4X4的亮度和色度正交变换块应用变换跳过。
[0013]关于TransformSkip的开/关的标记发送到每个块。
[0014]关于对其应用TransformSkip的块,在熵编码、量化、回路过滤处理等中没有变化。
[0015]引用列表
[0016]非专利文档
[0017]非专利文档1:Benjamin Bross, Woo-Jin Han, Jens-Rainer Ohm, GaryJ.Sullivan,Thomas Wiegandj “Working Draft 4of High-Efficiency VideoCoding”，JCTVC_F803—d2，Joint Collaborative Team on Video Coding(JCT-VC)of ITU-TSG16WP3and IS0/IEC JTCl/SC29/WG116th Meeting:Torino, IT, 14_22July，2011
[0018]非专利文档2:Cuiling Lanj Jizheng Xuj Gary J.Sullivan, FengWuj “Intra transform skipping”，JCTVC-10408，Joint Collaborative Team onVideo Coding (JCT-VC) of ITU-T SG 16WP 3and IS0/IEC JTC 1/SC 29/WG 119thMeeting:Geneva, CHj27April-7May 2012


【发明内容】

[0019]本发明要解决的问题
[0020]但是，对其应用TransformSkip的块的系数是关于空间域的值，对其不应用TransformSkip的块的系数是关于频率域的值，因而两个特性彼此不同。
[0021]为此，当不考虑这些特性的区别的情况下,对应用了 TransformSkip的块和不应用TransformSkip的块都执行编码过程时，存在编码效率退化的问题。
[0022]本公开内容就是考虑这种情形而开发，并且可以抑制由于编码/解码过程造成的图像质量下降。
[0023]对问题的解决办法
[0024]根据本公开内容的一方面，提供了一种图像处理设备，包括:
[0025]量化单元，使用被应用到正交变换跳过块的加权系数并且量化所述正交变换跳过块，其中所述正交变换跳过块中正交变换处理被跳过 '及
[0026]编码单元，编码由所述量化单元量化的所述正交变换跳过块的系数。
[0027]量化单元可以使用一个加权系数。
[0028]量化单元可以利用该加权系数来量化具有4X4块尺寸的正交变换跳过块。
[0029]图像处理设备还可以包括发送单元，该发送单元发送指示是否许可正交变换处理的跳过的跳过许可信息作为图片参数集。
[0030]发送单元还可以发送该加权系数。
[0031]量化单元可以利用量化矩阵来量化非正交变换跳过块，在所述非正交变换跳过块中正交变换处理被执行，所述量化矩阵与通过对所述加权系数执行矩阵处理获得的加权系数矩阵不同。
[0032]图像处理设备还可以包括发送单元，该发送单元调制通过由所述量化单元执行量化并且由编码单元编码图像数据所获得的编码数据，以便把编码数据作为发送信号发送。
[0033]图像处理设备还可以包括多路复用器，该多路复用多路复用通过由所述量化单元执行量化并且由编码单元编码图像数据所获得的编码数据与音频编码数据。
[0034]图像处理设备还可以包括成像单元，该成像单元捕捉物体的图像以生成图像数据，其中量化单元量化所述成像单元利用成像所获得的所述图像数据的正交变换跳过块。
[0035]图像处理设备还可以包括对音频数据执行编码和解码的音频编解码器单元。
[0036]图像处理设备还可以包括记录单元,该记录单元在存储介质上记录通过由所述量化单元执行量化并且由编码单元编码图像数据所获得的编码数据。
[0037]根据本公开内容的一方面，一种图像处理方法包括:利用被应用到正交变换跳过块的加权系数来量化所述正交变换跳过块，其中在所述正交变换跳过块中正交变换处理被跳过；以及编码所述被量化的正交变换跳过块的系数。
[0038]在本公开内容的另一方面，所述正交变换跳过块是利用被应用到正交变换跳过块的加权系数来量化的，其中在所述正交变换跳过块中正交变换处理被跳过，以及所述被量化的正交变换跳过块的系数被编码。
[0039]另外，以上所述图像处理设备可以是独立设备或者可以是构成一个图像编码设备的内部块。
[0040]本发明的效果
[0041]根据本公开内容，可以解码图像。特别地，有可能抑制由于解码造成的图像质量下降。

【专利附图】

【附图说明】
[0042]图1是说明图像编码设备的主要配置实例的框图。
[0043]图2是用于描述编码单元的配置实例的图。
[0044]图3是说明量化矩阵发送实例的图。
[0045]图4是说明序列参数集实例的图。
[0046]图5是说明接着图4的序列参数集实例的图。
[0047]图6是说明图片参数集实例的图。
[0048]图7是说明接着图6的图片参数集实例的图。
[0049]图8是用于描述量化条件实例的图。
[0050]图9是说明序列参数集实例的图。
[0051]图10是说明接着图9的序列参数集实例的图。
[0052]图11是说明图片参数集实例的图。
[0053]图12是说明接着图11的图片参数集实例的图。
[0054]图13是说明正交变换跳过等的主要配置实例的框图。
[0055]图14是用于描述编码过程的流程实例的流程图。
[0056]图15是用于描述正交变换跳过控制处理流程实例的流程图。
[0057]图16是用于描述正交变换处理流程实例的流程图。
[0058]图17用于描述量化处理流程实例的流程图。
[0059]图18用于描述去块过滤处理流程实例的流程图。
[0060]图19是说明图像解码设备的主要配置实例的框图。
[0061]图20是说明逆正交变换跳过单元等的主要配置实例的框图。
[0062]图21是用于描述解码过程的流程实例的流程图。
[0063]图22是用于描述逆量化处理流程实例的流程图。
[0064]图23是用于描述逆正交变换处理流程实例的流程图。
[0065]图24是说明序列参数集的另一个实例的图。
[0066]图25是说明图片参数集的实例的图。
[0067]图26是用于描述跳过许可信息生成处理流程实例的流程图。
[0068]图27是用于描述跳过许可信息接收处理流程实例的流程图。
[0069]图28是说明多视点图像编码系统的实例的图。
[0070]图29是说明本技术适用的多视点图像编码设备的主要配置实例的图。
[0071]图30是说明本技术适用的多视点图像解码设备的主要配置实例的图。
[0072]图31是说明分级图像编码系统实例的图。
[0073]图32是说明本技术适用的分级图像编码设备的主要配置实例的图。
[0074]图33是说明本技术适用的分级图像解码设备的主要配置实例的图。
[0075]图34是说明计算机的主要配置实例的框图。
[0076]图35是说明电视装置的示意性配置实例的框图。
[0077]图36是说明移动电话的示意性配置实例的框图。
[0078]图37是说明记录和再现设备的示意性配置实例的框图。
[0079]图38是说明成像设备的示意性配置实例的框图。
[0080]图39是说明可伸缩编码利用实例的框图。
[0081]图40是说明可伸缩编码利用的另一个实例的框图。
[0082]图41是说明可伸缩编码利用的还有另一个实例的框图。
[0083]图42是说明视频机(video set)的示意性配置实例的框图。
[0084]图43是说明视频处理器的示意性配置实例的框图。
[0085]图44是说明视频处理器的示意性配置的另一个实例的框图。

【具体实施方式】
[0086]下文中将描述用于执行本公开内容的模式(下文中称为实施例)。另外，描述以以下次序给出。
[0087]1.第一实施例(图像编码设备)
[0088]2.第二实施例(图像解码设备)
[0089]3.第三实施例(跳过许可信息的发送控制)
[0090]4.第四实施例(多视点图像编码/多视点图像解码设备)
[0091]5.第五实施例(分级图像编码/分级图像解码设备)
[0092]6.第六实施例(计算机)
[0093]7.第七实施例(应用实例)
[0094]8.第八实施例(可伸缩编码的应用实例)
[0095]9.第九实施例(集合/单元/模块/处理器)
[0096]〈1.第一实施例>
[0097][图像编码设备]
[0098]图1是说明图像编码设备的主要配置实例的框图。
[0099]在I说明图像编码设备100利用例如高效视频编码(HEVC)的预测处理或者与其相符的系统编码图像数据。
[0100]如图1所说明的，图像编码设备100包括A/D转换器101、屏幕重新布置缓冲区102、计算单元103、正交变换单元104、量化单元105、无损编码单元106、累积缓冲区107、逆量化单元108,以及逆正交变换单元109。此外，图像编码设备100还包括计算单元110、去块过滤器111、帧存储器112、选择单元113、帧内预测单元114、运动预测/补偿单元115、预测图像选择单元116，以及速率控制单元117。
[0101]图像编码设备100还包括正交变换跳过单元121。
[0102]A/D转换器101对输入的图像数据执行A/D转换，把转换获得的图像数据(数字数据)提供给屏幕重新布置缓冲区102，并且在其中存储该图像数据。屏幕重新布置缓冲区102把按显示次序存储的帧图像重新布置成用于根据图片组(GOP)结构进行编码的帧的次序，并且把其中帧次序已经重新布置的图像提供给计算单元103。此外，屏幕重新布置缓冲区102把其中帧次序已经重新布置的图像提供给帧内预测单元114和运动预测/补偿单元115。
[0103]计算单元103从从屏幕重新布置缓冲区102读出的图像减去从帧内预测单元114或运动预测/补偿单元115提供的预测图像，并且把差异信息提供给正交变换单元104。例如，在对图像执行帧内编码的情况下，计算单元103从从屏幕重新布置缓冲区102读出的图像减去从帧内预测单元114提供的预测图像。另外，在对图像执行帧间编码的情况下，例如，计算单元103从从屏幕重新布置缓冲区102读出的图像减去从运动预测/补偿单元115提供的预测图像。
[0104]正交变换单元104对从计算单元103提供的差异信息执行诸如离散余弦变换和Karhunen-Loeve变换的正交变换，并且把其变换系数提供给量化单元105。
[0105]量化单元105量化从正交变换单元104提供的变换系数。量化单元105基于从速率控制单元117提供的编码量的目标值的信息，设置量化参数并且执行其量化。量化单元105把量化的变换系数提供给无损编码单元106。
[0106]无损编码单元106利用任何编码系统来编码被量化单元105量化的变换系数。由于系数数据是在速率控制单元117的控制下被量化，因此其编码量是速率控制单元117设置的目标值(或者近似该目标值)。
[0107]此外，无损编码单元106从帧内预测单元114获取指示帧内预测模式等的信息并且从运动预测/补偿单元115获取指示帧间预测模式或差异运动矢量的信息。
[0108]无损编码单元106根据编码系统编码这各种信息，包含(多路复用)这各种信息片段被作为编码数据(也称为编码流)的首部信息的部分。无损编码单元106把通过编码获得的编码数据提供给累积缓冲区107并且在其中累积编码数据。
[0109]例如，无损编码单元106的编码系统包括可变长度编码或计算编码。例如，可变长度编码包括由H.264/AVC系统定义的上下文自适应变长编码(CAVLC)等。例如，计算编码包括上下文自适应二进制算术编码(CABAC)等。
[0110]累积缓冲区107暂时保持从无损编码单元106提供的编码数据。累积缓冲区107在预定时间把所保持的编码数据输出到例如在后面部分中未说明的记录设备(记录介质)或传输路径。即，累积缓冲区107也是用于发送编码数据的发送单元。
[0111]被量化单元105量化的变换系数还提供给逆量化单元108。逆量化单元108以对应于量化单元105进行量化的方法来逆量化被量化的变换系数。逆量化单元108把获得的变换系数提供给逆正交变换单元109。
[0112]逆正交变换单元109以对应于正交变换单元104进行正交变换处理的方法对从逆量化单元108提供的变换系数执行逆正交变换。通过逆向正交变换处理获得的输出(恢复的差异值信息)提供给计算单元110。
[0113]计算单元110把通过预测图像选择单元116从帧内预测单元114或运动预测/补偿单元115提供的预测图像添加到恢复的差异信息，该恢复的差异信息是从逆正交变换单元109提供的逆正交变换处理的结果，由此获得本地解码图像(解码图像)。解码图像提供给去块过滤器111或帧存储器112。
[0114]去块过滤器111适当地对从计算单元110提供的解码图像执行去块过滤处理。例如,去块过滤器111对解码图像执行去块过滤处理,除去解码图像的块失真。
[0115]去块过滤器111把过滤处理结果(过滤处理之后的解码图像)提供给帧存储器112。另外，如上所述，从计算单元110输出的解码图像可以不经过去块过滤器111就提供给帧存储器112。即，有可能略去去块过滤器111进行的过滤处理。
[0116]帧存储器112存储要提供的解码图像并且在预定时间把所存储的解码图像作为参考图像提供给选择单元113。
[0117]选择单元113选择从帧存储器112提供的参考图像的供应目的地。例如，在帧间预测的情况下，选择单元113把从帧存储器112提供的参考图像提供给运动预测/补偿单元 115。
[0118]帧内预测单元114利用当前图片内的像素值执行帧内预测(屏幕内预测)，以生成预测图像，当前图片是通过选择单元113从帧存储器112提供的参考图像。帧内预测单元114以事先准备的多种帧内预测模式执行帧内预测。
[0119]帧内预测单元114在所有帧内预测模式下生成预测图像作为候选，并且利用从屏幕重新布置缓冲区102提供的输入图像来评估每个预测图像的成本函数值，以选择最优模式。在选择最优帧内预测模式后，帧内预测单元114把在最优模式下生成的预测图像提供给预测图像选择单元116。
[0120]此外，如上所述，帧内预测单元114适当地把指示所采用的帧内预测模式的帧内预测模式信息提供给无损编码单元106，以编码所提供的帧内预测模式信息。
[0121]运动预测/补偿单元115利用从屏幕重新布置缓冲区102提供的输入图像和选择单元113从帧存储器112提供的参考图像执行运动预测(帧间预测)。运动预测/补偿单元115根据检测到的运动矢量执行运动补偿处理并且生成预测图像(帧间预测图像信息)。运动预测/补偿单元115在事先准备的多种帧间预测模式下执行这种帧间预测。
[0122]运动预测/补偿单元115在所有帧间预测模式下生成预测图像作为候选。运动预测/补偿单元115利用从屏幕重新布置缓冲区102提供的输入图像和所生成的差异运动矢量的信息来评估每个预测图像的成本函数值，以选择最优模式。在选择最优帧间预测模式后，运动预测/补偿单元115把最优模式下生成的预测图像提供给预测图像选择单元116。
[0123]运动预测/补偿单元115把指示所采用的帧间预测模式的信息、在解码编码数据时在帧间预测模式下执行处理所需信息等提供给无损编码单元106，并且编码所提供的信息。例如，所需信息可以包括:生成的差异运动矢量的信息、指示预测运动矢量的索引的标记(作为预测运动矢量信息)等等。
[0124]预测图像选择单元116选择要提供给计算单元103或计算单元110的预测图像的供应源。例如，在帧内编码的情况下，预测图像选择单元116选择帧内预测单元114作为预测图像的供应源并且提供从帧内预测单元114向计算单元103或计算单元110提供的预测图像。此外，例如，在帧间编码的情况下，预测图像选择单元116选择运动预测/补偿单元115作为预测图像的供应源并且提供从运动预测/补偿单元115向计算单元103或计算单元110提供的预测图像。
[0125]基于在累积缓冲区107累积的编码数据的编码量，速率控制单元117控制量化单元105的量化速率,使得上溢或下溢不发生。
[0126]正交变换跳过单元121控制正交变换单元104中正交变换处理的执行。此外，根据该控制，正交变换跳过单元121控制由量化单元105进行的量化处理、逆量化单元108进行的逆量化处理、逆正交变换单元109进行的逆正交变换处理，以及去块过滤器111进行的去块过滤处理。另外，正交变换跳过单元121向无损编码单元106提供正交变换处理的跳过所必需的信息以及关于量化或去块过滤器的信息，并且把所提供的信息从累积缓冲区107发送到解码侧。
[0127][编码单元]
[0128]在AVC系统，规定了包括宏块和子宏块的分层结构。但是，16像素X 16像素的宏块对于大图像巾贞(诸如超闻清晰(UHD ;4000像素X2000像素))不是最合适，这种大图像帧是下一代编码系统的主题。
[0129]因而，例如，在HEVC系统中规定如图2所说明的编码单元(CU)。
[0130]⑶也被称为编码树块(CTB)，并且是图片单元中图像的部分区域，它充当与AVC系统的宏块相似的角色。AVC系统的宏块具有16X16像素的固定尺寸，而CU的尺寸不是固定的，因此在每个序列中的图像压缩信息中规定。
[0131]例如，CU的最大尺寸(最大编码单元(LCU))和最小尺寸(最小编码单元(SCU))在要输出的编码数据所包括的序列参数集(序列参数集(SPS))中规定。
[0132]通过设置split_flag = 1、且不降至低于S⑶尺寸的范围内，每个IXU可以被进一步划分成更小的⑶。在图2所说明的例子，IXU的尺寸是128 X 128像素，而最大分层深度变成5。当split_flag的值为“I”时，尺寸为2NX2N像素的⑶被分成多个⑶，其下一层且尺寸为NXN。
[0133]另外，⑶被划分成预测单元扔，？I是作为帧内预测或帧间预测的处理单元的区域(图片单元中图像的部分区域)，并且还被划分成变换单元(几)，几是作为正交变换的处理单元的区域(图片单元中图像的部分区域目前，除了 4X4和8X8正交变换，册系统还可以执行16X16和32X32正交变换。
[0134]就像在以上的系统，在⑶被定义并且各种类型的处理以⑶为单位执行的编码系统的情况下，考虑撕系统的宏块对应于[⑶、块(子块)对应于⑶。此外，考虑撕系统的运动补偿块对应于但是，由于⑶具有分层结构，因此其最上层[⑶的尺寸通常设置得比抓系统的宏块大，例如，128X128像素。
[0135]因此，下文，假设[⑶也包括系统的宏块并且⑶也包括系统的块(子块即，在以下描述中使用的“块”指示图片中的任何部分区域，并且对块的尺寸、形状、特性等没有限制。换句话说，任何区域(处理单元)，例如几、？13⑶、⑶、[⑶、子块、宏块或者片，都包括在“块”中。当然，除这些区域之外的部分区域(处理单元)也包括在其中。必要的时候，适当地在限制尺寸或处理单元的情况下给出说明。
[0136]接下来，将描述关于本技术的基本技术要素。
[0137][量化矩阵]
[0138]就像在-(:中一样，正交变换系数的量化对册中的每个正交变换处理单元执行。量化矩阵用于量化，但量化矩阵是为每个尺寸的正交变换处理单元准备的。但是，例如，当诸如16乂 16矩阵或32X32矩阵的大量化矩阵被发送时，存在编码效率降低的问题。
[0139]这里，如图3所说明的，大量化矩阵(或者大于预定尺寸的量化矩阵)，例如16X16矩阵或32X32矩阵，以8X8的尺寸发送并且被适用于每个正交变换尺寸的零阶保持上采样。另外，00分量单独地发送到对其应用上采样的矩阵。
[0140]在册VI如图4至7所说明的，关于量化矩阵的信息(缩放列表)发送到序列参数集(--)或者图片参数集。图4和5是说明序列参数集实例的图。图6和7是说明图片参数集实例的图。
[0141][去块过滤器]
[0142]就像在撕中一样，去块过滤器在中的运动补偿回路中定义。去块过滤器执行过滤处理，以减少在块边界发生的块失真。
[0143]即，在去块过滤处理，块边界被检测，过滤器的类型或强度、偏移量等是基于在块边界的量化参数等决定的，由此执行过滤处理。
[0144][模式选择]
[0145]但是，选择适当的预测模式以便在抓和编码系统中实现更高的编码效率是很重要的。
[0146]作为选择方法的例子，可以使用被称为11.264/1^26-4/^0的联合模型(厕)的参考软件中实现的方法(可以在 111:1:1)://11)1101116.沾丨.(16/8116111-1118/1:1111/111(16^.卜饱获得)。
[0147]厕软件使模式决定方法能够从高复杂度模式和低复杂度模式这两种模式当中选择，这些模式将在以下描述。任何模式下，都为每种预测模式“10(16”计算成本函数值，并且最小化成本函数值的预测模式被选作用于块或宏块的最优模式。
[0148]在高复杂度模式下，成本函数由以下表达式(1)表示。
[0149]0081: (10(16 ^ ^ ) =0+人氺尺…⑴
[0150]这里，“ ^ ”代表用于编码块或宏块的候选模式的通用集合，而“0”代表在预测模式下编码被执行时解码图像与输入图像之间的能量差。“、”代表作为量化参数的函数给出的拉格朗日倍数。“8”代表在该模式下编码被执行时包括正交变换系数在内的总编码量。
[0151]即，为了在高复杂度模式下执行编码，需要更大计算量，因为暂时的编码处理需要在所有候选模式下都执行一遍，以计算参数0和尺。
[0152]在低复杂度模式下，成本函数由以下表达式(2)表示。
[0153]0081: (10(16 ^ ^ ) = 0+0^20118111: ^68(161-8(2)
[0154]这里，“0”代表预测图像与输入图像之间的能量差并且与高复杂度模式不同。“”作为量化参数0？的函数给出，而“0621(161*811:”是关于诸如运动矢量或模式之类属于首部的信息的编码量，不包括正交变换系数。
[0155]即，在低复杂度模式下，虽然有必要对相应的候选模式执行预测过程，但是，由于无需获得解码图像，因此没必要执行编码过程。因而，低复杂度模式可以利用比高复杂度模式更低的计算量来实现。
[0156][正交变换跳过]
[0157]顺便提一下，非专利文档2建议的“帧内变换跳过”技术在标准中被采用。正交变换跳过(变换跳过)是略去(即，跳过)正交变换处理的技术。
[0158]一般而言，正交变换处理是对每块的图像数据(差异图像数据)执行，以便把块中的空间域信息转换成频率域信息，由此允许块中的系数集中到较低的频率，因此有可能增加偏置。因而，编码效率提高。
[0159]但是，还可以考虑:根据块中的设计，这种偏置不太有可能发生的情况。例如，与自然图像相比，灰度或强边很容易在诸如⑶图像或字幕的人工图像中出现。为此，高频成分很容易出现，并且即使执行正交变换处理偏置也不可能出现。因此，通过允许在这种块中跳过正交变换处理，有可能进一步提高编码效率。
[0160]另外，在以下的描述，正交变换处理的跳过被称为正交变换跳过(变换跳过)，并且对其应用正交变换跳过的块也被称为正交变换跳过块。此外，对其不应用正交变换跳过(执行正交变换)的块也被称为非正交变换跳过块。
[0161]这种技术，首先，指示正交变换跳过(变换跳过)是否可以在序列中应用的标记被发送到序列参数集(--)。
[0162]标记发送到序列参数集(393),如图5 所说明的，这个标记是指示是否许可/禁用正交变换跳过(?拙的跳过许可信息。
[0163]这个跳过许可信息是例如用户等设置的。当这个值为1时，正交变换跳过可以应用到4X4的亮度正交变换块、或者4X4的色度正交变换块。
[0164]然后,对每个块确定正交变换跳过的开/关，并且发送其开/关的标记。
[0165][编码效率]
[0166]不管正交变换的这种跳过控制，统一执行熵编码过程、量化处理、回路过滤处理等。即，就像非正交变换跳过块一样，熵编码过程、量化处理、回路过滤处理等也对正交变换跳过块执行。
[0167]但是，量化矩阵是关于频率域的加权系数。即，量化矩阵设计成应用到正交变换系数块。从而，当这种量化矩阵应用到具有空间域值(差异图像数据)的块时，编码效率会降低。即，图像质量会退化。
[0168]此外，如上所述，正交变换跳过应用到其中高频成分易于出现的图像。因此，存在图像在正交变换跳过块上的内容与非正交变换跳过块上的内容有很大区别的高可能性。即，块失真在正交变换跳过块与非正交变换跳过块之间的边界很容易发生。
[0169]因此，就像其它边界一样，当去块过滤处理对正交变换跳过块与非正交变换跳过块之间的边界执行时，编码效率会降低。即，图像质量会退化。
[0170]〔根据正交变换跳过的控制〕
[0171]因而，根据当前块是否是正交变换跳过(了以仙作謂级如)块，编码过程被控制。更具体而言，编码过程的量化处理(逆量化处理)和去块处理被控制。
[0172][量化处理的控制]
[0173]例如，在量化处理的情况下，量化处理是利用量化矩阵、对其中正交变换执行的非正交变换跳过块执行的，以及量化处理是利用一个加权系数代替量化矩阵、对其中正交变换被跳过的正交变换跳过块执行的。即，作为当前块的正交变换跳过块的所有系数都是利用这一个加权系数量化的。
[0174]其条件在图8说明。例如，如图8所说明的，量化就像现有技术中那样利用量化矩阵对非正交变换跳过块(正交变换系数矩阵)执行。
[0175]另一方面，4X4正交变换跳过块(正交变换前的差值的矩阵)利用加权系数矩阵量化，该加权系数矩阵是通过一个加权系数的量化获得的。当然，真正的计算方法是任意的，但基本执行与使用加权系数矩阵等效的计算。
[0176]加权系数是任意的。例如，加权系数可以包括标量值。例如，量化矩阵的％分量可以是加权系数。量化矩阵是关于频率域的加权系数，但％分量既是关于频率域的值也是关于空间域的值。如果只存在具有这些特性的量化矩阵的％分量，即使量化被应用到正交变换跳过块的每个系数也不可能导致编码效率的降低，其中所述系数是关于空间域的值。
[0177]这种情况下，如图8所说明的，IX:分量从量化矩阵提取，并且加权系数矩阵通过以4X4重新布置提取的IX:分量而生成，由此利用该加权系数矩阵量化4X4正交变换跳过块(正交变换前的差值的矩阵)。
[0178]另外，例如，与量化矩阵不同，加权系数可以任意生成。生成加权系数的方法是任意的。即使这种情况下，如图8所说明的，加权系数矩阵也是通过以4X4重新布置加权系数而生成的，由此利用该加权系数矩阵量化4X4正交变换跳过块(正交变换前的差值的矩阵以这种方式，例如，与另外的部分相比，只有对其应用正交变换跳过块的一部分(例如，06图像)易于独立于量化矩阵而利用加权系数来控制，以提高图像质量等。
[0179]另外，这种情况下，加权系数可以以相同方式计算，使得编码侧的值与解码侧的值相同，并且可以从编码侧发送到解码侧。
[0180]在发送加权系数的情况下，当跳过许可信息的值是许可正交变换跳过的值(例如，1)时，应用到正交变换跳过块的标量量化值(加权系数)被传送。为此，参考图4至7描述的序列参数集和图片参数集如下改变。
[0181]作为第一个变化，跳过许可信息比量化矩阵(8081111^1181:)更早发送。
[0182]作为第二个变化,跳过许可信息还发送到？？3，使得就解析而言独立于？？3。
[0183]即，8？8如图9和10所说明的那样配置，？？8如图11和12所说明的那样配置。
[0184]另外，利用例如应用到位于当前块外围的外围块的量化的量化矩阵的IX:分量，力口权系数可以通过平均值等的计算生成。这种计算方法是任意的，并且可以不是平均值。
[0185]即使这种情况下，如图8所说明的，加权系数矩阵也是通过以4X4重新布置加权系数生成的，由此利用加权系数矩阵来量化4X4正交变换跳过块(正交变换前的差值的矩阵)。以这种方式，加权系数是利用外围块的量化矩阵计算的，并且因此还有可能容易地在解码侧以与编码侧相同方式计算加权系数。即，加权系数的发送可以略去，编码效率可以提高那个比率。
[0186][去块过滤器的控制]
[0187]接下来将描述去块过滤器的控制。为了让正交变换跳过提高包括⑶图像或字幕的区域的编码效率，考虑块失真有可能发生在正交变换跳过块与非正交变换跳过块之间的边界。
[0188]因而，执行正交变换跳过块与非正交变换跳过块是否跨块边界彼此接触的检测，并且按以下方式对正交变换跳过块与非正交变换跳过块之间的边界执行去块过滤器的强度调整，以便使去块过滤容易执行。
[0189]例如，当去块过滤处理应用到正交变换跳过块与非正交变换跳过块之间的边界时，充当块边界强度的边界强度(匕)的值设置成“+1”。通过以这种方式增加匕值，进行控制，以便应用更强的过滤。即，更强的去块过滤可以应用到正交变换跳过块与非正交变换跳过块之间的边界。另外，代替把匕值设置成+1，138值可以固定到例如2等大值。
[0190]此外，例如，过滤器强度调整是根据诸如匕值、0和的参数来执行的，但是强过滤器可以应用到正交变换跳过块与非正交变换跳过块之间的边界，而不考虑这种过滤器强度的控制结果。因而，有可能对正交变换跳过块与非正交变换跳过块之间的边界更直接地应用强去块过滤器。
[0191]另外，例如，与@和化相比，正交变换跳过块与非正交变换跳过块之间的边界可以设置为较小的偏移量。因而，有可能对正交变换跳过块与非正交变换跳过块之间的边界容易地应用去块过滤器。
[0192]通过如上所述应用去块过滤器的强度调整，有可能对正交变换跳过块与非正交变换跳过块之间的边界容易地应用去块过滤器、并且提高要输出的图像压缩信息的效率。
[0193]另外，如上所述地考虑应用去块过滤器的多种方法，可以结合多种方法使用。当然，除以上所述的那些方法之外的方法也可以包括在此类方法中。
[0194][正交变换跳过等的配置实例]
[0195]图13是说明正交变换跳过单元121等的主要配置实例的框图。
[0196]如图13所说明的，正交变换跳过单元121配置为包括跳过编码单元131和跳过确定单元132。
[0197]当前块是4X4块时，跳过编码单元131从正交变换单元104获取当前块的正交变换系数和正交变换前的差值。不应用正交变换跳过的情况下，跳过编码单元131利用所提供的正交变换系数执行编码过程，生成其成本函数值。此外，在应用正交变换跳过的情况下，跳过编码单元131利用所提供的正交变换前的差值执行编码过程，生成其成本函数值。跳过编码单元131把成本函数值提供给跳过确定单元132。
[0198]另外，当前块比4X4块大时，跳过编码单元131略去这种处理。这种情况下，跳过确定单元132向正交变换单元104提供发布执行正交变换的指令的控制信号。正交变换单元104基于该控制执行当前块的正交变换。
[0199]跳过确定单元132从无损编码单元106获取指示是否许可正交变换处理的跳过的跳过许可信息这种跳过许可信息6^16(1^1^)是事先由例如用户等设置的、并且存储在无损编码单元106。跳过确定单元132向正交变换单元104提供指示是否许可对应于跳过许可信息6118)316(1^188)的正交变换跳过的控制信号。
[0200]例如，当跳过许可信息指示正交变换跳过(例如，值为1)被许可时，跳过确定单元132向正交变换单元104提供许可正交变换跳过的控制信号。此外，当跳过许可信息指示正交变换跳过(例如，值为0)被禁用时，跳过确定单元132向正交变换单元104提供禁止正交变换跳过的控制信号。
[0201]此外，跳过确定单元132基于跳过编码单元131提供的成本函数值确定最优模式。即，它确定是否对当前块应用正交变换跳过。跳过确定单元132向正交变换单元104、量化单元105、去块过滤器111、逆量化单元108及逆正交变换单元109提供所确定的结果(指示确定的最优模式的信息)作为控制信号。
[0202]此外，跳过确定单元132生成用于识别所确定的结果(正交变换跳过是否应用到当前块)的跳过标识信息并且向无损编码单元106提供和发送该跳过标识信息。
[0203]关于从计算单元103获取的正交变换前的差值，正交变换单元104生成在所有模式下都没有被从跳过编码单元131提供的控制信号禁用的当前块的正交变换系数和正交变换前的差值。正交变换单元104把生成的当前块的正交变换系数和正交变换前的差值提供给跳过编码单元131。另外，当正交变换跳过被控制信号禁用时，正交变换单元104仅把当前块的正交变换系数提供给跳过编码单元131。
[0204]如上所述，当在正交变换跳过单元121中确定了模式时，正交变换单元104获取从跳过确定单元132提供的控制信号并且根据该控制执行指定模式的处理。即，正交变换单元104执行或跳过正交变换处理。执行的情况下，正交变换单元向量化单元105提供正交变换系数，而跳过的情况下，向量化单元105提供正交变换前的差值。
[0205]以这种方式，正交变换单元104可以必要时适当地执行正交变换，以抑制编码效率的降低，因此有可能抑制由于编码/解码造成的图像质量退化。
[0206]另外，正交变换单元104保持所有模式下要提供给跳过编码单元131的当前块的正交变换系数和正交变换前的差值，并且根据这些系数和值，可以根据跳过确定单元132提供的控制信号，选择在一个模式下提供给量化单元105的正交变换系数和正交变换前的差值。因而，有可能略去该处理并减小负载。
[0207]如图13所说明的，量化单元105配置为包括量化矩阵设置单元141、加权系数生成单元142和量化处理单元143。
[0208]量化矩阵设置单元141向加权系数生成单元142提供量化矩阵，该量化矩阵是由用户等设置的。
[0209]加权系数生成单元142获取从跳过确定单元132提供的控制信号。加权系数生成单元142基于该控制信号的控制向量化处理单元143提供量化矩阵或加权系数。
[0210]例如，当不应用正交变换跳过时，加权系数生成单元142向量化处理单元143提供量化矩阵，该量化矩阵在控制信号指定的模式下从量化矩阵设置单元141提供。
[0211]此外，例如，当应用正交变换跳过时，加权系数生成单元142生成加权系数并且把生成的加权系数提供给量化处理单元143。如上所述，生成加权系数的方法是任意的。例如，除了量化矩阵设置单元141提供的量化矩阵之外，从量化矩阵设置单元141提供的量化矩阵提取的％分量可以设置为加权系数，还可以设置另一个加权系数，并且加权系数可以从外围块的量化矩阵的IX:分量计算。
[0212]量化处理单元143利用从加权系数生成单元142提供的量化矩阵或加权系数以及从速率控制单元117提供的量化参数等，量化从正交变换单元104提供的正交变换系数或正交变换前的差值。
[0213]即，当正交变换系数从正交变换单元104提供时，量化处理单元143利用量化矩阵、量化参数等量化当前块的正交变换系数。此外，当正交变换前的差值从正交变换单元104提供时，量化处理单元143利用加权系数、量化参数等量化当前块的正交变换前的差值。
[0214]量化处理单元143把量化系数提供给无损编码单元106和逆量化单元108。此外，必要时，量化处理单元143把关于例如加权系数等的量化参数提供和发送到无损编码单元106。
[0215]因而，量化处理单元143可以适当地执行量化，以便抑制图像质量退化。从而，图像编码设备100可以抑制由于编码/解码造成的图像质量退化。换句话说，图像编码设备100可以提闻编码效率。
[0216]另外，量化处理单元143可以向逆量化单元108提供:量化矩阵或被应用到量化处理的加权系数，连同例如量化系数。
[0217]另外，类似于逆量化单元108和逆正交变换单元109的处理单元也在以下描述的图像解码设备中形成，因此其描述也适用于逆量化单元108和逆正交变换单元109，因此对逆量化单元108和逆正交变换单元109的具体描述将不给出。
[0218]如图13所说明的，去块过滤器111配置为包括边界确定单元151、强度调整单元152以及过滤单元153。
[0219]边界确定单元151获取从跳过确定单元132提供的关于当前块的控制信号。另夕卜，边界确定单元151获取识别正交变换跳过是否应用到当前块的外围块的跳过标识信息
。边界确定单元151基于这种信息确定当前块边界是否是正交变换跳过块与非正交变换跳过块之间的边界，并且把指示所确定的结果的控制信号提供给强度调整单元152。
[0220]强度调整单元152生成各种参数，诸如88值、0和化，并且基于这些值和从边界确定单元151提供的控制信号来确定去块过滤器的强度。即，当前块边界不是正交变换跳过块与非正交变换跳过块之间的边界时，强度调整单元152基于各种参数的值(诸如生成的88值、0、13和化)确定去块过滤器的强度。此外，当前块边界是正交变换跳过块与非正交变换跳过块之间的边界时，例如，强度调整单元152还以如上所述任何方式基于控制信号使过滤器强度变强。
[0221]以这种方式，强度调整单元152通知过滤单元153所设定的过滤器强度。
[0222]利用强度调整单元152提供的过滤器强度，过滤单元153对计算单元110提供的块边界的去块前过滤器像素值丨丨1丨61~ 1)1x61执行去块过滤处理。过滤单元153向帧存储器112提供去块后的过滤器像素值以存储在其中。这种信息在帧内或帧间预测处理时使用。
[0223]因而，去块过滤器111可以对正交变换跳过块与非正交变换跳过块之间的边界执行过滤器处理，使更强的去块过滤器被应用。从而，图像质量退化被进一步抑制。即，图像编码设备100可以抑制由于编码/解码造成的图像质量退化。换句话说，图像编码设备100可以提闻编码效率。
[0224]〔编码过程流程〕
[0225]接下来，描述如上所述由图像编码设备100执行的个别处理操作流程。首先，将参考图14的流程图描述编码过程流程实例。
[0226]在步骤3101，无损编码单元106基于用户的指令等生成指示是否许可正交变换处理的跳过的跳过许可信息。例如，跳过许可信息

发送至I』8？80
[0227]在步骤3102，八/0转换器101对输入的图像执行八/0转换。在步骤3103，屏幕重新布置缓冲区102存储通过八/0转换获得的图像并且把相应的图片从显示次序重新布置成编码次序。在步骤3104，帧内预测单元114在帧内预测模式下执行帧内预测处理。
[0228]在步骤3105，运动预测/补偿单元115执行帧间运动预测处理，其中运动预测或运动补偿是在帧间预测模式下执行的。
[0229]在步骤3106，预测图像选择单元116基于从帧内预测单元114和运动预测/补偿单元115输出的每个成本函数值确定最优模式。即，预测图像选择单元116选择由帧内预测单元114生成的预测图像和运动预测/补偿单元115生成的预测图像之一
[0230]在步骤3107，计算单元103计算通过步骤3103的处理获得的重新布置的图像与通过步骤3106的处理选择的预测图像之间的差异。与原始图像数据相比，差异数据的数据量减少了。从而，与图像被直接编码的情况相比，数据量可以压缩。
[0231]在步骤3108，正交变换跳过单元121执行正交变换跳过控制处理。
[0232]在步骤3109，根据步骤3108的处理结果，正交变换单元104对由步骤3107处理生成的差异信息执行正交变换处理。
[0233]在步骤3110，根据步骤3108的处理结果，利用从速率控制单元117提供的量化参数，量化单元105量化通过步骤3109处理获得的正交变换系数或正交变换前的差值。
[0234]通过步骤3110的处理被量化的差异信息是如下本地解码的。即，在步骤3111，根据步骤3108的处理结果，逆量化单元108对通过步骤3111的处理生成的量化系数(也称为量化系数)执行逆量化，其中量化系数具有对应于量化单元105的那些特性。在步骤3112，根据步骤3108的处理结果，逆正交变换单元109对通过步骤3111的处理获得的正交变换系数或正交变换前的差值执行逆正交变换。
[0235]由于步骤3111和步骤3112中的每个处理操作的描述对应于要在解码过程执行的类似处理操作，因此其具体描述将不给出。
[0236]在步骤3113，计算单元110把预测图像添加到本地解码的差异信息，以生成本地解码图像(对应于输入到计算单元103的图像的图像)。
[0237]在步骤3114，根据步骤3108的处理结果，去块过滤器111适当地对通过步骤3113的处理获得的本地解码图像执行去块过滤处理。
[0238]在步骤3115，帧存储器112存储接受通过步骤3114进行的去块过滤处理的解码图像。另外，不接受由去块过滤器111过滤的图像也从计算单元110提供并存储在帧存储器112 中。
[0239]在步骤3116，无损编码单元106通过步骤3110编码量化系数。即，针对对应于差异图像的数据执行诸如可变长度编码或计算编码的无损编码。
[0240]此外，这个时候，无损编码单元106编码关于通过步骤3106选择的预测图像的预测模式的信息，并且把编码信息添加到通过编码差异图像获得的编码数据。即，无损编码单元106还编码诸如从帧内预测单元114提供的最优帧内预测模式信息或者根据从运动预测/补偿单元115提供的最优帧间预测模式信息的信息，并且把编码信息添加到编码数据。
[0241]另外，无损编码单元106还适当地编码关于正交变换或量化的信息并且把编码信息添加到编码数据。
[0242]在步骤3117，累积缓冲区107累积通过步骤3116获得的编码数据。在累积缓冲区107中累积的编码数据被适当地读出并通过传输路径或记录介质发送到解码侧。
[0243]在步骤3118，速率控制单元117基于通过步骤3117在累积缓冲区107中累积的编码数据的编码量(生成的编码量)来控制量化单元105的量化操作速率，以便不造成上溢或下溢。此外，速率控制单元117把关于量化参数的信息提供给量化单元105。
[0244]当步骤3118的处理结束时，编码过程完成。
[0245]〔正交变换跳过控制处理流程〕
[0246]接下来，将参考图15的流程图描述在图14的步骤3108执行的正交变换跳过控制处理流程实例。
[0247]当正交变换跳过控制处理开始时，跳过确定单元132在步骤3131基于跳过许可信息确定是否许可执行正交变换跳过的模式。
[0248]当确定许可模式时，处理前进到步骤3132。在步骤3132，跳过确定单元132允许模式被包括在候选模式中。当步骤3132的处理结束时,处理前进到步骤3134。
[0249]另外，当在步骤3132中确定不许可模式时，处理前进到步骤3133。在步骤3133，跳过确定单元132从候选模式中除去模式。当步骤3133的处理结束时，处理前进到步骤3134。
[0250]在步骤3134，跳过编码单元131选择未处理的候选模式。在步骤3135，跳过编码单元131确定选定模式是否是正交变换跳过模式。
[0251]当确定是正交变换跳过模式时，处理前进到步骤3136。在步骤3136，跳过编码单元131生成加权系数。当步骤3136的处理结束时，处理前进到步骤3139。
[0252]当在步骤3135确定选定模式不是正交变换跳过模式时，处理前进到步骤3137。在步骤3137，跳过编码单元131对当前块执行正交变换。
[0253]在步骤3138，跳过编码单元131获取量化矩阵。
[0254]在步骤3139，跳过编码单元131利用正交变换单元104获得的正交变换系数或者正交变换前的差值来执行编码操作，并且生成关于当前模式的成本函数值。
[0255]在步骤3140，跳过编码单元131确定是否所有候选模式都已经被处理。当存在未处理的候选模式时，处理返回步骤3134并且重复执行后续的处理操作。即，步骤3134至步骤3140中的每个处理都重复地执行，直到关于所有模式都生成成本函数值。
[0256]当步骤3140中确定所有候选模式都被处理时，处理前进到步骤3141。在步骤3141，跳过确定单元132基于成本函数值确定最优模式。
[0257]在步骤3142，跳过确定单元132基于最优模式生成跳过标识信息
[0258]当步骤3142的处理结束时，正交变换跳过控制处理完成，并且处理返回到图14所说明的处理操作。
[0259]〔正交变换处理流程〕
[0260]接下来，将参考图16的流程图描述要在图14的步骤3108执行的正交变换处理流程实例。
[0261]当正交变换处理开始时，正交变换单元104在步骤3151中确定由跳过确定单元132选择的最优模式是否是正交变换跳过模式。当确定是正交变换跳过
模式时，处理前进到步骤3152。
[0262]在步骤3152，正交变换单元104跳过正交变换处理并且输出当前块的正交变换前的差值。当步骤3152的处理结束时，处理返回图14所说明的过程。
[0263]另外，在图16的步骤3151，当确定不是正交变换跳过模式时，处理前进到步骤3153。
[0264]在步骤3153，正交变换单元104对当前块的正交变换前的差值执行正交变换。在步骤3154，正交变换单元104输出所获得的正交变换系数。当步骤3154的处理结束时，处理返回图14所说明的过程。
[0265]〔量化处理流程〕
[0266]接下来，将参考图17的流程图描述要在图14的步骤3110执行的量化处理流程实例。
[0267]当量化处理开始时，加权系数生成单元142在步骤3161中确定由跳过确定单元132选择的最优模式是否是正交变换跳过模式。当确定是正交变换跳过
模式时，处理前进到步骤3162。
[0268]在步骤3162，加权系数生成单元142生成加权系数。当步骤3162的处理结束时，处理前进到步骤3164。
[0269]另外，当在步骤3161中确定不是正交变换跳过模式时，处理前进到步骤3163。
[0270]在步骤3163，加权系数生成单元142获取量化矩阵。当步骤3163的处理结束时，处理前进到步骤3164。
[0271]在步骤3164，量化处理单元143利用在步骤3162中生成的加权系数和在步骤8163中获取的量化矩阵，执行当前块的正交变换系数或者正交变换前的系数差值的量化。在步骤3165，量化处理单元143把量化矩阵和所应用的加权系数提供并发送到无损编码单元106。当步骤3165的处理结束时，量化处理完成，并且处理返回图14所说明的过程。
[0272]〔去块过滤处理流程〕
[0273]接下来，将参考图18的流程图描述要在图14的步骤3114执行的去块过滤处理流程实例。
[0274]当去块过滤处理开始时，强度调整单元152在步骤3171中获取模式信息、运动矢量、参考帧信息等。
[0275]在步骤3172，强度调整单元152检测IV、等的块边界。在步骤3173，强度调整单元152基于这种信息确定88值。在步骤3174，通过把两个块的量化参数定义为职」3和职—0，强度调整单元152计算块边界中的量化参数(边界职)，如以下等式(3)那样。
[0276]0？ =?..(3)
[0277]在步骤3175，强度调整单元152利用如上所述计算的边界确定偏移量值和^0偏移量值。在步骤3176，强度调整单元152通过处理计算出的偏移量值而确定过滤器(强、弱和关闭
[0278]在步骤3177，边界确定单元151从跳过确定单元132获取当前块的控制信号并且从无损编码单元106获取外围块的跳过标识信息。
[0279]在步骤3178，边界确定单元151确定当前块边界是否是正交变换跳过块与非正交变换跳过块之间的边界。
[0280]当确定当前块边界是正交变换跳过块与非正交变换跳过块之间的边界时，处理前进到步骤3179。在步骤3179，强度调整单元152调整去块过滤器的强度。当步骤3179的处理结束时，处理前进到步骤3180。
[0281]另外，当步骤5178中确定当前块边界不是正交变换跳过块与非正交变换跳过块之间的边界时，处理前进到步骤3180。
[0282]在步骤3180，过滤单元153执行去块过滤处理。当步骤3180的处理结束时，去块过滤处理完成，并且处理返回图14所说明的过程。
[0283]通过执行如上所述的每个处理操作，图像编码设备100可以抑制编码效率的下降，并且抑制由于编码/解码造成的图像质量退化。
[0284]〈2丨第二实施例?
[0285]〔图像解码设备〕
[0286]接下来，将描述如上所述编码的编码数据(编码流)的解码。图19是说明对应于图1图像编码设备100的图像解码设备的主要配置实例的框图。
[0287]图19说明的图像解码设备200利用对应于其编码系统的解码方法解码由图像编码设备100生成的编码数据。
[0288]如图19所说明的，图像解码设备200包括累积缓冲区201、无损解码单元202、逆量化单元203、逆正交变换单元204、计算单元205、去块过滤器206、屏幕重新布置缓冲区207，以及0/八转换器208。此外，图像解码设备200还包括帧存储器209、选择单元210、帧内预测单元211、运动预测丨补偿单元212以及选择单元213。
[0289]此外，图像解码设备200还包括逆正交变换跳过单元221。
[0290]累积缓冲区201还是接收发送到其的编码数据的接收单元。累积缓冲区201接收并累积发送到其中的编码数据，并且在预定时间把编码数据提供给无损解码单元202。解码必需的信息片段，诸如预测模式信息，被添加到编码数据。无损解码单元202利用对应于无损编码单元106的编码系统的方法，解码从累积缓冲区201提供并由图1的无损编码单元106编码的信息。无损解码单元202把通过解码获得的差异图像的量化系数数据提供给逆量化单元203。
[0291]此外，无损解码单元202确定是选择了帧内预测模式还是选择了帧间预测模式作为最优预测模式，并且把关于最优预测模式的信息提供给帧内预测单元211和运动预测/补偿单元212之一，其中最优预测模式是被确定要选择的模式。换句话说，例如，在图像编码设备100中选择帧内预测模式作为最优预测模式的情况下，关于最优预测模式的信息提供给帧内预测单元211。此外，例如，在图像编码设备100中选择帧间预测模式作为最优预测模式的情况下，关于最优预测模式的信息提供给运动预测/补偿单元212。
[0292]另外，无损解码单元202向逆量化单元203提供诸如像量化矩阵或量化参数的信息，这些信息是逆量化所需的。另外，无损解码单元202向逆正交变换跳过单元221提供诸如像跳过许可信息或跳过标识信息
的信息，这些信息是逆正交变换所需的。
[0293]利用对应于图1量化单元105的量化方法的方法，逆量化单元203基于逆正交变换跳过单元221的控制，对通过无损解码单元202的解码获得的量化系数数据执行逆量化。另外，逆量化单元203是类似于图1图像编码设备100的逆量化单元108的处理单元。即，逆量化单元203的描述也可以适用于逆量化单元108的描述。但是，有必要通过依赖于设备适当地改变其来读取数据的输入/输出目的地。
[0294]逆量化单元203向逆正交变换单元204提供所获得的系数数据。
[0295]基于逆正交变换跳过单元221的控制，必要时，利用对应于图1中正交变换单元104的正交变换方法的方法，逆正交变换单元204执行对要从逆量化单元203提供的系数数据(正交变换系数或者正交变换前的差值)的逆正交变换。另外，逆正交变换单元204是类似于图1图像编码设备100的逆正交变换单元109的处理单元。即，逆正交变换单元204的描述也可以适用于逆正交变换单元109的描述。但是，有必要通过依赖于设备适当地改变其来读取数据的输入/输出目的地。
[0296]通过图像编码设备100的逆正交变换处理，逆正交变换单元204获得对应于正交变换之前的残余数据的解码残余数据。通过逆正交变换获得的解码残余数据被提供给计算单元205。另外，预测图像通过选择单元213从帧内预测单元211或运动预测/补偿单元212提供给计算单元205。
[0297]计算单元205把解码残余数据和预测图像相加，并且获得对应于预测图像被图像编码设备100的计算单元103减去之前的图像数据的解码图像数据。计算单元205把解码图像数据提供给去块过滤器206。
[0298]去块过滤器206对所提供的解码图像适当地执行去块过滤处理并且把它提供给屏幕重新布置缓冲区207。通过对解码图像执行去块过滤处理，去块过滤器206除去解码图像的块失真。另外，去块过滤器206是类似于图1图像编码设备100的去块过滤器111的处理单元。
[0299]去块过滤器206向屏幕重新布置缓冲区207和帧存储器209提供过滤处理结果(过滤处理之后的解码图像)。此外，从计算单元205输出的解码图像可以不经过去块过滤器206就提供给屏幕重新布置缓冲区207或帧存储器209。换句话说，去块过滤器206执行的过滤处理可以被略去。
[0300]屏幕重新布置缓冲区207重新布置图像。换句话说，对于图1中屏幕重新布置缓冲区102的编码次序重新布置的帧次序以原始显示次序被重新布置。0/八转换器2080/八转换从屏幕重新布置缓冲区207提供的图像并且把该图像输出到图中未示出的显示器，以在其上显示该图像。
[0301]帧存储器209存储所提供的解码图像并且在预定时间或者基于来自外部(诸如帧内预测单元211或者运动预测/补偿单元212)的请求把所存储的解码图像作为参考图像提供给选择单元210。
[0302]选择单元210选择从帧存储器209提供的参考图像的供应目的地。在解码帧内编码的图像的情况下，选择单元210把从帧存储器209提供的参考图像提供给帧内预测单元211。此外，在解码帧间编码的图像的情况下，选择单元210把从帧存储器209提供的参考图像提供给运动预测/补偿单元212。
[0303]向帧内预测单元211提供的是适当地来自无损解码单元202的、指示帧内预测模式的信息等，这种信息是通过解码首部信息获得的。以图1帧内预测单元114中所使用的帧内预测模式，帧内预测单元211利用从帧存储器209获取的参考图像执行帧内预测，并且生成预测图像。帧内预测单元211把生成的预测图像提供给选择单元213。
[0304]运动预测丨补偿单元212从无损解码单元202获取通过解码首部信息获得的信息(最优预测模式信息、参考图像信息，等等)。
[0305]以从无损解码单元202获取的最优预测模式指示的帧间预测模式，运动预测/补偿单元212利用从帧存储器209获取的参考图像执行帧间预测，并且生成预测图像。
[0306]选择单元213把来自帧内预测单元211的预测图像或者来自运动预测/补偿单元212的预测图像提供给计算单元205。此外，在计算单元205，利用运动矢量生成的预测图像和来自逆正交变换单元204的解码残余数据(差异图像信息)相加，并且原始图像被解码。换句话说，运动预测/补偿单元212、无损解码单元202、逆量化单元203、逆正交变换单元204和计算单元205也是利用运动矢量解码编码数据并且生成原始图像的解码单元。
[0307]逆正交变换跳过单元221通过无损解码单元202获取从编码侧提供的信息，并且基于该信息控制逆正交变换单元204中逆正交变换处理的执行。此外，逆正交变换跳过单元221还控制由逆量化单元203进行的逆量化处理和由去块过滤器206进行的去块过滤处理。
[0308]因而，图像解码设备200可以适当地解码编码数据。从而，图像解码设备200可以实现编码效率下降的抑制，并且可以实现由于编码/解码造成的图像质量退化的抑制。
[0309]〔逆正交变换跳过单元等的配置实例〕
[0310]图20是说明逆正交变换跳过单元221等的主要配置实例的框图。
[0311]如图20所说明的，逆正交变换跳过单元221配置为包括缓冲区231和控制信号生成单元232。
[0312]缓冲区231获取并在无损解码单元202中保持从编码数据(位流)提取出的跳过许可信息或跳过标识信息(11-8118^01118^11)^18?)。1^51118缓冲区231在预定时间或者基于需求向控制信号生成单元232提供所保持的跳过许可信息或跳过标识信；窗、(11-8118^01118^11)^18?)。
[0313]控制信号生成单元232依赖于从1以11叫缓冲区231提供的跳过许可信息或跳过标识信息生成控制信号，并且把该控制信号提供给逆量化单元203、逆正交变换单元204和去块过滤器206。
[0314]例如，当正交变换跳过被跳过许可信息禁用时，控制信号生成单元232如下方式提供控制信号。即，控制信号生成单元232提供指示逆量化单元203利用量化矩阵执行逆量化的控制信号。此外，控制信号生成单元232提供指示逆正交变换单元204执行逆正交变换的控制信号。另外，控制信号生成单元232提供通知去块过滤器206当前块不是正交变换跳过块的控制信号。
[0315]此外，例如，当正交变换跳过被跳过许可信息许可、并且通过跳过标识信息叫)识别出在当前块编码时没有应用正交变换跳过时，控制信号生成单元232以如下方式提供控制信号。即，控制信号生成单元232提供指示逆量化单元203利用量化矩阵执行逆量化的控制信号。此外，控制信号生成单元232提供指示逆正交变换单元204执行逆正交变换的控制信号。另外，控制信号生成单元232提供通知去块过滤器206当前块不是正交变换跳过块的控制信号。即，控制信号生成单元232可以把跳过标识信息叫)作为控制信号提供给去块过滤器206。
[0316]此外，例如，当正交变换跳过被跳过许可信息许可、并且通过跳过标识信息识别出在当前块编码时应用正交变换跳过时，控制信号生成单元232以如下方式提供控制信号。即，控制信号生成单元232提供指示逆量化单元203利用加权系数执行逆量化的控制信号。此外，控制信号生成单元232提供指示逆正交变换单元204不执行逆正交变换的控制信号。另外，控制信号生成单元232提供通知去块过滤器206当前块是正交变换跳过块的控制信号。即，控制信号生成单元232可以把跳过标识信息作为控制信号提供给去块过滤器206。
[0317]如图20所说明的，逆量化单元203配置为包括量化矩阵缓冲区241、加权系数生成单元242、量化参数缓冲区243，以及逆量化单元244。
[0318]量化矩阵缓冲区241获取并保持由无损解码单元202从编码数据的等提取的量化矩阵。量化矩阵从编码侧发送并且在编码时使用。量化矩阵缓冲区241在预定时间或者按需把所保持的量化矩阵提供给加权系数生成单元242。另外，当编码时应用的加权系数从编码侧发送时，量化矩阵缓冲区241获取加权系数并且把它提供给加权系数生成单元242，就像在量化矩阵中一样。
[0319]加权系数生成单元242获取从控制信号生成单元232提供的控制信号。加权系数生成单元242基于控制信号的控制掌握正交变换跳过是否在编码时应用到当前块，基于所掌握的信息把量化矩阵或加权系数提供给逆量化单元244。
[0320]例如，当正交变换跳过在编码时没有应用到当前块时，加权系数生成单元242向逆量化单元244提供由控制信号指定的模式的量化矩阵，这个量化矩阵是从量化矩阵缓冲区241提供的。
[0321]此外，例如，当正交变换跳过在编码时应用到当前块时，加权系数生成单元242生成加权系数并且把生成的加权系数提供给逆量化单元244。
[0322]另外，生成加权系数的方法是任意的，只要该方法与编码侧的方法相同就可以。即，例如，在图像编码设备100，当加权系数生成单元142提取从量化矩阵设置单元141提供的量化矩阵的IX:分量并且把提取出的IX:分量设置成加权系数时，加权系数生成单元242也类似地提取从量化矩阵缓冲区241提供的量化矩阵的IX:分量并且也把提取出的IX:分量设置成加权系数。
[0323]另外，在图像编码设备100，当加权系数生成单元142设置与从量化矩阵设置单元141提供的量化矩阵分离的加权系数时，加权系数生成单元242也以相同方式设置与从量化矩阵缓冲区241提供的量化矩阵分离的加权系数。同时，当编码时应用的加权系数从编码侧提供时，应用该加权系数。
[0324]另外，在图像编码设备100，当加权系数生成单元142从外围块的量化矩阵的％分量计算加权系数时，加权系数生成单元242也以相同方式从外围块的量化矩阵的IX:分量计算加权系数。
[0325]量化参数缓冲区243获取并保持由无损解码单元202从编码数据的等提取出的量化参数。量化参数从编码侧提供并且在编码时使用。量化参数缓冲区243在预定时间或者按需把所保持的量化参数提供给逆量化单元244。
[0326]逆量化单元244获取由无损解码单元202从编码数据提取的量化系数。逆量化单元244还从量化参数缓冲区243获取量化参数并且从加权系数生成单元242获取量化矩阵或加权系数。逆量化单元244利用它们逆量化量化系数。这种逆量化的方法对应于图像编码设备100的量化处理单元143进行量化的方法。
[0327]即，例如，当正交变换跳过在编码时没有应用到当前块时，逆量化单元利用量化矩阵和量化参数来逆量化量化系数，并且把所获得的正交变换系数提供给逆正交变换单元204。
[0328]此外，例如，当正交变换跳过在编码时应用到当前块时，逆量化单元利用加权系数和量化参数来逆量化量化系数，并且把所获得的正交变换前的差值提供给逆正交变换单元204。
[0329]因而，逆量化单元203可以利用对应于编码时的量化方法适当地执行逆量化。即，逆量化单元203可以通过图像编码设备100的量化单元105适当地逆量化量化系数。从而，逆量化单元203可以适当地执行逆量化，以便抑制图像质量退化。因此，图像解码设备200可以实现由于编码/解码造成的图像质量退化的抑制。换句话说，图像解码设备200可以提高编码效率。
[0330]基于从控制信号生成单元232提供的控制信号，逆正交变换单元204对从逆量化单元244提供的逆量化系数适当地执行逆正交变换。
[0331]例如，当前块是在编码时没有对其应用正交变换跳过的块时，逆正交变换单元204基于控制信号掌握从逆量化单元244提供的逆量化系数是正交变换系数。即，以对应于图像编码设备100中正交变换单元104的正交变换的方法，逆正交变换单元204对正交变换系数执行逆正交变换。因而，充当频率域的值的逆量化系数被转换成充当空间域的值的正交变换前的差值(解码残余数据逆正交变换单元204把解码残余数据提供给计算单元205。
[0332]此外，例如，当前块是在编码时对其应用正交变换跳过的块时，逆正交变换单元204基于控制信号掌握从逆量化单元244提供的逆量化系数是正交变换前的差值。逆正交变换单元204把充当空间域的值的正交变换前的差值提供给计算单元205，作为解码残余数据。
[0333]因而，以对应于编码时的正交变换方法，逆正交变换单元204可以适当地执行逆正交变换。即，例如，逆正交变换单元204可以对图像编码设备100的正交变换单元104生成的系数执行适当的处理。从而，逆正交变换单元204可以适当地执行逆正交变换，以便抑制图像质量退化。因此，图像解码设备200可以实现由于编码/解码造成的图像质量退化的抑制。换句话说，图像解码设备200可以提高编码效率。
[0334]如图20所说明的，去块过滤器206配置为包括边界确定单元251、强度调整单元252，以及过滤单元253。
[0335]边界确定单元251是类似于图像编码设备100的边界确定单元151的处理单元。指示正交变换跳过是否在编码时应用到当前块的控制信号(例如，跳过标识信息
)提供给边界确定单元251。边界确定单元251保持这种信息，确定当前块边界是否是正交变换跳过块与非正交变换跳过块之间的边界，并且把指示所确定结果的控制信号提供给强度调整单元252。
[0336]强度调整单元252是类似于图像编码设备100的强度调整单元152的处理单元。强度调整单元252生成各种参数，诸如88值、0、13和化，并且基于这种值和从边界确定单元251提供的控制信号确定去块过滤器的强度。即，当前块边界不是正交变换跳过块与非正交变换跳过块之间的边界时，强度调整单元252基于诸如生成的88值、0、13和化的各种参数确定去块过滤器的强度。此外，当前块边界是正交变换跳过块与非正交变换跳过块之间的边界时，强度调整单元252附加地基于控制信号，例如以类似于以上方式的任何方式，强化过滤器的强度。与强度调整单元152相同的方法可以用于过滤器强度的确定和调整。即，在编码时所应用的过滤器强度被再现。
[0337]强度调整单元252通知过滤单元253以这种方式设置的过滤器强度。
[0338]过滤单元253是类似于图像编码单元100的过滤单元153的处理单元。利用从强度调整单元252提供的过滤器强度，过滤单元253对从计算单元205提供的块边界的解码残余数据(去块前的过滤器像素值)执行去块过滤处理。过滤单元253向屏幕重新布置缓冲区207或帧存储器209提供去块后的过滤器像素值，这个值是执行去块过滤处理获得的。
[0339]因而，去块过滤器206可以对正交变换跳过块与非正交变换跳过块之间的边界执行过滤处理，应用更强的去块过滤。从而，图像质量退化被进一步抑制。即，图像解码设备200可以实现由于编码/解码造成的图像质量退化的抑制。换句话说，图像解码设备200可以实现编码效率的提闻。
[0340]〔解码过程流程〕
[0341]接下来，将描述由以上所述图像解码设备200执行的每个处理操作流程。首先，将参考图21所说明的流程图描述解码过程的流程实例。
[0342]当解码操作开始时，累积缓冲区201在步骤3201中累积所发送的编码数据。在步骤3202，无损解码单元202解码从累积缓冲区201提供的位流(编码的差异图像信息)。即，图1所说明的无损编码单元106编码的I图片、？图片和8图片被解码。
[0343]此时，包括在位流中的除差异图像信息之外的各种类型的信息，诸如首部信息，也被解码。在步骤3203，逆正交变换跳过单元221的缓冲区231获取在无损解码单元202中提取出的跳过标识信息逆正交变换跳过单元221的控制信号生成单元232基于跳过标识信息叫)生成控制信号并且把该控制信号提供给加权系数生成单元242、逆正交变换单元204和边界确定单元251。
[0344]在步骤3204，逆量化单元203逆量化通过步骤3202的处理操作获得的量化系数。在步骤3205，必要时，逆正交变换单元204对在步骤3204中获得的逆量化系数执行逆正交变换。
[0345]在步骤3206，帧内预测单元211或运动预测/补偿单元212执行预测处理操作并且生成预测图像。即，预测处理操作是在无损解码单元202确定、并在编码时应用的预测模式下执行的。更具体而言，例如，当帧内预测在编码时被应用时，帧内预测单元211在帧内预测模式下生成预测图像，其中帧内预测模式在编码时被认为是最优模式。此外，例如，当帧间预测在编码时被应用时，运动预测/补偿单元212在帧间预测模式下生成预测图像，其中帧间预测模式在编码时被认为是最优模式。
[0346]在步骤3207，计算单元205把在步骤3206生成的预测图像添加到通过步骤3205中的逆正交变换获得的差异图像信息。以这种方式，原始图像被解码。
[0347]在步骤3208，去块过滤器206对在步骤3205获得的解码图像适当地执行去块过滤处理操作。另外，去块过滤处理操作是以与编码时的去块过滤处理操作相同方式执行的。即，操作是与参考图18所说明流程图描述操作的情况下相同方式执行的，因此去块过滤处理的具体描述不给出。换句话说，以上参考图18所说明流程图的描述可以用作去块过滤处理的描述。
[0348]在步骤3209，屏幕重新布置缓冲区207重新布置在步骤3208中接受过滤处理的图像。即，图像编码设备100的屏幕重新布置缓冲区102以原始显示次序重新布置帧次序，以进行编码。
[0349]在步骤3210，0/八转换器208对其中帧次序在步骤3209中重新布置的图像执行0/八转换。图像输出到显示器(未说明)并且图像被显示。
[0350]在步骤3211，帧存储器209存储在步骤3209中接受过滤处理的图像。
[0351]当步骤3211的处理操作结束时，解码过程完成。
[0352]〔逆量化处理流程〕
[0353]接下来，将参考图22所说明的流程图描述在图21的步骤3204执行的逆量化处理流程实例。
[0354]当逆量化处理开始时，加权系数生成单元242在步骤3231中确定当前块是否是正交变换跳过模式。
[0355]当确定当前块是正交变换跳过模式时，处理前进到步骤3232。在步骤3232，加权系数生成单元242生成加权系数。当步骤3232的处理结束时，处理前进到步骤3234。
[0356]另外，当在步骤3231中确定当前块不是正交变换跳过模式时，处理前进到步骤3233。在步骤3233，加权系数生成单元242通过了以]!8:^0:011? 1奸1叫缓冲区231获取量化矩阵。当步骤3233的处理结束时，处理前进到步骤3234。
[0357]在步骤3234，逆量化单元244利用在步骤3232中生成的加权系数或者在步骤8233中生成的量化矩阵执行逆量化。
[0358]当步骤3234的处理结束时，逆量化处理完成，并且处理返回图21所说明的处理操作。
[0359]〔逆正交变换处理流程〕
[0360]接下来，将参考图23所说明的流程图描述在图21的步骤3205执行的逆正交变换处理流程实例。
[0361]当逆正交变换处理开始时，逆正交变换单元204在步骤3251中确定当前块是否是正交变换跳过模式。
[0362]当确定当前块是正交变换跳过(了以仙作謂级如)模式时，逆正交变换处理结束，并且处理返回图21所说明的处理操作。
[0363]另外，当在步骤3251中确定当前块不是正交变换跳过模式时，处理前进到步骤5252。在步骤3252，逆正交变换单元204对逆量化系数执行逆正交变换。
[0364]当步骤3252的处理结束时，逆正交变换处理完成，处理返回图21所说明的处理操作。
[0365]通过执行如上所述的每个处理操作，图像解码设备200可以正确地解码编码数据，由此实现编码效率下降的抑制和由于编码/解码造成的图像质量退化的抑制。
[0366]另外，上文描述了跳过许可信息被发送到但是发送跳过许可信息的方法不限于此。
[0367]例如，当在一个序列中存在正交变换跳过无效的诸如像自然图像的图片、和诸如包括包含对其应用正交变换跳过的块的字幕的图像的图片时，如果正交变换跳过在序列单元中许可，则跳过标识信息必须发送到该序列中所有图片的所有块，因此是低效的。如果正交变换跳过被禁用，则不需要发送跳过标识信息。为此，特别地，随着包含对其应用正交变换跳过的块的图片比例变小，存在不必要地降低编码效率的问题。
[0368]因而，正交变换跳过不限于在序列单元中许可，优选地在比序列单元更小的单元中许可。为此，跳过许可信息可以发送到位流的任何位置，诸如像除之外的？？3或片首部。当然，跳过许可信息可以与位流分开发送。
[0369]另外，上文描述了跳过许可信息由用户等设置，但是跳过许可信息的设置方法(许可/禁用正交变换跳过的控制方法)是任意的。例如，跳过许可信息可以根据要编码的图像内容来设置。
[0370]例如，当正交变换跳过在初始状态下被禁用并且在电子节目指南伍⑶)等中检测到节目类型时，如果检测到的类型是动画，则优选地设置跳过许可信息611^16(1^1^)，以便许可正交变换跳过。因而，正交变换跳过的许可/禁用的控制可以基于移动图像之外的信息来执行。
[0371]此外，例如，01(商业广播)的检测在许可正交变换跳过的状态下(例如，节目是动画的情况下)执行，正交变换跳过可以在⑶广播期间被禁用，并且正交变换跳过可以在节目广播期间被许可。因而，正交变换跳过的许可/禁用的控制可以基于分析移动图图像的内容所获得的分析结果来执行。
[0372]当然，接受这种控制处理的内容(移动图像)不限于广播内容。例如，它可以是记录在诸如像硬盘或(注册商标)盘的记录介质中的内容、以及通过诸如互联网的电通信线路从外部下载(或者流化再现的)内容。
[0373]?3^第三实施例?
[0374]〔跳过许可信息的发送控制〕
[0375]但是，如上所述，正交变换跳过可以应用到4X4亮度正交变换块(亮度成分的I'⑴或者4X4色度正交变换块(色度成分的抑。
[0376]相反，例如，XII的最小尺寸由在册％等中被称为
8126^1111111182的语法指定。例如，在图4所说明的序列参数集(393),111的最小尺寸是由从底部起第六行中指不的指定的。
[0377]当指定的最小尺寸大于 4X4 时，4X4的正交变换块(1⑴不存在。即，这种情况下，不可能应用正交变换跳过。从而，不需要发送指示是否许可/禁用正交变换跳过的跳过许可信息(1:1-8118^01-111^8^11)^61181316(1^18?)。换句话说，当不管IV的最小尺寸大于4X4而发送跳过许可信息时，信息量不必要地增加，因此编码效率会不必要地降低。
[0378]这里，如上所述，当I口的最小尺寸大于4X4时，跳过许可信息的发送可以被略去。换句话说，跳过许可信息可以只在几的最小尺寸是4X4^或者更小)的情况下(只在存在具有尺寸4X4的几的情况下)发送。
[0379]〔序列参数集中的发送〕
[0380]跳过许可信息的发送方法是任意的。例如，跳过许可信息可以发送到序列参数集(--)。这种情况下的语法的一些例子在图24中说明。
[0381]如图24所说明的，指示正交变换块(111)的最小尺寸的1310(^1^8126^111111182 在图 24 中从顶部起第五行中设置。10^2^111111^1:1~8118？01~1113100^8126^1111111182是指示对应于的序列中正交变换块(111)的最小尺寸的语法。
[0382]相反，如在图24中从底部起第五行中所指示的，确认几的最小尺寸是否是 4^4(1:^(1082^111-1:1^118:^0:011310(31^8126^1111182 = = 0))，并且跳过许可信息(1:1-8118^01-111^8^11)^61181316(1^18?)只在！'II的最小尺寸是4X4的情况下设置，如在图24中从底部起第四行中所指示的。即，跳过许可信息只在几的最小尺寸是4X4的情况下发送；否则，它被控制成使其不发送。另外，这种情况下，跳过许可信息6118)316(1^18?)只在中发送。此外，当跳过许可信息被设置时，该值是基于诸如任何信息(如，用户指令)设置的。
[0383]此外，跳过许可信息的发送控制是由无损编码单元106执行的。从而，图像编码设备100可以仅必要时发送跳过许可信息，由此抑制编码效率的下降，并且抑制由于编码/解码造成的图像质量退化。
[0384][到图片参数集的发送]
[0385]此外，跳过许可信息可以发送到例如图片参数集⑴--)。这种情况下的？？3的语法的一些例子在图25中说明。
[0386]如图25所说明的，指示正交变换块(111)的最小尺寸的卯1310(^1^8126^111111182是在图25中从顶部起第三行中设置的。卯131001^8126^111111182是指示对应于？?3的图片中正交变换块(111)的最小尺寸的语法。即，即使当上述皿82 在中设置时，￠￠8^10^2^111111^1:1-8118^01-1113100^8126^1111111182也可以在？?3中设置。但是，这种情况下，跳过许可信息(1:1-8118^01-111^8^11)^61181316(1^18?)只在？？3 中发送。
[0387]相反，如在图25中从顶部起第四行中指示的，确认的最小尺寸是否是4X4 (1^ (￠￠8^10^2^111111^1:1-8118^01-1113100^8126^1111111182 = = 0)),并且跳过许可信息(1:1-8118^01-111^8^11)^61181316(1^18?)只在！'II的最小尺寸是4X4的情况下设置，如在图25中从顶部起第五行中指示的。即，即使这种情况下，跳过许可信息也只在几的最小尺寸是4X4的情况下发送；否则，它被控制成使其不发送。当跳过许可信息6^16(1^1^)被设置时，该值是基于诸如任何信息(像用户指令)设置的。
[0388]即使这种情况下，跳过许可信息的发送控制也是由无损编码单元106执行的。从而，图像编码设备100可以仅必要时发送跳过许可信息，由此抑制编码效率的下降，并且抑制由于编码/解码造成的图像质量退化。
[0389]另外，？？8中卯皿82 的语法的位置不限于图25的例子。卯皿82可以在跳过许可信息(1:1-8118^01-111^8^11)^61181316(1^18?)位置前面的位置设置。因而，它使得和？？3就解析而言是独立的，并且它们都可以独立地被解码。
[0390][发送到片首部]
[0391]另外，虽然没有说明，但是跳过许可信息可以发送到例如片首部。
[0392]在片首部，没有设置。在片中，设置该片所属的图片。即，引用的卯皿82。
[0393]在片首部，跳过许可信息是如下设置的。
[0394]1？ (￠￠8^10^2^111111^1:1-8118^01-1113100^8126^1111111182 = = 0)(
[0395]1:1-8118001-111^8^11)^61181316(1^18?
[0396]I
[0397]即，这种情况下，跳过许可信息以与？？3情况下相同方式设置。但是，这种情况下，跳过许可信息只在片首部中发送。
[0398]即使这种情况下，跳过许可信息也只在切的最小尺寸是4X4的情况下发送；否贝1]，它被控制成使其不发送。此外，当跳过许可信息被设置时，该值是基于诸如任何信息(像用户指令)设置的。另外，跳过许可信息的发送控制是由无损编码单元106执行的。
[0399]从而，图像编码设备100可以仅必要时发送跳过许可信息，由此抑制编码效率的降低，并且抑制由于编码/解码造成的图像质量退化。
[0400] 如上所述，跳过许可信息的发送控制可以在任意单元中执行。当然，它可以是除上述实例之外的单元。
[0401〕〔跳过许可信息生成处理流程〕
[0402]接下来，将参考图26中的流程图描述跳过许可信息生成处理流程实例，该处理如上所述控制跳过许可信息的发送。
[0403]如果在正交变换处理之前执行，这个处理操作可以在任何时间执行，但是，例如，它可以在图14中编码过程的步骤3101中执行。
[0404]当跳过许可信息生成处理开始时，无损编码单元106在步骤3301中设置1082—
[0405]在步骤3302，无损编码单元106确定正交变换块(几)的最小尺寸是否是4父4 (或更小)。
[0406]如果“0”被步骤3301 的处理设置成的值，并且确定正交变换块(几)的最小尺寸是4X4^或更小)，则处理前进到步骤3303。
[0407]在步骤3303，无损编码单元106设置跳过许可信息
。当步骤3303的处理结束时，跳过许可信息生成处理完成，并且处理操作返回例如图14中的编码过程。
[0408]另外，如果“1”或更大被图26的步骤3301的处理设置成
13100^8126.1111111182的值，并且确定正交变换块(1⑴的最小尺寸大于4 X 4，则步骤3303的处理(跳过许可信息的设置)被略去，跳过许可信息生成处理完成，并且处理操作返回例如图14中的编码过程。
[0409]如上所述，通过跳过许可信息生成处理，图像编码设备100可以抑制编码效率的下降，并且抑制由于编码/解码造成的图像质量退化。
[0410]另外，图26说明了当跳过许可信息发送到时跳过许可信息生成处理流程的描述，但是该处理即使在跳过许可信息发送到？？3或片首部的时候也可以应用。在跳过许可信息发送到？？3或片首部的情况下，由于处理操作的流程基本上与参考图26所描述的处理操作的流程相似(除了在步骤3301中设置的语法是？？3的卯13100^8126^1111111182之外)，因此对其的描述将不给出。
[0411]〔图像解码设备中跳过许可信息的接收〕
[0412]当跳过许可信息的发送在图像编码设备100中如上所述地被控制时，存在跳过许可信息被发送的情况和跳过许可信息不被发送的情况。因此，以类似方式，图像解码设备200可以根据正交变换块(几)的最小尺寸的设置控制是否接受(是否接收)跳过许可信息。因而，图像解码设备200可以抑制不必要等待时间(例如等待未发送的跳过许可信息的时间)的增加。
[0413]即，就像在图像编码设备一样，参考发送到的
8126^1111111182 和发送到？？3 的卯丨0^—8丨皿82，图像解码设备200基于值(依赖于几的最小尺寸是否是4X4〉控制是否接收跳过许可信息。例如，这种控制是由图像解码设备200的无损解码单元202执行的。
[0414]〔跳过许可信息接收处理流程〕
[0415]接下来，将参考图27的流程图描述跳过许可信息接收处理流程实例，该处理控制如上所述跳过许可信息的发送。这个处理操作可以在获取跳过标识信息之前(例如，在图21的步骤8203之前)执行。
[0416]当跳过许可信息接收处理开始时，无损解码单元202在步骤3321中接收1082—111111^1:1~8118？01~1113100^8126^11111111820在步骤3322，无损解码单元202基于接收到的值确定IV的最小尺寸是否是4 X 4 (或更小)。
[041 7]如果皿82 的值是“0”并且确定 111 的最小尺寸是4 X 4 (或更小)，则处理前进到步骤3323。在步骤3323，无损解码单元202执行跳过许可信息的接收。当步骤3323的处理结束时，跳过许可信息接收处理完成，并且处理操作返回例如图21中的解码过程。
[0418]另外，如果在图27 的步骤 3322 中皿82 的值是“ 1 ”或更大并且确定IV的最小尺寸大于4X4，则跳过许可信息接收处理完成，并且处理操作返回例如图21中的解码过程。
[0419]如上所述，通过跳过许可信息接收处理，图像解码设备200可以抑制编码效率的下降，并且抑制由于编码/解码造成的图像质量退化。
[0420]另外，图27说明了当跳过许可信息发送到时跳过许可信息接收处理的流的描述，并且该描述即使在跳过许可信息发送到？？3或片首部的时候也适用，因为处理操作的流程基本上与参考图27描述的处理操作的流程相似(除步骤3321中接收的语法是？?3的￠￠8^10^2^111111^1:1-8118^01-1113100^8126^1111111182 之外)，因而对其的描述将不给出。
[0421]以上描述是基于册编码系统进行的，但是本技术的范围不限于此，本技术可以应用到基于如非专利文档2中建议的利用正交变换跳过的编码系统的所有图像信息编码设备和解码设备。
[0422]〈4第四实施例〉
[0423]〔对多图像点编码/多视点图像解码的应用〕
[0424]以上所述的处理操作序列可以应用到多视点图像编码/多视点图像解码。图28说明了多视点图像编码系统的实例。
[0425]如图28所说明的，多视点图像包括来自多个视点的图像，并且来自多个视点当中预定视点的图像被指定为基本视图图像。来自基本视图图像之外的每个视点的图像被看作非基本视图图像。
[0426]在执行像图28这种多视点图像编码的情况下，量化参数的差异可以在单个的视图(相同的视图)中取得。
[0427](1)基本视图:
[0428](1-1)收？(基本视图)=0111-1-611^.00？(基本视图)-[⑶』？(基本视图)
[0429](1-2)收？(基本视图)=0111-1-6111:^011^0？(基本视图)6V180118^011^0？(基本视图)
[0430](1-3)收？(基本视图)=0111-1-611^.00？(基本视图)-81106.0？(基本视图)
[0431](2)非基本视图:
[0432](2-1)收？(非基本视图)=0111-1-611^.00？(非基本视图)-1X10？(非基本视图)
[0433](2-2)收？(非基本视图)=0111-1-0111:0？(非基本视图)~？^6^1801180？(非基本视图)
[0434](2-3)(1^ (非基本视图)=⑶(非基本视图)-31化6』？(非基本视图)
[0435]在执行多视点图像编码的情况下，量化参数的差异可以在单个的视图(不同的视图)中取得。
[0436](3)基本视图/非基本视图:
[0437](3-1)(1^(帧间视图)=311(^0？(基本视图(非基本视图)
[0438](3-2)收？(帧间视图)=[⑶(基本视图)~1^？(非基本视图)
[0439](4)非基本视图/非基本视图:
[0440](4-1)(1^(帧间视图)=311⑶(非基本视图1)-311⑶(非基本视图
[0441](4-2)收？(帧间视图)=[⑶(非基本视图1)(非基本视图1
[0442]这种情况下，以上所述的项⑴至⑷可以组合使用。例如，在非基本视图，可以考虑以片级为基础取得基本视图与非基本视图之间量化参数的差异的技术(组合使用3-1和2-3)和以1X1级为基础取得基本视图与非基本视图之间量化参数的差异的技术(组合使用3-2和2-1)。从而，即使在执行多视点编码的情况下，也有可能通过重复应用差异来提高编码效率。
[0443]类似于以上所述的技术，还有可能设置关于上述每个收？识别其值非0的收？是否存在的标记。
[0444][多视点图像编码设备]
[0445]图29是说明执行上述多视点图像编码的多视点图像编码设备的图。如图29所说明的，多视点图像编码设备600包括编码单元601、编码单元602以及多路复用器603。
[0446]编码单兀601编码基本视图图像并且生成基本视图图像编码流。编码单兀602编码非基本视图图像并且生成非基本视图图像编码流。多路复用器603多路复用在编码单元601中生成的基本视图图像编码流和在编码单元602中生成的非基本视图图像编码流，并且生成多视点图像编码流。
[0447]图像编码设备100 (图1)可以应用到多视点图像编码设备600的编码单元601和编码单元602。这种情况下，多视点图像编码设备600设置由编码单元601设置的量化参数与由编码单元602设置的量化参数之间的差值，并且发送该差值。
[0448]此外，正交变换跳过处理可以在编码单元601和编码单元602中各自对每个视图独立地执行。此外，量化处理、去块过滤处理等也可以在编码单元601和编码单元602中各自对每个视图独立地执行。这种情况下，诸如量化矩阵、各种标记和加权系数的信息包括在例如用于每个视图的编码流，因此信息从编码单元601和编码单元602提供给多路复用器603。所提供的信息在多路复用器603中多路复用，然后在被包括在多视点图像编码流中的状态下发送到解码侧。
[0449]另外，关于一些或全部正交变换跳过处理、量化处理和去块过滤处理，编码单元601和编码单元602某个的处理可以在另一个的处理中反映。另外，一些或全部信息，诸如包括跳过许可信息或跳过标识信息在内的关于正交变换处理的跳过的信息、关于量化的信息以及关于去块过滤器的信息，可以在编码单元601和编码单元602中共享。例如，对编码单元601中的基本视图图像执行正交变换跳过处理、量化处理和去块过滤处理获得的一些或全部处理后的结果(或者所获得的信息等)可以提供给编码单元602、并且在编码单元602执行非基本视图图像的这种处理操作中反映。当然，反过来，对编码单元602中的非基本视图图像执行正交变换跳过处理、量化处理和去块过滤处理获得的一些或全部处理后的结果(或者所获得的信息等)可以提供给编码单元601、并且在编码单元601执行的基本视图图像的这种处理操作中反映。
[0450][多视点图像解码设备]
[0451]图30是说明执行上述多视点图像解码的多视点图像解码设备的图。如图30所说明的，多视点图像解码设备610包括多路分解器611、解码单元612以及解码单元613。
[0452]多路分解器611解除多视点图像编码流的多路复用，其中基本视图图像编码流和非基本视图图像编码流被多路复用，并且提取基本视图图像编码流和非基本视图图像编码流。解码单元612解码由多路分解器611提取的基本视图图像编码流并且获得基本视图图像。解码单元613解码由多路分解器611提取的非基本视图图像编码流并且获得非基本视图图像。
[0453]图像解码设备200(图19)可以应用到多视点图像解码设备610的解码单元612和解码单元613。这种情况下，多视点图像解码设备610的解码单元612和解码单元613利用多视点图像编码设备的编码单元601设置的量化参数与编码单元602设置的量化参数之间的差值设置量化参数，并且执行逆量化。
[0454]此外，正交变换跳过处理可以在解码单元612和解码单元613中各自对每个视图独立地执行。此外，逆量化处理、去块过滤处理等也可以在解码单元612和解码单元613中各自对每个视图独立地执行。这种情况下，诸如包括在多视点图像编码流中并且从编码侧发送的量化矩阵、各种标记和加权系数的信息在多路分解器611中对每个视图分离，然后在被包括在用于每个视图的编码流中的状态下提供给解码单元612和解码单元613。
[0455]另外，关于一些或全部逆正交变换跳过处理、逆量化处理和去块过滤处理，解码单元612和解码单元613可以彼此反映。另外，一些或全部信息，诸如包括跳过许可信息或跳过标识信息在内的关于逆正交变换处理的跳过的信息、关于逆量化的信息以及关于逆去块过滤器的信息，可以在解码单元612和解码单元613中共享。例如，通过对解码单元612中的基本视图图像编码流执行逆正交变换跳过处理、逆量化处理和去块过滤处理获得的一些或全部处理后的结果(或者所获得的信息等)可以提供给解码单元613、并且在解码单元613执行的非基本视图图像的这种处理操作中反映(例如，重复处理略去当然，反过来，通过对解码单元613中的非基本视图图像执行逆正交变换跳过处理、逆量化处理和去块过滤处理获得的一些或全部处理过的结果(或者所获得的信息等)可以提供给解码单元612、并且在解码单元612执行的基本视图图像的这种处理操作中反映(例如，重复处理略去)。
[0456]?5^第五实施例?
[0457]〔对分级图像点编码丨分级图像解码的应用〕
[0458]以上所述处理操作的序列可以应用到分级图像编码/分级图像解码。图31说明了多视点图像编码系统的实例。
[0459]如图31所说明的，分级图像包括处于多个层(分辨率)中的图像，并且多个分辨率中预定层的图像被指定为基本层图像。除基本层图像之外的每层图像被视为非基本层图像。
[0460]在执行如图31所说明的分级图像编码(空间可伸缩性)的情况下，量化参数的差异可以在每一层(相同的层)中取得。
[0461](1)基本层:
[0462](1-1)收？(基本层)=0111-1-611^,00？(基本层)-1X^0？(基本层)
[0463](1-2)收？(基本层)=0111-1-6111:^011^0？(基本层)6V180118^011^0？(基本层)
[0464](1-3)收？(基本层)=0111-1-611^,00？(基本层)-511(36』？(基本层)
[0465](2)非基本层:
[0466](2-1)收？(非基本层)=0111-1-611^.00？(非基本层)-1X^0？(非基本层)
[0467](2-2)收？(非基本层)=0111-1-0111:0？(非基本层)~？^6^1801180？(非基本层)
[0468](2-3)收？(非基本层)=0111-1-6111:^011^0？(非基本层)~81106^0？(非基本层)
[0469]在分层编码的情况下，量化参数的差异可以在每一层(不同的层)中取得。
[0470](3)基本层/非基本层:
[0471](3-1)(1^(帧间层)=311⑶基本层)-311⑶(非基本层)
[0472](3-2)收？(帧间层)=[⑶(基本层)-1X^0？(非基本层)
[0473](4)非基本层/非基本层
[0474](4-1)(1^ (帧间层)=311⑶(非基本层1)-311⑶(非基本层
[0475](4-2)收？(帧间层)=[⑶(非基本层1)-[⑶』？(非基本层
[0476]这种情况下，以上所述的项⑴至⑷可以组合使用。例如，在非基本层，可以考虑以片级为基础取得基本层与非基本层之间量化参数的差异的技术(组合使用3-1和2-3)和以[⑶级为基础取得基本层与非基本层之间量化参数的差异的技术(组合使用3-2和2-1)。从而，即使在执行分层编码的情况下也有可能通过重复应用差异来提高编码效率。
[0477]类似于以上所述技术，还有可能设置关于上述每个收？识别其值非0的收？是否存在的标记。
[0478][分级图像编码设备]
[0479]图32是说明执行上述分级图像编码的分级图像编码设备的图。如图32所说明的，分级图像编码设备620包括编码单元621、编码单元622和多路复用器623。
[0480]编码单元621编码基本层图像并且生成基本层图像编码流。编码单元622编码非基本层图像并且生成非基本层图像编码流。多路复用器623多路复用在编码单元621中生成的基本层图像编码流和在编码单元622中生成的非基本层图像编码流，并且生成分级图像编码流。
[0481]图像编码设备100(图1)可以应用到分级图像编码设备620的编码单兀621和编码单元622。这种情况下，分级图像编码设备620设置由编码单元621设置的量化参数与由编码单元622设置的量化参数之间的差值，并且发送该差值。
[0482]此外，正交变换跳过处理可以在编码单元621和编码单元622中各自对每一层独立地执行。此外，量化处理、去块过滤处理等也可以在编码单元621和编码单元622中各自对每一层独立地执行。这种情况下，诸如量化矩阵、各种标记和加权系数的信息包括在例如用于每一层的编码流，因此信息从编码单元621和编码单元622提供给多路复用器623。所提供的信息在多路复用器623中被多路复用，然后在包括在分级图像编码流中的状态下发送到解码侧。
[0483]另外，关于一些或全部正交变换跳过处理、量化处理和去块过滤处理，编码单元621和编码单元622某个的处理可以在另一个当中反映。另外，一些或全部信息，诸如包括跳过许可信息或跳过标识信息在内的关于正交变换处理的跳过的信息、关于量化的信息以及关于去块过滤器的信息，可以在编码单元621和编码单元622中共享。例如，对编码单元621中的基本层图像执行正交变换跳过处理、量化处理和去块过滤处理获得的一些或全部处理后的结果(或者所获得的信息等)可以提供给编码单元622、并且在编码单元622执行的非基本层图像的这种处理操作中反映(例如，重复处理略去当然，反过来，对编码单元622中的非基本层图像执行正交变换跳过处理、量化处理和去块过滤处理获得的一些或全部处理后的结果(或者所获得的信息等)可以提供给编码单元621、并且在编码单元621执行的基本层图像的这种处理操作中反映(例如，重复处理略去)。
[0484][分级图像解码设备]
[0485]图33是说明执行上述分级图像解码的分级图像解码设备的图。如图33所说明的，分级图像解码设备630包括多路分解器631、解码单元632以及解码单元633。
[0486]多路分解器631多路分解分级图像编码流，其中基本层图像编码流和非基本层图像编码流在其中被多路复用，并且提取基本层图像编码流和非基本层图像编码流。解码单元632解码多路分解器631提取的基本层图像编码流并且获得基本层图像。解码单元613解码多路分解器631提取的非基本层图像编码流并且获得非基本层图像。
[0487]图像解码设备200 (图19)可以应用到分级图像解码设备630的解码单元632和解码单元633。这种情况下，分级图像解码设备630的解码单元632和解码单元633利用由分级图像编码设备620的编码单元621设置的量化参数与编码单元622设置的量化参数之间的差值设置量化参数，并且执行逆量化。
[0488]此外，正交变换跳过处理可以在解码单元632和解码单元633中各自对每个视图独立地执行。此外，逆量化处理、去块过滤处理等也可以在解码单元632和解码单元633中独立地执行。这种情况下，诸如包括在分级图像编码流中并且从编码侧发送的量化矩阵、各种标记和加权系数的信息在多路分解器631中对每一层分离,然后在被包括在每一层的编码流中的状态下提供给解码单元632和解码单元633。
[0489]另外，关于一些或全部逆正交变换跳过处理、逆量化处理和去块过滤处理，解码单元632和解码单元633可以彼此反映。另外，一些或全部信息，诸如包括跳过许可信息或跳过标识信息之内的关于逆正交变换处理的跳过的信息、关于逆量化的信息以及关于逆去块过滤器的信息，可以在解码单元632和解码单元633中共享。例如，通过对解码单元632中的基本层图像编码流执行逆正交变换跳过处理、逆量化处理和去块过滤处理获得的一些或全部处理后的结果(或者所获得的信息等)可以提供给解码单元633、并且在解码单元633执行的对非基本层图像的这种处理操作中反映(例如，重复处理略去当然，反过来，通过对解码单元633中的非基本层图像执行逆正交变换跳过处理、逆量化处理和去块过滤处理获得的一些或全部处理后的结果(或者所获得的信息等)可以提供给解码单元632、并且在解码单元632执行的对基本层图像的这种处理操作中反映(例如，重复处理略去)。
[0490]此外，例如，通过诸如卫星广播、有线电视、互联网或移动电话的网络介质，本技术可以应用到接收图像信息(位流)的图像编码设备和图像解码设备，其中图像信息是通过像在1？%、札261等中那样诸如离散余弦变换的正交变换和运动补偿来压缩的。另外，本技术还可以应用到压缩图像信息在诸如光或磁盘和闪存存储器的存储介质上被处理时所使用的图像编码设备和图像解码设备。另外，本技术还可以应用到包括在图像编码设备、图像解码设备等中的量化设备或逆量化设备。
[0491]〈6^第六实施例〉
[0492]〔计算机〕
[0493]以上所述处理操作序列可以由硬件执行或者由软件执行。在处理操作序列由软件执行的情况下，构成软件的程序安装到计算机中。这里，计算机的实例包括结合到专用硬件中的计算机、通过安装各种程序而能够执行各种功能的通用个人计算机，等等。
[0494]图34是说明计算机的硬件配置实例的框图，在该计算机，上述处理操作序列由程序执行。
[0495]图34所说明的计算机800，中央处理单元(⑶⑴801、只读存储器￠01) 802和随机存取存储器(狀1)803通过总线804彼此连接。
[0496]输入/输出接口 810也连接到总线804。输入/输出接口 810连接到输入单元811、输出单元812、存储单元813、通信单元814和驱动器815。
[0497]输入单元811包括键盘、鼠标、麦克风、触摸面板、输入终端等。输出单元812包括例如显示器、扬声器、输出终端等。存储单元813包括例如硬盘、狀1盘、非易失性存储器等。通信单元814包括例如网络接口。驱动器815驱动诸如磁盘、光盘、磁光盘或半导体存储器的可移动介质821。
[0498]具有上述配置的计算机，0^ 801可以例如通过输入/输出接口 810和总线804把存储在存储单元813中的程序加载到麵803中并执行，由此执行上述处理操作序列。让0？^ 801执行各种处理操作所必要的数据等也适当地存储在狀1 803中。
[0499]计算机(或801)执行的程序可以通过记录在例如可移动介质821中来应用，其中可移动介质可以用作包装介质等。此外，程序可以通过诸如局域网、互联网或数字卫星广播的有线或无线传输介质提供。
[0500]计算机中，响应于可移动介质821到驱动器815的附连，程序可以通过输入/输出接口 810安装到存储单元813中。程序还可以由通信单元814通过有线或无线传输介质接收并且可以安装到存储单元813中。或者，程序可以提前安装到802或存储单元813中。
[0501]另外，计算机执行的程序可以按本文解释的时间次序或者以并行方式或者按需(诸如在它们被调用的时候)被处理。
[0502]另外，在本说明书，描述要记录在记录介质中的程序的步骤不仅包括按本文所公开的时间次序执行的处理操作，还包括以并行方式或者单独执行(如果没必要随时间执行的话)的处理操作。
[0503]此外，在本说明书，一种系统代表多个部件元件(设备、模块(部件)等)的集合，不是全部部件元件都需要布置在相同外壳中。因此，容纳在不同外壳中并且通过网络互连的多个设备是系统；并且其中多个模块容纳在单个外壳中的一个设备也是系统。
[0504]而且，以上所述例子中，描述为一个设备(或者一个处理单元)的任何配置都可以划分成多个设备(或处理单元反过来，描述为多个设备(或处理单元)的任何配置都可以组合，以形成一个设备(或者一个处理单元而且，除以上所述配置之外的任何配置都当然可以添加到每个设备(或者每个处理单元)的配置中。另外，一个设备(或者一个处理单元)的配置的一部分可以包括在另一个设备(或者另一个处理单元)的配置，只要作为整个系统的配置或操作基本上相同就可以。
[0505]本公开内容的优选实施例已经参考附图具体进行了描述，但是本公开内容的技术范围不限于以上例子。本领域技术人员应当理解，在权利要求中所述的技术主旨的范围内可以发生各种修改或变更、并且它们在本发明的技术范围内。
[0506]例如，本技术可以采用云计算的配置，其中一个功能以共享方式被多个设备通过网络合作处理。
[0507]另外，上述流程图中描述的每个步骤不仅可以被一个设备执行而且可以被多个设备以共享方式执行。
[0508]此外，如果一个步骤包括多个处理操作，包括在一个步骤中的多个处理操作不仅可以被一个设备执行、而且可以被多个设备以共享方式执行。
[0509]根据以上实施例的图像编码设备和图像解码设备可以适用于诸如卫星广播的发送器或接收器的各种电子设备，诸如有线电视的有线广播，通过互联网的分发以及通过蜂窝通信到终端的分发，在诸如光盘、磁盘和闪存存储器的介质中记录图像的记录设备，以及从这些存储介质再现图像的再现设备。以下将描述四个应用实例。
[0510](,1.第七实施例?
[0511][第一应用实例:电视接收器]
[0512]图35说明了上述实施例适用的电视装置的示意性配置实例。电视装置900包括天线901、调谐器902、多路分解器903、解码器904、视频信号处理单元905、显示单元906、音频信号处理单元907、扬声器908、外部接口 909、控制单元910、用户接口 911以及总线912。
[0513]调谐器902从通过天线901接收的广播信号提取期望的通道信号，并且多路分解提取出的信号。调谐器902把通过解调获得的编码位流输出到多路分解器903。即，调谐器902扮演电视装置900的发送单元的角色，它接收通过编码图像获得的编码流。
[0514]多路分解器903从编码的位流分离观看的目标节目的视频流和音频流，并且把每个分离出的流输出到解码器904。另外，多路分解器903从编码位流提取诸如电子节目指南(￡^6)的辅助数据，并且把提取出的数据提供给控制单元910。此外，在编码位流被扰频的时候，多路分解器903可以执行解扰。
[0515]解码器904解码从多路分解器903输入的视频流和音频流。另外，解码器904把通过解码过程生成的视频数据输出到视频信号处理单元905。此外，解码器904把通过解码过程生成的音频数据输出到音频信号处理单元907。
[0516]视频信号处理单元905再现从解码器904输入的视频数据，并且在显示单元906上显示视频图像。另外，视频信号处理单元905可以在显示单元906上显示通过网络提供的应用屏幕。此外，视频信号处理单元905可以根据设置对视频数据执行附加的处理操作，诸如像噪声去除。另外，视频信号处理单元905可以生成图形用户界面(⑶1)图像的图像，诸如像菜单、按钮、光标，并且把生成的图像叠加到输出图像上。
[0517]显示单元906被从视频信号处理单元905提供的驱动信号驱动，并且在显示设备(例如，液晶显示器、等离子体显示器或者有机电致发光显示器(020))(有机此显示器))的视频显示表面上显示视频图像或图像。
[0518]音频信号处理单元907对从解码器904输入的音频数据执行诸如0/八转换和放大的再现操作，并且从扬声器908输出音频。另外，音频信号处理单元907可以对音频数据执行诸如噪声去除的附加处理操作。
[0519]外部接口 909是配置为彼此连接电视装置900和外部设备或网络的接口。例如，通过外部接口 909接收的视频流或音频流可以被解码器904解码。即，外部接口 909还在电视装置900中扮演发送单元的角色，它接收编码的图像的编码流。
[0520]控制单元910具有诸如0^的处理器以及诸如狀1和的存储器。存储器存储要0^执行的程序、节目数据、2？6数据，以及通过网络获取的数据。在电视装置900被激活时，存储在存储器中的程序被0^读取并执行。通过执行程序，0？^根据例如从用户接口911输入的操作信号控制电视装置900的操作。
[0521]用户接口 911连接到控制单元910。用户接口 911具有例如用户用来操作电视装置900的按钮和开关，以及接收遥控信号的接收单元。用户接口 911检测用户通过这些部件的操作、生成操作信号并且把生成的操作信号输出到控制单元910。
[0522]总线912配置为把调谐器902、多路分解器903、解码器904、视频信号处理单元905、显示单元906、音频信号处理单元907、扬声器908、外部接口 909和控制单元910彼此连接。
[0523]具有这种配置的电视装置900中，解码器904具有根据以上实施例的图像解码设备的功能。因而，当电视装置900解码图像时，有可能实现编码效率下降的抑制，并实现编码/解码造成的图像质量退化的抑制。
[0524]〔第二应用实例:移动电话]
[0525]图36说明了以上实施例适用的蜂窝电话的示意性配置实例。移动电话920包括天线921、通信单元922、音频编解码器923、扬声器924、麦克风925、相机单元926、图像处理单元927、多路复用/分离单元928、记录/再现单元929、显示单元930、控制单元931、操作单元932以及总线933。
[0526]天线921连接到通信单元922。扬声器924和麦克风925连接到音频编解码器923。操作单元932连接到控制单元931。总线933配置为把通信单元922、音频编解码器923、相机单元926、图像处理单元927、多路复用/分离单元928、记录/再现单元929、显示单元930和控制单元931彼此连接。
[0527]移动电话920以各种模式(诸如音频通信模式、数据通信模式、拍摄模式和视频电话模式)执行各种操作，诸如音频信号的发送和接收、电子邮件和图像数据的发送和接收、图像捕捉以及数据记录。
[0528]在音频通信模式，在麦克风925生成的模拟音频信号被提供给音频编解码器923。音频编解码器923把模拟音频信号转换成音频数据，并且对转换后的音频数据执行八/0转换并压缩其。另外，音频编解码器923把压缩后的音频数据输出到通信单元922。通信单元922编码并调制音频数据并且生成发送信号。另外，通信单元922通过天线921把所生成的发送信号发送到基站(未说明此外，通信单元922放大通过天线921接收的无线电信号并且对其执行频率转换，并且获得接收的信号。还有，通信单元922解调并解码接收的信号、生成音频数据并且把生成的音频数据输出到音频编解码器923。音频编解码器923解压音频数据并且对音频数据执行0/八转换，并且生成模拟音频信号。另外，音频编解码器923把生成的音频信号提供给扬声器924并且输出音频。
[0529]此外，在数据通信模式，例如，控制单元931根据用户通过操作单元932的操作生成构成电子邮件的文字数据。另外，控制单元931在显示单元930上显示文字。而且，控制单元931根据通过操作单元932来自用户的发送指令生成电子邮件数据，并且把生成的电子邮件数据输出到通信单元922。通信单元922编码并调制电子邮件数据并且生成发送信号。另外，通信单元922把生成的发送信号通过天线921发送到基站(未说明此外，通信单元922放大通过天线921接收的无线电信号并且对其执行频率转换，并且获取接收的信号。还有，通信单元922解调并解码接收的信号、恢复电子邮件数据，并且把恢复的电子邮件数据输出到控制单元931。控制单元931在显示单元930上显示电子邮件的内容，并且把电子邮件数据提供给记录/再现单元929，以允许把数据写到存储介质中。
[0530]记录丨再现单元929具有任意的可读丨可写存储介质。例如，存储介质可以是内置的存储介质，诸如狀1或闪存存储器，还可以是外部附连的存储介质，诸如硬盘、磁盘、磁光盘、光盘和未分配空间位图⑴38)存储器或者存储卡。
[0531〕 另外，在拍摄模式中，例如，相机单元926捕捉物体的图像、生成图像数据，并且把生成的图像数据输出到图像处理单元927。图像处理单元927编码从相机单元926输入的图像数据，并且把编码流提供给记录/再现单元929，以允许流写到存储介质中。而且，在图像显示模式，记录/再现单元929读取存储在存储介质中的编码流并且把它输出到图像处理单元927。图像处理单元927解码从记录/再现单元929输入的编码流并且把图像数据提供给显示单元930，以便在其上显示图像。
[0532]另外，在视频电话模式，例如，多路复用/分离单元928多路复用图像处理单元927编码的视频流和从音频编解码器923输入的音频流，并且把多路复用的流输出到通信单元922。通信单元922编码和调制该流，并生成发送信号。另外，通信单元922通过天线921把生成的发送信号发送到基站(未说明此外，通信单元922放大通过天线921接收的无线电信号并且对其执行频率转换，并且获取接收信号。这些发送信号和接收的信号可以包括编码位流。另外，通信单元922解调并解码接收信号、恢复流并且把恢复的流输出到多路复用/分离单元928。多路复用/分离单元928从输入流分离视频流和音频流，把视频流输出到图像处理单元927并且把音频流输出到音频编解码器923。图像处理单元927解码视频流并生成视频数据。视频数据提供给显示单元930，显示单元930显示一系列图像。音频编解码器923解压音频流并对其执行0/八转换，并且生成模拟音频信号。另外，音频编解码器923把生成的音频信号提供给扬声器924并输出音频。
[0533]具有以上配置的移动电话920中，图像处理单元927具有根据以上实施例的图像编码设备和图像解码设备的功能。从而，当移动电话920编码和解码图像时，有可能抑制编码效率的下降，并且抑制编码/解码造成的图像质量退化。
[0534][第三应用实例:记录和再现设备]
[0535]图37说明了以上实施例适用的记录和再现设备的示意性配置实例。记录和再现设备940编码例如接收的广播节目的音频数据和视频数据并且在记录介质中记录数据。另夕卜，记录和再现设备940可以编码例如从另一设备获取的音频数据和视频数据并且在记录介质中记录数据。此外，记录和再现设备940根据例如用户的指令在监视器和扬声器上再现记录在记录介质中的数据。此时，记录和再现设备940解码音频数据和视频数据。
[0536]记录和再现设备940包括调谐器941、外部接口 942、编码器943、硬盘驱动器￠100) 944、盘驱动器945、选择器946、解码器947、屏幕上显示器(030) 948、控制单元949以及用户接口 950。
[0537]调谐器941从通过天线(未说明)接收的广播信号提取期望的通信信号，并且解调提取出的信号。另外，调谐器941把通过解调获得的编码位流输出到选择器946。即，调谐器941在记录和再现设备940中扮演发送单元的角色。
[0538]外部接口 942是彼此连接记录和再现设备940与外部设备或网络的接口。外部接口 942可以是12现1394接口、网络接口、…8接口、闪存存储器接口等。例如，通过外部接口 942接收的视频数据和音频数据输入到编码器943。即，外部接口 942在记录和再现设备940中扮演发送单元的角色。
[0539]当从外部接口 942输入的视频数据和音频数据未编码时，编码器943编码视频数据和音频数据。另外，编码器943把编码的位流输出到选择器946。
[0540]匪)944在内部硬盘中记录通过压缩内容数据，诸如视频和音频、各种节目以及其它数据，获得的编码的位流。另外，在视频和音频再现的时候，册0 944从硬盘读出这些类型的数据。
[0541]盘驱动器945在附连的记录介质中记录数据并从中读出数据。附连到盘驱动器945的记录介质可以是例如070盘(例如070-视频、070-狀1、070-1？、070-鼎、070+1？及070+鼎)或者注册商标)盘。
[0542]在视频和音频记录的时候，选择器946选择从调谐器941或编码器943输入的编码位流并且把选定的编码位流输出到册0 944或盘驱动器945。另外，在视频和音频再现的时候，选择器946把从944或盘驱动器945输入的编码位流输出到解码器947。
[0543]解码器947解码编码的位流并且生成视频数据和音频数据。另外，解码器947把生成的视频数据输出到030 948。此外，解码器904把生成的音频数据输出到外部扬声器。
[0544]080 948再现从解码器947输入的视频数据并且显示视频图像。另外，030 948可以在要显示的视频图像上叠加⑶I图像，诸如菜单、按钮或光标。
[0545]控制单元949具有诸如0^的处理器以及诸如狀1和的存储器。存储器存储要由0^执行的程序，以及节目数据。例如，在记录和再现设备940激活的时候，存储在存储器中的程序被0^读取并执行。通过执行程序，0^根据例如从用户接口 950输入的操作信号控制记录和再现设备940的操作。
[0546]用户接口 950连接到控制单元949。用户接口 950具有例如用来由用户操作记录和再现设备940的按钮和开关，以及接收遥控信号的接收单元。用户接口 950检测用户通过这些部件的操作、生成操作信号并且把生成的操作信号输出到控制单元949。
[0547]具有以上配置的记录和再现设备940中，编码器943具有根据以上实施例的图像编码设备的功能。另外，解码器947具有根据以上实施例的图像解码设备的功能。因而，当在记录和再现设备940中编码和解码图像时，有可能抑制编码效率的下降并抑制由于编码/解码造成的图像质量退化。
[0548]〔第四应用实例:成像设备〕
[0549]图38说明了以上实施例适用的成像设备的示意性配置实例。成像设备960捕捉物体的图像、生成图像、编码图像数据并且在记录介质中记录图像数据。
[0550]成像设备960包括光学块961、成像单元962、信号处理单元963、图像处理单元964、显示单元965、外部接口 966、存储器967、媒体驱动器968、080 969、控制单元970、用户接口 971以及总线972。
[0551]光学块961连接到成像单元962。成像单元962连接到信号处理单元963。显示单元965连接到图像处理单元964。用户接口 971连接到控制单元970。总线972配置为把图像处理单元964、外部接口 966、存储器967、媒体驱动器968、080 969和控制单元970彼此连接。
[0552]光学块961具有聚焦透镜、光圈等。光学块961在成像单元962的成像表面上形成物体的光学图像。成像单元962具有诸如电荷耦合设备￠0))或互补金属氧化物半导体
(0108)的图像传感器并且通过光电转换把在成像表面上形成的光学图像转换成作为电信号的图像信号。另外，成像单元962把图像信号输出到信号处理单元963。
[0553]信号处理单兀963对从成像单兀962输入的图像信号执行各种相机信号处理操作，诸如拐点校正、伽玛校正和颜色校正。信号处理单元963把其中执行了相机信号处理操作的图像数据输出到图像处理单元964。
[0554]图像处理单元964编码从信号处理单元963输入的图像数据并且生成编码数据。另外，图像处理单元964把生成的编码数据输出到外部接口 966或者媒体驱动器968。此外，图像处理单元964解码从外部接口 966或者媒体驱动器968输入的编码数据并且生成图像数据。还有，图像处理单元964把生成的图像数据输出到显示单元965。而且，图像处理单元964可以把从信号处理单元963输入的图像数据输出到显示单元965并且显示图像。另夕卜，图像处理单元964可以把从030 969获取的显示数据叠加到要输出到显示单元965的图像上。
[0555]080 969生成诸如菜单、按钮或光标的⑶I图像，并且把生成的图像输出到图像处理单元964。
[0556]外部接口 966配置为例如…8输入/输出终端。例如，打印图像时，外部接口 966把成像设备960和打印机彼此连接。另外，如果必要的话，外部接口 966与驱动器彼此连接。驱动器与诸如磁盘或光盘的可移动介质附连，并且从可移动介质读出的程序可以安装在成像设备960中。另外，外部接口 966可以配置为连接到诸如或互联网的网络的网络接口。即，外部接口 966在成像设备960中扮演发送单元的角色。
[0557]附连到媒体驱动器968的记录介质可以是可读/可写可移动介质，诸如磁盘、磁光盘、光盘或半导体存储器。另外，记录介质固定地附连到媒体驱动器968，并且例如，诸如内置硬盘驱动器或固态驱动器(330)的非便携式存储单元也可以配置。
[0558]控制单元970具有诸如0^的处理器以及诸如狀1和的存储器。存储器存储要由0^执行的程序，以及节目数据。例如，在成像设备960激活的时候，存储在存储器中的程序被0^读取并执行。通过执行程序，0^根据例如从用户接口 971输入的操作信号控制成像设备960的操作。
[0559]用户接口 971连接到控制单元970。用户接口 971具有例如用来由用户操作成像设备960的按钮和开关。用户接口 971检测用户通过这些部件的操作、生成操作信号并且把生成的操作信号输出到控制单元970。
[0560]具有以上配置的成像设备960中，图像处理单元964具有根据以上实施例的图像编码设备和图像解码设备的功能。从而，当在成像设备960中编码和解码图像时，有可能抑制编码效率的下降，并且抑制由于编码/解码造成的图像质量退化。
[0561]〈8丨第八实施例〉
[0562]〔可伸缩编码的应用实例:第一系统〕
[0563]接下来，将描述已接受可伸缩编码(或分级(图像)编码)的可伸缩编码数据的应用具体实例。可伸缩编码可以用于例如要发送的数据的选择，就像图39所说明的例子那样。
[0564]图39所说明的数据发送系统1000，分发服务器1002读出存储在可伸缩编码数据存储单元1001中的可伸缩的编码数据并且通过网络1003把可伸缩的编码数据分发到终端设备，诸如个人计算机1004、—设备1005、平板设备1006以及移动电话1007。
[0565]此时，分发服务器1002根据终端设备和通信环境的性能选择具有适当质量的编码数据，并且发送选定的编码数据。即使分发服务器1002发送具有比所需要的更高质量的数据，终端设备也不一定获得高质量图像，并且会造成延迟或上溢。此外，这种数据会占用比所需要的更多通信带宽，或者会增加比所需要的更多的终端设备负载。相反，如果分发服务器1002发送具有比所需要的更低质量的数据，终端设备不能在设备中获得具有足够质量的图像。因而，如果必要的话，分发服务器1002读出存储在可伸缩编码数据存储单元1001中的可伸缩编码数据，作为具有适于某些条件的质量的编码数据，发送读出的编码数据，其中所述条件诸如终端设备和通信环境的性能。
[0566]例如，可伸缩编码数据存储单元1001存储已接受可伸缩编码的可伸缩编码数据(81+201011可伸缩编码数据(81+20 1011是既包括基本层又包括增强层的编码数据，是为了获得基本层图像和增强层图像而被解码的数据。
[0567]分发服务器1002根据发送数据的终端设备以及通信环境的性能选择适当的层，并且读出该层的数据。例如，分发服务器1002从可伸缩编码数据存储单元1001读出可伸缩编码数据(81+20 1011，并且把读出的可伸缩编码数据按照原样发送到具有高处理能力的个人计算机1004或平板设备1006。相反，例如，分发服务器1002从扩展编码数据(81+201011提取基本层的数据，并且把提取出的基本层的数据发送到具有低处理能力的—设备1005或移动电话1007，作为与可伸缩编码数据(81+21)1011具有相同内容但是比可伸缩编码数据(81+20 1011具有更低质量的可伸缩编码数据(801012,
[0568]以这种方式，可伸缩编码数据的使用可以方便数据量的调整，由此抑制延迟或者上溢的发生，并且抑制终端设备或通信介质上不必要的负载增加。此外，由于可伸缩编码数据(81+20 1011在各层之间具有减小的冗余性，因此，与具有相应层的独立编码数据的情况相比，有可能减少数据量。因此，可伸缩编码数据存储单元1001的存储区域可以更高效地被利用。
[0569]另外，诸如个人计算机1004和移动电话1007的各种设备可以应用到终端设备，因此终端设备的硬件性能可以是依赖设备的。此外，各种应用还可以由终端设备执行，因此应用的软件能力可以变化。此外，充当通信介质的网络1003可以被用作任何通信线路网络，这可以是有线的、无线的或者二者兼有，诸如互联网或局域网(1灿0，并且具有各种数据传输能力。而且，这种性能和能力可以随其它通信等变化。
[0570]因此，在数据发送开始之前，分发服务器1002可以与数据要发送到其的终端设备通信，可以获得关于该终端设备的能力的信息，诸如终端设备的硬件性能或者由终端设备执行的应用(软件)的性能，以及关于通信环境的信息，诸如网络1003的可用带宽。然后，分发服务器1002可以基于所获得的信息选择适当的层。
[0571]层的提取可以由终端设备执行。例如。个人计算机1004可以解码所发送的可伸缩编码数据(81+20 1011并且显示基本层图像或增强层图像。或者，例如，个人计算机1004可以从所发送的可伸缩编码数据(81+20 1011提取可伸缩编码数据(80 1012、存储提取出的可伸缩编码数据或者把该数据发送到另一个设备，或者解码数据，以显示基本层图像。
[0572]当然，可伸缩编码数据存储单元1001的数目、分发服务器1002的数目、网络1003的数目以及终端设备的数目是任意的。此外，虽然以上描述了分发服务器1002把数据发送到终端设备的实例，但是应用实例不限于此。数据发送系统1000可以应用到任何系统，只要该系统根据诸如终端设备和通信环境的能力的某些条件选择并发送适当的层，其中向终端设备发送已被可伸缩编码的编码数据。
[0573]与以上参考图1至31所述效果相同的效果可以通过图39所说明的数据发送系统1000应用与对参考图1至31所描述的分层编码/分层解码应用的相同技术来获得。
[0574]〔可伸缩编码的应用实例:第二系统〕
[0575]可伸缩编码还可以用于通过多种通信介质发送，就像在例如图40所说明的例子中。
[0576]图40所说明的数据发送系统1100，广播站1101通过地面广播111发送基本层的可伸缩编码数据〈81)1121。此外，广播站1101通过任意网络1112发送增强层的可伸缩编码数据(￡1)1122,该任意网络由有线通信网络、无线通信网络或者有线和无线通信网络这二者配置(例如，数据被分组并发送)。
[0577]终端设备1102具有接收广播站1101广播的地面广播1111并且接收通过地面广播1111发送的基本层的可伸缩编码数据(80 1121的功能。终端设备1102还具有用于通过网络1112执行通信并且接收通过网络1112发送的增强层的可伸缩编码数据(￡1) 1122的通信功能。
[0578]例如，根据用户指令等，通过解码通过地面广播1111获取的基本层的可伸缩编码数据(80 1121，终端设备1102获取基本层的图像，存储所获取的可伸缩编码数据，或者把所获取的数据发送到另一设备。
[0579]此外，根据用户指令等，终端设备1102合成通过地面广播1111获取的基本层的可伸缩编码数据(81) 1121与通过网络1112获取的增强层的可伸缩编码数据(￡1) 1122，以便获取可伸缩编码数据(81+20，解码可伸缩编码数据，以获取或存储增强层的图像，或者把可伸缩编码数据发送到另一设备。
[0580]如上所述，可伸缩编码数据可以通过例如对每层不同的通信介质发送。因而，负载可以分布，延迟或上溢的发生可以被抑制。
[0581]此外，依赖于情况，用于发送的通信介质可以配置为对每一层是可选择的。例如，它可以配置为:使其数据量相对大的基本层的可伸缩编码数据(81) 1121通过具有宽带宽的通信介质发送，而其数据量相对小的增强层的可伸缩编码数据(￡01122通过具有窄带宽的通信介质发送。此外，例如，发送增强层的可伸缩编码数据(￡1)1122的通信介质可以配置为:根据网络1112的可用带宽，在网络1112和地面广播1111之间切换。这种相似性适用于任意层的数据。
[0582]通过这样进行控制，可以进一步抑制数据发送负载的增加。
[0583]这里，层的数目是任意的，并且用于发送的通信介质的数目也是任意的。此外，作为数据输送目的地的终端设备1102的数目也是任意的。此外，虽然在以上给出的描述中已经描述了广播从广播站1101执行的例子，但是使用的例子不限于此。数据发送系统1100可以应用到任意系统，只要该系统把被编码(以可伸缩编码的方式)的编码数据分成以层为单位的多个部分，并且通过多条线路发送划分的数据就可以。
[0584]于是，即使在图40所说明的数据发送系统1100，通过以与参考图1至31所描述的对分层编码/分层解码的应用相同方式来应用本技术，也有可能获得类似于以上参考图1至31所述效果的效果。
[0585][可伸缩编码的应用实例:第三系统]
[0586]可伸缩编码还可以用于存储编码数据，就像图41所说明的例子那样。
[0587]图41所说明的成像系统1200中，成像设备1201把主体1211成像所获取的图像数据进行可伸缩编码并且把得到的图像数据提供给可伸缩编码数据存储设备1202，作为可伸缩编码数据(81+20 12020
[0588]根据情况，可伸缩编码数据存储设备1202以不同质量存储从成像设备1201提供的可伸缩编码数据(81+20 1202,例如，在正常时间的情况下，可伸缩编码数据存储设备1202从可伸缩编码数据(81+20 1202提取基本层的数据并且把提取出的基本层的数据存储为具有低质量和小数据量的基本层的可伸缩编码数据(80 1222。相反，例如，在关注时间的情况下，可伸缩编码数据存储设备1202按照原样存储具有高质量和大数据量的可伸缩编码数据(81+201221
[0589]以这种方式，可伸缩编码数据存储设备1202可以仅必要时以高图像质量存储图像。从而，在图像质量退化造成的图像价值减小被抑制的同时，数据量的增加可以被抑制，由此存储区域的使用效率可以提高。
[0590]例如，成像设备1201可以是监控相机。当被监控的对象(例如，入侵者)在捕捉图像中不可见时(例如，在正常时间的情况下)，有可能捕捉到的图像的内容不重要。因而，数据量减小是优先的，图像的图像数据(可伸缩编码数据)以低质量存储。相反，当被监控的对象作为主体1211在捕捉到的图像中可见时(在关注时间的情况下)，有可能捕捉到的图像具有重要的内容。因而，图像质量是优先的，图像的图像数据(可伸缩编码数据)以高质量存储。
[0591]正常时间还是关注时间可以由例如可伸缩编码数据存储设备1202通过分析图像来确定。此外，成像设备1201可以确定正常时间或者关注时间，并且可以向可伸缩编码数据存储设备1202发送确定结果。
[0592]这里，正常时间还是关注时间的确定标准可以是任意的，被认为是确定标准的图像可以具有任何内容。当然，图像内容之外的其它条件可以用作确定标准。例如，确定的标准可以根据所记录的语音的尺寸、波形等来改变，可以对每个预定的时间改变，或者可以根据从外部提供的指令(诸如用户的指令)来改变。
[0593]此外，虽然已经给出了对两种状态(即，正常时间和关注时间)之间改变的例子的描述，但是状态数目是任意的，状态改变可以在三种或更多种状态之间进行，诸如正常时间、低关注时间、中等关注时间和高关注时间。但是，改变状态的上限数目依赖于可伸缩编码数据的层数。
[0594]另外，成像设备1201可以根据状态确定可伸缩编码的层数。例如，在正常时间，成像设备1201可以生成具有低质量和小数据量的基本层的可伸缩编码数据(80 1222，并且把生成的可伸缩编码数据(80 1222提供给可伸缩编码数据存储设备1202。另外，例如，在关注时间，成像设备1201可以生成具有高质量和大数据量的基本层的可伸缩编码数据(81+21) 1221，并且把生成的可伸缩编码数据(81+20 1221提供给可伸缩编码数据存储设备 1202。
[0595]以上描述中，虽然监控相机作为例子进行了描述，但是成像系统1200可以在任何应用中使用，应用不限于监控相机。
[0596]于是，即使在图41所说明的成像系统1200，通过以与参考图1至31描述的应用到分层编码/分层解码相同方式来应用本技术，也有可能获得类似于以上参考图1至31所述效果的效果。
[0597]另外，本技术是以分段单元、从事先准备的具有不同分辨率等的多种编码数据选择适当的数据来使用，但还适用于诸如像腿的肌1？流数据。即，关于编码和解码的信息可以在多种编码数据之间共享。
[0598]0.第九实施例?
[0599]〔其它例子〕
[0600]虽然在以上给出的描述中已经描述了本技术适用的设备、系统等的例子，但是本技术不限于此。因而，本技术可以作为安装到这种设备的所有配置来应用，所述配置把这种系统配置为，例如作为系统[31(大规模集成)等的处理器、使用多个处理器等的模块、使用多个模块等的单元，或者通过把其它功能添加到单元所获取的装置等(换句话说，设备配置的一部分
[0601][视频机]
[0602]本技术作为装置应用的一种例子将参考图42来描述。图42说明了本技术适用的视频机的示意性配置实例。
[0603]最近，电子设备的多种功能的实现在发展，在制造或开发中，在配置的一部分为了出售、供应等而提供的情况下，不仅具有一个功能的配置被应用，而且具有多个功能的装置被应用，这种装置是通过组合具有相关功能的多种配置获取的，这是常见的。
[0604]图42所说明的视频机1300具有这种多功能配置、并且是通过组合具有图像编码或图像解码(任意一个或二者兼有)功能的设备与具有该功能的其它功能的设备来获得的。
[0605]如图42所说明的，视频机1300包括模块组，模块组包括视频模块1311、外部存储器1312、电源管理模块1313、前端模块1314等，以及具有连接模块1321、相机1322、传感器1323等相关功能的设备。
[0606]模块被形成为具有功能的部件，通过把彼此相关的几个部件功能布置到一起而具有统一性。虽然具体物理配置是任意的，但是，例如也可以考虑通过在配线板等上布置各自都具有功能的多个处理器、诸如电阻器或电容器的电子电路以及其它设备等以便集成到一起所获得的模块。此外，还可以考虑通过组合模块与其它模块、处理器等构成新模块。
[0607]在图42所说明的例子，视频模块1311是通过组合具有图像处理功能的配置而获得的，包括:应用处理器；视频处理器；宽带调制解调器1333 ；及即模块1334。
[0608]处理器是通过在半导体芯片上集成具有预定功能的配置作为30“片上系统)获得的，并且例如还存在被称为系统[31(大规模集成)等的处理器。具有预定功能的配置可以是逻辑电路(硬件配置)，包括0^301、狀1等以及利用它们执行的程序(软件配置)的配置，或者组合上述两种配置的配置。例如，它可以配置为使得处理器包括逻辑电路、0^、尺01、狀1等，有些功能由逻辑电路(硬件配置)实现，其它功能由0^执行的程序(软件配置)实现。
[0609]图42所说明的应用处理器1331是执行关于图像处理应用的处理器。为了实现预定功能，应用处理器1331执行的应用可以不仅执行计算过程，而且必要时控制视频模块1311内部和外部(诸如视频处理器1332)的配置。
[0610]视频处理器1332是具有图像编码和图像解码(任何一个或二者兼有)功能的处理器。
[0611]宽带调制解调器1333通过数字调制等把通过诸如互联网或公共电话网络的公共线路执行的有线或无线(或者有线和无线)宽带通信发送的数据(数字信号)转换成模拟信号，或者把宽带通信接收的模拟信号解调，以转换成数据(数字信号例如，宽带调制解调器1333处理任意信息，诸如视频处理器1332处理的图像数据、其中图像数据被编码的流、应用程序以及设置数据。
[0612]即模块1334是对通过天线发送/接收的即(射频)信号执行频率转换、调制/解调、放大、过滤器过程等的模块。例如，即模块1334通过对由宽带调制解调器1333生成的基带信号执行频率转换等生成即信号。此外，例如，即模块1334通过对经前端模块1314接收的即信号执行频率转换等生成基带信号。
[0613]此外，如图42的虚线1341指示的，应用处理器1331和视频处理器1332可以集成，以便配置为一个处理器。
[0614]外部存储器1312是部署在视频模块1311外面并且包括由视频模块1311使用的存储设备的模块。外部存储器1312的存储设备可以由任何物理配置实现。但是，一般而言，由于存储设备被频繁地用于存储具有大容量的数据，如以帧为单位配置的图像数据，因此存储设备优选地由以相对低成本具有大容量的半导体存储器实现，诸如01^1(动态随机存取存储器)。
[0615]电源管理模块1313管理并控制电力向视频模块1311(视频模块1311中的每种配置)的供应。
[0616]前端模块1314是为即模块1334提供前端功能(天线侧的发送/接收端电路)的模块。如在图42所说明的，例如，前端模块1314包括天线单元1351、过滤器1352和放大单元1353。
[0617]天线单元1351包括发送/接收无线信号的天线及其外围配置。天线单元1351发送作为无线信号从放大单元1353提供的信号并且向过滤器1352提供作为电信号(即信号)接收到的无线信号。过滤器1352对通过天线单元1351接收的即信号执行过滤器过程等并且把该过程之后的即信号提供给即模块1334。放大单元1353放大从即模块1334提供的即信号并且把放大的即信号提供给天线单元1351。
[0618]连接模块1321是具有与到外部的连接相关功能的模块。连接模块1321的物理配置是任意的。例如，连接模块1321包括具有宽带调制解调器1333对应的通信规范之外的通信功能、外部输入丨输出端子等配置。
[0619]例如，连接模块1321可以配置为包括具有与无线电通信规范相符的通信功能的模块以及发送/接收与这些规范相符的信号的天线，其中无线电通信规范诸如8111的⑷访(注册商标)、臓802.11(例如，(无线保真度；注册商标))、即“近场通信)和红外线数据联盟此外，例如，连接模块1321可以配置为包括具有与有线通信规范相符的通信功能的模块以及与这些规范相符的端子，其中有线通信规范诸如
(通用串行总线)和(注册商标)(高清晰度多媒体接口)。此外，例如，连接模块1321可以配置为具有模拟输入/输出端子等的附加数据(信号)发送功能等。
[0620]此外，连接模块1321可以配置为包括是数据(信号)发送目的地的设备。例如，连接模块1321可以配置为包括对诸如磁盘、光盘、磁光盘或半导体存储器的记录介质执行数据读取或数据写入的驱动器(不仅包括可移动介质的驱动器，而且还包括硬盘、880(固态驱动器〉、嫩3(网络附连储存器)等此外，连接模块1321可以配置为包括图像或音频的输出设备(监视器、扬声器等)。
[0621]相机1322是具有给主体成像而获取主体的图像数据的功能的模块。例如，通过相机1322执行的成像过程获取的图像数据提供给视频处理器1332并且被编码。
[0622]传感器1323是具有任意传感器功能的模块，其中传感器诸如音频处理器、超声波传感器、光学传感器、亮度传感器、红外线传感器、图像传感器、旋转传感器、角度传感器、角速度传感器、速度传感器、加速度传感器、倾斜传感器、磁性识别传感器、碰撞传感器或者温度传感器。例如，被传感器1323检测的数据提供给应用处理器1331并且被应用等使用。
[0623]在以上给出的描述，描述为模块的每种配置都可以由处理器实现，描述为处理器的每种配置都可以由模块实现。
[0624]如随后将描述的，本技术可以应用到具有如上所述配置的视频机1300的视频处理器1332。从而，视频机1300可以配置为本技术适用的装置。
[0625]〔视频处理器的配置〕
[0626]图43说明了本技术适用的视频处理器1332(图42)的示意性配置实例。
[0627]在图43所说明的例子，视频处理器1332具有接收视频信号和音频信号的输入并且根据预定系统和功能编码接收信号的功能，以及解码编码的视频数据和编码的音频数据并且输出视频信号和音频信号的功能。
[0628]如图43所说明的，视频处理器1332包括:视频输入处理单元1401 ；第一图像放大/减小单元1402 ；第二图像放大/减小单元1403 ；视频输出处理单元1404 ；帧存储器1405 ；以及存储器控制单元1406。此外，视频处理器1332还包括:编码/解码引擎1407 ；视频￡3(基本流)缓冲区1408八和14088，以及音频￡3(基本流)缓冲区1409八和14098。此外，视频处理器1332还包括:音频编码器1410 ；音频解码器1411 ；多路复用器(1^()1412 ；多路分解器(01 口^)1413 ；以及流缓冲区1414。
[0629]例如，视频输入处理单元1401获取从连接模块1321 (图42)等输入的视频信号并且把获取的视频信号转换成数字图像数据。第一图像放大/减小单元1402对图像数据执行格式转换以及图像放大/减小过程。第二图像放大/减小单元1403通过视频输出处理单元1404根据输出目的地的格式对图像数据执行图像放大/减小过程、或者执行类似于第一图像放大/减小单元1402的格式转换和图像放大/减小过程等。视频输出处理单元1404对图像数据执行格式转换、到模拟信号的转换等等，并且把得到的信号作为再现视频信号输入到例如连接模块1321 (图42)等。
[0630]帧存储器1405是用于图像数据的存储器，该存储器被视频输入处理单元1401、第一图像放大丨减小单元1402、第二图像放大丨减小单元1403、视频输出处理单元1404和编码/解码引擎1407共享。帧存储器1405实现为诸如0狀1的半导体存储器。
[0631]存储器控制单元1406接收从编码/解码引擎1407提供的同步信号并且控制对帧存储器1405的访问，以便根据写入到访问管理表1406八中的对帧存储器1405的访问时间表进行写入/读取。访问管理表1406八由存储器控制单元1406根据由编码/解码引擎1407、第一图像放大/减小单元1402、第二图像放大/减小单元1403等执行的过程来更新。
[0632]编码/解码引擎1407执行图像数据的编码过程并且执行视频流的解码过程，其中视频流是通过编码图像数据获取的数据。例如，编码/解码引擎1407编码从帧存储器1405读取的图像数据并且顺序地把读出的图像数据作为视频流写入视频￡3缓冲区14081此夕卜，例如，编码/解码引擎1407顺序地从视频￡3缓冲区14088读取视频流、解码读出的视频流，并且顺序地把解码的视频流作为图像数据写入帧存储器1405。在这种编码或解码过程，编码/解码引擎1407使用帧存储器1405作为工作区域。此外，例如，在开始每个宏块的过程时，编码/解码引擎1407向存储器控制单元1406输出同步信号。
[0633]视频￡3缓冲区1408八缓冲由编码/解码引擎1407生成的视频流并把视频流提供给多路复用器1412。视频￡3缓冲区14088缓冲从多路分解器1413提供的视频流并且把视频流提供给编码/解码引擎1407。
[0634]音频￡3缓冲区1409八缓冲由音频编码器1410生成的音频流并且把音频流提供给多路复用器1412。音频￡3缓冲区14098缓冲从多路分解器1413提供的音频流并且把音频流提供给音频解码器1411。
[0635]音频编码器1410数字交换例如从连接模块1321 (图42)等输入的音频信号，并且例如根据诸如腿3)系统的预定系统编码该数字信号。音频编码器1410顺序地把通过编码音频信号获取的数据的音频流写入音频￡3缓冲区1409八。音频解码器1411解码从音频￡3缓冲区14098提供的音频流、执行解码音频流到例如模拟信号等的转换，并且把转换后的信号作为再现音频信号例如提供给连接模块1321(图 42)等。
[0636]多路复用器(1^() 1412多路复用视频流和音频流。多路复用方法(换句话说，通过多路复用生成的位流的格式)是任意的。此外，在多路复用时，多路复用器(1^() 1412可以把预定首部信息等添加到位流。换句话说，多路复用器1412可以通过多路复用过程转换流格式。例如，通过多路复用视频流和音频流，多路复用器1412把视频流和音频流转换成作为具有发送格式的位流的传输流。此外，例如，通过多路复用视频流和音频流，多路复用器1412把视频流和音频流转换成具有用于记录格式的数据(文件数据
[0637]多路分解器1413多路分解位流，在位流中，视频流和音频流以对应于多路复用器1412执行的多路复用过程的方法被去多路复用。换句话说，多路分解器
1413从流缓冲区1414读取的位流提取视频流和音频流(视频流和音频流被分离换句话说，多路分解器1413可以通过多路分解过程转换流格式(多路复用器(1^() 1412执行转换的逆转换)。例如，多路分解器1413通过流缓冲区1414获取例如从连接模块1321^ (图42)等提供的传输流并且多路分解所获取的传输流，由此把传输流转换成视频流和音频流。此外，例如，多路分解器(01^() 1413获取例如连接模块1321 (图42)通过流缓冲区1414从各种记录介质读取的文件数据并且多路分解所获取的文件数据，由此把文件数据转换成视频流和音频流。
[0638]流缓冲区1414缓冲位流。例如，流缓冲区1414缓冲从多路复用器(1^() 1412提供的传输流并且在预定时间或者基于从外部发送的请求把传输流例如提供给连接模块1321(图42)、宽带调制解调器1333(图42)等。
[0639]此外，例如，流缓冲区1414缓冲从多路复用器(11? 1412提供的文件数据，并且在预定时间或者基于从外部发送的请求把文件数据例如提供给连接模块1321(图42)等。
[0640]此外，流缓冲区1414缓冲例如通过连接模块1321(图42)、宽带调制解调器1333(图42)等获取的传输流，并且在预定时间或者基于从外部发送的请求等把传输流提供给多路分解器(01^01413^
[0641]此外，流缓冲区1414缓冲例如连接模块1321(图42)等从各种记录介质读取的文件数据，并且在预定时间或者基于从外部发送的请求等把文件数据提供给多路分解器(画 X〉1413。
[0642]接下来，将描述具有这种配置的视频处理器1332的操作例子。例如，从连接模块1321(图42)等输入到视频处理器1332的视频信号被视频输入处理单元1401根据诸如4:2:21/(^/0系统的预定系统转换成数字图像数据，并且顺序地写入帧存储器1405。这种数字图像数据被第一图像放大/减小单元1402或第二图像放大/减小单元1403读取，并且格式转换成诸如4:2:系统等的预定系统，并且对数字图像数据执行放大/减小过程，处理后的数字图像数据再次写入帧存储器1405。这种图像数据被编码/解码引擎1407编码并且作为视频流写入视频￡3缓冲区1408八。
[0643]此外，从连接模块1321 (图42)等输入到视频处理器1332的音频信号被音频编码器1410编码并且作为音频流写入音频￡3缓冲区1409八。
[0644]存储在视频￡3缓冲区1408八中的视频流和存储在音频￡3缓冲区1409八中的音频流被多路复用器1412读取、被多路复用，转换成传输流、文件数据等。多路复用器
1412生成的传输流缓冲到流缓冲区1414，然后例如通过连接模块1321 (图42)、宽带调制解调器1333(图42)等输出到外部网络。此外，多路复用器(1①01412生成的文件数据缓冲到流缓冲区1414，然后输出到例如连接模块1321 (图42)等，并且记录在各种记录介质中。
[0645]此外，例如通过连接模块1321(图42)、宽带调制解调器1333(图42)等从外部网络输入到视频处理器1332的传输流缓冲到流缓冲区1414，然后被多路分解器(01^()1413多路分解。此外，例如通过连接模块1321(图42)等从那各种记录介质读取并输入到视频处理器1332的文件数据缓冲到流缓冲区1414，然后被多路分解器(01^()1413多路分解。换句话说，输入到视频处理器1332的传输流或文件数据被多路分解器1413分离成视频流和音频流。
[0646]音频流通过音频￡3缓冲区14098提供给音频解码器1411并且被解码，音频信号被再现。此外，视频流写入视频￡3缓冲区14088，然后被编码/解码引擎1407顺序读取，被解码并写入帧存储器1405。解码图像数据被第二图像放大/减小单元1403放大或减小并且被写入帧存储器1405。然后，解码图像数据被视频输出处理单元1404读取，具有转换成诸如4:2:21/(^/0系统的预定系统的格式，被进一步转换成模拟信号，视频信号被再现并输出。
[0647]本技术应用到如此配置的视频处理器1332的情况下，根据以上所述每种实施例的本技术可以应用到编码/解码引擎1407。换句话说，例如，编码/解码引擎1407可以配置为具有根据第一实施例的图像编码设备100(图1)或者根据第二实施例的图像解码设备200(图19)的功能。通过如此配置，视频处理器1332可以获取与以上参考图1至31所描述的优点相同的优点。
[0648]此外，在编码/解码引擎1407，本技术(换句话说，根据以上所述每种实施例的图像编码设备和图像解码设备的功能)可以由诸如逻辑电路的硬件实现，可以由诸如内置程序的软件实现，或者可以同时由硬件和软件实现。
[0649]〔视频处理器的另一配置实例〕
[0650]图44是说明本技术适用的视频处理器1332(图42)的示意性配置的另一实例图。在图44所说明的例子的情况下，视频处理器1332具有根据预定系统编码/解码视频数据的功能。
[0651]更具体而言，如图44所说明的，视频处理器1332包括:控制单元1511 ；显示接口1512 ；显示引擎1513 ；图像处理引擎1514 ；以及内部存储器1515。此外，视频处理器1332还包括:编解码器引擎1516 ；存储器接口 1517 ；多路复用器/多路分解器01^)1518 ；网络接口 1519 ；以及视频接口 1520。
[0652]控制单元1511控制布置在视频处理器1332的处理单元的操作，其中处理单元诸如显示接口 1512、显示引擎1513、图像处理引擎1514和编解码器引擎1516。
[0653]如在图44所说明的，例如，控制单元1511包括主1531、子1532以及系统控制器1533。主0^ 1531执行控制位于视频处理器1332中每个处理单元的程序。主0^1531根据程序等生成控制信号并且把该控制信号提供给每个处理单元(换句话说，控制每个处理单元的操作子0^ 1532对主0^ 1531实现辅助角色。例如，子0^ 1532执行主0？^ 1531执行程序的子过程、子例程等。系统控制器1533控制主0^ 1531和子0^ 1532的操作，诸如要主0^ 1531和子0^ 1532执行程序的指定。
[0654]显示接口 1512在控制单元1511的控制下把图像数据输出到例如连接模块1321(图42)等。例如，显示接口 1512把作为数字数据的图像数据转换成模拟信号并且把图像数据输出到连接模块1321(图42)的监控设备等，作为数字数据的再现视频信号或图像数据。
[0655]在控制单元1511的控制下，显示引擎1513对图像数据执行各种转换过程，诸如格式转换、尺寸转换以及色域转换，以调整到显示图像等的监控设备的硬件规范。
[0656]在控制单元1511的控制下，为了提高图像数据的图像质量等，图像处理引擎154执行预定图像处理，诸如过滤过程。
[0657]内部存储器1515是视频处理器1332内部的存储器，被显示引擎1513、图像处理引擎1514和编解码器引擎1516共享。例如，内部存储器1515用于在显示引擎1513、图像处理引擎1514和编解码器引擎1516中执行的数据互换。例如，内部存储器1515存储从显示引擎1513、图像处理引擎1514或编解码器引擎1516提供的数据、并且必要时(例如，根据请求)把数据提供给显示引擎1513、图像处理引擎1514或编解码器引擎1516。虽然这个内部存储器1515可以由任何存储设备实现，但是一般而言，内部存储器1515常用于存储具有小容量的数据，诸如以块或参数为单位配置的图像数据，因而它优选地由具有相对小容量(例如，与外部存储器1312相比)和高响应速度的半导体存储器实现，诸如静态随机存取存储器)。
[0658]编解码器引擎1516执行与编码或解码图像数据相关的过程。编解码器引擎1516对应的编码/解码系统是任意的，其数目可以是一个或两个或更多个。例如，编解码器引擎1516可以包括多个编码/解码系统的编解码器功能、并且通过使用多个编码/解码系统中选定的一个来执行图像数据编码或者编码图像数据的解码。
[0659]在图44所说明的例子，例如，编解码器引擎1516包括腿^郎-2视频1541、―以只.2641542、2651543、265 (可伸缩)1544、265 (多视图)1545和1？26~0^8！1 1551，作为关于编解码器的过程的功能块。
[0660]1？26~2视频1541是根据即％-2系统编码或解码图像数据的功能块。酬只.2641542是根据抓系统编码或解码图像数据的功能块。此外，2651543是根据
系统编码或解码图像数据的功能块。265 (可伸缩)1544是根据系统可伸缩编码或可伸缩解码图像数据的功能块。265 (多视图)1545是根据系统多视点编码或多视点解码图像数据的功能块。
[0661〕 1？26~0^8！1 1551是根据(经耵1？的动态自适应流媒体)系统发送丨接收图像数据的功能块。是通过使用肌1？(超文本传输协议)流化视频的技术、并且具有从彼此不同分辨率等的多个编码数据片段中适当选择其一的特性，其中数据是事先以片段为单位准备并发送的。1551执行与规范相符的流生成、流发送控制等，对于编码丨解码图像数据，使用上述腿^郎-2视频1541或册乂以!!.265 (多视图)1545。
[0662]存储器接口 1517是外部存储器1312的接口。从图像处理引擎1514或编解码器引擎1516提供的数据通过存储器接口 1517提供给外部存储器1312。此外，从外部存储器1312读出的数据通过存储器接口 1517提供给视频处理器1332(图像处理引擎1514或编解码器引擎1516〉。
[0663]多路复用器/多路分解器1)^1) 1518多路复用或多路分解关于图像的各种数据，诸如编码数据、图像数据或视频信号的位流。多路复用/多路分解方法是任意的。例如，在多路复用过程时，多路复用器/多路分解器011幻1518不仅可以把多个数据片段布置成一个、而且可以向数据添加预定首部信息等。此外，在多路分解过程时，多路复用器/多路分解器01^0 1518不仅可以把一个数据片段分成多个部分、而且可以向划分的数据添加预定首部信息等。换句话说，多路复用器/多路分解器01^0 1518通过多路复用/多路分解过程转换数据格式。例如，通过多路复用位流，多路复用器/多路分解器(1^( 01^0 1518可以把位流转换成用于发送的格式的传输流、或者用于记录的文件格式的数据(文件数据很显然，逆转换可以通过多路分解过程执行。
[0664]网络接口 1519是专用接口，诸如宽带调制解调器1333(图42)或者连接模块1321 (图42)。视频接口 1520是诸如连接模块1321 (图42)或相机1322(图42)的专用接0。
[0665]接下来，将描述这种视频处理器1332的操作例子。例如，当传输流通过连接模块1321(图42)、宽带调制解调器1333(图42)等从外部网络接收时，传输流通过网络接口1519提供给多路复用器/多路分解器01^0 1518，被多路分解，被编解码器引擎1516解码。对于通过编解码器引擎1516执行的解码过程获取的图像数据，例如，预定图像处理由图像处理引擎1514执行，预定转换由显示引擎1513执行，得到的图像数据通过显示接口1512提供给例如连接模块1321 (^42)等，图像显示在监视器上。此外，例如，通过由编解码器引擎1516执行的解码过程获取的图像数据被编解码器引擎1516重新编码，被多路复用器/多路分解器01^0 1518多路复用，转换成文件数据，通过视频接口 1520输出到例如连接模块1321(图42)等，在各种记录介质上记录。
[0666]此外，例如，通过由连接模块1321 (^42)等从图中未示出的记录介质读取的图像数据获取的编码数据的文件数据，通过视频接口 1520被提供给多路复用器/多路分解器(歷01^0 1518，被多路分解，并且被编解码器引擎1516解码。通过由编解码器引擎1516执行的解码过程获取的图像数据接受图像处理引擎1514执行的预定图像处理，预定转换由显示引擎1513执行，得到的图像数据通过显示接口 1512提供给例如连接模块1321(图42)等，图像显示在监视器上。此外，例如，通过由编解码器引擎1516执行的解码过程获取的图像数据被编解码器引擎1516重新编码，被多路复用器/多路分解器01^)1518多路复用，转换成传输流，通过网络接口 1519提供给例如连接模块1321 (图42)、宽带调制解调器1333(图42)等，发送到图中未示出的另一设备。
[0667]此外，例如，视频处理器1332的处理单元之间的图像数据或其它数据的互换是利用内部存储器1515或外部存储器1312执行的。此外，例如，电源管理模块1313控制电力向控制单元1511的供应。
[0668]本技术应用到如此配置的视频处理器1332的情况下，根据以上所述每种实施例的本技术可以应用到编解码器引擎1516。换句话说，例如，编解码器引擎1516可以包括实现根据第一实施例的图像编码设备100(图1)或者根据第二实施例的图像解码设备200(图19)的功能块。通过如此配置，视频处理器1332可以获取与以上参考图1至31所描述的那些相同的优点。
[0669]此外，在编解码器引擎1516中，本技术(换句话说，根据以上所述每种实施例的图像编码设备和图像解码设备的功能)可以由诸如逻辑电路的硬件实现，可以由诸如内置程序的软件实现，或者可以同时由硬件和软件实现。
[0670]如上所述，虽然已经作为例子描述了视频处理器1332的两种配置，但是视频处理器1332的配置是任意的、并且可以是以上所述两种配置之外的配置。此外，这种视频处理器1332可以由一个半导体芯片或多个半导体芯片配置。例如，视频处理器1332可以由多个半导体被层压的三维层压131配置。此外，视频处理器1332可以由多个131实现。
[0671][对设备的应用实例]
[0672]视频机1300可以在处理图像数据的各种设备中设置。例如，视频机1300可以在电视装置900 (图35)、移动电话920 (图36)、记录和再现设备940 (图37)、成像设备960 (图38)等中设置。通过在其中设置视频机1300，设备可以获取与以上参考图1至31所描述的优点相同的优点。
[0673]此外，例如，视频机1300可以在图39说明的数据发送系统1000的终端设备，诸如个人计算机1004、奶设备1005、平板设备1006和移动电话1007，以及图40所说明的数据发送系统1100的广播站1101和终端设备1102中以及图41所说明的成像系统1200的成像设备1201和可伸缩编码数据存储设备1202中设置。通过在其中设置视频机1300，设备可以获取与以上参考图1至31所描述的优点相同的优点。
[0674]此外，即使上述视频机1300的一些配置是包括视频处理器1332的，但还可以实现为本技术在其它情况下应用的配置。例如，只有视频处理器1332配置为本技术适用的视频处理器。此外，如上所述，由虚线1341指示的处理器、视频模块1311等可以配置为本技术适用的处理器、模块等。此外，例如，视频模块1311、外部存储器1312、电源管理模块1313和前端模块1314可以组合，以便配置为本技术适用的视频单元1361。在任何配置，都可以获取与以上参考图1至31所描述的优点相同的优点。
[0675]换句话说，类似于视频机1300的情况，包括视频处理器1332的任何配置可以在处理图像数据的各种设备中设置。例如，虚线1341指示的视频处理器1332、处理器和视频模块1311，或者视频单元1361，可以在电视装置900 (图35)、移动电话920 (图36)、记录和再现设备940 (图37)、成像设备960 (图38)、图39中说明的数据发送系统1000的终端设备，诸如个人计算机1004、^设备1005、平板设备1006和移动电话1007，图40所说明的数据发送系统1100的广播站1101和终端设备1102中以及图41所说明的成像系统1200的成像设备1201和可伸缩编码数据存储设备1202等中设置。类似于视频机1300的情况，通过设置本技术适用的任何配置，设备可以获取与以上参考图1至31所描述的优点相同的优点。
[0676]另外，本说明书已经描述了诸如跳过许可信息或跳过标识信息的各种信息被多路复用到编码流中、并且编码流从编码侧发送到解码侧的例子。但是，发送信息的技术不限于此。例如，信息可以作为与编码位流关联的独立数据发送或记录，而不多路复用到编码的位流中。这里，术语“关联”代表包括在位流中的图像(片、块等；可以是图像的一部分)和对应于该图像的信息在解码过程时彼此链接。换句话说，信息可以在与图像(或位流)的传输线路不同的传输线路上发送。此外，信息可以记录在与图像(或位流)的记录介质不同的记录介质(或者相同记录介质的不同存储区域)上。此外，信息和图像(或位流)可以在任意单元(诸如多个帧、一个帧或者帧的一部分)中彼此关联。
[0677]本公开内容的优选实施例已经参考附图具体描述，但是本公开内容的技术范围不限于以上例子。本领域技术人员应当理解，各种修改或变更可以在权利要求所述的技术主旨的范围内发生、并且它们在本发明的技术范围内。
[0678]本技术还可以具有以下配置:
[0679](1) 一种图像处理设备，包括:量化单元，使用被应用到正交变换跳过块的加权系数以及量化所述正交变换跳过块，其中在所述正交变换跳过块中正交变换处理被跳过；以及编码单元，编码被量化单元量化的正交变换跳过块的系数。
[0680](2) (1)中所描述的图像处理设备，其中量化单元使用空间域值作为所述加权系数。
[0681](3) (2)中所描述的图像处理设备，其中量化单元使用一个加权系数。
[0682](4) (2)中所描述的图像处理设备，其中量化单元使用在量化正交变换块时使用的量化矩阵的IX:分量作为加权系数，其中在所述正交变换块中执行正交变换处理。
[0683](5) (2)中所描述的图像处理设备，其中量化单元利用加权系数矩阵来量化所述正交变换跳过块，所述加权系数矩阵是通过对量化矩阵的IX:分量执行矩阵处理所获得的。
[0684](6) (1)中所描述的图像处理设备，其中量化单元利用加权系数矩阵来量化所述正交变换跳过块，所述加权系数矩阵是通过对所述加权系数执行矩阵处理所获得的。
[0685](7) (1)中所描述的图像处理设备，还包括发送单元，该发送单元把所述加权系数作为序列参数集或图片参数集发送。
[0686](8)⑴中所描述的图像处理设备，还包括发送单元，该发送单元发送指示是否许可正交变换处理的跳过的跳过许可信息，作为图片参数集或者作为片首部。
[0687](9) (8)中所描述的图像处理设备，其中发送单元只在执行正交变换的最小块尺寸是4X4时才发送跳过许可信息。
[0688](10)⑴中所描述的图像处理设备，还包括发送单元，该发送单元只在执行正交变换的最小块尺寸是4X4时才发送跳过许可信息作为序列参数集。
[0689](11) (10)中所描述的图像处理设备，其中当跳过许可信息是许可正交变换处理的跳过的值时，发送单元在跳过许可信息之后发送所述加权系数。
[0690](12) 一种图像处理设备的图像处理方法，其中图像处理设备使用加权系数应用到正交变换跳过块，量化所述正交变换跳过块，以及编码所述量化的正交变换跳过块的系数，其中在所述正交变换跳过块中正交变换处理被跳过。
[0691](13) 一种图像处理设备，包括:过滤单元，当图像经历编码过程时，对局部解码图像执行去块过滤；控制单元，控制由过滤单元进行的去块过滤，以便针对正交变换处理被跳过的正交变换跳过块与执行了正交变换的正交变换块之间的边界增加去块过滤的强度；以及编码单元，使用过滤单元执行了去块过滤的图像，并且编码该图像。
[0692](14) 一种图像处理设备的图像处理方法，其中当图像经历编码过程时，图像处理设备对局部解码图像执行去块过滤，控制由过滤单元进行的去块过滤，以便针对正交变换处理被跳过的正交变换跳过块与执行了正交变换的正交变换块之间的边界增加去块过滤的强度，使用过滤单元执行了去块过滤的图像，并且编码该图像。
[0693](15) 一种图像处理设备，包括:解码单元，对位流执行解码过程，以生成图像；过滤单元，对解码单元生成的图像执行去块过滤；及控制单元，控制由过滤单元进行的去块过滤，以便针对正交变换处理被跳过的正交变换跳过块与执行了正交变换的正交变换块之间的边界增加去块过滤的强度。
[0694](16) 一种图像处理设备的图像处理方法，其中图像处理设备对位流执行解码过程，以生成图像，对所生成的图像执行去块过滤，并且控制去块过滤，以便针对正交变换处理被跳过的正交变换跳过块与执行了正交变换的正交变换块之间的边界增加去块过滤的强度。
[0695](21) —种图像处理设备，包括:
[0696]量化单元，使用加权系数应用到正交变换跳过块以及量化该正交变换跳过块，其中在所述正交变换跳过块中正交变换处理被跳过；及
[0697]编码单元，编码由量化单元量化的正交变换跳过块的系数。
[0698](22)根据(21)的图像处理设备，其中量化单元使用一个加权系数。
[0699](23)根据(22)的图像处理设备，其中量化单元利用所述加权系数来量化具有4X4块尺寸的正交变换跳过块。
[0700](24)根据(23)的图像处理设备，还包括发送单元，该发送单元发送指示是否许可正交变换处理的跳过的跳过许可信息作为图片参数集。
[0701](25)根据(24)的图像处理设备，其中发送单元还发送所述加权系数。
[0702](26)根据(21)的图像处理设备，其中量化单元利用量化矩阵来量化其中正交变换处理被执行的非正交变换跳过块，所述量化矩阵与通过对所述加权系数执行矩阵处理获得的加权系数矩阵不同。
[0703](27)根据(24)的图像处理设备，还包括发送单元，该发送单元调制通过由所述量化单元执行量化并且由编码单元编码图像数据所获得的编码数据，以便把编码数据作为发送信号发送。
[0704](28)根据(24)的图像处理设备，还包括多路复用器，该多路复用器多路复用通过由所述量化单元执行量化并且由编码单元编码图像数据所获得的编码数据与音频编码数据。
[0705](29)根据(24)的图像处理设备，还包括成像单元，该成像单元捕捉物体的图像，以生成图像数据，
[0706]其中量化单元量化所述成像单元利用成像所获得的所述图像数据的所述正交变换跳过块。
[0707](30)根据(24)的图像处理设备，还包括对音频数据执行编码和解码的音频编解码器单元。
[0708](31)根据(24)的图像处理设备，还包括记录单元，该记录单元在存储介质上记录通过由所述量化单元执行量化并且由编码单元编码图像数据所获得的编码数据。
[0709](32) —种图像处理方法，包括:
[0710]使用加权系数应用到正交变换跳过块，以量化所述正交变换跳过块，其中所述正交变换跳过块中正交变换处理被跳过；及
[0711]编码所述被量化的所述正交变换跳过块的系数。
[0712]标号列表
[0713]100图像编码设备
[0714]104正交变换单元
[0715]105量化单元
[0716]106无损编码单元
[0717]108逆量化单元
[0718]109逆正交变换单元
[0719]111去块过滤器
[0720]121正交变换跳过单元
[0721]131跳过编码单元
[0722]132跳过确定单元
[0723]141量化矩阵设置单元
[0724]142加权系数生成单元
[0725]143量化处理单元
[0726]151边界确定单元
[0727]152强度调整单元
[0728]153过滤单元
[0729]200图像解码设备
[0730]202无损解码单元
[0731]203逆量化单元
[0732]204逆正交变换单元
[0733]206去块过滤器
[0734]221逆正交变换跳过单元
[0735]231丁以仙作现级如打叫缓冲区
[0736]232控制信号生成单元
[0737]241量化矩阵缓冲区
[0738]242加权系数生成单元
[0739]243量化参数缓冲区
[0740]244逆量化单元
[0741]251边界确定单元
[0742]252强度调整单元
[0743]253过滤单元
【权利要求】
1.一种图像处理设备，包括: 量化单元，使用被应用到正交变换跳过块的加权系数并且量化该正交变换跳过块，其中在所述正交变换跳过块中正交变换处理被跳过；及 编码单元，编码由所述量化单元量化的所述正交变换跳过块的系数。
2.如权利要求1所述的图像处理设备，其中量化单元使用一个加权系数。
3.如权利要求2所述的图像处理设备，其中量化单元利用所述加权系数来量化具有4X4块尺寸的正交变换跳过块。
4.如权利要求3所述的图像处理设备，还包括发送单元，该发送单元发送指示是否许可正交变换处理的跳过的跳过许可信息作为图片参数集。
5.如权利要求4所述的图像处理设备，其中发送单元还发送所述加权系数。
6.如权利要求1所述的图像处理设备，其中量化单元利用量化矩阵来量化非正交变换跳过块，在所述非正交变换跳过块中正交变换处理被执行，所述量化矩阵与通过对所述加权系数执行矩阵处理获得的加权系数矩阵不同。
7.如权利要求4所述的图像处理设备，还包括发送单元，该发送单元调制通过由量化单元执行量化并且由编码单元编码图像数据所获得的编码数据，以把编码数据作为发送信号发送。
8.如权利要求4所述的图像处理设备，还包括多路复用器，该多路复用器多路复用通过由所述量化单元执行量化并且由编码单元编码图像数据所获得的编码数据与音频编码数据。
9.如权利要求4所述的图像处理设备，还包括成像单元，该成像单元捕捉物体的图像，以生成图像数据， 其中量化单元量化所述成像单元利用成像所获得的所述图像数据的正交变换跳过块。
10.如权利要求4所述的图像处理设备，还包括对音频数据执行编码和解码的音频编解码器单元。
11.如权利要求4所述的图像处理设备,还包括记录单元,该记录单元在存储介质上记录通过由所述量化单元执行量化并且由编码单元编码图像数据所获得的编码数据。
12.—种图像处理方法，包括: 使用被应用到正交变换跳过块的加权系数来量化所述正交变换跳过块，其中在所述正交变换跳过块中正交变换处理被跳过；以及 编码所述被量化的正交变换跳过块的系数。
【文档编号】H04N19/597GK104429068SQ201380032800
【公开日】2015年3月18日 申请日期:2013年6月21日 优先权日:2012年6月29日
【发明者】佐藤数史, 森上义崇, 陆硕 申请人:索尼公司