一种图像局部增强方法和装置与流程

文档序号:11971029阅读:260来源:国知局
一种图像局部增强方法和装置与流程
本发明涉及通信领域,尤其涉及一种图像局部增强的方法和装置。

背景技术:
在目前的视频通信系统中,用户在使用时如果对画面质量不满意一般通过提高呼叫带宽或者选择清晰模式等方法改善画面质量,这样编码器就对整个画面的编码做了改变,虽然提高了整个画面的质量,但是这样做的结果是带宽大大提高或者帧频不能保证。但是通常情况下,用户并不对整个画面都要求很高的质量,而是对画面中的部分内容或者画面中的个别目标比较感兴趣,这样提高呼叫带宽或者选择清晰模式等又会有其它不必要的后果,而通过调节远端摄像头的位置或者焦距来放大感兴趣区域或者感兴趣物体的办法又会使得整个画面的内容发生改变。另外,在某些设备中,虽然也能对画面中的局部内容做增强,但有些是对特定的目标如人脸等做自适应的增强,有的是对指定的区域做放大处理等,这些技术有的是不能使用户根据自己的主观喜好自由的选择感兴趣的区域,有的只是在解码端对解码出来的图像局部做一些处理改变画面给人的主观感受,有的是改变了画面的整体布局和内容。综上所述,现有图像增强方法需要改进。

技术实现要素:
本发明要解决的技术问题是提供一种图像局部增强方法和装置,能根据用户的喜好进行增强。为了解决上述问题,本发明提供了一种图像局部增强方法,包括:获取用户选定的区域或目标;根据所述选定的区域或目标生成选择参数;将所述选择参数发送给对端;或者,根据所述选择参数对所述选定的区域或目标进行增强,生成对所述选定的区域或目标进行增强后的图像。进一步的,上述方法还可具有以下特点,所述方法还包括,获取所述用户选定的增强模式,或者,增强模式和增强级别;所述选择参数中还包括:增强模式,或者,增强模式和增强级别。进一步的,上述方法还可具有以下特点,所述增强模式为如下之一:正向增强模式,指示提高所述选定的区域或目标的图像质量;反向增强模式,指示降低所述选定的区域或目标的图像质量;替代模式,指示使用其他图像替代所述选定的区域或目标;不增强模式,指示所述选定的区域或目标的图像质量为系统默认。进一步的,上述方法还可具有以下特点,所述选择参数中还包括:跟踪模式,所述跟踪模式为如下之一:固定模式,指示在取消增强之前每一帧均在所述选定的区域进行增强;动态模式,指示在取消增强之前每一帧跟踪所述选定的目标,且当所述目标在增强范围内时对所述目标进行增强。进一步的,上述方法还可具有以下特点,生成所述选择参数前,还判断所述对端是否支持局部增强编码,以及,所述选定的区域或目标是否满足预设条件,在所述对端支持局部增强编码以及所述选定的区域或目标满足所述预设条件时,才生成所述选择参数。进一步的,上述方法还可具有以下特点,对所述选定的区域或目标进行增强包括:当所述选择参数中指示提高所述选定的区域或目标的图像质量时,采取如下方式之一或其组合:使用I_PCM编码模式对所述选定的区域或目标的图像进行编码;通过减小编码宏块的量化参数对所述选定的区域或目标的图像进行编码;通过增加编码宏块的码字对所述选定的区域或目标的图像进行编码;当所述选择参数中指示降低所述选定的区域或目标的图像质量时,采取如下方式之一或其组合:通过增大编码宏块的量化参数对所述选定的区域或目标的图像进行编码;通过减少编码宏块的码字对所述选定的区域或目标的图像进行编码;对所述选定的区域或目标的图像进行模糊化处理后再编码。本发明还提供一种图像局部增强方法,包括:接收对端发送的根据用户所选定的区域或目标生成的选择参数;根据所述选择参数对所述选定的区域或目标进行增强;将对所述选定的区域或目标进行增强后的图像发送给所述对端。进一步的,上述方法还可具有以下特点,所述对所述选定的区域或目标进行增强包括:根据所述选择参数中的增强模式,或者,增强模式和增强级别对所述选定的区域或目标进行增强。进一步的,上述方法还可具有以下特点,所述对所述选定的区域或目标进行增强包括:当所述选择参数中指示提高所述选定的区域或目标的图像质量时,采取如下方式之一或其组合:使用I_PCM编码模式对所述选定的区域或目标的图像进行编码;通过减小编码宏块的量化参数对所述选定的区域或目标的图像进行编码;通过增加编码宏块的码字对所述选定的区域或目标的图像进行编码;当所述选择参数中指示降低所述选定的区域或目标的图像质量时,采取如下方式之一或其组合:通过增大编码宏块的量化参数对所述选定的区域或目标的图像进行编码;通过减少编码宏块的码字对所述选定的区域或目标的图像进行编码;对所述选定的区域或目标的图像进行模糊化处理后再编码。进一步的,上述方法还可具有以下特点,所述根据所述选择参数对所述选定的区域或目标进行增强包括:将所述选定区域或目标作为一个独立的片进行编码;将对所述选定的区域或目标进行增强后的图像发送给所述对端前,还将所述独立的片作为一个单独的网络自适应层单元,为所述网络自适应层单元设置特定传输优先级。进一步的,上述方法还可具有以下特点,根据所述选择参数对所述选定的区域或目标进行增强前,还判断所述选择参数是否符合预设条件,如果符合,才根据所述选择参数对所述选定的区域或目标进行增强。本发明还提供一种图像局部增强装置,包括:检测模块,用于获取用户选定的区域或目标;参数生成模块,用于根据所述选定的区域或目标生成选择参数;传输模块,用于将所述选择参数发送给对端。进一步的,上述装置还可具有以下特点,所述参数生成模块还用于,获取所述用户选定的增强模式,或者,增强模式和增强级别,将所述增强模式,或者,增强模式和增强级别添加到所述选择参数中。进一步的,上述装置还可具有以下特点,所述增强模式为如下之一:正向增强模式,指示提高所述选定的区域或目标的图像质量;反向增强模式,指示降低所述选定的区域或目标的图像质量;替代模式,指示使用其他图像替代所述选定的区域或目标;不增强模式,指示所述选定的区域或目标的图像质量为系统默认。进一步的,上述装置还可具有以下特点,所述选择参数中还包括:跟踪模式,所述跟踪模式为如下之一:固定模式,指示在取消增强之前每一帧均在所述选定的区域进行增强;动态模式,指示在取消增强之前每一帧跟踪所述选定的目标,且当所述目标在增强范围内时对所述目标进行增强。进一步的,上述装置还可具有以下特点,所述参数生成模块生成所述选择参数前,还判断所述对端是否支持局部增强编码,以及,所述选定的区域或目标是否满足预设条件,在所述对端支持局部增强编码以及所述选定的区域或目标满足所述预设条件时,才生成所述选择参数。本发明还提供一种图像局部增强装置,其特征在于,包括:接收模块,用于接收对端发送的根据用户所选定的区域或目标生成的选择参数;增强模块,用于根据所述选择参数对所述选定的区域或目标进行增强;发送模块,用于将对所述选定的区域或目标进行增强后的图像发送给所述对端。进一步的,上述装置还可具有以下特点,所述增强模块对所述选定的区域或目标进行增强包括:根据所述选择参数中的增强模式,或者,增强模式和增强级别对所述选定的区域或目标进行增强。进一步的,上述装置还可具有以下特点,所述增强模块对所述选定的区域或目标进行增强包括:当所述选择参数中指示提高所述选定的区域或目标的图像质量时,采取如下方式之一或其组合:使用I_PCM编码模式对所述选定的区域或目标的图像进行编码;通过减小编码宏块的量化参数对所述选定的区域或目标的图像进行编码;通过增加编码宏块的码字对所述选定的区域或目标的图像进行编码;当所述选择参数中指示降低所述选定的区域或目标的图像质量时,采取如下方式之一或其组合:通过增大编码宏块的量化参数对所述选定的区域或目标的图像进行编码;通过减少编码宏块的码字对所述选定的区域或目标的图像进行编码;对所述选定的区域或目标的图像进行模糊化处理后再编码。进一步的,上述装置还可具有以下特点,所述增强模块还用于将所述选定区域或目标作为一个独立的片进行编码;所述发送模块还用于将所述独立的片作为一个单独的网络自适应层单元,为所述网络自适应层单元设置特定传输优先级。进一步的,上述装置还可具有以下特点,所述增强模块根据所述选择参数对所述选定的区域或目标进行增强前,还判断所述选择参数是否符合预设条件,如果符合,才根据所述选择参数对所述选定的区域或目标进行增强。本发明还提供一种图像局部增强装置,包括检测模块、参数生成模块和增强模块,其中:所述检测模块用于,获取用户选定的区域或目标;所述参数生成模块用于,根据所述选定的区域或目标生成选择参数,将所述选择参数发送给所述增强模块;所述增强模块用于,根据所述选择参数对所述选定的区域或目标进行增强,生成对所述选定的区域或目标进行增强后的图像。进一步的,上述装置还可具有以下特点,所述参数生成模块还用于,获取所述用户选定的增强模式,或者,增强模式和增强级别,将所述增强模式,或者,增强模式和增强级别添加到所述选择参数中;所述增强模块对所述选定的区域或目标进行增强包括:根据所述选择参数中的增强模式,或者,增强模式和增强级别对所述选定的区域或目标进行增强。进一步的,上述装置还可具有以下特点,所述增强模式为如下之一:正向增强模式,指示提高所述选定的区域或目标的图像质量;反向增强模式,指示降低所述选定的区域或目标的图像质量;替代模式,指示使用其他图像替代所述选定的区域或目标;不增强模式,指示所述选定的区域或目标的图像质量为系统默认。进一步的,上述装置还可具有以下特点,所述选择参数中还包括:跟踪模式,所述跟踪模式为如下之一:固定模式,指示在取消增强之前每一帧均在所述选定的区域进行增强;动态模式,指示在取消增强之前每一帧跟踪所述选定的目标,且当所述目标在增强范围内时对所述目标进行增强。进一步的,上述装置还可具有以下特点,所述增强模块对所述选定的区域或目标进行增强包括:当所述选择参数中指示提高所述选定的区域或目标的图像质量时,采取如下方式之一或其组合:使用I_PCM编码模式对所述选定的区域或目标的图像进行编码;通过减小编码宏块的量化参数对所述选定的区域或目标的图像进行编码;通过增加编码宏块的码字对所述选定的区域或目标的图像进行编码;当所述选择参数中指示降低所述选定的区域或目标的图像质量时,采取如下方式之一或其组合:通过增大编码宏块的量化参数对所述选定的区域或目标的图像进行编码;通过减少编码宏块的码字对所述选定的区域或目标的图像进行编码;对所述选定的区域或目标的图像进行模糊化处理后再编码。本发明提供的图像局部增强方法和装置,让用户可以充分根据自己的喜好选择自己感兴趣的区域或者目标的画面质量,另外,可以实现无损增强,另外,还可降低用户选定区域或目标的画面质量。当然,实施本发明的任一产品必不一定需要同时达到以上所述的所有优点。附图说明图1(a)为局部图像增强方法近端处理流程图;图1(b)为局部图像增强方法远端处理流程图;图2(a)为用户使用手指选择图像中感兴趣区域或者目标的操作示意图;图2(b)为用户使用光笔选择图像中感兴趣区域或者目标的操作示意图;图2(c)为用户使用鼠标选择图像中感兴趣区域或者目标的操作示意图;图2(d)为用户使用眼睛注视的方法选取图像中感兴趣区域的示意图;图3为根据本发明的一个特定实施例提出一个使用图像局部增强的双端系统的框图;图4为根据本发明的一个特定实施例提出一个使用图像局部增强的单端系统的框图;图5(a)和5(b)为使用固定跟踪模式的局部图像增强示意图;图6(a)、6(b)、6(c)和6(d)为使用动态跟踪模式的局部图像增强示意图;图7(a)和图7(b)为用户选定的目标做图像局部增强的示意图;图8(a)是使用光栅扫描格式的片组做图像局部增强的示意图;图8(b)是使用FMO格式的片组做图像局部增强的示意图。图9是本发明实施例一种图像局部增强装置框图;图10是本发明实施例一种图像局部增强装置框图;图11是本发明实施例一种图像局部增强装置框图。具体实施方式为使本发明的目的、技术方案和优点更加清楚明白,下文中将结合附图对本发明的实施例进行详细说明。需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互任意组合。本发明实施例提供一种图像局部增强方法,包括:获取用户选定的区域或目标;根据所述选定的区域或目标生成选择参数;将所述选择参数发送给对端;或者,根据所述选择参数对所述选定的区域或目标进行增强,生成对所述选定的区域或目标进行增强后的图像。其中,所述方法还包括,获取所述用户选定的增强模式,或者,增强模式和增强级别;所述选择参数中还包括:增强模式,或者,增强模式和增强级别。当然,增强模式和增强级别也可使用系统默认值,无须用户选定,此时选择参数中可以不携带增强模式、增强级别。其中,所述增强模式为如下之一:正向增强模式,指示提高所述选定的区域或目标的图像质量;反向增强模式,指示降低所述选定的区域或目标的图像质量;替代模式,指示使用其他图像替代所述选定的区域或目标;不增强模式,指示所述选定的区域或目标的图像质量为系统默认。其中,所述选择参数中还包括:跟踪模式,所述跟踪模式为如下之一:固定模式,指示在取消增强之前每一帧均在所述选定的区域进行增强;动态模式,指示在取消增强之前每一帧跟踪所述选定的目标,且当所述目标在增强范围内时对所述目标进行增强。其中,生成所述选择参数前,还判断所述对端是否支持局部增强编码,以及,所述选定的区域或目标是否满足预设条件,在所述对端支持局部增强编码以及所述选定的区域或目标满足所述预设条件时,才生成所述选择参数。也可不作判断,在用户进行选择时,限定用户只能选择满足预设条件的区域或目标。其中,对所述选定的区域或目标进行增强包括:当所述选择参数中指示提高所述选定的区域或目标的图像质量时,采取如下方式之一或其组合:使用I_PCM编码模式对所述选定的区域或目标的图像进行编码;通过减小编码宏块的量化参数对所述选定的区域或目标的图像进行编码;通过增加编码宏块的码字对所述选定的区域或目标的图像进行编码;当所述选择参数中指示降低所述选定的区域或目标的图像质量时,采取如下方式之一或其组合:通过增大编码宏块的量化参数对所述选定的区域或目标的图像进行编码;通过减少编码宏块的码字对所述选定的区域或目标的图像进行编码;对所述选定的区域或目标的图像进行模糊化处理后再编码。本发明实施例还提供一种图像局部增强方法,包括:接收对端发送的根据用户所选定的区域或目标生成的选择参数;根据所述选择参数对所述选定的区域或目标进行增强;将对所述选定的区域或目标进行增强后的图像发送给所述对端。其中,所述对所述选定的区域或目标进行增强包括:根据所述选择参数中的增强模式,或者,增强模式和增强级别对所述选定的区域或目标进行增强。其中,所述对所述选定的区域或目标进行增强包括:当所述选择参数中指示提高所述选定的区域或目标的图像质量时,采取如下方式之一或其组合:使用I_PCM编码模式对所述选定的区域或目标的图像进行编码;通过减小编码宏块的量化参数对所述选定的区域或目标的图像进行编码;通过增加编码宏块的码字对所述选定的区域或目标的图像进行编码;当所述选择参数中指示降低所述选定的区域或目标的图像质量时,采取如下方式之一或其组合:通过增大编码宏块的量化参数对所述选定的区域或目标的图像进行编码;通过减少编码宏块的码字对所述选定的区域或目标的图像进行编码;对所述选定的区域或目标的图像进行模糊化处理后再编码。其中,所述根据所述选择参数对所述选定的区域或目标进行增强包括:将所述选定区域或目标作为一个独立的片进行编码;将对所述选定的区域或目标进行增强后的图像发送给所述对端前,还将所述独立的片作为一个单独的网络自适应层单元,为所述网络自适应层单元设置特定传输优先级。其中,根据所述选择参数对所述选定的区域或目标进行增强前,还判断所述选择参数是否符合预设条件,如果符合,才根据所述选择参数对所述选定的区域或目标进行增强。在下面介绍的实施例中,通信双方中,每个通信方自称本端,称对方为对端,为方便描述,通信双方其中一端称为近端,另一端称为远端。在视频通信系统中,如果能够让用户在自己看到的画面范围内自由的选取自己感兴趣的区域或者目标,并且允许用户指定自己感兴趣的区域或者目标想要达到的视频效果,编码端根据用户的需求对指定的区域或者目标进行相应的特殊编码,然后把做了局部特殊编码的码流发往用户端解码呈现,就能够完成用户想要看到的视频效果。采用这种方法的好处是,让用户可以充分根据自己的喜好选择自己感兴趣的区域或者目标的画面质量,而且如果用户指定的区域范围不是特别大则不会显著的提高视频码流占用的带宽,可以不改变用户感兴趣区域或目标的分辨率,保持整个画面中各部分的比例协调,增强用户体验。本发明实施例中,用户在使用视频通信系统的过程中可以根据自己的需要和喜好对选择画面的局部或者画面中的个别目标内容进行选择,然后把选择局部画面或个别目标的参数发往对端,对端处理器分析用户的需求,如果能满足需求就通知编码器做用户指定效果的增强。用户选择的内容可以是一个固定的坐标位置和范围,也可以是画面中正在运动的目标,当用户选择取消增强或者运动的目标运动出画面之外时则取消图像局部增强编码。根据特定的实施例,提供了让用户可以自由选择图像中自己感兴趣的区域或目标的特定图像效果的系统和方法,该方法赋予用户更大的对图像质量的自主选择性,避免了以往视频通信系统中,用户无法自由选择局部图像效果的缺点和问题。在特定的实施例中,一个使用图像局部增强技术的视频通信系统中至少包括一个能够让用户对图像自由选择感兴趣区域或者感兴趣目标的设备,并且该系统还应该至少包括一个能够对指定的局部图像或目标进行指定效果编码的设备。该系统还要支持能够对用户选择的区域或者目标的参数进行判定、计算并送给编码设备的功能,同样编码设备也应该具有在编码之前接收用户选择参数,并进行判定,然后转换成编码器可以识别的编码参数的功能。一个特定实施例的流程图如图1(a)和图1(b)所示。如图1(a)所示,在近端,包括:步骤A10,接收用户选择的区域或目标;步骤A20,判断远端是否支持图像局部增强编码,如果不支持,转步骤A70,否则,转步骤A30;步骤A30,确定增强模式和增强级别;当然,也可以只确定增强模式,增强级别使用步骤A40,判断选择参数是否合法,如果合法,转步骤A50,否则,转步骤A70;步骤A50,系统计算选择参数;步骤A60,组合并发送选择参数到对端(此处指所述近端的对端,即远端),结束;步骤A70,通过告警等通知用户,无法进行局部增强,结束。如图1(b)所示,在远端,包括:步骤B10,接收对端(此处指远端的对端,即近端)发送的选择参数;步骤B20,判断所述选择参数是否合法;如果合法,转步骤B30,否则,转步骤B60;步骤B30,发送选择参数给编码设备;步骤B40,编码设备开始进行对用户选定的区域或目标进行指定效果的编码;具体增强方式参见后续实施例。步骤B50,发送局部增强编码后的图像码流到对端(即所述近端),结束;步骤B60,通过告警等通知用户无法增强,结束。在上述实施例中,用户指定局部图像或目标的过程就是用户根据系统设备的支持情况选择图像中自己感兴趣的区域或目标,支持用户能够自由选择感兴趣区域或者目标的设备和方法并不固定在某一种设备或某一种方法,只要用户能够借助它们指定出图像中自己感兴趣的区域或者目标均可。在上述实施例中,进行指定效果的编码是指用户对选择的区域或设备自己设定编码效果,然后由编码设备按照用户指定的效果对相应区域或者目标进行编码。编码效果大致可分为正向增强,反向增强、替代和不增强四种模式,其中:所述正向增强模式是指要求更高的图像编码质量的模式,此时编码出来的图像质量比系统默认情况下图像编码质量更高,在该模式下可以设定高低不同的增强级别,以达到不同的视频质量效果;所述反向增强模式是指要求更差的图像编码质量的模式,此时图像的编码质量比系统默认情况下的图像编码质量更差,在该模式下可以设定高低不同的增强级别,以达到不同的视频质量效果;所述替代模式是指用别的图像或目标来替代用户指定区域的图像或目标的编码模式,此时编码出来的图像与系统默认的编码图像在用户指定的区域或用户指定的目标处内容已经不再相同了,原来区域的内容或原来的目标已被新的内容或目标替换掉了;所述不增强模式,是对用户选定的区域或者目标不做特殊的编码处理,使用系统默认的编码效果进行编码的模式。上述模式仅为示例,可以根据需要设定其他模式。由于用户可以自由的选择自己需要的增强模式,为了避免重复的说明这四种并列的增强模式,因此在本文中如果没有特殊说明,提到“增强”时均包含正向增强,反向增强、替代和不增强四种模式。在上述实施例中,用户选择的区域或者目标的参数是一些数值,可以包括信息:1)用户在图像中选择的区域的位置如横向和纵向坐标、范围如选择区域的宽高或者用户在图像中选择的目标的编号等;2)用户希望的图像质量效果参数,包括增强模式以及增强的级别以及取消当前区域或指定目标的局部增强参数等;3)在图像中指定的区域或目标的跟踪模式,包括固定模式和动态模式两种,固定模式是指用户选定了增强的区域或目标后在取消增强之前每一帧都在固定的位置做图像增强编码,所谓动态模式是指当用户选定区域内的目标或用户选定的目标运动时,做增强编码的区域位置也会随着用户选定区域内的目标或者用户选定的目标的运动而变化,这样用户选定区域内的目标或者用户选定的目标一直都在增强编码的范围之内。其中3)中说明的两种跟踪模式也可以合并成一个自适应的跟踪模式,即编码器能够自动的根据用户所选区域内目标或者用户所选目标的运动情况改变增强编码区域的位置,使用户选定区域内的目标或者用户选定的目标一直都在增强编码的范围之内。在上述实施例中,对用户选择的区域或者目标的参数进行判定、计算并送给编码设备的过程是用户选择好感兴趣的区域或目标后由系统进行的操作。系统首先判断参数是否合法,首先要判定编码设备是否支持局部增强编码,如果不支持,就通过告警等形式通知用户系统不能完成用户想要的效果,如果编码设备支持局部增强编码,要继续判定用户选定位置,范围等参数是否合法,例如超过屏幕最大显示范围的参数,过小、过窄的图像范围都可以认为是不合法的。对参数进行计算包括把参数变换成其它易于表示的形式,或者把参数调整成编码器易于编码的值等,例如用户选定的范围并不一定是直线需要把选定的边界调整成直线边界,或者用户选定的边界位置处于一个奇数行或奇数列像素的位置等不易于编码的位置,此时可以把边界调整为距离此边界最近的16x16像素块的边界位置等。对于系统判定合法的、经过计算调整后的参数,还要以组合成编码设备可以接收并可以解析的形式发送给编码设备,参数组合的形式和参数发送的方式以系统支持并协商好的方案进行,并不固定为某一种方案。在上述实施例中,系统选择参数,并进行判定,然后转换成编码器可以识别的编码参数的过程是系统在进行视频局部增强编码之前进行的。系统接收到选择参数之后,首先根据系统的实际情况和编码设备的支持情况对接收到的参数进行解析,并判定合法性,对于非法的选择参数要以适当的形式通知用户哪些参数非法以及参数非法的情况,对于解析好并判定合法的选择参数继续转换成编码设备可以识别的形式送给编码设备进行图像局部增强编码。在下面介绍的实施例中,通信双方分别称为近端和远端,近端用户在看到的远端图像中选择自己感兴趣的区域或目标;远端的编码设备中对用户感兴趣的区域或者图像中的目标进行增强,然后把增强后的视频码流发给近端,近端收到视频码流后经过解码并经显示输出后就能呈现出用户需要的远端图像,该远端图像中包含局部增强的目标或者目标。在一些实施例中,近端能够让用户在图像中自由选择感兴趣区域或者感兴趣目标的设备可以是一个能显示远端图像并且能够对图像进行局部选择操作的显示器,并且近端包含能够对用户选择的区域或目标的参数进行判定、计算和发送的功能模块,远端应该包括至少一个图像采集器以采集远端的图像,远端还包括能够接受近端发送的用户感兴趣的图像区域或图像目标的参数,并对参数进行解析、判定并把参数传递给编码设备的功能模块,远端还包含支持视频局部增强编码的编码设备。对一些特定的实施例,近端和远端是相对的。例如一个支持图像局部增强技术的会议电视系统,假设系统的两端分别为A端和B端,如果设定A端是近端,则B端就是远端,同样如果设定B端是近端,则A端就是远端,这样A端和B端能够同时拥有局部图像选择设备和局部图像增强编码设备,在此情况下A端和B端在开会时,A端的用户看到B端的图像,A端的用户就可以选择B端图像中自己感兴趣的区域或目标,通知B端进行局部增强编码,B端设备把编码出的局部增强的视频码流发给A端,由A端的解码设备解码后由A端的显示设备来显示,同样B端用户看到A端的图像,B端的用户可以在自己看到的A端图像中选择自己感兴趣的区域或目标要求A端进行局部增强编码,进而看到A端局部增强后的图像。在一些实施例中,通信的双方A端和B端并不一定同时都要求具备局部图像选择设备和局部图像增强编码设备,而是通信的双方中一端具有局部图像选择设备和局部图像增强编码设备中的其中一个设备,而另一端具有局部图像选择设备和局部图像增强编码设备中的另一个设备即可,这种通信系统能够实现用户单方向的观看远端图像,并根据自己的需要选择远端图像中自己感兴趣的区域或目标让远端的图像编码设备编码出自己需用的图像码流。这样的通信系统如流媒体播放系统,VOD视频点播系统以及视频监控系统等均可使用本实施例的框架。在一些实施例中,在近端会有一个能够显示远端图像的显示器以便于用户观看远端图像,但是能够让用户在图像中自由选择感兴趣区域或者感兴趣目标的设备可以不跟显示器在同一终端或同一设备上,而是在近端的一个控制设备上,该控制设备可称为控制台,在控制台的显示设备上有一个页面可以实时显示远端图像,用户通过鼠标或者手写等设备在控制台的页面上显示的远端图像上选择自己感兴趣的区域或者目标,然后把选择参数发往远端,让远端进行局部增强编码,最终用户就能在本端的显示器上看到局部增强后的远端图像。在一些实施例中,能够让用户在图像中自由选择感兴趣区域或者感兴趣目标的用户选择设备和图像局部增强编码设备可以集成在系统的同一个设备或者同一端设备上,也就是用户选择看到的图像就是本端的图像,用户在选择了图像中感兴趣的区域或者感兴趣的目标后,系统就把选择参数发给本端的局部图像增强编码设备,由本端的局部图像增强编码设备对本端摄像机所采集的图像进行局部图像增强编码。该实施例可用于照相机设备,摄像机设备以及会议电视的本地自环系统等设备或系统中。在一些实施例中,正向增强模式的局部图像增强编码是通过对用户选择区域的图像或用户选择的目标进行高质量的编码实现的,这种高质量的编码可以是I_PCM编码,I_PCM编码是H.264标准支持的一种编码帧内模式,在该模式下编码器直接输出像素值不经过预测和变换,由于I_PCM编码模式是无损编码,而除此之外H.264支持的其它编码模式都是有损的,因此使用I_PCM编码模式可以使用户感兴趣区域或目标的图像质量和编码之前的原始图像质量一样的效果。由于I_PCM编码方式会占用较多的带宽,在带宽受限的情况下,可以降低用户感兴趣区域或用户感兴趣目标之外的图像的编码效果,把节省出来的带宽用于使用I_PCM编码的区域,此外也可以通过降低编码的帧频的方法来节省带宽以保证用户感兴趣区域的图像质量。当然,除了H.264视频压缩标准,H.265以及其它的视频压缩标准包括自定义的编码方法如果也支持无损压缩的话同样能用于该实施例中,以编码出最高质量的图像效果。在一些实施例中,正向增强模式的局部图像增强编码和反向增强模式的局部图像增强编码所用的编码方法是通过改变分配给编码宏块的码字数目实现的,其中在使用正向增强模式时,可以根据需要使用不同的编码策略,例如可以对感兴趣的区域的部分宏块采用I_PCM编码,部分宏块采用减小量化参数的方法进行编码,或者对整个感兴趣区域的内容都采用减小量化参数的方法进行编码,这些编码方法虽然达不到全部使用I_PCM编码的图像效果,但是还是能对感兴趣区域的画面质量做一定程度的增强。另外可以根据带宽的充裕度情况,可以考虑对用户选择区域或者目标所包含的宏块的编码分配给更多的码字,而对用户感兴趣区域或目标之外的宏块的编码分配给更少的码字。反之,在使用反向增强模式时,可以对用户选择的区域或目标所包含的宏块分配给较少的码字,也可以在编码之前对用户选择区域的图像做模糊化处理后再编码。其实在一些实施例中,对于使用正向增强和反向增强的编码,除了通过采用不同的编码方式来实现外,还可以采取更多的手段来保证算法的实施,例如在局部增强编码设备支持H.264编码时,由于H.264支持多种灵活的分片(slice)方式,可以把用户选择的区域或目标作为一个单独的slice进行增强编码,这样更利于编码过程的优化。在此基础上,我们假设用户选择的感兴趣区域是比较重要的区域,该区域作为一个独立的slice编码出来的图像码流在发送时可以作为一个单独的NALU(networkadaptationlayerunit,网络自适应层单元)来发送,根据H.264标准的定义,可以给不同的NALU赋予不同的发送优先级NRI,优先级NRI的值从高到低依次是3,2,1,0,如果在发送用户选择区域对应的NALU时,把该NRI的值设定为一个特定的值,而让系统认为这个特定的值所在的NALU具有超出一般NALU的重要性,进而在传输过程中采用一定的措施来保证这种NALU的传输可靠性,这样即便是在网络环境比较差的情况下也能保证用户选择的感兴趣区域的图像能更可靠的到达接收端,被用户看到。当然保证用户选定的NALU具有更高重要性的手段并不仅限于设定NRI的方法,但是目的都是为了更好地保证用户的需求能够得到满足。该实施例所述的编码方法以及传输方法在后面的附图以及具体实施方式中还有更详细的说明。在一些实施例中,替代模式的局部增强编码是在编码端对编码前的原始图像先进行指定区域或者目标的替代后再做编码,而在另一些实施例中,替代模式的局部增强编码并不需要局部图像增强编码设备做特殊的操作,而是由近端在解码出远端图像后根据用户选择参数对解码出的图像做局部的替代。当然图像局部增强的编码实现方法绝不仅限于这几种方法,设备上可以根据实际情况开发满足用户需求的图像局部增强技术。由于本发明的内容可以不同的实现方式用于多种视频通信系统中,为了便于理解,下面将结合实施例和附图对本发明做进一步的说明。图2(a),2(b),2(c),2(d)分别表示用户使用不同的方法选择图像中感兴趣区域的实施例示意图。图2(a)为使用手指在感应屏幕上选择感兴趣区域的示意图,图中外面的大方框为能够感应并记录手指移动的显示器,大方框内部的小方框表示用户用手指在屏幕上选择的区域范围;图2(b)为使用触笔在感应屏幕上选择图像感兴趣区域示意图,图中外面的大方框为能够感应触笔并记录触笔移动的显示器,大方框内的小方框表示用户用触笔在屏幕上选择的区域范围;图2(c)为用鼠标选择图像感兴趣区域示意图,图中的大方框表示一个显示器,该显示器不一定是专门用来显示远端图像的显示器,可以是控制设备的显示器,显示器中有一个页面可以显示远端图像,这样就可通过鼠标在页面显示的远端图像上选择自己感兴趣区域,用户选择的感兴趣区域如图中的小方框所示。图2(d)为用户使用眼睛注视的方法选取图像中感兴趣区域的示意图,图中的小蓝色方框为用户在图像中选择的感兴趣区域。用眼睛注视法在图像中选取感兴趣区域的原理为:根据用户眼睛角膜的几何中心点位置和显示器几何中性点位置的关系,当用户眼睛注视的位置发生变化时,眼睛角膜的几何中心点就会发生偏转,系统根据用户眼睛角膜几何中心点偏转的角度与显示器几何中心点的关系通过计算得到用户当前在显示器上注视的位置,如果用户注视的时间超过一定的时间限制就认为用户对该处的图像感兴趣,系统会提示用户是否需要对此处图像进行增强,以及需要增强的范围和增强模式等。此处列举的四个实施例只是为了简要说明用户选取图像中感兴趣区域的方法,实际使用中根据显示器屏幕材质以及系统需求的不同可由多种实现方法。图3是使用局部图像增强的双端系统的一个实施例框图,图中107(a)表示该系统的一端,称为近端,107(b)表示该系统的另一端,称为远端,107(a)和107(b)中包括:处理器101、显示器102、对外接口103、图像采集器104、系统控制设备108,系统控制设备108根据需要也可省略,107(a)中也可以不包括图像采集器104,107(b)中也可以不包括显示器102,其中:远端的图像显示在显示器102上,用户100在近端的显示器102显示的图像中选择自己感兴趣的区域或者目标106;近端的处理器101根据用户100所选的区域或者目标处理生成用户选择参数,将用户选择参数通过近端的对外接口103向外发送,经过网络105的传送到达远端;远端的对外接口103收到网络105送来的用户选择参数后送入远端的处理器101,远端的处理器101对用户选择参数进行解析,如果用户选择参数合法,则远端处理器101中的编码设备根据用户选择参数对图像采集器104采集来的图像进行局部增强编码,并将增强处理后的图像发送给近端。图中100表示使用视频通信系统的用户,可以是一个人或者多个人或者一个群体,101是系统的终端设备本文称处理器,整个系统的处理和一些控制均在101中完成,包括控制和操作图像采集器104,从图像采集器104中取采集来的图像,以及进行音视频的编解码处理等。显示器102可以是本身就跟处理器101在同一个设备上,也可以耦接在处理器101上,有些显示器102支持支持直接在屏幕上选择图像,如图2(a),2(b)所示的显示器,有些显示器102不支持直接在屏幕上的选择操作,可以借助控制设备108来实现对图像的局部选择操作,在控制设备108上借助鼠标选择感兴趣区域示意图如图2(c)所示。图像采集器104用于采集本地用户及其周围的图像,并把图像提供给系统中需要此图像的硬件或软件,例如可以把采集到的图像发送给本地的编码设备进行编码,然后把编码后的视频流发给所述近端,同样也可以把采集到的图像直接在本地的显示设备上显示,当然也可以把采集到的图像编码后存储起来。根据系统的需求图像采集器104在一端的个数可能并不固定,可以有一个也可以有多个。系统中一端的显示器的个数也可以根据需求变化,并不固定为1个或几个。图像采集器104可以是摄像机、摄像头等等。对于两个端使用图像局部增强技术的视频通信系统来说,可以根据需要对图3所示的系统进行修改、添加或删减。例如,如果系统中处理器本身就可以支持图像局部选择和图像局部增强编码,那么就可以删减掉图3中的控制设备108。作为另一个实施例,可以在107a中支持用户在图像中选择感兴趣区域,而在107b中支持图像局部增强编码,107a端的用户就能观看到107b端的图像,并选择图像中自己感兴趣的区域或者目标然后让107b端做局部增强编码,把107a换成107b并把107b换成107a也能完成同样的操作。这样的实施例可用于例如视频监控系统。作为另一个实施例如果107a端和107b端都支持用户选择图像中感兴趣区域或目标,并且编码设备都支持图像局部增强编码,那么这两端可以各自完成对本端图像的局部增强,即两端的用户可以根据需要观看本端图像局部增强后的效果。上述双端系统可用于包括视频会议系统在内的同种视频通信系统,例如ZTE中兴通讯的T700/T800/T900视频会议系统。。图4为一个使用图像局部增强的单端系统的框图,该单端系统205包括处理器200、图像采集器201、显示器202、其中:处理器200用于:处理本地图像,包括:接收到显示器202发送的选择参数后,使用自带的图像局部增强编码设备对采集到的图像做局部增强编码;以及,完成整个系统的内部操作、控制功能;图像采集器201用于:摄入本地图像,将采集到的图像发送给处理器;图像采集器201可以是镜头、摄像头等;显示器202用于:显示图像采集器201摄入的图像画面,以及提供对图像进行选择操作的功能,用户204可以在显示器202上显示的图像中选择自己感兴趣的区域或者目标203,显示器202获取用户所选择的区域或者目标生成选择参数,然后把选择参数发给处理器200做处理。上述实施例所示的单端系统可用于照相机、摄像机等拍摄设备中。图5(a)和图5(b)为用户选择固定跟踪模式进行图像局部增强的一个实施例示意图,在该实施例中,用户选择对图像中固定位置的目标做局部增强,其中图5(a)表示用户选择定了图像中感兴趣位置的目标,并且选择了增强模式和增强级别,而选择的跟踪模式为固定模式,5(b)表示固定跟踪模式下的图像效果,可以看出图像中局部增强的位置正是用户选定的感兴趣的位置,除非用户取消增强或者选择动态跟踪模式,否则系统将一直在图像中的该位置处做局部增强。图6(a)、6(b)和6(c)为用户选择动态跟踪模式进行图像局部增强的一个实施例示意图,在该实施例中,用户选择对图像中感兴趣区域中的目标做动态局部增强,其中图6(a)表示用户选择定了图像中感兴趣位置的目标,并且选择了增强模式和增强级别,而选择的跟踪模式为动态模式,图6(b)和6(c)在不同时间的图像中用户选定区域中的目标在不停的运动而增强的区域位置也在随着目标的运动而运动,保证用户选定的感兴趣目标总在局部增强的区域之内,6(d)为运动目标运动出图像显示的范围之内或者运动目标到达不宜增强的位置或者用户取消图像局部增强的情况,此时图像画面回到系统默认的图像效果。需要指出的是,以上内容中提到的增强是以画面中的局部区域做增强为例,其增强模式并不限定。在实际使用过程中可以根据实际情况可对选择增强目标的数量,大小等等做出限定。同样在实际使用中也可以根据系统支持情况选择图像中的个别目标做图像效果增强,如图7(a)和图7(b)所示。图7(a)表示图像中有多个目标,用户选定了其中一个目标(图中的人像),图7(b)表示对用户选择的目标做图像增强,当然如果用户选定的目标是运动的,就可以选择动态跟踪模式对选择的目标做跟踪增强。图8(a)和图8(b)表示使用不同格式的片组来进行图像局部增强编码的示意图。图8(a)中被分割开的区域表示该画面中的一个个片(slice),在图8(a)中共有N个slice分别被编号为0,1,...,N-1,在图8(b)中一个个被方框框起来的区域也表示一个个的slice,在图8(b)中共有M个slice,分别被编号为0,1...,M-1。图中的虚线方框表示用户选定的感兴趣区域,在一些实施例中,对用户选定使用正向增强模式的感兴趣区域所包含的宏块通过使用I_PCM编码模式进行编码,这样可以使用户选定的感兴趣区域达到最好的图像效果,以H.264标准支持的预测编码模式为例,相对于其它的预测编码模式,I_PCM编码模式最大好处是能够实现完全无损的编码,而其它任何预测编码都是有损的。除此之外,还可以通过改变给待编码宏块分配不同码字的方法进行增强编码,这是因为根据H.264标准的内容可知,给宏块分配的码字数目对图像的质量有着重要影响,其中给宏块分配的码字越少图像质量就越粗糙,反之给宏块分配的码字越多图像的质量越精细。因此通过控制编码时给宏块分配的码字多少可以一定程度上改变视频的质量,在实际实施时,对于正向增强也可以选择减小量化参数进行编码或者减小量化参数和I_PCM编码相结合的方式来实现视频质量的增强;对反向增强可以通过在编码前模糊化待编码区域或者对待编码区域进行编码时采用更大的量化参数来实现。根据H.264标准,一帧图像至少由一个片(slice)组成,而一个slice又包括多个宏块,一个宏块在编码时又可以分成多个子块各自编码。把一个帧间预测宏块分成多个子块,对各个子块分别编码的好处在于,各个子块可以有自己独立的运动矢量和预测方式,这样不但能够使图像预测的更加准确,而且能降低码率。图8(a)表示用光栅扫描格式的片组进行图像编码的实施例示意图,即各个slice的序号是从上到下依次递增的,编码或解码时也是按照光栅扫描的顺序从左到右,从上到下挨个宏块的依次进行编码或解码。在此情况下用户选择的感兴趣区域就有可能被分割到多个slice中,也可能被包含在一个slice里,这样只要让编码器在编码到用户感兴趣区域的宏块时根据用户需求进行特殊的编码就能达到增强编码的目的,编码完成后用户感兴趣区域的码流就根据slice分割的情况包含在多个slice里发送出去或者被包含在一个普通的slice里被发送出去。根据H.264标准,一帧内的各个slice之间在编码和解码时是相互独立的,即相互不参考对方的内容进行编码和解码,而H.264标准同样支持灵活次序(FMO)片组格式进行编码,即宏块不是按照光栅扫描次序包含在片组里,而是以某种方式来映射到片组,FMO片组共有6种映射类型:交错映射、散乱映射、前景及背景映射、Box_out映射、手绢映射和显式映射,这六种映射方式的具体描述可以参考H.264相关协议标准。图8(b)显示的就是一个使用前景和背景映射的片组格式进行局部增强编码的实施例示意图,采用这种片组格式就能把图像中用户选择的感兴趣区域作为一个独立的slice进行编码,在编码过程中做用户指定的图像质量增强,而一帧中其它的slice使用系统默认参数的编码,不需要进行图像质量增强。这样做的一个好处就是能把用户选择区域编码出来的slice封装成一个NALU发送,然后给此NALU指定更高的传输优先级,进而让系统采用一定的方法保证该NALU在传输过程中有更高的可靠性,即不易被丢失和发生误码。本发明实施例还提供一种图像局部增强装置,如图9所示,包括:检测模块,用于获取用户选定的区域或目标;参数生成模块,用于根据所述选定的区域或目标生成选择参数;传输模块,用于将所述选择参数发送给对端。其中,所述参数生成模块还用于,获取所述用户选定的增强模式,或者,增强模式和增强级别,将所述增强模式,或者,增强模式和增强级别添加到所述选择参数中。其中,所述选择参数中还包括:跟踪模式,所述跟踪模式为如下之一:固定模式,指示在取消增强之前每一帧均在所述选定的区域进行增强;动态模式,指示在取消增强之前每一帧跟踪所述选定的目标,且当所述目标在增强范围内时对所述目标进行增强。其中,所述参数生成模块生成所述选择参数前,还判断所述对端是否支持局部增强编码,以及,所述选定的区域或目标是否满足预设条件,在所述对端支持局部增强编码以及所述选定的区域或目标满足所述预设条件时,才生成所述选择参数。本发明实施例还提供一种图像局部增强装置,如图10所示,包括:接收模块,用于接收对端发送的根据用户所选定的区域或目标生成的选择参数;增强模块,用于根据所述选择参数对所述选定的区域或目标进行增强;发送模块,用于将对所述选定的区域或目标进行增强后的图像发送给所述对端。其中,所述增强模块对所述选定的区域或目标进行增强包括:根据所述选择参数中的增强模式,或者,增强模式和增强级别对所述选定的区域或目标进行增强。其中,所述增强模块对所述选定的区域或目标进行增强包括:当所述选择参数中指示提高所述选定的区域或目标的图像质量时,采取如下方式之一或其组合:使用I_PCM编码模式对所述选定的区域或目标的图像进行编码;通过减小编码宏块的量化参数对所述选定的区域或目标的图像进行编码;通过增加编码宏块的码字对所述选定的区域或目标的图像进行编码;当所述选择参数中指示降低所述选定的区域或目标的图像质量时,采取如下方式之一或其组合:通过增大编码宏块的量化参数对所述选定的区域或目标的图像进行编码;通过减少编码宏块的码字对所述选定的区域或目标的图像进行编码;对所述选定的区域或目标的图像进行模糊化处理后再编码。其中,所述增强模块还用于将所述选定区域或目标作为一个独立的片进行编码;所述发送模块还用于将所述独立的片作为一个单独的网络自适应层单元,为所述网络自适应层单元设置特定传输优先级。其中,所述增强模块根据所述选择参数对所述选定的区域或目标进行增强前,还判断所述选择参数是否符合预设条件,如果符合,才根据所述选择参数对所述选定的区域或目标进行增强。本发明实施例还提供一种图像局部增强装置,如图11所示,包括检测模块、参数生成模块和增强模块,其中:所述检测模块用于,获取用户选定的区域或目标;所述参数生成模块用于,根据所述选定的区域或目标生成选择参数,将所述选择参数发送给所述增强模块;所述增强模块用于,根据所述选择参数对所述选定的区域或目标进行增强,生成对所述选定的区域或目标进行增强后的图像。其中,所述参数生成模块还用于,获取所述用户选定的增强模式,或者,增强模式和增强级别,将所述增强模式,或者,增强模式和增强级别添加到所述选择参数中;所述增强模块对所述选定的区域或目标进行增强包括:根据所述选择参数中的增强模式,或者,增强模式和增强级别对所述选定的区域或目标进行增强。其中,所述选择参数中还包括:跟踪模式,所述跟踪模式为如下之一:固定模式,指示在取消增强之前每一帧均在所述选定的区域进行增强;动态模式,指示在取消增强之前每一帧跟踪所述选定的目标,且当所述目标在增强范围内时对所述目标进行增强。其中,所述增强模块对所述选定的区域或目标进行增强包括:当所述选择参数中指示提高所述选定的区域或目标的图像质量时,采取如下方式之一或其组合:使用I_PCM编码模式对所述选定的区域或目标的图像进行编码;通过减小编码宏块的量化参数对所述选定的区域或目标的图像进行编码;通过增加编码宏块的码字对所述选定的区域或目标的图像进行编码;当所述选择参数中指示降低所述选定的区域或目标的图像质量时,采取如下方式之一或其组合:通过增大编码宏块的量化参数对所述选定的区域或目标的图像进行编码;通过减少编码宏块的码字对所述选定的区域或目标的图像进行编码;对所述选定的区域或目标的图像进行模糊化处理后再编码。本发明实施例还提供一种图像局部增强系统,包括图9和图10所示的装置。需要说明的是,上述方法实施例中描述的多个细节同样适用于装置实施例,因此省略了对相同或相似部分的重复描述。本领域普通技术人员可以理解上述方法中的全部或部分步骤可通过程序来指令相关硬件完成,所述程序可以存储于计算机可读存储介质中,如只读存储器、磁盘或光盘等。可选地,上述实施例的全部或部分步骤也可以使用一个或多个集成电路来实现。相应地,上述实施例中的各模块/单元可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。本发明不限制于任何特定形式的硬件和软件的结合。
当前第1页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1