一种图像处理系统及方法与流程

文档序号:11199156阅读:697来源:国知局
一种图像处理系统及方法与流程

本发明涉及图像处理技术,特别涉及一种图像处理系统及方法。



背景技术:

近年来,soc(soc,systemonchip,片上系统)芯片广泛的应用于图像处理领域。

soc芯片将系统关键部件,例如中央处理器、数字信号处理器以及图像处理器等集中在一块,也即,soc芯片是一个微型系统,可以作为图像处理系统使用。

现有技术中的主流系统级soc芯片,例如高通骁龙、英伟达tagra以及联发科中的图像处理系统的数据路径,参考图1所示,包括:存储器10、图像传感器11、输入端口12、实时图像处理器13、离线图像处理器14、显示处理器15、jpeg编码器16、显示输出端口17以及外部存储18。

由于现有技术中的主流系统级soc芯片的图像数据路径比较简单,均在芯片内部,对输入图像进行图像处理的过程不足以发挥图像处理器的全部性能,最终导致soc芯片的图像处理能力受限。而使用同一种soc芯片的对于不同设备的制造,会受限于同一种soc芯片中的图像处理器而不能灵活添加各种功能。总的来说,现有技术中的soc芯片受限于均在芯片内部的数据路径,使图像处理性能受限,不易引入新的功能。



技术实现要素:

有鉴于此,本发明的目的在于提供一种图像处理系统及方法,在使用soc芯片进行图像处理时,克服不易引入新功能的问题。其具体方案如下:

一种图像处理系统,包括soc芯片、第一端口以及位于所述soc芯片外部的图像处理芯片;其中,

所述soc芯片,用于接收输入图像,并对所述输入图像进行处理,得到第一处理图像;

所述第一端口,用于将所述soc芯片得到的所述第一处理图像传输至所述图像处理芯片;

所述图像处理芯片,用于对所述第一处理图像进行处理,得到第二处理图像;

其中,所述第一端口为mipidsi端口或hdmi端口。

优选地,所述soc芯片,包括第二端口和实时isp;其中,

所述第二端口,用于接收所述输入图像并发送至所述实时isp,其中,所述第二端口为mipicsi端口或hdmi端口;

所述实时isp,用于对所述输入图像进行处理,得到所述第一处理图像,并将所述第一处理图像发送至所述第一端口。

优选地,还包括:

ddr存储器,用于通过所述第二端口,接收所述图像处理芯片传输的所述第二处理图像,并对所述第二处理图像进行存储;

离线isp,用于从所述ddr存储器中获取所述第二处理图像,并对所述第二处理图像进行处理,得到第三处理图像;

其中,所述离线isp位于所述soc芯片内部。

优选地,所述soc芯片,包括第二端口、实时isp和离线isp;其中,

所述第二端口,用于接收所述输入图像并发送至所述实时isp,其中,所述第二端口为mipicsi端口或hdmi端口;

所述实时isp,用于对所述输入图像进行处理,得到实时处理图像,并将所述实时处理图像发送至预设的ddr存储器进行保存;

所述离线isp,用于从所述ddr存储器中获取所述实时处理图像,并对所述实时处理图像进行处理,得到所述第一处理图像,并将所述第一处理图像发送至所述第一端口。

优选地,所述图像处理芯片,包括:

第一处理器,用于接收所述第一端口传输的所述第一处理图像,并对所述第一处理图像进行相应的图像处理,得到所述第二处理图像;

其中,所述第一处理器进行的相应的图像处理包括hdr处理和/或降噪处理和/或散景处理和/或基于深度学习的对象识别处理。

优选地,所述图像处理芯片,还包括第二处理器和第三端口;其中,

所述第二处理器,用于获取所述第三端口接收到的原始图像,并对所述原始图像进行预处理,得到所述输入图像;

所述第三端口,用于将所述第二处理器得到的所述输入图像传输至所述soc芯片;其中,所述第三端口为mipicsi端口;

其中,所述预处理包括低光降噪处理和/或3a图像统计收集处理和/或基于深度学习的场景检测处理。

本发明还公开了一种图像处理方法,包括:

利用soc芯片接收输入图像,并对所述输入图像进行处理,得到第一处理图像;

利用第一端口将所述soc芯片得到的所述第一处理图像传输至图像处理芯片;

利用所述图像处理芯片对所述第一处理图像进行处理,得到第二处理图像;

其中,所述第一端口为mipidsi端口或hdmi端口。

优选地,所述利用soc芯片接收输入图像,并对所述输入图像进行处理,得到第一处理图像的过程,包括:

利用所述soc芯片内部的第二端口接收所述输入图像并发送至所述soc芯片内部的实时isp,其中,所述第二端口为mipicsi端口或hdmi端口;

利用所述实时isp对所述输入图像进行处理,得到所述第一处理图像,并将所述第一处理图像发送至所述第一端口。

优选地,还包括:

利用ddr存储器通过所述第二端口,接收所述图像处理芯片传输的所述第二处理图像,并对所述第二处理图像进行存储;

利用离线isp从所述ddr存储器中获取所述第二处理图像,并对所述第二处理图像进行处理,得到第三处理图像;

其中,所述离线isp位于所述soc芯片内部。

优选地,所述利用soc芯片接收输入图像,并对所述输入图像进行处理,得到第一处理图像的过程,包括:

利用所述soc芯片内部的第二端口接收所述输入图像并发送至所述soc芯片内部的实时isp,其中,所述第二端口为mipicsi端口或hdmi端口;

利用所述实时isp对所述输入图像进行处理,得到实时处理图像,并将所述实时处理图像发送至预设的ddr存储器进行保存;

利用所述soc芯片内部的离线isp从所述ddr存储器中获取所述实时处理图像,并对所述实时处理图像进行处理,得到所述第一处理图像,并将所述第一处理图像发送至所述第一端口。

优选地,所述利用所述图像处理芯片对所述第一处理图像进行处理,得到第二处理图像的过程,包括:

利用所述图像处理芯片内部的第一处理器接收所述第一端口传输的所述第一处理图像,并对所述第一处理图像进行相应的图像处理,得到所述第二处理图像;

其中,所述第一处理器进行的相应的图像处理包括hdr处理和/或降噪处理和/或散景处理和/或基于深度学习的对象识别处理。

优选地,还包括:

利用所述图像处理芯片内部的第二处理器获取所述图像处理芯片内部的第三端口接收到的原始图像,并对所述原始图像进行预处理,得到所述输入图像;

利用所述第三端口将所述第二处理器得到的所述输入图像传输至所述soc芯片;其中,所述第三端口为mipicsi端口;

其中,所述预处理包括低光降噪处理和/或3a图像统计收集处理和/或基于深度学习的场景检测处理。

本发明中,图像处理系统包括soc芯片、第一端口以及位于soc芯片外部的图像处理芯片;其中,soc芯片,用于接收输入图像,并对输入图像进行处理,得到第一处理图像;第一端口,用于将soc芯片得到的第一处理图像传输至图像处理芯片;图像处理芯片,用于对第一处理图像进行处理,得到第二处理图像;其中,所述第一端口为mipidsi端口或hdmi端口。可见,本发明在图像处理过程中,通过第一端口,使soc芯片对输入图像处理后得到的第一处理图像能够传输至外部的图像处理芯片,从而可以利用外部的图像处理芯片灵活地添加各种定制功能。总的来说,利用本发明的图像处理系统能够克服在进行图像处理时使用soc芯片不易引入新的功能的问题。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。

图1为现有技术中的主流系统级soc芯片进行图像处理时结构与数据路径示意图;

图2为本发明实施例公开的一种图像处理系统结构示意图;

图3为本发明实施例公开的一种具体的图像处理系统结构示意图;

图4为本发明实施例公开的另一种具体的图像处理系统结构示意图;

图5为本发明实施例公开的一种图像处理方法流程图;

图6为本发明实施例公开的一种具体的图像处理方法流程图;

图7为本发明实施例公开的另一种具体的图像处理方法流程图。

具体实施方式

下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。

本发明实施例公开了一种图像处理系统,参见图2所示,该系统包括soc芯片21、第一端口22以及位于soc芯片外部的图像处理芯片23。具体的:

soc芯片21,用于接收输入图像,并对输入图像进行处理,得到第一处理图像。

本实施例中,上述soc芯片21是一个微型的系统,由多个系统的部件组成,包括中央处理器、数字信号处理器以及图像处理器等,因此一些系统级的soc芯片,例如高通骁龙、英伟达tagra以及联发科等soc芯片可以应用于图像处理。soc芯片21可以利用接收图像数据的端口接收来自传感器的图像,例如接收摄像头捕捉的图像等,然后通过soc芯片21内部的数据路径把图像数据传输至一些图像处理器,利用图像处理器对图像数据进行处理,然后进行输出。

需要说明的是,在soc芯片21内部是有多种图像处理器的,因此soc芯片21对图像数据的处理也是多种多样的,例如对图像数据进行线性纠正、降噪、坏点去除、细节增强等处理,从而提高图像输出的质量。

第一端口22,用于将soc芯片21得到的第一处理图像传输至图像处理芯片。

本发明实施例中,第一端口的主要功能是将经soc芯片21处理后的图像数据传输至soc芯片21外部的图像处理器23。而第一端口22可以是在soc芯片21的内部原有的端口,通过利用安卓软件进行修改,赋予这些端口将soc芯片21处理后的图像数据传输至外部的功能。第一端口22还可以是soc芯片21外部新增的端口,新增的第一端口可以直接与soc芯片21内部关键的图像处理器连接,对关键的图像处理器的安卓堆栈进行修改,使第一端口22直接获取这些关键的图像处理器处理后的图像数据,传输至soc芯片21外部的图像处理器。

需要说明的是,第一端口22为mipidsi端口(mipidsi,mobileindustryprocessorinterfacedisplayserialinterfacespecification,移动产业处理器接口显示器串行接口规范)或hdmi端口(hdmi,highdefinitionmultimediainterface,高清晰多媒体接口)。

图像处理芯片23,用于对第一处理图像进行处理,得到第二处理图像。

本发明实施例中,图像处理芯片23通过第一端口22,接收来自soc芯片21的第一处理图像,也就是经过soc芯片21处理后的图像数据,对这些图像数据再做进一步的处理,再度提升图像数据的质量。soc芯片21外部的图像处理芯片23主要是提供各种图像处理功能,这些功能一般在仅使用soc芯片21进行图像处理时是没有的,或者不易实现的,例如低光降噪以及hdr(hdr,high-dynamicrange,高动态光照渲染)等。

需要说明的是,为了实现各种图像功能,图像处理芯片23的选取是多种的,图像处理芯片23内部的图像处理器也是多种多样的,这里不做限定,使用soc芯片21外部的图像处理芯片23对图像数据再度进行处理,可以再次提高图像数据的质量或者实现其它图像处理功能。

可见,本实施例在图像处理过程中,通过第一端口22,使soc芯片21对输入图像处理后得到的第一处理图像能够传输至外部的图像处理芯片23,从而可以利用外部的图像处理芯片23灵活地添加各种定制功能。总的来说,利用本发明的图像处理系统能够克服在进行图像处理时使用soc芯片21不易引入新的功能的问题。

本发明实施例公开了一种具体的图像处理系统,参见图3所示,图3为本实施例系统结构示意图,相对于上一实施例,本实施例对技术方案作了进一步的说明和优化。具体的:

soc芯片31中包括第二端口312和实时isp313(isp,imagesignalprocessing,图像信号处理单元),其中:

第二端口312,用于接收输入图像并发送至实时isp313,其中,第二端口31为mipicsi端口(mipicsi,即mobileindustryprocessorinterfacecomssensorinterface,移动产业处理器接口传感摄像头接口)或hdmi端口。

本实施例中,第二端口312为soc芯片31内部的数据接收端口,可以用于接收soc芯片31外部图像传感器,例如摄像头的图像数据,还可以用于接收其它图像数据,例如图像处理芯片32的数据等。第二端口312在接收图像数据后可以将图像数据传输至soc芯片31内部的部件进行相应的处理,例如传输至实时isp32进行处理,还可以将图像数据传输至soc芯片31外部的部件,例如存储器等。

实时isp313,用于对输入图像进行处理,得到第一处理图像,并将第一处理图像发送至第一端口311。

本实施例中,实时isp313为soc芯片31内部图像处理器的一种,用于对输入soc芯片31的图像数据进行实时的处理。例如,在进行摄像头的图像数据的处理时,可以逐行或逐像素模式与摄像头传感器进行同步,然后对同步获取的图像数据进行处理,如进行线性纠正、降噪、坏点去除、内插、白平衡以及颜色转换等一些典型的isp处理,提高图像数据的显示的质量。

需要说明的是,在本实施例中,从soc芯片31发送至第一端口311的第一处理图像只经过实时isp313处理得到,在经过图像处理芯片32处理后的第二处理图像还需要再次经过soc芯片31的其它处理,才可以输出,因此第二处理图像还需要经过第二端口312进入soc芯片31。

图像处理芯片32,包括:

第一处理器321,用于接收第一端口311传输的第一处理图像,并对第一处理图像进行相应的图像处理,得到第二处理图像;

其中,第一处理器进行的相应的图像处理包括hdr处理和/或降噪处理和/或散景处理和/或基于深度学习的对象识别处理。

本实施例中,利用soc芯片31外部的图像处理芯片32的第一处理器321,在soc芯片31处理图像数据的过程中间,可以增加新的处理步骤。在soc芯片31进行图像的实时处理后,通过第一端口311将第一处理图像,也就是实时处理后的图像传输至第一处理器321进行处理,以提高图像的质量,例如利用第一处理器33进行降噪、hdr以及散景处理。还可以通过第一处理器321进行处理,从而引进新的功能,例如对图像进行基于深度学习的对象识别处理,识别图像中的各种信息,如文字等,从而达到智能获取图像信息的功能。

其中,图像处理芯片32,还包括第二处理器322以及第三端口323,具体的:

第二处理器322,用于获取第三端口323接收到的原始图像,并对原始图像进行预处理,得到输入图像;

其中,预处理包括低光降噪处理和/或3a图像统计收集处理和/或基于深度学习的场景检测处理。

本实施例中,利用soc芯片31外部的图像处理芯片32的第二处理器322,在soc芯片31处理图像数据的过程之前,可以增加新的预处理步骤。在soc芯片31进行图像的实时处理之前,通过图像处理芯片32的第三端口323接收原始图像,例如接收摄像头传感器发送的原始图像,进行图像的初步预处理。例如利用第二处理器322对原始图像进行低光降噪、3a图像统计收集等处理,以提高图像质量。还可以通过第二处理器322进行图像处理,从而引进新功能,例如对原始图像进行基于深度学习的场景检测,达到智能获取图像信息的功能。

第三端口323,用于将第二处理器得到的输入图像传输至soc芯片31;其中,第三端口为mipicsi端口。

本实施例中,第三端口323除了可以接收原始图像并传输至第二处理器322,还可以将第二处理器322对原始图像进行预处理后的输入图像传输至soc芯片31,再由soc芯片31的上述各部件间进行图像的传输与处理。

需要说明的是,第三端口323为mipicsi端口。

本申请实施例中,还包括:

ddr存储器33,用于通过第二端口312,接收图像处理芯片32传输的第二处理图像,并对第二处理图像进行存储。

本申请实施例中,第二端口312除了可以接收输入图像并发送至实时isp313,还可以接收来自图像处理芯片32的图像数据,例如接收经过图像处理芯片32的第一处理器321处理后的第二处理图像,以及接收第二处理器322处理后的输入图像。在接收第一处理器321处理后的第二处理图像,还可以利用第二端口312连接soc芯片31外部的ddr存储器33进行图像的储存以及对图像的帧缓冲。

离线isp314,用于从ddr存储器33中获取第二处理图像,并对第二处理图像进行处理,得到第三处理图像;

本实施例中,离线isp314位于soc芯片31内部。

soc芯片31除了对图像进行实时isp图像处理,还需要进行图像的离线isp处理,在图像处理芯片32进行处理后,soc芯片31还需获取第二处理图像进行离线处理,这时可以使用soc芯片31内部的离线isp314获取ddr存储器33中获取第二处理图像进行处理。离线isp314会对第二处理图像进行典型的后置处理,例如暗光去噪、细节增强等,最终得到第三处理图像,整个图像处理过程结束。在系统级soc芯片,例如在高通骁龙内,离线isp具体为高通骁龙内的cpp(cpp,camerapostprocessor)。

上述实施例中soc芯片31外部的图像处理芯片32支持透明模式,也即,在图像处理的过程中,图像可以直接进入soc芯片31内进行处理,整个处理过程图像处理芯片32可以不参与。

本发明实施例公开了另一种具体的图像处理系统,参见图4所示,相对于上一实施例,本实施例对技术方案作了改进。具体的:

soc芯片41中包括第二端口412和实时isp413以及离线isp414,其中:

第二端口412,用于接收输入图像并发送至实时isp413,其中,第二端口为mipicsi端口或hdmi端口;

实时isp413,用于对输入图像进行处理,得到实时处理图像,并将实时处理图像发送至预设的ddr存储器43进行保存;

离线isp414,用于从ddr存储器43中获取实时处理图像,并对实时处理图像进行处理,得到第一处理图像,并将第一处理图像发送至第一端口411。

相对于上一实施例,本实施例中从soc芯片41发送至第一端口411的第一处理图像是经过实时isp413以及离线isp414处理得到,因此再经过图像处理芯片42的第一处理器421处理,得到第二处理图像,整个图像处理过程结束。

图像处理芯片42,包括:

第一处理器421,用于接收第一端口411传输的第一处理图像,并对第一处理图像进行相应的图像处理,得到第二处理图像;

其中,第一处理器进行的相应的图像处理包括hdr处理和/或降噪处理和/或散景处理和/或基于深度学习的对象识别处理。

本实施例中,利用soc芯片41外部的图像处理芯片42的第一处理器421,在soc芯片41处理图像数据的过程之后,增加新的处理步骤。在soc芯片41进行图像的实时以及离线处理后,通过第一端口411将第一处理图像,也就是实时处理后的图像传输至第一处理器421进行处理,以提高图像的质量,例如利用第一处理器421进行降噪、hdr以及散景处理。还可以通过第一处理器421进行处理,从而引进新的功能,例如对图像进行基于深度学习的对象识别处理,识别图像中的各种信息,如文字等,从而达到智能获取图像信息的功能。

本实施例经过上述步骤的处理后,得到的第二处理图像为最终的处理图像,整个图像处理过程结束。

其中,图像处理芯片42,还包括第二处理器422以及第三端口423,具体的:

第二处理器422,用于获取第三端口423接收到的原始图像,并对原始图像进行预处理,得到输入图像;

其中,预处理包括低光降噪处理和/或3a图像统计收集处理和/或基于深度学习的场景检测处理。

第三端口423,用于将第二处理器得到的输入图像传输至soc芯片41;其中,第三端口为mipicsi端口。

上述实施例中soc芯片41外部的图像处理芯片42支持透明模式,也即,在图像处理的过程中,图像可以直接进入soc芯片41内进行处理,整个处理过程图像处理芯片42可以不参与。

关于上述各个部件更加详细的工作过程可以参考前述实施例中公开的相应内容,在此不再赘述。

本发明实施例还公开了一种图像处理方法,参见图5所示,该方法包括:

步骤s11:利用soc芯片接收输入图像,并对输入图像进行处理,得到第一处理图像。

步骤s12:利用第一端口将soc芯片得到的第一处理图像传输至图像处理芯片。

步骤s13:利用图像处理芯片对第一处理图像进行处理,得到第二处理图像;

其中,第一端口为mipidsi端口或hdmi端口。

可见,本实施例在图像处理过程中,通过第一端口,使soc芯片对输入图像处理后得到的第一处理图像能够传输至外部的图像处理芯片,从而可以利用外部的图像处理芯片灵活地添加各种定制功能。总的来说,利用本发明的图像处理系统能够克服在进行图像处理时使用soc芯片不易引入新的功能的问题。

关于上述各个步骤中使用的部件的更加详细的工作过程可以参考前述实施例中公开的相应内容,在此不再赘述。

本发明实施例公开了一种具体的图像处理方法,参见图6所示,该方法包括:

步骤s21:利用图像处理芯片内部的第二处理器获取图像处理芯片内部的第三端口接收到的原始图像,并对原始图像进行预处理,得到输入图像;

其中,预处理包括低光降噪处理和/或3a图像统计收集处理和/或基于深度学习的场景检测处理。

步骤s22:利用第三端口将第二处理器得到的输入图像传输至soc芯片;其中,第三端口为mipicsi端口。

步骤s23:利用soc芯片内部的第二端口接收输入图像并发送至soc芯片内部的实时isp,其中,第二端口为mipicsi端口或hdmi端口。

步骤s24:利用实时isp对输入图像进行处理,得到第一处理图像,并将第一处理图像发送至第一端口。

步骤s25:利用图像处理芯片内部的第一处理器接收第一端口传输的第一处理图像,并对第一处理图像进行相应的图像处理,得到第二处理图像。

其中,第一处理器进行的相应的图像处理包括hdr处理和/或降噪处理和/或散景处理和/或基于深度学习的对象识别处理。

步骤s26:利用ddr存储器通过第二端口,接收图像处理芯片传输的第二处理图像,并对第二处理图像进行存储。

步骤s27:利用离线isp从ddr存储器中获取第二处理图像,并对第二处理图像进行处理,得到第三处理图像;

其中,离线isp位于soc芯片内部。

关于上述各个步骤中使用的部件的更加详细的工作过程可以参考前述实施例中公开的相应内容,在此不再赘述。

本发明实施例公开了另一种具体的图像处理方法,参见图7所示,该方法包括:

步骤s31:利用图像处理芯片内部的第二处理器获取图像处理芯片内部的第三端口接收到的原始图像,并对原始图像进行预处理,得到输入图像;

其中,预处理包括低光降噪处理和/或3a图像统计收集处理和/或基于深度学习的场景检测处理。

步骤s32:利用第三端口将第二处理器得到的输入图像传输至soc芯片;其中,第三端口为mipicsi端口。

步骤s33:利用soc芯片内部的第二端口接收输入图像并发送至soc芯片内部的实时isp,其中,第二端口为mipicsi端口或hdmi端口。

步骤s34:利用实时isp对输入图像进行处理,得到实时处理图像,并将实时处理图像发送至预设的ddr存储器进行保存。

步骤s35:利用soc芯片内部的离线isp从ddr存储器中获取实时处理图像,并对实时处理图像进行处理,得到第一处理图像,并将第一处理图像发送至第一端口。

步骤s36:利用图像处理芯片内部的第一处理器接收第一端口传输的第一处理图像,并对第一处理图像进行相应的图像处理,得到第二处理图像。

其中,第一处理器进行的相应的图像处理包括hdr处理和/或降噪处理和/或散景处理和/或基于深度学习的对象识别处理。

关于上述各个步骤中使用的部件的更加详细的工作过程可以参考前述实施例中公开的相应内容,在此不再赘述。

最后,还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

以上对本发明所提供的一种图像处理系统及方法进行了详细介绍,本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本发明的限制。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1