图像融合方法、装置及计算机可读存储介质与流程

文档序号:11251867
本发明图像处理
技术领域
:,尤其涉及一种图像融合方法,装置以及计算机可读存储介质。
背景技术
::长截图主要依靠对图像的分析,将不同屏幕中显示的内容最终合成为一张长图的过程,为了使长图内容得到大众认知下应该显示的内容,需要使用到图像分析的算法,如模板匹配算法辅助完成。模板匹配算法中,模板就是一幅已知的小图像。模板匹配就是在一幅大图像中搜寻目标,已知该图中有要找的目标,且该目标同模板有相同的尺寸、方向和图像,通过一定的算法可以在图中找到目标,确定其坐标位置。下面先定义模板匹配算法中的几个基本概念:定位核:也称为模板图像,其中包含搜索模式。实时图像:也称为搜索图像,在其中定位和定位核相同的模式。分数:实时图像中,当前模式和定位核的相似性度量。分数量化到0.0和1.0之间;分数越高,匹配更为接近。定位核与实时图像偏移处(u,v)的相关系数定义为:公式(1)中,I表示实时图像,M表示模板图像,即定位核,m表示模板图像的宽度,n表示模板图像的高度,u、v分别表示横向、纵向偏移量,i,j表示某一点的横向坐标与纵坐标。其中,实时图像和定位核的空间关系如图3所示。如图4所示,在模板匹配过程中,在后一张截图的上半部分中选取一800*300的矩形图像定义为定位核,前一张截图为实时图像进行搜索。得到模板匹配的结果,简单计算后将后一张图非重复部分内容拼接上去,如此重复操作后即可以得到长截图。然而,在采用模板匹配算法形成长截图的过程中,可能存在图片没有完全加载完毕的情况,那么按照模板匹配算法形成的长截图则存在着灰格,显示不全的问题,影响长截图的显示效果。并且,在采用模板匹配的过程中,由于图片信息量大且需要重复操作,这样使得该算法的执行效率不高。技术实现要素:本发明的主要目的在于提出一种图像融合方法、装置及计算机可读存储介质,能够对长截图中的灰格进行优化,提高长截图的显示效果。为实现上述目的,本发明提供的一种图像融合方法,用于对长截图进行图像融合,所述方法包括:对原始数据进行回滚,获取模板图像;根据模板图像和所述长截图,获取所述长截图的图像更新区域;将所述模板图像中与所述图像更新区域对应的区域的图像拷贝至所述长截图的所述图像更新区域。其中,所述根据原始数据和所述长截图,获取所述长截图的图像更新区域,包括:使用模板匹配算法从所述长截图中搜出与所述模板图像匹配度最高的匹配区域;用所述模板图像减去所述匹配区域对应的图像,得到差分图像;根据所述差分图像,获取所述图像更新区域。其中,所述根据所述差分图像,获取所述图像更新区域,包括:从上到下扫描所述差分图像,找到第一个非全为0的行作为融合的开始行数a;从下到上扫描所述差分图像,找到第一个非全为0的行作为融合的结束行数b;若a小于b,则将a到b之间的内容确定为图像更新区域。其中,所述模板图像中与所述图像更新区域对应区域的图像为第一图像,所述图像更新区域的图像为第二图像;在将所述模板图像中与所述图像更新区域对应的区域的图像拷贝至所述长截图的所述图像更新区域之前,所述方法还包括:提取所述模板图像中与所述图像更新区域对应区域的第一图像,以及提取所述长截图中所述图像更新区域的第二图像,利用图像特征值匹配算法得到所述第一图像与第二图像的特征点匹配集;判断所述特征点匹配集中匹配的匹配点个数是否大于预设个数;当所述特征点匹配集中匹配的匹配点个数大于预设个数时,执行将所述模板图像中与所述图像更新区域对应的区域的图像拷贝至所述长截图的所述图像更新区域的步骤。其中,在所述提取所述模板图像中与所述图像更新区域对应的区域的第一图像,以及提取所述长截图中所述图像更新区域的第二图像之后,所述判断所述特征点匹配集中的匹配点个数是否大于预设个数之前,所述方法还包括:将所述第一图像和所述第二图像合为一张合成图像;连接所述合成图像中的每一对匹配点,得到每一对匹配点的连线;分别计算所述每一对匹配点的连线的斜率k以及欧氏距离d;若计算出的所述斜率k以及欧氏距离d均在预设的误差范围内,则确定该对匹配点是匹配的;统计所述特征点匹配集中匹配的匹配点个数。其中,在所述使用模板匹配算法从所述长截图中搜出与所述模板图像匹配度最高的匹配图像,之前,所述方法还包括:对所述模板图像和所述长截图做图像金字塔处理和/或灰度化处理。此外,为实现上述目的,本发明还提出一种图像融合装置,所述装置包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的图像融合程序,所述图像融合程序执行如下步骤:对原始数据进行回滚,获取模板图像;根据原始数据和所述长截图,获取图像更新区域;将所述模板图像中与所述图像更新区域对应的数据拷贝至所述长截图的对应区域。其中,所述图像融合程序在执行所述根据原始数据和所述长截图,获取图像更新区域的步骤时,具体执行:使用模板匹配算法从所述长截图中搜出与所述模板图像匹配度最高的匹配区域;用所述模板图像减去所述匹配区域对应的图像,得到差分图像;根据所述差分图像,获取所述图像更新区域。其中,所述图像融合程序在执行所述根据所述差分图像,获取所述图像更新区域的步骤时,具体执行:从上到下扫描所述差分图像,找到第一个非全为0的行作为融合的开始行数a;从下到上扫描所述差分图像,找到第一个非全为0的行作为融合的结束行数b;若a小于b,则将a到b之间的内容确定为图像更新区域。此外,本发明还提供了一种计算机可读存储介质,所述计算机可读存储介质存储有图像融合程序,当所述图像融合程序被至少一个处理器执行时上述任一项所述的图像融合方法的步骤。本发明的有益效果是:本发明实施例的技术方案,在对原始数据进行回滚,获取模板图像之后,还根据模板图像和所述长截图,找到图像更新区域并将模板图像中与所述图像更新区域对应的区域的图像拷贝至所述长截图的图像更新区域,从而实现了长截图的图像融合与更新。由于模板图像中的图像数据比长截图中的图像数据更完整,因此,采用此方法进行图像融合之后,可以在一定程度上消除长截图中的灰格,提高长截图的显示完整性,进而提高长截图的显示效果。附图说明图1为实现本发明各个实施例的移动终端的硬件结构示意图;图2为如图1所示的移动终端的无线通信系统示意图;图3是现有技术中模板匹配算法的示意图;图4是现有技术中模板匹配算法的示意图;图5是本发明的图像融合方法的第一实施例的流程示意图;图6为本发明的图像融合方法的第二实施例的流程示意图;图7为图6中步骤604的实施例的流程示意图;图8是本发明的图像融合方法的示意图;图9是本发明的图像融合方法的第三实施例的流程示意图;图10是本发明的图像融合方法的图像融合示意图;图11是本发明的图像融合方法的图像融合示意图;图12是本发明的图像融合方法的图像融合示意图;图13是本发明的图像融合方法的第四实施例的流程示意图;图14是本发明的图像融合装置的实施例的结构示意图;本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。具体实施方式应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。在后续的描述中,使用用于表示元件的诸如“模块”、“部件”或“单元”的后缀仅为了有利于本发明的说明,其本身没有特定的意义。因此,“模块”、“部件”或“单元”可以混合地使用。本发明中提供的应用程序的图像融合方法,可以应用于各种终端以及计算机可读存储介质。其中,终端可以以各种形式来实施。例如,本发明中描述的终端可以包括诸如手机、平板电脑、笔记本电脑、掌上电脑、个人数字助理(PersonalDigitalAssistant,PDA)、便捷式媒体播放器(PortableMediaPlayer,PMP)、导航装置、可穿戴设备、智能手环、计步器等移动终端,以及诸如数字TV、台式计算机等固定终端。后续描述中将以移动终端为例进行说明,本领域技术人员将理解的是,除了特别用于移动目的的元件之外,根据本发明的实施方式的构造也能够应用于固定类型的终端。请参阅图1,其为实现本发明各个实施例的一种移动终端的硬件结构示意图,该移动终端100可以包括:RF(RadioFrequency,射频)单元101、WiFi模块102、音频输出单元103、A/V(音频/视频)输入单元104、传感器105、显示单元106、用户输入单元107、接口单元108、存储器109、处理器110、以及电源111等部件。本领域技术人员可以理解,图1中示出的移动终端结构并不构成对移动终端的限定,移动终端可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。下面结合图1对移动终端的各个部件进行具体的介绍:射频单元101可用于收发信息或通话过程中,信号的接收和发送,具体的,将基站的下行信息接收后,给处理器110处理;另外,将上行的数据发送给基站。通常,射频单元101包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等。此外,射频单元101还可以通过无线通信与网络和其他设备通信。上述无线通信可以使用任一通信标准或协议,包括但不限于GSM(GlobalSystemofMobilecommunication,全球移动通讯系统)、GPRS(GeneralPacketRadioService,通用分组无线服务)、CDMA2000(CodeDivisionMultipleAccess2000,码分多址2000)、WCDMA(WidebandCodeDivisionMultipleAccess,宽带码分多址)、TD-SCDMA(TimeDivision-SynchronousCodeDivisionMultipleAccess,时分同步码分多址)、FDD-LTE(FrequencyDivisionDuplexing-LongTermEvolution,频分双工长期演进)和TDD-LTE(TimeDivisionDuplexing-LongTermEvolution,分时双工长期演进)等。WiFi属于短距离无线传输技术,移动终端通过WiFi模块102可以帮助用户收发电子邮件、浏览网页和访问流式媒体等,它为用户提供了无线的宽带互联网访问。虽然图1示出了WiFi模块102,但是可以理解的是,其并不属于移动终端的必须构成,完全可以根据需要在不改变发明的本质的范围内而省略。音频输出单元103可以在移动终端100处于呼叫信号接收模式、通话模式、记录模式、语音识别模式、广播接收模式等等模式下时,将射频单元101或WiFi模块102接收的或者在存储器109中存储的音频数据转换成音频信号并且输出为声音。而且,音频输出单元103还可以提供与移动终端100执行的特定功能相关的音频输出(例如,呼叫信号接收声音、消息接收声音等等)。音频输出单元103可以包括扬声器、蜂鸣器等等。A/V输入单元104用于接收音频或视频信号。A/V输入单元104可以包括图形处理器(GraphicsProcessingUnit,GPU)1041和麦克风1042,图形处理器1041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元106上。经图形处理器1041处理后的图像帧可以存储在存储器109(或其它存储介质)中或者经由射频单元101或WiFi模块102进行发送。麦克风1042可以在电话通话模式、记录模式、语音识别模式等等运行模式中经由麦克风1042接收声音(音频数据),并且能够将这样的声音处理为音频数据。处理后的音频(语音)数据可以在电话通话模式的情况下转换为可经由射频单元101发送到移动通信基站的格式输出。麦克风1042可以实施各种类型的噪声消除(或抑制)算法以消除(或抑制)在接收和发送音频信号的过程中产生的噪声或者干扰。移动终端100还包括至少一种传感器105,比如光传感器、运动传感器以及其他传感器。具体地,光传感器包括环境光传感器及接近传感器,其中,环境光传感器可根据环境光线的明暗来调节显示面板1061的亮度,接近传感器可在移动终端100移动到耳边时,关闭显示面板1061和/或背光。作为运动传感器的一种,加速计传感器可检测各个方向上(一般为三轴)加速度的大小,静止时可检测出重力的大小及方向,可用于识别手机姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等;至于手机还可配置的指纹传感器、压力传感器、虹膜传感器、分子传感器、陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器,在此不再赘述。显示单元106用于显示由用户输入的信息或提供给用户的信息。显示单元106可包括显示面板1061,可以采用液晶显示器(LiquidCrystalDisplay,LCD)、有机发光二极管(OrganicLight-EmittingDiode,OLED)等形式来配置显示面板1061。用户输入单元107可用于接收输入的数字或字符信息,以及产生与移动终端的用户设置以及功能控制有关的键信号输入。具体地,用户输入单元107可包括触控面板1071以及其他输入设备1072。触控面板1071,也称为触摸屏,可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板1071上或在触控面板1071附近的操作),并根据预先设定的程式驱动相应的连接装置。触控面板1071可包括触摸检测装置和触摸控制器两个部分。其中,触摸检测装置检测用户的触摸方位,并检测触摸操作带来的信号,将信号传送给触摸控制器;触摸控制器从触摸检测装置上接收触摸信息,并将它转换成触点坐标,再送给处理器110,并能接收处理器110发来的命令并加以执行。此外,可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板1071。除了触控面板1071,用户输入单元107还可以包括其他输入设备1072。具体地,其他输入设备1072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种,具体此处不做限定。进一步的,触控面板1071可覆盖显示面板1061,当触控面板1071检测到在其上或附近的触摸操作后,传送给处理器110以确定触摸事件的类型,随后处理器110根据触摸事件的类型在显示面板1061上提供相应的视觉输出。虽然在图1中,触控面板1071与显示面板1061是作为两个独立的部件来实现移动终端的输入和输出功能,但是在某些实施例中,可以将触控面板1071与显示面板1061集成而实现移动终端的输入和输出功能,具体此处不做限定。接口单元108用作至少一个外部装置与移动终端100连接可以通过的接口。例如,外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。接口单元108可以用于接收来自外部装置的输入(例如,数据信息、电力等等)并且将接收到的输入传输到移动终端100内的一个或多个元件或者可以用于在移动终端100和外部装置之间传输数据。存储器109可用于存储软件程序以及各种数据。存储器109可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外,存储器109可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。处理器110是移动终端的控制中心,利用各种接口和线路连接整个移动终端的各个部分,通过运行或执行存储在存储器109内的软件程序和/或模块,以及调用存储在存储器109内的数据,执行移动终端的各种功能和处理数据,从而对移动终端进行整体监控。处理器110可包括一个或多个处理单元;优选的,处理器110可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器110中。移动终端100还可以包括给各个部件供电的电源111(比如电池),优选的,电源111可以通过电源管理系统与处理器110逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。尽管图1未示出,移动终端100还可以包括蓝牙模块等,在此不再赘述。为了便于理解本发明实施例,下面对本发明的移动终端所基于的通信网络系统进行描述。请参阅图2,图2为本发明实施例提供的一种通信网络系统架构图,该通信网络系统为通用移动通信技术的LTE系统,该LTE系统包括依次通讯连接的UE(UserEquipment,用户设备)201,E-UTRAN(EvolvedUMTSTerrestrialRadioAccessNetwork,演进式UMTS陆地无线接入网)202,EPC(EvolvedPacketCore,演进式分组核心网)203和运营商的IP业务204。具体地,UE201可以是上述终端100,此处不再赘述。E-UTRAN202包括eNodeB2021和其它eNodeB2022等。其中,eNodeB2021可以通过回程(backhaul)(例如X2接口)与其它eNodeB2022连接,eNodeB2021连接到EPC203,eNodeB2021可以提供UE201到EPC203的接入。EPC203可以包括MME(MobilityManagementEntity,移动性管理实体)2031,HSS(HomeSubscriberServer,归属用户服务器)2032,其它MME2033,SGW(ServingGateWay,服务网关)2034,PGW(PDNGateWay,分组数据网络网关)2035和PCRF(PolicyandChargingRulesFunction,政策和资费功能实体)2036等。其中,MME2031是处理UE201和EPC203之间信令的控制节点,提供承载和连接管理。HSS2032用于提供一些寄存器来管理诸如归属位置寄存器(图中未示)之类的功能,并且保存有一些有关服务特征、数据速率等用户专用的信息。所有用户数据都可以通过SGW2034进行发送,PGW2035可以提供UE201的IP地址分配以及其它功能,PCRF2036是业务数据流和IP承载资源的策略与计费控制策略决策点,它为策略与计费执行功能单元(图中未示)选择及提供可用的策略和计费控制决策。IP业务204可以包括因特网、内联网、IMS(IPMultimediaSubsystem,IP多媒体子系统)或其它IP业务等。虽然上述以LTE系统为例进行了介绍,但本领域技术人员应当知晓,本发明不仅仅适用于LTE系统,也可以适用于其他无线通信系统,例如GSM、CDMA2000、WCDMA、TD-SCDMA以及未来新的网络系统等,此处不做限定。基于上述移动终端硬件结构以及通信网络系统,提出本发明方法各个实施例。如图5所示,是本发明的图像融合方法的第一实施例的流程示意图。其中,该图像融合方法可以用于移动终端,例如可以应用于智能手机、平板电脑、个人数字助理等设备。如图5所示,该图像融合方法用于对长截图进行图像融合,包括如下步骤:步骤501:对原始数据进行回滚,获取模板图像。步骤502:根据原始数据和所述长截图,获取所述长截图的图像更新区域。步骤503:将所述模板图像中与所述图像更新区域对应的区域的图像拷贝至所述长截图的所述图像更新区域。基于
背景技术
:中的描述可知,在采用模板匹配算法对原始数据进行处理,获取长截图之后,由于此过程中存在原始数据加载不全,从而导致得到的长截图存在灰格、显示不全的问题。因此,有必要对得到的长截图进行优化。优化思路便是,对长截图中显示不全的地方进行优化,以提高长截图显示的完整性。以微博页面举例来说。若微博页面共有三屏图像(即原始数据),当从第一屏滑动到第三屏的过程中,得到了一张长截图。但由于网速等原因,此时得到的长截图可能存在显示不全的问题。为此,需要优化。优化思路便是:回滚原始数据。采用此思路进行优化的原理是:过特定时间后,之前加载不全的地方现在已经加载完整。因此可以考虑对原始数据进行回滚,从而能获得回滚后的更完整的加载图像。例如,从第三屏开始往回滚,到第二屏,第一屏。在进行回滚时,回滚步长可以根据实际需求具体设定,例如,回滚步长可以为1/4屏,1/2屏或1屏。因此,在步骤501中,对原始数据进行回滚之后,可以将回滚后得到的截图内容做二值化处理后,记为A,为模板图像。步骤502中,由于回滚后得到的模板图像的完整性比长截图更高且二者有不相同的地方,因此可以以模板图像为基准,采用模板匹配算法将模板图像和长截图进行匹配,从而得到模板图像与长截图不相同的地方,记为长截图中的图像更新区域。然后,将模板图像中与图像更新区域对应的区域的图像拷贝至所述长截图的图像更新区域,从而实现了图像的融合与更新。如图8所示,假设确定出长截图中的图像更新区域为A区域,模板图像中与A区域对应的区域为B区域,那么在步骤503中,则是将模板图像中B区域的图像拷贝至长截图的A区域中,以实现图像的融合与更新。本发明实施例的图像融合方法,在对原始数据进行回滚,获取模板图像之后,还根据模板图像和所述长截图,找到图像更新区域并将模板图像中与所述图像更新区域对应的区域的图像拷贝至所述长截图的图像更新区域,从而实现了长截图的图像融合与更新。由于模板图像中的图像数据比长截图中的图像数据更完整,因此,采用此方法进行图像融合之后,可以在一定程度上消除长截图中的灰格,提高长截图的显示完整性,进而提高长截图的显示效果。如图6所示,是本发明的图像融合方法的第二实施例的流程示意图。其中,该图像融合方法可以用于移动终端,例如可以应用于智能手机、平板电脑、个人数字助理等设备。如图6所示,该图像融合方法包括如下步骤:步骤601:对原始数据进行回滚,获取模板图像。步骤602:使用模板匹配算法从所述长截图中搜出与所述模板图像匹配度最高的匹配区域。步骤603:用所述模板图像减去所述匹配区域对应的图像,得到差分图像。步骤604:根据所述差分图像,获取所述图像更新区域。步骤605:将所述模板图像中与所述图像更新区域对应的区域的图像拷贝至所述长截图的所述图像更新区域。需要说明的是,本实施例与图5所示的实施例的区别在于:本实施例对图5中的步骤502,即根据原始数据和所述长截图,获取图像更新区域的步骤进行了细化,具体是通过步骤602至步骤604来实现的。首先,使用模板匹配算法从所述长截图中搜出与所述模板图像匹配度最高的匹配区域。在使用模板匹配算法进行搜索时,将长截图作为实时图像进行搜索。具体地,对原始数据进行回滚之后,可以将回滚后的截图内容做二值化处理后,记为A,为模板图像。同样地,对得到的长截图同样做二值化处理,使用模板匹配算法去搜索出与模板A相似度最高的匹配区域,将该匹配区域对应的图像记为B。然后将对A和B两副图做差,得到的差值图记为C(C=A-B),即差分图像。然后根据差分图像C,获取图像更新区域。具体地,在执行步骤604时,可以按照图7所示的流程执行。图7所示的是根据差分图像,获取图像更新区域的实施例的流程示意图,包括:步骤701:从上到下扫描所述差分图像,找到第一个非全为0的行作为融合的开始行数a。步骤702:从下到上扫描所述差分图像,找到第一个非全为0的行作为融合的结束行数b。步骤703:判断b是否小于a;步骤704:若a小于b,则将a到b之间的区域确定为图像更新区域。若a大于等于b,不进行图像融合,结束流程。如图8所示,能够更直观地表示本发明的图像融合方法的融合过程。图8中,采用模板匹配算法得到了长截图与模板图像匹配度最高的匹配区域,将模板图像与该匹配区域对应的图像做差运算,得到差分图像,然后从上到下扫描差分图像,得到找到第一个非全为0的行作为融合的开始行数a,从下到上扫描差分图像,找到第一个非全为0的行作为融合的结束行数b,将a到b之间的区域确定为长截图的图像更新区域A。然后模板图像中与图像更新区域A对应的区域B中的图像拷贝至图像更新区域A,从而实现了长截图的图像融合与更新。需要说明的是,采用图5以及图6所示的实施例的方法进行图像融合时,在正确性上无法做到100%完美融合,且目前没有更好的方式提升其正确率,因此在执行将将所述模板图像中与所述图像更新区域对应的图像拷贝至所述长截图的图像更新区域之前,需要对不应该融合的图像进行辨识,以保证不合入不该合入的内容。下面,将通过图9所示的实施例进行详细描述。图9是本发明的图像融合方法的第三实施例的流程示意图。其中,该图像融合方法可以用于移动终端,例如可以应用于智能手机、平板电脑、个人数字助理等设备。其中,假设模板图像中与所述图像更新区域对应区域的图像为第一图像,所述图像更新区域的图像为第二图像。如图9所示,该图像融合方法包括如下步骤:步骤901:对原始数据进行回滚,获取模板图像。步骤902:使用模板匹配算法从所述长截图中搜出与所述模板图像匹配度最高的匹配区域。步骤903:用所述模板图像减去所述匹配区域对应的图像,得到差分图像。步骤904:根据所述差分图像,获取所述图像更新区域。步骤905:提取所述模板图像中与所述图像更新区域对应的区域的第一图像,以及提取所述长截图中所述图像更新区域的第二图像,利用图像特征值匹配算法得到所述第一图像与第二图像的特征点匹配集。步骤906:判断所述特征点匹配集中匹配的匹配点个数是否大于预设个数。当所述特征点匹配集中匹配的匹配点个数大于预设个数时,进入步骤907,当所述特征点匹配集中匹配的匹配点个数小于或等于预设个数时,结束流程。步骤907:将所述模板图像中与所述图像更新区域对应的区域的图像拷贝至所述长截图的图像更新区域。本实施例与图6所示的实施例的区别为:在执行将所述模板图像中与所述图像更新区域对应的区域的图像拷贝至所述长截图的图像更新区域的步骤之前,还需要判断对融合的图像进行校验,对不应该融合的图像进行辨识,以保证不合入不该合入的内容。在辨识图像是否需要融合时,使用图像特征值匹配算法,具体是通过步骤905至步骤906来实现的。图像特征值匹配算法中,特征是独特的具体模式,并且易于跟踪和比较。好的特征是能够被清除地定位的特征。用于寻找特征的算法,被称作特征检测。当然仅仅检测特征是不够的,还需要能够将一种特征与另一种特征区分开。使用特征描述来描述检测到的特征。这些描述能让我们在其他图像中找到相似的特征,也就是能够识别目标。关于特征检测的算法目前主流的有SIFT、SURF、BRIEF、FAST和BRISK算法。本申请中,在多次比较后选取了FAST和BRIEF结合的ORB算法。ORB特征是将FAST特征点的检测方法与BRIEF特征描述子结合起来,并在它们原来的基础上做了改进与优化。首先,它利用FAST特征点检测的方法来检测特征点,然后利用Harris角点的度量方法,从FAST特征点从挑选出Harris角点响应值最大的N个特征点。同时,FAST特征点是没有尺度不变性的,所以可以通过构建高斯金字塔,然后在每一层金字塔图像上检测角点,来实现尺度不变性。那么,对于局部不变性,还差一个问题没有解决,就是FAST特征点不具有方向,ORB的论文中提出了一种利用灰度质心法来解决这个问题,灰度质心法假设角点的灰度与质心之间存在一个偏移,这个向量可以用于表示一个方向。关于描述子的区分性,BRIEF的一个性质是每个元特征都有很大的方差和0.5左右的均值。对一个元特征来说,均值0.5使最大的样本方差为0.25。选转的BRIEF对位测试产生更为统一的结果。大的方差使得特征对输入的响应更具差异性。在这种情况下,不相关的样本是很合意的,因为每一次样本都对结果有所贡献。在所有可能的位测试中搜索方差较大(均值接近0.5)而且不相关的样本。ORB使用了一种学习的方法来选择一个较小的点对集合称为rBRIEF算法。rBRIEF算法相比旋转的BRIEF在方差与相关性方面有显著的提高。下面,将具体描述如何使用图像特征值匹配算法来进行融合图像的辨识的。首先,提取所述模板图像中与所述图像更新区域对应的区域的图像,记为第一图像,以及提取所述长截图中所述图像更新区域对应的图像,记为第二图像,利用图像特征值匹配算法对第一图像与第二图像的特征点进行匹配,得到特征点匹配集matches。然后,将两张图片(第一图像和第二图像)合为一张图像,连接所述合成图像中的每一对匹配点,即matches匹配集的每对匹配点做连线,得到每一对匹配点的连线(两个黑色点之间的连线),如图10所示。其次,由主成分分析得到影响图像匹配的主要因素为斜率和欧氏距离,因此,还需要分别每一对匹配点的连线的斜率k以及欧氏距离d,若计算出的所述斜率k以及欧氏距离d均在预设的误差范围内,则认为该对匹配点是匹配的。经过大量实验得到评价函数,统计斜率值k和欧式距离d都在误差范围内的匹配点个数n,如果n大于特征点匹配集matches的个数的一半时认为该图应该做融合,否则不应该融合。如图10-12所示,是利用本发明实施例的检验算法得到的结果示意图。根据图10-12可知,图10、11为不该融合的图像,图12为应该融合的图像。需要说明的是,在图5、图6、图9所示的实施例中,在采用模板匹配算法由原始数据得到长截图或者采用模板匹配算法搜出长截图中与模板图像匹配度最高的匹配区域的过程中,由于图片信息量大且需要重复操作,这样使得该模板匹配算法的执行效率不高,因此,在使用模板匹配算法之前,可以对定位核和搜索图像进行预处理,以降低图片的信息量,从而提高模板匹配算法执行过程中的运行效率。在对图像进行预处理时,可以考虑进行图像金字塔处理、灰度化处理或者二者的集合。下面,以采用模板匹配算法搜出长截图中与模板图像匹配度最高的匹配区域为例,通过图13所示的实施例进行详细描述。图13是本发明的图像融合方法的第四实施例的流程示意图。其中,该图像融合方法可以用于移动终端,例如可以应用于智能手机、平板电脑、个人数字助理等设备。如图13所示,该图像融合方法包括如下步骤:步骤1300:对原始数据进行回滚,获取模板图像。步骤1301:对所述模板图像和所述长截图做图像金字塔处理和/或灰度化处理。步骤1302:使用模板匹配算法从所述长截图中搜出与所述模板图像匹配度最高的匹配区域。步骤1303:用所述模板图像减去所述匹配区域对应的图像,得到差分图像。步骤1304:根据所述差分图像,获取所述图像更新区域。步骤1305:提取所述模板图像中与所述图像更新区域对应的区域的第一图像,以及提取所述长截图中所述图像更新区域的第二图像,利用图像特征值匹配算法得到所述第一图像与第二图像的特征点匹配集。步骤1306:判断所述特征点匹配集中匹配的匹配点个数是否大于预设个数。当所述特征点匹配集中匹配的匹配点个数大于预设个数时,进入步骤907,当当所述特征点匹配集中匹配的匹配点个数小于或等于预设个数时,结束流程。步骤1307:将所述模板图像中与所述图像更新区域对应的区域的图像拷贝至所述长截图的图像更新区域。本实施例与图9所示的实施例的区别在于:在使用模板匹配算法从所述长截图中搜出与所述模板图像匹配度最高的匹配区域之前,还对模板图像和所述长截图做图像金字塔处理和/或灰度化处理。其中,图像金字塔是以多分辨率来解释图像的一种结构。使用小分辨率的图片,压缩图像信息量,从而提高运行效率。由于本申请不需要预测残差金字塔,即仅使采用高斯低通滤波器对原图进行滤波并使用步长为2进行采样来降低分辨率。重复该过程n次可以得到了n+1级的近似金字塔。经实践测试,选取3级金字塔时在准确性上满足的情况下效率最大化。其中,在RGB模型中,如果R=G=B时,则彩色表示一种灰度颜色,其中R=G=B的值叫灰度值,因此,灰度图像每个像素只需一个字节存放灰度值(又称强度值、亮度值),灰度范围为0-255。因此可以采取加权平均法将图像灰度化处理。由于人眼对绿色的敏感最高,对蓝色敏感最低,因此采取以下公式得到灰度值:f(i,j)=0.3R(i,j)+0.59G(i,j)+0.11B(i,j).......(2)公式(2)中,i,j分别为某个像素点的横坐标值与纵坐标值。经过灰度化处理之后,原来需要用256*256*256个像素表示的一个点现在只需要100个像素点表示。模板图像和长截图经过图像金字塔处理和灰度化处理之后,然后再进行模板匹配,可以提高模板匹配过程中的运行效率。上述对图像融合方法进行了详细的描述,下面,将对使用该图像融合方法的装置以及计算机可读存储介质进行描述。需要说明的是,图像融合装置例如可以是移动终端,下面以移动终端为例进行描述。如图14所示,本发明提供的移动终端的实施例的结构示意图,该移动终端140包括:存储器1401、处理器1402。其中,存储器1401上存储有图像融合方法程序并可以在处理器1402上运行。处理器1402运行存储器1401上的图像融合方法程序时,执行如下步骤:对原始数据进行回滚,获取模板图像。根据原始数据和所述长截图,获取所述长截图的图像更新区域。以及将所述模板图像中与所述图像更新区域对应的区域的图像拷贝至所述长截图的所述图像更新区域。基于
背景技术
:中的描述可知,在采用模板匹配算法对原始数据进行处理,获取长截图之后,由于此过程中存在原始数据加载不全,从而导致得到的长截图存在灰格、显示不全的问题。因此,有必要对得到的长截图进行优化。优化思路便是,对长截图中显示不全的地方进行优化,以提高长截图显示的完整性。以微博页面举例来说。若微博页面共有三屏图像(即原始数据),当从第一屏滑动到第三屏的过程中,得到了一张长截图。但由于网速等原因,此时得到的长截图可能存在显示不全的问题。为此,需要优化。优化思路便是:回滚原始数据。采用此思路进行优化的原理是:过特定时间后,之前加载不全的地方现在已经加载完整。因此可以考虑对原始数据进行回滚,从而能获得回滚后的更完整的加载图像。例如,从第三屏开始往回滚,到第二屏,第一屏。在进行回滚时,回滚步长可以根据实际需求具体设定,例如,回滚步长可以为1/4屏,1/2屏或1屏。因此,在对原始数据进行回滚之后,可以将回滚后得到的截图内容做二值化处理后,记为A,为模板图像。并且,由于回滚后得到的模板图像的完整性比长截图更高且二者有不相同的地方,因此可以以模板图像为基准,采用模板匹配算法将模板图像和长截图进行匹配,从而得到模板图像与长截图不相同的地方,记为长截图中的图像更新区域。然后,将模板图像中与图像更新区域对应的区域的图像拷贝至所述长截图的图像更新区域,从而实现了图像的融合与更新。如图8所示,假设确定出长截图中的图像更新区域为A区域,模板图像中与A区域对应的区域为B区域,那么在融合时,则是将模板图像中B区域的图像拷贝至长截图的A区域中,以实现图像的融合与更新。本发明实施例的移动终端,在对原始数据进行回滚,获取模板图像之后,还根据模板图像和所述长截图,找到图像更新区域并将模板图像中与所述图像更新区域对应的区域的图像拷贝至所述长截图的图像更新区域,从而实现了长截图的图像融合与更新。由于模板图像中的图像数据比长截图中的图像数据更完整,因此,采用此方法进行图像融合之后,可以在一定程度上消除长截图中的灰格,提高长截图的显示完整性,进而提高长截图的显示效果。需要说明的是,本发明实施例的图像融合程序在执行根据原始数据和所述长截图,获取所述长截图的图像更新区域的步骤时,具体执行:使用模板匹配算法从所述长截图中搜出与所述模板图像匹配度最高的匹配区域。用所述模板图像减去所述匹配区域对应的图像,得到差分图像。根据所述差分图像,获取所述图像更新区域。首先,使用模板匹配算法从所述长截图中搜出与所述模板图像匹配度最高的匹配区域。在使用模板匹配算法进行搜索时,将长截图作为实时图像进行搜索。具体地,对原始数据进行回滚之后,可以将回滚后的截图内容做二值化处理后,记为A,为模板图像。同样地,对得到的长截图同样做二值化处理,使用模板匹配算法去搜索出与模板A相似度最高的匹配区域,将该匹配区域对应的图像记为B。然后将对A和B两副图做差,得到的差值图记为C(C=A-B),即差分图像。然后根据差分图像C,获取图像更新区域。具体地,图像融合程序在执行根据所述差分图像,获取所述图像更新区域的步骤时,具体执行:从上到下扫描所述差分图像,找到第一个非全为0的行作为融合的开始行数a。从下到上扫描所述差分图像,找到第一个非全为0的行作为融合的结束行数b。判断b是否小于a;若a小于b,则将a到b之间的区域确定为图像更新区域。若a大于等于b,不进行图像融合,结束流程。如图8所示,能够更直观地表示本发明的图像融合方法的融合过程。图8中,采用模板匹配算法得到了长截图与模板图像匹配度最高的匹配区域,将模板图像与该匹配区域对应的图像做差运算,得到差分图像,然后从上到下扫描差分图像,得到找到第一个非全为0的行作为融合的开始行数a,从下到上扫描差分图像,找到第一个非全为0的行作为融合的结束行数b,将a到b之间的区域确定为长截图的图像更新区域A。然后模板图像中与图像更新区域A对应的区域B中的图像拷贝至图像更新区域A,从而实现了长截图的图像融合与更新。需要说明的是,上述的图像融合装置在进行图像融合时,在正确性上无法做到100%完美融合,且目前没有更好的方式提升其正确率,因此在执行将将所述模板图像中与所述图像更新区域对应的图像拷贝至所述长截图的图像更新区域之前,需要对不应该融合的图像进行辨识,以保证不合入不该合入的内容。假定假设模板图像中与所述图像更新区域对应区域的图像为第一图像,所述图像更新区域的图像为第二图像。那么图像融合程序在执行获取所述图像更新区域之后,将所述模板图像中与所述图像更新区域对应的区域的图像拷贝至所述长截图的图像更新区域的步骤之前,还执行如下步骤:提取所述模板图像中与所述图像更新区域对应的区域的第一图像,以及提取所述长截图中所述图像更新区域的第二图像,利用图像特征值匹配算法得到所述第一图像与第二图像的特征点匹配集。判断所述特征点匹配集中匹配的匹配点个数是否大于预设个数。当所述特征点匹配集中匹配的匹配点个数大于预设个数时,则执行将所述模板图像中与所述图像更新区域对应的区域的图像拷贝至所述长截图的图像更新区域的步骤;当所述特征点匹配集中匹配的匹配点个数小于或等于预设个数时,结束流程。具体实现中,图像融合程序首先,提取所述模板图像中与所述图像更新区域对应的区域的图像,记为第一图像,以及提取所述长截图中所述图像更新区域对应的图像,记为第二图像,利用图像特征值匹配算法对第一图像与第二图像的特征点进行匹配,得到特征点匹配集matches。然后,将两张图片(第一图像和第二图像)合为一张图像,连接所述合成图像中的每一对匹配点,即matches匹配集的每对匹配点做连线,得到每一对匹配点的连线(两个黑色点之间的连线),如图10所示。其次,由主成分分析得到影响图像匹配的主要因素为斜率和欧氏距离,因此,还需要分别每一对匹配点的连线的斜率k以及欧氏距离d,若计算出的所述斜率k以及欧氏距离d均在预设的误差范围内,则认为该对匹配点是匹配的。经过大量实验得到评价函数,统计斜率值k和欧式距离d都在误差范围内的匹配点个数n,如果n大于特征点匹配集matches的个数的一半时认为该图应该做融合,否则不应该融合。如图10-12所示,是利用本发明实施例的检验算法得到的结果示意图。根据图10-12可知,图10、11为不该融合的图像,图12为应该融合的图像。需要说明的是,上述移动终端在采用模板匹配算法由原始数据得到长截图或者采用模板匹配算法搜出长截图中与模板图像匹配度最高的匹配区域的过程中,由于图片信息量大且需要重复操作,这样使得该模板匹配算法的执行效率不高,因此,在使用模板匹配算法之前,可以对定位核和搜索图像进行预处理,如进行图像金字塔处理和/或灰度化处理,以降低图片的信息量,从而提高模板匹配算法执行过程中的运行效率。相应地,本发明实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质存储有图像融合程序,当该图像融合程序被至少一个处理器执行时实现如下步骤:对原始数据进行回滚,获取模板图像;根据模板图像和所述长截图,获取所述长截图的图像更新区域;将所述模板图像中与所述图像更新区域对应的区域的图像拷贝至所述长截图的所述图像更新区域。其中,图像融合程序在执行所述根据原始数据和所述长截图,获取所述长截图的图像更新区域的步骤时,具体执行:使用模板匹配算法从所述长截图中搜出与所述模板图像匹配度最高的匹配区域;用所述模板图像减去所述匹配区域对应的图像,得到差分图像;根据所述差分图像,获取所述图像更新区域。图像融合程序在执行所述根据所述差分图像,获取所述图像更新区域的步骤时,具体执行:从上到下扫描所述差分图像,找到第一个非全为0的行作为融合的开始行数a;从下到上扫描所述差分图像,找到第一个非全为0的行作为融合的结束行数b;若a小于b,则将a到b之间的内容确定为图像更新区域。其中,所述模板图像中与所述图像更新区域对应区域的图像为第一图像,所述图像更新区域的图像为第二图像;图像融合程序在执行将所述模板图像中与所述图像更新区域对应的区域的图像拷贝至所述长截图的所述图像更新区域之前,还执行:提取所述模板图像中与所述图像更新区域对应区域的第一图像,以及提取所述长截图中所述图像更新区域的第二图像,利用图像特征值匹配算法得到所述第一图像与第二图像的特征点匹配集;判断所述特征点匹配集中匹配的匹配点个数是否大于预设个数;当所述特征点匹配集中匹配的匹配点个数大于预设个数时,执行将所述模板图像中与所述图像更新区域对应的区域的图像拷贝至所述长截图的所述图像更新区域的步骤。其中,图像融合程序在所述提取所述模板图像中与所述图像更新区域对应的区域的第一图像,以及提取所述长截图中所述图像更新区域的第二图像之后,所述判断所述特征点匹配集中的匹配点个数是否大于预设个数之前,还执行:将所述第一图像和所述第二图像合为一张合成图像;连接所述合成图像中的每一对匹配点,得到每一对匹配点的连线;分别计算所述每一对匹配点的连线的斜率k以及欧氏距离d;若计算出的所述斜率k以及欧氏距离d均在预设的误差范围内,则确定该对匹配点是匹配的;统计所述特征点匹配集中匹配的匹配点个数。其中,图像融合程序在执行所述使用模板匹配算法从所述长截图中搜出与所述模板图像匹配度最高的匹配图像之前,还执行:对所述模板图像和所述长截图做图像金字塔处理和/或灰度化处理。本发明实施例的计算机可读存储介质,在对原始数据进行回滚,获取模板图像之后,还根据模板图像和所述长截图,找到图像更新区域并将模板图像中与所述图像更新区域对应的区域的图像拷贝至所述长截图的图像更新区域,从而实现了长截图的图像融合与更新。由于模板图像中的图像数据比长截图中的图像数据更完整,因此,采用此方法进行图像融合之后,可以在一定程度上消除长截图中的灰格,提高长截图的显示完整性,进而提高长截图的显示效果。需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本发明各个实施例所述的方法。以上仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的
技术领域
:,均同理包括在本发明的专利保护范围内。当前第1页1 2 3 当前第1页1 2 3 
再多了解一些
当前第1页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1