一种屏幕图像录制方法、终端及计算机可读存储介质与流程

文档序号:11779013阅读:198来源:国知局
本发明涉及通信
技术领域
:,尤其涉及一种屏幕图像录制方法、终端及计算机可读存储介质。
背景技术
::在移动互联网时代,随着智能终端的推广和普及,用户不断追求高品质的音视频、摄像、录屏体验。为了录制更加真实、连贯以及流畅的视频图像,并使该视频图像能动态呈现出更多细节的效果,通常需要提高智能终端的录屏帧率,比如将录屏帧率提升至为60f/s或120f/s。但是,限于智能终端系统在单位时间内获取到的截屏图像流有限,智能终端的录屏帧率往往无法进一步提升,通常情况下屏幕录像机的最大帧率仅为30f/s,无法满足用户日益增长的录屏帧率的需求。在使用智能终端的录屏app(application,计算机应用程序)录制屏幕图像时,例如,用户录屏分享某个应用的使用过程,或者工程师录屏记录某个问题的出现场景,为了获取动态、真实新颖的屏幕图像内容,往往需要在超高分辨率、超高帧率快速截屏后拼凑出一个视频,由于终端系统内部的硬件处理能力有限,在单位时间内获取到的截屏图像流也是有限的,因此若根据该截屏图像流生成视频图像不仅容易造成画面显示滞后,影响用户体验,更是无法满足用户对高录屏帧率的追求,并且若仅对该截屏图像流进行压缩编码也无法充分利用终端系统内硬件编码器和软件编码器的编码能力。技术实现要素:本发明要解决的技术问题在于:现有技术中进行屏幕图像录制时由于终端系统内部硬件处理能力有限,所以在单位时间内获取到的截屏图像帧较少,对该截屏图像帧进行编码时无法充分调用相应编码器的编码能力,导致录屏帧率无法满足用户需求的问题。针对该技术问题,提供一种屏幕图像录制方法、终端及计算机可读存储介质。为解决上述技术问题,本发明提供一种屏幕图像录制方法,包括:获取待编码的截屏图像流;将所述截屏图像流中的至少部分图像帧分成图像组,每一图像组中包括至少两个连续的图像帧;计算各图像组中各连续图像帧之间的重合度;根据得到的所述各图像组中各图像帧之间的重合度,按预设图像补偿规则为各图像组生成补偿图像帧并插入到相应图像组之后;对插入补偿图像帧后的截屏图像流进行编码输出视频文件。可选地,所述将所述截屏图像流中的至少部分图像帧分成图像组包括:将所述截屏图像流中的所有图像帧分成连续的图像组。可选地,每一所述图像组中包括两个连续的图像帧,所述计算各图像组中各连续图像帧之间的重合度包括:比较每一所述图像组中两个连续图像帧之间各相应像素点的像素值大小,并获取所述两个连续图像帧之间对应像素值相等区域的像素点之数量;将所述获取到的像素点之数量与一个图像帧中像素点总数的比值作为每一所述图像组中两个连续图像帧之间的重合度。可选地,所述将所述截屏图像流中的至少部分图像帧分成图像组之前还包括:对所述获取到的截屏图像流进行编码,并计算对所述截屏图像流进行编码时的录屏帧率;判断所述录屏帧率是否大于等于预设录屏帧率,若是,则根据对所述截屏图像流的编码结果输出相应的视频文件,否则,对所述截屏图像流中的至少部分图像帧进行分组。可选地,所述对插入补偿图像帧后的截屏图像流进行编码输出视频文件包括:按照预设编码分配原则,提取所述插入补偿图像帧后的截屏图像流中需要通过硬编码的图像帧以及需要通过软编码的图像帧分别发送至硬件编码器和软件编码器进行编码;对经所述硬件编码器和经所述软件编码器编码后的图像帧进行合成输出视频文件;所述编码分配原则包括:循环的从所述插入补偿图像帧后的截屏图像流中,依次提取x帧作为需要通过硬编码的图像帧后,再依次提取y帧作为需要通过软编码的图像帧;所述y取大于等于1的整数。所述x取大于所述y的整数。可选地,所述根据得到的所述各图像组中图像帧之间的重合度,按预设图像补偿规则为各图像组生成补偿图像帧之前还包括:判断每一所述图像组中各连续图像帧之间的重合度是否大于等于预设第一重合度阈值,如是,则不生成补偿图像帧,否则,按预设图像补偿规则为每一所述图像组生成相应的补偿图像帧。可选地,所述按预设图像补偿规则为各图像组生成相应的补偿图像帧包括:将每一所述图像组中各连续图像帧之间各相应像素点的加权平均像素值作为所述补偿图像帧中相应像素点的像素值。可选地,所述根据得到的所述各图像组中图像帧的重合度,按预设图像补偿规则为各图像组生成补偿图像帧包括:判断每一所述图像组中各连续图像帧之间的重合度是否大于等于预设第二重合度阈值,如是,将每一所述图像组中各连续图像帧的最后一个图像帧作为相应图像组的补偿图像帧,否则,将每一所述图像组中各连续图像帧之间各相应像素点的加权平均像素值作为所述补偿图像帧中相应像素点的像素值。进一步地,本发明还提供一种终端,包括:处理器、存储器及通信总线;所述通信总线用于实现所述处理器和所述存储器之间的连接通信;所述处理器用于执行存储器中存储的屏幕录制程序,以实现以下步骤:获取待编码的截屏图像流;将所述截屏图像流中的至少部分图像帧分成图像组,每一图像组中包括至少两个连续的图像帧;计算各图像组中各连续图像帧之间的重合度;根据得到的所述各图像组中各图像帧之间的重合度,按预设图像补偿规则为各图像组生成补偿图像帧并插入到相应图像组之后;对插入补偿图像帧后的截屏图像流进行编码输出视频文件。进一步地,本发明还提供了一种计算机可读存储介质,所述计算机可读存储介质存储有屏幕图像录制程序,所述屏幕图像录制程序被处理器执行时实现上述的屏幕图像录制方法的步骤。有益效果本发明提出的屏幕图像录制方法、终端及计算机可读存储介质,通过获取待编码的截屏图像流,并将获取到的截屏图像流中的至少部分图像帧分成图像组,每一图像组中包括至少两个连续的图像帧,并计算各图像组中各连续图像帧之间的重合度,根据得到的各图像组中各图像帧之间的重合度,按预设图像补偿规则为各图像组生成补偿图像帧并插入到相应图像组之后,最后对插入补偿图像帧后的截屏图像流进行编码输出视频文件,也即是说最后进行编码压缩的对象是插入了补偿图像帧后的截屏图像流,相对于现有的仅对通过终端系统内部硬件资源获取的截屏图像流进行压缩编码的方案,由于本方案中获取到的截屏图像流中插入了补偿图像帧,所以可以充分利用终端系统内硬件编码器和软件编码器的编码能力对插入了补偿图像帧的截屏图像流进行编码,因此可以增加单位时间内进行压缩编码的图像帧的数量,进而可以提升屏幕的录屏帧率,所以可以录制更加连贯真实的视频,从而可以呈现更多细节的效果,提升了用户体验的满意度。附图说明图1为实现本发明各个实施例的移动终端的硬件结构示意图;图2为本发明第一实施例中屏幕图像录制方法的流程示意图;图3为本发明第一实施例中判断是否对截屏图像流进行分组的流程示意图;图4为本发明第一实施例中计算重合度的流程示意图;图5为本发明第一实施例中对插入补偿图像帧的截屏图像流进行编码输出视频文件的流程示意图;图6为本发明第二实施例中屏幕图像录制方法的流程示意图;图7为本发明第二实施例中终端的系统框图;图8为本发明第三实施例中终端的结构示意图。具体实施方式应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。在后续的描述中,使用用于表示元件的诸如“模块”、“部件”或“单元”的后缀仅为了有利于本发明的说明,其本身没有特定的意义。因此,“模块”、“部件”或“单元”可以混合地使用。终端可以以各种形式来实施。例如,本发明中描述的终端可以包括诸如手机、平板电脑、笔记本电脑、掌上电脑、个人数字助理(personaldigitalassistant,pda)、便捷式媒体播放器(portablemediaplayer,pmp)、导航装置、可穿戴设备、智能手环、计步器等移动终端,以及诸如数字tv、台式计算机等固定终端。后续描述中将以移动终端为例进行说明,本领域技术人员将理解的是,除了特别用于移动目的的元件之外,根据本发明的实施方式的构造也能够应用于固定类型的终端。请参阅图1,其为实现本发明各个实施例的一种移动终端的硬件结构示意图,该移动终端100可以包括:rf(radiofrequency,射频)单元101、wifi模块102、音频输出单元103、a/v(音频/视频)输入单元104、传感器105、显示单元106、用户输入单元107、接口单元108、存储器109、处理器110、以及电源111等部件。本领域技术人员可以理解,图1中示出的移动终端结构并不构成对移动终端的限定,移动终端可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。下面结合图1对移动终端的各个部件进行具体的介绍:射频单元101可用于收发信息或通话过程中,信号的接收和发送,具体的,将基站的下行信息接收后,给处理器110处理;另外,将上行的数据发送给基站。通常,射频单元101包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等。此外,射频单元101还可以通过无线通信与网络和其他设备通信。上述无线通信可以使用任一通信标准或协议,包括但不限于gsm(globalsystemofmobilecommunication,全球移动通讯系统)、gprs(generalpacketradioservice,通用分组无线服务)、cdma2000(codedivisionmultipleaccess2000,码分多址2000)、wcdma(widebandcodedivisionmultipleaccess,宽带码分多址)、td-scdma(timedivision-synchronouscodedivisionmultipleaccess,时分同步码分多址)、fdd-lte(frequencydivisionduplexing-longtermevolution,频分双工长期演进)和tdd-lte(timedivisionduplexing-longtermevolution,分时双工长期演进)等。wifi属于短距离无线传输技术,移动终端通过wifi模块102可以帮助用户收发电子邮件、浏览网页和访问流式媒体等,它为用户提供了无线的宽带互联网访问。虽然图1示出了wifi模块102,但是可以理解的是,其并不属于移动终端的必须构成,完全可以根据需要在不改变发明的本质的范围内而省略。音频输出单元103可以在移动终端100处于呼叫信号接收模式、通话模式、记录模式、语音识别模式、广播接收模式等等模式下时,将射频单元101或wifi模块102接收的或者在存储器109中存储的音频数据转换成音频信号并且输出为声音。而且,音频输出单元103还可以提供与移动终端100执行的特定功能相关的音频输出(例如,呼叫信号接收声音、消息接收声音等等)。音频输出单元103可以包括扬声器、蜂鸣器等等。a/v输入单元104用于接收音频或视频信号。a/v输入单元104可以包括图形处理器(graphicsprocessingunit,gpu)1041和麦克风1042,图形处理器1041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元106上。经图形处理器1041处理后的图像帧可以存储在存储器109(或其它存储介质)中或者经由射频单元101或wifi模块102进行发送。麦克风1042可以在电话通话模式、记录模式、语音识别模式等等运行模式中经由麦克风1042接收声音(音频数据),并且能够将这样的声音处理为音频数据。处理后的音频(语音)数据可以在电话通话模式的情况下转换为可经由射频单元101发送到移动通信基站的格式输出。麦克风1042可以实施各种类型的噪声消除(或抑制)算法以消除(或抑制)在接收和发送音频信号的过程中产生的噪声或者干扰。移动终端100还包括至少一种传感器105,比如光传感器、运动传感器以及其他传感器。具体地,光传感器包括环境光传感器及接近传感器,其中,环境光传感器可根据环境光线的明暗来调节显示面板1061的亮度,接近传感器可在移动终端100移动到耳边时,关闭显示面板1061和/或背光。作为运动传感器的一种,加速计传感器可检测各个方向上(一般为三轴)加速度的大小,静止时可检测出重力的大小及方向,可用于识别手机姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等;至于手机还可配置的指纹传感器、压力传感器、虹膜传感器、分子传感器、陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器,在此不再赘述。显示单元106用于显示由用户输入的信息或提供给用户的信息。显示单元106可包括显示面板1061,可以采用液晶显示器(liquidcrystaldisplay,lcd)、有机发光二极管(organiclight-emittingdiode,oled)等形式来配置显示面板1061。用户输入单元107可用于接收输入的数字或字符信息,以及产生与移动终端的用户设置以及功能控制有关的键信号输入。具体地,用户输入单元107可包括触控面板1071以及其他输入设备1072。触控面板1071,也称为触摸屏,可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板1071上或在触控面板1071附近的操作),并根据预先设定的程式驱动相应的连接装置。触控面板1071可包括触摸检测装置和触摸控制器两个部分。其中,触摸检测装置检测用户的触摸方位,并检测触摸操作带来的信号,将信号传送给触摸控制器;触摸控制器从触摸检测装置上接收触摸信息,并将它转换成触点坐标,再送给处理器110,并能接收处理器110发来的命令并加以执行。此外,可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板1071。除了触控面板1071,用户输入单元107还可以包括其他输入设备1072。具体地,其他输入设备1072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种,具体此处不做限定。进一步的,触控面板1071可覆盖显示面板1061,当触控面板1071检测到在其上或附近的触摸操作后,传送给处理器110以确定触摸事件的类型,随后处理器110根据触摸事件的类型在显示面板1061上提供相应的视觉输出。虽然在图1中,触控面板1071与显示面板1061是作为两个独立的部件来实现移动终端的输入和输出功能,但是在某些实施例中,可以将触控面板1071与显示面板1061集成而实现移动终端的输入和输出功能,具体此处不做限定。接口单元108用作至少一个外部装置与移动终端100连接可以通过的接口。例如,外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(i/o)端口、视频i/o端口、耳机端口等等。接口单元108可以用于接收来自外部装置的输入(例如,数据信息、电力等等)并且将接收到的输入传输到移动终端100内的一个或多个元件或者可以用于在移动终端100和外部装置之间传输数据。存储器109可用于存储软件程序以及各种数据。存储器109可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外,存储器109可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。处理器110是移动终端的控制中心,利用各种接口和线路连接整个移动终端的各个部分,通过运行或执行存储在存储器109内的软件程序和/或模块,以及调用存储在存储器109内的数据,执行移动终端的各种功能和处理数据,从而对移动终端进行整体监控。处理器110可包括一个或多个处理单元;优选的,处理器110可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器110中。移动终端100还可以包括给各个部件供电的电源111(比如电池),优选的,电源111可以通过电源管理系统与处理器110逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。尽管图1未示出,移动终端100还可以包括蓝牙模块等,在此不再赘述。基于上述移动终端硬件结构,提出本发明方法各个实施例。第一实施例为了解决现有技术中由于终端系统内部的硬件处理能力有限,导致在单位时间内获取到的截屏图像流有限,造成屏幕的录屏帧率无法进一步得到提升的问题,本实施例提供一种屏幕图像录制方法,请参见图2所示,包括:s201:获取待编码的截屏图像流。s202:将截屏图像流中的至少部分图像帧分成图像组,每一图像组中包括至少两个连续的图像帧。应当理解的是,本实施例中的步骤s201与步骤s202可以同时进行,也即在获取待编码截屏图像流的过程中可以同时为获取到的截屏图像流进行分组,当然,步骤s201与步骤s202也可以分别进行,为便于理解,下面给一个具体示例。假设每秒能获取到的截屏图像流中包括30个图像帧,这30个图像帧是依照时序连续的图像帧,在获取这30个图像帧的过程中可以同时对这30个连续的图像帧进行分组,例如依次获取了3个图像帧时,可以同时将这3个图像组划分为一个图像组,再依次获取了2个图像帧时,可以同时将这2个图像帧划分为一个图像组;当然在一些实施例中,还可以在获取完这30个图像帧之后再对该截屏图像流进行分组。应当理解的是,本实施例中获取截屏图像流的过程应当是连续的,为该截屏图像流进行分组的过程,并不影响获取下一个截屏图像流。对于步骤s202而言,还可以将截屏图像流中的所有图像帧分成连续的图像组,每一个图像组中都有至少两个连续的图像帧,例如,一个图像组中可以包括两个、三个、四个甚至更多的连续的图像帧。本实施例中在获取待编码的截屏图像流之后,将截屏图像流中的至少部分图像帧分成图像组之前,还可以对是否需要进行分组作出判断,请参见图3所示,包括:s31:对获取到的截屏图像流进行编码,并计算对该截屏图像流进行编码时的录屏帧率。需要说明的是,步骤s31中可以实时计算对该截屏图像流进行编码时的录屏帧率。s32:判断该录屏帧率是否大于等于预设录屏帧率,若是,转至s33,否则,转至s34。对于步骤s32而言,可以设定一个预设时间间隔,若在预设时间间隔到达后该录屏帧率还是无法达到预设录屏帧率,则可以判定仅对该截屏图像流进行压缩编码的录屏帧率是无法达到预设录屏帧率的,此时可以转而执行步骤s34,该预设录屏帧率可以由开发人员任意设置,或者也可以支持用户自定义,需要说明的是,通常情况下,该预设录屏帧率应当满足用户的需求,例如可以为60帧/秒。s33::根据对该截屏图像流的编码结果输出相应的视频文件。s34:对该截屏图像流中的至少部分图像帧进行分组。在对截屏图像流中的至少部分图像帧进行分组之后继续执行以下步骤:s203:计算各图像组中各连续图像帧之间的重合度。本实施例的步骤s203中可以获取各连续图像帧之间相应重叠区域的面积,将该重叠区域的面积与其中一个图像帧的面积的比值作为各连续图像帧之间的重合度。假设每一图像组中包括两个连续的图像帧,则计算各图像组中各连续图像帧之间的重合度具体而言可以参见图4所示,包括:s41:比较每一图像组中两个连续图像帧之间各相应像素点的像素值大小。s42:获取两个连续图像帧之间对应像素值相等区域的像素点之数量。s43:将获取到的像素点之数量与一个图像帧中像素点总数的比值作为每一图像组中两个连续图像帧之间的重合度。在计算得到各连续图像帧之间的重合度之后,继续执行以下步骤:s204:根据得到的各图像组中各图像帧之间的重合度,按预设图像补偿规则为各图像组生成补偿图像帧并插入到相应图像组之后。s205:对插入补偿图像帧后的截屏图像流进行编码输出视频文件。为便于说明,这里将步骤s201中获取到的截屏图像流中的图像帧称为原有图像帧,需要说明的是,在其他一些实施例中可以对插入了补偿图像帧后的截屏图像流进行再次分组,此时可以将补偿图像帧与原有图像帧分在一个图像组中,对于该图像组同样的可以参照上述方法再次生成一个补偿图像帧插入到该图像组之后。请参见图5所示,本实施例中的对插入补偿图像帧后的截屏图像流进行编码输出视频文件包括:s51:按照预设编码分配原则,提取插入补偿图像帧后的截屏图像流中需要通过硬编码的图像帧以及需要通过软编码的图像帧分别发送至硬件编码器和软件编码器进行编码。s52:对经硬件编码器和经软件编码器编码后的图像帧进行合成输出视频文件。应当理解的是,本实施例中的编码分配原则包括但不限于:循环的从插入补偿图像帧后的截屏图像流中,依次提取x帧作为需要通过硬编码的图像帧后,再依次提取y帧作为需要通过软编码的图像帧;一般而言,硬件编码器的编码能力都优于软件编码器的编码能力,因此,优选地,y取大于等于1的整数,x取大于y的整数。最后,需要对本实施例中根据得到的各图像组中各图像帧之间的重合度,按预设图像补偿规则为各图像组生成补偿图像帧的过程进行说明,具体而言,可以包括:判断每一图像组中各连续图像帧之间的重合度是否大于等于预设第二重合度阈值,如是,将每一图像组中各连续图像帧的最后一个图像帧作为相应图像组的补偿图像帧,否则,将每一图像组中各连续图像帧之间各相应像素点的加权平均像素值作为补偿图像帧中相应像素点的像素值。或者,在其他一些实施例中,在根据得到的各图像组中各图像帧之间的重合度,按预设图像补偿规则为各图像组生成补偿图像帧之前判断是否需要生成补偿图像帧,包括:判断每一图像组中各连续图像帧之间的重合度是否大于等于预设第一重合度阈值,如是,则不生成补偿图像帧,否则,按预设图像补偿规则为每一图像组生成相应的补偿图像帧。由于某一图像组中的各连续图像帧之间的重合度大于等于预设第一预设重合度阈值时,说明这几个连续图像帧的连贯性已经很高了,所以此时可以不必为该图像组生成相应的补偿图像帧;在判定为要生成补偿图像帧时,按预设图像补偿规则为每一图像组生成相应的补偿图像帧可以包括;将每一图像组中各连续图像帧之间各相应像素点的加权平均像素值作为补偿图像帧中相应像素点的像素值。需要说明的是,本实施例中的第一重合度阈值以及第二重合度阈值都可以由开发人员结合实际的应用场景灵活设置,为便于理解,下面对本实施例中将每一图像组中各连续图像帧之间各相应像素点的加权平均像素值作为补偿图像帧中相应像素点的像素值进行具体的说明。假设一个图像组中包括两个连续的图像帧,依照获取时间的先后顺序分别为第一图像帧与第二图像帧,若这两个图像帧中分别包括n个对应的像素点,应当对第一图像帧中第一像素点的像素值与第二图像帧中第一像素点的像素值求加权平均像素值,并将该加权平均像素值作为补偿图像帧中相应的第一像素点的像素值;同时还应当对第一图像帧中第x像素点的像素值与第二图像帧中第x像素点的像素值求加权平均像素值,并将该加权平均像素值作为补偿图像帧中相应的第x像素点的像素值,x为小于等于n,大于1的整数,如此,计算得到补偿图像帧中每一个像素点的像素值,从而可以得到一帧完整的图像,也即对应的补偿图像帧。下面对本实施例中求加权平均像素值的过程进行一个示例说明,假设第一图像帧中第一像素点的像素值为a,第二图像帧中第一像素点的像素值为b,在该图像组中第一图像帧的权重为c,第二图像帧的权重为d,则c+d=1,且第一图像帧中第一像素点的像素值与第二图像帧中第一像素点的加权平均像素值为:a*c+b*d,也即该图像组对应的补偿图像帧中第一像素点的像素值为a*c+b*d。本实施例提供的屏幕图像录制方法,通过获取待编码的截屏图像流,并将获取到的截屏图像流中的至少部分图像帧分成图像组,每一图像组中包括至少两个连续的图像帧,并计算各图像组中各连续图像帧之间的重合度,根据得到的各图像组中各图像帧之间的重合度,按预设图像补偿规则为各图像组生成补偿图像帧并插入到相应图像组之后,对插入补偿图像帧后的截屏图像流进行编码输出视频文件,由于本实施例中对获取到的截屏图像流中插入了补偿图像帧,所以单位时间内提供给编码器的图像帧的数量得到了增加,进而可以充分利用终端系统内硬件编码器和软件编码器的编码能力,因此增加了单位时间内可以进行压缩编码的图像帧的数量,提升了屏幕的录屏帧率,也提升了用户体验的满意度。第二实施例为了更好的理解本发明,本实施例在第一实施例的基础上提供一种更加具体的屏幕图像录制方法。定义interframecompensationco-coding(帧间补偿协同编码)模块,标记不同类型的图像帧,分别输送至软件编码器和硬件编码器协同编码,若当前的录屏帧率仍无法达到预设录屏帧率,启用帧间补偿技术,实时协同编码,实现超高帧率的录屏。定义供interframecompensationco-coding模块调用的接口。当预设录屏帧率较高时,由于终端系统获取到的截屏图像流有限,终端系统视频编码芯片(硬件编码器)和软件编码器的编码能力往往无法得到充分使用,就容易导致录制的视频播放不流畅,录屏帧率无法达到用户的需求,因此为了充分调动软件编码器和硬件编码器的处理能力,在当前的录屏帧率无法达到预设录屏帧率时,可以启用帧间补偿技术,以完成高帧率下录屏图像的实时编码。在本实施例中,可以通过调用interframecompensationco-coding模块的接口,访问interframecompensationco-coding模块。设置interframecompensationco-coding模块的开关,通过“persist.screenshot.interframe.compensation.enable”(允许,屏幕截屏,帧间,补偿,使能)控制是否启用帧间补偿协同编码技术压缩录屏(此开关用于开发者灵活开关该功能)。相应的软件代码可以如下:persist.screenshot.interframe.compensation.enable1为1时启用录屏帧间补偿协同编码机制,为0时关闭录屏帧间补偿协同编码机制。本实施例中interframecompensationco-coding模块的屏幕图像录制方法可以参见图6所示,包括:s601:获取待编码的截屏图像流。s602:读取系统属性persist.screenshot.interframe.compensation.enable。s603:判断persist.screenshot.interframe.compensation.enable=1是否成立,如是,转至s605,如否,转至s604。s604:按普通编码规则对获取到的截屏图像流进行编码并输出相应的视频文件。本实施例中的普通编码规则可以是现有的仅采用硬件编码器或者仅采用软件编码器对获取到的截屏图像流进行编码的规则。s605:按照预设编码分配原则标记不同个数的截屏图像流中的图像帧分别输送至软件编码器与硬件编码器进行编码。s606:计算对该截屏图像流进行编码时的录屏帧率。s607:判断该录屏帧率是否大于等于预设录屏帧率,若是,转至s604,否则,转至s608。s608:将截屏图像流中的至少部分图像帧分成图像组,每一图像组中包括至少两个连续的图像帧。s609:计算各图像组中各连续图像帧之间的重合度。对每一图像组中各图像帧之间相应像素点的像素值取异或,根据相异为1的原理,经过异或运算后获取所有运算值为0的像素点的数量,运算值为0的像素点之数量与每一个图像帧中的像素点总数的比值即为每一图像组中各图像帧之间的重合度。s610:根据得到的各图像组中各图像帧之间的重合度,按预设图像补偿规则为各图像组生成补偿图像帧并插入到相应图像组之后。s611:按照预设编码分配原则,提取插入补偿图像帧后的截屏图像流中需要通过硬编码的图像帧以及需要通过软编码的图像帧分别发送至硬件编码器和软件编码器进行编码。s612:对经硬件编码器和经软件编码器编码后的图像帧进行合成输出视频文件。为了降低产品的生产开发成本,还可以通过运用模块化的方式,使本实施例提供的屏幕图像录制方法形成一套固定的流程,以此来降低开发成本。具体的,可以通过配置android.mk文件编译属性,设置local_module(局部模块)=interframecompensationco-coding,引用变量include$(build_shared_library);根据编译属性,编译生成一个公用的动态库libinterframecompensationco-coding.so供多个不同平台使用。相应地,在录屏操作结束时可以通过调用release()释放销毁interframecompensationco-coding模块,也即释放了录屏帧间补偿协同编码占用的系统资源。应当理解的是,终端系统通过调用interframecompensationco-coding模块进行编码输出视频,并在录制结束时,释放interframecompensationco-coding模块,可以降低该模块对系统资源的占用,降低电量消耗,进一步可以提升终端的待机时长。此外,需要说明的是,interframecompensationco-coding模块在调试或者在正常使用的时候可以通过adb端口设置interframecompensationco-coding模块的开启或者关闭,具体代码可以如下:adbshellsetproppersist.screenshot.interframe.compensation.enable1(开启录屏帧间补偿协同编码模块);adbshellsetproppersist.screenshot.interframe.compensation.enable0(关闭录屏帧间补偿协同编码模块)。为了更好的理解本发明,在此对本实施例帧间补偿协同编码模块在终端系统内部所处的结构位置进行具体说明,本实施例以安卓系统为例,请参见图7所示。终端系统包括安卓应用程序空间、安卓本地空间、内和空间以及硬件,其中安卓应用程序空间中具体包括screenshotapplication(屏幕截屏应用)701以及mediarecorder(媒体记录器)702,安卓本地空间中包括stagefright(演讲恐怖者)模块,stagefright模块中包括stagefrightrecorder(演讲恐怖者记录器)703、mediawriter(媒体写入器)704、audiotrack(音频跟踪器)707、videotrack(视频跟踪器)705、audiorecorder(录音机)708、videorecorder(录像机)706、以及帧间补偿协同编码模块709,帧间补偿协同编码模块709的下层是colorspaceconverter(色彩空间转换器)710;终端系统的内核空间包括compressedplatformdriver(压缩平台)711,这里的压缩平台711只对获取的音频流进行压缩编码,qdsp6asmdriver(驱动器)712,以及screendriver(屏幕驱动)713,;终端系统的硬件部分包括audiopcmoutput(音频脉冲编码输出)模块714、framebuffer(帧缓冲区)715以及lcdscreen(液晶屏)716。通过本实施例提供的屏幕图像录制方法,可以提升录屏帧率,从而可以录制更加连贯真实的视频,进而可以呈现更多细节的效果,提升了用户体验的满意度。第三实施例本实施例提供一种终端,请参见图8所示,包括:处理器81、存储器82及通信总线83;其中,通信总线83用于实现处理器81和存储器82之间的连接通信;处理器81用于执行存储器82中存储的屏幕图像录制程序,以实现以下步骤:获取待编码的截屏图像流;将截屏图像流中的至少部分图像帧分成图像组,每一图像组中包括至少两个连续的图像帧;计算各图像组中各连续图像帧之间的重合度;根据得到的各图像组中各图像帧之间的重合度,按预设图像补偿规则为各图像组生成补偿图像帧并插入到相应图像组之后;对插入补偿图像帧后的截屏图像流进行编码输出视频文件。应当理解的是,本实施例中可以在获取截屏图像流的同时为该截屏图像流进行分组,当然,也可以在获取完这一个截屏图像流之后再为该截屏图像流进行分组。为便于理解,下面给一个具体示例。假设每秒能获取到的截屏图像流中包括30个图像帧,这30个图像帧是依照时序连续的图像帧,在获取这30个图像帧的过程中可以同时对这30个连续的图像帧进行分组,例如依次获取了3个图像帧时,可以同时将这3个图像组划分为一个图像组,再依次获取了2个图像帧时,可以同时将这2个图像帧划分为一个图像组;当然在一些实施例中,还可以在获取完这30个图像帧之后再对该截屏图像流进行分组。应当理解的是,本实施例中获取截屏图像流的过程应当是连续的,为该截屏图像流进行分组的过程,并不影响获取下一个截屏图像流。在将截屏图像流中的至少部分图像帧分成图像组时,本实施例中的处理器81还可以用于执行本实施例中的屏幕图像录制程序以实现以下步骤:将截屏图像流中的所有图像帧分成连续的图像组,每一个图像组中都有至少两个连续的图像帧,例如,一个图像组中可以包括两个、三个、四个甚至更多的连续的图像帧。本实施例中在将截屏图像流中的至少部分图像帧分成图像组这一步骤之前,处理器81还可以执行屏幕图像录制程序实现以下步骤:对获取到的截屏图像流进行编码,并计算对该截屏图像流进行编码时的录屏帧率。判断该录屏帧率是否大于等于预设录屏帧率,若是,:根据对该截屏图像流的编码结果输出相应的视频文件,否则,对该截屏图像流中的至少部分图像帧进行分组。需要说明的是,本实施例中可以实时计算对该截屏图像流进行编码时的录屏帧率。在判断该录屏帧率是否大于等于预设录屏帧率时,可以设定一个预设时间间隔,若在预设时间间隔到达后该录屏帧率还是无法达到预设录屏帧率,则可以判定仅对该截屏图像流进行压缩编码的录屏帧率是无法达到预设录屏帧率的,此时可以转而执行对该截屏图像流中的至少部分图像帧进行分组这一步骤。应当理解的是该预设录屏帧率可以由开发人员任意设置,或者也可以支持用户自定义,需要说明的是,通常情况下,该预设录屏帧率应当满足用户的需求,例如可以为60帧/秒。需要说明的是,本实施例中计算各图像组中各连续图像帧之间的重合度具体可以通过以下方式进行计算:获取各连续图像帧之间相应重叠区域的面积,将该重叠区域的面积与其中一个图像帧的面积的比值作为各连续图像帧之间的重合度。假设每一图像组中包括两个连续的图像帧,则本实施例中在计算各图像组中各连续图像帧之间的重合度时,处理器81还可以执行屏幕图像录制程序实现以下步骤:比较每一图像组中两个连续图像帧之间各相应像素点的像素值大小。获取两个连续图像帧之间对应像素值相等区域的像素点之数量。将获取到的像素点之数量与一个图像帧中像素点总数的比值作为每一图像组中两个连续图像帧之间的重合度。本实施例中在对插入补偿图像帧后的截屏图像流进行编码输出视频文件的这一步骤中,处理器81还可以执行屏幕图像录制程序,实现以下步骤:按照预设编码分配原则,提取插入补偿图像帧后的截屏图像流中需要通过硬编码的图像帧以及需要通过软编码的图像帧分别发送至硬件编码器和软件编码器进行编码。对经硬件编码器和经软件编码器编码后的图像帧进行合成输出视频文件。应当理解的是,本实施例中的编码分配原则包括但不限于:循环的从插入补偿图像帧后的截屏图像流中,依次提取x帧作为需要通过硬编码的图像帧后,再依次提取y帧作为需要通过软编码的图像帧;一般而言,硬件编码器的编码能力都优于软件编码器的编码能力,因此,优选地,y取大于等于1的整数,x取大于y的整数。最后,需要对本实施例中处理器81执行屏幕图像录制程序实现根据得到的各图像组中各图像帧之间的重合度,按预设图像补偿规则为各图像组生成补偿图像帧的这一步骤的过程进行说明,具体而言,这一步骤还可以包括以下子步骤::判断每一图像组中各连续图像帧之间的重合度是否大于等于预设第二重合度阈值,如是,将每一图像组中各连续图像帧的最后一个图像帧作为相应图像组的补偿图像帧,否则,将每一图像组中各连续图像帧之间各相应像素点的加权平均像素值作为补偿图像帧中相应像素点的像素值。或者,在其他一些实施例中,在根据得到的各图像组中各图像帧之间的重合度,按预设图像补偿规则为各图像组生成补偿图像帧这一步骤之前,处理器81还可以执行屏幕图像录制程序以实现以下步骤:判断每一图像组中各连续图像帧之间的重合度是否大于等于预设第一重合度阈值,如是,则不生成补偿图像帧,否则,按预设图像补偿规则为每一图像组生成相应的补偿图像帧。由于某一图像组中的各连续图像帧之间的重合度大于等于预设第一预设重合度阈值时,说明这几个连续图像帧的连贯性已经很高了,所以此时可以不必为该图像组生成相应的补偿图像帧;处理器81执行屏幕图像录制程序在判定要生成补偿图像帧时,还可以执行屏幕图像录制程序实现以下步骤:将每一图像组中各连续图像帧之间各相应像素点的加权平均像素值作为补偿图像帧中相应像素点的像素值。需要说明的是,本实施例中的第一重合度阈值以及第二重合度阈值都可以由开发人员结合实际的应用场景灵活设置,为便于理解,下面对本实施例中将每一图像组中各连续图像帧之间各相应像素点的加权平均像素值作为补偿图像帧中相应像素点的像素值进行具体的说明。假设一个图像组中包括两个连续的图像帧,依照获取时间的先后顺序分别为第一图像帧与第二图像帧,若这两个图像帧中分别包括n个对应的像素点,应当对第一图像帧中第一像素点的像素值与第二图像帧中第一像素点的像素值求加权平均像素值,并将该加权平均像素值作为补偿图像帧中相应的第一像素点的像素值;同时还应当对第一图像帧中第x像素点的像素值与第二图像帧中第x像素点的像素值求加权平均像素值,并将该加权平均像素值作为补偿图像帧中相应的第x像素点的像素值,x为小于等于n,大于1的整数,如此,计算得到补偿图像帧中每一个像素点的像素值,从而可以得到一帧完整的图像,也即对应的补偿图像帧。下面对本实施例中求加权平均像素值的过程进行一个示例说明,假设第一图像帧中第一像素点的像素值为a,第二图像帧中第一像素点的像素值为b,在该图像组中第一图像帧的权重为c,第二图像帧的权重为d,则c+d=1,且第一图像帧中第一像素点的像素值与第二图像帧中第一像素点的加权平均像素值为:a*c+b*d,也即该图像组对应的补偿图像帧中第一像素点的像素值为a*c+b*d。本实施例提供的终端,通过对获取到的截屏图像流中插入补偿图像帧,以增加单位时间供硬件编码器和软件编码器编码的图像帧的数量,充分调用了终端系统内硬件编码器和软件编码器的编码能力,提升了屏幕的录屏帧率,所以可以录制更加连贯真实的视频,从而可以呈现更多细节的效果,提升了用户体验的满意度。第四实施例本实施例提供了一种计算机可读存储介质,本实施例提供的计算机可读存储介质存储有屏幕图像录制程序,本实施例中的屏幕图像录制程序被处理器执行时,实现如上述第一实施例和上述第二实施例中任一方法的步骤,具体的可以参见第一实施例和第二实施例中的步骤,这里不再赘述。通过本实施例提供的计算机可读存储介质,可以提升终端的录屏帧率,从而可以录制更加连贯真实的视频,进而可以呈现更多细节的效果,提升了用户体验的满意度。需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如rom/ram、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本发明各个实施例所述的方法。上面结合附图对本发明的实施例进行了描述,但是本发明并不局限于上述的具体实施方式,上述的具体实施方式仅仅是示意性的,而不是限制性的,本领域的普通技术人员在本发明的启示下,在不脱离本发明宗旨和权利要求所保护的范围情况下,还可做出很多形式,这些均属于本发明的保护之内。当前第1页12当前第1页12
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1