视频编码方法、视频解码方法、装置及电子设备与流程

文档序号:25625993发布日期:2021-06-25 16:29阅读:128来源:国知局
视频编码方法、视频解码方法、装置及电子设备与流程

1.本申请属于通信技术领域,具体涉及一种视频编码方法、视频解码方法、装置及电子设备。


背景技术:

2.随着通信技术的飞速发展,智能手机及平板电脑等电子设备越来越普及,并成为人们日常生活中不可或缺的工具。其中,视频录制功能作为电子设备的主要功能之一,可以供用户实现动态地记录身边发生的一切事物,提升电子设备的用户体验效果。
3.目前,在视频帧编码过程中,由于可能出现传输编码后得到的视频帧数据的带宽受限的情况,或者为了视频播放的实时性或流畅性,或为了节省空间,而为满足视频码率要求,通常是在编码过程中降低视频帧的分辨率来降低视频帧数据的占用空间,从而导致视频播放的清晰度降低。


技术实现要素:

4.本申请实施例的目的是提供一种视频编码方法、视频解码方法、装置及电子设备,能够解决目前的电子设备因带宽受限而降低视频帧分辨率,导致视频播放的清晰度低的问题。
5.为了解决上述技术问题,本申请是这样实现的:
6.第一方面,本申请实施例提供了一种视频编码方法,包括:
7.获取待处理视频的第一视频帧;
8.对所述第一视频帧进行亮度

色度yuv编码;
9.获取所述待处理视频的第二视频帧,其中,所述第二视频帧为与所述第一视频帧关联的n帧视频帧中的任一视频帧,所述n为正整数;
10.对所述第二视频帧仅进行亮度y编码。
11.第二方面,本申请实施例提供了一种视频解码方法,包括:
12.获取待处理视频的第一视频帧数据和第二视频帧数据;
13.对所述待处理视频中的所述第一视频帧数据进行解码,得到第一视频帧的第一yuv信息,其中,所述第一视频帧数据为对所述第一视频帧进行yuv编码后生成的数据;
14.对所述待处理视频中的所述第二视频帧数据进行解码,得到第二视频帧的y信息,其中,所述第二视频帧数据为对所述第二视频帧进行y编码后生成的数据;
15.基于所述第一yuv信息和所述第二视频帧的y信息,对所述第二视频帧进行色彩传递处理,得到具有彩色的第二视频帧。
16.第三方面,本申请实施例提供了一种视频编码装置,包括:
17.第一视频帧获取模块,用于获取待处理视频的第一视频帧;
18.yuv编码模块,用于对所述第一视频帧进行亮度

色度yuv编码;
19.第二视频帧获取模块,用于获取所述待处理视频的第二视频帧,其中,所述第二视
频帧为与所述第一视频帧关联的n帧视频帧中的任一视频帧,所述n为正整数;
20.y编码模块,用于对所述第二视频帧仅进行亮度y编码。
21.第四方面,本申请实施例提供了一种视频解码装置,包括:
22.视频帧数据获取模块,用于获取待处理视频的第一视频帧数据和第二视频帧数据;
23.第一解码模块,用于对所述待处理视频中的所述第一视频帧数据进行解码,得到第一视频帧的第一yuv信息,其中,所述第一视频帧数据为对所述第一视频帧进行yuv编码后生成的数据;
24.第二解码模块,用于对所述待处理视频中的所述第二视频帧数据进行解码,得到第二视频帧的y信息,其中,所述第二视频帧数据为对所述第二视频帧进行y编码后生成的数据;
25.色彩传递模块,用于基于所述第一yuv信息和所述第二视频帧的y信息,对所述第二视频帧进行色彩传递处理,得到具有彩色的第二视频帧。
26.第五方面,本申请实施例提供了一种电子设备,该电子设备包括处理器、存储器及存储在所述存储器上并可在所述处理器上运行的程序或指令,所述程序或指令被所述处理器执行时实现如第一方面或者第二方面所述的方法的步骤。
27.第六方面,本申请实施例提供了一种可读存储介质,所述可读存储介质上存储程序或指令,所述程序或指令被处理器执行时实现如第一方面或者第二方面所述的方法的步骤。
28.第七方面,本申请实施例提供了一种芯片,所述芯片包括处理器和通信接口,所述通信接口和所述处理器耦合,所述处理器用于运行程序或指令,实现如第一方面或者第二方面所述的方法。
29.在本申请实施例中,通过对待处理视频的第一视频帧进行yuv编码,而对与第一视频帧关联的第二视频帧仅进行y编码,如此,通过本申请实施例中的视频编码方法,由于仅对第二视频帧进行y编码,从而可以有效降低编码后的第二视频帧的数据的占用空间;在保证视频清晰度的情况下,可以节省空间,提高视频帧的编码解码速度,还可以保证视频录制时的实时播放;在出现带宽受限的情况下,无需通过降低每一视频帧的分辨率来适应带宽,进而可以保证视频播放的清晰度。
附图说明
30.图1是本申请实施例提供的一种视频编码方法的流程示意图;
31.图2是本申请实施例提供的基于h.265对视频帧进行编码的示意图;
32.图3是本申请实施例提供的视频帧的编码过程的示意图;
33.图4是本申请实施例提供的一种视频解码方法的流程示意图;
34.图5是本申请实施例提供的视频帧的解码过程的示意图;
35.图6是本申请实施例提供的计算rgb过程的示意图;
36.图7是本申请实施例提供的视频编码装置的结构示意图;
37.图8是本申请实施例提供的视频解码装置的结构示意图;
38.图9是本申请实施例提供的电子设备的硬件结构示意图之一;
39.图10是本申请实施例提供的电子设备的硬件结构示意图之二。
具体实施方式
40.下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
41.本申请的说明书和权利要求书中的术语“第一”、“第二”等是用于区别类似的对象,而不用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施,且“第一”、“第二”等所区分的对象通常为一类,并不限定对象的个数,例如第一对象可以是一个,也可以是多个。此外,说明书以及权利要求中“和/或”表示所连接对象的至少其中之一,字符“/”,一般表示前后关联对象是一种“或”的关系。
42.下面结合附图,通过具体的实施例及其应用场景对本申请实施例提供的视频编码方法进行详细地说明。
43.请参见图1,是本申请实施例提供的一种视频编码方法的流程示意图,应用于电子设备,如图1所示,上述视频编码方法包括如下步骤:
44.步骤101、获取待处理视频的第一视频帧;
45.步骤102、对所述第一视频帧进行亮度

色彩yuv编码;
46.步骤103、获取所述待处理视频的第二视频帧;
47.步骤104、对所述第二视频帧仅进行亮度y编码。
48.基于此,通过对待处理视频的第一视频帧进行yuv编码,而对与第一视频帧关联的第二视频帧仅进行y编码,如此,通过本申请实施例中的视频编码方法,由于仅对第二视频帧进行y编码,从而可以有效降低编码后的第二视频帧的数据的占用空间;在保证视频清晰度的情况下,可以节省空间,提高视频帧的编码解码速度,还可以保证视频录制时的实时播放;进而可以保证视频播放的清晰度。
49.在上述步骤101中,在待处理视频的传输过程中,电子设备可以获取到待处理视频的第一视频帧。
50.其中,上述待处理视频可以是已录制好并存储于电子设备中的视频,那么,上述获取待处理视频的第一视频帧,可以是提取待处理视频中的一帧视频帧作为上述第一视频帧。或者,上述待处理视频也可以是正在录制中的视频,那么,上述获取待处理视频的第一视频帧,可以包括:在录制待处理视频的过程中,采集第一视频帧。
51.另外,上述第一视频帧可以为上述待处理视频中的任一视频帧。例如,在上述待处理视频为正在录制中的视频的情况下,上述第一视频帧可以是录制视频当前的视频帧;或者,也可以是在电子设备存储的视频中提取的任一视频帧。
52.当然,上述第一视频帧也可以是满足预设条件的视频帧。具体地,上述第一视频帧可以是第m个视频帧采集周期内采集到的第1帧视频帧,且电子设备在每一上述视频帧采集周期内采集n+1帧视频帧,m和n均为正整数。
53.或者,上述第一视频帧也可以是根据视频帧的色度确定的视频帧,更为具体地,上
述获取第一视频帧,可以包括:在待处理视频的第k帧视频帧与第k

1帧视频帧之间的色度差值超出预设色度范围的情况下,将第k帧视频帧确定为第一视频帧,其中,所述k为大于1的整数,即,将与上一帧视频帧的色度差值超出预设色度范围的视频帧确定为需要进行yuv编码的第一视频帧。
54.需要说明的是,上述待处理视频的视频帧可以是采用任意yuv格式的视频帧,具体地,上述待处理视频的视频帧的yuv格式可以是采用4:4:4、4:2:2、4:2:0和4:1:1等中的任一种格式。
55.上述步骤102中,在电子设备获取到上述第一视频帧之后,电子设备可以对上述第一视频帧进行亮度

色度(yuv,“y
””
表示明亮度,也就是灰阶值;“u”和“v”表示的则是色度,作用是描述影像色彩及饱和度,用于指定像素的颜色)编码,即对第一视频帧的彩色图像信息进行编码,且被编码的彩色图像信息包括第一视频帧中图像的亮度信息以及色度信息。
56.本申请实施例中,上述待处理视频中的视频帧的yuv格式可以是采用4:4:4、4:2:2、4:2:0和4:1:1等中的任一种格式。
57.另外,上述对第一视频帧的彩色图像信息进行编码,可以是采用任意的视频压缩技术对视频帧的彩色图像信息进行编码,具体地,可以是采用视频编码标准h.264或者视频编码标准h.265等的视频压缩技术进行编码。
58.以采用h.265为例,h.265将图像划分为编码树块(coding tree blocks,ctu),而不是像h.264那样的16
×
16的宏块。根据不同的编码设置,编码树块的尺寸可以被设置为64
×
64或有限的32
×
32或16
×
16。其中,更大的编码树块可以提供更高的压缩效率(同样也需要更高的编码速度)。每个编码树块可以被递归分割,如利用四叉树结构分割为32
×
32、16
×
16、8
×
8的子区域,如图2所示,就是一个64
×
64编码树块的分区示例(需要说明的是,图2中实际为彩色图像)。每个图像进一步被区分为特殊的编码树块组,称之为切割(slices)和拼贴(tiles)。编码树单元是h.265的基本编码单位,如同h.264的宏块。编码树单元可向下分区编码单元(coding unit,cu)、预测单元(prediction unit,pu)及转换单元(transform unit,tu)。
59.每个编码树单元内包含1个亮度与2个色度编码树块,以及记录额外信息的语法元素。假设视频帧是以yuv 4:2:0色彩采样进行压缩,因此以16x16的编码树单元为例,其中会包含1个16x16的亮度编码树块,以及2个8x8的色度编码树块。而在采用h26.5对上述第一视频帧进行编码,编码后会保留编码树单元内的亮度编码树块和色度编码树块(即被编码的彩色图像信息包括亮度信息和色度信息)。
60.需要说明的是,在上述电子设备对第一视频帧进行yuv编码后,可以得到第一视频帧的视频帧数据,电子设备可以将该视频帧数据发送或者缓存。
61.例如,在上述录制视频的过程中,电子设备可以将上述第一视频帧数据缓存,以使电子设备在后续接收到播放录制视频的指令的情况下,电子设备解码第一视频帧数据以显示第一视频帧。
62.在上述步骤103中,电子设备还可以获取上述待处理视频的第二视频帧。
63.需要说明的是,上述获取第二视频帧可以是在获取上述第一视频帧之后执行,例如,在录制视频过程中,第二视频帧为在第一视频帧之后采集到的视频帧;或者,上述获取第二视频帧也可以与上述获取第一视频帧同时执行,例如,在上述待处理视频为存储的视
频的情况下,电子设备可以每次提取待处理视频的多张视频帧,该多张视频帧包括上述第一视频帧和上述第二视频帧,在此并不进行限定。
64.本申请实施例中,上述第二视频帧为上述n帧视频帧中的任一视频帧,该n帧视频帧为与上述第一视频帧关联的至少一张视频帧。
65.其中,上述第一视频帧与上述n帧视频帧关联,可以是第一视频帧与n帧视频帧之间存在预设的关联关系,具体地,可以是上述n帧视频帧中每一视频帧与上述第一视频帧之间的时间间隔小于或者等于预设时长,即上述n帧视频帧与上述第一视频帧为在上述预设时长内的采集到的视频帧。
66.需要说明的是,上述预设时长可以是根据实际需要进行设定的时长。例如,上述预设时长可以是0.5s、1s或者2s,等等。
67.如前所述,上述第一视频帧可以是录制视频过程中采集到的视频帧,那么,上述n帧视频帧中的任一视频帧也可以是录制视频过程中采集到的且与上述第一视频帧关联的视频帧;又如前所述,上述n帧视频帧中每一视频帧与上述第一视频帧之间的时间间隔小于或者等于预设时长,那么,上述第二视频帧也可以为在第一视频帧之前或者之后采集到的,且与第一视频帧之间的时间间隔小于或者等于预设时长,即:
68.上述步骤101,可以包括:
69.在录制所述待处理视频的过程中,采集所述第一视频帧;
70.其中,所述第二视频帧为在所述第一视频帧之前或者之后采集到的,且与所述第一视频帧之间的时间间隔小于或者等于预设时长。
71.基于此,由于在录制视频过程中,预设时长内采集的视频帧之间的图像差异较小,从而通过将与第一视频帧处于预设时长内采集到的视频帧作为上述第二视频帧,可以提升视频编码质量。
72.本申请实施例中,上述第二视频帧可以是在上述第一视频帧之前采集到的视频帧,例如,上述第二视频帧可以是上述第一视频帧的前一帧视频帧,或者,上述第一视频帧为上述预设时长内的最后一帧视频帧,等等。
73.或者,上述第二视频帧也可以是在上述第一视频帧之后采集到的视频帧,例如,上述第二视频帧可以是上述第一视频帧的后一帧视频帧,或者,上述第一视频帧为上述预设时长内的第1帧视频帧,等等。
74.具体地,所述第一视频帧为第m个视频帧采集周期内采集到的第1帧视频帧,且电子设备在每一所述视频帧采集周期内采集n+1帧视频帧,m为正整数;
75.所述获取所述待处理视频的第二视频帧,可以包括:
76.将在所述第m个视频帧采集周期内采集到的第i+1帧视频帧确定为第二视频帧,其中,所述i为小于或者等于所述n的整数。
77.基于此,通过将录制视频过程中每一采集周期内的第1帧视频帧作为上述第一视频帧,而采集周期内的其它视频帧(即上述n帧视频帧中的视频帧)确定为上述第二视频帧,即每一采集周期内仅第1帧视频帧进行yuv编码,而其它视频帧均进行y编码,可以进一步缩减进行yuv编码的视频帧的数量;在保证视频清晰度的情况下,可以节省空间,提高视频帧的编码解码速度,还可以保证视频录制时的实时播放;在传输的带宽有限的情况下,可以保证视频播放的清晰度;另外,周期性地对上述待处理视频的视频帧进行上述编码过程,还可
以提升视频编码质量。
78.需要说明的是,上述第m个视频帧采集周期可以是录制视频过程中的任意一个视频帧采集周期,且电子设备在每一视频帧采集周期内可以采集到n+1帧视频帧。
79.例如,如图3所示,在n=3即第m个视频帧采集周期包括第1帧视频帧、第2帧视频帧、第3帧视频帧以及第4帧视频帧的情况下,电子设备可以将第1帧视频帧作为上述第一视频帧,而将第2帧视频帧、第3帧视频帧以及第4帧视频帧分别作为上述第二视频帧。
80.当然,上述n帧视频帧也可以是上述第一视频帧也可以是在录制视频过程中满足预设条件的任意一帧视频帧,而第二视频帧为在该第二视频帧之后不满足该预设条件且与第二视频帧存在关联的视频帧。
81.具体地,上述对所述第一视频帧进行yuv编码,可以包括:
82.在检测到所述第一视频帧的亮度值大于或者等于预设亮度值的情况下,对所述第一视频帧进行yuv编码;
83.上述在确定所述第二视频帧与所述第一视频帧关联的情况下,对所述第二视频帧仅进行y编码,包括:
84.在确定所述第二视频帧的亮度值的第一亮度值小于所述预设亮度值,且所述第二视频帧与所述第一视频帧之间不存在亮度值大于或者等于所述预设亮度值的视频帧的情况下,对所述第二视频帧仅进行y编码。
85.基于此,通过对录制视频过程中亮度值大于或者等于预设亮度值的第二视频帧进行yuv编码,而对第二视频帧之后采集到的且亮度值小于预设亮度值的每一帧视频帧(即第一视频帧)进行y编码,从而不仅可以实现进一步降低录制视频的占用空间,而且还使视频编码过程中的编码方式更灵活多样。
86.例如,假设在视频录制过程中,采集到第i帧视频帧的亮度值大于预设亮度值,i为正整数,则对第i帧视频帧进行yuv编码;若采集到第i+1帧视频帧和第i+2帧视频帧的亮度值均小于预设亮度值,则对第i+1帧视频帧和第i+2帧视频帧进行y编码;若采集到第i+3帧视频帧和第i+4帧视频帧的亮度值均大于预设亮度值,则对到第i+3帧视频帧和第i+4帧视频帧进行yuv编码;若采集到第i+5帧视频帧的亮度值小于预设亮度值,则对第i+5帧视频帧进行y编码,
……
,等等。
87.需要说明的是,在上述电子设备对上述第二视频帧进行编码之后,可以得到第二视频帧的视频帧数据,电子设备可以将该第二视频帧的视频帧数据进行缓存,以使电子设备可以对第二视频帧进行回放;或者,也可以是将第二视频帧的视频帧数据发送至其他设备,以使其他电子设备可以观看该第二视频帧,在此并不进行限定。
88.另外,需要说明的是,上述步骤103可以是在步骤102之后执行,也可以是在步骤102之前执行,或者与步骤101同时执行,还可以是与步骤102同时执行,而本申请为对上述视频编码方法进行说明,仅在图1中示出步骤103在步骤102之后执行的情况,在此并不进行限定。
89.在上述步骤104中,在获取上述第二视频帧之后,电子设备可以对上述第二视频帧仅进行y编码,即对第二视频帧的灰度图像信息进行编码,且被编码的灰度图像信息包括第二视频帧中图像的亮度信息,而不包括色度信息,从而可以降低编码后的第二视频帧的视频帧数据所占用的空间。
90.请参见图4,是本申请实施例提供的一种视频解码方法的流程示意图,应用于电子设备,如图4所示,上述视频编码方法包括如下步骤:
91.步骤401、获取待处理视频的第一视频帧数据和第二视频帧数据;
92.步骤402、对所述待处理视频中的所述第一视频帧数据进行解码,得到第一视频帧的第一yuv信息,其中,所述第一视频帧数据为对所述第一视频帧进行yuv编码后生成的数据;
93.步骤403、对所述待处理视频中的所述第二视频帧数据进行解码,得到第二视频帧的y信息,其中,所述第二视频帧数据为对所述第二视频帧进行y编码后生成的数据;
94.步骤404、基于所述第一yuv信息和所述第二视频帧的y信息,对所述第二视频帧进行色彩传递处理,得到具有彩色的第二视频帧。
95.基于此,在对待处理视频进行播放的情况下,通过进行yuv编码的第一视频帧的yuv信息,对与第一视频帧关联的第二视频帧在解码过程中进行彩色图像的复原,从而实现可以第二视频帧以彩色图像显示,保证视频播放的质量。
96.在上述步骤401中,在电子设备播放上述待处理视频的过程中,电子设备可以获取待处理视频的第一视频帧数据和第二视频帧数据。
97.本申请实施例中,上述第一视频帧数据为对第一视频帧进行yuv编码后得到的视频帧数据,上述第二视频帧数据为对第二视频帧仅进行y编码后得到的视频帧数据,且第一视频帧数据所对应的第一视频帧与第二视频帧数据所对应的第二视频帧之间存在关联关系。
98.其中,上述获取第一视频帧数据和第二视频帧数据,可以是电子设备在缓存中读取上述第一视频帧数据和上述第二视频帧数据;或者,也可以是接收其他电子设备实时发送的第一视频帧数据和第二视频帧数据。
99.另外,需要说明的是,上述执行视频解码方法的电子设备与执行图1中视频编码方法的电子设备,可以是相同的电子设备。例如,可以是电子设备录制上述待处理视频过程中,对录制的视频帧进行编码得到视频帧数据,并缓存视频帧数据,而在该电子设备回放上述待处理视频的过程中,电子设备对缓存的视频帧数据进行解码。
100.或者,上述执行视频解码方法的电子设备与执行图1中视频编码方法的电子设备,可以是不同的电子设备。例如,可以是电子设备1在录制待处理视频过程中,对录制的视频帧进行编码得到视频帧数据,并将视频帧数据传输至电子设备2,电子设备2在接收到上述电子设备1传输的视频帧数据之后,可以将视频帧数据进行解码,以实现播放上述待处理视频。
101.上述步骤402中,在电子设备获取到上述第一视频帧数据之后,电子设备可以对第一视频帧数据进行解码,得到上述第一视频帧的yuv信息(即第一yuv信息);同样地,上述步骤403中,在电子设备获取到上述第二视频帧数据之后,电子设备可以对第二视频帧数据进行解码,得到上述第二视频帧的y信息。
102.需要说明的是,上述对第一视频帧数据进行解码以及对第二视频帧数据进行解码,可以是在获取第一视频帧数据和第二视频帧数据的操作执行完成之后分别执行,且对第一视频帧数据进行解码可以是在对第二视频帧数据解码之前执行,即如图4中所示,或者,也可以是第一视频帧数据进行解码也可以是在对第二视频帧数据解码之后执行,或者,
还可以是第一视频帧数据进行解码与对第二视频帧数据解码同时执行。
103.或者,第一视频帧数据进行解码也可以是在对第二视频帧数据解码,也可以是在电子设备获取到第一视频帧数据之后,执行对第一视频帧数据解码,即无需等待获取第二视频帧数据;在电子设备获取到第二视频帧数据之后,执行对第二视频帧数据解码,而获取第二视频帧数据可以是在第一视频帧数据解码完成之前执行,也可以是在第一视频帧数据解码完成之后执行,在此并不进行限定。
104.其中,上述对第一视频帧数据和第二视频帧数据进行解码,可以是通过预设的解码方法对各视频帧数据进行解码,即第一视频帧数据中存在色度编码单元,解码后可以得到第一视频帧的彩色图像信息;第二视频帧数据中心仅存在亮度编码单元,而不存在色度编码单元,解码后可以得到第二视频帧的灰度图像信息。
105.另外,上述第一yuv信息可以是包括第一视频帧的亮度信息以及色度信息;而上述y信息可以是仅包括第二视频帧的亮度信息。
106.上述步骤404中,在电子设备获取到第一视频帧的第一yuv信息和第二视频帧的y信息的情况下,电子设备可以通过预设的方法,计算得到上述第二视频帧的yuv信息或者与yuv信息关联的色彩显示信息等。
107.例如,电子设备可以是直接将第一视频帧的第一yuv信息中的色度信息,作为与第一视频帧关联的第二视频帧的色度信息,从而使第二视频帧恢复的彩色图像的yuv信息包括上述第二视频帧的y信息(即亮度信息)以及第一视频帧的色度信息。
108.其中,由于在图像显示过程中,通常是将图像的yuv信息转换成每一像素点的红(red)绿(green)蓝(blue)(简称“rgb”)信息,以实现对彩色图像的显示。
109.具体地,上述对所述第二视频帧进行色彩传递处理,可以包括:
110.基于预设的深度神经网络模型,计算得到所述第二视频帧的红绿蓝rgb信息。
111.基于此,通过神经网络模型计算得到第二视频帧的rgb信息,从而使颜色传递后第二视频帧的彩色图像更接近实际采集的彩色图像,进一步提升视频播放过程中的图像质量。
112.需要说明的是,上述深度神经网络模型可以是在对上述第二视频帧进行色彩传递处理之前预设于电子设备中的模型,且深度神经网络模型可以是通过大量的视频帧数据训练得到的模型,该训练过程可以包括:将训练集的样本输入至初始深度神经网络模型中,通过对初始深度神经网络模型的权重进行不断迭代更新,直至迭代更新后得到的模型的损失趋向于不变,最终得到上述深度神经网络模型,其中,上述训练集中每一样本可以是包括具有yuv信息的至少一帧第三视频帧、仅具有y信息且与各第三视频帧关联的第四视频帧以及各第四视频帧的标注数据,该标注数据可以是第四视频帧的实际yuv信息。
113.本申请实施例中,上述基于预设的深度神经网络模型,计算得到所述第二视频帧的rgb信息,可以包括:
114.将所述第一yuv信息和所述第二视频帧的y信息输入至所述深度神经网络模型,计算得到所述第二视频帧的rgb信息;或者,
115.将第二yuv信息和所述第二视频帧的y信息输入至所述深度神经网络模型,计算得到所述第二视频帧的rgb信息,其中,所述第二yuv信息为在所述第一视频帧之后采集到的第n

1帧视频帧的yuv信息,且第1帧视频帧的yuv信息基于所述第一yuv信息和所述第1帧视
频帧的y信息计算得到。
116.基于此,在对第二视频帧进行色彩传递处理过程中,可以是直接采用第一视频帧的yuv信息进行色彩传递;或者,在第二视频帧与第一视频帧之间间隔至少一帧视频帧的情况下,也可以是采用上一帧视频帧的yuv信息进行色彩传递,从而使实现色彩传递处理的方式更灵活多样。
117.以如图5所示的解码过程为例,在电子设备对第m个视频帧采集周期采集到的视频帧进行解码的情况下,假设第m个视频帧采集周期包括第1帧视频帧、第2帧视频帧、第3帧视频帧以及第4帧视频帧,且第1帧视频帧为进行yuv编码的视频帧,而第2帧视频帧、第3帧视频帧以及第4帧视频帧均为进行y编码的视频帧,那么,电子设备显示第2帧视频帧、第3帧视频帧以及第4帧视频帧时,分别对第2帧视频帧、第3帧视频帧以及第4帧视频帧进行y解码,可以是将第1帧视频帧的yuv信息和第2至4帧视频帧中任一帧的y信息输入至上述深度神经网络模型,计算得到上述第2至4帧视频帧中对应视频帧的rgb信息,实现对第2至4帧视频帧中每一帧视频帧的色彩传递处理,并将色彩传递处理后的视频帧显示;
118.或者,也可以是将第1帧视频帧的yuv信息和第2帧视频帧的y信息输入至深度神经网络模型,计算得到第2帧视频帧的rgb信息;将第2帧视频帧计算得到的rgb信息对应的yuv信息和第3帧视频帧的y信息输入至深度神经网络模型,计算得到第3帧视频帧的rgb信息;将第3帧视频帧计算得到的rgb信息对应的yuv信息和第4帧视频帧的y信息输入至深度神经网络模型,计算得到第4帧视频帧的rgb信息,实现对进行y编码的各视频帧的色彩传递处理。
119.另外,上述基于预设的深度神经网络模型,计算得到所述第二视频帧的rgb信息,可以是将第一视频帧或者上一帧视频帧解码后的yuv信息通过颜色转换成rgb分量,再将第二视频帧的y通道组合(如通过concat函数实现组合)成一个4通道的输入,通过神经网络(network)模型进行计算后输出一个rgb分量的图像,输出图像即对应于第二视频帧着色后的图像(即具有彩色的第二视频帧),如图6所示。
120.需要说明的是,本申请实施例提供的视频编码方法,执行主体可以为视频编码装置,或者该视频编码装置中的用于视频编码方法的控制模块。本申请实施例中以视频编码装置执行视频编码方法为例,说明本申请实施例提供的视频编码装置。
121.请参见图7,本申请实施例提供一种视频编码装置,如图7所示,该视频编码装置700包括:
122.第一视频帧获取模块701,用于获取待处理视频的第一视频帧;
123.yuv编码模块702,用于对所述第一视频帧进行亮度

色度yuv编码;
124.第二视频帧获取模块703,用于获取所述待处理视频的第二视频帧,其中,所述第二视频帧为与所述第一视频帧关联的n帧视频帧中的任一视频帧,所述n为正整数;
125.y编码模块704,用于对所述第二视频帧仅进行亮度y编码。
126.基于此,通过对待处理视频的第一视频帧进行yuv编码,而对与第一视频帧关联的第二视频帧仅进行y编码,如此,通过本申请实施例中的视频编码方法,由于仅对第二视频帧进行y编码,从而可以有效降低编码后的第二视频帧的数据的占用空间,故在出现带宽受限的情况下,无需通过降低每一视频帧的分辨率的来适应带宽,进而可以保证视频帧的清晰度。
127.可选的,所述第一视频帧获取模块701,具体用于:
128.在录制所述待处理视频的过程中,采集所述第一视频帧;
129.其中,所述第二视频帧为在所述第一视频帧之前或者之后采集到的,且与所述第一视频帧之间的时间间隔小于或者等于预设时长。
130.基于此,由于在录制视频过程中,预设时长内采集的视频帧之间的图像差异较小,从而通过将与第一视频帧处于预设时长内采集到的视频帧作为上述第二视频帧,可以提升视频编码质量。
131.可选的,所述第一视频帧为第m个视频帧采集周期内采集到的第1帧视频帧,且电子设备在每一所述视频帧采集周期内采集n+1帧视频帧;
132.所述第二视频帧获取模块703,具体用于:
133.将在所述第m个视频帧采集周期内采集到的第i+1帧视频帧确定为第二视频帧,其中,所述i为小于或者等于所述n的整数。
134.基于此,通过将录制视频过程中每一采集周期内的第1帧视频帧作为上述第一视频帧,而采集周期内的其它视频帧确定为上述第二视频帧,即每一采集周期内仅第1帧视频帧进行yuv编码,而其它视频帧均进行y编码,可以进一步缩减进行yuv编码的视频帧的数量;在保证视频清晰度的情况下,可以节省空间,提高视频帧的编码解码速度,还可以保证视频录制时的实时播放;在传输的带宽有限的情况下,可以保证视频播放的清晰度;另外,周期性地对上述待处理视频的视频帧进行上述编码过程,还可以提升视频编码质量。
135.可选的,所述第一视频帧获取模块701,具体用于:
136.在所述待处理视频的第k帧视频帧与第k

1帧视频帧之间的色度差值超出预设色度范围的情况下,将所述第k帧视频帧确定为第一视频帧,其中,所述k为大于1的整数;
137.所述第二视频帧获取模块703,具体用于:
138.在检测到所述待处理视频的第i帧视频帧与所述第k帧视频帧之间的色度差值处于所述预设色度范围,且所述第i帧视频帧与所述第k帧视频帧之间不存在目标视频帧的情况下,将所述第i帧视频帧确定为第二视频帧,其中,所述目标视频帧为:与所述第k帧视频帧之间的色度差值超出所述预设色度范围的视频帧;所述i为大于所述k的整数。
139.基于此,通过对录制视频过程中亮度值大于或者等于预设亮度值的第二视频帧进行yuv编码,而对第二视频帧之后采集到的且亮度值小于预设亮度值的每一帧视频帧(即第一视频帧)进行y编码,从而不仅可以实现进一步降低录制视频的占用空间,而且还使视频编码过程中的编码方式更灵活多样。
140.需要说明的是,本申请实施例提供的视频解码方法,执行主体可以为视频解码装置,或者该视频解码装置中的用于视频解码方法的控制模块。本申请实施例中以视频解码装置执行视频解码方法为例,说明本申请实施例提供的视频解码装置。
141.请参见图8,本申请实施例提供一种视频解码装置,如图8所示,该视频解码装置800包括:
142.视频帧数据获取模块801,用于获取待处理视频的第一视频帧数据和第二视频帧数据;
143.第一解码模块802,用于对所述待处理视频中的所述第一视频帧数据进行解码,得到第一视频帧的第一yuv信息,其中,所述第一视频帧数据为对所述第一视频帧进行yuv编
码后生成的数据;
144.第二解码模块803,用于对所述待处理视频中的所述第二视频帧数据进行解码,得到第二视频帧的y信息,其中,所述第二视频帧数据为对所述第二视频帧进行y编码后生成的数据;
145.色彩传递模块804,用于基于所述第一yuv信息和所述第二视频帧的y信息,对所述第二视频帧进行色彩传递处理,得到具有彩色的第二视频帧。
146.基于此,在对待处理视频进行播放的情况下,通过进行yuv编码的第一视频帧的yuv信息,对与第一视频帧关联的第二视频帧在解码过程中进行彩色图像的复原,从而实现可以第二视频帧以彩色图像显示,保证视频播放的质量。
147.可选的,所述色彩传递模块804,具体用于:
148.基于预设的深度神经网络模型,计算得到所述第二视频帧的红绿蓝rgb信息。
149.基于此,通过神经网络模型计算得到第二视频帧的rgb信息,从而使颜色传递后第二视频帧的彩色图像更接近实际采集的彩色图像,进一步提升视频播放过程中的图像质量。
150.可选的,所述n大于1;
151.所述色彩传递模块804,具体用于:
152.将所述第一yuv信息和所述第二视频帧的y信息输入至所述深度神经网络模型,计算得到所述第二视频帧的rgb信息;或者,
153.将第二yuv信息和所述第二视频帧的y信息输入至所述深度神经网络模型,计算得到所述第二视频帧的rgb信息,其中,所述第二yuv信息为在所述第一视频帧之后采集到的第n

1帧视频帧的yuv信息,且第1帧视频帧的yuv信息基于所述第一yuv信息和所述第1帧视频帧的y信息计算得到。
154.基于此,在对第二视频帧进行色彩传递处理过程中,可以是直接采用第一视频帧的yuv信息进行色彩传递;或者,在第二视频帧与第一视频帧之间间隔至少一帧视频帧的情况下,也可以是采用上一帧视频帧的yuv信息进行色彩传递,从而使实现色彩传递处理的方式更灵活多样。
155.本申请实施例中的视频编码装置以及视频解码装置可以是装置,也可以是终端中的部件、集成电路、或芯片。该装置可以是移动电子设备,也可以为非移动电子设备。示例性的,移动电子设备可以为手机、平板电脑、笔记本电脑、掌上电脑、车载电子设备、可穿戴设备、超级移动个人计算机(ultra

mobile personal computer,umpc)、上网本或者个人数字助理(personal digital assistant,pda)等,非移动电子设备可以为服务器、网络附属存储器(network attached storage,nas)、个人计算机(personal computer,pc)、电视机(television,tv)、柜员机或者自助机等,本申请实施例不作具体限定。
156.本申请实施例中的视频编码装置以及视频解码装置可以为具有操作系统的装置。该操作系统可以为安卓(android)操作系统,可以为ios操作系统,还可以为其他可能的操作系统,本申请实施例不作具体限定。
157.本申请实施例提供的视频编码装置能够实现图1的方法实施例实现的各个过程,以及,本申请实施例提供的视频解码装置能够实现图4的方法实施例实现的各个过程,为避免重复,这里不再赘述。
158.可选的,如图9所示,本申请实施例还提供一种电子设备900,电子设备900包括处理器901,存储器902,存储在存储器902上并可在所述处理器901上运行的程序或指令,该程序或指令被处理器901执行时实现上述视频编码方法实施例或者上述视频解码方法实施例的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。
159.需要说明的是,本申请实施例中的电子设备包括上述所述的移动电子设备和非移动电子设备。
160.图10为实现本申请实施例的一种电子设备的硬件结构示意图。
161.该电子设备1000包括但不限于:射频单元1001、网络模块1002、音频输出单元1003、输入单元1004、传感器1005、显示单元1006、用户输入单元1007、接口单元1008、存储器1009、以及处理器1010等部件。
162.本领域技术人员可以理解,电子设备1000还可以包括给各个部件供电的电源(比如电池),电源可以通过电源管理系统与处理器1010逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。图10中示出的电子设备结构并不构成对电子设备的限定,电子设备可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置,在此不再赘述。
163.其中,处理器1010,用于:
164.获取待处理视频的第一视频帧;
165.对所述第一视频帧进行亮度

色度yuv编码;
166.获取所述待处理视频的第二视频帧,其中,所述第二视频帧为与所述第一视频帧关联的n帧视频帧中的任一视频帧,所述n为正整数;
167.对所述第二视频帧仅进行亮度y编码。
168.基于此,通过对待处理视频的第一视频帧进行yuv编码,而对与第一视频帧关联的第二视频帧仅进行y编码,如此,通过本申请实施例中的视频编码方法,由于仅对第二视频帧进行y编码,从而可以有效降低编码后的第二视频帧的数据的占用空间,故在出现带宽受限的情况下,无需通过降低每一视频帧的分辨率的来适应带宽,进而可以保证视频帧的清晰度。
169.可选的,处理器1010,具体用于:
170.在录制所述待处理视频的过程中,采集所述第一视频帧;
171.其中,所述第二视频帧为在所述第一视频帧之前或者之后采集到的,且与所述第一视频帧之间的时间间隔小于或者等于预设时长。
172.基于此,由于在录制视频过程中,预设时长内采集的视频帧之间的图像差异较小,从而通过将与第一视频帧处于预设时长内采集到的视频帧作为上述第二视频帧,可以提升视频编码质量。
173.可选的,所述第一视频帧为第m个视频帧采集周期内采集到的第1帧视频帧,且电子设备在每一所述视频帧采集周期内采集n+1帧视频帧;
174.处理器1010,具体用于:
175.将在所述第m个视频帧采集周期内采集到的第i+1帧视频帧确定为第二视频帧,其中,所述i为小于或者等于所述n的整数。
176.基于此,通过将录制视频过程中每一采集周期内的第1帧视频帧作为上述第一视
频帧,而采集周期内的其它视频帧确定为上述第二视频帧,即每一采集周期内仅第1帧视频帧进行yuv编码,而其它视频帧均进行y编码,可以进一步缩减进行yuv编码的视频帧的数量;在保证视频清晰度的情况下,可以节省空间,提高视频帧的编码解码速度,还可以保证视频录制时的实时播放;在传输的带宽有限的情况下,可以保证视频播放的清晰度;另外,周期性地对上述待处理视频的视频帧进行上述编码过程,还可以提升视频编码质量。
177.可选的,处理器1010,具体用于:
178.在所述待处理视频的第k帧视频帧与第k

1帧视频帧之间的色度差值超出预设色度范围的情况下,将所述第k帧视频帧确定为第一视频帧,其中,所述k为大于1的整数;
179.在检测到所述待处理视频的第i帧视频帧与所述第k帧视频帧之间的色度差值处于所述预设色度范围,且所述第i帧视频帧与所述第k帧视频帧之间不存在目标视频帧的情况下,将所述第i帧视频帧确定为第二视频帧,其中,所述目标视频帧为:与所述第k帧视频帧之间的色度差值超出所述预设色度范围的视频帧;所述i为大于所述k的整数。
180.基于此,通过对录制视频过程中亮度值大于或者等于预设亮度值的第二视频帧进行yuv编码,而对第二视频帧之后采集到的且亮度值小于预设亮度值的每一帧视频帧(即第一视频帧)进行y编码,从而不仅可以实现进一步降低录制视频的占用空间,而且还使视频编码过程中的编码方式更灵活多样。
181.或者,处理器1010,用于:
182.获取待处理视频的第一视频帧数据和第二视频帧数据;
183.对所述待处理视频中的所述第一视频帧数据进行解码,得到第一视频帧的第一yuv信息,其中,所述第一视频帧数据为对所述第一视频帧进行yuv编码后生成的数据;
184.对所述待处理视频中的所述第二视频帧数据进行解码,得到第二视频帧的y信息,其中,所述第二视频帧数据为对所述第二视频帧进行y编码后生成的数据;
185.基于所述第一yuv信息和所述第二视频帧的y信息,对所述第二视频帧进行色彩传递处理,得到具有彩色的第二视频帧。
186.基于此,在对待处理视频进行播放的情况下,通过进行yuv编码的第一视频帧的yuv信息,对与第一视频帧关联的第二视频帧在解码过程中进行彩色图像的复原,从而实现可以第二视频帧以彩色图像显示,保证视频播放的质量。
187.可选的,处理器1010,具体用于:
188.基于预设的深度神经网络模型,计算得到所述第二视频帧的红绿蓝rgb信息。
189.基于此,通过神经网络模型计算得到第二视频帧的rgb信息,从而使颜色传递后第二视频帧的彩色图像更接近实际采集的彩色图像,进一步提升视频播放过程中的图像质量。
190.可选的,所述n大于1;
191.处理器1010,具体用于:
192.将所述第一yuv信息和所述第二视频帧的y信息输入至所述深度神经网络模型,计算得到所述第二视频帧的rgb信息;或者,
193.将第二yuv信息和所述第二视频帧的y信息输入至所述深度神经网络模型,计算得到所述第二视频帧的rgb信息,其中,所述第二yuv信息为在所述第一视频帧之后采集到的第n

1帧视频帧的yuv信息,且第1帧视频帧的yuv信息基于所述第一yuv信息和所述第1帧视
频帧的y信息计算得到。
194.基于此,在对第二视频帧进行色彩传递处理过程中,可以是直接采用第一视频帧的yuv信息进行色彩传递;或者,在第二视频帧与第一视频帧之间间隔至少一帧视频帧的情况下,也可以是采用上一帧视频帧的yuv信息进行色彩传递,从而使实现色彩传递处理的方式更灵活多样。
195.应理解的是,本申请实施例中,输入单元1004可以包括图形处理器(graphics processing unit,gpu)10041和麦克风10042,图形处理器10041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。显示单元1006可包括显示面板10061,可以采用液晶显示器、有机发光二极管等形式来配置显示面板10061。用户输入单元1007包括触控面板10071以及其他输入设备10072。触控面板10071,也称为触摸屏。触控面板10071可包括触摸检测装置和触摸控制器两个部分。其他输入设备10072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆,在此不再赘述。存储器1009可用于存储软件程序以及各种数据,包括但不限于应用程序和操作系统。处理器1010可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器1010中。
196.本申请实施例还提供一种可读存储介质,所述可读存储介质上存储有程序或指令,该程序或指令被处理器执行时实现上述视频编码方法或者上述视频解码方法实施例的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。
197.其中,所述处理器为上述实施例中所述的电子设备中的处理器。所述可读存储介质,包括计算机可读存储介质,如计算机只读存储器(read

only memory,rom)、随机存取存储器(random access memory,ram)、磁碟或者光盘等。
198.本申请实施例另提供了一种芯片,所述芯片包括处理器和通信接口,所述通信接口和所述处理器耦合,所述处理器用于运行程序或指令,实现上述视频编码方法或者上述视频解码方法实施例的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。
199.应理解,本申请实施例提到的芯片还可以称为系统级芯片、系统芯片、芯片系统或片上系统芯片等。
200.需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个
……”
限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。此外,需要指出的是,本申请实施方式中的方法和装置的范围不限按示出或讨论的顺序来执行功能,还可包括根据所涉及的功能按基本同时的方式或按相反的顺序来执行功能,例如,可以按不同于所描述的次序来执行所描述的方法,并且还可以添加、省去、或组合各种步骤。另外,参照某些示例所描述的特征可在其他示例中被组合。
201.通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本申请的技术方案本质上或者说对现有技术做
出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如rom/ram、磁碟、光盘)中,包括若干指令用以使得一台终端(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本申请各个实施例所述的方法。
202.上面结合附图对本申请的实施例进行了描述,但是本申请并不局限于上述的具体实施方式,上述的具体实施方式仅仅是示意性的,而不是限制性的,本领域的普通技术人员在本申请的启示下,在不脱离本申请宗旨和权利要求所保护的范围情况下,还可做出很多形式,均属于本申请的保护之内。
当前第1页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1