视频处理方法、装置、存储介质及设备与流程

文档序号:32394392发布日期:2022-11-30 09:40阅读:来源:国知局

技术特征:
1.一种视频处理方法,其特征在于,应用于超分网络,所述方法包括:从待处理视频数据中获取高分辨率训练视频,所述待处理视频数据至少包括直播视频流和点播视频流中的一种;根据所述高分辨率样本视频生成低分辨率样本视频和重建低分辨率样本视频,所述重建低分辨率样本视频为所述低分辨率样本视频对应的有损视频内容;根据所述重建低分辨率样本视频与所述高分辨率样本视频确定所述超分网络的网络参数的变化值,所述网络参数的变化值用于学习所述重建低分辨率样本视频的损失信息;根据所述网络参数的变化值更新所述超分网络的网络参数,以得到参数更新后的超分网络;根据所述参数更新后的超分网络对从所述待处理视频数据中获取的目标低分辨率视频进行超分辨率重建,以生成所述目标低分辨率视频对应的目标高分辨率视频。2.如权利要求1所述的视频处理方法,其特征在于,所述根据所述高分辨率样本视频生成低分辨率样本视频和重建低分辨率样本视频,包括:对所述高分辨率样本视频进行退化处理,得到低分辨率样本视频;对所述低分辨率样本视频进行编解码处理,得到重建低分辨率样本视频。3.如权利要求2所述的视频处理方法,其特征在于,所述超分网络包括编码器和解码器,所述编码器包括退化模块、第一视频编码模块、第一视频解码模块和模型编码模块,所述解码器包括第二视频解码模块、模型解码模块和超分辨率模块;所述对所述高分辨率样本视频进行退化处理,得到低分辨率样本视频,包括:根据所述编码器的退化模块对所述高分辨率样本视频进行退化处理,得到低分辨率样本视频。4.如权利要求3所述的视频处理方法,其特征在于,所述对所述低分辨率样本视频进行编解码处理,得到重建低分辨率样本视频,包括:根据所述编码器的第一视频编码模块对所述低分辨率样本视频进行编码压缩处理以生成视频数据流;根据所述编码器的第一视频解码模块对所述视频数据流进行解码处理,得到第一重建低分辨率样本视频;将所述视频数据流发送至所述解码器中的第二视频解码模块进行解码处理,得到第二重建低分辨率样本视频。5.如权利要求4所述的视频处理方法,其特征在于,所述根据所述重建低分辨率样本视频与所述高分辨率样本视频确定所述超分网络的网络参数的变化值,包括:将所述高分辨率样本视频与所述第一重建低分辨率样本视频输入所述编码器的模型编码模块中进行编码处理以生成模型数据流,并将所述模型数据流发送至所述解码器中的模型解码模块;根据所述模型解码模块对所述模型数据流进行解码处理,得到所述第一重建低分辨率样本视频对应的初始网络参数;将所述初始网络参数与所述第二重建低分辨率样本视频输入所述超分辨率模块进行超分辨率重建,以生成重建高分辨率样本视频;根据所述重建高分辨率样本视频与所述高分辨率样本视频之间的均方误差值对所述
超分网络进行迭代训练,并从所述初始网络参数中选择出在迭代训练中变化幅度最大的预设百分比的目标参数作为待更新参数,以对所述待更新参数进行数据更新以得到所述超分网络的网络参数的变化值。6.如权利要求3-5任一项所述的视频处理方法,其特征在于,所述根据所述网络参数的变化值更新所述超分网络的网络参数,以得到参数更新后的超分网络,包括:基于所述网络参数的变化值更新所述编码器和所述解码器的网络参数,以使更新后的所述编码器和所述解码器具有相同的网络参数,以得到参数更新后的超分网络。7.如权利要求6所述的视频处理方法,其特征在于,所述基于所述网络参数的变化值更新所述编码器和所述解码器的网络参数,包括:每隔预设时段重新确定所述网络参数的变化值,并基于重新确定的所述网络参数的变化值更新所述编码器和所述解码器的网络参数。8.如权利要求5所述的视频处理方法,其特征在于,所述超分辨率模块包括特征提取模块和重建模块,其中,所述特征提取模块包含有预训练的目标卷积层,所述预训练的目标卷积层为采用面向边缘的多分支卷积块进行预训练后转换得到的3x3的卷积层;所述将所述初始网络参数与所述第二重建低分辨率样本视频输入所述超分辨率模块进行超分辨率重建,以生成重建高分辨率样本视频,包括:根据所述初始网络参数调整所述超分辨率模块,并基于调整后的超分辨率模块中的特征提取模块提取所述第二重建低分辨率样本视频的样本特征图,所述样本特征图包含有所述第二重建低分辨率样本视频中各帧图像的纹理信息和边缘信息;基于调整后的超分辨率模块中的重建模块对所述样本特征图进行处理,以生成重建高分辨率样本视频。9.如权利要求8所述的视频处理方法,其特征在于,在所述将所述初始网络参数与所述第二重建低分辨率样本视频输入所述超分辨率模块进行超分辨率重建之前,还包括:采用面向边缘的多分支卷积块对所述特征提取模块中的目标卷积层进行预训练。10.如权利要求9所述的视频处理方法,其特征在于,所述采用面向边缘的多分支卷积块对所述特征提取模块中的目标卷积层进行预训练,包括:通过3x3的第一卷积块的第一卷积算子对低分辨率训练图像进行处理,得到第一图像特征;通过1x1的第二卷积块的第二卷积算子对所述低分辨率训练图像经过通道数扩展,并通过3x3的第三卷积块的第三卷积算子,对所述通道数扩展后的低分辨率训练图像进行压缩卷积,以得到压缩特征;通过1x1的第四卷积块的第四卷积算子对所述低分辨率训练图像进行处理后,再基于预先设定的横向索贝尔算子提取所述低分辨率训练图像的一阶边缘信息中的横向边缘信息;通过3x3的第五卷积块的第五卷积算子对所述低分辨率训练图像进行处理后,再基于预先设定的纵向索贝尔算子提取所述低分辨率训练图像的一阶边缘信息中的纵向边缘信息;通过1x1的第六卷积块的第六卷积算子对所述低分辨率训练图像进行处理后,再基于预先设定的拉普拉斯算子提取所述低分辨率训练图像的二阶边缘信息;
根据所述第一图像特征、所述压缩特征、所述一阶边缘信息中的横向边缘信息和纵向边缘信息、所述二阶边缘信息,确定所述低分辨率训练图像的第一低分辨特征图;根据所述第一卷积算子、所述第二卷积算子、所述第三卷积算子、所述第四卷积算子、所述横向索贝尔算子、所述第五卷积算子、所述纵向索贝尔算子、所述第六卷积算子和所述拉普拉斯算子,确定所述目标卷积层的目标卷积算子;通过所述目标卷积层的目标卷积算子对所述低分辨率训练图像进行处理,得到所述低分辨率训练图像的第二低分辨特征图;当所述第一低分辨特征图与所述第二低分辨特征图满足于训练条件时停止训练,以得到预训练的目标卷积层,以使所述预训练的目标卷积层提取的特征图包含有图像的纹理信息和边缘信息。11.如权利要求1所述的视频处理方法,其特征在于,所述目标低分辨率视频至少包括传输的所述待处理视频数据中的低分辨率视频、传输的所述待处理视频数据中的高分辨率视频经过退化处理对应的低分辨率视频中的一种。12.一种视频处理装置,其特征在于,应用于超分网络,所述装置包括:获取单元,用于从待处理视频数据中获取高分辨率训练视频,所述待处理视频数据至少包括直播视频流和点播视频流中的一种;处理单元,用于根据所述高分辨率样本视频生成低分辨率样本视频和重建低分辨率样本视频,所述重建低分辨率样本视频为所述低分辨率样本视频对应的有损视频内容;确定单元,用于根据所述重建低分辨率样本视频与所述高分辨率样本视频确定所述超分网络的网络参数的变化值,所述网络参数的变化值用于学习所述重建低分辨率样本视频的损失信息;更新单元,用于根据所述网络参数的变化值更新所述超分网络的网络参数,以得到参数更新后的超分网络;重建单元,用于根据所述参数更新后的超分网络对从所述待处理视频数据中获取的目标低分辨率视频进行超分辨率重建,以生成所述目标低分辨率视频对应的目标高分辨率视频。13.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机程序,所述计算机程序适于处理器进行加载,以执行如权利要求1-11任一项所述的视频处理方法。14.一种计算机设备,其特征在于,所述计算机设备包括处理器和存储器,所述存储器中存储有计算机程序,所述处理器通过调用所述存储器中存储的所述计算机程序,用于执行权利要求1-11任一项所述的视频处理方法。15.一种计算机程序产品,包括计算机指令,其特征在于,所述计算机指令被处理器执行时实现权利要求1-11任一项所述的视频处理方法。

技术总结
本申请公开了一种视频处理方法、装置、存储介质及设备,该方法包括:从待处理视频数据中获取高分辨率训练视频;根据高分辨率样本视频生成低分辨率样本视频和重建低分辨率样本视频,重建低分辨率样本视频为低分辨率样本视频对应的有损视频内容;根据重建低分辨率样本视频与高分辨率样本视频确定超分网络的网络参数的变化值,变化值用于学习重建低分辨率样本视频的损失信息;根据网络参数的变化值更新超分网络的网络参数,并根据参数更新后的超分网络对从待处理视频数据中获取的目标低分辨率视频进行超分辨率重建,以生成目标低分辨率视频对应的目标高分辨率视频,可以针对不同视频内容学习不同退化核,提高超分网络的超分效果。果。果。


技术研发人员:周琛晖 阮良 陈功 韩庆瑞
受保护的技术使用者:杭州网易智企科技有限公司
技术研发日:2022.11.01
技术公布日:2022/11/29
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1