桌面视频内容分析方法与流程

文档序号:13627824阅读:1186来源:国知局

本发明涉及通信和视频处理技术领域,具体地,涉及用于视频会议等场合的桌面视频内容分析方法。



背景技术:

基于互联网的视频通信技术被广泛应用企业或个人进行视频会议等工作和生活应用场合。在这些应用中,经常需要对电脑桌面显示的画面进行抓取,然后使用视频编码技术,比如h.264、h.265等国际标准,对抓屏数据进行编码,然后实时传输。

现有的视频编码传输系统在使用视频编码技术编码电脑桌面屏幕画面的过程中,并不对桌面屏幕画面进行内容分析,而是将画面整体作为输入,交由视频编码器进行处理。

由于人们在操作电脑时,电脑桌面屏幕内容变化多端,如不做内容分析,使用单一的参数设置编码器,往往不能得到最优的压缩比率、最优的视频质量和最佳的视频体验。例如,在现有的系统中,视频编码的帧率和分辨率,一般仅根据网络带宽来确定,且某一帧是否为参考帧往往按固定模式设置。另外,各帧码率几乎平均分配,这对于例如幻灯片演示等的典型场景来说并不合理。

在现有的视频内容分析方法中,主要是对视频画面中的纹理进行分析,根据颜色统计等信息判断内容的类型。这种方法的缺点在于,纹理分析技术只针对图像纹理进行分析,而视频除了空间上的图像纹理信息,还有时间上的运动相关信息,而且,时间上的运动相关信息的变化对视频编码的码率控制和视频质量有很大的影响,现有技术中的视频画面分析不能针对桌面视频内容的特点、全面识别并利用视频内容的特征。

因此,在桌面视频的传输中,为了进一步优化体验,有开发新的桌面内容进行分析方法的需求,以便针对桌面视频内容的特点,更好地识别并利用视频内容的特征,进一步便于后续对视频编码和传输进行更好控制。



技术实现要素:

本发明的目的是针对现有技术的不足,设计本视频编码和传输控制系统,针对电脑屏幕内容进行分析,然后根据内容分析结果,结合网络传输状况控制编码器的编码参数,比如码率,分辨率,帧内编码帧间隔,参考帧选择,跳帧决策和量化参数等。

根据本发明的实施例,提供了桌面视频内容分析方法,包括以下步骤:步骤1、对已采集的桌面图像的特定周期内的视频帧,以第二帧至最后一帧依次作为当前帧,分别判定当前帧与前一帧的画面差异程度;步骤2、根据当前帧与前一帧的画面差异程度,将当前帧分类为静态帧、小动态帧、大动态帧,其中,静态帧、小动态帧、大动态帧与前一帧画面的差异程度逐步增大;步骤3、统计所述特定周期中的静态帧、小动态帧、大动态帧各自所占的比例;步骤4、根据步骤3的统计结果,如果所述静态帧的比例大于第一阈值,则将所述视频判定为第一类型的视频。

本发明可以帮助在线视频产品(例如,网络会议应用)分析用户的桌面场景,从而选择最合适的编码、传输方式对用户的桌面进行编码,传输。

附图说明

图1为根据本发明的实施例的桌面视频内容分析方法的流程示意图。

具体实施方式

下面,结合附图对技术方案的实施作进一步的详细描述。

本领域的技术人员能够理解,尽管以下的说明涉及到有关本发明的实施例的很多技术细节,但这仅为用来说明本发明的原理的示例、而不意味着任何限制。本发明能够适用于不同于以下例举的技术细节之外的场合,只要它们不背离本发明的原理和精神即可。

另外,为了避免使本说明书的描述限于冗繁,在本说明书中的描述中,可能对可在现有技术资料中获得的部分技术细节进行了省略、简化、变通等处理,这对于本领域的技术人员来说是可以理解的,并且这不会影响本说明书的公开充分性。

下面结合附图对具体实施方案进行详细描述。

图1为根据本发明的实施例的桌面视频内容分析方法的流程示意图。

如图1所示,根据本发明的实施例,桌面视频内容分析方法主要包括以下步骤:

步骤1、对已采集图像的特定周期(定义为观察窗,例如,5秒周期的观察窗)内的视频帧,以第二帧至最后一帧依次作为当前帧,分别判定当前帧与前一帧的画面差异程度;

步骤2、根据当前帧与前一帧的画面差异程度,将当前帧分类为静态帧、小动态帧、大动态帧,其中,静态帧、小动态帧、大动态帧与前一帧的画面差异程度逐步增大;

步骤3、统计所述特定周期中的静态帧、小动态帧、大动态帧各自所占的比例,并且,该方法根据所述统计的结果跳转到以下步骤4至6中的一个;

步骤4、根据步骤3的统计结果,如果所述静态帧的比例大于第一阈值,则将所述视频判定为第一类型的视频(视频内容处于静态,如呈现文档、没有对桌面任何操作的视频);

步骤5、根据步骤3的统计结果,如果所述静态帧的比例不大于第一阈值、且所述小动态帧在所述静态帧之外的帧中所占的比例大于第二阈值,则将所述视频判定为第二类型的视频(视频内容有较小变化,如图像内容为文档编辑模式,通常用户是在对文档做局部编辑、修改);

步骤6、根据步骤3的统计结果,如果静态帧的比例不大于第一阈值、且所述小动态帧在所述静态帧之外的帧中所占的比例不大于第二阈值,则将所述视频判定为第三类型的视频(视频内容有较大变化,如视频播放模式,通常用户是在播放视频)。

具体地,作为示例,在步骤1中,根据分块规则(例如,均匀分块、或者基于感兴趣区域来分块),以同样方式,将已采集图像的每帧各自分成若干个单元块,并判断每个单元块的内容是否有变化。之后,在步骤2中,基于以上单元块变化情况,统计每帧中的单元块变化比率,根据比率的大小将当前帧分类为静态帧、小动态帧、大动态帧。

更具体地,作为示例,在步骤1中,使用循环冗余校验(crc)算法,计算得出每帧中每个单元块数据的散列(hash)值。通过比较前后两帧相同位置的单元块的散列值,判断单元块内容是否有变化,例如,如果相同单元块的散列值不同,则单元块内容有变化;如果相同位置单元块的散列值相同,则单元块内容没有变化。由此,基于以上单元块变化情况,统计每帧单元块变化比率,根据比率的大小把图像帧分类为上述三类。

可选地,在步骤2中,可对图像的每一帧使用循环冗余校验算法,计算得出每帧图像的散列值。基于计算得出的散列值,在视频观察窗中统计静态帧(相同帧)的数目。

这样,上级的控制系统能够例如上述图像帧分类的结果,结合用户当前的网络状况(例如,发送端用户的网络上行带宽、接收端用户的网络下行带宽)、适当地选择编码方式、以及编码参数,例如编码方式包括常规编码、全帧内编码、跳帧编码等方式,编码参数包括编码帧率、码率、分辨率等参数。由此,还结合视频内容的分析,在满足网络带宽需求的条件下保障了最优的视频质量,同时还能节省网络带宽。

最后,本领域的技术人员能够理解,对本发明的上述实施例能够做出各种修改、变型、以及替换,其均落入如所附权利要求限定的本发明的保护范围。



技术特征:

技术总结
本发明涉及桌面视频内容分析方法,包括:步骤1、对已采集的桌面图像的特定周期内的视频帧,以第二帧至最后一帧依次作为当前帧,分别判定当前帧与前一帧的画面差异程度;步骤2、根据当前帧与前一帧的画面差异程度,将当前帧分类为静态帧、小动态帧、大动态帧,其中,静态帧、小动态帧、大动态帧与前一帧画面的差异程度逐步增大;步骤3、统计所述特定周期中的静态帧、小动态帧、大动态帧各自所占的比例;步骤4、根据步骤3的统计结果,如果所述静态帧的比例大于第一阈值,则将所述视频判定为第一类型的视频。本发明可以帮助在线视频产品(例如,网络会议应用)分析用户的桌面场景,从而选择最合适的编码、传输方式对用户的桌面进行编码,传输。

技术研发人员:白刚;夏鹏;范圣冲;高新媛
受保护的技术使用者:北京小鱼易连科技有限公司
技术研发日:2017.09.25
技术公布日:2018.02.06
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1