视频处理系统及处理方法与流程

本发明涉及安防监控技术，具体涉及到高清视频监控信号的传输和处理技术。

背景技术：

安防监控是以集中监视、集中控制和集中管理为目的，将各种安防设备与系统通过组成或者集成，构成一个综合性的安全技术防范系统。而视频监控系统是安防系统的主要基础，它保证了所有活动都在监控中心的可视范围内，同时又保证了出现相关事故后所有视频录像文件可供查证，因此，视频监控系统是安防的基础和保证。但是一直以来，安防监控系统都只能起到被动监视的作用，主要用于事后查证，无法起到预防、报警的作用，从而导致了整个系统的安全性和实用性降低，因此无法满足现代社会对于高安全的要求。

智能视频监控技术的产生正是为了解决传统视频监控系统所固有的一些缺陷。它以数字化、网络化视频监控为基础，但又有别于一般的网络化视频监控，是一种更高端的视频监控应用。智能视频监控系统能够识别不同的物体，发现监控画面中的异常情况，并能够以最快和最佳的方式发出警报和提供有用信息，从而能够更加有效的协助安全人员处理危机，并最大限度的降低误报和漏报现象。

智能视频监控技术的出现，实现了监控方式由被动到主动的转变，能够实现全天候不间断地对视频进行检测，自动发现监控画面中的异常情况，从而能够更加有效的协助安全人员处理危机，并最大限度的降低误报和漏报现象，能够满足各类安防系统对于安全及异常的自动报警需求。

智能视频监控的基础就是高清视频采集，视频清晰度越高，视频分析的准确率就越高，目前高清视频主流分辨率为1080P，占用带宽约4M/s。一般智慧城市中安防监控路数通常在万路以上(每个相机产生的视频流称为一路)，就算单个城市的区县级别，视频监控路数也在千路左右，以一千路估算，一分钟生成的视频数据约240G。

一种视频处理系统如图1所示，多路高清相机的视频信号传输至流媒体接收模块，由流媒体接收模块进行转码、切分操作后，传输给并发文件生成单元，并发文件生成单元将多路高清相机的视频信号存储为多个视频文件，然后多路视频文件通过并发文件存储单元存储在了本地或远程云存储系统中(磁盘存储)。

如前所述，由于数据量十分巨大，因此只依靠本地或远程的磁盘进行存储是不现实的另一方面，并行视频分析单元通过存储应用接口单元访问云存储单元，提供分析结果给分析结果提示与报警单元，因为读取的是磁盘中的数据文件，先存后读，涉及两次磁盘IO操作，实时处理性能会大大降低。

这种视频处理技术存在的不足是高清相机路数越多，并发生成的视频文件就越多，并发文件存储单元通过存储应用接口单元写入到云存储单元的磁盘IO问题就越大。在云存储单元集群节点数量固定的情况下，其总体磁盘IO吞吐量也是固定的，所能支持的高清相机路数十分有限，尤其在并发文件存储模块处于云存储单元集群之外的情况下，因为涉及远程文件写入，IO性能进一步降低。

另外，在上述方案下，首先并行视频分析单元在分析视频之前，视频文件要先存储到云存储单元的磁盘系统中，再通过云存储的存储应用接口读取磁盘文件到内存中分析，由于涉及多次磁盘读取，整体性能不佳，一般视频分析及报警延迟一般在5秒以上，不能满足实时分析和报警的要求。

技术实现要素：

本发明的目的在于针对现有技术中云存储单元的磁盘IO吞吐量受限导致系统所能支持的高清视频路数接入量较少，且视频分析涉及多次磁盘读取以至于延迟较长的问题，提供一种视频处理系统及处理方法，能够大大提升整个系统的视频存储及处理性能。

为解决上述技术问题，本发明采用如下技术方案：

一种视频处理系统，所述视频处理系统包括多路高清相机、流媒体接收模块、并发文件生成单元、并发文件存储单元、并行视频分析单元、分析结果提示与报警单元、存储应用接口单元、云存储单元，所述系统还包括缓存应用接口单元、分布式缓存单元和冷数据自动同步单元，其中，

多路高清相机连接流媒体接收模块，将多路视频信号传输至流媒体接收模块；

流媒体接收模块连接至并发文件生成单元，用于将多路高清相机的视频信号进行转码和切分操作；

并发文件生成单元连接至并发文件存储单元，用于将转码、切分后的视频信号并行生成多个视频文件；

并发文件存储单元连接至缓存应用接口单元，用于通过本地或远程缓存视频文件；

缓存应用接口单元连接至并行视频分析单元和分布式缓存单元，用于向分布式缓存单元读写视频文件，或根据并行视频分析单元的请求，将视频文件传输给并行视频分析单元；

并行视频分析单元连接至分析结果提示与报警单元，用于对视频文件进行分析，并实现视频文件分析结果的输出；

分析结果提示与报警单元用于对视频文件分析的结果进行提示，以及对异常结果进行报警操作；

分布式缓存单元连接至冷数据自动同步单元，用于缓存视频文件，并清理缓存的冷视频数据文件；

冷数据自动同步单元连接至存储应用接口单元，用于调用存储应用接口单元将分布式缓存单元中的视频文件同步到云存储；

存储应用接口单元连接至云存储单元，用于向云存储单元写入视频文件；

云存储单元用于采用分布式存储方式存储视频文件。

其中，所述缓存应用接口单元兼容存储应用接口和分析应用接口的功能。

另外，所述冷数据自动同步单元按照缓存数据文件是否已被并行视频分析单元处理过，或者先进先出的顺序，将视频文件分批提交给存储应用接口单元。

另外，所述冷数据自动同步单元根据多路高清相机的路数、高清相机的视频分辨率，确定数据量不大于分布式缓存预定阈值比例所对应的缓存时间，每隔所述缓存时间将将视频文件分批提交给存储应用接口单元。

所述分布式缓存单元中，按照视频文件的属性，缓存视频文件的多个备份。

另外，所述并行视频分析单元分析视频文件存在异常时，自动提取异常快照发送给分析结果提示与报警单元，分析结果与报警单元根据异常快照进行报警操作。

一种视频处理方法，所述方法包括步骤：

A、多路高清相机采集视频信号；

B、流媒体接收模块对所述视频信号进行转码和切分操作；

C、并发文件生成单元将转码、切分后的视频信号并行生成多个视频文件；

D、并发文件存储单元首先通过调用缓存应用接口单元，缓存视频文件；

E、缓存应用接口单元向分布式缓存单元读写视频文件，当并行视频分析单元提出请求时，将视频文件传输给并行视频分析单元；

F、并行视频分析单元对视频文件进行分析，分析结果提示与报警单元对视频文件分析的结果进行提示，以及对异常结果进行报警操作；

G、冷数据自动同步单元将视频文件提交给存储应用接口单元；

H、存储应用接口单元向云存储单元写入视频文件。

其中，所述按照缓存数据文件是否已被并行视频分析单元处理过，或者先进先出的顺序，将视频文件分批提交给存储应用接口单元。

另外，所述冷数据自动同步单元根据多路高清相机的路数、高清相机的视频分辨率，确定数据量不大于分布式缓存预定阈值比例所对应的缓存时间，每隔所述缓存时间将将视频文件分批提交给存储应用接口单元。

本发明采用分布式缓存技术，解决了云存储单元的磁盘IO吞吐量受限导致系统所能接入的高清视频路数较少的问题；采用并行视频分析模块直接访问分布式缓存的方法，解决了并行视频分析需要进行多次磁盘读取的问题；采用冷数据自动同步功能，解决了异步数据存储的问题。

本发明具有的IO性能高、支持的高清视频路数多、能够进行实时视频分析优点，适合于多路高清相机的视频存储和分析，例如交通违规管理、刑事侦查、大规模中控安防设备等。

附图说明

图1是一种视频处理系统的结构示意图。

图2是本发明具体实施方式中的视频处理系统的结构示意图。

图3是本发明具体实施方式中的视频处理系统相对于现有技术的比较示意图。

图4是本发明具体实施方式中的视频处理系统相对于现有技术的比较示意图。

图5是本发明具体实施方式中的视频处理系统的局部结构示意图。

具体实施方式

下面结合附图，对本发明作详细说明。

以下公开详细的示范实施例。然而，此处公开的具体结构和功能细节仅仅是出于描述示范实施例的目的。

然而，应该理解，本发明不局限于公开的具体示范实施例，而是覆盖落入本公开范围内的所有修改、等同物和替换物。在对全部附图的描述中，相同的附图标记表示相同的元件。

参阅附图，本说明书所附图式所绘示的结构、比例、大小等，均仅用以配合说明书所揭示的内容，以供熟悉此技术的人士了解与阅读，并非用以限定本发明可实施的限定条件，故不具技术上的实质意义，任何结构的修饰、比例关系的改变或大小的调整，在不影响本发明所能产生的功效及所能达成的目的下，均应仍落在本发明所揭示的技术内容得能涵盖的范围内。同时，本说明书中所引用的位置限定用语，亦仅为便于叙述的明了，而非用以限定本发明可实施的范围，其相对关系的改变或调整，在无实质变更技术内容下，当亦视为本发明可实施的范畴。

同时应该理解，如在此所用的术语“和/或”包括一个或多个相关的列出项的任意和所有组合。另外应该理解，当部件或单元被称为“连接”或“耦接”到另一部件或单元时，它可以直接连接或耦接到其他部件或单元，或者也可以存在中间部件或单元。此外，用来描述部件或单元之间关系的其他词语应该按照相同的方式理解(例如，“之间”对“直接之间”、“相邻”对“直接相邻”等)。

在介绍本发明具体实施方式之前，首先简要说明一些相关技术。

Hadoop是一个开发和运行处理大规模数据的软件平台,是Apache的一个用java语言实现开源软件框架，实现在大量计算机组成的集群中对海量数据进行分布式计算

用户可以在不了解分布式底层细节的情况下，开发分布式程序。充分利用集群的威力进行高速运算和存储。Hadoop实现了一个分布式文件系统(Hadoop Distributed File System)，简称HDFS。HDFS有高容错性的特点，并且设计用来部署在低廉的(low-cost)硬件上；而且它提供较高的吞吐量(high throughput)来访问应用程序的数据，适合那些有着超大数据集(large data set)的应用程序。HDFS放宽了(relax)POSIX的要求，可以以流的形式访问(streaming access)文件系统中的数据。

Alluxio是一个基于内存的分布式文件系统，它是架构在底层分布式文件系统和上层分布式计算框架之间的一个中间件，主要职责是以文件形式在内存或其它存储设施中提供数据的存取服务。

在大数据领域，最底层的是分布式文件系统，如Amazon S3、Apache HDFS等，而较高层的应用则是一些分布式计算框架，如Spark、MapReduce、HBase、Flink等，这些分布式框架，往往都是直接从分布式文件系统中读写数据，效率比较低，性能消耗比较大。而如果我们将Alluxio架构于底层分布式文件系统与上层分布式计算框架之间，以文件的形式在内存中对外提供读写访问服务的话，那么Alluxio可以为那些大数据应用提供一个数量级的加速，而且它提供通用的数据访问接口，可以很方便的切换底层分布式文件系统。

实施例1

如图2所示，本发明具体实施例1中公开了一种视频处理系统，所述视频处理系统包括多路高清相机、流媒体接收模块、并发文件生成单元、并发文件存储单元、并行视频分析单元、分析结果提示与报警单元、存储应用接口单元、云存储单元，所述系统还包括缓存应用接口单元、分布式缓存单元和冷数据自动同步单元，其中，

多路高清相机连接流媒体接收模块，将多路视频信号传输至流媒体接收模块；

流媒体接收模块连接至并发文件生成单元，用于将多路高清相机的视频信号进行转码和切分操作；

并发文件生成单元连接至并发文件存储单元，用于将转码、切分后的视频信号并行生成多个视频文件；

并发文件存储单元连接至缓存应用接口单元，用于通过本地或远程调用缓存应用接口单元，缓存视频文件；

缓存应用接口单元连接至并行视频分析单元和分布式缓存单元，用于向分布式缓存单元读写视频文件，或根据并行视频分析单元的请求，将视频文件传输给并行视频分析单元；

并行视频分析单元连接至分析结果提示与报警单元，用于对视频文件进行分析，并输出视频文件分析的结果；

分析结果提示与报警单元用于对视频文件分析的结果进行提示，以及对异常结果进行报警操作；

分布式缓存单元连接至冷数据自动同步单元，用于缓存视频文件，并清理缓存的冷视频数据文件，所述的冷视频数据文件可以是并行视频分析单元已经处理过的视频文件，或者缓存已有一段时间的视频文件；

冷数据自动同步单元连接至存储应用接口单元，用于调用存储应用接口单元将分布式缓存中的视频文件存储于云存储单元；

存储应用接口单元连接至云存储单元，用于向云存储单元写入视频文件；

云存储单元用于采用分布式存储方式存储视频文件。

通过本发明具体实施方式的视频处理系统，缓存应用接口单元根据并行视频分析单元的请求，将视频文件传输给并行视频分析单元。这样进行并行视频分析时，视频文件并不是已经存储在云存储单元的磁盘中，而是存储在分布式缓存单元中，所述分布式缓存单元物理上可以是分布式的多个内存单元。众所周知，内存的存取速度比磁盘的读写速度快数十倍，由此大大提高了并行视频分析的速度，能够满足并行视频分析的实时性要求。

例如在交通违规管理、刑事侦查、大规模中控安防设备等应用场合，本发明具体实施方式的视频处理系统能够满足相应的要求，例如可以将并行视频分析的时间压缩到几十毫秒内，足以应对各种视频分析应用。

本发明具体实施方式的视频处理系统中，云存储单元和存储应用接口单元可以利用Hadoop云存储系统来实现，这样本发明具体实施方式的视频处理系统能够具有Hadoop云存储系统高容错性的特点，而且适合那些有着超大数据集的应用程序。另外，本发明具体实施方式的视频处理系统中缓存应用接口单元、分布式缓存单元和冷数据自动同步单元可以通过Alluxio集群来实现，其以文件的形式在内存中对外提供读写访问服务的话，那么Alluxio集群可以为大数据应用提供一个数量级的加速，而且它提供通用的数据访问接口，可以很方便的切换底层分布式文件系统。

图4是本发明具体实施方式中的视频处理系统相对于现有技术的比较示意图，其中由存储应用接口单元指向并行视频分析单元的虚线箭头表示现有技术中的数据流向。现有技术中，由存储应用接口单元读取云存储单元的视频文件，并将其传输至并行视频分析单元，由此需要对云存储单元的磁盘进行读取操作，这种磁盘读取操作将会大大延误并行视频分析的速度。

为了对现有技术兼容，本发明具体实施方式中缓存应用接口单元兼容存储应用接口和分析应用接口的功能。例如Alluxio集群的应用接口，就能够兼容Hadoop云存储系统的应用接口的功能，包括读取、写入的接口功能，和例如map/reduce和spark等用于分析的接口功能。

这样，本发明具体实施方式不需要对并行视频分析单元的接口和并发文件存储单元的接口进行更改，并行视频分析单元和并发文件存储单元和现有技术同样的方式工作，只是IO性能和数据的实时性得到了提高。

实施例2

本实施例的基本架构与实施例1基本相同，只是对于一些特征进行了更具体的限定和说明。

作为一个特别的方面，因为分布式缓存单元自身的特点：缓存数据文件的位置是在各机器的内存里面，因此有一个需要考虑的问题：内存面临关机丢失数据文件的风险。

因此，所述分布式缓存单元中，按照视频文件的属性，缓存视频文件的多个备份。例如对于高清视频按照每个文件3个备份保存，对于一些视频文件的元数据，按照每个文件5个备份进行保存，这样就能够避免因为关机而发生视频文件的丢失问题。

在本发明具体实施方式中，所述并行视频分析单元通过自学习的方式进行并行视频分析，自学习的方法例如采用人工神经网络、专家系统等方式进行，在本发明中并不对其进行限制。

当所述并行视频分析单元分析到视频文件存在异常时，例如发现存在交通违法行为，自动提取异常快照发送给分析结果提示与报警单元，分析结果与报警单元根据异常快照进行报警操作。

实施例3

本实施例的基本架构与以前实施例基本相同，只是明确阐述了冷数据自动同步单元的操作。

冷数据自动同步单元起到的作用是将分布式缓存单元中的视频文件提交给存储应用接口单元，因此冷数据自动同步单元无需考虑缓存应用接口单元的操作，完全自主地进行视频文件提交操作，这里我们称之为异步式数据操作。

在提交视频文件内容上，所述冷数据自动同步单元可以按照缓存视频文件是否已被并行视频分析单元处理过的顺序，将视频文件分批提交给存储应用接口单元。

其中一种方式是按照缓存时间长短的顺序，例如将缓存比较久的视频文件优先存到存储应用接口单元，因为一般说来，缓存比较久的视频文件已经分析完毕，只需要存档即可。

另外，所述冷数据自动同步单元根据多路高清相机的路数、高清相机的视频分辨率，确定数据量不大于分布式缓存预定阈值比例的缓存时间，每隔所述缓存时间将将视频文件分批提交给存储应用接口单元。

例如，高清相机的路数是100路，分辨率是1080P的视频信号，每产生的数据率是400M/s，根据每个视频文件存储4个备份来计算，则每秒能缓存100M数据，如果分布式缓存为20G空间，而假设预定阈值比例是80％，则确定缓存时间为160s，也就是说，每隔160s后，冷数据自动同步单元将视频文件分批提交给存储应用接口单元。

这样能够避免分布式缓存单元存储数据过多而溢出时，视频文件不能缓存而遗失，又能避免冷数据自动同步单元频繁访问存储应用接口单元，磁盘读写操作过于频繁。

图3是本发明具体实施方式中的视频处理系统相对于现有技术的比较示意图，其中从并发文件存储单元指向存储应用接口单元的虚线箭头表示现有技术中的数据流向。

现有技术中，当高清相机路数越多时，并发生成的文件就越多，并发文件存储单元通过存储应用接口单元写入到云存储单元的磁盘IO问题就越大。在云存储单元集群节点数量固定的情况下，其总体磁盘IO吞吐量也是固定的，所能支持的高清相机路数十分有限，尤其在并发文件存储模块处于云存储单元集群之外的情况下，因为涉及远程文件写入，IO性能进一步降低。

而本发明具体实施方式中，通过冷数据自动同步单元将分布式缓存单元中的视频文件通过存储应用接口单元写入到云存储单元，大大提升了视频处理的实时性能。

图5是本发明具体实施方式中的视频处理系统的局部结构示意图，其中冷数据自动同步单元根据多路高清相机的路数、高清相机的视频分辨率，确定数据量不大于分布式缓存预定阈值比例的缓存时间，每隔所述缓存时间将将视频文件分批提交给存储应用接口单元。

实施例4

本实施例中主要说明了与本发明视频处理系统对应的视频处理方法的步骤和效果。

本发明公开了一种视频处理方法，所述方法包括步骤：

A、多路高清相机采集视频信号；

B、流媒体接收模块对所述视频信号进行转码和切分操作；

C、并发文件生成单元将转码、切分后的视频信号并行生成多个视频文件；

D、并发文件存储单元首先通过本地或远程调用缓存应用接口单元缓存

视频文件；

E、缓存应用接口单元向分布式缓存单元读写视频文件，当并行视频分

析单元提出请求时，将视频文件传输给并行视频分析单元；

F、并行视频分析单元对视频文件进行分析，分析结果提示与报警单元

对视频文件分析的结果进行提示，以及对异常结果进行报警操作；

G、冷数据自动同步单元调用存储应用接口单元将分布式缓存单元中的

视频文件同步到云存储单元；

H、存储应用接口单元向云存储单元写入视频文件。

其中，所述冷数据自动同步单元按照缓存视频文件是否已被并行视频分析单元处理过或先进先出的顺序，将视频文件分批提交给存储应用接口单元。

另外，所述冷数据自动同步单元根据多路高清相机的路数、高清相机的视频分辨率，确定数据量不大于分布式缓存预定阈值比例的缓存时间，每隔所述缓存时间将将视频文件分批提交给存储应用接口单元。

通过采用本发明具体实施方式中的视频处理方法，解决了云存储单元的磁盘IO吞吐量受限导致所能支持的高清视频路数接入较少的问题；采用并行视频分析模块直接访问分布式缓存的方法，解决了并行视频分析需要进行多次磁盘读取的问题；采用冷数据自动同步功能，解决了异步数据存储的问题。

需要说明的是，上述实施方式仅为本发明较佳的实施方案，不能将其理解为对本发明保护范围的限制，在未脱离本发明构思前提下，对本发明所做的任何微小变化与修饰均属于本发明的保护范围。