一种全景视频分发监控系统及方法与流程

文档序号:14942986发布日期:2018-07-13 21:32

本发明涉及一种全景视频分发监控系统,同时也涉及相应的全景视频分发监控方法,属于视频监控技术领域。



背景技术:

目前,监控系统都是使用摄像装置采集图像,然后通过媒体服务器转发视频数据到终端显示。传统的摄像装置一般采集的是某一方位的图像,不能同时获得其他方位的图像;如果要获取其他方位的图像,必须要旋转摄像设备,或者采用多个摄像装置同时采集,后期再用终端将多个摄像装置拍摄到的各个方位的图像进行拼接及显示。

在获取多方位的图像时,如果不想部署多个摄像装置,就需要采用云台,或者采用装备有大广角或全景镜头的摄像装置,一次性采集多方位的图像。通过云台控制摄像装置虽然能实现上下左右全方位空间的监控,但是不能做到同时全方位的监控,而且云台转动也需要时间,导致实时性不强。采用装备有大广角或全景镜头的摄像装置虽然能同时监控到足够大范围的场景空间,但是对终端显示具有较高的要求,需要终端显示具备针对广角或全景图像的还原失真功能。

同时,无论是云台还是装备有大广角或全景镜头的摄像装置,其只能相应一个终端用户的显示需求,无法满足多个终端用户的显示需求。



技术实现要素:

本发明所要解决的首要技术问题在于提供一种全景视频分发监控系统。

本发明所要解决的另一技术问题在于提供一种全景视频分发监控方法。

为了实现上述目的,本发明采用下述技术方案:

根据本发明实施例的第一方面,提供一种全景视频分发监控系统,包括图像采集模块、图像处理模块及多个显示模块,所述图像采集模块与所述图像处理模块连接,所述图像处理模块分别与多个所述显示模块连接;

所述图像采集模块采集现场的全景图像,并将所采集的全景图像发送至所述图像处理模块进行预处理;

所述图像处理模块分别接收多个所述显示模块发送的图像信息,并根据每个所述显示模块发送的图像信息确定出所需查看的图像范围和像素点集合;

所述图像处理模块根据确定出的每个所述显示模块对应的所需查看的图像范围和像素点集合,及经预处理的所述全景图像生成每个所述显示模块对应的所需查看的图像,并分别同时发送至每个所述显示模块进行显示。

其中较优地,所述图像采集模块采用大广角鱼眼镜头或全景镜头采集全景图像。

其中较优地,所述图像处理模块包括图像预处理模块、多个图像范围确定模块及与多个所述图像范围确定模块对应的图像截取转发模块,所述图像预处理模块分别与所述图像采集模块和所述图像范围确定模块连接,每个所述图像范围确定模块与对应的所述图像截取转发模块连接,每个所述图像截取转发模块与对应的所述显示模块连接。

其中较优地,所述图像预处理模块用于接收所述图像采集模块发送的所述全景图像,并采用预设算法对所述全景图像进行畸变矫正,获取经畸变校正后的所述全景图像的还原图像中的有限像素点集合;

每个所述图像范围确定模块用于接收对应的所述图像截取转发模块发送的图像信息,确定出所需查看的图像范围及像素点集合;

每个所述图像截取转发模块用于接收对应的所述显示模块发送的图像信息,并根据确定的所需查看的图像范围和像素点集合,及所获取的经畸变校正后的所述全景图像的还原图像中的有限像素点集合,生成所需查看的图像,并发送至显示模块进行显示。

其中较优地,在所述全景图像的还原图像的有限像素点集合中,分别选取距离已确定的所需查看的图像的像素点集合中的每一个像素点最近的四个像素点;

根据选取的距离已确定的所需查看的图像中的每一个所述像素点最近的四个像素点,计算所述四个像素点对应的加权系数,并将所述四个像素点及对应的所述加权系数以向量形式进行保存;

根据保存的与所需查看的图像中的每一个像素点对应的所述四个像素点,及所述四个像素点对应的加权系数,所组成向量和所述四个像素点对应的像素值,生成所需查看的图像,并发送至对应的所述显示模块进行显示。

根据本发明实施例的第二方面,提供一种全景视频分发监控方法,包括如下步骤:

通过图像采集模块采集现场的全景图像,并将所采集的全景图像发送至图像处理模块进行预处理;

图像处理模块分别接收多个显示模块发送的图像信息,并根据每个显示模块发送的图像信息确定出所需查看的图像范围和像素点集合;

图像处理模块根据确定出的每个显示模块对应的所需查看的图像范围和像素点集合,及经预处理的全景图像生成每个显示模块对应的所需查看的图像,并分别同时发送至每个显示模块进行显示。

其中较优地,所述图像预处理模块接收所述图像采集模块发送的所述全景图像,并采用预设算法对所述全景图像进行畸变矫正,获取经畸变校正后的所述全景图像的还原图像中的有限像素点集合;

每个所述图像范围确定模块接收对应的所述图像截取转发模块发送的图像信息,确定出所需查看的图像范围及像素点集合;

每个所述图像截取转发模块接收对应的所述显示模块发送的图像信息,并根据确定的所需查看的图像范围和像素点集合,及所获取的经畸变校正后的所述全景图像的还原图像中的有限像素点集合,生成所需查看的图像,并发送至显示模块进行显示。

其中较优地,每个所述图像范围确定模块接收的图像信息包括所需查看的图像的矩形区域的某一个角点的位置、尺寸及每个像素点的尺寸;其中,

根据所需查看的图像的所述矩形区域的某一个角点的位置及所述矩形区域的尺寸,确定出所需查看的图像在所述全景图像的还原图像中的位置;

根据所需查看的图像的所述矩形区域的尺寸,及所需查看的图像的每个像素点的尺寸,确定出所需查看的图像中的像素点集合。

其中较优地,在所述全景图像的还原图像的有限像素点集合中,分别选取距离已确定的所需查看的图像的像素点集合中的每一个像素点最近的四个像素点;

根据选取的距离已确定的所需查看的图像中的每一个所述像素点最近的四个像素点,计算所述四个像素点对应的加权系数,并将所述四个像素点及对应的所述加权系数以向量形式进行保存;

根据保存的与所需查看的图像中的每一个像素点对应的所述四个像素点,及所述四个像素点对应的加权系数,所组成向量和所述四个像素点对应的像素值,生成所需查看的图像,并发送至对应的所述显示模块进行显示。

本发明所提供的全景视频分发监控系统及方法一方面通过一颗摄像头采集现场的全景图像,并对全景图像进行预处理,减少了全景图像畸变校正的计算量,确保实时处理能力。另一方面,本全景视频分发监控系统不仅能根据不同用户的需求实现多用户同时获取全景图像中不同区域的监控图像,保证了多用户查看全景图像中不同区域的图像不会互相影响;而且其传输数据过程无需增加额外的带宽。

附图说明

图1为本发明所提供的全景视频分发监控系统的结构简图;

图2为本发明所提供的全景视频分发监控系统的结构详图;

图3为本发明所提供的全景视频分发监控方法的流程图;

图4为本发明所提供的全景视频分发监控系统中,全景图像中同一列的像素点经扭曲后的示意图;

图5为本发明所提供的全景视频分发监控系统中,以全景图像的中心为圆心,建立的直角坐标系;

图6为本发明所提供的全景视频分发监控系统中,全景图像的还原图像的直角坐标系。

具体实施方式

下面结合附图和具体实施例对本发明的技术内容做进一步的详细说明。

如图1所示,本发明所提供的全景视频分发监控系统包括图像采集模块1、图像处理模块2及多个显示模块3,图像采集模块1与图像处理模块2连接,图像处理模块2分别与多个显示模块3连接。

在本发明所提供的全景视频分发监控系统中,通过图像采集模块1采集现场的全景图像,并将所采集的全景图像发送至图像处理模块2进行预处理;图像处理模块2分别接收多个显示模块发送的图像信息,并根据每个显示模块3发送的图像信息确定出所需查看的图像范围和像素点集合;图像处理模块2根据确定出的每个显示模块3对应的所需查看的图像范围和像素点集合,及经预处理的全景图像生成每个显示模块3对应的所需查看的图像,并分别同时发送至每个显示模块3进行显示。

本全景视频分发监控系统能监控大范围场景,并保证了发送至显示模块的图像数据与传统监控一致,因此,本全景视频分发监控系统的传输数据过程无需增加额外的带宽;同时,本全景视频分发监控系统不仅能实现多用户同时获取不同场景的监控图像,而且还通过对采集的全景图像进行预处理,从而减少了全景图像畸变校正的计算量,确保实时处理能力。

需要强调的是,本全景视频分发监控系统会将生成的与多个显示模块对应的所需查看的图像进行编码后,分别同时发送给对应的显示模块,显示模块会将所需查看的图像解码后进行显示,此过程为现有图像传输的常规做法,也是现有视频监控系统的通用做法。因此,在本发明中,多个图像处理模块分别将生成的所需查看的图像发送至对应的显示模块进行显示,此过程等同于多个图像处理模块分别将生成的所需查看的图像经过编码后,发送至对应的显示模块经解码后进行显示。

其中,图像采集模块1可以采用大广角鱼眼镜头或全景镜头,大广角鱼眼镜头可以监控到180°以上范围的半全景场景,实现采集半全景图像;全景镜头可以监控到360°全空间范围的全景场景,实现采集全景图像;在本发明所提供的全景视频分发监控系统中不对半全景图像和全景图像做具体区分,以下统称为全景图像。

如图2所示,图像处理模块2包括图像预处理模块201、多个图像范围确定模块202及与多个图像范围确定模块202对应的图像截取转发模块203,图像预处理模块201分别与图像采集模块1和图像范围确定模块202连接,每个图像范围确定模块202与对应的图像截取转发模块203连接,每个图像截取转发模块203与对应的显示模块3连接。

其中,图像预处理模块201用于接收图像采集模块1发送的全景图像,并采用预设算法对全景图像进行畸变矫正,获取经畸变校正后的全景图像的还原图像中的有限像素点集合。预设算法可以是现有的球面投影算法、抛物面成像模型或精度坐标校正算法。

图像预处理模块201采用预设算法对全景图像进行畸变矫正,使得全景图像还原成正常的矩形图像(还原图形)。因此,全景图像的还原图像中所有像素点的坐标构成了还原图像中的有限像素点集合Q。

有限像素点集合Q中的像素点的数量和像素点的坐标仅与全景图像的分辨率有关,在全景图像分辨率不变的情况下,有限像素点集合Q中的像素点的数量和像素点的坐标也不变,有限像素点集合Q中的像素点的坐标只需计算一次就可以了,因此,减少了全景图像畸变校正的计算量,确保实时处理能力。

每个图像范围确定模块202用于接收对应的图像截取转发模块203发送的图像信息,确定出所需查看的图像范围及像素点集合。由于所需查看的图像为矩形图形,因此,每个图像范围确定模块202接收的图像信息包括所需查看的图像的矩形区域的某一个角点的位置、尺寸及每个像素点的尺寸。

其中,通过所需查看的图像的矩形区域的某一个角点的位置及矩形区域的尺寸,可以确定出所需查看的图像在全景图像的还原图像中的位置。根据确定出的所需查看的图像的尺寸,及所需查看的图像的每个像素点的尺寸,还可以确定出所需查看的图像中的像素点集合。

每个图像截取转发模块203用于接收对应的显示模块3发送的图像信息,并根据确定的所需查看的图像范围和像素点集合,及所获取的经畸变校正后的全景图像的还原图像中的有限像素点集合,生成所需查看的图像,并发送至显示模块进行显示。

具体地,在全景图像的还原图像的有限像素点集合中,分别选取距离已确定的所需查看的图像的像素点集合中的每一个像素点最近的四个像素点。

根据选取的距离已确定的所需查看的图像中的每一个像素点最近的四个像素点,计算该四个像素点对应的加权系数,并将该四个像素点及对应的加权系数以向量形式进行保存。

根据保存的与所需查看的图像中的每一个像素点对应的四个像素点,及该四个像素点对应的加权系数,所组成向量和该四个像素点对应的像素值,生成所需查看的图像,并发送至对应的显示模块进行显示。其中,显示模块可以采用具有显示功能的显示终端。

综上所述,本发明所提供的全景视频分发监控系统可以同时接收多个显示终端发送的图像信息,并根据所接收的每个图像信息生成对应的所需查看图像,分别同时发送给对应的显示终端进行显示。保证了多个显示终端查看全景图像中不同区域的图像不会互相影响,能够并发执行。

基于图1和2图所示出的全景视频分发监控系统,本发明还提供了一种全景视频分发监控方法。如图3所示,该方法包括如下步骤:

步骤S1:通过图像采集模块采集现场的全景图像,并将所采集的全景图像发送至图像处理模块进行预处理。

通过采用大广角鱼眼镜头或全景镜头可以实现采集现场的全景图像,其中,采用图像预处理模块201接收图像采集模块1发送的全景图像,并采用预设算法对全景图像进行畸变矫正,获取经畸变校正后的全景图像的还原图像中的有限像素点集合。预设算法可以是现有的球面投影算法、抛物面成像模型或精度坐标校正算法。下面结合图3~图6,并以通用的经纬度校正方法(参照南京邮电大学硕士研究生学位论文:《鱼眼图像校正算法研究》,作者张伟)为例,并在该经纬度校正方法的基础上进行了改进,以提高图像预处理模块201的运行效率。

首先,将现实中图像的水平2D投影称为还原图像,将大广角鱼眼镜头或全景镜头的CMOS图像感应区称为感应区,将大广角鱼眼镜头或全景镜头拍摄所得的图像中有效的圆形区域称为采集图像。因此,采集图像指的是感应区中的有效部分,即圆形区域内的部分,也是本发明中所提到的采用大广角鱼眼镜头或全景镜头采集的全景图像。

具体地,如图4所示,由于一帧图像由多个像素点组成。并且全景图像中同一列像素点经扭曲后,会在采集图像中呈现的像一条经度线;因此,图像预处理模块201对接收的全景图像(上面所述的采集图像)进行畸变矫正可以通过经度校正实现,从而使得全景图像还原成正常的矩形图像。

如图5所示,以图像预处理模块201接收的全景图像的中心为圆心O,建立平面直角坐标系,R是全景图像的半径,即从中心点到全景图像的边缘存在R个像素点,每个像素点为正方形,且每个像素点的长度为坐标系中的1个单位(单位长度);在该坐标系内,将以原点为圆心,半径为R全景图像中的像素点的坐标,全部映射到全景图像的还原图像的坐标系(该还原图像的坐标系也是平面直角坐标系)中,如图6所示。在图6示出的全景图像的还原图像的坐标系中,矩形区域即为全景图像的还原图像区域(即将全景图像还原成正常的矩形图像)。

具体地,如图6所示,根据校正映射公式:

(x-x0)×(r2-y2)-0.5=(u-x0)/r (1)

y-y0=v-y0 (2)

其中,(x0,y0)表示全景图像的圆心,r是全景图像的半径,(x,y)表示以原点为圆心,半径为R的全景图像中的某一个像素点的坐标,(u,v)表示全景图像的还原图像中的某一个像素点的坐标。将圆心设置为坐标系的原点,由此可知,x0=0,y0=0,带入公式(1)和公式(2)计算,化简后得到全景图像的还原图像中的某一个像素点的坐标(u,v)的求导公式为:

u=x×r×(r2-y2)-0.5 (3)

v=y (4)

由于全景图像上的像素点是离散的,将这些离散的像素点的坐标按照图像扫描顺序(从上往下,从左往右的扫描顺序)进行有序排列,并将这些进行有序排列后的像素点构成了集合P,由于进行有序排列后的像素点是大广角鱼眼镜头或全景镜头拍摄所得的图像中有效的圆形区域中的像素点,因此,集合P是一个有限集合。

由于集合P中的所有像素点与全景图像的还原图像中的像素点一一对应;因此,将集合P中的每个像素点的坐标代入公式(3)和公式(4),计算得到集合P中的每个像素点在全景图像的还原图像中对应的像素点的坐标,全景图像的还原图像中所有像素点的坐标构成了还原图像中的有限像素点集合Q。集合Q中的所有像素点与集合P中所有像素点一一对应,且拥有相同的下标。例如,集合P可以表示为{p1、p2、p3……pn},其中,n为正整数;集合Q可以表示为{w1、w2、w3……wn},其中,n为正整数。至此,图像预处理模块201完成了对所接收的全景图像的畸变矫正,获取了经畸变校正后的全景图像的还原图像中有限像素点集合。

集合Q中的像素点的数量和像素点的坐标仅与全景图像的分辨率有关,在全景图像分辨率不变的情况下,集合Q中的像素点的数量和像素点的坐标也不变,集合Q中的像素点的坐标只需计算一次就可以了,因此,减少了全景图像畸变校正的计算量,确保实时处理能力。

步骤S2:图像处理模块分别接收多个显示模块发送的图像信息,并根据每个显示模块发送的图像信息确定出所需查看的图像范围和像素点集合。

每个图像范围确定模块接收对应的图像截取转发模块发送的图像信息,确定出所需查看的图像范围及像素点集合。

由于所需查看的图像为矩形图形,因此,每个图像范围确定模块202接收的图像信息包括所需查看的图像的矩形区域的某一个角点的位置、尺寸及每个像素点的尺寸。

其中,通过所需查看的图像的矩形区域的某一个角点的位置及矩形区域的尺寸,可以确定出所需查看的图像在全景图像的还原图像中的位置。例如,所需查看的图像的矩形区域的某一角点的坐标为(1,1),所需查看的图像的矩形区域长为全景图像的还原图像的坐标系中的5个单位,所需查看的图像的矩形区域宽为全景图像的还原图像的坐标系中的7个单位,那么,可以确定出所需查看的图像在全景图像的还原图像中的位置。

根据所需查看的图像的矩形区域的尺寸,及所需查看的图像的每个像素点的尺寸,确定出所需查看的图像中的像素点集合。例如,如果所需查看的图像的每个像素点的长和宽均为全景图像的还原图像的坐标系中的1个单位,根据上面所述的所需查看的图像的尺寸,那么,可以确定出所需查看的图像中包括5列像素点,每列像素点包括7个像素点,共35个像素点,这35个像素点的坐标构成了所需查看的图像的像素点集合S。

步骤S3:图像处理模块根据确定出的每个显示模块对应的所需查看的图像范围和像素点集合,及经预处理的全景图像生成每个显示模块对应的所需查看的图像,并分别同时发送至每个显示模块进行显示。

具体地,每个图像截取转发模块203接收对应的显示模块3发送的图像信息,并根据确定的所需查看的图像范围和像素点集合,及所获取的经畸变校正后的全景图像的还原图像中的有限像素点集合,生成所需查看的图像,并发送至显示模块进行显示。其包括如下步骤:

步骤S301:在全景图像的还原图像的有限像素点集合中,分别选取距离已确定的所需查看的图像的像素点集合中的每一个像素点最近的四个像素点。

为了便于选取距离已确定的所需查看的图像的像素点集合中的每一个像素点最近的四个像素点,可以以所需查看的图像的像素点集合中的每一个像素点为中心,分别向该像素点四周扩展相同的距离,组成将该像素点包围的正方形区域,分别计算全景图像的还原图像的有限像素点集合中位于该正方形区域中的所有像素点与该像素点之间的距离,通过比较选取出距离该像素点最近的四个像素点。下面以所需查看的图像的像素点集合中的某一个像素点为例,详细说明如何选取距离该像素点最近的四个像素。

根据所需查看的图像的像素点集合中的某一个像素点的坐标为(u',v'),而全景图像的还原图像的有限像素点集合中某一个像素点的坐标为(u,v),以所需查看的图像的像素点集合中的某一个像素点为中心,分别向该像素点四周扩展相同的距离,组成将该像素点包围的正方形区域,全景图像的还原图像的有限像素点集合中位于该正方形区域中的所有像素点与该像素点之间的距离,可以表示为:

假设通过将全景图像的还原图像的有限像素点集合中位于该正方形区域中的所有像素点与该像素点之间的距离进行比较后,得到距离该像素点最近的四个像素点分别为w1、w2、w3、w4(不一定是按照顺序依次排列的四个像素点),那么,像素点w1、w2、w3、w4分别到该像素点之间的距离为r1、r2、r3、r4。

步骤S302:根据选取的距离已确定的所需查看的图像中的每一个像素点最近的四个像素点,计算该四个像素点对应的加权系数,并将该四个像素点及对应的加权系数以向量形式进行保存。

根据上面确定的距离所需查看的图像的像素点集合中的某一个像素点最近的四个像素点w1、w2、w3、w4,及像素点w1、w2、w3、w4分别到该像素点之间的距离为r1、r2、r3、r4;由于距离该像素点距离近的像素点的加权系数较大,距离该像素点距离远的像素点的加权系数较小,因此,可以利用距离的反比分别计算四个像素点w1、w2、w3、w4的加权系数,分别表示为r1-1、r2-1、r3-1、r4-1。将r1-1、r2-1、r3-1、r4-1进行归一化处理后,得到加权系数为r1-1×(r1-1+r2-1+r3-1+r4-1)-1、r2-1×(r1-1+r2-1+r3-1+r4-1)-1、r3-1×(r1-1+r2-1+r3-1+r4-1)-1、r4-1×(r1-1+r2-1+r3-1+r4-1)-1。将四个像素点w1、w2、w3、w4和r121×(r121+r2-1+r3-1+r4-1)-1、r2-1×(r1-1+r2-1+r3-1+r4-1)-1、r3-1×(r1-1+r2-1+r3-1+r4-1)-1、r4-1×(r1-1+r2-1+r3-1+r4-1)-1作为一个向量进行保存,分别表示为(w1,w2,w3,w4,r1-1×(r1-1+r2-1+r3-1+r4-1)-1,r2-1×(r1-1+r2-1+r3-1+r4-1)-1,r3-1×(r1-1+r2-1+r3-1+r4-1)-1,r4-1×(r1-1+r2-1+r3-1+r4-1)-1),其中,r1、r2、r3、r4为常量,因此,向量可以化简为(w1,w2,w3,w4,t1,t2,t3,t4)。那么,采用上述的方法得到的距离已确定的所需查看的图像中的每一个像素点最近的四个像素点,及该四个像素点对应的加权系数,可以组成多个向量进行保存。

步骤S303:根据保存的与所需查看的图像中的每一个像素点对应的四个像素点,及该四个像素点对应的加权系数,所组成向量和该四个像素点对应的像素值,生成所需查看的图像,并发送至对应的显示模块进行显示。

由于集合Q中的所有像素点与集合P中所有像素点一一对应,且拥有相同的下标,因此,集合Q中的所有像素点对应的像素值与集合P中所有像素点的像素值一一对应。由于集合P中的每个像素点的长度为坐标系中的1个单位,其中,集合P中某一个像素点的像素值zn=f(wn),按照图像位置直接获取即可,f(wn)即表示集合P中第n个像素点的像素值。因此,根据上面确定的距离所需查看的图像的像素点集合中的某一个像素点最近的四个像素点w1、w2、w3、w4,及像素点w1、w2、w3、w4对应的加权系数所组成的向量和像素点w1、w2、w3、w4对应的像素值,可以得到所需查看的图像的像素点集合中的某一个像素点的像素值。那么,采用上述方法,可以得到所需查看的图像的像素点集合中所有像素点的像素值,从而生成所需查看的图像。通过图像截取转发模块可以将该生成的待查看图像发送至显示模块进行显示。

本发明所提供的全景视频分发监控系统及方法一方面通过一颗摄像头采集现场的全景图像,并对全景图像进行预处理,减少了全景图像畸变校正的计算量,确保实时处理能力。另一方面,本全景视频分发监控系统不仅能根据不同用户的需求实现多用户同时获取全景图像中不同区域的监控图像,保证了多用户查看全景图像中不同区域的图像不会互相影响;而且其传输数据过程无需增加额外的带宽。

以上对本发明所提供的全景视频分发监控系统及方法进行了详细的说明。对本领域的一般技术人员而言,在不背离本发明实质精神的前提下对它所做的任何显而易见的改动,都将属于本发明专利权的保护范围。

再多了解一些
当前第1页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1