一种视频处理方法、设备、无人机及系统与流程

文档序号:27979787发布日期:2021-12-15 02:26阅读:90来源:国知局
一种视频处理方法、设备、无人机及系统与流程

1.本发明涉及控制技术领域,尤其涉及一种视频处理方法、设备、无人机及系统。


背景技术:

2.随着计算机技术的发展以及用户的需求,类似无人机等飞行器的应用越来越广泛。能够拍摄图像或者视频的无人机主要包括云台、拍摄装置以及机体,此类无人机可以根据用户的需要拍摄各种环境图像或视频。无人机在进行拍摄工作时,云台通常挂载在无人机的下方或上方,通过云台的转动可以使云台上配置的拍摄装置拍摄到相对于无人机的不同角度的环境图像或视频。
3.然而,对于视频的拍摄常需要专业的拍摄设备和技术人员,因此如何更好地控制无人机拍摄视频成为研究的热点。


技术实现要素:

4.本发明实施例提供了一种视频处理方法、设备、无人机及系统,可为用户生成基于全景图像的视频。
5.第一方面,本发明实施例提供了一种视频处理方法,应用于无人机中,所述无人机配置有用于拍摄视频的拍摄装置,所述方法包括:
6.确定所述无人机的飞行轨迹;其中,所述飞行轨迹包括第一拍摄点和第二拍摄点;
7.在无人机按照飞行轨迹运动的过程中,控制所述无人机的拍摄装置从所述第一拍摄点到所述第二拍摄点进行拍摄得到第一视频段;
8.如果在继续移动的过程中到达第二拍摄点,控制所述无人机停止飞行,通过控制无人机在所述第二拍摄点转动或者控制无人机的云台做圆周转动,控制所述无人机的拍摄装置在转动过程中由所述第一视频段的最后一个视频帧开始拍摄环境图像得到全景图像,并根据所述全景图像生成第二视频段;
9.根据所述第一视频段和第二视频段,生成目标视频。
10.第二方面,本发明实施例提供了一种视频处理设备,包括存储器和处理器;
11.所述存储器,用于存储程序指令;
12.所述处理器,执行所述存储器存储的程序指令,当程序指令被执行时,所述处理器用于执行如下步骤:
13.确定所述无人机的飞行轨迹;其中,所述飞行轨迹包括第一拍摄点和第二拍摄点;
14.在无人机按照飞行轨迹运动的过程中,控制所述无人机的拍摄装置从所述第一拍摄点到所述第二拍摄点进行拍摄得到第一视频段;
15.如果在继续移动的过程中到达第二拍摄点,控制所述无人机停止飞行,通过控制无人机在所述第二拍摄点转动或者控制无人机的云台做圆周转动,控制所述无人机的拍摄装置在转动过程中由所述第一视频段的最后一个视频帧开始拍摄环境图像得到全景图像,并根据所述全景图像生成第二视频段;
16.根据所述第一视频段和第二视频段,生成目标视频。
17.第三方面,本发明实施例提供了一种无人机,包括:
18.机身;
19.设置在机身上的动力系统,用于提供飞行动力;
20.处理器,用于:
21.确定所述无人机的飞行轨迹;其中,所述飞行轨迹包括第一拍摄点和第二拍摄点;
22.在无人机按照飞行轨迹运动的过程中,控制所述无人机的拍摄装置从所述第一拍摄点到所述第二拍摄点进行拍摄得到第一视频段;
23.如果在继续移动的过程中到达第二拍摄点,控制所述无人机停止飞行,通过控制无人机在所述第二拍摄点转动或者控制无人机的云台做圆周转动,控制所述无人机的拍摄装置在转动过程中由所述第一视频段的最后一个视频帧开始拍摄环境图像得到全景图像,并根据所述全景图像生成第二视频段;
24.根据所述第一视频段和第二视频段,生成目标视频。
25.第四方面,本发明实施例提供了一种视频处理系统,该系统包括:视频处理设备和无人机;
26.所述视频处理设备,用于确定所述无人机的飞行轨迹;其中,所述飞行轨迹包括第一拍摄点和第二拍摄点,发送飞行控制指令给飞行器,所述飞行控制指令用于指示无人机按照确定的飞行轨迹进行飞行;
27.所述无人机,用于响应所述飞行控制指令,控制无人机按照所述飞行轨迹进行飞行并控制所述无人机上挂载的拍摄装置进行拍摄;
28.所述视频处理设备,还用于在无人机按照飞行轨迹运动的过程中,控制所述无人机的拍摄装置从所述第一拍摄点到所述第二拍摄点进行拍摄得到第一视频段;
29.如果在继续移动的过程中到达第二拍摄点,控制所述无人机停止飞行,通过控制无人机在所述第二拍摄点转动或者控制无人机的云台做圆周转动,控制所述无人机的拍摄装置在转动过程中由所述第一视频段的最后一个视频帧开始拍摄环境图像得到全景图像,并根据所述全景图像生成第二视频段;
30.根据所述第一视频段和第二视频段,生成目标视频。
31.第五方面,本发明实施例提供了一种计算机可读存储介质,该计算机可读存储介质存储有计算机程序,该计算机程序被处理器执行时实现如上述第一方面所述的视频处理方法。
32.本发明实施例能够在无人机按照飞行轨迹运动的过程中,围绕无人机进行拍摄控制,得到第一视频段和基于全景图像的第二视频段,并自动生成最终的目标视频,从而实现结合飞行轨迹为用户生成所需的包括全景图像的环境视频,满足用户对此类视频的自动化、智能化拍摄以及处理需求。
附图说明
33.为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获
得其他的附图。
34.图1是本发明实施例提供的一种飞行轨迹的示意图;
35.图2是本发明实施例提供的一种拼接算法的流程示意图;
36.图3是本发明实施例提供的一种视频生成过程的示意图;
37.图4是本发明实施例提供的一种生成全景图像的流程示意图;
38.图5是本发明实施例提供的一种无人机系统的结构示意图;
39.图6是本发明实施例提供的一种视频处理方法的流程示意图;
40.图7是本发明实施例提供的另一种视频处理方法的流程示意图;
41.图8是本发明实施例提供的一种视频处理设备的结构示意图。
具体实施方式
42.下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
43.下面结合附图,对本发明的一些实施方式作详细说明。在不冲突的情况下,下述的实施例及实施例中的特征可以相互组合。
44.本发明实施例提供的视频处理方法可以由一种视频处理设备执行,该视频处理设备可以设置在能够拍摄视频的无人机上,也可以设置在地面端的遥控器上。该视频处理方法可以应用于基于无人机的视频拍摄任务,在其他实施例中,也可以应用与能够自主移动的机器人等可运动设备的视频拍摄任务,下面对应用于无人机的视频处理方法进行举例说明。
45.本方案提出的视频处理方法采取了一种与轨迹相结合的视频处理方案,应用于无人机,通过确定飞行轨迹,在按照所确定的飞行轨迹进行自主飞行的过程中,能够通过挂载在无人机上的拍摄装置拍摄在各个航点位置的图像,然后在该飞行轨迹上的某一位置点可以获取拍摄得到的环境图像组成的第一视频段。在到达飞行轨迹的某一位置点时,可以控制无人机在该位置点转动或者控制无人机的云台做圆周转动,并在转动过程中拍摄环境图像,将拍摄到的各个环境图像进行拼接,得到全景图像,最后根据将该全景图像生成第二视频段,从所述第二视频段开始播放,逐步与在飞行轨迹上拍摄到的第一视频段相连接,生成目标视频。
46.本发明实施例提供的视频处理方法可以由视频处理设备执行,该视频处理设备首先需要确定无人机的飞行轨迹,如图1所示,图1是本发明实施例提供的一种飞行轨迹的示意图。其中,11表示无人机、12表示位置点a、13表示位置点b、14表示用户,用户14可以通过视频处理设备确定位置点a点11和位置点b点12,根据a点12和b点13,确定出飞行轨迹,该视频处理设备可以控制无人机沿着由a点12和b点13组成的飞行轨迹飞行,并通过挂载在无人机11上的拍摄装置拍摄在飞行过程中的图像,根据拍摄到的图像组成第一视频段。具体地,视频处理设备在确定由a点12和b点13组成的飞行轨迹后,可以控制无人机11从该飞行轨迹中的任意位置开始按照飞行轨迹飞行,并通过挂载在无人机11上的拍摄装置拍摄图像得到第一视频段,当无人机11在按照该飞行轨迹飞行到某一位置点时,该视频处理设备可以控
制无人机11或无人机11的云台做圆周转动,并在转动过程中拍摄环境图像得到全景图像,从而根据全景图像生成第二视频段,以及根据该第一视频段和第二视频段,生成目标视频。例如,无人机11沿着图1所示的飞行轨迹从a点12飞出,沿着a点12到b点13的飞行轨迹飞行,并通过拍摄装置进行拍摄,如果飞到大于50m的高空中的b点13停止,将a点12到b点13过程中拍摄的视频作为第一视频段,并控制无人机11或无人机11的云台在b点13做圆周转动,在转动过程中拍摄环境图像得到全景图像,根据该全景图像生成第二视频段,并根据第一视频段和第二视频段生成目标视频。
47.需要说明的是,本发明实施例在该视频处理设备确定无人机的飞行轨迹时,可以采用轨迹生成控制算法,该轨迹生成控制算法主要是规划从飞行起点到终点过程中拍摄装置拍摄第一视频段的飞行轨迹,以及控制无人机在某一位置点转动,并在转动过程中控制拍摄装置拍摄环境图像。本发明实施例在确定无人机的飞行轨迹时,可以采用多种常用算法,如贝塞尔曲线、5

order

b

spline等算法,本发明实施例不做限定。
48.本发明实施例,该视频处理设备可以通过设定两个位置点,确定出两个位置点之间链接的任意形状的飞行轨迹,如直线、曲线、螺旋线等。在确定无人机的飞行轨迹的过程中,可以图1为例进行说明,如图1所示,假设从a点到b点的曲线轨迹为确定的飞行轨迹,该视频处理设备通过在沿该飞行轨迹飞行过程中控制拍摄装置拍摄得到第一视频段,如果无人机到达b点时停止飞行,则该视频处理设备可以控制无人机或云台在b点做圆周转动,并在转动过程中拍摄环境图像得到全景图像。需要说明的是,由于无人机的拍摄装置并不是超广角拍摄装置,而是普通拍摄装置,所以拍摄装置视角有限,每次只能拍摄很小视角的图像,因此需要规划拍摄角度,覆盖更大范围的视角。例如,假设采用圆周扫描的形式,可以先固定无人机云台的俯仰角pitch角度,然后通过转动偏航角yaw角,控制拍摄装置拍摄一周的环境图像,然后逐渐改变pitch角,通过转动偏航角yaw角,控制拍摄装置拍摄得到不同的环境图像。
49.本发明实施例,视频处理设备可以通过对拍摄到的各个环境图像进行拼接得到全景图像,在拼接过程中,该视频处理设备采用的拼接算法的流程如图2所示,图2是本发明实施例提供的一种拼接算法的流程示意图。整个拼接算法的过程如图2所示,当拼接开始时,首先无人机的云台可以在不同的pitch角度进行旋转,并可以通过拍摄装置拍摄得到很多图像,这些图像之间有一定的重叠率,如一般取0.2~0.3之间,通过步骤s21寻找这些图像的特征并进行匹配,步骤s22将匹配的特征进行光束平差(bundle adjustment,ba)优化,使得图像之间的相对位置更为精确,然后进行步骤s23对图像进行曝光补偿,以及s24寻找拼接线,最后通过曲线warp变形,投影为一张全景图像。需要说明的是,本发明实施例对拍摄装置进行了标定,使用标定值作为所述拍摄装置内参数的初始值,根据拍摄到的各个环境图像可以进行有目的性的特征点的匹配,从而减少匹配过程中产生的误差。
50.本发明实施例,视频处理设备在根据全景图像生成第二视频段的变换的过程,可以图3为例进行说明,如图3所示,图3是本发明实施例提供的一种视频生成过程的示意图,其中,31表示全景图像的第一视角点,32表示第一成像点,33表示第一全景点,37表示第一投影平面,34表示第二视角点,35表示第二全景点,36表示第二成像点,38表示第二投影平面。所述类似小行星的全景投影,其实就是视角点在图3中31所示的第一视角点,投影平面在第一投影平面37,即在类似小行星的中心的一种投影方式,而正常视角的照相是视角点
在第二视角点34,即在类似小行星的圆形的中心,投影平面在第二投影平面38的一种投影方式,通过将视角点从第一视角点31移动至第二视角点34,同时将投影平面从第一投影平面37移动到第二投影平面38,可以将全景图像逐步展开播放得到第二视频段。
51.综上所述,本发明实施例提供的一种视频处理方法的流程如图4所示,图4是本发明实施例提供的一种生成全景图像的流程示意图。如图4所示,视频处理设备首先确定出无人机的飞行轨迹,然后控制所述无人机沿所确定的飞行轨迹进行飞行,并控制挂载在无人机上的拍摄装置在无人机飞行过程中得到第一视频段,当无人机到达第二拍摄点时,视频处理设备控制所述无人机的拍摄装置拍摄环境图像,将各个环境图像进行拼接得到全景图像,并根据全景图像生成第二视频段,根据所述第一视频段和第二视频段,生成目标视频。
52.请参见图5,图5是本发明实施例提供的一种无人机系统的结构示意图。所述系统包括:视频处理设备51和无人机52。所述视频处理设备51可以为无人机的控制终端,具体地可以为遥控器、智能手机、平板电脑、膝上型电脑、地面站、穿戴式设备(手表、手环)中的一种或多种,所述无人机52可以是旋翼型无人机,例如四旋翼无人机、六旋翼无人机、八旋翼无人机,也可以是固定翼无人机。无人机包括动力系统521,动力系统用于为无人机提供飞行动力,其中,动力系统521包括螺旋桨、电机、电调中的一种或多种,无人机还可以包括云台522以及拍摄装置523,拍摄装置523通过云台522搭载于无人机的主体上。拍摄装置用于在无人机的飞行过程中进行图像或视频拍摄,包括但不限于多光谱成像仪、高光谱成像仪、可见光相机及红外相机等,云台为多轴传动及增稳系统,云台电机通过调整转动轴的转动角度来对成像设备的拍摄角度进行补偿,并通过设置适当的缓冲机构来防止或减小成像设备的抖动。
53.在一个实施例中,该视频处理设备51可以配置与用户交互的交互装置,该交互装置可以是触摸显示屏、键盘、按键、摇杆、波轮中的一种或多种,该交互装置上可以提供用户界面,用户可以在该视频处理设备51的用户界面上执行点击操作,该点击操作点击一次即可确认一个位置点,该视频处理设备51在接收到该点击操作所点击的2个位置点之后,视频处理设备51连接这两个位置点,形成由这两个点连接而成的飞行轨迹,该飞行轨迹可以直线轨迹也可以是曲线轨迹,从而控制无人机52按该飞行轨迹飞行,以使拍摄装置523按该飞行轨迹进行移动。需要说明的是,该用户界面上的点击操作,只是确认飞行轨迹的一种方法,对于飞行轨迹的确认方式,本发明实施例不做限定。
54.在一个实施例中,在无人机按照飞行轨迹运动的过程中,该视频处理设备51可以控制所述无人机的拍摄装置在到达第一拍摄点时拍摄得到第一视频段,当在继续移动的过程中到达第二拍摄点时,该视频处理设备51可以控制所述无人机的拍摄装置拍摄环境图像得到全景图像,根据所述全景图像生成第二视频段,该视频处理设备51可以根据所述第一视频段和第二视频段,生成目标视频。
55.请参见图6,图6是本发明实施例提供的一种视频处理方法的流程示意图,所述方法可以由视频处理设备执行,其中,视频处理设备的具体解释如前所述。具体的,本发明实施例的所述方法包括如下步骤。
56.s601:在无人机按照飞行轨迹运动的过程中,控制该无人机的拍摄装置在到达第一拍摄点时拍摄得到第一视频段。
57.本发明实施例中,无人机按照飞行轨迹运动的过程中,视频处理设备可以控制该
无人机的拍摄装置在到达第一拍摄点时拍摄得到第一视频段。具体地,视频处理设备首先可以确定两个位置点,根据该两个位置点确定无人机的飞行轨迹,在确定无人机的飞行轨迹后,使无人机按照所确定的飞行轨迹进行运动,在运动的过程中,视频处理设备可以控制该无人机的拍摄装置在到达第一拍摄点时拍摄得到第一视频段。以图1为例进行说明,例如,视频处理设备首先确定两个位置点a和b,根据a位置点和b位置点,将a点和b点之间的连接曲线确定为无人机的飞行轨迹,视频处理设备控制该无人机按照图1所示a点和b点组成的飞行轨迹,从a点向b点方向运动,在从a点向b点方向运动的过程中,视频处理设备可以控制该无人机的拍摄装置从a点开始拍摄,在到达第一拍摄点时开始拍摄图像,直至到达第二拍摄点之前停止,并得到第一视频段,其中,所述第一拍摄点可以是a点到b点之间飞行轨迹上的任何位置点,可以包括a点和b点。
58.在一个实施例中,所述第一拍摄点和第二拍摄点可以是所述飞行轨迹上的两个位置点,例如,如图1所示,所述第一拍摄点可以是飞行轨迹上a点,第二拍摄点可以是飞行轨迹上的b点。
59.在一个实施例中,所述第一拍摄点可以是根据接收到的在所述飞行轨迹上的选择操作所选取的第一位置点,所述第二拍摄点可以是根据接收到的在所述飞行轨迹上的选择操作所选取的第二位置点。
60.在一个实施例中,视频处理设备可以获取第一位置点以及第二位置点,根据所述第一位置点以及第二位置点的位置信息,确定出所述无人机的飞行轨迹,将所述第一位置点作为所述第一拍摄点,并将所述第二位置点作为所述第二拍摄点。
61.在一个实施例中,所述第一拍摄点和第二拍摄点可以是所述无人机在按照所述飞行轨迹运动的过程中的两个时间点。具体地,视频处理设备可以通过设置拍摄时间间隔,来确定所述拍摄时间间隔的两个时间点,并将确定的两个时间点作为第一拍摄点和第二拍摄点。例如,视频处理设备可以预先设置无人机的拍摄装置的拍摄时间间隔为5秒,第一拍摄点为时间点10:00:05,从而可以确定第二次拍摄点的时间点为10:00:10。
62.在一个实施例中,视频处理设备在根据所述第一位置点以及第二位置点的位置信息,确定所述无人机的飞行轨迹的过程中,可以根据确定的所述第一位置点及第二位置点的位置信息,按照第一轨迹生成规则,生成从所述第一拍摄点与所述第二拍摄点之间的直线轨迹,并将所述直线轨迹确定为飞行轨迹。其中,需要说明的是所述第一轨迹生成规则可以包括轨迹生成控制算法,无人机的飞行轨迹的确定通常有多种常用算法,如贝塞尔曲线、五次b样条曲线5

order

b

spline等算法。
63.在一个实施例中,视频处理设备在确定所述无人机的飞行轨迹时,可以根据所述第一位置点及第二位置点的位置信息,按照第二轨迹生成规则,生成从所述第一拍摄点与所述第二拍摄点之间的曲线轨迹,并将所述曲线轨迹确定为飞行轨迹。需要说明的是,视频处理设备可以通过拍摄点的设定,规划出任意形状的轨迹,如直线、曲线、螺旋线等,然后把整个曲线进行离散化作为无人机的经过点,引导无人机的飞行。
64.s602:如果在继续移动的过程中到达第二拍摄点,控制无人机的拍摄装置拍摄环境图像得到全景图像,并根据该全景图像生成第二视频段。
65.本发明实施例中,在无人机按照飞行轨迹进行移动的过程中,当到达第二拍摄点时,该视频处理设备可以控制该无人机的拍摄装置拍摄环境图像得到全景图像,并根据该
全景图像生成第二视频段。具体可举例说明,如图1所示,假设无人机的飞行轨迹如图1中所示,该飞行轨迹为a点与b点之间的曲线轨迹,在无人机按照该飞行轨迹进行移动的过程中,当无人机到达b点(第二拍摄点)时,该视频处理设备可以控制该无人机在b点进行圆周转动,同时控制该无人机的拍摄装置在该无人机的转动过程中拍摄环境图像得到全景图像,从而根据该全景图像生成第二视频段。
66.在一个实施例中,所述第一视频段的最后一个视频帧作为所述全景图像的第一张图像,如果在继续移动的过程中到达第二拍摄点,该视频处理设备可以获取所述第一视频段的最后一个视频帧,并将该视频帧作为全景图像的第一张图像。具体可以图1为例进行说明,例如,无人机沿a点和b点组成的飞行轨迹进行飞行拍摄,如果无人机到达b点时停止飞行,在该飞行轨迹上拍摄得到第一视频段,假设该第一视频段的最后一个视频帧为图a,则该视频处理设备可以将所述图a作为全景图像的第一张图像,视频处理设备可以控制所述无人机的拍摄装置从图a开始拍摄环境图像得到全景图像,并对所述全景图像进行展开播放,根据整个展开过程中的图像生成第二视频段。
67.在一个实施例中,视频处理设备可以对该全景图像进行展开处理,根据该展开处理过程中得到的各个图像,生成第二视频段。其中,根据该全景图像生成第二视频段的过程可以图3为例进行说明,具体地,将获取到的全景图像作为图3中的球形全景图像,首先从该全景图像的第一视角点31(北极点)开始逐步展开,展开方式为将视角点从第一视角点31开始逐步向球形全景图像的第二视角点34(球心)移动,展开所述全景图像,与此同时,将投影平面跟随视角点的移动从球形全景图像的球心平面37(第一投影平面)开始向该球形全景图像的南极点所在平面38(第二投影平面)移动,从而将所述全景图像逐步展开,生成第二视频段。
68.在一个实施例中,在无人机继续移动的过程中到达第二拍摄点时,视频处理设备可以控制所述无人机的拍摄装置拍摄环境图像得到全景图像,并根据全景图像生成第二视频段,在这个过程中,该视频处理设备可以在无人机继续移动的过程中到达第二拍摄点时,控制所述无人机转动,以使所述无人机的拍摄装置拍摄环境图像得到全景图像,并根据全景图像生成第二视频段。例如,该视频处理设备可以在无人机继续沿着如图1所示的飞行轨迹移动的过程中到达b点(第二拍摄点)时,控制所述无人机转动,以使所述无人机的拍摄装置拍摄环境图像得到全景图像,并根据全景图像生成第二视频段。
69.在一个实施例中,该视频处理设备在控制所述无人机在第二拍摄点转动的过程中,可以控制所述无人机沿顺时针方向做圆周转动,或控制所述无人机沿逆时针方向做圆周转动,以便获取得到全景图像。例如,当无人机从如图1所示的a点向b点方向移动时,假设b点是第二拍摄点,当无人机移动到b点时,该视频处理设备可以控制无人机在b点沿顺时针方向进行圆周转动。又例如,无人机从如图1所示的a点向b点方向移动时,假设b点是第二拍摄点,当无人机移动到b点时,该视频处理设备可以控制无人机在b点沿逆时针方向进行圆周转动。
70.s603:根据第一视频段和第二视频段,生成目标视频。
71.本发明实施例中,视频处理设备可以根据所述第一视频段和第二视频段,生成目标视频。具体可举例说明,假设视频处理设备在从a点移动到b点的过程中,获取到第一视频段,在到达b点后,视频处理设备可以控制该无人机或该无人机的云台进行圆周转动,在转
动过程中控制所述拍摄装置拍摄环境图像得到全景图像,并根据全景图像生成第二视频段,从而根据该第一视频段和第二视频段,生成目标视频。
72.本发明实施例,视频处理设备通过在无人机按照飞行轨迹运动的过程中,控制所述无人机的拍摄装置在到达第一拍摄点时拍摄得到第一视频段,在继续移动的过程中到达第二拍摄点时,控制所述无人机的拍摄装置拍摄环境图像得到全景图像,并根据全景图像生成第二视频段,以及根据所述第一视频段和第二视频段,生成目标视频,实现结合飞行轨迹生成包括全景图像的环境视频,满足用户对包括全景图像的环境视频的自动化、智能化拍摄以及处理需求。
73.请参见图7,图7是本发明实施例提供的另一种视频处理方法的流程示意图,所述方法可以由视频处理设备执行,其中,视频处理设备的具体解释如前所述。本发明实施例的所述方法与上述图6所述实施例的区别在于,本实施例通过获取第一位置点和第二位置点确定无人机的飞行轨迹,通过在继续移动的过程中到达第二拍摄点时,控制云台或无人机转动,以控制拍摄装置在该无人机或云台转动过程中拍摄环境图像,并对各个环境图像进行拼接处理得到全景图像。
74.s701:获取第一位置点以及第二位置点。
75.本发明实施例中,视频处理设备可以通过接收用户的点击操作,获取第一位置点以及第二位置点。具体可以图1为例进行说明,当视频处理设备接收到用户的点击操作时,可以获取到如图1所示的a点为第一位置点,b点为第二位置点。其中,需要说明的是,所述第一位置点和第二位置点可以是用户点击操作的任意点,例如,如图1中所示,该第一位置点和第二位置点可以是a点和b点,也可以是其他任意位置上的点,本发明实施例对飞行轨迹上位置点的确定不做限定。
76.s702:根据该第一位置点以及第二位置点的位置信息,确定出无人机的飞行轨迹。
77.本发明实施例中,视频处理设备可以根据获取到的第一位置点以及第二位置点的位置信息,确定出无人机的飞行轨迹。具体可以图1为例进行说明,视频处理设备可以根据获取到的如图1所示的a点(第一位置点)以及b点(第二位置点)的位置信息,确定出无人机的飞行轨迹为如图1所示的a点与b点之间直线轨迹或曲线轨迹,并将所述直线轨迹或曲线轨迹确定为无人机的飞行轨迹。
78.s703:将该第一位置点作为第一拍摄点,并将该第二位置点作为第二拍摄点。
79.本发明实施例中,视频处理设备可以将该第一位置点作为第一拍摄点,并将该第二位置点作为第二拍摄点。其中,该第一拍摄点和第二拍摄点可以是所述飞行轨迹上的两个位置点;所述第一拍摄点可以是根据接收到的在所述飞行轨迹上的选择操作所选取的第一位置点;所述第二拍摄点可以是根据接收到的在所述飞行轨迹上的选择操作所选取的第二位置点。
80.s704:在无人机按照飞行轨迹运动的过程中,控制该无人机的拍摄装置在到达第一拍摄点时拍摄得到第一视频段。
81.本发明实施例中,视频处理设备可以在无人机按照飞行轨迹运动的过程中,控制所述无人机的拍摄装置在到达第一拍摄点时拍摄得到第一视频段。具体地,视频处理设备首先确定两个位置点,根据该两个位置点确定无人机的飞行轨迹,在确定无人机的飞行轨迹后,控制无人机按照所确定的飞行轨迹进行运动,在运动的过程中,视频处理设备可以控
制该无人机的拍摄装置在到达第一拍摄点时拍摄得到第一视频段。以图1为例进行说明,例如,视频处理设备首先确定两个位置点a和b,根据a位置点和b位置点,将a点和b点之间的曲线轨迹确定为无人机的飞行轨迹,视频处理设备可以控制该无人机按照图1所示a点和b点组成的飞行轨迹,从a点向b点方向运动,在从a点向b点方向运动的过程中,视频处理设备可以控制该无人机的拍摄装置从a点开始拍摄,在到达该飞行轨迹上某一位置点停止飞行或拍摄时得到第一视频段。
82.s705:如果在继续移动的过程中到达第二拍摄点,控制无人机的拍摄装置拍摄环境图像得到全景图像,并根据该全景图像生成第二视频段。
83.本发明实施例中,在无人机继续移动的过程中到达第二拍摄点时,视频处理设备可以控制所述无人机的拍摄装置拍摄环境图像得到全景图像,并根据该全景图像生成第二视频段。
84.在一个实施例中,视频处理设备可以控制所述云台转动,其中,所述无人机的拍摄装置跟随所述云台转动拍摄得到所述全景图像。具体地,视频处理设备在控制所述无人机的拍摄装置拍摄环境图像得到全景图像的过程中,该视频处理设备可以调整所述无人机云台的俯仰角pitch至第一俯仰角,通过转动所述云台的偏航角yaw,控制所述云台做圆周转动,并获取所述拍摄装置在跟随所述运动转动的过程中拍摄得到的第一环境图像,在控制所述运动转动一周后,调整所述云台的俯仰角pitch至第二俯仰角,通过转动所述云台的偏航角yaw,控制所述云台做圆周转动,并获取所述拍摄装置在跟随所述运动转动的过程中拍摄得到的第二环境图像,将所述第一环境图像和所述第二环境图像进行拼接处理,得到所述第二视频段。
85.在一个实施例中,在该视频处理设备将所述第一环境图像和所述第二环境图像进行拼接处理,得到所述第二视频段的过程中,视频处理设备可以获取所述第一环境图像的第一特征点集合以及所述第二环境图像的第二特征点集合,根据所述第一特征点集合和所述第二特征点集合进行特征点匹配,根据所述匹配的特征点集合,确定所述第一环境图像和所述第二环境图像的拼接线,并根据确定的拼接线,将所述第一环境图像和第二环境图像进行拼接处理,得到所述第二视频段。
86.需要说明的是,本发明实施例在对所述第一环境图像和第二环境图像进行拼接处理时,对无人机的拍摄装置进行了标定,使用标定值作为所述拍摄装置内参数的初始值,使用惯性测量单元imu信息作为ba算法的初始值,可以减少迭代次数,以及利用已知的各个图像的两图像之间的关系,进行有目的特征点的匹配,从而可以减少匹配误差。
87.在一个实施例中,如果在继续移动的过程中到达第二拍摄点,该视频处理设备可以控制所述无人机转动;其中,所述无人机的拍摄装置跟随所述无人机转动拍摄得到所述全景图像。具体地,该视频处理设备在控制所述无人机转动的过程中,可以控制所述无人机沿顺时针方向做圆周转动,或控制所述无人机沿逆时针方向做圆周转动。
88.s706:根据该第一视频段和第二视频段,生成目标视频。
89.本发明实施例中,视频处理设备可以根据所述第一视频段和第二视频段,生成目标视频。具体可以图1为例进行说明,假设视频处理设备在从a点移动到b点的过程中,获取到第一视频段,在到达b点后,视频处理设备可以控制该无人机或该无人机的云台进行圆周转动,在转动过程中控制所述拍摄装置拍摄得到第二视频段,并根据该第一视频段和第二
视频段,生成目标视频。
90.在一个实施例中,在该视频处理设备根据所述第一视频段和第二视频段,生成目标视频之后,该视频处理设备如果检测到针对所述目标视频的播放指令,则可以从所述第二视频段开始播放所述目标视频;或者,从所述第一视频段开始播放所述目标视频。具体地,在播放所述目标视频的过程中,该视频处理设备可以将该目标视频从第二视频段开始播放,在播放过程中通过第二视频段的第一张图像(即第一视频段的最后一个视频帧)逐步过渡到第一视频段播放。或者,在播放所述目标视频的过程中,该视频处理设备可以将该目标视频从第一视频段开始播放,在播放过程中通过第一视频段的最后一个视频帧逐步过渡到第二视频段播放。
91.在一个实施例中,在该视频处理设备根据所述第一视频段和第二视频段,生成目标视频之后,该视频处理设备如果检测到针对所述目标视频的分享操作指令,可以将所述目标视频进行分享。例如,在该视频处理设备根据所述第一视频段和第二视频段,生成目标视频之后,该视频处理设备可以在检测到针对所述目标视频的分享至应用软件(如微信、qq等聊天软件)的操作指令时,可以将所述目标视频进行分享至所述应用软件的指定位置(如微信好友、微信朋友圈、qq好友等)。
92.本发明实施例,视频处理设备通过获取到的第一位置点以及第二位置点的位置信息,确定出无人机的飞行轨迹,并将该第一位置点作为第一拍摄点,第二位置点作为第二拍摄点,控制该无人机在按照该飞行轨迹运动的过程中到达第一拍摄点时拍摄得到第一视频段,当在继续移动到达第二拍摄点时,控制无人机的拍摄装置拍摄环境图像得到全景图像,并根据该全景图像生成第二视频段,以及根据该第一视频段和第二视频段,生成目标视频,实现结合飞行轨迹生成包括全景图像的环境视频,满足用户对此类视频的自动化、智能化拍摄以及处理需求。
93.请参见图8,图8是本发明实施例提供的一种视频处理设备的结构示意图。具体的,所述视频处理设备包括:存储器801、处理器802、用户接口803以及数据接口804,其中,所述用户接口803用户输出目标视频。
94.所述存储器801可以包括易失性存储器(volatile memory);存储器801也可以包括非易失性存储器(non

volatile memory);存储器801还可以包括上述种类的存储器的组合。所述处理器802可以是中央处理器(central processing unit,cpu)。所述处理器802还可以进一步包括硬件芯片。上述硬件芯片可以是专用集成电路(application

specific integrated circuit,asic),可编程逻辑器件(programmable logic device,pld)或其组合。上述pld可以是复杂可编程逻辑器件(complex programmable logic device,cpld),现场可编程逻辑门阵列(field

programmable gate array,fpga)或其任意组合。
95.可选地,所述存储器801用于存储程序指令。所述处理器802可以调用存储器801中存储的程序指令,用于执行如下步骤:
96.在无人机按照飞行轨迹运动的过程中,控制所述无人机的拍摄装置在到达第一拍摄点时拍摄得到第一视频段;
97.如果在继续移动的过程中到达第二拍摄点,控制所述无人机的拍摄装置拍摄环境图像得到全景图像,并根据所述全景图像生成第二视频段;
98.根据所述第一视频段和第二视频段,生成目标视频。
99.进一步地,所述第一拍摄点和第二拍摄点是所述飞行轨迹上的两个位置点。
100.进一步地,所述第一拍摄点是根据接收到的在所述飞行轨迹上的选择操作所选取的第一位置点;所述第二拍摄点是根据接收到的在所述飞行轨迹上的选择操作所选取的第二位置点。
101.进一步地,所述处理器801调用存储器802中存储的程序指令还用于执行如下步骤:
102.获取第一位置点以及第二位置点;
103.根据所述第一位置点以及第二位置点的位置信息,确定出所述无人机的飞行轨迹;
104.将所述第一位置点作为所述第一拍摄点,并将所述第二位置点作为所述第二拍摄点。
105.进一步地,所述第一拍摄点和第二拍摄点是所述无人机在按照所述飞行轨迹运动的过程中的两个时间点。
106.进一步地,所述处理器801调用存储器802中存储的程序指令还用于执行如下步骤:
107.根据所述第一位置点及第二位置点的位置信息,按照第一轨迹生成规则,生成从所述第一拍摄点与所述第二拍摄点之间的直线轨迹;
108.将所述直线轨迹确定为飞行轨迹。
109.进一步地,所述处理器801调用存储器802中存储的程序指令还用于执行如下步骤:
110.根据所述第一位置点及第二位置点的位置信息,按照第二轨迹生成规则,生成从所述第一拍摄点与所述第二拍摄点之间的曲线轨迹;
111.将所述曲线轨迹确定为飞行轨迹。
112.进一步地,所述第一视频段的最后一个视频帧作为所述全景图像的第一张图像。
113.进一步地,所述处理器801调用存储器802中存储的程序指令还用于执行如下步骤:
114.如果在继续移动的过程中到达第二拍摄点,控制所述云台转动;
115.其中,所述无人机的拍摄装置跟随所述云台转动拍摄得到所述全景图像。进一步地,所述处理器801调用存储器802中存储的程序指令还用于执行如下步骤:
116.如果在继续移动的过程中到达第二拍摄点,控制所述无人机转动;
117.其中,所述无人机的拍摄装置跟随所述无人机转动拍摄得到所述全景图像。
118.进一步地,所述处理器801调用存储器802中存储的程序指令还用于执行如下步骤:
119.控制所述无人机沿顺时针方向做圆周转动,或控制所述无人机沿逆时针方向做圆周转动。
120.进一步地,所述处理器801调用存储器802中存储的程序指令还用于执行如下步骤:
121.调整所述无人机云台的俯仰角至第一俯仰角;
122.通过转动所述云台的偏航角,控制所述云台做圆周转动,并获取所述拍摄装置在
跟随所述运动转动的过程中拍摄得到的第一环境图像;
123.在控制所述运动转动一周后,调整所述云台的俯仰角至第二俯仰角;
124.通过转动所述云台的偏航角,控制所述云台做圆周转动,并获取所述拍摄装置在跟随所述运动转动的过程中拍摄得到的第二环境图像;
125.将所述第一环境图像和所述第二环境图像进行拼接处理,得到所述全景图像。
126.进一步地,所述处理器801调用存储器802中存储的程序指令还用于执行如下步骤:
127.获取所述第一环境图像的第一特征点集合以及所述第二环境图像的第二特征点集合;
128.根据所述第一特征点集合和所述第二特征点集合进行特征点匹配;
129.根据所述匹配的特征点集合,确定所述第一环境图像和所述第二环境图像的拼接线;
130.根据确定的拼接线,将所述第一环境图像和第二环境图像进行拼接处理,得到所述全景图像。
131.进一步地,所述处理器801调用存储器802中存储的程序指令还用于执行如下步骤:
132.如果检测到针对所述目标视频的播放指令,从所述第二视频段开始播放所述目标视频;
133.或者,从所述第一视频段开始播放所述目标视频。
134.进一步地,所述处理器801调用存储器802中存储的程序指令还用于执行如下步骤:
135.如果检测到针对所述目标视频的分享操作指令,将所述目标视频进行分享。
136.本发明实施例的所述处理器801的具体实现可参考上述各个实施例中相关内容的描述,在此不赘述。
137.在本发明实施例,视频处理设备通过在无人机按照飞行轨迹运动的过程中,控制所述无人机的拍摄装置在到达第一拍摄点时拍摄得到第一视频段,在继续移动的过程中到达第二拍摄点时,控制所述无人机的拍摄装置拍摄环境图像得到全景图像,并根据全景图像生成第二视频段,以及根据所述第一视频段和第二视频段,生成目标视频,从而实现结合飞行轨迹为用户生成所需的包括全景图像的环境视频,满足用户对此类视频的自动化、智能化拍摄以及处理需求。
138.本发明实施例还提供了一种无人机,包括:机身;设置在机身上的动力系统,用于提供飞行动力;处理器,用于在无人机按照飞行轨迹运动的过程中,控制所述无人机的拍摄装置在到达第一拍摄点时拍摄得到第一视频段;如果在继续移动的过程中到达第二拍摄点,控制所述无人机的拍摄装置拍摄环境图像得到全景图像,并根据所述全景图像生成第二视频段;根据所述第一视频段和第二视频段,生成目标视频。
139.进一步,所述处理器还用于执行如下步骤:
140.获取第一位置点以及第二位置点;
141.根据所述第一位置点以及第二位置点的位置信息,确定出所述无人机的飞行轨迹;
142.将所述第一位置点作为所述第一拍摄点,并将所述第二位置点作为所述第二拍摄点。
143.进一步,所述处理器还用于执行如下步骤:
144.如果在继续移动的过程中到达第二拍摄点,控制所述云台转动;
145.其中,所述无人机的拍摄装置跟随所述云台转动拍摄得到所述全景图像。
146.进一步,所述处理器还用于执行如下步骤:
147.调整所述无人机云台的俯仰角至第一俯仰角;
148.通过转动所述云台的偏航角,控制所述云台做圆周转动,并获取所述拍摄装置在跟随所述运动转动的过程中拍摄得到的第一环境图像;
149.在控制所述运动转动一周后,调整所述云台的俯仰角至第二俯仰角;
150.通过转动所述云台的偏航角,控制所述云台做圆周转动,并获取所述拍摄装置在跟随所述运动转动的过程中拍摄得到的第二环境图像;
151.将所述第一环境图像和所述第二环境图像进行拼接处理,得到所述全景图像。
152.进一步,所述处理器还用于执行如下步骤:
153.获取所述第一环境图像的第一特征点集合以及所述第二环境图像的第二特征点集合;
154.根据所述第一特征点集合和所述第二特征点集合进行特征点匹配;
155.根据所述匹配的特征点集合,确定所述第一环境图像和所述第二环境图像的拼接线;
156.根据确定的拼接线,将所述第一环境图像和第二环境图像进行拼接处理,得到所述全景图像。
157.所述无人机中处理器的具体实现可参考上述图6或图7所对应实施例的视频处理方法,在此不再赘述。其中,无人机可以是四旋翼无人机、六旋翼无人机、多旋翼无人机等类型的飞行器。所述动力系统可以包括电机、电调、螺旋桨等结构,其中,电机负责带动飞行器螺旋桨,电调负责控制飞行器的电机的转速。
158.本发明实施例还提供了一种视频处理系统,包括:视频处理设备和无人机;
159.所述视频处理设备,用于发送飞行控制指令给飞行器,所述飞行控制指令用于指示无人机按照确定的飞行轨迹进行飞行;
160.所述无人机,用于响应所述飞行控制指令,控制无人机按照所述飞行轨迹进行飞行并控制所述无人机上挂载的拍摄装置进行拍摄;
161.所述视频处理设备,还用于在无人机按照飞行轨迹运动的过程中,控制所述无人机的拍摄装置在到达第一拍摄点时拍摄得到第一视频段;如果在继续移动的过程中到达第二拍摄点,控制所述无人机的拍摄装置拍摄环境图像得到全景图像,并根据所述全景图像生成第二视频段;根据所述第一视频段和第二视频段,生成目标视频。
162.进一步,所述视频处理设备,用于获取第一位置点以及第二位置点;根据所述第一位置点以及第二位置点的位置信息,确定出所述无人机的飞行轨迹;将所述第一位置点作为所述第一拍摄点,并将所述第二位置点作为所述第二拍摄点。
163.进一步,所述视频处理设备,用于根据所述第一位置点及第二位置点的位置信息,按照第一轨迹生成规则,生成从所述第一拍摄点与所述第二拍摄点之间的直线轨迹;将所
述直线轨迹确定为飞行轨迹。
164.进一步,所述视频处理设备,还用于根据所述第一位置点及第二位置点的位置信息,按照第二轨迹生成规则,生成从所述第一拍摄点与所述第二拍摄点之间的曲线轨迹;将所述曲线轨迹确定为飞行轨迹。
165.进一步,所述视频处理设备,用于如果在继续移动的过程中到达第二拍摄点,控制所述云台转动;其中,所述无人机的拍摄装置跟随所述云台转动拍摄得到所述全景图像。
166.进一步,所述视频处理设备,还用于如果在继续移动的过程中到达第二拍摄点,控制所述无人机转动;其中,所述无人机的拍摄装置跟随所述无人机转动拍摄得到所述全景图像。
167.进一步,所述视频处理设备,用于控制所述无人机沿顺时针方向做圆周转动,或控制所述无人机沿逆时针方向做圆周转动。
168.进一步,所述视频处理设备,用于调整所述无人机云台的俯仰角至第一俯仰角;通过转动所述云台的偏航角,控制所述云台做圆周转动,并获取所述拍摄装置在跟随所述运动转动的过程中拍摄得到的第一环境图像;在控制所述运动转动一周后,调整所述云台的俯仰角至第二俯仰角;通过转动所述云台的偏航角,控制所述云台做圆周转动,并获取所述拍摄装置在跟随所述运动转动的过程中拍摄得到的第二环境图像;将所述第一环境图像和所述第二环境图像进行拼接处理,得到所述全景图像。
169.进一步,所述视频处理设备,用于获取所述第一环境图像的第一特征点集合以及所述第二环境图像的第二特征点集合;根据所述第一特征点集合和所述第二特征点集合进行特征点匹配;根据所述匹配的特征点集合,确定所述第一环境图像和所述第二环境图像的拼接线;根据确定的拼接线,将所述第一环境图像和第二环境图像进行拼接处理,得到所述全景图像。
170.进一步,所述视频处理设备,用于如果检测到针对所述目标视频的播放指令,从所述第二视频段开始播放所述目标视频;或者,从所述第一视频段开始播放所述目标视频。
171.进一步,所述视频处理设备,还用于如果检测到针对所述目标视频的分享操作指令,将所述目标视频进行分享。
172.在本发明的实施例中还提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现本发明图6或图7所对应实施例中描述的视频处理方法方式,也可实现图8所述本发明所对应实施例的视频处理设备,在此不再赘述。
173.所述计算机可读存储介质可以是前述任一实施例所述的设备的内部存储单元,例如设备的硬盘或内存。所述计算机可读存储介质也可以是所述设备的外部存储设备,例如所述设备上配备的插接式硬盘,智能存储卡(smart media card,smc),安全数字(secure digital,sd)卡,闪存卡(flash card)等。进一步地,所述计算机可读存储介质还可以既包括所述设备的内部存储单元也包括外部存储设备。所述计算机可读存储介质用于存储所述计算机程序以及所述终端所需的其他程序和数据。所述计算机可读存储介质还可以用于暂时地存储已经输出或者将要输出的数据。
174.本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的程序可存储于一计算机可读取存储介质
中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,所述的存储介质可为磁碟、光盘、只读存储记忆体(read

only memory,rom)或随机存储记忆体(random access memory,ram)等。
175.以上所揭露的仅为本发明较佳实施例而已,当然不能以此来限定本发明之权利范围,因此依本发明权利要求所作的等同变化,仍属本发明所涵盖的范围。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1