一种图数同步传输方法和电子设备与流程

本申请涉及无人机领域，具体而言，涉及一种图数同步传输方法和电子设备。

背景技术：

近年来随着低成本、高精度飞控导航技术的不断进步，无人机以其实时性强、成本低、响应快等优势，在应急救灾、交通监控、航拍摄影等方面得到了广泛的应用。

目前无人机搭载的视频传感器以相机为主，如索尼alpha7等大面阵相机和光电吊舱。大面阵相机因其影像数据比较大，很难经图传设备实时传输到地面端。光电吊舱弥补了大面阵相机的不足，可将采集到的实时视频数据经图传设备实时传输到地面端，但是目前对于无人机的监控需求已经不再局限于视频数据了。在无人机数据分析中，如果只分析视频数据，会导致观察手段太过单一，降低了无人机的监控性能。

技术实现要素：

本申请的目的在于提供一种图数同步传输方法和电子设备，以解决上述问题。

为了实现上述目的，本申请实施例采用的技术方案如下：

第一方面，本申请实施例提供一种图数同步传输方法，应用于电子设备，所述电子设备包括处理器、光电吊舱以及飞控，所述处理器分别与所述光电吊舱、所述飞控电连接，所述方法包括：

所述处理器按照预设频率获取所述光电吊舱的吊舱姿态信息和所述飞控的飞控位姿信息；

所述处理器依据所述吊舱姿态信息、所述飞控位姿信息、吊舱坐标系、飞控坐标系以及像平面坐标系获得视频帧位姿信息；其中，所述视频帧位姿信息包含当前帧图像中的每一个像素点对应的位姿信息；

所述处理器获取预定帧率的视频帧；其中，所述预定帧率小于所述预设频率；

所述处理器将每一视频帧与其对应的视频帧位姿信息封装为图数包，并将所述图数包传输给信息接收端。

第二方面，本申请实施例提供一种电子设备，所述电子设备包括处理器、光电吊舱以及飞控，所述处理器分别与所述光电吊舱、所述飞控电连接，所述处理器用于按照预设频率获取所述光电吊舱的吊舱姿态信息和所述飞控的飞控位姿信息；

所述处理器还用于依据所述吊舱姿态信息、所述飞控位姿信息、吊舱坐标系、飞控坐标系以及像平面坐标系获得视频帧位姿信息；其中，所述视频帧位姿信息包含当前帧图像中的每一个像素点对应的位姿信息；

所述处理器还用于获取预定帧率的视频帧；其中，所述预定帧率小于所述预设频率；

所述处理器还用于将每一视频帧与其对应的视频帧位姿信息封装为图数包，并将所述图数包传输给信息接收端。

相对于现有技术，本申请实施例所提供的一种图数同步传输方法和电子设备的有益效果为：首先，处理器按照预设频率获取光电吊舱的吊舱姿态信息和飞控的飞控位姿信息，并依据吊舱姿态信息、飞控位姿信息、吊舱坐标系、飞控坐标系以及像平面坐标系获得视频帧位姿信息；其次，处理器获取预定帧率的视频帧；其中，预定帧率小于预设频率，以保障视频帧和视频帧位姿信息的同步率；然后，处理器将每一视频帧与其对应的视频帧位姿信息封装为图数包，并将图数包传输给信息接收端，以使信息接收端得到一一对应的视频帧和视频帧位姿信息，便于分析，丰富了分析手段，提升了分析效果。

为使本申请的上述目的、特征和优点能更明显易懂，下文特举较佳实施例，并配合所附附图，作详细说明如下。

附图说明

为了更清楚地说明本申请实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本申请的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其它相关的附图。

图1为本申请实施例提供的无人机与信息接收端的交互示意图；

图2为本申请实施例提供的电子设备的结构示意图；

图3为本申请实施例提供的图数同步传输方法的流程示意图；

图4为本申请实施例提供的电子设备的另一种结构示意图；

图5为本申请实施例提供的s101的子步骤示意图；

图6为本申请实施例提供的s103的子步骤示意图；

图7为本申请实施例提供的电子设备的另一种结构示意图；

图8为本申请实施例提供的s104的子步骤示意图。

图中：10-处理器；20-飞控；30-光电吊舱；40-信息收发模块；201-定位器；202-惯性传感器；301-姿态传感器。

具体实施方式

为使本申请实施例的目的、技术方案和优点更加清楚，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本申请一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本申请实施例的组件可以以各种不同的配置来布置和设计。

因此，以下对在附图中提供的本申请的实施例的详细描述并非旨在限制要求保护的本申请的范围，而是仅仅表示本申请的选定实施例。基于本申请中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。同时，在本申请的描述中，术语“第一”、“第二”等仅用于区分描述，而不能理解为指示或暗示相对重要性。

需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

在本申请的描述中，需要说明的是，术语“上”、“下”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系，或者是该申请产品使用时惯常摆放的方位或位置关系，仅是为了便于描述本申请和简化描述，而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作，因此不能理解为对本申请的限制。

在本申请的描述中，还需要说明的是，除非另有明确的规定和限定，术语“设置”、“连接”应做广义理解，例如，可以是固定连接，也可以是可拆卸连接，或一体地连接；可以是机械连接，也可以是电连接；可以是直接相连，也可以通过中间媒介间接相连，可以是两个元件内部的连通。对于本领域的普通技术人员而言，可以具体情况理解上述术语在本申请中的具体含义。

下面结合附图，对本申请的一些实施方式作详细说明。在不冲突的情况下，下述的实施例及实施例中的特征可以相互组合。

目前无人机搭载的视频传感器以相机为主，如索尼alpha7等大面阵相机和光电吊舱。大面阵相机因其影像数据比较大，很难经图传设备实时传输到地面端。光电吊舱弥补了大面阵相机的不足，可将采集到的实时视频数据经图传设备实时传输到地面端，但是由于其缺少地理信息，仅能作为一种观察手段，无法对视频数据进行地理定位分析。

具体地，请参考图1，图1示出了无人机与信息接收端的交互示意图。无人机将采集到的信息通过有线或无线网络传输给信息接收端。图1中的信息接收端可以为地面端。

为了解决上述问题，本申请实施例提供了一种电子设备。该电子设备可以为图1所示的无人机。请参照图2，电子设备的结构示意图。电子设备包括处理器10、飞控20、光电吊舱30。处理器10分别与飞控20、光电吊舱30电连接。处理器10用于执行存储的可执行模块，例如计算机程序。

处理器10可以是一种集成电路芯片，具有信号的处理能力。在实现过程中，图数同步传输方法的各步骤可以通过处理器10中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器10可以是通用处理器，包括中央处理器(centralprocessingunit，简称cpu)、网络处理器(networkprocessor，简称np)等；还可以是数字信号处理器(digitalsignalprocessor，简称dsp)、专用集成电路(applicationspecificintegratedcircuit，简称asic)、现场可编程门阵列(field－programmablegatearray，简称fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。

在一种可能的实现方式中，电子设备还包括存储器，存储器可能包含高速随机存取存储器(ram：randomaccessmemory)，也可能还包括非不稳定的存储器(non-volatilememory)，例如至少一个磁盘存储器。

存储器用于存储程序，例如图数同步传输装置对应的程序。图数同步传输装置包括至少一个可以软件或固件(firmware)的形式存储于存储器中或固化在电子设备的操作系统(operatingsystem，os)中的软件功能模块。处理器10在接收到执行指令后，执行所述程序以实现图数同步传输方法。

光电吊舱30用于采集当前环境图像及吊舱姿态数据，并将采集到的环境图像及吊舱姿态数据传输给处理器10。

飞控20为无人机的飞行控制系统。飞控20用于控制无人机航行，并将无人机当前的位姿信息传输给处理器10。

应当理解的是，图2所示的结构仅为电子设备的部分的结构示意图，电子设备还可包括比图2中所示更多或者更少的组件，或者具有与图2所示不同的配置。图2中所示的各组件可以采用硬件、软件或其组合实现。

本发明实施例提供的一种图数同步传输方法，可以但不限于应用于图2所示的电子设备，具体的流程，请参考图3：

s101，处理器按照预设频率获取光电吊舱的吊舱姿态信息和飞控的飞控位姿信息。

具体地，处理器10按照相同的预设频率分别获取光电吊舱30的吊舱姿态信息和飞控20的飞控位姿信息。

其中，吊舱姿态信息包含光电吊舱30的角速度、加速度、方向、速度等。飞控位姿信息包含飞控的角速度、加速度、方向、速度以及地理位置信息等。地理位置信息例如为gps定位信息。

s102，处理器依据吊舱姿态信息、飞控位姿信息、吊舱坐标系、飞控坐标系以及像平面坐标系获得视频帧位姿信息。

其中，视频帧位姿信息(简称，pos_cur)包含当前帧图像中的每一个像素点对应的位姿信息。通过视频帧位姿信息可以获取到当前帧图像中的任意点像素对应的地理位置信息。

吊舱坐标系即为无人机的相机坐标系。飞控坐标系即为无人机的机体坐标系。像平面坐标系即为无人机的成像平面坐标系。

s103，处理器获取预定帧率的视频帧；其中，预定帧率小于预设频率。

具体地，光电吊舱30按照预定帧率获取视频图像，并将视频图像传输给处理器10，即，处理器10获取预定帧率的视频帧。需要说明的是，预定帧率小于预设频率，以提升视频帧和视频帧位姿信息的同步率。

s104，处理器将每一视频帧与其对应的视频帧位姿信息封装为图数包，并将图数包传输给信息接收端。

具体地，信息接收端对接收到的图数包进行解码，可以得到一一对应的视频帧和视频帧位姿信息(包含当前帧图像中的任意点像素对应的地理位置信息)。可以同时进行图像分析和地理位置分析，二者相辅相成，丰富数据分析的手段，提升了数据分析的效果。

综上所述，本申请实施例提供的图数同步传输方法中，首先，处理器按照预设频率获取光电吊舱的吊舱姿态信息和飞控的飞控位姿信息，并依据吊舱姿态信息、飞控位姿信息、吊舱坐标系、飞控坐标系以及像平面坐标系获得视频帧位姿信息；其次，处理器获取预定帧率的视频帧；其中，预定帧率小于预设频率，以保障视频帧和视频帧位姿信息的同步率；然后，处理器将每一视频帧与其对应的视频帧位姿信息封装为图数包，并将图数包传输给信息接收端，以使信息接收端得到一一对应的视频帧和视频帧位姿信息，便于分析，丰富了分析手段，提升了分析效果。

对于预设频率和预定帧率，本申请实施例还提供了一种可能的实现方式。

其中，预设频率至少3倍于预定帧率。虽然未能严格消除视频帧采集与视频帧位姿信息采集的时间差问题。但视频帧位姿信息采集频率远远高于视频帧的帧频，二者的时间差小于视频帧位姿信息的采样间隔，从而保障了视频帧与视频帧位姿信息的同步性。

请参考图4，本申请实施例还给出了一种可能的电子设备结构示意图。光电吊舱30包括姿态传感器301。飞控20包括定位器201和惯性传感器202。处理器10分别与姿态传感器301、定位器201和惯性传感器202电连接。

姿态传感器301可以为六轴陀螺仪，用于采集光电吊舱30的吊舱姿态信息，并将采集到的吊舱姿态信息传输给处理器10。当然地，姿态传感器301也可为其他能够获取光电吊舱30的姿态信息的仪器，例如三轴陀螺仪，在此不做限定。

定位器201可以为gps全球定位系统，用于采集飞控20的位置信息(地理位置信息)，并将采集到的飞控20的位置信息传输给处理器10。当然地，定位器201也可为其他能够获取飞控20的位置信息(的仪器，例如北斗定位系统，在此不做限定。

惯性传感器202(inertialmeasurementunit，简称imu)主要是检测和测量加速度、倾斜、冲击、振动、旋转和多自由度(dof)运动，是解决导航、定向和运动载体控制的重要部件。惯性传感器202具体用于采集飞控姿态信息，并将采集到的飞控姿态信息传输给处理器10。

在图3的基础上，当电子设备的结构如图4所示时，对于s101中的内容，本申请实施例还给出了一种可能的实现方式，请参考图5，s101包括：

s101-1，处理器按照预设频率接收姿态传感器传输的吊舱姿态信息。

可能地，姿态传感器301按照预设频率采集吊舱姿态信息，并将吊舱姿态信息传输给处理器10。或者，姿态传感器301持续采集吊舱姿态信息，处理器10按照预设频率接收姿态传感器301传输的吊舱姿态信息。

s101-2，处理器按照频率接收定位器传输的飞控位置信息和惯性传感器传输的飞控姿态信息。

其中，飞控位姿信息包括飞控位置信息和飞控姿态信息。即飞控位姿信息由飞控位置信息和飞控姿态信息组成。

可能地，惯性传感器202按照预设频率采集飞控姿态信息，并将飞控姿态信息传输给处理器10。或者，惯性传感器202持续采集飞控姿态信息，处理器10按照预设频率接收惯性传感器202传输的飞控姿态信息。

可能地，定位器201按照预设频率采集飞控位置信息，并将飞控位置信息传输给处理器10。或者，定位器201持续采集飞控姿位置信息，处理器10按照预设频率接收定位器201传输的飞控位置信息。

需要说明的是，本申请实施例中每一次获取飞控位姿信息和每一次获取吊舱姿态信息的时间相同，频率相同。

在图3的基础上，对于s103中的内容，本申请实施例还给出了一种可能的实现方式，请参考图6，s103包括：

s103-1，处理器接收光电吊舱传输的编码视频流。

具体地，光电吊舱30在获取到视频图像时，对视频图像进行编码，以得到编码视频流。光电吊舱30将编码视频流传输给出处理器10。

s103-2，处理器对编码视频流进行解码处理以得到解码后的预定帧率的视频帧。

具体地，处理器10在接收到编码视频流后，对其进行解码处理以得到解码后的预定帧率的视频帧。

在一种可能的实现方式中，光电吊舱30在获取到视频图像时，可以不进行编码，光电吊舱30将采集到的预定帧率的视频图像传输给出处理器10。

请参考图7，本申请实施例还给出了一种可能的电子设备结构示意图。电子设备还包括信息收发模块40。信息收发模块40与处理器10电连接。

在图3的基础上，当电子设备的结构如图7所示时，关于s104中的内容，本申请实施例还给出了一种可能的实现方式，请参考图8，s104包括：

s104-1，处理器将每一视频帧与其对应的视频帧位姿信息封装为图数包。

具体地，首先将视频帧位姿信息处理为视频编码支持的位姿数据包，即pos数据包。因为视频编码支持，避免了封装过程数据损失的问题。再将位姿数据包与视频帧一一对应封装为图数包，从而保障视频帧和与其对应的视频帧位姿信息同步性，有效的改善视频帧与位姿数据包时间上的对齐问题，便于获取、分析。

s104-2，处理器将图数包传输给信息收发模块。

具体地，处理器10将图数包传输给信息收发模块40。

s104-3，信息收发模块将图数包传输给信息接收端。

具体地，信息收发模块40将图数包传输给信息接收端。

本申请实施例还提供了一种电子设备，该电子设备如图2所示。该电子设备可以为无人机。需要说明的是，本实施例所提供的电子设备，其可以执行上述方法流程实施例所示的方法流程，以实现对应的技术效果。为简要描述，本实施例部分未提及之处，可参考上述的实施例中相应内容。

电子设备包括处理器10、光电吊舱30以及飞控20，处理器10分别与光电吊舱30、飞控20电连接。

处理器10用于按照预设频率获取光电吊舱30的吊舱姿态信息和飞控20的飞控位姿信息。

处理器10还用于依据吊舱姿态信息、飞控位姿信息、吊舱坐标系、飞控坐标系以及像平面坐标系获得视频帧位姿信息；其中，视频帧位姿信息包含当前帧图像中的每一个像素点对应的位姿信息。

处理器10还用于获取预定帧率的视频帧；其中，预定帧率小于预设频率。

处理器10还用于将每一视频帧与其对应的视频帧位姿信息封装为图数包，并将图数包传输给信息接收端。

其中，预设频率至少3倍于预定帧率。

可能地，电子设备的结构如图4所示，光电吊舱30包括姿态传感器301，飞控20包括定位器201和惯性传感器202。

处理器10具体用于按照预设频率接收姿态传感器301传输的吊舱姿态信息。

处理器10具体用于按照频率接收定位器201传输的飞控位置信息和惯性传感器202传输的飞控姿态信息，其中，飞控位姿信息包括飞控位置信息和飞控姿态信息。

可能地，处理器10具体用于接收光电吊舱传输的编码视频流；对编码视频流进行解码处理以得到解码后的预定帧率的视频帧。

可能地，电子设备的结构如图7所示，电子设备还包括信息收发模块40，信息收发模块40与处理器10电连接。

处理器10用于将每一视频帧与其对应的视频帧位姿信息封装为图数包；还用于将图数包传输给信息收发模块40。

信息收发模块40用于将图数包传输给信息接收端。

在本申请所提供的实施例中，应该理解到，所揭露的装置和方法，也可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的，例如，附图中的流程图和框图显示了根据本申请的多个实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分，所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现方式中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

另外，在本申请各个实施例中的各功能模块可以集成在一起形成一个独立的部分，也可以是各个模块单独存在，也可以两个或两个以上模块集成形成一个独立的部分。

所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：u盘、移动硬盘、只读存储器(rom，read-onlymemory)、随机存取存储器(ram，randomaccessmemory)、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述仅为本申请的优选实施例而已，并不用于限制本申请，对于本领域的技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本申请的保护范围之内。

对于本领域技术人员而言，显然本申请不限于上述示范性实施例的细节，而且在不背离本申请的精神或基本特征的情况下，能够以其它的具体形式实现本申请。因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本申请的范围由所附权利要求而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化囊括在本申请内。不应将权利要求中的任何附图标记视为限制所涉及的权利要求。