本发明属于雷达信号处理,具体涉及一种面向中高轨sar超大数据量的多级并行处理系统。
背景技术:
1、中高轨合成孔径雷达(sar)是一种安装在卫星或其他飞行平台上的高分辨率雷达系统,能够在高轨道上对地球进行全天候、全天时的观测。具体地,通过移动飞行器或改变天线波束的方向,使得雷达天线与地面目标之间的相对运动,以对对同一地区进行多个时间点观测,将多个观测信号进行合成处理,形成一幅具有丰富的时间序列信息的地理坐标和辐射强度的图像。在中高轨sar成像技术中,拍摄的单景数据达500g~800g,且单日/单圈次可实现最多16次观测,回波数据流量庞大。
2、然而,现有的串行处理方式在处理海量中高轨sar数据时,存在数据处理效率过低,难以满足实时或近实时的成像要求的问题。
技术实现思路
1、为了解决现有技术中存在的上述问题,本发明提供了一种面向中高轨sar超大数据量的多级并行处理系统。本发明要解决的技术问题通过以下技术方案实现:
2、本发明提供了一种面向中高轨sar超大数据量的多级并行处理系统,包括:数据存储设备,用于在预设周期内,存储中高轨合成孔径雷达返回的多个全场景观测数据,并同步将所述多个全场景观测数据发送给分布式计算装置,以及接收所述分布式计算装置发送的多个图像处理结果;所述分布式计算装置,包括一个数据交换节点,以及连接至所述数据交换节点的多个数据处理节点;所述数据交换节点,与所述数据存储设备连接,用于获取所述多个全场景观测数据,并将每个全场景观测数据分解为多个任务块,将所述多个任务块同步分发给所述多个数据处理节点;所述多个数据处理节点,用于利用多线程模型对接收到的任务块进行并行处理,并将对应的图像处理结果反馈给所述数据交换节点。
3、在一些实施例中,每个数据处理节点对应一个节点编号;所述数据交换节点,还用于:获取所述多个数据处理节点的总数;利用所述多个数据处理节点的总数整除所述多个任务块的数量,得到基础任务量;基于所述基础任务量,对所述多个任务块进行拆分,获得多个基础任务块;按照多个节点编号的顺序,将所述多个基础任务块同步分发给所述多个数据处理节点。
4、在一些实施例中,在所述多个数据处理节点的总数未能整除所述多个任务块的数量时,对所述多个任务块进行补余处理。
5、在一些实施例中,所述多线程模型中的线程包括:并行运算的读数据线程、处理数据线程和写数据线程;所述读数据线程的触发时间早于所述处理数据线程的触发时间和所述写数据线程的触发时间,所述处理数据线程的触发时间早于所述写数据线程的触发时间。
6、在一些实施例中,所述多线程模型为生产者-消费者模型。
7、在一些实施例中,所述数据交换节点利用bp算法对所述每个全场景观测数据进行分解,得到所述多个任务块。
8、在一些实施例中,每个数据处理节点上设置有无线交互端口,用于与移动终端建立连接,以使所述移动终端获取所述数据处理节点的处理结果。
9、在一些实施例中,所述数据存储设备为磁盘阵列。
10、在一些实施例中,所述数据交换节点为光纤交换机。
11、在一些实施例中,与所述数据交换节点连接的所述多个数据处理节点呈星状拓扑结构。
12、与现有技术相比,本发明的有益效果:
13、针对现有的串行处理方式在处理海量中高轨sar数据时,存在数据处理效率过低,难以满足实时或近实时的成像要求的问题,本发明提供的面向中高轨sar超大数据量的多级并行处理系统,该系统通过在预设周期内存储中高轨sar返回的多个全场景观测数据,并将每个全场景观测数据进行任务分解,获得多个任务块,通过使用多个互不干扰的分布式数据处理节点并行处理多个任务块,得到图像处理结果,可以在保证高分辨率成像的基础上,有效提高整体系统的吞吐量,极大提高数据处理效率,确保数据处理的时效性,以满足实时或近实时的成像要求。
1.一种面向中高轨sar超大数据量的多级并行处理系统,其特征在于,包括:
2.根据权利要求1所述的面向中高轨sar超大数据量的多级并行处理系统,其特征在于,每个数据处理节点对应一个节点编号;所述数据交换节点,还用于:
3.根据权利要求2所述的面向中高轨sar超大数据量的多级并行处理系统,其特征在于,在所述多个数据处理节点的总数未能整除所述多个任务块的数量时,对所述多个任务块进行补余处理。
4.根据权利要求1所述的面向中高轨sar超大数据量的多级并行处理系统,其特征在于,所述多线程模型中的线程包括:并行运算的读数据线程、处理数据线程和写数据线程;所述读数据线程的触发时间早于所述处理数据线程的触发时间和所述写数据线程的触发时间,所述处理数据线程的触发时间早于所述写数据线程的触发时间。
5.根据权利要求1所述的面向中高轨sar超大数据量的多级并行处理系统,其特征在于,所述多线程模型为生产者-消费者模型。
6.根据权利要求1所述的面向中高轨sar超大数据量的多级并行处理系统,其特征在于,所述数据交换节点利用bp算法对所述每个全场景观测数据进行分解,得到所述多个任务块。
7.根据权利要求1所述的面向中高轨sar超大数据量的多级并行处理系统,其特征在于,每个数据处理节点上设置有无线交互端口,用于与移动终端建立连接,以使所述移动终端获取所述数据处理节点的处理结果。
8.根据权利要求1所述的面向中高轨sar超大数据量的多级并行处理系统,其特征在于,所述数据存储设备为磁盘阵列。
9.根据权利要求1所述的面向中高轨sar超大数据量的多级并行处理系统,其特征在于,所述数据交换节点为光纤交换机。
10.根据权利要求1所述的面向中高轨sar超大数据量的多级并行处理系统,其特征在于,与所述数据交换节点连接的所述多个数据处理节点呈星状拓扑结构。