本申请属于数据处理,特别涉及一种飞机试飞数据集中处理方法及装置。
背景技术:
1、飞机试飞又称“飞行试验”,是飞机研制过程中的一个重要环节,通过试飞验证飞机功能和性能指标是否满足设计要求。试飞过程中产生大量的试飞数据,包括飞参数据、总线数据和视频数据等,是分析试飞问题、检验飞机设计质量的重要依据。
2、因缺少统一的存储管理系统和流程方法,而飞机试飞数据体量又大、流程相对复杂,传统数据管理技术无法满足试飞数据集中管理需求,所以目前对飞机试飞数据的处理方法主要靠单位人员通过将试飞数据光盘直接从评估中心拷出并由专人带回,拷入到内网供单位相关专业分析使用,少部分数据通过驻某外场点网络回传内网,数据到达内网环境后,再分别由各专业对原始文件进行解析处理,但解析结果各专业未集中存储,也未能共享,存在大量重复性工作。
3、整个过程依赖人工协调,效率低下,且试飞数据与数据说明文件分散管理、与解析软件分散管理,经常出现数据与说明文件对应不上,数据与解析软件的版本对应不上等问题,造成数据读不懂、无法解析等问题,给试飞数据的管理和使用造成很大困难。
技术实现思路
1、为了解决上述问题,本申请提供了一种飞机试飞数据集中处理方法及装置,利用hadoop大数据管理技术提升数据存储能力,解决试飞数据管理过程复杂,交互时间长,复用率低下的问题。
2、本申请第一方面,提供了一种飞机试飞数据集中处理方法,主要包括:
3、步骤s1、获取飞机试飞描述数据及飞机试飞数据;
4、步骤s2、将试飞描述数据进行结构化,并与所述飞机试飞数据通过文件名进行关联;
5、步骤s3、将关联有试飞描述的飞机试飞数据写入hadoop分布式文件系统中;
6、步骤s4、将写入hadoop分布式文件系统中的飞机试飞数据进行csv格式转换后存储至列数据库中;
7、步骤s5、获取各专业填写的具有一个或多个数据属性的查询模版,在所述列数据库中检索形成二级库飞参数据,用于下载。
8、优选地是,步骤s1中,获取飞机试飞描述数据包括:
9、通过提供格式校验、字典选择或者填写提示的方式获取人工录入的飞机试飞描述数据;或者
10、通过解析具有试飞描述数据的excel获取飞机试飞描述数据;或者
11、在预设的文件路径或试飞描述数据库中检索获取飞机试飞描述数据。
12、优选地是,步骤s2进一步包括,基于所述飞机试飞数据,识别飞机试飞的日期与架次信息,并与所述试飞描述数据关联。
13、优选地是,步骤s3进一步包括:
14、步骤s31、基于hadoop分布式文件系统的本地客户端向其中心节点发起文件写入请求;
15、步骤s32、基于所述中心节点反馈的存储节点信息对待写入的飞机试飞数据划分为多个块;
16、步骤s33、将多个块按顺序写入存储节点,并将写入结果发送给所述中心节点。
17、本申请第二方面提供了一种飞机试飞数据集中处理装置,主要包括:
18、数据获取模块,用于获取飞机试飞描述数据及飞机试飞数据;
19、数据关联模块,用于将试飞描述数据进行结构化,并与所述飞机试飞数据通过文件名进行关联;
20、数据存储模块,用于将关联有试飞描述的飞机试飞数据写入hadoop分布式文件系统中;
21、数据解析模块,用于将写入hadoop分布式文件系统中的飞机试飞数据进行csv格式转换后存储至列数据库中;
22、数据应用模块,用于获取各专业填写的具有一个或多个数据属性的查询模版,在所述列数据库中检索形成二级库飞参数据,用于下载。
23、优选地是,所述数据获取模块包括:
24、人工录入单元,用于通过提供格式校验、字典选择或者填写提示的方式获取人工录入的飞机试飞描述数据;或者
25、人工导入单元,用于通过解析具有试飞描述数据的excel获取飞机试飞描述数据;或者
26、自动导入单元,用于在预设的文件路径或试飞描述数据库中检索获取飞机试飞描述数据。
27、优选地是,所述数据关联模块包括试飞日期架次识别单元,用于基于所述飞机试飞数据,识别飞机试飞的日期与架次信息,并与所述试飞描述数据关联。
28、优选地是,所述数据存储模块包括:
29、写入请求单元,用于基于hadoop分布式文件系统的本地客户端向其中心节点发起文件写入请求;
30、数据划分单元,用于基于所述中心节点反馈的存储节点信息对待写入的飞机试飞数据划分为多个块;
31、数据写入单元,用于将多个块按顺序写入存储节点,并将写入结果发送给所述中心节点。
32、本申请建立了试飞数据上传关联、集中存储、数据解析到数据查询利用的完整流程,实现了海量数据有效的管理,提升了试飞数据管理效率,支撑数据的分析挖掘利用,有助于精准的发现设计问题和辅助设计能力提升。
1.一种飞机试飞数据集中处理方法,其特征在于,包括:
2.如权利要求1所述的飞机试飞数据集中处理方法,其特征在于,步骤s1中,获取飞机试飞描述数据包括:
3.如权利要求1所述的飞机试飞数据集中处理方法,其特征在于,步骤s2进一步包括,基于所述飞机试飞数据,识别飞机试飞的日期与架次信息,并与所述试飞描述数据关联。
4.如权利要求1所述的飞机试飞数据集中处理方法,其特征在于,步骤s3进一步包括:
5.一种飞机试飞数据集中处理装置,其特征在于,包括:
6.如权利要求5所述的飞机试飞数据集中处理装置,其特征在于,所述数据获取模块包括:
7.如权利要求5所述的飞机试飞数据集中处理装置,其特征在于,所述数据关联模块包括试飞日期架次识别单元,用于基于所述飞机试飞数据,识别飞机试飞的日期与架次信息,并与所述试飞描述数据关联。
8.如权利要求5所述的飞机试飞数据集中处理装置,其特征在于,所述数据存储模块包括: