本发明属于气象技术领域,涉及一种仿真卫星云图生成方法,尤其涉及一种基于生成对抗网络(gan)和数值模式产品的仿真卫星云图生成方法。
背景技术:
随着卫星遥感技术的快速发展,卫星云图在天气分析和预报中的作用日益增大,利用卫星云图可以分析不同尺度云系结构及其活动规律,而且云图数据直观性强,易于理解,是气象预报员分析天气现象的重要资料。然而,由于卫星云图是一种实时监测数据,实际业务过程中只能获取过去时次的卫星云图,而获取未来数小时或数十小时的卫星云图对于预报员判明未来天气演变具有重要的指导意义。数值天气预报模式是能够定量表述未来天气变化的一种主要技术手段,通过在数值天气预报模式产品基础上通过深度学习的方法生成仿真卫星云图,可获取未来数小数至数十小时的卫星云图仿真产品,对于气象预报员直观的掌握未来天气形势发展有很大的帮助,具有重要的实际使用价值。
在现有技术方法中,可以通过辐射传输模式(rttov模式或crtm模式等)计算辐射亮温,从而生成红外通道的仿真卫星云图,这种方法存在一定的不足和缺陷,具体表现为:(一)、无法仿真卫星云图的可见光通道。由于基于辐射传输模式的仿真方法只能计算辐射亮温,因而仅能模拟云图的红外通道数据,无法计算可见光通道的反照率数据,因此无法仿真卫星云图的可见光通道;(二)、起始预报时次仿真效果不佳。基于辐射传输模式的方法需要经历一个启动过程后才能获取稳定的输出,在实际使用中一般模式起始预报时刻6时次后的产品才基本可用;(三)、辐射传输模式需要的基础输入数据的类别和相应高度层较多,且需要多个相关时次的边界层数据,对输入数据条件有较高的要求;(四)、辐射传输模式的计算过程需要大量的计算资源,在基层气象台站的实际业务工作中一般难以满足计算资源条件要求。
技术实现要素:
为了克服现有基于辐射传输模式的仿真卫星云图生成技术的不足,本发明人进行了锐意研究,提供了一种基于生成对抗网络和数值模式产品的仿真卫星云图生成方法,旨在通过数值模式产品生成仿真卫星云图产品,从而完成本发明。
本发明的目的在于提供以下技术方案:
一种基于生成对抗网络和数值模式产品的仿真卫星云图生成方法,该方法包括如下步骤:
步骤1,收集并整理得到同一时次、同一区域的卫星云图数据和数值模式分析场产品,构建训练数据集;
步骤2,根据所述训练数据集,构建基于深度生成对抗网络的仿真卫星云图生成模型并对模型进行训练;
步骤3,根据仿真卫星云图生成模型,以数值模式预报场产品作为模型输入,重构对应预报时次的仿真卫星云图并作为结果输出。
根据本发明提供的一种基于生成对抗网络和数值模式产品的仿真卫星云图生成方法,带来了以下有益技术效果:
(1)常规的辐射传输模式仅计算辐射亮温,一般不计算可见光通道的反照率数据,因而仅能模拟云图的红外通道,而本发明方法可以仿真合成云图的可见光通道产品;
(2)基于辐射传输模式的方法需要经历一个启动过程后才能获取稳定的输出,在实际中通常使用模式起报时刻3~6时次后的产品,而本发明方法无此限制;
(3)辐射传输模式需要的基础输入数据的类别和相应高度层较多,对输入数据条件有较高的要求,而本发明方法对输入数据的要求较低;
(4)辐射传输模式的计算过程需要大量计算资源,在基层气象台站的实际业务工作中难以满足,而本发明方法经过训练后实际部署的推理模型对计算资源的要求较低,便于基层台站部署应用。
附图说明
图1示出本发明一种优选实施方式中仿真卫星云图产品生成示意图;
图2示出本发明一种优选实施方式中仿真卫星云图生成方法流程示意图;
图3示出本发明一种优选实施方式中仿真卫星云图产品生成对抗网络模型sat_cgan架构;
图4示出本发明实施例1中2018年7月21日08时~11时(北京时)可见光仿真卫星云图与实际云图产品的效果对比:(上部分为仿真卫星云图,下部分为对应的实际云图产品)。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明公开的实施方式作进一步详细描述。
为了克服现有基于辐射传输模式的仿真卫星云图生成技术的不足,本发明人进行了大量研究,发现深度对抗网络模型能够通过生成器和判别器的对抗,实现生成器参数和判别器参数的训练优化,从而发现从数值模式产品向卫星云图产品的数据映射关系,实现从数值模式产品向卫星云图产品的转换;该理论和方法可能应用于利用数值模式产品生成仿真卫星云图方面。
本发明人经过研究,发现可以将数值模式产品生成仿真卫星云图产品的问题形式化表述如下:
给定
仿真卫星云图产品生成过程示意如图1所示,将左侧数值模式产品通过深度学习模型,转化为右侧特定通道仿真云图产品。
为了实现仿真卫星云图的生成,如图2所示,本发明提供了一种基于生成对抗网络和数值模式产品的仿真卫星云图生成方法,包括以下步骤:
步骤1,收集并整理得到同一时次、同一区域的卫星云图数据和数值模式分析场产品,构建训练数据集;
步骤2,根据所述训练数据集,构建基于深度生成对抗网络的仿真卫星云图生成模型并对模型进行训练;
步骤3,根据仿真卫星云图生成模型,以数值模式预报场产品作为模型输入,重构对应预报时次的仿真卫星云图并作为结果输出。
在本发明中,数值模式分析场产品和数值模式预报场产品均属于数值模式产品,其中,数值模式分析场产品是指融合了实际观探测数据的历史数值模式产品,可视为真值,故而其用于仿真卫星云图生成模型训练时的输入;数值模式预报场产品是指数值模式预测出的未来时次产品,在气象预报保障中是一种重要的参考资料,故而其用于仿真卫星云图生成模型推理输出时的输入。
步骤1中,收集并整理得到同一时次、同一区域的卫星云图数据和数值模式分析场产品,构建训练数据集。
收集到的卫星云图数据和数值模式分析场产品在时次和区域上可能是不对准的,为了在模型构建过程中实现数值模式分析场产品生成的仿真卫星云图与真实卫星云图数据的对比,实施辨别网络的训练,需要整理得到同一时次、同一区域的卫星云图数据和数值模式分析场产品。
数值模式产品中需包含云量(多层,1000hpa~100hpa范围内选择若干标准等压面层)数据、以及风场(多层,1000hpa~100hpa范围内选择若干标准等压面层)、涡度场(多层,1000hpa~100hpa范围内选择若干标准等压面层)、地表温度、云液水含量和云固水含量等可选要素产品;其中,云量产品直接与云图云量相关,地表温度是计算红外通道产品的基础数据之一,云液水含量和云固水含量与云状相关,风场数据以及涡度场数据与云的流向外形相关。
卫星云图数据为与数值模式产品同区域范围的特定可见光通道数据、水汽通道数据、红外通道数据(如某可见光通道数据、水汽通道数据、红外通道数据)或多个通道数据的组合(如3个可见光通道的组合数据)。
步骤2,根据所述训练数据集,构建基于深度生成对抗网络的仿真卫星云图生成模型sat_cgan。由于数值模式产品分辨率一般低于现代气象卫星云图产品的分辨率,因此需在生成对抗网络模型中增加上采样(upsample)模块,按照生成对抗网络的常用训练模式基于训练数据集对模型进行对抗式训练,从而获取模型参数用于提取数值模式产品与卫星云图产品间的相关信息。
生成对抗网络模型中需要训练两个不同的网络,分别为生成网络g和辨别网络d。本发明中选用编码-解码器网络结合一个上采样层模块构成生成网络g。优选地,编码-解码器网络选用u-net网络结构,其是一种增加了跳跃连接的编码-解码器网络,在图像分割领域有较广泛的使用。由于数值模式产品与卫星云图产品具有不同的分辨率,因此在u-net结构后增加上采样层模块。
辨别网络d是一个多层卷积分类网络,通过计算输入其中的图像为真实卫星云图的概率,辨别输入其中的图像是真实卫星云图还是仿真生成云图。在训练过程中,判别网络d尝试正确的辨别真实卫星云图与仿真卫星云图,生成网络g尝试生成尽可能真实的云图使辨别网络d无法辨别真伪。
令x表示数值模式产品,y表示对应的真实卫星云图产品,g(x,z)表征生成网络g由数值模式产品x和随机噪声z生成的仿真卫星云图产品,为了提取输入数值模式产品x与真实卫星云图产品y的映射关系,选择条件生成对抗网络模型的辨别器部分作为辨别网络的基本架构,即将(x,g(x,z))和(x,y)作为辨别网络d的输入(常规gan模型的辨别器仅使用y和g(x,z)作为输入),使数值模式产品x参与辨别网络d的计算过程。d(x,y)为辨别网络准确识别真伪卫星云图的概率,则对于辨别网络d,目标为找到如下使辨别网络d最大化的模型参数:
argmaxdlog(d(x,y))+log(1-d(x,g(x,z)))(2)
对于生成网络g,目标为找到如下最优化参数:
argmaxglog(d(x,g(x,z)))(3)
具体实现中,使用二元交叉熵作为损失度量:
即对于辨别网络d而言,损失函数如下:
ld=lbce(d(x,y),1)+lbce(d(x,g(x,z)),0)(4)
其中
n为模型输入的一个批样本数量,a∈{0,1}表示输入数据的标签(0:仿真卫星云图;1:真实卫星云图),
对于生成网络g而言,损失函数为生成对抗损失与常用的l1损失(即平均绝对误差)的按比例合成,具体损失函数如下:
lg=λ1lbce(d(x,g(x,z)),1)+λ2|y-g(x,z)|(6)
其中,λ1和λ2为比例参数,λ1选值为0~1之间,λ2选值为0~1之间,且两者之和为1;
生成对抗损失是指:lbce(d(x,g(x,z)),1),lbce定义见公式5;
l1损失是指:|y-g(x,z)|,表示平均绝对误差。
训练过程以迭代方式执行。首先对辨别网络d进行训练,对辨别网络d批量输入真实卫星云图、生成网络生成的仿真卫星云图以及对应的数值模式产品,利用损失ld通过反向传播的方式更新辨别网络d的参数;继而冻结辨别网络d的参数,对生成网络g批量输入数值模式产品x和对应的真实卫星云图y,计算生成器损失lg,通过反向传播的方式更新生成网络g的参数。重复上述过程直至生成网络和辨别网络的能力达到平衡(即继续迭代生成网络和辨别网络均无明显优化),从而获取推理运行时仿真卫星云图生成模型的合适参数。
在本发明中,生成网络g对应生成对抗网络模型中的生成器,辨别网络d对应生成对抗网络模型中的辨别器。
步骤3,在推理运行过程中,根据仿真卫星云图生成模型,以数值模式预报场产品作为模型输入,重构对应预报时次的仿真卫星云图并作为结果输出。生成器网络架构与训练阶段的生成器网络模型相同,参数为训练后的生成器模型参数。
其中,数值模式预报场产品与训练时数值模式分析场产品的要素及要素层次选择一致。例如,训练时数值模式分析场产品选用的是云量要素,数值模式预报场产品必须采用云量要素,不能选用其他要素或要素组合;数值模式分析场产品选用的云量要素为1000hpa和100hpa等压面层上的数据,则数值模式预报场产品必须同样采用1000hpa和100hpa等压面层上的数据。
实施例
实施例1
步骤101,收集并整理获得同一时次、同一区域的历史数值模式产品(数值模式分析场产品)和卫星云图数据,构建成对训练数据集。
选用数值模式产品为欧洲中期天气预报中心提供的细网格数值天气预报产品中0.25×0.25°分辨率的再分析场产品和风云4a(fy-4a)静止气象卫星4km分辨率产品。选取产品覆盖范围均为北纬10°~北纬50°、东经110°~东经150°。由于fy-4a静止气象卫星的数据获取起始时间为2018年4月,因此训练数据选取了2018年4月1日~7月20日逐小时数据,共计2500余个时次的数据。
(1)fy-4a卫星资料
fy-4a地球静止气象卫星是我国第二代静止轨道气象卫星的首发星,搭载了多通道扫描成像仪、干涉式大气垂直探测仪、闪电成像仪、空间环境监视仪器包等多种载荷,本文的工作中选择fy-4a搭载的多通道扫描成像仪产品作为仿真卫星云图模拟的对象。多通道扫描成像仪是fy-4a的主要载荷之一,主要任务是对地球表面和云物理状态参数的高频次、高精度、多光谱定量遥感,直接为天气分析和预报、短期气候预测以及环境和灾害监测服务。观测波段覆盖可见光、近红外、短波红外、中波红外和长波红外,既可观测到大尺度天气系统的全貌,又可观测到中、小尺度天气系统的迅速演变过程。多通道扫描成像仪共配备14个通道,包括7个可见光-近红外通道、7个红外通道。14个通道中,500米地面分辨率通道1个,1km通道2个,2km通道4个,4km通道7个。全圆盘观测时间为15分钟。
实施例中选择可见光1、2、3通道作为目标产品;为统一各通道产品分辨率,且不影响工作的一般性,均选取4km分辨率的产品;为配合数值预报的产品时效,选择逐小时的整点产品;
(2)欧洲中期天气预报中心数值预报模式产品
欧洲中期天气预报中心发布的数值预报模式产品是实际业务中使用较为广泛的产品之一,国家气象局向各个省、市、县气象台站等用户实时传输了欧洲中期天气预报中心数值预报产品。通过欧洲中期天气预报中心网站也可下载该中心制作的1979年至今的历史数值预报产品。
实施例中选取的数值预报模式产品如表1所示。其中云覆盖产品直接与云图云量相关,地表温度是计算红外通道产品的基础数据之一,云液水含量和固水含量与云状相关,风场数据以及涡度场数据与云的流向外形相关。
表1实施例中作为模型输入的数值模式产品要素
构建的数据集为{ecwmf(t)→fy4a(t)},其中ecwmf(t)为t时刻实施例中选取的欧洲中期天气预报中心提供的细网格数值模式分析场产品,fy4a(t)为t时刻fy-4a静止气象卫星通道组合产品。
步骤102,根据所述训练数据集,构建深度生成对抗网络模型sat_cgan并对模型进行训练,通过训练获取模型参数用于提取对应时次数值模式产品与卫星云图数据间的相关信息。
构建如图3所示的仿真卫星云图生成对抗网络模型sat_cgan,按照公式(4)~公式(6)设定的损失函数在训练集{ecwmf(t)→fy4a(t)}上对模型进行训练,根据上述训练集和上述仿真卫星云图生成对抗网络模型sat_cgan,按照迭代方式执行训练。从{ecwmf(t)}中选取一个批次{ecwmf(t)}8的数据,作为模型的输入。首先对辨别器d进行训练,经过模型sat_cgan生成器g的前向计算,得到生成的仿真卫星云图产品
在训练过程中,优化方法为使用基于小批量的随机梯度下降方法(minibatchsgd),学习率为0.0002,优化器动量参数β1=0.5,β2=0.999,上采样(upsample)层采用相位移动(phase-shift)方法提高输出结果的分辨率。
步骤103,根据训练所得模型,以实时数值模式预报场产品作为输入,重构对应时次的仿真卫星云图数据产品作为输出。
在本实施例中,可以从实时数值模式产品预报场中提取得到与所述训练数据集具有相同区域的数据片段;将所述提取得到的数据片段作为所述推理模型的输入进行解算,得到对应时次的仿真卫星云图的产品,作为仿真结果输出。重构效果如图4所示。图4为使用本发明提出的深度学习方法模拟fy-4a可见光通道产品的效果图,仿真的时间区间为2018年7月21日8时~11时(北京时)共四个时次,上部分为根据本发明中方法生成的仿真卫星云图,下部分为对应的真实卫星云图产品,从上述仿真卫星云图可见光产品的数据及直观感受均表明本发明所提出的方法能够较好的仿真卫星云图的可见光产品。
与此同时,本发明人还实施了红外通道数据、水汽通道数据的仿真卫星云图生成试验,本发明所提出的方法能够较好的仿真卫星云图的红外通道产品、水汽通道产品。
以上所述,仅为本发明最佳的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到的变化或替换,都应涵盖在本发明的保护范围之内。
本发明说明书中未作详细描述的内容属于本领域技术人员的公知技术。