基于多模态数据的云图分类方法与流程

本申请涉及计算机，具体涉及一种基于多模态数据的云图分类方法。

背景技术：

1、卫星云图的观测在气象领域十分重要，密切关系到人类生活和农业生产。而对卫星云图的分类一直都是研究热点，但由于光谱、空间、时间和辐射分辨率以及人类活动等影响，限制了复杂环境中的预测精度。把温度、湿度、气压、风速等因素纳入建模之中，形成更加详细完备的信息，结合云的视觉信息和其他环境信息共同形成了多模态数据，利用多模态数据将有利于增强云图分类的准确性，但多模态数据的神经网络缺乏训练样本，泛化性能低，易于出现过拟合，进而导致云分类准确率不高。

技术实现思路

1、本申请实施例提供了一种基于多模态数据的云图分类方法，能够提高云图分类的准确性。

2、第一方面，本申请实施例提供了一种基于多模态数据的云图分类方法，包括：

3、获取多模态数据，所述多模态数据包括图像数据和数值数据；

4、对所述图像数据进行预处理，以去除所述图像数据中的噪声并进行数据增强；

5、用注意力引导的胶囊网络对预处理后的所述图像数据进行特征提取；

6、将所述胶囊网络提取的特征与所述数值数据进行融合；

7、用支持向量机对融合后的数据进行处理，得到分类结果。

8、可选实施例中，对所述图像数据进行预处理包括：采用中值滤波(medianfiltering，mf)法对所述图像数据进行降噪和增强。

9、可选实施例中，采用中值滤波法对所述图像数据进行降噪和增强，包括：

10、用二维滑动模板遍历所述图像数据，将所述二维滑动模板内的像素按照像素值的大小进行排序，生成单调上升或下降的二维数据序列，将所述二维数据序列的中值作为所述二维滑动模板内原始图像数据的中间位置的像素。

11、可选实施例中，所述注意力引导，包括：

12、计算特征间的相似性；

13、用softmax归一化处理；

14、分权求和。

15、可选实施例中，胶囊神经网络的输出胶囊由非线性压扁函数计算:

16、

17、式中，vj表示胶囊j的向量输出，sj表示胶囊j的总体输入。

18、可选实施例中，胶囊j的总体输入sj是通过使用权重矩阵wij乘以其上层胶囊i的输出ui来获得，公式如下：

19、sj＝∑cijwijui

20、wij表示下层中胶囊的每个预测向量的加权量，cij表示胶囊j与其上一层胶囊i的耦合系数。

21、可选实施例中，耦合系数通过如下公式得到：

22、

23、其中bij为胶囊i应该耦合到胶囊j的对应先验概率，bik表示胶囊i应该耦合到胶囊k的对应先验概率，输出向量的长度代表预测的可能性。

24、可选实施例中，每胶囊的单个边际损失lk,k表示第k类是否存在，如下

25、lk＝tkmax(0,m+-‖vk‖2)+λ(1-tk)max(0,‖vk‖-m-)2

26、其中tk，m+，m-默认为三个自由变量，λ为能够降低损失的权重。

27、可选实施例中，使用全连接层和softmax分类器，得到分类结果；或者，用支持向量机对融合后的数据进行处理，得到分类结果。

28、可选实施例中，用支持向量机对融合后的数据进行处理，得到分类结果，包括：计算空间上间隔最大化的超平面，公式如下：

29、

30、其中，xi代表支持向量，ai代表支持向量的权重，y代表未分类的向量，b为偏值常量，k(xi,y)是核函数。

31、第二方面，本申请实施例提供了一种基云图分类装置，包括：

32、获取模块，其用于获取多模态数据，所述多模态数据包括图像数据和数值数据；

33、预处理模块，其用于对所述图像数据进行预处理，以去除所述图像数据中的噪声并进行数据增强；

34、提取模块，其用注意力引导的胶囊网络对预处理后的所述图像数据进行特征提取；

35、融合模块，其用于将所述胶囊网络提取的特征与所述数值数据进行融合；

36、分类模块，其用于对融合后的数据进行处理，得到分类结果。

37、第三方面，本申请实施例提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现上述任一项所述的方法。

38、第四方面，本申请实施例提供了一种电子设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现上述任一项所述的方法。

39、本申请实施例的基于多模态生成式对抗网络的基于多模态数据的云图分类方法中，用注意力机制对胶囊神经网络进行引导，最后将提取的特征与其他模态特征融合，解决了特征聚合过程中的确定性传播所导致的节点相似性破坏和节点对邻域依赖性高的问题,提高了云分类准确率。

技术特征：

1.一种基于多模态数据的云图分类方法，其特征在于，包括：

2.根据权利要求1所述的方法，其特征在于，对所述图像数据进行预处理包括：采用中值滤波法对所述图像数据进行降噪和增强。

3.根据权利要求2所述的方法，其特征在于，采用中值滤波法对所述图像数据进行降噪和增强，包括：

4.根据权利要求1所述的方法，其特征在于，所述注意力引导，包括：

5.根据权利要求1所述的方法，其特征在于，所述胶囊网络的输出胶囊由非线性压扁函数计算:

6.根据权利要求5所述的方法，其特征在于，胶囊j的总体输入sj是通过使用权重矩阵wij乘以上层胶囊i的输出ui来获得，公式如下：

7.根据权利要求6所述的方法，其特征在于，耦合系数通过如下公式得到：

8.根据权利要求7所述的方法，其特征在于，每胶囊的单个边际损失lk,k表示第k类是否存在，如下

9.根据权利要求1所述的方法，其特征在于，对融合后的数据进行处理，包括：使用全连接层和softmax分类器对融合后的数据进行处理，得到分类结果；或者，使用支持向量机对融合后的数据进行处理，得到分类结果。

10.一种电子设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现权利要求1-9中任一项所述的方法。

技术总结
本申请实施例公开了一种基于多模态数据的云图分类方法，包括：获取多模态数据，所述多模态数据包括图像数据和数值数据；对所述图像数据进行预处理，以去除所述图像数据中的噪声并进行数据增强；用注意力引导的胶囊网络对预处理后的所、述图像数据进行特征提取；将所述胶囊网络提取的特征与所述数值数据进行融合；对融合后的数据进行处理，得到分类结果。本申请实施例的方法能够提高分类的准确性。

技术研发人员：李宇航,曹如意,刘雨微,曹玲娟
受保护的技术使用者：北京恒智数科科技有限公司
技术研发日：
技术公布日：2024/1/14