基于特定参数分布生成的小样本图像分类方法及系统与流程

1.本发明涉及小样本图像分类领域，具体涉及一种基于特定参数分布生成的小样本图像分类方法及系统。


背景技术：

2.图像分类神经网络的训练一直具有高度的复杂性，这是由于神经网络需要通多对大量的数据和进行重复的迭代训练才能从数据中学习“知识”。但是，在神经网络小样本学习任务中，没有足够的样本可供给神经网络进行学习。常见的一种方法是通过将其他训练充分网络的知识迁移至小样本学习神经网络来弥补训练样本过少所带来的训练不充分问题。这种将知识从一个网络迁移至另一个网络的方法被称为迁移学习。近年来，越来越多的小样本学习开始和迁移学习相结合。迁移学习可以将在大数据集上训练充分的神经网络中的知识迁移到新网络中，用于处理新的任务。主流的神经网络迁移学习方法有参数直接迁移和参数分布迁移，前者直接将训练后的网络参数作为当前任务网络参数的一部分，而后者则以训练后的网络参数的分布作为正则化参数来指导当前任务网络的训练。
3.但目前主流的神经网络迁移学习方法根据现有数据直接网络模型训练，其分类准确度不高。


技术实现要素：

4.本发明的目的是提供一种基于特定参数分布生成的小样本图像分类方法及系统，可以有效提高小样本图像分类方法的结果准确性。
5.本发明采取如下技术方案实现上述目的，基于特定参数分布生成的小样本图像分类方法，包括：
6.步骤1、构建小样本图像分类神经网络的总体架构，所述总体架构包括分布学习网络的架构、参数调节网络的架构以及小样本图像分类神经网络的架构；
7.步骤2、获取多种卷积神经网络的参数作为参数训练集；
8.步骤3、使用参数训练集训练分布学习网络；
9.步骤4、通过训练后的分布学习网络生成小样本图像分类神经网络的初始参数；
10.步骤5、在参数调节网络的调节下，使用目标数据集来训练小样本图像分类神经网络，所述目标数据集为待分类图像集合；
11.步骤6、输入待分类图像，通过小样本图像分类神经网络提取其特征，并判断所属类别。
12.进一步的是，步骤1中，所述参数调节网络与分布学习网络具有相同的结构和参数。
13.进一步的是，步骤2中，多种卷积神经网络包括vgg、densnet、alexnet以及resnet卷积神经网络。
14.进一步的是，步骤3中，所述分布学习网络通过对抗生成网络来构建组成，分布学
习网络的优化目标函数为：
15.g和d分别表示生成器和判别器，x是训练数据集的数据，z是从模型中采样得到的数据,p
data
表示真实数据的分布,pz表示模拟数据的分布，表示x在p
data
上的期望。
16.进一步的是，对优化目标函数按照先优化d，再优化g的策略，将优化目标函数分解如下：
[0017][0018][0019][0020]
进一步的是，步骤4中，生成初始参数的具体方法包括：
[0021]
随机生成符合小样本学习网络所需卷积核个数为n个7
×
7的随机高斯噪声图像，然后将所述高斯噪声图像输入至分布学习网络，生成小样本图像分类神经网络的初始参数。
[0022]
进一步的是，步骤5中，使用目标数据集来训练小样本图像分类神经网络的具体方法包括：
[0023]
使用目标数据集对小样本图像分类神经网络进行调整性训练，得到新的参数；使用参数调节网络对新的参数进行调整；然后使用调整后的参数替换小样本图像分类神经网络中的对应原参数，再通过目标数据集对小样本图像分类神经网络进行调整性训练，直至小样本图像分类神经网络在目标数据集训练的损失函数达到设置条件。
[0024]
进一步的是，步骤6中，通过小样本图像分类神经网络提取其特征，并判断所属类别的具体方法包括：
[0025]
使用小样本图像分类神经网络对输入的图像进行特征提取，特征为小样本图像分类神经网络的卷积核层层卷积后得到的特征图，对特征图进行池化处理使其维度降低到设置值后，再由最后的全连接层对其进行分类，并判断所属类别。
[0026]
基于特定参数分布生成的小样本图像分类系统，应用于上述所述的基于特定参数分布生成的小样本图像分类方法，包括：
[0027]
参数生成模块，用于构建小样本图像分类神经网络的总体架构，所述总体架构包括分布学习网络的架构、参数调节网络的架构以及小样本图像分类神经网络的架构，将多种卷积神经网络的参数作为参数训练集使用参数训练集训练分布学习网络，通过训练后的分布学习网络生成小样本图像分类神经网络的初始参数；
[0028]
网络训练模块，用于在参数调节网络的调节下，使用目标数据集来训练小样本图像分类神经网络，所述目标数据集为待分类图像集合；
[0029]
在线分类模块，用于输入待分类图像，通过小样本图像分类神经网络提取其特征，并判断所属类别。
[0030]
本发明的有益效果为：构建了包含分布学习、参数调节和小样本图像分类网络的网络框架，可以直接对用于小样本图像分类的网络进行参数生成，而不像传统方法那样根据现有数据直接训练网络。这样保证了网络框架的合理性。并且只需要少量标注样本就能
进行高准确度的分类，本发明的方法成本极低，易于实施，可以有效提高小样本图像分类方法的结果准确性。
附图说明
[0031]
图1是本发明基于特定参数分布生成的小样本图像分类的方法流程图。
[0032]
图2是本发明基于特定参数分布生成的小样本图像分类系统结构框图。
[0033]
图3是本发明总体架构示意图。
[0034]
附图中，101表示迁移源网络参数，102表示初始参数，103表示小样本学习网络，104表示小样本训练数据，a为参数生成方法流程，b为网络训练的方法流程，c为在线分类的方法流程。
具体实施方式
[0035]
下面结合附图和实施例对本发明进行更加详细的描述。
[0036]
图1为本发明基于特定参数分布生成的小样本图像分类的方法流程图，包括：参数生成方法流程a，网络训练方法流程b以及在线分类的方法流程c。具体如下：
[0037]
步骤1、构建小样本图像分类神经网络的总体架构；
[0038]
步骤2、获取多种卷积神经网络的参数作为参数训练集；
[0039]
步骤3、使用参数训练集训练分布学习网络；
[0040]
步骤4、通过训练后的分布学习网络生成小样本图像分类神经网络的初始参数；
[0041]
步骤5、构建参数调节网络，所述参数调节网络和分布学习网络具有相同的参数；
[0042]
步骤6、在参数调节网络的调节下，使用目标数据集来训练小样本图像分类神经网络，所述目标数据集为待分类图像集合；
[0043]
步骤7、输入待分类图像，通过小样本图像分类神经网络提取其特征，并判断所属类别。
[0044]
其中步骤1-4的内容为参数生成方法流程，步骤5-6的内容为网络训练方法流程，步骤7的内容为在线分类的方法流程。
[0045]
步骤1中，总体架构包括：分布学习网络的架构、参数调节网络的架构以及小样本图像分类神经网络的架构。
[0046]
步骤2中，多种卷积神经网络包括vgg、densnet、alexnet以及resnet卷积神经网络。
[0047]
步骤3中，所述分布学习网络通过对抗生成网络来构建组成，分布学习网络的优化目标函数为：
[0048]
g和d分别表示生成器和判别器，x是训练数据集的数据，z是从模型中采样得到的数据,p
data
表示真实数据的分布,pz表示模拟数据的分布，表示x在p
data
上的期望。
[0049]
对优化目标函数按照先优化d，再优化g的策略，将优化目标函数分解如下：
[0050][0051]
[0052][0053]
步骤4中，生成初始参数的具体方法包括：
[0054]
随机生成符合小样本学习网络所需卷积核个数为n个7
×
7的随机高斯噪声图像，然后将所述高斯噪声图像输入至分布学习网络，生成小样本图像分类神经网络的初始参数。
[0055]
步骤6中，使用目标数据集来训练小样本图像分类神经网络的具体方法包括：
[0056]
使用目标数据集对小样本图像分类神经网络进行调整性训练，得到新的参数；使用参数调节网络对新的参数进行调整；然后使用调整后的参数替换小样本图像分类神经网络中的对应原参数，再通过目标数据集对小样本图像分类神经网络进行调整性训练，直至小样本图像分类神经网络在目标数据集训练的损失函数达到设置条件。
[0057]
步骤7中，通过小样本图像分类神经网络提取其特征，并判断所属类别的具体方法包括：
[0058]
使用小样本图像分类神经网络对输入的图像进行特征提取，特征为小样本图像分类神经网络的卷积核层层卷积后得到的特征图，对特征图进行池化处理使其维度降低到设置值后，再由最后的全连接层对其进行分类，并判断所属类别。
[0059]
图2是本发明基于特定参数分布生成的小样本图像分类系统结构框图，包括：
[0060]
参数生成模块，用于构建小样本图像分类神经网络的总体架构，将多种卷积神经网络的参数作为参数训练集使用参数训练集训练分布学习网络，通过训练后的分布学习网络生成小样本图像分类神经网络的初始参数；
[0061]
网络训练模块，用于构建参数调节网络，所述参数调节网络和分布学习网络具有相同的参数，在参数调节网络的调节下，使用目标数据集来训练小样本图像分类神经网络，所述目标数据集为待分类图像集合；
[0062]
在线分类模块，用于输入待分类图像，通过小样本图像分类神经网络提取其特征，并判断所属类别。
[0063]
从卷积神经网络获取对应参数时，需要对卷积核进行归一化操作，具体操作如下：
[0064]
选取尺寸最大的卷积核为基础模板，在本发明中，选取的卷积核尺度为7
×
7；然后将其他尺寸的卷积核扩充至统一尺寸，针对尺寸小于7
×
7四分之一的卷积核，如1
×
1、2
×
2和3
×
3，先将其按整倍扩大，不足的尺寸再用0补充；其他尺寸的卷积核直接使用0补充至7
×
7；最后将所有的卷积核求平均值和方差，并用其归一化处理。
[0065]
图3是本发明总体架构示意图，包括分布学习网络的架构、参数调节网络的架构以及小样本图像分类神经网络103的架构，使用迁移源网络参数101对分布学习网络进行训练，并生成初始参数102；在参数调节网络的调节下，使用小样本训练数据104来训练小样本图像分类神经网络，小样本训练数据为待分类图像集合。训练完成后，输入待分类图像，通过小样本图像分类神经网络提取其特征，并判断所属类别。
[0066]
应当理解，本发明所描述的具体实施例仅仅是本发明一部分实施例，用于解释本发明，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。