一种基于卷积神经网络的非监督图像识别方法
【专利说明】一种基于卷积神经网络的非监督图像识别方法
[技术领域]
[0001] 本发明涉及模式识别、计算机视觉，特别涉及基于卷积神经网络的非监督图像识 别方法。
[【背景技术】]
[0002] 卷积神经网络对于图像处理具有的平移和尺度不变性，因此广泛应用于图像特征 提取。传统的卷积神经网络多为有监督网络，不适用于非监督图像的识别。因此我们提出 了基于卷积神经网络的非监督图像识别方法，可以利用图像本身作为训练卷积网络的监督 信息，从而实现不利用图像分类标签的非监督识别。
[0003]为了实现更佳的图像识别结果，我们在该卷积网络中加入类内约束，加入的类内 约束可以让样本在特征空间高度可分，实现非监督图像识别功能。该方法可以获得优于传 统方法的非监督图像识别效果。
[
【发明内容】
]
[0004]为了解决现有技术存在的问题，本发明的目的是提供一种基于卷积神经网络的非 监督图像识别方法，如图1所示，包括以下步骤：
[0005]步骤S1，建立带有5层卷积层和3层全连接层的卷积神经网络，其中最后一层全连 接层与输入图像维度相同，该网络所有权重均随机初始化。
[0006]步骤S2,在卷积神经网络的特征层（第一个全连接层）加入类内约束函数，使同类 样本靠近其聚类中心。加入的类内约束与样本重建函数一起构成卷积网络的目标函数。
[0007]步骤S3,将所有样本随机分组，并分别通过卷积神经网络映射到特征空间，然后计 算所有组的特征表达的平均值，作为该组的聚类中心。
[0008] 步骤S4,利用S2中的目标函数训练卷积神经网络，更新网络权重，进行非监督图 像识别网络的训练。
[0009] 步骤S5,利用S4得到的更新后的网络，计算所有样本的特征表达，与之前的聚类 中心进行比较，将样本分配至距离最近的聚类中心。
[0010] 步骤S6,利用S5中得到特征表达按新的分组计算每组的特征表达的均值作为新 的聚类中心。
[0011] 步骤S7,利用S6中更新的聚类中心代替S2中目标函数的聚类中心。
[0012] 步骤S8,转到S4并循环，直到达到训练次数或者非监督图像识别网络收敛。
[0013]根据本发明的方法，可以利用卷积神经网络实现图像的重建，并在高度可分的特 征层对样本进行聚类，在特征空间加入的类内约束，使得样本在特征空间的分布更加紧致。 该方法不仅利用了卷积神经网络所具有的的尺度和平移不变性，并且在目标函数中加入了 针对非监督图像识别问题的类内约束，适合于大多数非监督图像识别问题。
[【附图说明】]
[0014] 图1是基于卷积神经网络的非监督图像识别方法的流程图。
[【具体实施方式】]
[0015] 以下结合附图详细说明本发明技术方案中所涉及的各个细节问题。应当指出的 是，所描述的实施例仅旨在便于理解，对本发明不起任何限定作用。图1是本发明的流程 图，如图1所示，所述方法包括以下步骤：
[0016] 步骤S1，建立带有5层卷积层和3层全连接层的卷积神经网络，其中最后一层全连 接层与输入图像维度相同，该网络所有权重均随机初始化。其中，卷积层与全连接层的激活 函数均为ReLU函数。每个卷积层的步长、卷积子大小、卷积子的个数均可以自由设置。
[0017] 步骤S2,在卷积神经网络的特征层（第一个全连接层）加入类内约束函数，使同类 样本靠近其聚类中心。加入的类内约束与样本重建函数一起构成卷积网络的目标函数。这 样目标函数具体可以表示为：
【主权项】
1. 一种基于卷积神经网络的非监督图像识别方法，主要包括步骤： 步骤Sl，建立带有5层卷积层和3层全连接层的卷积神经网络，其中最后一层全连接层 与输入图像维度相同，该网络所有权重均随机初始化。 步骤S2,在卷积神经网络的特征层（第一个全连接层）加入类内约束函数，使同类样本 靠近其聚类中心。加入的类内约束与样本重建函数一起构成卷积网络的目标函数。 步骤S3,将所有样本随机分组，并分别通过卷积神经网络映射到特征空间，然后计算所 有组的特征表达的平均值，作为该组的聚类中心。 步骤S4,利用S2中的目标函数训练卷积神经网络，更新网络权重，进行非监督图像识 别网络的训练。 步骤S5,利用S4得到的更新后的网络，计算所有样本的特征表达，与之前的聚类中心 进行比较，将样本分配至距离最近的聚类中心。 步骤S6,利用S5中得到特征表达按新的分组计算每组的特征表达的均值作为新的聚 类中心。 步骤S7,利用S6中更新的聚类中心代替S2中目标函数的聚类中心。 步骤S8,转到S4并循环，直到达到训练次数或者非监督图像识别网络收敛。
2. 根据权利要求1所述的方法，利用卷积神经网络进行非监督图像识别，该网络输入 与输出维度相等，从而利用重建原图像作为非监督训练的目标函数。
3. 根据权利要求1所述的方法，在卷积神经网络的目标函数中加入类内约束，以得到 更好的非监督图像识别结果。
【专利摘要】本发明公开一种基于卷积神经网络的非监督图像识别方法，主要用于非监督学习的图像识别等领域。此方法包括卷积神经网络初始化，训练非监督图像识别网络两个部分，主要涉及到非监督图像识别过程。首先，利用带5个卷积层和3个全连接层的卷积神经网络形成非监督识别网络，并对数据随机分组得到初始的图像聚类中心；然后，在该卷积网络中加入类内约束，利用加入类内约束的目标函数训练网络以更新网络权重；最后，利用更新过的网络得到对应图像的特征进行聚类，更新聚类分组和聚类中心，并利用更新之后的分组继续训练网络。该方法提出的非监督的卷积神经网络具有强大的图像特征提取的功能，对于输入的图像具有较强的鲁棒能力，其非监督训练通过重建图像本身实现。该网络加入的类内约束则可以让样本在特征空间高度可分，实现更好的非监督图像识别功能。该方法可以获得优于传统方法的非监督图像识别效果。
【IPC分类】G06N3-08, G06K9-62
【公开号】CN104850864
【申请号】CN201510293495
【发明人】谭轼, 武艳娇, 黄利今
【申请人】深圳英智源智能系统有限公司
【公开日】2015年8月19日
【申请日】2015年6月1日