基于卷积神经网络的鸡蛋胚胎分类方法与流程

文档序号:15236458发布日期:2018-08-24 05:29阅读:293来源:国知局

本发明涉及图像处理、通道加权、联合监督以及卷积神经网络,特别涉及胚胎分类方法。



背景技术:

目前在工程中,鸡胚的成活性检测与分类大多采用传统人工照蛋检测,通过人眼判断鸡蛋胚胎血管来检测鸡蛋胚胎的成活性,但人眼检活的方法易受主观因素干扰,并且存在视觉易疲劳,检测效率低等缺点,容易出现误检与漏检,难以满足现代胚胎检测与分类产业的高标准要求,因此,鸡蛋胚胎分类检测技术得到了广泛的研究。

利用机器视觉技术对鸡蛋胚胎进行成活性检测以及分类的研究比较多,机器视觉技术代替传统的人工检活,运用图像处理的具体算法对胚胎图像进行精细的数字化分析与处理,避免了传统人工检活的疲劳以及主观因素干扰等缺点,但是这种方法图像处理的过程太过繁琐且准确率不太高。

综上所述,目前迫切需要提出一种简洁且准确率高的鸡蛋胚胎分类方法。



技术实现要素:

有鉴于此,本发明的主要目的在于实现鸡蛋胚胎分类,要求简洁且准确率高。

为达到上述目的,按照本发明的第一个方面,提供了一种基于卷积神经网络的鸡蛋胚胎分类方法,该方法包括:

(1)采集9日鸡蛋胚胎图像并按照成活胚和死亡胚分为两类样本;

(2)对胚胎图像预处理,提取图像的roi区域并将图像大小归一化;

(3)使用结合通道加权和联合监督的cnn网络结构对目标集进行训练;

(4)利用训练好的模型对待测图像进行判别,验证算法的可行性。

所述步骤(2)进一步包括:

提取图像的roi区域,对提取的roi区域归一化处理,将图像归一化到227*227大小,以便于作为后续cnn网络的输入。

所述步骤(3)进一步包括:

采用centerloss与softmaxloss两种损失函数联合监督的方法,缩小类内差异,增大类间差异,使学习到的特征更具区分性与广义性;

centerloss与softmaxloss联合监督表达式如下所示:

λ为平衡两个损失函数的参数。如将λ设置为0,则相当于只使用softmaxloss损失函数。与contrastiveloss和tripletloss相比,在基于大规模数据集时,联合监督不需要面对庞大的样本对选择问题,仍然可以提高深度学习特征的判别性,而且centerloss与softmaxloss无需构造复杂的数据采样,训练数据的格式相同,训练比较方便;

联合监督可以使数据集在训练中学习到的深度特征更具判别性。一方面,如果只使用softmaxloss损失作为监督信号,则由此产生的深度学习特征将包含较大的类内变化。另一方面,如果只是通过centerloss来监督模型的训练,那么学习到的深度特征和类别中心将趋近于0(centerloss非常小)。因此,简单地使用两者中的任何一个都不能实现区分性特征学习。所以有必要结合二者共同监督cnn。针对9日胚胎数据集负样本类内差异大的特点,需要利用联合监督的优点,分离类间特征的同时对类内特征进行聚合,训练一个强大的cnn模型,以获得具有两个关键学习目标的深层特征,融合类间的差异和类内聚合性,优化训练过程,实现更高的准确率。

所述步骤(3)进一步包括:

传统的深度网络中的卷积层的输出并没有考虑对各通道的依赖性,而基于通道加权单元模块的处理,让网络有选择性的增强有用特征,使有用特征被重视,得到更充分的利用,并对无用特征进行抑制。在se模块中,主要通过压缩、激励和对通道特征的重标定三个步骤对特征进行重标定;

se模块在衡量各特征通道的依赖关系时,首先实现要灵活,其次是要学习通道间的非互斥关系,每个通道对结果的影响程度不一样,se模块是采用sigmoid激活函数的门限机制实现。为了增强泛化能力,门限机制中设置了两个全连接层,第一个全连接层将输入特征降维至原来的1/r,然后经过relu激活函数进行激活,在用一个全连接层升回原来的维度。用两个全连接层与直接用一个全连接层相比,增加了非线性信息的同时大大的减少了参数的计算量,减少了网络的参数负荷,在经过sigmoid激活函数后将权重归一化到0到1之间,最后加权到每个特征通道的原始特征上,完成对原始特征的重标定;

se构造非常简单,而且很容易应用到普通的深度卷积网络中,不需要引入新的层或者函数,通过对特征通道之间的依赖关系进行建模,以学习的方式对各个特征通道进行调整,在模型和计算复杂度上都表现出了良好的性能。

所述步骤(3)进一步包括:

由于9日胚胎负样本类内差异较大,正负样本类间差异较小,用深度网络学习稳定的特征难度较大。为了训练出一个良好的模型,使用结合通道加权和联合监督的cnn网络结构。该网络的基本网络结构包含基本的3个卷积层,2个最大池化层。输入图像为227×227,在第一个卷积层中,采用11×11的卷积核,步长为4。紧跟一个最大池化层,池化窗口为3,步长为2,对特征图进行降采样。然后是第二个卷积层,采用5×5的卷积核,步长为1,同时采取补边操作,可保持输入特征图的尺寸不变。下一个仍然是一个最大池化层,仍然采用池化窗口为3,步长为2。在此池化层的后面,我们将网络做了分支的操作,其中一条分支接一个输出为256维的全连接层。另一条分支接第三个卷积层,该卷积层采用3×3,步长为4的卷积核,并采取了补边操作。这条分支在卷积后同样接一个输出维度为256的全连接层。然后,我们将这两条分支的全连接层的输出进行加权求和,送到最后一个全连接层。分支加权的操作一方面增加了特征学习的多样性,同时可以有效减少梯度消隐的发生;

普通的基于softmaxloss损失函数的监督虽然可以很好的实现类间的特征分离,但是对于9日胚胎数据仍然不能达到很好的效果,实际中我们希望9日胚胎通过深度网络学习的特征不仅要具有分离性,而且要有区别性。因此采用softmaxloss与centerloss联合监督的方式,融合类间的差异和类内聚合性,使深度特征的学习更具判别性。同时,为了更好的对特征进行选择性学习,在每个卷积层后面加入se模块,对各通道动态的非线性的依赖性进行建模,通过学习的方式区分不同特征的重要性,从而增强对有用特征的学习并减弱对没用特征的学习,以此改善学习过程提升网络能力。

所述步骤(4)进一步包括:

对于本发明提出的sj-cnn,结合了通道加权和联合监督的优点,既利用了se模块在训练中对深度网络特征通道的筛选,通过特征重标定的策略抑制了无用特征,又利用联合监督聚合类内特征,解决数据集差异性的难点,准确率达到98.8%;

实验证明,通道加权和联合监督的联合应用,可以使深度网络对特征学习的能力更加具有选择性,二者同时对网络进行优化,大大提升了网络的学习能力,学习到更加具有判别力的良好特征,从而使准确率得到大幅度提升。

与传统方案相比,本发明方法避免了复杂的图像处理过程,不会受到图像血管分割不好的影响,而且不会受噪声的剧烈影响,对新样本的适应性较强,可以实现高精度的分类。

附图说明

图1示出了按照本发明的结合通道加权和联合监督的卷积神经网络9日胚胎分类方法的流程图。

图2示出了按照本发明的步骤(3)的se模块示意图。

图3示出了按照本发明的步骤(3)的sj-cnn网络结构图。

具体实施方式

下面结合具体实施方式对本发明作进一步详细地描述。

图1给出了按照本发明的结合通道加权和联合监督的卷积神经网络9日胚胎分类方法的流程图。如图1所示,按照本发明的结合通道加权和联合监督的卷积神经网络9日胚胎分类方法方法包括:

(1)采集9日鸡蛋胚胎图像并按照成活胚和死亡胚分为两类样本;

(2)对胚胎图像预处理,提取图像的roi区域并将图像大小归一化;

(3)使用结合通道加权和联合监督的cnn网络结构对目标集进行训练;

(4)利用训练好的模型对待测图像进行判别,验证算法的可行性。

所述步骤(2)进一步包括:

提取图像的roi区域,对提取的roi区域归一化处理,将图像归一化到227*227大小,以便于作为后续cnn网络的输入。

所述步骤(3)采用centerloss与softmaxloss两种损失函数联合监督的方法进一步包括:

采用centerloss与softmaxloss两种损失函数联合监督的方法,缩小类内差异,增大类间差异,使学习到的特征更具区分性与广义性;

centerloss与softmaxloss联合监督表达式如下所示:

λ为平衡两个损失函数的参数。如将λ设置为0,则相当于只使用softmaxloss损失函数。与contrastiveloss和tripletloss相比,在基于大规模数据集时,联合监督不需要面对庞大的样本对选择问题,仍然可以提高深度学习特征的判别性,而且centerloss与softmaxloss无需构造复杂的数据采样,训练数据的格式相同,训练比较方便;

联合监督可以使数据集在训练中学习到的深度特征更具判别性。一方面,如果只使用softmaxloss损失作为监督信号,则由此产生的深度学习特征将包含较大的类内变化。另一方面,如果只是通过centerloss来监督模型的训练,那么学习到的深度特征和类别中心将趋近于0(centerloss非常小)。因此,简单地使用两者中的任何一个都不能实现区分性特征学习。所以有必要结合二者共同监督cnn。针对9日胚胎数据集负样本类内差异大的特点,需要利用联合监督的优点,分离类间特征的同时对类内特征进行聚合,训练一个强大的cnn模型,以获得具有两个关键学习目标的深层特征,融合类间的差异和类内聚合性,优化训练过程,实现更高的准确率。

图2示出了按照本发明的步骤(3)的se模块的示例图,使用se模块处理卷积层输出数据的方法进一步包括:

传统的深度网络中的卷积层的输出并没有考虑对各通道的依赖性,而基于通道加权单元模块的处理,让网络有选择性的增强有用特征,使有用特征被重视,得到更充分的利用,并对无用特征进行抑制。在se模块中,主要通过压缩、激励和对通道特征的重标定三个步骤对特征进行重标定;

se模块在衡量各特征通道的依赖关系时,首先实现要灵活,其次是要学习通道间的非互斥关系,每个通道对结果的影响程度不一样,se模块是采用sigmoid激活函数的门限机制实现。为了增强泛化能力,门限机制中设置了两个全连接层,第一个全连接层将输入特征降维至原来的1/r,然后经过relu激活函数进行激活,在用一个全连接层升回原来的维度。用两个全连接层与直接用一个全连接层相比,增加了非线性信息的同时大大的减少了参数的计算量,减少了网络的参数负荷,在经过sigmoid激活函数后将权重归一化到0到1之间,最后加权到每个特征通道的原始特征上,完成对原始特征的重标定;

se构造非常简单,而且很容易应用到普通的深度卷积网络中,不需要引入新的层或者函数,通过对特征通道之间的依赖关系进行建模,以学习的方式对各个特征通道进行调整,在模型和计算复杂度上都表现出了良好的性能。

图3示出了按照本发明的步骤(3)的sj-cnn网络结构图,使用该网络训练过程进一步包括:

由于9日胚胎负样本类内差异较大,正负样本类间差异较小,用深度网络学习稳定的特征难度较大。为了训练出一个良好的模型,使用结合通道加权和联合监督的cnn网络结构。该网络的基本网络结构包含基本的3个卷积层,2个最大池化层。输入图像为227×227,在第一个卷积层中,采用11×11的卷积核,步长为4。紧跟一个最大池化层,池化窗口为3,步长为2,对特征图进行降采样。然后是第二个卷积层,采用5×5的卷积核,步长为1,同时采取补边操作,可保持输入特征图的尺寸不变。下一个仍然是一个最大池化层,仍然采用池化窗口为3,步长为2。在此池化层的后面,我们将网络做了分支的操作,其中一条分支接一个输出为256维的全连接层。另一条分支接第三个卷积层,该卷积层采用3×3,步长为4的卷积核,并采取了补边操作。这条分支在卷积后同样接一个输出维度为256的全连接层。然后,我们将这两条分支的全连接层的输出进行加权求和,送到最后一个全连接层。分支加权的操作一方面增加了特征学习的多样性,同时可以有效减少梯度消隐的发生;

普通的基于softmaxloss损失函数的监督虽然可以很好的实现类间的特征分离,但是对于9日胚胎数据仍然不能达到很好的效果,实际中我们希望9日胚胎通过深度网络学习的特征不仅要具有分离性,而且要有区别性。因此采用softmaxloss与centerloss联合监督的方式,融合类间的差异和类内聚合性,使深度特征的学习更具判别性。同时,为了更好的对特征进行选择性学习,在每个卷积层后面加入se模块,对各通道动态的非线性的依赖性进行建模,通过学习的方式区分不同特征的重要性,从而增强对有用特征的学习并减弱对没用特征的学习,以此改善学习过程提升网络能力。

所述步骤(4)进一步包括:

对于本发明提出的sj-cnn,结合了通道加权和联合监督的优点,既利用了se模块在训练中对深度网络特征通道的筛选,通过特征重标定的策略抑制了无用特征,又利用联合监督聚合类内特征,解决数据集差异性的难点,准确率达到98.8%;

使用结合通道加权和联合监督的卷积神经网络训练方案,解决了样本特征不稳定,负样本类内差异大的问题。此方案对网络进行优化,大大提升了网络的学习能力,学习到更加具有判别力的良好特征,准确率达到98.8%。与传统方案相比,本文方法避免了复杂的图像处理过程,不会受到图像血管分割不好的影响,而且不会受噪声的剧烈影响,对新样本的适应性较强,可以实现高精度的分类,可以满足鸡蛋胚胎成活性检测与分类的工程要求。

以上所述,仅为本发明的较佳实施例而已,并非用于限定本发明的保护范围,应当理解,本发明并不限于这里所描述的实现方案,这些实现方案描述的目的在于帮助本领域中的技术人员实践本发明。任何本领域中的技术人员很容易在不脱离本发明精神和范围的情况下进行进一步的改进和完善,因此本发明只受到本发明权利要求的内容和范围的限制,其意图涵盖所有包括在由所附权利要求所限定的本发明精神和范围内的备选方案和等同方案。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1