一种基于dropout算法的图像分类方法及相关装置与流程

文档序号:16211555发布日期:2018-12-08 07:48阅读:269来源:国知局
一种基于dropout算法的图像分类方法及相关装置与流程

本申请涉及计算机技术领域,特别涉及一种基于dropout算法的图像分类方法、图像分类装置、服务器以及计算机可读存储介质。

背景技术

在机器学习领域,通常训练一个大型的卷积神经网络时,如果训练数据很少,那么将很容易导致在测试集上所得的结果过拟合。据此,现有技术提供一种dropout算法,通过阻止某些特征的协同作用来缓解,即在每次训练的时候,让一半的特征检测器停止工作,这样可以提高网络的泛化能力。典型的卷积神经网络其训练流程是将输入通过网络进行正向传播,然后将误差进行反向传播。dropout算法就是针对这一过程之中,随机地删除隐藏层的部分单元,以及解决训练大型卷积神经网络时易出现的过拟合问题。

由于需要随机的将神经网络中的神经元停止工作,因此现有技术中在训练神经网络时,一般采用基于伯努利二项分布的dropout方法。即假设每一个神经元输出相对独立,每个输出都服从二项伯努利分布。训练时每个神经元以(1-p)的概率被保留,被丢弃的概率为p。但是,现有技术中使用伯努利分布,其分布稳定,概率稳定,均成正态分布化表示。但是,容易导致随机失活,随机方式单一,不利于dropout算法在不同应用环境中进行相应的扩展,导致dropout算法性能下降,最终无法得到符合要求的图像分类结果。

因此,如何提高dropout算法的在图像分类过程中的性能是本领域技术人员关注的重点问题。



技术实现要素:

本申请的目的是提供一种基于dropout算法的图像分类方法、图像分类装置、服务器以及计算机可读存储介质,通过随机程度更高的混沌系统获得混沌矩阵,提高了dropout算法中关闭神经单元的随机性,进而提高神经网络分类的准确性,得到更加可靠的图像分类结果。

为解决上述技术问题,本申请提供一种基于dropout算法的图像分类方法,其特征在于,包括:

对混沌系统状态方程进行变换处理得到混沌系统差分方程;

将预设参数带入所述混沌系统差分方程进行迭代计算处理得到混沌矩阵,将所述混沌矩阵进行规范化处理得到规范化混沌矩阵;

将所述规范化混沌矩阵部署到标准卷积神经网络中,得到dropout算法卷积神经网络;

根据图像训练集对所述dropout算法卷积神经网络进行训练,得到卷积神经网络分类模型;其中,所述图像训练集为对图像集进行预处理得到的;

根据所述卷积神经网络分类模型对待分类图像进行分类,得到分类结果。

可选的,对混沌系统状态方程进行变换处理得到混沌系统差分方程,包括:

根据euler算法对lorenz混沌系统状态方程进行变换处理,得到所述混沌系统差分方程。

可选的,对混沌系统状态方程进行变换处理得到混沌系统差分方程,包括:

根据euler算法对chen混沌系统状态方程进行变换处理,得到所述混沌系统差分方程。

可选的,对混沌系统状态方程进行变换处理得到混沌系统差分方程,包括:

根据euler算法对lu混沌系统状态方程进行变换处理,得到所述混沌系统差分方程。

可选的,将预设参数带入所述混沌系统差分方程进行迭代计算处理得到混沌矩阵,将所述混沌矩阵进行规范化处理得到规范化混沌矩阵,包括:

将预设参数带入所述混沌系统差分方程进行迭代计算得到混沌序列;

将所述混沌序列进行矩阵形式变换得到所述混沌矩阵;

通过线性变换规则对所述混沌矩阵进行最大最小规范化处理,得到所述规范化混沌矩阵。

本申请还提供一种基于dropout算法的图像分类装置,包括:

混沌系统差分方程获取模块,用于对混沌系统状态方程进行变换处理得到混沌系统差分方程;

混沌矩阵获取模块,用于将预设参数带入所述混沌系统差分方程进行迭代计算处理得到混沌矩阵,将所述混沌矩阵进行规范化处理得到规范化混沌矩阵;

目标神经网络获取模块,用于将所述规范化混沌矩阵部署到标准卷积神经网络中,得到dropout算法卷积神经网络;

目标神经网络训练模块,用于采用图像训练集对所述dropout算法卷积神经网络进行训练,得到卷积神经网络分类模型;其中,所述图像训练集为对图像集进行预处理得到的;

图像分类模块,用于根据所述卷积神经网络分类模型对待分类图像进行分类,得到分类结果。

可选的,所述混沌系统差分方程获取模块,包括:

lorenz混沌系统处理单元,根据euler算法对lorenz混沌系统状态方程进行变换处理,得到所述混沌系统差分方程;

或chen混沌系统处理单元,根据euler算法对chen混沌系统状态方程进行变换处理,得到所述混沌系统差分方程;

或lu混沌系统处理单元,根据euler算法对lu混沌系统状态方程进行变换处理,得到所述混沌系统差分方程。

可选的,所述混沌矩阵获取模块包括:

混沌序列计算单元,用于将预设参数带入所述混沌系统差分方程进行迭代计算得到混沌序列;

序列变换单元,用于将所述混沌序列进行矩阵形式变换得到所述混沌矩阵;

规范化处理单元,用于通过线性变换规则对所述混沌矩阵进行最大最小规范化处理,得到所述规范化混沌矩阵。

本申请还提供一种服务器,包括:

存储器,用于存储计算机程序;

处理器,用于执行所述计算机程序时实现如上所述的图像分类方法的步骤。

本申请还提供一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如上所述的图像分类方法的步骤。

本申请所提供的一种基于dropout算法的图像分类方法,包括:对混沌系统状态方程进行变换处理得到混沌系统差分方程;将预设参数带入所述混沌系统差分方程进行迭代计算处理得到混沌矩阵,将所述混沌矩阵进行规范化处理得到规范化混沌矩阵;将所述规范化混沌矩阵部署到标准卷积神经网络中,得到dropout算法卷积神经网络;根据图像训练集对所述dropout算法卷积神经网络进行训练,得到卷积神经网络分类模型;其中,所述图像训练集为对图像集进行预处理得到的;根据所述卷积神经网络分类模型对待分类图像进行分类,得到分类结果。

通过混沌系统得到基于混沌系统的混沌矩阵,使用该混沌矩阵对标准卷积神经网络实现dropout中的随机关机卷积神经单元,得到dropout算法卷积神经网络,也就是基于dropout算法的卷积神经网络,提高矩阵的随机性,进而提高神经网络预测的准确性,并且可以选择不同的参数得到不同的混沌矩阵,以适应不同的训练需求,通过混沌系统部署的卷积神经网络,可以得到更加可靠的图像分类结果,提高图像分类的准确率。

本申请还提供一种基于dropout算法的图像分类装置、服务器以及计算机可读存储介质,具有上述有益效果,在此不做赘述。

附图说明

为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。

图1为本申请实施例所提供的一种基于dropout算法的图像分类方法的流程图;

图2为本申请实施例所提供的图像分类方法的混沌矩阵获取的流程图;

图3为本申请实施例所提供的一种基于dropout算法的图像分类装置的结构示意图。

具体实施方式

本申请的核心是提供一种基于dropout算法的图像分类方法、图像分类装置、服务器以及计算机可读存储介质,通过随机程度更高的混沌系统获得混沌矩阵,提高了dropout算法中关闭神经单元的随机性,进而提高神经网络分类的准确性。

为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。

现有技术中,通常使用努伯利的随机分布生成的随机矩阵,通过该随机矩阵对标准的卷积神经网络实现dropout算法。但是现有技术中,通过努伯利分布,其中随机分布方式太单一,得到的随机程度不高。在实际训练神经网络的过程中,该算法会导致分类结果不稳定,可扩展性较低等问题。

因此,本实施例提供一种基于dropout算法的图像分类方法,通过混沌系统得到基于混沌系统的混沌矩阵,使用该混沌矩阵对标准卷积神经网络实现dropout中的随机关机卷积神经单元,得到dropout算法卷积神经网络,也就是基于dropout算法的卷积神经网络,提高矩阵的随机性,进而提高神经网络预测的准确性,并且可以选择不同的参数得到不同的混沌矩阵,以适应不同的训练需求。通过混沌系统部署的卷积神经网络,可以得到更加可靠的图像分类结果,提高图像分类的准确率。

具体的,请参考图1,图1为本申请实施例所提供的一种基于dropout算法的图像分类方法的流程图。

该方法可以包括:

s101,对混沌系统状态方程进行变换处理得到混沌系统差分方程;

本步骤旨在对混沌系统的状态方程进行变换处理得到差分方程。

其中,混沌系统有非常多的种类,可以是lorenz混沌系统,也可以是chen混沌系统,还可以是lu混沌系统,亦可以根据实际的应用情况选择不同特征的混沌系统,在此不做具体限定。

其中,得到混沌系统后就是将混沌系统的状态方程变换为差分方程,具体的状态方程转换为差分方程的方法可以采用现有技术中提供的任意一种变换方法,还可以根据euler算法中的将状态方程整理成标准的差分方程形式。

因此,对于本步骤可选的有以下三种方式:

根据euler算法对lorenz混沌系统状态方程进行变换处理,得到混沌系统差分方程;

根据euler算法对chen混沌系统状态方程进行变换处理,得到混沌系统差分方程;

根据euler算法对lu混沌系统状态方程进行变换处理,得到混沌系统差分方程。

s102,将预设参数带入混沌系统差分方程进行迭代计算处理得到混沌矩阵,将混沌矩阵进行规范化处理得到规范化混沌矩阵;

在步骤s101的基础上,本步骤旨在将预设参数带入到差分方程中,得到混沌序列矩阵,进而进行规范化处理得到规范化混沌矩阵。

其中,预设参数主要是系统参数、系统初始值以及计算迭代的次数。用于控制混沌系统差分方程的计算得到什么样的混沌矩阵。

得到的混沌矩阵,其中数据的分布是随机的,也就是不在0,1区间内,而没有办法应用到对神经单元的通断中,因此需要对混沌矩阵进行规范化处理,将混沌矩阵映射在0,1区间内,进而得到规范化混沌矩阵。

s103,将规范化混沌矩阵部署到标准卷积神经网络中,得到dropout算法卷积神经网络。

在步骤s102的基础上,本步骤旨在将得到的规范化混沌矩阵部署在标准卷积神经网络中,得到目标神经网络。

其中,将规范化混沌矩阵部署到标准卷积神经网络的方法,由于本实施例只是将矩阵的获取方法进行改进,其他部分可以参考现有技术,因此可以参考现有技术提供的任意一种部署方法,进而得到dropout算法卷积神经网络。

s104,根据图像训练集对dropout算法卷积神经网络进行训练,得到卷积神经网络分类模型;其中,图像训练集为对图像集进行预处理得到的;

在步骤s103得到dropout算法卷积神经网络的基础上,本步骤旨在根据图像训练集对dropout算法卷积神经网络进行训练,得到相应的分类模型,也就是卷积神经网络分类模型。

其中,对dropout算法卷积神经网络进行训练的方法可以采用现有技术提供的任意一种训练方法,在此不做限定。

s105,根据卷积神经网络分类模型对待分类图像进行分类,得到分类结果。

在步骤s104得到分类模型的基础上,本步骤旨在利用该卷积神经网络分类模型对待分类图像进行分类,得到分类结果。

其中,由于通过混沌系统部署的卷积神经网络,可以得到更加可靠的图像分类结果,提高图像分类的准确率。

综上,通过随机程度更高的混沌系统获得混沌矩阵,提高了dropout算法中关闭神经单元的随机性,进而提高神经网络分类的准确性,提高图像分类的准确率。同时,可以通过调整预设参数,选择不同的混沌映射来适应不同的训练需求。

基于上一实施例,本实施例主要是对上一实施例中的如何得到规范化混沌矩阵做一个具体说明,其他部分可以参考上一实施例,在此不做赘述。

具体的,请参考图2,图2为本申请实施例所提供的图像分类方法的混沌矩阵获取的流程图。

可以包括:

s201,将预设参数带入混沌系统差分方程进行迭代计算得到混沌序列;

一般的,将预设参数带入差分方程进行迭代计算得到的是混沌序列。本步骤就是将预设参数带入进行迭代计算得到混沌序列。

s202,将混沌序列进行矩阵形式变换得到混沌矩阵;

在步骤s201的基础上,本步骤旨在将混沌序列变换成混沌矩阵的形式。

s203,通过线性变换规则对混沌矩阵进行最大最小规范化处理,得到规范化混沌矩阵。

在步骤s202的基础上,本步骤旨在通过线性变换的规则对混沌矩阵进行最大最小规范化处理,得到规范化混沌矩阵。

基于以上所有实施例,以下提供另一实施例:

步骤1,选择一种混沌系统,如选择lorenz混沌系统状态方程:

根据euler算法:将lorenz混沌系统状态方程整理成标准差分方程形式:

步骤2,令差分方程式中a=10,b=30,c=8/3,x(1)=0.02;y(1)=0.01;z(1)=0.03;其中,a,b,c为系统参数,x(1),y(1),z(1)为系统初始取值,t为取样时间k为迭代次数。t=5e-3,取k为一较大正整数n进行n次迭代计算,求得混沌序列写成矩阵形式:

步骤3,将步骤2中所得的混沌矩阵x,通过线性变换进行最小最大规范化,映射到区间[0,1]。

其中,线性变换公式为:γ=(x-xmin)/(xmax-xmin),xmin表示序列中最小的元素,xmax表示序列中最大的元素。

变换后的混沌矩阵为:

可以将该混沌矩阵写为γ~chaosmap(γ)

步骤4,将γ~chaosmap(γ)部署到卷积神经网络中,生成一个标准的卷积神经网络,有l个隐藏层。令l∈{1,2,3…l}表示网络的隐层,zl表示第l层的输入,yl表示第l层的输出,wl和bl表示第l层的权重和偏差,y0=x表示输入,则对每一个隐藏神经元,标注卷积神经网络可表示为:

其中,i取值(1,2,3…n)表示第几个每一层的第i个神经元,f(x)为激活函数。

步骤5,将γ~chaosmap(γ)部署到卷积神经网络后可以用公式表示为:

γl~chaosmap(γ);

其中,l表示第l个γ~chaosmap(γ)层取值(1,2,3…n),输入层与γ~chaosma(pγ)层点乘后的结记为

进行最终输出结果为:

步骤6,把所得图像数据分为训练集和测试集,将训练集用于训练卷积神经网络,其中,卷积神经网络的架构由多个卷积层和池化层构成,在全连接层与softmax层之间应用上述提出的r-chaomap(r)层,而在训练模型过程中预先设定r-chaosmap(r)中参数k初始值x,,y,z.以及权重w和偏差b,在训练的不断迭代中可以调整参数从而训练出需要的理想模型,来实现图像的多分类预测。

本申请实施例提供了基于dropout算法的图像分类方法,可以通过随机程度更高的混沌系统获得混沌矩阵,提高了dropout算法中关闭神经单元的随机性,进而提高神经网络分类的准确性和图像分类的准确率。同时,可以通过调整预设参数,选择不同的混沌映射来适应不同的训练需求。

下面对本申请实施例提供的一种基于dropout算法的图像分类装置进行介绍,下文描述的一种基于dropout算法的图像分类装置与上文描述的一种基于dropout算法的图像分类方法可相互对应参照。

请参考图3,图3为本申请实施例所提供的一种基于dropout算法的图像分类装置的结构示意图。

该装置可以包括:

混沌系统差分方程获取模块100,用于对混沌系统状态方程进行变换处理得到混沌系统差分方程;

混沌矩阵获取模块200,用于将预设参数带入混沌系统差分方程进行迭代计算处理得到混沌矩阵,将混沌矩阵进行规范化处理得到规范化混沌矩阵;

目标神经网络获取模块300,用于将规范化混沌矩阵部署到标准卷积神经网络中,得到dropout算法卷积神经网络;

目标神经网络训练模块400,用于采用图像训练集对dropout算法卷积神经网络进行训练,得到卷积神经网络分类模型;其中,图像训练集为对图像集进行预处理得到的;

图像分类模块500,用于根据卷积神经网络分类模型对待分类图像进行分类,得到分类结果。

可选的,混沌系统差分方程获取模块100,可以包括:

lorenz混沌系统处理单元,根据euler算法对lorenz混沌系统状态方程进行变换处理,得到混沌系统差分方程;

或chen混沌系统处理单元,根据euler算法对chen混沌系统状态方程进行变换处理,得到混沌系统差分方程;

或lu混沌系统处理单元,根据euler算法对lu混沌系统状态方程进行变换处理,得到混沌系统差分方程。

可选的,混沌矩阵获取模块200,可以包括:

混沌序列计算单元,用于将预设参数带入混沌系统差分方程进行迭代计算得到混沌序列;

序列变换单元,用于将混沌序列进行矩阵形式变换得到混沌矩阵;

规范化处理单元,用于通过线性变换规则对混沌矩阵进行最大最小规范化处理,得到规范化混沌矩阵。

本申请实施例还提供一种服务器,包括:

存储器,用于存储计算机程序;

处理器,用于执行计算机程序时实现如以上实施例的图像分类方法的步骤。

本申请实施例还提供一种计算机可读存储介质,计算机可读存储介质上存储有计算机程序,计算机程序被处理器执行时实现如以上实施例的图像分类方法的步骤。

说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对于实施例公开的装置而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。

专业人员还可以进一步意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。

结合本文中所公开的实施例描述的方法或算法的步骤可以直接用硬件、处理器执行的软件模块,或者二者的结合来实施。软件模块可以置于随机存储器(ram)、内存、只读存储器(rom)、电可编程rom、电可擦除可编程rom、寄存器、硬盘、可移动磁盘、cd-rom、或技术领域内所公知的任意其它形式的存储介质中。

以上对本申请所提供的一种基于dropout算法的图像分类方法、图像分类装置、服务器以及计算机可读存储介质进行了详细介绍。本文中应用了具体个例对本申请的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本申请的方法及其核心思想。应当指出,对于本技术领域的普通技术人员来说,在不脱离本申请原理的前提下,还可以对本申请进行若干改进和修饰,这些改进和修饰也落入本申请权利要求的保护范围内。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1