一种基于深层卷积神经网络的自适应图像隐写分析方法及系统与流程

本发明涉及数字图像隐写技术领域，尤其涉及一种基于深层卷积神经网络的自适应图像隐写分析方法及系统。

背景技术：

近年来随着隐写技术的发展，新兴的自适应隐写术逐渐成为当前图像隐写以及隐写分析领域的热门研究方向，该算法结合图像自身的结构特性，自适应选择图像中相对难以检测、不敏感的区域进行消息嵌入。目前的主流隐写分析方法主要依赖于人工设计特征，需要投入大量的时间精力，且目前的成果并不能满足实际需求。深度学习不需要人为的设计特征是一种新的解决思路，通过构建一个由多层线性及非线性结构单元组成的学习模型便可自动挖掘隐含在图像内部的复杂关系及结构特性，从而在数据中得到有效的特征表达，极大的简化了问题的复杂性。因此将深度学习技术应用到隐写分析领域可以取得很好的效果。

技术实现要素：

本发明的目的是针对现有隐写分析手段的不足，提出一种基于深层卷积神经网络的自适应图像隐写分析方法。使用更深层的卷积神经网络，提高检测的精度，更加适用于实际场景。为了达到上述目的，本发明采用如下技术方案：一种基于深层卷积神经网络的自适应图像隐写分析方法及系统，其特征在于，包括模型训练模块、特征预处理模块、隐写检测模块，所述的模型训练模块用于对深层卷积神经网络模型进行训练，包括隐写图像数据集、第一高通滤波层、第一卷积层、第二卷积层，隐写图像数据集的输出与第一高通滤波层的输入连接，第一高通滤波层的输出与第一卷积层的输入连接，第一卷积层的输出与第二卷积层的输入连接，第二卷积层的输出与深层卷积神经网络模型的输入连接；所述的特征预处理模块用于对输入的灰度图像提取高频特征，包括输入图像、第二高通滤波层、第三卷积层、第四卷积层，输入图像与第二高通滤波层的输入连接，第二高通滤波层的输出与第三卷积层的输入连接，第三卷积层的输出与第四卷积层的输入连接，第四卷积层的输出与最优深层卷积神经网络模型的输入连接；所述的隐写检测模块用于检测图像是否包含隐写信息，包括最优深层卷积神经网络模型、隐写图像、原始图像，最优深层卷积神经网络模型的输出分别与隐写图像、原始图像连接。

所述的一种基于深层卷积神经网络的自适应图像隐写分析方法及系统，其特征在于，所述的第一高通滤波层、第二高通滤波层均由1个大小为5×5、通道数为1的卷积核组成，第一卷积层、第二卷积层、第三卷积层、第四卷积层均由1个大小为3×3、通道数为1的卷积核组成。

所述的最优深层卷积神经网络模型是深层卷积神经网络模型经过训练后筛选出的最优模型；模型内部层相互连接，上一层的输出是下一层的输入，其网络结构包括6个卷积子块(cl1～cl6)、1个全连接层、1个dropout层和1个softmax层组成；每个卷积子块的输入和输出均为多个二维矩阵，称为特征图，且每个卷积子块的输出作为下一层的输入；每个卷积子块结构包括卷积、非线性激活和池化三种依次进行的操作。绝对值层的作用是使提取到的残差具有0对称性；每个非线性激活函数前使用批标准化层，它能够将每个输入特征图归一化到零均值和单位方差，可以在梯度反向传播的过程中有效防止参数陷入局部最优。批标准化层一定程度上可以解决梯度爆炸及消失问题，缓解了部分输入数据在relu激活函数中零梯度问题，使训练结果更加稳定；前两个卷积子块的非线性激活函数使用tanh，其他卷积子块及全连接层使用relu作为非线性激活函数；前五个卷积子块的池化操作选用平均池化，相较于最大池化，平均池化能更好的保留背景信息，最后一个卷积子块采用全局池化。

所述的卷积子块1(cl1)由第五卷积层(8个大小为3×3、通道数为1的卷积核)、第六卷积层(8个大小为3×3、通道数为1的卷积核)、绝对值层、批标准化层、激活函数tanh、均值池化层(核大小为5×5，步长为2)组成。

所述的卷积子块2(cl2)由第七卷积层(16个大小为3×3、通道数为8的卷积核)、第八卷积层(16个大小为3×3、通道数为8的卷积核)、批标准化层，激活函数tanh，均值池化层(核大小为5×5，步长为2)组成。

所述的卷积子块3(cl3)由第九卷积层(32个大小为1×1、通道数为16的卷积核)，批标准化层，激活函数relu，均值池化层(核大小为5×5，步长为2)组成。

所述的卷积子块4(cl4)由第十卷积层(64个大小为1×1、通道数为32的卷积核)，批标准化层，激活函数relu，均值池化层(核大小为5×5，步长为2)组成。

所述的卷积子块5(cl5)由第十一卷积层(128个大小为1×1、通道数为64的卷积核)，批标准化层，激活函数relu，均值池化层(核大小为5×5，步长为2)组成。

所述的卷积子块6(cl6)由第十二卷积层(256个大小为1×1、通道数为128的卷积核)，批标准化层，激活函数relu，全局池化层(核大小为16×16，步长为1)组成。

所述的全连接层有4096个线性单元。

所述的dropout层加在全连接层之后，防止网络过拟合，提升模型泛化能力。

所述的softmax层为输出层，使用的激活函数为softmax函数，隐写分析用二分类法得到检测的结果，1为隐写图像，0为原始图像。

所述一种基于深层卷积神经网络的自适应图像隐写分析方法及系统，其特征在于，所述方法包括以下步骤：

步骤1，对灰度图像采用自适应图像隐写算法进行信息嵌入，制作隐写图像数据集；

步骤2，将数据集的灰度图像通过高通滤波层和卷积层得到残差图像，将残差图像在深层卷积神经网络模型上进行训练，然后不断调整网络参数与结构，继续训练，最后筛选出最优的深层卷积神经网络模型；

步骤3，选择待检测的灰度图像，然后对图像经过高通滤波层和卷积层进行高频特征提取；

步骤4，将提取的高频特征输入最优的深层卷积神经网络模型进行隐写图像的检测，输出检测结果。

所述的方法，所述的步骤1中，首先使用嵌入率为0.4的s-uniward、hill算法对图像进行秘密信息的嵌入，由得到的图像和之前的图像共同组成数据集，按一定比例对数据集进行训练集和测试集的划分。

所述的方法，所述的步骤2中，根据隐写分析的特性，将图像送入网络前，进入网络的图像首先经过高通滤波层和卷积层进行预处理，得到残差图像，使用高通滤波的目的是增强图像中的信噪比，同时抑制图像内容的影响，有助于网络学到更有效的特征；

设x为大小m×n的待提取特征图像，对应噪声残差计算公式为：其中为卷积运算，fkv为预处理使用的滤波核，它可以很大程度上保留局部噪声，抑制图像内容；

通过kv核提取图像的高频特征图，再通过2个级联的卷积层(卷积核的大小为3×3、通道数为1)得到残差图像；使用验证集对深层卷积神经网络模型进行评价，来检测验证集的图像数据，根据模型在验证集上的表现判断模型的拟合情况，然后不断调整网络参数与结构，继续训练，最后筛选出最优的深层卷积神经网络模型。

所述的方法，所述的步骤3中，对输入的灰度图像使用5×5的fkv高通滤波核和两个级联的3×3的卷积层提取图像的高频特征。

所述的方法，所述的步骤4中，图像的高频特征输入最优的深层卷积神经网络模型，经过6个卷积子块后将学习到的特征传入全连接层，全连接层的函数形式为：

其中，表示第n层全连接层第j个特征图，表示第n-1层第i个特征图，是连接特征图i和j的可学习的权值，表示第n层第j个特征图的可学习偏置参数；

全连接层的输出与dropout层的输入连接，防止网络过拟合，提升模型泛化能力；

然后dropout层的输出值输入到softmax激活函数产生分类标签，它的函数形式为：

其中i＝1，2，表示分类类别有两类，xi是神经元i的输入，yi是输出，目标损失函数则使用softmax-loss，softmax-loss是softmax和多类逻辑回归的结合，它的函数形式为：

l_loss＝-logyi(i＝1,2)

在网络反向传播过程中通过最小化目标损失函数来训练整个网络，实现卷积和全连接层的参数优化，最终获得有效的隐写分析特征，实现分类得到检测的结果，1为隐写图像，0为原始图像。

与现有技术相比，本发明的有益效果是：减少了传统隐写分析中人工设计特征的成本；采用深层的网络结构，使提取的特征更具体化；对输入的灰度图像进行预处理，有助于网络学习到更有效的特征；采用更小的卷积核，在感受野相同的条件下，减少了网络参数；在最后一个卷积子层采用全局池化，降低了维度；在全连接层后采用dropout层，防止了网络过拟合，提升了模型的泛化能力；提高了图像隐写分析的效率和隐写检测的准确率。

附图说明

图1是本发明的系统流程图；

图2是本发明的深层卷积神经网络模型结构图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。

请参阅图1，本发明提供一种技术方案：一种基于深层卷积神经网络的自适应图像隐写分析方法及系统，包括模型训练模块、特征预处理模块、隐写检测模块，所述的模型训练模块用于对深层卷积神经网络模型进行训练，包括隐写图像数据集、第一高通滤波层、第一卷积层、第二卷积层，隐写图像数据集的输出与第一高通滤波层的输入连接，第一高通滤波层的输出与第一卷积层的输入连接，第一卷积层的输出与第二卷积层的输入连接，第二卷积层的输出与深层卷积神经网络模型的输入连接；所述的特征预处理模块用于对输入的灰度图像提取高频特征，包括输入图像、第二高通滤波层、第三卷积层、第四卷积层，输入图像与第二高通滤波层的输入连接，第二高通滤波层的输出与第三卷积层的输入连接，第三卷积层的输出与第四卷积层的输入连接，第四卷积层的输出与最优深层卷积神经网络模型的输入连接；所述的隐写检测模块用于检测图像是否包含隐写信息，包括最优深层卷积神经网络模型、隐写图像、原始图像，最优深层卷积神经网络模型的输出分别与隐写图像、原始图像连接。

本发明中，第一高通滤波层、第二高通滤波层均由1个大小为5×5、通道数为1的卷积核组成，第一卷积层、第二卷积层、第三卷积层、第四卷积层均由1个大小为3×3、通道数为1的卷积核组成。

本发明的具体操作步骤如下：

步骤1：制作隐写图像数据集

我们对bossbasev1.01数据集进行处理，制作数据集。该数据集包括10000张灰度图像，每张图像大小为512*512，图像的格式均为pgm。使用s-uniward、hill自适应隐写算法以0.4的嵌入率对每一张图像进行秘密信息的嵌入，制作隐写图像数据。嵌入完成之后得到10000张隐写图像加上之前未嵌入的图像共20000张512*512大小的灰度图像。对20000张图像进行随机划分训练集与验证集：14000张图像组成训练集，6000张图像组成验证集。

步骤2：提取残差图像，训练深层卷积神经网络模型

根据隐写分析的特性，将图像送入网络前，进入网络的图像首先经过高通滤波层和卷积层进行预处理，得到残差图像，使用高通滤波的目的是增强图像中的信噪比，同时抑制图像内容的影响，有助于网络学到更有效的特征。

设x为大小m×n的待提取特征图像，对应噪声残差计算公式为：其中为卷积运算，fkv为预处理使用的滤波核，它可以很大程度上保留局部噪声，抑制图像内容。

通过kv核提取图像的高频特征图，再通过2个级联的卷积层(卷积核的大小为3×3、通道数为1)得到残差图像。

本发明的深层卷积神经网络模型请参阅图2，模型内部层相互连接，上一层的输出是下一层的输入，其网络结构包括6个卷积子块(cl1～cl6)、1个全连接层、1个dropout层和1个softmax层组成。使用最优深层卷积神经网络模型的卷积子块提取图像的特征，减少网络的参数，每个卷积子块的输入和输出均为多个二维矩阵，称为特征图，且每个卷积子块的输出作为下一层的输入；每个卷积子块结构包括卷积、非线性激活和池化三种依次进行的操作。绝对值层的作用是使提取到的残差具有0对称性；每个非线性激活函数前使用批标准化层，它能够将每个输入特征图归一化到零均值和单位方差，可以在梯度反向传播的过程中有效防止参数陷入局部最优。批标准化层一定程度上可以解决梯度爆炸及消失问题，缓解了部分输入数据在relu激活函数中零梯度问题，使训练结果更加稳定；前两个卷积子块的非线性激活函数使用tanh，其他卷积子块及全连接层使用relu作为非线性激活函数；前五个卷积子块的池化操作选用平均池化，相较于最大池化，平均池化能更好的保留背景信息，最后一个卷积子块采用全局池化。

卷积子块1(cl1)由第五卷积层(8个大小为3×3、通道数为1的卷积核)、第六卷积层(8个大小为3×3、通道数为1的卷积核)、绝对值层、批标准化层、激活函数tanh、均值池化层(核大小为5×5，步长为2)组成。

卷积子块2(cl2)由第七卷积层(16个大小为3×3、通道数为8的卷积核)、第八卷积层(16个大小为3×3、通道数为8的卷积核)、批标准化层，激活函数tanh，均值池化层(核大小为5×5，步长为2)组成。

卷积子块3(cl3)由第九卷积层(32个大小为1×1、通道数为16的卷积核)，批标准化层，激活函数relu，均值池化层(核大小为5×5，步长为2)组成。

卷积子块4(cl4)由第十卷积层(64个大小为1×1、通道数为32的卷积核)，批标准化层，激活函数relu，均值池化层(核大小为5×5，步长为2)组成。

卷积子块5(cl5)由第十一卷积层(128个大小为1×1、通道数为64的卷积核)，批标准化层，激活函数relu，均值池化层(核大小为5×5，步长为2)组成。

卷积子块6(cl6)由第十二卷积层(256个大小为1×1、通道数为128的卷积核)，批标准化层，激活函数relu，全局池化层(核大小为16×16，步长为1)组成。

为了使卷积神经网络能够检测隐写图像，我们需要对网络进行训练，在初始化权重时使用均值为0，标准差为0.1的高斯分布进行随机初始化，在初始化偏置的时候，使用常量0.1进行固定初始化。在训练的时候设置epoch为1000，batchsize为64，学习率为0.01，优化器为adam，梯度下降(momentum)设为0.9，权重衰减率(weightdecay)为0.001，dropoutrate为0.5。本发明所有的网络训练环境都是在tensorflow下进行。

使用验证集对深层卷积神经网络模型进行评价，来检测验证集的图像数据，根据模型在验证集上的表现判断模型的拟合情况，然后不断调整网络参数与结构，继续训练，最后筛选出最优的深层卷积神经网络模型。

步骤3：待检测灰度图像的预处理

由于直接将灰度图像输入最优的深层卷积神经网络模型会导致网络无法收敛，所以在将图像通过网络前需要使用高通滤波层和卷积层对图像进行滤波的预处理。选择待检测的灰度图像，然后对输入的灰度图像使用5×5的fkv高通滤波核和两个级联的3×3的卷积层提取图像的高频特征。

步骤4：隐写图像的检测

图像的高频特征输入最优的深层卷积神经网络模型，经过6个卷积子块后将学习到的特征传入全连接层，全连接层的函数形式为：

其中，表示第n层全连接层第j个特征图，表示第n-1层第i个特征图，是连接特征图i和j的可学习的权值，表示第n层第j个特征图的可学习偏置参数。

全连接层的输出与dropout层的输入连接，防止过拟合，提升模型泛化能力。然后dropout层的输出值输入到softmax激活函数产生分类标签，它的函数形式为：

其中i＝1，2，表示分类类别有两类，xi是神经元i的输入，yi是输出，目标损失函数则使用softmax-loss，softmax-loss是softmax和多类逻辑回归的结合，它的函数形式为：

l_loss＝-logyi(i＝1,2)

在网络反向传播过程中通过最小化目标损失函数来训练整个网络，实现卷积和全连接层的参数优化，最终获得有效的隐写分析特征，实现分类得到检测的结果，1为隐写图像，0为原始图像。