专利名称：基于迁移网络学习的遥感图像目标识别系统及方法
技术领域：
本发明属于图像处理技术领域，具体涉及一种遥感图像目标识别系统，可用于遥
感图像的目标识别。
背景技术：
近年来，随着机器学习的发展，基于单个分类器的学习系统已不能满足用户的需 求，集成学习称为机器学习中的一个研究热点。集成技术利用基学习器的多个版本来解决 同一个问题，可以显著地提高学习系统的泛化能力，其中要求各基分类器之间独立且具有 差异性，并已应用于遥感图像目标识别中。 2005年，王世军等人将Boosting算法引入分类器网络中，将分类器网络与分类器 集成并用，提出了网络集成学习算法NB，通过各节点分类器之间的通信和协作得到具有更 强泛化能力的分类器系统。在现实生活中存在大量其它的数据，这些数据域与目标数据相 关但又不同于目标数据，其中部分数据被期望用于指导新的问题。但是基于传统的机器学 习方法的目标识别方法，要求训练数据和测试数据独立同分布，因此存在如下缺点
1、当有标签的图像数据很少时，识别正确率就会较低； 2、如果要提高识别正确率，图像及其标签的获取和收集不仅困难而且花费昂贵；
3、不能够利用现有的其它可用资源来提高识别正确率。
发明内容
本发明的目的在于克服上述遥感图像目标识别系统及方法存在的缺点，将迁移学 习引入网络集成学习算法NB中，提出了一种基于迁移网络学习的遥感图像目标识别系统 及方法，以利用现有与目标数据相关的数据指导正确率较低图像目标的学习，从而提高其 分类正确率。 为实现上述目的，本发明的遥感图像目标识别系统及方法，包括
1、一种基于迁移网络学习的遥感图像目标识别系统，包括 图像特征提取模块，对输入图像进行特征提取，对输入的源域和目标域中有标签 图像集提取的特征结果传至迁移网络分类器学习系统生成模块，对目标域中无标签图像提 取的特征结果传至迁移网络分类器学习系统学习模块； 迁移网络分类器学习系统生成模块，对输入的源域和目标域有标签的图像特征采
用迁移学习的网络集成学习算法进行训练，得到迁移网络分类器学习系统； 迁移网络分类器学习系统学习模块，对需要测试的图像进行特征提取，将得到的
特征输入至迁移网络分类器学习系统中进行学习，输出最终的识别结果。 2. —种基于迁移网络学习的遥感图像目标识别方法，包括如下步骤 (1)输入源域图像数据集和目标域有标签图像数据集，并对其提取特征； (2)将提取到的特征输入目标域有标签的样本集TRS和源域样本集TRD组成训练
样本集Z，其中，TRS与TRD中的样本数目分别为ls和1D ;设置含有K2个节点的网络拓扑结
4构，输入采样率P和训练轮数T，采用迁移学习的网络集成学习算法，通过如下步骤训练生 成迁移网络分类器学习系统 2a)将训练样本集Z分别分布在各节点上，作为各节点的训练样本，初始化各节点 训练样本的权重； 2b)对各节点训练样本集Z进行有放回的加权采样，获得各节点的训练子集Tk, t， 利用各节点上的核匹配追踪学习机迁移模型TLKMPLM对Tk, t进行训练，得到各节点的基分 类器Ck,t，用各节点的基分类器Ck,t对训练样本集Z进行分类，得到分类结果，其中t为当前 训练轮数； 2c)根据对训练样本集Z的分类结果计算各节点上目标域样本的加权错误率 <formula>formula see original document page 5</formula> 其中，wk, t (Xi)为样本Xi的权重，yi为样本Xi的已知标签，hk, t (Xi)为Ck, t对样本 Xi的分类结果； 2d)根据加权错误率e u，计算t轮时各基分类器的权重 <formula>formula see original document page 5</formula>
2e)更新源域迁移样本和目标域样本的权重，当t < T时，转步骤(2b)，当t = T 时，结束训练，得到由所有基分类器Cu(k二 1，2，…，K，t二l，2，…，T)组成的迁移网络 分类器学习系统； (3)输入目标域无标签图像x进行特征提取，将其图像特征传入至生成的迁移网 络分类器学习系统中进行分类，得到分类结果<formula>formula see original document page 5</formula> 其中，Y为样本标签组成的集合，n为网络拓扑结构中与k节点相连的节点，a n, t 为t轮时n节点上基分类器的权重，hn, t (Xi)为t轮时n节点上基分类器对样本Xi的分类 结果； (4)将HK,T作为最终的分类结果输出。
本发明与现有的技术相比具有以下优点 1)本发明由于引入迁移学习，能够利用已有的与测试集相关的其它数据指导分类 正确率较低的数据的学习，无需重新搜集数据； 2)本发明由于采用引入迁移学习的网络集成学习算法，生成的迁移网络分类器学 习系统具有较高的正确识别率； 3)本发明由于基分类器使用迁移模型，生成的迁移网络分类器学习系统具有较高 的正确识别率； 本发明是基于网络的遥感图像识别系统，可用于各种复杂网络环境中。仿真结果 表明，对实测飞机SAR图像数据集，采用本发明的基于迁移网络学习的目标识别方法较引 入迁移学习前正确识别率可提高10% _15%。
图1为本发明基于迁移网络学习的遥感图像目标识别系统示意 图2为本发明的基于迁移网络学习的遥感图像目标识别方法流程 图3为目标域样本图像；
图4为源域样本图像。
具体实施例方式
下面结合附图和具体实施方式
对本发明进行详细说明。 参照图l，本发明基于迁移网络学习的遥感图像目标识别系统，主要由输入源域图
像和目标域有标签图像、输入目标域无标签图像、图像特征提取模块、迁移网络分类器学习
系统生成模块、迁移网络分类器学习系统学习模块和分类结果组成，其中 图像特征提取模块，对输入图像进行特征提取，对输入的源域和目标域中有标签
图像集提取的特征结果传至迁移网络分类器学习系统生成模块，对目标域中无标签图像提
取的特征结果传至迁移网络分类器学习系统学习模块； 迁移网络分类器学习系统生成模块，对输入的源域和目标域有标签的图像特征采
用引入迁移学习的网络集成学习算法进行训练，得到迁移网络分类器学习系统； 迁移网络分类器学习系统学习模块，对需要测试的图像进行特征提取，将得到的
特征输入至迁移网络分类器学习系统中进行学习，输出最终的识别结果。 参照图2，本发明的遥感图像目标识别方法，包括如下步骤 步骤1 :输入源域图像数据集和目标域有标签图像数据集，将输入的图像数据集进行3层Wavelet、Brushlet和Contourlet变换，然后提取子图中的能量作为特征。
步骤2 :将提取到的特征输到入目标域有标签样本集TRS和源域样本集TRD，组成训练样本集Z，并设置含有I^个节点的网络拓扑结构，输入采样率P和训练轮数T，其中，TRs与TRD中的样本数目分别为ls和1D。 步骤3 :采用引入迁移学习的网络集成学习算法生成迁移网络分类器学习系统。
3a)将训练样本集Z分别分布在网络各节点上，作为各节点的训练样本，初始化各节点训练样本的权重； 3b)对各节点训练样本集Z进行有放回的加权采样，获得各节点的训练子集Tk, t，
利用各节点上的核匹配追踪学习机迁移模型TLKMPLM对Tk,t进行训练 首先，根据Tk,t中各样本的值计算核匹配追踪学习机迁移模型TLKMPLM的逼近值
数，A-
pi, ^e目标域样本集
其中，^=12 姬槠样*隹，ak为gk的系数，g,K('，Xk)为基函
(1-义， Ae源域样本集
「义， x,.e目标域样本集
L， 佑w搭+佳，a i为gi的系数，gi为对应样本Xi的基函数； 其次，根据Tk, t中所有样本的逼近值得到核匹配追踪学习机迁移模型TLKMPLM的
决策函数
6
/w =sgn ZA^g,
广
、
)
乂 i=l 乂 、''e{^p} 其中，N为Tk,t中样本的个数，sp为支持向量。 3c)通过训练得到各节点的基分类器Ck,t，用各节点的基分类器Ck,t对训练样本集
Z进行分类，得到对Z的分类结果，其中t为当前训练轮数； 3d)根据对Z的分类结果计算各节点上目标域样本的加权错误率 其中，wk, t (Xi)为样本Xi的权重，yi为样本Xi的已知标签，hk, t (Xi)为Ck, t对样本Xi的分类结果； 3e)根据e k, t，计算各基分类器的权重
参数"
ai( = 0.5 x log
卜￡
、￡W
3f)计算目标域样本的权重更新参数为AM =7^和源域迁移样本的权重更新
1 —s
Ay
l + V21n(Vr)'
3g)更新源域迁移样本和目标域样本的权重 +1(x,)=
Z
z
、e 77 s、g 77 D
其中，
= -2o^(/(j;") # 1/2)-2j> , # 、,"))-1/2)
4,= IX,(x,).)V 其中，yOq)为样本&的已知标签，hk,t(Xi)为Ck, t对样本Xi的分类结果，且hk,t(Xi) G Y， n为节点k的近邻节点的标号； 当t < T时，转步骤(2b)，当t = T时，结束训练，得到由所有基分类器Ck, t (k =
1，2，…，K，t二l，2，…，T)组成的迁移网络分类器学习系统j仁f + l。 步骤4:输入目标域无标签图像x，对其进行与步骤l相同的特征提取，将其图像特
征传入至生成的迁移网络分类器学习系统中进行分类，得到分类结果
《 r f 、
/^，r=""g腿22 ^A")一+Z""A")"] 其中，Y为样本标签组成的集合，n为网络拓扑结构中与k节点相连的节点，a n, t为t轮时n节点上基分类器的权重，hn, t (Xi)为t轮时n节点上基分类器对样本Xi的分类结果；
7
步骤5 :将Hu作为最终的分类结果输出。
本发明的效果可以通过以下仿真数据进一步说明 1、仿真条件 本发明的仿真在Windows XP， SPI， CPU Pentium(R) 4，基本频率2. 4GHZ，软件平台为VC++6. 0运行。 图3为目标域样本图像，其中，(a)为A类有标签样本，(b)为B类有标签样本，(c)为A类无标签样本，(d)为B类无标签样本；图4为源域样本图像，其中，(a)为C类样本，(b)为D类样本。 仿真选用包含A类和B类两类飞机图像的数据集作为目标域数据，并使用与目标域相似的C类和D类飞机图像数据作为源域数据，其中，目标域的训练样本为完整的飞机图像，如图3中(a)和(b);测试样本为有残缺或遮挡的飞机图像，如图3中(c)和(d);源域数据为另外两类完整的飞机图像，如图4。源域样本和目标域样本的分布情况如表1所示。
表1源域与目标域样本分布情况
目标域源域
A类B类C类D类
训练样本2120144167
测试样本109 实验中，首先将图像进行3层Wavelet、Brushlet和Contourlet变换，然后提取子图中的能量作为特征。由于C类样本与A类相似，D类样本与B类相似，因此使用C类样本指导A类样本学习，D类样本指导B类样本学习。在实验中，选用的网络结构为包含20个节点、度数为IO的规则网络结构，采样率P =0.5，训练轮数1= 10。采用引入迁移学习的网络集成学习算法TNL进行分类识别，在三种特征下的TNL和NB的对比实验结果如表2所示，其中NB的基分类器为核匹配追踪学习机KMPLM，TNL的基分类器分别为核匹配追踪学习机KMPLM和核匹配追踪学习机迁移模型TLKMPLM。
表2基于TNL和NB的目标识别的对比实验结果(％ )
Wavelet Brashlet Contourlet
n ， NB+KMPLM 73.68 78.95 68.42
TNL+KMPLM 78.95 78.95 73.68
TNL+TLKMPLM 84.21 狄47 84.21 实验结果表明，在三个特征空间中，本发明基于TNL的正确识别率高于现有基于
NB算法下的结果，这表明，采用提出的迁移网络学习算法可以实现源域数据到目标域数据
的知识迁移。由TNL中基分类器模型分别选用和TLKMPLM时的结果可看出，在该数据集上，
TNL中使用TLKMPLM作为基分类器时的性能明显优于选用KMPLM的性能。 上述整个图像目标识别过程，均通过计算机程序实现其功能，完成对网络行为的检测。
8
该实施例是在以本发明技术方案为前提下进行实施的，给出了详细的实施方式和具体的操作过程，但本发明的保护范围不限于上述实施例。
权利要求
一种基于迁移网络学习的遥感图像目标识别系统，包括图像特征提取模块，对输入图像进行特征提取，对输入的源域和目标域中有标签图像集提取的特征结果传至迁移网络分类器学习系统生成模块，对目标域中无标签图像提取的特征结果传至迁移网络分类器学习系统学习模块；迁移网络分类器学习系统生成模块，对输入的源域和目标域有标签的图像特征采用迁移学习的网络集成学习算法进行训练，得到迁移网络分类器学习系统；迁移网络分类器学习系统学习模块，对需要测试的图像进行特征提取，将得到的特征输入至迁移网络分类器学习系统中进行学习，输出最终的识别结果。
2. —种基于迁移网络学习的遥感图像目标识别方法，包括如下步骤(1) 输入源域图像数据集和目标域有标签图像数据集，并对其提取特征；(2) 将提取到的特征输入目标域有标签的样本集TRs和源域样本集TRD组成训练样本集Z，其中，TRs与TRD中的样本数目分别为ls和1。；设置含有K2个节点的网络拓扑结构，输入采样率P和训练轮数T，采用迁移学习的网络集成学习算法，通过如下步骤训练生成迁移网络分类器学习系统2a)将训练样本集Z分别分布在各节点上，作为各节点的训练样本，初始化各节点训练样本的权重；2b)对各节点训练样本集Z进行有放回的加权采样，获得各节点的训练子集Tk, t，利用各节点上的核匹配追踪学习机迁移模型TLKMPLM对Tk, t进行训练，得到各节点的基分类器Ck,t，用各节点的基分类器Ck,t对训练样本集Z进行分类，得到分类结果，其中t为当前训练轮数；2c)根据对训练样本集Z的分类结果计算各节点上目标域样本的加权错误率<formula>formula see original document page 2</formula>其中，Wu(Xi)为样本Xi的权重，yi为样本Xi的已知标签，hk,t(Xi)为Ck,t对样本Xi的分类结果；2d)根据加权错误率e u，计算t轮时各基分类器的权重 <formula>formula see original document page 2</formula>2e)更新源域迁移样本和目标域样本的权重，当t < T时，转步骤(2b)，当t = T时，结束训练，得到由所有基分类器Ck,t(k二 1，2，…，K，t二l，2，…，T)组成的迁移网络分类器学习系统；(3) 输入目标域无标签图像x进行特征提取，将其图像特征传入至生成的迁移网络分类器学习系统中进行分类，得到分类结果<formula>formula see original document page 2</formula>其中，Y为样本标签组成的集合，n为网络拓扑结构中与k节点相连的节点，、t为t轮时n节点上基分类器的权重，、t(Xi)为t轮时n节点上基分类器对样本Xi的分类结果；(4) 将Hu作为最终的分类结果输出。
3.根据权利要求书2所述的方法，其中步骤2b所述的利用各节点上的核匹配追踪学习机迁移模型TLKMPLM对Tk, t进行训练，按如下步骤进行首先，根据Tk,t中各样本的值计算核匹配追踪学习机迁移模型TLKMPLM中样本Xi的逼近值A, e目标域样本集1-义，^e源域样本集x,e目标域样本集ll-A， ；c,e源域样本集其次，根据Tk,t中所有样本的逼近值得到核匹配追踪学习机迁移模型TLKMPLM的决策其中，仄=，Qk为gk的系数，gk = K( ， xk)为基函数，，a i为gi的系数，gi为对应样本Xi的基函数； <formula>formula see original document page 3</formula>其中，N为Tk,t中样本的个数，sp为支持向量。
4.根据权利要求书2所述的方法，其中步骤2e所述的更新源域迁移样本和目标域样本的权重，按如下步骤更新首先，计算目标域样本的权重更新参数为々"=J^:和源域迁移样本的权重更新参其次，更新节点k处样本Xi的权重Wk, t (Xi)，得到更新后权重Wk, t+1 (Xi):其中，<formula>formula see original document page 3</formula>其中，y (Xi)为样本Xi的已知标签，hk,t (Xi)为ck,t对样本Xi的分类结果，且hk,t (Xi) g y。
全文摘要
本发明公开了一种基于迁移网络学习的遥感图像目标识别系统及方法，主要解决现有方法对当有标签的遥感图像数据很少时识别正确率较低和图像标签的获取困难且花费昂贵的问题。整个系统包括图像特征提取模块，迁移网络分类器学习系统生成模块和迁移网络分类器学习系统学习模块。其中，图像特征提取模块，对图像完成特征提取；迁移网络分类器学习系统生成模块，对输入的样本数据采用引入迁移学习的网络集成学习算法进行训练，得到迁移网络分类器学习系统；迁移网络分类器学习系统学习模块，对新的样本图像特征完成分类识别。本发明具有能够利用已有其他资源提高对遥感图像目标的识别正确率，无需重新搜集数据的优点，可用于遥感图像的目标识别。
文档编号G06K9/66GK101794396SQ20101013267
公开日2010年8月4日 申请日期2010年3月25日 优先权日2010年3月25日
发明者吴建设, 慕彩红, 杨辉, 焦李成, 王宇琴, 王爽, 田小林, 缑水平, 马文萍 申请人:西安电子科技大学