一种基于多模态堆叠自动编码机的microRNA-疾病关联预测方法

本发明涉及机器学习和生物信息学领域，具体涉及一种基于多模态堆叠自动编码机的microrna-疾病关联预测方法。

背景技术：

microrna(mirna)是一种小分子非编码rna(-22nt)，在细胞中发挥着重要作用。据估计，人类基因组中1-4％的基因是mirnas，单个mirnas调节多达200个mrna，mirnas通常通过序列特异性碱基对与靶mrna的3’非翻译区(utrs)结合，抑制靶mrna的表达，从而参与生命过程中的一系列重要过程。在许多生物信息学研究项目中，识别潜在的microrna(mirna)和人类疾病关联一直是一个关键目标，这将有助于人类疾病的治疗和预防、分子工具设计和个性化诊断。

传统的生物实验对于大规模的关联检测是昂贵和费力的。因此，预测潜在mirna-疾病关联的有效计算方法越来越受到关注。基于功能相关的microrna更有可能与有着相似表型的疾病关联的假设，一些基于得分函数的计算模型被提出，这类模型通常利用计算方法如随机游走等基于构造的mirna-疾病关联网络计算mirna与疾病之间有潜在关联的可能性。此外，随着已知mirna-疾病关联数据的增长，机器学习分类算法越来越多的被用于预测潜在mirna与疾病之间关联。然而，人体是一个统一的整体，人类细胞中多种生物分子协调维持生命活动，各种生物分子之间的相互作用是相互联系的，目前现有的计算方法大多仅仅考虑了单一类型的已知mirna与疾病关联信息，而没有对mirna与疾病及其他生物分子之间的关联关系给予更多的关注。因此有必要设计一种能够利用到mirna，疾病与其他生物分子之间的关联特征，并且结合其本身属性特征，能够达到更高预测能力的预测方法。

技术实现要素：

本发明的目的在于，提供一种基于多模态堆叠自动编码机的microrna-疾病关联预测方法，该方法能够充分利用microrna和疾病的多模态特征，包括microrna和疾病本身的属性特征，microrna和疾病与人体细胞内重要生物分子mrna，蛋白质，lncrna的网络临近特征，预测精度高，预测效果好；本发明方法模型复杂度低，功耗小；可以高效的预测microrna和疾病的潜在关联关系，五折交叉验证下，平均auc可以达到93.55％。

为实现上述发明目的，本发明采用以下技术方案：

本发明所述一种基于多模态堆叠自动编码机的microrna-疾病关联预测方法，按下列步骤进行：

a、数据集的选择与建立：基于humanmicrornadiseasedatabasev3.0数据库获取已知的人类microrna与疾病关联数据；基于mirbase数据库获取microrna序列信息；基于medicalsubjectheading数据库获取疾病主题词；基于mirtarbase数据库获取已知的microrna与蛋白质以及microrna与mrna关联数据；基于disgenet数据库获取已知的蛋白质与疾病以及mrna与疾病关联数据；基于lncrnasnp2数据库获取已知的microrna与lncrna关联数据；基于lncrnasnp2以及lncrnadisease数据库获取已知的lncrna与疾病关联数据；

b、microrna序列特征的生成：基于microrna的核苷酸为尿嘧啶，胞嘧啶，鸟嘌呤和腺嘌呤序列，利用3-mer方法计算每个microrna序列特征；

c、疾病语义相似性特征的生成：基于疾病的mesh主题词构建每种疾病的有向无环图,定义无环图节点对疾病的语义贡献值，从而根据不同疾病的无环图共享部分计算疾病的语义相似性特征；

d、microrna和疾病网络临近特征的生成：构建microrna-蛋白质-疾病网络，microrna-mrna-疾病网络，microrna-lncrna-疾病网络，利用line网络嵌入方法分别计算microrna和疾病与蛋白质，mrna，lncrna之间的网络邻近特征；

e、多模态特征挖掘：利用深度学习的堆叠自动编码机，以非监督的方式使用神经网络学习复杂特征的潜在信息，将四种不同特征降低到64维，以去除噪声影响并降低模型复杂度；

f、训练集和测试集的构建：利用hmddv3.0中已知microrna-疾病关联作为正样本，随机抽取与正样本相同数量的不相关microrna-疾病关联作为负样本，分别以关联对的数量比为4:1的比例随机切割两个数据集，其中4/5作为训练集，1/5作为测试集，然后利用5折交叉验证的方法进行五次切割并验证；

g、分类器模型的构建：利用catboost分类算法构建训练模型，分别对多模态特征进行训练和预测，将四种特征预测得分平均值作为最终预测得分。

所述步骤b中利用3-mer方法计算microrna序列中不同3聚体核苷酸的统计概率，将每个3聚体核苷酸前后错位1个核苷酸，依次排列开，分别计算每个3聚体出现次数占整个microrna序列的统计概率作为microrna的属性序列特征。

所述步骤c中疾病的医学主题标题描述符提供了一个严格的疾病分类系统,在此基础上，各种疾病之间的关系可以表示为有向无环图，图中的节点代表疾病，图中的有向边代表疾病之间的关系，取平均值作为最终的疾病语义相似性特征。

所述步骤d中利用line网络嵌入方法，对于信息网络嵌入line方法的网络嵌入过程为：定义一阶临近模型：即两个点之间有直接边相连就认为它们比较相似，保证低维的嵌入中要保留两个结点之间的直接联系的紧密程度，若两个结点之间不存在边，那么他们之间的一阶临近度为0；

定义二阶临近模型：即两个点之间也许不直接相连，但是如果它们的一阶公共节点比较多那么它们也被认为是比较相似的；

优化两种模型目标函数：即实际相似度与表示相似度之间的kullback–leibler(kl)散度，最后拼接一阶相似度网络嵌入特征与二阶相似度网络嵌入特征作为最终节点网络嵌入特征。所述步骤e中利用深度学习中的堆叠自动编码机分别挖掘micrornas和疾病的多种高级潜在特征并降低模型复杂度，对于堆叠自动编码机提取潜在特征的过程如下：

编码过程：将特征数据x＝[x1，x2，...，xd(x)]^t从输入层输入到第一层隐含层，其中d(x)代表输入特征数据维度，通过映射函数f1投影为隐层特征z1＝[z1，z2，...，zd(z)]^t，其中d(z)代表潜在特征数据维度，接着将隐层特征z1输入到第二层隐含层，通过映射函数f2投影为隐层特征z2,重复进行逐层抽取至隐含层结束；

解码过程：将隐层特征zi输入到下层解码机，通过映射函数g投影为输出特征y＝[y1，y2，...，yd(y)]^t,其中d(y)代表输出特征数据维度，重复编码和解码过程，直至输入特征x和输出特征y之间的重构误差最小化；

降维过程：利用最终学习到的编码机权值矩阵对输入特征逐一进行编码降维。

所述步骤g中catboost是一种新型的集成算法，它利用排序提升方法替换传统算法中梯度估计方法,进而减轻梯度估计的偏差,提高模型的泛化能力,采用对称树作为其基学习器,通过一组基学习器的串行迭代，最终得到一个强学习器，对于catboost的训练分类过程如下：

选取训练集中的每一个训练样本xi训练并得到一个单独的模型yi,模型yi由此样本之外的全部训练样本训练得到；

利用排序提升方式代替传统算法中梯度估计方法利用模型yi计算样本xi的梯度估计；

利用每个样本梯度估计训练基学习器；

对所有基学习器进行加权处理，获得最终的强学习器。

本发明所述一种基于多模态堆叠自动编码机的microrna-疾病关联预测方法，该方法中，所述步骤a中数据集的选择与建立：

本发明使用的已知人类microrna与疾病关联数据来源于humanmicrornadiseasedatabase(hmdd)v3.0数据库，在此基础上，进行数据预处理，消除重复关联，删除公共数据库mirbase认为不可靠的与某些mirnas相关的关联，最终获得10696条mirna-疾病关联，包含839种micrornas和531种人类疾病；microrna序列信息来源于mirbase数据库；疾病主题词来源于medicalsubjectheading(mesh)数据库；已知的microrna与蛋白质以及microrna与mrna关联数据来源于mirtarbase数据库，包含4944条microrna-蛋白质关联，5186条microrna-mrna关联；已知的蛋白质与疾病以及mrna与疾病关联数据来源于disgenet数据库，包含25087条蛋白质-疾病关联，3416条mrna-疾病关联；已知的microrna与lncrna关联数据来源于lncrnasnp2数据库，包含8374条microrna-lncrna关联；已知的lncrna与疾病关联数据来源于lncrnasnp2以及lncrnadisease数据库，包含1264条lncrna-疾病关联；

所述步骤b中microrna序列特征的生成：

microrna序列通常用四种核苷酸的简写字母表示:尿嘧啶(u)、胞嘧啶(c)、鸟嘌呤(g)和腺嘌呤(a)，从公共mirbase数据库下载mirna序列信息，设置一个窗口大小为3，滑动距离为1的滑动窗口，将microrna序列分割成多个3-单体单元(3-mers)，将每个3-mer的出现次数除以对应的microrna序列长度，得到其出现频率，将不出现的3-mer的频率设为0，最后，将所有3-mer出现频率作为microrna序列的数值统计特征，即属性特征；

所述步骤c中疾病语义相似性特征的生成：

疾病的医学主题描述符(mesh)提供了一个严格的疾病分类系统，可以从美国国家医院医学图书馆获得(https://www.nlm.nih.gov/)，mesh描述符被分为16个类别:a类是解剖术语，b类是生物体，本发明中使用的c类疾病，等等。在此基础上，各种疾病之间的关系可以表示为有向无环图(dag)，图中的节点代表疾病，图中的有向边代表疾病之间的关系，例如，某一疾病a表示为dag(a)＝(d(a),e(a))，其中d(a)表示疾病a及其祖先节点集，e(a)表示图中连接这些疾病的边集，在此基础上，定义dag(a)中某一疾病t对疾病a的语义贡献如下：

式中，δ为语义贡献衰减因子，表示随着t与疾病a之间距离的增加，其对疾病a的语义贡献减小，通过总结疾病a本身及其祖先疾病的所有贡献，得出疾病a的语义价值：

dv(a)＝∑t∈d(a)da(t)(2)

因此,基于共享dag部分的两种疾病之间的第一种语义相似性特征ds1(a,b)可以通过计算得到:

为了近一步考虑不同疾病在dag图中出现的数量不同对疾病语义的贡献不同，我们定义了疾病的第二种语义相似性特征，定义dag(a)中疾病术语t对疾病a的语义贡献如下：

式中，num(dag(t))表示dag中疾病t的出现次数，num(diseses)表示dag中疾病的总数量，由此两种疾病之间的第二种语义相似性特征ds2(a,b)可以通过计算得到：

最后，将两种疾病语义相似性特征融合，对两者求和，取平均作为最终的疾病语义相似性特征：

所述步骤d中microrna和疾病网络临近特征的生成：

基于有着共同生物分子关联关系的microrna与疾病之间更可能相互关联的猜想，本发明利用microrna，疾病与人体细胞内重要生物分子之间的关联关系预测潜在microrna-疾病关联。根据数据库中已知的microrna，疾病与mrna，蛋白质，lncrna之间的关联关系构建3个异构生物分子关联网络，即microrna-mrna-疾病异构网络，microrna-蛋白质-疾病异构网络，microrna-lncrna-疾病异构网络。其次，利用大规模信息网络嵌入(line)算法提取microrna，疾病与三种生物分子之间的网络临近特征。line可以将一个大型网络中的节点根据其关系的密度映射到向量空间中，使紧密相连的节点投射到相似的位置；该方法不仅考虑了一阶网络临近度，即两个节点若直接相连,则他们被认为相似，同时考虑二阶网络临近度,即两个节点可能不直接相连，但如果他们有较多公共的一阶临近节点，则他们也被认为相似，基于这两个角度，line算法被分为以下两类：

一阶网络临近模型：对于一条无向边(i,j)，定义这条边的两个顶点vi和vj的联合概率如下：

其中和代表对应定点的低维向量，接下来两个节点的经验概率定义为：

其中wij代表两个顶点vi和vj的边的权重，w代表所有边的权重。我们的优化目标是使p1和的差值尽可能小，本发明选择kl散度作为距离函数并且去掉一些固定常数，得到最终的目标函数如下：

o1＝-∑(i，j)∈ewijlogp1(vi，vj)(9)

二阶网络临近模型：二阶邻近度适用于有向图和无向图；给定网络，在不失的情况下，假设它是有向的(无向边可以被认为是具有相反方向和相等权重的两个有向边)，对于一条有向边(i,j)(从i指向j)，顶点vi生成vj的概率可以表示为：

其中|v|代表顶点的个数，接下来两个节点的经验概率定义为：

其中wij代表两个顶点vi和vj的边的权重，di代表节点的出度，同样选择kl散度作为距离函数使p2和的差值尽可能小，并且去掉一些固定常数，得到最终的目标函数如下：

o2＝-∑(i，j)∈ewijlogp2(vj|vi)(12)

最后，通过优化两种模型目标函数，得到每个节点的一阶网络嵌入特征和二阶网络嵌入特征拼接两者特征作为最终节点网络嵌入特征。

所述步骤e中多模态特征挖掘：

堆叠自动编编码器是深度学习领域常用的一个深度学习模型，由多个自动编码器串联堆叠构成；堆叠多层自动编码器的目的是为了逐层提取输入数据的高阶特征，在此过程中逐层降低输入数据的维度，将一个复杂的输入数据转化成一个系列简单的高阶的特征，对于堆叠自动编码机提取潜在特征的过程如下：

(1)编码过程：将特征数据x＝[x1，x2，...，xd(x)]^t从输入层输入到第一层隐含层，其中d(x)代表输入特征数据维度，通过映射函数f1投影为隐层特征z1＝[z1，z2，...，zd(z)]^t，其中d(z)代表潜在特征数据维度，接着将隐层特征z1输入到第二层隐含层，通过映射函数f2投影为隐层特征z2,重复进行逐层抽取至隐含层结束，通过映射函数fi输出隐层特征zi,其中i代表隐含层数，w代表权值矩阵，b代表偏差向量；

zi＝fi(x)＝sf(wx+b)(13)

(2)解码过程：将隐层特征z1输入到下层解码机，通过映射函数g投影为输出特征y＝[y1，y2，...，yd(y)]^t,其中d(y)代表输出特征数据维度，重复编码和解码过程，直至输入特征x和输出特征y之间的重构误差最小化。

y＝f′(zi)＝sf′(w′zi+b′)(14)

(3)降维过程：利用最终学习到的编码机权值矩阵w对输入特征逐一进行编码降维。所述步骤f中分类器模型的构建：

利用高性能机器学习分类算法catboost分别对多模态特征进行训练和预测，将四种特征预测得分平均值作为最终预测得分；catboost是一种新型的集成算法，它基于决策树梯度提升(gbdt)算法并利用排序提升方法(orderedboosting)替换传统算法中梯度估计方法,进而减轻梯度估计的偏差,提高模型的泛化能力,采用对称树作为其基学习器,通过一组基学习器的串行迭代，最终得到一个强学习器。catboost的每一次迭代目标就是求取pi让本轮的损失函数最小：

其中fi(xi，yi)为梯度估计，fi-1(x)是已完成的i-1步迭代形成的当前的学习器,l[y，fi-1(x)]是损失函数；为了得到梯度的无偏度估计,catboost算法的主要步骤为：

(1)选取训练集中的每一个训练样本xi训练并得到一个单独的模型yi,模型yi由此样本之外的全部训练样本训练得到；

(2)利用排序提升方式代替传统算法中梯度估计方法利用模型yi计算样本xi的梯度估计；

(3)利用每个样本梯度估计训练基学习器；

(4)对所有基学习器进行加权处理，获得最终的强学习器。

本发明所述的一种基于多模态堆叠自动编码机的microrna-疾病关联预测方法，其有益效果是：

(1)本发明提出一种基于多模态堆叠自动编码机的microrna-疾病关联预测方法，该方法能够充分的利用microrna和疾病的多模态特征，包括属性特征，mrna网络临近特征，蛋白质网络临近特征，lncrna网络临近特征，利用堆叠自动编码机自动挖掘其高级抽象特征，并利用catboost分类器高效预测潜在的microrna-疾病关联关系；

(2)本发明能够有效利用microrna和疾病本身的属性特征以及与人体细胞内重要生物分子之间的网络临近特征，利用深度学习中的堆叠自动编码机进一步挖掘数据中的高级特征，降低模型复杂度，利用高性能boosting算法catboost提高预测准确度，得到比较好的预测效果；

(3)本发明时间复杂度低，功耗小；模型五折交叉验证下auc值达到93％以上，实例验证下对于乳腺癌和肺癌的潜在micrornas预测准确率达到96％。

附图说明

图1为本发明实施例预测方法的流程图；

图2为本发明堆叠自动编码机结构图；

图3为本发明在五折交叉验证下基于hmddv3.0数据集生成的roc曲线；

图4为本发明随机森林模型在五折交叉验证下基于hmddv3.0数据集生成的roc曲线；

图5为本发明与其他最新方法在五折交叉验证下基于hmddv3.0数据集的均值auc对比。

具体实施方式

以下结合附图和具体实施例，进一步阐述本发明，应理解这些实施例仅用于说明本发明而不用于限制本发明的范围，在阅读了本发明之后，本领域技术人员对本发明的各种等价形式的修改均落于本申请所附权利要求所限定的范围。

实施例

本发明所述一种基于多模态堆叠自动编码机的microrna-疾病关联预测方法，按下列步骤进行：

a、数据集的选择与建立：基于humanmicrornadiseasedatabasev3.0数据库获取已知的人类microrna与疾病关联数据；基于mirbase数据库获取microrna序列信息；基于medicalsubjectheading数据库获取疾病主题词；基于mirtarbase数据库获取已知的microrna与蛋白质以及microrna与mrna关联数据；基于disgenet数据库获取已知的蛋白质与疾病以及mrna与疾病关联数据；基于lncrnasnp2数据库获取已知的microrna与lncrna关联数据；基于lncrnasnp2以及lncrnadisease数据库获取已知的lncrna与疾病关联数据；

b、microrna序列特征的生成：基于microrna的核苷酸为尿嘧啶，胞嘧啶，鸟嘌呤和腺嘌呤序列，利用3-mer方法计算每个microrna序列特征；

c、疾病语义相似性特征的生成：基于疾病的mesh主题词构建每种疾病的有向无环图,定义无环图节点对疾病的语义贡献值，从而根据不同疾病的无环图共享部分计算疾病的语义相似性特征；

d、microrna和疾病网络临近特征的生成：构建microrna-蛋白质-疾病网络，microrna-mrna-疾病网络，microrna-lncrna-疾病网络，利用line网络嵌入方法分别计算microrna和疾病与蛋白质，mrna，lncrna之间的网络邻近特征；

e、多模态特征挖掘：利用深度学习的堆叠自动编码机，以非监督的方式使用神经网络学习复杂特征的潜在信息，将四种不同特征降低到64维，以去除噪声影响并降低模型复杂度；

f、训练集和测试集的构建：利用hmddv3.0中已知microrna-疾病关联作为正样本，随机抽取与正样本相同数量的不相关microrna-疾病关联作为负样本，分别以关联对的数量比为4:1的比例随机切割两个数据集，其中4/5作为训练集，1/5作为测试集，然后利用5折交叉验证的方法进行五次切割并验证；

g、分类器模型的构建：利用catboost分类算法构建训练模型，分别对多模态特征进行训练和预测，将四种特征预测得分平均值作为最终预测得分；

如图1所示，数据集的选择与建立，本实施例使用的已知人类microrna与疾病关联数据来源于humanmicrornadiseasedatabase(hmdd)v3.0数据库，在此基础上，我们进行数据预处理，消除重复关联，删除公共数据库mirbase认为不可靠的与某些mirnas相关的关联，最终获得10696条mirna-疾病关联，包含839种micrornas和531种人类疾病；microrna序列信息来源于mirbase数据库；疾病主题词来源于medicalsubjectheading(mesh)数据库；已知的microrna与蛋白质以及microrna与mrna关联数据来源于mirtarbase数据库，包含4944条microrna-蛋白质关联，5186条microrna-mrna关联；已知的蛋白质与疾病以及mrna与疾病关联数据来源于disgenet数据库，包含25087条蛋白质-疾病关联，3416条mrna-疾病关联；已知的microrna与lncrna关联数据来源于lncrnasnp2数据库，包含8374条microrna-lncrna关联；已知的lncrna与疾病关联数据来源于lncrnasnp2以及lncrnadisease数据库，包含1264条lncrna-疾病关联；

microrna序列特征的生成，microrna序列通常用四种核苷酸的简写字母表示:尿嘧啶(u)、胞嘧啶(c)、鸟嘌呤(g)和腺嘌呤(a)，本实施例从公共mirbase数据库下载mirna序列信息，设置一个窗口大小为3，滑动距离为1的滑动窗口，将microrna序列分割成多个3-单体单元(3-mers)，将每个3-mer的出现次数除以对应的microrna序列长度，得到其出现频率，将不出现的3-mer的频率设为0，最后，将所有3-mer出现频率作为microrna序列的数值统计特征，即属性特征；

疾病语义相似性特征的生成，基于疾病的mesh主题词构建每种疾病的有向无环图(dag),定义无环图(dag)节点对疾病的语义贡献值，从而根据不同疾病的dag图共享部分计算疾病的语义相似性特征；

所述疾病的语义相似性特征的生成：

疾病的医学主题描述符(mesh)提供了一个严格的疾病分类系统，可以从美国国家医院医学图书馆获得(https://www.nlm.nih.gov/)，mesh描述符被分为16个类别:a类是解剖术语，b类是生物体，本发明中使用的c类疾病，等等。在此基础上，各种疾病之间的关系可以表示为有向无环图(dag)，图中的节点代表疾病，图中的有向边代表疾病之间的关系，例如，某一疾病a表示为dag(a)＝(d(a),e(a))，其中d(a)表示疾病a及其祖先节点集，e(a)表示图中连接这些疾病的边集，在此基础上，定义dag(a)中某一疾病t对疾病a的语义贡献如下：

式中，δ为语义贡献衰减因子，表示随着t与疾病a之间距离的增加，其对疾病a的语义贡献减小，通过总结疾病a本身及其祖先疾病的所有贡献，得出疾病a的语义价值：

dv(a)＝∑t∈d(a)da(t)(2)

因此,基于共享dag部分的两种疾病之间的第一种语义相似性特征ds1(a,b)可以通过计算得到:

为了近一步考虑不同疾病在dag图中出现的数量不同对疾病语义的贡献不同，我们定义了疾病的第二种语义相似性特征，定义dag(a)中疾病术语t对疾病a的语义贡献如下:

式中，num(dag(t))表示dag中疾病t的出现次数，num(diseses)表示dag中疾病的总数量，由此两种疾病之间的第二种语义相似性特征ds2(a,b)可以通过计算得到:

最后，将两种疾病语义相似性特征融合，对两者求和，取平均作为最终的疾病语义相似性特征：

microrna和疾病网络临近特征的生成：基于有着共同生物分子关联关系的microrna与疾病之间更可能有关联的猜想，本实施例利用microrna，疾病与人体细胞内重要生物分子之间的关联关系预测潜在microrna-疾病关联；首先根据数据库中已知的microrna，疾病与mrna，蛋白质，lncrna之间的关联关系构建3个异构生物分子关联网络，即microrna-mrna-疾病异构网络，microrna-蛋白质-疾病异构网络，microrna-lncrna-疾病异构网络。其次，利用大规模信息网络嵌入(line)算法提取microrna，疾病与三种生物分子之间的网络临近特征；line可以将一个大型网络中的节点根据其关系的密度映射到向量空间中，使紧密相连的节点投射到相似的位置；该方法不仅考虑了一阶网络临近度，即两个节点若直接相连,则他们被认为相似，同时考虑二阶网络临近度，即两个节点可能不直接相连，但如果他们有较多公共的一阶临近节点，则他们也被认为相似；基于这两个角度，line算法被分为以下两类：

一阶网络临近模型：对于一条无向边(i,j)，定义这条边的两个顶点vi和vj的联合概率如下：

其中和代表对应定点的低维向量，接下来两个节点的经验概率定义为：

其中wij代表两个顶点vi和vj的边的权重，w代表所有边的权重。我们的优化目标是使p1和的差值尽可能小，本发明选择kl散度作为距离函数并且去掉一些固定常数，得到最终的目标函数如下：

o1＝-∑(i，j)∈ewijlogp1(vi，vj)(9)

二阶网络临近模型：二阶邻近度适用于有向图和无向图。给定网络，在不失一般性的情况下，我们假设它是有向的(无向边可以被认为是具有相反方向和相等权重的两个有向边)。对于一条有向边(i,j)(从i指向j)，顶点vi生成vj的概率可以表示为：

其中|v|代表顶点的个数，接下来两个节点的经验概率定义为：

其中wij代表两个顶点vi和vj的边的权重，di代表节点的出度。同样的，我们选择kl散度作为距离函数使p2和的差值尽可能小，并且去掉一些固定常数，得到最终的目标函数如下:o2＝-∑(i，j)∈ewijlogp2(vj|vi)(12)

最后，通过优化两种模型目标函数，得到每个节点的一阶网络嵌入特征和二阶网络嵌入特征拼接两者特征作为最终节点网络嵌入特征；

多模态特征挖掘，堆叠自动编编码器是深度学习领域常用的一个深度学习模型，由多个自动编码器串联堆叠构成，图2展示了堆叠自动编码机结构示意图。堆叠多层自动编码器的目的是为了逐层提取输入数据的高阶特征，在此过程中逐层降低输入数据的维度，将一个复杂的输入数据转化成一个系列简单的高阶的特征，对于堆叠自动编码机提取潜在特征的过程如下：

(1)编码过程：将特征数据x＝[x1，x2，...，xd(x)]^t从输入层输入到第一层隐含层，其中d(x)代表输入特征数据维度，通过映射函数f1投影为隐层特征z1＝[z1，z2，...，zd(z)]^t，其中d(z)代表潜在特征数据维度，接着将隐层特征z1输入到第二层隐含层，通过映射函数f2投影为隐层特征z2,重复进行逐层抽取至隐含层结束，通过映射函数fi输出隐层特征zi,其中i代表隐含层数，w代表权值矩阵，b代表偏差向量；

zi＝fi(x)＝sf(wx+b)(13)

(2)解码过程：将隐层特征zi输入到下层解码机，通过映射函数g投影为输出特征y＝[y1，y2，...，yd(y)]^t,其中d(y)代表输出特征数据维度，重复编码和解码过程，直至输入特征x和输出特征y之间的重构误差最小化。

y＝f′(zi)＝sf′(w′zi+b′)(14)

(3)降维过程：利用最终学习到的编码机权值矩阵w对输入特征逐一进行编码降维。分类器模型的构建：利用高性能机器学习分类算法catboost分别对多模态特征进行训练和预测，将四种特征预测得分平均值作为最终预测得分；catboost是一种新型的集成算法，它基于决策树梯度提升(gbdt)算法并利用排序提升方法(orderedboosting)替换传统算法中梯度估计方法,进而减轻梯度估计的偏差,提高模型的泛化能力,采用对称树作为其基学习器,通过一组基学习器的串行迭代，最终得到一个强学习器；catboost的每一次迭代目标就是求取pi让本轮的损失函数最小：

其中fi(xi，yi)为梯度估计，fi-1(x)是已完成的i-1步迭代形成的当前的学习器,l[y，fi-1(x)]是损失函数；为了得到梯度的无偏度估计,catboost算法的主要步骤为：

(1)选取训练集中的每一个训练样本xi训练并得到一个单独的模型yi,模型yi由此样本之外的全部训练样本训练得到；

(2)利用排序提升方式代替传统算法中梯度估计方法利用模型yi计算样本xi的梯度估计；

(3)利用每个样本梯度估计训练基学习器；

(4)对所有基学习器进行加权处理，获得最终的强学习器。

实施例2

为了能够更好的说明本发明预测方法的效果，将此预测方法与目前最流行的随机森林模型进行了对比，表1列出了本实施例和随机森林模型使用五折交叉验证法在hmddv3.0数据集上生成的结果：

表1在五折交叉验证下基于hmddv3.0数据集本发明与随机森林模型结果的比较

图3和图4分别展示了本发明和随机森林模型生成的roc曲线；通过对比可以看出，本实施例在敏感率、特异率、精准率、马修斯相关系数、auc值上均取得了更加优异的成绩，其结果均高于随机森林的方法，这个结果表明，本发明的综合性能要优于随机森林模型。

实施例3

为了进一步体现本发明预测方法的效果，将此预测方法与目前最新的计算模型进行了对比，图5展示了在五折交叉验证下基于相同的hmdd数据集下，不同模型与本发明的均值auc对比柱状图；auc值代表模型的预测性能，通过对比可以看到：本发明相对于最新的计算模型拥有更高的auc值，综合表现优于其他模型。

实施例4

为了进一步评估预测模型在实际应用中预测潜在microrna-疾病关联关系的性能，针对乳腺肿瘤和肺癌肿瘤进行了实例验证，在实验中，将hmdd数据集中提供的所有已知microrna-疾病关联作为训练数据集，接着分别构建microrna-对应疾病的测试样本，并且删除掉测试样本中已经在训练样本中出现的关联数据，最后选择测试得分最高的前50种micrornas在另外两个权威数据库中进行验证，mircancer和dbdemc；

乳腺肿瘤是女性最常见的恶性肿瘤，它几乎都发生在女性身上，但男性也可能发生，它可以从乳房的不同部位开始通过血液或淋巴管向外扩散；此外，越来越多的研究表明，micrornas是一种乳腺肿瘤患者预后和诊断的新工具；因此，预测潜在的micrornas-乳腺肿瘤关联，可以为乳腺癌早期诊断和预防识别出一种新的候选microrna；如表2所示：

表2本发明预测的前50个与乳腺肿瘤相关的micrornas

本发明用于预测可能与乳腺肿瘤相关的micrornas，最终预测得分最高的前50名micrornas中有48个得到了验证；

肺癌是男性和女性癌症死亡的主要原因，它通常在气道细胞或肺组织中形成，影响肺肿瘤的因素主要包括吸烟，二手烟，肺癌家族史，空气污染、hiv感染等，其中吸烟是最重要的危险因素；对于肺肿瘤的治疗和发展，micrornas在其中起着重要的作用，与正常组织相比，microrna在肺癌细胞和肺癌患者血液中的表达水平不受调节控制；此外，肺癌的表型可以改变在体内和体外调节microrna的表达，如表3所示：

表3本发明预测的前50个与肺癌肿瘤相关的micrornas

本发明用于预测可能与肺癌肿瘤相关的micrornas，最终预测得分最高的前50名micrornas中有48个得到了验证。

最后应说明的是：以上所述仅为发明的优选实施例而已，并不用于限制本发明，尽管参照前述实施例对发明进行了详细的说明，对于本领域的技术人员来说，其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换。凡在发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在发明的保护范围之内。