一种基于判别式深度置信网络的心律失常自动分类方法与流程

本发明涉及心律失常的检测和分类，具体涉及一种基于判别式深度置信网络的心律失常自动分类方法。

背景技术：

医生可对短期ecg信号进行视觉检测来诊断心律失常，而对动态心电图仪长期记录的ecg信号，无法仅依靠视觉检测。随着计算机科学的发展，ecg信号的自动分类分析技术应运而生，现已在心律失常的诊断和分析中起着重要作用，成为辅助临床诊断心脏疾病的重要手段。

近十几年，针对心律失常的检测和分类发展出了几种模式识别方法^[1-3]，主要涉及三个步骤：预处理、波形检测和分段、特征提取和分类。首先，对信号进行预处理，包括：基线漂移、工频干扰、肌电干扰等噪声去除^[4]；然后，波形的检测和分段，包括：p波，qrs波群和t波等特征点检测，并根据以上特征点将ecg信号按心拍进行分段^[5]；最后，特征提取和分类，包括：使用形态，时域和变换域等信息表示心拍特征^[6-8]，使用主成分分析，独立成分分析和线性判别分析等进行特征降维^[9]，以及使用神经网络和支持向量机(supportvectormachine,svm)等实现ecg信号分类^[10-11]。

上述特征提取的方法很大程度上依赖于对ecg信号特征的人为设计和选择，其有效性受诸多因素影响。最近，深度学习提供了一种特征提取和分类同时进行的方法可避免人为设计的特征。acharya等^[12]开发了一个11层的卷积神经网络(convolutionalneuralnetwork,cnn)，实现了自动检测正常和心肌梗塞心律失常的算法，该模型含噪准确率为93.53％，无噪准确率为95.22％。rahhal等^[13]对于自动分类ecg信号，采用深度学习与主动学习(activelearning,al)结合的方法，在特征学习阶段，通过由堆叠的去噪自动编码器(stackeddenoisingautoencoders,sdaes)和其输出层添加柔性最大值(softmax)回归层构建的深度神经网络(deepneuralnetwork,dnn)进行分类。luo等^[14]使用改进的频率切片小波变换提取ecg信号时频特征，送入由sdaes的编码器层和softmax回归层构成的dnn，同时通过对心拍样本进行微调来实现ecg信号分类，其所提模型实现了97.5％的总体准确度。tan等^[15]将cnn与长短期记忆网络结合，提取ecg信号特征，实现对冠状动脉疾病的自动诊断。yang等^[16]通过堆叠稀疏自动编码器(stackedsparseautoencoders,ssaes)深度学习网络提取ecg信号特征，送入softmax分类器实现ecg信号的分类。meng等^[17]采用原始ecg信号与rr间期作为输入，通过4层深度置信网络(deepbeliefnetworks,dbns)进行无监督特征学习，提取的特征被送到svm用于训练，自动识别6类心拍类型，总体精度98.49％。wu等^[18]将dbns与softmax分类器结合，完成特征提取，并实现5类ecg信号分类。熊博等^[19]通过sdaes与softmax分类器，设计dnn，实现了心律失常患者类型的自动分类。yildirim^[20]开发了7层基于深度双向小波的长短期记忆网络(deepbidirectionallong-shorttermmemorynetwork-basedwaveletsequences,dblstm-ws)，实现了5类心拍分类，总体精度为99.39％。

技术实现要素：

本发明的目的是解决目前的提取方法很大程度上依赖于对ecg信号特征的人为设计和选择，其有效性受诸多因素影响的问题，提供一种采用反向传播对网络进行微调，进而实现正常节律、左束支传导阻滞、右束支传导阻滞、室性早搏、房性早搏、起搏心拍共6类心律失常类型的自动分类的基于判别式深度置信网络的心律失常自动分类方法。

上述的目的通过以下的技术方案实现：

一种基于判别式深度置信网络的心律失常自动分类方法，该方法包括如下步骤：

步骤一：ecg信号预处理；

ecg信号送入ddbns网络前，需经过滤波、r峰定位和归一化；

步骤二：ddbns模型构建；

(1)grbm

dbns是学习提取训练数据深层次表示的图形模型，由堆叠的rbm组成，rbm是具有可见和隐含层互连的典型神经网络，在同一层中的任何两个神经元之间没有连接，在可见层上具有二元输入的rbm为bb-rbm，而在可见层上具有实值输入的rbm为gb-rbm；

(2)drbm；

drbm是采用具有两组可见层的单个rbm来训练联合密度模型，除了表示输入数据的单元a外，还有一个相当于“softmax”的分类标签单元b，通过计算样本在每个类别标签下的概率，从而预测最可能的类别y；

其中y∈{1,2,…,k}，k为样本类别数；

步骤三：ddbns模型训练；

整体ddbns模型采用贪婪的分层方式进行训练，无标签数据送入grbm网络中，经过逐层无监督训练，每层rbm的输入为前一层的输出，以从样本中学习到高层次的特征结构，顶层drbm通过有监督学习，得到测试样本在各类别下的后验概率，由此输出对样本分类的判别结果；

步骤四：ddbns模型有监督微调；

ddbns的逐层预训练完成后，将其转换为使用softmax回归层作为输出的dnn，通过最小化式损失函数，反向传播来调整网络参数，执行监督分类；

步骤五：ecg信号送入ddbns网络；

对送入ddbns的256维采样点x与三维rr间期特征r进行归一化处理，对x归一化，得到一个心拍归一化样本，送入网络首层。

所述的一种基于判别式深度置信网络的心律失常自动分类方法，所述的步骤一包括如下过程：

首先，对信号进行9尺度小波分解，将第1层细节系数90～180hz和第9层近似系数0～0.35hz置零，其他小波系数进行自适应小波阈值滤波处理后重构，去除基线漂移及高频干扰；

然后，通过r峰定位来确定心拍位置；

最后，选取包括p波和t波的心拍长度为256个采样点，即取r峰前90、后165个采样点。

所述的一种基于判别式深度置信网络的心律失常自动分类方法，所述的步骤二grbm的具体过程为：

dbns是学习提取训练数据深层次表示的图形模型，由堆叠的rbm组成，rbm是具有可见和隐含层互连的典型神经网络，在同一层中的任何两个神经元之间没有连接，在可见层上具有二元输入的rbm为bb-rbm，而在可见层上具有实值输入的rbm为gb-rbm，bb-rbm与gb-rbm的能量函数定义分别如式(1)、式(2)所示：

其中，θ1＝{wij,bi,cj}，θ2＝{wij,bi,cj,σj}表示rbm待训练参数；

nv和nh分别为可见层与隐含层单元个数；

vi是可见层神经元；

hj是隐含层神经元；

wij是连接可见层和隐含层单元的权值；

bi和cj分别为可见层和隐含层神经元偏置；

σj是可见单元i的高斯分布的标准差；

对于bb-rbm，可见层和隐含层的条件概率如式(3)、式(4)所示；对于gb-rbm，

可见和隐含层的条件概率如式(5)、(6)所示：

其中，δ＝1/1+e^-x为logistic函数；

η(·|μ,σ²)表示高斯分布的均值μ和方差σ²的概率密度函数；

由于输入数据是实值，因此上述gb-rbm用于ddbns的首层，随后的隐含层由bb-rbm组成。

所述的一种基于判别式深度置信网络的心律失常自动分类方法，所述的步骤三的具体过程为：叠构建ddbns的rbm训练能通过最大化训练样本的似然度进行，如式(7)所示：

对θ1,2对数概率求导，需求的条件概率分布和的联合概率分布，采用持续自由能对比散度与cd的综合算法，即首层采用fepcd算法，其余层采用cd算法，对rbm模型进行训练。

所述的一种基于判别式深度置信网络的心律失常自动分类方法，所述的步骤四的具体过程为：ddbns的逐层预训练完成后，将其转换为使用softmax回归层作为输出的dnn，通过最小化式(8)损失函数，反向传播来调整网络参数，执行监督分类：

其中，是softmax的模型参数；

m为训练样本数；

k为样本类别数；

1(·)为指示函数，代表如果该项为真，取1，否则取0，y为样本类别标签；

xi为顶层的输入心拍特征；

n为顶层输入神经元个数。

所述的一种基于判别式深度置信网络的心律失常自动分类方法，所述的步骤五的具体过程为：对送入ddbns的256维采样点x与三维rr间期特征r进行归一化处理，对x归一化，得到一个心拍归一化样本，送入网络首层，如式(9)所示：

其中，μt为训练集心拍样本的第t个均值；

σt为训练集心拍样本的第t个标准差；

而对当前心拍rr间期、下一心拍rr间期、相邻rr间期差异度三维间期特征r中的特征r归一化，得到一个心拍的间期特征，结合grbm提取的形态特征，送入drbm实现分类，如式(10)所示：

其中，rtmax为训练集rr间期特征的第t个最大值；

rtmin为训练集rr间期特征的第t个最小值。

所述的一种基于判别式深度置信网络的心律失常自动分类方法，所述的ddbns模型有监督微调中第一项是指softmax层的交叉熵损失函数，k维向量元素采用函数项实现概率分布的归一化，使得所有类别的概率总和为1，第二项是衰减惩罚项，实现过大参数的惩罚。

本发明所达到的有益效果是：

1.本发明将ddbns转换为使用softmax回归层进行监督分类的dnn，采用反向传播对网络进行微调，进而实现正常节律、左束支传导阻滞、右束支传导阻滞、室性早搏、房性早搏、起搏心拍共6类心律失常类型的自动分类。

2.本发明将grbm提取的心拍信号形态特征与其rr间期特征有机融合送入drbm进行心律失常分类，使drbm的特征学习和分类能力有效发挥，同时克服了人为特征设计及选取的影响。

3.本发明方法识别正常节律、左束支传导阻滞、右束支传导阻滞、室性早搏、房性早搏和起搏心拍6类形态，分类准确率达到99.84％±0.04％，取得了优于基于传统特征选择与其他深度学习方法的结果；在训练和测试集数据来源非一致时，对通过al方法扩充少量训练集的措施进行了初步尝试，6类心拍信号的分类准确率可达99.31％±0.23％，也取得了满意的效果。

4.本发明所构建的提取ecg信号波形形态特征与rr间期特征融合后，结合drbm特征学习及分类的有效性，为深度学习自动提取ecg信号特征及分类提供一种新方法。

附图说明

附图用来提供对本发明的进一步理解，并且构成说明书的一部分，与本发明的实施例一起用于解释本发明，并不构成对本发明的限制。在附图中：

图1是ddbns模型结构图；

图2是drbm的联合分布模型图；

图3是ddbns转换为softmax分类的dnn结构图；

图4是ecg信号滤波效果对比图；

图5是ddbns学习到的6类心拍特征图；

图6是6类心拍波形图；

具体实施方式

以下结合附图对本发明的优选实施例进行说明，应当理解，此处所描述的优选实施例仅用于说明和解释本发明，并不用于限定本发明。

具体实施方式一：

一种基于判别式深度置信网络的心律失常自动分类方法，该方法包括如下步骤：

步骤一：ecg信号预处理；

ecg信号送入ddbns网络前，需经过滤波、r峰定位和归一化；

步骤二：ddbns模型构建；

(1)grbm

dbns是学习提取训练数据深层次表示的图形模型，由堆叠的rbm组成，rbm是具有可见和隐含层互连的典型神经网络，在同一层中的任何两个神经元之间没有连接，在可见层上具有二元输入的rbm为bb-rbm，而在可见层上具有实值输入的rbm为gb-rbm；

(2)drbm；

drbm是采用具有两组可见层的单个rbm来训练联合密度模型，除了表示输入数据的单元a外，还有一个相当于“softmax”的分类标签单元b，通过计算样本在每个类别标签下的概率，从而预测最可能的类别y；

其中y∈{1,2,…,k}，k为样本类别数；

步骤三：ddbns模型训练；

整体ddbns模型采用贪婪的分层方式进行训练，无标签数据送入grbm网络中，经过逐层无监督训练，每层rbm的输入为前一层的输出，以从样本中学习到高层次的特征结构，顶层drbm通过有监督学习，得到测试样本在各类别下的后验概率，由此输出对样本分类的判别结果；

步骤四：ddbns模型有监督微调；

ddbns的逐层预训练完成后，将其转换为使用softmax回归层作为输出的dnn，通过最小化式损失函数，反向传播来调整网络参数，执行监督分类；

步骤五：ecg信号送入ddbns网络；

对送入ddbns的256维采样点x与三维rr间期特征r进行归一化处理，对x归一化，得到一个心拍归一化样本，送入网络首层。

具体实施方式二；

本实施方式是对具体实施方式一所述的一种基于判别式深度置信网络的心律失常自动分类方法的进一步说明，所述的步骤一包括如下过程：

首先，对信号进行9尺度小波分解，将第1层细节系数90～180hz和第9层近似系数0～0.35hz置零，其他小波系数进行自适应小波阈值滤波处理后重构，去除基线漂移及高频干扰；

然后，通过r峰定位来确定心拍位置；

最后，选取包括p波和t波的心拍长度为256个采样点，即取r峰前90、后165个采样点。

具体实施方式三：

本实施方式是对具体实施方式一所述的一种基于判别式深度置信网络的心律失常自动分类方法的进一步说明，所述的步骤二grbm的具体过程为：

所述的步骤二grbm的具体过程为：

dbns是学习提取训练数据深层次表示的图形模型，由堆叠的rbm组成，rbm是具有可见和隐含层互连的典型神经网络，在同一层中的任何两个神经元之间没有连接，在可见层上具有二元输入的rbm为bb-rbm，而在可见层上具有实值输入的rbm为gb-rbm，bb-rbm与gb-rbm的能量函数定义分别如式(1)、式(2)所示：

其中，θ1＝{wij,bi,cj}，θ2＝{wij,bi,cj,σj}表示rbm待训练参数；

nv和nh分别为可见层与隐含层单元个数；

vi是可见层神经元；

hj是隐含层神经元；

wij是连接可见层和隐含层单元的权值；

bi和cj分别为可见层和隐含层神经元偏置；

σj是可见单元i的高斯分布的标准差；

对于bb-rbm，可见层和隐含层的条件概率如式(3)、式(4)所示；对于gb-rbm，

可见和隐含层的条件概率如式(5)、(6)所示：

其中，δ＝1/1+e^-x为logistic函数；

η(·|μ,σ²)表示高斯分布的均值μ和方差σ²的概率密度函数；

由于输入数据是实值，因此上述gb-rbm用于ddbns的首层，随后的隐含层由bb-rbm组成。

具体实施方式四:

本实施方式是对具体实施方式一所述的一种基于判别式深度置信网络的心律失常自动分类方法的进一步说明，所述的步骤三的具体过程为：叠构建ddbns的rbm训练能通过最大化训练样本的似然度进行，如式(7)所示：

对θ1,2对数概率求导，需求的条件概率分布和的联合概率分布，采用持续自由能对比散度与cd的综合算法，即首层采用fepcd算法，其余层采用cd算法，对rbm模型进行训练。

具体实施方式五:

本实施方式是对具体实施方式一所述的一种基于判别式深度置信网络的心律失常自动分类方法的进一步说明，所述的步骤四的具体过程为：ddbns的逐层预训练完成后，将其转换为使用softmax回归层作为输出的dnn，通过最小化式(8)损失函数，反向传播来调整网络参数，执行监督分类：

其中，是softmax的模型参数；

m为训练样本数；

k为样本类别数；

1(·)为指示函数，代表如果该项为真，取1，否则取0，y为样本类别标签；

xi为顶层的输入心拍特征；

n为顶层输入神经元个数。

具体实施方式六：

本实施方式是对具体实施方式一所述的一种基于判别式深度置信网络的心律失常自动分类方法的进一步说明，所述的步骤五的具体过程为：对送入ddbns的256维采样点x与三维rr间期特征r进行归一化处理，对x归一化，得到一个心拍归一化样本，送入网络首层，如式(9)所示：

其中，μt为训练集心拍样本的第t个均值；

σt为训练集心拍样本的第t个标准差；

而对当前心拍rr间期、下一心拍rr间期、相邻rr间期差异度三维间期特征r中的特征r归一化，得到一个心拍的间期特征，结合grbm提取的形态特征，送入drbm实现分类，如式(10)所示：

其中，rtmax为训练集rr间期特征的第t个最大值；

rtmin为训练集rr间期特征的第t个最小值。

具体实施方式七：

本实施方式是对具体实施方式一所述的一种基于判别式深度置信网络的心律失常自动分类方法的进一步说明，所述的ddbns模型有监督微调中第一项是指softmax层的交叉熵损失函数，k维向量元素采用函数项实现概率分布的归一化，使得所有类别的概率总和为1，第二项是衰减惩罚项，实现过大参数的惩罚。

ddbns模型训练与性能评估：

首先，构建ddbns初始化模型，用mit-bihar的训练集对ddbns预训练，并使用其权值初始化，然后使用反向传播微调整个模型。预训练阶段，使用fepcd与cd结合的训练方法；

构建了一个含3个隐含层的ddbns模型，用于心拍信号的特征提取与分类。首先，将零均值单位方差归一化的单心拍ecg信号波形，送入ddbns的前两层grbm，其首层采用gb-rbm，第二层采用bb-rbm，并通过无监督学习获得该网络参数，由此获得第i个心拍样本的形态特征fi，fi＝{f1,f2,…,fn}。此后，融入包括当前心拍rr间期、下一心拍rr间期、相邻rr间期差异度(即当前rr间期减去下一个rr间期除以这两个rr间期的均值)构成的三维间期特征：ri＝{r1,r2,r3}，并将其送入ddbns的顶层drbm^[17]，即一层bb-rbm。然后通过有监督学习，获得该网络参数，完成心律失常的分类。本文构建的ddbns模型结构如图1示；

数设置：首层gb-rbm学习率：0.01；其余层bb-rbm学习率：0.1；动量：[0.5,0.4,0.3,0.2,0.1,0]；批次尺寸：100；训练次数：50。微调阶段，使用小批量梯度优化方法，参数设置：学习率：1；动量：0.5；批次尺寸：100；训练次数：200；λ：1×10^-7。本实验的计算机环境为：中央处理器(centralprocessingunit,cpu)(corei7-6700@3.4ghz,intel,美国)；随机存取存储器(randomaccessmemory,ram)(ddr416gb,samsung,韩国)；图形处理器(graphicsprocessingunit,gpu)(geforcegtx1070,nvidia,美国)。

为便于对心拍信号分类结果的性能评估，使用以下6个标准测量指标^[1]：灵敏度(sensitivity,se)，正检测率(positivepredictivity,pp)，特异性(specificity,sp)，假阳性率(falsepositiverate,fpr)，假阴性率(falsenegativerate,fnr)和整体精度(overallaccuracy,oa)。

选取mlii数据中6类心拍数据用于实验，它们包括正常节律、左束支传导阻滞、右束支传导阻滞、室性早搏、房性早搏和起搏心拍，心拍数据波形如图6示，选择23条具有代表性ecg信号记录按心拍构成数据集，在保证训练集和测试集数据来源一致的条件下，利用留出法将数据集按2：1比例分为训练集和测试集，数据集各类心拍样本分布如表1所示：

表1心拍类别分布

tab.1heartbeatcategorvdisstribution

实验结果分析：

深度学习网络的初始化和训练等具有一定随机性，导致不同次的分类结果有偏差。因此本文通过对数据集进行10次实验，利用平均值和标准差的统计方法计算oa，对基于ddbns的心拍信号分类的准确度和稳定性进行评估。

为了获得较优的模型结构，设计比较了4种不同结构的ddbns对ecg信号进行特征提取与分类的结果，其测试后oa如表2所示。其中ddbns-1结构不含grbm层，ddbns-2至ddbns-4分别含有1、2、3层grbm。

表24种ddens下的oa

tab.2overallaccuracyoffourddens

通过对比，利用ddbns-3结构的oa效果最好，其具有最高的平均值和最低的标准差，因此本文后续继续采用ddbns-3结构：256-500-250(253)-100-6作为进一步性能测试的模型。该模型中的253，代表该层输入为上一层输出的250维心拍信号形态特征结合3维rr间期特征。训练ddbns-3，至分类前学习到的各类ecg信号的100维心拍特征如图6所示，可以观察到它们是稀疏而有区别的。如表3所示，给出了ddbns-3在测试集上进行ecg信号心律失常分类的混淆矩阵。如表4所示，给出了心拍分类前5个测量指标的测试结果。

表3心拍分类结果混淆矩阵

tab.3heartbeatclassificationresultconfusionmatrix

表4心拍分类测试结果

tab.4heartbeatclassificationtestresults

dbns与softmax结合方法(简写为：dbns+softmax)的性能对比如表5所示，其中ttrain为训练集上的训练时间，ttest为测试集上单个样本的测试时间。

表5ddbns与dbns+softmax性能对比

tab.5performancecomparisonbetweenddbnsanddbns+softmax

与dbns+softmax分类器的方法对比可知，采用ddbns特征提取与分类的方法具有更好的性能。本文方法分别与双树复小波变换(dualtreecomplexwavelettransform，dtcwt)结合人工神经网络(artificialneuralnetworks，ann)(简写为：dtcwt+ann)、近邻保持嵌入(neighborhoodpreservingembedding，npe)算法结合svm(简写为：npe+svm)、dbns结合svm(简写为：dbns+svm)、dbns+softmax、sdaes与softmax(简写为：sdaes+softmax)、dblstm-ws6种方法也进行性能对比，如表6所示。最终，与上述方法比较的结果显示了本方法的有效性。

表6心拍分类方法对比

tab.6heartbeatclassificationmethodcomparison

实用性深入测试：

为了评估ddbns模型在心律失常自动分类实际应用场景中的性能，本文采用mit-bihar中不同的患者记录分别构成训练集和测试集，其分布如表7所示。

表7心拍类别分布

tab.7heartbeatcategorydistribution

由于训练集和测试集来源不同，其数据分布差异使得心律失常的自动分类具有挑战性。若单纯采用ddbns与其微调算法模型，对表7数据集进行ecg信号心律失常分类结果一般，分类oa为61.32％±3.17％，尤其在训练集和测试集分布明显差异的l和a两类别分类准确度更低。为了克服这一不足，有效扩大标记训练集是一解决途径。在完成所提ddbns微调算法基础上，通过al方法从测试数据中挑选少量数据进行标记，并参与ddbns模型的有监督微调，在保证算法实时性的同时，提高分类算法的适应性和准确性。

在加入主动学习的实验中，本文保持ddbns初始化模型与微调参数设置不变，在al阶段的参数设置如下：迭代数iter＝5，每次选取标记样本数nal＝10。即每条测试记录通过5次al算法迭代过程，共选择50个样本送入ddbns微调模型中，更新模型参数。采用ddbns-3结构作为本次性能测试模型，在测试集上进行ecg信号心律失常分类的混淆矩阵如表8所示，其6类心拍分类测试结果如表9所示。

表8心拍分类结果混淆矩阵

tab.8heartbaatclassificationresultconfusionmatrix

表9心拍分类测试结果

tab.9heartbeatclassificationtestresults