确定脊柱图像集的异常类型的方法及计算设备与流程

本发明涉及图像处理技术领域，尤其涉及一种确定脊柱图像集的异常类型的方法及计算设备。

背景技术：

随着计算机视觉的迅速发展，利用计算机技术来辅助骨科精准手术的技术也逐渐增多。最常见的应用如通过磁共振(magneticresonanceimaging，mri)成像，从磁共振图像中可以得到物质的多种物理特性参数，如质子密度、自旋－晶格驰豫时间t1、自旋－自旋驰豫时间t2、扩散系数、磁化系数、化学位移等等，以将其应用于全身各系统的成像诊断。其中主要的应用之一是脊柱成像，以获得人体的脊柱矢状面图像和脊柱横断面图像，进而应用在各种脊柱疾病诊断中，最具代表性的应用如腰椎间盘突出的辅助诊断。

然而，目前在利用mri图像进行辅助诊断时多采用人工判读的方式，其不可避免地引入以下问题：1)存在误差，由于医务人员的业务水平及不同区域诊疗水平的参差不齐，同一mri图像会得出不同结果；2)腰椎间盘突出的分型较复杂，不易在短时间内进行判读，致使医务工作者负担较重，且效率不高。

鉴于此，需要新的对脊柱的相关图像进行处理的方案，以更好地辅助专业医生实现对各种脊柱疾病的诊断。

技术实现要素：

为此，本发明提供了一种确定脊柱图像集的异常类型的方法及计算设备，以力图解决或者至少缓解上面存在的至少一个问题。

根据本发明的一个方面，提供了一种确定脊柱图像集的异常类型的方法，该方法适于在计算设备中执行，脊柱图像集包括一个脊柱矢状面图像及与其对应的至少一个脊柱横断面图像，包括步骤：从脊柱矢状面图像中获取至少一个间盘区域；基于间盘区域，来确定脊柱矢状面图像的第一异常类型；从脊柱横断面图像中确定异常区域和至少一个关键点；结合异常区域和关键点来确定脊柱横断面图像的第二异常类型；以及结合第一异常类型和第二异常类型，来确定脊柱图像集的异常类型。

可选地，在根据本发明的方法中，结合第一异常类型和第二异常类型，来确定脊柱图像集的异常类型的步骤包括：结合第一异常类型和第二异常类型，来确定脊柱图像集所包含的间盘区域的异常类型。

可选地，根据本发明的方法还包括步骤：从脊柱矢状面图像中确定出存在异常的间盘区域；以及从脊柱图像集中获取与存在异常的间盘区域相对应的脊柱横断面图像，作为待处理的脊柱横断面图像。

可选地，根据本发明的方法还包括步骤：利用第二神经网络来处理待处理的脊柱横断面图像，以判断该脊柱横断面图像是否异常；以及在确定脊柱横断面图像异常时，从该脊柱横断面图像中确定异常区域和至少一个关键点。

可选地，在根据本发明的方法中，从脊柱矢状面图像中获取至少一个间盘区域的步骤包括：从脊柱矢状面图像中获取各骨骼的位置；以相邻骨骼的中心点的连线为边生成对应的正方形，作为至少一个感兴趣区域；以及基于感兴趣区域生成对称区域，其中对称区域以连线为对称轴呈左右对称；以及基于对称区域，生成间盘区域。

可选地，在根据本发明的方法中，基于间盘区域来确定脊柱矢状面图像的第一异常类型的步骤包括：从脊柱矢状面图像中截取出各间盘区域；对各间盘区域分别进行缩放处理，以生成至少一个间盘区域图像；利用第一神经网络来处理间盘区域图像，以输出第一异常类型。

可选地，在根据本发明的方法中，第一异常类型包含5种类型。

可选地，在根据本发明的方法中，从脊柱横断面图像中确定异常区域和至少一个关键点的步骤包括：利用第三神经网络来处理所述脊柱横断面图像，以输出第一图像，其中在第一图像中具有特定像素值的区域为异常区域；对第一图像进行插值处理，以获得第二图像，第二图像与所述脊柱横断面图像具有相同尺寸；利用第四神经网络来处理脊柱横断面图像，以输出包含至少一个关键点位置的至少一个热图；以及将热图合并生成预测图，其中预测图包含关键点。

可选地，在根据本发明的方法中，结合异常区域和关键点来确定该脊柱横断面图像的第二异常类型的步骤包括：根据所确定的关键点生成网格；根据异常区域在所述网格中的位置，确定脊柱横断面图像的第二异常类型。

可选地，在根据本发明的方法中，第二异常类型包含10种类型。

可选地，在根据本发明的方法中，第四神经网络通过卷积处理层和空间融合层耦接而成，其中，卷积处理层包含8层卷积，且各层卷积中采用的卷积核大小依次为：5*5、5*5、5*5、5*5、9*9、1*1、1*1、1*1；以及空间融合层包含5层卷积，且各层卷积中采用的卷积核大小依次为：7*7、13*13、13*13、1*1、1*1；并且，将卷积处理层中第三层卷积和第七层卷积的输出结合后，作为空间融合层的输入。

可选地，根据本发明的方法还包括预先训练生成第四神经网络的步骤：构造预训练的第四神经网络，并设置初始的网络参数；将训练图像输入预训练的第四神经网络，通过损失函数计算网络的输出所对应的损失值；根据损失值调整网络参数；以及重复迭代计算损失值和调整网络参数的步骤，直到满足预定条件时训练结束。

可选地，根据本发明的方法还包括步骤：将训练图像输入预训练的第四神经网络，通过损失函数分别计算网络中预定层的输出所对应的损失；以及结合各层的损失得到该网络所对应的损失值，其中，预定层包括卷积处理层中第4、6、8层卷积、以及空间融合层中第5层卷积。

可选地，在根据本发明的方法中，第一神经网络和第二神经网络均通过至少一个深度残差网络耦合生成，第三神经网络通过收缩路径和扩张路径耦接生成。

根据本发明的又一方面，提供了一种计算设备，包括：一个或多个处理器；和存储器；一个或多个程序，其中一个或多个程序存储在存储器中并被配置为由一个或多个处理器执行，一个或多个程序包括用于执行如上所述方法中的任一方法的指令。

根据本发明的再一方面，提供了一种存储一个或多个程序的计算机可读存储介质，一个或多个程序包括指令，指令当计算设备执行时，使得计算设备执行如上所述的方法中的任一方法。

综上，根据本发明的方案，针对一个脊柱图像集，首先确定脊柱矢状面图像中的每一个间盘区域对应的第一异常类型；而后，对于存在异常的间盘区域，又可以进一步获取其对应的脊柱横断面图像，并在处理后确定出该脊柱横断面图像对应的第二异常类型。这样，结合第一异常类型和第二异常类型，就可以确定出各间盘区域对应的异常类型，综合所有间盘区域的异常类型，就得出该脊柱图像集的异常类型。对脊柱图像集中的脊柱矢状面图像和脊柱横断面图像进行不同的处理，来将多视角、多类型数据融合，以得到最准确的判断结果。

附图说明

为了实现上述以及相关目的，本文结合下面的描述和附图来描述某些说明性方面，这些方面指示了可以实践本文所公开的原理的各种方式，并且所有方面及其等效方面旨在落入所要求保护的主题的范围内。通过结合附图阅读下面的详细描述，本公开的上述以及其它目的、特征和优势将变得更加明显。遍及本公开，相同的附图标记通常指代相同的部件或元素。

图1示出了根据本发明一个实施例的计算设备100的构造示意图；

图2示出了根据本发明一个实施例的确定脊柱图像集的异常类型的方法200的流程示意图；

图3a和图3b分别示出了脊柱矢状面图像和脊柱横断面图像的示意图；

图4a和图4b分别示出了根据本发明一个实施例的感兴趣区域和间盘区域的示意图；

图5a和图5b分别示出了根据本发明实施方式的正常的脊柱横断面图像和异常的脊柱横断面图像的示意图；

图6示出了根据本发明一个实施例的脊柱横断面图像中的关键点的示意图；

图7示出了根据本发明一个实施例的四神经网络700的结构示意图；

图8示出了根据本发明一个实施例的脊柱横断面图像的第二异常类型的示意图；以及

图9示出了根据本发明实施例的确定脊柱横断面图像的异常类型的示意性示意图。

具体实施方式

下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例，然而应当理解，可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本公开，并且能够将本公开的范围完整的传达给本领域的技术人员。

图1是示例计算设备100的框图。在基本的配置102中，计算设备100典型地包括系统存储器106和一个或者多个处理器104。存储器总线108可以用于在处理器104和系统存储器106之间的通信。

取决于期望的配置，处理器104可以是任何类型的处理器，包括但不限于：微处理器(μp)、微控制器(μc)、数字信息处理器(dsp)或者它们的任何组合。处理器104可以包括诸如一级高速缓存110和二级高速缓存112之类的一个或者多个级别的高速缓存、处理器核心114和寄存器116。示例的处理器核心114可以包括运算逻辑单元(alu)、浮点数单元(fpu)、数字信号处理核心(dsp核心)或者它们的任何组合。示例的存储器控制器118可以与处理器104一起使用，或者在一些实现中，存储器控制器118可以是处理器104的一个内部部分。

取决于期望的配置，系统存储器106可以是任意类型的存储器，包括但不限于：易失性存储器(诸如ram)、非易失性存储器(诸如rom、闪存等)或者它们的任何组合。系统存储器106可以包括操作系统120、一个或者多个应用122以及程序数据124。在一些实施方式中，应用122可以布置为在操作系统上利用程序数据124进行操作。

计算设备100还可以包括有助于从各种接口设备(例如，输出设备142、外设接口144和通信设备146)到基本配置102经由总线/接口控制器130的通信的接口总线140。示例的输出设备142包括图形处理单元148和音频处理单元150。它们可以被配置为有助于经由一个或者多个a/v端口152与诸如显示器或者扬声器之类的各种外部设备进行通信。示例外设接口144可以包括串行接口控制器154和并行接口控制器156，它们可以被配置为有助于经由一个或者多个i/o端口158和诸如输入设备(例如，键盘、鼠标、笔、语音输入设备、图像输入设备)或者其他外设(例如打印机、扫描仪等)之类的外部设备进行通信。示例的通信设备146可以包括网络控制器160，其可以被布置为便于经由一个或者多个通信端口164与一个或者多个其他计算设备162通过网络通信链路的通信。

网络通信链路可以是通信介质的一个示例。通信介质通常可以体现为在诸如载波或者其他传输机制之类的调制数据信号中的计算机可读指令、数据结构、程序模块，并且可以包括任何信息递送介质。“调制数据信号”可以是这样的信号，它的数据集中的一个或者多个或者它的改变可以在信号中以编码信息的方式进行。作为非限制性的示例，通信介质可以包括诸如有线网络或者专线网络之类的有线介质，以及诸如声音、射频(rf)、微波、红外(ir)或者其它无线介质在内的各种无线介质。这里使用的术语计算机可读介质可以包括存储介质和通信介质二者。在一些实施例中，计算机可读介质中存储一个或多个程序，这一个或多个程序中包括执行某些方法的指令。

计算设备100可以实现为小尺寸便携(或者移动)电子设备的一部分，这些电子设备可以是诸如蜂窝电话、数码照相机、个人数字助理(pda)、个人媒体播放器设备、无线网络浏览设备、个人头戴设备、应用专用设备、或者可以包括上面任何功能的混合设备。当然，计算设备100也可以实现为包括桌面计算机和笔记本计算机配置的个人计算机，或者是具有上述配置的服务器。本发明的实施方式对此均不作限制。

在根据本发明的一些实施例中，计算设备100被配置为执行确定脊柱图像集常类型的方法200，程序数据124中包含了用于执行该方法200的相关指令。

图2示出了根据本发明一个实施例的确定脊柱图像集的异常类型的方法200的流程图。

在结合图2对方法200进行详细阐述之前，首先需要说明的是，根据本发明的实施例，关于脊柱的mri图像有两种，一种是脊柱矢状面图像，另一种是脊柱横断面图像。其中，脊柱横断面图像可以看成是脊柱矢状面图像的水平横切视角。一般地，针对某次诊疗处理所拍摄的医学影像，可能会产生至少一个脊柱矢状面图像和至少一个脊柱横断面图像，通常一个脊柱矢状面图像对应至少一个脊柱横断面图像，且相邻脊柱横断面图像之间是等距的。根据本发明的实施方式，选取拍摄最靠中间、包含间盘最多的一个脊柱矢状面图像，作为根据本发明实施方式的待处理的脊柱矢状面图像。之后，利用这一个脊柱矢状面图像和至少一个脊柱横断面图像形成根据本发明实施例的脊柱图像集。如图3a示出的是脊柱矢状面图像的示意图，图3b示出的是脊柱横断面图像的示意图。

根据本发明的实施方式，脊柱图像集的异常主要针对脊柱图像中间盘区域的突出。一般地，若脊柱图像(包含脊柱横断面图像和脊柱矢状面图像)中某个间盘区域存在突出现象(医学上通常认为这种情况可能存在椎间盘病变)，则认为该间盘区域是异常的，进而确定该脊柱图像异常；否则，若间盘区域不存在突出现象，则认为该间盘区域正常，进而确定该脊柱图像正常。方法200基于pfirrmann医学定义和msu医学定义，通过深度学习的方式，对间盘区域的突出的类型做了进一步区分。

如图2所示，方法200始于步骤s210。在步骤s210中，从脊柱矢状面图像中获取至少一个间盘区域。

根据一种实施例，间盘区域应当包含脊柱图像中间盘-脊髓三角区(即，椎间盘)，以下示出根据本发明一个实施例的获取间盘区域的过程。

第一步，从脊柱矢状面图像中获取各骨骼的位置。如图3a所示，脊柱椎体自上而下依次排列，其中位于最下方为三角形、并呈45度倾斜的骨头是骶骨。在根据本发明的实施方式中，基于各块骨骼的特征，先从脊柱矢状位图像中定位出每一块骨骼。可选地，可以采用一般的图像处理算法来定位出各块骨骼的位置，亦可以基于机器学习或深度学习来构建定位模型，以定位出各块骨骼的位置。本发明的实施例对此不做限制。更进一步地，从图3a中可以看出，相较于其它椎骨，骶骨的特征更为明显，故在定位出各块骨骼后，还可以从中确认出骶骨，进而依序确认其它椎骨。

在根据本发明的实施例中，采用矩形框标注出定位到的每一块骨骼(矩形框的大小根据每块骨骼本身的大小决定)。这样，矩形框的四个顶点的坐标就代表了骨骼的位置。

第二步，以相邻骨骼的中心点的连线为边生成对应的正方形，作为至少一个感兴趣区域。感兴趣区域定义为包含间盘和骨髓交汇处的区域。在一种实施例中，根据矩形框的四个顶点就可以确定出中心点，将相邻骨骼的中心点相连，作为正方形的一条边，进而构建出正方形方框，这个正方形方框所指示的就是对应骨骼的感兴趣区域。如图4a，示出了根据本发明一个实施例的包含感兴趣区域的脊柱矢状面图像的示意图，在脊柱矢状面图像中，用方框标注出的区域就是感兴趣区域。

第三步，基于该感兴趣区域生成对称区域，其中对称区域以该连线(即，正方形的边)为对称轴呈左右对称。这样，感兴趣区域呈正方形，对称区域呈长方形，且对称区域的垂直对称轴是正方形的一条边。

第四步，基于该对称区域，生成间盘区域。根据本发明的实施例，鉴于相邻的对称区域之间可能会有重叠，将对称区域绕其中心缩小0.2倍，得到间盘区域。图4b示出了根据本发明一个实施例的包含间盘区域的脊柱矢状面图像的示意图。如图4，在脊柱矢状面图像中用一个个矩形框标注出的区域即为该脊柱矢状面图像的一个个间盘区域。

随后，在步骤s220中，基于所获取的间盘区域，来确定该脊柱矢状面图像的第一异常类型。

根据本发明的实施例，第一异常类型采用pfirmann椎间盘退变分级，包含5种类型，分别记作1级、2级、3级、4级和5级。随着级别的提高，椎间盘退变的程度也相应加重。如表1，示出了第一异常类型对应的医学定义。

表1第一异常类型的医学定义

根据一种实施方式，从脊柱矢状面图像中截取出所获取的各间盘区域，而后，对所截取的各间盘区域分别进行缩放处理，生成对应的间盘区域图像。可选地，将截取出的间盘区域统一缩放至70*70的尺寸大小(即，图像分辨率为70*70，下文中所指图像尺寸均作此解释，不再赘述)，作为间盘区域图像。最后，利用第一神经网络来处理间盘区域图像，以输出第一异常类型。

根据一些实施例，第一神经网络通过至少一个深度残差网络耦合生成。更具体地，第一神经网络包括相互耦接的一个初始卷积处理层、至少一个深度残差网络、和一个全连接层。其中，初始卷积处理层对输入的间盘区域图像进行卷积处理和池化处理，而后输出数据至深度残差网络。经深度残差网络处理后，输出数据至全连接层。由全连接层处理后，输出一个五维向量，记作{x1，x2，x3，x4，x5}，用来表示第一异常类型的5个类别，其中，x1指示该间盘区域图像属于1级的概率，x2指示该间盘区域图像属于2级的概率，x3指示该间盘区域图像属于3级的概率，x4指示该间盘区域图像属于4级的概率，x5指示该间盘区域图像属于5级的概率。可选地，取最大的概率值所对应的类别，作为该间盘区域图像的第一异常类型。例如，若第一神经网络输出为：{0,0,0,1,0}，则确定输入的间盘区域图像的第一异常类型为4级。

关于卷积神经网络的基本构成属于本领域技术人员已知内容，此处不予赘述。在根据本发明的一个实施例中，初始卷积处理层中卷积核采用7*7大小，深度残差网络中所有的卷积核均采用3*3大小。在本发明的一个实施例中，第一神经网络的初始卷积处理层和深度残差网络可参考34层的resnet网络结构，鉴于resnet网络属于本领域技术人员已知内容，故此处不再赘述。

应当理解，若从一个脊柱矢状面图像中获取到多个间盘区域图像，则针对每个间盘区域图像，均可以利用第一神经网络，来确定出该间盘区域图像的第一异常类型，最终形成该脊柱矢状面图像的第一异常类型。

此外，方法200还包含了预先训练生成第一神经网络的步骤。以下示出根据本发明一种实施例的预先训练生成第一神经网络的过程。

首先，采集一些脊柱矢状面图像，并对所采集的脊柱矢状面图像执行步骤s210，来获取所有的间盘区域。接着，如前所述，从脊柱矢状面图像中截取出所获取的各间盘区域并生成70*70大小的间盘区域图像。将所生成的间盘区域图像作为训练图像。并且，在专业医师的指导下对这些训练图像进行标注，标注方式例如是：若专业医师认为该间盘区域图像属于1级，则标注数据为{1,0,0,0,0}；若专业医师认为该间盘区域图像属于2级，则标注数据为{0,1,0,0,0}；若专业医师认为该间盘区域图像属于3级，则标注数据为{0,0,1,0,0}；依次类推。这样，每个训练图像都具有相应的标注数据。当然，对训练数据的标注方式不限于此，本发明的实施例对此不做过多限制。同时，构造预训练的第一神经网络，并设置初始的网络参数。之后，将训练图像输入到预训练的第一神经网络中，并根据输出的结果和训练图像对应的标注数据对网络参数进行微调，以生成新的第一神经网络，重复上述步骤，直到满足预定条件(预定条件可以是损失值小于某个阈值，也可以是训练的次数达到某个值，不限于此)，总之，当第一神经网络的输出与标注数据接近一致时，训练结束。此时生成的第一神经网络就作为第一神经网络。

在根据本发明的实施方式中，根据pfirmann医学定义，对脊柱矢状面图像中的各间盘区域进行了识别，以确定各间盘区域对应的异常类型。一般地，1级表示间盘区域正常，2级到5级均表示间盘区域异常，具体地，2级和3级表示间盘区域有突出，但不是很严重，4级和5级表示间盘区域突出较为严重。根据本发明的实施方式，在基于脊柱矢状面图像确定第一异常类型后，还进一步对与脊柱矢状面图像相对应的脊柱横断面图像进行识别，以确定第二异常类型，通过多角度的处理，以期得到最准确的结果。

在对步骤s230和步骤s240进行阐述之前，首先需要说明，通常，一个脊柱矢状面图像对应不止一个脊柱横断面图像，针对每个脊柱横断面图像，执行步骤s230和步骤s240，以分别确定每个脊柱横断面图像的第二异常类型。

在步骤s230中，从脊柱横断面图像中确定异常区域和至少一个关键点。

如前文所述，在一些实施例中，脊柱图像集中包含多个脊柱横断面图像。为简化计算，在本发明的一些实施例中，不需要对所有的脊柱横断面图像执行自步骤s230起的后续步骤，而是先基于脊柱图像集中的脊柱矢状面图像来确定出待处理的脊柱横断面图像，再对待处理的脊柱横断面图像执行后续步骤。根据一种实施例，先从脊柱矢状面图像中确定出存在异常的间盘区域，再从脊柱图像集中获取与存在异常的间盘区域相对应的脊柱横断面图像，作为待处理的脊柱横断面图像。也就是说，当确定脊柱矢状面图像中包含存在异常的间盘区域时，再获取该间盘区域所对应的水平横切视图，作为待处理的脊柱横断面图像。

关于从脊柱矢状面图像中确定出间盘区域的过程，可参考前文步骤s210的相关描述，图4b示出的就是包含多个间盘区域的脊柱矢状面图像。此外，判断间盘区域是否异常的过程，可以通过人工手段来实现，也可以采用计算机视觉方法来实现，本发明的实施例对此不做过多限制。在一种实施例中，基于步骤s220所确定的结果，当间盘区域对应的第一异常类型是1级时，认为该间盘区域正常；当间盘区域对应的第一异常类型是2-5级中的任意一级时，就认为该间盘区域异常，进而获取该间盘区域对应的脊柱横断面图像。在另一种实施例中，通过特征提取的方式来判断间盘区域是否异常。例如，提取间盘区域图像的至少一个特征，并根据所提取的特征拼接生成该间盘区域图像对应的特征向量。所提取的特征应当尽可能包含图像的形状特征、纹理特征和亮度特征。在根据本发明的实施例中，提取的特征可以是以下特征中的一种或多种：局部纹理特征、方向梯度的金字塔直方图特征、亮度直方图特征和胡矩特征，不限于此。而后，根据特征向量确定对应的间盘区域图像是否存在异常。根据一种实施例，将间盘区域图像输入到预先训练生成的识别模型中，经识别模型处理后，输出表征该间盘区域图像是否存在异常的值。例如，当输出值为0时，表示对应的间盘区域图像正常；当输出值为1时，表示对应的间盘区域图像异常。识别模型可以是机器学习模型(如支持向量机)、也可以是其他深度卷积模型，本发明的实施例对此不做限制。

在根据本发明的另一些实施例中，在确定出待处理的脊柱横断面图像之后，还可以对这些脊柱横断面图像进行初步筛选，即，进一步判断这些脊柱横断面图像是否异常。在筛选出异常的脊柱横断面图像后，再确定这些脊柱横断面图像的异常区域和关键点。通过这种方式，既可以确保计算的准确性，又降低了计算量，提高效率。

如前文所述，脊柱图像的异常主要针对间盘区域的突出，若脊柱横断面图像所指示的间盘区域不存在突出，则认为该脊柱横断面图像正常；反之，若脊柱横断面图像所指示的间盘区域存在突出，则认为该脊柱横断面图像异常。如图5a和图5b，分别示出了根据本发明实施方式的正常的脊柱横断面图像和异常的脊柱横断面图像。

例如，可以采用传统的图像处理算法或是深度学习方法来对脊柱横断面图像进行初步筛选，以判断脊柱横断面图像是否异常。在本发明的一种实施例中，通过构建深度学习网络来判断脊柱横断面图像是否异常。具体地，利用第二神经网络来处理该脊柱横断面图像，以判断脊柱横断面图像是否异常；在经判断后确定该脊柱横断面图像异常时，从该脊柱横断面图像中确定异常区域和至少一个关键点。

根据本发明的实施例，基于卷积神经网络，第二神经网络通过至少一个深度残差网络耦合生成。通过采用残差网络的结构，在不显著增加网络深度的前提下，提升网络的准确率。在本发明的实施例中，第二神经网络采用34层的resnet网络结构，输入脊柱横断面图像，输出两个类别，例如，若输出为“1”，就表示输入的脊柱横断面图像异常，若输出为“0”，就表示输入的脊柱横断面图像正常。当然不限于此。第二神经网络的结构可参考resnet网络，鉴于resnet网络属于本领域技术人员已知内容，故此处不再赘述。

此外，方法200还包含了训练生成第二神经网络的步骤。以下示出根据本发明一种实施例的训练生成第二神经网络的过程。

首先，采集一些脊柱横断面图像作为训练图像(例如，采集1500张脊柱横断面图像)，并在专业医师的指导下对这些训练图像进行标注，标注方式例如是：若脊柱横断面图像正常，则标注为0；若脊柱横断面图像异常，则标注为1。这样，每个训练图像都具有相应的标注数据。同时，构造预训练的第二神经网络，并设置初始的网络参数。之后，将训练图像输入到预训练的第二神经网络中，并根据输出的结果和训练图像对应的标注数据对网络参数进行微调，以生成新的第二神经网络，重复上述步骤，直到第二神经网络的输出与标注数据的损失满足预定条件(本发明的实施例对损失函数的选取不做限制)，即，第二神经网络的输出与标注数据接近一致，训练结束(当然，也可以设置为在训练次数达到一定数量时，训练结束，不限于此)。此时生成的第二神经网络就作为第二神经网络。

接下来，从经过上述筛选处理后获取的脊柱横断面图像(为便于描述，下文均称之为脊柱横断面图像)中，确定异常区域和至少一个关键点。本步骤又可以分成两步来执行：(1)确定脊柱横断面图像中的异常区域；(2)确定脊柱横断面图像中的至少一个关键点。以下对这两步进行一一阐述。

(1)确定脊柱横断面图像中的异常区域。

在确定脊柱横断面图像异常后，利用第三神经网络来处理该脊柱横断面图像，以输出第一图像。在一些实施例中，在第一图像中具有特定像素值的区域就是异常区域，例如，以二值化的方式来表示第一图像，当像素值为1时，表示该像素属于异常区域，当像素值为0时，表示该像素不属于异常区域，但不限于此。根据本发明的实施例，第三神经网络采用卷积神经网络，如u-net网络结构，输入脊柱横断面图像，输出分割出异常区域的图像，即第一图像。应当了解，经u-net网络结构输出的第一图像的尺寸要小于输入图像的尺寸，故在得到第一图像后，还要对第一图像进行插值处理，以获得第二图像，以保证第二图像与输入的脊柱横断面图像具有相同尺寸。插值处理例如可以是双线性插值处理，但不限于此。

以下对第三神经网络的网络结构进行进一步阐述。参考u-net网络，第三神经网络通过一个收缩路径和一个扩张路径耦接生成。其中，收缩路径遵循典型的卷积网络结构，其包含多个第一卷积处理块，各第一卷积处理块包含两个重复的3*3的卷积核(无填充卷积，unpaddedconvolution)、激活函数和一个最大池化单元，其中激活函数均使用修正线性单元(rectifiedlinearunit，relu)激活函数，最大池化单元包含一个用于下采样(downsample)的步长为2的2*2最大池化操作。另外，在每一个下采样的步骤中，特征通道数量都加倍。在扩张路径中，包含多个第二卷积处理块和输出块。其中，每个第二卷积处理块包含两个3*3的卷积核、激活函数和一个上采样单元。收缩路径还适于分别对经各第一卷积处理块处理后所生成的特征图进行裁剪(由于在每次卷积操作中，边界像素存在缺失问题，因此有必要对特征图进行裁剪)，再将裁剪后的特征图输入到对应的扩张路径的第二卷积处理块中。假设收缩路径中包含两个第一卷积处理块，扩张路径中包含两个第二卷积处理块，那么，将第二个第一卷积处理块输出的特征图裁剪后，输入到扩张路径的第一个第二卷积处理块，将第一个第一卷积处理块输出的特征图裁剪后，输入到扩张路径的第二个第二卷积处理块。这样，每个第二卷积处理块都包含对由上一第二卷积处理块输出的特征图进行上采样(upsample)——即用2*2的卷积核进行卷积运算(上卷积，up-convolution)的操作，用于减少一半的特征通道数量；接着级联收缩路径中相应的裁剪后的特征图；再用两个3*3的卷积核进行卷积运算，同样均使用relu激活函数。在最后一个输出块，利用1*1的卷积核进行卷积运算，将每个特征向量映射到网络的输出块。

同样地，方法200还包含了预先训练生成第三神经网络的步骤。以下示出根据本发明一种实施例的预先训练生成第三神经网络的过程。

在上述用于训练第二神经网络的脊柱横断面图像中，将被标注为异常图像的脊柱横断面图像，作为训练生成第三神经网络的训练图像。在专业医师的指导下、利用标注软件标注出各训练图像中的异常区域。这样，每个训练图像均具有相应的标注数据(标注数据例如是异常区域的位置)。或者，对训练图像进行二值化处理，根据专业医师的指导，将训练图像中属于异常区域的像素的像素值设为1，不属于异常区域的像素的像素值设为0。这样，各像素的像素值就可以作为各训练图像的标注数据，不限于此。同时，构造预训练的第三神经网络，并设置初始的网络参数。之后，将训练图像输入到预训练的第三神经网络中，并根据输出的结果和训练图像对应的标注数据对网络参数进行微调，以生成新的第三神经网络，重复上述步骤，直到第三神经网络的输出与标注数据的损失满足预定条件(本发明的一个实施例中，损失函数采用pixelwisesoftmaxcrossentropy，像素级别的交叉熵，但不限于此)，即，第三神经网络的输出与标注数据接近一致，训练结束(当然，还可以设置为在训练次数达到一定数量时，训练结束，不限于此)。此时生成的第三神经网络就作为第三神经网络。

至此，就获取了脊柱横断面图像中的异常区域。

(2)确定脊柱横断面图像中的至少一个关键点。

为便于后期确定第二异常类型，在本申请的实施方式中，利用关键点检测技术，从脊柱横断面图像中提取出6个关键点，这6个关键点的位置如图6所示，分别位于上下关节突、椎体正中及两椎板汇聚处内缘，由这6个关键点形成一个菱形，且为突出显示，在图6中用红色显示这6个关键点。

以下示出根据本发明一个实施例的检测关键点的过程。首先，利用第四神经网络来处理脊柱横断面图像，以输出包含至少一个关键点位置的至少一个热图；接着，将所输出的这至少一个热图合并，生成预测图，其中预测图包含了所述关键点。在根据本发明的实施例中，要检测的关键点数目为6，故经第四神经网络输出6个热图。

图7示出了根据本发明一个实施例的第四神经网络700的结构示意图。如图7所示，第四神经网络700通过卷积处理层710和空间融合层720耦接而成。其中，卷积处理层710采用典型的卷积网络结构，其由8层卷积构成，分别记作“卷积1”“卷积2”“卷积3”“卷积4”“卷积52”“卷积6”“卷积7”“卷积8”，且每一层卷积中采用的卷积核大小依次为：5*5、5*5、5*5、5*5、9*9、1*1、1*1、1*1。另外，在前两层卷积中，除了卷积处理外，还包括池化处理(池化处理例如是最大值池化，不限于此)。在本实施例中，通过空间融合层720来进一步学习关键点之间的内在联系。如图7所示，将第三层卷积和第七层卷积(即，卷积3和卷积7)的输出结合后，输入到空间融合层720，再经过5层卷积处理，最终输出包含了关键点的热图(heatmap)。空间融合层720中包含5层卷积，分别记作“卷积1_f”“卷积2_f”“卷积3_f”“卷积4_f”“卷积5_f”，且各层卷积中所采用的卷积核大小依次为：7*7、13*13、13*13、1*1、1*1。应当指出，在卷积处理层710和空间融合层720中，各层卷积中还可以包含激活函数(如relu)，激活函数可以通过设置单独的激活层实现，也可以在构造层对象时通过传递activation参数实现，本发明的实施例对此不做限制。关于卷积神经网络的基本构成属于本领域技术人员已知内容，此处不予赘述。

方法200还包含了预先训练生成第四神经网络700的步骤。以下示出根据本发明一个实施例的训练生成第四神经网络700的过程。

同样地，将上述用于训练生成第三神经网络的脊柱横断面图像，再作为训练生成第四神经网络的训练图像。在专业医师的指导下、利用标注软件标注出各训练图像中的6个关键点，并根据标注出的6个关键点的位置生成高斯热力图(作为目标图像)。同时，构造预训练的第四神经网络(预训练的第四神经网络的网络结构可参考上文关于第四神经网络700的相关描述)，并设置初始的网络参数。之后，将训练图像输入到预训练的第四神经网络中，利用损失函数计算第四神经网络的输出相对于目标图像的损失值。在根据本发明的一些实施例中，将训练图像输入到预训练的第四神经网络时，通过损失函数分别计算第四神经网络中预定层的输出所对应的损失，再结合各层的损失得到该第四神经网络所对应的损失值。如前文所述，在第四神经网络中，卷积处理层由8层卷积构成，空间融合层由5层卷积构成，预定层设为卷积处理层中第4、6、8层、以及空间融合层中第5层(即，图7所示的“卷积4”“卷积6”“卷积8”“卷积5_f”)。通过损失函数分别计算这4层所输出的热图中关键点的位置，相对于目标图像中关键点的位置的损失，得到4个损失，如图7，示意性地示出了根据这4个预定层的输出计算出4个损失(分别记作第一损失、第二损失、第三损失、第四损失)，再将这4个损失相结合，就得到了本次训练中第四神经网络的损失值。需要说明的是，可以通过加权求和的方式计算出这4个损失对应的损失值，本发明的实施例对此不做过多限制。之后，根据损失值对网络参数进行微调，以生成新的第四神经网络。重复迭代上述计算损失值的步骤和调整网络参数的步骤，直到满足预定条件(预定条件可以是损失值小于某个阈值，也可以是训练的次数达到某个值，不限于此)，总之，当第四神经网络最终输出的预测图中关键点的位置与目标图像中关键点的位置接近一致时，训练结束。此时生成的第四神经网络就作为第四神经网络。

随后在步骤s240中，结合异常区域和关键点来确定该脊柱横断面图像的第二异常类型。

根据msu医学定义，结合异常区域所处位置、及异常区域的大小，脊柱横断面图像的第二异常类型包含10种类型。根据一种实施例，这10种类型主要是针对椎间盘突出而进行的分类，通过t2加权像上对突出最严重节段与关节突关节间线关系的测量，用1、2、3表示异常区域的大小(指示了间盘突出的程度)，用a、b、c表示异常区域所处位置(指示了间盘突出的位置)。图8示出了根据本发明实施例的脊柱横断面图像的第二异常类型的示意图。如图8所示，第二异常类型所包含的10种类型分别记作：1-a、1-b、1-c、2-a、2-b、2-c、3-a、3-b、2-ab、3-ab。图8中黑色填充部分表征了脊柱横断面图像中的异常区域。

在根据本发明的实施例中，根据所确定的至少一个关键点生成网格，例如对确定的6个关键点进行编号，按编号顺序连接这6个关键点，最终生成一个3*3的网格。而后，根据异常区域在该网格中的位置，就可以确定出脊柱横断面图像的异常类型。结合图8，当脊柱横断面图像中的异常区域大部分处于网格的第1行第2列中时，就确定该脊柱横断面图像的第二异常类型是1-a；同样，当脊柱横断面图像的异常区域大部分处于网格第1行第3列中时，就确定该脊柱横断面图像的第二异常类型是1-b；依次类推，此处不再一一赘述。

图9示出了根据本发明实施例的确定脊柱横断面图像的第二异常类型的示意性示意图。将指示了异常区域的脊柱横断面图像901(为便于突出显示，用绿色标记了图像中的异常区域)映射到确定出关键点且生成网格的脊柱横断面图像902(为便于突出显示，用红色标记了图像中的关键点，网格如图9中虚线所示)中，生成脊柱横断面图像903。基于脊柱横断面图像903，就可以得出异常区域处于网格中的具体位置，进而确定出第二异常类型。如图9中所示出的脊柱横断面图像903，可以确定出第二异常类型为2-ab和1-b。

通过确定出的第二异常类型，能够更直观地将临床症状体征和脊柱横断面图像中异常区域(即，椎间盘突出的部位)联系起来，这对于临床手术入路和手术方式的选择具有很大的指导意义。

随后在步骤s250中，结合第一异常类型和第二异常类型，来确定该脊柱图像集的异常类型。换句话说，结合第一异常类型和第二异常类型，来确定该脊柱图像集所包含的间盘区域的异常类型。

如前文所述，在执行了前述步骤后，针对一个脊柱图像集，对于脊柱矢状面图像中的每一个间盘区域，都可以确定出其对应的第一异常类型；而对于存在异常的间盘区域，又可以进一步获取其对应的脊柱横断面图像，并在处理后确定出该脊柱横断面图像对应的第二异常类型。这样，结合第一异常类型和第二异常类型，就可以确定出各间盘区域对应的异常类型，综合所有间盘区域的异常类型，就得出该脊柱图像集的异常类型。

如表2列举出了，结合间盘区域的第一异常类型和第二异常类型所确定出的异常类型的一些示例。

表2结合第一异常类型和第二异常类型确定异常类型的示例

应当指出，表2中仅列举了第二异常类型包含a型时对应的一些情形，在实际应用中，还有诸如第二异常类型包含b型和ab型等其他情形，此处不再一一列举。通常，利用第一异常类型可以基本判断出间盘区域的异常程度，利用第二异常类型可以进一步确定异常区域的大小及位置。综合第一异常类型和第二异常类型，就可以辅助专业医生判断间盘区域发生病变的风险程度，进而确定是否有必要采取手术、以及、若采取手术，采用何种临床手术入路和手术方式。例如，若第二异常类型为1-a、1-b、1-c，医生可以据此给出保守治疗的建议；若第二异常类型为其他7种类型中的一种，医生一般会建议考虑手术治疗。又如，若第二异常类型包含a型，医生一般会考虑后路手术，若第二异常类型包含ab型及b型，那么医生可以考虑椎间孔镜微创手术。不限于此。

综上，根据本发明的方案，针对一个脊柱图像集，首先确定脊柱矢状面图像中的每一个间盘区域对应的第一异常类型；而后，对于存在异常的间盘区域，又可以进一步获取其对应的脊柱横断面图像，并在处理后确定出该脊柱横断面图像对应的第二异常类型。这样，结合第一异常类型和第二异常类型，就可以确定出各间盘区域对应的异常类型，综合所有间盘区域的异常类型，就得出该脊柱图像集的异常类型。对脊柱图像集中的脊柱矢状面图像和脊柱横断面图像进行不同的处理，来将多视角、多类型数据融合，以得到最准确的判断结果。

同时，本方案基于卷积神经网络，通过训练生成了第一神经网络、第二神经网络、第三神经网络和第四神经网络，以完成对脊柱矢状面图像和脊柱横断面图像的各种处理，大大提高了处理脊柱mri图像的准确率，减小了由于不同医务人员水平或不同地区诊疗水平的差异而带来的诊疗差异。最终确定的结果可以作为参考，医务人员可以依据该结果进行后续的脊髓受压节段定位及精确地疾病诊断，并由此选择合适的临床手术入路和手术方式。进一步地，根据本发明的方案，能够节省确定异常类型的人力和物力，提高诊疗效率。辅助专业医生实现对各种脊柱疾病的精确诊断，大大缓解了医务人员负担。

应当理解，为了精简本公开并帮助理解各个发明方面中的一个或多个，在上面对本发明的示例性实施例的描述中，本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多特征。更确切地说，如下面的权利要求书所反映的那样，发明方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。

本领域那些技术人员应当理解在本文所公开的示例中的设备的模块或单元或组件可以布置在如该实施例中所描述的设备中，或者可替换地可以定位在与该示例中的设备不同的一个或多个设备中。前述示例中的模块可以组合为一个模块或者此外可以分成多个子模块。

本领域那些技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。

本发明一并公开了：

a9、如a8所述的方法，其中，结合异常区域和关键点来确定该脊柱横断面图像的第二异常类型的步骤包括：根据所确定的至少一个关键点生成网格；以及根据异常区域在所述网格中的位置，确定脊柱横断面图像的第二异常类型。

a10、如a1-9中任一项所述的方法，其中，第二异常类型包含10种类型。

a11、如a8或9所述的方法，其中，第四神经网络通过卷积处理层和空间融合层耦接而成。

a12、如a11所述的方法，其中，卷积处理层包含8层卷积，且各层卷积中采用的卷积核大小依次为：5*5、5*5、5*5、5*5、9*9、1*1、1*1、1*1；以及空间融合层包含5层卷积，且各层卷积中采用的卷积核大小依次为：7*7、13*13、13*13、1*1、1*1。

a13、如a12所述的方法，其中，卷积处理层还适于将其中第三层卷积和第七层卷积的输出结合后，作为空间融合层的输入。

a14、如a8-13中任一项所述的方法，还包括预先训练生成第四神经网络的步骤：构造预训练的第四神经网络，并设置初始的网络参数；将训练图像输入预训练的第四神经网络，通过损失函数计算网络的输出所对应的损失值；根据损失值调整网络参数；以及重复迭代计算损失值和调整网络参数的步骤，直到满足预定条件时训练结束。

a15、如a11所述的方法，其中，将训练图像输入预训练的第四神经网络，利用损失函数计算网络的输出所对应的损失值的步骤包括：将训练图像输入预训练的第四神经网络，通过损失函数分别计算网络中预定层的输出所对应的损失；以及结合各层的损失得到该网络所对应的损失值。

a16、如a15中任一项所述的方法，其中，预定层包括卷积处理层中第4、6、8层卷积、以及空间融合层中第5层卷积。

a17、如a4-16中任一项所述的方法，其中，第一神经网络通过至少一个深度残差网络耦合生成。

a18、如a6-17中任一项所述的方法，其中，第二神经网络通过至少一个深度残差网络耦合生成。

a19、如a8-18中任一项所述的方法，其中，第三神经网络通过收缩路径和扩张路径耦接生成。

a20、如a19所述的方法，其中，在第三神经网络中，收缩路径包含多个第一卷积处理块，且每个第一卷积处理块包含两个3*3的卷积核、激活函数和一个最大池化单元；扩张路径包含多个第二卷积处理块和输出块，且每个第二卷积处理块包含两个3*3的卷积核、激活函数和一个上采样单元，以及输出块包含1*1的卷积核。

a21、如a20所述的方法，其中，收缩路径还适于分别对经各第一卷积处理块处理后所生成的特征图进行裁剪，再将裁剪后的特征图输入到对应的扩张路径的第二卷积处理块中。

此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在下面的权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。

这里描述的各种技术可结合硬件或软件，或者它们的组合一起实现。从而，本发明的方法和设备，或者本发明的方法和设备的某些方面或部分可采取嵌入有形媒介，例如软盘、cd-rom、硬盘驱动器或者其它任意机器可读的存储介质中的程序代码(即指令)的形式，其中当程序被载入诸如计算机之类的机器，并被所述机器执行时，所述机器变成实践本发明的设备。

在程序代码在可编程计算机上执行的情况下，计算设备一般包括处理器、处理器可读的存储介质(包括易失性和非易失性存储器和/或存储元件)，至少一个输入装置，和至少一个输出装置。其中，存储器被配置用于存储程序代码；处理器被配置用于根据该存储器中存储的所述程序代码中的指令，执行本发明所述的方法。

以示例而非限制的方式，计算机可读介质包括计算机存储介质和通信介质。计算机可读介质包括计算机存储介质和通信介质。计算机存储介质存储诸如计算机可读指令、数据结构、程序模块或其它数据等信息。通信介质一般以诸如载波或其它传输机制等已调制数据信号来体现计算机可读指令、数据结构、程序模块或其它数据，并且包括任何信息传递介质。以上的任一种的组合也包括在计算机可读介质的范围之内。

此外，所述实施例中的一些在此被描述成可以由计算机系统的处理器或者由执行所述功能的其它装置实施的方法或方法元素的组合。因此，具有用于实施所述方法或方法元素的必要指令的处理器形成用于实施该方法或方法元素的装置。此外，装置实施例的在此所述的元素是如下装置的例子：该装置用于实施由为了实施该发明的目的的元素所执行的功能。

如在此所使用的那样，除非另行规定，使用序数词“第一”、“第二”、“第三”等等来描述普通对象仅仅表示涉及类似对象的不同实例，并且并不意图暗示这样被描述的对象必须具有时间上、空间上、排序方面或者以任意其它方式的给定顺序。

尽管根据有限数量的实施例描述了本发明，但是受益于上面的描述，本技术领域内的技术人员明白，在由此描述的本发明的范围内，可以设想其它实施例。此外，应当注意，本说明书中使用的语言主要是为了可读性和教导的目的而选择的，而不是为了解释或者限定本发明的主题而选择的。因此，在不偏离所附权利要求书的范围和精神的情况下，对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。对于本发明的范围，对本发明所做的公开是说明性的，而非限制性的，本发明的范围由所附权利要求书限定。