医学图像分割模型、方法、存储介质及电子设备与流程

文档序号:18889360发布日期:2019-10-15 21:30阅读:157来源:国知局
医学图像分割模型、方法、存储介质及电子设备与流程

本申请涉及人工智能领域,例如涉及一种医学图像分割模型、方法、存储介质及电子设备。



背景技术:

医学图像已经成为医生进行疾病诊断的重要参考信息,在记录疾病过程、诊断疾病、评估治疗效果、预防某些潜在病变等方面发挥着巨大作用。医生的正常工作中,往往需要阅览大量医学图像并做出诊断,这是一个耗时且繁琐的过程,容易受到主观经验和疲劳程度的影响,遗漏图像中的某些细节信息的概率会增加,从而造成漏诊、误诊的情况发生。

医学图像分割是医学图像分析和处理的关键,可以给出医学图像中可能的病变位置,而医生可以根据分割的医学图像的提示,从而进行更加全面与细致的图像分析,有助于降低医生阅片负担、提高诊断准确率以及降低漏诊和误诊的比例。

但现有的医学图像分割方法,主要为基于边缘的图像分割、基于阈值的图像分割、基于区域的图像分割、基于图论的图像分割以及基于主动轮廓模型的图像分割,而这些方法易受被分割图像的边缘、条纹、亮度、对比度等浅层视觉特征的影响,分割效果并不理想,对于形状起伏较大和边界模糊的目标无法获得较高分割精度。



技术实现要素:

有鉴于此,本申请的目的在于提供对医学图像划分精度更高、应用范围更广的一种医学图像分割模型、方法、存储介质及电子设备。

为了实现上述目的,本申请的实施例通过如下方式实现:

第一方面,本申请的实施例提供一种医学图像分割模型,包括:

输入层、复合u型卷积网络和图像输出层,所述输入层用于对待分割图像进行包含采样操作的处理,并将处理后得到的特征图输出至所述复合u型卷积网络,其中,所述输入层输出的特征图中包含对应不同采样程度的特征图;所述复合u型卷积网络包括至少两个通过串联方式和跳跃连接方式连接的u型卷积网络,用于对所述输入层输出的特征图进行包含卷积操作的处理,并将处理后的特征图输出至所述图像输出层;所述图像输出层,用于根据所述复合u型卷积网络输出的特征图确定出分割后的图像并输出。

通过将两个u型卷积网络以串联方式和跳跃连接方式连接起来,形成对图像进行特征提取的复合u型卷积网络,结合输入层输出的对应不同采样程度的特征图,能够提取更丰富的图像特征,而通过跳跃连接的方式连接两个u型卷积网络,能够实现特征复用,进一步丰富图像特征,使得模型对图像的分割更加准确。

结合第一方面,在第一方面的第一种可能的实现方式中,所述复合u型卷积网络包括:

包含第一编码单元和第一解码单元的第一u型卷积网络和包含第二编码单元和第二解码单元的第二u型卷积网络,所述第一编码单元与所述第二编码单元连接,所述第二编码单元与所述第二解码单元连接,所述第二解码单元与所述第一解码单元连接,所述第一编码单元与所述第一解码单元连接;所述第一编码单元与所述输入层连接,用于处理所述输入层输出的特征图。

通过将第一u型卷积网络和第二u型卷积网络各自的编码单元和解码单元进行连接,形成第一u型卷积网络和第二u型卷积网络的串联和跳跃连接,这样可以实现将第一编码单元输出的特征图作为第二编码单元的输入,又作为第一解码单元的输入,实现特征的复用,丰富提取的特征,实现多层次的特征融合,增强梯度的反向传播,可以缓解梯度消失问题,提升医学图像分割模型对图像的分割精度。

结合第一方面的第一种可能的实现方式,在第一方面的第二种可能的实现方式中,所述医学图像分割模型还包括:

融合层,所述融合层连接在所述输入层与所述第一编码单元之间,和/或连接在所述第一编码单元与所述第二编码单元之间,和/或连接在所述第二编码单元与所述第二解码单元之间,和/或连接在所述第二解码单元与所述第一解码单元之间,用于对所述复合u型卷积网络进行多尺度输入。

通过在输入层与第一编码单元和/或第一编码单元与第二编码单元、和/或第二编码单元与第二解码单元和/或第二解码单元与第一解码单元之间设置融合层,融合层可以将不同层次的特征图进行融合后作为输入。这种多尺度的输入方式,可以进一步丰富特征的层次,实现多层次的特征融合,进而提升医学图像分割模型对图像的分割精度。

结合第一方面的第一种可能的实现方式,在第一方面的第三种可能的实现方式中,所述第一u型卷积网络的深度与所述第二u型卷积网络的深度不同。

通过设置不同深度的第一u型卷积网络和第二u型卷积网络,可以提取层次不同的特征,从而丰富提取的特征,结合第一u型卷积网络和第二u型卷积网络的连接方式,可以使提取的特征更加丰富,从而实现提升医学图像分割模型对图像的分割精度。

结合第一方面的第一种可能的实现方式,在第一方面的第四种可能的实现方式中,所述第一编码单元和所述第二编码单元中至少一个采用多尺度卷积模块,所述第一解码单元和所述第二解码单元中至少一个采用循环卷积模块。

第一编码单元和/或第二编码单元采用多尺度卷积模块可以生成多个不同大小的感受野,并把这些多尺度的特征映射组合起来,提取尽可能丰富的特征并利用。而循环卷积块由多个内部连接的卷积层组成,通过采用循环卷积模块,随时间的累积,可以使得每个层有更大的感受野来获取图像中的结构信息。因此,第一解码单元和/或第二解码单元采用循环卷积模块,可以保留图像的空间特征,细化分割结果和边缘信息,最终实现高性能分割。

结合第一方面的第四种可能的实现方式,在第一方面的第五种可能的实现方式中,所述多尺度卷积模块中包括:a×1的卷积核和1×b的卷积核,和/或n个c×c的卷积核,在包括a×1的卷积核和1×b的卷积核而不包括n个c×c的卷积核时,所述多尺度卷积模块中每个卷积核大小为其正常值的在包括n个c×c的卷积核而不包括a×1的卷积核和1×b的卷积核时,所述多尺度卷积模块中每个卷积核大小为其正常值的在包括a×1的卷积核和1×b的卷积核且包括n个c×c的卷积核时,所述多尺度卷积模块中每个卷积核大小为其正常值的其中,a、b、c为大于1的正整数,n为正整数。

通过在多尺度卷积模块中使用a×1的卷积核和1×b的卷积核代替a×b的卷积核,n个c×c的卷积核可以代替d×d的卷积核(d>c),可以通过在相邻块之间共享权重来减少参数,并保持感受野的相同大小,因此可以实现多尺度卷积,从而使得编码单元可以提取丰富的特征。

结合第一方面的第四种可能的实现方式,在第一方面的第六种可能的实现方式中,所述循环卷积模块中包括:

e×e的卷积核和1×1的卷积核,所述1×1的卷积核用于降维和添加非线性激励,所述循环卷积模块中每个卷积核大小为其正常值的其中,e为大于1的正整数。

通过在循环卷积模块中采用e×e的卷积核和1×1的卷积核代替f×f的卷积核(e<f),将卷积的每个核大小设置为网络中原值的并将输入和循环卷积进行合并,而1×1的卷积核可以降维和添加非线性激励,保持输出的一致。因此,能够使得每个层有更大的感受野来获取图像中的结构信息,便于保留图像的空间特征,细化分割结果和边缘信息,以实现对图像的高性能分割。

结合第一方面的第一种至第六种中任一可能的实现方式,在第一方面的第七种可能的实现方式中,所述输入层、所述第一编码单元、所述第二编码单元、所述第二解码单元、所述第一解码单元之间形成m-1个通道,所述图像输出层包括:

包含m个输出模块的侧输出层和总输出层,所述侧输出层中的一输出模块与一通道内的第二解码单元连接,用于根据该通道内的第二解码单元输出的特征图确定出对应该通道的预测图,并输出至所述总输出层;所述侧输出层中其余m-1个输出模块分别与m-1个通道内的第一解码单元一一对应连接,用于根据对应的第一解码单元输出的特征图确定出对应通道的预测图,并输出至所述总输出层,其中,所述预测图反映所述复合u型卷积网络中对应通道对所述待分割图像的处理结果,m>2;所述总输出层与所述侧输出层连接,用于根据所述侧输出层输出的预测图确定出分割后的图像并输出。

通过设置包含m个输出模块的侧输出层,m个输出模块中的一个与第二解码单元的输出相连,以获取与该第二解码单元对应的通道的预测图,而m个输出模块中的其余m-1个输出模块分别与m-1个通道对应连接,以获取对应通道的预测图,从而可以使得图像输出层基于预测图,对医学图像分割模型进行参数调节,使分割更加准确。

第二方面,本申请的实施例提供一种医学图像分割方法,应用于如第一方面或第一方面的第一种至第七种可能的实现方式中任一所述的医学图像分割模型,方法包括:

获取待分割的医学图像;将所述待分割的医学图像输入所述医学图像分割模型中,以获取所述待分割的医学图像的分割结果。

通过提供一种应用于本申请实施例提供的医学图像分割模型的医学图像分割方法,对输入的医学图像进行准确分割,以使得医生能够根据分割后的医学图像更轻松地做出疾病诊断,提高诊断的准确性。

结合第二方面,在第二方面的第一种可能的实现方式中,在将所述待分割的医学图像输入所述医学图像分割模型,以获取待分割的医学图像之前,还包括:

初始化所述医学图像分割模型;输入训练集中的医学图像至所述医学图像分割模型,并计算实际输出和专家标定的每层损失函数,以确定出总体损失函数,其中,所述训练集为原始医学图像中专家标定的部分医学图像;极小化所述每层损失函数,利用反向传播方式进行医学图像分割模型的参数更新;利用所述训练集中的所有医学图像重复训练所述医学图像分割模型,直到达到训练周期,保存在验证集上精度最好的医学图像分割模型,其中,所述验证集为所述原始医学图像中的部分医学图像,且所述验证集中的医学图像与所述训练集中的医学图像不同。

通过在医学图像分割模型投入使用之前,利用医学图像对其进行训练,可以使得训练好的医学图像分割模型对图像的分割更加准确,从而提高对医学图像分割的精度。

第三方面,本申请的实施例提供一种存储介质,所述存储介质包括存储的程序,其中,在所述程序运行时控制所述存储介质所在设备执行第二方面或第二方面的第一种可能的实现方式所述的医学图像分割方法。

第四方面,本申请的实施例提供一种电子设备,包括存储器和处理器,所述存储器用于存储包括程序指令的信息,所述处理器用于控制程序指令的执行,所述程序指令被处理器加载并执行时实现第二方面或第二方面的第一种可能的实现方式所述的医学图像分割方法的步骤。

为使本申请的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。

附图说明

为了更清楚地说明本申请实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本申请的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其它相关的附图。

图1示出了本申请实施例提供的一种医学图像分割模型的结构示意图。

图2示出了本申请实施例提供的一种输入层的结构示意图。

图3示出了本申请实施例提供的一种复合u型卷积网络的结构示意图。

图4示出了本申请实施例提供的一种多尺度卷积模块的结构示意图。

图5示出了本申请实施例提供的一种循环卷积模块的结构示意图。

图6示出了本申请实施例提供的一种侧输出层和图像输出层的示意图。

图7示出了本申请实施例提供的一种医学图像分割方法的流程图。

图8示出了本申请实施例提供的一种电子设备的结构框图。

图标:100-医学图像分割模型;110-输入层;120-复合u型卷积网络;121-第一u型卷积网络;1211-第一编码单元;1212-第一解码单元;122-第二u型卷积网络;1221-第二编码单元;1222-第二解码单元;130-融合层;131-第一融合层;132-第二融合层;133-第三融合层;134-第四融合层;140-图像输出层;141-侧输出层;142-总输出层;200-电子设备;210-存储器;220-通信模块;230-总线;240-处理器。

具体实施方式

下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行描述。

应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。同时,在本申请的描述中,术语“第一”、“第二”等仅用于区分描述,而不能理解为指示或暗示相对重要性。

目前,现有的医学图像分割方法,主要为基于边缘的图像分割、基于阈值的图像分割、基于区域的图像分割、基于图论的图像分割以及基于主动轮廓模型的图像分割,而这些方法易受被分割图像的边缘、条纹、亮度、对比度等浅层视觉特征的影响,分割效果并不理想,对于形状起伏较大和边界模糊的目标无法获得较高分割精度。并且,这些方法通常需要利用手工来构造特征来获得分割结果,泛化性能不高,应用范围受限。而一些基于特征提取的算法模型中,对医学图像的分割效果也不令人满意。基于此,本申请的发明人提供一种医学图像分割模型、方法、存储介质及电子设备,通过丰富特征提取的层次,以提升医学图像的分割效果和应用范围。

请参阅图1,图1示出了一种医学图像分割模型100的结构示意图。在本实施例中,医学图像分割模型100可以包括输入层110、复合u型卷积网络120。输入层110与复合u型卷积网络120连接。复合u型卷积网络120可以从输入层110处接收图像,并对图像进行处理,以实现医学图像分割模型100对待分割图像的分割。

请一并参阅图1和图2,输入层110为医学图像分割模型100的输入部分,用于接收输入医学图像分割模型100的待分割图像。在本实施例中,输入层110可以包括多个层级,每个层级可以对待分割图像进行不同采样程度的采样处理,也可以对采样的图像进行平均池化的处理,以得到不同采样程度的特征图进行输出。

例如,如图1所示,假设输入层110包括四个层级,四个层级分别为第一层级、第二层级、第三层级和第四层级。那么,对应的每个层级可以输出采样次数不同的特征图。例如,第一层级可以输出经1次2×2采样的特征图,第二层级可以输出经2次2×2采样的特征图,第三层级可以输出经3次2×2采样的特征图,而第四层级可以输出经4次2×2采样的特征图。当然,此处举例的采样次数和采用的采样方式不作为对本申请的限定,可以根据实际需要而选择合适的采样次数和采样方式。

通过这样的方式,输入层110可以输出不同采样程度的特征图,实现医学图像分割模型100的多层次的输入。

在本实施例中,复合u型卷积网络120包括至少两个通过串联方式和跳跃连接方式连接的u型卷积网络,这些连接的u型卷积网络中的每个u型卷积网络都可以包括编码单元和解码单元,而编码单元和解码单元可以包含多个层级的卷积模块。各个卷积模块可以对输入层110的各个层级输出的不同采样程度的特征图进行包含卷积操作的处理,以及,将处理后的特征图输出,从而实现医学图像分割模型100对待分割图像的特征提取。

示例性的,请参阅图3,图3示出了本申请的实施例提供的一种复合u型卷积网络120的结构示意图。在本实施例中,复合u型卷积网络120可以包括第一u型卷积网络121和第二u型卷积网络122,第一u型卷积网络121与第二u型卷积网络122通过串联方式和跳跃连接方式进行连接。

其中,第一u型卷积网络121可以包含第一编码单元1211和第一解码单元1212,而第二u型卷积网络122可以包含第二编码单元1221和第二解码单元1222。第一编码单元1211可以连接在输入层110与第二编码单元1221之间,第二编码单元1221可以与第二解码单元1222连接,第二解码单元1222可以与第一解码单元1212连接,第一编码单元1211可以与第一解码单元1212连接。由此,第一u型卷积网络121与第二u型卷积网络122可以嵌套形成双u型的复合u型卷积网络120。

需要说明的是,图3示出的复合u型卷积网络120的结构,只是复合u型卷积网络120的多种形式中的一种,复合u型卷积网络120还可以是三个、五个u型卷积网络通过串联方式和跳跃连接方式连接而形成;每个用于连接的u型卷积网络可以相同也可以不同;连接各个u型卷积网络的连接方式也可以有所不同,可以使复合u型卷积网络形成双u型的网络结构,也可以形成除双u型网络结构之外的网络结构,例如并列网络结构、交错网络结构等,此处不作限定,以实际需要为准。

请继续参阅图3,第一编码单元1211可以包括多个层级的卷积模块。第一编码单元1211的每个卷积模块可以与输入层110的多个层级对应连接。类似的,第二编码单元1221可以包括多个层级的卷积模块,第二解码单元1222可以包括多个层级的卷积模块,第一解码单元1212也可以包括多个层级的卷积模块。第二编码单元1221的每个卷积模块可以与第一编码单元1211的每个卷积模块对应连接;第二解码单元1222的每个卷积模块可以与第二编码单元1221的每个卷积模块对应连接;第一解码单元1212的每个卷积模块可以与第二解码单元1222的每个卷积模块对应连接,第一解码单元1212的每个卷积模块还可以与第一编码单元1211的每个卷积模块对应连接。

需要说明的是,此处的输入层110、第一编码单元1211、第二编码单元1221、第二解码单元1222、第一解码单元1212的层级数量之间没有绝对的联系,在一些情况下是这些层级的数量是接近的甚至一致的,但也存在一些情况,这些层级在数量上并没有太大关系,只需依靠这些层级连通,形成一定数量的通道,例如4条通道、5条通道等,使这些通道对输入层110输出的特征图进行包含卷积操作的处理,以实现医学图像分割模型100对待分割图像的特征提取即可。因此,此处不应视为对本申请的限定,可以根据实际需要确定通道的数量、层级的数量。

通过将第一u型卷积网络121和第二u型卷积网络122各自的编码单元和解码单元进行连接,形成第一u型卷积网络121和第二u型卷积网络122的串联和跳跃连接,这样可以实现将第一编码单元1211输出的特征图作为第二编码单元1221和第一解码单元1212的输入,实现特征的复用,丰富提取的特征,实现多层次的特征融合,增强梯度的反向传播,可以缓解梯度消失问题,提升医学图像分割模型100对图像的分割精度。

请一并参阅图1和图3,在本实施例中,医学图像分割模型100还可以包括融合层130,而融合层130可以包括第一融合层131、第二融合层132、第三融合层133和第四融合层134中的至少一个。第一融合层131可以连接在输入层110与第一编码单元1211之间,连通输入层110和第一编码单元1211;第二融合层132可以连接在第一编码单元1211与第二编码单元1221之间,连通第一编码单元1211和第二编码单元1221;第三融合层133可以连接在第二编码单元1221与第二解码单元1222之间,连通第二编码单元1221与第二解码单元1222;第四融合层134可以连接在第二解码单元1222与第一解码单元1212之间,连通第二解码单元1222和第一解码单元1212。

当然,第一融合层131、第二融合层132、第三融合层133和第四融合层134可以包括多个层级,融合层的每个层级可以与输入层110、第一编码单元1211、第二编码单元1221、第二解码单元1222、第一解码单元1212等的多个层级中对应的层级连接,还可以同时与相邻层级的第一编码单元1211、第二编码单元1221、第二解码单元1222、第一解码单元1212连接。需要说明的是,第一融合层131、第二融合层132、第三融合层133和第四融合层134的层级数量也是相对独立的,此处不作限定,以实际需要为准。

通过在输入层110、第一编码单元1211、第二编码单元1221、第二解码单元1222、第一解码单元1212之间设置融合层130,融合层130可以将不同层次的特征图进行融合后并输出,从而可以进一步丰富特征的层次,实现多层次的特征融合,进而提升医学图像分割模型100对待分割图像的分割精度。

为了尽可能提取更丰富的特征,以提升对待分割图像的分割效果,在本实施例中,可以使用多尺度卷积模块代替第一编码单元1211和/或第二编码单元1221中的卷积模块。例如,多尺度卷积模块中可以使用a×1的卷积核和1×b的卷积核配合使用,实现a×b的卷积,a、b为大于1的正整数;也可以使用n个c×c的卷积核配合使用,实现d×d的卷积,其中,c、d、n为大于1的正整数,且d>c。在使用使用a×1的卷积核和1×b的卷积核,以及n个c×c的卷积核时,为了使替换后的卷积核处理的特征图与替换前的卷积核处理的特征图大小保持一致,可以将多尺度卷积模块中每个卷积核大小为其正常值的

例如,请参阅图4,可以利用7×1的卷积核和1×7的卷积核配合使用,以实现7×7的卷积;以及,利用2个3×3的卷积核配合使用,以实现5×5的卷积,而7×1的卷积核、1×7的卷积核及2个3×3的卷积核,其大小都设置为其原来的

通过采用多尺度卷积模块作为第一编码单元1211和/或第二编码单元1221的卷积模块,可以在对特征图进行处理时,生成多个不同大小的感受野,并把这些多尺度的特征映射组合起来,从而提取出更丰富的特征。

需要说明的是,a×1的卷积核和1×b的卷积核配合,以及n个c×c的卷积核配合,可以协同使用,也可以单独配合使用,此处不作限定。在单独使用a×1的卷积核和1×b的卷积核配合时,卷积核的大小可以设置为其原来的而单独使用n个c×c的卷积核配合时,卷积核的大小可以设置为其原来的

为了更好地保留待分割图像的空间特征,以提升对待分割图像的分割效果,在本实施例中,可以使用循环卷积模块代替第二解码单元1222和/或第一解码单元1212中的卷积模块。例如,循环卷积模块中可以采用e×e的卷积核和1×1的卷积核配合使用,以实现f×f的卷积,1×1的卷积核用于降维和添加非线性激励,其中,e、f为大于1的正整数,且f>e。而为了使替换后的卷积核处理的特征图与替换前的卷积核处理的特征图大小保持一致,可以将循环卷积模块中每个卷积核大小为其正常值的

例如,请参阅图5,可以利用3×3的卷积核和1×1的卷积核配合使用,以实现对5×5的卷积核的降维和添加非线性激励,而每个卷积核的大小都设置为其原来的

通过采用循环卷积模块作为第二解码单元1222和/或第一解码单元1212的卷积模块,可以随时间的累积有更大的感受野来获取图像中的结构信息,可以尽可能保留待分割图像的空间特征,细化分割结果和边缘信息,最终实现高性能分割。

此处,将以图3示出的复合u型卷积网络120与融合层130连接而形成的网络结构为例进行详细的描述,以揭示复合u型卷积网络120对特征图的处理过程。

在图3示出的复合u型卷积网络120中,包括由黑色矩形块表示的第一u型卷积网络121和由白色矩形块表示的第二u型卷积网络122。第一u型卷积网络121的深度可以为m(图3中深度为5),即第一编码单元1211包括m(图3中为5)个层级的多尺度卷积模块,而对应的第一解码单元1212也可以包括m(图3中为5)个层级的循环卷积模块。第二u型卷积网络122的深度可以为m-1(图3中深度为4),即第二编码单元1221包括m-1(图3中为4)个层级的多尺度卷积模块,而对应的第二解码单元1222也可以包括m-1(图3中为4)个层级的循环卷积模块。每个层级的多尺度卷积模块和循环卷积模块可以处理不同采样程度的特征图,以实现多尺度卷积。

而此处由白色双矩形块表示的融合层130包括:包含m-2(图3中为3)个层级的第一融合层131、包含m-2(图3中为3)个层级的第二融合层132、包含m-2(图3中为3)个层级的第三融合层133和包含m-1(图3中为3)个层级的第四融合层134。

第一编码单元1211第一层级的多尺度卷积模块、第二编码单元1221第一层级的多尺度卷积模块、第三融合层133的第一层级、第二解码单元1222第一层级的循环卷积模块、第四融合层134的第一层级和第一解码单元1212第一层级的循环卷积模块依次连接,由此形成复合u型卷积网络120的第一通道。第一编码单元1211第一层级的多尺度卷积模块还与第二解码单元1222第一层级的循环卷积模块和第一融合层131的第一层级连接;第二编码单元1211第一层级的多尺度卷积模块还与第二融合层132的第一层级连接;第三融合层133的第一层级还与第二解码单元1222第二层级的循环卷积模块连接;第四融合层134的第一层级还与第一解码单元1212第二层级的循环卷积模块连接。

输入层110的第一层级将经1次2×2采样的特征图输入第一通道,第一编码单元1211第一层级的多尺度卷积模块对输入的特征图进行多尺度卷积处理,并将处理后的特征图映射到第二编码单元1211第一层级的多尺度卷积模块和第二解码单元1222第一层级的循环卷积模块,以及,将处理后的特征图经最大池化处理后输出至第一融合层131的第一层级。第二编码单元1211第一层级的多尺度卷积模块对第一编码单元1211第一层级的多尺度卷积模块映射的特征图进行多尺度卷积处理,并将处理后的特征图映射到第三融合层133的第一层级,以及,将处理后的特征图经最大池化后输出至第二融合层132的第一层级。第三融合层133的第一层级对第二编码单元1221第一层级的多尺度卷积模块映射的特征图和第二解码单元1222第二层级的循环卷积模块输出的特征图进行融合处理,并将处理后的特征图映射至第二解码单元1222第一层级的循环卷积模块。第二解码单元1222第一层级的循环卷积模块对第一编码单元1211第一层级的多尺度卷积模块输出的特征图和第三融合层133的第一层级映射的特征图进行循环卷积,并将处理后的特征图映射至第四融合层134的第一层级。第四融合层134的第一层级对第二解码单元1222第一层级的循环卷积模块映射的特征图和第一解码单元1212第二层级的循环卷积模块输出的特征图进行融合处理,并将处理后的特征图映射到第一解码单元1212第一层级的循环卷积模块。第一解码单元1212第一层级的循环卷积模块对第四融合层134的第一层级映射的特征图进行循环卷积,并将处理后的特征图输出。

第一融合层131的第一层级、第一编码单元1211第二层级的多尺度卷积模块、第二融合层132的第一层级、第二编码单元1211第二层级的多尺度卷积模块、第三融合层133的第二层级、第二解码单元1222第二层级的循环卷积模块、第四融合层134的第二层级和第一解码单元1212第二层级的循环卷积模块依次连接,由此形成复合u型卷积网络120的第二通道。第一编码单元1211第二层级的多尺度卷积模块还与第四融合层134的第二层级和第一融合层131的第二层级连接;第二编码单元1211第二层级的多尺度卷积模块还与第二融合层132的第二层级连接;第三融合层133的第二层级还与第二解码单元1222第三层级的循环卷积模块连接;第四融合层134的第二层级还与第一解码单元1212第三层级的循环卷积模块连接。

输入层110的第二层级将经2次2×2采样的特征图输入第二通道,第一融合层131的第一层级对输入的特征图和第一编码单元1211第一层级的多尺度卷积模块输出的特征图进行融合处理,并将处理后的特征图映射到第一编码单元1211第二层级的多尺度卷积模块。第一编码单元1211第二层级的多尺度卷积模块对第一融合层131的第一层级映射的特征图进行多尺度卷积处理,并将处理后的特征图映射到第二编码单元1211第二层级的多尺度卷积模块和第二解码单元1222第二层级的循环卷积模块,以及,将处理后的特征图经最大池化处理后输出至第一融合层131的第二层级。第二融合层132的第一层级对第一编码单元1211第二层级的多尺度卷积模块映射的特征图和第二编码单元1221第一层级的多尺度卷积模块输出的特征图进行融合处理,并将处理后的特征图映射到第二编码单元1221第二层级的多尺度卷积模块。第二编码单元1211第二层级的多尺度卷积模块对第二融合层132的第二层级映射的特征图进行多尺度卷积处理,并将处理后的特征图映射到第三融合层133的第二层级,以及,将处理后的特征图经最大池化后输出至第二融合层132的第二层级。第三融合层133的第二层级对第二编码单元1221第二层级的多尺度卷积模块映射的特征图和第二解码单元1222第三层级的循环卷积模块输出的特征图进行融合处理,并将处理后的特征图映射至第二解码单元1222第二层级的循环卷积模块。第二解码单元1222第二层级的循环卷积模块对第三融合层133的第二层级映射的特征图进行循环卷积,并将处理后的特征图映射至第四融合层134的第二层级,以及,对处理后的特征图进行反卷积处理后输出至第三融合层133的第一层级。第四融合层134的第二层级对第二解码单元1222第二层级的循环卷积模块映射的特征图、第一解码单元1212第三层级的循环卷积模块输出的特征图和第一编码单元1211第二层级的多尺度卷积模块映射的特征图进行融合处理,并将处理后的特征图映射到第一解码单元1212第二层级的循环卷积模块。第一解码单元1212第二层级的循环卷积模块对第四融合层134的第二层级映射的特征图进行循环卷积,并将处理后的特征图输出,以及,将处理后的特征图经反卷积处理后输出至第四融合层134的第一层级。

第一融合层131的第二层级、第一编码单元1211第三层级的多尺度卷积模块、第二融合层132的第二层级、第二编码单元1211第三层级的多尺度卷积模块、第三融合层133的第三层级、第二解码单元1222第三层级的循环卷积模块、第四融合层134的第三层级和第一解码单元1212第三层级的循环卷积模块依次连接,由此形成复合u型卷积网络120的第三通道。第一编码单元1211第三层级的多尺度卷积模块还与第四融合层134的第三层级和第一融合层131的第三层级连接;第二编码单元1211第三层级的多尺度卷积模块还与第二融合层132的第三层级连接;第三融合层133的第三层级还与第二解码单元1222第四层级的循环卷积模块连接;第四融合层134的第三层级还与第一解码单元1212第四层级的循环卷积模块连接;。

输入层110的第三层级将经3次2×2采样的特征图输入第三通道,第一融合层131的第二层级对输入的特征图和第一编码单元1211第二层级的多尺度卷积模块输出的特征图进行融合处理,并将处理后的特征图映射到第一编码单元1211第三层级的多尺度卷积模块。第一编码单元1211第三层级的多尺度卷积模块对第一融合层131的第二层级映射的特征图进行多尺度卷积处理,并将处理后的特征图映射到第二编码单元1211第三层级的多尺度卷积模块和第二解码单元1222第三层级的循环卷积模块,以及,将处理后的特征图经最大池化处理后输出至第一融合层131的第三层级。第二融合层132的第二层级对第一编码单元1211第三层级的多尺度卷积模块映射的特征图和第二编码单元1221第二层级的多尺度卷积模块输出的特征图进行融合处理,并将处理后的特征图映射到第二编码单元1221第三层级的多尺度卷积模块。第二编码单元1211第三层级的多尺度卷积模块对第二融合层132的第二层级映射的特征图进行多尺度卷积处理,并将处理后的特征图映射到第三融合层133的第三层级,以及,将处理后的特征图经最大池化后输出至第二融合层132的第三层级。第三融合层133的第三层级对第二编码单元1221第三层级的多尺度卷积模块映射的特征图和第二解码单元1222第四层级的循环卷积模块输出的特征图进行融合处理,并将处理后的特征图映射至第二解码单元1222第三层级的循环卷积模块。第二解码单元1222第三层级的循环卷积模块对第三融合层133的第三层级映射的特征图进行循环卷积,并将处理后的特征图映射至第四融合层134的第三层级,以及,对处理后的特征图进行反卷积处理后输出至第三融合层133的第二层级。第四融合层134的第三层级对第二解码单元1222第三层级的循环卷积模块映射的特征图、第一解码单元1212第四层级的循环卷积模块输出的特征图和第一编码单元1211第三层级的多尺度卷积模块映射的特征图进行融合处理,并将处理后的特征图映射到第一解码单元1212第三层级的循环卷积模块。第一解码单元1212第三层级的循环卷积模块对第四融合层134的第三层级映射的特征图进行循环卷积,并将处理后的特征图输出,以及,将处理后的特征图经反卷积处理后输出至第四融合层134的第二层级。

第一融合层131的第三层级、第一编码单元1211第四层级的多尺度卷积模块、第二融合层132的第三层级、第二编码单元1211第四层级的多尺度卷积模块、第二解码单元1222第四层级的循环卷积模块、第四融合层134的第四层级和第一解码单元1212第四层级的循环卷积模块依次连接,由此形成复合u型卷积网络120的第四通道。第一编码单元1211第四层级的多尺度卷积模块还与第四融合层134的第四层级,以及第一编码单元1211第五层级的多尺度卷积模块连接;第四融合层134的第四层级还与第一解码单元1212第五层级的循环卷积模块连接。

输入层110的第四层级将经4次2×2采样的特征图输入第四通道,第一融合层131的第三层级对输入的特征图和第一编码单元1211第三层级的多尺度卷积模块输出的特征图进行融合处理,并将处理后的特征图映射到第一编码单元1211第四层级的多尺度卷积模块。第一编码单元1211第四层级的多尺度卷积模块对第一融合层131的第三层级映射的特征图进行多尺度卷积处理,并将处理后的特征图映射到第二编码单元1211第四层级的多尺度卷积模块和第二解码单元1222第四层级的循环卷积模块,以及,将处理后的特征图经最大池化处理后输出至第一编码单元1211第五层级的多尺度卷积模块。第二融合层132的第三级层级对第一编码单元1211第四层级的多尺度卷积模块映射的特征图和第二编码单元1221第三层级的多尺度卷积模块输出的特征图进行融合处理,并将处理后的特征图映射到第二编码单元1221第四层级的多尺度卷积模块。第二编码单元1221第四层级的多尺度卷积模块对第二融合层132的第三层级映射的特征图进行多尺度卷积处理,并将处理后的特征图映射到第二解码单元1222第四层级的循环卷积模块。第二解码单元1222第四层级的循环卷积模块对第二编码单元1221第四层级的循环卷积模块映射的特征图进行循环卷积,并将处理后的特征图映射至第四融合层134的第四层级,以及,对处理后的特征图进行反卷积处理后输出至第三融合层133的第三层级。第四融合层134的第四层级对第二解码单元1222第四层级的循环卷积模块映射的特征图、第一解码单元1212第五层级的循环卷积模块输出的特征图和第一编码单元1211第四层级的多尺度卷积模块映射的特征图进行融合处理,并将处理后的特征图映射到第一解码单元1212第四层级的循环卷积模块。第一解码单元1212第四层级的循环卷积模块对第四融合层134的第四层级映射的特征图进行循环卷积,并将处理后的特征图输出,以及,将处理后的特征图经反卷积处理后输出至第四融合层134的第三层级。

而第一编码单元1211第五层级的多尺度卷积模块将第一编码单元1211第四层级的多尺度卷积模块输出的特征图进行多尺度卷积处理后,再利用第一编码单元1211第五层级中的另一卷积模块对第一编码单元1211第五层级的多尺度卷积模块输出的特征图进行卷积处理,并将处理后的特征图映射到第一解码单元1211第五层级的循环卷积模块,其中,第五层级中的另一卷积模块也可以为多尺度卷积模块。而第一解码单元1211第五层级的循环卷积模块将接收的特征图进行循环卷积处理后,再经反卷积处理后输出至第四融合层134的第四层级。

以上,为复合u型卷积网络120结合融合层对特征图进行特征处理的详细过程。通过上述描述可知,结合多尺度输入和融合层,复合u型卷积网络120能够将不同层次的特征图进行融合后进行特征提取,因此能够提取和保留图像更丰富的特征,能够实现图像的高性能分割。

请一并参阅图1和图6,医学图像分割模型100还可以包括图像输出层140。在本实施例中,图像输出层140可以包括侧输出层141和总输出层142。侧输出层141可以包括m个输出模块,对应图3中的深度为5的复合u型卷积网络120,侧输出层141则包括5个输出模块。

侧输出层141中的一输出模块与第一通道内的第二解码单元连接,用于根据该通道内的第二解码单元输出的特征图确定出对应该通道的预测图;而侧输出层141中其余m-1个(即4个)输出模块分别与m-1个(即4个)通道内的第一解码单元一一对应连接,用于根据对应的第一解码单元输出的特征图确定出对应通道的预测图。

而总输出层142则与侧输出层141的每个输出模块连接,用于根据复合u型卷积网络输出的特征图(即,根据每个输出模块输出的预测图)确定出分割后的图像并输出。

在本实施例中,图像输出层140包含了第一u型卷积网络121的输出和第二u型卷积网络122的输出,即包含了第一u型卷积网络121的每个层级的输出和第二u型卷积网络122的输出。图像输出层140可以根据每个输出,确定出各自的权重,并确定出图像输出层140的总体损失函数:

其中,θs表示总体损失函数,m表示侧输出层141输出模块的数目,表示相应的第m层的损失函数,αm表示第m层的权重系数。

以及,可以根据侧输出层141的输出,更新每层的损失函数。每层的损失函数可以为:

ls=dloss+eloss(4),

其中,gi表示专家标定的金标准,pi表示分割预测图,ε表示平滑系数,示例性的,ε在此处可取0.9。

这样,就可以根据每个侧输出层的输出,确定出每层的损失函数。

请参阅图7,在本实施例中,还提供一种医学图像分割方法的流程图。医学图像分割方法可以包括:步骤s10和步骤s20。

在本实施例中,为了使得对医学图像的分割效果更加准确,可以在对医学图像分割之前,对医学图像分割模型100进行训练。

训练的过程可以包括:初始化医学图像分割模型100。

输入训练集中的医学图像至医学图像分割模型100,根据公式(2)、(3)和(4)计算实际输出和专家标定的每层损失函数,再根据公式(1)确定出总体损失函数,其中,训练集为原始医学图像中专家标定的部分医学图像。为了获取更好的训练效果,可以将训练集中的医学图像小批量输入医学图像分割模型100中,计算医学图像分割模型100的实际输出和专家标定的每层损失函数,再由此确定出最终的加权函数。

在确定出每层损失函数后,可以极小化每层损失函数,利用反向传播方式进行医学图像分割模型100参数更新。

利用训练集中的所有医学图像重复训练医学图像分割模型100,直到达到训练周期,保存在验证集上精度最好的医学图像分割模型100,其中,验证集为原始医学图像中的部分医学图像,且验证集中的医学图像与训练集中的医学图像不同。

训练好医学图像分割模型100后,可以执行步骤s10。

步骤s10:获取待分割的医学图像。

在本实施例中,待分割的医学图像可以是患者的喉镜图、胃镜图、咽图、脑部核磁共振图等。

获取待分割的医学图像后,可以执行步骤s20。

步骤s20:将所述待分割的医学图像输入所述医学图像分割模型中,以获取所述待分割的医学图像的分割结果。

将待分割的医学图像输入医学图像分割模型100后,医学图像分割模型100可以对待分割的医学图像进行分割,从而输出分割好的医学图像。

通过将待分割的医学图像输入至医学图像分割模型中,对输入的医学图像进行准确分割,从而得到分割好的医学图像,以使得医生能够根据分割后的医学图像更轻松地做出疾病诊断,提高诊断的准确性。

本申请的实施例提供一种存储介质,存储介质包括存储的程序,其中,在程序运行时控制存储介质所在设备执行本实施例中的医学图像分割方法。

如图8所示,本申请的实施例还提供一种电子设备200,本申请实施例提供的医学图像分割方法,可以由电子设备200执行。电子设备200可以为终端,例如智能手机、平板电脑、个人电脑、个人数字助理等;电子设备200也可以为服务器,例如网络服务器、云服务器、服务器集群、数据服务器等,此处不作限定。

示例性的,电子设备200可以包括:通过网络与外界连接的通信模块220、用于执行程序指令的一个或多个处理器240、总线230和不同形式的存储器210,例如,磁盘、rom(read-onlymemory,只读存储器)、或ram(randomaccessmemory,随机存取存储器),或其任意组合。

示例性的,存储器210中存储有程序。处理器240可以从存储器210调用并运行这些程序,从而便可以通过运行程序而执行医学图像分割方法。处理器240通过对医学图像分割方法的执行,处理器240可以对医学图像进行分割,以完成输出分割后的医学图像。

综上所述,本申请的实施例提供一种医学图像分割模型、方法、存储介质及电子设备,通过将两个u型卷积网络以串联方式和跳跃连接方式连接起来,形成对图像进行特征提取的复合u型卷积网络,结合输入层输出的采样程度的特征图,能够提取图像的更丰富的特征,而通过跳跃连接的方式连接两个u型卷积网络,能够实现特征复用,进一步丰富特征,使得模型对图像的分割更加准确。

以上,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以权利要求的保护范围为准。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1