用于标注感兴趣区域的方法、装置和计算机可读存储介质与流程

本发明涉及超声图像处理领域，具体涉及一种用于在超声多帧图像中标注感兴趣区域（简称roi）的方法、装置和计算机可读存储介质。

背景技术：

近年来，随着人工智能、大数据和云计算的迅猛发展，医学影像人工智能系统得到快速推广应用。但是，现有主流的监督（半监督）学习机制需要为人工智能模型提供充足的带标注影像作为训练样本进行深度学习。由于超声检查便捷、成像功能强大、临床适用面广，是一线创伤和急重症伤病分类检伤的重要技术。研制心脏超声影像人工智能系统，充分利用宝贵救治时机，可进一步提高心血管疾病的创伤救治能力，降低伤亡率。

技术实现要素：

与ct、mri图像相比较，超声图像具有分辨率较低、噪声干扰多、病灶轮廓不清晰等特点，对超声图像感兴趣区域进行准确标注的难度较大。现有医学影像标注工具在处理超声图像时在功能设计、界面布局以及用户交互等方面存在较多不足。例如，在超声检查影像中器官组织和病灶轮廓通常呈现为非规则形状，使得目前常见影像标注软件无法获得较高标注精度。

在临床应用中，一次超声检查通常持续较长时间，图像数据常以多帧格式存入dicom文件。在前后相邻数帧中，检查区域较为固定，图像数据存在较多冗余信息。因此，充分挖掘前后数帧图像之间冗余信息，改进roi区域标注方式，减少（心脏）超声图像roi区域人工勾画标注的工作量，是提高标注自动化和准确性的一种可行途径。

鉴于本发明已经发现的现有技术中的上述缺陷或不足，本发明期望提供一种用于在超声多帧图像中标注感兴趣区域的方法、装置和计算机可读存储介质，以解决上述至少一个技术问题。

在本发明的第一方面中，提供了一种用于在超声多帧图像中标注感兴趣区域的方法，包括：

获得超声多帧图像，所述超声多帧图像包括第一帧图像、第二帧图像和第三帧图像；

在所述第一帧图像中，针对感兴趣区域手工生成第一标注曲线；

在所述第二帧图像中，基于所述第二帧图像相对于所述第一帧图像的平移量以及所述第一标注曲线，生成第二标注曲线，

在所述第三帧图像中，

如果所述第三帧图像相对于所述第二帧图像的平移量小于等于预定阈值，则基于所述第三帧图像相对于所述第二帧图像的所述平移量以及所述第二标注曲线，生成第三标注曲线，

如果所述第三帧图像相对于所述第二帧图像的所述平移量大于所述预定阈值，则基于所述第三帧图像相对于所述第二帧图像的所述平移量、所述第三帧图像相对于所述第一帧图像的平移量以及所述第二标注曲线，生成第三标注曲线。

优选地，手工生成第一标注曲线的步骤包括：在所述第一帧图像中，针对所述感兴趣区域手工选定多个标注点，根据所述多个标注点计算生成所述第一标注曲线。

优选地，所述第一标注曲线包括闭曲线，根据所述多个标注点计算生成所述第一标注曲线的步骤包括根据所述多个标注点计算生成三次非均匀b样条闭曲线。

优选地，获得所述第二帧图像相对于所述第一帧图像的平移量的步骤包括利用所述第一标注曲线对所述第二帧图像与所述第一帧图像之间的匹配点进行第一次筛选。

优选地，获得所述第二帧图像相对于所述第一帧图像的平移量的步骤还包括利用斜率投票法对经第一次筛选的匹配点进行第二次筛选。

优选地，所述超声多帧图像还包括第四帧图像，

所述方法还包括：

在所述第四帧图像中，

如果所述第四帧图像相对于所述第三帧图像的平移量小于等于所述预定阈值，则基于所述第四帧图像相对于所述第三帧图像的所述平移量以及所述第三标注曲线，生成第四标注曲线，

如果所述第四帧图像相对于所述第三帧图像的所述平移量大于所述预定阈值，则基于所述第四帧图像相对于所述第三帧图像的所述平移量、所述第四帧图像相对于所述第二帧图像的平移量以及所述第三标注曲线，生成第四标注曲线。

优选地，根据各帧图像的采集时间，所述第一帧图像早于所述第二帧图像，所述第二帧图像早于所述第三帧图像，所述第三帧图像早于所述第四帧图像。

优选地，根据各帧图像的采集时间，

所述第一帧图像和所述第二帧图像为相邻的两帧图像，和/或

所述第二帧图像和所述第三帧图像为相邻的两帧图像，和/或

所述第三帧图像和所述第四帧图像为相邻的两帧图像。

在本发明的第二方面中，提供了一种用于在超声多帧图像中标注感兴趣区域的设备，包括处理器和存储器，所述存储器存储有能够由所述处理器执行的指令以使得所述处理器执行上述方法。

在本发明的第三方面中，提供了一种计算机可读存储介质，存储有计算机程序，所述计算机程序用于实施上述方法。

本发明的有益技术效果包括至少下述一者：本发明针对（如心脏）超声多帧图像roi区域勾画标注需求，充分利用前后数帧图像数据的冗余特性，只需要用户对某一帧图像roi区域边界进行人工标注，其余多帧图像通过自适应方法计算生成roi区域标注，从而改变超声多帧图像逐帧进行人工标注的原有处理模式，建立“第一帧人工标注+后续多帧自动标注”新模式；本发明具有标注结果精准、受噪声干扰小、人工操作少的优点。

附图说明

通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本申请的其它特征、目的和优点将会变得更明显：

图1是根据本发明的实施方式的标注方法的流程简图；

图2是根据本发明的实施方式的标注方法的流程示意图。

具体实施方式

下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释相关发明，除非另外具体说明，否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本发明的范围。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。另外还需要说明的是，为了便于描述，附图中仅示出了与发明相关的部分。

如图1所示，以模块方式提供了一种超声多帧图像感兴趣区域自适应标注方法，该方法包括：先读取超声文件，获得超声多帧图像；在第一帧（某一帧）超声图像上围绕（部分围绕）感兴趣区域人工标注一条标注曲线，即第一标注曲线；然后开始第二帧图像的自适应标注，即将第二帧图像与第一帧图像进行图像配准和特征点筛选，计算第二帧图像相对于第一帧图像的平移量（水平平移量th和垂直平移量tv），随后在第二帧图像上参考第一曲线坐标值和平移量th与tv，计算第二帧图像上的第二标注曲线；从第三帧图像开始，如果其与前一帧图像的平移量较大，则不仅需要考虑其与前一帧图像的平移量，还需要考虑其与前二帧图像的平移量来计算当前帧图像内的标注曲线；以此类推，通过已标注的图像逐一标注后续多帧图像；最后输出标注结果，并保存或加以利用。本发明具有自动化程度高、标注精度高等优点，能够有效提高超声图像的标注效率和一致性。

下面参照图2详细描述本发明的一个示例性实施方式的技术框架流程，该实施方式以心脏超声图像标注为例描述了本发明的详细内容。

如图2所示，该框架主要由图像文件读取与逐帧显示、第一帧图像roi人工标注（含选取roi边界点、插值roi边界点生成b样条闭曲线）、后续多帧图像自适应roi标注（含前后相邻数帧图像配准、筛选匹配特征点、计算当前帧图像平移量以及当前帧图像roi区域b样条闭曲线）、当前帧标注结果输出等模块或步骤组成。

首先，图像文件读取与逐帧显示模块（模块s101）读取一个心脏超声多帧图像文件，然后按照帧数据采集时间先后顺序依次显示第1，2，3,…帧图像；当前一帧图像显示后，会根据触发条件开始显示下一帧图像。

第一帧图像roi人工标注完成第一帧图像roi人工标注相关功能，主要包括选取roi边界点模块（模块s102）、插值边界点pj-1和pj(j>0)计算生成三次非均匀b样条曲线段pj-1pj模块（模块s103）、插值边界点pm-1和p0计算生成三次非均匀b样条闭合曲线q1模块（模块s104）。

后续多帧图像自适应roi标注完成后续多帧图像roi自动标注相关功能，主要包括前后相邻两帧图像配准和筛选匹配特征点模块（模块s105）、计算当前帧图像相对于前一帧平移量的模块（模块s106）、计算当前帧图像相对于前二帧平移量模块（模块s107）、计算最优平移量模块（模块s108）和计算当前帧标注曲线模块（模块s109）。

当前帧标注结果输出模块（模块s110）将当前帧roi区域的标注曲线坐标值依次进行输出保存。

下文将对每个模块的实际工作内容进行示例性详述。

模块s101：首先读取一个心脏超声多帧图像文件（如dicom格式），依次显示第i帧图像ii，(i=1,2,…,n)。此心脏超声多帧图像文件可由医务人员利用超声设备获得。

模块s102：对于第一帧图像，允许用户在第一帧图像上针对roi区域人工选取边界点pj，(j=0,1,…,m)，即标注点。在本发明的其他实施方式中，此第一帧图像可以不是依照采集时间顺序获得的最早一帧图像，而可以是超声多帧图像中的任何一帧图像，例如可以是感兴趣区域边界最为清晰的一帧图像。

模块s103：将第一帧图像上用户选取的边界点pj-1和pj(j>0)作为型值点，进行三次非均匀b样条开曲线插值计算，获得相关控制点矢量和节点矢量，再根据deboor算法绘制生成曲线段pj-1pj。

模块s104：用户结束选点后，将第一帧图像上的边界点pm-1和p0作为型值点，进行三次非均匀b样条闭曲线插值计算，获得相关控制点矢量和节点矢量，再按照周期性b样条曲线生成规则调整控制点矢量和节点矢量，最终根据deboor算法绘制生成闭合曲线q1。

需要说明的是，此处将标注点拟合为三次非均匀b样条闭曲线可以更加适应于感兴趣区域（例如器官或病灶）的边界，获得更为准确的标注曲线。在本发明的其他实施方式中，可以将标注点拟合为其他曲线，如一次曲线、二次曲线及更高级曲线，此标注曲线可以是开曲线，也可以是闭曲线。在本发明的其他实施方式中，也可以在第一帧图像上人工直接标注出标注曲线。

模块s105：针对第二帧图像及后续多帧图像，例如采用sift(scale-invariantfeaturetransform)算法，计算获得前一帧图像ii-1和当前帧图像ii的匹配点s(r(i-1,k),r(i,k))，(k=0,1,…,l)，其中，r(i-1,k)表示第k对匹配点(r(i-1,k),r(i,k))中属于前一帧图像ii-1上的点，r(i,k)表示匹配点(r(i-1,k),r(i,k))中属于当前帧图像ii上的点；然后，考察图像ii-1上的所有匹配点，从中剔除所有r(i-1,k)点在闭曲线qi-1所围roi区域外部的匹配点sd(r(i-1,k),r(i,k))，最终得到图像ii-1和ii的有效匹配点sq(r(i-1,k),r(i,k))，显然sq(r(i-1,k),r(i,k))=s(r(i-1,k),r(i,k))-sd(r(i-1,k),r(i,k))。在本发明的其他实施方式中，如果标注曲线为开曲线，则例如通过剔除此开曲线某一侧的匹配点来进行筛选。

需要指出的是，由于心脏等超声图像的获得需要超声探头在人体皮肤等表面上进行移动，此移动通常会引起超声探头的角度偏移，上述筛选步骤可以有效地减少此角度偏移引入的误差，同时还可以减少超声图像噪声的影响。

在本发明的其他实施方式中，依据各帧图像采集时间顺序，第二帧图像可以早于或晚于第一帧图像；第二帧图像可以与第一帧图像相邻，以期待两帧图像之间的最大冗余数据，也可以不相邻，从而能够更灵活和更准确地选取标准图像顺序。

模块s106：将前一帧图像ii-1和当前帧图像ii水平相邻排列，将每一对有效匹配点sq(r(i-1,k),r(i,k))用直线l(r(i-1,k),r(i,k))相连并计算该直线斜率值；然后，将sq(r(i-1,k),r(i,k))中所有有效匹配点连线的斜率进行投票计算，选出票数最多的斜率值作为主斜率值；最后，计算所有连线斜率等于（近似等于）主斜率值的有效匹配点坐标值分别在水平和垂直方向的平均偏差值，并将此平均偏差值作为图像ii-1和ii的水平平移量th,i-1和垂直平移量ty,i-1。

需要指出的是，上述斜率投票法对经筛选的匹配点进行了二次筛选，有助于降低超声图像噪声带来的影响。

模块s107：随后，对上述平移量进行判断，如果平移量大于预定阈值并且当前帧为第三帧图像或后续图像(i>2)，则采用前后三帧图像进行配准计算平移量，即在已分别计算出当前帧图像ii和前一帧图像ii-1在水平向和垂直向的平移量th,i-1与tv,i-1基础之上，增加计算当前帧图像ii和前二帧图像ii-2在水平向和垂直向的平移量th,i-2与tv,i-2。

需要指出的是，在本发明的其他实施方式中，进行判断的平移量可以是水平向的平移量、或垂直向的平移量、或绝对平移量（前两者的平方和的平方根）。此处对平移量的判断可以有效地发现多帧图像采集过程中引入的缺陷，以便于后续操作对此缺陷进行修正。

同样地，在本发明的其他实施方式中，依据各帧图像采集时间顺序，第三帧图像可以早于或晚于第一帧图像和/或第二帧图像；第三帧图像可以与第二帧图像相邻，也可以不相邻。

当然，在模块s107中，如果模块s106中计算的平移量小于等于预定阈值，或者当前帧为第二帧图像，则直接跳转到模块s109。

模块s108：在获得平移量th,i-1与tv,i-1和平移量th,i-2与tv,i-2之后，引入加权系数λ(0≤λ≤1)分别得到水平向和垂直向的加权平移量th,=λth,i-1+(1-λ)th,i-2与tv,=λtv,i-1+(1-λ)tv,i-2，然后通过以步长值例如为0.1计算下述目标函数（公式1-1）获得加权系数λ的最优值，以及加权平移量的最优值与，

（公式1-1）

其中，

pixk,yk表示第i帧图像中第xk行、第yl列像素点的像素值，pi,roi表示第i帧图像roi区域的像素点。

模块s109：令点q(qx,qy)为第ii-1帧图像闭曲线qi-1上的任一点，其在第ii帧图像闭曲线qi上的相应点为(,)，则点坐标值满足

=qx+t,h,i-1与=qy+tv,i-1（前后两帧配准）

或

=qx+与=qy+（前后三帧配准）

闭曲线qi即为第ii帧图像roi的标注曲线。

模块s110：依次输出和保存闭曲线qi所有边界点的坐标值。

本发明可以是系统、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质，其上载有用于使处理器实现本发明的各个方面的计算机可读程序指令。

计算机可读存储介质可以是保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：便携式计算机盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、静态随机存取存储器(sram)、便携式压缩盘只读存储器(cd-rom)、数字多功能盘(dvd)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。

这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备。

用于执行本发明操作的计算机程序指令可以是汇编指令、指令集架构(isa)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。

这里参照根据本发明实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本发明的各个方面。应当理解，流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合，都可以由计算机可读程序指令实现。

这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器，从而生产出一种机器，使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时，产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。

附图中的流程图和框图显示了根据本发明的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。

以上已经描述了本发明的各实施例，上述说明是示例性的，并非穷尽性的，并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下，对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择，旨在最好地解释各实施例的原理、实际应用或对市场中的技术改进，或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。