用于使用具有经缩减的训练的神经网络的生物流体试样表征的方法和装置与流程

文档序号:21890146发布日期:2020-08-18 17:45阅读:220来源:国知局
用于使用具有经缩减的训练的神经网络的生物流体试样表征的方法和装置与流程

对相关申请的交叉引用

本申请对2018年1月10日提交的、序列号为62/615,873的美国临时申请要求优先权,所述申请的内容通过引用以其全部被并入本文中。

本公开内容涉及用于训练神经网络以表征生物流体试样的方法和装置,并且更具体地涉及方法和装置,包括神经网络,其用于确定生物流体试样是否包括干扰物质。



背景技术:

自动化的测试系统可以用于进行临床化学或试验测试,其通过使用一个或多个试剂来标识诸如血清、血浆等等之类的试样中的分析物或其它成分。为了便利和安全的原因,这些试样可以被包含在试样容器(例如血液收集管)内。在其中试样是全血的情况中,凝胶(gel)分离器可以被添加到试样容器以有助于在离心期间维持经沉淀的血液部分与血清或血浆部分的分离。试验或测试反应生成各种改变,所述改变可以被读取和/或操纵以确定试样中存在的分析物或其它成分的浓度。

自动化测试技术中的改进已经伴随有通过可以是“实验室自动化系统(las)”的部分的自动化系统的预分析试样预备和处置操作、诸如分类、批预备、用于分离试样成分的试样容器离心、用于促进试样进入的盖帽移除、等分预备、以及针对hiln的预筛选(下文中“预分析操作”)中的对应进步。las可以自动将试样容器中的试样输送到一个或多个预分析试样处理站以及分析器站,其包含临床化学分析器和/或试验仪器(下文中共同为“分析器”)。

这样的试样容器可以具有在其上所提供的一个或多个标签。(多个)标签可以是制造商的标签和/或由抽血者或处置试样的其它位置或设施所提供的标签。在大多数实例中,至少一个标签包括标识信息、诸如条形码(下文中“条形码标签”)。(多个)标签可以由具有例如粘合背衬的纸张所制成。

las可以一次处置大量不同的试样,并且可以使用条形码标签来用于追踪和路由。条形码标签可以包含收录号,所述收录号可以相关于人口统计学信息,所述人口统计学信息可以连同测试次序和/或其它信息一起被录入到医院的实验室信息系统(lis)中,其中所述lis被配置成与las电子地对接。操作员或机器人可以将经加标签的试样容器置于las系统上,所述las系统自动路由试样容器以用于一个或多个预分析操作;其中所有可以在试样实际经受通过一个或多个分析器的临床分析或试验之前,所述一个或多个分析器可以位于las的一部分上。

在分级分离(fractionation)和其它预分析操作之后,试样容器可以被输送到适当的分析器,所述分析器可以经由吸入而从试样容器中提取血清或血浆部分,并且在反应器皿(例如试管)中组合所述部分与一个或多个试剂。然后可以执行分析测量,其通常使用例如询问辐射的射束,或通过使用光度测定的或荧光的吸收读数等等。分析测量允许确定端点或比率值,据此可以通过使用众所周知的技术来确定分析物或其它成分的浓度。

不幸地,作为患者状况或试样处理的结果而在试样中的任何干扰物质(例如h、i和/或l)的存在可能有可能不利地影响从所述一个或多个分析器所获得的分析物或成分测量的测试结果。例如,血液试样中溶血的存在,其可能与患者疾病状态无关,可引起对患者病况的不同解释。此外,血液试样中黄疸和/或脂血的存在也可引起对患者病况的不同解释。因而,合期望的是经由预分析操作而在分析测试之前知晓试样是否包括h、i和/或l、以及甚至其指数水平(indexlevel)。

关于试样是否包括h、i和/或l,正常(n)的血清或血浆部分具有浅黄至浅琥珀色。包含溶血(h)的血清或血浆部分具有微红色。包含黄疸(i)的血清或血浆部分由于增加的胆红素而具有深黄色,并且包含脂血(l)的血清或血浆部分具有发白或乳白色的外观。取决于通过预分析操作所确定的颜色,可以指派干扰物质类型和指数值。

在一些实例中,上述条形码标签中的一个或多个可部分地遮蔽和模糊试样的某些侧面视点,使得可能存在某些定向,所述定向不提供用于可视地观察血清或血浆部分的清楚机会。因而,这样的预筛选的自动化已经包括了例如以这样的方式对试样进行旋转定向,所述方式允许针对h、i和/或l或n的自动化预筛选。例如,在一些系统、诸如在miller的、题为“methodsandapparatusforascertaininginterferentsandphysicaldimensionsinliquidsamplesandcontainerstobeanalyzedbyaclinicalanalyzer”的专利号为9,322,761的美国专利中描述的那些中,试样容器被旋转以找到不受标签阻碍的观看窗口,在其之后实施成像。

在其它系统、诸如在park等人的wo2016/133,900中描述的那些中,试样容器和试样从多个视点被成像并且利用基于模型的系统被处理使得不需要试样容器的旋转。然而,在这样的基于模型的系统中,模型的提前训练是极度劳动密集的。

因此,存在对于如下的未被满足的需要:被适配成表征生物流体试样中干扰物质的存在并且能够被更高效地训练的稳健且高效的方法和装置。



技术实现要素:

根据第一方面,提供了一种用于训练神经网络的方法。用于训练神经网络的方法包括:在成像位置处捕获包含训练试样的试样容器的训练图像,生成血清或血浆部分的候选区(regionproposal)以用于输入到神经网络,以及选择提供针对训练试样的血清或血浆部分的最佳匹配的候选区。

在另一方面中,提供了一种用于通过使用经训练的神经网络来表征试样的方法。所述方法包括:在成像位置处捕获包含试样的试样容器的图像,生成血清或血浆部分的候选区以用于输入到神经网络,以及通过回归来使候选区收敛以提供经验证的区。

根据另一方面,提供了被配置成确定在试样容器内所包含的试样中存在干扰物质的品质检查模块。所述品质检查模块包括:图像捕获设备,其被配置成捕获包含试样的血清或血浆部分的试样容器的多个图像;以及被耦合到所述图像捕获设备的计算机,所述计算机被配置成并且能够被操作以:将来自所述多个图像的图像数据输入到神经网络,生成血清或血浆部分的候选区,通过回归来使所述候选区收敛,以及从所述神经网络输出血清或血浆部分作为是溶血的、黄疸的、脂血的和正常的中一个或多个的分类。

通过说明多个示例实施例和实现方式,包括被设想用于实施本发明的最佳模式,本公开内容的仍其它的方面、特征和优点可以容易地从以下描述中显而易见。本文中描述的不同实施例的若干细节可以在各种方面中被修改,全部都不偏离本公开内容的范围。本公开内容意图覆盖落入权利要求的范围内的所有修改、等同物和可替换方案。

附图说明

以下描述的附图用于说明性目的,并且不一定按比例绘制。因此,附图和描述在性质上要被认为是说明性的,而不是限制性的。附图不意图以任何方式限制本发明的范围。

图1图示了根据一个或多个实施例的、包括被配置成实施针对h、i、和/或l或n的预筛选的一个或多个品质检查模块的试样测试装置的顶部示意图。

图2图示了包括经分离的试样的试样容器的侧视图,所述经分离的试样具有包含干扰物质的血清或血浆部分,并且其中试样容器在其上包括条形码标签。

图3a图示了包括条形码标签、经分离的试样的试样容器的侧视图,所述经分离的试样在其中包括:包含干扰物质的血清或血浆部分、经沉淀的血液部分、以及凝胶分离器。

图3b图示了包括条形码标签、试样的试样容器的侧视图图像,所述试样包括:包含干扰物质的血清或血浆部分、经沉淀的血液部分、以及凝胶分离器,所述试样容器以直立定向被支撑在保持器中并且图示了矩形成像区。

图3c图示了根据一个或多个实施例的图3b的成像区的侧视图,其包括示例所叠加的网格。

图3d图示了根据一个或多个实施例的图3b的图像的侧视图,其通过对管直径的认知而具有经简化的所叠加网格。

图4a图示了根据一个或多个实施例的品质检查模块的示意性顶视图,所述品质检查模块(其中顶板被移除)包括多个视点并且被配置成捕获和分析多个图像以使能确定干扰物质的存在。

图4b图示了根据一个或多个实施例的沿着图4a的截面线4b-4b所取的图4a的品质检查模块(其中前围封壁被移除)的示意性侧视图。

图5a图示了根据一个或多个实施例的用于训练cnn的示例架构的框图。

图5b图示了根据一个或多个实施例的用于测试cnn的示例架构的框图。

图6a图示了根据一个或多个实施例的来自第一视点的第一图像。

图6b图示了根据一个或多个实施例的来自第二视点的第二图像。

图6c图示了根据一个或多个实施例的来自第三视点的第三图像。

图6d图示了根据一个或多个实施例的示意性顶视图,其图示了各种视点的定向。

图7是根据一个或多个实施例的用于训练神经网络的方法的流程图。

图8是根据一个或多个实施例的用于表征试样的方法的流程图。

具体实施方式

考虑到用于训练基于模型的系统以用于表征生物流体的方法的上述缺陷,在本文中提供了显著改善模型训练过程的效率的方法和装置。具体地,基于模型的系统的现有技术训练涉及对具有已知性质的训练试样进行成像,然后操作员将必须手动地描画训练试样的图像内的各种部分(图形区的标注,诸如限界框)。这些限界框可以描画血清或血浆部分、经沉淀的血液部分、凝胶分离器、空气等等的外围区。这些限界框被提供作为模型训练经标注的输入(图形输入),使得模型可以被训练以稍后在试样测试期间识别这些区。另外,手动数据标注输入可以被提供用于每个手动生成的限界框、诸如h、i、l类或n和/或hil指数值。应当理解到,提供并且输入(其图形区的)这样的手动限界框使得基于模型的系统的总体训练非常繁重并且极度耗时,从而需要人的手动努力。因而,非常需要不太依赖于手动图形输入的更高效的模型训练方法。

因此,本公开内容提供了被配置成训练模型、诸如神经网络(例如卷积神经网络-cnn)的方法和装置。具体地,模型可以被配置并且适配成确定在生物流体试样中是否存在干扰物质(例如hil)或它是否正常(例如n)。本文中描述的训练方法和装置是极其高效的,并且不涉及任何手动的区/图形标注输入以便训练神经网络(例如cnn)。因而,神经网络训练可以迅速地并且在通过操作员的最小手动输入的情况下进行。

在第一方面中,训练方法涉及利用一个或多个图像捕获设备在成像位置处捕获包括训练试样的多个试样容器的图像,用于捕获多个训练图像(例如数字、像素化的训练图像)。用于模型(例如“训练cnn”)的地面实况标签被输入作为训练输入。对于每个训练试样,干扰类型以及可能地测量或验证的指数单位可以被提供作为地面实况标签,其被期望作为来自测试cnn的输出。因而,地面实况标签可以是例如h、i、和/或l、或n,和/或在其它实施例中是针对h、i和/或l中每一个的若干谨慎的指数值,其被期望成是来自测试cnn的输出。“测试cnn”是如下模型:其一旦被训练,并且然后就能够针对hiln来测试试样。

图像数据预处理可以可选地被使用在一些实施例中以例如实现背景移除或管类型检测。这样的预处理可以用于缩减图像的尺寸(即至感兴趣的相关区域)、缩减迭代的量以用于收敛、并且缩减用于训练的总体时间。为了避免使用手动图形输入,本文中描述的方法和装置包括针对血清或血浆部分的候选区的自动生成。自动被生成以用于训练的候选区在实施例中由经成像的区域的子区所构成。例如,子区可以对应于已经被叠加在训练图像之上的虚拟训练网格的子区。换言之,候选区可以是作为虚拟网格内的较小区域的不同区域的子区域的集合。在实施例中,虚拟训练网格可以包括垂直和水平线,其相交并且在相交处形成虚拟网格的虚拟节点。虚拟网格内的网格元素的集合或分组可以构成候选区。

例如,候选区可以包括训练图像内的矩形子区。例如,在一些实施例中,可以通过选择虚拟网格内的两个虚拟节点(例如对角相对的拐角节点)来生成候选区。在一些实施例中可以随机地选择特定的候选区。数千训练图像被捕获并且输入到“训练cnn”,并且数千随机生成的候选区也被生成并且输入到“训练cnn”,其连同关于hiln以及可能地hil指数水平的地面实况信息一起。各种候选区中的每一个可以针对与所录入的图像数据内的血清/血浆部分的位置的相关(适合)度来被核查。

例如,每个候选区可以如下来被测试/核查:通过滤波、诸如通过检查每个候选区内的光强度梯度。例如,可以通过检查训练图像的某些部分内的光强度的梯度来辨别匹配度。具有良好相关性的那些部分可以被保持,而具有拙劣相关性的那些可以被丢弃。因而,可以基于与所输入的训练图像的“匹配”度来选择多个最佳候选(例如数千个),即,可以使用具有最高相关性的那些候选区。

在一些实例中,虚拟网格可以由在尺寸方面具有宽度(w)和高度(h)的矩形形状的网格元素所构成。应当使用合适精细的网格,使得可以获得血清或血浆部分或尺寸和形状的良好估计。每个候选区被生成(例如随机地)并且作为输入被提交到“训练cnn”,其连同训练图像以及地面实况标签一起,并且收敛度被测试。收敛意指在80%的情况、或甚至90%、或甚至95%、或更高的中,获得正确的结果。如果在训练期间获得了足够的收敛,那么训练可以停止。可以通过考虑针对hil分类部分(softmax)的损失来实现恰当训练的考虑。

一旦“训练cnn”被充分训练,各种特征和/或模型权重就可以被传递并且被使用作为“测试cnn”的部分,所述“测试cnn”被配置成自动识别试样容器中的测试试样的血清或血浆部分,并且提供合适的分类、如h、i、和/或l或n,并且如果模型已经被训练成这样做,则提供其h、i、或l指数。

因而,一旦被训练,“测试cnn”就可以用于确定在试样的血清或血浆部分中存在干扰物质、诸如h、i、和/或l、或n(下文中“hiln”)或其某个hil子集。所述方法和神经网络(例如“测试cnn”)可以被配置成确定n类h(例如h1、h2、h3或更多)、n类i(例如i1、i2、i3或更多)、和/或n类l(例如l1、l2、l3或更多)、或n。在一些实施例中,“测试cnn”能够标识n类h、以及n类i、以及n类l中的全部三者。尤其是,尽管示出了10-类“测试cnn”,包括具有n=3的h、具有n=3的i、具有n=3的l、以及n,但是可以使用其它数目的结果,诸如n=4、5、6、7、8或更多。

区分血清和血浆部分与包括一个或多个标签的区是特别令人烦恼的问题,因为所述一个或多个标签可以缠绕试样容器至各种程度。因而,所述一个或多个标签可以模糊一个或多个视点,使得可能难以获得血清或血浆部分的清楚视图。因而,血清或血浆部分的分类由于来自所述一个或多个标签的干扰而可能是相当具有挑战性的,所述一个或标签的安置可从一个试样容器到在被预筛选的下一个而相当大地变化。

特别地,考虑到所述一个或多个标签可出现在背侧上并且因而影响在前侧所接收的光透射,由所述一个或多个标签所引起的阻碍可严重地影响光谱响应,诸如从各种视点。考虑到这个,对于“训练cnn”的输入可以是多光谱、多曝光的图像数据,其可以被预处理(例如合并和归一化),并且获得自多于一个图像捕获设备。例如,图像捕获设备可以包括多个图像捕获设备,所述多个图像捕获设备被布置并且配置成从多于一个视点(例如比如三个侧面视点)捕获图像。

在训练方法的一些实施例中,首先可以在hil和n的各种水平下并且从多个视点训练一些较容易的训练示例(例如没有标签)。然后,包括各种位置和各种数目的标签(例如多达两个标签)的更难的训练示例可以被输入,作为在多个视点下的训练试样。作为结果,在其中存在标签阻碍的情况中可以提供用于识别血清或血浆区的“训练cnn”的更有效的训练。

定义

“干扰物质”,如本文中所使用的,意指在试样的血清或血浆部分中存在溶血(h)、黄疸(i)、或脂血(l)中的至少一个。溶血(h)、黄疸(i)、或脂血(l)在本文中共同被称为“hil”。

“溶血”被定义为血清或血浆部分中的一种状况,其中在处理期间,红血细胞被破坏,其导致血红蛋白从红血细胞被释放到血清或血浆部分中,使得血清或血浆部分呈现微红色调。可以通过指派溶血指数来量化溶血(h)度。

“黄疸”被定义为血液一种状况,其中血清或血浆部分是由胆色素(胆红素)的积累所引起的褪色的深黄色。可以通过指派黄疸指数来量化黄疸(i)度。

“脂血”被定义为在血液中存在异常高浓度的乳化脂肪,使得血清或血浆部分包括发白或乳白的外观。可以通过指派脂血指数来量化脂血(l)度。

“正常”被定义为如下血清或血浆部分:所述血清或血浆部分包括可接受地低量的h、i、和l并且在本文中被指定为n。

“血清或血浆部分”是血液的液体组分。它在分级分离(例如通过离心)之后存在于经沉淀的血液部分上方。血浆和血清不同之处在于凝结组分、主要是纤维蛋白原的含量。血浆是不凝固的液体,而血清是指已经被允许在内生酶或外生组分的影响下凝固的血液血浆。

“经沉淀的血液部分”是经填充的半固体,由血细胞构成,所述血细胞诸如白血细胞(白血球)、红血细胞(红血球)以及血小板(凝血细胞),其聚合并且与血清或血浆部分分离。在分级分离之后,经沉淀的血液部分存在于试样容器的底部分处,在血清或血浆部分下方。

“图像捕获设备”是能够捕获经像素化的图像(例如数字图像)以用于分析的任何设备,诸如数字相机、ccd(电荷耦合设备)、cmos(互补金属氧化物半导体)、传感器或光电检测器的阵列等等。

“经像素化的图像”,其如本文中所使用的意指由单个像素或像素的分组所构成的图像,所述像素的分组诸如超像素或图像片块(片块),其包括多于一个像素。

“标签”被定义为被适配成包含标识信息(即标记)的试样容器的外表面上的区域。所述标签可以是不透明的纸张、塑料、颜料、或被施加到试样容器的外表面的其它材料。标记可以是条形码、字母字符、数字字符、或其组合。标签可以是制造商标签或可以是由抽血者或由后续试样处理实体之后施加的标签,并且可以包括条形码。

“la”被定义为液体-空气界面,并且是在血清或血浆部分与在血清或血浆部分上方的空气之间的分界线(在侧面所查看的)。

“sb”是血清-血液界面,其是在血清或血浆部分与经沉淀的血液部分之间的分界线(在侧面所查看的)。

“tc”是管-盖帽界面,其是在空气与盖帽之间的界面处的分界线(在侧面所查看的)。

“ht”是管的高度,并且被定义为从管的最底部分到盖帽的底部的高度。

“hsp”,在其中不使用任何凝胶分离器的情况中,是血清或血浆部分的高度,并且被定义为从血清或血浆部分的顶部到经沉淀的血液部分的顶部、即从la到sb的高度。

“hsp”,在其中使用凝胶分离器的情况(图3a)中,是血清或血浆部分的高度,并且被定义为从la处的血清或血浆部分的顶部到sg处的凝胶分离器的顶部、即从la到sg的高度。

“hsb”,在其中不使用任何凝胶分离器的情况中,是经沉淀的血液部分的高度,并且被定义为从经沉淀的血液部分的底部到sb处的经沉淀的血液部分的顶部的高度。

“hsb”,在其中使用凝胶分离器的情况中,是经沉淀的血液部分的高度,并且被定义为从经沉淀的血液部分的底部到bg处的凝胶分离器的底部的高度。

“htot”,在其中没有凝胶分离器被使用的情况中,是试样的总高度,并且等于hsp+hsb。

“htot”,在其中使用凝胶分离器的情况中,是试样的总高度,并且等于hsp+hsb+凝胶分离器的高度。

“tw”是试样容器的壁厚度。

“w”是试样容器的外宽度。

“wi”是试样容器的内宽度。

“载体”是一种设备,其被配置成支撑以及输送试样容器,诸如在实验室自动化系统(las)内。

“vsp”是试样容器中血清或血浆部分的体积。

“vsb”是试样容器中经沉淀的血液部分的体积。

“溶血指数”,其如本文中所使用的,意指基于血清或血浆部分中所存在的溶血的所确定的含量(程度或量)而被给予特定试样的等级。

“黄疸指数”,其如本文中所使用的,意指基于血清或血浆部分中所存在的黄疸的所确定的含量(程度或量)而被给予特定试样的等级。

“脂血指数”,其如本文中所使用的,意指基于血清或血浆部分中所存在的脂血的所确定的含量(程度或量)而被给予血清或血浆部分的等级。

“卷积”,其如本文中所使用的,意指学习并且应用滤波器内核的处理步骤。在前向传递期间,通过计算点积而将滤波器应用到输入图像数据。这导致该滤波器的激活图(activationmap)。因而,网络对滤波器进行学习,所述滤波器当处理在输入图像数据中的某个空间定位处检测到某种特定类型的特征的时候激活。

“池化”,其如本文中所使用的,意指执行非线性下采样的处理步骤。典型地,应用最大池化。最大池化通过将最大滤波器应用到表示的非重叠的子区而被实现。

“softmax”,其如本文中所使用的,是用于预测n个互斥类中的单个类的损失。

刚好在离心之后并且在通过一个或多个分析器的分析之前针对hiln进行预筛选的能力可以有利地最小化对不具有用于分析的恰当品质的试样进行分析的所浪费的时间,可以避免或最小化错误的测试结果,可以最小化患者测试结果延迟,并且可以避免患者试样的浪费。此外,在一个或多个实施例中,在针对hiln的预筛选之后可发生补救动作,其中在试样的血清或血浆部分中标识h、i和/或l的不可接受的水平。

被提供用于训练模型(“训练cnn”)的试样容器可以具有不同的尺寸,包括不同的宽度和不同的高度,并且因而可以被供给用于训练并且稍后以多个不同的物理配置进行预筛选。例如,试样容器可以具有诸如例如13mmx75mm、13mmx100mm、16mmx100mm和16mmx125mm的尺寸。可遇到其它合适的试样容器尺寸。

本文中描述的方法可以使用对试样容器以及血清或血浆部分的高动态范围(hdr)图像处理,作为对于“训练cnn”以及“测试cnn”的输入。hdr成像涉及捕获多个曝光,而同时使用多光谱照明,如从下文中将显而易见的。

在一个或多个实施例中,品质检查模块可以被配置成实施本文中描述的训练方法和测试方法。品质检查模块可以被实现在las的任何合适的区域中,优选地其中机器人机构(例如夹爪机器人)或轨道可以促进试样容器向那里的输送。在一些实施例中,可以在试样测试装置的轨道上或沿着试样测试装置的轨道来提供品质检查模块,并且支撑试样容器的载体可以被配置成将试样移动到品质检查模块中的成像位置,以便利用基于图像的品质检查模块来准确地训练以辨别hiln。

然而,在一些实施例中,训练可以可替换地发生在与试样测试装置的测试位置不同的位置处的训练模块上,其中所述训练模块是用于预筛选的品质检查模块的确切复制。在一些实现方式中,轨道可以将试样承载到预筛选位置,以及还承载到一个或多个远程位置以用于载体上的分析器上的分析(例如临床化学测试或试验)。在实施例中,训练试样容器在训练(和测试)期间可以是以直立的定位被保持,诸如通过保持器。保持器可以包括指状物或其它合适的物品,其在相应图像的捕获期间以近似垂直直立的定向来保持试样容器。在一些实施例中,保持器可以是载体的部分。

在一些实施例中,可以通过多个图像捕获设备来获得训练图像,所述多个图像捕获设备被定位以便从多个视点(例如多个侧面视点)捕获训练图像。所述多个训练图像可以在品质检查模块处被获得,并且可以在以多个光谱提供照明(例如背光)的时候在多个曝光(例如曝光时间)下被捕获,其中每个光谱具有不同的标称波长。

照明的多个光谱可以包括例如所发射的红(r)、绿(g)、和/或蓝(b)光的光照。在其它实施例中,白(w)、红外(ir)和/或近ir(nir)可以用于照明。可以使用先前提及的照明源的任何组合。照明可以包括背光照明,其中图像捕获设备位于一侧上,并且背光源在试样容器的相对侧上。曝光时间可以基于所使用的光照强度和光谱以及(多个)图像捕获设备的特征而变化。多个曝光时间(例如4-8个不同的曝光)可以用于每个光谱以及用于每个图像捕获设备(即用于每个视点)。可以使用其它数目的曝光。

在图像数据预处理操作中,对于特定光谱下(不同的曝光时间下)的多个所捕获的图像的每个对应的像素(或片块,如果使用按片块的处理的话),可以选择展现最优图像强度的像素(或片块)。这些所选择的展现最优图像强度的像素(或片块)还可以被归一化。结果可以是多个经合并和归一化的彩色图像数据集,对于每个不同的照明光谱(例如r、g、b、w、ir和/或nir)以及对于每个视点有一个图像数据集。这些经合并和归一化的数据集可以用数据矩阵的形式、作为层被提供到“训练cnn”。一旦被恰当地训练,就可以通过“测试cnn”来在取自每个测试试样的图像(测试图像)上进行操作,以确定hiln。在一些实施例中,对干扰类型(hil)的确定作为来自“测试cnn”的输出而被提供。在其它实施例中,“测试cnn”的输出可以是n类hil或正常(n)。

发明的训练方法以及被配置成实施所述训练方法的训练品质检查模块的另外的细节在本文中参考图1-8而被进一步描述。

图1图示了能够自动处理包含试样212的多个试样容器102(例如参见图2-3b)的试样测试装置100。试样容器102在被输送到被布置在试样测试装置100周围的一个或多个分析器(例如,相应地第一、第二和第三分析器106、108和/或110)并且通过所述一个或多个分析器分析之前可以被提供在加载区域105处的一个或多个机架104中。可以使用更多或更少数目的分析器。分析器可以是临床化学分析器和/或试验仪器等等的任何组合。试样容器102可以是任何适当透明或半透明的容器,诸如血液收集管、测试管、样品杯、试管、或能够包含试样212并且允许对其中所包含的试样212的成像的其它透明或不透明的玻璃或塑料容器。试样容器102可以在尺寸方面变化,如以上所讨论的那样。

试样212可以在试样容器102中被提供给试样测试装置100,所述试样容器102可以用盖帽214盖住。盖帽214可以具有不同的盖帽颜色(例如红色、品蓝、浅蓝、绿色、灰色、棕褐色、黄色或颜色组合),其可以具有在试样容器102用于什么测试、其中所包括的添加剂的类型、容器是否包括凝胶分离器等等方面的含义。可以使用其它颜色。

试样容器102中的每个可以设有标签218,所述标签218可以在其上包括标识信息218i(即标记),诸如条形码、字母的、数字的、或其组合。标识信息218i可以在试样测试装置100周围的各种位置处机器可读。机器可读信息可以比标签材料(例如白色)更深(例如黑色),使得它具有能够被容易地成像的对比度。标识信息218i可以指示、或可以用其它方式经由实验室信息系统(lis)147相关于例如患者的标识以及将在试样212上完成的测试、或其它信息。这样的标识信息218i可以被提供在标签218上,所述标签218可以被粘附到管215的外表面或以其它方式被提供在管215的外表面上。在图2所描绘的实施例中,标签218可以不一直围绕试样容器102或完全沿着试样容器102的长度而延伸。因而,从所示的特定的前视点,血清或血浆部分212sp的大部分清楚可视,并且能够被成像(点线示出的部分)并且不被标签218阻碍。

然而,在一些实施例中,可能已经提供了多个标签218(诸如从已经处置了试样容器102的多个设施),并且它们可以在某个程度上与彼此重叠。例如,两个标签(例如制造商的标签和条形码标签)可以被提供并且可以是重叠的,并且可以遮蔽(阻碍)某些视点。因而,应当理解到,在一些实施例中,尽管(多个)标签218可以遮蔽试样212的某个部分(被遮蔽的部分),但是试样212以及血清和血浆部分212sp的某个部分从至少一个视点仍可以是可视的(未被遮蔽的部分)。因而,根据本公开内容的另一方面,被配置成实施训练方法的“训练cnn”的实施例可以被训练以识别被遮蔽以及未被遮蔽的部分,使得可以提供经改善的hiln检测。

再次参考图2,试样212可以包括被包含在管215内的血清或血浆部分212sp以及经沉淀的血液部分212sb。空气216可以被提供在血清和血浆部分212sp上方,并且在它们之间的分界线被定义为液体-空气界面(la)。在血清或血浆部分212sp与经沉淀的血液部分212sb之间的分界线被定义为血清-血液界面(sb)。在空气216与盖帽214之间的界面被定义为管-盖帽界面(tc)。管的高度(ht)被定义为从管215的最底部分到盖帽214的底部的高度,并且可以被成像并且用于确定管高度。血清或血浆部分212sp的高度是(hsp),并且被定义为从血清或血浆部分212sp的顶部到经沉淀的血液部分212sb的顶部的高度。经沉淀的血液部分212sb的高度是(hsb),并且被定义为从经沉淀的血液部分212sb的底部到sb处经沉淀的血液部分212sb的顶部的高度。htot是试样212的总高度,并且等于hsp加hsb。

在其中使用凝胶分离器313的情况(图3a)中,血清或血浆部分212sp的高度是(hsp),并且被定义为从la处的血清或血浆部分212sp的顶部到sg处的凝胶分离器313的顶部的高度,其中sg是在血清或血浆部分212sp与凝胶分离器313之间的界面。经沉淀的血液部分212sb的高度是(hsb),并且被定义为从经沉淀的血液部分212sb的底部到bg处的凝胶分离器313的底部的高度,其中bg是在经沉淀的血液部分212sb与凝胶分离器313之间的界面。htot是试样212的总高度,并且等于hsp加hsb加凝胶分离器313的高度。在每种情况中,tw是壁厚度,w是外宽度,其也可以用于确定试样容器102的尺寸,并且wi是试样容器102的内宽度。

更详细地,试样测试装置100可以包括基底120(例如,框架、底板或其它结构),在其上可以安装轨道121。轨道121可以是有轨的轨道(例如单轨或多轨)、传送带集合、传送链、可移动平台、或任何其它合适类型的传送机构。轨道121可以是圆形的或任何其它合适的形状,并且在一些实施例中可以是闭合的轨道(例如无尽的轨道)。轨道121在操作中可以在载体122中将试样容器102中单独的那些输送到围绕轨道121隔开的各种位置。

载体122可以是可以被配置成在轨道121上承载单个试样容器102的无源、非装有电动机的定位盘(puck),或可选地是包括板上驱动电动机的自动化载体,所述板上驱动电动机诸如线性电动机,所述线性电动机被编程以绕轨道121移动并且停在预编程的位置处。可以使用载体122的其它配置。载体122可以各自包括保持器122h(图3b),所述保持器被配置成将试样容器102保持在所限定的直立的定位和定向中。保持器122h可以包括多个指状物或叶片弹簧,其将试样容器102紧固在载体122上,但是一些可以是可移动的或柔性的以适应试样容器102的不同尺寸(直径)。在一些实施例中,载体122可以在从所述一个或多个机架104被卸载之后从加载区域105离开。加载区域105可以用于还在完成了预筛选和/或分析之后允许从载体122向加载区域105重加载试样容器102的双重功能。训练试样的递送和路由可以使用相同的途径。

机器人124可以被提供在加载区域105处,并且可以被配置成从所述一个或多个机架104抓取试样容器102,并且将试样容器102加载到载体122上,诸如加载到轨道121的输入通道上。机器人124还可以被配置成从载体122向所述一个或多个机架104重加载试样容器102。机器人124可以包括一个或多个(例如至少两个)能够进行x(横向)和z(垂直——从纸张出去,如所示的)、y和z、x、y和z、和r(径向)和西塔(theta)(旋转)运动的机器人臂或组件。机器人124可以是台架式(gantry)机器人、铰接式机器人、r-西塔机器人、或其它合适的机器人,其中机器人124可以配备有机器人夹爪,所述机器人夹爪被定向、定尺寸以及配置成拾取并且安置试样容器102。

在被加载到轨道121上时,由载体122所承载的试样容器102可以前进到第一预处理站125。例如,所述第一预处理站125可以是被配置成实施试样212的分级分离的自动化离心机。承载试样容器102的载体122可以通过流入通道或其它合适的机器人而被转向到第一预处理站125。在被离心之后,试样容器102可以在流出通道上退出,或以其它方式被机器人从离心机移除,并且沿着轨道121而继续。在所描绘的实施例中,载体122中的试样容器102可以接下来被输送到品质检查模块130,用以实施训练或预筛选,如本文中将进一步描述的那样。针对试样212中每一个的hiln的程度以及机架105中的容器尺寸在训练期间是已知的,并且因而可以经由与标签218的相关性而被提供到“训练cnn”。

品质检查模块130一旦被训练就被配置成预筛选、被配置成自动确定在试样212中所包含的h、i和/或l的存在以及可能地程度、或者试样是否是正常(n)的。如果被发现包含实际上低量的h、i和/或l以便被视为是正常(n)的,则试样212可以在轨道121上继续,然后可以由所述一个或多个分析器(例如第一、第二和/或第三分析器106、108和/或110)来分析。其后,试样容器102可以被返回到加载区域105以用于重加载到所述一个或多个机架104。

试样测试装置100可以包括在绕轨道121的一个或多个位置处的多个传感器116。传感器116可以用于借助于读取标识信息218i、或比如在每个载体122上所提供的信息(未被示出)而检测轨道121上的试样容器102的位置。可以使用用于追踪位置的任何合适的手段,诸如邻近传感器。所有传感器116可以与计算机143对接,使得每个试样容器102的位置可以始终已知。传感器116可以在训练期间被用于标识已经被路由到品质检查模块130以用于训练的试样212。

预处理站和分析器106、108、110可以配备有被配置成从轨道121移除载体122的机器人机构和/或流入通道、以及被配置成使载体122重进入到轨道121的机器人机构和/或流出通道。

试样测试装置100可以由计算机143控制,所述计算机143可以是基于微处理器的中央处理单元cpu,具有合适的存储器以及用于操作各种系统组件的合适的调节电子器件和驱动器。计算机143可以被收容为试样测试装置100的基底120的部分或与所述基底120分离。计算机143可以操作以控制载体122向和自加载区域105的移动、绕轨道121的运动、向和自第一预处理站125的运动以及第一预处理站125(例如离心机)的操作、向和自品质检查模块130的运动以及品质检查模块130的操作、以及向和自每个分析器106、108、110的运动以及用于实施各种类型的测试(例如试验或临床化学)的每个分析器106、108、110的操作。在训练期间,计算机143可以用于完成“训练cnn”的训练。可选地,分离的计算机可以实施模型训练。

对于除了品质检查模块130之外的全部,计算机143可以根据软件、固件和/或硬件命令或电路、诸如由纽约tarrytown的西门子医疗诊断(siemenshealthcarediagnostics)公司所出售的dimension®临床化学分析器上所使用的那些来控制试样测试装置100,并且这样的控制对于基于计算机的机电控制编程领域中的技术人员而言是典型的,并且将不在本文中被进一步描述。然而,可以使用用于控制试样测试装置100的其它合适系统。品质检查模块130的控制还可以由计算机143提供,但是根据在本文中详细描述的方法。具体地,提供用于实现试样测试装置100的迅速训练的方法和装置。

用于针对本文中描述的表征/测试以及训练方法所实施的图像处理的计算机143可以包括cpu或gpu、足够的处理能力和ram、以及合适的存储装置。在一个示例中,计算机143可以是配备有多处理器的pc,其具有一个或多个gpu、8gb的ram或更多、以及太字节或更多的存储装置。在另一示例中,计算机143可以是配备有gpu的pc、或可选地以并行化模式操作的配备有cpu的pc。也可以使用mkl,8gb的ram或更多,以及合适的存储装置。

本公开内容的测试实施例可以通过使用计算机接口模块(cim)145来被实现,所述计算机接口模块(cim)145允许用户容易并且快速地访问各种控制和状态显示屏幕。这些控制和状态显示屏幕可以显示用于试样212的预备和分析的多个相关的自动化设备的一些或所有方面并且使能实现对所述一些或所有方面的控制。cim145可以被采用以提供关于多个相关自动化设备的操作状态的信息、以及描述任何试样212的位置的信息,以及将在试样212上被执行、或正在试样212上被执行的测试的状态。cim145因而被适配成促进在操作员和试样测试装置100之间的交互。cim145可以包括显示屏,所述显示屏被适配成显示菜单,其包括图标、滚动条、框和按钮,通过它们操作员可以与试样测试装置100对接。所述菜单可以包括多个功能元素,所述功能元素被编程以显示和/或操作试样测试装置100的功能方面。

在详细地解释了迅速训练方法之前,将描述也可以用于训练的品质检查模块130的配置。如在图4a-4b中所示出的,提供了被配置成实施hiln表征以及训练方法的品质检查模块130。品质检查模块130可以被配置成对试样212进行成像,并且被适配成在通过所述一个或多个分析器106、108、110的分析之前针对试样212中(其血清或血浆部分212sp中)的干扰物质(例如h、i和/或l或n)的存在进行预筛选。

现在参考图1、4a和4b,示出了品质检查模块130的第一实施例,其包括多个图像捕获设备440a-440c。三个图像捕获设备440a-440c被示出并且是优选的,但是可选地可以使用单个图像捕获设备、两个或更多、或者四个或更多。图像捕获设备440a-440c可以是用于捕获被很好地限定的数字图像的任何合适的设备、诸如能够捕获经像素化的图像的常规数字相机、电荷耦合设备(ccd)、光电检测器的阵列、一个或多个cmos传感器等等。例如,在图4a中所图示的图像捕获设备440a、440b、440c被配置成从三个不同的侧面视点(被加标签为1、2和3的视点)捕获图像。例如,所捕获的图像尺寸可以是例如大约2560×694像素。在另一实施例中,图像捕获设备440a、440b、440c可以捕获可以是例如大约1280×387像素的图像尺寸。可以使用其它图像尺寸和像素密度。

图像捕获设备440a、440b和440c中的每一个可以被配置并且可操作以捕获试样容器102的至少一部分以及试样212的至少一部分的侧面图像。例如,图像捕获设备440a-440c可以捕获图像315,诸如图3b中所示出的,其包括标签218的部分以及血清或血浆部分212sp的部分或全部。例如,在一些实例中,视点1-3的部分可部分地被标签218遮蔽。在一些实施例中,视点1-3中的一个或多个可以被完全遮蔽,即没有任何血清或血浆部分212sp的清楚视图是可能的。然而,甚至在其中视点1-3的一侧(前侧或背侧)被一个或多个标签218完全遮蔽的情况中,所述表征方法在被适当地训练时仍可以能够通过所述一个或多个遮蔽的标签218来区分血清或血浆部分212sp的边界。

在所示出的实施例中,所述多个图像捕获设备440a、440b、440c被配置成从多个视点1-3捕获在成像位置432处的试样容器102和试样212的侧面图像。视点1-3可以被间隔开使得它们近似均等地与彼此间隔开,诸如距彼此大约120°,如所示出的那样。如所描绘的,图像捕获设备440a、440b、440c可以绕轨道121而被布置。可以使用图像捕获设备的其它布置。以此方式,当试样容器102驻留在载体122中在成像位置432处的时候,可以拍摄试样容器102中试样212的图像。由图像捕获设备440a、440b和440c所获得的多个图像的视场可以在圆周的范围中轻微地重叠。

在一个或多个实施例中,载体122可以停在品质检查模块130中预定的位置处、诸如在成像位置432处,即诸如在其中来自图像捕获设备440a、440b、440c中的每一个的法向向量与彼此相交的点处。载体122的门控或线性电动机可以被提供以将载体122停在成像位置432处,使得可以在那里捕获多个品质图像。可以在训练期间在成像位置432处捕获训练图像。在其中在品质检查模块130处存在门的实施例中,可以使用一个或多个传感器(比如传感器116)来确定在品质检查模块130处存在载体122。

图像捕获设备440a、440b、440c可以被提供成极邻近于成像位置432并且被聚焦以在成像位置432处捕获具有图像315的尺寸的图像窗口,其中所述图像窗口是包括试样容器102的预期位置的区域。因而,在一些实施例中,试样容器102可以停止使得它近似地位于图像窗口的中心中,并且因而在图像315的中心处。

在品质检查模块130的操作中,响应于通信线443a、443b、443c中所提供的、可由计算机143发送的触发信号,可以触发和捕获每个训练和测试图像。所捕获的图像中的每一个可由计算机143来处理。在一个特别有效的方法中,高数据速率(hdr)处理可以用于捕获并且处理来自所捕获的图像的图像数据。更详细地,在以一个或多个不同的光谱被循序地照明的时候,在品质检查模块130处、以多个不同的曝光(例如以不同的曝光时间)来捕获试样212的多个图像。例如,每个图像捕获设备440a、440b、440c可以以多个光谱中的每一个、以不同的曝光时间来拍摄包括血清或血浆部分212sp的试样容器102的4-8幅图像。例如,当利用具有红色光谱的光源444a来对试样212进行背光照明的时候,可以由图像捕获设备440a在视点1处拍摄4-8幅图像。每个图像可以是以不同的曝光。可以例如在视点2和3处循序地拍摄附加的相似的图像。

在一些实施例中,可以通过使用发射不同光谱照明的不同光源444a-444c来实现多个光谱图像。光源444a-444c可以对试样容器102(如所示出的)进行背光照明。多个不同的光谱光源444a-444c可以是rgb光源,诸如发射634nm+/-35nm(红色)、537nm+/-35nm(绿色)和455nm+/-35nm(蓝色)的标称波长的led。在其它实施例中,光源444a-444c可以是白光源。在其中标签218使多个视点模糊的情况中,可以可选地使用ir背光照明或nir背光照明。此外,在一些实例中可以使用rgb光源,甚至当标签遮蔽存在的时候。在其它实施例中,光源444a-444c可以发射具有在大约700nm与大约1200nm之间的标称波长的一个或多个光谱。

以非限制性示例的方式,为了以第一波长捕获图像,三个红光源444a-444c(大约634nm+/-35nm的波长)可以用于从三个侧面位置循序地对试样212进行照明。在通过每个图像捕获设备440a-440c从每个视点1-3捕获以不同曝光时间的多个图像(例如4-8个图像或更多)时,可发生通过光源444a-444c的红色照明。在一些实施例中,曝光时间可以在大约0.1ms和256ms之间。可以使用其它曝光时间。在一些实施例中,针对每个图像捕获设备440a-440c的相应图像中的每一个可以例如循序地被拍摄。因而,对于每个视点1-3,循序地获得一组图像,其具有红色光谱背光照明以及多个(例如4-8个曝光,诸如以不同的曝光时间)。例如,可以用轮循的方式来拍摄图像,其中来自视点1的所有图像被拍摄,这循序地继之以视点2和3,并且被存储在控制器143的存储器中。该序列可以被实现以用于训练图像以及用于稍后测试所捕获的图像。

在每个实施例中,品质检查模块130可以包括外壳446,所述外壳446可以至少部分地围绕或覆盖轨道121以最小化外部光照影响。试样容器102在图像拍摄序列期间可以位于外壳446内部。外壳446可以包括一个或多个门446d以允许载体122进入到外壳446中和/或从外壳446退出。在一些实施例中,顶板可以包括开口446o以允许由包可移动的机器人手指的机器人从上方将试样容器102加载到载体122中。

一旦在图4a-4b的实施例中捕获了红色照明的图像,另一光谱、例如绿色光谱光源444a-444c就可以被循序地开启(具有大约+/-35nm的带宽的大约537nm的标称波长),并且以不同曝光时间的多个图像(例如4-8或更多图像)可以由每个图像捕获设备440a、440b、440c来循序地捕获。这可以针对每个图像捕获设备440a、440b、440c、利用蓝色光谱光源444a-444c(具有大约+/-35nm的带宽的大约455nm的标称波长)来被重复。可以通过光面板来实现不同的标称波长光谱光源444a-444c,所述光面板包括可以例如被选择性地开启和关断的不同的所期望的光谱光源(例如r、g、b、w、ir和/或nir)的库。可以使用用于背光照明的其它手段。

可以迅速接连地获得针对每个相应的波长光谱、以多个曝光(例如曝光时间)所拍摄的多个图像,使得可以例如在小于几秒中获得从多个视点1-3针对试样容器102和试样212的背光图像的整个集合。在一个示例中,通过使用图像捕获设备440a、440b、440c和利用rgb光源444a-444c的背光照明、在三个视点1-3处针对每个波长的四个不同的曝光图像将导致4幅图像×3个光谱×3个图像捕获设备=36幅图像。在另一示例中,通过使用图像捕获设备440a、440b、440c和利用r、g、b、w、ir和nir光源444a-444c的背光照明、在三个视点处针对每个波长的四个不同的曝光图像将导致4幅图像×6个光谱×3个相机=72幅图像。该序列可以用于训练以及还用于测试,如将明显的。

根据表征方法的实施例,图像数据的处理可以涉及预处理步骤,其包括例如从在每个波长光谱下以不同的曝光时间并且针对每个图像捕获设备440a-440c的多个所捕获的图像中选择最优曝光的像素,使得为每个光谱以及为每个视点1-3生成最优曝光的图像数据。这是预处理步骤,在本文中被称为“图像合并”。

对于每个对应的像素(或片块),对于来自每个图像捕获设备440a-440c中的图像中的每一个,可以从针对每个视点1-3的不同的曝光图像中的每一个中选择展现最优图像强度的像素(或片块)。在一个实施例中,最优图像强度可以是例如落入预定强度范围内(例如在0-255的尺度上在180-254之间)的像素(或片块)。在另一实施例中,最优图像强度可以例如在0-255的尺度上在16-254之间。如果两个曝光图像的对应像素(或片块)位置中的多于一个像素(或片块)被确定为是最优曝光的,则可以选择两个中较高的。

展现最优图像强度的所选像素(或片块)可以通过其相应的曝光时间来被归一化。结果是针对照明光谱(例如r、g、b、白光、ir、和/或ir——其取决于所使用的组合)以及针对每个图像捕获设备440a-440c的多个经归一化并且合并的光谱图像数据集,其中所有的像素(或片块)被最优地曝光(例如每光谱一个图像数据集)并且被归一化。换言之,对于每个视点1-3,由计算机143所实施的数据预处理导致多个经最优曝光并且归一化的图像数据集,每个所采用的照明光谱一个。以所述方式所获得的数据集可以用于训练和测试(一旦系统被训练)二者。

在图5a中示出了被配置成实施训练方法的训练装置500tr的一个实施例的功能组件。训练装置500tr可以被具体化为品质检查模块130,并且被配置为训练装置。如以上所讨论的,在品质检查模块130的成像位置432(图4a-4b)处提供了包括试样212的试样容器102。可以在包含训练试样212的时候捕获每个试样容器类型的多个训练图像。在成像位置处(例如在成像位置432处)或在包括成像位置432的光照条件的复制的类似位置处捕获训练图像。

在504中通过一个或多个图像捕获设备(例如图像捕获设备440a-440c或其子集)来捕获多光谱、多曝光图像。针对多光谱、多曝光图像中的每一个的图像数据可以在506中被预处理,如以上所讨论的,以提供多个经合并且经最优曝光且经归一化的图像数据集(下文中“图像数据集”)。在训练方法之后的测试期间,来自测试试样212的类似生成的图像数据集可以作为层(作为矩阵)被供给并且被输入到“测试cnn500te”的“测试cnn535(图5b)”,其已经在先前被训练以识别hiln并且在hiln之间进行分类。作为结果,可以提供针对任何经成像的试样212的血清或血浆部分212sp的hiln的确定。

在训练方法期间(在测试之前),训练试样212的多个集合被用于对“训练cnn535tr”进行训练。根据训练方法、通过对包含训练试样212的许多试样容器102进行成像(例如利用品质检查模块130或其实质复制)来对“训练cnn535tr”进行训练。试样图像的数目可以包括数千(例如5000或更多、10,000或更多、或甚至15,000或更多)。图像在504中被获得,如以上所讨论的,并且可以包括在506中对图像数据进行预处理以提供图像合并和归一化。地面实况标签508作为训练输入被提供到“训练cnn535tr”,其连同来自图像捕获504的所捕获的图像一起,用于为每个训练试样212确立对应的hiln值(例如干扰物质类型和/或hil指数等级)。试样容器102的尺寸也可以是训练输入。

在所描绘的实施例中,“测试cnn535”(图5b)的所期望的结果是n类溶血的、n类黄疸的、n类脂血、以及正常(n)。因而,作为输入的地面实况标签508将包括hil以及跨hil和n的值的预期范围的n个值。已经经由分离的hiln测试而为每个训练试样212预定了作为地面实况标签508的hiln训练值输入,用于提供干扰物质类型或n,并且如果存在干扰物质,则可能地提供其指数。在“测试cnn535”中,“测试cnn535”的输出可以被映射到针对溶血、黄疸、和脂血中每一个的n个设定点值(其中n是整数值)以及针对n正常的一个设定点值。n的值可以例如在3与7之间。然而,可以使用n的其它值。例如,“测试cnn535”结果可以基于在针对每个n的某个预确立的范围(例如,对于n=3,于是范围可以是+/-16.5%)内而被指派到特定的结果。可以采用任何合适的融合方案来用于映射到“测试cnn535”的可用输出之一。

再次参考图5a,“训练cnn500tr”可以利用候选区生成器511来生成候选区319(图3c)。候选区319可以是随机生成的区,其是图像315的区域的子区。候选区319是用于提供在区域和位置方面与训练试样212的血清或血浆部分212sp相对应的图像315内的区的估计的尝试。在候选区生成器511中所生成的候选区319可以通过以及合适的手段来被生成。在一个实施例中,可以通过候选区生成器511来随机地生成候选区319。例如,可以通过经由任何合适的手段从被叠加在图像315之上的虚拟网格317中随机地选择子区(例如矩形框)而生成候选区319,如图3c中所示。

虚拟网格317可以包括沿着x方向所布置的厚度t以及沿着y方向所布置的高度h的多个网格元素317g。例如,在虚拟网格317的x方向中的t的等级的数目可以在沿着试样容器102的宽度的大约10到大约20t单位宽之间,而在y方向中的h的等级的数目可以在沿着试样容器102的长度/高度的20到40单位之间。可以使用在x和y方向中的其它数目的网格元素317g。x和y中的等级应当足够精细,使得能够找到训练试样212中每一个的血清或血浆部分212sp的区域的良好表示(例如90%匹配区域或更高)。参考图3c,差的候选区319b的示例被示出为图像315的左上方区中的矩形框,而良好候选区319g被示出为在位置和尺寸方面与血清或血浆部分212sp的区域接近地对应。如果最后在511中生成了足够的随机候选,则训练图像315中的每一个将与合适接近的候选区319近似地匹配,即近似地匹配血清或血浆部分212sp的区域、位置和形状。

可以通过任何合适的手段来生成候选区。在一些实施例中,可以通过随机地选择虚拟网格317内的两个节点317n来生成候选区319的对角线拐角。所选的节点是候选区319的对角线相对的拐角。任何合适的选择方案可以用于选择候选区319的节点/拐角。例如,参考差的候选区319b,左下方节点(x1,y1)和右上方节点(x2,y2)可以被随机地选择并且限定虚拟网格317内的候选区319的左下方和右上方拐角。可以生成多个这样的候选区319(例如数千个)。因而,虚拟网格317内的各种矩形形状(宽度和高度)和位置的候选区319将被生成并且在虚拟网格317内包括多个不同的子区。一些候选区319将是与特定训练试样212的血清或血浆部分212sp的区域的良好适合(例如良好候选区319g),而其它的将不是(例如差的候选区319b)。数千个图像315将被捕获和处理,并且将通过候选区生成器511生成数千个候选区319。

如将理解的,候选区319的适合将被测试/验证,并且将选择候选区319中最佳的(例如顶部2000或更多的候选区),其是与训练试样212的血清或血浆部分212sp的区的最佳适合(“匹配”)。在一些实施例中,候选区生成器511可以被配置使得相同的矩形候选区从不被产生两次。可以采用用于在虚拟网格317内选择候选区319的矩形形状的其它手段。例如,中心节点317n可以被选择,然后随机的宽度和随机的高度被随机地选择以产生每个候选区319。

合适的智能收敛方案可以用于将候选区319引导朝向血清或血浆部分212sp的相关区域。例如,各种手段可以用于缩减或限制虚拟网格317内的区域,其中候选区319将被生成,或以其它方式缩减虚拟网格317的尺寸。例如,如图3d中所示,具有对试样容器102的宽度w的认知可以将虚拟网格317的尺寸限制成仅为包括宽度w的区。例如,试样容器102的宽度w可以被提供为508中的地面实况标签。

候选区319然后在如图5a中所示的训练期间作为输入被提供到神经网络(例如提供到“训练cnn535”)。候选区319的生成是自动的,并且不需要通过操作员的图形输入(例如图形轮廓标注),如在现有技术中所需要的。

在一些实施例中,关于血清或血浆212sp的区的已知尺寸和位置的历史数据可以用于进一步限制由候选区生成器511生成候选区319所根据的虚拟网格317的起始尺寸。除了数千个训练图像315之外,在训练期间将数千个具有不同尺寸和位置的候选区319馈送到“训练cnn535”中。在输入了合适数目的图像315和候选区319之后,神经网络(例如“训练cnn535”)的收敛度可以被测试,以确定候选区319输入到目前为止是否提供了神经网络(例如cnn535)的足够性能,如以上所讨论的。

为了测试/核查候选区317是否是与训练试样212的血清或血浆部分212sp的良好匹配,可以分析各种候选区319内的强度梯度。例如,训练图像315中的每一个中的每个网格元素317g可以包括多个行和列的像素,并且每个像素可以具有针对每个光谱的相关联的强度值。候选区317的某些部分可以包括具有相对高的强度梯度的网格元素317g。这样的强度梯度可以是像素(或特定的网格元素317g内的片块)的平均强度。

每个候选区319可以如下来被测试/核查:通过滤波、诸如通过检查候选区319中的每个内的光强度梯度。例如,可以通过检查训练图像315的仅仅某些区内的光强度的梯度来辨别匹配度。例如,可以首先量化沿着每个候选区317的外围边界的梯度。候选区317的一个或多个子区内的相对高的梯度指示可与界面的存在相互关联的强度的改变,所述界面诸如例如液体-空气界面(la)、血清血液界面(sb)、或血清-凝胶界面(sg)。因而,可以基于在该子区内标识强度方面的改变以及与图像315一起输入的地面实况标签508来辨别上部界面(la)和/或下部界面(sb)或血清-凝胶界面(sg)。

在一些实施例中,沿着所生成的候选区319(其例如具有矩形形状)的外围所定位的虚拟网格317内的单独的网格元素317g内的强度梯度可以被量化。针对位于候选区319的外围处的网格元素317g中的每一个的这些强度梯度值(例如平均强度梯度)可以针对每个候选区319被求和,和/或针对每个候选区319被求和并且被求平均。大的总和或平均值可以意指在经成像的血清或血浆部分212sp与候选区319之间存在良好的相关性(例如良好的匹配)。相对较小的总和或平均值可以意指拙劣的相关性(例如拙劣的匹配)。因而,从所述多个候选区319中,可以基于与所输入的训练图像315的“匹配”度来选择多个最佳候选区(例如数千个最佳匹配的候选区),即具有最高总和或平均值的那些候选区319被选择,并且其它的可以被丢弃或不被使用。

例如,在图像315中,预期液体空气界面la位于网格317g的某个范围的行之间(例如基于历史数据)以及试样容器102的已知尺寸。同样地,预期血清血液界面sb存在于网格317g的另一范围的行之间(例如,再次基于历史数据)。在其中提供凝胶分离器313的情况中,预期血清凝胶界面sg存在于网格317g的又一范围的行之间。沿着水平维度,针对网格元素317g的强度方面的改变可以意指存在管215的边缘(管/空气界面),或存在标签218的边缘。“训练cnn535tr”通过如下来自动地确定可对应于血清或血浆部分212p的候选区319:通过使用在hdr图像中可见的可用梯度强度信息来核查限界框假设。由于在试样212中可见的各种区的特性,在流体区(例如血清或血浆部分212sp)与空气216之间的过渡导致清楚的强度梯度,其可以被量化并且用于核查候选限界框是否捕获所述过渡。诸如经沉淀的血液部分212sb、凝胶部分313或空气216之类的区可以在训练期间作为候选生成的部分来被选择,然而,学习过程的收敛将不被满足,因为内容不足够有辨别性以缩减在训练期间softmax分类器的损失。

这些区域中的网格元素317g内的强度方面的改变可以指示这样的界面或侧存在。可以此外通过如下来确认界面的存在:这些强度梯度作为图案而存在于网格317内,诸如沿着网格317的行或沿着网格317的列。可以通过比较沿着外围的网格元素317g的平均强度值来确定强度梯度。为了进一步限制到仅可行的区,被标识为其中可存在血清或血浆部分212sp的区的虚拟网格317的网格子区可以被检查,而在预期的子区外部的那些网格元素317g可以被忽略。例如,如果地面实况标签508包括管高度ht,那么仅能包含盖帽214或经沉淀的血液部分212sb的区域可以被忽略,并且仅能从不包括这些区域的网格317的子区中选择候选区319。例如,可以使用虚拟掩模或其它虚拟手段,其用于免除网格317的某些区作为能够被选择。在其它实施例中,作为地面实况标签508的试样容器102的宽度w的知识可以用于缩减虚拟网格317的尺寸。因而,由于针对可用于测试/核查的候选区319的较少选项,收敛应当更快。直径和/或管高度输入可以在训练方法期间被提供一次作为地面实况标签508,然后使用大量具有相同尺寸的试样的训练可以在切换到另一尺寸之前开始进行。因而,当尺寸被改变的时候,仅需要输入直径和/或高度输入作为地面实况标签508。

在图5b的目前的实施例中,在输出529处的来自“测试cnn535”的输出是n类的每种溶血(h1-h3)、n类的黄疸(i1-i3)以及n类的脂血(l1-l3)。在529处的来自“测试cnn535”的为正常(n)的输出也是可得到的。如同训练一样,在测试期间,品质检查模块130可以包括图像捕获设备(例如440a-440c),所述图像捕获设备被配置成捕获包含测试试样212的血清或血浆部分212sp的试样容器102的多个图像。被耦合到图像捕获设备的计算机143可以被配置并且能够被操作以将来自多个图像的图像数据输入到神经网络(例如图5b的“测试cnn535”),并且生成血清或血浆部分的候选区。可以通过候选区生成器511来生成候选区。限界框回归器515可以起作用以使候选区319收敛到测试试样212的血清或血浆部分212sp的实际尺寸、形状和位置。限界框回归器515通过在几何上比较所输入的候选区319与回归器515的响应(网络的输出)而收敛。如果获得了合适的区域匹配,那么回归器515已经收敛。大于80%的区域匹配可以被认为是匹配,但是甚至更高的百分比(例如大于90%、大于95%、大于97%)可以提供甚至更准确的结果。来自神经网络(“测试cnn535”)的输出是血清或血浆部分212sp作为是溶血的、黄疸的、脂血的和正常的中一个或多个的分类。

由候选区生成器511所生成的候选区319内的每个(像素或片块)由“测试cnn535”来处理,并且具有对于hiln中之一的输出。这些按像素(或按片块)的结果可以被映射到输出通道(例如1-10),并且通过任何合适的方法来被求和或融合,并且基于在最终的候选区内hiln中的哪一个具有最高计数来确定hiln。

为了提供针对hiln的经改善的最终表决,在一些实施例中,可以提供后期处理以遍历来自其它视点(例如视点1-3)的计数。因而,在所有出现(计数)之上的直方图可以被生成,并且针对试样212的、考虑所有视点的平均hiln可以被生成。

更详细地,如先前那样,在训练期间、在测试期间,多光谱、多曝光的经合并和归一化的图像数据集被输入到“测试cnn535”中作为图像数据集,并且通过“测试cnn535”在其上操作并且处理。利用“测试cnn535”的处理的输出可以是针对hil或n中每一个、以及当然针对每个视点的多个输出可能性(n类)。

对于测试装置500te,可以使用针对hiln的按通道的置信水平(cl),其中每个通道1-10与529处的特定类的类型(例如h1、h2、h3、i1、i2、i3、l1、l2、l3以及n)相互关联。因而,对于通过限界框回归器515所确定的最终候选区(匹配候选)中的每个像素(或片块),提供所输出的类(h1-n)。这些按像素(或按片块)的输出可以通过任何合适的后期处理例程来被融合以总计或以其它方式处理每个通道(例如所示出的通道1-10)的结果,并且在输出529处达成来自可用类(例如h1、h2、h3、i1、i2、i3、l1、l2、l3和n)的hiln的总体确定。可以使用任何合适的表决方案,诸如最终像素类=maxcl,然后合计针对血清或血浆部分212sp的最大cl的数目。可以按视点而实现该相同处理。所使用的各种视点的分类结果可以被求和或者以其它方式被合并或求平均。

在图5a-5b中示出了可以被使用的“训练cnn535tr”和“测试cnn535”的一个示例架构。本文中描述的cnn可以通过使用任何合适的科学计算框架、程序、或工具箱、诸如例如自伯克利视觉和学习中心(berkleyvisionandlearningcenter,bvlc)可得到的caffe、theano、用于数学表达式的快速计算的python框架、tensorflow、torch等等来被编码。

更详细地,cnn535tr、535可以包括合适数目的操作层以提供深度学习。例如,cnn535tr、535可以包括一种架构,所述架构包括至少两层、包括卷积(conv1、conv2)和池化(池1和池2),以及至少两个附加的全卷积(fc)层。在所描绘的实施例中,可以提供两个操作层538、540以及一个附加的操作层542。全卷积(fc)层可以在所述至少两个操作层538、540之后并且在限界框回归器515和softmax548中的每一个之前被提供。损失层544可以被提供在“训练cnn535tr”中,并且可以包括限界框回归器515和softmax548。cnn535tr、535的描述的架构可以用于为每个相应的图像找到合适的候选区319。如将认识到的,回归器515提供血清/血浆部分212sp的潜在限界框标注。在训练期间,候选限界框(候选区319)被提供给回归器515。由网络作为考虑图像内容的后果而给出结果。如果在对于回归器515的输入与收敛的限界框之间的偏差达到给定最小误差(例如在四个拐角点或大于某个合适百分比的%区域匹配之间的适当低的几何差异),所述给定的最小误差可以在输入图像的给定集合(例如10,000个训练试样212)之上被稳健地计算,则可假定回归器515收敛。

在“测试cnn535”中,一旦获得了合适的候选区319,该候选区的图像数据的每个层就可以利用移动窗口途径来被扫描以确定通道1-10处的输出,并且被后期处理以融合529处的输出,其可以基于任何合适的表决方案来被融合。输入片块的移动窗口可以例如是64×64片块(64×64像素)。然而,可以使用其它尺寸的片块。例如,示出了三个主要的操作层(conv1+pool1、conv2+pool2、以及conv3+pool3)。第一层538可以提取非常局部的结构边缘;第二层540可以学习纹理,所述纹理是边缘的组合;并且第三层542可以形成部分。cnn535、535tr的层538、540、542中的每一个受益于被处理的多通道输入(例如多光谱、多曝光信息)。在各种输入层、并且特别地三个输入层(例如rgb)之上的这些操作可以通过深度学习网络来被容易地处置和表示。该框架自然地集成低、中和高级特征,并且导致多层分类。从“训练cnn535tr”所获得的特征(例如具有训练权重的网络)被存储在计算机143中,并且可以用于稍后的测试。训练可以直到实现“训练cnn535tr”中合适的置信度为止。

再次参考图5a和5b,cnn535tr、535可以包括第一层538,所述第一层538包括卷积层(conv1),所述卷积层(conv1)可以包括例如尺寸为5×5×12的10个滤波器。可以使用其它滤波器数目和滤波器尺寸。结果得到的10个特征图然后被馈送到最大池化(pool1),其可以分离地为每个通道、以步幅1而在2×2空间邻域之上取max(最大值)。该层的目的是提取低级特征,尤其是比如简单的边缘。这继之以第二层540,所述第二层540包括卷积层(conv2)和最大池化层(pool2),所述卷积层(conv2)可以具有尺寸5×5×20的10个滤波器,所述最大池化层(pool2)可以利用步幅2而在3×3空间邻域之上取max(最大值)。第二层540的目的是学习简单边缘的不同组合以形成纹理。此后,结果得到的特征图被馈送到第三层542中,所述第三层542包括卷积层(conv3)和最大池化层(pool3),所述卷积层(conv3)可以具有尺寸3×3×20的20个滤波器,所述最大池化层(pool3)可以利用步幅2而在2×2空间邻域之上取max(最大值),用于学习纹理的组合以形成部分。先前提及的最大池化层使得卷积网络的输出对于局部平移而言更加稳健。最后,顶部的层是全卷积(fc)层,其中每个输出单元被连接到所有输入。这些层能够捕获部分之间的相关性。最后的全卷积层(fc)的输出被馈送到n路softmax(其中n=3是可能的输出类的数目),所述n路softmax产生在n类输出通道之上的分布。简言之,输入片块的移动窗口——其中每个片块利用所训练的cnn535来被分类——给出朝向n类之一的响应。在通过限界框回归器515的回归之后所找到的最终候选区标识将被分类的区。在该区外部的所有区都被忽略。针对对应的图像数据集的分类可以基于来自这些输出的多数表决结果。可以应用附加的步骤,其中按视点的结果可以在多个视点之上被融合以获得确信的决策,其诸如通过对多个视点的结果求平均。

图6a和6b图示了来自图像捕获设备440a、440b(参见图6d)的第一视点1和第二视点2的前语义图像615a、615b。在图6a和6b中,血清或血浆部分212sp中的一些被标签218遮蔽,并且从光源444a、444b(图6d)所发射的背光中的一些被后视图标签218b阻断(即,被遮蔽的血清或血浆部分212sp的部分被点线示出)。

图6c图示了来自图像捕获设备440c(图6d)的视点3的前语义图像615c。在图6c中,从视点3,所有血清或血浆部分212sp被标签218遮蔽。对于这些视点1、2、3中的每一个,“测试cnn535”可以输出针对血清或血浆部分212sp的hiln。此外,表征方法可以融合针对每个视点1、2、3的结果,并且提供hiln的总体确定。在每个情况中,“测试cnn535”考虑可见的血清或血浆部分212sp,而且还考虑被后视图标签218b所遮蔽的区。

因而,“测试cnn535te”在529处输出n类输出或n。例如,如果来自最终候选区的像素(或片块)中的多数被分类为n,那么血清或血浆部分212sp可以被分类为是正常(n)的。如果像素(或片块)中的多数被分类为h,那么血清或血浆部分212sp可以被分类为包含溶血(例如被映射到h1、h2或h3)。同样地,如果最后确定的候选区的像素(或片块)中的多数被分类为i或l,那么血清或血浆部分212sp可以相应地被分类为黄疸(例如被映射到i1、i2或i3)或脂血(例如被映射到l1、l2或l3)。在一些实施例中,经加权的多数表决方案还可以用于通过使用来自hiln结果的概率(cl)作为权重来对试样212进行分类。可以使用用于作为整体而对血清或血浆部分212sp进行表征的其它手段。

图7图示了根据本公开内容的实施例的训练方法700的流程图。训练方法700可以由品质检查模块130(或其实质复制)来实施,并且可操作以训练神经网络(例如“训练cnn535tr”),如本文中所述那样。具体地,根据一个或多个实施例,训练方法700可以用于确立测试神经网络(例如“测试cnn535”)的特征以确定试样212的血清或血浆部分212sp的干扰物质(例如h、i和/或l)的存在或正常性n。有利地,训练方法700不需要任何手动的图形标注(例如血清或血浆部分212sp或其它区的图形轮廓描画)。训练方法700包括,在702中在成像位置(例如成像位置432)处捕获包括训练试样(例如试样212)的试样容器(例如试样容器102)的训练图像。训练试样212包括血清或血浆部分(例如血清或血浆部分212sp)。捕获多个图像可以是从多个视点(例如视点1、2和3)。此外,试样容器102可以在其上包括一个或多个标签(例如标签218)。经成像的初始试样容器102可以没有标签218以有助于训练效率。所捕获的训练图像可以是通过使用一个或多个图像捕获设备(例如图像捕获设备440a-440c)所捕获的数字、经像素化的图像。

训练方法700此外可选地包括,在704中背景移除或管类型检测。该图像数据预处理506可以通过如下而发生:在用于训练cnn的各种光照和曝光条件下、在成像位置432处捕获空试样容器102的图像,然后减去那些像素强度值以仅仅留下与试样212和标签218相对应的强度。可选地,如果试样容器102的宽度w从地面实况标签508输入中已知,那么虚拟网格317的宽度可以缩小。如以上所讨论的,包含由图像捕获设备440a、440b、440c在504中所捕获的多光谱、多曝光图像的原始图像数据也可以在图像数据预处理506中被合并和归一化。

训练方法700此外包括,在706中生成血清或血浆部分(例如血清或血浆部分212sp)的候选区(例如候选区319)以用于输入到神经网络(例如cnn535tr)。来自多个所捕获的图像(例如图像315)的图像数据(例如经合并和归一化的图像数据集)连同候选区319一起被提交到神经网络(例如“训练cnn535tr”)并且从而被处理。可以通过本文中描述的计算机143来完成处理。

训练方法700此外包括在708中确定候选区(例如候选区319)中的哪些提供与训练试样212的血清或血浆部分212sp的最佳匹配。可以通过基于外围强度梯度数据来取候选区319的顶部百分比或数目来选择最佳匹配,如上所述。然而,可以使用用于选择最佳匹配的其它手段。

根据所述方法,一旦充分地训练了“训练cnn535tr”,在710中于是来自“训练cnn535tr”的所获得的特征(例如网络和权重)可以被使用在测试神经网络(例如“测试cnn535”)中。因此,基于前述内容,应当显而易见的是,提供经改进的训练方法700,其通过大体上消除训练试样212的血清或血浆部分212sp的手动图形标注输入来易于训练神经网络(例如cnn)。

图8图示了根据本公开内容的实施例的测试方法800的流程图。测试方法800可以通过如本文中描述的品质检查模块130来实施。具体地,根据一个或多个实施例,测试方法800可以确定试样212中干扰物质的存在。表征方法800包括在802中捕获包含试样(例如试样212)的血清或血浆部分(例如血清或血浆部分212sp)的试样容器(例如试样容器102)的多个图像。捕获多个图像可以是从多个视点(例如视点1、2和3)。此外,试样容器102可以在其上包括一个或多个标签(例如标签218)。所述一个或多个图像可以是通过使用一个或多个图像捕获设备(例如图像捕获设备440a-440c)所捕获的数字、经像素化的图像。

表征方法800可以可选地包括,在804中如本文中描述的背景移除或管类型检测。如将显而易见的,这可以允许虚拟网格317内的子区以用于选择将被区域限制的候选区319,如本文中所概述的。表征方法800此外包括在806中将来自多个图像的图像数据(例如经合并并且归一化的图像数据集)输入到神经网络(例如卷积神经网络——测试cnn535)。

表征方法800此外包括在808中生成血清或血浆部分212sp的候选区(例如候选区319)以及在810中通过回归来使候选区319收敛以提供经验证的区。经验证的区是与血清或血浆部分212sp的尺寸、形状和位置接近地匹配的一个区。如以上所讨论的那样确定收敛(例如基于几何测量),其中来自候选区生成器511的输入候选区319应当在所限定的误差廊道(errorcorridor)内充分地对应于回归器515的输出。

最后,方法800包括在812中利用卷积神经网络(例如“测试cnn535”)来表征经验证的区以及一个或多个hiln。具体地,表征方法800可以从卷积神经网络(例如测试cnn535)中输出与血清或血浆部分212sp相对应的经验证的区为溶血、黄疸、脂血和正常(即h、i、l、h和i,h和l,i和l,h、i、和l或n)中一个或多个的分类。

多个图像可以包括以不同的曝光时间和/或以不同的光谱照明(例如r、g、b、白光、ir和/或近ir)而从每个视点所捕获的多个图像。例如,在不同的光谱照明条件下,对于每个视点,可存在以不同曝光时间所取得的4-8个不同曝光或更多。可以使用其它数目的曝光和光谱照明。

因此,基于前述内容,应当显而易见的是提供经改进的表征方法800,其通过使用候选区(例如候选区319)而容易地表征血清或血浆部分212sp。如应当显而易见的,以上表征方法800可以通过使用品质检查模块(例如品质检查模块130)来被实施,所述品质检查模块包括多个图像捕获设备(例如图像捕获设备)440a-440c以及计算机(例如计算机143),所述图像捕获设备绕成像位置(例如成像位置432)而被布置,并且被配置成从多个视点(例如多个视点1-3)捕获包括一个或多个标签218并且包含试样212的血清或血浆部分212sp的试样容器102的多个图像,所述计算机被耦合到所述多个图像捕获设备并且被适配成处理所述多个图像的图像数据。计算机(例如计算机143)可以被配置成并且能够被操作成处理来自多个视点(例如视点1-3)的所述多个图像以提供hiln确定。

可以在本文中单独地描述各种所选的组件、特征或实施例。应当注意到,这样的组件、特征、或实施例可以代替其它单独描述的组件、特征或实施例、或者甚至结合本文中其它描述的组件、特征或实施例来被使用,如实用的那样。虽然本公开内容的实施例易有各种修改和可替换形式,但是特定的装置、系统和方法已经在附图中作为示例被示出并且在本文中被详细描述。然而,应当理解的是,不意图将本公开内容限制到所公开的特定装置、系统和方法,而是相反地,本发明将覆盖落入权利要求的范围内的所有修改、等同物和可替换方案。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1