曝光时间控制的制作方法

文档序号:23185237发布日期:2020-12-04 14:13阅读:235来源:国知局
曝光时间控制的制作方法

本公开总的来说涉及眼睛追踪领域。具体来说,本公开涉及用于在捕捉眼睛的图像时控制曝光时间的系统和方法。



背景技术:

在眼睛追踪应用中,检索用户的眼睛的数字图像,并分析数字图像以便估计用户的注视方向。实现这种估计有不同方法。在一些方法中,当检索用户的眼睛的图像时,使用环境光,并且在一些方法中,使用额外光源(发光器)来照射眼睛以用于检索用户的眼睛的图像。通常,注视的估计是基于用户的眼睛的瞳孔的识别以及用户的眼睛中的闪光(角膜反射)的识别。为了在眼睛的图像中识别眼睛的瞳孔,图像中的眼睛的瞳孔的表示与虹膜的表示之间的对比度必须足够。

一种已知的眼睛追踪方法包含使用红外光和图像传感器。红外光被引导向用户的瞳孔,并且光的反射被图像传感器捕捉。通过对反射点的分析,可计算用户注视的方向。一种这样的系统描述在us7,572,008(其全部内容以引用方式并入本文中)中。

在us2015/0199559中所公开的另一种已知方法中,在眼睛的所捕捉的图像中识别的包含瞳孔和虹膜的眼睛特征以及来自光源的角膜反射(闪光)用于眼睛追踪。在所述方法中,眼睛追踪软件可检测一个或更多个瞳孔和虹膜,并且可基于瞳孔与虹膜之间的对比度来调整相机曝光时间,以便优化后续图像中的检测。

虽然如此,但基于用户的眼睛的瞳孔的识别和闪光的识别的已知方法和系统中仍存在潜在导致难以确定注视方向的一些因素。例如,在一些情形下,闪光的识别可变得困难或不可能。

需要提供解决已知系统和方法的问题中的一个或更多个问题的进一步的系统和方法。



技术实现要素:

本公开的目标是解决已知系统和方法的问题中的至少一个。

根据第一方面,提供一种控制曝光时间的方法,包括从图像传感器接收眼睛的图像,所述图像由图像传感器在第一曝光时间期间检测光所得到。将瞳孔强度确定为图像中的眼睛的瞳孔的表示的强度,并且将虹膜强度确定为图像中的眼睛的虹膜的表示。接着,将瞳孔-虹膜对比度确定为图像中的瞳孔的表示与图像中的虹膜的表示之间的对比度。在确定瞳孔强度满足强度条件的条件下,确定不同于第一曝光时间的经强度补偿的曝光时间,并且在确定瞳孔-虹膜对比度满足对比度条件的条件下,确定不同于第一曝光时间的经对比度补偿的曝光时间。此外,基于任何所确定的经强度补偿的曝光时间和任何所确定的经对比度补偿的曝光时间来设定第二曝光时间。

如上文所指出的,基于用户的眼睛的瞳孔的识别以及闪光的识别的已知方法和系统中仍存在可能潜在导致难以确定注视方向的一些因素。例如,在注视方向基于用户的至少一只眼睛的瞳孔和闪光(角膜反射)的识别的应用场合下,过高强度可能导致这样的情形:即在图像中的瞳孔的表示中出现的任何闪光将难以识别或不可能识,因为图像中的瞳孔自身的表示的强度将与图像中的瞳孔的表示上的闪光的表示的强度相同或接近。在瞳孔强度满足强度条件的情况下确定经强度补偿的曝光时间,以及在瞳孔-虹膜对比度满足对比度条件的情况下确定经对比度补偿的曝光时间,以及接着基于任何经强度补偿的曝光时间和任何经对比度补偿的曝光时间来设定第二曝光时间,这将允许基于强度条件与对比度条件两者的控制。

图像传感器可以是任何类型的成像传感器,诸如,由含有像素传感器的阵列的集成电路组成的图像传感器,每个像素含有光电检测器和有源放大器。图像传感器能够将光转换为数字信号。实际上,作为实例,图像传感器可以是:

·红外图像传感器或ir图像传感器

·rgb传感器

·rgbw传感器

·具有ir滤光片的rgb或rgbw传感器

图像传感器的快门机构可以是滚动快门或全局快门。快门机构可以是机械机构,或者可以是电子快门或其组合。在替代方案中,不使用快门,并且通过控制一个或更多个发光器照射眼睛的时间或任何其它合适方式来控制照明时间,从而控制曝光时间。

眼睛可例如由一个或更多个发光器照射,所述发光器可例如是诸如发光二极管等光源,并且所发射的光可以是可见光或红外光。

在本文中,曝光时间是图像传感器检测为了捕捉图像的光的持续时间。可例如通过以下方式来实现所设定的曝光时间:控制图像传感器处(或图像传感器与将在图像中捕捉的眼睛之间的任何位置处)的快门打开,并且接着持续所设定的曝光时间地使快门保持打开,并且接着关闭快门。在作为使用图像传感器处的快门的替代方案中,可通过以下方式来实现所设定的曝光时间:控制用于照射眼睛的一个或更多个发光器,以使得来自眼睛的反射将可被图像传感器检测到。接着,通过持续所设定的曝光时间地控制发光器使之保持接通并且接着关断来控制曝光时间。可使用任何方式来通过控制快门、发光器等来控制曝光时间以获得图像,所述图像由图像传感器在确定的曝光时间期间检测的光所得到。

在实施例中,将第二曝光时间设定为任何所确定的经强度补偿的曝光时间和任何所确定的经对比度补偿的曝光时间中的较短的一个时间。

通过选择两个可能的经补偿的曝光时间中的较短的一个时间,基于期望对比度而进行的补偿将导致将使瞳孔强度变得过高的曝光时间的风险将降低。例如,在注视方向基于瞳孔和闪光(角膜反射)的识别的应用中,过高强度可导致出现在图像中的瞳孔的表示中的任何闪光将难以识别或不可能识别,这是因为图像中的瞳孔自身的表示的强度将与图像中的瞳孔的表示上的闪光的表示的强度相同或接近。

根据一些实施例,通过对与图像中的瞳孔的表示的周边区域的像素相关的图像的瞳孔像素强度值进行采样来确定瞳孔强度,所述瞳孔的表示的周边区域与图像中的虹膜的表示接壤。接着,将瞳孔强度确定为经采样的瞳孔像素强度值的至少一个子集的平均值。通过对图像中的瞳孔的表示的周边区域的像素进行采样,就图像中的瞳孔和虹膜的表示之间的对比度而言瞳孔的最相关部分用于对比度确定。周边区域可例如被定义为半径等于瞳孔的半径的第一圆以及与第一圆同心的半径较小的第二圆之间的区域。用于确定瞳孔强度的子集优选是代表周边区域中与虹膜强度形成对比度的瞳孔强度的子集。

根据一些实施例,通过对与图像中的虹膜的表示的周边区域的像素相关的图像的虹膜像素强度值进行采样来确定虹膜强度,所述虹膜的表示的周边区域与图像中的瞳孔的表示接壤。接着,将虹膜强度确定为经采样的虹膜像素强度值的至少一个子集的平均值。通过对图像中的虹膜的表示的周边区域的像素进行采样,就图像中的虹膜和瞳孔的表示之间的对比度而言虹膜的最相关部分用于对比度确定。周边区域可例如被定义为半径等于瞳孔的半径的第一圆以及与第一圆同心的半径较大的第二圆之间的区域。用于确定虹膜强度的子集优选是周边区域中与瞳孔强度形成对比度的虹膜强度的子集。

根据一些实施例,经采样的瞳孔像素强度值的至少一个子集是具有最低强度值的预定百分比的经采样的瞳孔像素强度值。可例如根据递增的强度值将经采样的瞳孔像素强度值在直方图中排序。接着,筛除顶部百分比,并对剩余的经采样的瞳孔像素强度值计算平均值。

根据一些实施例,经采样的虹膜像素强度值的至少一个子集是具有最低强度值的预定百分比的经采样的虹膜像素强度值。可例如根据递增的强度值将经采样的虹膜像素强度值排序。接着,筛除顶部百分比,并对剩余的经采样的虹膜像素强度值计算平均值。可使用识别顶部百分比的任何方式。

根据一些实施例,在确定瞳孔强度高于第一强度阈值的条件下,将经强度补偿的曝光时间确定为从第一曝光时间减去预定的减量。第一强度阈值被设定成使得高于第一强度阈值的强度指示饱和。在图像中的瞳孔的表示或其至少一个子集饱和的情况下,即,在图像传感器检测到的光的量处于图像传感器的动态范围外的情况下,饱和的瞳孔的表示或瞳孔的表示的子集中的闪光的任何表示将在图像中难以识别或不可能识别。在饱和的情况下,图像传感器检测到的光的量处于图像传感器的动态范围外,并且因此不可能知晓曝光时间必须缩短多少才能实现处于传感器的动态范围内的强度值。因此,优选将经强度补偿的曝光时间确定为从第一曝光时间短减去预定减量。

此外,在确定瞳孔强度低于第一强度阈值且高于第二强度条件阈值的条件下,确定比第一曝光时间短的经强度补偿的曝光时间。经强度补偿的曝光时间与第一曝光时间之间的商和第二强度阈值与瞳孔强度之间的商成比例。在确定瞳孔强度低于第一强度阈值的情况下,没有饱和的指示。在图像传感器检测到的光的量处于图像传感器的动态范围内时就是这样,并且如果瞳孔强度高于第二强度阈值,那么使用比例控制来缩短曝光时间。第二强度阈值优选指示期望强度值。

根据一些实施例,在确定瞳孔-虹膜对比度高于对比度阈值的条件下,确定比第一曝光时间短的经对比度补偿的曝光时间。此外,在确定瞳孔-虹膜对比度低于对比度阈值的条件下,确定比第一曝光时间长的经对比度补偿的曝光时间。对比度阈值优选指示期望的对比度,该期望的对比度足以识别图像中的瞳孔的表示或至少将在注视追踪中提供期望精度。在曝光时间期间使用一个或更多个发光器的情况下,瞳孔-虹膜对比度优选不高于指示足够对比度的对比度阈值,这是因为较高对比度将需要较长曝光时间,较长曝光时间则需要较长时间来切换一个或更多个发光器,从而导致不必要的电力消耗。

根据一些实施例,经对比度补偿的曝光时间与第一曝光时间之间的商和对比度阈值与瞳孔-虹膜对比度之间的商成比例。

根据一些实施例,经对比度补偿的曝光时间与第一曝光时间之间的商等于对比度阈值与瞳孔-虹膜对比度之间的商。换句话说,曝光时间与瞳孔-虹膜对比度之间的关系近似成比例。

根据一些实施例,将瞳孔-虹膜对比度被确定为瞳孔强度与虹膜强度之间的差的绝对值。

根据一些实施例,所述方法还包括限制第二曝光时间,以使得第二曝光时间与第一曝光时间之间的差的绝对值等于或低于曝光时间改变限值。为了降低将曝光时间改变过多以致于需要向回改变曝光时间的风险,曝光时间改变的量是有限的。

根据一些实施例,瞳孔强度高于虹膜强度。这与图像中的瞳孔的表示显得比虹膜的表示亮的情形有关。这些情形与亮瞳照亮时段有关,在亮瞳照亮时段中,关于眼睛与图像传感器同轴地(或靠近图像传感器)布置的一个或更多个发光器接通,以使得从眼睛的视网膜反射的光通过瞳孔朝向图像传感器返回,以使得瞳孔显得比其周围的虹膜亮。

根据一些实施例,所述方法还包括在确定虹膜强度满足虹膜强度条件的情况下,确定不同于第一曝光时间的经虹膜强度补偿的曝光时间。接着,第二曝光时间进一步基于任何所确定的经虹膜补偿的曝光时间。例如,将第二曝光时间设定为任何所确定的经强度补偿的曝光时间、任何经虹膜强度补偿的曝光时间和任何所确定的经对比度补偿的曝光时间中的较短的一个时间。

在替代方案中,关于虹膜强度的条件甚至可代替关于瞳孔强度的条件,从而导致提供一种控制曝光时间的方法,所述方法包括从图像传感器接收眼睛的图像,所述图像由图像传感器在第一曝光时间期间检测光所得到。将瞳孔强度确定为图像中的眼睛的瞳孔的表示的强度,并且将虹膜强度确定为图像中的眼睛的虹膜的表示的强度。接着,将瞳孔-虹膜对比度确定为图像中的瞳孔的表示与图像中的虹膜的表示之间的对比度。在确定虹膜强度满足虹膜强度条件的情况下,确定不同于第一曝光时间的经虹膜强度补偿的曝光时间,并且在确定瞳孔-虹膜对比度满足对比度条件的条件下,确定不同于第一曝光时间的经对比度补偿的曝光时间。此外,基于任何所确定的经虹膜强度补偿的曝光时间和任何所确定的经对比度补偿的曝光时间来设定第二曝光时间。

根据第二方面,提供一种眼睛追踪系统,包括被配置成从图像传感器接收眼睛的图像的电路,所述图像由图像传感器在第一曝光时间期间检测光所得到。所述电路被进一步配置成将瞳孔强度确定为图像中的眼睛的瞳孔的表示的强度,并且将虹膜强度确定为图像中的眼睛的虹膜的表示的强度。所述电路被进一步配置成将瞳孔-虹膜对比度确定为图像中的瞳孔的表示与图像中的虹膜的表示之间的对比度。所述电路被进一步配置成在确定瞳孔强度满足强度条件的情况下,确定不同于第一曝光时间的经强度补偿的曝光时间,并且在确定瞳孔-虹膜对比度满足对比度条件的情况下,确定不同于第一曝光时间的经对比度补偿的曝光时间。所述电路被进一步配置成基于任何所确定的经强度补偿的曝光时间和任何所确定的经对比度补偿的曝光时间来设定第二曝光时间。

根据第二方面的眼睛追踪系统的实施例可例如包含与根据第一方面的方法的实施例中的任一个的特征对应的特征。

根据第三方面,提供一个或更多个存储计算机可执行指令的计算机可读存储介质,所述计算机可执行指令在由实施眼睛/注视数据处理的计算系统执行时,使计算系统执行第一方面的方法。

根据第三方面的一个或更多个计算机可读存储介质的实施例可例如包含与根据第一方面的方法的实施例中的任一个的特征对应的特征。

一个或更多个计算机可读介质可例如是一个或更多个非暂时性计算机可读介质。

应注意,本发明的实施例涉及权利要求中所述的特征的所有可能组合。

附图说明

下文将参照附图来描述示范实施例:

图1示出眼睛追踪系统的视图,其中实施例可实施在所述眼睛追踪系统中;

图2示出眼睛的实例图像;

图3示出亮瞳图像的实例;

图4示出亮瞳图像的另一实例,其中瞳孔的表示在图像中是饱和的;

图5示出暗瞳图像的实例;

图6到图8是根据实施例的方法的流程图。

所有附图是示意性的,并且通常仅示出阐明相应实施例所需的部分,而其它部分可被省略或仅被暗示出。

具体实施方式

图1示出可实施本发明的实施例的眼睛追踪系统100(也可称为注视追踪系统)的简化视图。系统100包括眼睛追踪模块110、用于照射用户的眼睛的第一发光器111和第二发光器112以及用于捕捉用户的眼睛的图像的光传感器(图像传感器)113。第一发光器和第二发光器112可例如是发射红外频带或近红外频带中的光的发光二极管。图像传感器113可例如是图像传感器,诸如,互补金属氧化物半导体(cmos)图像传感器或电荷耦合器件(ccd)图像传感器。

第一发光器111与图像传感器113同轴地(或靠近图像传感器113)布置,以使得图像传感器113可捕捉用户眼睛的亮瞳图像。由于第一发光器111和图像传感器113的同轴布置,从眼睛的视网膜反射的光通过瞳孔朝向图像传感器113返回,以使得在第一发光器111照射眼睛的情况下,在图像中瞳孔显得比其周围的虹膜亮。第二发光器112与图像传感器113不同轴地(或远离图像传感器113)布置,以用于捕捉暗瞳图像。由于第二发光器112和图像传感器113的不同轴布置,从眼睛的视网膜反射的光不会到达图像传感器113,并且在第二发光器112照射眼睛照明的情况下,在图像中瞳孔显得比其周围的虹膜暗。第一发光器111和第二发光器112可例如轮流照射眼睛,以使得每隔一个图像是亮瞳图像,并且每隔一个图像是暗瞳图像。

眼睛追踪系统100还包括用于处理由图像传感器113捕捉的图像的电路120(例如,包含一个或更多个处理器)。电路120可例如经由有线或无线连接而连接到图像传感器113和第一发光器111以及第二发光器112,并且与图像传感器113和第一发光器111以及第二发光器112位于同一位置,或相隔一定距离,例如,位于不同装置中。在另一实例中,一个或更多个处理器形式的电路120可设置在图像传感器113的光敏表面下的一个或更多个叠层中。

图2示出由图像传感器(例如,图1中的图像传感器113)通过在第一曝光时间期间收集光而捕捉的眼睛的图像的实例。电路(例如,图1中的电路120)可将图像处理(诸如,数字图像处理)用于提取图像中的特征。所述电路可使用瞳孔中心角膜反射(pccr)眼睛追踪以确定眼睛200正看着何处。在pccr眼睛追踪中,处理器(例如,图1中的处理器120)估计图像中的眼睛200的表示处瞳孔210的表示的中心在图像中的位置以及闪光220的表示的中心在图像中的位置。闪光220的表示是由来自一个或更多个发光器(例如,图1中的第一发光器111和第二发光器112中的一个)的光的反射引起的。处理器使用闪光220的表示来计算用户位于空间中的何处,并且使用瞳孔210的表示来计算用户眼睛正朝向何处。因为眼睛200的光学中心与中央凹之间通常存在偏移,所以处理器执行中央凹偏移的校准,以能够确定用户正看着何处。接着,从左眼和右眼获得的注视方向可组合在一起以形成组合的估计注视方向(或观察方向)。当关于眼睛与图像传感器不同轴地(或远离图像传感器)布置的一个或更多个发光器(例如,图1中的第二发光器112)在第一曝光时间期间照射眼睛时,图像已被捕捉。

在参照图1所述的眼睛追踪系统中,发光器111和112布置在眼睛追踪模块110中,其中眼睛追踪模块110布置在用户观看的显示器下。这种布置仅充当实例。应了解,更多或更少的任何数量的发光器和图像传感器可用于眼睛追踪,并且这些发光器和图像传感器可相对于用户观看的显示器以许多不同方式分布。应了解,本公开中所述的眼睛追踪方案可例如用于可穿戴眼睛追踪(例如,用于个人计算机、智能电话中或整合在车辆中)或用于可穿戴眼睛追踪(诸如,用于虚拟现实眼镜或增强现实眼镜中)。

瞳孔与虹膜之间的对比度取决于用户的虹膜的反射与亮瞳效应两者。亮瞳效应根据用户和眼睛追踪器的几何形状可以显著不同,但也可能因若干其它原因而有所不同。这意味瞳孔-虹膜对比度可例如一直在一只眼睛处较低,或者瞳孔-虹膜对比度可在两只眼睛处都足够,但对于一只眼睛或两只眼睛来说,可突然变得不足够。亮瞳效应可例如在某些角度下消失。当瞳孔与虹膜之间存在低对比度(或无对比度)时,可能难以检测瞳孔,因而将变得难以正确确定注视方向。

瞳孔与虹膜之间的对比度也特别取决于曝光时间。在本文中,曝光时间是图像传感器(例如,图1中的图像传感器113)检测用于捕捉图像的光的持续时间。可例如通过以下方式来实现所设定的曝光时间:控制图像传感器处的快门打开,并且接着持续所设定的曝光时间地保持快门打开,并且接着关闭快门。作为使用图像传感器处的快门的替代方案,可通过以下方式来实现所确定的曝光时间:控制用于照射眼睛的一个或更多个发光器(例如,图1中的第一发光器111和/或第二发光器112),以使得来自眼睛的反射将可被图像传感器检测到。接着,通过控制发光器持续所确定的曝光时间地保持接通并且接着将其关断来控制曝光时间。可使用通过控制快门、发光器等来控制曝光时间以用于取得由图像传感器在所确定的曝光时间期间检测的光所获得的图像的任何方式。

应注意,即使快门用于控制曝光时间,一个或更多个发光器也仍可用于照明。接着,可连续地或仅在所设定的曝光时间或包含所设定的曝光时间的间隔期间或以任何其它方式接通一个或更多个发光器,只要图像传感器将在曝光时间期间接收来自发光器的光即可。在使用快门的情况下,曝光时间有时也称为快门速度。

图3示出由图像传感器(例如,图1中的图像传感器113)通过在第一曝光时间期间收集光而捕捉的眼睛的图像的实例。眼睛300的表示中的瞳孔310的表示作为图像中的亮点清晰可见。将瞳孔310表示为亮点是由于在第一曝光时间期间照射眼睛的一个或更多个发光器(例如,图1中的第一发光器111)关于眼睛与图像传感器同轴地(或靠近图像传感器)布置。来自一个或更多个发光器的穿过瞳孔并从眼睛的视网膜反射的光通过瞳孔朝向图像传感器返回,以当一个或更多个同轴地布置的发光器照射眼睛时,使得在图像中瞳孔310的表示显得比瞳孔310的表示周围的虹膜320的表示更亮。虽然瞳孔310的表示在图像中显现为亮点,但是图像中的瞳孔310的表示的强度仍低于图像中的闪光330的表示的强度,以使得图像中的闪光330的表示在图像中的瞳孔310的表示中可见。

图4示出由图像传感器(例如,图1中的图像传感器113)通过在第一曝光时间期间收集光而捕捉的眼睛的图像的实例。由于图像中的低瞳孔-虹膜对比度,图像中的眼睛400的表示中的瞳孔410的表示不可能被可靠地识别,并且因此不可能产生可靠的眼睛/注视追踪数据。虽然瞳孔410的表示在图像中或多或少不可能识别,但是图像中的瞳孔410的表示的强度仍低于图像中的闪光430的表示的强度,以使得图像中的闪光430的表示在图像中可见。在关于眼睛与图像传感器同轴地(或靠近图像传感器)布置的一个或更多个发光器在第一曝光时间期间照射眼睛时,图像已被捕捉。一个或更多个发光器可例如是图1中的第一发光器111。

图5示出由图像传感器(例如,图1中的图像传感器113)通过在第一曝光时间期间收集光而捕捉的眼睛的图像的实例,其中图像中的眼睛500的表示中的瞳孔510的表示是饱和的,即,在第一曝光时间期间在图像传感器处收集的从眼睛的瞳孔反射的光处于图像传感器的动态范围之外。这在图像中被图示为图像中的瞳孔510的表示是完全白色的。瞳孔510的表示中的闪光530的任何表示无法被识别,这是因为从这些闪光检测到的光由于相对于瞳孔510的表示饱和而被隐藏。在关于眼睛与图像传感器同轴地(或靠近图像传感器)布置的一个或更多个发光器在第一曝光时间期间照射眼睛时,该图像已被捕捉。一个或更多个发光器可例如是图1中的第一发光器111。

图6示出根据一个实施例的控制曝光时间的方法。从图像传感器接收眼睛的图像(610),所述图像由图像传感器在第一曝光时间期间检测光所得到。将瞳孔强度确定为图像中的眼睛的瞳孔的表示的强度(620),并且将虹膜强度确定为图像中的眼睛的虹膜的表示的强度(630)。此外,将瞳孔-虹膜对比度确定为图像中的瞳孔的表示与图像中的虹膜的表示之间的对比度(640)。在确定瞳孔强度满足强度条件的情况下,确定不同于第一曝光时间的经强度补偿的曝光时间(650),并且在确定瞳孔-虹膜对比度满足对比度条件的情况下,确定不同于第一曝光时间的经对比度补偿的曝光时间(660)。此外,基于任何所确定的经强度补偿的曝光时间和任何所确定的经对比度补偿的曝光时间来设定第二曝光时间(670)。

图7示出根据另一实施例的控制曝光时间的方法。从图像传感器(例如,图1中的图像传感器113)接收眼睛的图像(710),所述图像由图像传感器在第一曝光时间期间检测光所得到。所述图像已在一种设置中被捕捉,在所述设置中,关于眼睛与图像传感器同轴地(或靠近图像传感器)布置的一个或更多个发光器(例如,图1中的第一发光器111)在第一次曝光时间期间照射眼睛,以使得图像中的眼睛的瞳孔的表示比图像中的眼睛的虹膜的表示更亮。所述方法可使用被配置成执行所述方法的电路(例如,图1中的电路120)来执行。

通过对与图像中的瞳孔的表示的周边区域的像素相关的图像的瞳孔像素强度值进行采样来确定瞳孔强度(715),在图像中,所述瞳孔的表示的周边区域与虹膜的表示接壤。例如从半径等于图像中的瞳孔的表示的半径的圆以及较小半径的圆选择周边区域作为图像中的瞳孔的表示的一个区域,以使得所选择的区域在与图像中的虹膜的表示接壤的图像中的瞳孔的表示的周边处形成圆形带。接着,将瞳孔强度确定为经采样的瞳孔像素强度值的子集的平均值(720)。所述子集是最低的预定百分比的经采样的瞳孔像素强度值。可例如根据递增的强度值将经采样的瞳孔像素强度值在直方图中排序。接着,筛除顶部百分比(例如,0到50%),并计算剩余的经采样的瞳孔像素强度值的平均值。通过从经采样的瞳孔像素强度值筛除最高强度值,例如与闪光相关的强度值将被筛除。这种筛除是有益的,这是因为图像中的瞳孔的表示的包含闪光的表示的部分如果不被筛除,将增大所有瞳孔像素强度值的平均值。然而,闪光的表示在瞳孔的表示中的出现将不会相应地损害识别瞳孔的表示的可能性,只要不与闪光和其它局部高强度区域相关的经采样的像素强度值相对于虹膜提供足够的对比度即可。因此,在瞳孔像素强度值与闪光相关联的区域内计算平均值将关于与图像中的虹膜的表示的对比度提供瞳孔强度的有用值。

通过对与图像中的虹膜的表示的周边区域的像素相关的图像的虹膜像素强度值进行采样来确定虹膜强度(725),在图像中所述虹膜的表示的周边区域与瞳孔的表示接壤。从半径等于或略大于图像中的瞳孔的表示的半径的圆以及较大半径的圆选择周边区域作作为图像中的虹膜的表示的区域,以使得所选择的区域在与图像中的瞳孔的表示接壤的图像中的虹膜的表示的周边处形成圆形带。

接着,将虹膜强度确定为经采样的虹膜像素强度值的子集的平均值(730)。所述子集是最低的预定百分比的经采样的虹膜像素强度值。可例如根据递增的强度值将经采样的虹膜像素强度值在直方图中排序。接着,筛除顶部百分比,并计算剩余的经采样的虹膜像素强度值的平均值。通过从经采样的虹膜像素强度值中筛除最高强度值,例如与闪光相关的强度值将被筛除。这种筛除是有益的,这是因为图像中的虹膜的表示的包含闪光的部分如果不被筛除,将增大所有虹膜像素强度值的平均值。然而,闪光在虹膜的表示中的出现将不会相应地损害识别瞳孔的表示的可能性,只要不与闪光和其它局部高强度区域相关的经采样的像素强度值相对于瞳孔提供足够的对比度即可。因此,在虹膜像素强度值与闪光相关联区域内计算平均值将关于与图像中的瞳孔的表示的对比度提供虹膜强度的有用值。

将瞳孔-虹膜对比度确定为瞳孔强度与虹膜强度之间的差的绝对值(735)。

接着,将瞳孔强度与第一强度阈值进行比较,并且如果确定瞳孔强度高于第一强度阈值,那么确定比第一曝光时间短预定减量的经强度补偿的曝光时间(740)。第一强度阈值被设定成使得高于第一强度阈值的强度指示饱和。例如,在数字图像处理中,由图像传感器测量的强度可处于区间[0,255]中,其中0指示在图像传感器处没有检测到光,并且255指示图像传感器的动态范围的上界,即限值,在该限值上传感器无法区分两个不同强度。即使强度值可高达255,第一强度限值也优选被设定为低于255的值(诸如,250)以确保处于饱和下的像素的最大值将永远不会高于255,而一些像素可显著低于255,这些像素将影响平均值。应设定第一强度阈值的值,以使得如具体应用中所计算的超过第一限值的瞳孔强度指示饱和。

在图像中的瞳孔的表示或其至少一个子集的饱和的情况下,即,在图像传感器检测到的光的量处于其动态范围外的情况下,饱和的瞳孔的表示或瞳孔的表示的子集中的闪光的任何表示将在图像中难以识别或不可能识别(例如,参见图5)。在饱和的情况下,图像传感器检测到的光的量处于图像传感器的动态范围外,并且因此不可能知晓曝光时间必须缩短多少才能取得处于传感器的动态范围内的强度值。因此,优选将经强度补偿的曝光时间确定为从第一曝光时间减去预定量。

如果确定瞳孔强度低于第一强度阈值,并且因此瞳孔强度不指示饱和,那么将瞳孔强度与第二强度阈值进行比较。如果瞳孔强度高于第二强度阈值,那么确定比第一曝光时间短的经强度补偿的曝光时间(745)。接着,使用比例控制来设定经强度补偿的曝光,以使得经强度补偿的曝光时间与第一曝光时间之间的商和第二强度阈值与瞳孔强度之间的商成比例。

当确定瞳孔强度低于第一强度阈值时,没有饱和的指示。在图像传感器检测到的光的量处于图像传感器的动态范围内时就是这种情况,并且如果瞳孔强度高于第二强度阈值,那么使用比例控制来缩短曝光时间。第二强度阈值优选指示期望强度值。

对于使用比例控制的情况,即,低于第一强度阈值但高于第二强度阈值的情况,经强度补偿的曝光时间的确定可用阻尼因子来补偿,以使得曝光时间从第一曝光时间到经强度补偿的曝光时间的改变的绝对值被限制在根据比例控制确定的改变的绝对值的某个百分比。

因为用于确定经强度补偿的曝光时间的条件是确定瞳孔强度高于第一强度阈值或高于比第一强度阈值低的第二强度阈值,所以如果确定瞳孔强度等于或低于第二强度阈值,那么将确定没有经强度补偿的曝光时间。第二强度阈值是强度的目标最大值。第二强度阈值可被设定为一个值,在该值下,场景的改变(例如,变动的注视方向或瞳孔大小)将不可能在控制器能够作出响应之前驱使图像中的瞳孔的表示到饱和状态。第二强度阈值的值取决于若干不同参数,诸如(但不限于)帧速率和控制器响应速率。

接着,将瞳孔-虹膜对比度与对比度阈值进行比较。如果确定瞳孔-虹膜对比度高于对比度阈值,那么确定比第一曝光时间短的经对比度补偿的曝光时间(750)。

如果确定瞳孔-虹膜对比度低于对比度阈值,那么确定比第一曝光时间长的经对比度补偿的曝光时间(755)。

使用比例控制来确定经对比度补偿的曝光时间,以使得经对比度补偿的曝光时间与第一曝光时间之间的商和对比度阈值与瞳孔-虹膜对比度之间的商成比例。

经对比度补偿的曝光时间的确定可用阻尼因子来补偿,以使得曝光时间从第一曝光时间到经对比度补偿的曝光时间的改变的绝对值被限制在根据比例控制确定的改变的绝对值的某个百分比。

因为用于确定经对比度补偿的曝光时间的条件是确定瞳孔-虹膜对比度高于或低于对比度阈值,所以如果确定瞳孔-虹膜对比度等于对比度阈值,那么将确定没有经对比度补偿的曝光时间。因此,对比度阈值是对比度的目标值。对比度阈值的选择通常是基于提供足够的对比度与保持曝光时间尽可能短之间的权衡,以使得一个或更多个发光器的发光尽可能短,以便节省电力消耗。

将第二曝光时间设定为任何所确定的经强度补偿的曝光时间和任何所确定的经对比度补偿的曝光时间中的较短一个(760)。通过选择两个可能的经补偿的曝光时间中的较短一个,基于期望对比度而进行的补偿将导致将使瞳孔强度变得过高的曝光时间的风险将降低。例如,在注视方向基于瞳孔和闪光(角膜反射)的识别的应用场合中,过高强度可导致出现在图像中的瞳孔的表示中的任何闪光将难以识别或不可能识别,这是因为图像中的瞳孔自身的表示的强度将与图像中的瞳孔的表示上的闪光的表示的强度相同或接近。

限制第二曝光时间(765),以使得当捕捉另一图像时,在第二曝光时间应用到图像传感器之前,第二曝光时间与第一曝光时间之间的差的绝对值等于或低于曝光时间改变限值。曝光时间改变的量是有限的,以便降低将曝光时间改变过多以致于曝光时间需要向回改变的风险。

图8示出根据另一实施例的控制曝光时间的方法。从图像传感器接收眼睛的图像(810),所述图像由图像传感器在第一曝光时间期间检测光所得到。将瞳孔强度确定为图像中的眼睛的瞳孔的表示的强度(820),并且将虹膜强度确定为图像中的眼睛的虹膜的表示的强度(830)。此外,将瞳孔-虹膜对比度确定为图像中的瞳孔的表示与图像中的虹膜的表示之间的对比度(840)。在确定虹膜强度满足虹膜强度条件的情况下,确定不同于第一曝光时间的经虹膜强度补偿的曝光时间(850),并且在确定瞳孔-虹膜对比度满足对比度条件的条件下,确定不同于第一曝光时间的经对比度补偿的曝光时间(860)。此外,基于任何所确定的经虹膜强度补偿的曝光时间和任何所确定的经对比度补偿的曝光时间来设定第二曝光时间(870)。

本领域的技术人员应认识到,本发明绝不限于上文所述的优选实施例。相反,许多修改和变化在随附权利要求书的范围内是可能的。例如,本领域的技术人员应认识到,本文所述的方法可由除图1所示的实例眼睛/注视追踪系统100之外的许多其它眼睛/注视追踪系统例如使用多个发光器和多个图像传感器来执行。此外,已针对一只眼睛描述与图6到图8相关的方法。然而,本领域的技术人员应认识到,所述方法也可针对两只眼睛执行,其中在每个步骤中将两只眼睛的结果考虑在内。

此外,所公开的实施例的变化可被本领域的技术人员在实践所主张的发明时从附图、公开内容和随附权利要求书的研读来理解和实行。在权利要求书中,用词“包括”不排除其它元件或步骤,并且用词“一”或“一个”不排除多个。本公开中所参照的功能单元之间的任务划分未必对应于划分为物理单元;实际上,一个物理部件可具有多种功能,并且一个任务可按分散方式由若干物理部件协同执行。计算机程序可存储/分散在合适的非暂时性介质(诸如,与其它硬件一起供应或作为其它硬件的一部分供应的光学存储介质或固态介质)上,但是也可诸如经由互联网或其它有线或无线电信系统以其它形式分散。在相互不同的从属权利要求中引述某些措施/特征这一单纯事实不指示这些措施/特征的组合无法有利使用。方法步骤未必需要按照它们出现在权利要求书或本文所述的实施例中的次序来执行,除非明确描述需要某一次序。权利要求书中的任何参考标记不应解释为限制范围。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1