经由通过扩散确定经中继的深度的远程深度感测的制作方法

文档序号:15627013发布日期:2018-10-09 23:13阅读:253来源:国知局

深度感测可被计算设备利用来支持各种不同的功能。例如,传统技术(诸如飞行时间相机、结构化光相机等)可被用来确定对象场景内的对象在二维空间中的位置(即,“x”轴和“y”轴)以及该对象距捕捉图像的相机的深度(即,z轴)。这可被用来以三维方式映射对象空间,检测姿势作为自然用户界面(nui)的一部分等等。

主要存在两种用于生成深度图像的成像技术——被动式和主动式。被动式深度相机依赖于场景中存在的纹理信息的量,并且在多样的环境中实现可靠的性能是有挑战性的。另一方面,主动式深度相机具有显著更高的可靠性,因为这些相机通过测量对作为该系统的部分的光源的响应来估计深度信息。然而,被利用来执行深度感测的传统飞行时间技术要求高功率和高频率的照明,并且易受多径降级影响,因为这些技术基于反射光回到定制的图像传感器的定时。传感器的定制也向该设备增加了显著的成本。另一方面,传统的结构化光相机要求针对衍射光学元件(doe)的校准,并且对跨该系统的寿命维护该校准以保证正确的深度有严格的要求。该校准要求使得难以在可能经历显著的机械和热变形的产品(诸如,移动产品)中实现结构化光深度系统。此外,深度空间分辨率取决于doe图案中各点的间隔,并且通常存在分辨率和能够从非常密集的图案中标识出每一点之间的折衷。散焦测距是利用已知透镜属性来基于由场景点渲染的散焦/模糊量推断深度的另一技术,因为这样的模糊取决于深度和透镜属性,诸如对象空间中的景深以及传感器处的焦深。该技术可以用主动式和被动式方式两者来实现,其中主动式模式(即,具有包括激光器和doe的照明系统)具有以下优点:不存在对场景纹理量的依赖性,因为场景纹理是使用这样的结构化光照明器添加或覆盖在对象场景上的。该技术的挑战已是:为了实现良好的深度准确性,需要大孔径的透镜,而归因于包括尺寸和重量以及成本在内的因素,这限制了移动产品的可行性。

概述

描述了经由扩散确定经中继的深度的远程深度感测技术。在一个或多个实现中,远程深度感测系统被配置成通过扩散感测经中继的深度。该系统包括图像捕捉系统,该图像捕捉系统包括图像传感器和成像透镜,该成像透镜被配置成将光传送通过设置在成像透镜和图像传感器之间的中间平面到图像传感器。中间平面附近设置有光学扩散器,该光学扩散器被配置成扩散所传送的光。该系统还包括深度感测模块,该深度感测模块被配置成接收来自图像传感器的一个或多个图像,并使用依据扩散确定深度的技术来确定距通过所述一个或多个图像捕捉到的对象场景中的一个或多个对象的距离,该依据扩散来确定深度的技术至少部分地基于该一个或多个图像中的各个对象所展现出的模糊量。

在一个或多个实现中,描述了由计算设备使用扩散对图像场景中的各对象执行远程深度感测。该技术包括由计算设备从图像捕捉系统接收图像场景的一个或多个图像,所述图像捕捉系统在内部施加了扩散,由所述计算设备基于接收到的图像中的一个或多个对象所展现出的模糊量来确定距图像场景中的一个或多个对象的距离,以及由所述计算设备输出确定的距离。

在一个或多个实现中,图像捕捉系统包括:图像透镜,所述图像透镜被配置成将光从对象场景传送到包括中间像平面的像空间;图像传感器,所述图像传感器被配置成捕捉从所述像空间传送的光以通过使用成像中继来形成所述中间像平面的一个或多个图像;以及,设置在所述成像透镜和所述图像传感器之间或者进一步在所述成像透镜和所述成像中继之间的中间像平面内的光学扩散器,所述光学扩散器允许增加可用于所述图像传感器的距所述成像中继的焦深,从而用作所述对象场景的所述像空间的“环境”扩散器,所述像空间邻近所述中间像平面。

提供本概述以便以简化的形式介绍以下在详细描述中进一步描述的一些概念。本概述并非旨在标识出要求保护的主题的关键特征或必要特征,亦非旨在用作辅助确定要求保护的主题的范围。

附图简述

结合附图来描述具体实施方式。在附图中,附图标记最左边的数字标识该附图标记首次出现的附图。在说明书和附图的不同实例中使用相同的附图标记可指示相似或相同的项目。附图中所表示的各实体可指示一个或多个实体并且因而在讨论中可互换地作出对各实体的单数或复数形式的引用。

图1是可用于采用本文中描述的通过扩散确定经中继的深度的技术的示例实现中的环境的图示。

图2描绘了更详细地示出捕捉对象场景的图像时的图1的图像捕捉系统的示例实现中的系统。

图3描绘了被配置成在偏振状态和非偏振状态之间机械切换的图2的扩散器22的示例实现。图4描绘了被配置成在偏振状态和非偏振状态之间电切换的图2的光学扩散器的示例实现。

图5描绘偏振敏感微透镜阵列和偏振敏感扩散器的示例实现中的系统。

图6a描绘了示出第一偏振切换选项的示例实现中的系统。

图6b描绘了示出支持对多个偏振状态的同时捕捉的第二基于偏振状态的选项的示例实现中的系统。

图7和8描绘了解说由通过扩散确定深度的技术推导出的跟随图2的图像捕捉系统的光学像共轭的z距离的非线性映射的示例的图示。

图9针对放置在远对象距离的像空间共轭处的扩散器描绘各对象距离的光斑尺寸模糊的示例图。

图10针对放置在近对象距离的像空间共轭处的扩散器描绘各对象距离的光斑尺寸模糊的示例图。

图11描绘使用偏振敏感微透镜阵列的通过扩散确定时间顺序深度的示例实现。

图12是描绘其中描述了由计算设备使用扩散对图像场景中的对象执行远程深度感测的技术的示例实现中的规程的流程图。

图13解说了包括可被实现为参考图1-9描述的任何类型的计算设备以实现本文描述的技术的各实施例的示例设备的各个组件的示例系统。

详细描述

概览

用于通过扩散确定深度的技术通常具有高于诸如散焦测距之类的其他传统技术的增强的准确性。然而,被利用来执行通过扩散确定深度的传统技术需要在被检查的对象空间内使用光学扩散器,并且由此对于正常使用场景是不切实际的。

描述了经由通过扩散确定经中继的深度的远程深度感测技术。在一个或多个实现中,图像捕捉系统包括用于捕捉图像的图像传感器以及被配置成将光传送到图像传感器的成像透镜。在图像传感器和成像透镜之间(例如,在成像中继和成像透镜)之间是中间像平面,光学扩散器被放置在该中间像平面处。在这种方式中,通过将中间像平面当作新的环境对象场景,光学扩散器的传统远程要求被带入图像捕捉系统内。该光学扩散器可在引起传送通过扩散器的光的扩散的状态和不引起传送通过扩散器的光的扩散的状态之间切换。

由于扩散器平面相对于主透镜可以是固定的,并且较低的接受透镜可被用于该成像中继,因此只要成像透镜和成像中继两者的光锥区na具有重叠,这样的系统就不那么受邻近中间像平面的非远心特性影响,从而使得对于活动传感器区域内的所有场位置而言,成像中继的较小接受光锥区基本上被填充,并且扩散器角出口数值孔径强到足以在扩散器平面处将来自基本上所有内容的光(模糊的或聚焦的)重新散射到成像中继的接受区内。成像中继可包括典型的多透镜元件成像中继或基于微透镜阵列的成像中继,基于微透镜阵列的成像中继可用于减小系统长度,并可由多层微透镜阵列层组成以便提供笔直的1对1中继成像。

深度感测模块接收成像传感器所捕捉的图像,并经由扩散感测被中继的对象场景中的各对象的相对深度。例如,这些对象由光学扩散器引起的模糊量与对象距内部地设置在图像捕捉系统之内的光学扩散器的距离成比例。通过这种方式,通过扩散确定深度的技术的增加的准确性可在常见使用场景中通过避免将光学扩散器与对象一起放置在对象空间中(即,在相机外部)的传统要求来被利用。此外,这些技术可用现成的成像透镜、成像中继和图像传感器来执行,并由此放弃了对昂贵的专用硬件的传统需求,因此节省了采用这些技术的设备的成本。也构想了其他示例,其进一步讨论被包括在下面的章节中,并相应的附图中被示出。

扩散技术优于传统散焦的另一优点在于不需要大孔径透镜就能实现相同的分辨率。也就是说,对于通过扩散确定经中继的深度的情况,优点表现为主要在于该成像中继,因为主成像透镜具有足够的孔径来创建表示各对象z共轭距离的经散焦内容的不同尺寸的印迹。通过具有成像透镜的中等f/#(诸如f/2.5)和成像中继的高(较低成本的)f/#(诸如f/4或更高)的差分组合,成像传感器可针对两种状态看见更大的焦深,这有利于非扩散器状态,以便具有更大的景深,由此具有在整个范围上的聚焦对象的更大深度,同时主成像透镜具有更低的f/#,以便增加光锥数值孔径,以允许区别模糊尺寸与对象z共轭距离。因此,来自主成像透镜的足够高的光锥数值孔径可被用来在不同的像共轭内容之中形成印迹散焦变化或明显的模糊,同时将较低的光锥数值孔径用于成像中继,以便确保传感器处的较大焦深,或者邻近中间像平面的图像空间内容的较大景深。

由此,虽然以下讨论描述了对中间像平面的使用以及用于深度感测的扩散,但这些技术适用于各种各样的其他使用。例如,中间像平面可被用于减小低na、高dof成像的景深,例如以模仿高na成像系统的效果。在另一示例中,由于光学扩散器散射通过该扩散器传送的光线,该扩散器可被用于增加光学系统(例如,图像传感器的中继透镜)的有效孔径。该示例可由此使得较低孔径透镜系统能够在移动通信设备(例如,移动电话)中使用,由此通过减小用于捕捉图像的相机的透镜的孔径节省了成本并增加了设备的利用率。

在以下讨论中,首先描述了可采用本文描述的技术的示例环境。随后描述可在该示例环境以及其他环境中执行的示例过程。因此,各示例过程的执行不限于该示例环境,并且该示例环境不限于执行各示例过程。

示例环境

图1是可用于采用本文描述的通过扩散确定经中继的深度的技术的示例实现中的环境100的图示。所示环境100包括计算设备102,该计算设备可用各种方式来配置。

例如,计算设备可被配置成专用的图像捕捉设备(例如,相机)、能够通过网络进行通信的计算机,诸如台式计算机、移动站、娱乐设备、通信地耦合至显示设备的机顶盒、无线电话、游戏控制台等等。这样,计算设备102的范围可以是从具有充足存储器和处理器资源的全资源设备(例如,个人计算机、游戏控制台)到具有有限存储器和/或处理资源的低资源设备(例如,常规机顶盒、手持式游戏控制台)。附加地,虽然示出了单个计算设备102,但是计算设备102可以表示多个不同设备,诸如被公司用于(诸如通过web服务)执行操作的多个服务器、遥控器和机顶盒组合、被配置成捕捉不涉及触摸的姿势的图像捕捉设备和游戏控制台等。

计算设备102被示为包括各种硬件组件,其示例包括处理系统104、被示为存储器106的计算机可读存储介质的示例、显示设备108等等。处理系统104表示用于通过执行存储在106中的指令来执行操作的功能。虽然被分开的解说,但这些组件的功能可被进一步分割、组合(例如,在专用集成电路上)等。

计算设备102被进一步例示为包括操作系统110。操作系统110被配置来将计算设备102的底层功能抽象给可在计算设备102上执行的应用112。例如,操作系统110可抽象计算设备102的处理系统104、存储器106、网络、和/或显示设备108功能,使得应用112可被写,而无需知晓这个底层功能“如何”被实现。例如,应用112可向操作系统110提供要由显示设备108或打印机呈现和显示的数据,而无需理解该呈现将如何被执行。操作系统110也可表示各种其他功能,诸如管理计算设备102的用户可导航的文件系统和用户界面。

计算设备102还被解说为包括图像捕捉系统114和深度感测模块116。图像捕捉系统114表示捕捉对象场景118的图像的功能,图像的示例被解说为作为对象场景118中的对象的狗和树。图像捕捉系统114可由此包括透镜系统和图像传感器(例如,电荷耦合设备),其示例在图2中被更详细地示出。在一个或多个实现中,图像捕捉系统114还可包括专门的深度感测硬件,诸如以通过对以下进一步描述的结构化光投影仪的使用来支持结构化光深度检测技术,并且由此可利用人眼可见或不可见的光。

深度感测模块116表示用于使用扩散来感测对象场景118中的对象的远程深度的功能。例如,图像捕捉系统114包括光学扩散器120,该光学扩散器120被配置成将某一扩散量(例如,散射量)引入在图像捕捉系统114内部地传送的光,该扩散量作为由图像捕捉系统114拍摄的图像的部分被捕捉。作为图像的部分被捕捉的、引入对象场景中的各个体对象的扩散量与这些对象和光学扩散器之间的距离成比例。通过这种方式,深度感测模块116能够在图像捕捉系统114内部并由此还作为整体在计算设备102的外壳122内部执行经由依据对象的扩散量确定经中继的深度的深度感测。通过这种方式,本文中描述的依据扩散确定深度的技术可被采用,同时避免传统技术中所需的在对象场景118内使用外部扩散器。对图像捕捉系统114和光学扩散器120的进一步讨论在以下系统中被描述,并在相应的附图中被示出。

图2描绘了更详细地示出捕捉对象场景118的图像时的图1的图像捕捉系统114的示例实现中的系统200。在该实例中,图像捕捉系统144捕捉来自对象空间118的光,光路在该图中是用线示出的。光被传送通过形成主平面204的一个或多个成像透镜202,随后通过输入偏振器206和可切换偏振208以及远心校正210以形成中间像平面212。光学扩散器120邻近中间像平面212设置。光随后通过成像中继214到图像传感器216,以供深度感测模块116处理。图像传感器216由此捕捉图像,这些图像被传达给深度感测模块116以用于各种使用,诸如传统的图像捕捉(例如,照片或视频)、深度感测等。注意,输入偏振器206和可切换偏振208(诸如,可电切换的偏振旋转器)两者可被放置在沿着光学系统路径的替换位置,诸如(1)在主成像透镜之前或者(2)在远心校正210之后,只要输入光在可切换偏振208之前传送通过输入偏振器206,并且这样的经偏振的所传送的光在中间像平面之前传送通过可切换偏振208以实现更好的结果。

图像捕捉系统114例如利用在中间像平面212处向传送的光添加的扩散来进行经由通过扩散确定经中继的深度的深度感测,例如通过生成对象场景114的三维“z”图。中间像平面212至少部分地由执行远心校正210的透镜形成,例如以执行对成像透镜202的透镜接受匹配。通过这种方式,图像捕捉系统支持中间像平面212的在邻近其设置的光学发射器内的支撑物形成,该中间像平面212充当图像捕捉系统114内的滤波平面,该图像捕捉系统114包括有在该中间像平面212附近的光学扩散器120。这支持使用可见光、单色或彩色传感器的深度感测。

可包括各种扩散输出轮廓的光学扩散器120可扩散一种状态的输入光偏振,而正交输入光偏振状态被允许在未经扩散的情况下传送。为了限制运动模糊的影响,两种状态的图像可通过快速时间顺序成像以交替的方式被捕捉。

光学扩散器120可用各种方式来配置以将扩散引入传送的光。这可包括使用机械(例如,旋转)或电气开关来使得经偏振的输入光能够使用中继透镜210传送扩散或非扩散状态通过偏振无关的扩散器到图像传感器216上。在电气示例中,快速偏振旋转器(诸如,铁电液晶单元或替换的基于液晶的开关)连同经偏振的输入光可被使用,以使得交替的帧包括交替的扩散和非扩散状态。输入光可由典型的膜偏振器(诸如,即显胶片)或线栅偏振器来偏振,后者可用于宽带应用或使用近红外(nir)光的窄带应用。光学偏振器120例如可被配置成具有随机的表面起伏、交替光角扩展器、轴锥镜阵列、棱镜阵列、衍射光栅、微透镜阵列、每一者的一维和二维版本两者等等。此外,可通过利用对准和配准在各传感器阵列单元上的图案化偏振器来同时捕捉这两种状态,以使得交替的、通过间隙间隔开的像素检测正交偏振状态。在以下讨论中结合图3-6描述光学扩散器配置的附加示例。

结构化光可被添加以改善对一些困难情况(诸如,光面墙)的检测。此外,利用和不利用结构化光的组合和/或顺序内容捕捉可允许彩色内容以及改善的深度分辨。为了进一步改善信噪比,并滤除具有在照明光源的波带之外的波长的环境对象空间光,带通滤波器可被利用来将向图像传感器传送的输入光限制在与照明波长范围基本上重叠的波长范围内,照明波长范围可以是基于激光源的(诸如散斑图案或光点图案)或者为光投影。

替换地,由于经中继的图像被利用,因此对象距离和图像距离遵循基于光学成像共轭距离的非线性关系。该方面提供人类眼睛所感知的内容的逼真表示,因为对于接近的对象,深度分辨率固有地增加,而对于在遥远距离处的对象,深度分辨率固有地降低。这允许捕捉与线性系统相比更大的内容范围,其对于涉及远景的一些场景而言更高效。也可以设想线性系统而不背离其精神和范围。

图3描绘图2的光学扩散器120的示例实现300,该光学扩散器120被配置成在偏振状态和非偏振状态之间机械地切换。该示例实现300包括光学扩散器306的侧视图302和正视图304。在该示例中,光学扩散器306被配置成旋转,以使得传送通过图像捕捉系统114的光在不同的时间点被传送通过光学扩散器306的不同部分308、310、312、314。例如,部分308-314可在扩散光和不扩散光的功能之间交替,可包括不同的扩散量,具有嵌入在每一部分的层压堆叠内的不同z放置处的诸扩散层等等。在该实例中,光学扩散器306的旋转由此与由图像传感器216捕捉的图像同步以便执行深度感测。

侧视图302中示出的光学扩散器306包括中间设置有材料的第一基板316和第二基板318,该材料被配置成提供所需的扩散。中间设置的材料可以是采用失配折射率的体积散射介质,或者在两个层压基板的面向内的表面中的一者或两者上的一个或多个表面起伏表面,这两个层压基板通过具有与该一个或多个表面起伏表面的折射率不同的折射率的粘合剂层压。由此,在本实例中,归因于光学扩散器306的机械旋转,由光学扩散器306的材料执行的扩散可以是被动式的(注意,不确定这里意指什么…,对于机械旋转/移动场景,不需要偏振器,防反射涂层有助于这些场景中的任一者),但是主动式实例也被构想,诸如可电切换的液晶单元。其他可电切换的示例也被构想,在这些示例中,光学扩散器不移动,并且切换是在扩散状态和非扩散状态之间执行的,以使得该系统没有活动件,其示例在以下被描述,并且在对应的附图中被示出。

图4描绘了图2的光学扩散器120的示例实现400,该光学扩散器120被配置成在偏振状态和非偏振状态之间电切换。在本示例中,光学扩散器402是通过将液晶层404嵌入在两个基板406、408之间形成的独立于偏振的扩散器,其中基板406、408中的至少一者在毗邻液晶层404的内层上具有表面起伏地貌。由此,光学扩散器404可通过深度感测模块116在偏振状态和非偏振状态之间电切换,以扩散或不扩散传送通过那里的光。

图5描绘了偏振敏感微透镜阵列和偏振敏感扩散器的示例实现中的系统500。系统500包括液晶对准基板502和扩散器基板504。设置在基板之间的是液晶506和微透镜阵列508或者扩散器表面起伏。液晶对准基板502包括用于液晶定向的对准的精细线性凹槽结构510,例如磨光面、栅格(即,具有1um间距光栅的表面)、模塑基板、上面重复(replicated-on)的基板等等。该系统的使用的示例包括其中输入偏振被对准到非扩散状态的第一示例512以及其中输入偏振被对准到扩散状态的第二示例514。

为了使归因于扩散表面特征的扩散和散射(对于非扩散状态)为零或最小化,表面起伏介质折射率被匹配到液晶常规折射率no。由于液晶的长轴固有地对准对准基板的凹槽特征,该异常折射率轴沿着凹槽对准。由此,当输入偏振光以no轴定向时,扩散器不散射光。对于具有以ne轴定向的偏振的正交偏振输入光,光是依据由表面起伏的轮廓以及异常折射率ne和被设为匹配no的表面起伏介质折射率之间的折射率差别两者限定的扩散特性来散射的。

各表面起伏轮廓可被用来基于随机表面起伏(或有限随机表面起伏、伪随机表面起伏)、微透镜阵列(mla)、轴锥镜阵列(光锥阵列)来在扩散器表面(诸如高斯扩散器)处实现重散射效果,并且在角扩展特性方面可以是一维或二维的。尽管具有扩散区域和非扩散区域的物理轮或移动板可被用来实现扩散状态和非扩散状态,但对于用于偏振输入光的偏振器以及用于在各正交偏振状态之间进行切换的可电切换的液晶偏振旋转器的使用可允许没有活动件的固态的主动式时间顺序系统。

图6a描绘了示出第一偏振切换选项的示例实现中的系统600。在该示例中,随机偏振s和p光602由线偏振器604滤波,这导致经线偏振的光606。经线偏振的光606随后被传送通过可电切换的液晶偏振旋转器608以及偏振敏感扩散器610以供二倍速图像传感器612捕捉,以捕捉交替的扩散和非扩散图像以供深度感测模块116处理。

图6b描绘了示出支持多个偏振状态的同时捕捉的偏振选项的示例实现中的系统650。在该示例中,随机偏振s和p光652也被传送通过偏振敏感扩散器654。该图像传感器656被配置成使用交替部分(例如,作为与图像传感器的像素对准和配准并且紧接在图像传感器的像素之上或之前的图案化线网格偏振器阵列)来支持对扩散状态和非扩散状态两者的同时捕捉以避免运动伪像。虽然没有示出,但两种布局都包括主透镜以及具有放置在由主透镜形成的中间像平面附近的偏振无关的扩散器的光学中继,如结合图2所描述的。

如上所述,在传统的扩散设置中,光学扩散器被放置在场景中的对象和相机之间,并且在有扩散器的情况下捕捉到经模糊的图像,而在没有扩散器的情况下捕捉到未经模糊的图像。对于具有给定或已知角出口轮廓的给定扩散器强度,场景图像中的对象的模糊量取决于扩散器和场景中的对象之间的z分隔距离。这暗示了视野中的图像由多个不同尺寸的模糊组成,每一模糊表示该视野内的不同角度。换言之,经扩散图像包括与对应于图像的视野内的每一像素位置的不同扩散器模糊尺寸卷积的未经扩散场景图像。

对应于每一像素的扩散模糊的尺寸被确定以便推断深度信息,其可包括对用于估计和映射扩散模糊尺寸图的多个算法的使用。归因于对扩散器出口角轮廓的角尺寸和强度形状的知识,这随后被转换成z图。但是这样的系统在使用方面是受限的,因为扩散器必须被放置在场景中在该场景中的对象的前面但在这些对象的附近,因此该系统不是自包含的。

对于通过扩散器(如图2所示,该扩散器是自包含的)确定经中继的深度的情况,为了使得这样的策略能够提供z图,通过成像透镜202成像的场景的图像被看作新对象场景,通过应用中间像平面212附近的适当的制作精良的扩散器来从该新对象场景中捕捉扩散和非扩散图像两者。由于图像或新对象场景处的共轭z距离通过薄透镜方程大致相关,因此存在从扩散模糊尺寸图推断出的得到的图像空间z图和实际的最终z图之间的非线性映射,由此表示现实对象场景118。

最终的深度(即,“z”)图随后通过应用描述在经由成像透镜202成像之后现实对象z距离到经成像的共轭z距离的映射的透镜方程关系,由此将图像空间z图转换成最终的z图来计算。替换地,在各状态之间场景中的对象的模糊量可被评估,并对照已知的对象距离来校准,以便闭合关于对象z映射的环。

注意,由于经成像的对象场景变为通过扩散确定深度的对象场景输入,光学扩散器120位置可被置于相对于经成像的对象场景的任何z距离处。在一些情况下,可为置于多个扩散器平面处的光学扩散器捕捉扩散和非扩散图像,这可改善分辨能力和/或感测深度能力。由于经成像的对象场景以透镜焦距对无限远距离处的对象进行成像,并且较近的对象距离由成像共轭规定(例如,在与薄透镜方程有关的量级上),像空间z图分辨率增量变为与距透镜的z距离是非线性的。该效果在其中z的高动态范围是合需的场景中可以是有用的,并且越接近于图像捕捉系统114,越高的分辨被期望。一个这样的场景被设计为基于透视距离来模仿人眼响应或z分辨期望,其中归因于景深,在接近于眼睛处,较多的分辨被期望,而对于遥远的距离,渐少的z分辨增量被期望。

图7和8描绘了解说到由通过扩散确定深度的技术推导出的跟随图像捕捉系统114的光学图像共轭的z距离的非线性映射的示例的图示700、800。对于图7的图示700,具有6毫米焦距的成像透镜202连同逼近10°fwhm的嵌入扩散强度一起被使用。在中间像平面之处或附近线性递增的z距离随后对应于对象空间中的图像共轭距离,这些图像共轭距离描绘接近于成像透镜关系的关系。对于f=6mm,图像捕捉距图像捕捉系统114从100毫米远到5到6米那么远的对象内容。由此,图7针对各成像透镜焦距解说中间像平面处线性递增的z距离和现实对象空间之间的关系。

成像透镜202的焦距的改变可不仅允许该系统的不同视野,并且还允许非线性距离映射方面的改变,如图8所示出的。图8针对各成像透镜焦距描绘图像散焦范围对照对象共轭距离。该非线性映射对于其中按照如上所述的距离分辨对照z距离的关系来模仿人眼视角是合需的场景可以是有用的。

图9针对放置在远对象距离的像空间共轭处的扩散器描绘各对象距离的光斑尺寸模糊的示例图。图10针对放置在近对象距离的像空间共轭处的扩散器描绘各对象距离的光斑尺寸模糊的示例图。在使用对象场景中的扩散器来执行通过扩散确定深度时,仅针对放置在该扩散器后面的对象来评估深度。然而,通过将对象场景成像在中间像平面邻近度之内的图像空间中,现在多个扩散器放置选项是可能的。场景包括(1)扩散器在表示远深度感测范围限制的对象距离的像空间共轭或焦点处的放置,如图9的图示900所示,以及(2)扩散器在表示近深度感测范围限制的对象距离的像空间共轭或焦点处的放置,如图10的图示1000所示。

对于扩散状态,当光学扩散器120被放置在远对象图像共轭处时,扩散器平面的经中继的图像示出聚焦的远对象和模糊的近对象,而当扩散器被放置在近对象图像共轭处时,扩散器平面的经中继的图像示出聚焦的近对象和模糊的远对象。扩散器在期望目标范围中间的放置允许模糊在正和负z方向具有某种局部对称,由此可能的歧义通常将是不合需的,除非意图是允许对象或许通过来自该系统的反馈的主动定位。尽管模糊对称可被利用,但期望可使用的场景包括匹配任一目标z端限制(诸如远或近)的最佳焦点,以避免归因于这样的焦点交叉的局部倒置效果。

由于扩散器用作散射器中心平面或者重散射平面,扩散器处光斑尺寸的印迹取决于经中继的图像中的模糊的相对尺寸,并且由于图像共轭z距离取决于对象共轭距离,模糊变为对象z距离的函数。最佳焦点由扩散器平面在像空间内的放置确定,以使得最佳焦点和极限模糊端限制由扩散器放置平面战略性地确定,这随后被中继到传感器平面处的图像中。

扩散器的强度在扩散器出口角、或出口数值孔径、或出口角轮廓将大到足以将扩散器平面处的一部分图像印迹重散射到中继透镜接受区中以确保模糊尺寸在图像传感器平面处被看见这个意义上说是重要的。使扩散器出口数值孔径匹配主成像透镜数值孔径可确保模糊尺寸被维持,而太小的扩散器出口数值孔径提供少量的模糊量或因子,并浪费了透镜数值孔径的使用。合理的结果已通过f/2到f/4范围中的透镜数值孔径被获得,但其他数值孔径是可能的。在其他极端情况下,如果扩散器出口数值孔径显著地大于成像透镜数值孔径,则大量光可被散射到中继透镜的接受数值孔径或中继接受区之外,并由此降低了该系统的效率。出于该原因,为了最佳的模糊效果和高效率,对扩散器数值孔径的选择可基于主成像透镜和中继透镜两者的接受区并且在该接受区的量级上。对于将过高的出口数值孔径用于扩散状态的情况,光损失可通过图像中的灰度级的补偿来减轻,但是通过对中继接受区以及扩散器和/或mla的受限或受控轮廓的合适选择来确保对所有或大多数散射光的捕捉是高效的。

图11描绘了使用偏振敏感微透镜阵列的通过扩散确定时间顺序深度的示例实现。第一示例1102示出与非扩散状态对准的偏振,第二示例1104示出与扩散状态对准的偏振。在该示例中,扩散状态匹配近场区处的最佳焦点,即为了得到最佳焦点,光学扩散器120被放置在近对象图像共轭处,因为远对象1106(例如,路牌)具有模糊,但近对象1108(例如停车符号)不具有模糊。

示例规程

以下讨论描述了可利用先前描述的系统和设备来实现的经由通过扩散确定经中继的深度的技术的远程深度感测。这些过程中每一过程的各方面可用硬件、固件、软件、或其组合来实现。过程被示为指定由一个或多个设备执行的操作的一组框,不一定仅限于所示出的用于由相应的框执行操作的顺序。在以下讨论的各部分中,将参考以上所描述的各附图。

结合图1-11的示例描述的功能、特征和概念可在本文中描述的规程的上下文中被采用。而且,以下结合不通的规程来描述的功能、特征和概念在不同的规程中可被互换,并且不限于个体规程的上下文中的实现。此外,本文章与不同的代表性规程和相应的附图相关联的框可被一起应用和/或按不同的方式被组合。此外,结合此处的不同示例环境、设备、组件和规程所描述的单个功能性、特征和概念可以任何适当的组合使用且不限于所枚举的示例所代表的特定组合。

图12描绘了其中描述了由计算设备使用扩散对图像场景中的对象执行远程深度感测的技术的示例实现中的规程1200。由计算设备从图像捕捉系统接收图像场景的一个或多个图像该图像捕捉系统在内部施加了扩散(框1202)。例如,计算设备102可包括捕捉对象场景118的图像的图像捕捉系统114。图像捕捉系统114包括邻近该系统内部的中间像平面212设置的光学扩散器120。

由计算设备基于接收到的图像中的一个或多个对象所展现的模糊量来确定距图像场景中的一个或多个对象的距离(框1204)。例如,该深度可被深度感测模块116确定为与通过图像的模糊版本和非模糊版本的比较展现出的模糊量成比例但不与其是线性的。这随后被用来计算对象场景118的深度图。由计算设备诸如通过深度图的部分输出所确定的距离(框1206),。这可被用来支持各种功能,诸如自然用户界面、对象识别、三维映射等等。

示例系统和设备

图13在1300概括地例示了包括示例计算设备1302的示例系统,该示例计算设备表示可以实现本文描述的各个技术的一个或多个计算系统和/或设备。这是通过包括深度感测模块116来解说的,并且还可包括图1的图像捕捉系统114和内部光学扩散器120。计算设备1302可以是,例如,服务提供方的服务器、与客户端相关联的设备(例如,客户端设备)、片上系统、和/或任何其它合适的计算设备或计算系统。

所例示的示例计算设备1302包括处理系统1304、一个或多个计算机可读介质1306、以及相互通信地耦合的一个或多个i/o接口1308。尽管没有示出,计算设备1302可进一步包括系统总线或将各种组件相互耦合的其他数据和命令传输系统。系统总线可以包括不同总线结构中的任一个或其组合,诸如存储器总线或存储器控制器、外围总线、通用串行总线和/或利用各种总线体系结构中的任一种的处理器或局部总线。也构想了各种其它示例,诸如控制和数据线。

处理系统1304表示使用硬件执行一个或多个操作的功能。因此,处理系统1304被例示为包括可被配置为处理器、功能块等的硬件元件1313。这可包括在作为专用集成电路或使用一个或多个半导体构成的其它逻辑设备的硬件中的实现。硬件元件1310不受形成它们的材料或者其中利用的处理机制的限制。例如,处理器可以由半导体和/或晶体管(例如,电子集成电路(ic))构成。在这一上下文中,处理器可执行指令可以是可电子地执行的指令。

计算机可读存储介质1306被例示为包括存储器/存储1312。存储器/存储1312表示与一个或多个计算机可读介质相关联的存储器/存储容量。存储器/存储组件1312可包括易失性介质(诸如随机存取存储器(ram))和/或非易失性介质(诸如只读存储器(rom)、闪存、光盘、磁盘等等)。存储器/存储组件1312可包括固定介质(例如,ram、rom、固定硬盘驱动器等)以及可移动介质(例如闪存、可移动硬盘驱动器、光盘等等)。计算机可读介质1306可以下面进一步描述的各种方式来配置。

(诸)输入/输出接口1308表示允许用户向计算设备1302输入命令和信息的功能,并且还允许使用各种输入/输出设备向用户和/或其它组件或设备呈现信息。输入设备的示例包括键盘、光标控制设备(例如,鼠标)、话筒、扫描仪、触摸功能(例如,电容性的或被配置来检测物理触摸的其它传感器)、照相机(例如,可采用可见或诸如红外频率的不可见波长来将移动识别为不涉及触摸的姿势),等等。输出设备的示例包括显示设备(例如,监视器或投影仪)、扬声器、打印机、网卡、触觉响应设备,等等。因此,计算设备1302可以下面进一步描述的各种方式来配置以支持用户交互。

本文可以在软件、硬件元件或程序模块的一般上下文中描述各种技术。一般而言,此类模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、元件、组件、数据结构等。本文使用的术语“模块”、“功能”和“组件”一般表示软件、固件、硬件或其组合。本文描述的技术的各特征是平台无关的,从而意味着该技术可在具有各种处理器的各种商用计算平台上实现。

所描述的模块和技术的实现可以被存储在某种形式的计算机可读介质上或跨某种形式的计算机可读介质传输。计算机可读介质可包括可由计算设备1302访问的各种介质。作为示例而非限制,计算机可读介质可包括“计算机可读存储介质”和“计算机可读信号介质”。

“计算机可读存储介质”可以指相对于仅信号传输、载波、或信号本身而言,启用对信息的持久和/或非瞬态存储的介质和/或设备。因此,计算机可读存储介质是指非信号承载介质。计算机可读存储介质包括以适合于存储诸如计算机可读指令、数据结构、程序模块、逻辑元件/电路、或其它数据等的方法或技术来实现的诸如易失性和非易失性、可移动和不可移动介质和/或存储设备的硬件。该计算机可读存储介质的示例包括但不限于,ram、rom、eeprom、闪存或其它存储器技术、cd-rom、数字多功能盘(dvd)或其它光存储、硬盘、磁带盒、磁带、磁盘存储或其它磁存储设备、或者可适用于存储所需信息并可由计算机访问的其它存储设备、有形介质或制品。

“计算机可读信号介质”可以指被配置为诸如经由网络向计算设备1302的硬件传输指令的信号承载介质。信号介质通常用诸如载波、数据信号、或其他传输机制等经调制数据信号来体现计算机可读指令、数据结构、程序模块或其他数据。信号介质还包括任何信息传送介质。术语“经调制数据信号”是指使得以在信号中编码信息的方式来设定或改变其一个或多个特征的信号。作为示例而非限制,通信介质包括有线介质,诸如有线网络或直接线路连接,以及无线介质,诸如声学、rf、红外线和其它无线介质。

如前面所描述的,硬件元件1313和计算机可读介质1306表示以硬件形式实现的模块、可编程设备逻辑和/或固定设备逻辑,其可被某些实施例采用来实现本文描述的技术的至少某些方面,诸如执行一个或多个指令。硬件可包括集成电路或片上系统、专用集成电路(asic)、现场可编程门阵列(fpga)、复杂可编程逻辑器件(cpld),和以硅或其它硬件实现的组件。在此上下文中,硬件可操作为通过指令和/或由硬件实现的逻辑来执行程序任务的处理设备,以及被用来存储用于执行的指令的硬件(例如上面描述的计算机可读存储介质)。

前面的组合也可被采用来实现在此描述的各种技术。因此,软件、硬件,或可执行模块可被实现为在某种形式的计算机可读存储介质上和/或由一个或多个硬件元件1313实现的一个或多个指令和/或逻辑。计算设备1302可被配置成实现对应于软件和/或硬件模块的特定指令和/或功能。因此,可作为软件由计算设备1302执行的模块的实现可至少部分以硬件完成,例如,通过使用计算机可读存储介质和/或处理系统1304的硬件元件1313。指令和/或功能可以是一个或多个制品(例如,一个或多个计算设备1302和/或处理系统1304)可执行/可操作的,以实现本文描述的技术、模块、以及示例。

如在图13中进一步示出,示例系统1300实现了用于当在个人计算机(pc)、电视机设备和/或移动设备上运行应用时的无缝用户体验的普遍存在的环境。服务和应用在所有三个环境中基本相似地运行,以便当使用应用、玩视频游戏、看视频等时在从一个设备转换到下一设备时得到共同的用户体验。

在示例系统1300中,多个设备通过中央计算设备互连。中央计算设备对于多个设备可以是本地的,或者可以位于多个设备的远程。在一个实施例中,中央计算设备可以是通过网络、因特网或其他数据通信链路连接到多个设备的一个或多个服务器计算机的云。

在一个实施例中,该互连架构使得功能性能够跨多个设备来递送以向多个设备的用户提供共同且无缝的体验。多个设备的每一个可具有不同的物理要求和能力,且中央计算设备使用一平台来使得为设备定制且又对所有设备共同的体验能被递送到设备。在一个实施例中,创建目标设备的类,且使体验适应于设备的通用类。设备类可由设备的物理特征、用途类型或其它共同特性来定义。

在各种实现中,计算设备1302可采取各种各样不同的配置,诸如用于计算机1314、移动设备1316和电视机1318用途。这些配置中的每一个包括可具有一般不同的配置和能力的设备,并且因而计算设备1302可根据不同的设备类中的一个或多个来配置。例如,计算设备1302可被实现为计算机1314类的设备,该类包括个人计算机、台式计算机、多屏幕计算机、膝上型计算机、上网本等。

计算设备1302还可被实现为移动设备1316类的设备,该类包括诸如移动电话、可穿戴便携式音乐播放器(例如,腕带、吊坠、戒指等)、便携式游戏设备、平板计算机、多屏幕计算机等移动设备。计算设备1302还可被实现为电视机1318类的设备,该类包括在休闲观看环境中具有或连接到通常更大的屏幕的设备。这些设备包括电视机、机顶盒、游戏控制台等。还构想了其他设备,诸如作为“物联网”的部分的电气用具、恒温器等。

本文所描述的技术可由计算设备1302的这些各种配置来支持,且不限于在本文描述的各具体示例。这个功能性也可被全部或部分通过分布式系统的使用(诸如如下的经由平台1322通过“云”1320)来实现。

云1320包括和/或代表资源1324的平台1322。平台1322抽象云1320的硬件(如,服务器)和软件资源的底层功能性。资源1324可包括可在计算机处理在位于计算设备1302远程的服务器上执行时使用的应用和/或数据。资源1324也可包括在因特网上和/或通过诸如蜂窝或wi-fi网络之类的订户网络上提供的服务。

平台1322可抽象资源和功能性以将计算设备1302与其它计算设备相连接。平台1322还可用于抽象资源的缩放以向经由平台1322实现的资源1324所遇到的需求提供对应的缩放级别。因此,在互联设备的实施例中,本文描述的功能性的实现可分布在系统1300上。例如,该功能性可部分地在计算设备1302上以及经由抽象云1320的功能性的平台1322来实现。

结论和示例实现

此处所描述的示例实现包括但不限于以下示例中的一种或多种中的一个或任意组合:

描述了经由通过扩散确定经中继的深度的远程深度感测技术。在一个或多个示例中,远程深度感测系统被配置成通过扩散感测经中继的深度。所述系统包括图像捕捉系统,所述图像捕捉系统包括图像传感器和成像透镜,所述成像透镜被配置成将光传送通过设置在所述成像透镜和所述图像传感器之间的中间像平面到所述图像传感器,所述中间平面附近设置有光学扩散器,所述光学扩散器被配置成扩散所传送的光。所述系统还包括深度感测模块,所述深度感测模块被配置成接收来自所述图像传感器的一个或多个图像,并使用依据扩散确定深度的技术来确定距通过所述一个或多个图像捕捉到的对象场景中的一个或多个对象的距离,所述依据扩散确定深度的技术至少部分地基于该一个或多个图像中的各个相应所述对象所展现出的模糊量。

如单独或结合以上或以下示例中的任一者描述的示例,其中所述光学扩散器被配置成机械地切换偏振状态以扩散所传送的光。

如单独或结合以上或以下示例中的任一者描述的示例,其中所述光学扩散器被配置成电气地切换偏振状态以扩散所传送的光。

如单独或结合以上或以下示例中的任一者描述的示例,其中所述图像捕捉系统包括线偏振器并且所述光学扩散器是偏振敏感扩散器。

如单独或结合以上或以下示例中的任一者描述的示例,其中所述偏振敏感扩散器包括层状结构,所述层状结构具有与毗邻的液晶层层压的嵌入式表面起伏,所述嵌入式表面起伏被对准以在偏振状态中提供扩散,而对于正交偏振状态不提供所述扩散。

如单独或结合以上或以下示例中的任一者描述的示例,其中光程差(opd)由所述层状结构在所述偏振状态和所述正交偏振状态之间最小化。

如单独或结合以上或以下示例中的任一者描述的示例,其中所述图像传感器被配置成同时从所述光学扩散器捕捉多个偏振状态。。

如单独或结合以上或以下示例中的任一者描述的示例,其中所述光学扩散器被配置成具有随机表面起伏、交替光角扩展器、轴锥镜阵列、棱镜阵列、衍射光栅、或微透镜阵列。

如单独或结合以上或以下示例中的任一者描述的示例,其中所述图像捕捉系统包括结构化光照明器,其输出可由所述深度感测模块在通过所述一个或多个图像捕捉时用来确定距所述对象场景中的一个或多个对象的距离。

如单独或结合以上或以下示例中的任一者描述的示例,其中所传送的光是人类眼睛不可见的。

在一个或多个示例中,描述了由计算设备使用扩散对图像场景中的各对象执行远程深度感测的技术。所述技术包括由计算设备从图像捕捉系统接收图像场景的一个或多个图像,所述图像捕捉系统在内部施加了扩散,由所述计算设备基于接收到的图像中的一个或多个对象所展现出的模糊量来确定距所述图像场景中的一个或多个对象的距离,以及由所述计算设备输出确定的距离。

如单独或结合以上或以下示例中的任一者描述的示例,进一步包括由所述计算设备控制对所述扩散的施加。

如单独或结合以上或以下示例中的任一者描述的示例,其中所述控制被机械地执行以切换偏振状态以扩散在所述图像捕捉系统内部传送的光。

如单独或结合以上或以下示例所述的示例,其中所述控制被机械地执行以切换偏振状态以扩散在所述图像捕捉系统内部传送的光。

在一个或多个示例中,一种图像捕捉系统包括:成像透镜,所述成像透镜被配置成传送来自对象场景的光;图像传感器,所述图像传感器被配置成捕捉所传送的来自所述对象场景的光以形成一个或多个图像;以及,设置在所述成像透镜和所述图像传感器之间的中间像平面内的光学扩散器,所述光学扩散器增加能用于所述图像传感器的距所述成像透镜的景深。

如单独或结合以上或以下示例中的任一者描述的示例,进一步包括深度感测模块,所述深度感测模块被配置成接收来自所述图像传感器的一个或多个图像,并使用依据扩散确定深度的技术来确定距通过所述一个或多个图像捕捉到的对象场景中的一个或多个对象的距离,所述依据扩散确定深度的技术至少部分地基于所述一个或多个图像中的各个相应所述对象所展现出的模糊量。

如单独或结合以上或以下示例中的任一者描述的示例,其中所述光学扩散器对所述扩散的施加能在扩散状态和非扩散状态之间切换。

如单独或结合以上或以下示例中的任一者描述的示例,其中所述切换被机械地执行以切换偏振状态以扩散在所述图像捕捉系统内部传送的光。

如单独或结合以上或以下示例中的任一者描述的示例,其中所述切换被电气地执行以切换偏振状态以扩散在所述图像捕捉系统内部传送的光。

如单独或结合以上或以下示例中的任一者描述的示例,其中所述光学扩散器被配置成具有随机表面起伏、交替光角扩展器、轴锥镜阵列、棱镜阵列、衍射光栅、或微透镜阵列。

尽管用结构特征和/或方法动作专用的语言描述了各个示例实现,但可以理解,所附权利要求书中定义的各实现不必限于上述具体特征或动作。相反,这些具体特征和动作是作为实现所要求保护的特征的示例形式而公开的。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1