多路复用傅立叶重叠关联成像的系统和方法与流程

文档序号:11449492阅读:289来源:国知局
多路复用傅立叶重叠关联成像的系统和方法与流程

相关申请的交叉引用

本申请是题为“fourierptychographicimagingsystems,devices,andmethods”并提交于2013年10月28日的美国专利申请14/065,280的部分继续申请,该专利申请要求于2012年10月30日提交的题为“breakingthespatialproductbarriervianon-interferometricaperture-sythesizingmicroscopy(nam)”的美国临时专利申请号为61/720,258以及2013年7月17日提交的题为“fourierptychographicmicroscopy”的美国临时专利申请号为61/847,472的二者的优先权;所有这些申请在此通过引用以其整体并入并用于所有目的。本申请也是题为“hadamardmultiplexedfourierptychography”并于2014年12月4日提交的美国临时专利申请号为62/087,633的非临时申请并要求其优先权,其在此通过引用以其整体并入并用于所有目的。

联邦政府资助的研究或开发

本发明是根据由美国国立卫生研究院授予的批准号为od007307的政府支持来完成的。政府对本发明具有一定的权利。

背景

本文中所描述的某些实施例大体上涉及数字成像,更具体地,涉及多路复用傅立叶重叠关联成像系统及其组件,以及多路复用傅立叶重叠关联成像方法。

重叠关联成像涉及收集较低分辨率强度图像并将它们重建成更高分辨率图像。在过去二十年中,重叠关联成像已被用在各种领域中,以产生微观和纳米现象的高分辨率、宽视场的图像。无论是在第三代同步加速器源处的x射线领域中,在用于原子尺度现象的电子显微镜中,还是在用于生物样本的光学领域中,重叠关联已经显示出获取衍射极限附近的数以百计百万像素的样本信息的无以伦比的能力。通常,重叠关联的基本操作是在样本通过聚焦光束进行扫描时从样本中采样一系列衍射图案。然后,这些仅强度的测量结果被重建成具有比任何单个记录的衍射图案更多的像素的样本信息的复合(即,振幅和相位)的高分辨率图像。

最近,引入了一种傅立叶重叠关联成像技术,其通过在感兴趣的样本从不同入射角被顺序照明时所捕获的一系列低分辨率强度测量结果来构建高分辨率样本的复合高分辨图像。在一个特定实施方式中,傅立叶重叠关联显微镜(fpm)系统使用位于感兴趣的薄的半透明样本之下的发光二极管(led)阵列。每个led近似于点照明源。在图像采集期间,fpm系统顺序地接通各个led,以从不同的角度提供入射到样本的照明。来自每个led的光通过薄的样本并通至成像透镜(例如,常规显微镜物镜)。光检测器从成像透镜接收衍射图案,并捕获强度测量结果,以针对每个入射角形成唯一的较低分辨率图像。在通过不同入射角的顺序照明期间所采集的较低分辨率图像集可通过相位恢复操作被重建为高分辨率复合测量结果。该标准傅立叶重叠关联成像技术和实现该技术的fpm系统的示例可在zheng,guoan、horstmeyer,roarke和yang,changhuei的“wide-field,high-resolutionfourierptychographicmicroscopy”naturephotonics第7卷,第739-745页(2013)以及题为“fourierptychographicimagingsystems,devices,andmethods”并提交于2013年10月28日的美国专利申请14/065,280中找到;其在此通过引用以其整体并入并用于所有目的。

概述

某些实施例涉及数字成像,更具体地,涉及多路复用傅立叶重叠关联成像系统及其部件,以及多路复用傅立叶重叠关联成像方法。

某些实施例涉及多路复用傅立叶重叠关联成像系统。该系统包括被配置为照明led图案的序列的led阵列,该led阵列被定位成照明被成像的样本。该系统还包括与led阵列进行电通信的led电路,其中,led电路被配置为独立地控制电力以在每个led图案中同时接通多个led。该系统还包括被配置为收集从被照明的样本发出光的透镜。该系统还包括光检测器,其被配置为从透镜接收光以采集与led图案的序列相关联的第一组较低分辨率图像,其中每个较低分辨率图像基于在曝光时间期间所接收的光。该系统还包括处理器,其被配置为使用第一组较低分辨率图像来生成与led阵列中的每个led相关联的第二组较低分辨率图像,并用该第二组较低分辨率图像迭代地更新傅立叶域中的重叠区域,以生成更高分辨率图像。

某些实施例涉及多路复用傅立叶重叠关联成像系统中的led阵列组件。led阵列组件通常包括led阵列和与该led阵列进行电通信的led电路。led阵列被配置为照明led图案的序列,该led阵列被定位成照明被成像的样本。led电路被配置为独立地控制电力,以在每个led图案中同时接通多个led。

某些实施例涉及多路复用傅立叶重叠关联成像方法。该方法包括通过led图案的序列对样本进行多路复用照明。该方法使用透镜收集从被照明的样本发出的光。该方法使用接收来自透镜的光的光检测器来采集样本的第一组低分辨率图像。每个低分辨率图像在led图案中的一个被照明时的曝光时间期间被捕获。该方法使用第一组生成样本的第二组低分辨率图像。第二组图像中的每个低分辨率图像与led图案中的单个led相关联。该方法通过用第二组低分辨率图像迭代地更新傅立叶空间中的重叠区域来重建样本的更高分辨率图像。

这些和其它特征在下面参照有关的附图更详细地进行描述。

附图简述

图1是根据实施例的多路复用傅立叶重叠关联成像系统的部件的框图。

图2是根据实施例的图像收集组件的侧视图的示意图。

图3是根据实施例的图像收集组件的透视图的示意图。

图4是根据实施例的具有led电路的led阵列组件的示意图,该led电路可向led阵列内的任何及所有led同时提供恒定电力。

图5是根据实施例的led阵列组件的示意图。

图6是根据实施例的七个2dled图案的图。

图7是根据实施例的一维led阵列中的led图案序列的示意图。

图8是根据实施例的具有七个led的一维led阵列的示意图,其中只有一个led在每个图像采集期间接通。

图9是根据实施例的多路复用傅立叶重叠关联成像方法的流程图。

图10是根据实施例的重建过程的流程图。

图11是根据实施例的重建过程的流程图。

图12是根据实施例的可存在于某些多路复用傅立叶重叠关联成像系统中的一个或更多个子系统的框图。

详细描述

本发明的实施例将在下面参照附图进行描述。在附图中所示出的特征可以不是按比例绘制的。

某些实施例涉及多路复用傅立叶重叠关联成像系统、系统部件和方法。在某些方面,多路复用傅立叶重叠关联成像系统包括具有电路的led阵列组件,该电路连接到led阵列以用于独立地控制电力,从而在led图案的序列中的每个图案中同时接通多个led,以用于进行对样本的多路复用照明。该系统还包括与led电路进行通信并与光检测器进行通信的处理器。该系统确定在每个周期期间要使用的led图案的序列和曝光时间,并发送控制信号以控制各个led的接通,从而在图像采集期间照明led图案。该系统还包括成像透镜(例如,物镜),其被定位成接收从被照明的样本发出的光。该系统包括光检测器,其被定位成基于从被照明的样本发出的光,接收从成像透镜传送的衍射图案。光检测器接收光子,并在通过每个led图案的照明期间,进行在曝光时间内的强度测量,以采集单个较低分辨率图像。处理器将控制信号发送给光检测器,以基于确定的曝光时间控制通过光检测器的图像采集。在每个周期期间,光检测器在样本被led图案的序列照明时采集第一组较低分辨率图像。使用第一组较低分辨率图像,系统生成第二组较低分辨率图像,并且该第二组较低分辨率图像用于生成较高分辨率图像。

在每个周期期间,系统确定在该周期期间要使用的led图案的序列和曝光时间。每个图案的多个led在led阵列中同时接通,以在每个图像采集期间照明样本。成像透镜接收从样本发出的光,并且光检测器接收从成像透镜传递的光。为了采集每个图像,在单个led图案被照明时,光检测器在曝光时间内接收光子并对强度测量结果进行采样。在每个过程周期期间,光检测器在通过led图案的序列的照明期间采集第一组较低分辨率图像。在一些情况下,处理器基于最大处理时间和/或最小信噪比(snr)来确定led图案和曝光时间。例如,操作者可提供具有最大处理时间和最小snr中的一个或更多个的调整输入(tuninginput)。在一种情况下,处理器可确定曝光时间,该曝光时间将保持该周期期间的总处理时间低于最大处理时间,以及/或者处理器可确定led图案,其将使所采集的图像具有高于最小snr的snr。在捕获第一组较低分辨率图像之后,执行对第一图像数据组的加权和操作,以重新创建第二图像数据组,其将在每个图像采集时间在使单个led接通的情况下捕获。在该加权和操作之后,图像样本的高分辨率振幅和相位图可基于第二数据组来重建。可使用的重建过程的细节在第iii章节中、在zheng,guoan、horstmeyer,roarke和yang,changhuei的“wide-field,high-resolutionfourierptychographicmicroscopy”naturephotonics的第7卷第739-745页(2013)以及题为“fourierptychographicimagingsystems,devices,andmethods”并提交于2013年10月28日的美国专利申请14/065,280中找到。

用于标准傅立叶重叠关联成像技术的数据捕获通常通过从n个led的大的阵列内一次照明一个led,并基于特定的入射角采集关于每个被照明的led的数字图像,来执行。其中,n可以是几百个led,数据捕获过程可能是耗时的。例如,使用225个led以1秒曝光时间拍摄225张图像的标准傅立叶重叠关联成像系统将具有225秒的总图像采集时间。

代替为所捕获的每个图像接通单个led,实施例的多路复用傅立叶重叠关联成像系统使用多路复用照明。该系统设计有led阵列组件,其可接通led阵列中的任意led,以接通led图案的序列中的唯一图案。在一个示例中,led图案可针对每个图像具有高达led总数的1/2或3/4。在捕获n个不同图像之后,每个在根据唯一图案的照明下,可线性组合得到的图像以生成第二数据组,其将在使阵列中的各个led被照明时捕获。然而,由于每个图像是使用比仅使用单个led时要亮得多的光来照明,因此可使用每图像短得多的曝光时间,导致快得多的数据采集过程。

在某些方面,多路复用傅立叶重叠关联成像的系统和方法被配置为改进生成高分辨率图像的速率,因为对于相同的噪声,曝光时间可被显著减少。如上所述,某些标准傅立叶重叠关联成像技术基于在每个采集时间接通单个led以从单个入射角照明样本。多路复用傅立叶重叠关联成像技术在每个图像采集期间以唯一的图案同时接通多个led。为了提供图案化照明,多路复用傅立叶重叠关联成像系统包括具有电路和处理器的led阵列组件,其被设计用于独立控制阵列中的每个led,使得任何led可同时接通以照明唯一的图案。由于每个低分辨率图像都是基于在光检测器处接收到显著更多的光子,因此对于每个采集的图像,噪声被降低。由于这是这种情况,因此多路复用傅立叶重叠关联成像系统可以显著减少曝光时间,同时保持相同的噪声。减少每次图像采集的曝光时间减少了整体处理时间。噪声量是基于每个图案中被照明的led的数量。在一些方面中,该系统是可调整的,以通过选择特定的曝光时间来调整处理时间和/或通过选择特定的led图案序列来调整snr。例如,系统的操作者可提供调整输入,以将处理时间保持在由操作者提供的处理时间以下,并还将噪声保持在与snr相关联的特定水平以下。例如,使用225个led来拍摄225张图像的多路复用傅立叶重叠关联成像系统可在图像采集期间针对每个唯一图案同时接通225个led中的113个led。在保持相同的噪声量的同时,曝光时间可减小sqrt(225)/2=7.5倍。也就是说,如果在每次采集使用被照明的1个led,原始曝光时间是每采集1秒,则由多路复用傅立叶重叠关联成像系统使用的新的曝光时间可降低到1/7.5=0.13秒,同时保持相同的噪声。在这种情况下,总图像采集时间可以从225减少到225*0.13秒=30秒。

i.多路复用傅立叶重叠关联成像系统

图1是根据实施例的多路复用傅立叶重叠关联成像系统10的部件的框图。系统10包括图像收集组件100,该图像收集组件包括led阵列组件110、成像透镜120以及用于进行强度测量的光检测器130。led阵列组件110包括被配置为照明被成像的样本(未示出)的led阵列112和电路114。系统10还包括具有处理器144和crm(即,计算机可读介质)146的控制器140、可选的(用虚线描绘的)显示器160以及可选的(用虚线描绘的)输入接口170。led电路114与led阵列112和控制器140的处理器144进行电通信。led电路114被配置为提供电力以独立地接通led阵列112中的每个led。处理器144确定led图案的序列,并通过电路114将控制信号发送给led阵列112,以照明led图案的序列。led阵列112和成像透镜120之间的箭头描绘了成像透镜120被定位成接收从由来自led阵列112的相干光照明的样本发出的光。成像透镜120和光检测器130之间的箭头描绘了光检测器130被配置为接收从成像透镜120传递的从样本发出的光。光检测器130顺序地捕获由led图案的序列照明的样本的第一组较低分辨率图像,其中每个低分辨率图像基于在曝光时间内获得的强度测量结果。如本文中所使用的,曝光时间通常是指其间光检测器收集光子、将来自所收集的光子的总能量整合成电势、并将该电势用作每个离散的光检测元件(例如,像素)处的强度的度量以形成包括单个较低分辨率图像的图像数据的时间的持续时间。

多路复用傅立叶重叠关联成像系统10包括处理器144和crm146、可选的显示器160和输入接口170。在一个示例中,这些部件中的一个或更多个可以是单个计算设备(诸如例如,智能电话、膝上型计算机、桌上型计算机、平板电脑等)的一部分。可选的显示器160、可选的输入接口170以及crm146都与处理器144进行通信。控制器140的处理器144确定在图像采集期间要使用的led图案的序列和曝光时间,并还通过由光检测器130采集的第一组较低分辨率图像的强度数据来生成高分辨率图像。处理器144还与光检测器130和led电路114进行通信,以发送控制信号,从而使用于采集第一组较低分辨率图像的以曝光时间对led图案进行的照明与led图案的序列的照明时间同步。也就是说,处理器144借助指令通过led电路114向led阵列112发送控制信号,以照明led图案的序列。处理器144向光检测器130发送控制信号,以在led阵列被led图案的序列照明时,在曝光时间内接收光子。

图2和图3是可用在诸如图1中所示的系统的多路复用傅立叶重叠关联成像系统中的图像收集组件的部件的示意图。图2是根据实施例的图像收集组件200的侧视图的示意图。图像收集组件200包括具有被定位成照明样本20的led阵列212的led阵列组件210、成像透镜220和用于根据在其主动感测表面处接收的光子测量强度的光检测器230。在该示例中,图像收集组件200以透射照明(trans-illumination)模式来布置,该透射照明模式引导照明通过被成像的样本,同时成像透镜220接收通过样本21传输的光。在该图示的示例中,led阵列212是具有七个led的一维led阵列。在该图示中,示出了具有四个照明的led214和三个非照明的led215的led图案。在图像采集期间,led通过电路(未示出)从控制器(未示出)接收控制指令,并执行该控制指令以照明led图案的序列。系统200还包括成像透镜220,其基于其na,接收并接受从被照明的样本20发出的光。在某些情况下,成像透镜220位于样本平面的傅立叶平面上。光检测器230接收从成像透镜220传递的照明,并测量曝光时间的强度数据以捕获每个低分辨率图像。在图像采集操作期间,光检测器230在样本20被照明的led图案的序列照明时测量强度数据,以采集第一组较低分辨率图像。

图3是根据实施例的图像收集组件300的透视图的示意图。图像收集组件200包括具有被配置为照明样本22的led阵列312的led阵列组件310、成像透镜320(例如,物镜)以及光检测器330。led阵列312是具有400个led的二维led阵列(20x20)。描绘了示出阵列312中的特定led的照明角度的箭头。在操作期间,led通过电路(未示出)从控制器(未示出)接收控制指令,并执行该控制指令以照明led图案的序列。成像透镜320基于其na接收并接受从被照明的样本21发出的光。在某些情况下,成像透镜320位于样本平面的傅立叶平面上。光检测器330接收从成像透镜320传递的照明,并测量曝光时间的强度数据以捕获每个低分辨率图像。在图像采集操作期间,光检测器330在样本21被照明的led图案的序列照明时测量关于较低分辨率图像的序列的强度数据。

根据某些方面,图像收集组件的部件可被布置为以透射照明模式(即,成像透镜收集通过样本传输的光)或反射模式(即,从样本反射的光被收集在成像透镜处)操作。在图2中,例如,图像收集组件200的部件被布置为以透射照明模式操作,其中led阵列212和成像透镜220被定位成引导照明通过样本20,同时成像透镜220接收通过样本20传输的光。为了以反射模式操作,led阵列和成像透镜将被定位成朝向样本引导照明,并且成像透镜被定位成接收从样本反射的光。

在多路复用傅立叶重叠关联成像系统的典型周期期间,处理器确定用于在通过光检测器的图像采集期间照明的led图案的序列。处理器还确定为使光检测器接收光子并测量每个图像采集的强度值的曝光时间。处理器借助控制数据向光检测器和led阵列二者发送控制信号,以使每个led图案的照明与图像采集同步。处理器可以发送控制数据,其包括例如,图像采集操作的开始时间、每个图像采集的确定的曝光时间和每个led图案的相应照明持续时间以及所采集的图像的数量和用于照明所确定的led图案的序列的数据中一个或更多个。在图像采集期间,处理器通过电路独立控制led阵列中的每个led,以接通led图案的序列中的led。成像透镜接收从样本发出的光并将光传递到光检测器。当每个led图案被照明时,光检测器在所确定的曝光时间期间接收光子并对强度测量结果进行采样。在每个周期的图像采集过程期间,光检测器在样本被所确定的led图案的序列照明时顺序地捕获样本的第一组较低分辨率图像。处理器对第一图像数据组执行加权和操作,以重新创建第二图像数据组,其将每个图像采集时间在使单个led接通的情况下捕获。处理器使用第二图像数据组来重建图像样本的高分辨率的振幅和相位图。

通常,样本可包括一个或更多个感兴趣的对象。例如,样本可以是具有一个或更多个细胞或细胞器的生物样品。另一示例是,样本可以是半导体晶片。在一些情况下,样本中的一个或更多个对象是薄的和/或半透明的。

在某些方面中,多路复用傅立叶重叠关联成像系统包括含有led阵列和led电路的led阵列组件。led电路提供led阵列中的每个led和处理器(例如,控制器的处理器)之间的电通信。也就是说,处理器通过led电路电连接到led阵列,以能够发送控制信号,从而接通led图案的序列中的每个led图案的led。

led阵列组件包括用于提供照明的具有n×m尺寸的led阵列。led阵列可以是一维阵列(1xm,其中n=1)或分离的led的二维阵列。led阵列的尺寸的一些示例是6x6、7x7、8x8、9x9、10x10、32x32、50x50、20x20、30x30、60x60、100x100、50x10、20x60、1x10、1x7、1x20、1x30等。可使用其他尺寸。led阵列中的每个led可近似为点光发射器。尽管在许多情况下将led阵列描述为在阵列的每个位置处的单个led,但在一些情况下,每个位置可具有多个led。例如,阵列中的每个位置可具有蓝色、绿色和红色的led。在一些情况下,led提供可见光波长。在其他情况下,led提供紫外光波长。在其他情况下,led提供红外光波长。

在某些方面中,多路复用傅立叶重叠关联成像系统包括具有led电路的led阵列组件,该led电路可向led阵列中的led的任何组合同时提供电力(例如,电压),而无需在其处于“接通”状态时随时间的推移改变输送到每个led的电力。换句话说,led电路可向阵列内必须处于“接通”状态的任何和所有led同时提供恒定的电力(即,电压)。也就是说,led电路被设计为允许对同时接通/断开阵列中的led的任何组合进行独立的控制。在一个示例中,led电路包括每个led和处理器之间的电连接(例如,导线)。

图4是根据实施例的具有led电路412的led阵列组件410的示意图,该led电路可向led阵列内必须处于“接通”状态的任何和所有led同时提供恒定的电力(即,电压)。led阵列组件410包括3x5的led阵列412和单独寻址的led电路414。指示led电路414的箭头指向led电路414中的单个导线,但是将理解的是,在该图示的led电路414中有15条导线。如所示,led电路414在阵列412中的每个led和控制器(例如,微控制器)的控制逻辑之间包括单条导线。单条导线提供了单独控制到每个led的dc电压/电流的能力。也就是说,led阵列412是单独寻址的阵列。

常规的led阵列通常被设计有电连接,以一次接通单个led,其中每个led通过将值设置为其相关联的行和列来控制。这样的led阵列通常被称为多路复用显示器。相关形式的显示器通常被称为charlieplexed显示器。例如,在一个常规的led阵列中,通常被称为具有点阵控制器的点阵显示器,行连接到微控制器的led阳极,并且列连接到微控制器的led阴极。为了接通列中的任何led,列需要处于低设置(即,低电压)。为了接通行中的任何led,行需要处于高设置(即,高电流)。如果行和列都被设置为高或都被设置为低,则没有电压流经led,并且它不会接通。为了控制单个led,列被设置为低,并且行被设置为高。为了控制行中的多个led,该行被设置为高,然后列适当地被设置为低或高,以随着时间的推移接通相应的led。该常规的led阵列不具备同时接通任意led组的能力,因为它们不具有对每个led的独立控制。也就是说,对led的控制取决于行和列的设置,而不是单独的led。例如,该常规的led阵列将不能够接通沿着阵列的对角线的led,因为在我们的示例中这将需要所有行被设置为低电压,并且所有列被设置为高电压,这将使阵列中的所有led接通,而不是如所期望的只有沿着对角线的led接通。

图5是具有3×5的行/列寻址的led阵列的led阵列组件501的示意图。在该示例中,电路被设计为仅控制沿整个行/列的dc电压/电流。

由于常规的led阵列(例如,点阵显示器或charlieplexed显示器)不能接通led阵列中的任何led组,因此它们通常单独并非常快速地(即,在不到30毫秒内,这是近似人眼的积分时间(integrationtime))接通期望的图案中的每个led。虽然这有助于将led显示器中的内容显示给用户,但无助于随着时间的推移从每个led传送恒定量的光功率以均匀地照明,例如,用于多路复用照明的样品。

在某些方面,多路复用傅立叶重叠关联成像系统包括用于收集从样本发出的光的成像透镜。通常,成像透镜位于样本平面的傅立叶平面上。例如,成像透镜可以是物镜,其基于其数值孔径(na)只接受在入射角的范围内的光的物镜。在一种情况下,成像透镜是na约为0.08的物镜。在另一种情况下,成像透镜是na介于约0.01和约0.1之间的范围内的物镜。

在某些方面中,多路复用傅立叶重叠关联成像系统包括具有等间距分离的检测元件(例如,像素)的二维网格的光检测器。在每个曝光时间期间,光检测器收集光子,将从所收集的光子的总能量整合成电势,并使用该电势作为每个离散光检测元件(例如,像素)处的强度的度量以形成包括单个较低分辨率图像的图像数据。光检测器生成具有在周期期间由离散光检测元件的网格测量的强度分布的图像数据的较低分辨率图像的信号。如果可见光辐射用于照明样本,则光检测器可以是电荷耦合器件(ccd)、cmos成像传感器、雪崩光电二极管(apd)阵列、光电二极管(pd)阵列、光电倍增管(pmt)阵列或类似器件的形式。如果使用太赫兹辐射被使用,则光检测器可以是例如,成像辐射热测量计。如果使用x射线辐射,则光检测器可以是例如,x射线敏感的ccd。光检测器和其它检测器的这些示例是市售的。在一些方面中,光检测器可以是彩色检测器,例如,rgb检测器。在其他方面中,光检测器可以是单色检测器。

在某些方面中,多路复用傅立叶重叠关联成像系统包括一个或更多个处理器(例如,微处理器),其接收被储存在crm上的指令,并执行指令以执行系统的一个或更多个功能。例如,处理器可执行被储存在crm上的指令以执行以下中的一个或更多个:1)解释图像数据,2)重建更高分辨率图像,3)通过第一组较低分辨率图像数据生成第二组较低分辨率图像数据,4)提供显示数据以用于在显示器上显示一个或更多个图像或其他输出,以及5)确定led图案的序列、曝光时间、用于接通led阵列中的led图案形式的led的控制指令,和/或在章节ii中所描述的多路复用傅立叶重叠关联成像方法的一个或更多个操作期间执行的其他操作。处理器可以直接或者通过其他设备间接地连接到一个或更多个电源。该一个或更多个电源可在系统的内部和/或外部。

在某些方面中,多路复用傅立叶重叠关联成像系统包括将控制信号发送给led阵列和/或光检测器的处理器。在一些情况下,这些控制信号使led图案的序列的照明与用于采集第一组较低分辨率图像的曝光时间同步。例如,处理器可以借助指令通过led电路向led阵列发送控制信号,以照明led图案的序列,并将控制信号发送给光检测器,以在led阵列被led图案的序列照明时,在曝光时间内接收光子。处理器还可确定在图像采集期间要使用的led图案的序列和曝光时间,以及/或者通过由光检测器采集的第一组较低分辨率图像生成高分辨率图像。

在某些情况下,处理器可通过led电路向led阵列发送控制信号,以照明led图案的序列。在这些情况下,控制器可以独立控制led阵列中的led的任何组合,以接通序列中的每个led图案中的led。处理器还可通过在通过led图案的序列的照明期间收集的第一较低分辨率图像生成高分辨率图像。控制器还可向显示器提供显示数据和/或可以用来自输入接口的输入对信号进行处理。

在某些方面中,多路复用傅立叶重叠关联成像系统包括crm(例如,存储器),其与一个或更多个处理器进行通信以接收数据并发送被储存在crm上的数据。除了储存用于执行系统的某些功能的指令之外,crm还可储存较低分辨率图像数据(第一组和/或第二组)、较高分辨率图像数据、来自操作者或其他实体的输入以及由系统使用的其他数据。例如,crm可储存与某些snr水平和/或处理时间对应的不同的led图案的序列和曝光时间。在其他情况下,crm可储存用于基于特定的处理时间和/或特定的snr来计算led图案的序列和/或曝光时间的指令。可替代地,例如在使用hadamard多路复用的情况下,crm可储存查找表。该查找表可包含要采集的图像的可能数量(范围从1到n)的列表,其中n可以大至1000或更多。对于n的每个值,查找表将包含唯一的n个不同的led图案的列表(即,对于待捕获的每个图像,在led阵列内要接通哪些led以及哪些应保持断开的列表)。查找表还可能包含待捕获的每个图像的曝光时间的列表。

在一些方面中,多路复用傅立叶重叠关联成像系统包括显示器,其与处理器进行通信以接收数据,从而在显示器上向例如系统的操作者显示图像和其他输出。显示器可以是彩色显示器或黑白显示器。另外,显示器可以是二维显示器或三维显示器。在一个实施例中,显示器可以能够显示多个视图。

在一些方面中,多路复用傅立叶重叠关联成像系统包括输入接口。输入接口指的是能够从系统的操作者接收输入的设备。例如,输入接口可以是键盘、触摸屏、麦克风等。

a.led图案的序列

在某些方面中,多路复用傅立叶重叠关联成像系统使用led阵列组件以在led阵列中接通led图案的序列中的多个led。在通过每个led图案的照明期间,系统捕获较低分辨率图像。尽管在本文中的某些示例中针对具有n个led(n=nxn)的方形led阵列对led图案进行描述,但也可使用其他led阵列。

通过在每个周期期间照明led图案,多路复用傅立叶重叠关联成像系统可通过减少曝光时间同时在所采集的每个图像内保持相同snr来从常规技术中显着加速图像采集。例如,当使用方形led阵列时,每个图像采集的曝光时间(以及图像采集过程的总持续时间)对于所采集的每个图像内的固定snr可被减小高达大约sqrt(n)/2倍,其中n仍然是阵列中的led的数量,sqrt()表示平方根运算。根据hadamard多路复用理论,确切的曝光的减小是[sqrt(n)+(1/sqrt(n)]/2,其对于大的n接近以上近似值,并且假设影响snr的主要噪声源在统计上独立和加性的。换句话说,如果系统可使用与接通单个led时所使用的曝光时间相同的图像曝光时间,则当使用多路复用时并且当噪声是独立且加性的时,每个检测到的图像的snr将被改进相同的sqrt(n)/2倍。在一些方面中,该系统可通过调整曝光时间和led图案来利用这种灵活性,以将系统调整到特定的处理时间和snr组合。在使用布置在图案中的被照明的led进行对第一组n个图像的数据捕获之后,系统执行n个图像的加权和以产生第二组图像,其类似于当在每次采集时间内单个led接通时所捕获的图像。

通常,led图案的序列包括唯一的图案。在大多数情况下,每个led图案包括每次接通的至少一个led。在一个方面中,每个led图案包括每次接通的少于或等于3n/4个led。在一个方面中,每个led图案在每个图像采集期间接通高达阵列中的led的一半。在方形led阵列的情况下,每个led图案对于每个图像接通高达阵列中的n/2个led。在另一方面中,每个led图案对于所采集的每个图像接通高达阵列中的四分之一的led。在方形led阵列的情况下,每个led图案对于每个图像接通高达阵列中的n/4个led。在另一方面中,每个led图案对于所采集的每个图像接通阵列中的超过四分之一的led。在另一方面中,每个led图案对于所采集的每个图像接通阵列中的超过四分之一的led。通常,多路复用需要每次接通超过1个led。在一个示例中,led图案具有每次接通的少于或等于3n/4个led。

在一些情况下,序列中唯一图案的数量由led阵列中将被照明的led数量或将被采集的图像数量决定。在使用方形(nxn)led阵列的一个示例中,序列中的唯一图案的数量是n(n=nxn)。序列中的唯一图案的数量为n,并与led图案的序列一起形成n×n矩阵,其可以作为查找表被适当地储存和访问,以用于为给定值n选择正确的图案组。当使用修改版本的hadamard码(即,其可能会考虑样本平面上的不均匀照明、没全断开的led源、或者提供耦合输出的led源)时,可能的是唯一图案的数量也可能小于n。

在一个方面中,序列中的led图案由也被称为“hadamard”码的“hadamard”图案定义。在一维led阵列(nx1)的情况下,序列中的唯一图案的数量为n,并与led图案的序列一起形成长度为n的信号的n×n“hadamard”矩阵。

图6是根据实施例的关于7x7led阵列的来自49个不同的2dhadamard图案的序列中的七个2dhadamardled图案的图。如果n=7,则n=nxn=49。在图中,白色条目表示相关联的led接通,以及黑色条目表示led断开。

图7是根据实施例的通过一维led阵列714照明的led图案的序列701的示意图,该一维led阵列可用于在多路复用傅立叶重叠关联成像系统中采集七个低分辨率图像。在该特定示例中,led阵列714具有七个led,并且七个照明图案710、720、730、740、750、760、770用在序列(n=7)中。虽然出于简化而基于一维led阵列示出了示例,但对于二维led阵列的图案的扩展是直接的。根据其1d对应物形成相关联的2dhadamard图案的一个简单的方式是首先定义值为n的hadamard图案,或者将沿着led阵列的一个维度使用的led的数量。然后,应将图案向量中的所有值设置为-1。例如,如果n=7,则对于第一图案,s=[1110100],然后形成s'=[111-11-1-1]。接下来,应计算s’与其自身的外积以形成s2d'=s'*s',其中*表示外积。s2d’是在其条目中包含+1和-1的7x7矩阵。最后,通过将s2d’中为-1的所有条目设置为0并使为+1的所有条目不变来找到相关联的2d图案s2d。

在该示例中,序列中的图案是基于向量s=[1110100]的循环置换的hadamard图案。接通的led的第一图案710将匹配s(第一、第二、第三和第五led接通)。接通的led的第二图案720将匹配向右移动一位的[0111010]。led的第三图案730将匹配从右移动一位的[0011101],依此类推。led的第四图案740将匹配从右移动一位的[1001110],依此类推。led的第五图案750将匹配从右移动一位的[0100111],依此类推。led的第六图案760将匹配从右移动一位的[1010011],依此类推。led的第七图案770将匹配从右移动一位的[1101001],依此类推。在显示二维的led阵列上的图案的情况下,以上向右移动一位的方法可被推广到将二维的led图案顺序地向右移动一列并向下移动一行。尽管使用了hadamard图案,但可基于其他s向量的置换来使用其他图案。第一个相关的示例从walsh矩阵获取其图案,该walsh矩阵是hadamards矩阵的重新排列的版本。对于第二示例,在一些应用中,在某种程度上随机选择led图案可能是有益的。以上简单示例中的随机序列的一个示例是[0110010]、[0001010]、[1110101]、[1011100]、[0100001]、[10111100]、[01010000]。在其他应用中,将led图案选择为hadamard图案序列的稍微修改的版本可能是有益的,例如通过始终保持中间三个条目处于比其余位置处的led低的总光功率下。如果我们让向量s内的条目表示从每个led发出的光功率的量,则示例序列s1=[11.50.500]作为第一图案,s2=[01.5.5010]作为第二图案,s3=[00.5.5.501],s4=[100.5.510],s5=[0100.511],s6=[10.50011]和s7=[110.5001]可能是有益的。

在多路复用傅立叶重叠关联成像系统基于图7中所示的七个led图案捕获7个较低分辨率图像的第一图像组i=[i1,i2,...,i7]之后,系统可生成像在每个图像采集期间只有一个led接通一样的第二组较低分辨率图像。在此,i是在其列之一中包含每个被检测的图像的矩阵。对于二维图像的情况,i的每列包含每个二维图像变为一维向量的重整的版本。

图8是根据实施例的通过具有七个led的一维led阵列814照明的示意图801,其中在每个图像采集期间只有一个led接通。在该图示的示例中,led图案的序列801包括在每次采集时间顺序地照明阵列中的单个led的照明图案810、820、830、840、850、860、870。

在系统基于图7中所示的七个led图案捕获七个图像之后,图像可被线性组合以基于图8中所示的照明图案但以较低的噪声(对于相同的曝光时间来说)重新创建第二组图像。为了生成第二组较低分辨率图像,多路复用傅立叶重叠关联成像系统对第一组执行加权和运算。在一个示例中,系统通过首先定义与led阵列维度相关联的组合向量r来执行加权和运算。例如,对于具有七个led的一维led阵列,组合向量r=[111-11-1-1]/4。接下来,多路复用傅立叶重叠关联成像系统确定矩阵乘积l1=ir。l1是从led阵列中的第一led形成的我们所期望的图像。像只有第j个led接通一样形成的图像lj作为矩阵i和r的第j个循环置换之间的矩阵乘积给出。

led的s向量和向量r由各种方法定义。在一个示例中,可使用hadamard码来确定向量s和r二者。在图4中所示的led图案中,例如,使用hadamard码确定n=7的两个向量s和r。hadamard码的细节可在schechner,y.y.、nayar,s.k.和belhumeur,p.n.的“multiplexingforoptimallighting”ieeepami27,1339-1356(2007)中找到,其针对hadamard码在此通过引用并入。在存在非加性噪声的情况下,其他方法可优于hadamard码。其他led组(即,随机组合)也可能是好的候选者。多路复用照明的示例可在tian,l.、li,x.、ramchandran,k.、waller,l.的“multiplexedcodedilluminationforfourierptychographywithanledmicroscope”biomedicalopticsexpress5(7),第2376-2389(2014)中找到,其针对该示例在此通过引用并入。另一示例可以是使用随机照明序列,在这种情况下,对于每个图像,阵列内的大约n/2个led接通,但是这些n/2个led被随机均匀地选择。最后,在多路复用期间比阵列内的其他led更明亮地接通阵列中的一些led可能是有益的。如果我们让向量s内的条目表示从每个led发出的光功率的量,则在一些实现中将从中心led发出的光功率加权为小于从边缘处的led发出的光功率可能是有益的。在这种情况下,示例序列s1=[11.50.500]作为第一图案,s2=[01.5.5010]作为第二图案,s3=[00.5.5.501],s4=[100.5.510],s5=[0100.511],s6=[10.50011]以及s7=[110.5001]。在此,中心的3个led保持在小于在边处的led的光功率。

在许多方面中,led图案的序列中的每个led图案包括等于led阵列中led的总数的至少一半的led数量。在一个示例中,led图案中的led的数量是led阵列中的led的总数的一半。在另一示例中,led图案中的led的数量是多于led阵列中的led的总数的一半。在另一示例中,led图案中的led的数量多于led阵列中的led总数的55%。在另一示例中,led图案中的led的数量多于led阵列中的led总数的60%。在另一示例中,led图案的序列中的每个led图案中的led的数量至少是led阵列中的led的总数的一半。在另一示例中,led图案的序列中的每个led图案中的led的数量在led阵列中的led总数的50%至70%的范围内。

通常,led图案的序列中的每个led图案是被照明的led的唯一形成。在图像采集期间,每个led图案在曝光时间期间被照明,同时光检测器接收光子,以采集较低分辨率图像。led图案可基于向量的某些置换。在其他情况下,led图案可以是led的随机组合。在这种情况下,例如,led图案可以基于随机数生成输出。

b.可调整的处理时间和/或snr

在某些方面中,多路复用傅立叶重叠关联成像系统可以被调整为以低于指定的处理时间和/或高于指定的最小snr进行操作。在一些情况下,系统是基于从例如多路复用傅立叶重叠关联成像系统的操作者接收的最大处理时间和/或最小snr水平的调整输入来进行调整的。虽然操作者通常是指一个或更多个人,但操作者也可以是接收高分辨率数据并提供调整输入的程序。在一种情况下,调整输入由操作者通过诸如例如外部接口的接口被输入。通常,处理时间是指用于在周期期间采集较低分辨率图像的时间的持续时间。

为了确定led图案,系统可首先确定led图案中需要的led的数量以至少生成最小snr。例如,处理器可基于固定曝光时间的最小snr值来确定在每个led图案中要使用的led的数量。如上所讨论的,当使用方形led阵列时,当照明方形led阵列中的n个led时,图像的snr将被改进sqrt(n)/2倍。使用通过阵列中的单个led(snr0)进行照明的已知snr值,处理器可确定每个图案中要使用的led数量为:snr0/sqrt(n)/2。然后,处理器可基于以下公式确定曝光时间:(处理时间)/(采集的图像的数量n)。一旦选择了led的数量,就可基于各种技术来选择led图案。在一个示例中,led图案可以是随机生成的唯一图案。在另一示例中,图案可以基于各种向量的置换。在一种情况下,led图案可基于hadamard码的置换。

可在不背离本公开的范围的情况下,对多路复用傅立叶重叠关联成像系统做出修改、添加或省略。另外,多路复用傅立叶重叠关联成像系统的部件可被集成或分离。

ii.多路复用傅立叶重叠关联成像方法

图9是根据实施例的多路复用傅立叶重叠关联成像方法的流程图。在910,多路复用傅立叶重叠关联成像方法开始其第一循环。在每个循环期间所采集的较低分辨率图像的数量n等于阵列中的照明的led的数量。在对该方法的描述中,使用方形阵列并且照明的led的数量为:n=nxn。

在操作920,确定led图案的序列和曝光时间,以用在该循环的一个或更多个操作中。在一个示例中,使用与先前的循环相同的序列和/或曝光时间。

在一些方面中,处理器可以确定在循环中要使用的图案中的led的数量。在一个方面中,每个led图案具有高达阵列中的一半的led。在另一方面中,每个led图案具有高达阵列中的四分之一的led。在又一个方面中,处理器可基于固定曝光时间的特定snr值来确定在每个led图案中要使用的led的数量。也就是说,在使用方形led阵列时,当照明方形led阵列中的n个led时,图像的snr将被改进sqrt(n)/2倍。使用通过单个led(snr0)进行照明的已知snr值,处理器可确定在每个图案中要使用的led数量为:snr0/sqrt(n)/2。

在一些方面中,该过程可随后基于最大处理时间和固定的snr来确定要使用的曝光时间。处理器可基于以下公式确定曝光时间:(处理时间)/(采集的图像的数量n)。

在一些情况下,处理时间和/或snr的特定值可被设置为来自操作者或其他实体的可调整的输入。例如,处理时间的值可以是由操作者输入的最大处理时间和/或snr的值可以是由操作者输入的最小snr。

一旦选择了led的数量,就可基于各种技术来选择led图案。在一个示例中,led图案可以是随机生成的唯一图案。在另一示例中,图案可以基于各种向量的置换。在一种情况下,led图案可基于hadamard码的置换。

一旦在920确定了led图案的序列和曝光时间,则该方法在930通过led图案的序列照明感兴趣的样本。处理器将控制信号发送给光检测器和led阵列二者,以使图像采集与通过led图案的照明同步。在该图像采集过程期间,第一组n个较低分辨率强度测量结果i=[i1,i2,..,in]在光检测器处被采集(940)。关于图1-3所描述的任何图像收集组件可用于采样第一组低分辨率图像。

在950,该方法生成第二组较低分辨率强度测量结果。第二组图像类似于在每次采集时间单个led接通时所捕获的图像。为了生成第二组,对第一组进行加权和运算。在一个示例中,系统通过首先定义与led阵列维度相关联的向量ri来执行加权和运算。接下来,多路复用傅立叶重叠关联成像系统确定矩阵乘积li=iri。l1是从led阵列中的第一led形成的我们所期望的图像。像只有第j个led接通一样形成的图像lj作为在其列中包含每个检测的图像的图像矩阵i和我们将其标记为组合向量ri的r的第i个循环置换之间的矩阵给出。对于显示2d图案以在2d检测器上形成图像的2dled阵列,加权和以类似的方式工作,但首先需要通过将每个nxn组合矩阵(连接到每个2dled图案,就像1d组合向量ri连接到它们相关联的1dled图案si一样)重整为1xn2向量,并将每个mxm矩阵(表示2d图像)重整为1xm2向量ii,来将2d组合图案和2d图像转变为向量。这就像上面一样将每个2d组合图案表示为1d向量ri,并且就像在1d图案和图像的情况一样,允许形成在其列中的每个中包含每个重整的图像ii的图像数据矩阵i。

在960,该方法通过迭代地组合傅立叶空间中的第二组较低分辨率强度测量结果来重建高分辨率图像。重建过程中的两个操作示例在下个章节中参照图9和图10进行详细讨论。虽然未示出,但在960之后,该方法可具有可选的显示操作,其向显示器提供诸如例如高分辨率图像的输出。

在970,该方法确定是否有另一循环。如果有另一循环(是),则该方法返回到920。如果没有另一循环(否),则该方法结束(980)。

iii.重建过程

重建过程的某些细节可在zheng,guoan、horstmeyer,roarke和yang,changhuei的“wide-field,high-resolutionfourierptychographicmicroscopy”naturephotonics,第7卷,第739-745页(2013)以及题为“fourierptychographicimagingsystems,devices,andmethods”并提交于2013年10月28日的美国专利申请14/065,280中找到。在重建操作期间,傅立叶域中的重叠区域用较低分辨率强度的图像数据来迭代地更新,以生成更高分辨率图像。

图10是根据实施例的重建过程的流程图。在该过程中,样本的高分辨率图像可通过在图9中的操作950所生成的第二组n个低分辨率强度分布测量结果ilm(kix,kyi)(由它们的照明波矢量kxi,kyi索引,其中i=1,2,….n)进行计算重建。

在1501,高分辨率图像:在空间域中被初始化,并且傅立叶变换应用到初始值,以获得初始化的傅立叶变换的图像初始化的高分辨率的解可以是初始猜测。该初始猜测可基于样本位于离焦平面z=z0的假设来决定。在一些情况下,初始猜测可被确定为(对于强度和相位二者的)随机复矩阵。在其它情况下,可将初始猜测确定为具有随机相位的低分辨率强度测量结果的内插。初始猜测的示例是以及从样本区的任何低分辨率图像中内插的ih。初始猜测的另一示例是恒定值。初始猜测的傅立叶变换可以是在傅立叶域中的广谱。

在1510、1520、1530、1540、1550、1560和1570的迭代操作中,样本的高分辨率图像通过使用多路复用傅立叶重叠关联成像系统的处理器来在傅立叶空间中迭代地组合低分辨率强度测量结果来进行计算重建。如果样本离焦量为z0,则可执行可选的操作1520和1540。

在1510,处理器在傅立叶域中执行对高分辨率图像的低通过滤,以针对具有波矢量(kxi,kyi)的特定平面波入射角(θxi,θyi)生成低分辨率图像高分辨率图像的傅立叶变换是并且特定的平面波入射角的低分辨率图像的傅立叶变换是在傅立叶域中,重建过程将低通区域从高分辨率图像的频谱中滤除。在用物镜形式的光学元件的情况下,该区域是具有半径为na*k0的圆形孔径,其中k0等于由物镜的相干传递函数给定的2π/λ(在真空中的波数)。在傅立叶空间中,该区域的位置对应于入射角。对于具有波矢量(kxi,kyi)的倾斜平面波入射,该区域以的傅立叶域中的位置(-kxi,-kyi)为中心。

在可选操作1520,使用处理器,低分辨率图像在傅立叶域中被传播到在光学元件的z=0的对焦平面,以确定在聚焦位置处的低分辨率图像:在一个实施例中,操作1520可通过对低分辨率图像进行傅立叶变换、乘以傅立叶域中的相位因子以及傅立叶逆变换来执行以获得在另一实施例中,操作1520可通过用散焦的点扩散函数来卷积低分辨率图像的数学上等效的操作来执行。在另一实施例中,操作1520可通过在执行傅立叶逆变换来产生之前使乘以傅立叶域中的相位因子,来作为操作1510的可选子操作来执行。如果样本位于光学元件的对焦平面(z=0)上,则不需要包括可选的操作1520。

在操作1530,使用处理器,在对焦平面处的低分辨率图像的计算的振幅分量用由多路复用傅立叶重叠关联成像系统的光检测器测量的低分辨率强度测量结果的平方根替代。这就形成了更新的低分辨率的目标

在可选操作1540,使用处理器,更新的低分辨率图像可被反向传播到样本平面(z=z0)以确定如果样本位于光学元件的对焦平面上,也就是其中z0=0的话,则不需要包括可选操作1540。在一个实施例中,可通过采用更新的低分辨率图像的傅立叶变换和在傅立叶空间中乘以相位因子,然后对其进行傅立叶逆变换,来执行操作1540。在另一实施例中,可通过用散焦的点扩散函数来卷积更新的低分辨率图像来执行操作1540。在另一实施例中,操作1540可通过在对更新的目标图像执行傅立叶变换后乘以相位因子来作为操作1550的子操作执行。

在操作1550,使用处理器,傅立叶变换应用于被传播到样本平面的更新的目标图像:且该数据在对应于入射波矢量(kxi,kyi)的傅立叶空间中的高分辨率解的相应区域中被更新。

在操作1560,处理器确定操作1510到1560是否完成了第二组图像中的所有图像。如果操作1510到1560尚未完成所有图像,则对下个图像重复操作1510到1560。

在操作1570,处理器确定高分辨率解是否收敛(操作1570)。例如,处理器可确定高分辨率解是否可能已经收敛到自洽解。在一种情况下,处理器将先前迭代或初始猜测的先前高分辨率解与当前的高分辨率解进行比较,并且如果差值小于某一值,则解可能已经收敛到自洽解。如果处理器确定解还未收敛,则重复操作1510到1570。在一个实施例中,操作1510到1560被重复一次。在其它实施例中,操作1510到1560被重复两次或更多次。如果该解已经收敛,则处理器将傅立叶空间中的收敛的解变换到空间域,以恢复高分辨率图像如果处理器确定解在操作1570已收敛,则过程返回到图9中的操作970。

图11是根据实施例的重建过程的流程图。在该过程中,样本的高分率图像可通过在图9中的操作950所生成的第二组n个低分辨率强度分布测量结果ilm(kix,kyi)(由它们的照明波矢量kxi,kyi索引,其中i=1,2,…,n)进行计算重建。

在该示例中,过程包括数字波前校正。该过程将数字波前补偿并入在两个乘法操作1605和1645中。具体地,操作1605通过由处理器乘以光瞳函数:来对实际样本轮廓和捕获的强度数据(其包括像差)之间的连接进行建模。操作1645反转这样的连接,以实现无像差重建的图像。样本散焦实质上等同于将散焦相位因子引入到光瞳平面(即,散焦像差):

其中,kx和ky是光瞳平面处的波数,z0为散焦距离,以及na是光学元件的数值孔径。

在1601,高分辨率图像:在空间域中被初始化,并且傅立叶变换应用到初始值,以获得初始化的傅立叶变换的图像初始化的高分辨率的解可以是初始猜测。该初始猜测可基于样本位于离焦平面z=z0的假设来决定。在一些情况下,初始猜测可以被确定为(对于强度和相位二者的)随机复矩阵。在其它情况下,可将初始猜测确定为具有随机相位的低分辨率强度测量结果的内插。初始猜测的示例是以及从样本区的任何低分辨率图像内插的ih。初始猜测的另一个示例是恒定值。初始猜测的傅立叶变换可以是在傅立叶域中的广谱。

在1605、1610、1630、1645、1650、1660和1670的迭代操作中,样本的高分辨率图像通过使用多路复用傅立叶重叠关联成像系统的处理器来在傅立叶空间中迭代组合低分辨率强度测量结果来进行计算重建。

在操作1605,处理器乘以傅立叶域中的相位因子

在操作1610,处理器在傅立叶域中执行对高分辨率图像的低通过滤,以针对具有波矢量(kxi,kyi)的特定平面波入射角(θxi,θyi)生成低分辨率图像高分辨率图像的傅立叶变换是并且特定的平面波入射角的低分辨率图像的傅立叶变换是在傅立叶域中,过程将低通区域从高分辨率图像的频谱中滤除。在用物镜形式的光学元件的情况下,该区域是具有半径为na*k0的圆形孔径,其中k0等于由物镜的相干传递函数给定的2π/λ(在真空中的波数)。在傅立叶空间中,该区域的位置对应于入射角。对于具有波矢量(kxi,kyi)的倾斜平面波入射,该区域以的傅立叶域中的位置(-kxi,-kyi)为中心。

在操作1630,使用处理器,在对焦平面上的低分辨率图像的计算的振幅分量用由多路复用傅立叶重叠关联成像系统的光检测器测量的低分辨率强度测量结果的平方根替代。这就形成了更新的低分辨率的目标:

在操作1645,处理器乘以傅立叶域中的逆相位因子

在操作1650,使用处理器,傅立叶变换应用于被传播到样本平面的更新的目标图像:且该数据在对应于入射波矢量(kxi,kyi)的傅立叶空间中的高分辨率解的相应区域中被更新。

在操作1660,处理器确定操作1605到1650是否已经完成第二组中的所有图像。如果操作1605到1650还未完成所有图像,则对第二组图像中的下个图像重复操作1605到1650。

在操作1670,处理器确定高分辨率解是否收敛。例如,处理器可确定高分辨率解是否可能已经收敛到自洽解。在一种情况下,处理器将先前迭代或初始猜测的先前高分辨率解与当前的高分辨率解进行比较,并且如果差值小于某一值,则解可能已经收敛到自洽解。如果处理器确定解还未收敛,则重复操作1605到1670。在一个实施例中,操作1605到1670被重复一次。在其它实施例中,操作1605到1670被重复两次或更多次。如果该解已经收敛,则处理器将傅立叶空间中的收敛的解变换到空间域,以恢复高分辨率图像如果处理器确定解在操作1670已收敛,则过程返回到图9中的操作970。

在某些方面中,针对第二组中的每个图像进行迭代更新的傅立叶空间中的相邻区域彼此重叠。在更新的重叠区域之间的重叠区中,多路复用傅立叶重叠关联成像系统具有在相同的傅立叶空间上的多个采样。在一个实施例中,相邻区域之间的重叠区可以具有在相邻区域中的一个的面积的2%至99.5%之间的面积。在另一实施例中,相邻区域之间的重叠区可以具有在相邻区域中的一个的面积的65%至75%之间的面积。在另一实施例中,相邻区域之间的重叠区可以具有在相邻区域中的一个的面积的约65%的面积。

iv.子系统

图12是根据实施例的可存在于某些多路复用傅立叶重叠关联成像系统中的一个或更多个子系统的框图。

先前在附图中所描述的各个部件可使用图12中的一个或更多个子系统来操作,以促进本文中所描述的功能。任何在图中的部件可以使用任何合适数量的子系统,以促进本文中所描述的功能。这样的子系统和/或部件的示例被示于图12中。在图12中所示的子系统经由系统总线2425互连。示出了附加子系统,诸如打印机2430、键盘2432、固定磁盘2434(或包括计算机可读介质的其它存储器)、耦合到显示适配器2438的显示器2556、以及其它设备。耦合到i/o控制器2440的外围设备和输入/输出(i/o)设备可通过现有技术中已知的任何数量的装置(诸如,串行端口2442)来连接。例如,串行端口2442或外部接口2444可用于将计算设备的部件连接到广域网(诸如,互联网)、鼠标输入设备或扫描仪。经由系统总线2425的互连允许处理器2552与每个子系统进行通信,并控制来自系统存储器2446或固定磁盘2434的指令的执行,以及在子系统之间的信息交换。系统存储器2446和/或固定磁盘2434在一些情况下可包括crm146。这些元件的任何元件可以存在于先前所描述的装置中。

在一些实施例中,多路复用傅立叶重叠关联成像系统的输出设备诸如打印机2430或显示器2556,可输出各种形式的数据。例如,多路复用傅立叶重叠关联成像系统可输出2d彩色/单色图像(强度和/或相位)、与这些图像相关联的数据、或者与由多路复用傅立叶重叠关联成像系统所执行的分析相关联的其它数据。

可以对上述实施例中的任何实施例做出修改、添加或省略,而不脱离本公开的范围。上述实施例中的任何实施例可以包括更多、更少或其它特征,而不脱离本公开的范围。此外,所描述的特征的操作可以以任何合适的顺序来执行,而不脱离本公开的范围。

应当理解的是,如上所述的本发明可以按照模块化或集成的方式使用计算机软件来以控制逻辑的形式实现。基于本文所提供的公开和教导,本领域的普通技术人员将知道并且理解使用硬件以及硬件和软件的组合来实现本发明的其它方式和/或方法。

任何在本申请中所描述的软件部件或功能可以被实现为要由处理器使用任何合适的计算机语言,诸如,例如,使用,例如,传统的或面向对象的技术的java、c++或perl,来执行的软件代码。软件代码可以被存储为一系列指令,或在crm上的命令,诸如随机存取存储器(ram)、只读存储器(rom)、诸如硬盘驱动器或软盘的磁性介质或者诸如cd-rom的光学介质。任何这样的crm可以驻留在单个计算设备之上或之内,并且可以存在于在系统或网络内的不同计算装置之上或之内。

尽管前述所公开的实施例已经被相当详细地进行了描述以便于理解,但所描述的实施例应当被认为是说明性的而不是限制性的。对于本领域的普通技术人员将明显的是,某些变化和修改可以在所附权利要求的范围内实践。

来自任何实施例的一个或更多个特征可以与任何其它实施例的一个或更多个特征进行组合,而不脱离本公开的范围。此外,可以对任何实施例做出修改、添加或省略,而不脱离本公开的范围。任何实施例的部件可以根据特定需要进行集成或分离,而不脱离本公开的范围。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1