在被观察物体静止时的超光谱成像的制作方法

文档序号:18399033发布日期:2019-08-09 23:41阅读:160来源:国知局
在被观察物体静止时的超光谱成像的制作方法

本专利申请要求2017年12月27日提交的标题为“在被观察物体静止时的超光谱成像(hyper-spectralimagingwhenobservedobjectisstill)”的共同待决美国专利申请序列号15/855,869的权益,所述申请要求2016年12月27日提交的标题为“在被观察物体静止时的超光谱成像(hyper-spectralimagingwhenobservedobjectisstill)”的美国临时专利申请序列号62/439,396的权益和优先权。这两份申请(15/855,869和62/439,388)特此通过援引以其全文并入本文。



背景技术:

多光谱成像允许成像系统捕获来自整个电磁光谱的图像信息。许多此类系统通过得到顺序图像并在每个相继的图像之间将各种滤波器定位在来源与成像传感器之间进行操作。一般来说,这些成像系统大且沉重、计算密集、复杂、在得到相继的图像时相对较慢、或者上述全部。

成像系统的复杂性和相继的图像之间的固有延迟在尝试捕获超光谱图像时产生额外考虑,超光谱图像是允许捕获更多感兴趣光谱带的多光谱图像类型。

附图说明

参考附图阐述详细描述。在附图中,附图标记中最左面的数字指示首次出现附图标记的图。不同图中使用相同附图标记指示相似或相同项。

图1a至图1d示出了各种多光谱成像技术。

图2示出了区域成像装置的透视图,示出光学滤波器相对于成像传感器的位置取向。

图3示出了区域成像装置和可通过致动器相对于成像传感器移动的光学滤波器的平面图。

图4示出了线性滤波器相对于区域成像装置的移动。

图5示出了由区域成像装置对场景进行成像和在捕获场景的顺序图像时线性滤波器的移动。

图6是示出捕获超光谱图像的过程的框图。

图7示出了借助顺序图像通过多光谱光学滤波器的不同部分捕获的场景的点。

图8是示例成像系统的框图。

具体实施方式

概述

实施例包括一种成像系统,所述成像系统具有成像传感器、连续可变光学滤波器、致动器,并且采用处理单元(例如,处理器或其他逻辑单元)中的各种计算处理指令以通过形成多维数据立方体来捕获和处理场景的多光谱和超光谱图像。

一些实施例包括具有在λ最小至λ最大范围内的中心波长的可变光学带通滤波器、区域成像装置、线性致动器、以及一个或多个处理单元,所述一个或多个处理单元的任务是图像读出、控制、处理、压缩和存储。

在一些实现方式中,区域成像装置包括线性致动器,所述线性致动器使可变光学带通滤波器移动经过区域成像装置。在滤波器移动经过区域成像装置时,捕获顺序图像,使得通过光学滤波器以一个或多个期望光谱带捕获场景的每个感兴趣区域。

基于光学滤波器和期望的输出而确定顺序图像的定时,以导致多维数据立方体,其中空间坐标的n元组导致具有x、y和λ值的像素,其中x和y表示场景的两个空间维度并且λ表示包括波长范围的光谱维度。

确定场景的感兴趣区域,以在滤波器相对于区域成像装置(aid)移动时实现足够次数的曝光。通过利用aid借助光学滤波器进行相继的曝光来捕获多次曝光。在滤波器移动经过aid时,在从场景中的各种点辐射或反射的光在到达aid的成像传感器之前从光学滤波器的一个光谱带进入另一光谱带时捕获场景中的各种点。在一些实施例中,可变光学带通滤波器定位在aid与感兴趣场景之间的光路中,并且在滤波器相对于aid移动时,捕获相继的图像,其中由aid通过可变光学带通滤波器的各种部分捕获场景的具体点。每个相继的图像中的曝光允许以每个光谱带的不同中心波长捕获场景的每个部分,以产生在场景上具有光谱带的不同分布的相继的图像。可以将曝光切片并拼接在一起以形成场景的多光谱或超光谱图像。在相继的图像期间通过光学滤波器的期望光谱带或所有带(根据具体情况)来曝光图像的每个片段。

如本文使用,多光谱光学滤波器(或只是滤波器)是指允许各种波长的光穿过其部分的光学滤波器。例如,光学带通滤波器可以含有滤波器的被配置成选择性地透射电磁光谱的一部分而同时使其他波长衰减的一个或多个区域。所述一个或多个区域可以是离散的,也就是说,带通滤波器可以具有滤波器的允许窄带宽上的高透射而同时使不想要的光衰减的条纹区域,以最大化以所需波长进行的图像捕获。可以简单地通过移动滤波器相对于光源的位置来调整带通滤波器的光谱响应,或者整个aid可以相对于光源移动。连续可变光学带通滤波器可以是能够与本文描述的实施例一起使用的带通滤波器的另一实例,其中具有高透射的光谱带宽范围在滤波器上连续地变化。光学滤波器的其他实例可以与本文描述的实施例一起使用,并且在本文中设想为提供所描述的特征和益处。例如,陷波滤波器可以与本文描述的系统和方法一起实施,其中滤波器使窄带内的波长衰减而同时允许窄带外的波长通过。

本文所描述的成像系统和设备的一些实施例可以用来得到来自卫星的地球的图像,诸如地球同步卫星轨道(geo)中的卫星。在一些实施例中,成像系统可以包括望远镜,并且aid可以置于望远镜的焦平面处。多光谱光学滤波器可以直接附接到aid,并且因此也置于望远镜的焦平面附近。

本文所描述的过程、系统和装置可以以许多方式来实施。下文参考附图提供示例实现方式。

光谱成像的目标是测量用于场景的图像中的每个像素的光谱。如本文使用,场景的图像中的像素是指由表示场景内的对应位置的成像装置捕获的光。也就是说,在从场景内的每个区域辐射或反射的光被aid内的可寻址元件捕获时,光将穿过带通滤波器的一部分并且将捕获用于场景的所述特定区域的光谱。当在滤波器相对于aid移动时捕获从场景的特定区域辐射或反射的光时,光将穿过带通滤波器的不同部分,并且可以捕获用于场景的所述特定区域的不同光谱。

在这个意义上,在物体的图像平面中测量由物体辐射或反射的光的强度。得到的测量值被表示为空间坐标和光谱幅度的一组n元组。这些n元组进行组合以形成用于处理和分析的多维(x,y,λ)数据立方体,其中x和y表示场景的两个空间维度,并且λ表示包括波长范围的光谱维度。从数据处理的角度来看,光谱成像可以由数据立方体的维度表征。

根据一些实施例,一种多光谱成像设备包括区域成像装置,所述区域成像装置具有多个像素传感器。多光谱滤波器设置在区域成像装置的光路内,并且致动器被配置成使多光谱滤波器相对于区域成像装置移动。成像设备进一步包括控制模块,所述控制模块确定要由区域成像装置捕获的场景的空间感兴趣区域。控制模块进一步确定场景的感兴趣光谱。它至少部分地基于多光谱滤波器和感兴趣光谱来确定用于相继的图像捕获的采样距离,并且指示区域成像装置在采样距离进行一次或多次曝光。成像设备进一步包括成像模块,所述成像模块被配置成至少基于一次或多次曝光而形成场景的图像。

成像设备可以位于卫星上,使得区域成像装置、控制模块和成像模块在所述卫星上。卫星可以定位在地球同步卫星轨道中,并且可以校正场景相对于成像设备的任何相对运动,诸如通过执行一种或多种图像稳定算法来实现。

在一些情况下,多光谱滤波器是连续可变光学滤波器,诸如超光谱滤波器。在其他情况下,多光谱滤波器是光学带通滤波器或陷波滤波器。

成像设备可以创建超光谱图像,并且超光谱图像可以被存储、处理并传输到接收装置,诸如远程位置。可以确定采样距离,使得以感兴趣光谱在一次或多次曝光中捕获场景的空间感兴趣区域。

在一些实施例中,成像模块被配置成在一次或多次曝光上为每个像素创建插值曲线,并且还可以通过以感兴趣光谱评估用于每个像素的所述插值曲线来构建单色图像。

在一些实施例中,一种成像设备包括:成像装置,所述成像装置具有多个像素传感器;以及光学滤波器,所述光学滤波器设置在成像装置的光路内。光学滤波器可以至少具有第一光谱带和第二光谱带。也就是说,光学滤波器可以具有允许(或衰减)某一光谱的各种部分。致动器可以附接到光学滤波器并且被配置成使光学滤波器相对于多个像素传感器移动。

成像设备可以包括一个或多个处理器和含有指令的一个或多个存储器,所述指令使得处理器确定场景的空间感兴趣区域并且确定感兴趣光谱。这可以是从远程位置发送到成像设备的指令的结果,或者可以基于由一个或多个处理器执行的规则。

处理器进一步激活致动器以使光学滤波器移动,并且指示成像装置在从感兴趣区域反射的光穿过第二光谱带时进行对场景的至少一次曝光。然后可以基于所述至少一次曝光而生成图像。

在一些情况下,光学滤波器沿着单个方向带通变化,并且致动器被配置成使光学滤波器在所述单个方向上移动经过多个像素传感器。在一些情况下,光学滤波器是连续可变光学带通滤波器。多个像素传感器可以被安排成行和列的阵列,使得对于致动器的给定位置,像素传感器的列与连续可变光学带通滤波器的公共光谱相关联。

指令可以使得一个或多个处理器确定用于相继的曝光的采样距离并且使得成像装置捕获第一次曝光和第二次曝光,所述第二次曝光与所述第一次曝光隔开所述采样距离。

第一次曝光可以通过第一光谱带捕获空间感兴趣区域,并且第二次曝光可以通过第二光谱带捕获空间感兴趣区域。

在一些实施例中,可以分割第一次曝光以创建第一次曝光的具有感兴趣光谱带的第一部分,可以分割第二次曝光以创建第二次曝光的具有感兴趣光谱带的第二部分,并且可以将第一部分和第二部分拼接在一起以创建具有感兴趣光谱带的图像。

具有感兴趣光谱带的图像可以是第一波长的第一图像,并且指令可以使得处理器以第二光谱带创建第二图像并且创建含有第一图像和第二图像的超光谱立方体。

根据一些实施例,一种操作超光谱成像系统的方法包括提供具有多光谱光学滤波器的区域成像装置和用于使多光谱光学滤波器移动的致动器。所述方法可以至少部分地基于多光谱光学滤波器和感兴趣光谱带而确定采样距离。所述方法可以包括指示区域成像装置进行第一次曝光、使多光谱光学滤波器移动等于采样距离的距离、并且进行第二次曝光。所述方法还可以至少基于第一次曝光和第二次曝光而生成场景的图像。

生成场景的图像可以包括:确定感兴趣光谱;分割第一次曝光以创建具有感兴趣光谱的第一图像切片;分割第二次曝光以创建具有感兴趣光谱的第二图像切片;以及将第一图像切片和第二图像切片拼接在一起以形成具有感兴趣光谱的场景的图像。

在一些情况下,所述方法包括生成场景的具有第二感兴趣光谱的第二图像,以及创建多光谱立方体,所述多光谱立方体包括场景的具有感兴趣光谱的图像和场景的具有第二感兴趣光谱的第二图像。

在一些情况下,第一次曝光和第二次曝光可以输入到图像分析算法,所述图像分析算法可以基于第一次曝光和第二次曝光而输出数值。数值可以存储和/或传输到远程位置。

成像系统可以安装在静止装置上,并且所述方法可以进一步包括压缩图像并且将图像传输到接收装置。在一些实施例中,创建数值包括针对构成第一次曝光或第二次曝光或这两者的至少一部分的多个像素中的每一者来创建一个或多个数值。在一些情况下,图像分析算法的结果可以发送到远程位置,并且可以丢弃图像。

如图1a所示,多维数据立方体可以包括具有用于每个像素的x和y值的多个平面,并且每个平面可以包括光谱维度。结果是许多单色图像。单色图像是数据立方体的光谱维度(λ)表示单个光谱带中的强度的测量值的一种图像,或者在具有光谱带内的公共中心波长的相对窄光谱带内。输出对应于二维数据立方体,其中整个场景由单个波长或相对窄波长映射。

在rgb图像中,数据立方体具有用于两个空间维度(x,y)的值和对应于红、绿和蓝的恰好三个光谱带。在多光谱成像中,对应的数据立方体包括高达数十个光谱带(其通常相对宽),从而通常覆盖不同或甚至不相交的光谱范围。进而,超光谱成像可以被表征为在宽光谱范围内测量物体的辐射,并且可以包括连续光谱范围。它在(x,y,λ)空间上的表示对应于在光谱维度上具有数十、数百或甚至数千个相对小带宽的光谱带的数据立方体。

对光谱成像的表征可以考虑到成像系统的物理和光学特征,诸如空间和光谱分辨率、光谱范围和带宽、以及传感器特性、以及其他特征。然而,它还与适当地表征成像系统进行测量和填充数据立方体的技术相关。

图1a至图1d示出了基于各种多光谱成像技术的多维数据立方体。格鲁哲(grusche)、萨沙(sascha)。基本狭缝分光镜通过超光谱立方体的对角切片来暴露三维场景(basicslitspectroscoperevealsthree-dimensionalscenesthroughdiagonalslicesofhyperspectralcubes),应用化学,osa,2014年6月。于2014年6月9日检索。用于光谱成像的技术可以大致分类成以下4组:快照超光谱技术、光谱扫描技术、空间扫描技术、以及空间-光谱扫描技术。

图1a示出了来源于快照成像的代表数据立方体,其中单次捕获含有所有的空间和光谱(x,y,λ)数据。可以捕获单次快照以包括光谱数据,具体取决于插入到光路中的滤波器。基于快照成像的系统返回完整的超光谱(x,y,λ)立方体作为单个传感器输出。这些装置具有不需要扫描的优点。然而,这些系统具有表现出高计算努力和制造成本的缺点。

如图1b所示,光谱扫描的输出导致每个捕获的帧表示场景的单色空间(x,y)图。这些装置通常基于滤波器,所述滤波器需要调谐以便光谱扫描场景。对单独滤波器的选择必须通过电手段或机械手段完成,在这种情况下,需要移动部分以将滤波器物理地插入或放回到光路中并且它们不能进行连续光谱扫描。这种类型的成像系统需要将多个滤波器顺序地插入到光路中,并且对场景的后续曝光可以用感兴趣光谱数据来填充多维立方体。

图1c示出了空间扫描的结果,其中每个获得的帧对应于完整狭缝光谱(x,λ)。也就是说,每个获得的帧包括在x方向上的单行像素以及光谱数据λ。扫描装置的实例是推扫式和点扫描光谱仪。这些系统具有按行分析图像的缺点,并且在点扫描仪的情况下需要移动部分。

图1d示出了空间-光谱扫描系统的输出,其中每个2-d传感器输出对应于数据立方体的倾斜切片,从而表示场景的空间(x,y)图,其中光谱信息在一个维度上编码。这些装置具有允许使用移动平台或固定平台的优点。然而,这些系统通常难以实现,从而表现出诸如高制造成本和复杂机械组件的缺点。

图2示出了并入光学滤波器202的区域成像装置200的透视图,所述光学滤波器具有可变滤波器带以与区域成像装置200一起用来创建超光谱图像。光学滤波器202的实施例可以具有离散滤波器带,诸如在条纹滤波器的情况下,并且根据需要,滤波器带可以在任何广度或宽度中。滤波器带可以在光学滤波器202上连续地变化,使得不存在离散带。光学滤波器202可以具有任何数量的光谱带,从而允许多光谱成像和超光谱成像两者。框架204将光学滤波器202保持在适当位置并且与致动器206(其可以是线性致动器)协作,以使光学滤波器202移动经过成像传感器208。

光学滤波器202被选择为允许透射电磁光谱的期望部分,并且实施例不限于任何特定的一个或多个光谱带。光学滤波器202可以包括例如紫外光、蓝光、绿光、红光和红外光带、以及另一未经滤波的覆盖带(即,全色带)。选择滤波器带的数量以及光学滤波器的光谱透射以获得感兴趣波长的任何组合。光学滤波器202可以是吸收滤波器、干涉滤波器、或其他类型的滤波器。

在一些实施例中,光学滤波器202是线性可变光学带通滤波器,其中滤波器的光谱性质沿着滤波器的一个维度连续地变化。因此,可以通过相对于成像传感器移动滤波器或物体来调整所捕获的物体的图像的中心波长。

成像传感器208的活动表面包括以二维阵列安排的多个像素传感器,诸如光吸收检测器。成像传感器208可以是任何各种类型,诸如,例如电荷耦合装置(ccd)、互补金属氧化物半导体(cmos)传感器、或其他合适的架构。

光学滤波器202可以由可变带通区域构成,其中在λ最小至λ最大范围内的λ中心在成像传感器208的扩展内。可以使用光学滤波器202和成像传感器208的各种组合来实现相关和期望的功能。可以选择波长范围、波长变化形状(线性形状、立方体形状、连续形状等)和滤波器的光谱透射,以获得波长、带宽和感兴趣光谱分布的任何组合。

可以通过在光学滤波器202相对于成像传感器208的不同位置重复地对场景成像来完成超光谱图像。也就是说,在光学滤波器202通过致动器206相对于成像传感器208移动时,以预定步进(例如,光学滤波器202的移动期间的预定时刻)得到顺序图像,具体取决于致动器206的速度和期望波长成像数据以及光学滤波器202的特性。

图3示出了区域成像装置300。区域成像装置包括带通滤波器302、滤波器保持器304和致动器306。区域成像装置300进一步包括被配置成捕获场景的图像的成像传感器(未示出)。如所描述,带通滤波器302可以是提供选择性光谱带通以用于多光谱和/或超光谱成像的任何合适的光学带通滤波器。如图所示,带通滤波器302是线性连续带通滤波器。在一些情况下,带通滤波器可以是呈现离散光谱带的条纹滤波器。在其他情况下,带通滤波器可以是立方体滤波器,或者提供呈圆形安排的光谱带。无论如何,可以选择滤波器以实现任何期望的功能,并且可以选择波长范围、波长变化曲线(例如,线性曲线、三次曲线等)和滤波器的光谱透射以获得感兴趣波长的任何组合。

带通滤波器302可以由连接到致动器306的滤波器保持器304保持。致动器306优选地被配置成使带通滤波器302在光谱变化方向上移动。如图所示,在光学滤波器302具有在z方向308上的变化光谱维度的情况下,致动器306使带通滤波器302在z方向308上移动。带通滤波器302可以定位在成像传感器的光路内,使得从要成像的场景反射或辐射的光在到达成像传感器之前通过带通滤波器302。

以此方式,所捕获的图像包括对场景的全光谱捕获,其中场景的各部分呈现不同的光谱带。也就是说,对于每个捕获的图像,光谱维度(λ)将在整个图像上变化、对应于带通滤波器302中的光谱变化。通过使带通滤波器302在后续图像之间移动,每个捕获的图像将呈现相同的空间维度,但对于捕获的图像的每个相应部分,将具有不同的光谱维度。

带通滤波器302可以通过任何合适的方法附接到滤波器保持器304。在一些情况下,通过摩擦、通过紧固件、夹具、粘合剂或在带通滤波器302上提供牢固保持的任何其他合适的紧固机构来保持滤波器。滤波器保持器304可以通过任何合适的机构固定地附接到致动器306。在一些情况下,滤波器保持器304可以与致动器306形成为整体件。在其他情况下,滤波器保持器304通过紧固件、焊接、粘合剂或其他紧固方法进行附接。在一些情况下,滤波器保持器应提供与致动器的坚固固定接合,以便提供带通滤波器302相对于成像传感器的准确且可重复的定位。在带通滤波器302被安排成具有圆形带通可变性的那些情况下,致动器可以是旋转致动器,诸如伺服马达或者用于使带通滤波器302相对于成像传感器旋转的一些其他合适的致动器。在带通滤波器302线性地变化的那些情况下,致动器306可以是线性致动器306,并且可以包括步进马达、无刷马达、齿轮传动马达、或被配置成提供线性致动的另一合适马达。在一些实例中,线性致动器是高分辨率致动器,所述高分辨率致动器提供小步进角度以允许光学滤波器302在成像传感器上的精确且可重复的定位。

为了确定最佳步进或采样距离,有必要考虑到滤波器的半峰全宽(fwhm)在λ最小与λ最大之间可以不同。为了获得完整的超光谱图像,应通过带通滤波器的每个期望光谱带捕获目标场景的每个像素,因此带通滤波器202经过成像传感器208的移动应是光学滤波器长度的至少两倍,如图4和图5所示。也就是说,在来自场景的各部分的光在到达aid的成像传感器之前穿过带通滤波器的期望光谱带时,aid200应捕获感兴趣场景的每个部分的顺序图像。

可以校准所述系统以优化其性能。校准在很大程度上取决于滤波器和成像传感器的物理特性以及它们之间的对准精度。一旦已经校准系统,它就可以进行操作以便在无需进一步重新校准的情况下进行超光谱成像。

在给定光学设置的情况下,对于致动器的给定位置,传感器上的每个像素对应于特定波长。也就是说,在给定致动器的已知位置的情况下,到达传感器上的每个像素的光将被光谱滤波到针对每个捕获的图像的特定波长。考虑到致动器以离散的步进移动,每个像素将测量固定的一组波长,具体取决于像素的位置和致动器的步进。为了针对给定的波长重建场景,对于每个像素,有必要知道针对致动器的每个位置测量的光谱带。当已知带宽时,这可以简化成识别每个致动器位置的中心波长(λ中心)。在线性可变滤波器的情况下,例如,校准采取等式1的形式:

λ中心=a*(z致动器+n像素*ps)+b等式1

其中λ中心表示传感器的特定列的中心波长,a是滤波器的每毫米波长变化,z致动器是致动器的位置,n像素是像素列的数量,ps是像素大小,并且b是表示滤波器与传感器之间的初始相对位置的偏移,这可以对应于由第一列像素测量到的波长,所述波长取决于机械组件和致动器的偏移设置。在多光谱光学滤波器并非线性可变的那些实施例中,仍可能通过实施适于特定波长分布的解决方案来进行校准。

例如,可能的校准可以由利用均匀且主要单色的照明得到图片集构成。在这个实例中,对于每个图像,知道λ中心、z致动器、n像素和ps。对于不同的照明波长,可以通过重复这个过程来计算滤波器参数(在这个实例中,滤波器的每毫米波长变化a和偏移b)。

当然,在使用非线性可变滤波器时,校准将不同。一旦已知滤波器参数并设定致动器步进,就可以自动地确定由每个像素测量到的波长组。

可以通过在滤波器的不同位置重复地对场景成像来创建超光谱图像。可以将图像切片以隔离出感兴趣光谱带,并且可以将得到的切片拼接在一起以创建场景的具有期望光谱维度的图像。

参考图4,滤波器400的大小和aid402的宽度变得重要以确保对整个场景捕获的图像包括整个感兴趣光谱带。在其初始配置中,滤波器fa404的第一边缘可以定位在aid402的第一边缘sb406附近。一旦致动器开始它对滤波器400的移动,就将在滤波器400移动期望的采样距离时捕获多个图像。在其最终配置下,滤波器400的第二边缘fb408可以在aid402的第二边缘sa410附近。

一旦捕获图像,就保存来自滤波器的每个带的信息。在场景看起来没有相对于aid移动的情况下,每个图像将对应于具有相同空间维度的相同场景,但其中光谱信息沿着滤波器运动方向移位,在图305的实例中,所述方向是z方向。可以一起处理多个图像以得到超光谱图像。例如,在期望创建场景的仅呈现特定光谱带的最终图像的情况下,期望的光谱带可以与场景的每个图像隔开并且然后拼接在一起以创建场景的仅具有期望光谱带的完整图像。

利用aid200进行远程感测,可以存在与捕获感兴趣图像并将其发送到最终目的地相关联的传输成本。例如,可以捕获图像并且由aid200执行任何后处理,并且可以将最终图像发送到最终目的地,诸如通过无线通信机制,诸如,例如卫星通信、激光通信、微波通信、或一些其他射频类型的无线通信能力。为了降低传输成本和存储每个图像所需的存储量(这些是卫星或者其他机载或移动平台中的重要考虑因素),可以利用aid200的选定感兴趣区域(roi)得到图像,而不是获得整个帧。

如图5所示,当带通滤波器安装在相对于成像传感器的已知位置(诸如通过致动器的已知位置)时,传感器上的每个像素对应于通过带通滤波器接收到的特定波长的光。如果感兴趣光谱带有限并且在捕获图像之前已知,则可以仅获得场景的与那些光谱带相关联的图像。这将返回场景的离散光谱信息,而不是整个连续光谱。对光谱带的选择允许aid收集感兴趣光谱数据,同时降低处理、传输和存储成本。

一旦选择了感兴趣光谱带,aid200就可以在正确的时刻捕获所需数量的图像以导致具有期望光谱数据的图像。当然,如果寻求全光谱,则aid200可以在滤波器移动经过整个成像传感器时捕获顺序图像。

在捕获场景时,可以得到若干图片并且可以保存来自滤波器的每个带的信息。可以一起处理连续图像,诸如通过拼接进行处理。在所有光谱带上对场景进行成像的情况下,可以一起处理连续图像以获得超光谱图片。在每个帧之间,滤波器将会移动,使得新光谱带将与场景的每个片段相关联。对这个运动的定时限定连续图像之间的位移(在本文中被称为采样距离),所述位移可能未必一致。

每次在滤波器相对于aid200的运动大约等于期望的采样距离时,得到图片。控制器可以指示aid200捕获图像,使得在正确的时刻和位置获得每个图片,如图5所示。

图5示出了用于捕获多光谱(或超光谱)图像的空间-时间图表。例如,为了捕获区域a502,以4个期望光谱带,以快照1504捕获初始帧。一旦已知致动器速度的步进和带通滤波器的特性,就可以确定采样距离506。一旦滤波器已经移动经过成像传感器采样距离506,就捕获快照#2508。如可以看出,快照#2508现在通过带通滤波器的不同带捕获区域a502,并且因此与快照#1504相比,捕获了区域a的不同波长。采样距离506在后续快照之间不需要保持恒定,而是可以基于每次捕获的期望光谱数据而确定。

如可以从图4和图5看出,为了捕获诸如a502的场景的整个光谱,滤波器的行进距离必须至少等于滤波器的长度。然而,为了捕获aid200的初始视野的整个光谱,场景的明显运动距离应等于滤波器的长度加成像传感器512的宽度的至少两倍,如图5中通过对区域a502和b510的捕获所示。

图6描绘了示出根据各种实施例的示例过程的流程图。这些过程的操作在单独的框中示出并参考这些框进行概述。这些过程被示出为逻辑流程图,其每个操作均可以表示能够在硬件、软件或其组合中实施的一组操作。在软件的背景下,所述操作表示存储在一个或多个计算机存储介质上的计算机可执行指令,所述指令在被一个或多个处理器执行时使得所述一个或多个处理器能够执行所述操作。通常,计算机可执行指令包括执行特定功能或实施特定抽象数据类型的例程、程序、对象、模块、部件、数据结构等。在硬件的背景下,所述操作可以在诸如专用集成电路(asic)的集成电路中、在诸如现场可编程门阵列(fpga)的可编程逻辑装置中、或其他装置中实施。描述操作的顺序并不意图被解释为限制,并且任何数量的所述操作可以按任何顺序组合、分成子操作和/或并行地执行,以实施所述过程。根据本披露内容的各种实施例的过程可以仅包括逻辑流程图中描绘的操作中的一些或全部。

图6是示出用于在场景看起来相对于成像平台静止时使用成像装置进行超光谱图像捕获的示例概述过程600的流程图。这可能是例如地球同步轨道中的基于卫星的平台相对于要成像的场景的结果。当然,成像系统可以安装在静止平台上。在其他情况下,成像平台与要成像的场景之间的相对运动足够小,以考虑到成像系统内的快速光学器件的相对运动或者通过后处理来校正运动模糊。在602,可以启动波长校准。应注意,这可以是在初始激活成像装置时的一次性设置步骤,或者可以偶尔重复,但不是aid200的每个图像捕获操作的必要步骤。校准是基于带通滤波器的配置、成像传感器和致动器的分辨率。在给定滤波器的配置和致动器的分辨率的情况下,对于致动器的给定位置,成像传感器上的每个像素将对应于特定波长。在致动器使滤波器相对于成像传感器移动时,致动器的位置将决定成像传感器的每个像素的波长。这个校准可以在部署成像系统之前完成,并且可以在成像系统的使用寿命期间定期地执行。

在604,确定感兴趣区域,并且感兴趣区域可以包括全空间和光谱成像,或者可以包括具体空间坐标和/或光谱数据。在一些情况下,由成像系统捕获的全帧图像将包括感兴趣区域。在感兴趣区域大于成像系统在单个图像中捕获整个感兴趣区域的能力的情况下,成像系统可以移动并捕获多个图像,所述多个图像可以拼接在一起以形成比能够由成像系统在单次捕获中得到的图像更大的图像。另外地,在期望相对高分辨率图像的情况下,成像系统可以在感兴趣区域上放大以捕获通过缩放而提供的更多细节,并且成像系统可以捕获多个图像,所述多个图像可以拼接在一起以形成更大的图像。

在606,根据所确定的roi的空间和光谱要求来捕获图像帧。在致动器使滤波器移动经过成像传感器,并且从感兴趣区域反射的光在去往成像装置的成像传感器的路上穿过带通滤波器的期望带时,捕获图像帧作为由aid200得到的顺序图像。

在608,对图像进行后处理以便创建感兴趣图像。例如,在610,针对由成像平台与场景之间的相对运动引起的运动模糊,可以使图像稳定并进行校正。

在612,构建超光谱数据立方体,所述超光谱数据立方体含有用于成像装置的每个像素的空间和光谱数据,并且可以包括用于在所述立方体内表示的每个像素的至少x、y和λ数据。在一些情况下,可以将超光谱数据立方体切片以进行离散分割,以便有助于更有效的存储和传输,由此仅含有感兴趣空间和/或光谱数据。

在614,存储超光谱数据立方体和/或将其传输到另一目的地。当然,本文中示出的过程可以由在aid200内执行的计算资源实施,或者所述过程中的一些或全部可以由远离aid200定位的计算资源执行。在其他实施例中,可以由位于成像平台处和远程位置两者的资源的组合实施处理。

尽管所示附图示出可以在图像的存储614之前执行对图像的后处理608,但在一些情况下,可以在后处理之前存储所捕获的图像,并且可以在稍后的时间执行后处理。

进一步参考图6,后处理技术可以另外地包括正射校正和/或图像配准的进一步步骤。正射校正算法可以应用于每个单独的帧,诸如以除去任何内部或外部失真以便向最终图像分配更准确的坐标。这种算法可以校正由天然土地的地形轮廓给出的变形,并且允许重建图像的正交透视图。

对正射校正算法的输入之一可以是每个像素的光谱数据,这对于校正受到捕获图像的光谱带影响的失真来说可能是必要的。先前可能已经进行了光谱校准,诸如在实施成像系统的校准阶段期间。这个校准返回成形为传感器的矩阵,从而指示对于致动器的每个位置由每个像素测量到的波长带,所述波长带可以存储为成像系统的一部分,或者存储在一些其他外部位置以用于在图像从成像平台传输之后进行后处理。

正射校正算法使每个帧中所含有的空间信息“变形”。为了正确地重现由每个像素测量到的波长,可以优选对作为校准的输出而获得的波长矩阵应用相同的转换。以此方式,每个经正射校正的帧具有其对应的经调整波长矩阵。

为了产生比成像传感器能够在单次曝光中捕获的图像大的图像,aid可以重新定位并捕获多个图像。可以通过将由传感器获得的多个连续图像对准到单个完整图像中来执行图像拼接。配准算法可以由以下构成:发现每个图像中的匹配特征、获得它们的位移和旋转、将所述位移和旋转应用于完整图像、以及在两个图像重叠的地方将它们融合。图像之间的近似位移基于期望的采样距离而预先确定。在很多实施例中,成像平面在图像捕获期间不旋转,并且因此很多实现方式不预期显著的旋转,这与从旋转平台捕获图像相比,极大地降低执行图像配准所需的计算时间。

在期望整个场景的图像具有指定中心波长(λ中心)的情况下,也可以使用图像拼接。为了产生这个图像,成像系统在滤波器从初始位置移动到最终位置时捕获场景的多个图像,如本文中其他地方所述。可以将多个图像切片以隔离出感兴趣波长,并且可以将具有感兴趣波长的最终切片拼接在一起以创建完整场景的具有感兴趣波长的图像。

构建超光谱立方体612导致成像数据,所述成像数据包括用于由aid200捕获的每个像素的x、y和λ值。在超光谱成像过程期间,对于致动器的给定位置,aid200的每个像素始终在测量相同波长。可以通过考虑到传感器的响应率和按波长的滤波器透射率来单独地校正原始帧。由于每次在致动器的位置等于期望的采样距离(sd)时将得到图片,因此也将在这个距离对来自场景的每个像素进行光谱采样,如图4和图5所示。根据等式2,测量单个场景的像素的全光谱所需的图像数量(m)等于滤波器的总长度除以采样距离:

为了举例,如果假设场景的光谱平滑地变化,则针对场景上的每个像素,可以计算光谱轴线514中的插值曲线,诸如插值多项式或样条。对于由aid200上的每个像素测量到的不同波长,可以通过计算场景的辐照度来获得曲线插值点。每个插值曲线将具有m个不同的插值点。

采样距离可以大于一个像素,这导致在这个距离内投射的场景上的每个像素被不同组的中心波长采样。这在图7中示出,其中采样距离内的不同光谱带测量到p个像素。因此,用不同组的插值点来构建这些p个像素中的每一个像素的插值曲线(考虑到针对不同的波长计算了场景的辐照度)。

因此,用m个插值点来构建每个插值曲线,并且p个不同组的中心波长用作插值点。一旦计算出每个像素的插值曲线,就可以通过评估期望波长的每个像素的曲线来执行对单色图像的重建。

取决于场景的辐照光谱的平滑度,可以通过改变插值多项式(在使用时)的阶数来调整编码在超光谱立方体中的光谱信息的压缩程度。如果光谱足够平滑,则例如,可以选择低阶多项式以便压缩信息量。否则,如果光谱特征差别很大,则可以选择高阶多项式以插入光谱数据。

这种算法表现出极低的计算努力,从而使得能够以极高的速度处理大量的信息。此处呈现的算法是基于假设场景的光谱平滑地变化,而没有显示出任何一种不连续性。然而,在实际场景变化超出这个假设的预定阈值时,可以诸如通过减小采样距离和/或应用不同的光谱重建算法来增加图像处理的精度。

一旦得到了图片并处理了数据,就存储信息,并且在远程感测的情况下,最终将信息传输到另一目的地。取决于数据立方体内所含有的期望信息,可以选择所存储的信息的结构。如果寻求全分辨率,则可以存储整个超光谱数据立方体,从而保持全空间和光谱分辨率。另一方面,如果不需要全分辨率,则可以在存储超光谱立方体之前对其进行压缩。此外,如果感兴趣光谱带有限,则可以仅存储数据立方体的一部分,诸如一个或多个切片,和/或传输对应于期望光谱带的部分。

在其他情况下,可以处理来自每个像素的光谱信息以便计算不同种类的指数,诸如归一化差值植被指数(ndvi)、或例如在农业分析的情况下的其他绿色指数。在期望具体光谱带的情况下,可以存储单色图像以及每像素的对应指数,而无需存储每个像素的整个光谱特征。

以此方式,有可能使所使用的数据结构和信息适于特定应用的细节,以便优化存储和传输要求。此外,可以实施分类算法以便分析超光谱立方体。例如,可以识别具有类似光谱特征的端元的群集,这允许识别和分类广泛多种材料,诸如,例如不同类型的植被、土壤、水、或者人造材料或物体。可以实施若干种方法,诸如主成分分析、一般的自动分类器和机器学习算法、以及其他方法。

图8是可用来创建超光谱图像的示例成像系统800的框图。在一些实施例中,成像系统800的一些部件可以远程地定位或分布在各种位置和各种硬件上。成像系统800可以被配置成包括任何合适的计算装置或系统。存储器802可以存储可在一个或多个处理器804上加载和执行的程序指令和程序模块,以及在这些程序的执行期间生成和/或可与这些程序结合使用的数据,诸如图像数据、图像、数据立方体等等。

存储器802至少包括控制模块806和成像模块808。根据本披露的实施例,控制模块可以执行与捕获图像相关联的控制功能中的一些或全部。控制模块806可由一个或多个处理器执行,以诸如通过一个或多个输入/输出接口进行控制。

控制模块806可由一个或多个处理器804执行,以诸如通过一个或多个输入/输出接口来控制aid200。根据本披露的各种实施例,aid200可以被控制以捕获一次或多次曝光,诸如与采样距离同步,以通过带通滤波器的期望光谱来捕获曝光。

区域成像装置200可以包括一个或多个处理器810和固件812(存储在合适的非暂时性计算机可读存储介质上),以执行或以其他方式控制aid200的各种功能。固件812可以由一个或多个处理器810执行,以控制曝光时间、对顺序曝光捕获定时、确定采样距离、压缩图像数据、将图像数据818(包括光谱数据立方体)存储在存储器802上等等。

aid200还包括光敏传感器814,诸如,例如适合于在aid200的活动表面上实施电荷耦合装置(ccd)、互补金属氧化物半导体(cmos)传感器或其他合适的传感器架构的半导体部件。

aid200进一步包括一个或多个致动器816,诸如线性致动器。致动器816可以附接到光学带通滤波器820,并且被安排成使滤波器相对于传感器814线性地移动。在一些实施例中,滤波器是线性可变光学带通滤波器,并且致动器被配置成使滤波器相对于传感器814在与滤波器波长的变化方向平行的方向上移动。例如,在滤波器820包括被安排成竖直列的光谱带的情况下,滤波器可以水平地移动经过传感器814。当然,在滤波器包括其他配置的情况下,可以实施合适的光谱成像方案以使滤波器820相对于传感器814移动,以便捕获和/或以其他方式生成多光谱或超光谱图像。

成像模块808执行成像系统800的各种图像处理功能,包括用于生成高动态范围(hdr)图像的色调映射、用于产生高分辨率图像的分辨率增强算法、和用于从多次部分地重叠的曝光生成图像或通过将多个图像的切片拼接在一起来生成含有感兴趣光谱带的图像的拼接算法、以及其他处理功能,诸如模糊去除、伪影去除、颜色增强、裁剪、图像转换、图像压缩、数据加密等等。

在一些实施例中,aid200的固件812可以被视作控制模块806和成像模块808中的一者或两者的扩展,其中控制模块806和/或成像模块808的功能中的一些或全部在固件812上执行或由其执行,所述固件在一个或多个处理器810上执行。在一些实施例中,控制模块806、成像模块808的功能中的一些或全部和/或固件812的其他功能可以被实施为一个或多个处理器804上的逻辑功能。例如,在一些实施例中,一个或多个处理器804可以包括专用集成电路(asic)、可编程逻辑装置、诸如现场可编程门阵列(fpga)、或其他逻辑电路,以执行各种功能,包括控制模块806的各种控制功能和/或成像模块808的图像处理功能。

取决于所使用的计算装置的配置和类型,成像系统800的存储器802以及用于存储aid200中的固件812的介质可以包括易失性存储器(诸如随机存取存储器(ram))和/或非易失性存储器(诸如只读存储器(rom)、闪存存储器等)。存储器802以及用于存储aid200中的固件812的介质还可以包括附加可移动存储装置和/或不可移动存储装置,包括但不限于,可以提供对计算机可读指令、数据结构、程序模块和/或成像系统800的其他数据的非易失性存储的闪存存储器、磁性存储装置和/或光学存储装置、和/或磁带存储装置。

存储器802以及用于存储aid200中的固件812的介质是非暂时性计算可读介质的实例。非暂时性计算机存储介质包括以存储信息(诸如,计算机可读指令、数据结构、程序模块或其他数据)的任何过程或技术实施的易失性和非易失性、可移动和不可移动介质。计算机存储介质包括,但不限于,相变存储器(pram)、静态随机存取存储器(sram)、动态随机存取存储器(dram)、其他类型的随机存取存储器(ram)、只读存储器(rom)、电可擦除可编程只读存储器(eeprom)、闪存存储器(诸如nand闪存存储器,诸如可以被包括在一个或多个非易失性存储卡中,并且包括利用单级和多级单元技术的闪存)或其他存储器技术、光盘只读存储器(cd-rom)、数字多功能盘(dvd)或其他光学存储装置、磁带盒、磁带、磁盘存储装置或其他磁性存储装置、或者可以用来存储信息以供计算装置访问的任何其他非传输介质。

基于本文描述的实施例,一种成像系统可以通过移动多光谱(或超光谱)光学带通滤波器并在滤波器相对于成像传感器移动时捕获顺序图像来捕获场景的超光谱图像。所述系统不需要在相继的曝光之间改变滤波器。超光谱数据立方体可以在图像捕获时刻进行配置,以便仅收集空间和/或光谱感兴趣区域,从而允许成像装置的动态配置。它与现有的超光谱成像系统相比相对简单,这使得它成为机载超光谱成像的显著改进的解决方案。

结论

尽管本披露内容使用结构特征和/或方法动作的特定语言,但本发明不限于所描述的具体特征或动作。相反,披露了具体特征和动作来作为实施本发明的说明性形式。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1