本发明涉及计算机视觉技术领域，特别涉及一种跨尺度分辨率的光场图像超分辨率及深度估计方法及装置。
背景技术：
光场成像为记录场景三维信息的一种全新手段。与传统成像方式不同，光场不仅可以记录光线在某个位置上的强度信息，还可记录这个位置上来自某一角度范围的光线分布情况，因此有两维平面成像转变为四维光场成像，包括两个空间维度和两个角度维度。
然而，由于光场中传感器的限制，空间和角度分辨率相互制约，例如，商业光场相机，它由多个微型镜头阵列组成，携带方便，但其空间分辨率很低，难以满足需求；另一种方式是多相机阵列，但是这种实现方法造价昂贵，体积庞大，有待解决。
技术实现要素：
本发明旨在至少在一定程度上解决相关技术中的技术问题之一。
为此，本发明的一个目的在于提出一种跨尺度分辨率的光场图像超分辨率及深度估计方法，该方法可以具有很强的鲁棒性，且计算速度快。
本发明的另一个目的在于提出一种跨尺度分辨率的光场图像超分辨率及深度估计装置。
为达到上述目的，本发明一方面实施例提出了一种跨尺度分辨率的光场图像超分辨率及深度估计方法，包括以下步骤：通过sisr(singleimagesuper-resolution，单张图像超分辨率)方法对位于低分辨率视角的光场图像进行上采样；将位于中间视角的高分辨率图像下采样后，利用所述sisr方法进行上采样，并获取误差图；获取光场中所述高分辨率图像与上采样后的图像的视差图并利用光场固有属性对视差图进行全局优化，同时进行补洞操作，使得所述视差图估计无法估计到的区域进行重新估计；利用全局视差图对所述误差图进行传递，使得图像恢复高分辨率信息，以实现光场的超分辨率重建；根据所述超分辨率后的光场图像进行场景的深度估计，获取深度估计结果。
本发明实施例的跨尺度分辨率的光场图像超分辨率及深度估计方法，可以在大幅减少设备开销的条件下，重建高分辨率的光场成像，从而获得高空间分辨率的光场，以通过高分辨光场获取场景深度信息，并且具有很强的鲁棒性，计算速度快，避免光场中遮挡因素造成的部分区域估计不准，并加入全局优化过程，准确计算光场视差图。
另外，根据本发明上述实施例的跨尺度分辨率的光场图像超分辨率及深度估计方法还可以具有以下附加的技术特征：
进一步地，在本发明的一个实施例中，还包括：利用位于中心视角的高分辨率图像对所述sisr方法丢失的高频细节部分进行推断。
进一步地，在本发明的一个实施例中，所述获取光场中所述高分辨率图像与上采样后的图像的视差图并利用光场固有属性对视差图进行全局优化，进一步包括：通过十字模型估算方法得到光场中心位置与任意位置视差图；通过全局优化过程得到所述视差图，以避免所述光场中遮挡因素造成的部分区域估计误差。
进一步地，在本发明的一个实施例中，所述进行补洞操作，进一步包括：
利用孔洞周边邻域信息对孔洞进行补充，补充公式为：
其中，f为邻域像素值，ω为权值，i为当前待补洞位置的横坐标，j为当前待补洞位置的纵坐标，k为位于其窗口邻域位置的横坐标，l为位于其窗口邻域位置的纵坐标。
进一步地，在本发明的一个实施例中，所述根据所述超分辨率后的光场图像进行场景的深度估计，进一步包括：将重建后的的高分辨率光场图像利用深度信息对场景深度进行估计。
为达到上述目的，本发明另一方面实施例提出了一种跨尺度分辨率的光场图像超分辨率及深度估计装置，包括：采样模块，用于通过单张图像超分辨率sisr方法对位于低分辨率视角的光场图像进行上采样；获取模块，用于将位于中间视角的高分辨率图像下采样后，利用所述sisr方法进行上采样，并获取误差图；优化模块，用于获取光场中所述高分辨率图像与上采样后的图像的视差图并利用光场固有属性对视差图进行全局优化，同时进行补洞操作，使得所述视差图估计无法估计到的区域进行重新估计；重建模块，用于利用全局视差图对所述误差图进行传递，使得图像恢复高分辨率信息，以实现光场的超分辨率重建；估计模块，用于根据所述超分辨率后的光场图像进行场景的深度估计，获取深度估计结果。
本发明实施例的跨尺度分辨率的光场图像超分辨率及深度估计装置，可以在大幅减少设备开销的条件下，重建高分辨率的光场成像，从而获得高空间分辨率的光场，以通过高分辨光场获取场景深度信息，并且具有很强的鲁棒性，计算速度快，避免光场中遮挡因素造成的部分区域估计不准，并加入全局优化过程，准确计算光场视差图。
另外，根据本发明上述实施例的跨尺度分辨率的光场图像超分辨率及深度估计装置还可以具有以下附加的技术特征：
进一步地，在本发明的一个实施例中，还包括：利用位于中心视角的高分辨率图像对所述sisr方法丢失的高频细节部分进行推断。
进一步地，在本发明的一个实施例中，所述优化模块，进一步包括：获取单元，用于通过十字模型估算方法得到光场中心位置与任意位置视差图；优化单元，用于通过全局优化过程得到所述视差图，以避免所述光场中遮挡因素造成的部分区域估计误差。
进一步地，在本发明的一个实施例中，所述进行补洞操作，进一步包括：
利用孔洞周边邻域信息对孔洞进行补充，补充公式为：
其中，f为邻域像素值，ω为权值，i为当前待补洞位置的横坐标，j为当前待补洞位置的纵坐标，k为位于其窗口邻域位置的横坐标，l为位于其窗口邻域位置的纵坐标。
进一步地，在本发明的一个实施例中，所述根据所述超分辨率后的光场图像进行场景的深度估计，进一步包括：将重建后的的高分辨率光场图像利用深度信息对场景深度进行估计。
本发明附加的方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本发明的实践了解到。
附图说明
本发明上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中：
图1为根据本发明实施例的跨尺度分辨率的光场图像超分辨率及深度估计方法的流程图；
图2为根据本发明一个实施例的跨尺度分辨率的光场图像超分辨率及深度估计方法的流程图；
图3为根据本发明一个实施例的求取光场视差图的示意图；
图4为根据本发明一个具体实施例的跨尺度分辨率的光场图像超分辨率及深度估计方法的示意图；
图5为根据本发明实施例的跨尺度分辨率的光场图像超分辨率及深度估计装置的结构示意图。
具体实施方式
下面详细描述本发明的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本发明，而不能理解为对本发明的限制。
下面参照附图描述根据本发明实施例提出的跨尺度分辨率的光场图像超分辨率及深度估计方法，首先将参照附图描述根据本发明实施例提出的跨尺度分辨率的光场图像超分辨率及深度估计装置。
图1是本发明实施例的跨尺度分辨率的光场图像超分辨率及深度估计方法的流程图。
如图1所示，该跨尺度分辨率的光场图像超分辨率及深度估计方法包括以下步骤：
在步骤s101中，通过单张图像超分辨率sisr方法对位于低分辨率视角的光场图像进行上采样。
可以理解的是，结合图1和图2所示，本发明实施例可以通过低分辨率光场利用单张图片超分辨率(sisr)方法上采样，公式如下：
具体地，本发明实施例通过利用sisr方法将光场中的低分辨率图像首先进行上采样。由于单张图片超分辨率方法仅能针对超分辨率倍数较低时，当超分辨率倍数过大时(大约四倍)，使用sisr方法将会丢失很多图像细节信息。
在步骤s102中，将位于中间视角的高分辨率图像下采样后，利用sisr方法进行上采样，并获取误差图。
具体地，在给定本发明实施例输入的光场图像时，位于光场中间位置为高分辨率图像，这种高分辨率图像可以提供全局的高频细节信息，此信息为sisr过程中损失的部分，并需要模拟这个过程将这个信息进行还原。即使高分辨率图像rhr首先下采样至低分辨率图像同样大小，而后利用相同的sisr方法上采样，此时的结果与rhr之差，可认为是有sisr方法所丢失的那一部分高频细节信息，表示为：
dr＝rhr-fsism(rhr↓)，
其中，dr即为误差图。
在步骤s103中，获取光场中高分辨率图像与上采样后的图像的视差图并利用光场固有属性对视差图进行全局优化，同时进行补洞操作，使得视差图估计无法估计到的区域进行重新估计。
进一步地，在本发明的一个实施例中，获取光场中高分辨率图像与上采样后的图像的视差图并利用光场固有属性对视差图进行全局优化，进一步包括：通过十字模型估算方法得到光场中心位置与任意位置视差图；通过全局优化过程得到视差图，以避免光场中遮挡因素造成的部分区域估计误差。
进一步地，在本发明的一个实施例中，进行补洞操作，进一步包括：
利用孔洞周边邻域信息对孔洞进行补充，补充公式为：
其中，f为邻域像素值，ω为权值，i为当前待补洞位置的横坐标，j为当前待补洞位置的纵坐标，k为位于其窗口邻域位置的横坐标，l为位于其窗口邻域位置的纵坐标。
可以理解的是，依靠视差图，才能使得步骤s102中求得的误差图传播到光场低分辨率中的各个视角中。为了保持超分辨率后光场图像的一致性，还需加入全局优化策略。如图3和图4所示，采用“十字”模型估计，图中红色1代表光场中的高分辨图像，首先对水平的蓝色2图像计算视差图，由于遮挡现象存在，使得部分区域的视差图估计不准确，但是这部分区域正好是以高清红色图像为中心对称分布的，所以利用这个中心对称性质，将每个视角下遮挡区域的视差图进行补齐，每个视角利用两次光流进行计算遮挡，进而利用膨胀算法对光流得到的区域进行扩张。以红色1高分辨率图为中心，将整个光场分为上下左右四个部分，每个部分选用膨胀算法的核分别为[0,1,0；0,1,0；0,0,0]，[0,0,0；0,1,0；0,1,0]，[0,0,0；1,1,0；0,0,0]，[0,0,0；0,1,1；0,0,0]。从而使得以高分辨率图像为中心的这个光场图像，其每个部分的遮挡区域的视差图信息都会被其另一侧区域的视差图补齐。在利用视差图对误差图进行传递的过程中，会出现一些空洞无法填充，这时需要利用该孔洞周边邻域信息对孔洞进行补充：
其中，f为邻域像素值，ω为权值，由空间位置和像素值两个条件进行约束。
在得到图4中蓝色位置的视差图后，实施全局优化策略，剔除视差图中的异常点，利用逐像素rmse(rootmeansquareerror，均方根误差)进行计算，剔除最大的两个奇异点，而后将剩下求取平均。
在步骤s104中，利用全局视差图对误差图进行传递，使得图像恢复高分辨率信息，以实现光场的超分辨率重建。
可以理解的是，本发明实施例可以利用优化后的视差图将s102步骤获取的误差图dr传递到光场每一个视角当中，即得到每个视角下的缺失的高频细节信息，即：
ds＝fwarping(dr)，
其中，ds为该视角下的高频细节信息。
在步骤s105中，根据超分辨率后的光场图像进行场景的深度估计，获取深度估计结果。
进一步地，在本发明的一个实施例中，根据超分辨率后的光场图像进行场景的深度估计，进一步包括：将重建后的的高分辨率光场图像利用深度信息对场景深度进行估计。
进一步地，在本发明的一个实施例中，还包括：利用位于中心视角的高分辨率图像对sisr方法丢失的高频细节部分进行推断。
可以理解的是，本发明实施例将经过sisr方法得到的图像
并利用高分辨率光场图像进行场景的深度估计。
根据本发明实施例提出的跨尺度分辨率的光场图像超分辨率及深度估计方法，可以在大幅减少设备开销的条件下，重建高分辨率的光场成像，从而获得高空间分辨率的光场，以通过高分辨光场获取场景深度信息，并且具有很强的鲁棒性，计算速度快，针对合成光场、商用光场相机以及光场显微相机拍摄的光场均能达到较好的空间超分辨率效果。
其次参照附图描述根据本发明实施例提出的跨尺度分辨率的光场图像超分辨率及深度估计装置。
图5是本发明实施例的跨尺度分辨率的光场图像超分辨率及深度估计装置的结构示意图。
如图5所示，该跨尺度分辨率的光场图像超分辨率及深度估计装置10包括：采样模块100、获取模块200、优化模块300、重建模块400和估计模块500。
其中，采样模块100用于通过单张图像超分辨率sisr方法对位于低分辨率视角的光场图像进行上采样。获取模块200用于将位于中间视角的高分辨率图像下采样后，利用sisr方法进行上采样，并获取误差图。优化模块300用于获取光场中高分辨率图像与上采样后的图像的视差图并利用光场固有属性对视差图进行全局优化，同时进行补洞操作，使得视差图估计无法估计到的区域进行重新估计。重建模块400用于利用全局视差图对误差图进行传递，使得图像恢复高分辨率信息，以实现光场的超分辨率重建。估计模块500用于根据超分辨率后的光场图像进行场景的深度估计，获取深度估计结果。本发明实施例的装置10可以在大幅减少设备开销的条件下，重建高分辨率的光场成像，以通过高分辨光场获取场景深度信息，并且具有很强的鲁棒性，计算速度快。
进一步地，在本发明的一个实施例中，还包括：利用位于中心视角的高分辨率图像对sisr方法丢失的高频细节部分进行推断。
进一步地，在本发明的一个实施例中，优化模块，进一步包括：获取单元，用于通过十字模型估算方法得到光场中心位置与任意位置视差图；优化单元，用于通过全局优化过程得到视差图，以避免光场中遮挡因素造成的部分区域估计误差。
进一步地，在本发明的一个实施例中，进行补洞操作，进一步包括：
利用孔洞周边邻域信息对孔洞进行补充，补充公式为：
其中，f为邻域像素值，ω为权值，i为当前待补洞位置的横坐标，j为当前待补洞位置的纵坐标，k为位于其窗口邻域位置的横坐标，l为位于其窗口邻域位置的纵坐标。
进一步地，在本发明的一个实施例中，根据超分辨率后的光场图像进行场景的深度估计，进一步包括：将重建后的的高分辨率光场图像利用深度信息对场景深度进行估计。
需要说明的是，前述对跨尺度分辨率的光场图像超分辨率及深度估计方法实施例的解释说明也适用于该实施例的跨尺度分辨率的光场图像超分辨率及深度估计装置，此处不再赘述。
根据本发明实施例提出的跨尺度分辨率的光场图像超分辨率及深度估计装置，可以在大幅减少设备开销的条件下，重建高分辨率的光场成像，从而获得高空间分辨率的光场，以通过高分辨光场获取场景深度信息，并且具有很强的鲁棒性，计算速度快，针对合成光场、商用光场相机以及光场显微相机拍摄的光场均能达到较好的空间超分辨率效果。
在本发明的描述中，需要理解的是，术语“中心”、“纵向”、“横向”、“长度”、“宽度”、“厚度”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”、“内”、“外”、“顺时针”、“逆时针”、“轴向”、“径向”、“周向”等指示的方位或位置关系为基于附图所示的方位或位置关系，仅是为了便于描述本发明和简化描述，而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作，因此不能理解为对本发明的限制。
此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中，“多个”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。
在本发明中，除非另有明确的规定和限定，术语“安装”、“相连”、“连接”、“固定”等术语应做广义理解，例如，可以是固定连接，也可以是可拆卸连接，或成一体；可以是机械连接，也可以是电连接；可以是直接相连，也可以通过中间媒介间接相连，可以是两个元件内部的连通或两个元件的相互作用关系，除非另有明确的限定。对于本领域的普通技术人员而言，可以根据具体情况理解上述术语在本发明中的具体含义。
在本发明中，除非另有明确的规定和限定，第一特征在第二特征“上”或“下”可以是第一和第二特征直接接触，或第一和第二特征通过中间媒介间接接触。而且，第一特征在第二特征“之上”、“上方”和“上面”可是第一特征在第二特征正上方或斜上方，或仅仅表示第一特征水平高度高于第二特征。第一特征在第二特征“之下”、“下方”和“下面”可以是第一特征在第二特征正下方或斜下方，或仅仅表示第一特征水平高度小于第二特征。
在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
尽管上面已经示出和描述了本发明的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本发明的限制，本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。