摄像装置、图像处理装置及电子设备的制作方法

文档序号:16597034发布日期:2019-01-14 19:47阅读:171来源:国知局
摄像装置、图像处理装置及电子设备的制作方法

本发明涉及摄像装置、图像处理装置及电子设备。



背景技术:

已知一种搭载有根据来自摄像元件的信号生成图像的图像处理技术的摄像装置(参照专利文献1)。

一直以来要求图像的画质提高。

现有技术文献

专利文献

专利文献1:日本特开2006-197192号公报



技术实现要素:

根据第1方案,摄像装置具备:摄像部,其具有以第1摄像条件进行拍摄的第1摄像区域、和以与上述第1摄像条件不同的第2摄像条件进行拍摄的第2摄像区域;以及生成部,其根据在上述第2摄像区域拍摄到的被摄体的图像数据,生成在上述第1摄像区域拍摄到的被摄体的图像。

根据第2方案,摄像装置具备:摄像部,其具有以第1摄像条件进行拍摄的第1摄像区域、和以与上述第1摄像条件不同的第2摄像条件进行拍摄的第2摄像区域;以及生成部,其根据在上述第2摄像区域拍摄到的被摄体的图像数据,生成在上述第1摄像区域拍摄到的被摄体的图像数据。

根据第3方案,图像处理装置具备:输入部,其输入来自摄像部的被摄体的图像数据,该摄像部具有以第1摄像条件进行拍摄的第1摄像区域、和以与上述第1摄像条件不同的第2摄像条件进行拍摄的第2摄像区域;以及生成部,其根据在上述第2摄像区域拍摄到的被摄体的图像数据,生成在上述第1摄像区域拍摄到的被摄体的图像。

根据第4方案,图像处理装置具备:输入部,其输入来自摄像部的被摄体的图像数据,该摄像部具有以第1摄像条件进行拍摄的第1摄像区域、和以与上述第1摄像条件不同的第2摄像条件进行拍摄的第2摄像区域;以及生成部,其根据在上述第2摄像区域拍摄到的被摄体的图像数据,生成在上述第1摄像区域拍摄到的被摄体的图像数据。

根据第5方案,电子设备具备:摄像元件,其具有多个摄像区域;设定部,其对多个上述摄像区域设定不同的摄像条件;和生成部,其将上述多个摄像区域中的以第1摄像条件进行了拍摄的摄像区域的被摄体的图像信号的一部分修正为以第2摄像条件进行拍摄,从而生成图像。

根据第6方案,电子设备具备:摄像元件,其具有多个摄像区域;设定部,其将多个上述摄像区域中的第1摄像区域设定成与第2摄像区域不同的摄像条件;和生成部,其将在上述第1摄像区域拍摄到的被摄体的图像信号修正为根据第1摄像条件和第2摄像条件进行拍摄,从而生成图像。

根据第7方案,电子设备具备:摄像元件,其具有配置有多个第1像素且对被摄体进行拍摄的第1摄像区域、和配置有多个第2像素且对被摄体进行拍摄的第2摄像区域;设定部,其将上述第1摄像区域设定成与上述第2摄像区域的摄像条件不同的摄像条件;以及生成部,其根据来自使用从上述第1像素的信号而从上述第1像素和上述第2像素中选择出的像素的信号,生成在上述第1摄像区域拍摄到的被摄体的图像。

根据第8方案,电子设备具备:摄像元件,其具有配置有第1像素和第2像素的第1摄像区域、和配置有第3像素的第2摄像区域;设定部,其将上述第1摄像区域设定成与上述第2摄像区域的摄像条件不同的摄像条件;修正部,其进行使来自上述第2像素的信号相对于上述第3像素的信号平滑化的修正;以及生成部,其使用上述第1像素的信号和由上述修正部修正后的上述第2像素的信号,生成在上述第1摄像区域拍摄到的被摄体的图像。

附图说明

图1是例示第1实施方式的相机的构成的框图。

图2是层叠型的摄像元件的剖视图。

图3是说明摄像芯片的像素排列和单位区域的图。

图4是说明单位区域中的电路的图。

图5是示意地表示被相机的摄像元件成像的被摄体的像的图。

图6是例示摄像条件的设定画面的图。

图7中,图7的(a)是例示实时取景图像中的规定范围的图,图7的(b)是规定范围的放大图。

图8是例示与图7(b)对应的图像数据的图。

图9中,图9的(a)是例示实时取景图像中的关注区域的图,图9的(b)是关注像素及参照像素pr的放大图。

图10中,图10的(a)是例示从像素输出的光电转换信号的排列的图,图10的(b)是说明g色成分的图像数据的插补的图,图10的(c)是例示插补后的g色成分的图像数据的图。

图11中,图11的(a)是说明从图10的(a)提取出r色成分的图像数据的图,图11的(b)是说明色差成分cr的插补的图,图11的(c)是说明色差成分cr的图像数据的插补的图。

图12中,图12的(a)是从图10的(a)提取出b色成分的图像数据的图,图12的(b)是说明色差成分cb的插补的图,图12的(c)是说明色差成分cb的图像数据的插补的图。

图13是例示拍摄面中的焦点检测用像素的位置的图。

图14是将焦点检测像素行的一部分的区域放大的图。

图15是将聚焦点(focuspoint)放大的图。

图16中,图16的(a)是例示表示想要检测的对象物的模板(template)图像的图,图16的(b)是例示实时取景图像及搜索范围的图。

图17是说明按每个区域设定摄像条件来进行拍摄的处理流程的流程图。

图18中,图18的(a)~图18的(c)是例示摄像元件的拍摄面中的第1摄像区域及第2摄像区域的配置的图。

图19是例示变形例11的摄像系统的构成的框图。

图20是说明向移动设备提供程序的图。

图21是例示第2实施方式的相机的构成的框图。

图22是示意地表示第2实施方式中的各区块与多个修正部之间的对应关系的图。

图23是层叠型摄像元件的剖视图。

图24是示意地表示图像处理所涉及的对第1图像数据和第2图像数据的处理的图。

图25是示意地表示焦点检测处理所涉及的对第1图像数据和第2图像数据的处理的图。

图26是示意地表示被摄体检测处理所涉及的对第1图像数据和第2图像数据的处理的图。

图27是示意地表示曝光运算处理等摄像条件的设定所涉及的对第1图像数据和第2图像数据的处理的图。

图28是示意地表示变形例13的对第1图像数据和第2图像数据的处理的图。

图29中,图29的(a)是例示实时取景图像中的规定范围的图,图29的(b)是规定范围的放大图。

图30是例示与图29的(b)对应的图像数据的图。

图31是边界区块的放大图。

具体实施方式

---第1实施方式---

作为搭载第1实施方式的图像处理装置的电子设备的一例,列举数码相机为例进行说明。相机1(图1)构成为能够在摄像元件32a中的拍摄面的每个区域以不同条件进行拍摄。图像处理部33在摄像条件不同的区域中分别进行恰当的处理。参照附图说明这样的相机1的详情。

<相机的说明>

图1是例示第1实施方式的相机1的构成的框图。在图1中,相机1具有摄像光学系统31、摄像部32、图像处理部33、控制部34、显示部35、操作部件36和记录部37。

摄像光学系统31将来自被摄场景的光束向摄像部32引导。摄像部32包含摄像元件32a及驱动部32b,对通过摄像光学系统31而成像出的被摄体的像进行光电转换。摄像部32能够在摄像元件32a中的拍摄面的整个区域中以相同条件进行拍摄,以及在摄像元件32a中的拍摄面的每个区域以不同条件进行拍摄。关于摄像部32的详情将在后叙述。驱动部32b生成为了使摄像元件32a进行蓄存控制而需要的驱动信号。针对摄像部32的电荷蓄存时间等拍摄指示由控制部34向驱动部32b发送。

图像处理部33包含输入部33a、修正部33b和生成部33c。在输入部33a中输入有由摄像部32获取的图像数据。修正部33b进行对上述输入的图像数据实施修正的前处理。关于前处理的详情将在后叙述。生成部33c对上述输入的图像数据和前处理后的图像数据进行图像处理,生成图像。在图像处理中,包含例如颜色插补处理、像素缺陷修正处理、轮廓强调处理、减噪(noisereduction)处理、白平衡调整处理、伽马修正处理、显示亮度调整处理、彩度调整处理等。而且,生成部33c生成由显示部35显示的图像。

控制部34由例如cpu构成,控制相机1的整体动作。例如,控制部34基于由摄像部32获取的光电转换信号进行规定的曝光运算,决定恰当曝光所需要的摄像元件32a的电荷蓄存时间(曝光时间)、摄像光学系统31的光圈值、iso感光度等曝光条件并向驱动部32b发出指示。另外,根据对相机1设定的摄像场景模式、检测出的被摄体要素的种类,决定调整彩度、对比度、锐度等的图像处理条件并向图像处理部33发出指示。关于被摄体要素的检测将在后叙述。

在控制部34中包含物体检测部34a、设定部34b、摄像控制部34c和透镜移动控制部34d。它们通过由控制部34执行未图示的非易失性存储器中保存的程序而以软件形式实现,但它们也可以由asic(applicationspecificintegratedcircuit:专用集成电路)等构成。

物体检测部34a通过进行公知的物体识别处理,从由摄像部32获取的图像数据检测出人物(人物的面部)、狗、猫等动物(动物的面部)、植物、自行车、汽车、电车等交通工具、建筑物、静物、山、云等风景、预先确定的特定物体等被摄体要素。设定部34b将由摄像部32获取的图像数据划分到包含上述那样检测出的被摄体要素的多个区域。

设定部34b进一步对多个区域设定摄像条件。摄像条件包含上述曝光条件(电荷蓄存时间、增益、iso感光度、帧频等)、上述图像处理条件(例如,白平衡调整用参数,伽马修正曲线、显示亮度调整参数、彩度调整参数等)。此外,摄像条件既能够在多个区域的全部区域中设定相同的摄像条件,也能够在多个区域间设定不同的摄像条件。

摄像控制部34c适用由设定部34b按每个区域设定的摄像条件来控制摄像部32(摄像元件32a)、图像处理部33。由此,能够使摄像部32以按多个区域的每个区域而不同的曝光条件进行拍摄,能够使图像处理部33以按多个区域的每个区域而不同的图像处理条件进行图像处理。构成区域的像素的数量是任意的,例如可以是1000像素,也可以是1像素。另外,在区域之间像素的数量也可以不同。

透镜移动控制部34d在摄像画面的规定位置(称为聚焦点),控制使焦点匹配于对应的被摄体的自动调焦(自动对焦:af)动作。当焦点匹配后,被摄体的像的锐度变高。即,通过使摄像光学系统31的聚焦透镜沿光轴方向移动,调节基于摄像光学系统31得到的像。透镜移动控制部34d基于运算结果,将用于使摄像光学系统31的聚焦透镜向对焦位置移动的驱动信号、例如用于以摄像光学系统31的聚焦透镜调节被摄体的像的信号向摄像光学系统31的镜头移动机构31m发送。像这样,透镜移动控制部34d作为基于运算结果使摄像光学系统31的聚焦透镜沿光轴方向移动的移动部而发挥功能。透镜移动控制部34d为了实现af动作而进行的处理也被称为焦点检测处理。关于焦点检测处理的详情将在后叙述。

显示部35对由图像处理部33生成的图像、经图像处理后的图像、由记录部37读出的图像等进行再现显示。显示部35也进行操作菜单画面、用于设定摄像条件的设定画面等的显示。

操作部件36由释放按钮、菜单按钮等各种操作部件构成。操作部件36将与各操作对应的操作信号向控制部34发送。在操作部件36中还包含设于显示部35的显示面上的触摸操作部件。

记录部37根据来自控制部34的指示,在未图示的由存储卡等构成的记录介质中记录图像数据等。另外,记录部37根据来自控制部34的指示,读出记录于记录介质的图像数据。

<层叠型的摄像元件的说明>

作为上述摄像元件32a的一例对层叠型的摄像元件100进行说明。图2是摄像元件100的剖视图。摄像元件100具备摄像芯片111、信号处理芯片112和存储芯片113。摄像芯片111层叠在信号处理芯片112上。信号处理芯片112层叠在存储芯片113上。摄像芯片111及信号处理芯片112、信号处理芯片112及存储芯片113分别通过连接部109而电连接。连接部109是例如凸块或电极。摄像芯片111对来自被摄体的光像进行拍摄而生成图像数据。摄像芯片111将图像数据从摄像芯片111向信号处理芯片112输出。信号处理芯片112对从摄像芯片111输出的图像数据实施信号处理。存储芯片113具有多个存储器,存储图像数据。此外,摄像元件100也可以由摄像芯片及信号处理芯片构成。在摄像元件100由摄像芯片及信号处理芯片构成的情况下,用于存储图像数据的存储部既可以设于信号处理芯片,也可以相对于摄像元件100而另行设置。

如图2所示,入射光主要朝向空心箭头所示的z轴正向入射。另外,如坐标轴所示,将与z轴正交的纸面左方设为x轴正向,将与z轴及x轴正交的纸面近前方向设为y轴正向。在以后的若干图中,以图2的坐标轴为基准来显示坐标轴,以明确各图的朝向。

摄像芯片111是例如cmos图像传感器。摄像芯片111具体是背面照射型的cmos图像传感器。摄像芯片111具有微透镜层101、彩色滤光片层102、钝化层103、半导体层106及布线层108。摄像芯片111朝向z轴正向以微透镜层101、彩色滤光片层102、钝化层103、半导体层106及布线层108的顺序配置。

微透镜层101具有多个微透镜l。微透镜l将入射的光汇聚到后述的光电转换部104。彩色滤光片层102具有多个彩色滤光片f。彩色滤光片层102具有分光特性不同的多种彩色滤光片f。彩色滤光片层102具体地说具有主要使红色成分的光透过的分光特性的第1滤光片(r)、主要使绿色成分的光透过的分光特性的第2滤光片(gb、gr)、和主要使蓝色成分的光透过的分光特性的第3滤光片(b)。彩色滤光片层102例如以拜耳阵列配置有第1滤光片、第2滤光片及第3滤光片。钝化层103由氮化膜或氧化膜构成,保护半导体层106。

半导体层106具有光电转换部104及读出电路105。半导体层106在作为光的入射面的第1面106a与第1面106a的相反侧的第2面106b之间具有多个光电转换部104。半导体层106沿x轴方向及y轴方向排列有多个光电转换部104。光电转换部104具有将光转换成电荷的光电转换功能。另外,光电转换部104蓄存基于光电转换信号得到的电荷。光电转换部104是例如光电二极管。半导体层106在比光电转换部104靠第2面106b侧的位置具有读出电路105。半导体层106沿x轴方向及y轴方向排列有多个读出电路105。读出电路105由多个晶体管构成,读出通过由光电转换部104进行光电转换得到的电荷而生成的图像数据并向布线层108输出。

布线层108具有多个金属层。金属层是例如al布线、cu布线等。布线层108被输出由读出电路105读出的图像数据。图像数据从布线层108经由连接部109向信号处理芯片112输出。

此外,连接部109可以按每个光电转换部104而设置。另外,连接部109也可以按每多个光电转换部104而设置。在连接部109按每多个光电转换部104而设置的情况下,连接部109的间距可以大于光电转换部104的间距。另外,连接部109还可以设于配置有光电转换部104的区域的周边区域。

信号处理芯片112具有多个信号处理电路。信号处理电路对从摄像芯片111输出的图像数据进行信号处理。信号处理电路是例如将图像数据的信号值放大的放大器电路、进行图像数据的减噪处理的相关双采样电路及将模拟信号转换成数字信号的模/数(a/d)转换电路等。信号处理电路可以按每个光电转换部104而设置。

另外,信号处理电路也可以按每多个光电转换部104而设置。信号处理芯片112具有多个贯穿电极110。贯穿电极110是例如硅贯穿电极。贯穿电极110将设于信号处理芯片112的未图示的电路相互连接。贯穿电极110也可以设于摄像芯片111的周边区域、存储芯片113。此外,也可以将构成信号处理电路的一部分元件设于摄像芯片111。例如,在模/数转换电路的情况下,可以将进行输入电压和基准电压的比较的比较器设于摄像芯片111,将计数器电路、锁存电路等电路设于信号处理芯片112。

存储芯片113具有多个存储部。存储部存储被信号处理芯片112实施了信号处理得到的图像数据。存储部是例如dram等易失性存储器。存储部可以按每个光电转换部104而设置。另外,存储部也可以按每多个光电转换部104而设置。存储于存储部的图像数据输出到后级的图像处理部。

图3是说明摄像芯片111的像素排列和单位区域131的图。尤其示出摄像芯片111的从背面(拍摄面)侧观察到的状况。在像素区域中以矩阵状排列有例如2000万个以上的像素。在图3的例子中,相邻的2像素×2像素这4像素形成一个单位区域131。图中的网格线示出相邻的像素被分组而形成单位区域131的概念。形成单位区域131的像素的数量不限于此,也可以是1000个左右,例如32像素×32像素,还可以是其以上或其以下,或者还可以是1像素。

如像素区域的局部放大图所示,图3的单位区域131内置由绿色像素gb、gr、蓝色像素b及红色像素r这4个像素构成的所谓拜耳阵列。绿色像素gb、gr是具有绿色滤光片作为彩色滤光片f的像素,接收入射光中的绿色波段的光。同样地,蓝色像素b是具有蓝色滤光片作为彩色滤光片f的像素,接收蓝色波段的光,红色像素r是具有红色滤光片作为彩色滤光片f的像素,接收红色波段的光。

在本实施方式中,以针对1区块而至少包含一个单位区域131的方式定义多个区块。即,1区块的最小单位为一个单位区域131。如上所述,作为形成一个单位区域131的像素的数量而可取的值中的最小的像素的数量为1像素。因此,在以像素单位定义1区块的情况下,可定义1区块的像素的数量中的最小的像素数量为1像素。各区块能够以各自不同的控制参数控制各区块中包含的像素。各区块以相同摄像条件控制该区块内的全部单位区域131、即该区块内的全部像素。也就是说,能够在某个区块中包含的像素组和在其他区块中包含的像素组中获取摄像条件不同的光电转换信号。控制参数的例子为帧频、增益、间除率、将光电转换信号相加的相加行数或相加列数、电荷的蓄存时间或蓄存次数、数字化的比特位数(字长)等。摄像元件100不仅能够自由地进行行方向(摄像芯片111的x轴方向)上的间除,也能够自由地进行列方向(摄像芯片111的y轴方向)上的间除。而且,控制参数也可以是图像处理中的参数。

图4是说明单位区域131中的电路的图。在图4的例子中,由相邻的2像素×2像素这4个像素形成一个单位区域131。此外,如上所述,单位区域131所包含的像素的数量不限于此,也可以是1000像素以上,还可以是最小1像素。通过附图标记a~d表示单位区域131的二维位置。

单位区域131所包含的像素的重置晶体管(rst)构成为能够按每个像素单独地进行on/off。在图4中,设有将像素a的重置晶体管on/off的重置布线300,将像素b的重置晶体管on/off的重置布线310与上述重置布线300分开设置。同样地,将像素c的重置晶体管on/off的重置布线320与上述重置布线300、310分开设置。对于其他像素d,也设有用于将重置晶体管on/off的专用的重置布线330。

关于单位区域131所包含的像素的传输晶体管(tx),也构成为能够按每个像素单独地进行on/off。在图4中,分开地设有将像素a的传输晶体管on/off的传输布线302、将像素b的传输晶体管on/off的传输布线312、将像素c的传输晶体管on/off的传输布线322。对于其他像素d,也设有用于将传输晶体管on/off的专用的传输布线332。

而且,关于单位区域131所包含的像素的选择晶体管(sel),也构成为能够按每个像素单独地进行on/off。在图4中,分开地设有将像素a的选择晶体管on/off的选择布线306、将像素b的选择晶体管on/off的选择布线316、将像素c的选择晶体管on/off的选择布线326。对于其他像素d,也设有用于将选择晶体管on/off的专用的选择布线336。

此外,电源布线304在单位区域131所包含的像素a到像素d中共通地连接。同样地,输出布线308在单位区域131所包含的像素a到像素d中共通地连接。另外,电源布线304在多个单位区域间共通地连接,但输出布线308按每个单位区域131单独设置。负载电流源309向输出布线308供给电流。负载电流源309既可以设在摄像芯片111侧,也可以设在信号处理芯片112侧。

通过将单位区域131的重置晶体管及传输晶体管单独地on/off,对于单位区域131所包含的像素a到像素d,能够控制包含电荷的蓄存开始时间、蓄存结束时间、传输定时在内的电荷蓄存。另外,通过将单位区域131的选择晶体管单独地on/off,能够将各像素a到像素d的光电转换信号经由共通的输出布线308输出。

在此,关于单位区域131所包含的像素a到像素d,公知能够对行及列以有规则的顺序控制电荷蓄存的、所谓卷帘快门方式。若根据卷帘快门方式按每行选择像素之后再指定列,则在图4的例子中,以“abcd”的顺序输出光电转换信号。

通过像这样以单位区域131为基准构成电路,能够按每个单位区域131控制电荷蓄存时间。换言之,能够分别输出基于单位区域131间不同的帧频得到的光电转换信号。另外,在摄像芯片111中,通过在一部分区块所包含的单位区域131进行电荷蓄存(拍摄)的期间使其他区块所包含的单位区域131休停,而能够仅在摄像芯片111的规定区块进行拍摄,并输出其光电转换信号。而且,也能够在帧间切换进行电荷蓄存(拍摄)的区块(蓄存控制的对象区块),以摄像芯片111的不同区块逐次进行拍摄,并输出光电转换信号。

如上所述,与单位区域131各自对应地设有输出布线308。由于摄像元件100将摄像芯片111、信号处理芯片112及存储芯片113层叠在一起,所以通过对这些输出布线308使用利用了连接部109的芯片间的电连接,能够不将各芯片在面方向上增大地排布布线。

<摄像元件的区块控制>

在本实施方式中,构成为能够按摄像元件32a中的多个区块的每个区块设定摄像条件。控制部34的摄像控制部34c使上述多个区域与上述区块对应,并使每个区域以设定的摄像条件进行拍摄。

图5是示意地表示被相机1的摄像元件32a成像的被摄体的像的图。相机1在进行拍摄指示之前,对被摄体像进行光电转换而获取实时取景图像。实时取景图像是以规定帧频(例如60fps)反复拍摄的显示用图像。

控制部34在通过设定部34b将区域划分前,对摄像芯片111的整个区域(即摄像画面整体)设定相同摄像条件。相同摄像条件是指对摄像画面整体设定共通的摄像条件,例如即使以apex值存在小于0.3级左右的偏差也视为相同。在摄像芯片111的整个区域设定成相同的摄像条件基于与被摄体亮度的测光值相应的曝光条件、或由用户手动设定的曝光条件而决定。

在图5中,在摄像芯片111的拍摄面上,成像出包含人物61a、汽车62a、包63a、山64a和云65a、66a的像。人物61a以双手捧着包63a。汽车62a停在人物61a的右后方。

<区域的划分>

控制部34基于实时取景图像,以如下方式将实时取景图像的画面划分成多个区域。首先,通过物体检测部34a从实时取景图像检测被摄体要素。被摄体要素的检测利用公知的被摄体识别技术。在图5的例子中,物体检测部34a作为被摄体要素而检测出人物61a、汽车62a、包63a、山64a、云65a、云66a。

接着,通过设定部34b将实时取景图像的画面划分成包含上述被摄体要素的区域。在本实施方式中,将包含人物61a的区域设为第1区域61、将包含汽车62a的区域设为第2区域62、将包含包63a的区域设为第3区域63、将包含山64a的区域设为第4区域64、将包含云65a的区域设为第5区域65、将包含云66a的区域设为第6区域66来进行说明。

<对每个区块的摄像条件的设定>

当通过设定部34b将画面划分成多个区域后,控制部34在显示部35上显示图6例示那样的设定画面。在图6中,显示有实时取景图像60a,在实时取景图像60a的右侧显示有摄像条件的设定画面70。

在设定画面70中,作为摄像条件的设定项目的一例,从上起依次列举帧频、快门速度(tv)、增益(iso)。帧频是1秒间获取的实时取景图像或由相机1录像的动态画面的帧数。增益是iso感光度。摄像条件的设定项目除了图6所例示的项目以外可以适当追加。在无法将全部设定项目收于设定画面70中的情况下,可以通过使设定项目沿上下滚动来显示其他设定项目。

在本实施方式中,控制部34将通过设定部34b划分出的区域中的、由用户选择的区域设为摄像条件的设定(变更)对象。例如,在能够进行触摸操作的相机1中,用户在显示有实时取景图像60a的显示部35的显示面上,对想要设定(变更)摄像条件的主要被摄体的显示位置进行点击操作。例如在人物61a的显示位置被点击操作了的情况下,控制部34在实时取景图像60a中将包含人物61a的第1区域61设为摄像条件的设定(变更)对象区域,并将第1区域61的轮廓强调显示。

在图6中,强调显示轮廓(粗显示、亮显示、改变颜色显示、以虚线显示、闪烁显示等)的第1区域61示出成为摄像条件的设定(变更)对象的区域。在图6的例子中,设为显示有强调第1区域61的轮廓的实时取景图像60a。该情况下,第1区域61为摄像条件的设定(变更)对象。例如,在能够进行触摸操作的相机1中,当由用户对快门速度(tv)的显示71进行了点击操作后,控制部34在画面内显示针对正在强调显示的区域(第1区域61)的快门速度的当前设定值(附图标记68)。

在以后的说明中,以触摸操作为前提进行相机1的说明,但也可以通过对构成操作部件36的按钮等的操作来进行摄像条件的设定(变更)。

当由用户对快门速度(tv)的上图标71a或下图标71b进行了点击操作后,设定部34b使快门速度的显示68从当前设定值与上述点击操作相应地增减,并且向摄像部32(图1)发送指示,以使得与上述点击操作相应地变更与正在强调显示的区域(第1区域61)对应的摄像元件32a的单位区域131(图3)的摄像条件。决定图标72是用于确定所设定的摄像条件的操作图标。关于帧频、增益(iso)的设定(变更),设定部34b也与快门速度(tv)的设定(变更)的情况同样地进行。

此外,说明了设定部34b基于用户的操作来设定摄像条件,但不限定于此。也可以是,设定部34b不基于用户的操作,而是根据控制部34的判断来设定摄像条件。

关于没有强调显示的区域(第1区域61以外的其他区域),维持已设定的摄像条件。

控制部34也可以取代将成为摄像条件的设定(变更)对象的区域的轮廓强调显示,而使对象区域整体明亮显示、或将对象区域整体的对比度提高而显示、或使对象区域整体闪烁显示。另外,还可以用框包围对象区域。将对象区域包围的框的显示可以是双重框或单重框,包围的框的线型、颜色、明亮度等显示样态可以适当变更。另外,控制部34还可以在对象区域附近进行箭头等指示成为摄像条件的设定对象的区域的显示。控制部34还可以将成为摄像条件的设定(变更)对象的对象区域以外的区域变暗显示,或降低对象区域以外的区域的对比度而显示。

如以上说明那样,在设定了每个区域的摄像条件后,当构成操作部件36的未图示的释放按钮或指示拍摄开始的显示(释放图标)被操作时,控制部34控制摄像部32,由此使上述划分出的区域以各自被设定的摄像条件进行拍摄。然后,图像处理部33对由摄像部32获取的图像数据进行图像处理。关于图像处理,如上所述,能够按每个区域以不同的图像处理条件进行。

在基于上述图像处理部33进行的图像处理之后,从控制部34接到指示的记录部37将图像处理后的图像数据记录到未图示的由存储卡等构成的记录介质中。由此,结束一系列的拍摄处理。

<第1修正处理>

图像处理部33的修正部33b作为在图像处理、焦点检测处理、被摄体检测(检测被摄体要素)处理及设定摄像条件的处理之前进行的前处理之一,根据需要进行第1修正处理。

如上所述,在本实施方式中,构成为能够在通过设定部34b将摄像画面的区域划分后,对由用户选择的区域或控制部34所判断出的区域设定(变更)摄像条件。

例如,将划分后的区域分别设为第1区域61~第6区域66(参照图7的(a)),对第1区域61~第6区域66设定各自不同的第1摄像条件~第6摄像条件。在这样的情况下,存在包含第1区域61~第6区域66的边界的区块。如上所述,区块是在摄像元件32a中能够分别设定摄像条件的最小单位。

图7的(a)是例示实时取景图像60a中的包含第1区域61与第4区域64的边界的规定范围80的图。图7的(b)是将图7的(a)的规定范围80放大的图。在图7的(b)中,在规定范围80包含多个区块81~89。在本例中,设为对人物进行拍摄的区块81及84包含于第1区域61,并且对人物及山进行拍摄的区块82、85及87也包含于第1区域61。因此,对区块81、82、84、85及87设定第1摄像条件。另一方面,设为对山进行拍摄的区块83、86、88及89包含于第4区域64。因此,对区块83、86、88及89设定第4摄像条件。

图7的(b)的白底部示出与人物对应的部分。另外,图7的(b)的斜线部示出与山对应的部分。在区块82、区块85及区块87中包含第1区域61与第4区域64的边界b1。图7的(b)的网格部示出与山对应的部分。

在本实施方式中,由于区块是摄像条件的设定的最小单位,所以在一个区块中设定相同的摄像条件。由于如上所述对包含第1区域61与第4区域64的边界b1的区块82、85及87设定第1摄像条件,所以对这些区块82、区块85及区块87的斜线部、即与山对应的部分也设定第1摄像条件。也就是说,在区块82、区块85及区块87内的斜线部,设定了与在对山进行拍摄的区块83、86、88及89设定的第4摄像条件不同的摄像条件。

该情况下,在区块82、区块85及区块87的斜线部与区块83、86、88及89的网格部之间,会存在图像的明暗、对比度、色调等不同的情况。在极端的例子中,预想也会在相当于上述斜线部的图像数据中产生泛白或发黑。例如在区块85中,没有对区块85的斜线部(即山部分)适用对于人物合适的第1摄像条件,存在在相当于斜线部的图像数据中产生泛白或发黑的情况。泛白是指由于过度曝光而导致图像的高亮度部分的数据的灰度丧失。另外,发黑是指由于曝光不足而导致图像的低亮度部分的数据的灰度丧失。

图8是例示与图7的(b)对应的图像数据的图。在图8中,设为区块81~89分别由2像素×2像素这4个像素构成。设为其中在位于图8中央的区块85中的像素85b及像素85d中产生发黑。本实施方式的修正部33b通过进行将在区块中产生了泛白或发黑的图像数据置换成同一摄像画面内的其他区块的图像数据的置换处理,来修正图像。将该修正称为第1修正处理。

修正部33b在如上述区块85那样包含基于多个被摄体要素的区域的边界且在基于该区块85的图像数据中存在泛白或发黑的情况下,对存在泛白或发黑的全部区块进行第1修正处理。

此外,在没有发生泛白或发黑的情况下无需第1修正处理。

(第1修正处理的例示)

修正部33b将包含发生了泛白或发黑的图像数据的区块设为关注区块,对关注区块进行第1修正处理。在此,将关注区块设为包含产生了泛白或发黑的图像数据的区域,但可以不是完全泛白或发黑。例如,也可以将信号值为第1阈值以上的区域或第2阈值以下的区域设为关注区块。在图7的(b)及图8的例子中,将包含于以规定的关注区块85为中心的规定范围80(例如3×3区块)的、关注区块85周围的8个区块设为参照区块。即,规定的关注区块85周围的区块81~84及区块86~89是参照区块。

此外,构成规定范围80的区块数量不限于上述3×3区块,可以适当变更。

1.对产生了泛白或发黑的区域整体进行相同的修正。

(1-1)修正部33b作为第1修正处理,使用在一个参照区块获取的图像数据,对关注区块内的一部分区域进行修正。具体地说,修正部33b使用在一个参照区块获取的图像数据,对产生了泛白或发黑的图像数据全部进行修正。此时,参照区块的面积与关注区块相同。处理(1-1)的方式使用例如下述(i)~(iv)中的某一个方式。

(i)修正部33b利用在位于关注区块周围的参照区块中的、距产生了泛白或发黑的区域最近位置处的一个参照区块获取的图像数据,将关注区块内的产生了泛白或发黑的图像数据置换掉。即使在关注区块内存在多个泛白或发黑的像素的情况下,也利用在上述的最近位置处的一个参照区块获取的同一图像数据将该泛白或发黑的多个像素的图像数据置换掉。例如,基于关注区块85周围的参照区块81~84、86~89中的、距发黑像素(像素85b、85d)最近位置处的参照区块86所包含的像素86a~86d所对应的图像数据,将发黑像素85b所对应的图像数据和与发黑像素85d所对应的图像数据利用同一数据(例如像素86c所对应的图像数据)置换掉。

(ii)修正部33b使用在位于关注区块周围的参照区块中的、从对与产生了泛白或发黑的被摄体要素(例如山)相同的被摄体要素(山)设定最多的摄像条件(在本例中为第4摄像条件)的参照区块选择出的一个参照区块中获取的图像数据,将关注区块内的产生了泛白或发黑的图像数据分别利用同一数据置换掉。例如,基于关注区块85周围的参照区块81~84、86~89中的从对山设定了第4摄像条件的参照区块83、86、88及89选择出的一个参照区块、例如参照区块88所包含的像素88a~88d所对应的图像数据,将发黑像素85b所对应的图像数据和发黑像素85d所对应的图像数据利用同一数据(例如像素88b所对应的图像数据)置换掉。像这样,修正部33b可以将发黑像素85d以参照区块的一部分的像素置换掉。

(iii)修正部33b也可以选择在通过上述(i)或(ii)选择出的一个参照区块获取的4个像素所对应的图像数据中的、与关注区块内的产生了泛白或发黑的像素之间的间隔短的像素。具体地说,在发黑像素85b与像素86a之间的间隔和发黑像素85b与像素86b之间的间隔中,修正部33b利用与发黑像素85b之间的间隔短的像素86a将发黑像素85b置换掉。在此,在以发黑像素85b和像素86a为例的情况下,间隔是指发黑像素85b与像素86a的中心间的间隔。另外,间隔也可以是发黑像素85b与像素86a的重心间的间隔。而且,在发黑像素连续这样的情况(发黑像素85b和发黑像素86a)下,可以是两个发黑像素的块中心或重心。关于参照区块内的86a等也是同样的。另外,修正部33b也可以使用相邻的像素所对应的图像数据将产生了泛白或发黑的图像数据置换掉。修正部33b在例如选择了参照区块86的情况下,将发黑像素85b所对应的图像数据和发黑像素85d所对应的图像数据利用同一数据(与参照区块86的像素86a或参照区块86的像素86c对应的图像数据)置换掉。

(iv)修正部33b也可以使用基于在通过上述(i)或(ii)选择的一个参照区块中获取的4个像素所对应的图像数据而生成的图像数据,将关注区块内的产生了泛白或发黑的图像数据置换掉。修正部33b在例如选择了参照区块88的情况下,将发黑像素85b所对应的图像数据和发黑像素85d所对应的图像数据利用基于参照区块88内的多个像素得到的图像数据(例如参照区块88所包含的像素88a~88d所对应的图像数据的平均值)置换掉。

此外,在计算图像数据的平均值时,也可以代替单纯取平均而利用根据距产生了泛白或发黑的像素的距离而加权的加权平均值来进行置换。例如,由于像素88b比像素88d更接近发黑像素85d,所以赋予使像素88b所对应的图像数据的贡献率比像素88d所对应的图像数据的贡献率高的权重。

另外,还可以取代计算参照区块88所包含的像素88a~88d所对应的图像数据的平均值,而计算像素88a~88d所对应的图像数据的中间值,并利用该中间值将发黑像素85b及像素85d所对应的图像数据置换掉。

(1-2)作为第1修正处理,修正部33b使用在多个参照区块获取的图像数据,将关注区块内的产生了泛白或发黑的图像数据全部置换掉。在此,提取多个用于置换发黑像素(85b、85d)的参照区块的候选。最终用于置换的像素为一个区块内的像素。处理(1-2)的方式使用例如下述(i)~(iv)的某一方式。

(i)修正部33b使用在位于关注区块周围的参照区块中的、产生了泛白或发黑的区域周边的多个参照区块中获取的图像数据,将关注区块内的产生了泛白或发黑的图像数据分别利用同一数据置换掉。例如,基于关注区块85周围的参照区块81~84、86~89中的、与发黑(像素85b、85d)相邻的两个参照区块86及88所包含的像素86a~86d及88a~88d所对应的图像数据,以如下方式进行置换。例如,将发黑像素85b所对应的图像数据和发黑像素85d所对应的图像数据利用同一数据(例如像素88b所对应的图像数据)置换掉。此时,以像素88b置换的发黑像素85b和发黑像素85d的面积比参照区块88的面积小。

(ii)修正部33b使用在位于关注区块周围的参照区块中的、从对与产生了泛白或发黑的被摄体要素(例如山)相同的被摄体要素(山)设定得最多的摄像条件(在本例中为第4摄像条件)的参照区块选择出的多个参照区块中获取的图像数据,将关注区块内的产生了泛白或发黑的图像数据分别利用同一数据置换掉。例如,基于关注区块85周围的参照区块81~84、86~89中的、从对山设定了第4摄像条件的参照区块83、86、88及89选择出的两个参照区块、例如参照区块86及88所包含的像素86a~86d及88a~88d所对应的图像数据,将发黑像素85b所对应的图像数据和发黑像素85d所对应的图像数据利用同一数据(例如像素86c所对应的图像数据)置换掉。

(iii)修正部33b也可以使用在通过上述(i)或(ii)选择出的多个参照区块中获取的多个像素所对应的图像数据中的、与关注区块内的产生了泛白或发黑的像素相邻的像素所对应的图像数据,将产生了泛白或发黑的图像数据置换掉。修正部33b在例如选择了参照区块86及88的情况下,将发黑像素85b所对应的图像数据和发黑像素85d所对应的图像数据利用同一数据(参照区块86的像素86a或像素86c、或者参照区块88的像素86c或像素88a所对应的图像数据)置换掉。

(iv)修正部33b还可以使用基于在通过上述(i)或(ii)选择出的多个参照区块中获取的多个像素所对应的图像数据而生成的图像数据,将关注区块内的产生了泛白或发黑的图像数据置换掉。修正部33b在例如选择了参照区块86及88的情况下,将发黑像素85b所对应的图像数据和发黑像素85d所对应的图像数据利用同一数据(参照区块86所包含的像素86a~86d所对应的图像数据、及参照区块88所包含的像素88a~88d所对应的图像数据的平均值)置换掉。此时,用于置换的像素的面积大于发黑像素85b和85d的面积。

此外,在计算图像数据的平均值时,也可以代替单纯取平均而利用根据距产生了泛白或发黑的像素的距离而加权的加权平均值进行置换。例如,由于像素86a比像素86b更接近发黑像素85b,所以赋予使像素86a所对应的图像数据的贡献率比像素86b所对应的图像数据的贡献率高的权重。

另外,还可以取代计算参照区块86及88所包含的像素86a~86d及像素88a~88d所对应的图像数据的平均值,而计算像素86a~86d及像素88a~88d所对应的图像数据的中间值,并利用该中间值将发黑像素85b及像素85d所对应的图像数据置换掉。

2.对产生了泛白或发黑的区域整体进行多个修正。

(2-1)作为第1修正处理,修正部33b使用在一个参照区块中获取的图像数据,将关注区块内的产生了泛白或发黑的图像数据全部置换掉。处理(2-1)的方式使用例如下述(i)~(iii)的某一方式。

(i)修正部33b使用位于关注区块周围的参照区块中的、与产生了泛白或发黑的像素相邻的像素所对应的图像数据,将关注区块内的产生了泛白或发黑的多个图像数据分别利用不同数据置换掉。例如,基于关注区块85周围的参照区块81~84、86~89中的、与发黑(像素85b、85d)相邻的位置处的参照区块86所包含的像素86a~86d所对应的图像数据,以如下方式进行置换。例如,将发黑像素85b所对应的图像数据利用相邻的参照区块86的像素86a的图像数据置换掉,将发黑像素85d所对应的图像数据利用相邻的参照区块86的像素86c的图像数据置换掉。

(ii)修正部33b使用在位于关注区块周围的参照区块中的、从对与产生了泛白或发黑的被摄体要素(例如山)相同的被摄体要素(山)设定得最多的摄像条件(在本例中为第4摄像条件)的参照区块选择出的一个参照区块中获取的图像数据,将关注区块内的产生了泛白或发黑的多个图像数据分别利用不同数据置换掉。例如,使用关注区块85周围的参照区块81~84、86~89中的、从对山设定了第4摄像条件的参照区块83、86、88及89选择出的一个参照区块、例如参照区块86所包含的像素86a~86d所对应的图像数据,以如下方式进行置换。例如,将发黑像素85b所对应的图像数据利用参照区块86的像素86b的图像数据置换掉,将发黑像素85d所对应的图像数据利用参照区块86的像素86d的图像数据置换掉。

(iii)修正部33b也可以使用基于在通过上述(i)或(ii)选择出的一个参照区块中获取的4个像素所对应的图像数据而生成的图像数据进行置换。修正部33b在例如选择了参照区块86的情况下,将关注区块内的发黑像素85b所对应的图像数据利用参照区块86所包含的像素86a及86b所对应的图像数据的平均值置换掉。另外,将关注区块内的发黑像素85d所对应的图像数据利用参照区块86所包含的像素86c及86d所对应的图像数据的平均值置换掉。

此外,在计算图像数据的平均值时,可以代替单纯取平均而利用根据距产生了泛白或发黑的像素的距离而加权的加权平均值进行置换。例如,由于像素86a所对应的图像数据比像素86b所对应的图像数据更接近发黑像素85b所对应的图像数据,所以赋予使像素86a所对应的图像数据的贡献率比像素86b所对应的图像数据的贡献率更高的权重。

(2-2)作为第1修正处理,修正部33b使用在多个参照区块中获取的图像数据,将关注区块内的产生了泛白或发黑的图像数据的全部置换掉。处理(2-2)的方式使用例如下述(i)~(iii)的某一方式。

(i)修正部33b使用在位于关注区块周围的参照区块中的、产生了泛白或发黑的区域周边的多个参照区块中获取的图像数据,将关注区块内的产生了泛白或发黑的多个图像数据利用各自不同的数据置换掉。例如,基于关注区块85周围的参照区块81~84、86~89中的、与发黑(像素85b、85d)相邻的两个参照区块86及88所包含的像素86a~86d及88a~88d所对应的图像数据,以如下方式进行置换。例如,将发黑像素85b所对应的图像数据利用相邻的参照区块86的像素86a的图像数据置换掉,将发黑像素85d所对应的图像数据利用相邻的参照区块88的像素88b的图像数据置换掉。

(ii)修正部33b使用在位于关注区块周围的参照区块中的、从对与产生了泛白或发黑的被摄体要素(例如山)相同的被摄体要素(山)设定得最多的摄像条件(在本例中为第4摄像条件)的参照区块选择出的多个参照区块中获取的图像数据,将关注区块内的产生了泛白或发黑的多个图像数据利用各自不同的数据置换掉。例如,基于关注区块85周围的参照区块81~84、86~89中的、从对山设定了第4摄像条件的参照区块83、86、88及89选择出的两个参照区块、例如参照区块86及88所包含的像素86a~86d及88a~88d所对应的图像数据,以如下方式进行置换。例如,将发黑像素85b所对应的图像数据利用参照区块86的像素86a的图像数据置换掉,将发黑像素85d所对应的图像数据利用参照区块88的像素88b的图像数据置换掉。

(iii)修正部33b可以使用基于在通过上述(i)或(ii)选择的多个参照区块中获取的多个像素所对应的图像数据而生成的图像数据进行置换。修正部33b在例如选择了参照区块86及88的情况下,将关注区块内的发黑像素85b及发黑像素85d所对应的图像数据如以下方式进行置换。即,将发黑像素85b所对应的图像数据利用参照区块86所包含的像素86a~86d所对应的图像数据的平均值置换掉。另外,将发黑像素85d所对应的图像数据利用参照区块88所包含的像素88a~88d所对应的图像数据的平均值置换掉。

此外,在计算图像数据的平均值时,也可以代替单纯取平均而利用根据距产生了泛白或发黑的像素的距离而加权的加权平均值进行置换。例如,由于像素86a所对应的图像数据比像素86b所对应的图像数据更接近发黑像素85b所对应的图像数据,所以赋予使像素86a所对应的图像数据的贡献率比像素86b所对应的图像数据的贡献率更高的权重。

另外,也可以代替计算参照区块86及88所包含的像素86a~86d及像素88a~88d所对应的图像数据的平均值,而计算像素86a~86d及像素88a~88d所对应的图像数据的中间值,并利用该中间值将发黑像素85b及像素85d所对应的图像数据置换掉。

在以上说明中,说明了各种方式下的第1修正处理。对于进行这些方式中的哪一方式的第1修正处理,控制部34可以基于例如操作部件36的设定(包含操作菜单设定)状态而决定。

此外,也可以根据对相机1设定的摄像场景模式、检测出的被摄体要素的种类,来决定控制部34进行哪一方式的第1修正处理。

<第2修正处理>

图像处理部33的修正部33b在进行图像处理、焦点检测处理、被摄体检测(检测被摄体要素)处理、及设定摄像条件的处理之前,还根据需要进行以下的第2修正处理。此外,修正部33b在如上所述将产生了泛白或发黑的像素置换掉之后进行第2修正处理。

此外,关于利用其他像素置换掉的发黑像素85b(或85d)的位置的图像数据,只要作为在对进行置换的像素(例如86a)进行拍摄的摄像条件下摄影的图像数据,进行下述的第2修正处理即可。另外,在使用摄像条件不同的多个区块的像素将发黑像素85b置换掉的情况下,可以作为各区块的摄像条件间的值(平均值、中间值)的摄影条件进行处理。例如,在利用以iso感光度100进行摄影的像素86c和以iso感光度1600进行摄影的像素88b来修正发黑像素85d的情况下,可以作为以iso感光度100与iso感光度1600之间的iso感光度800摄影得到的数据进行处理。

1.进行图像处理的情况

图像处理部33的修正部33b在针对在划分出的区域间适用不同的摄像条件而获取到的图像数据进行的图像处理为规定的图像处理的情况下,针对位于区域的边界部的图像数据,作为图像处理的前处理而进行第2修正处理。规定的图像处理是在图像中参照关注位置周围的多个参照位置的图像数据来计算成为处理对象的关注位置的图像数据的处理,例如,像素缺陷修正处理、颜色插补处理、轮廓强调处理、减噪处理等与之相符。

为了缓解因摄像条件在划分出的区域间不同导致在图像处理后的图像中产生的不连续性,而进行第2修正处理。通常,在关注位置位于划分出的区域的边界部的情况下,存在在关注位置周围的多个参照位置混合有适用了与关注位置的图像数据相同的摄像条件得到的图像数据、和适用了与关注位置的图像数据不同的摄像条件的得到图像数据的情况。在本实施方式中,相较于直接参照适用了不同摄像条件的参照位置的图像数据来计算关注位置的图像数据,更优选为了抑制因摄像条件的不同导致的图像数据间的差异而参照实施了第2修正处理后的参照位置的图像数据来计算出关注位置的图像数据,基于该想法,以如下方式进行第2修正处理。

图9的(a)是将图7的(a)的实时取景图像60a中的第1区域61与第4区域64的边界部的关注区域90放大的图。以白底示出了来自摄像元件32a上的设定了第1摄像条件的第1区域61所对应的像素的图像数据,以网格示出了来自摄像元件32a上的设定了第4摄像条件的第4区域64所对应的像素的图像数据。在图9的(a)中,来自关注像素p的图像数据位于第1区域61上、且位于第1区域61与第4区域64的边界91的附近部分、即边界部。将以关注像素p为中心的关注区域90(例如3×3像素)所包含的关注像素p周围的像素(在本例中为8个像素)设为参照像素pr。图9的(b)是关注像素p及参照像素pr1~pr8的放大图。关注像素p的位置为关注位置,包围关注像素p的参照像素pr1~pr8的位置为参照位置。对与第1区域61对应的参照像素pr1~pr6及关注像素p设定了第1摄像条件,对与第4区域64对应的参照像素pr7及pr8设定了第4摄像条件。

此外,在以下说明中,在对参照像素pr1~pr8进行总称的情况下标注附图标记pr。

图像处理部33的生成部33c通常不进行第2修正处理而直接参照参照像素pr的图像数据来进行图像处理。然而,在关注像素p中所适用的摄像条件(设为第1摄像条件)与在关注像素p周围的参照像素pr中所适用的摄像条件(设为第4摄像条件)不同的情况下,修正部33b对参照像素pr的图像数据中的第4摄像条件的图像数据如以下的(例1)~(例3)那样进行第2修正处理。然后,生成部33c进行参照第2修正处理后的参照像素pr的图像数据来计算出关注像素p的图像数据的图像处理。

(例1)

例如,在第1摄像条件与第4摄像条件之间仅iso感光度不同、第1摄像条件的iso感光度为100而第4摄像条件的iso感光度为800的情况下,图像处理部33的修正部33b针对参照像素pr的图像数据中的第4摄像条件的参照像素pr7、pr8的图像数据,作为第2修正处理而乘以100/800。由此,减小因摄像条件的不同而导致的图像数据间的差异。

此外,在向关注像素p的入射光量和向参照像素pr的入射光量相同的情况下图像数据的差异小,但在向关注像素p的入射光量和向参照像素pr的入射光量本来就不同的情况等下,也存在图像数据的差异不会变小的情况。后述的例子也是同样的。

(例2)

例如,在第1摄像条件与第4摄像条件之间仅快门速度不同、第1摄像条件的快门速度为1/1000秒而第4摄像条件的快门速度为1/100秒的情况下,图像处理部33的修正部33b针对参照像素pr的图像数据中的第4摄像条件的参照像素pr7、pr8的图像数据,作为第2修正处理而乘以(1/1000)/(1/100)=1/10。由此,减小因摄像条件的不同而导致的图像数据间的差异。

(例3)

例如,在第1摄像条件与第4摄像条件之间仅帧频不同(电荷蓄存时间相同)、第1摄像条件的帧频为30fps而第4摄像条件的帧频为60fps的情况下,针对参照像素pr的图像数据中的第4摄像条件(60fps)的图像数据,图像处理部33的修正部33b将采用获取开始定时与以第1摄像条件(30fps)获取到的帧图像近的帧图像的图像数据这一内容作为第2修正处理。由此,减小因摄像条件的不同而导致的图像数据间的差异。

此外,也可以将基于以第4摄像条件(60fps)获取的前后的多个帧图像而对获取开始定时与以第1摄像条件(30fps)获取的帧图像近的帧图像的图像数据进行插补计算这一内容作为第2修正处理。

另一方面,在关注像素p中所适用的摄像条件(设为第1摄像条件)与在关注像素p周围的全部参照像素pr中所适用的摄像条件(设为第4摄像条件)相同的情况下,图像处理部33的修正部33b不进行针对参照像素pr的图像数据的第2修正处理。也就是说,生成部33c进行直接对参照像素pr的图像数据进行参照来计算出关注像素p的图像数据的图像处理。

此外,如上所述,即使摄像条件中稍有差异也视为相同摄像条件。

<图像处理的例示>

对伴随第2修正处理的图像处理进行例示。

(1)像素缺陷修正处理

在本实施方式中,像素缺陷修正处理是在拍摄时进行的图像处理之一。通常,作为固态摄像元件的摄像元件32a存在在制造过程中或制造后产生像素缺陷、而输出电平异常的图像数据的情况。因此,图像处理部33的生成部33c通过对从产生了像素缺陷的像素输出的图像数据进行修正,来使产生了像素缺陷的像素位置处的图像数据变得不显著。

说明像素缺陷修正处理的一例。图像处理部33的生成部33c例如在1帧的图像中将预先记录于未图示的非易失性存储器的像素缺陷的位置的像素设为关注像素p(处理对象像素),将以关注像素p为中心的关注区域90(例如3×3像素)所包含的关注像素p周围的像素(在本例中为8像素)设为参照像素pr。

图像处理部33的生成部33c计算出参照像素pr中的图像数据的最大值、最小值,在从关注像素p输出的图像数据超过这些最大值或小于最小值时,进行将从关注像素p输出的图像数据利用上述最大值或最小值置换掉的max,min滤波处理。对位置信息被记录于未图示的非易失性存储器的全部像素缺陷进行这样的处理。

在本实施方式中,在上述参照像素pr中包含适用了与对关注像素p适用的第1摄像条件不同的第4摄像条件的像素的情况下,图像处理部33的修正部33b对适用了第4摄像条件得到的图像数据进行第2修正处理。然后,图像处理部33的生成部33c进行上述的max,min滤波处理。

(2)颜色插补处理

在本实施方式中,颜色插补处理是拍摄时进行的图像处理之一。如图3例示那样,摄像元件100的摄像芯片111以拜耳阵列排列有绿色像素gb、gr、蓝色像素b及红色像素r。由于在各像素位置中颜色成分与所配置的彩色滤光片f的颜色成分不同的图像数据不足,所以图像处理部33的生成部33c参照周边的像素位置的图像数据来进行生成不足的颜色成分的图像数据的颜色插补处理。

说明颜色插补处理的一例。图10的(a)是例示从摄像元件32a输出的图像数据的排列的图。与各像素位置对应地,遵照拜耳阵列规则具有r、g、b中的某一颜色成分。

<g色插补>

首先,说明普通的g色插补。进行g色插补的图像处理部33的生成部33c将r色成分及b色成分的位置顺次设为关注位置,对关注位置周围的参照位置的4个g色成分的图像数据进行参照来生成关注位置处的g色成分的图像数据。例如,在图10的(b)的粗框(从左上位置起数第2行第2列。以后也是同样的,从左上位置起数来表示关注位置)所示的关注位置中生成g色成分的图像数据的情况下,对位于关注位置(第2行第2列)附近的4个g色成分的图像数据g1~g4进行参照。图像处理部33的生成部33c将例如(ag1+bg2+cg3+dg4)/4设为关注位置(第2行第2列)处的g色成分的图像数据。此外,a~d是根据参照位置与关注位置之间的距离、图像构造而设置的加权系数。

接着,说明本实施方式的g色插补。在图10的(a)~图10的(c)中,设为对相对于粗线的左及上的区域适用了第1摄像条件,对相对于粗线的右及下的区域适用了第4摄像条件。此外,在图10的(a)~图10的(c)中,第1摄像条件与第4摄像条件不同。另外,图10的(b)中的g色成分的图像数据g1~g4是用于对关注位置(第2行第2列)的像素进行图像处理的参照位置。在图10的(b)中,对关注位置(第2行第2列)适用了第1摄像条件。对参照位置中的图像数据g1~g3适用了第1摄像条件。另外,对参照位置中的图像数据g4适用了第4摄像条件。因此,图像处理部33的修正部33b对图像数据g4进行第2修正处理。然后,图像处理部33的生成部33c计算出关注位置(第2行第2列)处的g色成分的图像数据。

图像处理部33的生成部33c通过在图10的(a)中的b色成分的位置及r色成分的位置分别生成g色成分的图像数据,而如图10的(c)所示,能够在各像素位置得到g色成分的图像数据。

<r色插补>

图11的(a)是从图10的(a)提取出r色成分的图像数据的图。图像处理部33的生成部33c基于图1o的(c)所示的g色成分的图像数据和图11的(a)所示的r色成分的图像数据,计算出图11的(b)所示的色差成分cr的图像数据。

首先,说明普通的色差成分cr的插补。图像处理部33的生成部33c在例如图11的(b)的粗框(第2行第2列)所示的关注位置生成色差成分cr的图像数据的情况下,对位于关注位置(第2行第2列)附近的4个色差成分的图像数据cr1~cr4进行参照。图像处理部33的生成部33c将例如(ecr1+fcr2+gcr3+hcr4)/4设为关注位置(第2行第2列)处的色差成分cr的图像数据。此外,e~h是根据参照位置与关注位置之间的距离、图像构造而设置的加权系数。

同样地,图像处理部33的生成部33c在例如图11的(c)的粗框(第2行第3列)所示的关注位置生成色差成分cr的图像数据的情况下,对位于关注位置(第2行第3列)附近的4个色差成分的图像数据cr2、cr4~cr6进行参照。图像处理部33的生成部33c将例如(qcr2+rcr4+scr5+tcr6)/4设为关注位置(第2行第3列)处的色差成分cr的图像数据。此外,q~t是根据参照位置与关注位置之间的距离、图像构造而设置的加权系数。这样,关于各像素位置生成了色差成分cr的图像数据。

接着,说明本实施方式的色差成分cr的插补。在图11的(a)~图11的(c)中,例如,设为对相对于粗线的左及上的区域适用了第1摄像条件,对相对于粗线的右及下的区域适用了第4摄像条件。此外,在图11的(a)~图11的(c)中,第1摄像条件与第4摄像条件不同。在图11的(b)中,粗框(第2行第2列)所示的位置是色差成分cr的关注位置。另外,图11的(b)中的色差成分的图像数据cr1~cr4是用于对关注位置(第2行第2列)的像素进行图像处理的参照位置。在图11的(b)中,对关注位置(第2行第2列)适用了第1摄像条件。对参照位置中的图像数据cr1、cr3、cr4适用了第1摄像条件。另外,对参照位置中的图像数据cr2适用了第4摄像条件。因此,图像处理部33的修正部33b对图像数据cr2进行第2修正处理。然后,图像处理部33的生成部33c计算出关注位置(第2行第2列)处的色差成分cr的图像数据。

另外,在图11的(c)中,粗框(第2行第3列)所示的位置是色差成分cr的关注位置。另外,图11的(c)中的色差成分的图像数据cr2、cr4、cr、cr6是用于对关注位置(第2行第3列)的像素进行图像处理的参照位置。在图11的(c)中,对关注位置(第2行第3列)适用了第4摄像条件。对参照位置中的图像数据cr4、cr5适用了第1摄像条件。另外,对参照位置中的图像数据cr2、cr6适用了第4摄像条件。因此,图像处理部33的修正部33b对图像数据cr4及cr5分别进行第2修正处理。然后,图像处理部33的生成部33c计算出关注位置(第2行第3列)处的色差成分cr的图像数据。

图像处理部33的生成部33c在各像素位置得到色差成分cr的图像数据后,与各像素位置对应地将图10的(c)所示的g色成分的图像数据相加,由此能够在各像素位置得到r色成分的图像数据。

<b色插补>

图12的(a)是从图10的(a)将b色成分的图像数据提取出的图。图像处理部33的生成部33c基于图10的(c)所示的g色成分的图像数据和图12的(a)所示的b色成分的图像数据,计算出图12的(b)所示的色差成分cb的图像数据。

首先,说明普通的色差成分cb的插补。图像处理部33的生成部33c在例如图12的(b)的粗框(第3行第3列)所示的关注位置生成色差成分cb的图像数据的情况下,对位于关注位置(第3行第3列)附近的4个色差成分的图像数据cb1~cb4进行参照。图像处理部33的生成部33c将例如(ucb1+vcb2+wcb3+xcb4)/4设为关注位置(第3行第3列)处的色差成分cb的图像数据。此外,u~x是根据参照位置与关注位置之间的距离、图像构造而设置的加权系数。

同样地,图像处理部33的生成部33c在例如图12的(c)的粗框(第3行第4列)所示的关注位置生成色差成分cb的图像数据的情况下,对位于关注位置(第3行第4列)附近的4个色差成分的图像数据cb2、cb4~cb6进行参照。图像处理部33的生成部33c将例如(ycb2+zcb4+αcb5+βcb6)/4设为关注位置(第3行第4列)处的色差成分cb的图像数据。此外,y、z、α、β是根据参照位置与关注位置之间的距离、图像构造而设置的加权系数。这样,关于各像素位置生成了色差成分cb的图像数据。

接着,说明本实施方式的色差成分cb的插补。在图12的(a)~图12的(c)中,例如,设为对相对于粗线的左及上的区域适用了第1摄像条件,对相对于粗线的右及下的区域适用了第4摄像条件。此外,在图12的(a)~图12的(c)中,第1摄像条件与第4摄像条件不同。在图12的(b)中,粗框(第3行第3列)所示的位置是色差成分cb的关注位置。另外,图12的(b)中的色差成分的图像数据cb1~cb4是用于对关注位置(第3行第3列)的像素进行图像处理的参照位置。在图12的(b)中,对关注位置(第3行第3列)适用了第4摄像条件。对参照位置中的图像数据cb1、cb3适用了第1摄像条件。另外,对参照位置中的图像数据cb2、cb4适用了第4摄像条件。因此,图像处理部33的修正部33b对数据cb1及cb3分别进行第2修正处理。然后,图像处理部33的生成部33c计算出关注位置(第3行第3列)处的色差成分cb的图像数据。

另外,在图12的(c)中,粗框(第3行第4列)所示的位置是色差成分cb的关注位置。另外,图12的(c)中的色差成分的图像数据cb2、cb4~cb6是用于对关注位置(第3行第4列)的像素进行图像处理的参照位置。在图12的(c)中,对关注位置(第3行第4列)适用了第4摄像条件。另外,对全部参照位置的图像数据cb2、cb4~cb6适用了第4摄像条件。因此,图像处理部33的生成部33c参照不通过图像处理部33的修正部33b进行第2修正处理的参照位置的图像数据cb2、cb4~cb6,计算出关注位置(第3行第4列)处的色差成分cb的图像数据。

图像处理部33的生成部33c在各像素位置得到色差成分cb的图像数据后,与各像素位置对应地将图10的(c)所示的g色成分的图像数据相加,由此能够在各像素位置得到b色成分的图像数据。

此外,在上述“g色插补”中,例如,设为在图10的(b)的粗框(第2行第2列)所示的关注位置生成g色成分的图像数据的情况下,对位于关注位置附近的4个g色成分的图像数据g1~g4进行参照,但也可以根据图像构造而变更要参照的g色成分的图像数据的数量。例如,在关注位置附近的图像沿纵向具有类似性(例如,纵条纹的图案)的情况下,仅使用关注位置的上下的图像数据(图10的(b)的g1和g2)进行插补处理。另外,例如,在关注位置附近的图像沿横向具有类似性(例如,横条纹的图案)的情况下,仅使用关注位置的左右的图像数据(图10的(b)的g3和g4)进行插补处理。这些情况下,存在使用通过修正部33b进行修正的图像数据g4的情况和不使用该图像数据g4的情况。像这样,通过修正部33b进行第1修正处理、第2修正处理及插补处理,即使在产生了发黑像素85b、85d的情况下,也能够修正发黑并生成图像。

(3)轮廓强调处理

说明轮廓强调处理的一例。图像处理部33的生成部33c例如在1帧的图像中,进行使用了以关注像素p(处理对象像素)为中心的规定大小的卷积核(kernel)的、公知的线性滤波(linearfilter)运算。在作为线性滤波器的一例的锐化滤波器的卷积核大小为n×n像素的情况下,关注像素p的位置是关注位置,包围关注像素p的(n2-1)个参照像素pr的位置是参照位置。

此外,卷积核大小也可以是n×m像素。

图像处理部33的生成部33c例如从帧图像的上部的水平行朝向下部的水平行,在各水平行上一边从左向右错开关注像素一边进行将关注像素p处的图像数据用线性滤波运算结果置换的滤波处理。

在本实施方式中,在上述参照像素pr中包含适用了与对关注像素p适用的第1摄像条件不同的第4摄像条件的像素的情况下,图像处理部33的修正部33b对适用了第4摄像条件得到的图像数据进行第2修正处理。然后,图像处理部33的生成部33c进行上述线性滤波处理。

(4)减噪处理

说明减噪处理的一例。图像处理部33的生成部33c例如在1帧的图像中进行使用了以关注像素p(处理对象像素)为中心的规定大小的卷积核的、公知的线性滤波(linearfilter)运算。在作为线性滤波器的一例的平滑化滤波器的卷积核大小为n×n像素的情况下,关注像素p的位置是关注位置,包围关注像素p的(n2-1)个参照像素pr的位置是参照位置。

此外,卷积核大小也可以是n×m像素。

图像处理部33的生成部33c例如从帧图像的上部的水平行朝向下部的水平行,在各水平行上一边从左向右错开关注像素一边进行将关注像素p中的图像数据用线性滤波运算结果置换掉的滤波处理。

在本实施方式中,在上述参照像素pr中包含适用了与对关注像素p适用的第1摄像条件不同的第4摄像条件的像素的情况下,图像处理部33的修正部33b对适用了第4摄像条件得到的图像数据进行第2修正处理。然后,图像处理部33的生成部33c进行上述线性滤波处理。

2.进行焦点检测处理的情况

在上述例子中,作为第1修正处理,将产生了泛白或发黑等的像素以其他区块的像素的图像数据置换掉,但在仅以焦点调节为目的的情况下,只要将基于产生了泛白或发黑的焦点检测用的像素得到的信号以基于其他焦点检测用的像素得到的信号置换掉即可。关于以其他焦点检测用的信号进行置换的方法,与将产生了泛白或发黑的像素的图像数据置换的方法相同,因此省略详情。在基于图像的对比度进行的焦点调节的情况下,只要使用通过上述第1修正处理进行了置换的图像数据即可。

控制部34的透镜移动控制部34d使用与摄像画面的规定位置(聚焦点)对应的信号数据(图像数据)来进行焦点检测处理。控制部34的透镜移动控制部34d在划分出的区域间设定了不同的摄像条件、且af动作的聚焦点位于划分出的区域的边界部分的情况下,至少针对一个区域的焦点检测用的信号数据进行第2修正处理来作为焦点检测处理的前处理。

第2修正处理是为了抑制因在设定部34b划分出的摄像画面的区域间摄像条件不同导致焦点检测处理的精度降低而进行的。例如,在图像中检测像偏移量(相位差)的聚焦点的焦点检测用的信号数据位于划分出的区域的边界部的情况下,存在在焦点检测用的信号数据中混合有适用了不同的摄像条件得到的信号数据的情况。在本实施方式中,与将适用了不同的摄像条件得到的信号数据直接使用来进行像偏移量(相位差)的检测相比,更优选使用实施了第2修正处理得到的信号数据来进行像偏移量(相位差)的检测以抑制因摄像条件的不同导致的信号数据间的差异,基于该想法,以如下方式进行第2修正处理。

<焦点检测处理的例示>

对伴随第2修正处理的焦点检测处理进行例示。本实施方式的af动作例如使焦点匹配于与由用户从摄像画面的多个聚焦点中选择的聚焦点对应的被摄体。控制部34的透镜移动控制部34d(生成部)检测基于从摄像光学系统31的不同光瞳区域通过的光束产生的多个被摄体像的像偏移量(相位差),由此计算出摄像光学系统31的离焦量。控制部34的透镜移动控制部34d使摄像光学系统31的聚焦透镜向离焦量成为零(容许值以下)的位置、即对焦位置移动,调节摄像光学系统31的焦点。

图13是例示摄像元件32a的拍摄面中的焦点检测用像素的位置的图。在本实施方式中,沿着摄像芯片111的x轴方向(水平方向)离散地排列设有焦点检测用像素。在图13的例子中,以规定间隔设有15条焦点检测像素行160。构成焦点检测像素行160的焦点检测用像素输出焦点检测用的光电转换信号。在摄像芯片111中在焦点检测像素行160以外的像素位置设有普通的摄像用像素。摄像用像素输出实时取景图像、记录用的光电转换信号。

图14是将与图13所示的聚焦点80a对应的上述焦点检测像素行160的一部分区域放大的图。在图14中,例示了红色像素r、绿色像素g(gb、gr)及蓝色像素b、焦点检测用像素s1及焦点检测用像素s2。红色像素r、绿色像素g(gb、gr)及蓝色像素b遵照上述拜耳阵列的规则配置。

针对红色像素r、绿色像素g(gb、gr)及蓝色像素b例示的正方形状的区域表示摄像用像素的受光区域。各摄像用像素接收从摄像光学系统31(图1)的射出光瞳通过的光束。即,红色像素r、绿色像素g(gb、gr)及蓝色像素b分别具有正方形状的掩模开口部,从这些掩模开口部通过了的光到达摄像用像素的受光部。

此外,红色像素r、绿色像素g(gb、gr)及蓝色像素b的受光区域(掩模开口部)的形状不限定于四边形,也可以是例如圆形。

针对焦点检测用像素s1及焦点检测用像素s2例示的半圆形状的区域表示焦点检测用像素的受光区域。即,焦点检测用像素s1在图14中,在像素位置的左侧具有半圆形状的掩模开口部,从该掩模开口部通过了的光到达焦点检测用像素s1的受光部。另一方面,焦点检测用像素s2在图14中,在像素位置的右侧具有半圆形状的掩模开口部,从该掩模开口部通过了的光到达焦点检测用像素s2的受光部。像这样,焦点检测用像素s1及焦点检测用像素s2分别接收从摄像光学系统31(图1)的射出光瞳的不同区域通过的一对光束。

此外,摄像芯片111中的焦点检测像素行160的位置不限定于图13所例示的位置。另外,关于焦点检测像素行160的数量,也不限定于图13的例子。而且,焦点检测用像素s1及焦点检测用像素s2中的掩模开口部的形状不限定于半圆形,也可以是例如将摄像用像素r、摄像用像素g、摄像用像素b中的四边形状受光区域(掩模开口部)沿横向划分出的长方形状。

另外,摄像芯片111中的焦点检测像素行160也可以将焦点检测用像素沿着摄像芯片111的y轴方向(铅垂方向)排列设置。如图14那样将摄像用像素和焦点检测用像素排列成二维状的摄像元件是公知的,省略这些像素的详细图示及说明。

此外,在图14的例子中,说明了焦点检测用像素s1、s2分别接收焦点检测用的一对光束中的一方的结构、即所谓1pd构造。但也可以取而代之,而为焦点检测用像素分别接收焦点检测用的一对光束双方的结构,即所谓2pd构造。通过成为2pd构造,能够将在焦点检测用像素得到的光电转换信号用作记录用的光电转换信号。

控制部34的透镜移动控制部34d基于从焦点检测用像素s1及焦点检测用像素s2输出的焦点检测用的光电转换信号,对由从摄像光学系统31(图1)的不同区域通过的一对光束产生的一对像的像偏移量(相位差)进行检测。然后,基于像偏移量(相位差)运算离焦量。这样的基于光瞳划分相位差方式的离焦量运算在相机领域中是公知的,因此省略详细说明。

设为聚焦点80a(图13)在图7的(a)所例示的实时取景图像60a中,在例如与第1区域61及第4区域64的边界部的关注区域90对应的位置由用户选取。图15是将聚焦点80a放大的图。白底的像素表示设定了第1摄像条件,网格的像素表示设定了第4摄像条件。在图15中框170所包围的位置与焦点检测像素行160(图13)对应。

控制部34的透镜移动控制部34d通常不进行第2修正处理而直接使用基于框170所示的焦点检测用像素得到的信号数据来进行焦点检测处理。然而,在框170所包围的信号数据中混合有被适用了第1摄像条件得到的信号数据和被适用了第4摄像条件得到的信号数据的情况下,控制部34的透镜移动控制部34d针对框170所包围的信号数据中的第4摄像条件的信号数据,如以下的(例1)~(例3)那样进行第2修正处理。然后,控制部34的透镜移动控制部34d使用第2修正处理后的信号数据进行焦点检测处理。

(例1)

在例如第1摄像条件与第4摄像条件之间仅iso感光度不同、第1摄像条件的iso感光度为100而第4摄像条件的iso感光度为800的情况下,控制部34的透镜移动控制部34d针对第4摄像条件的信号数据,作为第2修正处理而乘以100/800。由此,减小因摄像条件的不同导致的信号数据间的差异。

此外,在向适用了第1摄像条件的像素的入射光量与向适用了第4摄像条件的像素的入射光量相同的情况下信号数据的差异小,但在向适用了第1摄像条件的像素的入射光量与向适用了第4摄像条件的像素的入射光量本来就不同的情况等下,也存在信号数据的差异不会变小的情况。后述的例子也是同样的。

(例2)

在例如第1摄像条件与第4摄像条件之间仅快门速度不同、第1摄像条件的快门速度为1/1000秒而第4摄像条件的快门速度为1/100秒的情况下,控制部34的透镜移动控制部34d针对第4摄像条件的信号数据,作为第2修正处理而乘以1/1000/1/100=1/10。由此,减小因摄像条件的不同导致的信号数据间的差异。

(例3)

在例如第1摄像条件与第4摄像条件之间仅帧频不同(电荷蓄存时间相同)、第1摄像条件的帧频为30fps而第4摄像条件的帧频为60fps的情况下,控制部34的透镜移动控制部34d针对第4摄像条件(60fps)的信号数据,将采用获取开始定时与以第1摄像条件(30fps)获取的帧图像近的帧图像的信号数据这一内容作为第2修正处理。由此,减小因摄像条件的不同导致的信号数据间的差异。

此外,也可以将基于以第4摄像条件(60fps)获取的前后的多个帧图像,对获取开始定时与以第1摄像条件(30fps)获取到的帧图像近的帧图像的信号数据进行插补计算这一内容作为第2修正处理。

另一方面,控制部34的透镜移动控制部34d在框170所包围的信号数据中适用的摄像条件相同的情况下不进行上述第2修正处理。也就是说,控制部34的透镜移动控制部34d直接使用基于框170所示的焦点检测用像素得到的信号数据来进行焦点检测处理。

此外,如上所述,即使摄像条件中稍有差异也视为相同摄像条件。

另外,在上述例子中,说明了针对信号数据中的第4摄像条件的信号数据而利用第1摄像条件进行第2修正处理的例子,但也可以针对信号数据中的第1摄像条件的信号数据而利用第4摄像条件进行第2修正处理。

控制部34的透镜移动控制部34d可以基于例如iso感光度来决定对第1摄像条件的信号数据进行第2修正处理,还是对第4摄像条件的信号数据进行第2修正处理。在第1摄像条件和第4摄像条件中iso感光度不同的情况下,期望若在iso感光度较高的摄像条件下得到的信号数据没有饱和,则对在iso感光度较低的摄像条件下得到的信号数据进行第2修正处理。即,在第1摄像条件和第4摄像条件中iso感光度不同的情况,期望对较暗的信号数据进行第2修正处理,以减小与较亮的信号数据之差。

而且,也可以通过对信号数据中的第1摄像条件的信号数据及第4摄像条件的信号数据分别进行第2修正处理,来减小第2修正处理后的双方的信号数据间的差。

在以上说明中,例示了使用光瞳划分相位差方式的焦点检测处理,但在基于被摄体像的对比度的大小来使摄像光学系统31的聚焦透镜向对焦位置移动的对比度检测方式的情况下也能够同样地进行。

在使用对比度检测方式的情况下,控制部34一边使摄像光学系统31的聚焦透镜移动,一边在聚焦透镜的各个位置基于从与聚焦点对应的摄像元件32a的摄像用像素输出的信号数据进行公知的焦点评估值运算。然后,将焦点评估值为最大的聚焦透镜的位置求出为对焦位置。

控制部34通常不进行第2修正处理而直接使用从与聚焦点对应的摄像用像素输出的信号数据来进行焦点评估值运算。然而,在与聚焦点对应的信号数据中混合有适用了第1摄像条件得到的信号数据和适用了第4摄像条件得到的信号数据的情况下,控制部34对与聚焦点对应的信号数据中的第4摄像条件的信号数据,进行上述那样的第2修正处理。然后,控制部34使用第2修正处理后的信号数据来进行焦点评估值运算。像这样,通过修正部33b进行第1修正处理、第2修正处理及插补处理,即使在产生了发黑像素85b、85d的情况下,也能够修正发黑并进行焦点调节。因此,即使具有发黑像素85b或85d,也能够根据透镜的移动来调节焦点。

在上述例子中,在进行第2修正处理之后进行焦点调节处理,但也可以不进行第2修正处理而利用由第1修正处理得到的图像数据来进行焦点调节。

3.进行被摄体检测处理的情况

图16的(a)是对表示要检测的对象物的模板图像进行例示的图,图16的(b)是对实时取景图像60a及搜索范围190进行例示的图。控制部34的物体检测部34a从实时取景图像检测对象物(例如,图5的作为被摄体要素之一的包63a)。控制部34的物体检测部34a可以将检测对象物的范围设为实时取景图像60a的整个范围,也可以为了减轻检测处理而将实时取景图像60a的一部分设为搜索范围190。

在划分出的区域间设定了不同的摄像条件、且搜索范围190包含划分出的区域的边界的情况下,控制部34的物体检测部34a针对搜索范围190内的至少一个区域的图像数据,作为被摄体检测处理的前处理而进行第2修正处理。

第2修正处理是为了抑制因在设定部34b所划分出的摄像画面的区域间摄像条件不同导致被摄体要素的检测处理的精度降低而进行的。通常,在用于检测被摄体要素的搜索范围190中包含划分出的区域的边界的情况下,存在搜索范围190的图像数据中混合有适用了不同的摄像条件得到的图像数据的情况。在本实施方式中,相较于将适用了不同的摄像条件得到的图像数据直接使用来进行被摄体要素的检测,更优选使用实施了第2修正处理得到的图像数据来进行被摄体要素的检测以抑制因摄像条件的不同导致的图像数据间的差异,基于该想法,以如下方式进行第2修正处理。

说明在图5所例示的被摄体的像中,对作为人物61a的所持物的包63a进行检测的情况。控制部34的物体检测部34a在包含人物61a的区域附近设定搜索范围190。此外,也可以将包含人物61a的区域61设定为搜索范围。

控制部34的物体检测部34a在搜索范围190没有被摄像条件不同的两个区域分割的情况下,不进行第2修正处理而直接使用构成搜索范围190的图像数据来进行被摄体检测处理。然而,假设在搜索范围190的图像数据中混合有适用了第1摄像条件得到的图像数据和适用了第4摄像条件得到的图像数据的情况下,控制部34的物体检测部34a针对搜索范围190的图像数据中的第4摄像条件的图像数据,作为进行焦点检测处理的情况,而如上述的(例1)~(例3)那样进行第2修正处理。然后,控制部34的物体检测部34a使用第2修正处理后的图像数据来进行被摄体检测处理。

此外,如上所述,即使摄像条件中稍有差异也视为相同的摄像条件。

另外,在上述例子中,说明了针对图像数据中的第4摄像条件的图像数据而利用第1摄像条件进行第2修正处理的例子,但也可以针对图像数据中的第1摄像条件的图像数据而利用第4摄像条件进行第2修正处理。

上述的针对搜索范围190的图像数据进行的第2修正处理,也可以对为了检测人物面部这样的特定被摄体而使用的搜索范围、摄像场景的判定中使用的区域适用。

另外,上述的针对搜索范围190的图像数据进行的第2修正处理不限于使用模板图像的模式匹配(patternmatching)法中使用的搜索范围,也可以在检测基于图像颜色和/或边缘等的特征量时的搜索范围中同样地适用。

另外,也可以适用于移动体的追踪处理,即通过使用获取时刻不同的多帧的图像数据来实施公知的模板匹配处理,从在后获取的帧图像检索与在先获取的帧图像中的追踪对象物类似的区域。在该情况下,控制部34在对在后获取的帧图像设定的搜索范围中混合有适用了第1摄像条件得到的图像数据和适用了第4摄像条件得到的图像数据的情况下,针对搜索范围的图像数据中的第4摄像条件的图像数据,如上述的(例1)~(例3)那样进行第2修正处理。然后,控制部34使用第2修正处理后的图像数据来进行追踪处理。

而且,在使用获取时刻不同的多帧的图像数据来检测公知的移动矢量的情况下也是同样的。控制部34在用于检测移动矢量的检测区域中混合有适用了第1摄像条件得到的图像数据和适用了第4摄像条件得到的图像数据的情况下,针对用于检测移动矢量的检测区域的图像数据中的第4摄像条件的图像数据,如上述的(例1)~(例3)那样进行第2修正处理。然后,控制部34使用第2修正处理后的图像数据来检测移动矢量。像这样,通过修正部33b进行第1修正处理、第2修正处理及插补处理,即使在产生了发黑像素85b、85d的情况下,也能够修正发黑并进行上述的被摄体检测等。因此,即使具有发黑像素85b或85d,也能够进行被摄体件检测。

在上述例子中,在进行了第2修正处理之后进行被摄体检测处理,但也可以不进行第2修正处理而利用由第1修正处理得到的图像数据来进行被摄体检测。

4.设定摄像条件的情况

控制部34的设定部34b划分摄像画面的区域,并在以划分出的区域间设定了不同的摄像条件的状态重新测光来决定曝光条件的情况下,针对至少一个区域的图像数据,作为设定曝光条件的前处理而进行第2修正处理。

第2修正处理是为了抑制因在设定部34b所划分出的摄像画面的区域间摄像条件不同导致决定曝光条件的处理的精度降低而进行的。例如,在对摄像画面的中央部设定的测光范围中包含划分出的区域的边界的情况下,存在在测光范围的图像数据中混合有适用了不同的摄像条件得到的图像数据的情况。在本实施方式中,相较于将适用了不同的摄像条件得到的图像数据直接使用来进行曝光运算处理,更优选使用实施了第2修正处理得到的图像数据来进行曝光运算处理以抑制因摄像条件的不同导致的图像数据间的差异,基于该想法,以如下方式进行第2修正处理。

控制部34的设定部34b在测光范围没有被摄像条件不同的多个区域分割的情况下,不进行第2修正处理而直接使用构成测光范围的图像数据来进行曝光运算处理。然而,假设在测光范围的图像数据中混合有适用了第1摄像条件得到的图像数据和适用了第4摄像条件得到的图像数据的情况下,控制部34的设定部34b针对测光范围的图像数据中的第4摄像条件的图像数据,作为进行焦点检测处理、被摄体检测处理的情况,如上述的(例1)~(例3)那样进行第2修正处理。然后,控制部34的设定部34b使用第2修正处理后的图像数据来进行曝光运算处理。

此外,如上所述,即使摄像条件中稍有差异也视为相同的摄像条件。

另外,在上述例子中,说明了针对图像数据中的第4摄像条件的图像数据而利用第1摄像条件进行第2修正处理的例子,但也可以针对图像数据中的第1摄像条件的图像数据而利用第4摄像条件进行第2修正处理。

不限于上述的进行曝光运算处理时的测光范围,在决定白平衡调整值时进行的测光(测色)范围、在决定是否需要基于发出摄影辅助光的光源发出摄影辅助光时进行的测光范围、以及在决定基于上述光源发出的摄影辅助光的发光量时进行的测光范围中也是同样的。

另外,在将摄像画面划分出的区域间中使光电转换信号的读出析像度不同的情况下,也能够针对在决定每个区域的读出析像度时进行的、摄影场景的判定中使用的区域同样地进行处理。像这样,通过修正部33b进行第1修正处理、第2修正处理及插补处理,即使在产生了发黑像素85b、85d的情况下,也能够修正发黑并进行摄影条件的设定。因此,即使具有发黑像素85b或85d,也能够设定摄影条件。

在上述例子中,在进行了第2修正处理之后进行摄影条件的设定,但也可以不进行第2修正处理而利用由第1修正处理得到的图像数据来进行摄影条件的设定。

<流程图的说明>

图17是说明按每个区域设定摄像条件来进行拍摄的处理流程的流程图。当相机1的主开关被on操作后,控制部34使执行图17所示的处理的程序启动。在步骤s10中,控制部34在显示部35上开始实时取景显示,之后进入步骤s20。

具体地说,控制部34向摄像部32指示开始获取实时取景图像,将获取到的实时取景图像依次显示于显示部35。如上所述,在该时间点,在摄像芯片111的整个区域、即画面整体设定了相同的摄像条件。

此外,在实时取景显示中实施了进行af动作的设定的情况下,控制部34的透镜移动控制部34d进行焦点检测处理,由此控制将焦点匹配于与规定的聚焦点对应的被摄体要素的af动作。透镜移动控制部34d根据需要,在进行上述第1修正处理及上述第2修正处理,或者进行上述第1修正处理或上述第2修正处理之后进行焦点检测处理。

另外,在实时取景显示中没有实施进行af动作的设定的情况下,控制部34的透镜移动控制部34d在随后被指示af动作的时间点进行af动作。

在步骤s20中,控制部34的物体检测部34a从实时取景图像检测被摄体要素,之后进入步骤s30。物体检测部34a根据需要,在进行上述第1修正处理及上述第2修正处理,或者进行上述第1修正处理或上述第2修正处理之后进行被摄体检测处理。在步骤s30中,控制部34的设定部34b将实时取景图像的画面划分成包含被摄体要素的区域,之后进入步骤s40。

在步骤s40中,控制部34在显示部35上进行区域的显示。控制部34如图6中例示那样,对划分出的区域中的成为摄像条件的设定(变更)对象的区域进行强调显示。另外,控制部34使摄像条件的设定画面70显示于显示部35,之后进入步骤s50。

此外,在显示画面上的其他主要被摄体的显示位置被用户的手指点击操作了的情况下,控制部34将包含该主要被摄体的区域变更为成为摄像条件的设定(变更)对象的区域并进行强调显示。

在步骤s50中,控制部34判定是否需要af动作。控制部34在例如因被摄体移动而导致焦点调节状态变化了的情况下、通过用户操作变更了聚焦点的位置的情况下、或通过用户操作指示了af动作的执行的情况下,对步骤s50进行肯定判定并进入步骤s70。控制部34在焦点调节状态没有变化、没有通过用户操作变更聚焦点的位置、也没有通过用户操作指示af动作的执行的情况下,对步骤s50进行否定判定并进入步骤60。

在步骤s70中,控制部34进行af动作之后返回到步骤s40。透镜移动控制部34d根据需要,在进行上述第1修正处理及上述第2修正处理,或者进行上述第1修正处理或上述第2修正处理之后进行作为af动作的焦点检测处理。返回到步骤s40的控制部34基于在af动作后获取的实时取景图像,重复进行与上述处理相同的处理。

在步骤s60中,控制部34的设定部34b根据用户操作,设定针对正在强调显示的区域的摄像条件,之后进入步骤s80。此外,关于步骤s60中的、与用户操作相应的显示部35的显示变化和摄像条件的设定,如上所述。控制部34的设定部34b根据需要,在进行上述第1修正处理及上述第2修正处理,或者进行上述第1修正处理或上述第2修正处理之后进行曝光运算处理。

在步骤s80中,控制部34判定有无拍摄指示。控制部34在构成操作部件36的未图示的释放按钮或指示拍摄的显示图标被操作了的情况下,对步骤s80进行肯定判定并进入步骤s90。控制部34在没有进行拍摄指示的情况下,对步骤s80进行否定判定并返回步骤s60。

在步骤s90中,控制部34进行规定的拍摄处理。即,摄像控制部34c以按上述每个区域设定的摄像条件进行拍摄的方式控制摄像元件32a,之后进入步骤s100。

在步骤s100中,控制部34的摄像控制部34c向图像处理部33发送指示,对通过上述拍摄得到的图像数据进行规定的图像处理,之后进入步骤s110。图像处理包含上述像素缺陷修正处理、颜色插补处理、轮廓强调处理、减噪处理。

此外,图像处理部33的修正部33b根据需要,针对位于区域的边界部的图像数据,在进行上述第1修正处理及上述第2修正处理,或者进行上述第1修正处理或上述第2修正处理之后进行图像处理。

在步骤s110中,控制部34向记录部37发送指示,将图像处理后的图像数据记录到未图示的记录介质,之后进入步骤s120。

在步骤s120中,控制部34判断是否进行了结束操作。控制部34在进行了结束操作的情况下,对步骤s120进行肯定判定并结束图17的处理。控制部34在没有进行结束操作的情况下,对步骤s120进行否定判定,并返回到步骤s20。在返回到步骤s20的情况下,控制部34重复进行上述处理。

在以上说明中,作为摄像元件32a而例示了层叠型的摄像元件100,但只要能够按摄像元件(摄像芯片111)中的多个区块的每个区块设定摄像条件,则不必一定构成为层叠型的摄像元件。

根据以上说明的第1实施方式,得到以下的作用效果。

(1)具备图像处理装置的相机1具有:摄像部32,其具有以第1摄像条件进行拍摄的第1区域61、和以与第1摄像条件不同的第4摄像条件进行拍摄的第4区域64;以及图像处理部33,其根据在第4区域64拍摄到的被摄体的图像数据,生成在第1区域61拍摄到的被摄体的图像。由此,在例如在由第1区域61拍摄到的被摄体像的图像中产生了因对第1区域61设定的摄像条件而导致的不恰当的图像数据的情况下,能够使用利用与第1区域61不同的摄像条件在第4区域64拍摄到的被摄体像的图像来恰当地生成图像数据。具体地说,能够生成对图7的(b)的区块82、区块85及区块87的斜线部与区块83、86、88及89的网格部之间的图像的明暗、对比度、色调等的不同等、图像的不连续性和不协调感进行抑制的图像数据。

(2)具备图像处理装置的相机1具有:摄像部32,其具有以第1摄像条件进行拍摄的第1区域61、和以与第1摄像条件不同的第4摄像条件进行拍摄的第4区域64;以及图像处理部33,其根据在第4区域64拍摄到的被摄体的图像数据,生成在第1区域61拍摄到的被摄体的图像数据。由此,在例如在由第1区域61拍摄得到的被摄体像的图像中产生了因对第1区域61设定的摄像条件而导致的不恰当的图像数据的情况下,能够使用利用与第1区域61不同的摄像条件在第4区域64拍摄到的被摄体像的图像来恰当地生成图像数据。具体地说,能够生成对图7的(b)的区块82、区块85及区块87的斜线部与区块83、86、88及89的网格部之间的图像的明暗、对比度、色调等的不同等、图像的不连续性和不协调感进行抑制的图像数据。

(3)图像处理部33根据在第4区域64拍摄到的被摄体的图像数据来生成在第1区域61拍摄到的被摄体的图像的图像数据。由此,在例如在由第1区域61拍摄得到的被摄体像的图像中产生了因对第1区域61设定的摄像条件而导致的不恰当的图像数据的情况下,能够使用利用与第1区域61不同的摄像条件在第4区域64拍摄到的被摄体像的图像,来恰当地生成图像数据。

(4)图像处理部33根据在第4区域64拍摄到的被摄体的图像数据,生成在第1区域61拍摄到的被摄体的一部分的图像数据。由此,在由第1区域61拍摄得到的图像的一部分(关注区块)中产生了不恰当的图像数据的情况下,能够使用在摄像条件与第1区域61不同的第4区域64拍摄到的图像(参照区块)的图像数据,来恰当地生成图像数据。

(5)图像处理部33根据在第4区域64拍摄到的被摄体的图像数据,生成在第1区域61拍摄到的被摄体的一部分的图像数据。在第1区域61拍摄到的被摄体的一部分和在第4区域64拍摄到的被摄体的至少一部分被检测为同一被摄体。由此,在同一被摄体、例如图7中的山被第1区域61和第4区域64拍摄的情况下,能够将在第1区域61拍摄得到的关于山的图像数据利用在第4区域64拍摄到的关于山的图像数据置换掉。因此,能够恰当地生成图像数据。

(6)第4区域64的面积大于第1区域61的面积。由此,基于在面积比第1区域61大的第4区域64拍摄到的被摄体的图像数据来生成在第1区域61拍摄到的被摄体的图像数据,因此能够恰当地生成图像数据。

(7)第4区域64的面积为第1区域61的面积以下。即,在将由关注区块获取到的图像数据使用由参照区块获取到的图像数据置换掉时,通过将例如关注区块所包含的多个像素所对应的多个图像数据使用同数或其数量以下的图像数据置换掉,能够抑制置换处理的运算负荷。

(8)图像处理部33根据在第4区域64的一部分的区域拍摄到的被摄体的图像数据,生成在第1区域61拍摄到的被摄体的图像数据。由此,在由第1区域61拍摄到的图像的一部分(关注区块)中产生了不恰当的图像数据的情况下,能够使用在摄像条件与第1区域61不同的第4区域64拍摄到的图像的一部分(参照区块),来恰当地生成图像数据。

(9)第4区域64具有包含将光转换成电荷的光电转换部的像素86a、和包含将光转换成电荷的光电转换部的不同于像素86a的像素86b。图像处理部33根据由像素86a及像素86b中的某一像素拍摄到的被摄体的图像数据,生成在第1区域61拍摄到的被摄体的图像数据。由此,在例如由第1区域61拍摄到的被摄体像的图像中产生了因对第1区域61设定的摄像条件而导致的不恰当的图像数据的情况下,能够使用利用与第1区域61不同的摄像条件在第4区域64拍摄到的被摄体像的图像,来恰当地生成图像数据。

(10)图像处理部33在第1区域61与像素86a的间隔比第1区域61与上述像素86b的间隔短的情况下,根据由像素86a拍摄到的被摄体的图像数据来生成在第1区域61拍摄到的被摄体的图像数据。即,在将由关注区块获取到的图像数据使用由参照区块获取到的图像数据置换掉时,使用来自参照区块所包含的像素中的、与关注区块所包含的成为置换对象的像素更接近的像素的图像数据进行置换。由此,能够恰当地生成图像数据。

(11)图像处理部33根据从在第4区域64拍摄到的被摄体的图像数据计算出的数据,生成在第1区域61拍摄到的被摄体的图像数据。由此,在例如在由第1区域61拍摄到的被摄体像的图像中产生了因对第1区域61设定的摄像条件而导致的不恰当的图像数据的情况下,能够使用利用与第1区域61不同的摄像条件在第4区域64拍摄到的被摄体像的图像,来恰当地生成图像数据。

(12)图像处理部33根据将在第4区域64拍摄到的被摄体的图像数据取平均而计算出的数据,生成在第1区域61拍摄得到的被摄体的图像数据。由此,在例如在由第1区域61拍摄到的被摄体像的图像中产生了因对第1区域61设定的摄像条件导致的不恰当的图像数据的情况下,能够使用利用与第1区域61不同的摄像条件在第4区域64拍摄到的被摄体像的图像,来恰当地生成图像数据。

(13)摄像元件100具有:包含第1区域61及第4区域64的摄像芯片111;和与摄像芯片111连接、且具有将从摄像芯片111输出的图像数据转换成数字数据的模/数(a/d)转换电路的信号处理芯片112。由此,在摄像条件不同的区域中,能够分别恰当地进行处理。即,能够在各区域恰当地生成基于各自所生成的图像数据得到的图像。

(14)摄像元件100具有存储芯片113,该存储芯片113与信号处理芯片112连接,且具有对通过信号处理芯片112转换成数字数据的图像数据进行存储的存储部。信号处理芯片112配置在摄像芯片111与存储芯片113之间。由此,由于与摄像元件100中的数据流动对应地层叠各芯片,所以能够有效地将芯片彼此电连接。

(15)具备透镜调节装置的相机1具有:摄像部32,其具有以第1摄像条件拍摄来自摄像光学系统31的光的第1区域61、和以与第1摄像条件不同的第4摄像条件拍摄来自摄像光学系统31的光的第4区域64;以及图像处理部33及控制部34,其以根据基于在第4区域64拍摄到的被摄体得到的信号来调节入射到第1区域61的光的像的方式使摄像光学系统31移动。由此,在例如在由第1区域61拍摄得到的像的信号数据中产生了因摄像条件导致的不恰当的信号数据的情况下,能够使用利用与第1区域61不同的摄像条件在第4区域64拍摄到的像的信号数据来恰当地生成信号数据。具体地说,能够生成对区块82、区块85及区块87的斜线部与区块83、86、88及89的网格部之间的像的明暗、对比度等的不同等、像的不连续性进行了抑制的信号数据。其结果为,能够抑制因针对每个区块的摄像条件的不同而导致焦点检测精度降低,因此能够实现恰当的对焦。

(16)具备透镜调节装置的相机1具有:摄像部32,其具有以第1摄像条件拍摄来自摄像光学系统31的光的第1区域61、和以与第1摄像条件不同的第4摄像条件拍摄来自摄像光学系统31的光的第4区域64;以及图像处理部33及控制部34,其根据基于在第4区域64拍摄到的被摄体得到的信号,生成用于通过摄像光学系统31来调节入射到第1区域61的光的像的信号。由此,在例如在由第1区域61拍摄得到的像的信号数据中产生了因摄像条件导致的不恰当的信号数据的情况下,能够使用利用与第1区域61不同的摄像条件在第4区域64拍摄到的像的信号数据,来恰当地生成信号数据。具体地说,能够生成对区块82、区块85及区块87的斜线部与区块83、86、88及89的网格部之间的像的明暗、对比度等的不同等、像的不连续性进行了抑制的信号数据。其结果为,能够抑制因针对每个区块的摄像条件的不同而导致焦点检测精度降低,因此能够实现恰当的对焦。

(17)图像处理部33根据基于在第4区域64拍摄到的被摄体得到的信号,生成基于在第1区域61拍摄到的被摄体得到的信号。由此,在例如在由第1区域61拍摄得到的像的信号数据中产生了因摄像条件导致的不恰当的信号数据的情况下,能够使用利用与第1区域61不同的摄像条件在第4区域64拍摄到的像的信号数据,来恰当地生成信号数据。

(18)图像处理部33根据基于在第4区域64拍摄到的被摄体得到的信号,生成基于在第1区域61拍摄到的被摄体的一部分得到的信号。由此,在由第1区域61拍摄得到的像的一部分(关注区块)中产生了不恰当的信号数据的情况下,能够使用利用与第1区域61不同的摄像条件在第4区域64拍摄到的像的信号数据,来恰当地生成信号数据。其结果为,对于被摄体的一部分也能够避免因针对每个区块的摄像条件的不同导致的影响,从而实现恰当的对焦。

(19)图像处理部33根据基于在第4区域64拍摄到的被摄体得到的信号,生成基于在第1区域61拍摄到的被摄体的一部分得到的信号。在第1区域61拍摄到的被摄体的一部分和在第4区域64拍摄到的被摄体的至少一部分被检测为同一被摄体。由此,在同一被摄体、例如图7中的山被第1区域61和第4区域64拍摄的情况下,能够对在第1区域61拍摄得到的关于山的像的信号数据使用在第4区域64拍摄到的关于山的像的信号数据,恰当地生成信号数据。因此,能够实现恰当的对焦。

(20)第4区域64的面积大于第1区域61的面积。由此,能够基于在面积比第1区域61大的第4区域64拍摄到的像的信号数据,来恰当地生成信号数据。因此,能够实现恰当的对焦。

(21)第4区域64的面积为第1区域61的面积以下。即,在生成恰当的信号数据时,通过例如将关注区块所包含的多个像素所对应的多个像的信号数据使用同数或其以下数量的像的信号数据置换掉,能够抑制置换处理中的运算负荷。

(22)图像处理部33根据基于在第4区域64的一部分区域拍摄到的被摄体得到的信号,生成基于在第1区域61拍摄到的被摄体得到的信号。由此,在由第1区域61拍摄到的像的一部分(关注区块)中产生了不恰当的信号数据的情况下,能够使用利用与第1区域61不同的摄像条件在第4区域64拍摄到的像的一部分(参照区块)中拍摄到的像的信号数据,来恰当地生成信号数据。其结果为,能够不受因针对每个区块的摄像条件的不同导致的影响,而实现恰当的对焦。

(23)第4区域64具有:包含将光转换成电荷的光电转换部的像素86a;和包含将光转换成电荷的光电转换部的不同于像素86a的像素86b。图像处理部33根据基于在像素86a及像素86b中的某一区域拍摄到的被摄体得到的信号,生成基于在第1区域61拍摄到的被摄体得到的信号。由此,在例如在由第1区域61拍摄得到的像的信号数据中产生了因摄像条件导致的不恰当的信号数据的情况下,能够使用利用与第1区域61不同的摄像条件在第4区域64拍摄到的像的信号数据,来恰当地生成信号数据。

(24)图像处理部33在第1区域61与像素86a的间隔比第1区域61与像素86b的间隔短的情况下,根据基于由像素86a拍摄到的被摄体得到的信号,生成基于在第1区域61拍摄到的被摄体得到的信号。即,在将由关注区块获取到的像的信号数据使用由参照区块获取得到的像的信号数据置换掉时,使用来自参照区块所包含的像素中的、与关注区块所包含的成为置换对象的像素更接近的像素的像的信号数据来进行置换。由此,能够恰当地生成信号数据。

(25)图像处理部33根据从基于在第4区域64拍摄到的被摄体得到的信号数据计算出的数据,生成基于在第1区域61拍摄到的被摄体得到的信号。由此,在例如在由第1区域61拍摄得到的像的信号数据中产生了因摄像条件导致的不恰当的信号数据的情况下,能够使用利用与第1区域61不同的摄像条件在第4区域64拍摄到的像的信号数据,来恰当地生成信号数据。

(26)图像处理部33根据将基于在第4区域64拍摄到的被摄体得到的信号数据取平均而计算出的数据,生成基于在第1区域61拍摄到的被摄体得到的信号。由此,在例如在由第1区域61拍摄得到的像的信号数据中产生了因摄像条件导致的不恰当的信号数据的情况下,能够使用利用与第1区域61不同的摄像条件在第4区域64拍摄得到的像的信号数据,来恰当地生成信号数据。

(27)相机1的透镜移动控制部34d基于从摄像光学系统31的不同光瞳通过了的多个光像的像偏移量来生成用于驱动摄像光学系统31的信号。由此,在进行光瞳划分相位差检测方式的焦点检测处理的情况下,能够不受因针对区块的摄像条件的不同导致的影响,而实现恰当的对焦。

(28)相机1的透镜移动控制部34d根据基于入射到摄像部32的光得到的像的对比度,来生成用于驱动摄像光学系统31的信号。由此,在进行对比度检测方式的焦点检测处理的情况下,能够不受因针对区块的摄像条件的不同导致的影响,而实现恰当的对焦。

(29)具备被摄体检测装置的相机1具有:摄像部32,其具有以第1摄像条件进行拍摄的第1区域61、和以与第1摄像条件不同的第4摄像条件进行拍摄的第4区域64;以及图像处理部33及控制部34,其根据在第4区域64拍摄到的被摄体的图像数据,检测在第1区域61拍摄到的被摄体。由此,在例如在由第1区域61拍摄到的图像的图像数据中产生了因摄像条件导致的不恰当的图像数据的情况下,能够使用利用与第1区域61不同的摄像条件在第4区域64拍摄到的图像的图像数据,来恰当地生成图像数据。具体地说,能够生成对区块82、区块85及区块87的斜线部与区块83、86、88及89的网格部之间的图像的明暗、对比度、色调等不同等、像的不连续性进行了抑制的图像数据。其结果为,能够抑制因针对每个区块的摄像条件的不同而导致被摄体要素的检测精度降低。

(30)具备被摄体检测装置的相机1具有:摄像部32,其具有以第1摄像条件进行拍摄的第1区域61、和以与第1摄像条件不同的第4摄像条件进行拍摄的第4区域64;以及图像处理部33及控制部34,其根据在第4区域64拍摄得到的被摄体的图像数据,生成用于对在第1区域61拍摄到的被摄体进行检测的信号。由此,在例如在由第1区域61拍摄得到的图像的图像数据中产生了因摄像条件导致的不恰当的图像数据的情况下,能够使用利用与第1区域61不同的摄像条件在第4区域64拍摄得到的图像的图像数据,来恰当地生成图像数据。具体地说,能够生成对区块82、区块85及区块87的斜线部与区块83、86、88及89的网格部之间的图像的明暗、对比度、色调等的不同等、像的不连续性进行了抑制的图像数据。其结果为,能够抑制因针对每个区块的摄像条件的不同而导致的被摄体要素的检测精度降低。

(31)图像处理部33根据在第4区域64拍摄到的被摄体的图像数据,生成在第1区域61拍摄到的被摄体的图像数据。由此,在例如在由第1区域61拍摄得到的图像的图像数据中产生了因摄像条件导致的不恰当的图像数据的情况下,能够使用利用与第1区域61不同的摄像条件在第4区域64拍摄到的图像的图像数据,来恰当地生成图像数据。其结果为,能够抑制因针对每个区块的摄像条件的不同而导致被摄体要素的检测精度降低。

(32)图像处理部33根据在第4区域64拍摄到的被摄体的图像数据,生成在第1区域61拍摄到的被摄体的一部分的图像数据。由此,在由第1区域61拍摄到的图像的一部分(关注区块)中产生了不恰当的图像数据的情况下,能够使用利用与第1区域61不同的摄像条件在第4区域64拍摄到的图像的图像数据,来恰当地生成图像数据。其结果为,关于被摄体的一部分也能够避免因针对每个区块的摄像条件的不同导致的影响,从而恰当地检测被摄体要素。

(33)图像处理部33根据在第4区域64拍摄到的被摄体的图像数据,生成在第1区域61拍摄到的被摄体的一部分的图像数据。在第1区域61拍摄到的被摄体的一部分和在第4区域64拍摄到的被摄体的至少一部分被检测为同一被摄体。由此,在同一被摄体、例如图7中的山被第1区域61和第4区域64拍摄到的情况下,能够将在第1区域61拍摄得到的关于山的图像数据以在第4区域64拍摄得到的关于山的图像数据置换掉。因此,能够恰当地生成图像数据。其结果为,能够不受因针对每个区块的摄像条件的不同导致的影响地,恰当地检测被摄体要素。

(34)第4区域64的面积大于第1区域61的面积。由此,基于在面积比第1区域61大的第4区域64拍摄到的被摄体的图像数据,生成在第1区域61拍摄到的被摄体的图像数据,因此能够恰当地生成图像数据。其结果为,能够不受因针对每个区块的摄像条件的不同导致的影响地,恰当地检测被摄体要素。

(35)第4区域64的面积为第1区域61的面积以下。即,在将由关注区块获取的图像数据使用由参照区块获取的图像数据置换掉时,能够将例如关注区块所包含的多个像素所对应的多个图像数据以同数或其以下数量的图像数据置换掉,由此能够抑制置换处理中的运算负荷。因此,能够抑制被摄体要素的检测所涉及的运算负荷。

(36)图像处理部33根据在第4区域64的一部分的区域拍摄到的被摄体的图像数据,生成在第1区域61拍摄到的被摄体的图像数据。由此,在由第1区域61拍摄得到的图像的一部分(关注区块)中产生了不恰当的图像数据的情况下,能够使用在摄像条件与第1区域61不同的第4区域64拍摄到的图像的一部分(参照区块),恰当地生成图像数据。其结果为,能够不受因针对每个区块的摄像条件的不同导致的影响地,恰当地检测被摄体要素。

(37)第4区域64具有包含将光转换成电荷的光电转换部的像素86a、和包含将光转换成电荷的光电转换部的不同于像素86a的像素86b。图像处理部33根据由像素86a及像素86b中的某一区域拍摄到的被摄体的图像数据,生成在第1区域61拍摄到的被摄体的图像数据。由此,在例如在由第1区域61拍摄得到的图像的图像数据中产生了因摄像条件导致的不恰当的图像数据的情况下,能够使用利用与第1区域61不同的摄像条件在第4区域64拍摄到的图像的图像数据,来恰当地生成图像数据。其结果为,能够抑制因针对每个区块的摄像条件的不同而导致被摄体要素的检测精度降低。

(38)图像处理部33在第1区域61与像素86a的间隔比第1区域61与像素86b的间隔短的情况下,根据由像素86a拍摄得到的被摄体的图像数据来生成在第1区域61拍摄得到的被摄体的图像数据。即,在将由关注区块获取到的图像数据使用由参照区块获取到的图像数据置换掉时,能够使用来自参照区块所包含的像素中的、与关注区块所包含的成为置换对象的像素更接近的像素的图像数据来进行置换。由此,能够恰当地生成图像数据。其结果为,能够抑制因针对每个区块的摄像条件的不同而导致被摄体要素的检测精度降低。

(39)图像处理部33根据从在第4区域64拍摄到的被摄体的图像数据计算出的数据,生成在第1区域61拍摄到的被摄体的图像数据。由此,在例如在由第1区域61拍摄到的图像的图像数据中产生了因摄像条件导致的不恰当的图像数据的情况下,能够使用利用与第1区域61不同的摄像条件在第4区域64拍摄到的图像的图像数据,来恰当地生成图像数据。其结果为,能够抑制因针对每个区块的摄像条件的不同而导致被摄体要素的检测精度降低。

(40)图像处理部33根据将在第4区域64拍摄到的被摄体的图像数据取平均而计算出的数据,生成在第1区域61拍摄到的被摄体的图像数据。由此,在例如在由第1区域61拍摄到的图像的图像数据中产生了因摄像条件导致的不恰当的图像数据的情况下,能够使用利用与第1区域61不同的摄像条件在第4区域64拍摄到的图像的图像数据,来恰当地生成图像数据。其结果为,能够抑制因针对每个区块的摄像条件的不同而导致被摄体要素的检测精度降低。

(41)相机1的物体检测部34a作为摄像光学系统31的焦点调节的对象来检测被摄体要素,因此能够不受因针对每个区块的摄像条件的不同导致的影响地,恰当地对摄像光学系统31的焦点调节的对象进行检测。

(42)相机1具备检测被摄体的明亮度的控制部34,物体检测部34a作为控制部34的测光的对象而检测被摄体要素,因此能够不受针对每个区块的的摄像条件的不同导致的影响地,恰当地对测光的对象进行检测。

(43)相机1具有:摄像部32,其具有以第1摄像条件进行拍摄的第1区域61、和以与第1摄像条件不同的第4摄像条件进行拍摄的第4区域64;以及图像处理部33及控制部34,其根据基于在第4区域64拍摄到的被摄体得到的信号,来设定第1区域61的摄像条件。由此,在例如在由第1区域61拍摄到的图像的图像数据中产生了因摄像条件导致的不恰当的图像数据的情况下,能够使用利用与第1区域61不同的摄像条件在第4区域64拍摄到的图像的图像数据,来恰当地生成图像数据。具体地说,能够生成对区块82、区块85及区块87的斜线部与区块83、86、88及89的网格部之间的图像的明暗、对比度、色调等的不同等、像的不连续性进行了抑制的图像数据。其结果为,能够抑制因针对每个区块的摄像条件的不同而导致曝光条件的设定精度降低。

(44)相机1具有:摄像部32,其具有以第1摄像条件进行拍摄的第1区域61、和以与第1摄像条件不同的第4摄像条件进行拍摄的第4区域64;以及图像处理部33及控制部34,其根据基于在第4区域64拍摄到的被摄体得到的信号,来生成用于设定第1区域61的摄像条件的信号。由此,在例如在由第1区域61拍摄到的图像的图像数据中产生了因摄像条件导致的不恰当的图像数据的情况下,能够使用利用与第1区域61不同的摄像条件在第4区域64拍摄到的图像的图像数据,来恰当地生成图像数据。具体地说,能够生成对区块82、区块85及区块87的斜线部与区块83、86、88及89的网格部之间的图像的明暗、对比度、色调等的不同等、像的不连续性进行了抑制的图像数据。其结果为,能够抑制因针对每个区块的摄像条件的不同而导致曝光条件的设定精度降低。

(45)图像处理部33根据基于在第4区域64拍摄到的被摄体得到的信号,生成基于在第1区域61拍摄到的被摄体得到的信号。由此,在例如在由第1区域61拍摄到的图像的图像数据中产生了因摄像条件导致的不恰当的图像数据的情况下,能够使用利用与第1区域61不同的摄像条件在第4区域64拍摄到的图像的图像数据,来恰当地生成图像数据。其结果为,能够抑制因针对每个区块的摄像条件的不同而导致曝光条件的设定精度降低。

(46)图像处理部33根据基于在第4区域64拍摄到的被摄体得到的信号,生成基于在第1区域61拍摄到的被摄体的一部分得到的信号。由此,在由第1区域61拍摄到的图像的一部分(关注区块)中产生了不恰当的图像数据的情况下,能够使用在摄像条件与第1区域61不同的第4区域64拍摄到的图像的图像数据,来恰当地生成图像数据。其结果为,能够不受因针对每个区块的的摄像条件的不同导致的影响地,恰当地设定曝光条件。

(47)图像处理部33根据基于在第4区域64拍摄到的被摄体得到的信号,生成基于在第1区域61拍摄到的被摄体的一部分得到的信号。在第1区域61拍摄到的被摄体的一部分和在第4区域64拍摄到的被摄体的至少一部分被检测为同一被摄体。由此,在同一被摄体、例如图7中的山被第1区域61和第4区域64拍摄的情况下,能够将在第1区域61拍摄得到的关于山的图像数据以在第4区域64拍摄得到的关于山的图像数据置换掉。因此,能够恰当地生成图像数据。其结果为,能够不受因针对每个区块的摄像条件的不同导致的影响地,恰当地设定曝光条件。

(48)第4区域64的面积大于第1区域61的面积。由此,基于在面积比第1区域61大的第4区域64拍摄到的被摄体的图像数据,生成在第1区域61拍摄到的被摄体的图像数据,因此能够恰当地生成图像数据。其结果为,能够不受因针对每个区块的摄像条件的不同导致的影响地,恰当地设定曝光条件。

(49)第4区域64的面积为第1区域61的面积以下。即,在将由关注区块获取的图像数据使用由参照区块获取的图像数据置换掉时,通过将例如关注区块所包含的多个像素所对应的多个图像数据使用同数或其以下数量的图像数据置换掉,而能够抑制置换处理的运算负荷。因此,能够抑制曝光条件的设定所涉及的运算负荷。

(50)图像处理部33根据基于在第4区域64的一部分的区域拍摄到的被摄体得到的信号,生成基于在第1区域61拍摄到的被摄体得到的信号。由此,在由第1区域61拍摄到的图像的一部分(关注区块)中产生了不恰当的图像数据的情况下,能够使用在摄像条件与第1区域61不同的第4区域64拍摄到的图像的一部分(参照区块),来恰当地生成图像数据。其结果为,能够不受因针对每个区块的摄像条件的不同导致的影响地,恰当地设定曝光条件。

(51)第4区域64具有包含将光转换成电荷的光电转换部的像素86a、和包含将光转换成电荷的光电转换部的不同于像素86a的像素86b。图像处理部33根据基于在像素86a及像素86b中的某一区域拍摄到的被摄体得到的信号,来生成基于在第1区域61拍摄到的被摄体得到的信号。由此,在例如在由第1区域61拍摄到的图像的图像数据中产生了因摄像条件导致的不恰当的图像数据的情况下,能够使用利用与第1区域61不同的摄像条件在第4区域64拍摄到的图像的图像数据,来恰当地生成图像数据。其结果为,能够抑制因针对每个区块的摄像条件的不同而导致曝光条件的设定精度降低。

(52)图像处理部33在第1区域61与像素86a的间隔比第1区域61与像素86b的间隔短的情况下,根据基于由像素86a拍摄到的被摄体得到的信号,生成基于由第1区域61拍摄到的被摄体得到的信号。即,在将由关注区块获取到的图像数据使用由参照区块获取到的图像数据置换掉时,能够使用来自参照区块所包含的像素中的、与关注区块所包含的成为置换对象的像素更接近的像素的图像数据进行置换。由此,能够恰当地生成图像数据。其结果为,能够抑制因针对每个区块的摄像条件的不同而导致曝光条件的设定精度降低。

(53)图像处理部33根据从基于在第4区域64拍摄到的被摄体得到的信号数据而计算出的数据,生成基于在第1区域61拍摄到的被摄体得到的信号。由此,在例如在由第1区域61拍摄到的图像的图像数据中产生了因摄像条件导致的不恰当的图像数据的情况下,能够使用利用与第1区域61不同的摄像条件在第4区域64拍摄到的图像的图像数据,来恰当地生成图像数据。其结果为,能够抑制因针对每个区块的摄像条件的不同而导致曝光条件的设定精度降低。

(54)图像处理部33根据将基于在第4区域64拍摄到的被摄体得到的信号数据取平均而计算出的数据,生成基于在第1区域61拍摄到的被摄体得到的信号。由此,在例如在由第1区域61拍摄到的图像的图像数据中产生了因摄像条件导致的不恰当的图像数据的情况下,能够使用利用与第1区域61不同的摄像条件在第4区域64拍摄到的图像的图像数据,来恰当地生成图像数据。其结果为,能够抑制因针对每个区块的摄像条件的不同而导致曝光条件的设定精度降低。

(55)相机1的设定部34b作为摄影条件而设定曝光条件,因此,即使在针对每个区块的摄像条件不同的情况下,也能够分别恰当地设定曝光条件。

(56)相机1具备对发出摄影辅助光的光源进行控制的控制部34,设定部34b作为摄影条件来设定控制部34控制的光源的有无发光或发光量。由此,即使在针对每个区块的摄像条件不同的情况下,也能够恰当地进行设定处理。

也可以构成为能够切换将上述第2修正处理作为前处理进行的模式1、和不将第2修正处理作为前处理进行的模式2。在选择了模式1的情况下,控制部34在进行上述前处理的基础上进行图像处理等处理。另一方面,在选择了模式2的情况下,控制部34不进行上述前处理而进行图像处理等处理。例如,在作为被摄体要素检测出的面部的一部分中存在阴影的情况下,若为了使面部的阴影部分的明亮度成为与面部阴影以外的部分的明亮度相同程度,使包含面部的阴影部分的区域的摄像条件和包含面部的阴影以外的部分的区域的摄像条件成为不同的设定,并进行拍摄而生成图像,对该图像进行第2修正处理之后进行颜色插补处理,则存在因所设定的摄像条件的不同而对阴影部分进行了非意图的颜色插补的情况。若构成为能够切换模式1和模式2,则能够不进行第2修正处理而直接使用图像数据进行颜色插补处理,由此能够避免非意图的颜色插补。

---第1实施方式的变形例---

以下那样的变形也在本发明的范围内,也能够将一个或多个变形例与上述实施方式组合。

(变形例1)

图18的(a)~图18的(c)是例示摄像元件32a的拍摄面中的第1摄像区域及第2摄像区域的配置的图。根据图18的(a)的例子,第1摄像区域由偶数列构成,第2摄像区域由奇数列构成。即,拍摄面被划分为偶数列和奇数列。

根据图18的(b)的例子,第1摄像区域由奇数行构成,第2摄像区域由偶数行构成。即,拍摄面被划分为奇数行和偶数行。

根据图18的(c)的例子,第1摄像区域由奇数列上的偶数行的区块和偶数列上的奇数行的区块构成。另外,第2摄像区域由偶数列上的偶数行的区块和奇数列上的奇数行的区块构成。即,拍摄面被划分成方格花纹状。

在图18的(a)~图18的(c)中的任一情况下,也是根据从进行了1帧拍摄的摄像元件32a读出的光电转换信号,分别生成基于从第1摄像区域读出的光电转换信号得到的第1图像及基于从第2摄像区域读出的光电转换信号得到的第2图像。根据变形例1,第1图像及第2图像被以相同的视场角拍摄,包含共同的被摄体像。

在变形例1中,控制部34将第1图像用于显示,并且将第2图像用于检测。具体地说,控制部34使第1图像作为实时取景图像而显示在显示部35上。另外,控制部34通过物体检测部34a使用第2图像进行被摄体检测处理,通过透镜移动控制部34d使用第2图像进行焦点检测处理,通过设定部34b使用第2图像进行曝光运算处理。

在变形例1中,将对拍摄第1图像的第1摄像区域设定的摄像条件称为第1摄像条件,将对拍摄第2图像的第2摄像区域设定的摄像条件称为第2摄像条件。控制部34可以使第1摄像条件和第2摄像条件不同。

1.作为一例,控制部34将第1摄像条件设定为适于显示部35的显示的条件。例如,使对第1摄像区域设定的第1摄像条件在摄像画面的第1摄像区域整体中相同。另一方面,控制部34将对第2摄像区域设定的第2摄像条件设定为适于焦点检测处理、被摄体检测处理及曝光运算处理的条件。第2摄像条件在摄像画面的第2摄像区域整体中相同。

此外,在适于焦点检测处理、被摄体检测处理及曝光运算处理的条件分别不同的情况下,控制部34也可以使对第2摄像区域设定的第2摄像条件按每帧而不同。例如,将第1帧的第2摄像条件设为适于焦点检测处理的条件,将第2帧的第2摄像条件设为适于被摄体检测处理的条件,将第3帧的第2摄像条件设为适于曝光运算处理的条件。在这些情况下,使各帧中的第2摄像条件在摄像画面的第2摄像区域整体中相同。

2.作为其他一例,控制部34也可以使对第1摄像区域设定的第1摄像条件根据区域而不同。控制部34的设定部34b对设定部34b所划分出的包含被摄体要素的每个区域设定不同的第1摄像条件。另一方面,控制部34使对第2摄像区域设定的第2摄像条件在摄像画面的第2摄像区域整体中相同。控制部34将第2摄像条件设定为适于焦点检测处理、被摄体检测处理及曝光运算处理的条件,但在适于焦点检测处理、被摄体检测处理及曝光运算处理的条件各自不同的情况下,也可以使对第2摄像区域设定的摄像条件按每帧而不同。

3.另外,作为其他一例,控制部34也可以使对第1摄像区域设定的第1摄像条件在摄像画面的第1摄像区域整体中相同,另一方面,使对第2摄像区域设定的第2摄像条件在摄像画面中不同。例如,对设定部34b所划分出的包含被摄体要素的每个区域设定不同的第2摄像条件。该情况下,在适于焦点检测处理、被摄体检测处理及曝光运算处理的条件各自不同的情况下,也可以使对第2摄像区域设定的摄像条件按每帧而不同。

4.而且,作为其他一例,控制部34使对第1摄像区域设定的第1摄像条件在摄像画面中不同,并且使对第2摄像区域设定的第2摄像条件在摄像画面中不同。例如,对设定部34b所划分出的包含被摄体要素的每个区域设定不同的第1摄像条件,同时对设定部34b所划分出的包含被摄体要素的每个区域设定不同的第2摄像条件。

在图18的(a)~图18的(c)中,也可以使第1摄像区域与第2摄像区域的面积比不同。控制部34例如基于用户的操作或控制部34的判断,将第1摄像区域的比率设定得比第2摄像区域高,或将第1摄像区域与第2摄像区域的比率如图18的(a)~图18的(c)所例示那样设定为同等,或将第1摄像区域的比率设定得比第2摄像区域低。通过在第1摄像区域和第2摄像区域中使面积比不同,而能够使第1图像比第2图像高精细,或使第1图像及第2图像的析像度同等,或使第2图像比第1图像高精细。

(变形例2)

在上述实施方式中,关于进行图像处理的情况下的第2修正处理,在关注位置适用的摄像条件(设为第1摄像条件)和在关注位置周围的参照位置适用的摄像条件(设为第4摄像条件)不同的情况下,图像处理部33的修正部33b基于第1摄像条件来修正第4摄像条件的图像数据(参照位置的图像数据中的第4摄像条件的图像数据)。即,通过对参照位置的第4摄像条件的图像数据进行第2修正处理,来缓解基于第1摄像条件与第4摄像条件的差异导致的图像的不连续性。

取而代之,在变形例2中也可以是,图像处理部33的修正部33b基于第4摄像条件来修正第1摄像条件的图像数据(关注位置的图像数据和参照位置的图像数据中的第1摄像条件的图像数据)。该情况下,也能够缓解基于第1摄像条件与第4摄像条件的差异导致的图像的不连续性。

或者,也可以是,图像处理部33的修正部33b对第1摄像条件的图像数据及第4摄像条件的图像数据双方进行修正。即,也可以是,通过对第1摄像条件的关注位置的图像数据、参照位置的图像数据中的第1摄像条件的图像数据、以及参照位置的图像数据中的第4摄像条件的图像数据分别实施第2修正处理,来缓解基于第1摄像条件与第4摄像条件的差异导致的图像的不连续性。

例如,在上述(例1)中,针对第1摄像条件(iso感光度为100)的参照像素pr的图像数据,作为第2修正处理而乘以400/100,针对第4摄像条件(iso感光度为800)的参照像素pr的图像数据,作为第2修正处理而乘以400/800。由此,减小因摄像条件的不同导致的图像数据间的差异。此外,关注像素的像素数据在颜色插补处理后进行乘以100/400的第2修正处理。能够将通过该第2修正处理进行颜色插补处理后的关注像素的像素数据变更为与以第1摄像条件进行了拍摄的情况相同的值。而且,在上述(例1)中,也可以根据距第1区域与第4区域的边界的距离来改变第2修正处理的程度。并且能够与上述(例1)的情况相比减少通过第2修正处理而图像数据增加或减少的比例,能够减少因第2修正处理产生的噪声。以上,说明了上述(例1),但对于上述(例2)也能够同样地适用。

根据变形例2,与上述实施方式同样地,能够针对摄像条件不同的区域各自生成的图像数据恰当地进行图像处理。

(变形例3)

在上述实施方式中,在对图像数据进行第2修正处理时,基于第1摄像条件与第4摄像条件的差异进行运算,由此求出修正后的图像数据。但也可以代替运算,而通过参照修正用表来求出修正后的图像数据。例如,通过作为自变量输入第1摄像条件及第4摄像条件,来读出修正后的图像数据。或者,也可以构成为,通过作为自变量而输入第1摄像条件及第4摄像条件,来读出修正系数。

(变形例4)

在上述实施方式的第2修正处理中,也可以设定修正后的图像数据的上限和下限。通过设置上限值、下限值,能够限制进行必要以上的修正。上限值、下限值可以预先设定,也可以在相对于摄像元件32a而另行具备测光用传感器的情况下,基于来自测光用传感器的输出信号来决定。

(变形例5)

在上述实施方式中,说明了控制部34的设定部34b基于实时取景图像来检测被摄体要素、并将实时取景图像的画面划分为包含被摄体要素的区域的例子。在变形例5中也可以是,在相对于摄像元件32a而另行具备测光用传感器的情况下,控制部34基于来自测光用传感器的输出信号来划分区域。

控制部34基于来自测光用传感器的输出信号而划分为前景和背景。具体地说,将由摄像元件32a获取的实时取景图像划分为与根据来自测光用传感器的输出信号而判断成前景的区域对应的前景区域、和与根据来自测光用传感器的输出信号而判断成背景的区域对应的背景区域。

控制部34还针对摄像元件32a的拍摄面的与前景区域对应的位置,如图18的(a)~图18的(c)所例示那样,配置第1摄像区域及第2摄像区域。另一方面,控制部34针对摄像元件32a的拍摄面的与背景区域对应的位置,在摄像元件32a的拍摄面上仅配置第1摄像区域。控制部34将第1图像用于显示,并且将第2图像用于检测。

根据变形例5,能够通过使用来自测光用传感器的输出信号,进行由摄像元件32a获取的实时取景图像的区域划分。另外,对于前景区域,能够得到显示用的第1图像和检测用的第2图像,对于背景区域,仅能够得到显示用的第1图像。

(变形例6)

在变形例6中,图像处理部33的生成部33c作为第2修正处理的一例进行对比度调整处理。即,生成部33c使灰度曲线(伽马曲线)不同,由此缓解基于第1摄像条件与第4摄像条件之间的差异导致的图像的不连续性。

例如,设想在第1摄像条件与第4摄像条件之间仅iso感光度不同、第1摄像条件的iso感光度为100而第4摄像条件的iso感光度为800的情况。生成部33c通过使灰度曲线放平,而将参照位置的图像数据中的第4摄像条件的图像数据的值压缩为1/8。

或者,生成部33c也可以通过使灰度曲线立起,而将关注位置的图像数据及参照位置的图像数据中的第1摄像条件的图像数据的值扩展为8倍。

根据变形例6,与上述实施方式同样地,能够对在摄像条件不同的区域中分别生成的图像数据恰当地进行图像处理。例如,能够抑制因区域的边界处的摄像条件的不同而导致在图像处理后的图像中显现的不连续性、不协调感。

(变形例7)

在变形例7中,图像处理部33在上述的图像处理(例如,减噪处理)中,不会损害被摄体要素的轮廓。通常,在进行减噪的情况下采用平滑化滤波处理。在使用平滑化滤波器的情况下,存在具有减噪效果但被摄体要素的边界变得模糊的情况。

因此,图像处理部33的生成部33c例如除了减噪处理以外,或者在减噪处理的同时,进行对比度调整处理,由此对上述被摄体要素的边界的模糊进行修补。在变形例7中,图像处理部33的生成部33c作为浓度转换(灰度转换)曲线,而设定描绘s字那样的曲线(所谓s字转换)。图像处理部33的生成部33c通过进行使用s字转换的对比度调整,将较亮的数据和较暗的数据的灰度部分分别放大而分别增加较亮的数据(及较暗的数据)的灰度数,并且将中间灰度的图像数据压缩而减少灰度数。由此,图像的明亮度为中等程度的图像数据的数量减少,被分类为较亮/较暗中的某一种的数据增加,其结果为,能够修补被摄体要素的边界模糊。

根据变形例7,通过使图像的明暗鲜明,能够修补被摄体要素的边界的模糊。

(变形例8)

在变形例8中,图像处理部33的生成部33c变更白平衡调整增益,以缓解基于第1摄像条件与第4摄像条件的差异导致的图像的不连续性。

例如,在关注位置拍摄时适用的摄像条件(设为第1摄像条件)和在关注位置周围的参照位置拍摄时适用的摄像条件(设为第4摄像条件)不同的情况下,图像处理部33的生成部33c以使参照位置的图像数据中的第4摄像条件的图像数据的白平衡接近以第1摄像条件获取到的图像数据的白平衡的方式,变更白平衡调整增益。

此外,也可以是,图像处理部33的生成部33c以使参照位置的图像数据中的第1摄像条件的图像数据和关注位置的图像数据的白平衡接近以第4摄像条件获取到的图像数据的白平衡的方式,变更白平衡调整增益。

根据变形例8,针对在摄像条件不同的区域中分别生成的图像数据,通过使白平衡调整增益与摄像条件不同的区域中的某一个区域的调整增益一致,而能够缓解基于第1摄像条件与第4摄像条件的差异导致的图像的不连续性。

(变形例9)

也可以具有多个图像处理部33,并对图像处理进行并行处理。例如,在针对由摄像部32的区域a拍摄到的图像数据进行图像处理的同时,针对由摄像部32的区域b拍摄到的图像数据进行图像处理。多个图像处理部33可以进行相同的图像处理,也可以进行不同的图像处理。即,能够针对区域a及区域b的图像数据适用相同的参数等并进行相同的图像处理,或针对区域a及区域b的图像数据适用不同的参数等并进行不同的图像处理。

在具备多个图像处理部33的情况下,也可以针对适用了第1摄像条件得到的图像数据而通过一个图像处理部进行图像处理,针对适用了第4摄像条件得到的图像数据而通过其他图像处理部进行图像处理。图像处理部的数量不限于上述两个,例如,也可以设为与能够设定的摄像条件的数量相等。即,各个图像处理部按适用了不同摄像条件的每个区域,负责图像处理。根据变形例9,能够并行进行在按每个区域而不同的摄像条件下实施的拍摄、和针对按上述每个区域得到的图像的图像数据实施的图像处理。

(变形例10)

在上述说明中,以相机1为例进行了说明,但也可以由像智能手机那样具备相机功能的多功能移动电话机250(图20)、平板终端等移动设备构成。

(变形例11)

在上述实施方式中,以将摄像部32和控制部34构成为单一电子设备的相机1为例进行了说明。也可以取而代之,例如,构成将摄像部32和控制部34分开设置、并从控制部34借助通信来控制摄像部32的摄像系统1b。

以下,参照图19,说明从具备控制部34的显示装置1002来控制具备摄像部32的摄像装置1001的例子。

图19是例示变形例11的摄像系统1b的结构的框图。在图19中,摄像系统1b由摄像装置1001和显示装置1002构成。摄像装置1001除了上述实施方式中说明的摄像光学系统31和摄像部32以外,还具备第1通信部1003。另外,显示装置1002除了上述实施方式中说明的图像处理部33、控制部34、显示部35、操作部件36及记录部37以外,还具备第2通信部1004。

第1通信部1003及第2通信部1004能够通过例如周知的无线通信技术或光通信技术等,进行双向的图像数据通信。

此外,也可以构成为将摄像装置1001和显示装置1002通过有线线缆进行有线连接,使得第1通信部1003及第2通信部1004进行双向的图像数据通信。

摄像系统1b通过控制部34经由第2通信部1004及第1通信部1003进行数据通信,而进行对摄像部32的控制。例如,通过在摄像装置1001与显示装置1002之间收发规定的控制数据,显示装置1002如上所述基于图像,将画面划分成多个区域,对划分出的每个区域设定不同的摄像条件,读出在各个区域中经光电转换得到的光电转换信号。

根据变形例11,在摄像装置1001侧获取并向显示装置1002发送的实时取景图像显示于显示装置1002的显示部35上,因此,用户能够从处于远离摄像装置1001的位置的显示装置1002进行远程操作。

显示装置1002能够由例如智能手机那样的多功能移动电话机250构成。另外,摄像装置1001能够由具备上述层叠型的摄像元件100的电子设备构成。

此外,说明了在显示装置1002的控制部34设置物体检测部34a、设定部34b、摄像控制部34c和透镜移动控制部34d的例子,但关于物体检测部34a、设定部34b、摄像控制部34c及透镜移动控制部34d中的一部分,也可以设于摄像装置1001。

(变形例12)

关于向上述的相机1、多功能移动电话机250或平板终端等移动设备提供程序,如例如图20所例示那样,能够从保存有程序的个人计算机205通过红外线通信或近距离无线通信向移动设备发送。

关于针对个人计算机205的程序提供,可以将保存有程序的cd-rom等记录介质204设置到个人计算机205来进行,也可以利用经由网络等通信回线201的方法向个人计算机205载入。在经由通信回线201的情况下,预先在与该通信回线连接的服务器202的存储装置203等中保存程序。

另外,也能够经由与通信回线201连接的无线lan的接入点(accesspoint)(未图示)直接向移动设备发送程序。而且,还可以将保存有程序的存储卡等记录介质204b设置到移动设备。像这样,程序能够为经过记录介质、通信回线的提供等、作为各种形态的计算机程序产品而提供。

---第2实施方式---

参照图21~27,作为搭载第2实施方式的图像处理装置的电子设备的一例,列举数字相机为例进行说明。在以下说明中,对与第1实施方式相同的结构要素标注相同的附图标记,并主要说明不同点。关于没有特别说明的点,与第1实施方式相同。在本实施方式中,与第1实施方式的不同点主要在于,代替设置第1实施方式的图像处理部33,而摄像部32a还包含具有与第1实施方式的图像处理部33相同功能的图像处理部32c。

图21是例示第2实施方式的相机1c的结构的框图。在图21中,相机1c具有摄像光学系统31、摄像部32a、控制部34、显示部35、操作部件36和记录部37。摄像部32a还包含具有与第1实施方式的图像处理部33相同功能的图像处理部32c。

图像处理部32c包含输入部321、修正部322和生成部323。在输入部321中输入有来自摄像元件32a的图像数据。修正部322进行对上述输入的图像数据实施修正的前处理。修正部322进行的前处理与第1实施方式中的修正部33b进行的前处理相同。生成部323针对上述输入的图像数据和前处理后的图像数据进行图像处理,生成图像。生成部323进行的图像处理与第1实施方式中的生成部33c进行的图像处理相同。

图22是示意地表示本实施方式中的各区块与多个修正部322之间的对应关系的图。在图22中,以矩形示出的摄像芯片111的一个块(mass)表示一个区块111a。同样地,以矩形示出的后述的图像处理芯片114的一个块表示一个修正部322。

在本实施方式中,修正部322与每个区块111a对应地设置。换言之,修正部322针对拍摄面中的每个能够变更摄像条件的区域的最小单位即区块而分别设置。例如,在图22中施加了阴影线的区块111a与施加了阴影线的修正部322处于对应关系。在图22中施加了阴影线的修正部322对来自施加了阴影线的区块111a所包含的像素的图像数据进行前处理。各修正部322分别对来自对应的区块111a所包含的像素的图像数据进行前处理。

由此,由于能够通过多个修正部322对图像数据的前处理进行并行处理,所以能够减轻修正部322的处理负担,能够根据在摄像条件不同的区域中分别生成的图像数据在短时间内生成恰当的图像。

此外,在以下说明中,在说明某个区块111a与该区块111a所包含的像素之间的关系时,存在将该区块111a称为该像素所属的区块111a的情况。另外,存在将区块111a称为单位分区的情况,存在将集合多个区块111a、即集合多个单位分区的情况称为复合分区的情况。

图23是层叠型摄像元件100a的剖视图。层叠型摄像元件100a除了背面照射型摄像芯片111、信号处理芯片112和存储芯片113以外,还具备进行上述的前处理及图像处理的图像处理芯片114。即,上述的图像处理部32c设于图像处理芯片114。

这些摄像芯片111、信号处理芯片112、存储芯片113及图像处理芯片114层叠在一起,通过cu等具有导电性的凸块109而相互电连接。

在存储芯片113及图像处理芯片114的彼此相对的面上,配置有多个凸块109。这些凸块109彼此对位,通过对存储芯片113和图像处理芯片114进行加压等,对位后的凸块109彼此接合而电连接。

<第1修正处理>

与第1实施方式同样地,在第2实施方式中构成为,在通过设定部34b将摄像画面的区域划分后,能够对由用户选择的区域或控制部34所判断出的区域设定(变更)摄像条件。在划分出的区域中设定了不同的摄像条件的情况下,控制部34根据需要使图像处理部32c的修正部322进行前处理。

即,控制部34在摄像条件的设定的最小单位即区块中包含基于多个被摄体要素产生的区域的边界、且在基于该区块的图像数据中存在泛白或发黑的情况下,作为在进行图像处理、焦点检测处理、被摄体检测处理及设定摄像条件的处理之前进行的前处理之一,使修正部322进行以下的第1修正处理。

1.对发生了泛白或发黑的区域整体进行相同的修正。

(1-1)修正部322与第1实施方式同样地,作为第1修正处理,根据下述(i)~(iv)的某一方式,将产生了泛白或发黑的图像数据与在相同的摄像画面内的一个区块中获取到的图像数据进行置换。

(i)修正部322使用在位于关注区块周围的参照区块中的、与产生了泛白或发黑的区域位置最近的一个参照区块中获取到的图像数据,将关注区块内的产生了泛白或发黑的图像数据分别利用相同的数据置换掉。

(ii)修正部322使用在位于关注区块周围的参照区块中的、从对与产生了泛白或发黑的被摄体要素(例如山)相同的被摄体要素(山)设定得最多的摄像条件(例如第4摄像条件)的参照区块选择出的一个参照区块中获取到的图像数据,将关注区块内的产生了泛白或发黑的图像数据分别用相同的数据置换掉。

(iii)修正部322使用在通过上述(i)或(ii)选择出的一个参照区块中获取到的多个像素(图8的例子中为4个像素)所对应的图像数据中的、与关注区块内的产生了泛白或发黑的像素相邻的像素所对应的图像数据,将产生了泛白或发黑的图像数据置换掉。

(iv)修正部322使用基于在通过上述(i)或(ii)选择出的一个参照区块中获取到的多个像素(图8的例子中为4个像素)所对应的图像数据而生成的图像数据,将关注区块内的产生了泛白或发黑的图像数据置换掉。

此外,在计算图像数据的平均值时,可以代替单纯取平均而利用根据距产生了泛白或发黑的像素的距离而加权的加权平均值进行置换,这一点与第1实施方式相同。

另外,可以取代计算参照区块所包含的多个像素所对应的图像数据的平均值,而计算多个像素所对应的图像数据的中间值,并利用该中间值将产生了泛白或发黑的像素所对应的图像数据置换掉,这一点与第1实施方式相同。

(1-2)修正部322与第1实施方式同样地,作为第1修正处理,根据下述(i)~(iv)的某一方式,将产生了泛白或发黑的图像数据与在相同的摄像画面内的多个区块获取到的图像数据进行置换。

(i)修正部322使用在位于关注区块周围的参照区块中的、产生了泛白或发黑的区域周边的多个参照区块中获取到的图像数据,将关注区块内的产生了泛白或发黑的图像数据分别利用相同的数据置换掉。

(ii)修正部322使用在位于关注区块周围的参照区块中的、从对与产生了泛白或发黑的被摄体要素(例如山)相同的被摄体要素(山)设定得最多的摄像条件(例如第4摄像条件)的参照区块选择出的多个参照区块中获取到的图像数据,将关注区块内的产生了泛白或发黑的图像数据分别利用相同的数据置换掉。

(iii)修正部322使用在通过上述(i)或(ii)选择出的多个参照区块中获取到的多个像素所对应的图像数据中的、与关注区块内的产生了泛白或发黑的像素相邻的像素所对应的图像数据,将产生了泛白或发黑的图像数据置换掉。

(iv)修正部322使用基于在通过上述(i)或(ii)选择出的多个参照区块中获取到的多个像素所对应的图像数据而生成的图像数据,将关注区块内的产生了泛白或发黑的图像数据置换掉。

此外,在计算图像数据的平均值时,可以取代单纯取平均,而利用根据距产生了泛白或发黑的像素的距离而加权的加权平均值进行置换,这一点与第1实施方式相同。

另外,可以取代计算多个参照区块所包含的多个像素所对应的图像数据的平均值,而计算多个像素所对应的图像数据的中间值,并利用该中间值将产生了泛白或发黑的像素所对应的图像数据置换掉,这一点也与第1实施方式相同。

2.对产生了泛白或发黑的区域整体进行多个修正。

(2-1)修正部322与第1实施方式同样地,作为第1修正处理,根据下述(i)~(iii)的某一方式,将产生了泛白或发黑的图像数据与在相同的摄像画面内的一个区块获取到的图像数据进行置换。

(i)修正部322使用位于关注区块周围的参照区块中的、与产生了泛白或发黑的像素相邻的像素所对应的图像数据,将关注区块内的产生了泛白或发黑的多个图像数据分别利用不同的数据置换掉。

(ii)修正部322使用在位于关注区块周围的参照区块中的、从对与产生了泛白或发黑的被摄体要素(例如山)相同的被摄体要素(山)设定得最多的摄像条件(例如第4摄像条件)的参照区块选择的一个参照区块中获取到的图像数据,将关注区块内的产生了泛白或发黑的多个图像数据分别利用不同的数据置换掉。

(iii)修正部33b使用基于在通过上述(i)或(ii)选择出的一个参照区块中获取到的多个像素(图8的例子中为4个像素)所对应的图像数据而生成的图像数据,将关注区块内的产生了泛白或发黑的多个图像数据分别利用不同的数据置换掉。

此外,在计算图像数据的平均值时,可与取代单纯取平均,而利用根据距产生了泛白或发黑的像素的距离而加权的加权平均值来进行置换,这一点与第1实施方式相同。

(2-2)修正部322与第1实施方式同样地,作为第1修正处理,根据下述(i)~(iv)的某一方式,将产生了泛白或发黑的图像数据与在相同的摄像画面内的多个区块获取到的图像数据进行置换。

(i)修正部322使用在位于关注区块周围的参照区块中的、产生了泛白或发黑的区域周边的多个参照区块中获取到的图像数据,将关注区块内的产生了泛白或发黑的多个图像数据分别利用不同的数据置换掉。

(ii)修正部322使用在位于关注区块周围的参照区块中的、从对与产生了泛白或发黑的被摄体要素(例如山)相同的被摄体要素(山)设定得最多的摄像条件(例如第4摄像条件)的参照区块选择出的多个参照区块中获取到的图像数据,将关注区块内的产生了泛白或发黑的多个图像数据分别利用不同的数据置换掉。

(iii)修正部322使用基于在通过上述(i)或(ii)选择出的多个参照区块中获取到的多个像素所对应的图像数据而生成的图像数据,将关注区块内的产生了泛白或发黑的图像数据置换掉。

此外,在计算图像数据的平均值时,可以取代单纯取平均,利用根据距产生了泛白或发黑的像素的距离而加权的加权平均值来进行置换,这一点与第1实施方式相同。

另外,可以取代计算多个参照区块所包含的多个像素所对应的图像数据的平均值,而计算多个像素所对应的图像数据的中间值,并利用该中间值将产生了发黑的像素所对应的图像数据置换掉,这一点也与第1实施方式相同。

关于进行以上说明的第1修正处理的基于各种方式的修正中的哪一方式的修正,控制部34基于例如操作部件36的设定(包含操作菜单设定)状态来决定。

此外,也可以根据对相机1设定的摄像场景模式、检测出的被摄体要素的种类来决定控制部34进行哪一方式的修正。

<第2修正处理>

控制部34在进行图像处理、焦点检测处理、被摄体检测(检测被摄体要素)处理、及设定摄像条件的处理之前,根据需要还使修正部322进行以下的第2修正处理。

1.进行图像处理的情况

1-1.关注像素p的摄像条件与关注像素p周围的多个参照像素pr的摄像条件相同的情况

该情况下,在图像处理部32c中,修正部322不进行第2修正处理,生成部323利用没有进行第2修正处理的多个参照像素pr的图像数据来进行图像处理。

1-2.关注像素p的摄像条件与关注像素p周围的多个参照像素pr中的至少一个参照像素pr的摄像条件不同的情况

将在关注像素p中适用的摄像条件设为第1摄像条件,在多个参照像素pr的一部分中适用的摄像条件为第1摄像条件,将在剩余的参照像素pr中适用的摄像条件设为第2摄像条件。

该情况下,与适用了第2摄像条件的参照像素pr所属的区块111a对应的修正部322对适用了该第2摄像条件的参照像素pr的图像数据如以下的(例1)~(例3)那样进行第2修正处理。然后,生成部323参照适用了第1摄像条件的参照像素pr的图像数据、和第2修正处理后的参照像素pr的图像数据,进行计算出关注像素p的图像数据的图像处理。

(例1)

例如在第1摄像条件与第2摄像条件之间仅iso感光度不同、第1摄像条件的iso感光度为100而第2摄像条件的iso感光度为800的情况下,与适用了第2摄像条件的参照像素pr所属的区块111a对应的修正部322针对该参照像素pr的图像数据,作为第2修正处理而乘以100/800。由此,减小因摄像条件的不同导致的图像数据间的差异。

(例2)

例如在第1摄像条件与第2摄像条件之间仅快门速度不同、第1摄像条件的快门速度为1/1000秒而第2摄像条件的快门速度为1/100秒的情况下,与适用了第2摄像条件的参照像素pr所属的区块111a对应的修正部322针对该参照像素pr的图像数据,作为第2修正处理而乘以1/1000/1/100=1/10。由此,减小因摄像条件的不同导致的图像数据间的差异。

(例3)

例如在第1摄像条件与第2摄像条件之间仅帧频不同(电荷蓄存时间相同)、第1摄像条件的帧频为30fps而第2摄像条件的帧频为60fps的情况下,与适用了第2摄像条件的参照像素pr所属的区块111a对应的修正部322针对该参照像素pr的图像数据、即第2摄像条件(60fps)的图像数据,将采用获取开始定时与以第1摄像条件(30fps)获取到的帧图像近的帧图像的图像数据这一内容作为第2修正处理。由此,减小因摄像条件的不同导致的图像数据间的差异。

此外,也可以将基于以第2摄像条件(60fps)获取到的前后的多个帧图像,对获取开始定时与以第1摄像条件(30fps)获取到的帧图像近的帧图像的图像数据进行插补计算这一内容作为第2修正处理。

此外,在将关注像素p中适用的摄像条件设为第2摄像条件、将关注像素p周围的参照像素pr中适用的摄像条件设为第1摄像条件的情况下也是同样的。即,在该情况下,与适用了第1摄像条件的参照像素pr所属的区块111a对应的修正部322针对该参照像素pr的图像数据如上述的(例1)~(例3)那样进行第2修正处理。

此外,如上所述,即使摄像条件中稍有差异也视为相同的摄像条件。

生成部323基于适用了与关注像素p的摄像条件相同的摄像条件的参照像素pr的图像数据和由修正部322进行了第2修正处理后的参照像素pr的图像数据,与第1实施方式中的图像处理部33的生成部33c同样地,进行像素缺陷修正处理、颜色插补处理、轮廓强调处理及减噪处理等图像处理。

图24是示意性地表示来自适用了第1摄像条件的拍摄面的一部分区域(以下称为第1摄像区域141)所包含的各像素的图像数据(以下称为第1图像数据)、和来自适用了第2摄像条件的拍摄面的一部分区域(以下称为第2摄像区域142)所包含的各像素的图像数据(以下称为第2图像数据)的处理的图。

从第1摄像区域141所包含的各像素分别输出以第1摄像条件拍摄得到的第1图像数据,从第2摄像区域142所包含的各像素分别输出以第2摄像条件拍摄得到的第2图像数据。第1图像数据被输出到设于图像处理芯片114的修正部322中的、与生成了第1图像数据的像素所属的区块111a对应的修正部322。在以下说明中,将与生成了各个第1图像数据的像素所属的多个区块111a分别对应的多个修正部322称为第1处理部151。

第1处理部151根据需要,针对第1图像数据,进行上述第1修正处理及上述第2修正处理,或者,进行上述第1修正处理或上述第2修正处理。

同样地,第2图像数据被输出到设于图像处理芯片114的修正部322中的、与生成了第2图像数据的像素所属的区块111a对应的修正部322。在以下说明中,将与生成了各个第2图像数据的各像素所属的多个区块111a分别对应的多个修正部322称为第2处理部152。

第2处理部152根据需要,针对第2图像数据,进行上述第1修正处理及上述第2修正处理,或者,进行上述第1修正处理或上述第2修正处理。

在上述第1修正处理中,例如,在关注区块包含于第1摄像区域141的情况下,如图24所示通过第1处理部151进行上述第1修正处理、即置换处理。由此,将关注区块内的产生了泛白或发黑的图像数据利用来自第2摄像区域142所包含的参照区块的第2图像数据置换掉。为此,第1处理部151作为来自例如第2处理部152的信息182,而接收来自参照区块的第2图像数据。

在上述第2修正处理中,例如,在关注像素p包含于第1摄像区域141的情况下,来自包含于第2摄像区域142的参照像素pr的第2图像数据如图24所示,通过第2处理部152而进行上述的第2修正处理。此外,第2处理部152例如从第1处理部151接收为了减小因摄像条件的不同导致的图像数据间的差异而需要的第1摄像条件所相关的信息181。

同样地,例如,在关注像素p包含于第2摄像区域142的情况下,来自包含于第1摄像区域141的参照像素pr的第1图像数据通过第1处理部151进行上述的第2修正处理。此外,第1处理部151从第2处理部152接收为了减小因摄像条件的不同导致的图像数据间的差异而需要的第2摄像条件所相关的信息。

此外,在关注像素p和参照像素pr包含于第1摄像区域141的情况下,第1处理部151不对来自该参照像素pr的第1图像数据进行第2修正处理。同样地,在关注像素p和参照像素pr包含于第2摄像区域142的情况下,第2处理部152不对来自该参照像素pr的第2图像数据进行第2修正处理。

或者,也可以通过第1处理部151和第2处理部152分别对第1摄像条件的图像数据及第2摄像条件的图像数据双方进行修正。即,可以对第1摄像条件的关注位置的图像数据、参照位置的图像数据中的第1摄像条件的图像数据、及参照位置的图像数据中的第2摄像条件的图像数据分别实施第2修正处理,由此缓解基于第1摄像条件与第2摄像条件的差异导致的图像的不连续性。

例如,在上述(例1)中,针对第1摄像条件(iso感光度为100)的参照像素pr的图像数据,作为第2修正处理而乘以400/100,针对第2摄像条件(iso感光度为800)的参照像素pr的图像数据,作为第2修正处理而乘以400/800。由此,减小因摄像条件的不同导致的图像数据间的差异。此外,关注像素的像素数据在颜色插补处理后进行乘以100/400的第2修正处理。通过该第2修正处理,能够将颜色插补处理后的关注像素的像素数据变更为与以第1摄像条件进行了拍摄的情况相同的值。而且,在上述(例1)中,也可以根据距第1区域与第2区域的边界的距离来改变第2修正处理的程度。并且与上述(例1)的情况相比能够减少通过第2修正处理而图像数据增加或减少的比例,能够减少因第2修正处理产生的噪声。以上说明了上述(例1),但也能够同样地适用于上述(例2)。

生成部323基于来自第1处理部151及第2处理部152的图像数据,进行像素缺陷修正处理、颜色插补处理、轮廓强调处理及减噪处理等图像处理,并输出图像处理后的图像数据。

此外,在关注像素p位于第2摄像区域142的情况下,第1处理部151可以对来自第1摄像区域141所包含的全部像素的第1图像数据进行第2修正处理,也可以仅对来自第1摄像区域141所包含的像素中的、可能用于第2摄像区域142的关注像素p的插补的像素的第1图像数据进行第2修正处理。同样地,在关注像素p位于第1摄像区域141的情况下,第2处理部152可以对来自第2摄像区域142所包含的全部像素的第2图像数据进行第2修正处理,也可以仅对来自第2摄像区域142所包含的像素中的、可能用于第1摄像区域141的关注像素p的插补的像素的第2图像数据进行第2修正处理。

2.进行焦点检测处理的情况

与第1实施方式同样地,控制部34的透镜移动控制部34d使用与摄像画面的规定位置(聚焦点)对应的信号数据(图像数据)来进行焦点检测处理。此外,在划分出的区域间设定了不同的摄像条件、且af动作的聚焦点位于划分出的区域的边界部分的情况下、即聚焦点被第1区域和第2区域分成两部分的情况下,在本实施方式中,如以下的2-2.说明那样,控制部34的透镜移动控制部34d使修正部322针对至少一个区域的焦点检测用的信号数据进行第2修正处理。

2-1.在来自图15中的框170内的像素的信号数据中没有混合适用了第1摄像条件得到的信号数据和适用了第2摄像条件得到的信号数据的情况

该情况下,修正部322不进行第2修正处理,控制部34的透镜移动控制部34d将基于框170所示的焦点检测用像素得到的信号数据直接使用来进行焦点检测处理。

2-2.在来自图15中的框170内的像素的信号数据中混合有适用了第1摄像条件得到的信号数据和适用了第2摄像条件得到的信号数据的情况

该情况下,控制部34的透镜移动控制部34d使框170内的像素中的、适用了第2摄像条件的像素所属的区块111a所对应的修正部322,如以下的(例1)~(例3)那样进行第2修正处理。然后,控制部34的透镜移动控制部34d使用适用了第1摄像条件的像素的信号数据和第2修正处理后的信号数据来进行焦点检测处理。

(例1)

例如在第1摄像条件与第2摄像条件之间仅iso感光度不同、第1摄像条件的iso感光度为100而第2摄像条件的iso感光度为800的情况下,与适用了第2摄像条件的像素所属的区块111a对应的修正部322针对第2摄像条件的信号数据,作为第2修正处理而乘以100/800。由此,减小因摄像条件的不同导致的信号数据间的差异。

(例2)

例如在第1摄像条件与第2摄像条件之间仅快门速度不同、第1摄像条件的快门速度为1/1000秒而第2摄像条件的快门速度为1/100秒的情况下,与适用了第2摄像条件的像素所属的区块111a对应的修正部322针对第2摄像条件的信号数据,作为第2修正处理而乘以1/1000/1/100=1/10。由此,减小因摄像条件的不同导致的信号数据间的差异。

(例3)

例如在第1摄像条件与第2摄像条件之间仅帧频不同(电荷蓄存时间相同)、第1摄像条件的帧频为30fps而第2摄像条件的帧频为60fps的情况下,与适用了第2摄像条件的像素所属的区块111a对应的修正部322针对第2摄像条件(60fps)的信号数据,将采用获取开始定时与以第1摄像条件(30fps)获取到的帧图像近的帧图像的信号数据这一内容作为第2修正处理。由此,减小因摄像条件的不同导致的信号数据间的差异。

此外,也可以将基于以第2摄像条件(60fps)获取到的前后的多个帧图像,对获取开始定时与以第1摄像条件(30fps)获取到的帧图像近的帧图像的信号数据进行插补计算这一内容作为第2修正处理。

此外,如上所述,即使摄像条件中稍有差异也视为相同的摄像条件。

另外,在上述例子中,说明了针对信号数据中的第2摄像条件的信号数据进行第2修正处理的例子,但也可以针对信号数据中的第1摄像条件的信号数据进行第2修正处理。

而且,还可以对信号数据中的第1摄像条件的信号数据及第2摄像条件的数据分别进行第2修正处理,由此减小第2修正处理后的双方的信号数据间的差。

图25是示意地表示焦点检测处理所涉及的、第1信号数据和第2信号数据的处理的图。

从包含于第1摄像区域141的各像素输出以第1摄像条件拍摄得到的第1信号数据,从包含于第2摄像区域142的各像素输出以第2摄像条件拍摄得到的第2信号数据。来自第1摄像区域141的第1信号数据被输出到第1处理部151。同样地,来自第2摄像区域142的第2信号数据被输出到第2处理部152。

第1处理部151根据需要,针对第1图像数据,进行上述第1修正处理及上述第2修正处理,或者,进行上述第1修正处理或上述第2修正处理。第2处理部152根据需要,针对第2图像数据,进行上述第1修正处理及上述第2修正处理,或者,进行上述第1修正处理或上述第2修正处理。

在上述第1修正处理中,在例如关注区块包含于第1摄像区域141的情况下,如图25所示通过第1处理部151进行上述第1修正处理、即置换处理。由此,将关注区块内的产生了泛白或发黑的第1信号数据利用来自第2摄像区域142所包含的参照区块的第2信号数据置换掉。因此,第1处理部151作为例如来自第2处理部152的信息182,接收来自参照区块的第2信号数据。

在上述第2修正处理中,在通过针对信号数据中的第2摄像条件的信号数据进行第2修正处理来减小第2修正处理后的信号数据与第1摄像条件的信号数据之差的情况下,第2处理部152进行处理。对于来自第2摄像区域142所包含的像素的第2信号数据,第2处理部152进行上述第2修正处理。此外,第2处理部152从例如第1处理部151接收为了减小因摄像条件的不同导致的信号数据间的差异而需要的第1摄像条件所相关的信息181。

此外,在通过针对信号数据中的第2摄像条件的信号数据进行第2修正处理来减小第2修正处理后的信号数据与第1摄像条件的信号数据之差的情况下,第1处理部151不对第1信号数据进行第2修正处理。

另外,在通过针对信号数据中的第1摄像条件的信号数据进行第2修正处理来减小第2修正处理后的信号数据与第1摄像条件的信号数据之差的情况下,第1处理部151进行处理。对于来自第1摄像区域141所包含的像素的第1信号数据,第1处理部151进行上述第2修正处理。此外,第1处理部151从第2处理部152接收为了减小因摄像条件的不同导致的信号数据间的差异而需要的第2摄像条件所相关的信息。

此外,在通过针对信号数据中的第1摄像条件的信号数据进行第2修正处理来减小第2修正处理后的信号数据与第1摄像条件的信号数据之差的情况下,第2处理部152不对第2信号数据进行第2修正处理。

而且,在通过对信号数据中的第1摄像条件的信号数据及第2摄像条件的数据分别进行第2修正处理来减小第2修正处理后的双方的信号数据间之差的情况下,第1处理部151和第2处理部152进行处理。第1处理部151对来自第1摄像区域141所包含的像素的第1信号数据进行上述第2修正处理,第2处理部152对来自第2摄像区域142所包含的像素的第2信号数据进行上述第2修正处理。

透镜移动控制部34d基于来自第1处理部151及第2处理部152的信号数据进行焦点检测处理,基于该运算结果,输出用于使摄像光学系统31的聚焦透镜向对焦位置移动的驱动信号。

3.进行被摄体检测处理的情况

在划分出的区域间设定了不同的摄像条件、且搜索范围190包含划分出的区域的边界的情况下,在本实施方式中,如以下的3-2.中说明那样,控制部34的物体检测部34a使修正部322对搜索范围190内的至少一个区域的图像数据进行第2修正处理。

3-1.在图16中的搜索范围190的图像数据中没有混合适用了第1摄像条件得到的图像数据和适用了第2摄像条件得到的图像数据的情况

该情况下,修正部322不进行第2修正处理,控制部34的物体检测部34a将构成搜索范围190的图像数据直接使用来进行被摄体检测处理。

3-2.在图16中的搜索范围190的图像数据中混合有适用了第1摄像条件得到的图像数据和适用了第2摄像条件得到的图像数据的情况

该情况下,控制部34的物体检测部34a使与搜索范围190的图像中的适用了第2摄像条件的像素所属的区块111a对应的修正部322,作为进行焦点检测处理的情况而如上述的(例1)~(例3)那样进行第2修正处理。然后,控制部34的物体检测部34a使用适用了第1条件的像素的图像数据和第2修正处理后的图像数据来进行被摄体检测处理。

图26是示意地表示被摄体检测处理所涉及的、第1图像数据和第2图像数据的处理的图。

在上述第1修正处理中,例如,在关注区块包含于第1摄像区域141的情况下,如图26所示通过第1处理部151进行上述第1修正处理、即置换处理。由此,将关注区块内的产生了泛白或发黑的第1图像数据利用来自第2摄像区域142所包含的参照区块的第2图像数据置换掉。因此,第1处理部151作为来自例如第2处理部152的信息182,而接收来自参照区块的第2图像数据。

在第2修正处理中,由第1处理部151或/及第2处理部152进行的第2修正处理,作为进行焦点检测处理的情况,与关于上述图25的第2修正处理相同。

物体检测部34a进行基于来自第1处理部151及第2处理部152的图像数据来检测被摄体要素的处理,并输出检测结果。

4.设定摄像条件的情况

说明在将摄像画面的区域划分并在划分出的区域间设定了不同的摄像条件的状态下,重新进行测光来决定曝光条件的情况。

4-1.在测光范围的图像数据中没有混合适用了第1摄像条件得到的图像数据和适用了第2摄像条件得到的图像数据的情况

该情况下,修正部322不进行第2修正处理,控制部34的设定部34b将构成测光范围的图像数据直接使用来进行曝光运算处理。

4-2.在测光范围的图像数据中混合有适用了第1摄像条件得到的图像数据和适用了第2摄像条件得到的图像数据的情况

该情况下,控制部34的设定部34b使与测光范围的图像数据中的适用了第2摄像条件的像素所属的区块111a对应的修正部322,作为进行焦点检测处理的情况而如上述(例1)~(例3)那样进行第2修正处理。然后,控制部34的设定部34b使用第2修正处理后的图像数据来进行曝光运算处理。

图27是示意地表示曝光运算处理等的摄像条件的设定所涉及的、第1图像数据和第2图像数据的处理的图。

在上述第1修正处理中,例如,在关注区块包含于第1摄像区域141的情况下,如图27所示通过第1处理部151进行上述第1修正处理、即置换处理。由此,将关注区块内的产生了泛白或发黑的第1图像数据利用来自第2摄像区域142所包含的参照区块的第2图像数据置换掉。因此,第1处理部151例如作为来自第2处理部152的信息182,而接收来自参照区块的第2图像数据。

在第2修正处理中,由第1处理部151或/及第2处理部152进行的第2修正处理,作为进行焦点检测处理的情况,与关于上述图25的第2修正处理相同。

设定部34b基于来自第1处理部151及第2处理部152的图像数据来进行曝光运算处理等的摄像条件的计算处理,并基于该运算结果,将基于摄像部32得到的摄像画面划分成包含所检测到的被摄体要素的多个区域,并且针对多个区域重新设定摄像条件。

根据以上说明的第2实施方式,得到以下的作用效果。

(1)图像处理部32c具有:第1处理部151,其进行在第1摄像区域141拍摄到的被摄体的图像数据的生成;和第2处理部152,其进行在第2摄像区域142拍摄到的被摄体的图像数据的生成。第1处理部151根据在第2摄像区域142拍摄到的被摄体的图像数据,生成在第1摄像区域141拍摄到的被摄体的图像数据。由此,能够通过多个修正部322对图像数据的前处理(第1修正处理、第2修正处理)进行并行处理,因此能减轻修正部322中的处理负担。

(2)图像处理部32c具有:第1处理部151,其进行基于入射到第1摄像区域141的被摄体得到的信号的生成;和第2处理部152,其进行基于入射到第2摄像区域142的被摄体得到的信号的生成。第1处理部151根据基于入射到第2摄像区域142的被摄体得到的信号,生成基于在第1摄像区域141拍摄到的被摄体得到的信号。由此,由于能够通过多个修正部322对图像数据的前处理进行并行处理,所以能够减轻修正部322中的处理负担,并且,由于能够通过并行处理在短时间内进行多个修正部322的前处理,所以能够缩短直至透镜移动控制部34d下的焦点检测处理开始为止的时间,有助于焦点检测处理的高速化。

(3)图像处理部32c具有:第1处理部151,其进行入射到第1摄像区域141的被摄体的图像数据的生成;和第2处理部152,其进行入射到第2摄像区域142的被摄体的图像数据的生成。第1处理部151根据入射到第2摄像区域142的被摄体的图像数据,生成在第1摄像区域141拍摄到的被摄体的图像数据。由此,由于能够通过多个修正部322对处理图像数据的前处理进行并行处理,所以能够减轻修正部322中的处理负担,并且,由于能够通过并行处理在短时间内进行多个修正部322的前处理,所以能够缩短直至物体检测部34a下的被摄体检测处理开始为止的时间,有助于被摄体检测处理的高速化。

(4)图像处理部32c具有:第1处理部151,其进行基于入射到第1摄像区域141的被摄体得到的信号的生成;和第2处理部152,其进行基于入射到第2摄像区域142的被摄体得到的信号的生成。第1处理部151根据基于入射到第2摄像区域142的被摄体得到的信号,生成基于在第1摄像区域141拍摄到的被摄体得到的信号。由此,由于能够通过多个修正部322对图像数据的前处理进行并行处理,所以能够减轻修正部322中的处理负担,并且,由于通过并行处理在短时间进行多个修正部322的前处理,所以能够缩短直至设定部34b下的摄像条件的设定处理开始为止的时间,有助于摄像条件的设定处理的高速化。

---第2实施方式的变形例---

以下那样的变形也在本发明的范围内,也能够将一个或多个变形例与上述实施方式组合。

(变形例13)

如第1实施方式的变形例1中的图18的(a)~图18的(c)所示,说明在摄像元件32a的拍摄面上配置第1摄像区域及第2摄像区域的情况下的第1图像数据和第2图像数据的处理。

在本变形例中,也与变形例1同样地,在图18的(a)~图18的(c)中的任一情况下,也是根据从进行了1帧拍摄的摄像元件32a读出的像素信号,分别生成基于从第1摄像区域读出的图像信号得到的第1图像及基于从第2摄像区域读出的图像信号得到的第2图像。在本变形例中,也与变形例1同样地,控制部34将第1图像用于显示,并且将第2图像用于检测。

设为将对拍摄第1图像的第1摄像区域设定的摄像条件称为第1摄像条件,将对拍摄第2图像的第2摄像区域设定的摄像条件称为第2摄像条件。控制部34可以使第1摄像条件与第2摄像条件不同。

1.作为一例,参照图28说明对第1摄像区域设定的第1摄像条件在摄像画面的第1摄像区域整体中相同、对第2摄像区域设定的第2摄像条件在摄像画面的第2摄像区域整体中相同的情况。图28是示意地表示第1图像数据和第2图像数据的处理的图。

从第1摄像区域141所包含的各像素输出以第1摄像条件拍摄得到的第1图像数据,从第2摄像区域142所包含的各像素输出以第2摄像条件拍摄得到的第2图像数据。来自第1摄像区域141的第1图像数据被输出到第1处理部151。同样地,来自第2摄像区域142的第2图像数据被输出到第2处理部152。

第1处理部151根据需要,针对第1图像数据,进行上述第1修正处理及上述第2修正处理,或者,进行上述第1修正处理或上述第2修正处理。

第2处理部152根据需要,针对第2图像数据,进行上述第1修正处理及上述第2修正处理,或者,进行上述第1修正处理或上述第2修正处理。

在本例中,由于第1摄像条件在摄像画面的第1摄像区域整体中相同,所以第1处理部151不对来自第1摄像区域所包含的参照像素pr的第1图像数据进行第2修正处理。另外,由于第2摄像条件在摄像画面的第2摄像区域整体中相同,所以第2处理部152不对用于焦点检测处理、被摄体检测处理及曝光运算处理的第2图像数据进行第2修正处理。但是,第2处理部152针对用于第1图像数据的插补的第2图像数据,进行减小因第1摄像条件与第2摄像条件的不同而导致的图像数据间的差异的第2修正处理。第2处理部152将第2修正处理后的第2图像数据如箭头182所示那样输出到第1处理部151。此外,第2处理部152也可以将第2修正处理后的第2图像数据如虚线的箭头183所述那样输出到生成部323。

第2处理部152例如从第1处理部151接收为了减小因摄像条件的不同导致的图像数据间的差异而需要的第1摄像条件所相关的信息181。

生成部323基于来自第1处理部151的第1图像数据、及由第2处理部152进行第2修正处理后的第2图像数据,进行像素缺陷修正处理、颜色插补处理、轮廓强调处理及减噪处理等图像处理,并输出图像处理后的图像数据。

物体检测部34a进行基于来自第2处理部152的第2图像数据来检测被摄体要素的处理,并输出检测结果。

设定部34b基于来自第2处理部152的第2图像数据来进行曝光运算处理等摄像条件的计算处理,并基于该运算结果,将基于摄像部32的摄像画面划分成包含检测出的被摄体要素的多个区域,并且对多个区域重新设定摄像条件。

透镜移动控制部34d基于来自第2处理部152的第2信号数据来进行焦点检测处理,并基于该运算结果,输出用于使摄像光学系统31的聚焦透镜向对焦位置移动的驱动信号。

2.作为其他一例,参照图28说明对第1摄像区域设定的第1摄像条件根据摄像画面的区域而不同、对第2摄像区域设定的第2摄像条件在摄像画面的第2摄像区域整体中相同的情况。

从第1摄像区域141所包含的各像素输出以根据摄像画面的区域而不同的第1摄像条件拍摄得到的第1图像数据,从第2摄像区域142所包含的各像素输出以在摄像画面的第2摄像区域整体中相同的第2摄像条件拍摄得到的第2图像数据。来自第1摄像区域141的第1图像数据被输出到第1处理部151。同样地,来自第2摄像区域142的第2图像数据被输出到第2处理部152。

第1处理部151根据需要,针对第1图像数据,进行上述第1修正处理及上述第2修正处理,或者,进行上述第1修正处理或上述第2修正处理。

第2处理部152根据需要,针对第2图像数据,进行上述第1修正处理及上述第2修正处理,或者,进行上述第1修正处理或上述第2修正处理。

如上所述在本例中,对第1摄像区域141设定的第1摄像条件根据摄像画面的区域而不同。即,第1摄像条件根据第1摄像区域141内的部分区域而不同。在均位于第1摄像区域141内的关注像素p和参照像素pr中设定了不同的第1摄像条件的情况下,第1处理部151针对来自该参照像素pr的第1图像数据,进行与上述的1-2.中叙述的第2修正处理相同的第2修正处理。此外,在关注像素p和参照像素pr中设定了相同的第1摄像条件的情况下,第1处理部151不对来自该参照像素pr的第1图像数据进行第2修正处理。

在本例中,由于对第2摄像区域142设定的第2摄像条件在摄像画面的第2摄像区域整体中相同,所以第2处理部152不对用于焦点检测处理、被摄体检测处理及曝光运算处理的第2图像数据进行第2修正处理。关于用于第1图像数据的插补的第2图像数据,第2处理部152进行第2修正处理,以减小因第1摄像区域141所包含的关注像素p所涉及的摄像条件与第2摄像条件的不同而导致的图像数据间的差异。第2处理部152将第2修正处理后的第2图像数据输出到第1处理部151(箭头182)。此外,第2处理部152也可以将第2修正处理后的第2图像数据输出到生成部323(箭头183)。

第2处理部152例如从第1处理部151接收为了减小因摄像条件的不同导致的图像数据间的差异而需要的第1摄像区域141所包含的对关注像素p的摄像条件所相关的信息181。

生成部323基于来自第1处理部151的第1图像数据、及由第2处理部152进行第2修正处理后的第2图像数据,进行像素缺陷修正处理、颜色插补处理、轮廓强调处理及减噪处理等图像处理,并输出图像处理后的图像数据。

物体检测部34a基于来自第2处理部152的第2图像数据来进行检测被摄体要素的处理,并输出检测结果。

设定部34b基于来自第2处理部152的第2图像数据来进行曝光运算处理等摄像条件的计算处理,并基于该运算结果,将基于摄像部32的摄像画面划分成包含检测出的被摄体要素的多个区域,并且对多个区域重新设定摄像条件。

透镜移动控制部34d基于来自第2处理部152的第2信号数据来进行焦点检测处理,并基于该运算结果,输出用于使摄像光学系统31的聚焦透镜向对焦位置移动的驱动信号。

3.另外,作为其他一例,参照图28说明对第1摄像区域141设定的第1摄像条件在摄像画面的第1摄像区域141整体中相同、对第2摄像区域142设定的第2摄像条件根据摄像画面的区域而不同的情况。

从第1摄像区域141所包含的各像素输出以在摄像画面的第1摄像区域141整体中相同的第1摄像条件拍摄得到的第1图像数据,从第2摄像区域142所包含的各像素输出以根据摄像画面的区域而不同的第4摄像条件拍摄得到的第2图像数据。来自第1摄像区域141的第1图像数据被输出到第1处理部151。同样地,来自第2摄像区域142的第2图像数据被输出到第2处理部152。

第1处理部151根据需要,针对第1图像数据,进行上述第1修正处理及上述第2修正处理,或者,进行上述第1修正处理或上述第2修正处理。

第2处理部152根据需要,针对第2图像数据,进行上述第1修正处理及上述第2修正处理,或者,进行上述第1修正处理或上述第2修正处理。

在本例中,由于对第1摄像区域141设定的第1摄像条件在摄像画面的第1摄像区域141整体中相同,所以第1处理部151不对来自第1摄像区域141所包含的参照像素pr的第1图像数据进行第2修正处理。

另外,在本例中,由于对第2摄像区域142设定的第2摄像条件根据摄像画面的区域而不同,所以第2处理部152对第2图像数据如以下那样进行第2修正处理。第2处理部152例如对第2图像数据中的以某个摄像条件拍摄得到的第2图像数据进行第2修正处理,由此减小第2修正处理后的第2图像数据与以上述某个摄像条件不同的其他摄像条件拍摄得到的第2图像数据之差。

在本例中,关于用于第1图像数据的插补的第2图像数据,第2处理部152进行第2修正处理,以减小因第1摄像区域141所包含的关注像素p所相关的摄像条件与第2摄像条件的不同而导致的图像数据间的差异。第2处理部152将第2修正处理后的第2图像数据输出到第1处理部151(箭头182)。此外,第2处理部152也可以将第2修正处理后的第2图像数据输出到生成部323(箭头183)。

第2处理部152例如从第1处理部151接收为了减小因摄像条件的不同导致的图像数据间的差异而需要的第1区域所包含的对关注像素p的摄像条件所相关的信息181。

生成部323基于来自第1处理部151的第1图像数据、及由第2处理部152进行第2修正处理后的第2图像数据,进行像素缺陷修正处理、颜色插补处理、轮廓强调处理及减噪处理等图像处理,并输出图像处理后的图像数据。

物体检测部34a进行基于由第2处理部152进行第2修正处理后的以某个摄像条件拍摄得到的第2图像数据、和以其他摄像条件拍摄得到的第2图像数据来检测被摄体要素的处理,并输出检测结果。

设定部34b基于由第2处理部152进行第2修正处理后的以某个摄像条件拍摄得到的第2图像数据、和以其他摄像条件拍摄得到的第2图像数据,来进行曝光运算处理等摄像条件的计算处理。设定部34b基于该运算结果,将基于摄像部32的摄像画面划分成包含检测出的被摄体要素的多个区域,并且对多个区域重新设定摄像条件。

透镜移动控制部34d基于由第2处理部152进行第2修正处理后的以某个摄像条件拍摄得到的第2信号数据、和以其他摄像条件拍摄得到的第2信号数据来进行焦点检测处理,透镜移动控制部34d基于该运算结果,输出用于使摄像光学系统31的聚焦透镜向对焦位置移动的驱动信号。

4.而且,作为其他一例,参照图28说明对第1摄像区域141设定的第1摄像条件根据摄像画面的区域而不同、对第2摄像区域142设定的第2摄像条件根据摄像画面的区域而不同的情况。

从第1摄像区域141所包含的各像素输出以根据摄像画面的区域而不同的第1摄像条件拍摄得到的第1图像数据,从第2摄像区域142所包含的各像素输出以根据摄像画面的区域而不同的第2摄像条件拍摄得到的第2图像数据。来自第1摄像区域141的第1图像数据被输出到第1处理部151。同样地,来自第2摄像区域142的第2图像数据被输出到第2处理部152。

第1处理部151根据需要,针对第1图像数据,进行上述第1修正处理及上述第2修正处理,或者,进行上述第1修正处理或上述第2修正处理。

第2处理部152根据需要,针对第2图像数据,进行上述第1修正处理及上述第2修正处理,或者,进行上述第1修正处理或上述第2修正处理。

如上所述在本例中,对第1摄像区域141设定的第1摄像条件根据摄像画面的区域而不同。即,第1摄像条件根据第1摄像区域141内的部分区域而不同。在均位于第1摄像区域141内的关注像素p和参照像素pr中设定了不同的第1摄像条件的情况下,第1处理部151针对来自该参照像素pr的第1图像数据,进行与在上述的1-2.中叙述的第2修正处理相同的第2修正处理。此外,在关注像素p和参照像素pr中设定了相同的第1摄像条件的情况下,第1处理部151不对来自该参照像素pr的第1图像数据进行第2修正处理。

另外,在本例中,由于对第2摄像区域142设定的第2摄像条件根据摄像画面的区域而不同,所以第2处理部152针对第2图像数据如上述的3.的一例那样进行第2修正处理。

生成部323基于来自第1处理部151的第1图像数据、及由第2处理部152进行第2修正处理后的第2图像数据,进行像素缺陷修正处理、颜色插补处理、轮廓强调处理及减噪处理等图像处理,并输出图像处理后的图像数据。

物体检测部34a进行基于由第2处理部152进行第2修正处理后的以某个摄像条件拍摄得到的第2图像数据、和以其他摄像条件拍摄得到的第2图像数据来检测被摄体要素的处理,并输出检测结果。

设定部34b基于由第2处理部152进行第2修正处理后的以某个摄像条件拍摄得到的第2图像数据、和以其他摄像条件拍摄得到的第2图像数据,进行曝光运算处理等摄像条件的计算处理。设定部34b基于该运算结果,将基于摄像部32的摄像画面划分成包含检测出的被摄体要素的多个区域,并且对多个区域重新设定摄像条件。

透镜移动控制部34d基于由第2处理部152进行第2修正处理后的以某个摄像条件拍摄得到的第2信号数据、和以其他摄像条件拍摄得到的第2信号数据来进行焦点检测处理,透镜移动控制部34d基于该运算结果,输出用于使摄像光学系统31的聚焦透镜向对焦位置移动的驱动信号。

(变形例14)

在上述第2实施方式中,一个修正部322与一个区块111a(单位分区)对应。但是,也可以是一个修正部322与具有多个区块111a(单位分区)的一个复合区块(复合分区)对应。该情况下,修正部322能够依次对来自属于该复合区块所包含的多个区块111a的像素的图像数据进行修正。即使多个修正部322与具有多个区块111a的每个复合区块对应地设置,也能够由多个修正部322对图像数据的第2修正处理进行并行处理,因此能够减轻修正部322中的处理负担,能够根据在摄像条件不同的区域分别生成的图像数据在短时间内生成恰当的图像。

(变形例15)

在上述第2实施方式中,生成部323设于摄像部32a的内部。但是,也可以将生成部323设于摄像部32a的外部。即使将生成部323设于摄像部32a的外部也会起到与上述作用效果相同的作用效果。

(变形例16)

在上述第2实施方式中,层叠型摄像元件100a除了背面照射型摄像芯片111、信号处理芯片112和存储芯片113以外,还具有进行上述的前处理及图像处理的图像处理芯片114。但是,也可以不在层叠型摄像元件100a设置图像处理芯片114,而在信号处理芯片112设置图像处理部32c。

(变形例17)

在上述第2实施方式中,第2处理部152从第1处理部151接收为了减小因摄像条件的不同导致的图像数据间的差异而需要的第1摄像条件所相关的信息。另外,第1处理部151从第2处理部152接收为了减小因摄像条件的不同导致的图像数据间的差异而需要的第2摄像条件所相关的信息。但是,第2处理部152也可以从驱动部32b和/或控制部34接收为了抑制因摄像条件的不同导致的图像数据间的差异而需要的第1摄像条件所相关的信息。同样地,第1处理部151也可以从驱动部32b和/或控制部34接收为了减小因摄像条件的不同导致的图像数据间的差异而需要的第2摄像条件所相关的信息。

以上说明的摄像光学系统31也可以包含变焦透镜和/或移轴透镜。透镜移动控制部34d通过使变焦透镜沿光轴方向移动,调节基于摄像光学系统31的视场角。即,通过变焦透镜的移动,能够调节基于摄像光学系统31得到的像,如得到大范围的被摄体的像,对于远的被摄体得到大的像等。

另外,透镜移动控制部34d通过使移轴透镜沿与光轴正交的方向移动,能够调节基于摄像光学系统31得到的像的歪斜。

并且,也可以为了调节基于摄像光学系统31得到的像的状态(例如视场角的状态或像的歪斜的状态),而优选使用上述那样的前处理后的图像数据,并基于该想法,进行上述前处理。

---第3实施方式---

参照图29、30,作为搭载第3实施方式的图像处理装置的电子设备的一例,列举数字相机为例进行说明。在以下说明中,对与第1实施方式相同的结构要素标注相同的附图标记并主要说明不同点。对于没有特别说明的点,与第1实施方式相同。在本实施方式中,说明划分出的区域的边界存在于区块内的情况。

<第1修正处理>

在第3实施方式中,图像处理部33的修正部33b作为在图像处理、焦点检测处理、被摄体检测(检测被摄体要素)处理、及设定摄像条件的处理之前进行的前处理之一,根据需要进行第1修正处理。

与第1实施方式同样地,在第3实施方式中构成为,在通过设定部34b将摄像画面的区域划分后,能够对由用户选择的区域或控制部34判断出的区域设定(变更)摄像条件。

例如,将划分后的区域61~66分别设为第1区域61~第6区域66(参照图29的(a)),对第1区域61~第6区域66设定各自不同的第1摄像条件~第6摄像条件。在这样的情况下,存在包含第1区域61~第6区域66的边界的区块。区块如上所述,是在摄像元件32a中能够单独设定摄像条件的最小单位。

图29的(a)是例示包含实时取景图像60a中的与人物对应的第1区域61和与山对应的第4区域64之间的边界的规定范围280的图。图20的(b)是将图29的(a)的规定范围280放大的图。在图29的(b)中,在规定范围280包含多个区块281~289。

图29的(b)的白底部表示与人物对应的部分。另外,图29的(b)的斜线部及网格部表示与山对应的部分。在区块282、区块285及区块287,包含第1区域61与第4区域64的边界b1。即,在图29的(b)中,在与山对应的部分中,对边界b1所存在的区块82、85、87内的与山对应的部分施加了斜线。

在以下说明中,将同一被摄体要素(同一区域)内的区块中的、包含与相邻区域的边界的区块称为边界区块,将不包含与相邻区域的边界的区块称为主区块。即,在图29的(b)的例子中,区块282、285、287是边界区块,其余的区块281、283、284、286、288、289是主区块。

在本实施方式中,将与人物对应的第1区域61设定为第1摄像条件,将与山对应的第4区域64设定为第4摄像条件。在本实施方式中,由于区块是设定摄像条件的最小单位,所以对一个区块设定了相同的摄像条件。因此,设定部34b将拍摄人物的主区块281及284的摄像条件设定为第1摄像条件,并且将拍摄人物及山的边界区块282、285及287的摄像条件也设定为第1摄像条件。另一方面,设定部34b将拍摄山的主区块283、286、288及289的摄像条件设定为第4摄像条件。

像这样,由于对包含第1区域61与第4区域64的边界b1的边界区块282、285及287设定了第1摄像条件,所以对这些边界区块282、区块285及区块287的斜线部、即与山对应的部分也设定了第1摄像条件。也就是说,对边界区块282、边界区块285及边界区块287内的斜线部设定了与对拍摄山的主区块283、286、288及289设定的第4摄像条件不同的摄像条件。

若如以上那样将第4区域64中的边界区块282、285及287的斜线部设定为第1摄像条件,将标注网格的主区块283、286、288及289设定为第4摄像条件,则存在斜线部分与网格部分之间图像的明暗、对比度、色调等不同的情况。即,即使是同一第4区域64,由于在边界区块和主区块中摄像条件不同,所以可能会在图像处理后的图像中产生不连续性。

因此,在本实施方式中,通过对来自属于边界区块的像素的信号进行以下叙述的修正处理,得到同于以与主区块中的摄像条件相同的摄像条件进行拍摄的情况的信号。将该修正处理称为第1修正处理。第1修正处理是为了减轻因相同区域内存在摄像条件不同的部分导致在图像处理后的图像中产生的不连续性而进行的。

图30是例示与图29的(b)对应的图像数据的图。在图30中,设为区块281~289分别由2像素×2像素这4个像素构成。在图30中,以粗虚线表示边界b1。设为在图30所示的各像素中的以白色表示的像素281a~281d、282a~282c、284a~284d、285a、287a中入射了来自人物61a(参照图5)的被摄体光,在施加了网格的像素282d、283a~283d、285b~285d、286a~286d、287b~287d、288a~288d、289a~289d中入射了来自山64a(参照图5)的被摄体光。

修正部33b针对属于边界区块的各像素,判断入射了来自哪个被摄体要素的光。具体地说,修正部33b根据基于物体检测部34a对被摄体要素的检测结果,计算出摄像元件32a的拍摄面上的边界的位置。然后,修正部33b基于计算出的边界的位置来提取出边界区块,并且对属于提取出的边界区块的各像素计算出入射了来自哪个被摄体要素的被摄体光。

例如,列举图29、30为例进行说明,修正部33b根据基于物体检测部34a对被摄体要素的检测结果,计算出第1区域61与第4区域64的边界b1的位置。然后修正部33b基于计算出的边界b1的位置,将区块282、285及287作为边界区块提取出。然后修正部33b基于计算出的边界b1的位置,对边界区块282的像素282a、282b及282c、边界区块285的像素285a、以及边界区块287的像素287a计算出入射了来自人物61a的被摄体光这一情况。另外,修正部33b基于计算出的边界b1的位置,对边界区块282的像素282d、边界区块285的像素285b、285c及285d、以及边界区块287的像素287b、287c及287d计算出入射了来自山64a的被摄体光这一情况。

如上所述,关于第4区域64的主区块283、286、288及289利用第4摄像条件对来自山64a的被摄体光进行拍摄。然而,由于边界区块282、285、287被设定为第1摄像条件,所以边界区块282的像素282d、边界区块285的像素285b~285d及边界区块287的像素287b~287d利用第1摄像条件对来自山64a的被摄体光进行拍摄。

因此,修正部33b对来自边界区块282的像素282d、边界区块285的像素285b~285d及边界区块287的像素287b~287d的各信号,进行第1修正处理以得到与对来自山64a的被摄体光以第4摄像条件进行拍摄的情况相同的信号。此外,在本实施方式中,针对在边界区块内成为修正处理对象的多个像素,以相同条件进行修正处理。在以下说明中,列举边界区块285为例进行说明,但对于其他边界区块也根据需要进行与以下说明相同的修正处理。

(第1修正处理的例示)

1.基于摄像条件进行第1修正处理

作为第1修正处理的方式之一,如以下说明那样,基于对关于边界区块的两个区域(第1区域61及第4区域64)分别设定的摄像条件的不同,来进行修正处理。

(例1)

例如,在第4摄像条件与第1摄像条件之间仅iso感光度不同、第4摄像条件的iso感光度为800而第1摄像条件的iso感光度为100的情况下,修正部33b针对来自边界区块285的各像素285b~285d的信号,作为第1修正处理而乘以800/100=8。该情况下,与来自各像素285b~285d的信号的像素值相乘的修正系数α是基于对相邻的两个区域分别设定的摄像条件的不同而如上述那样计算出的,为8。

通过该第1修正处理修正后的边界区块285的各像素285b~285d的信号与入射到各像素285b~285d的光被以第4摄像条件(iso感光度为800)拍摄的情况下的信号相同。

(例2)

例如,在第4摄像条件与第1摄像条件之间仅快门速度不同、第4摄像条件的快门速度为1/100秒而第1摄像条件的快门速度为1/1000秒的情况下,修正部33b针对来自边界区块285的各像素285b~285d的信号,作为第1修正处理而乘以(1/100)/(1/1000)=10。该情况下,与来自各像素285b~285d的信号的像素值相乘的修正系数α是基于对相邻的两个区域分别设定的摄像条件的不同而如上述那样计算出的,为10。

通过该第1修正处理修正后的边界区块285的各像素285b~285d的信号与入射到各像素285b~285d的光被以第4摄像条件(快门速度为1/100秒)拍摄的情况下的信号相同。

(例3)

例如,在第4摄像条件与第1摄像条件之间仅帧频不同、第4摄像条件的帧频为60fps而第1摄像条件的帧频为30fps的情况下,修正部33b针对来自边界区块285的各像素285b~285d的帧频30fps的多个帧图像的信号,采用获取开始定时与以第4摄像条件(60fps)获取到的帧图像近的帧图像的信号,并从帧频30fps转换成帧频60fps。该帧频的转换例如通过将来自边界区块285的各像素285b~285d的信号存储到存储器并从该存储器对同一信号读出两次而实现。

此外,基于第1修正处理进行的从帧频30fps向帧频60fps的转换也可以通过将以帧频30fps获取到的前后的多个帧图像的信号相加合成而生成合成信号,并将该合成信号补充到帧频30fps的帧图像的信号而实现。

像这样,修正部33b对来自全部的边界区块的各像素的信号根据需要进行第1修正处理。即,修正部33b针对来自属于边界区块的某个像素的信号,若与该像素相同的被摄体要素所相关的、适用于主区块的摄像条件与适用于该边界区块的摄像条件不同,则进行第1修正处理。但是,若与该像素相同的被摄体要素所相关的、适用于主区块的摄像条件与适用于该边界区块的摄像条件相同,则无需进行第1修正处理,因此修正部33b不进行第1修正处理。

如上所述,即使摄像条件中稍有差异也视为相同的摄像条件。

此外,若通过对在边界区块和边界区块临近的主区块拍摄得到的图像数据进行降低锐度和/或对比度这样的图像处理能够缓解图像中产生的不连续性,则可以不进行第1修正处理。

2.基于像素值进行第1修正处理

作为第1修正处理的其他方式,如以下说明那样,基于从边界区块的像素输出的信号的像素值和从主区块的像素输出的信号的像素值,进行修正处理。

(例1)修正部33b基于以第1摄像条件对来自山64a的被摄体光进行拍摄的边界区块的各像素发来的信号的像素值的平均值、和以第4摄像条件对来自山64a的被摄体光进行拍摄的主区块(与该边界区块相邻的区块)的各像素发来的信号的像素值的平均值,计算出修正系数α。然后修正部33b对拍摄来自山64a的被摄体光的边界区块的各像素发来的信号的像素值分别乘以修正系数α。

例如,设为对来自山64a的被摄体光进行拍摄的边界区块285的各像素285b~285d发来的信号的像素值的平均值为vave1,与边界区块285相邻的主区块286的各像素286a~286d发来的信号的像素值的平均值为vave2。该情况下,修正部33b作为针对来自边界区块285的像素285b~285d的信号的像素值的修正系数α,计算出α=vave2/vave1。

然后,修正部33b将对来自边界区块285的像素285b的信号的像素值乘以修正系数α得到的值设为来自像素285b的信号的第1修正处理后的像素值。同样地,修正部33b将对来自边界区块285的像素285c的信号的像素值乘以修正系数α得到的值设为来自像素285c的信号的第1修正处理后的像素值,将对来自像素285d的信号的像素值乘以修正系数α得到的值设为来自像素285d的信号的第1修正处理后的像素值。

如以上那样,来自边界区块285的像素285b~285d的信号的像素值和来自与该边界区块相邻的主区块的各像素的信号的像素值之间的差异是主要基于第1及第4摄像条件的不同而产生的。因此,基于像素值的差异来确定修正系数α,并以修正系数α对像素285b~285d的信号进行修正,由此,像素285b~285d的信号与以第4摄像条件对入射到各像素285b~285d的光进行拍摄的情况下的信号实质相同。

像这样,修正部33b针对来自全部的边界区块的各像素的信号根据需要进行第1修正处理。

在以上说明中,说明了基于两个不同方式的第1修正处理。关于进行这些方式中的哪一方式的第1修正处理,控制部34可以例如基于操作部件36的设定(包含操作菜单设定)状态来决定。

此外,也可以根据对相机1设定的摄像场景模式、检测到的被摄体要素的种类来决定控制部34进行哪一方式的第1修正处理。

<第2修正处理>

图像处理部33的修正部33b在图像处理、焦点检测处理、被摄体检测(检测被摄体要素)处理、及设定摄像条件的处理之前,还根据需要进行与第1实施方式中的修正处理相同的修正处理。在以下说明中,将与第1实施方式中的修正处理相同的修正处理也称为第2修正处理。修正部33b在如上所述根据需要进行的第1修正处理之后进行第2修正处理。

此外,在第2修正处理中,通过第1修正处理进行修正后的来自边界区块的像素的信号不是作为适用了对边界区块设定的摄像条件进行拍摄得到的信号,而是作为适用了对主区块设定的摄像条件进行拍摄得到的信号而被处理。例如,在进行第2修正处理时,通过第1修正处理进行修正后的来自边界区块282的像素282d的信号不是作为适用了第1摄像条件进行拍摄得到的信号,而是作为适用了第4摄像条件进行拍摄得到的信号而由修正部33b进行处理。

根据以上说明的第3实施方式,除了第1及第2实施方式的作用效果以外,得到以下的作用效果。

(1)能够在摄像条件不同的区域中,分别恰当地进行处理。即,能够在各区域中恰当地生成基于各自生成的图像数据得到的图像。例如,能够抑制因针对每个区域的摄像条件的不同而在所生成的图像中显现的不连续性、不协调感。

另外,由于能够恰当地修正来自边界区块的像素的信号,所以能够恰当地生成图像数据。

另外,能够基于在各区域分别生成的焦点检测用的信号数据来恰当地检测离焦量。例如,能够抑制因针对每个区域的摄像条件的不同而导致焦点检测精度降低。

另外,能够基于在各区域分别生成的图像数据来恰当地检测被摄体要素。例如,能够抑制因针对每个区域的摄像条件的不同而导致检测精度降低。

另外,能够基于在各区域分别生成的图像数据来恰当地进行摄像条件的设定。例如,能够抑制因针对每个区域的摄像条件的不同而导致曝光条件的设定精度降低。

(2)由于能够恰当地修正来自边界区块的像素的信号,所以能够恰当地生成图像数据。

另外,能够基于在各区域中分别生成的焦点检测用的信号数据来恰当地检测离焦量。

另外,能够基于在各区域分别生成的图像数据来恰当地检测被摄体要素。

另外,能够基于在各区域分别生成的图像数据来恰当地进行摄像条件的设定。

(3)第1区域61所相关的图像数据的一部分是对入射到与第4区域64相邻的一部分第1区域61的光进行拍摄得到的。图像处理部33的修正部33b根据第4摄像条件对第1区域61所相关的图像数据的一部分进行修正,因此能够恰当地修正来自边界区块的像素的信号,能够恰当地生成图像数据。

另外,能够基于在各区域分别生成的焦点检测用的信号数据来恰当地检测离焦量。

另外,能够基于在各区域分别生成的图像数据来恰当地检测被摄体要素。

另外,能够基于在各区域分别生成的图像数据来恰当地进行摄像条件的设定。

(4)图像处理部33的修正部33b根据第4摄像条件对第1区域61所相关的图像数据的一部分进行修正,因此能够恰当地修正来自边界区块的像素的信号,能够恰当地生成图像数据。

另外,能够基于在各区域分别生成的焦点检测用的信号数据来恰当地检测离焦量。

另外,能够基于在各区域分别生成的图像数据来恰当地检测被摄体要素。

另外,能够基于在各区域分别生成的图像数据来恰当地进行摄像条件的设定。

(5)能够恰当地修正来自边界区块的像素中的、供来自山64a的光入射的像素的信号,能够恰当地生成图像数据。

另外,能够基于在各区域分别生成的焦点检测用的信号数据来恰当地检测离焦量。

另外,能够基于在各区域分别生成的图像数据来恰当地检测被摄体要素。

另外,能够基于在各区域分别生成的图像数据来恰当地进行摄像条件的设定。

---第3实施方式的变形例---

在上述第3实施方式中,在对与第1区域61及第4区域64相关的边界区块基于摄像条件进行第1修正处理的情况下,将第1摄像条件与第4摄像条件之比设为修正系数α。但是,在本变形例中,即使在对与第1区域61及第4区域64相关的边界区块基于摄像条件进行第1修正处理的情况下,也会将相较于第1摄像条件与第4摄像条件之比而接近1的值设为修正系数α。

(例1)

例如,在第4摄像条件与第1摄像条件之间仅iso感光度不同、第4摄像条件的iso感光度为800而第1摄像条件的iso感光度为100的情况下,修正部33b作为修正系数α的值,采用相较于第1摄像条件与第4摄像条件之比即800/100=8而更接近1的值,例如7或6.5等的值。此外,在此列举的修正系数α的值只不过是用于例示的值,修正系数α并不限定于该值。

(例2)

例如,在第4摄像条件与第1摄像条件之间仅快门速度不同、第4摄像条件的快门速度为1/100秒而第1摄像条件的快门速度为1/1000秒的情况下,修正部33b作为修正系数α的值,采用相较于第1摄像条件与第4摄像条件之比即(1/100)/(1/1000)=10而更接近1的值,例如8.5或7等的值。此外,在此列举的修正系数α的值只不过是用于例示的值,修正系数α并不限定于该值。

即,只要通过对设定了第1摄像条件的边界区块285的各像素285b~285d的信号值进行修正,而修正后的信号值与设定了第4摄像条件的区块的像素的信号值之差变得比修正前的信号值与设定了第4摄像条件的区块的像素的信号值之差小(平滑化)即可。像这样,只要能够缓解因在同一区域内存在摄像条件不同的部分而导致在图像处理后的图像中产生的不连续性,则可以将修正系数α如本变形例这样计算出。

例如,在成为修正对象的像素所存在的区域小的情况下,或第1摄像条件与第4摄像条件的差异小,则可以如本变形例这样进行第1修正处理。

---第4实施方式---

参照图29、31,作为搭载第4实施方式的图像处理装置的电子设备的一例,列举数字相机为例进行说明。在以下说明中,对于没有特别说明的点,与第3实施方式相同。在第3实施方式中,对来自在边界区块内成为修正处理对象的多个像素的信号的像素值分别乘以相同的修正系数α。与之相对,在本实施方式中,对来自在一个边界区块内成为修正处理对象的多个像素的信号的像素值乘以根据其位置而值不同的修正系数。

<第1修正处理>

(第1修正处理的例示)

1.基于摄像条件进行第1修正处理

作为本实施方式的第1修正处理的方式之一,如以下说明那样,基于对与边界区块相关的两个区域(第1区域61及第4区域64)分别设定的摄像条件的不同,来进行修正处理。

具体地说,即使是同一区域内的像素,在适用于边界区块内的像素的摄像条件与适用于主区块的摄像条件不同的情况下,也会根据边界区块中的像素的位置,对第3实施方式中的修正系数α进行加权。

修正部33b与第3实施方式的(例1)和(例2)同样地,基于摄像条件计算出修正系数α。然后,修正部33b将计算出的修正系数α变更为与距区域边界的距离相应的不同值。例如,修正部33b以距区域边界的距离越小则值越接近1的方式对修正系数α的值进行变更。即,修正部33b以边界区块内的成为修正对象的像素的位置越接近区域边界则越减少修正效果的方式,对修正系数α的值进行变更。将这样变更后的修正系数α称为修正系数β。修正部33b使修正系数β与来自成为修正对象的像素的信号的像素值相乘。

(例1)

例如,在第4摄像条件与第1摄像条件之间仅iso感光度不同、第4摄像条件的iso感光度为800而第1摄像条件的iso感光度为100的情况下,修正部33b与第3实施方式同样地,计算出修正系数α=800/100=8。然后,修正部33b以距区域边界的距离越小则值越接近1的方式对修正系数α的值进行变更。

例如,修正部33b以如下方式设定针对来自边界区块285的各像素285b~285d的信号的修正系数β。图31是边界区块285的放大图,将像素285b的重心gb、像素285c的重心gc及像素285d的重心gd以黑圆示出。如图31所示,像素285b及像素285c的重心位置gb、gc与边界b1的距离lb、lc小于像素285d的重心位置gd与边界b1的距离ld。因此,修正部33b将针对像素285d的修正系数β的值设为例如与修正系数α相同值即8、或比修正系数α接近1的值例如6,将针对像素285b及像素285c的修正系数β的值设为更接近1的值例如4。此外,在此列举的修正系数β的值只不过是用于例示的值,并不限定于该值。

修正部33b将对来自边界区块285的像素285b的信号的像素值乘以修正系数β=4得到的值设为来自像素285b的信号的第1修正处理后的像素值。同样地,修正部33b将对来自边界区块285的像素285c的信号的像素值乘以修正系数β=4得到的值设为来自像素285c的信号的第1修正处理后的像素值,将对来自像素285d的信号的像素值乘以修正系数β=6或8得到的值设为来自像素285d的信号的第1修正处理后的像素值。

通过该第1修正处理修正后的边界区块285的各像素285b~285d的信号越远离边界b1则越与以第4摄像条件(iso感光度为800)进行拍摄的情况的信号接近。

(例2)

例如,在第4摄像条件与第1摄像条件之间仅快门速度不同、第4摄像条件的快门速度为1/100秒而第1摄像条件的快门速度为1/1000秒的情况下,与第3实施方式同样地,计算出修正系数α=(1/100)/(1/1000)=10。然后,修正部33b以距区域边界的距离越小则值越接近1的方式对修正系数α的值进行变更。

例如,修正部33b以如下方式设定针对来自边界区块285的各像素285b~285d的信号的修正系数β。如上所述,像素285b及像素285c的重心位置gb、gc与边界b1的距离lb、lc小于像素285d的重心位置gd与边界b1的距离ld。因此,修正部33b将针对像素285d的修正系数β的值设为例如与修正系数α相同的值即10或比修正系数α接近1的值7,将针对像素285b及像素285c的修正系数β的值设为更接近1的值例如5。此外,在此列举的修正系数β的值只不过是用于例示的值,并不限定于该值。

修正部33b将对来自边界区块285的像素285b的信号的像素值乘以修正系数β=5得到的值设为来自像素285b的信号的第1修正处理后的像素值。同样地,修正部33b将对来自边界区块285的像素285c的信号的像素值乘以修正系数β=5得到的值设为来自像素285c的信号的第1修正处理后的像素值,将对来自像素285d的信号的像素值乘以修正系数β=7或10得到的值设为来自像素285d的信号的第1修正处理后的像素值。

通过该第1修正处理修正后的边界区块285的各像素285b~285d的信号越远离边界b1则越接近以第4摄像条件(快门速度为1/100秒)进行拍摄的情况下的信号。

像这样,修正部33b对来自全部的边界区块的各像素的信号根据需要进行第1修正处理。

2.基于像素值进行第1修正处理

作为本实施方式的第1修正处理的其他方式,如以下说明那样,基于从边界区块的像素输出的信号的值(像素值)和从主区块的像素输出的信号的值(像素值),进行修正处理。

具体地说,即使是同一区域内的像素,在适用于边界区块内的像素的摄像条件与适用于主区块的摄像条件不同的情况下,也会根据边界区块中的像素的位置,对第3实施方式中的修正系数α进行加权。

修正部33b与第3实施方式的(例1)同样地,基于摄像条件计算出修正系数α。然后,修正部33b将计算出的修正系数α变更为与距区域边界的距离相应的不同值。例如,修正部33b以距区域边界的距离越小则值越接近1的方式对修正系数α的值进行变更。即,修正部33b以边界区块内的成为修正对象的像素的位置越接近区域边界则越减少修正效果的方式,对修正系数α的值进行变更。将这样变更后的修正系数α与上述情况同样地称为修正系数β。修正部33b将修正系数β与来自成为修正对象的像素的信号的像素值相乘。

(例1)例如,设为对来自山64a的被摄体光进行拍摄的边界区块285的各像素285b~285d发出的信号的像素值的平均值为vave1,与边界区块285相邻的主区块286的各像素286a~286d发出的信号的像素值的平均值为vave2。该情况下,修正部33b作为针对来自边界区块285的像素285b~285d的信号的像素值的修正系数α,计算出α=vave2/vave1。然后,修正部33b以距区域边界的距离越小则值越接近1的方式对修正系数α的值进行变更。

例如,修正部33b以如下方式设定针对来自边界区块285的各像素285b~285d的信号的修正系数β。如上所述,像素285b及像素285c的重心位置gb、gc与边界b1的距离lb、lc小于像素285d的重心位置gd与边界b1的距离ld。因此,修正部33b将针对像素285d的修正系数β的值设为例如与修正系数α相同的值(即vave2/vave1)或比修正系数α接近1的例如β=β1,将针对像素285b及像素285c的修正系数β的值设为比β1更接近1的例如β=β2。

此外,在α(=vave2/vave1)大于1的情况下,成为1≤β2<β1<α,在α小于1的情况下,成为α<β1<β2≤1。

修正部33b将对来自边界区块285的像素285b的信号的像素值乘以修正系数β=β2得到的值设为来自像素285b的信号的第1修正处理后的像素值。同样地,修正部33b将对来自边界区块285的像素285c的信号的像素值乘以修正系数β=β2得到的值设为来自像素285c的信号的第1修正处理后的像素值,将对来自像素285d的信号的像素值乘以修正系数β=β1或vave2/vave1得到的值设为来自像素285d的信号的第1修正处理后的像素值。

像这样,修正部33b对来自全部的边界区块的各像素的信号根据需要进行第1修正处理。

在以上的说明中,说明了基于两种不同方式的第1修正处理。关于进行这些方式中的哪种方式的第1修正处理,控制部34可以例如基于操作部件36的设定(包含操作菜单设定)状态来决定。

此外,也可以根据对相机1设定的摄像场景模式、检测到的被摄体要素的种类来决定控制部34进行哪种方式的第1修正处理。

<第2修正处理>

图像处理部33的修正部33b在图像处理、焦点检测处理、被摄体检测(检测被摄体要素)处理及设定摄像条件的处理之前,还根据需要进行与第1实施方式中的修正处理相同的修正处理。在以下说明中,将与第1实施方式中的修正处理相同的修正处理也称为第2修正处理。修正部33b在如上所述根据需要进行的第1修正处理之后进行第2修正处理。

如在上述第1实施方式至第4实施方式中说明那样,控制部34根据区块85的图像数据(像素的信号值),判断是否对区块85的图像数据使用以与对区块85设定的摄像条件不同的摄像条件进行拍摄的区块的像素的值。即,控制部34在区块85的图像数据中产生了泛白或发黑的情况下,选择以与对区块85设定的摄像条件不同的摄像条件进行了拍摄的区块的像素,并用所选择的像素的图像数据(像素的信号值)将产生了泛白或发黑的图像数据置换掉。此外,作为使用以与对区块85设定的摄像条件不同的摄像条件进行了拍摄的区块的像素的值的条件,可以是区块85的图像数据(像素的信号值)为第1阈值以上或为第2阈值以下。另外,控制部34在区块85的图像数据没有产生泛白或发黑的情况下,使用区块85的图像数据(像素的像素值)。该情况下,进行上述第3实施方式或第4实施方式的第1修正处理。另外,控制部34也可以在区块85的图像数据中没有产生泛白或发黑的情况下,也选择以与对区块85设定的摄像条件不同的摄像条件进行了拍摄的区块的像素,并用所选择出的像素的图像数据(像素的信号值)将产生了泛白或发黑的图像数据置换掉。另外,控制部34可以进行被摄体识别,基于识别结果来进行第1修正处理。例如,可以是,在正式摄影前,设定部34b设定与第1摄像条件不同的摄像条件,物体检测部34a进行被摄体识别。然后,以第1摄像条件进行拍摄,使用对与进行修正的区域(例如,像素85b、85d)相同的被摄体进行了拍摄的像素的信号值。像这样,如在第1实施方式至第4实施方式中说明那样,设定了第1摄像条件而拍摄的被摄体通过第1修正处理被修正为设定了第4摄像条件而进行拍摄。

此外,在上述的说明中,使用公知的被摄体识别技术来进行被摄体要素的检测。作为公知的被摄体识别技术,可列举例如标示(labelling)处理、模板匹配等各种方法。

另外,在上述的说明中,控制部34使用由摄像元件32a拍摄得到的实时取景图像来进行被摄体要素的检测及区域的划分。但是,只要是如例如单眼相机那样具有能够拍摄被摄体像的测光传感器的相机,则控制部34也可以使用由测光传感器拍摄得到的实时取景图像来进行被摄体要素的检测及区域的划分。

此外,上述的各实施方式及变形例可以分别组合。

上述中,说明了各种实施方式及变形例,但本发明不限定于这些内容。在本发明的技术思想范围内想到的其他方式也包含在本发明的范围内。

下面的优先权基础申请的公开内容作为引用文而组入于此。

日本国专利申请2016年第71970号(2016年3月31日提出申请)

附图标记说明

1、1c...相机

1b...摄像系统

31...摄像光学系统

32...摄像部

32a、100...摄像元件

33...图像处理部

33a、321...输入部

33b、322...修正部

33c、323...生成部

34...控制部

34a...物体检测部

34b...设定部

34c...摄像控制部

34d...透镜移动控制部

35...显示部

80...规定范围

90...关注区域

1001...摄像装置

1002...显示装置p...关注像素。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1