电子装置和电子装置的控制方法与流程

文档序号:20012618发布日期:2020-02-22 04:33阅读:249来源:国知局
电子装置和电子装置的控制方法与流程

本技术涉及一种电子装置和一种电子装置的控制方法,或者更具体地,涉及一种包括测量到物体的距离的距离测量功能的电子装置和一种电子装置的控制方法。



背景技术:

传统上,对于包括距离测量功能的电子装置,已知一种称为飞行时间(tof)方法的距离测量方法。tof方法是通过将来自电子装置的照射光照射到物体上,并且通过确定往返时间直到照射光在被反射后返回到电子装置来测量距离的方法,并且该方法可以大致分为直接方法和间接方法。其中,直接法是一种将发射时间极短的光脉冲作为照射光进行发射,并实际测量往返时间直到光返回的方法。根据直接方法,可以通过一次脉冲发光仅测量一个点的距离,并且必须依次执行扫描,以测量大量点的距离,因此需要时间。

另一方面,间接方法是通过发射间歇光(例如,正弦波或方波)作为发射光,通过确定照射光的反射光和照射光之间的相位差,并且通过从相位差间接获取往返时间,来测量距离的方法。例如,提出了一种相机,其通过接收多个像素的反射光通过间接方法测量距离(例如,参见专利文献1)。

引用列表

专利文献

专利文献1:jp2012-501608a



技术实现要素:

本发明要解决的问题

根据上述传统技术,可以通过多个像素同时测量多个点的距离,因此,与一次只能对一个点执行距离测量的直接方法相比,可以在短时间内执行距离测量。然而,利用上述相机,难以为照射光的发光频率设置合适的值。如果设置了高发光频率,则距离测量精度增加,但是可以测量的最大距离减小,并且在远处物体的情况下不能执行距离测量。另一方面,如果设置低发光频率,则最大距离增加,但是距离测量精度降低。在测量开始时,到物体的距离是未知的,因此,难以根据该距离设置合适的发光频率。

鉴于这种情况,已经实现了本技术,并且本技术的目的是在电子装置中设置适当的发光频率,用于确定照射光和反射光之间的相位差。

问题的解决方案

已经构成本技术,以解决上述问题,并且本技术的第一方面是电子装置和该电子装置的控制方法,电子装置包括:发光单元,其被配置为与设置的设置频率的同步信号同步地发射间歇光;光接收单元,其被配置为通过接收间歇光的反射光来生成光接收数据;确定单元,其被配置为基于所光接收数据来确定预定物体的存在与否;以及设置单元,其被配置为在确定存在预定物体的情况下,在发光单元中设置随着到预定物体的距离越小而越高的频率,作为设置频率。因此,可以实现有利的效果,根据该效果,到预定物体的距离越小,间歇光以更高的频率发射。

此外,在第一方面,在初始状态下,所述设置单元可以将第一频率设置为设置频率,并且在确定存在预定物体的情况下,所述设置单元可以设置随着测量距离越小而越高的第二频率,作为设置频率。因此,可以实现有利的效果,根据该效果,在初始状态下发射第一频率的间歇光,并且在确定存在预定物体的情况下发射第二频率的间歇光。

此外,在第一方面,在确定存在预定物体的情况下,所述确定单元可以确定预定物体中特定部位的存在与否,并且在确定存在特定部位的情况下,所述设置单元可以设置随着到特定部位的距离越小而越高的第三频率,作为设置频率。因此,在确定特定部位的存在的情况下,可以实现有利的效果,根据该效果,发射第三频率的间歇光。

此外,在第一方面,还可以包括频率控制单元,所述频率控制单元被配置为在设置第二频率的情况下,每隔一定时间段在第一频率和第二频率之间交替切换。因此,可以实现有利的效果,根据该效果,在确定存在预定物体的情况下,交替发射第一频率的间歇光和第二频率的间歇光。

此外,在第一方面,所述光接收单元可以包括:像素阵列单元,其中,多个像素以二维网格状排列;以及驱动器,其被配置为在确定存在预定物体的情况下,交替地执行:在一定时间段内驱动多个像素中接收来自预定物体之外的反射光的像素并使得包括光接收数据的图像数据作为第一子帧输出的过程、以及在一定时间段内驱动多个像素中接收来自预定物体的反射光的像素并使得包括光接收数据的图像数据作为第二子帧输出的过程。因此,可以实现有利的效果,根据该效果,在确定存在预定物体的情况下,交替输出第一子帧和第二子帧。

此外,在第一方面,还可以包括合成处理单元,其被配置为合成所述第一子帧和所述第二子帧,并且基于通过合成获得的数据生成距离数据。因此,可以实现有利的效果,根据该效果,合成第一子帧和第二子帧。

此外,在第一方面中,光接收单元可以包括第一光接收单元和第二光接收单元,每个光接收单元被配置为与设置频率的同步信号同步地发射间歇光,并且在初始状态下,所述设置单元可以在第一光接收单元中将第一频率设置为设置频率,并且在确定存在预定物体的情况下,所述设置单元可以在第二光接收单元中将随着测量距离越小而越高的第二频率设置为设置频率。因此,可以实现有利的效果,根据该效果,在初始状态下,在第一光接收单元中设置第一频率,并且在确定存在预定物体的情况下,在第二光接收单元中设置第二频率。

此外,在第一方面,还可以包括:第一光学单元,其被配置为会聚间歇光,并将间歇光引导至第一光接收单元;第二光学单元,其被配置为会聚间歇光,并将间歇光引导至第一光接收单元;以及变焦控制单元,其被配置为基于测量距离来控制第一光学单元的变焦放大率。因此,可以实现有利的效果,根据该效果,第一频率的间歇光被第一光学单元会聚,第一光学单元的变焦放大率根据测量的距离。

此外,在第一方面,发光单元可以包括第一发光单元和第二发光单元,每个发光单元被配置为与设置频率的同步信号同步地发射间歇光,并且在初始状态下,所述设置单元可以在第一发光单元中将第一频率设置为设置频率,并且在确定存在预定物体的情况下,设置单元可以在第二发光单元中将随着测量距离越小而越高的第二频率设置为设置频率。因此,可以实现有利的效果,根据该效果,在确定存在预定物体的情况下,发射第一频率的间歇光和第二频率的间歇光。

此外,在第一方面,光接收单元可以按照时间顺序生成多条图像数据,每条图像数据包括预定数量的光接收数据,并且所述确定单元可以基于多条图像数据中按时间顺序彼此相邻的两条图像数据之间的差异来确定预定物体的存在与否。因此,可以实现有利的效果,根据该效果,基于两条图像数据之间的差异来确定物体的存在与否。

此外,在第一方面,确定单元还可以基于所光接收数据来计算距离的统计,并且基于所述差异和所述统计来确定所述预定物体的存在与否。因此,可以实现有利的效果,根据该效果,基于两条图像数据之间的差异和距离的统计来确定物体的存在与否。

本发明的效果

本技术实现了有利的效果,即可以在电子装置中设置适当的发光频率,用于确定照射光和反射光之间的相位差。另外,此处描述的效果不一定是限制性的,并且可以实现本公开中描述的任何效果。

附图说明

图1是根据本技术的第一实施方式的示出了电子装置的示例配置的框图;

图2是根据本技术的第一实施方式的示出了光接收单元的示例配置的框图;

图3是根据本技术的第一实施方式的示出了a像素和b像素的示例配置的电路图;

图4是根据本技术的第一实施方式的示出了a像素和b像素的接收光量的示例的示图;

图5是根据本技术的第一实施方式的示出了在设置低频的情况下a像素和b像素的接收光量的示例的示图;

图6是根据本技术的第一实施方式示出了在设置高频的情况下a像素和b像素的接收光量的示例的图;

图7是根据本技术的第一实施方式的示出了每个距离的延迟时间的示例的示图;

图8是根据本技术的第一实施方式的用于描述发光频率与可测量距离、距离测量精度和功耗中的每一个之间的关系的图;

图9是根据本技术的第一实施方式的示出了频率设置操作的示例的时序图;

图10是根据本技术的第一实施方式的示出了光接收单元的示例操作的时序图;

图11是根据本技术的第一实施方式的示出了发光单元的示例配置的框图;

图12是根据本技术的第一实施方式的示出了控制单元的示例配置的框图;

图13是根据本技术的第一实施方式的示出了差值计算单元的示例配置的框图;

图14是根据本技术的第一实施方式的示出了区域确定/距离测量单元的示例配置的框图;

图15是根据本技术的第一实施方式的示出了频率表的示例的示图;

图16是根据本技术的第一实施方式的示出了电子装置100的简化示例配置的框图;

图17是根据本技术的第一实施方式示出了图像数据的示例的示图;

图18是根据本技术的第一实施方式示出了设置感兴趣区域之后的子帧的示例的示图;

图19是根据本技术的第一实施方式的示出了设置手区域的感兴趣区域的子帧的示例的示图;

图20是根据本技术的第一实施方式的示出了电子装置的示例操作的流程图;

图21是根据本技术的第一实施方式的示出了感兴趣区域确定处理的示例操作的流程图;

图22是根据本技术的第一实施方式的示出手区域确定处理的示例操作的流程图;

图23是根据本技术的第一实施方式的第一修改的示出了频率设置操作的示例的时序图;

图24是根据本技术的第二实施方式示出了电子装置的示例配置的框图;

图25是根据本技术的第二实施方式的示出了控制单元的示例配置的框图;

图26是根据本技术的第三实施方式的示出了电子装置的示例配置的框图;

图27是根据本技术的第三实施方式的示出了频率设置操作的示例的时序图;

图28是示出车辆控制系统的示意性示例配置的框图;

图29是示出图像捕捉单元的安装位置的示例的说明图。

具体实施方式

在下文中,将描述用于执行本技术的模式(以下称为实施方式)。将按以下顺序进行描述。

1.第一实施方式(根据到物体的距离设置频率的示例)

2.第二实施方式(相对于一个发光单元和两个光接收单元根据到物体的距离设置频率的示例)

3.第三实施方式(相对于两个发光单元和两个光接收单元根据到物体的距离设置频率的示例)

4.移动主体的应用示例

<1.第一实施方式>

(电子装置的示例配置)

图1是根据本技术的第一实施方式的示出了电子装置100的示例配置的框图。电子装置100是能够通过tof方法测量到物体的距离的装置,并且包括发光单元110、光接收单元200和控制单元300。

发光单元110与由控制单元300设置的频率的同步信号同步地发射间歇光。例如,近红外光用作照射光。此外,方波时钟信号用作同步信号。另外,正弦波信号也可以用作同步信号。

光接收单元200接收间歇光的反射光,并生成光接收数据。光接收单元200与垂直同步信号vsync同步地生成包括预定数量的光接收数据的图像数据,并且通过信号线308将图像数据提供给控制单元300。例如,垂直同步信号vsync的频率是30赫兹(hz)。另外,用于会聚反射光并将光引导到光接收单元200的光学单元设置在光接收单元200的前一级,但是为了方便起见,从图1中省略了光学单元的图示。

控制单元300控制发光单元110和光接收单元200。控制单元300通过信号线306向发光单元110提供不同频率的多个时钟信号和用于选择一个时钟信号的选择信号。此外,控制单元300通过信号线308向光接收单元200发送不同频率的多个时钟信号、用于选择一个时钟信号的选择信号和区域信息。时钟信号的频率高于垂直同步信号的频率,并且例如在10到20兆赫(mhz)的范围内。稍后将详细描述区域信息。

此外,控制单元300通过信号线308从光接收单元200接收光接收数据。控制单元300基于光接收数据测量到物体的距离,并生成和输出指示测量值的深度数据。例如,深度数据用于根据距离、手势识别等以一定程度执行模糊的图像处理。

(光接收单元的示例配置)

图2是根据本技术的第一实施方式的示出了光接收单元200的示例配置的框图。光接收单元200包括mx驱动器211、v扫描仪212、v驱动器213、像素阵列单元220和数模转换器(dac)214。光接收单元200还包括列信号处理单元215、h扫描仪216和时钟切换单元217。此外,在像素阵列单元220中,多个像素以二维网格状排列。一半的像素是a像素230,其余的是b像素240。

下面,关于像素阵列单元220,以预定方向(例如,水平方向)排列的一组像素将称为“行”或“线”,而以垂直于行的方向排列的一组像素将称为“列”。此外,像素阵列单元220中的行数将表示为m(其中,m是整数),列数将表示为n(其中,n是整数)。例如,a像素230排列在奇数列,而b像素240排列在偶数列。

v扫描仪212与比垂直同步信号更高的频率的水平同步信号同步地依次选择一行。v驱动器213驱动由v扫描仪212选择的行。

mx驱动器211基于区域信息选择并驱动列。在此处,区域信息是指示对于每个列是否驱动该列的信息。此外,mx驱动器211与来自时钟切换单元217的时钟信号同步地驱动a像素230,并且与其相位与时钟信号的相位相差180o的信号同步地驱动b像素240。另外,mx驱动器211是权利要求中描述的驱动器的示例。

dac214通过数模(da)转换生成锯齿波斜坡信号,并将该信号提供给列信号处理单元215。

a像素230光电转换入射光,并生成电信号。在v驱动器213的控制下,像素230将生成的电信号作为像素信号提供给列信号处理单元215。b像素240的配置类似于a像素230的配置。

列信号处理单元215基于区域信息选择列,并对来自该列的像素信号执行预定的信号处理,例如,模数(ad)转换处理。在h扫描仪216的控制下,列信号处理单元215将信号处理后的数据作为光接收数据提供给控制单元300。在选择所有列的情况下,生成包括m×n条光接收数据的图像数据。

h扫描仪216基于区域信息依次选择列,并且使得该列的光接收数据输出到列信号处理单元215。

时钟切换单元217根据来自控制单元300的选择信号selb,选择由控制单元300提供的时钟信号clk1、clk2或clk3中的一个。在此处,选择信号selb是指示时钟信号clk1、clk2或clk3中的一个的信号。此外,时钟信号clk1、clk2和clk3的频率分别是f1、f2和f3,并且彼此不同。时钟切换单元217将选择的时钟信号提供给mx驱动器211。

(像素的配置示例)

图3是根据本技术的第一实施方式的示出了a像素230和b像素240的示例配置的电路图。像素230包括复位晶体管231、光电二极管232、传输晶体管233、连接晶体管234、浮动扩散层235、放大晶体管236和选择晶体管237。

复位晶体管231根据来自v驱动器213的复位信号rsta复位光电二极管232和浮动扩散层235中的电荷量。

光电二极管232与来自mx驱动器211的驱动信号gda同步地执行光电转换,并生成电荷。例如,雪崩光电二极管用作光电二极管232。此外,来自时钟切换单元217的时钟信号用作驱动信号gda。

传输晶体管233根据来自v驱动器213的传输信号trga将电荷从光电二极管232传输到浮动扩散层235。连接晶体管234根据来自v驱动器213的连接信号fdga将浮动扩散层235连接到传输晶体管233和放大晶体管236。

浮动扩散层235累积传输的电荷,并根据累积的电荷量生成电压。放大晶体管236放大由浮动扩散层235生成的电压信号。根据来自v驱动器213的行选择信号lsela,选择晶体管237将来自放大晶体管236的信号作为像素信号输出到列信号处理单元215。

b像素240包括复位晶体管241、光电二极管242、传输晶体管243、连接晶体管244、浮动扩散层245、放大晶体管246和选择晶体管247。这些元件以与像素230的对应元件相似的方式配置。然而,光电二极管242通过与来自mx驱动器211的驱动信号gdb同步地执行光电转换来生成电荷。例如,与来自时钟切换单元217的时钟信号反转(或者换言之,相位相差180o)的信号用作驱动信号gdb。

图4是根据本技术的第一实施方式的示出了a像素230和b像素240的接收光量的示例的示图。

发光单元110与由控制单元300设定的频率的时钟信号同步地发射间歇光,作为照射光。时钟信号的周期表示为2×tp。照射光被预定物体反射,并且反射光被光接收单元200接收。根据到物体的距离,在反射光和照射光之间生成相位差dt。相位差dt和到物体的距离d之间的关系由以下公式表示。

[数学公式1]

例如,在上面给出的公式中,“c”是光速,单位是每秒的米数(m/s)。例如,相位差dt的单位是秒(s)。例如,距离d的单位是米(m)。“r”是照射光和反射光之间的相角,例如,单位是“度”。“f”是照射光的发光频率,例如,单位是赫兹(hz)。

此外,mx驱动器211与驱动信号gda同步地驱动a像素230,驱动信号gda的相位和频率与发光单元110使用的时钟信号的相位和频率相同,并且使得a像素230接收反射光。另一方面,mx驱动器211与驱动信号gdb同步地驱动b像素240,驱动信号的频率与发光单元110使用的时钟信号的频率相同,但是其相位与时钟信号的相位相差180o,并且使得b像素240接收反射光。

在从某个时间t0到时间t2发射照射光的情况下,在从时间t0经过dt之后,在时间t1开始反射光的发射。然后,在从时间t2经过dt之后,在时间t3停止反射光的发射。

此时,在时间t1和t2之间的时间段内,像素230与驱动信号gda同步接收反射光。此处接收的光量表示为q1。因为例如范围从10到20兆赫(mhz)的高值被设置为照射光的发光频率,所以每个周期的接收光量q1非常小并且难以检测。因此,光接收单元200在垂直同步信号的周期内累积每个q1,并生成作为接收光量q1的总量。

此外,在时间t2和t3之间的时间段内,b像素240与驱动信号gdb同步接收反射光,驱动信号gdb的相位与驱动信号gda的相位相差180o。此处接收的光量表示为q2。光接收单元200在垂直同步信号的周期内累积每个q2,并生成作为接收光量q2的总量。相位差dt与接收光量q1和q2之间的关系由以下公式表示。

dt=tp×{q2/(q1+q2)}公式2

控制单元300可以通过将接收光量q1和q2代入公式2来确定相位差dt,并将相位差dt代入公式1,从而计算距离d。以这种方式,控制单元300可以测量从包括a像素230和b像素240的每个像素对的接收光量q1和q2的距离。a像素230的数量和b像素240的数量均是像素阵列单元220的像素m×n总数的一半,因此,控制单元300可以确定(m×n)/2个点中的每一个的距离d。

图5是根据本技术的第一实施方式的示出了在设置低频的情况下,a像素230和b像素240的接收光量的示例的图。在图中,a是示出在控制单元300将10兆赫(mhz)设置为发光频率f并且距离d为1米(m)的情况下,a像素230和b像素240的接收光量的示例的示图。在图中,b是示出在控制单元300将10兆赫(mhz)设置为发光频率f并且距离d为1.1米(m)的情况下,a像素230和b像素240的接收光量的示例的示图。

在距离d为1米(m)的情况下,相位差dt约为6.6纳秒(s)。另一方面,在距离d为1.1米(m)的情况下,相位差dt’约为7.34纳秒(s)。周期是100纳秒(ns),因此,在距离改变10厘米(cm)的情况下,相对于周期的相位差的变化量小于1%,并且是小值。

通常,发光频率越低,周期2×tp变得越长,因此,通过公式1和2,可以测量的最大距离增加。另一方面,如上所述,相位差相对于周期的变化量减少,并且距离测量精度降低。

图6是根据本技术的第一实施方式示出了在设置高频的情况下,a像素230和b像素240的接收光量的示例的图。在图中,a是示出在控制单元300将100兆赫(mhz)设置为发光频率f并且距离d为1米(m)的情况下,a像素230和b像素240的接收光量的示例的示图。在图中,b是示出在控制单元300将100兆赫(mhz)设置为发光频率f并且距离d为1.1米(m)的情况下,a像素230和b像素240的接收光量的示例的示图。

在距离d为1米(m)的情况下,相位差dt约为6.6纳秒(s)。另一方面,在距离d为1.1米(m)的情况下,相位差dt’约为7.34纳秒(s)。周期是10纳秒(ns),因此,在距离改变10厘米(cm)的情况下,相对于周期的相位差的变化量大于设置10兆赫(mhz)的情况。由此距离测量精度增加。另一方面,通过公式1和2,可以测量的最大距离减小。例如,在15米(m)或更大的情况下,相位差dt长于一个波长,并且精确测量变得不可能。

图7是根据本技术的第一实施方式的示出了每个距离的延迟时间的示例的示图。到物体的距离越远,光的往返时间越长,光接收时间相对于照射时间的延迟越长。例如,在发光频率为10兆赫(mhz),距离为1.0米(m)的情况下,延迟时间为“6.671e-09”秒。此外,在距离为2.0米的情况下,延迟时间是“1.134e-08”秒,并且比距离为1.0米的情况下更长。

图8是根据本技术的第一实施方式的用于描述发光频率与可测量距离、距离测量精度和功耗中的每一个之间的关系的示图。如参考图5至7所述,如果控制单元300增加发光频率,则可测量距离减小,但是距离测量精度增加。此外,如果发光频率增加,则电子装置100的功耗增加。

另一方面,如果控制单元300降低发光频率,则可测量距离增加,但是距离测量精度降低。此外,如果发光频率降低,则电子装置100的功耗降低。

以这种方式,在可测量距离和距离测量精度之间存在权衡关系。例如,如果到物体的距离小于15米(m),则可以以10兆赫(mhz)或100兆赫(mhz)的发光频率进行距离测量。然而,因为距离测量精度在100兆赫(mhz)更高,所以在上述情况下希望设置100兆赫(mhz)。此外,如果到物体的距离为15米(m)或更大,则不能以100兆赫(mhz)的发光频率测量距离,并且尽管精度较低,仍必须设置10兆赫(mhz)。

此外,功耗和距离测量精度之间也存在权衡关系。如果发光频率增加,由于距离测量精度增加,可以高精度地执行手势识别等,但是功耗增加。特别是用电池驱动的移动设备,功耗的增加是一个问题。另一方面,如果发光频率降低,则可以降低功耗,但是距离测量精度降低,并且对于车载设备等,安全性可能受损。

如上所述,可测量距离、距离测量精度和功耗存在权衡关系,因此,必须根据情况切换发光频率。

图9是根据本技术的第一实施方式的示出了频率设置操作的示例的时序图。在初始状态下,控制单元300为发光单元110和光接收单元200设置频率f1。发光单元110与频率f1的时钟信号同步发光,并且光接收单元200与频率f1的时钟信号同步接收反射光。然后,光接收单元200与垂直同步信号vsync同步地输出包括光接收数据的图像数据(帧)。

控制单元300基于来自光接收单元200的帧测量距离,并且还确定预定物体的存在与否。然后,假设控制单元300在时间t10确定物体的存在。在这种情况下,控制单元300确定随着到物体的距离越小而越高的频率f2。然后,在垂直同步信号vsync的每个周期中切换频率。例如,当垂直同步信号vsync的周期经过时,控制单元300在时间t10和时间t11之间的时间段内,根据选择信号selb选择频率f1的时钟信号clk1。接下来,当垂直同步信号vsync的周期经过时,控制单元300在时间t11和时间t12之间的时间段内,根据选择信号selb选择频率f2的时钟信号clk2。

此外,在频率f1和f2交替设置的时间段中,控制单元300基于帧确定物体的特定部位(例如,手)的存在与否。然后,假设控制单元300在时间t14确定手等的存在。在这种情况下,控制单元300确定随着到手的距离越小而越高的频率f3。然后,控制单元300在垂直同步信号vsync的每个周期中切换频率。例如,当垂直同步信号vsync的周期经过时,控制单元300在时间t14和时间t15之间的时间段内,根据选择信号selb选择频率f1的时钟信号clk1。接下来,当垂直同步信号vsync的周期经过时,控制单元300在时间t15和时间t16之间的时间段内,根据选择信号selb选择频率f2的时钟信号clk2。控制单元300在时间t16和当垂直同步信号vsync的周期经过时的时间之间的时间段内,根据选择信号selb选择频率f3的时钟信号clk3。

作为初始频率f1,例如,设置低于频率f2和f3的频率。因此,在没有物体的情况下,电子装置100的功耗可以以最低频率最小化。此外,同样在确定物体存在之后,与连续设置频率f2的情况相比,可以通过交替设置频率f1和f2来降低功耗。

图10是根据本技术的第一实施方式的示出了光接收单元200的示例操作的时序图。在图中,a是示出设置频率f1的光接收单元200的示例操作的时序图。在图中,b是示出设置频率f2的光接收单元200的示例操作的时序图。

当垂直同步信号vsync的周期经过时,在时间t10和时间t11之间的时间段内,光接收单元200中的mx驱动器211根据频率f1向a像素230提供周期2×tp1的驱动信号gda。此外,mx驱动器211向b像素240提供驱动信号gdb,其相位与驱动信号gda的相位相差180o。

在时间t11和垂直同步信号vsync的周期经过时的时间之间的时间段内,光接收单元200中的mx驱动器211根据频率f2向a像素230提供周期2×tp2的驱动信号gda。此外,mx驱动器211向b像素240提供驱动信号gdb,其相位与驱动信号gda的相位相差180o。

(发光单元的示例配置)

图11是根据本技术的第一实施方式的示出了发光单元110的示例配置的框图。发光单元110包括光源111和发光控制单元112。

光源111与来自发光控制单元112的时钟信号同步发光。激光振荡器、发光二极管等用作光源111。

发光控制单元112驱动并使光源111发光。发光控制单元112从控制单元300接收时钟信号clk1、clk2和clk3以及选择信号sela。选择信号sela是指示时钟信号clk1、clk2或clk3中的一个的信号。发光控制单元112根据选择信号sela选择时钟信号clk1、clk2或clk3中的一个,并将时钟信号提供给光源111。

(控制单元的配置示例)

图12是根据本技术的第一实施方式的示出了控制单元300的示例配置的框图。控制单元300包括差值计算单元320、区域控制单元311、区域确定/距离测量单元350、合成处理单元312、时钟供应单元313、频率控制单元314、深度数据输出单元315和相位同步电路316。

差值计算单元320计算按时间顺序彼此相邻的两条图像数据(帧)之间的差值。差值计算单元320将差值数据提供给区域确定/距离测量单元350,并将帧提供给合成处理单元312。

区域确定/距离测量单元350基于差值数据测量距离,并且还确定物体的存在与否。区域确定/距离测量单元350在初始状态中将最低频率设置为f1,并将设置值提供给频率控制单元314。然后,每次从光接收单元200提供帧时,区域确定/距离测量单元350基于帧中的每个光接收数据来确定每个测量点的距离。因为对每对像素执行距离测量,所以在帧中的像素数量是m×n的情况下,针对(m×n)/2个测量点测量距离。然后,区域确定/距离测量单元350确定m×n)/2个测量值的统计(例如,最小值或平均值)。区域确定/距离测量单元350将f1更新为随着统计越接近而越高的频率。此外,频率f1不必更新,并且可以替代地采用固定值。

此外,区域确定/距离测量单元350基于第二帧或稍后的帧中的差值数据来确定物体(例如,人)的存在与否。在确定没有物体的情况下,区域确定/距离测量单元350生成指示频率f1的时钟信号clk1的选择信号sela,并将该信号提供给发光单元110。

另一方面,在确定存在物体的情况下,区域确定/距离测量单元350将物体的区域设置为感兴趣区域(roi),并将帧中除感兴趣区域之外的区域设置为背景区域。换言之,帧分成感兴趣区域和背景区域。此外,区域确定/距离测量单元350将随着感兴趣区域中测量值的统计(例如,最小值)越接近而越高的频率设置为f2,并将设置值提供给频率控制单元314。然后,区域确定/距离测量单元350与垂直同步信号vsync同步通过选择信号sela交替指示时钟信号clk1和clk2。此外,区域确定/距离测量单元350将感兴趣区域中的列地址提供给差值计算单元320和区域控制单元311,并且使得差值计算单元320生成关于感兴趣区域的差值数据。此外,区域确定/距离测量单元350指示合成处理单元312合成图像。

然后,当接收到感兴趣区域的差值数据时,区域确定/距离测量单元350基于差值数据确定物体的特定部位(例如,手)的存在与否。在此处,手的存在与否是指从手腕延伸的人手的一部分是否包括在图像数据中。在确定手存在的情况下,区域确定/距离测量单元350将手的区域设置为手区域,并将通过从感兴趣区域中排除手区域而获得的区域设置为新的感兴趣区域。换言之,感兴趣区域的一部分被分离为手区域。此外,区域确定/距离测量单元350将随着手区域中测量值的统计(例如,最小值)越接近而越高的频率设置为f3,并将设置值提供给频率控制单元314。

然后,区域确定/距离测量单元350与垂直同步信号vsync同步通过选择信号sela依次指示时钟信号clk1、clk2和clk3。此外,区域确定/距离测量单元350向差值计算单元320和区域控制单元311提供新的感兴趣区域和手区域的列地址,并指示合成处理单元312合成图像。

区域控制单元311控制光接收单元200中的mx驱动器211。在未设置感兴趣区域的情况下,区域控制单元311生成指示驱动所有列的区域信息,并将该区域信息提供给mx驱动器211。反射光因此被帧中的所有像素接收。

在设置感兴趣区域的情况下,区域控制单元311交替地向mx驱动器211提供用于仅驱动背景区域的区域信息和用于仅驱动感兴趣区域的区域信息。在垂直同步信号vsync的每个周期执行区域信息的切换。由此交替生成从背景区域接收的反射光的图像数据和从感兴趣区域接收的反射光的图像数据。这些图像数据在下文中将称为“子帧”。

然后,在设置手区域的情况下,区域控制单元311依次向mx驱动器211提供仅用于驱动背景区域的区域信息、仅用于驱动感兴趣区域的区域信息和仅用于驱动手区域的区域信息。在垂直同步信号vsync的每个周期执行区域信息的切换。由此依次生成从背景区域接收的反射光的图像数据、从感兴趣区域接收的反射光的图像数据以及从手区域接收的反射光的图像数据。对应于手区域的图像数据在下文中也称为“子帧”。

另外,区域确定/距离测量单元350确定感兴趣区域和手区域的存在与否,但是区域确定/距离测量单元350也可以被配置为仅执行感兴趣区域的存在与否的确定,并且不执行手区域的存在与否的确定。此外,区域确定/距离测量单元350使用列地址以列为单位设置感兴趣区域和手区域,但是这种配置不是限制性的。例如,区域确定/距离测量单元350可以使用行地址和列地址以像素为单位设置每个区域。在这种情况下,除了以列为单位执行驱动的mx驱动器211之外,如果光接收单元200包括以行为单位执行驱动的mx驱动器就足够了。

频率控制单元314基于来自区域确定/距离测量单元350的设定值,控制由时钟供应单元313供应的时钟信号的频率。此外,频率控制单元314生成类似于选择信号sela的信号,并将该信号作为selb提供给光接收单元200。

相位同步电路316将来自晶体振荡器等的参考时钟信号相乘。相位同步电路316将相乘的时钟信号clk0提供给时钟提供单元313。

时钟供应单元313基于来自相位同步电路316的时钟信号clk0生成时钟信号clk1、clk2和clk3。例如,时钟信号clk1、clk2和clk3由时钟信号clk0的分频生成。时钟供应单元313将生成的时钟信号clk1、clk2和clk3提供给光接收单元200和发光单元110。

合成处理单元312通过合成多个子帧来生成深度数据。在区域确定/距离测量单元350没有指示合成的情况下,合成处理单元312生成每个帧的深度数据,并将深度数据提供给深度数据输出单元315。深度数据中距离测量的动态范围可以通过合成具有不同可测量距离的子帧来增加。

另一方面,在区域确定/距离测量单元350指示合成的情况下,合成处理单元312通过合成两个或三个子帧来生成合成帧。在仅生成感兴趣区域的子帧和背景区域的子帧的情况下,合成处理单元312合成这两个子帧。此外,在生成感兴趣区域的子帧、背景区域的子帧和手区域的子帧的情况下,合成处理单元312合成三个子帧。然后,合成处理单元312从通过合成获得的合成帧生成深度数据,并将深度数据提供给深度数据输出单元315。

深度数据输出单元315将深度数据从合成处理单元312输出到外部。

(差值计算单元的配置示例)

图13是根据本技术的第一实施方式的示出了差值计算单元320的示例配置的框图。差值计算单元320包括写控制单元321、背景区域缓冲器322、323和324以及减法器325、326和327。此外,差值计算单元320包括感兴趣区域缓冲器328、329和330、减法器331、332和333以及手区域缓冲器334、335和336。

写控制单元321在区域确定/距离测量单元350的控制下,将光接收数据写入背景区域缓冲器322、感兴趣区域缓冲器328或手区域缓冲器334中的一个。

在未设置感兴趣区域的情况下,写控制单元321将帧的所有光接收数据写入背景区域缓冲器322。在设置感兴趣区域的情况下,写控制单元321将背景区域的光接收数据写入背景区域缓冲器322,并将感兴趣区域的光接收数据写入感兴趣区域缓冲器328。此外,在设置手区域的情况下,写控制单元321将背景区域的光接收数据写入背景区域缓冲器322,将感兴趣区域的光接收数据写入感兴趣区域缓冲器328,并将手区域的光接收数据写入手区域缓冲器334。此外,写入背景区域缓冲器322的帧或子帧也作为当前帧提供给减法器325。

背景区域缓冲器322将背景区域的帧或子帧保持为过去帧,并且还将过去帧输出到减法器325和背景区域缓冲器323。减法器325基于每个像素计算来自写控制单元321的当前帧和来自背景区域缓冲器322的过去帧之间的差值。减法器325将差值数据作为fsub1提供给区域确定/距离测量单元350。

背景区域缓冲器323保存来自背景区域缓冲器322的过去帧,并且还将过去帧输出到减法器326和背景区域缓冲器324。减法器326基于每个像素计算来自背景区域缓冲器322的过去帧和来自背景区域缓冲器323的过去帧之间的差值。减法器326将差值数据作为fsub2提供给区域确定/距离测量单元350。

背景区域缓冲器324保存来自背景区域缓冲器323的过去帧,并且还将过去帧输出到减法器327和合成处理单元312。减法器327基于每个像素计算来自背景区域缓冲器323的过去帧和来自背景区域缓冲器324的过去帧之间的差值。减法器327将差值数据作为fsub3提供给区域确定/距离测量单元350。

感兴趣区域缓冲器328、329和330的配置类似于背景区域缓冲器322、323和324的配置,除了感兴趣区域缓冲器328、329和330保存感兴趣区域的子帧而不是背景区域的子帧。此外,减法器331、332和333的配置类似于减法器325、326和327的配置,除了减法器331、332和333确定感兴趣区域的子帧之间的差异而不是背景区域的子帧之间的差异。减法器331、332和333分别将多条差值数据作为msub1、msub2和msub3提供给区域确定/距离测量单元350。

手区域缓冲器334、335和336类似于背景区域缓冲器322、323和324,除了手区域缓冲器334、335和336保存手区域的子帧而不是背景区域的子帧。

另外,差值计算单元320为背景区域和感兴趣区域中的每一个计算三条差值数据,但是差值数据的数量不限于三条,并且可以不是三条,例如,仅一条或四条或更多条。此外,差值计算单元320计算感兴趣区域的差值数据,但是在不确定手区域的存在与否的配置的情况下,不需要计算感兴趣区域的差值数据。

(区域确定/距离测量单元的示例配置)

图14是根据本技术的第一实施方式的示出了区域确定/距离测量单元350的示例配置的框图。区域确定/距离测量单元350包括候选感兴趣区域提取单元351、候选手区域提取单元352、感兴趣区域确定单元353、手区域确定单元354、频率确定单元355、合成控制单元356、发光频率控制单元357和频率表358。

候选感兴趣区域提取单元351基于背景区域的差值数据fsub1、fsub2和fsub3提取预定物体的区域(即,感兴趣区域)的候选区域。例如,候选感兴趣区域提取单元351确定差值数据fsub1、fsub2和fsub3的加权平均值。然后,候选感兴趣区域提取单元351将加权平均值与预定阈值进行比较。候选感兴趣区域提取单元351以类似的方式处理背景区域中的所有像素,并且提取包括包含加权平均值大于阈值s的像素的列的区域,作为感兴趣区域的候选区域。候选感兴趣区域提取单元351将候选区域中的每个列地址提供给感兴趣区域确定单元353。

候选手区域提取单元352基于感兴趣区域的差值数据msub1、msub2和msub3提取手区域的候选区域。候选手区域提取单元352通过类似于候选感兴趣区域提取单元351的过程提取手区域的候选区域,并将候选区域中的每个列地址提供给手区域确定单元354。

感兴趣区域确定单元353确定背景区域中感兴趣区域的存在与否。感兴趣区域确定单元353基于从光接收单元200光接收数据,通过公式1和2确定到候选区域中的每个测量点的距离。然后,感兴趣区域确定单元353确定距离的最小值是否小于预定阈值df。如果最小值小于预定阈值df,则感兴趣区域确定单元353确定存在感兴趣区域,并将候选区域设置为感兴趣区域。另一方面,如果最小值等于或大于预定阈值df,则感兴趣区域确定单元353确定不存在感兴趣区域。

在没有感兴趣区域的情况下,感兴趣区域确定单元353向频率确定单元355提供帧中距离的统计(例如,平均值),作为d1。另一方面,在存在感兴趣区域的情况下,感兴趣区域确定单元353将感兴趣区域中的每个列地址提供给区域控制单元311、差值计算单元320和合成控制单元356。此外,感兴趣区域确定单元353向频率确定单元355提供作为d1的背景区域中的距离的统计以及感兴趣区域中的距离的统计d2。

手区域确定单元354确定感兴趣区域中手区域的存在与否。手区域确定单元354基于光接收数据确定候选区域中的最小距离值是否小于预定阈值dn。在此处,小于阈值df的值被设置为阈值dn。如果最小值小于阈值dn,则手区域确定单元354确定存在手区域,并将候选区域设置为手区域。另一方面,如果最小值等于或大于预定阈值dn,则手区域确定单元354确定没有手区域。另外,包括感兴趣区域确定单元353和手区域确定单元354的电路是权利要求中描述的确定单元的示例。

在存在手区域的情况下,手区域确定单元354将手区域中的每个列地址提供给区域控制单元311、差值计算单元320和合成控制单元356。此外,手区域确定单元354向频率确定单元355提供手区域中的距离的统计(例如,平均值),作为d3。

频率表358是将要在发光单元110和光接收单元200中设置的频率与多个相互不同的距离范围中的每一个相关联的表。

频率确定单元355基于统计d、d2和d3确定要在发光单元110和光接收单元200中设置的频率。频率确定单元355从频率表358中读出对应于包括统计d1的距离范围的频率,将该频率设置为在相对于背景区域执行距离测量时要使用的频率f1,并将该频率提供给发光频率控制单元357和频率控制单元314。此外,频率确定单元355从频率表358中读出对应于包括统计d2的距离范围的频率,将该频率设置为在相对于感兴趣区域执行距离测量时要使用的频率f2,并将该频率提供给发光频率控制单元357和频率控制单元314。此外,频率确定单元355从频率表358中读出对应于包括统计d3的距离范围的频率,将该频率设置为在相对于手区域执行距离测量时要使用的频率f3,并将该频率提供给发光频率控制单元357和频率控制单元314。另外,频率确定单元355是权利要求中描述的设置单元的示例。

合成控制单元356基于来自感兴趣区域确定单元353和手区域确定单元354的确定结果来控制合成处理单元312。在确定存在感兴趣区域的情况下,合成控制单元356指示合成处理单元312合成背景区域的子帧和感兴趣区域的子帧。此外,在确定存在手区域的情况下,合成控制单元356指示合成处理单元312合成背景区域的子帧、感兴趣区域的子帧和手区域的子帧。

发光频率控制单元357控制发光单元110的发光频率。在仅设置对应于背景区域的频率f1的情况下,发光频率控制单元357通过sela使发光单元110选择频率f1的时钟信号clk1。此外,在设置对应于感兴趣区域的频率f2的情况下,发光频率控制单元357通过sela使得交替选择对应于频率f1和f2的时钟信号clk1和clk2。

此外,在设置对应于手区域的频率f3的情况下,发光频率控制单元357通过sela使得依次选择对应于频率f1、f2和f3的时钟信号clk1、clk2和clk3。

另外,感兴趣区域确定单元353和手区域确定单元354基于帧(或子帧)之间的差异来确定特定物体或部分的存在与否,但是这种配置不是限制性的。例如,感兴趣区域确定单元353和手区域确定单元354也可以使用模式匹配算法来确定特定物体或部分的存在与否。

图15是根据本技术的第一实施方式的示出了频率表358的示例的示图。在频率表358中,针对每个距离范围指示要在发光单元110和光接收单元200中设置的频率。此外,频率越高,距离越小。例如,在距离范围小于dh1的情况下,设置最高频率fm1。此外,在距离范围等于或大于dh1且小于dh2的情况下,设置下一个高于频率fm1的频率fm2。

另外,频率确定单元355通过从频率表358中读出对应于统计d1至d3的频率来确定频率f1至f3,但是这种配置不是限制性的。例如,频率确定单元355可以通过使用预定函数来计算频率f1至f3,该预定函数随着距离越小返回越高的频率。

图16是根据本技术的第一实施方式的示出了电子装置100的简化示例配置的框图。电子装置100包括光接收单元200、差值计算单元320、感兴趣区域确定单元353、区域控制单元311、频率确定单元355、发光频率控制单元357和发光单元110。图中省略了合成处理单元312、时钟供应单元313等。

在初始状态下,发光单元110与预定频率f1的时钟信号同步地发射照射光,并且光接收单元200接收照射光的反射光,并生成光接收数据。然后,光接收单元200与垂直同步信号vsync同步地生成包括光接收数据的图像数据(帧),并将图像数据提供给差值计算单元320。

差值计算单元320计算帧之间的差值数据,并将差值数据提供给感兴趣区域确定单元353。然后,感兴趣区域确定单元353基于差值数据确定物体的区域(感兴趣区域)的存在与否。在存在感兴趣区域的情况下,感兴趣区域确定单元353向区域控制单元311提供该区域中的列地址,并且向频率确定单元355提供感兴趣区域中的距离的统计(例如,平均值)。

此外,在确定存在感兴趣区域的情况下,区域控制单元311交替地执行使得光接收单元200仅读出除了感兴趣区域之外的背景区域的控制和使得光接收单元200仅读出感兴趣区域的控制。

频率确定单元355确定随着到物体的距离的统计越近而越高的频率f2,并将该频率提供给发光频率控制单元357。发光频率控制单元357交替地将频率f1和f2设置为发光单元110的发光频率。

在此处,将考虑以频率f1执行距离测量的比较示例,而不管物体是否存在。如上所述,在可测量距离和距离测量精度之间存在权衡关系,因此,如果频率f1太高,则不能对远处的物体执行距离测量,并且如果频率f1太低,则距离测量精度降低。因为在距离测量开始时到物体的距离是未知的,所以在比较示例中难以设置合适的频率。

另一方面,对于电子装置100,首先以频率f1执行距离测量,并且在确定存在物体的情况下,切换到对着物体的距离越小而越高的频率f2,因此,可以设置根据到物体的距离的最佳频率。

图17是根据本技术的第一实施方式的示出了图像数据的示例的示图。在该图中,a是示出确定不存在物体的图像数据500的示例的示图,而b是示出确定存在物体的图像数据510的示例的示图。

电子装置100接收频率f1的反射光,生成图像数据500(帧),并执行距离测量。电子装置100与垂直同步信号vsync同步地重复图像数据的生成和距离测量,并且在第二帧和稍后的帧中,基于差值数据确定物体(例如,人)的存在与否。然后,如果在图像数据510中确定存在物体,则电子装置100将该区域设置为感兴趣区域511,并将其余区域设置为背景区域。

图18是根据本技术的第一实施方式的示图,示出了设置感兴趣区域之后的子帧的示例。在图18中,a是背景区域的子帧540的示例,并且图中的b是感兴趣区域的子帧550的示例。电子装置100中的mx驱动器211仅驱动背景区域中的像素,并且像素与频率f1的时钟信号clk1同步接收光。由此生成背景区域的子帧540。然后,mx驱动器211在垂直同步信号的下一个周期中仅驱动感兴趣区域中的像素,并且像素与随着到物体的距离越小而越高的频率f2的时钟信号clk2同步接收光。由此生成感兴趣区域的子帧550。此后,与垂直同步信号同步地交替生成背景区域的子帧和感兴趣区域的子帧。

然后,电子装置100中的控制单元300通过合成背景区域的子帧540和感兴趣区域的子帧550来生成一个合成帧,并且从合成帧生成深度数据。因为将两条数据合并,所以合成帧的帧率是不执行合成的情况的帧率的一半。

如上所述,相对于背景区域,与频率f1的时钟信号clk1同步地接收光,并且相对于感兴趣区域,与随着到物体的距离越小而越高的频率f2的时钟信号clk1同步地接收光。通常,物体比背景更靠近一侧,为频率f2设置的值比频率f1的值高。

然后,因为较低的频率意味着较小的功耗,所以尽管距离测量精度也降低了,为通常不太需要精度的背景区域设置较低的频率f1,并且与恒定设置频率f2的情况相比,功耗可以降低。此外,因为频率越高,距离测量精度越增加,所以为通常需要高精度的物体(例如,人)设置高频f2,以满足这种要求。以这种方式,电子装置100可以通过分别为背景和物体设置最佳频率来实现距离测量精度和功耗的降低。

图19是根据本技术的第一实施方式的示图,示出了设置手区域的感兴趣区域的子帧560的示例。当在子帧560中确定存在手的区域时,电子装置100将该区域设置为手区域561,并将剩余区域设置为新的感兴趣区域562。为手区域561设置随着到手的距离越小而越高的频率f3。

在此处,在确定手区域存在与否时使用的阈值dn小于在确定背景区域存在与否时使用的阈值df,因此,到手区域的距离小于到背景区域的距离。因此,为对应于手区域的频率f3设置的值高于对应于感兴趣区域的频率f2。因此,电子装置100可以以最高精度对手区域执行距离测量。手势识别的识别精度因此可以提高。

(电子装置的示例操作)

图20是根据本技术的第一实施方式的示出了电子装置100的示例操作的流程图。例如,当执行使用深度数据的预定应用时,操作开始。

电子装置100与频率f1的时钟信号clk1同步地发射光,接收反射光,并执行距离测量(步骤s901)。然后,电子装置100执行确定感兴趣区域的存在与否的感兴趣区域确定过程(步骤s910)。

电子装置100在步骤s910中确定感兴趣区域的存在与否(步骤s902)。在确定不存在感兴趣区域的情况下(步骤s902:否),电子装置100从步骤s901重复。

另一方面,在确定存在感兴趣区域的情况下(步骤s902:是),电子装置100确定随着到物体的距离越小而越高的频率f2,并且通过交替设置频率f1和f2来执行距离测量(步骤s903)。然后,电子装置100执行确定手区域存在与否的手区域确定处理(步骤s920)。

电子装置100在步骤s920中确定手区域的存在与否(步骤s904)。在确定不存在手区域的情况下(步骤s904:否),电子装置100从步骤s903重复。

另一方面,在确定存在手区域的情况下(步骤s904:是),电子装置100确定随着到手的距离越小而越高的频率f3,并且通过依次设置频率f1、f2和f3来执行距离测量(步骤s905)。在步骤s905之后,电子装置100从步骤s920重复。

图21是根据本技术的第一实施方式的示出了感兴趣区域确定处理的示例操作的流程图。电子装置100计算帧之间的差异(步骤s911),并且确定对于感兴趣区域是否存在候选区域(步骤s912)。在存在候选区域的情况下(步骤s912:是),电子装置100相对于候选区域执行距离测量(步骤s913),并且确定最小距离是否小于阈值df(步骤s914)。

在最小距离小于阈值df的情况下(步骤s914:是),电子装置100确定存在感兴趣区域,并将候选区域设置为感兴趣区域(步骤s915)。在没有候选区域的情况下(步骤s912:否),或者在最小距离等于或大于阈值df的情况下(步骤s914:否),或者在步骤s915之后,电子装置100结束感兴趣区域确定过程。

图22是根据本技术的第一实施方式的示出手区域确定处理的示例操作的流程图。电子装置100计算感兴趣区域的子帧之间的差异(步骤s921),并确定手区域是否存在候选区域(步骤s922)。在存在候选区域的情况下(步骤s922:是),电子装置100相对于候选区域执行距离测量(步骤s923),并且确定最小距离是否小于阈值dn(步骤s924)。

在最小距离小于阈值dn的情况下(步骤s924:是),电子装置100确定存在手区域,并将候选区域设置为手区域(步骤s925)。在没有候选区域的情况下(步骤s922:否),或者在最小距离等于或大于阈值dn的情况下(步骤s924:否),或者在步骤s925之后,电子装置100结束手区域确定处理。

如上所述,在本技术的第一实施方式中,控制单元300在发光单元110中设定随着到物体的距离越小而越高的频率f2,因此,电子装置100可以根据到物体的距离以适当的频率执行距离测量。

(示例修改)

在上述第一实施方式中,在存在感兴趣区域的情况下,电子装置100交替生成并合成背景区域的子帧和感兴趣区域的子帧。然而,因为合成了两个子帧,所以合成帧的帧率降低到不执行合成的情况的一半。由于帧率的这种降低,在物体大幅度移动的情况下,手势识别的识别精度可能降低。第一实施方式的示例修改的电子装置100与第一实施方式中的不同之处在于,抑制了帧率的降低。

图23是根据本技术的第一实施方式的第一修改的示出频率设置操作的示例的时序图。在第一实施方式的示例修改中,在确定物体存在的时间t20之后,电子装置100设置频率f2,并且与垂直同步信号vsync同步地仅生成感兴趣区域的子帧。然后,电子装置100合成感兴趣区域的子帧和保持在背景区域缓冲器324中的帧的背景部分。因为电子装置100不生成背景区域的子帧,所以合成帧的帧率与不执行合成的情况相同。

此外,在确定手的存在的时间t21之后,电子装置100设置频率f3,并且与垂直同步信号vsync同步地仅生成手区域的子帧。然后,电子装置100合成手区域的子帧以及在背景区域缓冲器324和感兴趣区域缓冲器330中保存的除手区域之外的部分。

另外,在确定手区域的存在的情况下,电子装置100可以交替地生成手区域的子帧和背景区域的子帧,并且可以合成子帧与在背景区域缓冲器324中保存的帧中的背景部分。

如上所述,根据本技术的第一实施方式的示例修改,电子装置100使用保持在背景区域缓冲器324中的背景执行合成,而不生成背景的子帧,因此,可以抑制合成帧的帧率的降低。

<2.第二实施方式>

在上述第一实施方式中,光接收单元200生成包括感兴趣区域和背景区域的图像数据,但是因为只有一个光学单元,所以难以提高感兴趣区域相对于背景区域的分辨率。例如,为了提高感兴趣区域的分辨率,提供感兴趣区域的光学单元和背景区域的光学单元,并且提高感兴趣区域的光学单元的变焦放大率就足够了。第二实施方式的电子装置100与第一实施方式的不同之处在于,感兴趣区域的分辨率比背景区域的分辨率增加得更多。

图24是根据本技术的第二实施方式的示出了电子装置100的示例配置的框图。第二实施方式的电子装置100与第一实施方式的不同之处在于,还包括光学单元120和121以及光接收单元201。

光学单元120会聚来自感兴趣区域的反射光并将其引导至光接收单元200。光学单元121会聚来自背景区域的反射光并将其引导至光接收单元200。光接收单元200接收来自感兴趣区域的反射光,并且光接收单元201接收来自背景区域的反射光。另外,光学单元120和121是权利要求中描述的第一和第二光学单元的示例。

在初始状态下,控制单元300仅驱动光接收单元201,以促使生成帧,并通过信号线309获取帧。然后,在存在物体的情况下,控制单元300通过信号线307向光学单元120提供控制信号,并根据到物体的距离设置变焦放大率。此外,控制单元300交替地执行驱动光接收单元200以生成感兴趣区域的帧的过程以及驱动光接收单元201以生成背景区域的帧的过程。此外,在确定存在手区域的情况下,控制单元300使得光接收单元200交替生成手区域的子帧和背景区域的子帧。

图25是根据本技术的第二实施方式的示出了控制单元300的示例配置的框图。第二实施方式的控制单元300与第一实施方式的不同之处在于,还包括变焦控制单元317。

变焦控制单元317从区域确定/距离测量单元350接收感兴趣区域中距离的统计d2,并基于统计d2控制光学单元120的变焦放大率。例如,统计d2越大,变焦控制单元317增加变焦放大率。此外,为光学单元120的变焦放大率设置的值比为光学单元120设置的值高。此外,时钟供应单元313将时钟信号clk1提供给光接收单元201,并将时钟信号clk2和clk3提供给光接收单元200。频率控制单元314通过选择信号selb控制光接收单元200,并使光接收单元200切换到时钟信号clk2或clk3中的一个。

另外,变焦控制单元317仅控制光学单元120的变焦放大率,但是变焦控制单元317也可以基于统计d1来控制光学单元121的变焦放大率。此外,还可以包括用于手区域中距离测量的光接收单元和光学单元。在这种情况下,增加的光学单元会聚来自手区域的反射光,并且增加的光学单元与时钟信号clk3同步接收反射光。

如上所述,在本技术的第二实施方式中,变焦控制单元317增加对应于感兴趣区域的光学单元120的变焦放大率,因此,感兴趣区域的分辨率可以比背景区域的分辨率增加得更多。

<3.第三实施方式>

在上述第一实施方式中,在存在感兴趣区域的情况下,合成背景区域的子帧和感兴趣区域的子帧,但是因为合成了两个子帧,所以合成帧的帧率降低到一半。此外,因为只有一个光学单元,所以难以提高感兴趣区域相对于背景区域的分辨率。第三实施方式的电子装置100与第一实施方式的电子装置100的不同之处在于,感兴趣区域的分辨率相对于背景区域增加,并且抑制帧率的降低。

图26是根据本技术的第三实施方式的示出了电子装置100的示例配置的框图。第三实施方式的电子装置100与第一实施方式的不同之处在于,还包括发光单元115、光学单元120和121以及光接收单元201。

发光单元110与时钟信号clk2或clk3同步发射照射光,发光单元115与时钟信号clk1同步发射照射光。另外,发光单元110和115是权利要求中描述的第一和第二发光单元的示例。

光学单元120会聚来自感兴趣区域的反射光并将其引导至光接收单元200。光学单元121会聚来自背景区域的反射光并将其引导至光接收单元201。光接收单元200接收来自感兴趣区域的反射光,并且光接收单元201接收来自背景区域的反射光。

在初始状态下,控制单元300仅驱动发光单元115和光接收单元201,以生成帧。然后,在存在物体的情况下,控制单元300控制光学单元120,并根据到物体的距离设置变焦放大率。此外,控制单元300驱动并使发光单元110与时钟信号clk2同步发光,并且驱动并使光接收单元200生成感兴趣区域的帧。然后,在确定手区域存在的情况下,控制单元300交替地设置发光单元110中的频率f2和f3,并且使得光接收单元200交替地生成手区域的子帧和背景区域的子帧。

图27是根据本技术的第三实施方式的示出了频率设置操作的示例的时序图。在确定物体存在的时间t30之后,电子装置100在发光单元110和115中设置频率f1和f2,使发光单元110和115同时发光,并执行距离测量。以这种方式,控制单元300控制发光单元110和115,并且使得以彼此不同的频率下同时发射两束照射光,因此,可以以频率f1和f2同时执行距离测量。由此可以抑制合成帧的帧率的降低。

然后,从确定手存在的时间t31到时间t32,电子装置100在发光单元110和115中设置频率f1和f2,使得发光单元110和115同时发光,并执行距离测量。然后,从时间t32到时间t33,电子装置100在发光单元110和115中设置频率f1和f3,使发光单元110和115同时发光,并执行距离测量。另外,还可以包括用于手区域中距离测量的发光单元、光接收单元和光学单元。在这种情况下,增加的发光单元与时钟信号clk同步发光。

如上所述,在本技术的第三实施方式中,控制单元300设置发光单元110和115中的频率f1和f2,并使发光单元110和115同时发光,因此,可以同时生成背景区域的帧和感兴趣区域的帧。由此可以抑制合成帧的帧率的降低。此外,变焦控制单元317增加对应于感兴趣区域的光学单元120的变焦放大率,因此,感兴趣区域的分辨率可以比背景区域的分辨率增加得更多。

<4.移动主体的应用示例>

根据本公开的技术(本技术)可以应用于各种产品。例如,根据本公开的技术可以实现为安装在任何类型的移动主体中的装置,移动主体包括车辆、电动车辆、混合电动车辆、摩托车、自行车、个人移动性、飞机、无人驾驶飞机、船只、机器人等。

图28是示出作为可应用根据本公开的技术的移动主体控制系统的示例的车辆控制系统的示意性示例配置的框图。

车辆控制系统12000包括通过通信网络12001连接的多个电子控制单元。在图28所示的示例中,车辆控制系统12000包括驱动系统控制单元12010、车身系统控制单元12020、车外信息检测单元12030、车内信息检测单元12040和集成控制单元12050。此外,微型计算机12051、音频/图像输出单元12052和车载网络接口(i/f)12053被示为集成控制单元12050的功能元件。

驱动系统控制单元12010根据各种程序控制与车辆驱动系统相关的装置的操作。例如,驱动系统控制单元12010用作用于生成车辆驱动力的驱动力生成装置的控制装置(例如,内燃机或驱动电机)、用于将驱动力传输到车轮的驱动力传输机构、用于调节车辆转向角的转向机构、用于生成车辆制动力的制动装置等。

车身系统控制单元12020根据各种程序控制安装在车身中的各种装置的操作。例如,车身系统控制单元12020用作无钥匙进入系统、智能钥匙系统、电动车窗装置或诸如前灯、倒车灯、刹车灯、闪光灯和雾灯等各种灯的控制装置。在这种情况下,从用作各种开关的钥匙或信号的便携式装置传输的无线电波可以输入到车身系统控制单元12020。车身系统控制单元12020接收这种无线电波或信号的输入,并控制门锁装置、电动车窗装置或车辆的灯。

车外信息检测单元12030检测关于安装车辆控制系统12000的车辆外部的信息。例如,图像捕捉单元12031连接到车外信息检测单元12030。车外信息检测单元12030使得图像捕捉单元12031捕捉车辆外部的图像,并且还接收捕捉的图像。车外信息检测单元12030可以基于接收到的图像,对人、车辆、障碍物、交通标志、道路上的字母等执行物体检测处理或距离检测处理。

图像捕捉单元12031是光传感器,其接收光,并根据接收的光量输出电信号。图像捕捉单元12031可以输出电信号,作为图像,或者作为距离测量信息。此外,由图像捕捉单元12031接收的光可以是可见光,或者可以是不可见光,例如,红外光。

车内信息检测单元12040检测关于车辆内部的信息。例如,用于检测驾驶员状态的驾驶员状态检测单元12041连接到车内信息检测单元12040。例如,驾驶员状态检测单元12041包括用于捕捉驾驶员图像的相机,并且车内信息检测单元12040可以基于从驾驶员状态检测单元12041输入的检测信息来计算驾驶员的疲劳程度或注意力集中程度,或者可以确定驾驶员是否睡着。

微型计算机12051可以基于由车外信息检测单元12030或车内信息检测单元12040获取的关于车辆内部或外部的信息来计算驱动力生成装置、转向机构或制动装置的控制目标值,并且可以向驱动系统控制单元12010输出控制命令。例如,微型计算机12051可以执行协作控制,目的是实现高级驾驶员辅助系统(adas)的功能,包括车辆碰撞避免或碰撞减少、基于车间距的后续驾驶、恒定车速驾驶、车辆碰撞警告、车辆车道偏离警告等。

此外,微型计算机12051可以通过基于例如由车外信息检测单元12030或车内信息检测单元12040获取的关于车辆周围的信息来控制驱动力生成装置、转向机构、制动装置等,执行协作控制,目的是执行自主驾驶,根据该目的,自主进行驾驶,不依赖于驾驶员的操作。

此外,微型计算机12051可以基于由车外信息检测单元12030获取的关于车辆外部的信息向车身系统控制单元12020输出控制命令。例如,微型计算机12051可以通过例如根据由车外信息检测单元12030检测到的前方车辆或迎面而来的车辆的位置控制前灯,并且通过从远光切换到近光,来执行协作控制,其目的是防止防眩。

音频/图像输出单元12052将音频或图像中的至少一个的输出信号传输到能够视觉或听觉地向车辆乘客或车辆外部通知信息的输出装置。在图28的示例中,音频扬声器12061、显示单元12062和仪表板12063被示为输出装置。例如,显示单元12062可以包括车载显示器或平视显示器中的至少一个。

图29是示出图像捕捉单元12031的安装位置的示例的说明图。

在图29中,包括图像捕捉单元12101、12102、12103、12104和12105,作为图像捕捉单元12031。

例如,图像捕捉单元12101、12102、12103、12104和12105设置在诸如车辆12100的车厢内的前鼻、侧镜、后保险杠、后门和挡风玻璃上部等位置。设置在前鼻的图像捕捉单元12101和设置在车厢内的挡风玻璃上部的图像捕捉单元12105主要捕捉车辆12100前方区域的图像。设置在侧镜处的图像捕捉单元12102和12103主要获取车辆12100侧面区域的图像。设置在后保险杠或后门处的图像捕捉单元12104主要获取车辆12100后面的区域的图像。设置在车厢内的挡风玻璃上部的图像捕捉单元12105主要用于检测前方车辆、行人、障碍物、交通灯、路标、车道等。

另外,图29示出了图像捕捉单元12101至12104的图像捕捉范围的示例。图像捕捉范围12111表示设置在前鼻处的图像捕捉单元12101的图像捕捉范围,图像捕捉范围12112和12113分别表示设置在侧镜处的图像捕捉单元12102和12103的捕捉范围,图像捕捉范围12114表示设置在后保险杠或后门处的图像捕捉单元12104的图像捕捉范围。例如,可以通过叠加由图像捕捉单元12101至12104捕捉的多条图像数据来获得从上方示出车辆12100的鸟瞰图。

图像捕捉单元12101至12104中的至少一个可以包括获取距离信息的功能。例如,图像捕捉单元12101至12104中的至少一个可以是包括多个图像传感器的立体摄像机,或者可以是包括用于相位差检测的像素的图像传感器。

例如,通过基于从图像捕捉单元12101至12104获得的距离信息来确定到图像捕捉范围12111至12114中的每个三维物体的距离以及距离的时间变化(到车辆12100的相对速度),微型计算机12051可以提取在车辆12100的行驶路径上并且在与车辆12100大致相同的方向以预定速度(例如,0km/h或更高)行驶的最近的三维物体,作为前方车辆。此外,微型计算机12051可以预先设置到要保持的前方车辆的距离,并且执行自动制动控制(包括跟随停止控制)、自动加速控制(包括跟随启动控制)等。以这种方式,可以执行协作控制,其目的是执行自主驾驶,根据该目的,自主进行驾驶,而不依赖于驾驶员的操作。

例如,微型计算机12051可以基于从图像捕捉单元12101至12104获得的距离信息,将关于三维物体的三维物体数据分类为包括两轮车辆、标准尺寸车辆、大型车辆、行人、电线杆等的三维物体,提取分类的三维物体数据,并且使用提取的三维物体数据来自动避开障碍物。例如,微型计算机12051将车辆12100周围的障碍物识别为车辆12100的驾驶员能够视觉识别的障碍物和驾驶员难以视觉识别的障碍物。然后,微型计算机12051确定指示碰撞到每个障碍物的风险水平的碰撞风险,并且在碰撞风险是设定值或更大并且存在碰撞可能性的情况下,微型计算机12051可以通过经由音频扬声器12061或显示单元12062向驾驶员输出警告或者通过经由驱动系统控制单元12010执行强制减速或避免转向来帮助驾驶避免碰撞。

图像捕捉单元12101至12104中的至少一个可以是检测红外光的红外相机。例如,微型计算机12051可以通过确定在图像捕捉单元12101至12104的捕捉图像中是否存在行人来识别行人。例如,通过提取作为红外相机的图像捕捉单元12101至12104的捕捉图像中的特征点的过程以及通过对指示物体轮廓的一系列特征点执行模式匹配过程来确定物体是否是行人的过程,来执行行人的这种识别。在微型计算机12051确定在图像捕捉单元12101至12104的捕捉图像中存在行人并识别该行人的情况下,音频/图像输出单元12052控制显示单元12062,使得以叠加方式显示用于强调识别的行人的方形轮廓线。此外,音频/图像输出单元12052可以控制显示单元12062,使得在期望的位置显示指示行人的图标等。

迄今为止,已经给出了可以应用根据本公开的技术的车辆控制系统的示例的描述。例如,根据本公开的技术可以应用于上述元件中的车外信息检测单元12030。具体地,图1中的电子装置100可以应用于车外信息检测单元12030。将根据本公开的技术应用于车外信息检测单元12030,能够根据到物体的距离设置适当的频率,并且因此可以提高距离测量精度。

另外,上述实施方式是体现本技术的示例,并且实施方式中的事项和权利要求中的发明指定事项分别具有对应关系。类似地,权利要求中的发明指定事项和分配有相同名称的本技术的实施方式中的事项分别具有对应关系。然而,本技术不限于实施方式,并且可以通过在本技术的范围内对实施方式进行各种修改来体现。

此外,上述实施方式中描述的处理过程可以被认为是具有这一系列过程的方法,或者可以被认为是用于使计算机执行这一系列过程的程序和存储该程序的记录介质。例如,作为记录介质,可以使用光盘(cd)、迷你盘(md)、数字多功能盘(dvd)、存储卡、蓝光(注册商标)盘等。

另外,本说明书中描述的效果仅仅是示例,而不是限制性的,并且也可以实现其他效果。

此外,本技术也可以以下述方式配置。

(1)一种电子装置,包括:

发光单元,其被配置为与设置的设置频率的同步信号同步地发射间歇光;

光接收单元,其被配置为通过接收间歇光的反射光来生成光接收数据;

确定单元,其被配置为基于所光接收数据来确定预定物体的存在与否;以及

设置单元,其被配置为在确定存在预定物体的情况下,在发光单元中将随着到预定物体的距离越小而越高的频率设置为设置频率。

(2)根据上述(1)所述的电子装置,其中,在初始状态下,所述设置单元将第一频率设置为设置频率,并且在确定存在预定物体的情况下,所述设置单元将随着测量距离越小而越高的第二频率设置为设置频率。

(3)根据上述(2)所述的电子装置,其中,

在确定存在预定物体的情况下,所述确定单元确定预定物体中特定部位的存在与否,并且

在确定存在特定部位的情况下,所述设置单元将随着到特定部位的距离越小而越高的第三频率设置为设置频率。

(4)根据上述(2)或(3)所述的电子装置,还包括频率控制单元,所述频率控制单元被配置为在设置第二频率的情况下,每隔特定时间段在第一频率和第二频率之间交替切换。

(5)根据上述(4)所述的电子装置,其中,所述光接收单元包括

像素阵列单元,其中,多个像素以二维网格状排列,以及

驱动器,其被配置为在确定存在预定物体的情况下,交替地执行:在一定时间段内驱动多个像素中接收来自预定物体之外的反射光的像素并使得包括光接收数据的图像数据作为第一子帧输出的处理以及在一定时间段内驱动多个像素中接收来自预定物体的反射光的像素并使得包括光接收数据的图像数据作为第二子帧输出的处理。

(6)根据上述(5)所述的电子装置,还包括合成处理单元,其被配置为合成所述第一子帧和所述第二子帧,并且基于通过合成获得的数据生成距离数据。

(7)根据上述(1)至(6)中任一项所述的电子装置,其中,

所述光接收单元包括第一光接收单元和第二光接收单元,每个光接收单元被配置为与设置频率的同步信号同步地发射间歇光,并且

在初始状态下,所述设置单元在第一光接收单元中将第一频率设置为设置频率,并且在确定存在预定物体的情况下,所述设置单元在第二光接收单元中将随着测量距离越小而越高的第二频率设置为设置频率。

(8)根据上述(7)所述的电子装置,还包括:

第一光学单元,其被配置为会聚间歇光,并将间歇光引导至第一光接收单元;

第二光学单元,其被配置为会聚间歇光,并将间歇光引导至第一光接收单元;以及

变焦控制单元,其被配置为基于测量距离来控制第一光学单元的变焦放大率。

(9)根据上述(8)所述的电子装置,其中,

所述发光单元包括第一发光单元和第二发光单元,每个发光单元被配置为与设置频率的同步信号同步地发射间歇光,并且

在初始状态下,所述设置单元在第一发光单元中将第一频率设置为设置频率,并且在确定存在预定物体的情况下,设置单元在第二发光单元中将随着测量距离越小而越高的第二频率设置为设置频率。

(10)根据上述(1)至(9)中任一项所述的电子装置,其中,

所述光接收单元按照时间顺序生成多条图像数据,每条图像数据包括预定数量的光接收数据,并且

所述确定单元基于多条图像数据中按时间顺序彼此相邻的两条图像数据之间的差异来确定预定物体的存在与否。

(11)根据上述(10)所述的电子装置,其中,所述确定单元还基于所光接收数据来计算距离的统计,并且基于所述差异和所述统计来确定所述预定物体的存在与否。

(12)一种电子装置的控制方法,所述方法包括:

发光步骤,与设置的设置频率的同步信号同步地发射间歇光;

光接收步骤,用于通过接收间歇光的反射光来生成光接收数据;

确定步骤,用于基于光接收数据来确定预定物体的存在与否;以及

设置步骤,用于在确定存在预定物体的情况下,在发光单元中将随着到预定物体的距离越小而越高的频率设置为设置频率。

附图标记列表

100电子装置110、115发光装置

111光源112发光控制单元

120、121光学单元200、201光接收单元

211mx驱动器212v扫描仪

213v驱动器214dac

215列信号处理单元216h扫描仪

217时钟切换单元220像素阵列单元

230a像素231、241复位晶体管

232、242光电二极管233、243传输晶体管

234、244连接晶体管235、245浮动扩散层

236、246放大晶体管237、247选择晶体管

240b像素300控制单元

311区域控制单元312合成处理单元

313时钟电源单元314频率控制单元

315深度数据输出单元316相位同步电路

317变焦控制单元320差值计算单元

321写控制单元322、323、324背景区域缓冲器

325、326、327、331、332、333减法器

328、329、330感兴趣区域缓冲器

334、335、336手区域缓冲器350区域确定/距离测量单元

351候选感兴趣区域提取单元352候选手区域提取单元

353感兴趣区域确定单元354手区域确定单元

355频率确定单元356合成控制单元

357发光频率控制单元358频率表

12030车外信息检测单元

当前第1页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1