用于多重曝光宽动态范围图像数据的图像数据处理的制作方法

文档序号:16506763发布日期:2019-01-05 09:04阅读:285来源:国知局
用于多重曝光宽动态范围图像数据的图像数据处理的制作方法

本发明大体上涉及图像处理,且更具体来说,涉及用于处理来自宽动态范围(wdr)传感器的图像数据的电路。



背景技术:

摄像机及图像传感器广泛用于监测、运动控制及其它应用。举例来说,汽车应用包含用于在备份时协助驱动器的后视镜头,并且车载摄像机可向控制系统提供输入以避开障碍物、控制制动、转向、加速等。数码相机传感器具有有限的动态范围,所述动态范围通常比自然环境(及其它观察区域)的动态范围及人类眼睛的动态范围小得多。举例来说,室内房间可能无光照,但具有窗口可看到日出或日落。这为观察摄像机呈现极暗区域及极亮区域。尽管人类视觉系统能够捕获此动态范围,但是由于传感器及图像处理硬件中的有限动态范围,大部分数码相机不能够捕获此动态范围。因此,具有高动态范围的场景的数字图像通常倾向于具有吹出的高光及完全暗的阴影区域。处理图像中的低动态范围在汽车及监控摄像机系统中存在问题,其中保持整个动态范围非常重要。宽动态范围(wdr)传感器呈现潜在解决方案,并且常用于汽车及监控应用以保持自然场景的全动态范围。然而,现有图像处理(图像管道)电路及架构不是非常适合wdr传感器信号处理,并且完整的宽动态范围图像处理管道昂贵且实施起来复杂。举例来说,必须在合并处理之前预处理多次曝光的曝光数据,因此,来自wdr传感器的多次曝光数据需要较大且更复杂的处理电路。wdr传感器还可能遭受在后处理中难以校正的运动伪影。此外,合并多个时间上分离的帧可能导致由于像素噪声及运动伪影引起的图像质量降低。而且,所捕获场景中存在led灯或其它脉冲光源可能导致使用wdr传感器获得的图像的多次曝光之间的偏差。举例来说,脉冲光源可在第一曝光时间期间处于“关闭”状态,随后在第二曝光时间期间“打开”。在此类情况下,wdr传感器提供相同图像的第一及第二曝光数据,其中一或多个像素位置将在第一及第二曝光数据之间具有偏差。因此,wdr传感器为图像处理呈现新挑战,以提供宽动态范围成像的完整解决方案。



技术实现要素:

所描述实例包含图像信号处理电路、集成电路、合并电路及用于处理多次曝光图像数据,例如,来自宽动态范围传感器的第一及第二曝光数据的方法。单个预处理电路用于对与图像的第一曝光相关联的第一输入曝光数据执行预处理,随后用于预处理与图像的第二曝光相关联的第二输入曝光数据。随后在色调映射及其它后处理之前合并用于两次曝光的预处理数据。实例合并电路包含可配置增益电路,以在合并之前将增益因数应用于第一及第二图像数据中的一或两者的数据。在某些实例中,合并电路进一步包含可配置权重计算电路,以计算第一及第二曝光数据的权重值供合并处理。在一些实例中,合并电路还包含运动自适应滤波器电路,以计算运动自适应加权值来缩放应用于第一及第二图像数据的增益因数。

附图说明

图1是图像传感器处理器(isp)集成电路(ic)的系统图。

图2是图像处理方法的流程图。

图3是帧数据流程图。

图4是在图1的ic中的合并处理的系统级图。

图5是展示图1及4中的合并电路的另外细节的系统级图。

图6是在图5的合并电路中的增益调整电路的详细示意图。

图7是根据输入的像素值及可配置参数(v)的不同值而变的加权值的图形。

图8是根据长像素值及短像素值之间的差而变的运动自适应加权值的图形。

图9是在图5的合并电路中的加权电路的详细电路图。

具体实施方式

在附图中,相同参考数字贯穿全文指代相同元件,且各种特征不必按比例绘制。所描述实例提供有效电路、ic及用于预处理及合并来自wdr及其它图像数据源的多次曝光图像数据的方法。在某些所描述实例中,获得给定图像的第一及第二曝光数据,例如,使用第一(例如,长)曝光时间设定下的图像传感器来获得第一曝光数据,随后使用第二更短曝光时间设定下的传感器来获得第二曝光数据。每组数据包含所获得图像的给定像素位置的个别像素数据,其中较长曝光时间数据促进图像场景的暗区域的捕获,且较短曝光时间数据用于捕获图像场景的明亮照明部分的细节。所描述电路及方法有助于此双曝光图像数据的预处理及合并处理。而且,所描述技术可适用于各种不同成像应用,例如,车载摄像机、监控摄像机、机器人及其它运动控制应用的图像数据的处理等。

图1展示成像系统,所述成像系统包含通过可为有线或无线的数据连接或链路103从wdr传感器102接收信号数据的图像传感器处理器ic100。图2展示可在ic100中实施的处理输入曝光数据的过程或方法204。在一个实例中,ic100安装到印刷电路板(pcb,未展示),并且包含通过导电pcb迹线电连接到板安装连接器的一或多个引脚或端子,且wdr传感器102通过电缆(未展示)与连接器耦合。集成电路100包含下文描述的各种块或电路,其可为专用逻辑电路、可编程逻辑电路及/或通过数字处理器电路实施的功能。在一个实例中,传感器102是数字重叠(dol)wdr传感器,所述dolwdr传感器感测及检测对应传感器场106内穿过镜头结构104的光以捕获图像曝光数据。

ic100包含像素数据接口电路108,其具有通信电路105,用于从传感器102接收对应于图像的多次曝光的像素数据及分类电路107。接口电路108与ic100中的存储器电路110可操作地连接。在一个实例中,像素数据接口108的通信电路105是移动行业处理器接口(mipi)电路,其支持摄像机串行接口(csi)通信协议以从传感器102接收像素数据。举例来说,通信电路105支持mipicsi-2或csi-3通信。在一个实例中,互连件103包含多个ic引脚及对应电路板迹线并连接到传感器102,以在传感器102与像素数据接口电路108之间提供整数n个数据线连接,并且互连件103可进一步包含用于时钟信号的一或多个连接。传感器102提供与对应于传感器场106的图像的多次曝光相关联的多组像素数据。举例来说,传感器102提供与在第一曝光时间,在这种情况下两个或更多个曝光中的最长曝光时间下所感测图像的第一曝光对应的第一曝光数据,及与使用较短第二曝光时间获得的第二曝光对应的第二曝光数据。在其它实例中,技术可延伸到多次曝光图像数据,包含多于两组曝光数据,并且每组曝光数据通常对应于唯一的曝光时间。这允许使用单个传感器102来利用全动态范围。

ic100进一步包含处理电路112,所述处理电路与存储器电路110可操作地耦合并且根据一或多个配置参数140配置,以处理对应于图像的多次曝光的曝光数据。处理电路112包含单个预处理电路120,所述单个预处理电路操作以对输入曝光数据执行初始处理或预处理操作。预处理电路120提供通常在线性域中工作的图像滤波操作(在合并之前)。因此,单独地对每个独立曝光执行这些操作。在所说明实例中,预处理电路120包含噪声滤波电路121、偏转像素校正电路122、dc箝位去除电路123、镜头阴影校正电路124及白平衡校正电路125。噪声滤波电路121及缺陷像素校正电路122可用于增强在合并处理之后执行的色调映射逻辑134的质量。而且,dc箝位去除电路123优选地在电路125中的白平衡校正之前,并且还优选地在色调映射之前对数据进行操作,因此这些操作在合并处理之前有利地执行为预处理电路120的一部分。此外,在任何非线性操作之前,镜头阴影校正电路124有利地用于在合并处理之前对单独曝光数据进行操作。

在其它实例中,更少或更多预处理电路及功能可实施于预处理电路120中。在图1的实例中,单个预处理电路120使用电路121至25对第一输入曝光数据(图1中标记为“long”)及第二输入曝光数据(标记为“short”)依序地执行所说明操作。这与现有的wdr传感器电路相反,现有的wdr传感器电路包含用于给定图像的每组曝光数据的单独专用预处理电路。

图1中的处理电路112进一步包含合并电路130,以处理第一及第二预处理曝光数据来生成表示图像的合并图像数据,并且将合并数据提供到色调映射电路134。图像的色调映射数据随后通过后处理电路136进行后处理,并且存储于存储器电路110中以供主机系统142访问。在此实例中,主机系统142可通过将一或多个可配置或配置参数140存储在ic100中来配置ic100,如下文进一步描述。

ic100的操作一般在图2的方法200中说明。一般来说,接口电路108从传感器102接收输入曝光数据,并且将数据提供到存储器电路110。在图1的实例中,存储器电路110是双倍数据速率(ddr)存储器电路,或多倍ddr存储器电路。存储器电路110包含第一部分或位置110a(图1中标记为ddr-1)、第二部分或位置110b(标记为ddr-2)、第三部分或位置110c(ddr-3),及第四部分或位置110d(ddr-4)。在用于处理给定图像的多于两个曝光的其它实例中,存储器电路110可包含另外位置或部分(未展示)。在所说明实例的操作中,接口电路108将与图像的第一曝光相关联的第一输入曝光数据long存储在第一存储器部分或位置110a中(图2中的202)。在图2中的204处,接口电路108将与图像的第二曝光相关联的第二输入曝光数据short存储在第二存储器部分或位置110b中。

在图2中的206处,单个预处理电路120对来自第一存储器部分110a的第一曝光数据long执行预处理操作,以生成与图像的第一曝光相关联的第一预处理曝光数据(下文描述的图4中的401),并且在图2中的208处,图1中的电路120将第一预处理曝光数据存储在第三存储器部分110c中。处理电路112有利地从第二存储器部分110b获得第二输入曝光数据short,并且再次使用相同的单个预处理电路120对第二输入曝光数据short执行图2中的210处的初始图像处理,以生成与图像的第二曝光相关联的第二预处理曝光数据(图4中的402)。图1中的合并电路130处理212处的第一预处理曝光数据401及第二预处理曝光数据402,以生成表示图像的合并图像数据(图4中的404)。在图2中的214处,处理电路112使用色调映射电路134来对来自合并电路130的合并图像数据404执行色调映射处理。在一个实例中,色调映射电路134执行全局及后续局部色调映射操作,以将合并图像的位深度从20位减小(例如,压缩)到较小(16或12位),同时仍保持图像的低光及高光。此处理减小位深度,同时保持图像质量。

后处理电路136对合并图像数据404执行进一步图像处理214,以生成最终图像数据。在一个实例中,后处理电路136包含用于对合并图像数据进行操作的图像滤波电路,并且相关联后处理操作仅应用一次,而与曝光次数无关。举例来说,通过电路136执行的后处理操作不需要在线性域中执行,因为在合并及色调映射处理之后的像素数据通常为非线性。在216处,处理电路112将最终图像数据存储在第四存储器部分110d中。在图2中的218处,存储器部分110d随后将最终图像数据提供到主机系统142。

如图1中所示,ic100包含仅单个预处理电路112,并且第一输入曝光数据long进行预处理并临时存储在第三存储器部分110c中,以沿着第一预处理路径131最终提供到合并电路130。第二输入曝光数据short通过预处理电路120直接进行预处理,并沿着第二预处理路径132提供给合并电路130。此解决方案在合并处理之前有利地采用多遍预处理方法,以便有利于节省ic面积及成本来权衡性能。在某些实施方案中,ic100可以时钟速度操作,使得满足任何所需的吞吐量要求,例如,考虑用于图像数据预处理的多遍操作的案例。在一个实例中,电路112可以200mhz的时钟频率操作,用于以相当大的裕度支持30fps下的2mpix分辨率(2mpix@30fps通常是汽车装置的最高要求)。因此,ic100利用wdr传感器102及其它多次曝光图像数据源的动态范围优点,其中合并电路130及其它后处理电路134、136执行图像处理及其它操作,以提供具有全动态范围的最终输出图像数据。此方法允许通过有效的图像处理电路空间及成本捕获更高动态范围,从而为预期即使在不利光照条件下也正确地生成曝光图像的类似于安全及汽车成像系统的应用提供智能解决方案。此不利光照条件的实例包含在太阳低于地平线并面向相机的早晨/晚上时间操作的监控摄像机、当车辆从黑暗的停车场或隧道驶出到阳光照射的道路时的汽车摄像机,及具有阳光照射的窗户的室内场景,例如暗室,其中室内及室外场景都应进行适当曝光。在这些极端光照条件下,图1的系统将最终图像数据提供到主机系统142,其具有降低或消除的曝光过度或“吹出”区域,同时仍在图像的弱光部分中展示良好细节。

图3说明具有ic100中的多遍预处理的帧数据流,包含用于在合并电路130中的合并处理之前进行初始处理的pass0、pass1及pass2。如图3中所示,在一个实例中,传感器102将12位输入曝光数据提供到接口108,所述接口将long第一输入曝光数据存储在第一存储器位置110a中(图2中的202),并且将12位第二输入曝光数据short存储在第二存储器位置110b中。在pass1中,第一输入曝光数据long使用第一存储器位置110a的“读取dma”直接存储器存取300通过处理电路112读取,并且数据在电路120中进行预处理以生成第一预处理曝光数据,所述第一预处理曝光数据随后存储在第三存储器位置110c中。在pass2中,第二输入曝光数据short使用读取dma操作302从第二存储器位置110b获取,并且第二输入曝光数据使用相同预处理电路120在pass2中进行预处理。随后,预处理曝光数据使用合并电路130合并。在一个实例中,在合并处理之后的数据是24位,随后全局色调映射到16位,接着局部色调映射到12位,并且压缩的合并图像数据通过用于一个或多个后处理步骤的图像管线的其余部分(例如,图1中的电路136)进行处理。

参考图4,常规的曝光合并技术遭受可由于输入图像数据中的运动和/或高水平噪声产生的伪影。所描述实例采用合并电路来实施用于合并过程的复杂、噪声稳固及运动自适应算法,以减轻或消除伪影并提供更佳图像质量。在某些实例中,合并处理电路130提供多组曝光数据的智能可配置合并。图4展示图1的ic中的合并处理的系统级描述。合并电路130从第三存储器位置110c接收第一预处理曝光数据401,如下文所描述。在一个实例中,用于一的第一预处理曝光数据是与对应图像的第一曝光相关联的8至12位像素数据,并且合并电路130通过存储器接口(if)操作(例如,在一个实例中,dma访问)获取数据401。预处理电路120(图1)将第二预处理曝光数据402(例如,8至12位)提供到合并电路130。合并电路130使用如下文进一步描述的一或多个配置参数140如通常上文所描述操作,以生成并提供合并图像数据404(例如,在某些所描述实例中,12至20位)。在一个实例中,电路130合并用于两次曝光的数据401、402,以生成高位宽(例如,高达24位)合并帧。在一个实例中,图1中的色调映射电路134实施全局色调映射操作,以将范围从24位减小到16位,并且可应用局部色调映射以将动态范围从16位减小到12位,同时仍保留图像的高光及阴影区域中的细节。

参考图5至9,在一个实例中,合并电路130对合并过程提供自适应可配置控制。由于各种原因,处理通常遭受图像质量降低。举例来说,在合并预处理的长及短曝光数据时存在图像质量降级的两个潜在原因。这些是由于噪声引起的降级及由于运动引起的降级。关于噪声降级,合并过程是基于阈值的操作,并且对输入的预处理曝光像素数据中的噪声敏感。举例来说,如果合并逻辑基于第一预处理曝光数据401,则所述数据中的噪声可致使常规合并逻辑选择不正确曝光,并且由于噪声而频繁切换曝光将在最终的合并图像数据中产生显著伪影。

关于运动降级,大部分wdr传感器102涉及长曝光与短曝光之间的时间滞后,因为单个传感器用于最初产生一组曝光数据,随后在不同曝光时间设定处产生第二组曝光数据。举例来说,长曝光时间设定通常较大(例如,33ms或更多),并且在捕获短曝光之前,可在图像到物体中,或在摄像机传感器102(例如,在车辆安装的摄像机应用中)的参考帧中出现显著的运动延迟。举例来说,帧中的快速移动物体可能已在帧中移动,从而导致运动模糊。此问题具体来说存在于汽车(及摄像机)快速行驶且甚至静止物体相对于汽车相对移动的汽车案例中。

第三个问题是闪烁光源,例如,在所捕获场景中存在led灯或其它闪烁光源。led灯通常通过开/关周期及占空比(即,这些led灯未必总是发光,相反其以周期性方式接通及断开)以开/关方式操作。此周期的占空比用于调节图像的强度。人类眼睛不可感知大部分led光源的闪烁效果,但是在数字图像中,后续帧交替地捕获及错过led有效占空比,从而产生称为led闪烁的现象。当使用wdr传感器时,led闪烁问题进一步加重,其中一次曝光可捕获处于接通状态的led(例如,长曝光),而另一次曝光(例如,设定相同帧的曝光数据的短曝光时间)可能错过led。当合并这两个单独曝光时,所得输出可展现伪影。

图1、5、6及9中的实例合并电路130可用于解决上述问题。举例来说,电路130提供复原噪声及运动伪影及led闪烁的智能合并方法。合并处理一般涉及组合两个或更多个曝光来生成宽动态范围场景。在一个实例中,两个(例如,长曝光时间设定,及短路曝光时间设定)12位曝光组合,以生成单个20位(或16位)帧,从而产生位深度比给定图像的两组原始曝光数据中的任一者更高的统一或合并曝光。如图5中所示,合并电路130包含增益电路500(图5中标记为“gainadjust”),以及第一移位电路502及第二移位电路504、加权电路506及最终合并电路508。在操作中,增益电路500将增益应用于第一预处理曝光数据401及/或第二预处理曝光数据402中的一或两者,以生成与图像的第一曝光相关联的第一增益调整曝光数据longadj,及与图像的第二曝光相关联的第二增益调整曝光数据shortadj。在所说明实例中,增益调整数据longadj及shortadj是20位长,但是其它位深也是可能的。在某些实例中,增益电路500根据一或多个配置参数140操作。下文结合图6进一步描述实例增益电路500。

移位电路502及504根据3位weightshift配置参数140j移位第一增益调整曝光数据longadj及第二增益调整曝光数据shortadj,以生成16位第一移位曝光数据longshifted及第二移位曝光数据shortshifted,并且这些提供为加权电路506的输入数据。加权电路506计算用于第一移位曝光数据longshifted的合并处理212的16位第一权重值alpha_l,及用于第二移位曝光数据longshifted的合并处理212的第二权重值alpha_u。在某些实例中,加权电路506根据一或多个配置参数140操作。下文结合图7到9说明及描述详细的实例加权电路506。最终合并电路508接收第一权重值alpha_l及第二权重值alpha_u,并合并第一增益调整数据longadj及第二增益调整数据shortadj来根据第一权重值alpha_l及第二权重值alpha_u生成合并图像数据404。

图6展示增益电路500的一个实例的另外细节。增益电路500将增益应用于第一曝光数据401及第二曝光数据402中的一或两者,以将值移动成彼此更接近,理想地,使这些值具有相同的强度指标。在一个实例中,单位增益应用于第一曝光数据401,且更高增益应用于短曝光数据402。为了在某些实施方案中说明定点算术,及为了减小增益应用中的误差,在一个实例中,增益电路500将增益‘1’应用于短曝光且将<‘1’的增益应用于长曝光。在一个实例中,第一曝光增益“gain_long”根据以下公式(1)设定:

(1)gain_long=215x(短曝光增益)/(长曝光增益)

增益电路500包含黑电平偏移电路601至604,包含电路601及602,以分别向减法器电路603及604提供可配置第一黑电平偏移值参数140a及可配置第二黑电平偏移值参数140b(例如,所说明实例中的四个位值)。在某些实例中,数字图像数据具有非零黑电平,并且因此,在图像中应表示零的像素是非零值,例如,在一个实例中是200。因此,图像中的最低值是200,并且在进一步处理之前从图像中减去通过可配置参数140a及140b设定的此值。分别从第一曝光数据401及第二曝光数据402(例如,在一个实例中,8至12位)中减去来自黑电平偏移电路601及602的值,并且分别通过限幅电路605及606将结果限幅在0与4095之间。电路605及606向乘法器电路607及608提供12位所得值,所述乘法器电路将限幅结果值乘以可配置长增益值140c及可配置短增益值140d。以此方式,电路607将可配置第一增益值140c应用于第一曝光数据401,并且电路608将可配置增益值140d应用于第二曝光数据402,以在生成第一增益调整曝光数据longadj及第二增益调整曝光数据shortadj时生成。作为通过电路607及608的乘法的结果,将28位结果分别提供给求和或其电路609及610处。增益电路500使用可配置的4位第一及第二(例如,长及短)移位值140b及140f(“xl”及“xs”),这些值用于计算分别与来自乘法器607及608的28位值求和的移位值。

求和电路609及610分别将28位结果提供到移位电路611及612。电路611及612将28位输入值右移15-xl及15-xs,并且所得值(例如,在一个实例中,20位)根据20位可配置限幅值140g(wdr_clip)由限幅电路613及614限制或限幅。电路613及614根据通过电路615及616提供的可配置13位白平衡增益140h及140i分别将20位结果提供到乘法器617及618,用于长及短白平衡增益应用。使用电路615至618,增益电路500校正曝光数据中的白平衡作为处理的一部分,以生成第一增益调整曝光数据longadj及第二增益调整曝光数据shortadj。白平衡校正用于从图像中去除色偏。在一个实例中,单位增益应用于绿色通道值,而非单位增益(高于或低于1)应用于红色及蓝色通道。在白平衡增益调整之后,乘法器617及618将33位乘法器结果值提供到求和电路619及620,所述乘法器结果值在所说明实例中加上值256以提供33位输出。这些输出使用移位电路621及622右移九个位。电路621及622将24位移位值提供到限幅电路623及624。限幅电路623及624根据可配置限幅值140g操作,以提供20位第一增益调整曝光数据longadj及第二增益调整曝光数据shortadj。

说明实例加权电路506的另外细节。图7中的图形700展示说明根据输入的像素值而变的加权值的曲线701、702、703、704及705,并且图8中的图形800展示根据长像素值与短路像素值之间的差δ而变的运动自适应加权值曲线802{maweight)。图9展示加权电路506的一个实例的另外细节。在此实例中,电路506包含权重计算电路900及运动自适应滤波器电路930。权重计算电路900根据可配置选择参数140q(wgt_sel)基于第一或第二移位曝光数据计算初始权重值α,用于led闪烁减少。电路900还在计算α时使用可配置第一阈值140r(t)。当用于图像中的当前像素位置的选定第一移位曝光数据longshifted或第二移位曝光数据shortshifted的值大于t时,电路900计算α作为第一预定值(例如,32,768)。否则,如果选定值小于或等于t,则电路900根据一或多个可配置参数140l、140m、140n(图9中的bf、af_m及af_e)及根据用于当前像素位置的选定长或短数据像素值计算初始权重值α。在一个实例中,这些参数140l、140m及140e共同构成图7中所示的可配置参数“v”(140k)。举例来说,权重计算电路900使用一或多个可配置参数设定图形700中低于阈值712的曲线701、702、703、704或705的形状。如在此图形中所示,加权电路506将短(第二)权重值alpha_u设定成用于高于阈值712的像素值的常数值(例如,图形700中的换算值“1”)。低于此值(例如,在所说明实施中为1000),一或多个配置参数140k、140l、140m及/或140n可由主机系统142(图1)配置以实施任何合适的曲线,用于在低于阈值712的第一及第二曝光数据集之间混合。图7中的曲线701至705是用于v=0.73、v=0.51、v=0.35、v=0.25及v=0的实例,其中曲线705(v=0)在此实例中以像素值500终止于值alpha_u=0(在图7中在阈值710处指示)。以此方式,ic100可被配置成实施第一曝光数据401及第二曝光数据402的任何所需混合或合并。

加权电路506包含根据选择信号(配置参数140q)可操作的复用器或选择电路902,以将长或短移位数据流中的一者(在此实例中,16位值)提供到权重计算电路900。电路900中的乘法器电路904及908分别通过第一配置参数值1401(bf)及第二配置参数值140m(af_m)缩放选定值。乘法器904的输出通过移位电路906右移一个位,并且电路906的输出提供为求和或加法器电路916的输入。乘法器908的输出根据配置参数140n(af_e)通过移位电路910移位。乘法器电路912将移位结果乘以选定值,并且在此实例中,移位电路914将乘法结果右移10个位。来自电路914的移位输出与移位电路906的输出相加。移位电路918将求和结果右移4倍配置参数clipu,并且所得值提供为复用器920的第一输入。复用器920的第二输入是预定值,在此实例中,1左移15个位。电路900还使用减法电路922根据阈值参数t(140r)计算α,所述减法电路从来自电路902的16位选定值中减去阈值t。减法结果用作操作为复用器920的选择输入的“signbit”。复用器的输出是初始权重值α。减法电路924减去预定值(例如,1左移15个位),以将输入提供到乘法器940,以根据来自运动自适应滤波器电路930的运动自适应权重值maweight选择性缩放。

加权电路506还适应图像数据中的运动。运动自适应滤波器电路930计算差值δ(图8中展示为横轴“δ”)。此值使用图9中的减法电路931及绝对值电路932计算为用于图像中的当前像素位置的第一移位曝光数据longshifted及第二移位曝光数据shortshifted的值之间的差的绝对值。运动自适应滤波器电路930进一步包含减法电路933,所述减法电路从差值δ中减去第二阈值140o(d1)。限幅电路934将所得值限幅在0与第一预定值32,768之间,并且结果使用乘法器电路935乘以配置参数140p(wdrma.mas)。减法电路936从预定值(例如,1左移15个位)减去乘积值,并且减法结果通过限幅电路937限幅在0与32,768之间。电路932nd将限幅输出提供为运动自适应权重值maweight。

乘法器电路940将运动自适应权重值maweight乘以减法电路924的输出,并且在一个实例中,所述结果使用移位电路942右移15个位。移位电路942提供16位第一权重值alpha_l,并且减法电路944将第一权重值alpha_u提供为1-alpha_l。如图9中所示,当差值δ大于或等于第二阈值140o(d1)时,运动自适应滤波器电路930根据差值δ计算运动自适应权重值maweight,并且运动自适应权重值另外设定成常数值(在此实例中为1)。使用电路940、942及944,加权电路506将初始权重值α乘以运动自适应权重值maweight,以生成第一权重值alpha_l,并且通过从第一预定值(例如,32,768)中减去第一权重值alpha_l计算第二权重值alpha_u。

在此实例中,电路506生成用于长及短曝光的权重。权重alpha_l及alpha_u用于在最终合并电路508(图5)中内插以形成合并输出,其中图8展示通过电路930提供的运动自适应滤波的效果。如图形800中所示,值α的运动自适应修改在δ的较高值处发生,并且所说明电路930在0.25处实施运动自适应权重的最小值,但是其它实施方案可用于提供不同最小值。图9中的权重计算电路900有助于对抗像素噪声,并且运动自适应滤波器电路930有助于抑制运动伪影。图9中的权重计算电路实例900使用以下公式(2)计算α的值:

(2)

在等式(2)中,‘x’是输入的像素数据的值,而t、af_m、bf及af_e是可配置参数140。在没有运动自适应电路930的情况下,‘α’将用作短像素的增益,并且长像素的增益设定为‘1-α’。如图7中所示,可以通过改变不同配置参数以实施不同性能曲线来控制权重图形700。在此图形700中,阈值712(t)设定成1000,并且曲线701、702、703、704及705分别表示根据像素值(x轴),例如,值0.73、0.51、0.35、0.25及0.0而变的用于短像素加权(y轴)的权重。v是源自配置参数af_m、af_e及bf的简化配置参数140k。在图形700中的实例展示在像素值大于1000之后短像素的权重为‘1’,而起遵循从0至1000的非线性曲线。通过选择长曝光与短曝光之间的正确混合,这在设定任何合适的所需动态范围时提供灵活性。每个曲线701至705可适用于不同种类的传感器102(图1)。在用于0.4的y轴值的一个实例中,将通过用于短曝光的权重0.4及用于长曝光的权重0.6计算输出(例如,输出=0.4*短+0.6*长)。图9中的运动自适应滤波器电路930使用以下等式(3a至3d)描述,其中32768表示值1.0(伪浮动符号)。

(3a)δ=abs((长曝光像素)-(短曝光像素))

(3b)

(3c)alpha_l=(32768-α)*maweight>>15

(3d)alpha_u=(32768-alpha_l

alpha_u是短曝光值的最终权重,且alpha_l是长曝光值。图8中的曲线802展示通过图9中的电路930实施的运动自适应权重计算。在操作中,当长像素与短像素之间的差较低(δ较小)时,电路930将ma_weight设定成1并且运动自适应滤波器电路930并未有效地修改α。然而,当δ较大时,ma_weight取小于1的值。举例来说,在极端情况下,当δ=4095时,ma_weight具有0.25的值。在此情况下,长曝光权重减小,因为所述长曝光权重乘以因数0.25。随后,短曝光权重相应地增加,因为短曝光权重计算为1.0-长曝光权重。因此,每当图像中存在运动时,权重朝向短曝光偏移。

类似逻辑电路可以用于说明led闪烁。每当led光源(或其它脉冲光源)在图像中并且存在闪烁时,与短曝光相比,长曝光具有捕获led源的高得多的概率。为了完全避免闪烁伪影,长曝光时间可保持高于led源的频率。举例来说,如果led源频率是90hz(多个led源在约90hz的频率下操作),则11ms或更高的曝光时间总是正确地捕获led源。如果在给定应用中怀疑led闪烁,则运动自适应电路930可通过设定合适的配置参数140重新配置,以便800应用朝向短曝光减小的权重。在此实例中,图8中的图形仍然如图所示,但是ma_weight应用于短曝光,而不是长曝光。在此情况下,每当长曝光值与短曝光值之间存在显著δ时,假设led闪烁,并且在合并过程中将更高加权提供到长曝光。因为长曝光被视为无闪烁,所以加权机构产生不含闪烁的合并帧。

在计算权重之后,最终合并块508(图5)使用以下公式(4)混合两个曝光:

(4)out=(长曝光像素xalpha_l+短曝光像素xalpha_u+(1<<(s-1)))>>(s)

其中“s”是固定点符号中的分数精度(或分数位数)。

所描述实例解决由多个传感器支持的单独曝光wdr数据流,并且提供用于处理多次曝光wdr输入数据,而不会导致与图像预处理电路的复制相关联的成本损失。这使用智能两遍方法提供性能与保存区域之间平衡的折衷。因此,促进显著的成本(逻辑及存储器区域)节省,从而使信号处理ic100适合于成本敏感应用。此外,ic100实施用于合并多次曝光的先进电路及技术,这对于图像噪声及运动伪影两者是稳固的。

在所描述的实施例中可能进行修改,且其它实施例在权利要求的范围内为可能的。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1