主体对焦方法、装置、计算机设备和存储介质与流程

文档序号:19664668发布日期:2020-01-10 21:28阅读:176来源:国知局
主体对焦方法、装置、计算机设备和存储介质与流程

本申请涉及图像处理技术领域,特别是涉及一种主体对焦方法、装置、计算机设备和存储介质。



背景技术:

随着智能手机的普及,通过手机进行拍照和视频录像已经成为常态。

当前手机拍照和视频录像的对焦方法包括:通过用户手动touch屏幕进行对焦和按照默认的画面中心区域进行对焦。现有手机拍照和视频录像的对焦功能存在灵活性较差、且对焦不准确的问题。



技术实现要素:

基于此,有必要针对上述技术问题,提供一种主体对焦方法、装置、计算机设备和存储介质。

第一方面,本申请实施例提供一种主体对焦方法,该方法包括:

获取对焦视野中主体的主体姿态信息;

根据主体姿态信息和预设的筛选规则,从对焦视野中确定出目标主体;筛选规则为根据姿态动作和/或运动程度确定的规则;

对目标主体进行追焦。

在其中一个实施例中,上述筛选规则包括姿态动作规则和/或运动程度规则;

姿态动作规则用于指示各姿态动作的优先级;

运动程度规则用于指示各运动程度的优先级。

在其中一个实施例中,上述根据主体姿态信息和预设的筛选规则,从对焦视野中确定出目标主体,包括:

根据主体姿态信息,确定对焦视野中各主体的姿态动作;

根据姿态动作规则,将各姿态动作中优先级最高的主体确定为目标主体。

在其中一个实施例中,上述根据主体姿态信息,确定对焦视野中各主体的姿态动作,包括:

根据主体姿态信息,获取各主体肢体之间的角度;

从预设的姿态动作信息表中,确定各主体肢体对应的姿态动作;姿态动作信息表中包括多个主体肢体之间的角度与姿态动作的对应关系。

在其中一个实施例中,上述根据主体姿态信息和预设的筛选规则,从对焦视野中确定出目标主体,包括:

根据主体姿态信息,获取连续n帧内对焦视野中各主体的运动程度;

根据运动程度规则,将各运动程度中优先级最高的主体确定为目标主体。

在其中一个实施例中,上述根据主体姿态信息,获取连续n帧内对焦视野中各主体的运动程度,包括:

根据主体姿态信息,获取连续n帧内各主体肢体关键点的角度变化量;

从预设的运动程度信息表中,确定各主体肢体关键点的角度变化量对应的运动程度;运动程度信息表中包括多个主体肢体关键点的角度变化量与运动程度的对应关系。

在其中一个实施例中,该方法包括:若对焦视野中不存在目标主体,或者,目标主体的追焦持续时长达到预设时长,重新从对焦视野中确定出新的目标主体。

在其中一个实施例中,上述获取对焦视野中主体的主体姿态信息,包括:

检测对焦视野中各主体的骨骼关键信息;

根据骨骼关键信息,确定各主体姿态信息。

在其中一个实施例中,该方法还包括:

若从对焦视野中没有确定出目标主体,则根据对焦视野的中心区域进行主体对焦。

第二方面,本申请实施例提供一种主体对焦装置,该装置包括:

获取模块,用于获取对焦视野中主体的主体姿态信息;

确定模块,用于根据主体姿态信息和预设的筛选规则,从对焦视野中确定出目标主体;筛选规则为根据姿态动作和/或运动程度确定的规则;

追焦模块,用于对目标主体进行追焦。

第三方面,本申请实施例提供一种计算机设备,包括存储器和处理器,存储器存储有计算机程序,处理器执行计算机程序时实现上述第一方面实施例提供的任一项方法的步骤。

第四方面,本申请实施例提供一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现上述第一方面实施例提供的任一项方法的步骤。

本申请实施例提供的一种主体对焦方法、装置、计算机设备和存储介质,从对焦视野中获取了主体的姿态信息,通过主体姿态信息可预估各主体所做出的特殊姿态识别或者运动程度的识别,并基于预设的筛选规则,确定出目标主体,使得拍照或录视频时可以有效的对目标主体进行对焦,通过该方法自动对焦到目标主体的人身上,而非手动对焦,提高了对焦的灵活性和准确性,同时提升了使用的体验感。另外,该方法可以提升相机对焦功能对主体的姿态和运动捕获,使得对焦更智能化地理解人的行为,提升使用趣味性。

附图说明

图1为一个实施例提供的一种图像处理电路的示意图;

图2为一个实施例提供的一种主体对焦方法的流程示意图;

图3为一个实施例提供的一种主体对焦方法的流程示意图;

图3a为一个实施例提供的一种人体姿态动作示意图;

图4为一个实施例提供的一种主体对焦方法的流程示意图;

图5为一个实施例提供的一种主体对焦方法的流程示意图;

图6为一个实施例提供的一种主体对焦方法的流程示意图;

图7为一个实施例提供的一种主体对焦方法的流程示意图;

图7a为一个实施例提供的一种骨骼关键信息示意图;

图8为一个实施例提供的一种主体对焦方法的完整示意图;

图9为一个实施例提供的一种主体对焦方法的完整示意图;

图10为一个实施例提供的一种主体对焦装置的结构框图;

图11为一个实施例提供的一种主体对焦装置的结构框图;

图12为一个实施例提供的一种主体对焦装置的结构框图;

图13为一个实施例中计算机设备的内部结构图。

具体实施方式

为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。

本申请提供的一种主体对焦方法,可以应用于电子设备。该电子设备可为带有摄像头的计算机设备、个人数字助理、平板电脑、智能手机、穿戴式设备等。电子设备中的摄像头在拍摄图像时,会进行自动对焦,以保证拍摄的图像清晰。

在一个实施例中,上述电子设备中可包括图像处理电路,图像处理电路可以利用硬件和/或软件组件实现,可包括定义isp(imagesignalprocessing,图像信号处理)管线的各种处理单元。图1为一个实施例中图像处理电路的示意图。如图1所示,为便于说明,仅示出与本申请实施例相关的图像处理技术的各个方面。

如图1所示,图像处理电路包括第一isp处理器130、第二isp处理器140和控制逻辑器150。第一摄像头110包括一个或多个第一透镜112和第一图像传感器114。第一图像传感器114可包括色彩滤镜阵列(如bayer滤镜),第一图像传感器114可获取用第一图像传感器114的每个成像像素捕捉的光强度和波长信息,并提供可由第一isp处理器130处理的一组图像数据。第二摄像头120包括一个或多个第二透镜122和第二图像传感器124。第二图像传感器124可包括色彩滤镜阵列(如bayer滤镜),第二图像传感器124可获取用第二图像传感器124的每个成像像素捕捉的光强度和波长信息,并提供可由第二isp处理器140处理的一组图像数据。

第一摄像头110采集的第一图像传输给第一isp处理器130进行处理,第一isp处理器130处理第一图像后,可将第一图像的统计数据(如图像的亮度、图像的反差值、图像的颜色等)发送给控制逻辑器150,控制逻辑器150可根据统计数据确定第一摄像头110的控制参数,从而第一摄像头110可根据控制参数进行自动对焦、自动曝光等操作。第一图像经过第一isp处理器130进行处理后可存储至图像存储器160中,第一isp处理器130也可以读取图像存储器160中存储的图像以对进行处理。另外,第一图像经过isp处理器130进行处理后可直接发送至显示器170进行显示,显示器170也可以读取图像存储器160中的图像以进行显示。

其中,第一isp处理器130按多种格式逐个像素地处理图像数据。例如,每个图像像素可具有8、10、12或14比特的位深度,第一isp处理器130可对图像数据进行一个或多个图像处理操作、收集关于图像数据的统计信息。其中,图像处理操作可按相同或不同的位深度精度进行。

图像存储器160可为存储器装置的一部分、存储设备、或电子设备内的独立的专用存储器,并可包括dma(directmemoryaccess,直接直接存储器存取)特征。

当接收到来自第一图像传感器114接口时,第一isp处理器130可进行一个或多个图像处理操作,如时域滤波。处理后的图像数据可发送给图像存储器160,以便在被显示之前进行另外的处理。第一isp处理器130从图像存储器160接收处理数据,并对所述处理数据进行rgb和ycbcr颜色空间中的图像数据处理。第一isp处理器130处理后的图像数据可输出给显示器170,以供用户观看和/或由图形引擎或gpu(graphicsprocessingunit,图形处理器)进一步处理。此外,第一isp处理器130的输出还可发送给图像存储器160,且显示器170可从图像存储器160读取图像数据。在一个实施例中,图像存储器160可被配置为实现一个或多个帧缓冲器。

第一isp处理器130确定的统计数据可发送给控制逻辑器150。例如,统计数据可包括自动曝光、自动白平衡、自动聚焦、闪烁检测、黑电平补偿、第一透镜112阴影校正等第一图像传感器114统计信息。控制逻辑器150可包括执行一个或多个例程(如固件)的处理器和/或微控制器,一个或多个例程可根据接收的统计数据,确定第一摄像头110的控制参数及第一isp处理器130的控制参数。例如,第一摄像头110的控制参数可包括增益、曝光控制的积分时间、防抖参数、闪光控制参数、第一透镜112控制参数(例如聚焦或变焦用焦距)、或这些参数的组合等。isp控制参数可包括用于自动白平衡和颜色调整(例如,在rgb处理期间)的增益水平和色彩校正矩阵,以及第一透镜112阴影校正参数。

同样地,第二摄像头120采集的第二图像传输给第二isp处理器140进行处理,第二isp处理器140处理第一图像后,可将第二图像的统计数据(如图像的亮度、图像的反差值、图像的颜色等)发送给控制逻辑器150,控制逻辑器150可根据统计数据确定第二摄像头120的控制参数,从而第二摄像头120可根据控制参数进行自动对焦、自动曝光等操作。第二图像经过第二isp处理器140进行处理后可存储至图像存储器160中,第二isp处理器140也可以读取图像存储器160中存储的图像以对进行处理。另外,第二图像经过isp处理器140进行处理后可直接发送至显示器170进行显示,显示器170也可以读取图像存储器160中的图像以进行显示。第二摄像头120和第二isp处理器140也可以实现如第一摄像头110和第一isp处理器130所描述的处理过程。

在一个实施例中,第一摄像头110可为彩色摄像头,第二摄像头120可为tof(timeofflight,飞行时间)摄像头或结构光摄像头。tof摄像头可获取tof深度图,结构光摄像头可获取结构光深度图。第一摄像头110和第二摄像头120可均为彩色摄像头。通过两个彩色摄像头获取双目深度图。第一isp处理器130和第二isp处理器140可为同一isp处理器。

第一摄像头110和第二摄像头120拍摄同一场景分别得到可见光图和深度图,将可见光图和深度图发送给isp处理器。isp处理器可根据相机标定参数对可见光图和深度图进行配准,保持视野完全一致;然后再生成与可见光图对应的中心权重图,其中,该中心权重图所表示的权重值从中心到边缘逐渐减小;将可见光图和中心权重图输入到训练好的主体检测模型中,得到主体区域置信度图,再根据主体区域置信度图确定可见光图中的目标主体;也可将可见光图、深度图和中心权重图输入到训练好的主体检测模型中,得到主体区域置信度图,再根据主体区域置信度图确定可见光图中的目标主体。利用中心权重图可以让位于图像中心的对象更容易被检测,利用深度图可以让距离摄像头更近的对象容易被检测,提高了主体检测的准确性。

下面将通过实施例并结合附图具体地对本申请的技术方案以及本申请的技术方案如何解决上述技术问题进行详细说明。下面这几个具体的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例中不再赘述。需要说明的是,本申请提供的一种主体对焦方法,图2-图9的执行主体为带有摄像头的电子设备,其中,其执行主体还可以是主体对焦装置,其中该装置可以通过软件、硬件或者软硬件结合的方式实现成为电子设备的部分或者全部。

为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。

图2为一个实施例中主体对焦方法的流程图,如图2所示,提供一种主体对焦方法,可应用于图1中的电子设备中,包括:

s101,获取对焦视野中主体的主体姿态信息。

其中,对焦视野表示拍照或者录视频时,电子设备的屏幕上显示的视野画面。其中,主体表示对焦视野中的主要部分,如人、物体、植物、动物等。一般地对焦视野可能包括一个主体,也可能包括多个主体,每个主体的姿态信息尽不相同。其中,主体姿态信息可包括各主体肢体的位置信息等,本实施例对姿态信息不作限定。

具体的,以主体是人为例,电子设备获取对焦视野中所有人的人体姿态信息,可以是在电子设备开启相机后,按下拍照按钮/录像按钮之前,获取电子设备对焦视野中的所有人的人体姿态信息。

s102,根据主体姿态信息和预设的筛选规则,从对焦视野中确定出目标主体;筛选规则为根据姿态动作和/或运动程度确定的规则。

当电子设备检测到对焦视野中包括多个主体时,可以从多个主体中选择一个目标主体进行对焦。具体地,电子设备根据获取的各主体的姿态信息和预设的筛选规则,从多个主体中确定出目标主体。

其中,筛选规则是根据各主体的姿态动作或者是各主体的运动程度确定的规则,通常,姿态动作可根据姿态信息中各肢体的位置确定,例如,主体a的两支胳膊都打开,则主体a的姿态动作可以是张开双臂,又例如,主体b的两条腿之间为90角度,且其中一条腿与地面平行,则主体b的姿态动作为单腿翘起。基于主体的姿态动作,在定义姿态动作的筛选规则时,可以是以姿态动作的优先级来进行筛选,例如,张开双臂的优先级大于单腿翘起,则筛选时就选出张开双臂的主体a作为目标主体。

其中,运动程度可根据连续帧内主体肢体位置变化的幅度确定,即运动程度表示在连续帧内主体肢体位置变化的幅度值,变化幅度值越大,运动程度越剧烈,例如,在前一帧中主体a的胳膊和腿之间的夹角为30度,到下一帧时,主体a的胳膊和腿之间的夹角变化为150度,则连续两帧之间的角度变化幅值为120度,同时也确定了主体b连续两帧之间的角度变化幅值为90度,由于角度变化幅值表示运动程度值,角度变化幅值越大,表示运动程度越剧烈,所以主体a的运动程度大于主体b,在筛选时就将主体a作为目标主体。

当然,在该筛选规则时还可以根据其他信息设定,例如,可预先给不同类别的主体设置不同的权值,取多个主体中权重最高的主体作为目标主体,或者,也可以是检测到多个主体时,提醒用户选择其中一个特定主体作为目标主体。

s103,对目标主体进行追焦。

确定了目标主体后,拍照或视频时,以该目标主体作为对焦目标,持续对目标主体进行追焦。可选地,若从对焦视野中没有确定出目标主体,则根据对焦视野的中心区域进行主体对焦。

没有确定出目标主体表示对焦视野里所有人都没有鲜明的动作,例如,大家都端端正正站着拍照,这种情况下,根据对焦视野的中心区域进行主体对焦即可,无需针对某个主体进行专门对焦。

本实施例提供的主体对焦方法,从对焦视野中获取了各主体的姿态信息,通过主体姿态信息可预估各主体所做出的特殊姿态识别或者运动程度的识别,并基于预设的筛选规则,确定出目标主体,使得拍照或录视频时可以有效的对目标主体进行对焦,通过该方法自动对焦到目标主体的人身上,而非手动对焦,提高了对焦的灵活性和准确性,同时提升了使用的体验感。另外,该方法可以提升相机对焦功能对主体的姿态和运动捕获,使得对焦更智能化地理解人的行为,满足用户需求。

一般在拍照和录视频中均需使用到相机的对焦功能,对于拍照和录视频两种情况下从对焦视野中确定出目标主体,下面提供对应实施例进行具体说明。

在一个实施例中,上述筛选规则包括姿态动作规则和/或运动程度规则;姿态动作规则用于指示各姿态动作的优先级;运动程度规则用于指示各运动程度的优先级。

其中,姿态动作规则中包括了多个姿态动作的优先级,该姿态动作规则为拍照时确定目标主体的规则,而运动程度中包括各运动程度的优先级,用于录视频时确定目标主体的规则,运动程度与优先级之间的对应关系可根据实际情况而定,例如,可以对不同的运动程度评分,评分高的优先级高,当然也可以评分低的优先级高,本实施例对此不作限定。由于拍照捕捉属于静态画面,录视频属于捕捉动态画面,这样分两种规则确定对应情况下的目标主体,可以使目标主体的确定结果更加准确,确定方式更加灵活。

如图3所示,提供的一种实施例,该实施例为电子设备根据主体姿态信息和姿态动作规则,从对焦视野中确定出目标主体的过程,即拍照时确定对焦目标的过程。则s102步骤包括:

s201,根据主体姿态信息,确定对焦视野中各主体的姿态动作。

一开始已经获取了对焦视野中各主体的姿态信息,根据该主体的姿态信息,可确定出各主体的姿态动作。例如,通过对焦视野中各主体的肢体位置识别主体的特定姿势或者动作,如图3a所示,姿态动作包括双手手臂张开,单腿翘起来等。

s202,根据姿态动作规则,将各姿态动作中优先级最高的主体确定为目标主体。

姿态动作规则中包括了多个姿态动作的优先级,即不同的姿态动作对应不同的优先级,则本步骤中,根据姿态动作规则,筛选出优先级最高的姿态动作的主体作为目标主体,例如,若单腿翘起的优先级大于双手手臂张开的优先级,则可以确定图3a中,女舞蹈演员的为目标主体。

本实施例根据姿态动作规则,将优先级高的姿态动作的主体确定为目标主体,姿态动作规则可以是根据实际用户想法设定的规则,这样确定的目标主体比较贴近用户的需求,在多人场景的拍照过程中对该目标主体进行对焦,提高了对焦的准确性。

可选地,提供一种确定对焦视野中各主体的姿态动作的实施方式,如图4所示,该实施方式包括:

s301,根据主体姿态信息,获取各主体肢体之间的角度。

主体的姿态信息中包括各主体肢体的位置信息,这样就可以根据各主体肢体的位置信息确定出各主体肢体之间的角度。继续参考图3a,通过识别图中女舞蹈者和男舞蹈者的肢体的位置,可获得女舞蹈者和男舞蹈者的手臂、双腿与躯干的夹角。

s302,从预设的姿态动作信息表中,确定各主体肢体对应的姿态动作;姿态动作信息表中包括多个主体肢体之间的角度与姿态动作的对应关系。

根据获取的各主体肢体之前的角度,从姿态动作信息表中,确定各主体肢体对应的姿态动作。其中,姿态动作信息表为预先设定了多个主体肢体之间的角度与姿态动作的对应关系,各肢体之前的不同的角度组合后,可对应不同的姿态动作,例如图3a中,女舞蹈者的双腿之前的角度,双腿与躯干之间的角度,可确定出女舞蹈者此时的一只腿是翘起状态,即其对应的姿态动作为单腿翘起。

不同的角度值可定义不同的姿态动作,例如,男舞蹈者双臂张开的角度大于女舞蹈者双臂张开的角度,这种情况下,可根据角度的范围,设定双臂张开的角度大的姿态动作为双臂张开,双臂张开的角度大的姿态动作为双臂微张等。当然,姿态动作还可以结合全部肢体的角度确定特定姿态,例如金鸡独立、双手托举等,本实施例对姿态动作的设定不作限定。

本实施例中,对于不同的肢体之间的角度对应一种姿态动作,电子设备根据肢体角度确定姿态动作,提高了姿态动作确定的精确性,同时,在实际应用中,可根据不同的角度设定不同姿态动作的名称,使得应用时更加灵活、趣味,满足不同用户的需求。

如图5所示,提供的一种实施例,该实施例为电子设备根据主体姿态信息和运动程度规则,从对焦视野中确定出目标主体的过程,即录视频时确定对焦目标的过程。则s102步骤包括:

s401,根据主体姿态信息,获取连续n帧内对焦视野中各主体的运动程度。

获取连续n帧内各主体的运动程度,可根据各帧内主体的姿态信息的变化确定各主体肢体位置的变化幅度,变化幅度越大,表示运动程度就越大。

s401,根据运动程度规则,将各运动程度中优先级最高的主体确定为目标主体。

其中,运动程度规则中包括了多个运动程度的优先级,即不同的运动程度对应不同的优先级。

本步骤中,根据运动程度,将优先级最高运动程度对应的主体确定为目标主体。这样,根据运动程度规则,将优先级高的姿态动作的主体确定为目标主体,在多人场景的录视频过程中对该目标主体进行对焦,可以自动持续对焦用户需要的目标主体上,提高了用户体验。

在一个实施例中,提供一种确定对焦视野中各主体的运动程度的实施方式,如图6所示,该实施方式包括:

s501,根据主体姿态信息,获取连续n帧内各主体肢体关键点的角度变化量。

主体姿态信息中包括各主体肢体的位置信息,则可以确定出各主体肢体上的关键点,获取连续n帧内各关键点的角度变化量,例如,对多帧中的同一个人的姿态进行计算,获取两帧间(任意连续两帧间)同一个人的关键点角度变化量。

s502,从预设的运动程度信息表中,确定各主体肢体关键点的角度变化量对应的运动程度;运动程度信息表中包括多个主体肢体关键点的角度变化量与运动程度的对应关系。

根据主体肢体关键点的角度变化量,从运动程度信息表中,确定对应的运动程度。关键点的不同角度变化量对应不同的运动程度,运动程度是用数值量化表示,角度变化值越大,运动程度越高。

预先对运动程度信息表中设定多个主体肢体关键点的角度变化量与运动程度的对应关系,电子设备就可以从该信息表中获取到对焦视野中各主体的运动程度,保证了运动程度获取的准确性。

通常,用户在拍照应用和录视频应用中,对焦的目标主体都是人本身,上述根据姿态动作确定目标主体和根据运动程度确定目标主体两种方法,其涉及的优先级规则表和预设信息表都可根据用户需求进行设定,设定出符合需求的规则以确定出目标主体,这样在对焦过程,可以更加智能化地理解人的行为,从而提升用户使用趣味性。

在选定目标主体后,对目标主体进行持续追焦,但考虑到目标主体更换的场景,提供一种更换目标主体的实施例,在一个实施例中,若对焦视野中不存在目标主体,或者,目标主体的追焦持续时长达到预设时长,重新从对焦视野中确定出新的目标主体。

例如,录视频时挑选出运动程度最高优先级的主体进行追焦,追焦是指:一旦对焦上主体a,当出现主体a的运动程度优先级切换为非第一时,在接下来k帧内保持对主体a的对焦,然后看第k帧时主体a是否恢复第一位,若是,则继续对焦,若否再进行对焦切换。也可以设定一个预设时长,在预设时长内持续对主体a进行对焦,到达预设时长后,切换对焦目标;还可以是若主体a消失在对焦视野中,则进行对焦切换。

另外,上述获取对焦视野中各主体的主体姿态信息的过程,提供一种实施例,如图7所示,“获取对焦视野中各主体的主体姿态信息”的过程包括:

s601,检测对焦视野中各主体的骨骼关键信息。

电子设备从对焦视野中检测各主体的骨骼关键信息,以主体是人为例,可以利用目前效果比较好的深度学习的算法进行多人骨骼关键点检测,例如openpose或open_pifpaf等算法,得到如图7a所示的人体骨骼关键点信息。

s602,根据骨骼关键信息,确定各主体姿态信息。

本实施例中,根据该骨骼关键信息,确定出各主体姿态信息。例如,通过利用深度学习方法检测单人或多人的人体关键点信息,可以有效,准确的获取对焦视野中各主体的姿态信息。

示例地,以主体为人示例,提供一种拍照对应的主体对焦方法的实施例(可参见图8)和一种录视频对应的主体对焦方法的实施例(可参见图9),

其中,拍照对焦步骤包括:

s11,相机启动;

s12,从对焦视野中检测人体关键点;

s13,根据人体关键点输出n个人体姿态信息;

s14,根据人体姿态信息,进行人体姿态动作估计;

s15,是否存在姿态动作优先级最高的人体b;若是,执行s16,若否,执行s17;

本步骤中,若判断结果为不存在姿态动作优先级最高的人体,表示对焦视野中所有人的姿态动作优先级一致,例如所有人都保持一个姿势站着。

s16,相机正常进行对焦;

s17,对焦人体b,并开始追焦;

s18,对人体b进行追焦:k帧内持续对焦人体b;

s19,k帧后或者人体b消失后重新检测主体。

其中,录视频对焦步骤包括:

s21,相机启动;

s22,从对焦视野中检测人体关键点;

s23,根据人体关键点输出n个人体姿态信息;

s24,根据人体姿态信息,累计n帧计算人体运动程度,并进行优先级排序;

s25,是否存在运动程度优先级最高的人体b,若是,执行s26,若否,执行s27;

本步骤中,若判断结果为不存在运动程度优先级最高的人体,表示对焦视野中所有人的运动程度优先级一致,例如所有人都保持一个姿势站着。

s26,相机正常进行对焦;

s27,对焦人体b,并开始追焦;

s28,对人体b进行追焦:k帧内持续对焦人体b;

s29,k帧后或者人体b消失后重新检测主体。

上述图8和图9实施例中过程与前面实施例中涉及的过程一致,在此不再赘述。图8和图9实施例中结合人体骨骼估计来解决人像尤其在多人像的场景下,关注到发生特定运动的人,利用深度学习方法检测单人或多人的人体关键点信息,通过关键点信息预估人所做出的特殊姿态识别或者运动程度的识别,从而指导拍照或视频的对焦功能,提升相机对焦功能对人的姿态和运动捕获,使得对焦更智能化地理解人的行为,提升用户使用体验,

需要说明的是,在本方案一开始执行,获取对焦视野中各主体的姿态信息前,需要先从对焦视野中检测到各主体,在实际应用了,可通过主体检测模型进行检测。其中,主体检测模型是预先采集大量的训练数据,将训练数据输入到包含有初始网络权重的主体检测模型进行训练得到的。

应该理解的是,虽然图2-9的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,图2-9中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些子步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。

在一个实施例中,如图10所示,提供了一种主体对焦装置,该装置包括:获取模块10、确定模块11和追焦模块12,其中,

获取模块10,用于获取对焦视野中主体的主体姿态信息;

确定模块11,用于根据主体姿态信息和预设的筛选规则,从对焦视野中确定出目标主体;筛选规则为根据姿态动作和/或运动程度确定的规则;

追焦模块12,用于对目标主体进行追焦。

在一个实施例中,上述筛选规则包括姿态动作规则和/或运动程度规则;

姿态动作规则用于指示各姿态动作的优先级;

运动程度规则用于指示各运动程度的优先级。

在一个实施例中,如图11所示,提供了一种主体对焦装置,上述确定模块11包括:第一确定单元111和第二确定单元112,其中,

第一确定单元111,用于根据主体姿态信息,确定对焦视野中各主体的姿态动作;

第二确定单元112,用于根据姿态动作规则,将各姿态动作中优先级最高的主体确定为目标主体。

在一个实施例中,上述第一确定单元111,具体用于根据主体姿态信息,获取各主体肢体之间的角度;从预设的姿态动作信息表中,确定各主体肢体对应的姿态动作;姿态动作信息表中包括多个主体肢体之间的角度与姿态动作的对应关系。

在一个实施例中,上述第一确定单元111,还用于根据主体姿态信息,获取连续n帧内对焦视野中各主体的运动程度;

上述第二确定单元112,还用于根据运动程度规则,将各运动程度中优先级最高的主体确定为目标主体。

在一个实施例中,上述第一确定单元111,具体用于根据主体姿态信息,获取连续n帧内各主体肢体关键点的角度变化量;从预设的运动程度信息表中,确定各主体肢体关键点的角度变化量对应的运动程度;运动程度信息表中包括多个主体肢体关键点的角度变化量与运动程度的对应关系。

在一个实施例中,该装置包括检测模块,用于若对焦视野中不存在目标主体,或者,目标主体的追焦持续时长达到预设时长,重新从对焦视野中确定出新的目标主体。

在一个实施例中,如图12所示,提供了一种主体对焦装置,上述获取模块10包括:检测单元101和姿态单元102,

检测单元101,用于检测对焦视野中各主体的骨骼关键信息;

姿态单元102,用于根据骨骼关键信息,确定各主体姿态信息。

在一个实施例中,追焦模块12还用于若从对焦视野中没有确定出目标主体,则根据对焦视野的中心区域进行主体对焦。

上述所有主体对焦装置实施例,其实现原理和技术效果与上述主体对焦方法实施例类似,在此不再赘述。

关于主体对焦装置的具体限定可以参见上文中对于主体对焦方法的限定,在此不再赘述。上述主体对焦装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。

在一个实施例中,提供了一种计算机设备,该计算机设备可以是终端,其内部结构图可以如图13所示。该计算机设备包括通过系统总线连接的处理器、存储器、网络接口、显示屏和输入装置。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统和计算机程序。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种主体对焦方法。该计算机设备的显示屏可以是液晶显示屏或者电子墨水显示屏,该计算机设备的输入装置可以是显示屏上覆盖的触摸层,也可以是计算机设备外壳上设置的按键、轨迹球或触控板,还可以是外接的键盘、触控板或鼠标等。

本领域技术人员可以理解,图13中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。

在一个实施例中,提供了一种计算机设备,包括存储器和处理器,存储器中存储有计算机程序,该处理器执行计算机程序时实现以下步骤:

获取对焦视野中主体的主体姿态信息;

根据主体姿态信息和预设的筛选规则,从对焦视野中确定出目标主体;筛选规则为根据姿态动作和/或运动程度确定的规则;

对目标主体进行追焦。

上述实施例提供的一种计算机设备,其实现原理和技术效果与上述方法实施例类似,在此不再赘述。

在一个实施例中,提供了一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现以下步骤:

获取对焦视野中主体的主体姿态信息;

根据主体姿态信息和预设的筛选规则,从对焦视野中确定出目标主体;筛选规则为根据姿态动作和/或运动程度确定的规则;

对目标主体进行追焦。

上述实施例提供的一种计算机可读存储介质,其实现原理和技术效果与上述方法实施例类似,在此不再赘述。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(rom)、可编程rom(prom)、电可编程rom(eprom)、电可擦除可编程rom(eeprom)或闪存。易失性存储器可包括随机存取存储器(ram)或者外部高速缓冲存储器。作为说明而非局限,ram以多种形式可得,诸如静态ram(sram)、动态ram(dram)、同步dram(sdram)、双数据率sdram(ddrsdram)、增强型sdram(esdram)、同步链路(synchlink)dram(sldram)、存储器总线(rambus)直接ram(rdram)、直接存储器总线动态ram(drdram)、以及存储器总线动态ram(rdram)等。

以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。

以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请专利的保护范围应以所附权利要求为准。

当前第1页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1