一种设备控制方法、装置及电子设备与流程

文档序号:30184749发布日期:2022-05-26 17:55阅读:74来源:国知局
一种设备控制方法、装置及电子设备与流程

1.本发明涉及智能设备技术领域,尤其是涉及一种设备控制方法、装置及电子设备。


背景技术:

2.目前,随着智能电子设备的发展,智能电子设备的控制方式越来越灵活便捷,诸如,用户可以使用终端对全屋的智能家居家电进行控制,当用户在空间中对具体的智能家居家电设备进行控制时,需要先选中某个家居家电设备,再进行设备调节控制,目前的智能家居家电设备选中方式主要包括对语音方式唤醒及触摸唤醒,诸如当用户想要打开客厅的顶灯时,需要说出语音指令对语音设备进行唤醒及控制,但是,当需要在安静环境下静默操作时给用户带来不便;而触摸唤醒需要用户走到调节器能触达到的地方,通过手去触碰唤醒或者调节设备,当用户行动不便或者卫生防疫要求不允许物理触碰的情况下给用户带来不便,降低了用户体验。


技术实现要素:

3.基于此,有必要针对上述技术问题,提供一种能够实现对设备的静默选中操作,同时无需手动触摸选中唤醒设备,以提升用户唤醒设备便捷性的设备控制方法、装置及电子设备。
4.一种设备选中方法,所述方法包括:
5.对目标空间下采集的图像进行目标检测,得到所述图像中目标对象对应的关键点检测结果;基于所述关键点检测结果,确定所述目标对象对应的目标指向方向;若所述目标空间下存在与所述目标指向方向对应的目标设备,则将所述目标设备确定为所选中的待控制设备,以对所述待控制设备进行控制。
6.在其中一个实施例中,所述三维物体包围盒为平行六面体,所述检测所述目标指向方向所对应的射线,是否与各设备对应的三维物体包围盒存在交叉点的步骤,包括:判断所述目标指向方向所对应的射线是否与所述平行六面体彼此相交且不平行的三个平面存在交叉点,如果是,确定所述目标指向方向所对应的射线与所述三维物体包围盒存在交叉点。
7.一种设备控制装置,包括:
8.检测模块,用于对目标空间下采集的图像进行目标检测,得到所述图像中目标对象对应的关键点检测结果;第一确定模块,用于基于所述关键点检测结果,确定所述目标对象对应的目标指向方向;第二确定模块,用于若所述目标空间下存在与所述目标指向方向对应的目标设备,则将所述目标设备确定为所选中的待控制设备,以对所述待控制设备进行控制。
9.在其中一个实施例中,所述装置还包括第二检测模块,获取所述目标空间下各设备对应的空间位置信息;检测所述目标指向方向与各所述空间位置信息是否具有交集;所述第二确定模块还用于若所述目标空间下各设备对应的空间位置信息中,存在与所述目标
指向方向具有交集的目标空间位置信息,则将所述空间位置信息对应的所述目标设备确定为所选中的待控制设备,以对所述待控制设备进行控制。
10.在其中一个实施例中,各设备对应的空间位置信息包括各设备对应的三维物体包围盒;所述第二检测模块还用于获取所述目标指向方向所对应的射线,检测所述目标指向方向所对应的射线,是否与各设备对应的三维物体包围盒存在交点;若所述目标指向方向所对应的射线与任意一个所述三维物体包围盒存在交点,确定所述目标空间下存在设备的空间位置信息与所述目标指向方向具有交集。
11.在其中一个实施例中,所述目标空间下采集的图像包括深度图像;所述关键点检测结果包括目标对象的目标部位对应的至少两个关键点的深度信息;所述第一确定模块还用于基于所述深度图像的关键点检测结果进行三维姿态估计,得到所述目标对象的目标部位的三维关键点检测结果;获取所述三维的关键点检测结果中表征指向方向的任意两个关键点;根据所述表征指向方向的任意两个关键点,确定所述目标对象对应的目标指向方向。
12.在其中一个实施例中,所述目标空间中设置有至少一个摄像头,所述装置还包括计算模块,用于基于所述摄像头采集所述目标空间中各设备的图像;根据各所述设备的图像计算各所述设备对应的三维物体包围盒。
13.在其中一个实施例中,所述装置还包括控制模块,用于在确定出所选中的待控制设备后,对所述待控制设备进行唤醒处理;获取针对所述待控制设备的控制指令;将所述控制指令发送至所述待控制设备,以指示所述待控制设备执行所述控制指令。
14.在其中一个实施例中,所述控制模块还用于获取在目标时长内采集的包括所述目标对象的目标部位的目标图像;对所述目标图像进行动作识别,得到所述目标部位对应的目标动作;若所述目标动作与预设动作相匹配,则生成与相匹配的预设动作对应的控制指令。
15.在其中一个实施例中,所述三维物体包围盒为平行六面体,所述设备控制装置还包括:
16.判断模块,用于判断所述目标指向方向所对应的射线是否与所述平行六面体彼此相交且不平行的三个平面存在交叉点,如果是,确定所述目标指向方向所对应的射线与所述三维物体包围盒存在交叉点。
17.一种电子设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现以下步骤:
18.对目标空间下采集的图像进行目标检测,得到所述图像中目标对象对应的关键点检测结果;基于所述关键点检测结果,确定所述目标对象对应的目标指向方向;若所述目标空间下存在与所述目标指向方向对应的目标设备,则将所述目标设备确定为所选中的待控制设备,以对所述待控制设备进行控制。
19.一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现以下步骤:
20.对目标空间下采集的图像进行目标检测,得到所述图像中目标对象对应的关键点检测结果;基于所述关键点检测结果,确定所述目标对象对应的目标指向方向;若所述目标空间下存在与所述目标指向方向对应的目标设备,则将所述目标设备确定为所选中的待控制设备,以对所述待控制设备进行控制。
21.上述一种设备控制方法、装置及电子设备,通过根据目标空间中目标对象的关键点检测结果确定该目标对象的目标指向方向,并将该目标指向方向对应的目标设备设置为被选中的待控制设备,以便对该待控制设备进行控制,通过基于目标对象的肢体指向方向进行设备选中,实现了对家居设备的静默操作,同时无需手动触摸唤醒设备,提升了用户唤醒设备的便捷性,提升了用户体验。
22.本发明实施例的其他特征和优点将在随后的说明书中阐述,或者,部分特征和优点可以从说明书推知或毫无疑义地确定,或者通过实施本发明实施例的上述技术即可得知。
23.为使本发明的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
附图说明
24.为了更清楚地说明本发明具体实施方式或现有技术中的技术方案,下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施方式,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
25.图1为一个实施例中设备控制方法的应用环境图;
26.图2为一个实施例中设备控制方法的流程示意图;
27.图3为另一个实施例中设备控制方法的流程示意图;
28.图4为一个实施例中的家居设备选中示意图;
29.图5为一个实施例中的多摄像头布置示意图;
30.图6为一个实施例中设备控制装置的结构框图;
31.图7为一个实施例中计算机设备的内部结构图。
具体实施方式
32.为了使本技术的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本技术进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本技术,并不用于限定本技术。
33.请参照图1,为本技术实施例的一种应用环境示意图。其中,包括网关100、与网关100连接的图像采集设备(诸如摄像头)101和可控制设备(诸如智能家居家电设备)102、与网关100连接的服务器103以及与服务器103连接的智能交互终端104。其中,网关100可以为智能家居控制的智能网关,可以实现系统数据采集、数据传输、联动控制等功能。网关100还可以通过无线方式与服务器103和智能交互终端104等产品进行信息交互。图像采集设备101可以包括设置在目标空间下的摄像头等。网关100与图像采集设备101和可控制设备102,可以通过蓝牙、wifi(wireless-fidelity,无线保真)、zigbee(紫枫技术)等通信方式连接;智能交互终端104与服务器103可以通过广域网路径(诸如2g/3g/4g/5g/wifi)等通信方式连接;网关100和智能交互终端104还可以通过路由器105与服务器103进行无线通信,具体连接方式本技术实施例中不作限定。
34.服务器103可以是本地服务器、云服务器等服务器,具体的服务器类型在本技术实
施例中可以不作为限定。设置于不同位置的图像采集设备101以及网关100都可以通过网络与同一个服务器103进行通信连接。智能交互终端104可以包括个人电脑(personal computer,pc)、平板电脑、智能手机、个人数字助理(personal digital assistant,pda)、智能控制面板等,在此不做限定。
35.在一些实施例中,可以通过图像采集设备101采集目标空间下的图像,然后将采集的图像和活剥信号上传至网关100或服务器103,网关100或服务器103则分别对目标空间下采集的图像进行目标检测,得到图像中目标对象对应的关键点检测结果。然后基于该关键点检测结果,确定目标对象对应的目标指向方向,若目标空间下存在与目标指向方向对应的目标设备,则将目标设备确定为所选中的待控制设备,以对待控制设备进行控制,从而能够提升用户唤醒设备的便捷性,提升了用户体验。
36.在一个实施例中,如图2所示,提供了一种设备控制方法,本实施例以该方法应用于电子设备进行举例说明,该电子设备具体可以是图1中的网关或服务器。可以理解的是,该方法也可以应用于包括终端和服务器的系统,并通过终端和服务器的交互实现。本实施例中,该方法包括以下步骤:
37.步骤s202,对目标空间下采集的图像进行目标检测,得到图像中目标对象对应的关键点检测结果。
38.上述目标空间是指需要进行设备控制的各设备所处的空间;上述目标对象是指对图像进行目标检测时需要检测出来的对象,目标对象具体可以包括人体、人脸或其他能够产生目标指向方向的物体等。
39.上述目标对象的关键点检测结果,包括目标对象上能够产生目标指向方向的至少两个关键点坐标信息。当上述目标对象为人体时,上述目标对象的关键点检测结果可以包括上肢手肘、手腕和手掌、下肢的关节、脚部、头部和颈部等能够直观体现肢体指向的关键部位点。
40.在一个实施例中,可以采用图1中的图像采集设备采集目标空间下目标对象的图像,并将采集的图像传输至网关或服务器进行目标检测。网关1或服务器分别对目标空间下采集的图像进行目标检测,诸如可以包括人形检测和骨骼点检测,从而检测得到目标对象对应的关键点检测结果。
41.步骤s204,基于关键点检测结果,确定目标对象对应的目标指向方向。
42.上述目标对象对应的目标指向方向,可以是根据目标对象的关键点检测结果确定的目标对象所指向的方向。网关或服务器根据关键点检测结果中任意一个或多个关键点检测结果的位置坐标确定目标对象所指向的方向,记为目标指向方向。诸如,将目标对象的手指指向方向作为目标指向方向,或者,将任意两个关键点构成的向量的方向作为目标指向方向。
43.步骤s206,若目标空间下存在与目标指向方向对应的目标设备,则将目标设备确定为所选中的待控制设备,以对待控制设备进行控制。
44.网关或服务器根据目标指向方向上的射线与目标空间下各设备的位置关系判断是否存在某个设备位于目标指向方向上,将目标指向方向对应的设备记为目标设备。将该目标设备确定为上述目标对象在目标空间下选中的设备,即将被选中的目标设备作为待控制设备,以使待控制设备等待进一步的操作指令,便于用户对处于选中状态的待控制设备
进行进一步控制。
45.上述设备控制方法中,通过根据目标空间中目标对象的关键点检测结果确定该目标对象的目标指向方向,并将该目标指向方向对应的目标设备设置为被选中的待控制设备,以便对该待控制设备进行控制,通过基于目标对象的肢体指向方向进行设备选中,实现了对设备的静默选中操作,同时无需手动触摸唤醒设备,提升了用户唤醒设备的便捷性,提升了用户体验。
46.在一个实施例中,在上述步骤s206之前,还可以包括以下实施方式:获取目标空间下各设备对应的空间位置信息;检测目标指向方向与各空间位置信息是否具有交集。
47.基于图1中的图像采集设备采集目标空间中各设备的图像,该图像可以是深度图像,上述空间位置信息可以是指各设备在空间坐标系下的边缘或顶点的立体坐标构成的坐标集。网关或服务器根据采集到的设备的深度图像可以确定各设备在同一立体坐标系下的空间位置信息,判断上述目标指向方向上的射线在该立体坐标系下是否与各设备的空间位置信息存在坐标交集。
48.在一个实施例中,上述步骤s206可以包括以下具体实施方式:若目标空间下各设备对应的空间位置信息中,存在与目标指向方向具有交集的目标空间位置信息,则将空间位置信息对应的目标设备确定为所选中的待控制设备,以对待控制设备进行控制。
49.若网关或服务器检测到在各设备的空间位置信息中,存在与目标指向方向上的射线具有坐标交集的空间位置信息,将该空间位置信息标记为目标空间位置信息,将该目标空间位置信息所属的设备记为目标设备,该目标设备即为目标对象所选中的待控制设备。
50.在一个实施例中,上述各设备对应的空间位置信息包括各设备对应的三维物体包围盒;如图3所示,提供的一种设备控制方法包括以下步骤:
51.步骤s302,对目标空间下采集的图像进行目标检测,得到图像中目标对象对应的关键点检测结果。
52.步骤s304,基于关键点检测结果,确定目标对象对应的目标指向方向。
53.步骤s306,获取目标指向方向所对应的射线,检测目标指向方向所对应的射线,是否与各设备对应的三维物体包围盒存在交点。
54.上述目标指向方向是指目标对象的某一部位或肢体所指向的方向,上述目标指向方向所对应的射线是指沿目标对象的指向方向上所延伸出的射线。网关或服务器根据各图像采集设备的外参将目标指向方向所对应的射线及各设备对应的三维物体包围盒统一到同一空间坐标系下,并基于预设的交叉检测算法计算检测目标指向方向所对应的射线,是否与各设备对应的三维物体包围盒的各表面存在交点。
55.上述预设的交叉检测算法可以是ray-aabb(ray-axially aligned bounding box,射线与3d物体的碰撞检测算法),诸如可以是slabs method交叉检测算法。上述空间坐标系可以是2d空间坐标系,也可以是3d空间坐标系。在2d空间坐标系下基于预设的交叉检测算法检测指向向量在指向方向上发出的射线是否与各包围盒模型表面存在交点,在3d空间坐标系下基于预设的交叉检测算法检测指向向量在指向方向上的射线是否穿过立体的包围盒模型的各表面。
56.在一种具体的实施方式中,上述三维物体包围盒为平行六面体,上述目标指向方向可以是由目标对象的两个肢体关键点构成的向量,检测目标指向方向对应的向量的射线
是否与平行六面体的六个面中的任一面是否有交点,由于平行六面体每两个面都平行,只需要与平行六面体彼此相交且不平行的三个面计算交点。判断目标指向方向所对应的射线是否与平行六面体彼此相交且不平行的三个平面存在交叉点,如果是,确定目标指向方向所对应的射线与三维物体包围盒存在交叉点。
57.步骤s308,若目标指向方向所对应的射线与任意一个三维物体包围盒存在交点,确定目标空间下存在设备的空间位置信息与目标指向方向具有交集。
58.当网关或服务器判断出目标对象的目标指向方向与任意一个设备的三维物体包围盒存在交点时,确定目标指向方向对应的射线与存在交点的设备的空间位置信息存在交集,将与目标指向方向所对应的射线存在交点的三维物体包围盒对应的设备确定为目标对象选中的目标设备。
59.在一个实施例中,上述目标空间下采集的图像包括深度图像和彩色图像;上述关键点检测结果包括目标对象的目标部位对应的至少两个关键点的深度信息;基于关键点检测结果,确定目标对象对应的目标指向方向的具体实施方式包括:基于深度图像的关键点检测结果进行三维姿态估计,得到目标对象的目标部位的三维关键点检测结果;获取三维的关键点检测结果中表征指向方向的任意两个关键点;根据表征指向方向的任意两个关键点,确定目标对象对应的目标指向方向。
60.上述三维姿态估计是指对目标对象进行关键点检测,以得到目标对象的目标部位在三维空间中的3d关键点信息。上述目标部位为目标对象上能够明确表征其指向方向的任意位置,该目标部位可以是预先确定的,通预先确定目标部位,可以基于该目标部位的图像进行模型训练,并将训练后的模型存储在网关或服务器中,以使网关或服务器能够快速检测得到目标对象的目标部位的三维关键点检测结果。
61.上述图像采集设备采集包括深度摄像头和rgb(red green blue)摄像头,网关或服务器获取图像采集设备采集的深度图像和彩色图像,获取得目标对象的深度信息,采用深度学习方法对彩色图像和深度图像进行关键点检测,并基于各关键点的深度信息及摄像头的外参确定各关键点在三维空间中的位置信息。诸如当上述目标对象为人体时,网关或服务器对彩色图像和深度图像进行人形检测,并基于kinect骨骼获取算法对检测到的人形进行骨骼点检测,得到各图像下目标对象的各个关键点坐标,该关键点坐标可以包括手指坐标、手腕点坐标、手肘点坐标和手掌点坐标中的任意两个坐标点。
62.预先对上述深度摄像头和rgb摄像头进行相机标定获得相机外参,基于相机的外参将深度图像和彩色图像对应的骨骼点坐标统一到世界坐标系下,并将深度图像和彩色图像下同一骨骼点的骨骼点坐标进行坐标融合,即计算相同骨骼点之间的间距。然后进行加权计算(权重可以是用户输入的值)得到新的骨骼点坐标,各个新的骨骼点坐标即为目标对象的目标部位的三维关键点检测结果。
63.从上述目标对象的三维关键点检测结果中筛选出能够表征目标对象指向方向的任意两个相邻的关键点,将两个关键点中的其中一个关键点作为起点。另一个关键点作为终点建立指向向量,该指向向量的指向方向记为目标指向方向。通常情况下,若上述目标对象为人体,则向量的终点通常为人体边缘位置的关键点,诸如可以是手指、手掌、脚部或头部对应的关键点。
64.在一个实施例中,上述目标空间中设置有至少一个摄像头,本实施例提供的设备
控制方法还包括:基于摄像头采集目标空间中各设备的图像;根据各设备的图像计算各设备对应的三维物体包围盒。
65.上述摄像头为深度摄像头,上述三维物体包围盒为目标空间中的各设备对应的三维立体模型,且各设备的三维物体包围盒的相对位置及大小与目标空间下各设备的相对摆放位置及尺寸相对应。上述各设备的三维物体包围盒可以是预先建立的,也可以是在检测目标对象的关键点时实时建立的。
66.当上述目标空间中设置一个摄像头时,网关或服务器获取摄像头采集的深度图像,基于该深度图像中各设备图像的位置及深度信息确定各设备在世界坐标系下的三维物体包围盒的各顶点坐标或边缘线函数。
67.当上述目标空间中设置多个摄像头时,将各摄像头安装至目标空间中后需要进行相机标定,相机标定的目的是统一坐标。将其中一个目标摄像头依次与其他摄像头进行相机标定,以便在采集到图像时,基于相机标定矩阵将其他摄像头采集的图像中的特征点坐标均转换至目标摄像头对应的立体坐标系中,从而将各相机采集的图像中的特征点或关键点统一到一个世界坐标系中。
68.当目标空间中包括多个设备时,上述网关或服务器中存储有各个三维物体包围盒与真实设备之间的绑定关系,即当目标对象指向其中一个三维物体包围盒时,即确定用户指向了该三维物体包围盒对应的真实目标设备。
69.在一个实施例中,本实施例提供的设备控制方法还包括以下步骤(1)~步骤(3):
70.步骤(1):在确定出所选中的待控制设备后,对待控制设备进行唤醒处理。
71.上述待控制设备为在目标空间下被目标对象所选中的目标设备,目标设备处于被选中状态时,网关或服务器将其作为待控制设备并对其进行唤醒处理。该唤醒处理可以包括网关或服务向待控制设备发送开机指令或待机指令,以使目标设备处于待控制状态。
72.步骤(2):获取针对待控制设备的控制指令。
73.上述控制指令为目标对象对目标设备发出的控制命令,该控制指令的获取方式可以是网关或服务器从终端发送的信息中获取到的,也可以是基于摄像头采集目标对象的图像并检测目标对象的控制动作得到的。
74.在一种具体的实施方式中,获取在目标时长内采集的包括目标对象的目标部位的目标图像;对目标图像进行动作识别,得到目标部位对应的目标动作;若目标动作与预设动作相匹配,则生成与相匹配的预设动作对应的控制指令。
75.当确定出所选中的待控制设备后,实时采集目标对象的目标部位的图像,记为目标图像,网关或服务器中存储有基于预设动作样本训练得到的神经网络模型以及各控制指令对应的预设动作。网关或服务器基于预先训练得到的神经网络模型对目标图像进行动作识别,识别得到目标对象当前的目标动作,从存储的控制指令与预设动作关系数据库中确定该目标动作所对应的控制指令,即为目标对象向待控制设备发出的控制指令。
76.步骤(3):将控制指令发送至待控制设备,以指示待控制设备执行控制指令。
77.网关或服务器将目标对象向待控制设备发出的控制指令发送至待控制设备,待控制设备执行该控制指令,以实现对目标设备进行控制。
78.在一个实施例中,上述目标空间中设置有一个摄像头时,该摄像头在所述空间中的位置应当满足:摄像头能够拍摄到设备的n个面,以使得基于n个面能够计算得出设备的
三维物体包围盒;其中,n为大于1的整数(即n大于等于2)。
79.在一个实施例中,上述目标空间中设置有多个摄像头时,多个摄像头在空间中的位置应当满足:多个摄像头能够拍摄到设备的m个面,以使得基于m个面能够计算得出设备的三维物体包围盒;并且基于多个摄像头能够获取目标对象的关键点检测结果,以基于关键点检测结果确定目标对象的目标指向方向,其中,m为大于1的整数。
80.上述设备控制方法,通过手势指向设备即可对设备进行选中,然后可以通过手势或者语音等方式对该设备调节控制,解决了空间与特定设备交互选定问题。
81.本技术还提供了一种应用场景,上述设备控制方法在该应用场景的应用如下:将上述设备控制方法应用于对室内智能家居设备的控制,在室内设置一个或多个摄像头采集智能家居设备及目标对象的深度图像,并将采集的深度图像实时传输至网关或服务器。网关或服务器对采集的目标对象的深度图像进行目标检测,得到图像中目标对象的关键点检测结果,根据目标对象的关键点检测结果确定目标对象的目标指向方向,将目标指向方向对应的智能家居设备确定为选中状态的待控制家居设备。上述目标对象为能够对设备进行指向选中及动作控制的人体或物体(诸如可以是机器人)。
82.具体的,当上述目标对象为人体时,网关或服务器采用深度学习方法对深度图像进行人形检测,并基于kinect骨骼获取算法对检测到的人形进行骨骼点检测,得到空间坐标系下人体的多个肢体关键点坐标。该肢体关键点坐标可以包括手腕点坐标、手肘点坐标和手掌点坐标中的任意两个坐标点。
83.基于手腕点坐标、手肘点坐标和手掌点坐标中的任意两个坐标点确定人体的肢体指向向量。将手腕点坐标、手肘点坐标和手掌点坐标中的任意两个坐标点作为起始点得到人体的肢体指向向量,该肢体指向向量所指向的方向即为人体的目标指向方向。在实际应用中,一般将人体的末端位置设置为指向方向,与末端位置相连的关键点作为起始位置,从起始位置指向末端位置的向量即为人体的目标指向方向。
84.网关或服务器通过人体的目标指向方向确定人体所选中的智能家居设备。网关或服务器获取家居设备在空间坐标系下包围盒模型;基于预设的交叉检测算法检测目标指向方向上的射线与各包围盒模型的表面是否发生交叉。将与肢体指向向量的射线发生交叉的包围盒模型对应的家居设备设置为选中状态。
85.参见如图4所示的家居设备选中示意图,当肢体指向向量所指向方向的射线与包围盒模型发生交叉时,将该家居设备设置为选中状态,处于选中状态的家居设备为待控制设备。
86.当网关或服务器确定被选中的待控制设备后,基于摄像头采集的人体图像检测用户手势,基于用户手势确定控制指令,网关或服务器将确定的控制指令发送至智能家居设备,以实现对智能家居设备的手势选中及手势控制。诸如,当用户手势为手掌状态时,确定控制指令为开机指令,当用户手势为握拳状态时,确定控制指令为关机指令;或者,当用户手势为手掌状态时,确定控制指令为关机指令,当用户手势为握拳状态时,确定控制指令为开机指令。
87.在一种具体的实施方式中,当家居设备为顶灯时,当用户手势为向第一方向滑动时,确定控制指令为增大亮度指令;当用户手势为向第二方向滑动时,确定控制指令为减小亮度指令;当用户手势为向第三方向旋转时,确定控制指令为增大色温指令;当用户手势为
向第四方向旋转时,确定控制指令为减小色温指令。当家居设备为窗帘时,该控制指令可以为跟随用户的手部滑动方向而滑动。
88.为了提升手势控制设备的准确性,需要对室内摄像头的安装点位进行布置,保证摄像头所采集的图像能够满足人体骨骼点检测及设备检测。在一种具体的实施方式中,可以采取交叉方式安装摄像头,保证大视野、避免多使用硬件设备和不必要的遮挡,参见如图5所示的多摄像头布置示意图,图5中示出了在多个家居设备(图5中的圆形)的空间中设置6个摄像头(6个边缘处的矩形)的布置示例,将多个摄像头分别设置于空间中的对立侧壁上,以便可以交叉拍摄到空间中的所有家居设备。
89.应该理解的是,虽然图2-3的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,图2-3中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些子步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
90.在一个实施例中,如图6所示,提供了一种设备控制装置,包括:
91.检测模块61,用于对目标空间下采集的图像进行目标检测,得到图像中目标对象对应的关键点检测结果。
92.第一确定模块62,用于基于关键点检测结果,确定目标对象对应的目标指向方向。
93.第二确定模块63,用于若目标空间下存在与目标指向方向对应的目标设备,则将目标设备确定为所选中的待控制设备,以对待控制设备进行控制。
94.上述设备控制装置中,通过根据目标空间中目标对象的关键点检测结果确定该目标对象的目标指向方向,并将该目标指向方向对应的目标设备设置为被选中的待控制设备,以便对该待控制设备进行控制,通过基于目标对象的肢体指向方向进行设备选中,实现了对设备的静默选中操作,同时无需手动触摸唤醒设备,提升了用户唤醒设备的便捷性,提升了用户体验。
95.在一个实施例中,装置还包括:
96.第二检测模块,用于获取目标空间下各设备对应的空间位置信息;检测目标指向方向与各空间位置信息是否具有交集。
97.在一个实施例中,第二确定模块63,进一步用于在目标空间下各设备对应的空间位置信息中,存在与目标指向方向具有交集的目标空间位置信息时,则将空间位置信息对应的目标设备确定为所选中的待控制设备,以对待控制设备进行控制。
98.在一个实施例中,上述各设备对应的空间位置信息包括各设备对应的三维物体包围盒;上述第二检测模块,进一步用于获取目标指向方向所对应的射线,检测目标指向方向所对应的射线,是否与各设备对应的三维物体包围盒存在交点;若目标指向方向所对应的射线与任意一个三维物体包围盒存在交点,确定目标空间下存在设备的空间位置信息与目标指向方向具有交集。
99.在一个实施例中,目标空间下采集的图像包括深度图像;上述关键点检测结果包括目标对象的目标部位对应的至少两个关键点的深度信息;上述第一确定模块62,进一步
用于基于深度图像的关键点检测结果进行三维姿态估计,得到目标对象的目标部位的三维关键点检测结果;获取三维的关键点检测结果中表征指向方向的任意两个关键点;根据表征指向方向的任意两个关键点,确定目标对象对应的目标指向方向。
100.在一个实施例中,上述目标空间中设置有至少一个摄像头,上述装置还包括:
101.计算模块,用于基于摄像头采集目标空间中各设备的图像;根据各设备的图像计算各设备对应的三维物体包围盒。
102.控制模块,用于在确定出所选中的待控制设备后,对待控制设备进行唤醒处理;获取针对待控制设备的控制指令;将控制指令发送至待控制设备,以指示待控制设备执行控制指令。
103.在一个实施例中,上述控制模块,进一步用于获取在目标时长内采集的包括目标对象的目标部位的目标图像;对目标图像进行动作识别,得到目标部位对应的目标动作;若目标动作与预设动作相匹配,则生成与相匹配的预设动作对应的控制指令。
104.关于设备控制装置的具体限定可以参见上文中对于设备控制方法的限定,在此不再赘述。上述设备控制装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
105.在一个实施例中,提供了一种计算机设备,该计算机设备可以是电子设备,其内部结构图可以如图7所示。该计算机设备包括通过系统总线连接的处理器、存储器、网络接口和数据库。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统、计算机程序和数据库。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的数据库用于存储家居设备与包围盒模型的对应关系数据。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种设备控制方法。
106.本领域技术人员可以理解,图7中示出的结构,仅仅是与本技术方案相关的部分结构的框图,并不构成对本技术方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
107.在一个实施例中,提供了一种电子设备,包括存储器和处理器,存储器中存储有计算机程序,该处理器执行计算机程序时实现以下步骤:
108.对目标空间下采集的图像进行目标检测,得到图像中目标对象对应的关键点检测结果;基于关键点检测结果,确定目标对象对应的目标指向方向;若目标空间下存在与目标指向方向对应的目标设备,则将目标设备确定为所选中的待控制设备,以对待控制设备进行控制。
109.在一个实施例中,处理器执行计算机程序时还实现以下步骤:
110.获取目标空间下各设备对应的空间位置信息;检测目标指向方向与各空间位置信息是否具有交集。
111.在目标空间下各设备对应的空间位置信息中,存在与目标指向方向具有交集的目标空间位置信息时,则将空间位置信息对应的目标设备确定为所选中的待控制设备,以对待控制设备进行控制。
112.在一个实施例中,各设备对应的空间位置信息包括各设备对应的三维物体包围盒;处理器执行计算机程序时还实现以下步骤:
113.获取目标指向方向所对应的射线,检测目标指向方向所对应的射线,是否与各设备对应的三维物体包围盒存在交点;若目标指向方向所对应的射线与任意一个三维物体包围盒存在交点,确定目标空间下存在设备的空间位置信息与目标指向方向具有交集。
114.在一个实施例中,目标空间下采集的图像包括深度图像;上述关键点检测结果包括目标对象的目标部位对应的至少两个关键点的深度信息;处理器执行计算机程序时还实现以下步骤:
115.基于深度图像的关键点检测结果进行三维姿态估计,得到目标对象的目标部位的三维关键点检测结果;获取三维的关键点检测结果中表征指向方向的任意两个关键点;根据表征指向方向的任意两个关键点,确定目标对象对应的目标指向方向。
116.在一个实施例中,目标空间中设置有至少一个摄像头,处理器执行计算机程序时还实现以下步骤:
117.基于摄像头采集目标空间中各设备的图像;根据各设备的图像计算各设备对应的三维物体包围盒。
118.在一个实施例中,处理器执行计算机程序时还实现以下步骤:
119.在确定出所选中的待控制设备后,对待控制设备进行唤醒处理;获取针对待控制设备的控制指令;将控制指令发送至待控制设备,以指示待控制设备执行控制指令。
120.在一个实施例中,处理器执行计算机程序时还实现以下步骤:
121.获取在目标时长内采集的包括目标对象的目标部位的目标图像;对目标图像进行动作识别,得到目标部位对应的目标动作;若目标动作与预设动作相匹配,则生成与相匹配的预设动作对应的控制指令。
122.在一个实施例中,提供了一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现以下步骤:
123.对目标空间下采集的图像进行目标检测,得到图像中目标对象对应的关键点检测结果;基于关键点检测结果,确定目标对象对应的目标指向方向;若目标空间下存在与目标指向方向对应的目标设备,则将目标设备确定为所选中的待控制设备,以对待控制设备进行控制。
124.在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
125.获取目标空间下各设备对应的空间位置信息;检测目标指向方向与各空间位置信息是否具有交集。
126.在目标空间下各设备对应的空间位置信息中,存在与目标指向方向具有交集的目标空间位置信息时,则将空间位置信息对应的目标设备确定为所选中的待控制设备,以对待控制设备进行控制。
127.在一个实施例中,各设备对应的空间位置信息包括各设备对应的三维物体包围盒;计算机程序被处理器执行时还实现以下步骤:
128.获取目标指向方向所对应的射线,检测目标指向方向所对应的射线,是否与各设备对应的三维物体包围盒存在交点;若目标指向方向所对应的射线与任意一个三维物体包围盒存在交点,确定目标空间下存在设备的空间位置信息与目标指向方向具有交集。
129.在一个实施例中,,目标空间下采集的图像包括深度图像;上述关键点检测结果包括目标对象的目标部位对应的至少两个关键点的深度信息;计算机程序被处理器执行时实现以下步骤:
130.基于深度图像的关键点检测结果进行三维姿态估计,得到目标对象的目标部位的三维关键点检测结果;获取三维的关键点检测结果中表征指向方向的任意两个关键点;根据表征指向方向的任意两个关键点,确定目标对象对应的目标指向方向。
131.在一个实施例中,目标空间中设置有至少一个摄像头,计算机程序被处理器执行时实现以下步骤:
132.基于摄像头采集目标空间中各设备的图像;根据各设备的图像计算各设备对应的三维物体包围盒。
133.在一个实施例中,计算机程序被处理器执行时实现以下步骤:
134.在确定出所选中的待控制设备后,对待控制设备进行唤醒处理;获取针对待控制设备的控制指令;将控制指令发送至待控制设备,以指示待控制设备执行控制指令。
135.在一个实施例中,计算机程序被处理器执行时实现以下步骤:
136.在确定出所选中的待控制设备后,对待控制设备进行唤醒处理;获取针对待控制设备的控制指令;将控制指令发送至待控制设备,以指示待控制设备执行控制指令。
137.在一个实施例中,计算机程序被处理器执行时实现以下步骤:
138.获取在目标时长内采集的包括目标对象的目标部位的目标图像;对目标图像进行动作识别,得到目标部位对应的目标动作;若目标动作与预设动作相匹配,则生成与相匹配的预设动作对应的控制指令。
139.本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本技术所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(rom)、可编程rom(prom)、电可编程rom(eprom)、电可擦除可编程rom(eeprom)或闪存。易失性存储器可包括随机存取存储器(ram)或者外部高速缓冲存储器。作为说明而非局限,ram以多种形式可得,诸如静态ram(sram)、动态ram(dram)、同步dram(sdram)、双数据率sdram(ddrsdram)、增强型sdram(esdram)、同步链路(synchlink)dram(sldram)、存储器总线(rambus)直接ram(rdram)、直接存储器总线动态ram(drdram)、以及存储器总线动态ram(rdram)等。
140.以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
141.以上所述实施例仅表达了本技术的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本技术构思的前提下,还可以做出若干变形和改进,这些都属于本技术的保护范围。因此,本技术专利的保护范围应以所附权利要求为准。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1