一种人员身份信息确定方法、系统、设备和存储介质与流程

文档序号:14154989阅读:180来源:国知局

本发明实施例涉及协作机器人技术领域,尤其涉及一种人员身份信息确定方法、系统、设备和存储介质。



背景技术:

协作机器人由于需要和操作人员一同完成任务,其安全性一直是机器人制造企业需要首要应对的技术难题。特别是针对应用大量协作机器人的产线,协作机器人和操作人员掺杂一起,协同工作,每位操作人员负责一台或几台协作机器人,然后整个产线包括多位操作人员一同工作。这就可能出现操作人员错误进入不属于自己负责的操作区的情况,容易产生危险。这种危险,严重情况下可能触发协作机器人的碰撞监测,虽然不会使操作人员有生命危险,但是会使该台协作机器人停止工作,从而使整个生产线的生产效率下降。

针对上述问题,现有技术通过固定安装在隔离栅栏上的摄像头采集进入操作区的人员的人脸图像,然后根据对人脸图像的识别结果进行相应的操作。

发明人发现现有技术在实际使用过程中存在着诸多的缺陷,比如固定安装在隔离栅栏上的摄像头在采集时,很难采集到人员的正脸图像,又因为非正脸图像的识别精度低,从而导致产生不能对进入操作区的人员的身份信息进行准确识别和确定的问题。同时,在距离人员较远时,摄像头拍摄到的图像中人员的人脸图像的像素相对较低,存在不能准确地从采集的图像中定位出人员的人脸图像的情况。



技术实现要素:

本发明提供一种人员身份信息确定方法、系统、设备和存储介质,以实现对进入操作区的人员的身份进行准确识别和确定。

为达到此目的,本发明采用以下技术方案:

第一方面,本发明实施例提供了一种人员身份信息确定方法,所述方法包括:

通过雷达获取进入操作区的人员的运动信息和当前位置;

根据所述运动信息和当前位置,确定图像采集位置和采集角度;

将相机移动至所述图像采集位置和采集角度,并按照预设采集规则,采集所述人员的正脸图像;

根据所述正脸图像,确定所述人员的身份信息。

第二方面,本发明实施例提供了一种人员身份信息确定系统,所述系统包括:

信息获取模块,用于通过雷达获取进入操作区的人员的运动信息和当前位置;

采集确定模块,用于根据所述运动信息和当前位置,确定图像采集位置和采集角度;

图像采集模块,用于将相机移动至所述图像采集位置和采集角度,并按照预设采集规则,采集所述人员的正脸图像;

身份确定模块,用于根据所述正脸图像,确定所述人员的身份信息。

第三方面,本发明实施例提供了一种设备,包括:

一个或多个处理器;

存储装置,用于存储一个或多个程序,

雷达,用于采集进入操作区的人员的运动信息和当前位置;

相机,用于按照预设采集规则,采集所述人员的正脸图像;

当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如本发明实施例中任一所述的人员身份信息确定方法。

第四方面,本发明实施例提供了一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如本发明实施例中任一所述的人员身份信息确定方法。

在本发明实施例的技术方案中,采取先通过雷达获取人员的运动信息和当前位置,能够准确地确定图像采集位置和采集角度,再通过将相机移动至已确定的图像采集位置和采集角度,能够保证采集到的是人员的正脸图像,有效地避免了非正脸图像采集造成的识别精度下降的问题,相对于传统的人员身份确定方式,能够应对人员从不同方向进入操作区的情况,保证高准确率的图像采集和高精度的图像识别,不仅增强了协作机器人产线的可靠性,保障了操作人员的安全,还减小了产线效率下降的风险。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。

图1是本发明实施例一提供的人员身份信息确定方法的流程示意图;

图2是本发明实施例二提供的人员身份信息确定方法的流程示意图;

图3是本发明实施例三提供的人员身份信息确定方法的流程示意图;

图4是本发明实施例四提供的人员身份信息确定方法的流程示意图;

图5是本发明实施例五提供的人员身份信息确定方法的流程示意图;

图6是本发明实施例六提供的人员身份信息确定方法的流程示意图;

图7-10是本发明实施例七提供的人员身份信息确定系统的结构示意图;

图11是本发明实施例八提供的计算机设备的结构示意图。

具体实施方式

下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释本发明,而非对本发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与本发明相关的部分而非全部结构。

实施例一

图1是本发明实施例一提供的人员身份信息确定方法的流程示意图,该方法适用于对进入协作机器人操作区的人员的身份进行识别和确定的场景,该方法由人员身份信息确定系统来执行,该系统可以由软件和/或硬件实现,集成于协作机器人的内部。该方法具体包括如下步骤:

S101、通过雷达获取进入操作区的人员的运动信息和当前位置。

需要说明的是,操作区被划分为记录区、识别区和隔离区三个区域,人员进入操作区时,需要依次通过记录区、识别区和隔离区。系统通过雷达对人员运动信息和当前位置的监测,是从该人员进入记录区的那一刻便开始执行的。

在一种实施方式中,优选的,雷达选取为毫米波雷达。工作时,毫米波雷达进入高精度距离监测模式,其测距范围为0-10米,角视场为160度,角分辨率为15度,最大监测物体速度为30Km/h。毫米波雷达被设定为可以同时监测多组物体,也即进入操作区的所有人员都能够被监测到。

S102、根据所述运动信息和当前位置,确定图像采集位置和采集角度。

需要说明的是,图像采集位置和采集角度的确定是为了能够采集到进入操作区的人员的正脸图像,通过根据该人员的运动信息和当前位置,可以解决图像采集过程中人员的姿态对图像采集造成的影响,正脸图像可以提高识别的准确性。

S103、将相机移动至所述图像采集位置和采集角度,并按照预设采集规则,采集所述人员的正脸图像。

需要说明的是,相机在采集该人员的正脸图像时,需要遵循预设的采集规则,该采集规则包括了相机在采集图像时的各项条件或参数,而采集规则的建立是为了使采集到的正脸图像在后续人员身份识别过程中,能够提高识别的精确度。

S104、根据所述正脸图像,确定所述人员的身份信息。

具体的,将采集到的正脸图像与系统数据库中预先采集的每个操作人员的正脸图像进行匹配,可以确定该人员的身份信息。

在本发明实施例的技术方案中,采取先通过雷达获取人员的运动信息和当前位置,能够准确地确定图像采集位置和采集角度,再通过将相机移动至已确定的图像采集位置和采集角度,能够保证采集到的是人员的正脸图像,有效地避免了非正脸图像采集造成的识别精度下降的问题,相对于传统的人员身份确定方式,能够应对人员从不同方向进入操作区的情况,保证高准确率的图像采集和高精度的图像识别,不仅增强了协作机器人产线的可靠性,保障了操作人员的安全,还减小了产线效率下降的风险。

实施例二

图2是本发明实施例二提供的一种人员身份信息确定方法的流程示意图,本实施例在实施例一的基础上,在通过雷达获取进入操作区的人员的运动信息和当前位置之前,对该方法做出优化。与上述各实施例相同或相应的术语的解释在此不再赘述,具体的,请参考图2,该方法包括:

S201、当监测到有人员进入操作区时,核实所述操作区是否已经有操作人员。

需要说明的是,协作机器人是由预先设定的一位操作人员负责的,即只有该负责的操作人员有操作权限使用该台协作机器人,当监测到有人员进入操作区时,识别该人员的身份信息可用于验证其是否具有该台机器人的操作权限。假设一种情况,在监测到有人员进入操作区,正要对其的身份信息进行识别和验证时,如果操作区内已经有通过身份验证的操作人员,那么可以直接得出结果,正进入的该人员很显然不是负责该协作机器人的操作人员,再对其执行身份信息的识别和验证是没必要的,因此,出于这种考虑,本发明实施例在监测到有人员进入操作区时,在对该人员的身份信息进行识别和验证之前,先核实一下操作区是否已经有通过身份验证的操作人员。

进一步需要说明的是,系统对人员的监测从该人员进入记录区便开始,但对该人员的身份信息的识别和验证过程则是在该人员进入识别区之后才开始的。操作人员工作在隔离区。

具体的,当监测到有人员进入识别区时,核实隔离区是否已经有操作人员。

S202、若是,则开启警戒模式。

具体的,在核实隔离区已经有操作人员的情况下,一旦监测到有其他人员进入了识别区,则系统自动开启警戒模式。

在警戒模式下,系统将直接播放“请退后”之类具有警示性语言的语音,以提醒该人员,其正错误地进入了别人的操作区,同时也提醒在隔离区的操作人员,有人进入了其所负责的操作区。整个过程,协作机器人会继续正常作业,当且仅当该人员继续进入隔离区时,由于该人员已经处于机械臂的运动空间中,为了防止生产安全意外的发生,协作机器人会制动,停止作业。直到闯入的人员离开隔离区,系统才允许协作机器人恢复运动。

S203、若否,则通过雷达获取进入操作区的人员的运动信息和当前位置。

具体的,在核实隔离区没有操作人员的情况下,一旦监测到有其他人员进入了识别区,则通过雷达获取进入操作区的人员的运动信息和当前位置。

S204、根据所述运动信息和当前位置,确定图像采集位置和采集角度。

S205、将相机移动至所述图像采集位置和采集角度,并按照预设采集规则,采集所述人员的正脸图像。

S206、根据所述正脸图像,确定所述人员的身份信息。

在本发明实施例的技术方案中,在监测到有人员进入操作区并核实该操作区没有操作人员时,采取先通过雷达获取人员的运动信息和当前位置,能够准确地确定图像采集位置和采集角度,再通过将相机移动至已确定的图像采集位置和采集角度,能够保证采集到的是人员的正脸图像,有效地避免了非正脸图像采集造成的识别精度下降的问题,相对于传统的人员身份确定方式,能够应对人员从不同方向进入操作区的情况,保证高准确率的图像采集和高精度的图像识别,不仅增强了协作机器人产线的可靠性,保障了操作人员的安全,还减小了产线效率下降的风险。

实施例三

如图3所示,本发明实施例三提供的人员身份信息确定方法,是在实施例一提供的技术方案的基础上,对步骤S102“根据所述运动信息和当前位置,确定图像采集位置和采集角度”的进一步优化。与上述各实施例相同或相应的术语的解释在此不再赘述。即:

S301、通过雷达获取进入操作区的人员的运动信息和当前位置。

S302、根据所述运动信息中的运动速度、所述当前位置和预设相机移动速度,确定图像采集位置。

需要说明的是,图像采集位置是指相机能采集到人员图像的最佳采集位置,一般认为与该人员的前进方向在同一直线方向的位置为最佳采集位置,此位置上,相机正对着该人员。

在一种实施例中,为了防止相机还没移动到图像采集位置,而该人员已经从识别区进入到隔离区的情况发生,预设相机移动速度一般需要设定为大于正常人的步行速度,以实现人员仍在识别区时,相机已移动就位。预设相机移动速度具体设定数值视实际情况而定。

示例性的,运动信息中的运动速度和预设相机移动速度之间有相对速度,将人员从当前位置继续前进的前进方向所在的直线和相机移动方向所在的直线的交叉点设定为图像采集位置。

S303、根据对所述运动信息中运动轨迹的分析,确定所述人员的人脸朝向。

需要说明的是,运动轨迹是指该人员从当前位置开始移动,直至相机移动到图像采集位置为止,该人员在这段时间内所经过的路线组成的动作空间特征。由于人在行进过程中,人脸的朝向一般与前进方向是一致的,通过分析该人员的运动轨迹,得知该人员的行进路线和前向方向后,可以确定该人员的人脸朝向。

S304、根据所述人脸朝向,确定所述采集角度。

为了保证相机采集到的图像是该人员的正脸图像,则相机在采集图像时,需要根据该人员的人脸朝向调整采集角度,使得相机能够正对着人脸。

S305、将相机移动至所述图像采集位置和采集角度,并按照预设采集规则,采集所述人员的正脸图像。

S306、根据所述正脸图像,确定所述人员的身份信息。

在本发明实施例的技术方案中,采取先通过雷达获取人员的运动信息和当前位置,根据运动信息中的运动速度、当前位置和预设相机移动速度,能够准确地确定图像采集位置,根据对所述运动信息中运动轨迹的分析,能够准确地确定采集角度,再通过将相机移动至已确定的图像采集位置和采集角度,能够保证采集到的是人员的正脸图像,有效地避免了非正脸图像采集造成的识别精度下降的问题,相对于传统的人员身份确定方式,能够应对人员从不同方向进入操作区的情况,保证高准确率的图像采集和高精度的图像识别,不仅增强了协作机器人产线的可靠性,保障了操作人员的安全,还减小了产线效率下降的风险。

实施例四

如图4所示,本发明实施例四提供的人员身份信息确定方法,是在实施例一提供的技术方案的基础上,对步骤S103“按照预设采集规则,采集所述人员的正脸图像”的进一步优化。与上述各实施例相同或相应的术语的解释在此不再赘述。即:

S401、通过雷达获取进入操作区的人员的运动信息和当前位置。

S402、根据所述运动信息和当前位置,确定图像采集位置和采集角度。

S403、将相机移动至所述图像采集位置和采集角度,并按照预设采集周期和预设采集数量,采集所述人员的正脸图像。

需要说明的是,相机在采集该人员的正脸图像时,需要遵循预设的采集规则,该采集规则包括预设采集周期和预设采集数量。

在一种实施例中,以100ms为采集周期(与记录区测试过程所采用的采集周期不同)采集该人员大于5张的正脸图像,预设采集数量具体设定数值视实际需要而定。

S404、根据所述正脸图像,确定所述人员的身份信息。

在本发明实施例的技术方案中,采取先通过雷达获取人员的运动信息和当前位置,能够准确地确定图像采集位置和采集角度,再通过将相机移动至已确定的图像采集位置和采集角度,按照预设采集规则,能够保证采集到的是人员的正脸图像,有效地避免了非正脸图像采集造成的识别精度下降的问题,相对于传统的人员身份确定方式,能够应对人员从不同方向进入操作区的情况,保证高准确率的图像采集和高精度的图像识别,不仅增强了协作机器人产线的可靠性,保障了操作人员的安全,还减小了产线效率下降的风险。

实施例五

如图5所示,本发明实施例五提供的人员身份信息确定方法,是在实施例四提供的技术方案的基础上,对步骤S404“根据所述正脸图像,确定所述人员的身份信息”的进一步优化。与上述各实施例相同或相应的术语的解释在此不再赘述。即:

S501、通过雷达获取进入操作区的人员的运动信息和当前位置。

S502、根据所述运动信息和当前位置,确定图像采集位置和采集角度。

S503、将相机移动至所述图像采集位置和采集角度,并按照预设采集周期和预设采集数量,采集所述人员的正脸图像。

S504、通过训练模型对每个正脸图像进行识别,确定每个正脸图像对应的操作人员信息。

需要说明的是,通过将大量操作人员的人脸数据集进行训练、测试和评估,得到满足精确率要求的训练模型,用于在人员身份信息确定过程中,对正脸图像进行识别。其中,操作人员的人脸数据集是预先打上标签的操作人员的人脸图像数据,该人脸数据需要进行预处理,才能进行后续的训练和测试。

S505、统计属于同一个操作人员信息的正脸图像在全部正脸图像中所占的比例。

在本发明实施例中,需要确认训练模型对采集到的正脸图像识别出来的操作人员信息是否属于同一个操作人员,以进一步确认采集的正脸图像是否有误。

S506、判断所述比例是否满足预设条件。

需要说明的是,预设条件是指该统计比例在误差范围内的预设阈值,本实施例中将该统计比例大于或等于该预设阈值的定义为满足的情况,将统计比例小于该预设阈值的定义为不满足的情况。

示例性的,将预设阈值设为80%。

S507、若所述比例满足预设条件,则将所述比例对应的操作人员信息确定为所述人员的身份信息。

具体的,若统计属于同一个操作人员信息的正脸图像在全部正脸图像中所占的比例大于或等于预设阈值,则将所述比例对应的操作人员信息确定为所述人员的身份信息。

S508、若所述比例不满足预设条件,则打开补光灯,并返回执行S503。

具体的,若统计属于同一个操作人员信息的正脸图像在全部正脸图像中所占的比例小于预设阈值,则语音提示识别失败,打开补光灯,并返回执行S503,重新采集该人员的正脸图像。

在本发明实施例的技术方案中,采取先通过雷达获取人员的运动信息和当前位置,能够准确地确定图像采集位置和采集角度,再通过将相机移动至已确定的图像采集位置和采集角度,能够保证采集到的是人员的正脸图像,有效地避免了非正脸图像采集造成的识别精度下降的问题,相对于传统的人员身份确定方式,能够应对人员从不同方向进入操作区的情况,保证高准确率的图像采集和高精度的图像识别,后通过对识别结果的统计和判断,能够确保最终确定的人员身份信息是准确的,不仅增强了协作机器人产线的可靠性,保障了操作人员的安全,还减小了产线效率下降的风险。

实施例六

图6是本发明实施例六提供的一种人员身份信息确定方法的流程示意图,本实施例在实施例一的基础上,在根据所述正脸图像,确定所述人员的身份信息之后,对该方法做出优化。与上述各实施例相同或相应的术语的解释在此不再赘述,具体的,请参考图6,该方法包括:

S601、通过雷达获取进入操作区的人员的运动信息和当前位置。

S602、根据所述运动信息和当前位置,确定图像采集位置和采集角度。

S603、将相机移动至所述图像采集位置和采集角度,并按照预设采集规则,采集所述人员的正脸图像。

S604、根据所述正脸图像,确定所述人员的身份信息。

S605、获取协作机器人的指定操作人员信息。

需要说明的是,系统上建立有MySQL数据库(MySQL,关系型数据库管理系统),通过该数据库可实现协作机器人及其指定操作人员信息的增加、删除和查询等,其中,操作人员信息包括负责该台协作机器人的操作人员的个人信息,比如性别、年龄、名字、工号、岗位等,协作机器人信息则包括型号、功用、工位等。

S606、将所述人员的身份信息与所述指定操作人员信息进行比对。

需要说明的是,一个操作人员可以控制多台协作机器人,但一台协作机器人只能由一个操作人员控制。通过将该人员的身份信息匹配该协作机器人对应的指定操作人员信息,即可得到该人员与该协作机器人是否适配的结果。

S607、根据比对结果进行相应的语音提示。

具体的,若该人员的身份信息与该台协作机器人的指定操作人员信息比对成功,则语音播放“欢迎”,进入协作模式;若该人员的身份信息与该台协作机器人的指定操作人员信息比对失败,则语音播放“请退后”。

在本发明实施例的技术方案中,采取先通过雷达获取人员的运动信息和当前位置,能够准确地确定图像采集位置和采集角度,再通过将相机移动至已确定的图像采集位置和采集角度,能够保证采集到的是人员的正脸图像,有效地避免了非正脸图像采集造成的识别精度下降的问题,相对于传统的人员身份确定方式,能够应对人员从不同方向进入操作区的情况,保证高准确率的图像采集和高精度的图像识别,不仅增强了协作机器人产线的可靠性,保障了操作人员的安全,还减小了产线效率下降的风险。

实施例七

请参阅附图7,为本发明实施例七提供的一种人员身份信息确定系统的结构示意图,该系统适用于执行本发明实施例提供的人员身份信息确定方法。该系统具体包含如下模块:

信息获取模块71,用于通过雷达获取进入操作区的人员的运动信息和当前位置;

采集确定模块72,用于根据所述运动信息和当前位置,确定图像采集位置和采集角度;

图像采集模块73,用于将相机移动至所述图像采集位置和采集角度,并按照预设采集规则,采集所述人员的正脸图像;

身份确定模块74,用于根据所述正脸图像,确定所述人员的身份信息。

优选的,所述系统还包括:

人员核实模块,用于在通过雷达获取进入操作区的人员的运动信息和当前位置之前,当监测到有人员进入操作区时,核实所述操作区是否已经有操作人员;

警戒开启模块,用于若经核实,所述操作区已经有操作人员,则开启警戒模式;

上述信息获取模块71,还用于若经核实,所述操作区没有操作人员,则执行通过雷达获取进入操作区的人员的运动信息和当前位置的步骤。

优选的,所述采集确定模块72包括:

位置确定单元,用于根据所述运动信息中的运动速度、所述当前位置和预设相机移动速度,确定图像采集位置;

朝向确定单元,用于根据对所述运动信息中运动轨迹的分析,确定所述人员的人脸朝向;

角度确定单元,用于根据所述人脸朝向,确定所述采集角度。

优选的,所述图像采集模块73具体用于:

将相机移动至所述图像采集位置和采集角度,并按照预设采集周期和预设采集数量,采集所述人员的正脸图像。

优选的,所述身份确定模块包括:

信息确定单元,用于通过训练模型对每个正脸图像进行识别,确定每个正脸图像对应的操作人员信息;

比例统计单元,用于统计属于同一个操作人员信息的正脸图像在全部正脸图像中所占的比例;

身份确定单元,用于若所述比例满足预设条件,则将所述比例对应的操作人员信息确定为所述人员的身份信息;

操作返回单元,用于若所述比例不满足预设条件,则打开补光灯,并返回所述图像采集模块73执行按照预设采集周期和预设采集数量,采集所述人员的正脸图像的步骤。

优选的,所述系统还包括:

关联信息获取模块,用于在根据所述正脸图像,确定所述人员的身份信息之后,获取协作机器人的指定操作人员信息;

信息比对模块,用于将所述人员的身份信息与所述指定操作人员信息进行比对;

语音操作模块,用于根据比对结果进行相应的语音提示。

本发明实施例通过雷达获取进入操作区的人员的运动信息和当前位置;根据所述运动信息和当前位置,确定图像采集位置和采集角度;将相机移动至所述图像采集位置和采集角度,并按照预设采集规则,采集所述人员的正脸图像;根据所述正脸图像,确定所述人员的身份信息。基于上述方法和系统,采取先通过雷达获取人员的运动信息和当前位置,能够准确地确定图像采集位置和采集角度,再通过将相机移动至已确定的图像采集位置和采集角度,能够保证采集到的是人员的正脸图像,有效地避免了非正脸图像采集造成的识别精度下降的问题,相对于传统的人员身份确定方式,能够应对人员从不同方向进入操作区的情况,保证高准确率的图像采集和高精度的图像识别,不仅增强了协作机器人产线的可靠性,保障了操作人员的安全,还减小了产线效率下降的风险。

上述系统可执行本发明任意实施例所提供的方法,具备执行方法相应的功能模块和有益效果。

为了更加清晰的展现本发明实施例的方案实施过程,下面以一具体实例进行详细介绍。本发明实施例提供的人员身份信息确定系统由协作机器人本体、相机、毫米波雷达、控制器、以及分布式服务器五部分组成,其系统结构如图8组成。

控制器的处理器架构是X86或ARM核的处理器,具有内存管理单元,运行Linux操作系统。该控制器还包括以下的硬件接口:两块通用网卡,一路USB接口,一路模拟音频输出接口,两路USART串行接口。其中,两块通用网卡分别负责同机器人本体进行Ethercat通信,用于协作机器人的运动控制及状态监测,以及和服务器进行以太网通信,用于对采集到的人脸图像进行识别和结果返回;一路USB接口负责和相机进行通信,采集拍摄到的人脸图像;一路音频输出接口负责输出音频信号给喇叭,用于对人员进行语音提示;两路USART串口用于毫米波雷达信号的采集,用于获取操作人员的位置,速度和角度。

毫米波雷达采用德州仪器(TI)公司的AWR1642模组,该模组除了包括毫米波雷达必须的波接收器RX,发射器TX和射频RF组件,还具有内置的DSP,模数转换器ADC,以及ARM核的MCU,通过采用TI公司提供的SDK中相应的接口函数,对毫米波雷达进行初始化,配置和启动后,即可对进入视场角区域的人员进行非接触的位置监测,采集视场角区域内物体的角度、速度和距离。毫米波雷达固定的安装在机器人的底座前端,以便于监测人员的绝对位置。

相机模组采用索尼IMX179CMOS芯片组成的工业相机模组,可以采集800万像素的MJPEG和YUV2的图片格式。相机通过USB2.0OTG协议与控制器进行图像数据传输,相机还包括补光灯。相机安装在协作机器人的机械臂的倒数第二轴上。相机跟随机械臂一起移动,从而配合毫米波雷达实现相机正对人脸拍摄,从而解决了图像采集过程中人的姿态对图像识别造成的影响,正脸图像可以提高识别的准确性。

服务器采用阿里云的云服务器(不限于阿里云)或本地服务器,该服务器和控制器一样,配置为Linux系统(Ubuntu16.04),通过启动预先分配的线程池与控制器进行网络通信,满足多控制器的并发数据访问,同时提供对人脸数据的处理和识别,统计识别结果并返回控制器。具体的,控制器将标记为待分类数据的人脸图像数据上传给服务器的固定端口,由服务器的线程池接收并通过进程间通信(IPC)的方式(Socket套接字)交由OpenCV组件对图像进行处理,处理的主要内容包括图像的类型转换,人脸在图片中位置的标定和掩模处理(去除人脸以外的部分),滤波以及直方图均衡等处理。人员的人脸数据接着被通过Socket套接字的方式发送给Tensorflow组件进行识别,为了增加识别的准确率,实际上由相机采集到的操作人员待测人脸数据是多张的,在Tensorflow组件进行识别之后,会将识别的结果进行结果统计。

具体的,通过对N张图像的识别结果进行统计,若至少N-1张图像识别的最大概率操作人员相同,则认为识别准确,否则,向控制器返回无法识别指令,此时控制器会打开补光灯,并调用音频文件通过喇叭发出“停下”(人员静止状态下采集到的人脸图像质量更高),重新进行N次拍摄,并再次上传服务器,进行识别,若仍无法准确识别,则服务器向控制器发送识别失败命令,此时协作机器人将通过喇叭连续报警发出“识别失败”并停止作业。在人脸图像识别准确的情况下,接下来服务器将会查询服务器上保存的该协作机器人的指定操作人员信息,若结果匹配,则向控制器发送识别正确的指令,从而完成人员身份验证,并播放“欢迎”,进入协作模式。若结果不匹配,则播放“请退后”。在此情况下人员可以后退三步,然后继续前进,这时协作机器人将监测到有人员走向自己,所以会再次启动人员身份的识别过程。

需要说明的是,上述方案中提及的两个概念需要加以区分,一个是识别准确,另一个是识别正确。识别准确是指上述方案中提到的N-1张图像识别出来的都是同一个操作人员,则说明采集到的人脸图像的识别是没问题的,而识别正确是指拿识别结果和数据库上该协作机器人的操作人员信息进行比较,若比较结果一致,则说明用于判断该人员是否具有该台协作机器人操作权限的身份识别是正确的。简而言之,识别准确的不一定识别正确,但识别正确的一定要是识别准确的。

示例性的,操作区的区域划分如图9所示,在毫米波雷达的160度视场角内,按角度将操作区的平面区域分为从A到J的10份,每份以15度为间隔,则记录区处于最外层,包括了从6米到10米的环形区域;

在圈定识别区范围时,需要考虑到有可能发生人员误入的情况,而这种情况集中发生在EF两个区域,人员在平行生产线经过记录区的时候,可能不小心就会进入上述两个区域,同时,机器人移动到这两个区域所需的最大时间要短于其余区域。比如从移动到F区的最长距离是从A-F,而到G区的最长距离是A-G,比A-F长,所以对于EF两个区的识别区,优选设定为从3米到5.5米。

人员进入操作区的不同区域,系统会根据操作人员的当前所处的区域,分别执行记录测试、身份信息识别和验证或隔离保护。比如在人员进入记录区后,控制器启动的毫米波雷达在监测到记录区有人员变化时,会进行不影响机器人正常作业的记录和测试过程,该测试过程主要用于调试系统的各项设备及其功能。测试过程依赖于记录次数,每当记录区的人数发生变化,记录过程就会将一个全局变量T加1,直到T=M次,这时将会运行测试过程,并将全局变量T置零,接着继续运行记录过程,直到下一次达到T=M,再次运行测试过程,不断循环。根据毫米波雷达记录区的人数流动情况,测试程序启动的频繁程度会有所变化,这是由于穿过记录区的人员数目越多,则越有可能有人员会从记录区进入到识别区,从而触发系统启动对该人员身份信息的识别和验证的程序,所以有必要对身份验证系统的功能进行测试。

测试的具体过程是,在第一次监测到记录区有人员出现时,协作机器人运行测试程序,设置记录变量T=0,打开相机,按50ms的周期连续拍摄N张图像,由于只是系统调试的过程,此时协作机器人不关心所采集的图像内容,同样的,会对图像进行处理和识别。但很显然的是,由于此时的协作机器人正在作业或处于初始化状态,图像不是正对该人员人脸拍摄的,所以采集到的无法识别,会发送无法识别指令或不匹配指令给控制器,因为服务器本身只执行图像的识别和结果返回的任务,所以服务器并不知道这次数据传输只是控制器对通信链路和服务器功能的测试,而控制器运行的是通信链路测试的程序,所以在接到服务器无法识别的指令后,控制器按照流程打开补光灯,并继续拍摄N张图像,上传给服务器,这时控制器依然进行正常作业或处于初始化状态。服务器继续对图像进行识别,但是仍然无法正确识别,服务器会发送识别失败指令给控制器,控制器收到识别失败指令后,会继续将本地存储的操作人员的图像(正确的)发送给服务器,服务器监测到图像正是该机器人的操作人员,于是向操作人员发送身份验证通过指令,这时,控制器完成了整个身份验证过程图像采集和通信链路以及对服务器的功能测试后,会将一个代表身份验证功能正确的全局变量S置位,否则通过喇叭报警“身份验证测试故障”,当操作人员进入识别区,机器人开始身份验证过程时,必须检查该全局变量的状态,确定身份识别系统正常。

当有人员继续进入到识别区后,此时将分两种情况:

第一种是隔离区没有操作人员,则机器人立刻启动操作人员身份验证,机械臂会根据毫米波雷达检测到的目标角度,立即移动到操作人员所在的角度区域(如图9所示,如果目标在H区,机械臂在F区,此时机械臂会移动到H区),与此同时,机械臂还会将末端指向地面以避免末端工具指向操作人员,并将相机模组距地垂直高度调整为h(h的标准高度是150cm),随着操作人员靠近逐渐提升相机模组垂直高度h至170cm,在这个过程中,定时采集图像并保存后,上传到服务器进行处理,如图10所示。

当操作人员步行速度小于4Km/h,也就是从识别区到隔离区,操作人员至少2.7秒钟,包括机械臂移动及图像采集第一次识别的时间,在2.7秒内足够完成(此时分配给机械臂调整姿态的时间是1.7秒,用于机械臂移动到和操作人员同一区域,识别时间是1秒),每100ms采集1张图像并上传。第一次识别不成功,则会播放“停下”并开补光灯进行第二次识别,此时不管操作人员是否继续前进进入隔离区,相机模组均会继续采集图像并处理,但此时相机模组已经处于最高位置(170cm),不会再移动,机械臂制动。若识别成功,则播放“欢迎”,切换到协作模式。若不成功,则播放“请退后”,此时操作人员可后退三步,再次往前走,这时会触发重新的检测。

若毫米波雷达监测到操作人员速度大于4Km/h但小于10Km/h,在操作人员未进入隔离区之前,机械臂仍会朝操作人员所在区域前进,在操作人员进入隔离区之后,不管机械臂是否到达操作人员区域,机械臂会制动,但是会在该停止位置采集N张图像进行识别,若果识别不匹配,则语音播放“请退后”,若识别成功,则语音播放“欢迎”并切换为协作模式。

若毫米波雷达一旦检测到操作人员速度大于10Km/h,这时机械臂会制动,不会进行身份识别,以防止人员撞向机械臂产生生命危险,并播放“请退后”,若操作人员退后三步并继续向前,则重新进行识别。

第二种情况是隔离区内已经有操作人员,一旦检测到又有人员进入识别区,控制器会直接播放,“请退后”,提醒操作人员,但会继续正常动作。当该人员继续进入隔离区,由于已经处于机械臂的运动空间中,这时,机器人会制动,同时,除非闯入的人员离开隔离区,机器人不会恢复运动,若闯入者离开识别区,则机器人自动恢复运动。

隔离区是毫米波雷达3m以内的区域,这个区域和机器人的工作空间有较大的重叠,一般情况下只有经过身份验证的操作人员才可以进入隔离区和协作机器人一同工作。包括未得到识别,识别失败和多余人员闯入,都会直接引起机器人停止工作,并语音播放“请退后”,进行隔离区保护。

此外,因为人员和机器人是协同工作的,产线的单位长度上人或机器的密度关系到产线的工序密度,应当尽量提高产线的工序密度,也就是增加单位长度上配置的人员和机器人的总数量,并尽可能提高机器人的数量。另外,产线宽度也很重要,同样影响单位面积厂房可以配置的人员和机器总数量,应尽量减小产线必须的宽度。

首先,需要明确的是,两台机器人的隔离区,是不允许重合的,否则两台机器人在进行轨迹规划的时候,就必须考虑到在运动的过程中的任何时刻的运动轨迹不能重合,否则就可能发生碰撞,由于运动轨迹在任何时刻都不能重合,这对于柔性化的产线设计是非常困难的,所以必须满足机器人的隔离区不能重合。

其次,毫米波雷达的视场角只有160度,这就意味着,如果机器人在产线上同侧布置,而间距又较小,则会出现识别区重叠的现象,这时假如操作人员恰好站在该交叠区内,则会触发两台机器人同时对该操作人员进行识别,这显然也是有问题的。针对这种情况,可以通过对识别区重叠的区域进行过滤,也就是当人员在这部分区域时,覆盖此处的两台协作机器人都不对人员进行识别。具体的,可以确定不重叠的区域半径L<S-R,其中R为识别区外圈半径,S为两台机器人的间距。在机器人各自识别半径L以内的区域,是不会重叠的。然后确认圆心到重叠点的向量与水平线的角度在大于的范围上,也不会出现重叠。这样,只需要满足就可以保证操作人员不在重叠区,就可以进行正常识别。具体如图7所示。随着两台机器人的间距减小,重叠区增加,身份识别的的区域面积减小了。无重叠的最小间距是12米,也即识别区外圈的直径。而此时产线宽度为记录区外圈的半径加上隔离区外圈的半径。

实施例八

图11为本发明实施例八提供的一种计算机设备的结构示意图。图11示出了适于用来实现本发明实施方式的示例性计算机设备12的框图。图11显示的计算机设备12仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。

如图11所示,计算机设备12以通用计算设备的形式表现。计算机设备12的组件可以包括但不限于:一个或者多个处理器或者处理单元16,系统存储器28,连接不同系统组件(包括系统存储器28和处理单元16)的总线18。

总线18表示几类总线结构中的一种或多种,包括存储器总线或者存储器控制器,外围总线,图形加速端口,处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说,这些体系结构包括但不限于工业标准体系结构(ISA)总线,微通道体系结构(MAC)总线,增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。

计算机设备12典型地包括多种计算机系统可读介质。这些介质可以是任何能够被计算机设备12访问的可用介质,包括易失性和非易失性介质,可移动的和不可移动的介质。

系统存储器28可以包括易失性存储器形式的计算机系统可读介质,例如随机存取存储器(RAM)30和/或高速缓存存储器32。计算机设备12可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例,存储系统34可以用于读写不可移动的、非易失性磁介质(图11未显示,通常称为“硬盘驱动器”)。尽管图11中未示出,可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器,以及对可移动非易失性光盘(例如CD-ROM,DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下,每个驱动器可以通过一个或者多个数据介质接口与总线18相连。存储器28可以包括至少一个程序产品,该程序产品具有一组(例如至少一个)程序模块,这些程序模块被配置以执行本发明各实施例的功能。

具有一组(至少一个)程序模块42的程序/实用工具40,可以存储在例如存储器28中,这样的程序模块42包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块42通常执行本发明所描述的实施例中的功能和/或方法。

计算机设备12也可以与一个或多个外部设备14(例如键盘、指向设备、显示器24等)通信,还可与一个或者多个使得用户能与该计算机设备12交互的设备通信,和/或与使得该计算机设备12能与一个或多个其它计算设备进行通信的任何设备(例如网卡,调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口22进行。并且,计算机设备12还可以通过网络适配器20与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器20通过总线18与计算机设备12的其它模块通信。应当明白,尽管图11中未示出,可以结合计算机设备12使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。

处理单元16通过运行存储在系统存储器28中的程序,从而执行各种功能应用以及数据处理,例如实现本发明实施例所提供的人员身份信息确定方法。

也即,所述处理单元执行所述程序时实现:通过雷达获取进入操作区的人员的运动信息和当前位置;根据所述运动信息和当前位置,确定图像采集位置和采集角度;将相机移动至所述图像采集位置和采集角度,并按照预设采集规则,采集所述人员的正脸图像;根据所述正脸图像,确定所述人员的身份信息。

实施例九

本发明实施例九提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本申请所有发明实施例提供的人员身份信息确定方法:

也即,所述处理单元执行所述程序时实现:通过雷达获取进入操作区的人员的运动信息和当前位置;根据所述运动信息和当前位置,确定图像采集位置和采集角度;将相机移动至所述图像采集位置和采集角度,并按照预设采集规则,采集所述人员的正脸图像;根据所述正脸图像,确定所述人员的身份信息。

可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。

计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括——但不限于无线、电线、光缆、RF等等,或者上述的任意合适的组合。

可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如”C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

注意,上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解,本发明不限于这里所述的特定实施例,对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此,虽然通过以上实施例对本发明进行了较为详细的说明,但是本发明不仅仅限于以上实施例,在不脱离本发明构思的情况下,还可以包括更多其他等效实施例,而本发明的范围由所附的权利要求范围决定。

当前第1页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1