一种人体重识别方法及装置与流程

文档序号:24875704发布日期:2021-04-30 12:50阅读:86来源:国知局
本申请涉及图像识别领域,尤其涉及一种人体重识别方法及装置。
背景技术
::安防监控系统越来越多地在公共领域得到应用,例如商场、超市等场所,既可以用于防止财产丢失,也能够通过大数据技术对人的行为分析,发现更多的商业机会。现有技术中,人体重识别是安防监控系统重要的应用之一,可能会用到步态识别、人体关键点检测、人体对齐对比等方案,但这些方案很难解决衣服颜色、高矮胖瘦等较为相似客户的识别,在没识别到清晰人脸的情况下,仅从人体的角度很难判断是否为同一个人。随着技术的发展,人脸识别也得到越来越多的应用,例如人脸支付、安全验证等等,并且随着人脸识别的广泛应用,人脸识别技术也越发成熟,有必要将人脸识别应用于人体重识别,从而提高人体重识别的效率。技术实现要素:有鉴于此,本申请提出了一种人体重识别方法及装置,以提高人体重识别的效率。根据本申请的一个方面,提出了一种1人体重识别方法,该方法包括:根据第一图像采集设备获取的第一视频帧建立人脸底片库和人体底片库,并记录人的标识与人脸的标识和/或人体的标识之间对应关系;根据第二图像设备获取的第二视频帧、所述人脸底片库、所述人体底片库以及人的标识与人脸的标识和/或人体的标识之间对应关系,建立第二视频帧中人的轨迹标识、人的标识与人脸的标识和/或人体的标识之间对应关系,实现人体重识别。优选地,该方法还包括:根据多个第二视频帧中人的轨迹标识、人的标识与人脸的标识和/或人体的标识之间对应关系确定人的行为轨迹。优选地,所述根据第一图像采集设备获取的第一视频帧建立人脸底片库和人体底片库,并记录人的标识与人脸的标识和/或人体的标识之间对应关系包括:在第一视频帧包含符合第一人体预设条件的人体图像的情况下,将第一视频帧加入人体底片库,并使用人体图像建立人体的标识与人的标识之间的关系;在第一视频帧包含符合第一人脸预设条件的人脸图像的情况下,将第一视频帧加入人脸底片库,并使用人脸图像建立人脸的标识与人的标识之间的关系。优选地,该方法还包括:在第一视频帧包含符合第一人脸预设条件的人脸图像的情况下,如果当前人脸图像优于对应的人脸底片库中的人脸图像,则使用当前人脸图像替换对应的人脸底片库中的人脸图像,并记录人脸的标识和人的标识之间的关系;如果当前人脸图像不优于对应的人脸底片库中的人脸图像,则仅记录人脸的标识和人的标识之间的关系。优选地,根据第二图像设备获取的第二视频帧、所述人脸底片库、所述人体底片库以及人的标识与人脸的标识和/或人体的标识之间对应关系,建立第二视频帧中人的轨迹标识、人的标识与人脸的标识和/或人体的标识之间对应关系,实现人体重识别包括:针对人的标识生成人的轨迹标识;在第二视频帧中的人脸图像符合第二人脸预设条件的情况下,如果人脸图像存在于人脸底片库,则记录人脸的标识以及人的轨迹标识之间的对应关系;在第一视频帧中的人体图像符合第二人体预设条件情况下,如果人体图像存在于人体底片库,则记录人体的标识以及人的轨迹标识之间的对应关系。优选地,该方法还包括:根据多个第二视频帧中人脸图像的人脸置信度和/或人体图像的人体置信度确定人脸的标识和/或人体的标识。优选地,该方法还包括:记录第二设备的标识;根据多个第二设备的标识、多个第二视频帧中人的轨迹标识、人的标识与人脸的标识和/或人体的标识之间对应关系确定人的行为轨迹。本申请提供了一种人体重识别装置,该装置包括:建库与记录模块,用于根据第一图像采集设备获取的第一视频帧建立人脸底片库和人体底片库,并记录人的标识与人脸的标识和/或人体的标识之间对应关系;识别模块,用于根据第二图像设备获取的第二视频帧、所述人脸底片库、所述人体底片库以及人的标识与人脸的标识和/或人体的标识之间对应关系,建立第二视频帧中人的轨迹标识、人的标识与人脸的标识和/或人体的标识之间对应关系,实现人体重识别。优选地,该装置还包括:行为轨迹确定模块,用于根据多个第二视频帧中人的轨迹标识、人的标识与人脸的标识和/或人体的标识之间对应关系确定人的行为轨迹。优选地,所述建库与记录模块,还用于在第一视频帧包含符合第一人体预设条件的人体图像的情况下,将第一视频帧加入人体底片库,并使用人体图像建立人体的标识与人的标识之间的关系;在第一视频帧包含符合第一人脸预设条件的人脸图像的情况下,将第一视频帧加入人脸底片库,并使用人脸图像建立人脸的标识与人的标识之间的关系。优选地,所述建库与记录模块,还用于在第一视频帧包含符合第一人脸预设条件的人脸图像的情况下,如果当前人脸图像优于对应的人脸底片库中的人脸图像,则使用当前人脸图像替换对应的人脸底片库中的人脸图像,并记录人脸的标识和人的标识之间的关系;如果当前人脸图像不优于对应的人脸底片库中的人脸图像,则仅记录人脸的标识和人的标识之间的关系。优选地,识别模块还用于针对人的标识生成人的轨迹标识;在第二视频帧中的人脸图像符合第二人脸预设条件的情况下,如果人脸图像存在于人脸底片库,则记录人脸的标识以及人的轨迹标识之间的对应关系;在第一视频帧中的人体图像符合第二人体预设条件情况下,如果人体图像存在于人体底片库,则记录人体的标识以及人的轨迹标识之间的对应关系。优选地,该装置还包括标识确定模块,用于根据多个第二视频帧中人脸图像的人脸置信度和/或人体图像的人体置信度确定人脸的标识和/或人体的标识。优选地,该装置还包括:记录第二设备的标识;根据多个第二设备的标识、多个第二视频帧中人的轨迹标识、人的标识与人脸的标识和/或人体的标识之间对应关系确定人的行为轨迹。本申请的技术方案通过人体识别和人脸识别相结合,可以提高人体重识别的效率,并能够确定用户的行为轨迹,从而可以作为商家调整其销售策略的依据。本申请提供的技术方案也可以用在其他领域,例如用来识别特定的人员,或者定位特定的人员等等。本申请的其它特征和优点将在随后的具体实施方式部分予以详细说明。附图说明构成本申请的一部分的附图用来提供对本申请的进一步理解,本申请的示意性实施方式及其说明用于解释本申请。在附图中:图1为本申请提供的建立人体底片库和人脸底片库的流程;图2为本申请提供的与人体底片库和人脸底片比对的流程;图3为本申请提供的确定行为轨迹流程;图4为本申请提供的人体重识别装置示意图。具体实施方式需要说明的是,在不冲突的情况下,本申请中的实施方式及各个实施方式中的特征可以相互组合。下面将参考附图并结合实施方式来详细说明本申请。本申请以汽车销售门店的应用为例说明申请的技术方案。汽车销售门店中一般会布置多个摄像头,特别是在汽车销售门店的入口处布置摄像头,在汽车销售门店内部也布置若干摄像头。本申请通过利用汽车销售门店入口处的摄像头实现建立人体库和人脸库,并记录记录人的标识与人脸的标识和/或人体的标识之间对应关系,并进一步利用其它记录的人体和/或人脸图像来实现人体重识别,并可以进一步地利用多个人体和/或人脸图像确定人的行为轨迹。本申请提供的建立人脸底片库、人体底片库以及建立人脸与人体的对应关系的方案如下:a、判断人脸的角度是否清晰完整,然后与人脸底片库进行对比,判断是否在库。如果不在库则新增,生成face-id记录在人员注册表(person-regedit-table),并生成相应的person-id,如果在库则判断当前人脸照片的清晰度与完整度是否优于底片,如果优于底片则替换,否则不进行操作。b、判断人体的完整性与清晰度,然后与人体底片库进行对比,判断是否在库。如果不在库则新增,生成re-id记录在人员注册表(person-regedit-table),如果在库则判断当前人体照片的清晰度与完整性是否优于底片,如果优于底片则替换,否则不进行操作。c、人体帧图的截取,采用maskrcnn,将视频按帧进行人体轮廓提取,用来解决相同客户在不同背景下造成的干扰。d、人体帧图的对比,使用openpose,提取人体关键点,用来解决相同客户在不同摄像头,不同光线下造成的干扰。e、在人体与人脸同时出现的时刻,建立face-id与re-id的对应关系,并生成person-id,人员注册表中不存在face-id重复的数据行。图1示出了本申请提供实施例,其示出了建库和记录的标识与人脸的标识和/或人体的标识之间对应关系的流程,具体包括:步骤101,从汽车销售门店入口处的摄像头拍摄的视频流获取一帧;步骤103,判断是否有符合条件的人体图像,例如清晰度和完整度是否符合预设的条件;如果是的话执行步骤105,否则执行步骤125;步骤105,获取单人的帧图并剔除人的背景;步骤107,判断该人体图像是否已经存在于人体底片库,如果是的话,执行步骤109,否则执行步骤111;步骤109,返回相应的人体标识;步骤111,将人体图像存入人体底片库,并返回相应的人体标识;步骤113,判断人体图像中是否有符合条件的人脸图像,例如人脸的角度、清晰度、和/或完整度是否符合预设的条件;如果是的话,执行步骤117,否则执行步骤115;步骤115,将人的标识和人体标识对应关系存入人员注册表,结束流程;步骤117,判断人脸图像是否优于人脸底片库中的人脸图像;如果是的话,执行步骤119,否则执行步骤121;步骤119,用获得的人脸图像替换人脸底片库中的人脸图像;步骤121,返回人脸标识;步骤123,将人的标识、人体标识以及人脸标识对应关系存入人员注册表,结束流程;步骤125,判断是否存在符合条件的人脸图像,例如人脸角度、清晰度、完整度是否符合预设条件;如果是的话,执行步骤127,否则结束流程;步骤127,判断人脸图像是否存在于人脸底片库中,如果是的话,执行步骤131,否则执行步骤129;步骤129,将人脸图像加入人脸底片库并返回人脸标识;步骤131,判断人脸图像是否优于人脸底片库中的图像;如果是的话,执行步骤133,否则执行步骤135;步骤133,用获得人脸图像替换人脸底片库中的图像;步骤135,返回人脸标识;步骤137,将人的标识和人脸标识对应关系存入人员注册表。人员注册表示例如下:人员注册表per-regedit-tableindex-id主键idface-id人脸idre-id人体idperson-id客户id根据本申请的方案,在建立人脸底片库、人体底片库以及建立人脸与人体的对应关系之后,可以利用汽车销售门店其他处设立的摄像头进行人体重识别。需要说明的是,仅使用位于汽车销售门店入口处的同一摄像头进行人体重识别也可以实施本申请的技术方案。该方案包括:a、摄像头一旦捕捉到一个人体,首先赋予该人体一个track-id。b、之后对每一帧图进行人体完整性,清晰度的判断和人脸角度的判断。c、如果帧图中有完整清晰的人脸,匹配到了人脸库的底片,且置信度大于设定阈值的话,则在行为轨迹表(person-behavior-table)中插入track-id与face-id以及face-id的置信度,并记录帧图的时间,以及摄像头信息。d、如果帧图中有完整清晰的人体,匹配到了人体库的底片,且置信度大于设定阈值的话,则在行为轨迹表(person-behavior-table)中插入track-id与re-id以及re-id的置信度,并记录帧图的时间,以及摄像头信息。e、对于相同track-id的数据行,采用以人脸为主,人体为辅的策略。可选地,如果该track-id的数据行有对应的face-id,则选取face-id较多的作为真正的face-id对该track-id对应的所有数据行,进行回填。f、如果该track-id没有对应的face-id,但是有对应的re-id,则同时兼顾置信度以及re-id的数量选举出re-id,可选地,对track-id对应的所有数据行,进行回填。g、如果该track-id即没有对应的face-id也没有re-id,则可以删除与所有该track-id相关的数据。图2示出了人体重识别的实施例,示出了利用人体底片库和人脸底片库进行对比的流程,具体包括:步骤201,获取一段视频;步骤203,判断视频中中是否有人,如果有的话执行步骤205,否则结束流程;步骤205,每个人在不出画的情况下,生成唯一的轨迹标识;步骤207,判断人脸图像是否符合条件,如果是的话执行步骤219,否则执行步骤209;步骤209,判断人体图像是否符合条件,例如清晰度、完整度是否符合预设条件;如果是的话执行步骤211,否则结束流程;步骤211,获得单人帧图并剔除背景;步骤213,判断人体图像是否存在于人体库,如果是的话,执行步骤215,否则结束流程;步骤215,返回人体标识,并将人体标识、轨迹标识、人体标识的置信度、帧图时间、摄像头信息存入行为轨迹表中;步骤217,对轨迹标识相同的人,考虑置信度、出现次数等因素,选举出最可能的人脸标识和人体标识;步骤219,判断人脸图像是否存在于人脸底片库,如果是的话,执行步骤221,否则执行步骤209;步骤221,返回人脸标识,并将人脸标识、轨迹标识、人脸标识的置信度、帧图时间、摄像头信息存入行为轨迹表中。行为轨迹如下。行为轨迹表person-behavior-tableindex-id主键idtrack-id轨迹idface-id人脸idre-id人体idface-id-confidence人脸置信度re-id-confidence人体置信度frame-time出现的帧图时间camera-info摄像头信息此外,根据上述信息可以确定人的行为轨迹,如图3所示,具体包括步骤301,使用行为轨迹表(person-behavior-table)中的face-id字段或者re-id字段关联人员注册表(person-regedit-table)中的face-id字段或者re-id字段,形成一张中间视图(person-behavior-regedit-view)。步骤303,统计视图中相同的person-id出现的摄像头信息,以及时间,即可得出客户的行为轨迹。步骤305,以某person-id结合track-id,第一次出现的时间与最后一次出现的时间的差值的总和为客户在该摄像头下停留的总时长。步骤307,每一个摄像头对应一款商品,因此可以统计出用户在某件商品前停留的总时长,并以此得出用户对商品喜好程度等。中间视图如下:中间视图per-behavior-regedit-viewindex-id主键idtrack-id轨迹idface-id人脸idre-id人体idframe-time出现的帧图时间camera-info摄像头信息person-id客户id在本申请的技术方案中,对于同一个摄像头,人体一旦进入摄像头,就会赋予一个track-id,只要客户不出画,该track-id不变,能保证相同track-id的为同一个人。然后根据某个track-id的视频帧,如果有清晰的人脸,就依赖faceid,否者依赖re-id,来识别具体客户。人体在不同摄像头下,track-id一定会不同,每个客户在进入新的摄像头的时候,会赋予一个新的track-id。但是face-id和re-id不变。这样可以使用face-id和re-id把不同摄像头的客户串联起来。相应地,本申请还提供了一种人体重识别装置,如图4所示,该装置包括:建库与记录模块,用于根据第一图像采集设备获取的第一视频帧建立人脸底片库和人体底片库,并记录人的标识与人脸的标识和/或人体的标识之间对应关系;识别模块,用于根据第二图像设备获取的第二视频帧、所述人脸底片库、所述人体底片库以及人的标识与人脸的标识和/或人体的标识之间对应关系,建立第二视频帧中人的轨迹标识、人的标识与人脸的标识和/或人体的标识之间对应关系,实现人体重识别。可选地,该装置还包括:行为轨迹确定模块,用于根据多个第二视频帧中人的轨迹标识、人的标识与人脸的标识和/或人体的标识之间对应关系确定人的行为轨迹。本申请的技术方案通过人体识别和人脸识别相结合,可以提高人体重识别的效率,并能够确定用户的行为轨迹,从而可以作为商家调整其销售策略的依据。本申请提供的技术方案也可以用在其他领域,例如用来识别特定的人员,或者定位特定的人员等等。例如,可以在商场或汽车销售门店设置摄像头,用户捕捉客户信息,根据相应客户在某店铺、商品或车型前逗留的时间长短获取相应的潜在商业信息。以上所述仅为本申请的较佳实施方式而已,并不用以限制本申请,凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。当前第1页12当前第1页12
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1