一种基于机器视觉注意力机制的静态手势识别方法与流程

文档序号:30582610发布日期:2022-06-29 13:14阅读:来源:国知局

技术特征:
1.一种基于机器视觉注意力机制的静态手势识别方法,其特征在于,具体包括以下步骤:(1)采用rgb摄像头采集多类别的静态手势图像;(2)将静态手势图像中手势区域检测出来后进行裁剪得到手势图片,再进行保存,并将所有类别的手势图片划分成训练集、验证集和测试集;(3)将步骤(2)得到的手势图片由rgb格式转成yuv格式,使得训练集、验证集和测试集中的手势图片均为yuv格式;(4)以mobilenetv2网络作为网络框架,并加入注意力机制模块,并以类别分类损失函数构建卷积神经分类网络;(5)将步骤(3)的训练集输入卷积神经分类网络中进行多次网络训练,每训练完一个epoch,就采用步骤(3)的验证集进行测试,保留准确率最高的那个权重,待训练完成后得到训练模型,用步骤(3)的测试集进行测试,若满足设定指标,则进入步骤(7),否则进入步骤(6);(6)重新采集未覆盖的场景和错误分类手势对应的静态手势图像,重复步骤(2)和步骤(3)添加到训练集中进行持续迭代训练,对应地,不断更新训练模型;(7)将步骤(5)或步骤(6)中的训练模型加载到步骤(4)卷积神经分类网络中,直接采用rgb摄像头实时采集静态手势图像,并将静态手势图像中手势区域检测出来后进行裁剪得到手势图片,然后输入训练模型中进行识别,得到每个类别的概率分数,概率分数最高对应的那个类别即为识别到的手势类别。2.根据权利要求1所述的一种基于机器视觉注意力机制的静态手势识别方法,其特征在于,步骤(1)中至少包括四个类别,其中一类别为干扰静态手势,剩余类别包括但不限于点赞、比心、胜利、剪刀、石头和布中的任意三种或多种静态手势。3.根据权利要求2所述的一种基于机器视觉注意力机制的静态手势识别方法,其特征在于,步骤(1)中采集不同光照、不同角度场景下的静态手势图像。4.根据权利要求1所述的一种基于机器视觉注意力机制的静态手势识别方法,其特征在于,步骤(2)和步骤(6)中先将静态手势图像中的手势区域向外扩大后再进行裁剪,以得到手势图片。5.根据权利要求4所述的一种基于机器视觉注意力机制的静态手势识别方法,其特征在于,所述手势图片左上角的坐标为(x1',y1'),右下角的坐标为(x2',y2'),外扩方法为:x1'=max(0,x
1-(x
2-x1)*0.1);y1'=max(0,y
1-(y
2-y1)*0.1)x2'=min(w,x
2-(x
2-x1)*0.1);y2'=min(h,y2+(y
2-y1)*0.1)其中:w和h分别为手势图片的分辨率的宽和高;x1和y1分别为手势区域左上角对应的横坐标和纵坐标;x2和y2分别为手势区域右下角对应的横坐标和纵坐标。6.根据权利要求1所述的一种基于机器视觉注意力机制的静态手势识别方法,其特征在于,rgb图片格式转换成yuv图片格式的方法为:y=0.257*r+0.504*g+0.098*b+16u=-0.148*r-0.291*g+0.439*b+28v=0.439*r-0.368*g-0.071*b+128
其中:r,g,b分别为rgb图片对应通道的像素值;y,u,v分别为yuv格式图片对应通道的像素值。7.根据权利要求1所述的一种基于机器视觉注意力机制的静态手势识别方法,其特征在于,步骤(5)中训练集输入卷积神经网络中进行网络训练前,随机调整手势图片的亮度、对比度或色度,以提高训练模型的鲁棒性。8.根据权利要求1所述的一种基于机器视觉注意力机制的静态手势识别方法,其特征在于,还包括步骤(8),结合用户实际手势操控习惯,规定车内手势操控区域,提高识别准确率。9.根据权利要求8所述的一种基于机器视觉注意力机制的静态手势识别方法,其特征在于,对步骤(7)得到的概率分数做中值滤波处理,若概率分数大于设定阈值,则认为是有效事件。

技术总结
本发明公开了一种基于机器视觉注意力机制的静态手势识别方法,包括:采用RGB摄像头采集多类别的静态手势图像;再获取手势图片并进行保存,再划分成训练集、验证集和测试集;将手势图片由RGB格式转成YUV格式;以MobileNetV2网络作为网络框架,并加入注意力机制模块,并以类别分类损失函数构建卷积神经分类网络;将训练集输入卷积神经分类网络中进行多次网络训练,待训练完成后将训练模型加载到卷积神经分类网络中,直接采用RGB摄像头实时采集静态手势图像,并将手势图片输入训练模型中进行识别,概率分数最高对应的那个类别即为识别到的手势类别。该方法不额外增加硬件,能大大节省计算开销和提到手势识别率,降低误识率,从而提升用户座舱手势操控功能体验。提升用户座舱手势操控功能体验。提升用户座舱手势操控功能体验。


技术研发人员:袁聪
受保护的技术使用者:重庆长安汽车股份有限公司
技术研发日:2022.03.31
技术公布日:2022/6/28
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1