可视化远程控制可触控设备的方法、系统和相关设备的制造方法_3

文档序号:9420637阅读:来源:国知局
到硬件特征数据库中。 阳074] 图4是两个可触控设备的属性信息的示意图。
[0075] 可选的,该属性信息中除了可触控设备的标识符、视觉特征、AP W及操控UI W外, 还可W包括其他元素,例如支持的通信协议、电源标准等。
[0076] 预存在可触控设备或服务器中的视觉特征是预先测量好的。视觉特征可W是二维 图像的特征,也可W是=维深度图像的特征。本领域技术人员可W理解,由于可触控设备可 W存在多种放置的方式,并且用于获取可触控设备的装置获取可触控设备图像的角度也可 能有多种,因此可W预先测量不同拍摄视角下的可触控设备的视觉特征。
[0077] 下面将分别介绍两种特征的创建方法。
[0078] 图5是基于二维图像的特征提取方法的示意性流程图。 阳0巧]501,输入视角个数K。
[0080] 设置摄像头拍摄可触控设备视角V的个数K,其中视角V为摄像头的光轴Z。与可 触控设备坐标系的关系,具体关系如下式所示: 阳081] V=[目,e,r],(公式 1. 1)
[0082]其中,0G[0, 180° ],0G[0, 360°Lr为摄像头与可触控设备坐标系原点的 距离。 阳08引图6是拍摄视角V的示意图,其中X、Y、Z和X。、y。、Z。分别为可触控设备和摄像机 的坐标系,0G[0, 180° ],0G[0, 360°Lr为摄像头与可触控设备坐标系原点的距 离。
[0084] 因此,根据可触控设备纹理特点和外形复杂的程度,事先设置视角的个数K和拍 摄视角V,W便于全面记录该可触控设备在不同视角下的视觉特征合。
[0085] 502,采集视角Vj下的RGB图像。用RGB摄像头采集可触控设备在视角Vi下的RGB 图像,其中j E [1, K]。
[0086] 503,提取局部特征Fj。在RGB图像提取具有旋转和尺度不变性的视觉特征Fj。Fj 可W表示为如下所示的n维向量:
[0087] Fj=[a1,曰2, . . .,a。],(公式 1.。
[0088] 其中,曰1为实数,不同局部特征提取方法的n取值往往不同。常用的特征提取 方法有:尺度不变特征转换(英文:Scale-Inva;riant Fea1:ure Transform,简称:SIFT)、 加速鲁棒性特征(英文:Speeded Up Robust I^ature,简称:SURF)、带有方向信息的 FAST(FeaUires from Access Segment Test,加速的分块角点提取方法)角点和带有旋转 信息的BRIEF(Binary Robust Incbpendent Elementary Fea1:ures,独立二进制编码特征) 特征点提取(英文:〇riented Fast and Rotated BRIEF,简称:0RB)和快速视网膜特征点 提取(英文:Fast Retina Ifeypoint,简称:FREAK)等。在使用SIFT进行特征提取时,n的 取值为128。在使用SURF进行特征提取时,n的取值为64。在使用ORB进行特征提取时,n 的取值为32。在使用FREAK进行特征提取时,n的取值为64。
[0089] 504,去除相似的特征点。根据特征描述符F的距离度量函数(例如,欧式距离、 汉明距离和马氏距离等),去除特征点集中相似度较高的特征点对,保持特征描述符的唯一 性。
[0090] 505,添加可触控设备在视角Vj下的视觉特征。将局部特征描述符F和视角V保 存至视觉特征M(VjA)D
[0091] 在确定了视角Vj下的视觉特征之后,可W继续确定其他视角下的视觉特征。其他 视角下的视觉特征的确定过程与视角V,下的视觉特征相同。即可W通过重复步骤502至步 骤505,确定所有视角下的视觉特征,并将所有视角下的视觉特征保存到视觉特征M中。此 时,视觉特征M保存了不同视角下的局部特征描述符FW及对应的视角参数V。该视觉特征 可W保存在相应的可触控设备中,或者保存在服务器中。可W理解的是,当该视觉特征保存 在服务器的情况下,同时需要保存该视觉特征所对应的智能硬件的标识符。当可触控设备 加入到远程控制系统时,若可触控设备没有保存视觉特征,则该可触控设备可W将该可触 控设备的标识符发送给控制中屯、设备,该控制中屯、设备可W根据该可触控设备的标识符从 保存有视觉特征中获取该可触控设备的视觉特征;若可触控设备保存有视觉特征,则该可 触控设备可W将保存的视觉特征与标识符同时发送给控制中屯、设备,运样控制中屯、设备可 W利用该视觉特征从视频图像中确定是否保存有该可触控设备。
[0092] 图7是基于=维深度图像的特征提取方法的示意性流程图。
[0093] 701,输入视角个数K。
[0094] 根据可触控设备的纹理特点和外形复杂程度,设置摄像头拍摄可触控设备视角V 的个数K,W便于全面记录该可触控设备在不同视角下的视觉特征合。视角V的含义与二维 图像特征提取时的视角V的含义相同,在此就不必寶述。
[0095] 702,采集视角Vj下的图像。用RGBD摄像头采集可触控设备在视角Vi下的RGB图 像和深度图像,其中jE[1,时。
[0096] 703,提取窗口W(U,V)的局部特征(S,Fj,Dj)。
[0097] 具体地,在RGB图像上任意选取一个坐标为(U,V)的点,则特征提取窗口W(U,V) 的长度和宽度均为sXL其中,L为初始特征提取的窗口大小,S为当前提取特征的窗口所 用尺度,S通过下式表示: 阳09引
(公式1.如
[0099] 其中,d为当前特征点所在的深度图像坐标(U,V)对应的深度值,D为初始深度常 量。例如,根据获取深度图像的RG抓摄像头传感器的内外参数实际情况,可设置L= 31像 素(英文:pixels),D= 550mm。
[0100] 在图像坐标为(u,v)的窗口W内提取具有旋转和尺度不变特性的局部特征 F>,V)。常用的特征提取方法有SIFT、SURF、ORB和FREAK等。同时,根据RGBD摄像头传 感器的固有内外参数,将深度值d(u,V)映射为=维空间的坐标值D, (X,y,Z)。 阳101] 704,添加可触控设备在视角V,下的视觉特征。将S维坐标D,(x,y,z)与之前提取 的特征Fp尺度S-并保存在该可触控设备的视觉特征模型库M(s,Fj,Dj)中。 阳102] 705,记录下一个视角Vw的视觉特征。改变RG抓摄像头拍摄视角VW,根据现有 的=维数据拼接方法,例如ICP、SLAM等,计算两个视角V,和VW坐标系之间的转换关系H(V,,V,J,并且将迪昂前RG抓摄像机采集的图像数据同一转换到第一个视角V。下,具体如 W下公式所示: 阳103]
(公式1.4)
[0104] 其中,I(RGB,Depth)表示RGBD摄像头采集的RGB与深度图像数据。
[0105] 与二维图像的特征提取方法类似,在确定了视角Vj下的视觉特征之后,可W继续 确定其他视角下的视觉特征。其他视角下的视觉特征的确定过程与视角Vj下的视觉特征 相同。即可W通过重复步骤702至步骤705,确定所有视角下的视觉特征,并将所有视角下 的视觉特征保存到视觉特征M中。此时,视觉特征M保存了不同视角下的局部特征描述符FW及对应的视角参数V。该视觉特征可W保存在相应的可触控设备中,或者保存在服务器 中。可W理解的是,当该视觉特征保存在服务器的情况下,同时需要保存该视觉特征所对应 的智能硬件的标识符。当可触控设备加入到远程控制系统时,若可触控设备没有保存视觉 特征,则该可触控设备可W将该可触控设备的标识符发送给控制中屯、设备,该控制中屯、设 备可W根据该可触控设备的标识符从保存有视觉特征中获取该可触控设备的视觉特征;若 可触控设备保存有视觉特征,则该可触控设备可W将保存的视觉特征与标识符同时发送给 控制中屯、设备,运样控制中屯、设备可W利用该视觉特征从视频图像中确定是否保存有该可 触控设备。 阳106] 在完成可触控设备的注册过程后,控制中屯、设备310可W对已注册的可触控设备 进行识别。控制中屯、设备310可W通过获取的视频图像,确定位于视频图像内的可触控设 备的坐标W及可触控设备的标识符。 阳107] 具体来说,控制中屯、设备310识别可触控设备的方法是与可触控设备的视觉特征 的构成方法相关的。如果可触控设备的视觉特征是通过二维图像的方式生成的,则控制中 屯、设备310也采用获取二维图像的局部特征的方式识别出可触控设备。如果可触控设备的 视觉特征是通过S维深度图像的方式生成的,则控制中屯、设备310也采用S维深度图像的 局部特征的方式识别出可触控设备。下面,将对控制中屯、设备310如何识别可触控设备进 行详细描述。
[0108] 图8是使用二维图像进行特征识别的示意性流程图。 阳109] 801,获取RGB图像。
[0110] 该RGB图像是摄像头获取的。摄像头可W是与控制中屯、设备310集成在一起的。 摄像头也可W是一个独立装置,将采集到的RGB图像发送给控制中屯、设备310。本发明并不 限定。
[0111] 802,提取局部特征f。在获取的RGB图像上提取局部的特征。常用的方法可W是 SIFT、SURF、ORB和FREAK等。 阳112] 803,特征匹配(F,f)。
[011引在硬件特征数据库中索引第C个可触控设备的视觉特征Mc化,V,),其中jG山时。在第V,视角下的F,集合中遍历所有的特征描述符Fi,其中FiGF,,在f集合中 寻找与之距离最小(常用的距离度量函数有:欧式距离,汉明距离和马氏距离等)的两对最 佳匹配特征点化,fk)和化,fi),它们的距离分别为d_F2fik和d_F2fW且d_F2fik<d_F2fii。 同理,在f集合中选择任意一个特征描述符fi,则两对最佳匹配特征点(fi,Fk)和(fi,Fm), 它们的距离分别为d_f2Fik和d_f2Fim,且d_f2Fik<d_f2Fim。
[0114] 804, 一对多特征剔除。 阳11引遍历門集合中保存的匹配特征点对化,卸和化,fi),若d_F2fik/d_F2fu>也其 中th为一对多的阔值,如th= 0. 65,则认为该特征点对的匹配可信度较低,需要去除特征 点Fi。否则保留Fi,最终得到一组更新的F*。同理,对特征集进行一对多特征剔除,也得到 一组更新的巧。
[0116] 805,对称性校验。遍历F*中所有的特征点,若其与巧中保存的匹配点不一致,贝U 剔除巧。同理,遍历巧中所有的特征点,若其与F*中保存的匹配点不一致,则剔除巧。即 若化,卸与也,Fm)的Fi和Fm不是同一个点,则剔除错误匹配的点fk。
[0117] 806,RANSAC-致性计算。 阳11引在剩余的F*与巧中计算RANSAC-致性,得到一个单应性矩阵H,然后通过W下公 式计算特征点集的重投影误差:
[0119]
(公式LW
[0120] 其中,N为集合F*中的特征点个数,q表示特征点的X与y的图像坐标值,MIL表 示求取两个点之间的距离。 阳121 ] 807,确定识别出的可触控设备的标识符和坐标。
[0122] 若er^T,其中T为重投影误差阔值,如T=化ixels,则说明当前提取的特征点 巧与硬件视觉特征库中的目标C在视角Vj下的特征F*匹配成功,返回当前的可触控设备 的标识符为C,并且根据单应性矩阵H计算出目标所在的图像坐标。否则,更换下一个视角 Vj+1和目标C+1,重复步骤803至807,直至遍历所有的硬件。
当前第3页1 2 3 4 5 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1