物体识别系统的制作方法

文档序号:20274865发布日期:2020-04-03 19:30阅读:382来源:国知局
物体识别系统的制作方法

本发明涉及物体识别系统。



背景技术:

专利文献1公开了一种物体识别系统,其包括具有相机的终端装置和能够与终端装置进行通信的服务器。具体而言,终端装置将相机拍摄的图像(输入图像)发送给服务器。服务器提取从终端装置接收到的图像的特征量,将提取出的特征量与第1特征量辞典进行对照,从而识别映在接收图像中的物体。然后,服务器根据识别结果获取应向终端装置提供的第2特征量辞典和附加信息数据库,并将它们发送给终端装置。第2特征量辞典的数据量小于第1特征量辞典的数据量。

终端装置提取输入图像的特征量,并与从服务器获取到的第2特征量辞典进行对照,从而识别映在输入图像中的物体。接着,终端装置从由服务器获取到的附加信息数据库获取与识别出的物体相关的附加信息,再将获取到的附加信息叠加在输入图像上,从而生成输出图像。然后,终端装置将输出图像显示于显示部。

专利文献

专利文献1:日本特开第2015-212967号公报



技术实现要素:

在上述专利文献1所记载的物体识别系统中,终端装置通过将输入图像的特征量与从服务器获取到的第2特征量辞典进行对照来识别映在输入图像中的物体。然而,在例如像作业车辆那样存在多辆型号相同的作业车辆时,难以根据映在输入图像中的作业车辆的特征量而具体到个体地识别该作业车辆。

本发明目的在于提供一种物体识别系统,即使在多个被识别物体中存在多个具有相同特征信息的被识别物体时,也能通过用终端装置拍摄识别对象而具体到个体地识别该识别对象。

本发明的物体识别系统包括终端装置和能够与所述终端装置进行通信的服务器,所述终端装置能够拍摄多个被识别物体中的要识别的被识别物体即识别对象,该多个被识别物体具有能够从外部拍摄的特征信息,所述终端装置包括:检测部,其检测包含该终端装置的位置和方位在内的终端位置信息;拍摄部,其用于拍摄所述识别对象;以及终端侧识别控制部,其提取由所述拍摄部拍摄的拍摄图像中包含的所述识别对象的特征信息,并将包含提取出的特征信息和所述终端位置信息在内的识别判定用信息发送给所述服务器,所述服务器包括:存储部,其针对每个所述被识别物体存储有该被识别物体的特征信息和位置信息;以及服务器侧识别控制部,其基于从所述终端装置接收到的所述识别判定用信息内的终端位置信息设定搜索区域,并搜索满足“存在于所设定的搜索区域内且具有与所述识别判定用信息内的特征信息相同的特征信息”这一条件的规定的被识别物体,当搜索到满足所述条件的规定的被识别物体时,将该规定的被识别物体确定为所述识别对象。

被识别物体是指能够作为要通过本发明的物体识别系统来识别的对象的物体。识别对象是指多个被识别物体中的要识别的对象。

在该方案下,利用终端装置的拍摄部拍摄识别对象,并提取该识别对象的特征信息。然后,将包含识别对象的特征信息和终端位置信息在内的识别判定用信息发送给服务器。在服务器侧,基于终端位置信息设定搜索区域,并搜索满足“存在于所设定的搜索区域内且具有与识别判定用信息内的特征信息(识别对象的特征信息)相同的特征信息”这一条件的被识别物体。然后,当发现满足所述条件的被识别物体时,将该被识别物体确定为识别对象。因此,即使在多个被识别物体的中存在具有相同特征信息的多个被识别物体时,也能通过利用终端装置拍摄识别对象来具体到个体地识别出该识别对象。

在本发明的一实施方式中,所述服务器侧识别控制部构成为:当满足所述条件的规定的被识别物体存在多个时,将这多个规定的被识别物体中的存在于离所述终端装置最近的位置的规定的被识别物体确定为所述识别对象。

在该方案下,即使在拍摄图像中存在多个具有与识别对象相同的特征信息的被识别物体时,也能确定识别对象。

在本发明的一实施方式中,所述存储部针对每个所述被识别物体存储有该被识别物体的特征信息、位置信息和个体信息,所述服务器侧识别控制部构成为:在将所述规定的被识别物体确定为所述识别对象时,将所述存储部中存储的该规定的被识别物体的个体信息发送给所述终端装置。

在该方案下,能够将被确定为识别对象的被识别物体的个体信息从服务器发送给终端装置。

在本发明的一实施方式中,所述终端装置还包括用于显示利用所述拍摄部拍摄的拍摄图像的显示部,所述终端侧识别控制部构成为:将由所述服务器侧识别控制部发送来的所述个体信息叠加于所述显示部所显示的拍摄图像而显示。

在该方案下,能够使终端装置的使用者掌握识别对象的个体信息。

在本发明的一实施方式中,所述个体信息包含用于识别对应的被识别物体的识别信息、对应的被识别物体的运转信息和对应的被识别物体的维护信息中的至少一项信息。

在该方案下,能够使终端装置的使用者掌握识别对象的识别信息、运转信息和维护信息中的至少一项信息。

在本发明的一实施方式中,所述个体信息包含表示对应的被识别物体的故障部件的故障部件识别信息,所述终端侧识别控制部构成为:基于由所述服务器侧识别控制部发送来的所述个体信息中包含的故障部件识别信息,在所述显示部所显示的拍摄图像上叠加显示所述故障部件识别信息所对应的故障部件的图像。

在该方案下,能够使终端装置的使用者直观地掌握故障部位。

在本发明的一实施方式中,所述特征信息是对应的被识别物体的型号信息。

本发明的上述或其他目的、特征和效果通过以下参照附图而陈述的实施方式的说明来进一步明确。

附图说明

图1是表示应用了本发明一实施方式的物体识别系统的作业车辆识别系统的结构的示意图。

图2是表示作业车辆的主要电气结构的框图。

图3是表示远程监视服务器的电气结构的框图。

图4a是表示基本表格的内容例的示意图。

图4b是表示更换部件表的内容例的示意图。

图4c是表示部件更换过程表的内容例的示意图。

图5a是表示错误监视表的内容例的示意图。

图5b是表示维护历史管理表的内容例的示意图。

图6是表示便携终端的电气结构的框图。

图7是表示部件图像表的内容例的示意图。

图8是表示终端侧识别控制部所执行的终端侧识别控制处理的过程的一个例子的流程图。

图9是表示服务器侧识别控制部所执行的服务器侧识别控制处理的过程的一个例子的流程图。

图10是用于说明搜索区域设定方法的示意图。

图11是表示在拍摄图像上叠加有个体信息和部件图像的例子的示意图。

图12是表示在拍摄图像上叠加有个体信息和部件图像的另一例子的示意图。

具体实施方式

图1是表示应用了本发明一实施方式的物体识别系统的作业车辆识别系统的结构的示意图。

作业车辆识别系统1是用于具体到个体地识别作为被识别物体的作业车辆2的系统。作业车辆识别系统1包括便携型的终端装置(下称“便携终端3”)和远程监视服务器4。

作业车辆2能够通过通信网络6与远程监视服务器4进行通信。作业车辆2具备利用定位卫星7而定位自身位置的功能。作业车辆2的侧面记载有表示其型号的型号信息9。图1所示的作业车辆2的型号信息9为“yh448”。型号信息9是被识别物体的特征信息的一个例子。

便携终端3包括智能手机、平板型个人计算机(平板型pc)等便携终端。在本实施方式中,便携终端3为智能手机。便携终端3具备ccd相机等拍摄部53(参照图6)。此外,便携终端3具备利用定位卫星7而定位自身位置的功能。便携终端3中安装有为了实施本实施方式而开发出的车辆识别·信息附加程序。车辆识别·信息附加程序是:用于与远程监视服务器4协作而进行作业车辆2的识别,并且利用ar对拍摄图像进行信息附加的应用程序。这里,ar被称为增强现实(augmentedreality),是一种在现实空间中显示附加信息,增强现实世界的技术。便携终端3能够借助通信网络6而与远程监视服务器4进行通信。在本实施方式中,例如在对作业车辆2进行维护时,便携终端3由进行维护的服务人员所携带。

远程监视服务器4是用于对多个作业车辆2进行远程监视的服务器,设于远程监视中心5内。远程监视服务器4能够借助通信网络6而与作业车辆2及便携终端3进行通信。

说明作业车辆识别系统1的整体动作的概要。

作业车辆2将作业车辆2的识别信息、位置信息、运转信息、错误检出信息(异常信息)等发送给远程监视服务器4。在本实施方式中,如后所述,从作业车辆2向远程监视服务器4发送的作业车辆2的识别信息是设于作业车辆2的远程监视终端12(参照图2)的电话号码。该识别信息也可以是分配给作业车辆2的具有唯一性的识别信息即机号。

远程监视服务器4从作业车辆2接收到识别信息、位置信息、运转信息、错误检出信息等时,将这些信息与该作业车辆2的识别信息、型号信息及机号相关联地储存起来。远程监视服务器4在接收到来自作业车辆2的错误检出信息时,经由操作人员向服务人员发出相应通知,或者直接向服务人员发出相应通知。服务人员携带便携终端3前往发生错误的作业车辆2的所在之处。以下有时将所述发生错误的作业车辆2称为“出错车辆”。

当服务人员到达出错车辆的所在之处时,服务人员操作便携终端3而启动车辆识别·信息附加程序。车辆识别·信息附加程序启动后,拍摄部53就会进入工作状态,因此服务人员要将便携终端3的拍摄方向对准出错车辆(识别对象)的侧面。更具体而言,服务人员要使便携终端3以能够拍摄出错车辆的记载着型号信息9的侧面的方式朝向出错车辆。由此,进入由拍摄部53向便携终端3输入包括出错车辆在内的图像的状态。

便携终端3从输入图像提取型号信息9。然后,便携终端3将包括提取出的型号信息9以及便携终端3的位置信息(也可以包括便携终端3的姿势和方位信息)在内的识别判定用信息发送给远程监视服务器4。

远程监视服务器4接收到来自便携终端3的识别判定用信息时,基于识别判定用信息内的位置信息,在便携终端3的附近设定搜索区域。接着,远程监视服务器4基于多个作业车辆2的最新位置信息,搜索满足“存在于搜索区域内且与识别判定用信息内的型号信息9型号相同”这一条件的作业车辆2。然后,当找到满足所述条件的作业车辆2时,远程监视服务器4将该作业车辆2确定为出错车辆(识别对象),将该作业车辆2的相关信息(下称“个体信息”)发送给便携终端3。便携终端3接收到个体信息时,在输入图像上叠加显示个体信息内的规定信息,或在输入图像上叠加显示个体信息内的规定信息所对应的图像(例如,部件图像)。

以下,说明作业车辆2、远程监视服务器4和便携终端3的电气结构。

图2是表示作业车辆2的主要电气结构的框图。

作业车辆2包括作业车辆控制装置11和远程监视终端12。作业车辆控制装置11控制作业车辆2的各部分的电气设备。在作业车辆2例如为联合收割机时,作业车辆控制装置11对联合收割机的行驶装置、收割装置、输送装置、脱粒装置等各部分的电气设备进行控制。作业车辆控制装置11向远程监视终端12提供作业车辆2的运转信息、错误检出信息等。作为运转信息,可举出运转时间、发动机转速、排气温度、加速器的操作状态、制动器的操作状态等。在本实施方式中,错误检出信息包含表示错误种类的错误代码。

远程监视终端12将作业车辆2的位置信息、由作业车辆控制装置11提供的运转信息和错误检出信息等发送给远程监视服务器4。在本实施方式中,远程监视终端12设定有通信用的电话号码。

远程监视终端12包括控制部20。控制部20与位置检测部21、通信部22、操作显示部23、操作部24、存储部25等连接。位置检测部21基于卫星定位系统而计算远程监视终端12的位置信息。在本实施方式中,卫星定位系统为gnss(globalnavigationsatellitesystem:全球导航卫星系统)。具体而言,位置检测部21接收来自多个定位卫星7(参照图1)的卫星信号而计算远程监视终端12(作业车辆2)的位置信息。位置信息例如包含纬度、经度和高度信息。

通信部22是用于供控制部20借助通信网络6而与远程监视服务器4进行通信的通信接口。操作显示部23例如包括触摸面板式的显示器。操作部24例如包括1个或多个操作按钮。存储部25由非易失性存储器等存储设备构成。

控制部20包括具备cpu和储存器(rom、ram等)的微型计算机。控制部20每隔规定时间获取由位置检测部21算出的位置信息,并将其存储到存储部25中。而且,控制部20每隔规定时间就将存储部25中存储的最新位置信息发送给远程监视服务器4。

此外,控制部20将作业车辆控制装置11所提供的运转信息不断储存到存储部25中。然后,控制部20在规定时刻(例如,进行电源切断操作的时刻)将不断储存在存储部25中的运转信息一次性发送给远程监视服务器4。此外,在作业车辆控制装置11提供了错误检出信息时,控制部20将该错误检出信息存储在存储部25中,并将该错误检出信息发送给远程监视服务器4。

图3是表示远程监视服务器4的电气结构的框图。

远程监视服务器4包括控制部30。控制部30与通信部31、操作显示部32、操作部33及存储部34等连接。通信部31是用于供控制部30借助通信网络6而与远程监视终端12(作业车辆2)及便携终端3进行通信的通信接口。操作显示部32例如包括触摸面板式显示器。操作部33例如包括键盘、鼠标等。存储部34由硬盘、非易失性存储器等存储设备构成。

存储部34中设有基本表35、更换部件表36、部件更换过程表37、错误监视表38、维护历史管理表39等。

如图4a所示,基本表35针对每个设于作业车辆2的远程监视终端12的电话号码而存储有该作业车辆2的型号、机号、最新位置信息、运转时间、其他运转信息(图示省略)等。最新位置信息和运转时间分别在每次从对应的作业车辆2接收到位置信息和运转信息时由控制部30进行更新。

如图4b所示,更换部件表36针对每个错误代码而存储有为了消除该错误代码所代表的错误而需要更换的部件的代码(更换部件代码)和部件名称。更换部件代码是故障部件识别信息的一个例子。在针对1个错误代码需要更换多个部件时,与该错误代码对应地存储所述多个部件各自对应的更换部件代码和部件名称。

如图4c所示,部件更换过程表37针对每个部件代码(更换部件代码)而存储有该部件的更换过程信息。部件更换过程信息例如以pdf文件的格式来存储。

错误监视表38是在接收到来自作业车辆2的错误检出信息时存储错误代码等信息的表。具体而言,在接收到来自作业车辆2的错误检出信息时,控制部30如图5a所示那样将包含作业车辆2的电话号码、错误发生时间、错误代码等在内的错误信息存储到错误监视表38中。

维护历史管理表39是用于管理维护历史信息的表。如图5b所示,维护历史信息包含进行维护的作业车辆2的电话号码、进行维护的日期和时间(维护日期和时间)、维护内容等。维护历史信息例如在维护结束后由操作人员等进行输入。

回到图3,控制部30包括具备cpu和存储器(rom、ram等)的微型计算机。控制部30包括远程监视部41和服务器侧识别控制部42。远程监视部41在接收到来自作业车辆2的运转信息时更新基本表35内的运转信息,或向基本表35内追加运转信息。此外,远程监视部41在接收到来自作业车辆2的错误检出信息时向错误监视表38中存储错误信息,并将这些内容通过操作人员通知服务人员,或者直接通知服务人员。

例如,远程监视部41在接收到错误检出信息时,通过进行表示接收到错误检出信息的警告显示或输出警告声,来告知操作人员接收到错误检出信息。操作人员意识到接收到错误检出信息时,将错误信息通知服务人员。或者,远程监视部41在接收到错误检出信息时生成包含错误信息在内的出错通知邮件,向预先设定的服务人员联络地址发送出错通知邮件。

服务器侧识别控制部42进行服务器侧识别控制处理,即确定便携终端3所拍摄的作业车辆(识别对象),并将确定出的作业车辆的相关个体信息发送给便携终端3。服务器侧识别控制处理的详细内容将在后面进行说明。

图6是表示便携终端3的电气结构的框图。

便携终端3具备控制部50。控制部50与位置检测部51、姿势·方位检测部52、拍摄部53、通信部54、操作显示部55、操作部56、存储部57等连接。位置检测部51基于卫星定位系统而计算便携终端3的位置信息。在本实施方式中,卫星定位系统为gnss(globalnavigationsatellitesystem:全球导航卫星系统)。具体而言,位置检测部51接收来自多个定位卫星7(参照图1)的卫星信号,计算便携终端3的位置信息。位置信息例如包含纬度、经度和高度信息。

姿势·方位检测部52检测便携终端3的姿势和方位。便携终端3的姿势表示便携终端3的三维方向的倾角,便携终端3的方位表示拍摄部53的拍摄方向。姿势·方位检测部52例如使用陀螺仪传感器、加速度传感器、地磁传感器等来检测便携终端3的姿势和方位。

在下文中,将包含由位置检测部51检测出的位置以及由姿势·方位检测部52检测出的姿势和方位中的至少位置在内的信息称为终端位置信息。其中,在本实施方式中,终端位置信息包含位置、姿势和方位所有信息。

拍摄部53例如使用ccd(chargecoupleddevice:电荷耦合器件)、cmos(complementarymetaloxidesemiconductor:互补金属氧化物半导体)等拍摄设备对被识别对象即作业车辆2进行拍摄。

通信部54是供控制部50借助通信网络6而与远程监视服务器4进行通信的通信接口。操作显示部55例如包括触摸面板式显示器。操作部56例如包括1个或多个操作按钮。存储部57由非易失性存储器等存储设备构成。

存储部57针对每个作业车辆2的型号而设有部件图像表58、58、…。如图7所示,各部件图像表58针对每个构成该型号的作业车辆2的部件的部件代码而存储有表示该部件的位置的信息(部件位置信息)和该部件的图像(部件图像)。在本实施方式中,部件图像为三维cg图像。需要说明的是,部件图像也可以是照片图像,还可以是二维cg图像。如后所述,部件图像例如叠加显示在拍摄图像上,以便将要更换的部件明确地显示在拍摄图像上。

部件位置信息是表示以作业车辆2的侧面所记载的型号信息的位置为基准的部件位置的信息。例如,当观察者从作业车辆2的外侧方观察作业车辆2的记载有型号信息9的侧面时,可以使用以型号信息9的位置为原点的xyz坐标系的xyz坐标值来作为部件位置信息。此时,例如,可以设x轴方向为车辆的前后方向(所述侧面的横向),设y轴方向为车辆的高度方向(所述侧面的纵向),设z轴方向为车辆的左右方向(所述侧面的进深方向)。

将部件图像表58中存储的部件图像的基准显示尺寸设定为实际部件大小的规定倍的大小。同样,作为部件位置信息的坐标值也设定为对实际的作业车辆2的坐标值例如放大所述规定倍而得到的值。换言之,当以对实际作业车辆放大规定倍的大小的作业车辆为基准作业车辆时,部件位置信息(坐标值)的绝对值和部件图像的基准显示尺寸设定为与基准作业车辆对应的大小。

拍摄部53拍摄的图像内的作业车辆2的大小会根据便携终端3和作业车辆2之间的距离、变焦量等拍摄条件而有所变化。因此,为了将部件图像叠加显示在拍摄图像内的作业车辆所对应位置,需要将部件位置信息的绝对值和部件图像的显示尺寸变更为与拍摄图像内的作业车辆的大小相对应的大小。该变更例如可以如下这样进行。即,根据图像内的作业车辆的型号信息9的大小,求出图像内的作业车辆的大小与基准作业车辆的大小的比值。然后,基于该比值,将部件位置信息的绝对值和部件图像的显示尺寸调整为与图像内的作业车辆的大小相对应的大小。

控制部50包括具备cpu和存储器(rom、ram、非易失性存储器等)60的微型计算机。存储器(具体为非易失性存储器)60中存储有上述车辆识别·信息附加程序。控制部50包括终端侧识别控制部61,该终端侧识别控制部61在车辆识别·信息附加程序启动后按照识别·信息附加程序来执行终端侧识别控制处理。

图8是表示终端侧识别控制部61所执行的终端侧识别控制处理的过程的一个例子的流程图。图9是表示服务器侧识别控制部42所执行的服务器侧识别控制处理的过程的一个例子的流程图。

例如在服务人员到达发生错误的作业车辆(出错车辆)的所在之处后,由服务人员操作便携终端3,启动车辆识别·信息附加程序,从而开始图8所示的终端侧识别控制处理。

当终端侧识别控制处理开始时,终端侧识别控制部61使拍摄部53进入工作状态(步骤s1)。由此,利用拍摄部53拍摄图像,拍摄图像在控制部50的作用下显示于操作显示部55。该拍摄图像也被输入终端侧识别控制部61。服务人员使便携终端3朝向出错车辆的侧面,以拍摄出错车辆的记载有型号信息9的侧面。

终端侧识别控制部61进行用于从输入图像提取型号信息的型号信息提取处理(步骤s2)。该型号信息提取处理可以使用公知的图像识别技术来进行。

从输入图像提取型号信息后,终端侧识别控制部61将包含提取出的型号信息和终端位置信息在内的识别判定用信息发送给远程监视服务器4(步骤s3)。

参照图9,远程监视服务器4的服务器侧识别控制部42在接收到来自终端侧识别控制部61的识别判定用信息时(步骤s11:是),基于识别判定用信息内的终端位置信息设定搜索区域(步骤s12:是)。具体而言,如图10所示那样,服务器侧识别控制部42将俯视状态下的从便携终端3朝向拍摄部53的拍摄方向(图10中箭头所示的方向a)扩展的半径为r的扇形区域(影线区域)s设定为搜索区域。扇形区域s的2条半径所成的角为扇型区域s的中心角。扇形区域s的中心角是扇形区域s的一条半径和拍摄方向a所成的角θ、与扇形区域s的另一条半径和拍摄方向a所成的角θ之和,即为2θ。在本实施方式中,半径r设定为30m,θ设定为15度。也就是说,在本实施方式中,扇形区域s的中心角设定为30度。

接下来,服务器侧识别控制部42基于图4a的基本表35中存储的多个作业车辆2的最新位置信息,搜索满足“存在于搜索区域s内且与识别判定用信息内的型号信息型号相同”这一条件的作业车辆2(步骤s13)。

然后,服务器侧识别控制部42在规定的搜索时间后判断满足所述条件的作业车辆2是只发现了一台,还是发现了两台以上,亦或是一台也没发现(步骤s14)。

在满足所述条件的作业车辆2一台也没发现时,服务器侧识别控制部42向便携终端3发送包含识别失败命令在内的识别结果信息,该识别失败命令表示未能确定便携终端3所拍摄的出错车辆(步骤s15)。

当在所述步骤s14中只发现一台满足所述条件的作业车辆2时,服务器侧识别控制部42将该作业车辆2确定为便携终端3所拍摄的出错车辆(识别对象)(步骤s16)。然后,服务器侧识别控制部42进入步骤s18。

当在所述步骤s14中发现两台以上满足所述条件的作业车辆2时,服务器侧识别控制部42将这多个作业车辆2中存在于离便携终端3最近的位置的作业车辆2确定为便携终端3所拍摄的出错车辆(识别对象)(步骤s17)。然后进入步骤s18。

在所述步骤s18中,服务器侧识别控制部42基于表35~38来获取被确定为出错车辆(识别对象)的作业车辆2的相关的个体信息,然后将包含获取到的个体信息和识别成功命令在内的识别结果信息发送给便携终端3。

具体而言,服务器侧识别控制部42从图4a的基本表35中获取被确定为出错车辆的作业车辆2的型号、机号、运转时间等信息。此外,服务器侧识别控制部42从图5a的错误监视表38中获取错误代码,该错误代码表示被确定为出错车辆的作业车辆2本次的错误原因。并且,服务器侧识别控制部42从图4b的更换部件表36中获取与从错误监视表38中获取的错误代码对应的更换部件代码和部件名称。此外,服务器侧识别控制部42从图4c的部件更换过程表37中获取与从更换部件表36中获取的各更换部件代码对应的部件更换过程信息。然后,服务器侧识别控制部42将包含从表35~38中获取的个体信息(型号、机号、运转时间、错误代码、更换部件代码和部件名称、部件更换过程信息等)和识别成功命令在内的识别结果信息发送给便携终端3。

回到图8,便携终端3的终端侧识别控制部61在接收到来自远程监视服务器4的识别结果信息时(步骤s4:是),判断该识别结果信息中包含的命令是否为识别成功命令(步骤s5)。当识别结果信息中包含的命令为识别失败命令时(步骤s5:否),终端侧识别控制部61返回步骤s2。

当识别结果信息中包含的命令为识别成功命令时(步骤s5:是),终端侧识别控制部61进行信息附加处理(步骤s6)。具体而言,如图11所示那样,终端侧识别控制部61将识别结果信息中包含的型号、机号和运转时间叠加显示在拍摄图像上。此外,如图11所示那样,终端侧识别控制部61将识别结果信息中包含的错误代码和更换部件名称以及更换过程按钮71叠加显示在拍摄图像上。在该例子中,更换部件名称为mh传感器。也可以代替更换部件名称而显示更换部件代码,或者同时显示更换部件名称和更换部件代码。当服务人员按下更换过程按钮71时,对识别结果信息中包含的部件更换过程信息进行显示。

然后,终端侧识别控制部61基于识别结果信息中包含的型号和更换部件代码(在该例子中,该代码所对应的部件名称为mh传感器),从该型号所对应的部件图像表中获取该更换部件代码所对应的部件位置信息和部件图像。接着,如上述那样,终端侧识别控制部61基于从拍摄图像提取出的型号信息9的大小而调整部件位置信息绝对值和部件图像的显示尺寸。然后,如图11中虚线内的部件图像72所示那样,终端侧识别控制部61在调整后的部件位置信息所示的位置上,将部件图像以调整后的显示尺寸叠加显示在拍摄图像上。需要说明的是,图11中虽未图示,但也可以在图像的规定区域(例如1个角部)显示包含作业车辆2的型号信息9在内的小区域的放大图像,以便让利用者了解作为识别判定基准的位置。

之后,终端侧识别控制部61判断服务人员是否进行了用于重新识别出错车辆的操作(步骤s7)。图11中虽未图示,但终端侧识别控制部61例如也可以在显示画面上显示重新识别按钮,并在服务人员操作了该重新识别按钮时,判断为进行了用于重新识别出错车辆的操作。

在未进行用于重新识别出错车辆的操作时(步骤s7:否),终端侧识别控制部61判断服务人员是否进行了用于结束车辆识别·信息附加程序的操作(步骤s8)。在未进行用于结束车辆识别·信息附加程序的操作时(步骤s8:否),终端侧识别控制部61返回步骤s7。

当在所述步骤s7中判断为进行了用于重新识别出错车辆的操作时(步骤s7:是),终端侧识别控制部61返回步骤s2。由此,再次执行步骤s2以后的处理。

当在所述步骤s8中判断为进行了用于结束车辆识别·信息附加程序的操作时(步骤s8:是),终端侧识别控制部61结束终端侧识别控制处理。

在所述实施方式中,由便携终端3拍摄作为识别对象的作业车辆2,提取该识别对象的型号信息。然后,将包含该识别对象的型号信息和便携终端3的终端位置信息在内的识别判定用信息发送给远程监视服务器4。在远程监视服务器4侧,基于终端位置信息设定搜索区域s,搜索满足“存在于设定的搜索区域s内且与识别对象的型号信息型号相同”这一条件的作业车辆2。然后,当发现满足所述条件的作业车辆2时,将该作业车辆2确定为识别对象。因此,即使多个作业车辆2中存在具有相同型号信息的多个作业车辆2时,也能通过用便携终端3拍摄识别对象而具体到个体地识别出该识别对象。

此外,在所述实施方式中,可以将识别对象的型号、机号、运转时间、错误代码、更换部件名称、部件更换过程信息等个体信息叠加显示在便携终端3的拍摄图像上。由此,能够使得便携终端3的使用者(在所述实施方式的例子中为服务人员)掌握识别对象的型号、机号、运转时间、错误代码、更换部件名称、部件更换过程信息等个体信息。

此外,在所述实施方式中,能够将个体信息中包含的更换部件代码所对应的部件图像叠加显示在便携终端3的拍摄图像的对应位置上。由此,能够使得便携终端3的使用者(在所述实施方式的例子中为服务人员)直观地掌握故障部位。

以上说明了本发明的实施方式,但本发明也可以以其他方式来实施。例如,在图8的步骤s6的信息附加处理中,便携终端3也可以如图12所示那样将与维护相关的信息叠加显示在拍摄图像上。在该例子中,mh传感器(部件图像72)虽未发生故障,但却是更换推荐对象。在图12的例子中,针对mh传感器的部件图像72,在拍摄图像上叠加显示有“由于更换后已过100小时,所以建议更换。”这样的消息和“2016/06/12进行了换油。”这样的消息。这样的消息可以通过:由远程监视服务器4在图9的步骤s18中基于维护历史管理表39(参照图5b)来生成,并作为个体信息而包含在识别结果信息中,从而发送给便携终端3。在图12中,由于更换推荐部件也和上述更换部件同样地进行处理,因此错误代码、更换部件名称和更换过程按钮71也和图11同样地进行显示。

此外,作为个体信息,远程监视服务器4例如也可以生成根据识别对象2的各种检测值而预测出的维护推荐消息等,并使其包含在个体信息中。这样一来,能够将维护推荐消息显示在便携终端3上。维护推荐消息例如可举出“损耗传感器值偏高。建议进行一次检修。”这样的例子。

在上述实施方式中,便携终端3向远程监视服务器4发送的识别判定用信息包含终端位置信息和型号信息,终端位置信息又包含位置、姿势和方位。但是,终端位置信息只要包含位置、姿势和方位中的至少位置信息即可。例如在终端位置信息包含位置信息、但不包含姿势和方位信息时,远程监视服务器4可以将搜索区域s设定为俯视状态下以便携终端3为中心的规定半径的圆形区域。

在上述本实施方式中,作业车辆2的远程监视终端12和便携终端3所使用的定位系统采用了gnss的单独定位系统,但也可以采用单独定位系统以外的定位系统,如rtk-gnss(实时动态gnss)等。

此外,在上述实施方式中,说明了作为识别对象的作业车辆为联合收割机的情况,但作为识别对象的作业车辆也可以是联合收割机以外的作业车辆,如拖拉机、插秧机、土木·工程作业车辆、除雪车、乘坐式作业机、步行式作业机等。

此外,在上述实施方式中,作为被识别物体,以作业车辆为例进行了说明,但被识别物体也可以是作业车辆以外的物体。

除此之外,本发明可以在权利要求书所记载的特征范围内实施各种设计变更。

以上详细说明了本发明的实施方式,但这些实施方式仅是为了阐明本发明的技术内容而使用的具体例子而已,本发明不应被限定解释为这些具体例子,本发明的范围仅由所附的权利要求书限定。

本申请对应2017年7月13日向日本国特许厅提出申请的日本特愿2017-137263号,在此援引加入该申请的全部公开内容。

附图标记说明

1:作业车辆识别系统;2:作业车辆;3:终端装置(便携终端);4:远程监视服务器;11:作业车辆控制装置;12:远程监视终端;30:控制部;31:通信部;32:操作显示部;33:操作部;34:存储部;35:基本表;36:更换部件表;37:部件更换过程表;38:错误监视表;39:维护历史管理表;41:远程监视部;42:服务器侧识别控制部;50:控制部;51:位置检测部;52:姿势·方位检测部;53:拍摄部;54:通信部;55:操作显示部;57:存储部;58:部件图像表;61:终端侧识别控制部。

当前第1页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1