基于增强现实的交互式车辆远程诊断方法、系统及其存储介质与流程

文档序号:30525968发布日期:2022-06-25 06:57阅读:75来源:国知局
1.本技术涉及汽车维护与检测
技术领域
:,特别是一种基于增强现实的交互式车辆远程诊断方法、系统及其存储介质。
背景技术
::2.随着汽车电子技术不断地发展,当前生成的汽车均集成了车载诊断系统(obd),obd系统实时监测发动机、催化转化器、颗粒捕集器、氧传感器、排放控制系统、燃油系统、egr等系统和部件,然后通过不同与排放有关的部件信息,联接到ecu电控单元,它能检测、分析与排放相关故障的功能,当出现排放故障时,ecu记录故障信息和相关代码,并通过故障灯发出警告,告知驾驶员,ecu通过标准数据接口,保证对故障信息的访问和处理。汽车故障诊断仪是用于配合obd系统使用的车辆故障自检终端、汽车故障诊断仪(又称汽车解码器)是用于检测汽车故障的便携式智能汽车故障自检仪,用户可以利用它迅速地读取汽车电控系统中的故障,并通过液晶显示屏显示故障信息,迅速查明发生故障的部位及原因。3.ar技术正逐步向工业制造领域渗透和应用,为工业领域的研发、生成、管理、服务、销售和售后市场等各环节带来了深刻变革,将对智能制造产生不可估量的影响。ar在工业有很多落地的应用场景,包括ar远程协助、ar工业维修、ar制造装配、ar智能巡检、ar实操培训等等。基于ar技术和vr技术发展,人们开发了用于辅助汽车远程诊断的系统,如北美宝马公司宣布推出的用于宝马中心、4s店和车间等场景的全套ar解决方案,包括技术信息系统tis2.0、技术支持与科研辅助线上平台tsara以及tsaravision智能眼镜(硬件采用realwearhmt-1,并搭载ubimaxfrontline增强现实软件)。用于帮助技术人员快速获得信息和实时的远程支持,远程专家以ar形式将技术指示和示意图投射在现场技术人员的显示屏中,也可以通过智能眼镜看到现场情况,并截屏和放大查看以做出判断。同时现场人员可通过语音控制调阅文档,不需要双手点击操作,从而节省时间,提高工作效率,这种信息交流方式比发送电子表格和照片或通过电话解释复杂的技术问题更高效。4.现有的用于车辆故障检测、诊断、维修的各种汽车诊断设备及软件系统,这些设备和系统能够帮助用户有效地对车辆进行故障检测、排除、维修。用户可以通过使用便携式或移动电子设备(如智能手机或平板电脑)的前置相机和显示元件,以增强或补充在显示器上渲染(描绘)的图像或视频内容。由ar应用平台提供的补充信息可以是与零件、部件或涉及车辆的诊断程序有关的文本数据、图像数据、视频数据、图形指示符和/或音频信息。然而,现有基于ar/vr的汽车远程诊断系统往往是将现场车辆诊断数据和现场音频/视频数据上传到服务器端,在服务器端通过ar/vr技术呈现车辆检测情况,以便于后端技术人员能够远程地进行车辆检测、诊断以及维修,然后通过音频、视频等方式实时指导现场人员对车辆进行故障检测、诊断以及维修。由于数据偏差等多种因素,还是会造成一定的误差,使得远程辅助失败,因此,需要对现有的基于ar/vr的汽车远程诊断系统进一步优化。技术实现要素:5.本发明的主要目的在于提出一种基于增强现实的交互式车辆远程诊断方法、系统及其存储介质,旨在解决现有的基于ar的汽车远程诊断系统运行存在较大偏差的技术问题。6.为了解决上述技术问题,本发明提供了一种基于增强现实的交互式车辆远程诊断方法,所述方法包括:7.采集并存储车机系统上报的车辆诊断数据为第一数据流,同时采集车辆以及操作现场场景的音频、视频以及图像为第二数据流;8.将所述第一数据流和所述第二数据流加载到增强现实应用平台,基于所述第一数据流生成第一诊断增强现实应用,基于所述第二数据流生成第二诊断增强现实应用,并将所述第一诊断增强现实应用、第二诊断增强现实应用上报云端服务器;9.在所述云端服务器根据所述第一诊断增强现实应用判断车辆故障类型并根据所述车辆故障类型匹配故障解决方案,下发所述故障解决方案以及对应的解决方案增强显示应用;和/或根据所述故障解决方案以及所述第二诊断增强现实应用生成并下发从引导诊断方案增强现实应用;10.接收到所述故障解决方案、解决方案增强显示应用和引导诊断方案增强现实应用,根据所述故障解决方案提供的信息和所述解决方案增强显示应用、引导诊断方案增强现实应用的引导对车辆进行进一步检测、诊断以及维修。11.进一步的,所述将所述第一数据流和所述第二数据流加载到增强现实应用平台,基于所述第一数据流生成第一诊断增强现实应用,基于所述第二数据流生成第二诊断增强现实应用,并将所述第一诊断增强现实应用、第二诊断增强现实应用上报云端服务器的步骤之前,所述方法还包括:12.在现场使用的终端设备和所述云端服务器上安装所述增强现实应用平台。13.进一步的,将所述第一诊断增强现实应用、第二诊断增强现实应用上报云端服务器后,所述方法还包括:14.判断所述第一诊断增强现实应用、第二诊断增强现实应用中的车辆信息是否匹配,若是不匹配,下发重新采集所述第一数据流和所述第二数据流的提示。15.进一步的,在所述云端服务器根据所述第一诊断增强现实应用判断车辆故障类型并根据所述车辆故障类型匹配故障解决方案包括:16.判断所述第一诊断增强现实应用、第二诊断增强现实应用中的车辆信息是否匹配,若匹配,根据所述第一诊断增强现实应用确定所述车辆故障类型,并根据所述车辆故障类型在故障解决方案数据库中匹配对应的故障解决方案。17.进一步的,在所述云端服务器根据所述第一诊断增强现实应用判断车辆故障类型并根据所述车辆故障类型匹配故障解决方案,下发所述故障解决方案以及对应的解决方案增强显示应用包括:18.所述故障解决方案至少包括用于消除车辆故障的数据、算法、操作信息,所述解决方案增强显示应用包括根据所述故障解决方案生成的多个操作指令,检测到当前操作指令被执行后提示进行下一个操作指令直到故障解决。19.可选的,若是当前操作指令没有完成,重复提醒用户执行当前操作指令。20.检测当前操作指令是否完成则是通过检测当前操作指令中指示的某组件完成了当前操作指令;检测过程依然是通过obd采集车辆ecu的信息完成,obd采集车辆ecu的信息传输给增强现实应用平台同时传输给终端设备。21.进一步的,根据所述故障解决方案以及所述第二诊断增强现实应用生成并下发从引导诊断方案增强现实应用包括:22.根据所述故障解决方案生成的车辆诊断方案,所述引导诊断方案增强现实应用包括执行所述车辆诊断方案的多个操作指令,检测到当前操作指令被执行后提示进行下一个操作指令直到完成车辆诊断工作。23.进一步的,在所述云端服务器根据所述第一诊断增强现实应用判断车辆故障类型并根据所述车辆故障类型匹配故障解决方案,下发所述故障解决方案以及对应的解决方案增强显示应用还包括:24.判断所述第一诊断增强现实应用、第二诊断增强现实应用中的车辆信息是否匹配,若匹配,在所述云端服务器和所述终端设备同时记录对应的车辆信息,当终端设备所采集的所述第一数据流与所述车辆信息匹配时,所述云端服务器和所述终端设备调取对应的记录信息。云端服务器、终端设备对车辆信息进行标记,在下次车辆诊断时,对当前诊断的车辆信息进行比对,比对成功后,从服务器提取解决方案,节约诊断时间。25.进一步的,根据所述故障解决方案提供的信息和所述解决方案增强显示应用、引导诊断方案增强现实应用的引导对车辆进行进一步检测、诊断以及维修的步骤具体包括:26.接收到所述故障解决方案提供的信息和所述解决方案增强显示应用、引导诊断方案增强现实应用,通过语音、视频或图像识别方式提供所述故障解决方案提供的信息,通过生物特征识别方式控制所述解决方案增强显示应用、所述引导诊断方案增强现实应用,引导对车辆进行进一步检测、诊断以及维修。具体的,生物特征识别方式可以是语音控制、手势控制、表情控制、眼睛控制等等。27.进一步的,根据所述故障解决方案提供的信息和所述解决方案增强显示应用、引导诊断方案增强现实应用的引导对车辆进行进一步检测、诊断以及维修的步骤之后,所述方法还包括:28.接收到所述故障解决方案提供的信息和所述解决方案增强显示应用、引导诊断方案增强现实应用,与所述云端服务器实时通信,引导用户根据所述故障解决方案提供的信息和所述解决方案增强显示应用、引导诊断方案增强现实应用对车辆进行进一步检测、诊断以及维修,并监控操作错误情况。29.基于同一发明构思,本发明的另一方面,提供了一种基于增强现实的交互式车辆远程诊断系统,所述系统至少包括终端设备、云端服务器;30.所述终端设备,用于与车机系统进行交互,采集并存储车机系统上报的车辆诊断数据为第一数据流,同时采集车辆以及操作现场场景的音频、视频以及图像为第二数据流;将所述第一数据流和所述第二数据流加载到增强现实应用平台,基于所述第一数据流生成第一诊断增强现实应用,基于所述第二数据流生成第二诊断增强现实应用,并将所述第一诊断增强现实应用、第二诊断增强现实应用上报云端服务器;接收到所述故障解决方案、解决方案增强显示应用和引导诊断方案增强现实应用,根据所述故障解决方案提供的信息和所述解决方案增强显示应用、引导诊断方案增强现实应用的引导对车辆进行进一步检测、诊断以及维修。31.所述云端服务器,用于与所述终端设备进行交互,在所述云端服务器根据所述第一诊断增强现实应用判断车辆故障类型并根据所述车辆故障类型匹配故障解决方案,下发所述故障解决方案以及对应的解决方案增强显示应用;和/或根据所述故障解决方案以及所述第二诊断增强现实应用生成并下发从引导诊断方案增强现实应用。32.基于同一发明构思,本发明的另一方面,提供了一种计算机可读存储介质,所述计算机可读存储介质上存储有基于增强现实的交互式车辆远程诊断程序,所述基于增强现实的交互式车辆远程诊断程序被处理器执行时实现上述的基于增强现实的交互式车辆远程诊断方法的步骤。33.本发明技术方案的有益效果:34.本技术的基于增强现实的交互式车辆远程诊断方法、系统及其存储介质,通过在云端服务器、现场终端设备(如故障诊断设备、智能手机、vr眼镜等)同时安装增强现实应用平台,从而远程技术人员可以通过云端服务器获取车辆以及操作现场场景数据信息,从而通过vr设备进行直观地呈现,为现场人员快速地提供故障解决方案或者对应的车辆诊断方案,该故障解决方案、车辆诊断方案同样可以通过终端设备的增强现实应用平台进行直观地呈现,从而便捷地实现车辆远程交互式故障排除、车辆诊断,提升现场人员的车辆故障检测、诊断、维修能力。附图说明35.图1是实现本发明各个实施例的一种终端设备的硬件结构示意图;36.图2是本发明实施例提供的一种通信网络系统架构图;37.图3是本发明实施例提供的一种基于增强现实的交互式车辆远程诊断方法流程图;38.图4是本发明实施例提供的一种基于增强现实的交互式车辆远程诊断系统硬件结构框图;39.图5是本发明实施例提供的基于增强现实的交互式车辆远程诊断系统运行状态流程图;40.图6是本发明实施例提供的终端设备中ar部件硬件结构框图;本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。具体实施方式41.应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。42.在后续的描述中,使用用于表示元件的诸如“模块”、“部件”ꢀ或“单元”的后缀仅为了有利于本发明的说明,其本身没有特定的意义。因此,“模块”、“部件”或“单元”可以混合地使用。43.终端设备可以以各种形式来实施,只要能够满足车辆维修保养功能应用软件以及虚拟现实仿真平台软件的基本运行环境要求即可。例如,本发明中描述的终端可以包括诸如汽车故障诊断仪、vr眼镜、手机、平板电脑、笔记本电脑、掌上电脑、个人数字助理(personaldigitalassistant,pda)、便捷式媒体播放器(portablemediaplayer,pmp)、导航装置、可穿戴设备、智能手环、计步器等终端设备,以及诸如数字tv、台式计算机等固定终端。44.后续描述中将以终端设备为例进行说明,本领域技术人员将理解的是,除了特别用于移动目的的元件之外,根据本发明的实施方式的构造也能够应用于固定类型的终端。45.请参阅图1,其为实现本发明各个实施例的一种终端设备的硬件结构示意图,该终端设备100可以包括:rf(radiofrequency,射频)单元101、wifi模块102、音频输出单元103、a/v(音频/视频)输入单元104、传感器105、显示单元106、用户输入单元107、接口单元108、存储器109、处理器110、以及电源111等部件。本领域技术人员可以理解,图1中示出的终端设备结构并不构成对终端设备的限定,终端设备可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。46.下面结合图1对终端设备的各个部件进行具体的介绍:47.射频单元101可用于收发信息或通话过程中,信号的接收和发送,具体的,将基站的下行信息接收后,给处理器110处理;另外,将上行的数据发送给基站。通常,射频单元101包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等。此外,射频单元101还可以通过公共交通费用快捷支付与网络和其他设备通信。上述公共交通费用快捷支付可以使用任一通信标准或协议,包括但不限于gsm(globalsystemofmobilecommunication,全球移动通讯系统)、gprs(generalpacketradioservice,通用分组无线服务)、cdma2000(codedivisionmultipleaccess2000,码分多址2000)、wcdma(widebandcodedivisionmultipleaccess,宽带码分多址)、td-scdma(timedivision-synchronouscodedivisionmultipleaccess,时分同步码分多址)、fdd-lte(frequencydivisionduplexing-longtermevolution,频分双工长期演进)和tdd-lte(timedivisionduplexing-longtermevolution,分时双工长期演进)等。48.wifi属于短距离无线传输技术,终端设备通过wifi模块102可以帮助用户收发电子邮件、浏览页面和访问流式媒体等,它为用户提供了无线的宽带互联网访问。虽然图1示出了wifi模块102,但是可以理解的是,其并不属于终端设备的必须构成,完全可以根据需要在不改变发明的本质的范围内而省略。49.音频输出单元103可以在终端设备100处于呼叫信号接收模式、通话模式、记录模式、语音识别模式、广播接收模式等等模式下时,将射频单元101或wifi模块102接收的或者在存储器109中存储的音频数据转换成音频信号并且输出为声音。而且,音频输出单元103还可以提供与终端设备100执行的特定功能相关的音频输出(例如,呼叫信号接收声音、消息接收声音等等)。音频输出单元103可以包括扬声器、蜂鸣器等等。50.a/v输入单元104用于接收音频或视频信号。a/v输入单元104可以包括图形处理器(graphicsprocessingunit,gpu)1041和麦克风1042,图形处理器1041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元106上。经图形处理器1041处理后的图像帧可以存储在存储器109(或其它存储介质)中或者经由射频单元101或wifi模块102进行发送。麦克风1042可以在电话通话模式、记录模式、语音识别模式等等运行模式中经由麦克风1042接收声音(音频数据),并且能够将这样的声音处理为音频数据。处理后的音频(语音)数据可以在电话通话模式的情况下转换为可经由射频单元101发送到移动通信基站的格式输出。麦克风1042可以实施各种类型的噪声消除(或抑制)算法以消除(或抑制)在接收和发送音频信号的过程中产生的噪声或者干扰。51.终端设备100还包括至少一种传感器105,比如光传感器、运动传感器以及其他传感器。具体地,光传感器包括环境光传感器及接近传感器,其中,环境光传感器可根据环境光线的明暗来调节显示面板1061的亮度,接近传感器可在终端设备100移动到耳边时,关闭显示面板1061和/或背光。作为运动传感器的一种,加速计传感器可检测各个方向上(一般为三轴)加速度的大小,静止时可检测出重力的大小及方向,可用于识别手机姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等;至于手机还可配置的指纹传感器、压力传感器、虹膜传感器、分子传感器、陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器,在此不再赘述。52.显示单元106用于显示由用户输入的信息或提供给用户的信息。显示单元106可包括显示面板1061,可以采用液晶显示器(liquidcrystaldisplay,lcd)、有机发光二极管(organiclight-emittingdiode,oled)等形式来配置显示面板1061。53.用户输入单元107可用于接收输入的数字或字符信息,以及产生与终端设备的用户设置以及功能控制有关的键信号输入。具体地,用户输入单元107可包括触控面板1071以及其他输入设备1072。触控面板1071,也称为触摸屏,可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板1071上或在触控面板1071附近的操作),并根据预先设定的程式驱动相应的连接装置。触控面板1071可包括触摸检测装置和触摸控制器两个部分。其中,触摸检测装置检测用户的触摸方位,并检测触摸操作带来的信号,将信号传送给触摸控制器;触摸控制器从触摸检测装置上接收触摸信息,并将它转换成触点坐标,再送给处理器110,并能接收处理器110发来的命令并加以执行。此外,可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板1071。除了触控面板1071,用户输入单元107还可以包括其他输入设备1072。具体地,其他输入设备1072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种,具体此处不做限定。54.进一步的,触控面板1071可覆盖显示面板1061,当触控面板1071检测到在其上或附近的触摸操作后,传送给处理器110以确定触摸事件的类型,随后处理器110根据触摸事件的类型在显示面板1061上提供相应的视觉输出。虽然在图1中,触控面板1071与显示面板1061是作为两个独立的部件来实现终端设备的输入和输出功能,但是在某些实施例中,可以将触控面板1071与显示面板1061集成而实现终端设备的输入和输出功能,具体此处不做限定。55.接口单元108用作至少一个外部装置与终端设备100连接可以通过的接口。例如,外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(i/o)端口、视频i/o端口、耳机端口等等。接口单元108可以用于接收来自外部装置的输入(例如,数据信息、电力等等)并且将接收到的输入传输到终端设备100内的一个或多个元件或者可以用于在终端设备100和外部装置之间传输数据。56.存储器109可用于存储软件程序以及各种数据。存储器109可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外,存储器109可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。57.处理器110是终端设备的控制中心,利用各种接口和线路连接整个终端设备的各个部分,通过运行或执行存储在存储器109内的软件程序和/或模块,以及调用存储在存储器109内的数据,执行终端设备的各种功能和处理数据,从而对终端设备进行整体监控。处理器110可包括一个或多个处理单元;优选的,处理器110可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理公共交通费用快捷支付。可以理解的是,上述调制解调处理器也可以不集成到处理器110中。58.终端设备100还可以包括给各个部件供电的电源111(比如电池),优选的,电源111可以通过电源管理系统与处理器110逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。59.尽管图1未示出,终端设备100还可以包括蓝牙模块等,在此不再赘述。60.为了便于理解本发明实施例,下面对本发明的终端设备所基于的通信网络系统进行描述。61.请参阅图2,图2为本发明实施例提供的一种通信网络系统架构图,该通信网络系统为通用移动通信技术的lte系统,该lte系统包括依次通讯连接的ue(userequipment,用户设备)201,e-utran(evolvedumtsterrestrialradioaccessnetwork,演进式umts陆地无线接入网)202,epc(evolvedpacketcore,演进式分组核心网)203和运营商的ip业务204。62.具体地,ue201可以是上述终端100,此处不再赘述。63.e-utran202包括enodeb2021和其它enodeb2022等。其中,enodeb2021可以通过回程(backhaul)(例如x2接口)与其它enodeb2022连接,enodeb2021连接到epc203,enodeb2021可以提供ue201到epc203的接入。64.epc203可以包括mme(mobilitymanagemententity,移动性管理实体)2031,hss(homesubscriberserver,归属用户服务器)2032,其它mme2033,sgw(servinggateway,服务网关)2034,pgw(pdngateway,分组数据网络网关)2035和pcrf(policyandchargingrulesfunction,政策和资费功能实体)2036等。其中,mme2031是处理ue201和epc203之间信令的控制节点,提供承载和连接管理。hss2032用于提供一些寄存器来管理诸如归属位置寄存器(图中未示)之类的功能,并且保存有一些有关服务特征、数据速率等用户专用的信息。所有用户数据都可以通过sgw2034进行发送,pgw2035可以提供ue201的ip地址分配以及其它功能,pcrf2036是业务数据流和ip承载资源的策略与计费控制策略决策点,它为策略与计费执行功能单元(图中未示)选择及提供可用的策略和计费控制决策。65.ip业务204可以包括因特网、内联网、ims(ipmultimediasubsystem,ip多媒体子系统)或其它ip业务等。66.虽然上述以lte系统为例进行了介绍,但本领域技术人员应当知晓,本发明不仅仅适用于lte系统,也可以适用于其他公共交通费用快捷支付系统,例如gsm、cdma2000、wcdma、td-scdma以及未来新的网络系统等,此处不做限定。67.基于上述终端设备100硬件结构、通信网络系统提出本发明方法各个实施例。68.实施例169.如图3、5所示,本发明实施例提供了一种基于增强现实的交互式车辆远程诊断方法,所述方法包括:70.s101、采集并存储车机系统上报的车辆诊断数据为第一数据流,同时采集车辆以及操作现场场景的音频、视频以及图像为第二数据流;71.s102、将所述第一数据流和所述第二数据流加载到增强现实应用平台,基于所述第一数据流生成第一诊断增强现实应用,基于所述第二数据流生成第二诊断增强现实应用,并将所述第一诊断增强现实应用、第二诊断增强现实应用上报云端服务器;72.具体的,在现场使用的终端设备和所述云端服务器上安装所述增强现实应用平台。虚拟现实技术作为仿真技术的一个重要方向,是仿真技术与计算机图形学、人机接口技术、多媒体技术、传感技术、网络技术等多种技术的集合,可以包括以下功能:产品功能三维模型本地导入接口、数字样机评审、交互式虚拟装配、三维模型在线导入、多通道立体显示、通过vr外设接口、刚体物理仿真、动画编辑器、约束管理器、场景管理器、材质管理器、柔体物理仿真、可视化编辑、照片级实时渲染、vr协同编辑、人机工程仿真。如makereal3d“工业产品全生命周期虚拟现实仿真平台”,集成了虚拟现实仿真技术在产品设计、制造、营销、使用、维护等生命周期各环节的应用与开发,从而帮助工业客户提高工作效率及产品体验。73.s103、在所述云端服务器根据所述第一诊断增强现实应用判断车辆故障类型并根据所述车辆故障类型匹配故障解决方案,下发所述故障解决方案以及对应的解决方案增强显示应用;和/或根据所述故障解决方案以及所述第二诊断增强现实应用生成并下发从引导诊断方案增强现实应用;74.判断所述第一诊断增强现实应用、第二诊断增强现实应用中的车辆信息是否匹配,若是不匹配,下发重新采集所述第一数据流和所述第二数据流的提示。若匹配,根据所述第一诊断增强现实应用确定所述车辆故障类型,并根据所述车辆故障类型在故障解决方案数据库中匹配对应的故障解决方案。75.可选的,当无法确定车辆故障类型时,后台技术人员在云端服务器结合所述第一数据流和所述第二数据流进行人工操作判断,且当故障解决方案数据库中无法对该车辆故障类型提供匹配的故障解决方案时,后台技术人员可以自定义该车辆故障类型并保存,同时将对应的故障解决方案增加到故障解决方案数据库中。76.具体的,所述故障解决方案至少包括用于消除车辆故障的数据、算法、操作信息,所述解决方案增强显示应用包括根据所述故障解决方案生成的多个操作指令,检测到当前操作指令被执行后提示进行下一个操作指令直到故障解决。77.可选的,若是当前操作指令没有完成,重复提醒用户执行当前操作指令。78.检测当前操作指令是否完成则是通过检测当前操作指令中指示的某组件完成了当前操作指令;检测过程依然是通过obd采集车辆ecu的信息完成,obd采集车辆ecu的信息传输给增强现实应用平台同时传输给终端设备。79.可选的,根据所述故障解决方案以及所述第二诊断增强现实应用生成并下发从引导诊断方案增强现实应用包括:根据所述故障解决方案生成的车辆诊断方案,所述引导诊断方案增强现实应用包括执行所述车辆诊断方案的多个操作指令,检测到当前操作指令被执行后提示进行下一个操作指令直到完成车辆诊断工作。80.具体的,基于增强现实应用平台获取第一诊断增强现实应用,解析第一数据流匹配对应车辆信息后,调取增强现实应用平台内集成的车辆虚拟现实模型,在车辆虚拟现实模型界面通过标记、提示说明等多种方式将、第二诊断增强现实应用中的音频、视频、图像、现场人员的判断说明等信息进行记录并生成对应的故障情况说明程序。81.同理,基于同一增强现实应用平台获取解决方案增强显示应用、引导诊断方案增强现实应用。解决方案增强显示应用包含基于故障解决方案,为了排除车辆故障状态,基于该车辆的虚拟现实模型,用户应执行的每一步骤,同时展示在同一个场景中;并按照组件不同,各步骤显示在对应的组件处,以直接指导用户操作。引导诊断方案增强现实应用:包括显示待诊断的错误信息、标记问题错误点、标记即将进行的故障清除码等。82.解决方案增强显示应用,一个记载了解决车辆故障问题的所有操作步骤,让用户完成解决方案的所有动作指令,从而排除车辆故障状态,用户可选择解决方案增强显示应用,结合实际场景手动操作诊断仪完成车辆诊断工作;这种方式可被广泛应用于diy用户和初次使用诊断仪的用户。83.引导诊断方案增强现实应用,采用引导用户自己诊断车辆故障问题的成型,实质上是一个引导诊断程序,引导用户进行故障排查、故障检测等操作,用户可选择引导诊断方案增强现实应用,通过语音/手势控制增强现实诊断设备进行车辆智能诊断工作,这种方式因为ꢀ“智能、错失率极低、可解放双手”等优势可被广泛应用于任何需要进行车辆诊断工作的场景。84.可选的,在所述云端服务器根据所述第一诊断增强现实应用判断车辆故障类型并根据所述车辆故障类型匹配故障解决方案,下发所述故障解决方案以及对应的解决方案增强显示应用还包括:85.判断所述第一诊断增强现实应用、第二诊断增强现实应用中的车辆信息是否匹配,若匹配,在所述云端服务器和所述终端设备同时记录对应的车辆信息,当终端设备所采集的所述第一数据流与所述车辆信息匹配时,所述云端服务器和所述终端设备调取对应的记录信息。云端服务器、终端设备对车辆信息进行标记,在下次车辆诊断时,对当前诊断的车辆信息进行比对,比对成功后,从服务器提取解决方案,节约诊断时间。86.s104、接收到所述故障解决方案、解决方案增强显示应用和引导诊断方案增强现实应用,根据所述故障解决方案提供的信息和所述解决方案增强显示应用、引导诊断方案增强现实应用的引导对车辆进行进一步检测、诊断以及维修。87.具体的,接收到所述故障解决方案提供的信息和所述解决方案增强显示应用、引导诊断方案增强现实应用,通过语音、视频或图像识别方式提供所述故障解决方案提供的信息,通过生物特征识别方式控制所述解决方案增强显示应用、所述引导诊断方案增强现实应用,引导对车辆进行进一步检测、诊断以及维修。具体的,生物特征识别方式可以是语音控制、手势控制、表情控制、眼睛控制等等。现场人员(用户)通过使用ar,摆脱手持设备的限制,专心于维修过程;现场人员(用户)可通过声音或手势,操控诊断设备。88.可选的,根据所述故障解决方案提供的信息和所述解决方案增强显示应用、引导诊断方案增强现实应用的引导对车辆进行进一步检测、诊断以及维修的步骤之后,所述方法还包括:89.接收到所述故障解决方案提供的信息和所述解决方案增强显示应用、引导诊断方案增强现实应用,与所述云端服务器实时通信,引导用户根据所述故障解决方案提供的信息和所述解决方案增强显示应用、引导诊断方案增强现实应用对车辆进行进一步检测、诊断以及维修,并监控操作错误情况。当现场人员无法根据故障解决方案进行操作时,后台技术人员可利用网络等,通过ar获取维修现场的实时画面,指导现场人员进行维修;引导按照步骤完成诊断,并实时监控错误问题等,进一步的,远程端可以实时看到用户操作的步骤。在授权后,后台技术人员可远程操控现场终端设备。90.可选的,在所述云端服务器根据所述第一诊断增强现实应用判断车辆故障类型并根据所述车辆故障类型匹配故障解决方案,下发所述故障解决方案以及对应的解决方案增强显示应用;和/或根据所述故障解决方案以及所述第二诊断增强现实应用生成并下发从引导诊断方案增强现实应用的步骤之前,所述方法还包括:91.当第二数据流中包括利用全景摄像头采集的车辆以及操作现场场景图像数据时,利用ar设备呈现车辆以及操作现场场景的立体情景。92.具体的,当通过vr设备呈现的虚拟现实图像难以判断车辆以及操作现场场景图像时,若是现场人员具有全景摄像头,全景摄像头可以采用insta360或gopro全景摄像头,通过连接到type-c接口或mini-usb或苹果lightning接口接到终端设备上;可以通过全景摄像头采集的车辆以及操作现场场景图像数据时,采用实时或者后台技术人员选择方式,采用vr眼镜等呈现车辆以及操作现场场景的立体情景,在vr眼镜中进行全景播放,后台技术人员带上vr眼镜后,仿佛置身于汽车维修现场,通过观察汽车实时数据,结合现场画面,便可对汽车状况进行准确分析。93.实施例294.如图4所示,本发明实施例还提供了一种基于增强现实的交互式车辆远程诊断系统,所述系统至少包括终端设备100、云端服务器200;终端设备100与云端服务器200通过网络连接,可以是3g、4g、5g、wifi等等。95.所述终端设备100,用于与车机系统300进行交互,采集并存储车机系统300上报的车辆诊断数据为第一数据流,同时采集车辆以及操作现场场景的音频、视频以及图像为第二数据流;将所述第一数据流和所述第二数据流加载到增强现实应用平台,基于所述第一数据流生成第一诊断增强现实应用,基于所述第二数据流生成第二诊断增强现实应用,并将所述第一诊断增强现实应用、第二诊断增强现实应用上报云端服务器;接收到所述故障解决方案、解决方案增强显示应用和引导诊断方案增强现实应用,根据所述故障解决方案提供的信息和所述解决方案增强显示应用、引导诊断方案增强现实应用的引导对车辆进行进一步检测、诊断以及维修。具体的,车辆诊断数据包括算法id、算法运行参数与车辆品牌信息、车型信息、vin、ecu零件号、ecu固件/软件版本的其中一种或者多种。96.所述云端服务器200,用于与所述终端设备100进行交互,在所述云端服务器200根据所述第一诊断增强现实应用判断车辆故障类型并根据所述车辆故障类型匹配故障解决方案,下发所述故障解决方案以及对应的解决方案增强显示应用;和/或根据所述故障解决方案以及所述第二诊断增强现实应用生成并下发从引导诊断方案增强现实应用。97.基于同一发明构思,本发明的另一方面,提供了一种基于增强现实的交互式车辆远程诊断系统,所述系统至少包括终端设备、云端服务器;98.具体的,终端设备100可以多种形态,如vr眼镜、汽车故障诊断仪与obd连接器结合等,操作时,现场人员(用户)可通过ar设备,对拍摄到的物件进行识别,与汽车维修资料进行结合,标出名称、电路走向、拆解等增强现实诊断画面中的操作步骤流程等。ar与终端设备的记忆模块可以记录配对信息,首次配对后,可默认自动连接。例如,基于ar智能眼镜,现场人员解放了双手的同时以第一视角与后台技术人员实时沟通;基于富媒体技术(文字、图片、文档、白板等功能)实现远程指导和交互,保证后天技术人员指导的可视化和准确性;实时ar辅助指导,后台技术人员通过ar实时标记、圈点、手绘等ar工具,将指导信息叠加于前端所见内容之上,现场操作人员可实时查看ar叠加内容,并实时追踪;基于云端服务器的管理平台,管理人员不但可以查看历史数据,结合大数据平台分析处理实现态势感知,以及促进维修工作流程的优化改进,实现智能化管理。99.终端设备100可以包括汽车故障诊断仪、obd连接器、ar部件/vr部件等所有硬件功能模块以及软件功能模块,也可以是汽车故障诊断仪、obd连接器、ar部件/vr部件融合为一体机,终端设备100与车机系统300可以通过obd接头建立连接,也可以采用vci设备,vci设备集成有蓝牙通讯模组,可以实现终端设备100与车机系统300的无线通讯功能。100.如图6所示,终端设备100的ar部件10包括以下组成单元:101.电源单元11:实现对其他单元的电源提供,满足各部件正常运作。电源供电方式包含:直流供电部分(供电电压转换组件等),电池供电部分(电池组件、充电组件、电池包含组件、供电电压转换组件)中的一种或多种组合。102.摄像单元12:主要由镜头、感光组件等组成,实现可见光和非可见光的感光并形成图像的过程,可根据需要搭配一个或多个镜头,满足可见光、或非可见光或可见光和非可见光两者的成像处理。103.ar处理单元13:可运行操作系统及应用软件,对应的软件可存储于“存储单元”。“电源单元”提供ar部件运行所需电源,启动应用软件,可通过“通讯模块”与“vci/other”等连接,实现不同的功能,在“显示单元”中予以展示,用户根据展示内容,可通过“按键及控制单元”或“音频单元”进行对应的应用操作(如:选择,翻页,确认,返回,数值输入等等),同时“ar处理单元”对“摄像单元”和“音频单元”获取的视频、音频数据进行加工处理,如:合成、存储、标定(手势识别)等。104.通讯单元14:由有线模块(如:usb、网线等)或无线模块(如:wifi、4g/5g等无线网络、蓝牙等组成),可实现与“vci/other”部件、网络等的通讯功能。105.显示单元15:主要由显示面板、投影等组成,满足ar处理单元的展示内容呈现。106.音频单元16:由音频接收(如:mic等)和音频输出(如:speaker等)组成,满足ar处理单元的音频输入和输出。107.按键及控制单元17:由按键、触摸板等组成,实现对ar部件的物理操作控制,如:开机、内容选择等等。108.存储单元18:满足ar部件运行时,数据存储和交换等需求。109.实施例3110.本发明实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质上存储有基于增强现实的交互式车辆远程诊断程序,所述基于增强现实的交互式车辆远程诊断程序被处理器执行时实现实施例1的基于增强现实的交互式车辆远程诊断方法的步骤。111.本技术的基于增强现实的交互式车辆远程诊断方法、系统及其存储介质,通过在云端服务器、现场终端设备(如故障诊断设备、智能手机、vr眼镜等)同时安装增强现实应用平台,从而远程技术人员可以通过云端服务器获取车辆以及操作现场场景数据信息,从而通过vr设备进行直观地呈现,为现场人员快速地提供故障解决方案或者对应的车辆诊断方案,该故障解决方案、车辆诊断方案同样可以通过终端设备的增强现实应用平台进行直观地呈现,从而便捷地实现车辆远程交互式故障排除、车辆诊断,提升现场人员的车辆故障检测、诊断、维修能力。112.需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。113.上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。114.通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如rom/ram、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本发明各个实施例所述的方法。115.以上仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的
技术领域
:,均同理包括在本发明的专利保护范围内。当前第1页12当前第1页12
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1