一种图像数据处理方法及电子设备与流程

文档序号:13392820阅读:170来源:国知局

本发明涉及显示技术,尤其涉及一种图像数据处理方法及电子设备。



背景技术:

随着机器人的在各个领域的应用越来越广泛,机器人与用户终端(客户端)的之间能够进行信息交互的范围也越来越广,例如,客户端与机器人可进行远程视频通话,即客户端通过远程遥控功能控制机器人的行为,查看机器人所看到的场景;实现过程为机器人根据客户端的指令采集图像数据,并将图像数据进行压缩处理后,发送给客户端。

但是,由于客户端向机器人发送指令到机器人接收到指令之间,存在时间延迟;同时,机器人对视频数据进行压缩、传输的过程存在时间延迟;因此,客户端接收到的图像数据,并非是机器人采集该图像数据的时间,而是晚于机器人采集该图像数据的时间。如此,不仅严重影响机器人在制造业、资源勘探开发、救灾排险、医疗服务、家庭娱乐、军事和航天等领域的应用效果,而且降低用户的使用体验。



技术实现要素:

本发明实施例提供一种图像数据处理方法,能够实现客户端接收到的图像数据即为当前时刻的图像数据,提高用户的使用体验。

本发明实施例的技术方案是这样实现的:

本发明实施例提供一种图像数据处理方法,应用于第一电子设备,包括:获得第二电子设备以第一采集位姿采集环境的第一图像数据;基于所述第一图像数据,确定在接收到所述第一图像数据的时刻,所述第一图像数据对应的显示参数;根据所确定的显示参数对所述第一图像数据进行处理,生成第二图像数据;显示所述第二图像数据。

上述方案中,所述确定在接收到所述第一图像数据的时刻,所述第一图像数据对应的显示参数,包括:

确定在接收到所述第一图像数据的时刻,所述第二电子设备的第二采集位姿;

确定显示所述第一图像数据时与所述第二采集位姿匹配的显示参数。

上述方案中,所述确定在接收到所述第一图像数据的时刻,所述第二电子设备的第二采集位姿,包括:

接收到第一图像数据时,提取所述第一图像数据中携带的所述第二电子设备的运动参数;基于所述运动参数和所述传输延迟时间,对记录的第二电子设备的采集位姿更新,得到所述第二采集位姿;

或,根据多次接收来自所述第二电子设备的历史图像数据训练机器学习模型,基于所述机器学习模型分析出所述第二电子设备的运动参数和传输延迟时间;基于所述运动参数和所述传输延迟时间,对记录的第二电子设备的采集位姿更新,得到所述第二采集位姿;

或,接收到第一图像数据时,提取所述第一图像数据中携带的所述第二电子设备第二采集位姿。

上述方案中,所述确定传输延迟时间,包括:

根据所述第一图像数据确定所述第一图像数据的发送时间;

记录所述第一图像数据的接收时间;

基于所述接收时间和所述发送时间的差值,确定所述传输延迟时间。

上述方案中,所述确定显示所述第一图像数据时与所述第二采集位姿匹配的显示参数,包括:

根据所述第一采集位姿和所述第二采集位姿,确定所述第二电子设备的采集位姿变化量;

基于所述采集位姿变化量确定显示补偿参数;

基于所述显示补偿参数及所述第一图像数据,确定显示所述第一图像数据时与所述第二采集位姿匹配的显示参数。

本发明实施例还提供一种电子设备,包括:第一处理器,用于获得第二电子设备以第一采集位姿采集环境的第一图像数据;

基于所述第一图像数据,确定在接收到所述第一图像数据的时刻,所述第一图像数据对应的显示参数;

根据所确定的显示参数对所述第一图像数据进行处理,生成第二图像数据;

显示器,用于显示所述第二图像数据。

本发明实施例还提供一种图像处理方法,应用于第二电子设备,包括:以第一采集位姿采集环境的第一图像数据;

基于所述第一图像数据,确定第一电子设备在接收到所述第一图像数据的时刻,所述第一图像数据对应的显示参数;

根据所确定的显示参数对所述第一图像数据进行处理,生成第二图像数据;

发送所述第二图像数据至所述第一电子设备。

上述方案中,所述确定第一电子设备在接收到所述第一图像数据的时刻,所述第一图像数据对应的显示参数,包括:

确定所述第一电子设备在接收到所述第一图像数据的时刻,所述第二电子设备的第二采集位姿;

确定显示所述第一图像数据时与所述第二采集位姿匹配的显示参数。

上述方案中,所述确定所述第一电子设备在接收到所述第一图像数据的时刻,所述第二电子设备的第二采集位姿,包括:

基于自身的运动参数和传输时延,对记录的自身的采集位姿更新,得到所述第二采集位姿;

或,根据自身多次发送的历史图像数据,训练机器学习模型,基于所述机器学习模型分析自身的运动参数和传输延迟时间;基于所述运动参数和所述传输延迟时间,对记录的自身的采集位姿更新,得到所述第二采集位姿;

或,根据预设策略确定自身的第二采集位姿。

本发明实施例还提供一种电子设备,包括:第二处理器,用于以第一采集位姿采集环境的第一图像数据;

基于所述第一图像数据,确定第一电子设备在接收到所述第一图像数据的时刻,所述第一图像数据对应的显示参数;

根据所确定的显示参数对所述第一图像数据进行处理,生成第二图像数据;

发送器,发送所述第二图像数据至所述第一电子设备。

本发明实施例中,首先确定第一电子设备接收到第一图像数据的时刻,第一图像数据对应的显示参数,再根据确定的显示参数对第一图像进行处理后生成第二图像数据;如此,能够补偿第一电子设备与第二电子设备进行指令及数据传输产生的时间延迟,以及第二电子设备向第一电子设备发送图像数据时,对图像数据进行处理产生的时间延迟,实现第一电子设备接收到的图像数据即为当前时刻的图像数据,提高了用户的使用体验。

附图说明

图1-1为本发明实施例提供的图像处理方法的一个可选的架构示意图;

图1-2为本发明实施例提供的图像处理方法的另一个可选的架构示意图

图2为本发明实施例提供的图像数据处理方法的一个可选流程示意图;

图3为本发明实施例提供的在t1时刻采集到的第一图像的示意图;

图4为本发明实施例提供的在t2时刻采集到的第一图像的示意图一;

图5为本发明实施例提供的在t2时刻采集到的第一图像的示意图二;

图6为本发明实施例提供的图像数据处理方法的另一个可选流程示意图;

图7为本发明实施例提供的第一图像在t3时刻的示意图;

图8为本发明实施例提供的第一图像在t1时刻与在t3时刻重合的示意图;

图9为本发明实施例一种电子设备的组成结构示意图;

图10为本发明实施例另一种电子设备的组成结构示意图。

具体实施方式

对本发明进行进一步详细说明之前,对本发明实施例中涉及的名词和术语进行说明,本发明实施例中涉及的名词和术语适用于如下的解释。

1)机器人,是自动执行工作的机器装置,不仅可以接受人类指挥,还可以运行预先编排的程序,也可以根据以人工智能技术制定的原则纲领行动。

2)第一电子设备,用户侧使用的智能手机、平板电脑和可穿戴设备等各种形式的计算设备。

3)位姿,机器人未端操作器在指定坐标系中的位置和位姿。

4)景深,是指在摄影机镜头或其他成像器前沿能够取得清晰图像的成像所测定的被摄物体前后距离范围。

下面结合附图和具体实施例对本发明作进一步详细说明。

作为一个示例,图像处理方法在第一电子设备侧实施,第一电子设备可以是智能手机、平板电脑、笔记本电脑或穿戴式设备(如智能眼镜、智能手表等),第一电子设备上存储有用于实现图像处理方法的应用程序,可以是特定的用于实现图像处理方法的应用程序,也可以是存储在移动终端内的其他应用程序;移动终端的操作系统可以是安卓操作系统、ios操作系统或其他任意第三方开发的可以运行于微型计算机结构(至少包括处理器和内存)的操作系统(如移动版linux系统、黑莓qnx操作系统等)。

图1-1示出了本发明实施例提供的图像处理方法的一个可选的架构示意图,第一电子设备通过网络服务器获取第二电子设备(机器人)以第一采集位姿采集环境的第一图像数据;基于所述第一图像数据,确定在接收到所述第一图像数据的时刻,所述第一图像数据对应的显示参数;根据所确定的显示参数对所述第一图像数据进行处理,生成第二图像数据;显示所述第二图像数据。

下面结合图1-1示出的架构示意图对本发明实施例提供的图像数据处理方法进行说明,本发明实施例提供的图像数据处理方法的一个可选流程示意图,如图2所示,将基于各个步骤进行说明。

步骤s101,第一电子设备获得第二电子设备以第一采集位姿采集环境的第一图像数据;

在一可选实施例中,第一电子设备向第二电子设备发送的采集图像数据的指令,第二电子设备基于该指令以第一采集位姿采集环境的第一图像数据,并通过网络将第一图像数据发送至第一电子设备,以使第一电子设备获取到第一图像数据。

这里,第一采集位姿可以是第二电子设备接收到指令时刻的位姿,也可以是第一电子设备发送的采集图像数据的指令中携带的,指定第二电子设备采集图像数据时的位姿。

步骤s102,第一电子设备基于所述第一图像数据,确定在接收到所述第一图像数据的时刻,所述第一图像数据对应的显示参数;

在一可选实施例中,第一电子设备基于所述第一图像数据,确定在接收到第一图像数据的时刻,第二电子设备的第二采集位姿,并确定显示第一图像数据时,与第二采集位姿匹配的显示参数。

基于上述可选实施例,第一电子设备确定在接收到第一图像数据的时刻,第二电子设备的采集位姿至少包括如下实施方式:

在一可选实施方式中,第一电子设备接收到第一图像数据时,提取第一图像数据中携带的第二电子设备的运动参数;确定第一电子设备与和第二电子设备进行数据传输及指令传输产生的传输延迟时间;基于运动参数和传输延迟对记录的第二电子设备的采集位姿更新,得到第二采集位姿。

这里,第二电子设备的运动参数,至少包括第二电子设备的运动速度和运动方向。

其中,确定传输延迟的一种实现方式为:第一电子设备根据接收到的第一图像数据,确定自身接收第一图像数据的时间,以及第二电子设备发送第一图像数据的时间;根据第一电子设备接收第一图像数据的时间与第二电子设备发送第一图像数据的时间的差值,确定传输延迟。

在另一可选实施方式中,第一电子设备根据多次接收来自所述第二电子设备的历史图像数据训练机器学习模型,基于所述机器学习模型分析出所述第二电子设备的运动参数和传输延迟时间;基于所述运动参数和所述传输延迟时间,对记录的第二电子设备的采集位姿更新,得到所述第二采集位姿。

这里,第一电子设备基于第二电子设备多次发送的历史图像数据样本构造的训练样本(第二电子设备发送数据的时间、第一电子设备接收数据的时间、第一电子设备采集数据的位姿、第二电子设备的运动参数),以及所述训练样本标记的目标状态(在第一电子设备接收数据的时刻,第二电子设备的运动参数和传输延迟时间),训练机器学习模型,使得所述机器学习模型具有根据所述训练样本预测相应的目标状态的性能;将接收到的图像数据输入机器学习模型,利用所述机器学习模型预测目标状态(第一电子设备接收数据的时刻,第二电子设备的运动参数和传输延迟时间)。

在又一可选实施方式中,第一电子设备接收到第一图像数据时,提取所述第一图像数据中携带的第二电子设备的第二采集位姿。在该可选实施方式中,由第二电子设备确定自身的第二采集位姿,并将确定的第二采集位姿携带于第一图像数据中,发送至第一电子设备。第二电子设备确定第二采集位姿的实现方式可以是基于上述训练机器学习模型的方式获得,也可以是第二电子设备基于自身的运动参数和传输延迟时间来获得。

基于上面的描述,第一电子设备确定在接收到所述第一图像数据的时刻,所述第二电子设备的第二采集位姿之后,第一电子设备根据第一采集位姿和第二采集位姿,确定第二电子设备的采集位姿变化量;基于采集位姿变化量确定显示补偿参数,显示补偿参数包括景深补偿参数和视角补偿参数;利用显示补偿参数对第一图像数据的显示参数进行补偿,得到显示第一图像数据时,与第二采集位姿匹配的显示参数。

步骤s103,根据所确定的显示参数对第一图像进行处理,生成第二图像数据;

在一可选实施例中,第一电子设备根据确定的显示参数,对第一图像数据进行修正,包括对第一图像数据的景深和视角进行修正,生成第二图像数据。

举例来说,在第二电子设备的行进路径为直行前进时,对第一图像数据进行处理时,第一图像数据的视角不改变,通过改变第一图像数据的景深,使得第一图像数据对应的第一图像部分区域(如中心区域),实现特定比例的放大。可以理解为,如图3所示,在第二电子设备以第一采集位姿采集第一图像数据的时刻t1,第一图像数据对应的图像尺寸为a;第二电子设备对第一图像数据进行处理、发送至第一电子设备的过程中,存在数据处理延时及数据传输延时;在数据处理延时及数据传输延时的时间段δt内,第二电子设备已经从第一采集位姿对应的位置,变更为以第二采集位姿对应的位置;第二电子设备以第二采集位姿采集图像数据的时刻为t2,t2=t1+δt。在t2时刻,第二电子设备在t2时刻以第二采集位姿采集到的图像数据,与第二电子设备在t1时刻以第一采集位姿采集到的第一图像数据相比,图像内容不变,图像尺寸变大。如图4所示,将第二电子设备在t1时刻以第一采集位姿采集到的第一图像数据进行放大显示处理,使得第一图像数据在t2时刻对应的显示图像尺寸为b,b大于a。这里,可以对第一图像数据对应的第一图像的特定区域(如中间区域)进行放大处理。

同理,在第二电子设备的行进路径为直行后退时,对第一图像数据进行处理时,第一图像数据的视角不改变,通过改变第一图像数据的景深,使得第一图像数据对应的第一图像、或第一图像的部分区域(如中心区域),实现特定比例的缩小,如图5所示。

步骤s104,显示所述第二图像数据。

第一电子设备通过自身的显示装置(如屏幕)显示第二图像数据。

作为一个示例,图像处理方法在第二电子设备侧实施,第二电子设备可以是机器人等具备图像采集及数据处理、发送功能的电子设备,第二电子设备上存储有用于实现图像处理方法的应用程序,可以是特定的用于实现图像处理方法的应用程序。

图1-2示出了本发明实施例提供的图像处理方法的另一个可选的架构示意图,第二电子设备(机器人)以第一采集位姿采集环境的第一图像数据;基于所述第一图像数据,确定第一电子设备在接收到所述第一图像数据的时刻,所述第一图像数据对应的显示参数;根据所确定的显示参数对所述第一图像数据进行处理,生成第二图像数据;通过网络发送所述第二图像数据至所述第一电子设备。

下面结合图1-2示出的架构示意图对本发明实施例提供的图像数据处理方法进行说明,本发明实施例提供的图像数据处理方法的一个可选流程示意图,如图6所示,将基于各个步骤进行说明。

步骤s201,第二电子设备以第一采集位姿采集环境的第一图像数据;

在一可选实施例中,第一电子设备向第二电子设备发送的采集图像数据的指令,第二电子设备基于该指令以第一采集位姿采集环境的第一图像数据。

这里,第一采集位姿可以是第二电子设备接收到指令时刻的位姿,也可以是第一电子设备发送的采集图像数据的指令中携带的,指定第二电子设备采集图像数据时的位姿。

步骤s202,第二电子设备基于所述第一图像数据,确定第一电子设备在接收到所述第一图像数据的时刻,所述第一图像数据对应的显示参数。

在一可选实施例中,第二电子设备基于所述第一图像数据,确定第一电子设备在接收到第一图像数据的时刻,第二电子设备的第二采集位姿,并确定第一电子设备在显示第一图像数据的时刻,与第二采集位姿匹配的显示参数。

基于上述可选实施例,第二电子设备确定在接收到第一图像数据的时刻,第二电子设备的采集位姿至少包括如下实施方式:

在一可选实施方式中,基于自身的运动参数和传输时延,对记录的自身的采集位姿更新,得到所述第二采集位姿;

这里,第二电子设备的运动参数,至少包括第二电子设备的运动速度和运动方向。

其中,确定传输延迟的一种实现方式为:第一电子设备根据接收到的第一图像数据,确定自身接收第一图像数据的时间,以及第二电子设备发送第一图像数据的时间;根据第一电子设备接收第一图像数据的时间与第二电子设备发送第一图像数据的时间的差值,确定传输延迟。

在另一可选实施方式中,第二电子设备根据多次发送至第一电子设备的历史图像数据训练机器学习模型,基于所述机器学习模型分析出第二电子设备的运动参数和传输延迟时间;基于所述运动参数和所述传输延迟时间,对记录的第二电子设备的采集位姿更新,得到所述第二采集位姿。

这里,第二电子设备基于多次发送至第一电子设备的历史图像数据样本构造的训练样本(第二电子设备发送数据的时间、第一电子设备接收数据的时间、第一电子设备采集数据的位姿、第二电子设备的运动参数),以及所述训练样本标记的目标状态(在第一电子设备接收数据的时刻,第二电子设备的运动参数和传输延迟时间),训练机器学习模型,使得所述机器学习模型具有根据所述训练样本预测相应的目标状态的性能;将接收到的图像数据输入机器学习模型,利用所述机器学习模型预测目标状态(第一电子设备接收数据的时刻,第二电子设备的运动参数和传输延迟时间)。

在又一可选实施方式中,第一电子设备根据预设的策略确定自身的第二采集位姿。

基于上面的描述,第二电子设备确定第一电子设备在接收到所述第一图像数据的时刻,第二电子设备的第二采集位姿之后,第二电子设备根据第一采集位姿和第二采集位姿,确定第二电子设备的采集位姿变化量;基于采集位姿变化量确定显示补偿参数,显示补偿参数包括景深补偿参数和视角补偿参数;利用显示补偿参数对第一图像数据的显示参数进行补偿,得到第一电子设备显示第一图像数据时,与第二采集位姿匹配的显示参数。

步骤s203,第二电子设备根据所确定的显示参数对所述第一图像数据进行处理,生成第二图像数据。

在一可选实施例中,第二电子设备根据确定的显示参数,对第一图像数据进行修正,包括对第一图像数据的景深和视角进行修正,生成第二图像数据。

举例来说,在第二电子的行进路径为转弯时,对第一图像数据进行处理时,第一图像数据的视角及景深均发生变化。第二电子设备在t1时刻,采集到的第一图像数据对应的第一图像如图3所示,以及第二电子设备在t3时刻,采集到的图像数据对应的第二图像如图7所示;其中,t3时刻为第一电子设备接收到第一图像数据的时刻。结合图3和图7可以看出,在t3时刻,第二电子设备采集到的图像数据包括第一图像数据的部分内容,如图8所示;因此,为了使在t3时刻,第一电子设备接收到第一图像数据,与第二电子设备采集的图像数据匹配,需将第二电子设备在t3时刻采集到的图像数据与第二电子设备在t1时刻采集到的第一图像数据重合的部分进行剥。对于剥离的图像数据,第二电子设备在t1时刻的采集位姿与在t3时刻的采集位姿不同,因此,在t3时刻,剥离的图像数据的显示参数(景深和视角)均会发生变化。根据修正后的显示参数对剥离的图像数据进行处理,即得到与第二电子设备在t3时刻的采集位姿相匹配的第二图像数据。

步骤s204,发送所述第二图像数据至所述第一电子设备。

在一可选实施例中,第一电子设备发送第二图像数据至第一电子设备,以使第一电子设备对第二图像数据进行显示。

本发明上述实施例第一电子设备与第二电子设备基于图像数据进行通信的过程中,第二电子设备还可以将自身的位置信息及行进方向信息发送至第一电子设备,以使第一电子设备与第二电子设备在进行远程通信的过程中,第一电子设备可以实时同步第二电子设备所在位置的地图。

本发明实施例还提供一种电子设备,组成结构如图9所示,包括:

第一处理器10,用于获得第二电子设备以第一采集位姿采集环境的第一图像数据;

基于所述第一图像数据,确定在接收到所述第一图像数据的时刻,所述第一图像数据对应的显示参数;

根据所确定的显示参数对所述第一图像数据进行处理,生成第二图像数据;

显示器11,用于显示所述第二图像数据。

所述电子设备还包括存储介质13以及至少一个外部通信接口14;所述第一处理器10、显示器11、存储介质13以及外部通信接口14均通过总线12连接。

本发明实施例还提供另一种电子设备,组成结构如图10所示,包括:

第二处理器20,用于以第一采集位姿采集环境的第一图像数据;

基于所述第一图像数据,确定第一电子设备在接收到所述第一图像数据的时刻,所述第一图像数据对应的显示参数;

根据所确定的显示参数对所述第一图像数据进行处理,生成第二图像数据;

发送器21,发送所述第二图像数据至所述第一电子设备。

所述电子设备还包括存储介质23以及至少一个外部通信接口24;所述第一处理器20、发送器21存储介质23、以及外部通信接口24均通过总线12连接。

本领域普通技术人员可以理解:实现上述方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成,前述的程序可以存储于一计算机可读取存储介质中,该程序在执行时,执行包括上述方法实施例的步骤;而前述的存储介质包括:移动存储设备、只读存储器(rom,read-onlymemory)、随机存取存储器(ram,randomaccessmemory)、磁碟或者光盘等各种可以存储程序代码的介质。

或者,本发明上述集成的单元如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实施例的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机、服务器、或者网络设备等)执行本发明各个实施例所述方法的全部或部分。而前述的存储介质包括:移动存储设备、rom、ram、磁碟或者光盘等各种可以存储程序代码的介质。

相应的,本发明实施例还提供一种计算机存储介质,存储有可执行程序,所述可执行程序被处理器执行时,实现上述的图像数据处理方法。

以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以所述权利要求的保护范围为准。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1