提示方法及装置、电子设备和存储介质与流程

文档序号:27263128发布日期:2021-11-05 22:47阅读:138来源:国知局
提示方法及装置、电子设备和存储介质与流程

1.本技术实施例涉及电子技术,涉及但不限于一种提示方法及装置、电子设备和存储介质。


背景技术:

2.随着ai(artificial intelligence,人工智能)技术的发展,赋能弱势人群日益成为行业趋势,在所有需要帮助的人群中,视障人群是目前所有行业中比较需要优先考虑的人群。
3.计算机视觉技术的发展给视障人群的辅助出行带来了很大的改观,目前行业内出现了一批利用语音技术来提供视障人群视觉障碍补充来辅助出行生活的产品。但是,大多数产品方案中都是利用深度相机、激光雷达或者毫米波雷达等电子信号来检测物体,成本比较高、重量比较重,同时缺少一套完成的检测流程。
4.因此,如何简单、有效地对障碍物进行检测提示成为本领域技术人员亟待解决的技术问题。


技术实现要素:

5.有鉴于此,本技术实施例提供一种提示方法及装置、电子设备和存储介质。
6.本技术实施例的技术方案是这样实现的:
7.第一方面,本技术实施例提供一种提示方法,所述方法包括:获取采集图像;确定所述采集图像中包括的至少一个第一对象,以及所述采集图像的第一场景信息;根据所述第一场景信息,在所述采集图像中确定出第一目标区域;对所述第一目标区域内的所述第一对象进行提示。
8.通过上述方式,能够根据出行场景对重点关注区域内的障碍物进行提示,从而低成本、高效率地实现了视障人群行进方向障碍物的实时检测预警,提供了比较好的用户体验。
9.在一些实施例中,所述对所述第一目标区域内的所述第一对象进行提示,包括:在所述第一目标区域内包括至少两个第一对象的情况下,确定所述至少两个第一对象中每一第一对象的危险系数;按所述危险系数,对所述至少两个第一对象进行排序,得到排序结果;根据所述排序结果,对所述第一对象进行提示。
10.通过上述方式,能够基于障碍物的危险程度对重点关注区域内的障碍物进行选择性地避障提示,从而提高避障提示效率。
11.在一些实施例中,所述确定所述至少两个第一对象中每一第一对象的危险系数,包括:确定采集图像中所述第一对象上的第一位置点与所述采集图像上的第二位置点之间的第一距离;确定所述第一对象在所述第一目标区域中的尺寸;根据所述第一距离和所述尺寸,确定所述第一对象的危险系数。
12.通过上述方式,能够利用对象在重点关注区域中的尺寸以及所述第一距离,准确
地计算出对象的危险程度。
13.在一些实施例中,所述确定所述第一对象在所述第一目标区域中的尺寸,包括:确定所述第一对象在所述第一目标区域中的长度和宽度;对应地,所述根据所述第一距离和所述尺寸,确定所述第一对象的危险系数,包括:确定所述第一对象的类型;根据所述第一对象的类型,确定所述第一距离、所述长度和所述宽度分别对应的权重系数;根据所述第一距离、所述长度、所述宽度和所述权重系数,确定所述第一对象的危险系数。
14.通过上述方式,能够利用对象在重点关注区域中的长度和宽度,以及所述第一距离准确地计算出对象的危险程度。
15.在一些实施例中,所述确定所述至少两个第一对象中每一第一对象的危险系数之前,所述方法还包括:确定所述至少两个第一对象中每一第一对象上的第三位置点与所述采集图像上的第四位置点之间的第二距离,以及所述第一对象所在的直线与所述采集图像上的参考线之间的角度;确定所述第二距离和所述角度满足预设条件的第一对象;对应地,所述确定所述至少两个第一对象中每一第一对象的危险系数,包括:确定满足所述预设条件的每一第一对象的危险系数。
16.通过上述方式,能够在利用危险系数对对象进行过滤之前,先利用对象与图像采集装置之间的距离和角度信息,对对象进行一次过滤,从而减少危险系数的计算工作量,同时提高避障提示的效率和精确度。
17.在一些实施例中,所述根据所述第一场景信息,在所述采集图像中确定出第一目标区域,包括:利用预先确定出的区域判定模型对所述第一场景信息进行处理,得到所述采集图像中的第一目标区域。
18.通过上述方式,能够利用预先确定出的判定模型结合采集图像所属的场景信息,来确定采集图像中的重点关注区域。
19.在一些实施例中,所述方法还包括:获取样本图像;确定所述样本图像中包括的至少一个第二对象,以及所述至少一个第二对象中每一第二对象在所述样本图像中的位置信息和危险等级;根据所述位置信息和所述危险等级,确定所述区域判定模型。
20.通过上述方式,能够利用样本图像中障碍物的位置和危险等级来确定所述判定模型,即能够利用标定的样本图像来训练判定模型。
21.在一些实施例中,所述根据所述位置信息和所述危险等级,确定所述区域判定模型,包括:根据所述每一第二对象在所述样本图像中的位置信息和危险等级,在所述样本图像中确定出第二目标区域;确定所述样本图像的第二场景信息;将所述第二场景信息与所述第二目标区域进行关联,得到所述样本图像的关联信息;根据所述关联信息,确定所述区域判定模型。
22.通过上述方式,能够先利用每一样本图像中障碍物的位置信息和危险等级,确定所述样本图像中的重点关注区域,从而根据多个所述样本图像对应的重点关注区域,来确定所述判定模型。
23.在一些实施例中,所述根据所述每一第二对象在所述样本图像中的位置信息和危险等级,在所述样本图像中确定出第二目标区域,包括:将所述样本图像划分为多个区域块;对于每一所述区域块,根据所述每一第二对象在所述样本图像中的位置信息和危险等级,将所述区域块中的第二对象的危险等级进行累加,得到所述每一所述区域块的危险等
级;将所述样本图像中危险等级高于预设等级的区域块,确定为所述样本图像中的第二目标区域。
24.通过上述方式,能够利用对样本图像进行划分区域块,然后在统计每一区域块中包括的障碍物的危险等级,来对每一区域块进行危险等级打分从而确定出所述样本图像中的重点关注区域。
25.第二方面,本技术实施例提供一种提示装置,所述装置包括:获取单元,用于获取采集图像;第一确定单元,用于确定所述采集图像中包括的至少一个第一对象,以及所述采集图像的第一场景信息;第二确定单元,用于根据所述第一场景信息,在所述采集图像中确定出第一目标区域;提示单元,用于对所述第一目标区域内的所述第一对象进行提示。
26.第三方面,本技术实施例提供一种电子设备,包括存储器和处理器,所述存储器存储有可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述方法中的步骤。
27.第四方面,本技术实施例提供一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现上述方法中的步骤。
28.本技术实施例提供一种提示方法及装置、电子设备和存储介质,通过获取采集图像;确定所述采集图像中包括的至少一个第一对象,以及所述采集图像的第一场景信息;根据所述第一场景信息,在所述采集图像中确定出第一目标区域;对所述第一目标区域内的所述第一对象进行提示,如此,能够根据出行场景对重点关注区域内的障碍物进行提示,从而低成本、高效率地实现了视障人群行进方向障碍物的实时检测预警,提供了比较好的用户体验。
附图说明
29.图1为本技术实施例提示方法的实现流程示意图一;
30.图2a为本技术实施例提示方法的实现流程示意图二;
31.图2b为本技术实施例对象在采集图像中的位置的示意图一;
32.图3为本技术实施例提示方法的实现流程示意图三;
33.图4a为本技术实施例提示方法的实现流程示意图四;
34.图4b为本技术实施例对象在采集图像中的位置的示意图二;
35.图5为本技术实施例提示装置的组成结构示意图;
36.图6为本技术实施例电子设备的一种硬件实体示意图。
具体实施方式
37.下面结合附图和实施例对本技术的技术方案进一步详细阐述。显然,所描述的实施例仅是本技术一部分实施例,而不是全部的实施例。基于本技术的实施例,本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本技术保护的范围。
38.在以下的描述中,涉及到“一些实施例”,其描述了所有可能实施例的子集,但是可以理解,“一些实施例”可以是所有可能实施例的相同子集或不同子集,并且可以在不冲突的情况下相互结合。
39.在后续的描述中,使用用于表示元件的诸如“模块”、“部件”或“单元”的后缀仅为了有利于本技术的说明,其本身没有特定的意义。因此,“模块”、“部件”或“单元”可以混合地使用。
40.需要指出,本技术实施例所涉及的术语“第一\第二\第三”仅仅是是区别类似的对象,不代表针对对象的特定排序,可以理解地,“第一\第二\第三”在允许的情况下可以互换特定的顺序或先后次序,以使这里描述的本技术实施例能够以除了在这里图示或描述的以外的顺序实施。
41.基于此,本技术实施例提供一种提示方法,所述方法应用于电子设备,该方法所实现的功能可以通过所述电子设备的处理器调用程序代码来实现,当然程序代码可以保存在所述电子设备的存储介质中。图1为本技术实施例提示方法的实现流程示意图一,如图1所示,所述方法包括:
42.步骤s101、获取采集图像;
43.这里,所述电子设备可以为各种类型的具有信息处理能力的设备,例如手机、pda(personal digital assistant,个人数字助理)、导航仪、数字电话、视频电话、智能手表、智能手环、可穿戴设备、平板电脑、一体机等。
44.所述采集图像,可以为图像采集装置实时采集的实景图像,例如,所述图像采集装置可以为轻量级的单目眼镜,在视障人群行走的过程中所述单目眼镜可以实时采集前方的场景图像。当然,所述采集图像也可以为视频采集装置实时采集的实景视频所对应的帧图像。本技术实施例中,对所述采集图像的获取方式、以及所述采集图像的内容并不做限定。
45.步骤s102、确定所述采集图像中包括的至少一个第一对象,以及所述采集图像的第一场景信息;
46.这里,所述第一对象可以是可能在视障人群的出行过程中对其造成困扰和不安全性的物体,例如,车辆、行人、树木、栏杆、建筑物等。所述采集图像的第一场景信息即所述采集图像所属的场景信息,例如,如果图像中的内容为视障人群在过马路,则所述采集图像的第一场景信息就是过马路的场景,如果图像中的内容为视障人群在路边盲道上行走,则所述采集图像的第一场景信息就是行走在路边盲道,如果图像中的内容为视障人群在小区中行走,则所述采集图像的第一场景信息就是小区行走场景等。本技术实施例中,对采集图像的第一场景信息可能包括的场景种类,以及如何获取所述采集图像的第一场景信息并不做限制。
47.当然,本技术实施例中,所述提示方法还可以用于无人驾驶场景、ar眼镜使用过程中的避障场景等,也就是说本技术实施例中的提示方法对实际的应用场景并不做限制。如果是用于无人驾驶场景,则所述采集图像的第一场景信息,可以包括闹市区道路出行场景、一般市区道路出行场景、乡村道路出行场景、山区道路出行场景、停车场景、出入小区场景等。
48.步骤s103、根据所述第一场景信息,在所述采集图像中确定出第一目标区域;
49.这里,所述第一目标区域即所述采集图像中的重点关注区域,例如,在过马路的场景中,所述第一目标区域可以是图像中视野前方的一块扇形区域;在行走在路边盲道的场景中,所述第一目标区域可以是图像中视野前方的一块相对较窄的长方形区域;在小区行走场景中,所述第一目标区域可以是图像中视野前方的一块相对较宽的长方形区域等。也
就是说,在视障人群低速行进过程中,视觉相机能够拍摄到的不同区域对所述视障人群的安全影响是不一样的,因此需要评估不同区域的安全程度,这个对于在低成本的系统中满足安全出行要求是很重要的。
50.步骤s104、对所述第一目标区域内的所述第一对象进行提示。
51.这里,所述提示方式可以为语音提示、也可以为语音加振动提示,当然还可以为其他的提示方式。
52.本技术实施例中,可以仅对采集图像中第一目标区域内的障碍物进行提示,如此,能够根据出行场景对重点关注区域内的障碍物进行提示,从而可以低成本、高效率地实现视障人群行进方向障碍物的实时检测预警,提供了比较好的用户体验。
53.基于前述的实施例,本技术实施例再提供一种提示方法,所述方法应用于电子设备,图2a为本技术实施例提示方法的实现流程示意图二,如图2a所示,所述方法包括:
54.步骤s201、获取采集图像;
55.步骤s202、确定所述采集图像中包括的至少一个第一对象,以及所述采集图像的第一场景信息;
56.步骤s203、根据所述第一场景信息,在所述采集图像中确定出第一目标区域;
57.步骤s204、在所述第一目标区域内包括至少两个第一对象的情况下,确定所述至少两个第一对象中每一第一对象的危险系数;
58.这里,如果所述第一目标区域仅包括一个第一对象,则直接对所述第一对象进行提示。如果所述第一目标区域内包括两个及两个以上的第一对象,则先确定所述两个及两个以上的第一对象中每一第一对象的危险系数,再进行提示。
59.步骤s205、按所述危险系数,对所述至少两个第一对象进行排序,得到排序结果;
60.这里,当确定出所述两个及两个以上的第一对象中每一第一对象的危险系数后,可以按照所述每一第一对象的危险系数从高到低,对所述两个及两个以上的第一对象进行排序,得到排序结果。
61.步骤s206、根据所述排序结果,对所述第一对象进行提示。
62.本技术实施例中,对于每一采集图像,如果所述两个及两个以上的第一对象已按照危险系数从高到低进行排序,则可以仅对危险系数最高的第一对象进行提示,如此,能够基于障碍物的危险程度对重点关注区域内的障碍物进行选择性地避障提示,从而提高避障提示效率。
63.基于前述的实施例,本技术实施例再提供一种提示方法,所述方法应用于电子设备,所述方法包括:
64.步骤s211、获取采集图像;
65.步骤s212、确定所述采集图像中包括的至少一个第一对象,以及所述采集图像的第一场景信息;
66.步骤s213、根据所述第一场景信息,在所述采集图像中确定出第一目标区域;
67.步骤s214、在所述第一目标区域内包括至少两个第一对象的情况下,确定采集图像中所述第一对象上的第一位置点与所述采集图像上的第二位置点之间的第一距离;
68.举例来说,所述采集图像上的第二位置点可以为所述采集图像的底边(即采集图像中物体为正常查看状态下所述采集图像的下边缘)中心点,如果所述第一对象为采集图
像中的车辆,所述车辆在所述采集图像中为一个长方形物体,则所述采集图像中所述第一对象上的第一位置点可以为所述采集图像中车辆对应的长方形物体的底边(即采集图像中车辆靠近采集图像的底边的一边)中心点。
69.步骤s215、确定所述第一对象在所述第一目标区域中的尺寸;
70.这里,所述第一对象在所述第一目标区域中的尺寸,指的是所述第一对象位于所述第一目标区域内的尺寸。例如,如果所述第一对象为车辆,所述车辆的一半在所述第一目标区域内,另一半在所述第一目标区域内,则所述车辆的尺寸就是实际尺寸的一半。
71.步骤s216、根据所述第一距离和所述尺寸,确定所述第一对象的危险系数;
72.本技术实施例中,可以利用采集图像中所述第一对象上的第一位置点与所述采集图像上的第二位置点之间的第一距离,以及所述第一对象在所述第一目标区域中的尺寸,来确定所述第一对象的危险系数,从而准确地计算出第一对象的危险程度。
73.步骤s217、按所述危险系数,对所述至少两个第一对象进行排序,得到排序结果;
74.步骤s218、根据所述排序结果,对所述第一对象进行提示。
75.这里,可以对不同危险系数设定不同的提示方式,例如低危险的对象提示方式为第一频率的语音提示,中等危险的对象提示方式为第一频率的语音提示加振动,高危险的对象提示方式为第二频率的语音提示加振动,其中,所述第二频率高于第一频率。当然,危险系数不同的对象的提示方式除了在提示频率、提示模式上有所区别,还可以在提示音量、提示音色等方面将其进行区分。
76.在一些实施例中,所述步骤s214、确定采集图像中所述第一对象上的第一位置点与所述采集图像上的第二位置点之间的第一距离之前,所述方法还包括:
77.步骤s21、确定所述至少两个第一对象中每一第一对象上的第三位置点与所述采集图像上的第四位置点之间的第二距离,以及所述第一对象所在的直线与所述采集图像上的参考线之间的角度;
78.步骤s22、确定所述第二距离和所述角度满足预设条件的第一对象;
79.对应地,后续所有步骤(包括所述步骤s214至所述步骤s218)中的第一对象,均为满足所述预设条件的第一对象。
80.基于前述的实施例,本技术实施例再提供一种提示方法,所述方法应用于电子设备,所述方法包括:
81.步骤s221、获取采集图像;
82.步骤s222、确定所述采集图像中包括的至少一个第一对象,以及所述采集图像的第一场景信息;
83.步骤s223、根据所述第一场景信息,在所述采集图像中确定出第一目标区域;
84.步骤s224、在所述第一目标区域内包括至少两个第一对象的情况下,确定采集图像中所述第一对象上的第一位置点与所述采集图像上的第二位置点之间的第一距离;
85.步骤s225、确定所述第一对象在所述第一目标区域中的长度和宽度;
86.这里,所述第一对象在所述第一目标区域中的长度,指的是所述第一对象的长度位于所述第一目标区域中的部分,所述第一对象在所述第一目标区域中的宽度,指的是所述第一对象的宽度位于所述第一目标区域中的部分。
87.步骤s226、确定所述第一对象的类型;
88.这里,所述第一对象的类型可以是所述第一对象的种类。例如,所述第一对象的类型可以为车辆(即高速移动物体),所述第一对象的类型可以为树木(即路边固定物体),所述第一对象的类型可以为行人(即低速移动物体)。
89.步骤s227、根据所述第一对象的类型,确定所述第一距离、所述长度和所述宽度分别对应的权重系数;
90.本技术实施例中,所述第一距离、所述长度和所述宽度分别对应的权重系数,可以根据所述第一对象的类型确定,还可以根据所述第一对象的类型结合采集图像的场景来确定。当然,还可以根据对多个历史实景图像进行训练得到。
91.步骤s228、根据所述第一距离、所述长度、所述宽度和所述权重系数,确定所述第一对象的危险系数;
92.这里,可以利用第一对象在重点关注区域中的长度和宽度,以及所述第一距离准确地计算出对象的危险程度。
93.举例来说,下面基于图2b对所述第一对象的危险系数的确定过程进行说说明,图2b为本技术实施例对象在采集图像中的位置的示意图一,如图2b所示,假设确定出采集图像21中线(即图中虚线)左右1/4的区域为第一目标区域22,所述第一目标区域22内包括第一对象23,则所述第一对象23的危险系数可以通过公式r=a1*d1‑
a2*d2‑
a3*d3来确定,其中,所述r为所述第一对象23的危险系数,所述d1为所述第一对象23在所述第一目标区域22内的宽度,所述d2为所述第一对象23在所述第一目标区域22内的长度,所述d3为所述第一对象23上的底边中点与所述采集图像21的底边中点之间的距离,所述a1、a2和a3为绝对值系数,一般根据历史训练数据去确定。当然,对于图2b中的d2可以利用公式d2=max{min(d1,d2)

max(d3,d4),0}来确定,其中,所述d1为所述第一对象23最右侧的轮廓线与图像中线的距离,所述d2为所述第一目标区域22最右侧的轮廓线与图像中线的距离,所述d3为所述第一对象23最左侧的轮廓线与图像中线的距离,所述d4为所述第一目标区域22最左侧的轮廓线与图像中线的距离。
94.步骤s229、按所述危险系数,对所述至少两个第一对象进行排序,得到排序结果;
95.步骤s230、根据所述排序结果,对所述第一对象进行提示。
96.在一些实施例中,所述步骤s223、根据所述第一场景信息,在所述采集图像中确定出第一目标区域,包括:利用预先确定出的区域判定模型对所述第一场景信息进行处理,得到所述采集图像中的第一目标区域。
97.基于前述的实施例,本技术实施例再提供一种提示方法,所述方法应用于电子设备,所述方法包括:
98.步骤s231、获取采集图像;
99.步骤s232、确定所述采集图像中包括的至少一个第一对象,以及所述采集图像的第一场景信息;
100.步骤s233、根据所述第一场景信息,在所述采集图像中确定出第一目标区域;
101.步骤s234、在所述第一目标区域内包括至少两个第一对象的情况下,确定所述至少两个第一对象中每一第一对象上的第三位置点与所述采集图像上的第四位置点之间的第二距离,以及所述第一对象所在的直线与所述采集图像上的参考线之间的角度;
102.这里,所述采集图像上的第四位置点可以为所述采集图像的底边(即采集图像中
物体为正常查看状态下所述采集图像的下边缘)中心点,所述第一对象上的第三位置点可以为所述第一对象的中心点,例如,如果所述第一对象为正圆形,则所述第一对象上的第三位置点为所述正圆形的圆心。所述第一对象所在的直线可以为所述第一对象的中心点与所述采集图像的底边中点所构成的直线,所述采集图像上的参考线可以为所述采集图像的中线。
103.步骤s235、确定所述第二距离和所述角度满足预设条件的第一对象;
104.步骤s236、确定满足所述预设条件的每一第一对象的危险系数;
105.本技术实施例中,在所述采集图像上的第四位置点为所述采集图像的底边中心点、所述第一对象上的第三位置点为所述第一对象的中心点、所述第一对象所在的直线为所述第一对象的中心点与所述采集图像的底边中点所构成的直线、所述采集图像上的参考线为所述采集图像的中线的情况下,所述第二距离和所述角度满足预设条件的第一对象,可以为所述第二距离小于等于预设距离,且所述角度小于等于预设角度的第一对象。进而,可以仅确定所述第二距离小于等于预设距离,且所述角度小于等于预设角度的第一对象的危险系数,如此,能够在利用危险系数对对象进行过滤之前,先利用对象与图像采集装置之间的距离和角度信息,对对象进行一次过滤,从而减少危险系数的计算工作量,同时提高避障提示的效率和精确度。
106.步骤s237、按所述危险系数,对所述至少两个第一对象进行排序,得到排序结果;
107.步骤s238、根据所述排序结果,对所述第一对象进行提示。
108.基于前述的实施例,本技术实施例再提供一种提示方法,所述方法应用于电子设备,图3为本技术实施例提示方法的实现流程示意图三,如图3所示,所述方法包括:
109.步骤s301、获取采集图像;
110.步骤s302、确定所述采集图像中包括的至少一个第一对象,以及所述采集图像的第一场景信息;
111.步骤s303、利用预先确定出的区域判定模型对所述第一场景信息进行处理,得到所述采集图像中的第一目标区域;
112.这里,可以利用预先确定出的区域判定模型结合所述采集图像的场景信息,得到所述采集图像中的重点关注区域。并且,所述区域判定模型可以根据训练历史实景图像得到。
113.步骤s304、对所述第一目标区域内的所述第一对象进行提示。
114.基于前述的实施例,本技术实施例再提供一种提示方法,所述方法应用于电子设备,所述方法包括:
115.步骤s311、获取样本图像;
116.本技术实施例中,所述样本图像,可以为图像采集装置之前采集的实景图像,例如,所述图像采集装置可以为轻量级的单目眼镜,在视障人群行走的过程中所述单目眼镜可以采集前方的场景图像。当然,所述样本图像也可以为视频采集装置之前采集的实景视频所对应的帧图像。也就是说,所述样本图像可以为历史采集图像,并且本技术实施例中,对所述样本图像的获取方式、以及所述样本图像的内容并不做限定。
117.步骤s312、确定所述样本图像中包括的至少一个第二对象,以及所述至少一个第二对象中每一第二对象在所述样本图像中的位置信息和危险等级;
118.这里,所述第二对象可以是可能在视障人群的出行过程中对其造成困扰和不安全性的物体,例如,车辆、行人、树木、栏杆、建筑物等。
119.本技术实施例中,所述样本图像所包括的至少一个第二对象的危险等级,可以是提前进行标定的。例如,可以对历史采集图像中存在的所有第二对象的危险等级进行标定,然后确定其中危险等级满足要求的第二对象在所述历史采集图像中的位置信息。当然,也可以直接确定所有第二对象在所述历史采集图像中的位置信息。
120.步骤s313、根据所述位置信息和所述危险等级,确定区域判定模型;
121.通过上述方式,能够利用样本图像中障碍物的位置和危险等级来确定所述判定模型,即能够利用标定的样本图像来训练判定模型。
122.步骤s314、获取采集图像;
123.步骤s315、确定所述采集图像中包括的至少一个第一对象,以及所述采集图像的第一场景信息;
124.步骤s316、利用所述区域判定模型对所述第一场景信息进行处理,得到所述采集图像中的第一目标区域;
125.步骤s317、对所述第一目标区域内的所述第一对象进行提示。
126.基于前述的实施例,本技术实施例再提供一种提示方法,所述方法应用于电子设备,所述方法包括:
127.步骤s321、获取样本图像;
128.步骤s322、确定所述样本图像中包括的至少一个第二对象,以及所述至少一个第二对象中每一第二对象在所述样本图像中的位置信息和危险等级;
129.步骤s323、根据所述每一第二对象在所述样本图像中的位置信息和危险等级,在所述样本图像中确定出第二目标区域;
130.这里,所述第二目标区域即所述样本图像中的重点关注区域,例如,在过马路的场景中,所述第二目标区域可以是图像中视野前方的一块扇形区域;在行走在路边盲道的场景中,所述第二目标区域可以是图像中视野前方的一块相对较窄的长方形区域;在小区行走场景中,所述第二目标区域可以是图像中视野前方的一块相对较宽的长方形区域等。也就是说,在视障人群低速行进过程中,视觉相机能够拍摄到的不同区域对所述视障人群的安全影响是不一样的,因此需要根据所述每一第二对象在所述样本图像中的位置信息和危险等级,在所述样本图像中确定出重点关注区域,从而根据多个所述样本图像对应的重点关注区域,来确定所述判定模型。
131.步骤s324、确定所述样本图像的第二场景信息;
132.这里,所述样本图像的第二场景信息即所述样本图像所属的场景信息,例如,如果图像中的内容为视障人群在过马路,则所述样本图像的第二场景信息就是过马路的场景,如果图像中的内容为视障人群在路边盲道上行走,则所述样本图像的第二场景信息就是行走在路边盲道,如果图像中的内容为视障人群在小区中行走,则所述样本图像的第二场景信息就是小区行走场景等。本技术实施例中,对样本图像的第二场景信息可能包括的场景种类,以及如何获取所述样本图像的第二场景信息并不做限制。
133.步骤s325、将所述第二场景信息与所述第二目标区域进行关联,得到所述样本图像的关联信息;
134.步骤s326、根据所述关联信息,确定区域判定模型;
135.本技术实施例中,所述样本图像的数量是比较多的,因此,可以根据多个样本图像对应的重点关注区域,来确定所述判定模型。
136.步骤s327、获取采集图像;
137.步骤s328、确定所述采集图像中包括的至少一个第一对象,以及所述采集图像的第一场景信息;
138.步骤s329、利用所述区域判定模型对所述第一场景信息进行处理,得到所述采集图像中的第一目标区域;
139.步骤s330、对所述第一目标区域内的所述第一对象进行提示。
140.基于前述的实施例,本技术实施例再提供一种提示方法,所述方法应用于电子设备,所述方法包括:
141.步骤s331、获取样本图像;
142.步骤s332、确定所述样本图像中包括的至少一个第二对象,以及所述至少一个第二对象中每一第二对象在所述样本图像中的位置信息和危险等级;
143.步骤s333、将所述样本图像划分为多个区域块;
144.这里,所述多个区域块共同组成所述样本图像,在实际使用过程中,本领域技术人员可以根据实际使用需求制定划分规则,本技术实施例对所述划分规则并不做限制。
145.步骤s334、对于每一所述区域块,根据所述每一第二对象在所述样本图像中的位置信息和危险等级,将所述区域块中的第二对象的危险等级进行累加,得到所述每一所述区域块的危险等级;
146.举例来说,所述样本图像的某一区域块中包括四个第二对象,分别为第二对象a、第二对象b、第二对象c和第二对象d,其中,所述第二对象a的危险等级为一级,所述第二对象b的危险等级为二级,所述第二对象c的危险等级为三级,所述第二对象d的危险等级为一级,可以将不同的危险等级对应不同的分数,例如一级为5分、二级为15分、三级为25分,则这一区域块的危险等级就是所述四个第二对象的危险等级的累加,即5+15+25+5=50分。
147.步骤s335、将所述样本图像中危险等级高于预设等级的区域块,确定为所述样本图像中的第二目标区域;
148.这里,所述预设等级可以是本领域技术人员根据实际使用需要进行设定的。举例来说,如果预设等级对应的分数为60分,某一区域块的危险等级对应的分数为50分,则这一区域块的危险等级低于预设等级对应的分数,即这一区域块不属于重点关注区域。如果某一区域块的危险等级对应的分数为75分,则这一区域块的危险等级高于预设等级对应的分数,即这一区域块属于重点关注区域。也就是说,所述样本图像中所有危险等级对应的分数高于等于预设等级对应的分数的区域块,共同组成了所述样本图像中的重点关注区域。
149.步骤s336、确定所述样本图像的第二场景信息;
150.步骤s337、将所述第二场景信息与所述第二目标区域进行关联,得到所述样本图像的关联信息;
151.步骤s338、根据所述关联信息,确定区域判定模型;
152.步骤s339、获取采集图像;
153.步骤s340、确定所述采集图像中包括的至少一个第一对象,以及所述采集图像的
第一场景信息;
154.步骤s341、利用所述区域判定模型对所述第一场景信息进行处理,得到所述采集图像中的第一目标区域;
155.步骤s342、对所述第一目标区域内的所述第一对象进行提示。
156.基于前述的实施例,本技术实施例再提供一种提示方法,可以达到如下的技术效果:
157.(1)、利用传统的光学相机来实现视障人群行进方向障碍物的检测,并按照障碍物和行进方向的关系来对障碍物进行分类过滤;并且,仅对视障人群行进方向上重要障碍物进行预告,确保视障人群前进方向的安全。
158.(2)、根据导盲眼镜的相机中的成像原理,利用单目测距的原理简单预估导盲场景下出现各类目标障碍物的距离,并利用一个以视障人群安全为目标的障碍物距离及危险等级的判断方法来实现导盲眼镜辅助视障人群判断前方障碍物的距离和风险。
159.(3)、通过实验结果证明,本技术实施例中提供的提示方法在实际路况测试数据中,障碍物预警的准确率达到基本满足视障人群导盲、障碍物风险预警的应用需求。
160.其中,图4a为本技术实施例提示方法的实现流程示意图四,如图4a所示,所述提示方法可以通过以下步骤实现:
161.步骤s401、获取采集的视频数据;
162.步骤s402、利用语音分割提取所述视频数据中的目标对象;
163.步骤s403、确定所述目标对象的位置、尺寸和类型;
164.步骤s404、根据设定的关注区域、所述位置、尺寸和类型,确定所述关注区域内目标对象的危险等级;
165.这里,在视障人群低速行进过程中,视觉相机能够拍摄到的不同区域对视障人群的安全影响是不一样的,如何来评估不同区域的安全系数,对于在低成本的系统中满足视障人群安全出行要求是很重要的。所述步骤s404中的关注区域即确定出的安全系数满足预设条件的区域。
166.步骤s405、根据不同的危险等级选择不同的预警方式;
167.步骤s406、对危险等级最高的目标对象采用对应的预警方式进行预警。
168.在一些实施例中,再提供一种提示方法,所述提示方法可以通过以下步骤实现:
169.步骤s411、提取历史视频数据中第一目标对象的位置和属性;
170.这里,所述历史视频数据为之前实时采集的视频数据,并且所述历史视频数据为带有标定的视频数据,标定的内容为所述视频数据对应的帧图像中不同目标对象的危险度,所述第一目标对象就是所述目标对象中危险度较高的目标对象。
171.步骤s412、预先设定区域划分方式,并按照划分区域统计风险热力图;
172.这里,具体判断哪些区域是重点关注的,可以基于数据驱动的方案来获取ai必须关注的数据重点区域;通过历史的视频数据,检测出来目标的位置和类型,根据预先设定的目标类型的危险等级,从而得到区域的风险度热力图,根据热力图的分布来对每个区域的风险进行打分,将分数符合阈值范围的区域作为重点关注区域。
173.步骤s413、根据所述位置、属性和所述风险热力图,提取出行场景重点关注视野区域;
174.步骤s414、根据所述出行场景重点关注视野区域确定场景视野判断模型;
175.步骤s415、获取当前采集的实时视频数据;
176.步骤s416、对所述实时视频数据中存在的第一目标对象进行检测;
177.步骤s417、根据检测结果识别所述实时视频数据所属的场景;
178.步骤s418、根据识别出的场景和所述场景视野判断模型,提取当前场景的roi(region of interest,感兴趣区域)计算模型,从而结合检测出的第一目标对象确定出当前场景的关注区域;
179.步骤s419、确定位于所述当前场景的关注区域中的第一目标对象,并对所述第一目标对象的危险等级进行排序,得到排序结果;
180.本技术实施例中,可以在历史视频数据中预先标出每个第一目标对象的危险度,然后从视障人群出行角度看所述历史视频数据中危险度很高的第一目标对象,然后根据这些数据提取符合条件的第一目标对象的位置和属性,再根据划分的区域自动在视障人群的视野范围内生成一个关注的热力图,不同场景热力图是不一样的。其中,还需要判断当前属于哪个场景,根据不同场景下的标定数据生成自动变换的当前场景的热力图区域。
181.这里,实际排序规则以视频采集装置为中心。可以以视频采集装置所覆盖的主要方向为主,将覆盖的区域分为多个区域块,通过一定的方法确定出重点关注区域后,确定在所述关注区域内每一目标对象的危险等级,然后将所述危险等级进行排序;其中,确定每一目标对象的危险等级(即危险系数)的过程,可以通过上述图2b所示的内容得出。
182.步骤s420、根据所述排序结果,播报所述当前场景的关注区域中危险等级最高的第一目标对象。
183.在一些实施例中,还可以设置不同危险等级的预报方式,实际危险等级预警方式以视障人群熟悉且能够接受的方式来实现。例如,可以对危险等级较低的目标对象采用语音播报预警,对危险等级较高的目标对象采用语音加振动预警。
184.当然,在确定重点关注区域内的目标对象的危险等级时,可以先利用距离和角度对所述目标区域内的目标对象进行一次粗略地过滤,即进行关注区域内障碍物风险的预判,然后再对符合预判条件的目标对象进行细致地过滤,即确定符合预判条件的目标对象的危险等级,下面基于图4b解释利用距离和角度对所述目标区域内的目标对象进行一次粗略地过滤相关的方法。图4b为本技术实施例对象在采集图像中的位置的示意图二,如图4b所示,假设确定出视野fov(field of view,视场角)图像41(即采集的实时视频数据对应的帧图像)中线(即图中虚线)左右1/4的区域为报警区域42(即重点关注区域),a、b和c为所述报警区域42内的目标对象(即障碍物),a、b、c多目标的预报优先级按照距离图像底边中点43(即视频采集装置)的距离的远近来排序,显示距离中点43距离最近的一个目标即可。可以利用如下公式:d=d
c
*d
x
,来确定每一目标与图像底边中点43之间的加权距离;其中,d表示目标与图像底边中点43之间的加权距离,d
c
表示目标与图像底边中点43之间的距离,d
x
表示目标距离图像中线的距离。角度的判定,即正前方左右方的判定按照图像底边中点43距离目标的向量与水平轴的夹角度来评估。例如,所述夹角度为60度至120度之间为正前方,所述夹角度为0度至60度之间为右前方,所述夹角度为120度至180度之间为左前方。
185.如此,可以过滤出所述报警区域42内加权距离和角度满足要求的目标对象,例如,图4b中的目标对象a、b和c是利用加权距离和角度从多个目标对象中过滤出的满足要求的
目标对象,其他距离较远,或者角度较偏的目标对象,虽然在所述报警区域42内,但是被过滤掉了,之后可以再利用图2b中的方法确定目标对象a、b、和c的危险等级,进行细致地过滤。也就是说,图2b和图4b都是判断重点关注区域内哪些对象可能对视障人群造成的风险性更大,但是,图4b是把每个对象当成点,以此来判断哪些对象是危险目标。图2b关注的是对象的细节,以此来判断对象的危险程度。
186.本技术实施例中,可以利用单目相机现实上述的提示方法,例如,对于视障人群出行场景,利用轻量级的单目眼镜来实现实时采集视障人群前进方向的各类障碍物,并实时判断障碍物对于视障人群出行的危险程度,并实时以语音或者震动的方式来提示视障人群的出行安全。如此,能够低成本高效率地实现视障人群行进方向障碍物的实时检测预警,并在实际路况测试数据中取得比较好的用户体验,同时能够实现单目视觉来预判障碍物的距离、障碍物的检测和预警。当然,本技术实施例中的提示方法不但可以用于视障人群避障,还可以用于无人车障碍物测距、无人驾驶风险预估、普通人群在使用ar眼镜过程中避障等。
187.基于前述的实施例,本技术实施例提供一种提示装置,该装置包括所包括的各单元、以及各单元所包括的各子单元和各模块、以及各模块所包括的各子模块和各部件,可以通过电子设备中的处理器来实现;当然也可通过具体的逻辑电路实现;在实施的过程中,处理器可以为cpu(central processing unit,中央处理器)、mpu(microprocessor unit,微处理器)、dsp(digital signal processing,数字信号处理器)或fpga(field programmable gate array,现场可编程门阵列)等。
188.图5为本技术实施例提示装置的组成结构示意图,如图5所示,所述装置500包括:
189.获取单元501,用于获取采集图像;
190.第一确定单元502,用于确定所述采集图像中包括的至少一个第一对象,以及所述采集图像的第一场景信息;
191.第二确定单元503,用于根据所述第一场景信息,在所述采集图像中确定出第一目标区域;
192.提示单元504,用于对所述第一目标区域内的所述第一对象进行提示。
193.在一些实施例中,所述提示单元504,包括:
194.危险系数确定模块,用于在所述第一目标区域内包括至少两个第一对象的情况下,确定所述至少两个第一对象中每一第一对象的危险系数;
195.排序模块,用于按所述危险系数,对所述至少两个第一对象进行排序,得到排序结果;
196.提示模块,用于根据所述排序结果,对所述第一对象进行提示。
197.在一些实施例中,所述危险系数确定模块,包括:
198.第一距离确定部件,用于确定采集图像中所述第一对象上的第一位置点与所述采集图像上的第二位置点之间的第一距离;
199.尺寸确定部件,用于确定所述第一对象在所述第一目标区域中的尺寸;
200.危险系数确定部件,用于根据所述第一距离和所述尺寸,确定所述第一对象的危险系数。
201.在一些实施例中,所述尺寸确定部件,包括:
202.尺寸确定子部件,用于确定所述第一对象在所述第一目标区域中的长度和宽度;
203.对应地,所述危险系数确定部件,包括:
204.危险系数确定子部件,用于确定所述第一对象的类型;
205.所述危险系数确定子部件,还用于根据所述第一对象的类型,确定所述第一距离、所述长度和所述宽度分别对应的权重系数;
206.所述危险系数确定子部件,还用于根据所述第一距离、所述长度、所述宽度和所述权重系数,确定所述第一对象的危险系数。
207.在一些实施例中,所述装置还包括:
208.第三确定单元,用于确定所述至少两个第一对象中每一第一对象上的第三位置点与所述采集图像上的第四位置点之间的第二距离,以及所述第一对象所在的直线与所述采集图像上的参考线之间的角度;
209.第四确定单元,用于确定所述第二距离和所述角度满足预设条件的第一对象;
210.对应地,所述危险系数确定模块,包括:
211.危险系数确定子模块,用于确定满足所述预设条件的每一第一对象的危险系数。
212.在一些实施例中,所述第二确定单元503,包括:
213.第二确定子单元,用于利用预先确定出的区域判定模型对所述第一场景信息进行处理,得到所述采集图像中的第一目标区域。
214.在一些实施例中,所述装置还包括:
215.样本获取单元,用于获取样本图像;
216.第五确定单元,用于确定所述样本图像中包括的至少一个第二对象,以及所述至少一个第二对象中每一第二对象在所述样本图像中的位置信息和危险等级;
217.模型确定单元,用于根据所述位置信息和所述危险等级,确定所述区域判定模型。
218.在一些实施例中,所述模型确定单元,包括:
219.目标区域确定模块,用于根据所述每一第二对象在所述样本图像中的位置信息和危险等级,在所述样本图像中确定出第二目标区域;
220.场景确定模块,用于确定所述样本图像的第二场景信息;
221.关联信息确定模块,用于将所述第二场景信息与所述第二目标区域进行关联,得到所述样本图像的关联信息;
222.模型确定模块,用于根据所述关联信息,确定所述区域判定模型。
223.在一些实施例中,所述目标区域确定模块,包括:
224.目标区域确定子模块,用于将所述样本图像划分为多个区域块;
225.所述目标区域确定子模块,还用于对于每一所述区域块,根据所述每一第二对象在所述样本图像中的位置信息和危险等级,将所述区域块中的第二对象的危险等级进行累加,得到所述每一所述区域块的危险等级;
226.所述目标区域确定子模块,还用于将所述样本图像中危险等级高于预设等级的区域块,确定为所述样本图像中的第二目标区域。
227.以上装置实施例的描述,与上述方法实施例的描述是类似的,具有同方法实施例相似的有益效果。对于本技术装置实施例中未披露的技术细节,请参照本技术方法实施例的描述而理解。
228.需要说明的是,本技术实施例中,如果以软件功能模块的形式实现上述的提示方
法,并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。基于这样的理解,本技术实施例的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台电子设备(可以是个人计算机、服务器等)执行本技术各个实施例所述方法的全部或部分。而前述的存储介质包括:u盘、移动硬盘、rom(read only memory,只读存储器)、磁碟或者光盘等各种可以存储程序代码的介质。这样,本技术实施例不限制于任何特定的硬件和软件结合。
229.对应地,本技术实施例提供一种电子设备,包括存储器和处理器,所述存储器存储有可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述实施例中提供的提示方法中的步骤。
230.对应地,本技术实施例提供一种可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现上述提示方法中的步骤。
231.这里需要指出的是:以上存储介质和设备实施例的描述,与上述方法实施例的描述是类似的,具有同方法实施例相似的有益效果。对于本技术存储介质和设备实施例中未披露的技术细节,请参照本技术方法实施例的描述而理解。
232.需要说明的是,图6为本技术实施例电子设备的一种硬件实体示意图,如图6所示,该电子设备600的硬件实体包括:处理器601、通信接口602和存储器603,其中
233.处理器601通常控制电子设备600的总体操作。
234.通信接口602可以使电子设备600通过网络与其他电子设备或服务器或平台通信。
235.存储器603配置为存储由处理器601可执行的指令和应用,还可以缓存待处理器601以及电子设备600中各模块待处理或已经处理的数据(例如,图像数据、音频数据、语音通信数据和视频通信数据),可以通过flash(闪存)或ram(random access memory,随机访问存储器)实现。
236.在本技术所提供的几个实施例中,应该理解到,所揭露的设备和方法,可以通过其它的方式实现。以上所描述的设备实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,如:多个单元或组件可以结合,或可以集成到另一个系统,或一些特征可以忽略,或不执行。另外,所显示或讨论的各组成部分相互之间的耦合、或直接耦合、或通信连接可以是通过一些接口,设备或单元的间接耦合或通信连接,可以是电性的、机械的或其它形式的。
237.上述作为分离部件说明的单元可以是、或也可以不是物理上分开的,作为单元显示的部件可以是、或也可以不是物理单元,即可以位于一个地方,也可以分布到多个网络单元上;可以根据实际的需要选择其中的部分或全部单元来实现本实施例方案的目的。
238.另外,在本技术各实施例中的各功能单元可以全部集成在一个处理模块中,也可以是各单元分别单独作为一个单元,也可以两个或两个以上单元集成在一个单元中;上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。本领域普通技术人员可以理解:实现上述方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成,前述的程序可以存储于一计算机可读取存储介质中,该程序在执行时,执行包括上述方法实施例的步骤;而前述的存储介质包括:移动存储设备、rom、ram、磁碟或者光盘等各种可以存储程序代码的介质。
239.本技术所提供的几个方法实施例中所揭露的方法,在不冲突的情况下可以任意组合,得到新的方法实施例。
240.本技术所提供的几个产品实施例中所揭露的特征,在不冲突的情况下可以任意组合,得到新的产品实施例。
241.本技术所提供的几个方法或设备实施例中所揭露的特征,在不冲突的情况下可以任意组合,得到新的方法实施例或设备实施例。
242.以上所述,仅为本技术的具体实施方式,但本技术的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本技术揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本技术的保护范围之内。因此,本技术的保护范围应以所述权利要求的保护范围为准。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1