一种智能设备的学习交互方法及智能设备与流程

文档序号:16927915发布日期:2019-02-22 20:01阅读:299来源:国知局
一种智能设备的学习交互方法及智能设备与流程

本发明涉及智能学习产品领域,尤指一种智能设备的学习交互方法及智能设备。



背景技术:

当前环境下,我国学生的学习压力普遍比较大,每天都有成堆的作业需要完成。学生在完成作业时,时常会遇到各种各样的问题,例如生字不会读,算数不会做,这种情况下需要及时进行辅导。但是很多家长碍于工作压力,根本无法辅导孩子完成课后作业,导致很多孩子学习成绩下降。

随着科学技术的发展,市面上出现了电子设备,例如手机、平板电脑、学习平板等,帮助学生解决作业中遇到的问题。一种方式是利用电子设备对着书本拍摄照片后,搜索出问题的答案;另一种方式是对着电子设备说出问题,搜索出问题的答案。

以上帮助学生解决作业问题的方式,存在以下缺陷:(一)脱离学生的作业场景,在额外的智能设备上进行查询和查看;(二)脱离不了手机、平板电脑等智能设备,学生会以作业为由借机玩手机或平板电脑,耽误学习;(三)在对着电子设备说出问题时,若学生表达不清楚的问题,则没办法帮助学生解决作业问题。

本发明为了在学生遇到学习困难时提供及时的帮助,让学生遇到困难时完成自主学习,因而提供了一种智能设备及其投影交互方法。



技术实现要素:

本发明的目的是提供一种智能设备的学习交互方法及智能设备,可在学生遇到学习困难时提供及时的帮助,并且在投影时可调节投射光与背景光之间的光强度差,优化了投影效果。

本发明提供的技术方案如下:

本发明提供了一种智能设备的学习交互方法,包括:

智能设备获取提问区域图像;

所述智能设备从获取的所述提问区域图像中解析出提问内容,然后获取所述提问内容对应的解答内容,并根据所述解答内容生成投影信息;

所述智能设备获取投影区域的背景光的光强度,调整投射所述投影信息时产生的投射光与背景光之间的光强度差,并根据调整后所述投射光的光强度将所述投影信息投射至投影区域。

本方案结合了学生学习时所用的必需品——灯具,在灯具上集成了获取问题、解答问题、显示解答内容等功能,在学生学习遇到困难时,能够及时为学生提供帮助。本方案中,当智能设备获取到解答内容后,可以投影的方式将解答内容投射出来,不需要外接显示屏幕或者在灯具上增设显示屏幕,提高了智能设备应用的广泛性。另外,本发明在投影时可对投射光与背景光之间的光强度差,优化了投影效果,让学生能够更加清楚地观看投影出来的投影信息。

优选的,所述智能设备获取背景光的光强度,并根据所述背景光的光强度调整投射光与背景光之间的光强度差,此步骤具体包括:

当所述智能设备未开启照明装置时,所述智能设备获取自然光形成的背景光的光强度,并根据所述背景光的光强度调整所述投射光的光强度,使所述投射光与所述背景光之间的光强度差达到第一预设值。

本方案中,当照明装置没有开启时,一般是白天,背景光为自然光,而自然光的光强度较强,若是投射光的光强度较弱,可能会使得投射效果不佳,因此在未开启照明装置时,需要根据所述背景光的光强度调整所述投射光的光强度,使得投射出来的投影信息达到良好的投影效果。

优选的,所述智能设备获取背景光的光强度,并根据所述背景光的光强度调整投射光与背景光之间的光强度差,此步骤具体还包括:

当所述智能设备开启照明装置时,所述智能设备获取所述照明光形成的背景光的光强度,并根据所述背景光的光强度调整所述投射光的光强度,使所述投射光与所述背景光之间的光强度差达到第二预设值。

本方案中,当照明装置开启时,可理解为此时环境的光线比较昏暗,学生需要打开照明装置进行照明,此时照明设备提供的照明光的光强度较强,若是投射光的光强度低于照明光的光强度,可能会使得投射效果不佳,因此在开启照明装置时,需要根据所述背景光的光强度调整所述投射光的光强度,例如将透射光的光强度调高,使得投射出来的投影信息达到良好的投影效果。

优选的,所述智能设备获取背景光的光强度,并根据所述背景光的光强度调整投射光与背景光之间的光强度差,此步骤具体还包括:

当所述智能设备开启照明装置时,所述智能设备获取照明光形成的背景光的光强度,并根据投射光的光强度调整照明装置发出的照明光的光强度,从而调整背景光的光强度,使所述投射光与所述背景光之间的光强度差达到第三预设值。

本方案中,当照明装置开启时,可理解为此时环境的光线比较昏暗,学生需要打开照明装置进行照明,此时照明设备提供的照明光的光强度较强,若是投射光的光强度与照明光的光强度相仿,甚至投射光的光强度低于照明光的光强度,可能会使得投射效果不佳,因此在开启照明装置时,需要根据投射光的光强度调整照明装置发出的照明光的光强度,例如将照明光的光强度调低,使得投射出来的投影信息达到良好的投影效果。

优选的,所述智能设备获取背景光的光强度,并根据所述背景光的光强度调整投射光与背景光之间的光强度差,此步骤具体还包括:

当所述智能设备开启照明装置时,所述智能设备关闭所述照明装置,使所述投射光与所述背景光之间的光强度差达到第四预设值。

本方案中,照明装置开启时,若需要投射相关的投影信息,可直接将智能设备的照明装置关闭,使投射出来的投影信息能够达到良好的投影效果。

本发明还提供了一种智能设备,所述智能设备包括:

摄像模块,用于获取提问区域图像;

解析模块,与所述摄像模块电连接,用于从所述摄像模块获取的所述提问区域图像中解析出提问内容;

答案获取模块,与所述解析模块电连接,用于获取所述提问内容对应的解答内容;

投影信息生成模块,与所述答案获取模块电连接,用于根据所述解答内容生成投影信息;

光获取模块,获取投影区域的背景光的光强度;

光调整模块,与所述光获取模块电连接,用于调整投射所述投影信息时产生的投射光与背景光之间的光强度差,

投影模块,与所述投影信息生成模块和所述光调整模块电连接,用于根据调整后所述投射光的光强度将所述投影信息投射至投影区域。

本方案结合了学生学习时所用的必需品——灯具,在灯具上集成了获取问题、解答问题、显示解答内容等功能,在学生学习遇到困难时,能够及时为学生提供帮助。本方案中,当智能设备获取到解答内容后,可以投影的方式将解答内容投射出来,不需要外接显示屏幕或者在灯具上增设显示屏幕,提高了智能设备应用的广泛性。另外,本发明在投影时可对投射光与背景光之间的光强度差,优化了投影效果,让学生能够更加清楚地观看投影出来的投影信息。

优选的,所述光获取模块,还用于当所述智能设备未开启照明装置时,所述智能设备获取自然光形成的背景光的光强度,

所述光调整模块,还用于根据所述背景光的光强度调整所述投射光的光强度,使所述投射光与所述背景光之间的光强度差达到第一预设值。

本方案中,当照明装置没有开启时,一般是白天,背景光为自然光,而自然光的光强度较强,若是投射光的光强度较弱,可能会使得投射效果不佳,因此在未开启照明装置时,需要根据所述背景光的光强度调整所述投射光的光强度,使得投射出来的投影信息达到良好的投影效果。

优选的,所述光获取模块,还用于当所述智能设备开启照明装置时,所述智能设备获取所述照明光形成的背景光的光强度;

所述光调整模块,还用于根据所述背景光的光强度调整所述投射光的光强度,使所述投射光与所述背景光之间的光强度差达到第二预设值。

本方案中,当照明装置开启时,可理解为此时环境的光线比较昏暗,学生需要打开照明装置进行照明,此时照明设备提供的照明光的光强度较强,若是投射光的光强度低于照明光的光强度,可能会使得投射效果不佳,因此在开启照明装置时,需要根据所述背景光的光强度调整所述投射光的光强度,例如将透射光的光强度调高,使得投射出来的投影信息达到良好的投影效果。

优选的,所述光获取模块,还用于当所述智能设备开启照明装置时,所述智能设备获取照明光形成的背景光的光强度;

所述光调整模块,还用于根据投射光的光强度调整照明装置发出的照明光的光强度,从而调整背景光的光强度,使所述投射光与所述背景光之间的光强度差达到第三预设值。

本方案中,当照明装置开启时,可理解为此时环境的光线比较昏暗,学生需要打开照明装置进行照明,此时照明设备提供的照明光的光强度较强,若是投射光的光强度与照明光的光强度相仿,甚至投射光的光强度低于照明光的光强度,可能会使得投射效果不佳,因此在开启照明装置时,需要根据投射光的光强度调整照明装置发出的照明光的光强度,例如将照明光的光强度调低,使得投射出来的投影信息达到良好的投影效果。

优选的,所述光调整模块,还用于当所述智能设备开启照明装置时,所述智能设备关闭所述照明装置,使所述投射光与所述背景光之间的光强度差达到第四预设值。

本方案中,照明装置开启时,若需要投射相关的投影信息,可直接将智能设备的照明装置关闭,使投射出来的投影信息能够达到良好的投影效果。

通过本发明提供的一种智能设备的学习交互方法及智能设备,能够带来以下至少一种有益效果:

本发明为了在学生遇到学习困难时,能够提供及时的帮助,在智能设备上集成了获取问题、解答问题、显示解答内容等功能,在学生学习遇到困难时,只需指着不懂的问题说:“这道题怎么做”,智能设备即可采集提问区域图像,然后通过图像分析技术获取问题内容,再通过知识库获取解答内容,将解答的内容投射出来,供学生学习参考。可见智能设备担任了辅导一职,为学生提供学习帮助的同时,也减少了家长的负担。同时本发明在投影时可对投射光与背景光之间的光强度差,优化了投影效果,让学生能够更加清楚地观看投影出来的投影信息。

附图说明

下面将以明确易懂的方式,结合附图说明优选实施方式,对一种智能设备的学习交互方法及智能设备的上述特性、技术特征、优点及其实现方式予以进一步说明。

图1是本发明一种智能设备的学习交互方法的一个实施例的流程图;

图2是本发明一种智能设备的学习交互方法的另一个实施例的流程图;

图3是本发明一种智能设备的一个实施例的结构示意图;

图4是本发明一种智能设备的另一个实施例的结构示意图。

附图标号说明:

1-摄像模块,2-解析模块,3-答案获取模块,4-投影信息生成模块,5-投影模块,6-语音检测模块,7-控制模块,8-光获取模块,9-光调整模块。

具体实施方式

为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对照附图说明本发明的具体实施方式。显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图,并获得其他的实施方式。

为使图面简洁,各图中只示意性地表示出了与本发明相关的部分,它们并不代表其作为产品的实际结构。另外,以使图面简洁便于理解,在有些图中具有相同结构或功能的部件,仅示意性地绘示了其中的一个,或仅标出了其中的一个。在本文中,“一个”不仅表示“仅此一个”,也可以表示“多于一个”的情形。

本发明提供了一种智能设备的学习交互方法的一个实施例,如图1所示,包括:

s1智能设备获取提问区域图像。

具体的,智能设备可通过摄像模块获取提问区域图像,本发明中的摄像模块可以为摄像头,可安装在智能设备上,智能设备包括智能台灯、智能吊灯、智能壁灯等等,可安装在书桌附近,使智能设备能够通过安装在本体上的摄像模块获取到书桌上书本的图像信息。

学生在学习时,若有遇到不清楚或者不会做的题目,可用手指向不会的题目,然后说“这道题怎么做”或“第一题怎么做”等类似提问语。智能设备会实时采集用户的语音信息,将语音信息转化问文本信息,然后判断是否有提问关键词(如“怎么做”、“如何做”、“如何说”等),当智能设备识别出用户的语音信息中含有提问关键词时,会分析摄像头采集到的图像,通过图像识别技术识别出手的轮廓以及手指的指向,并在手指指向区域上查找出用户想要询问的题目所在的区域,将此区域的图像作为提问区域图像。

s2所述智能设备从获取的所述提问区域图像中解析出提问内容,然后获取所述提问内容对应的解答内容,并根据所述解答内容生成投影信息。

具体的,智能设备中可集成有图像处理芯片(例如fh8510图像处理芯片或者fms6502图像处理芯片),可对提问区域图像进行识别,解析出提问区域图像中的提问内容,如解析提问区域图像,得到提问内容:“第四题、小明买了5斤苹果,每斤苹果3元钱,小明一共需要付多少钱?”。

智能设备可根据提问内容,在预先储存的知识库中查找出提问内容对应的解答内容(包括题目解析、详细的解答步骤等)。

再或者,智能设备从提问区域图像中解析出提问内容后,可将提问内容发送至服务器。在服务器端可预先储存有知识库,服务器会根据提问内容,在知识库中查找相应的解答内容,并将解答内容返回到智能设备。本技术方案中,智能设备上不需要储存知识库的相关数据,降低了对智能设备储存器的要求,从而减少了智能设备的制造成本。

s3所述智能设备获取投影区域的背景光的光强度,调整投射所述投影信息时产生的投射光与背景光之间的光强度差,并根据调整后所述投射光的光强度将所述投影信息投射至投影区域。

智能设备上可设有投影模块,如微型投影器等。智能设备可根据预设的投影模板(包括:答案版块、解析版块、知识点版块),将解答内容中相应的内容添加至投影模板的各个版块中,从而生成投影信息。用户可预先设定投影模块的投影方式(包括led投射、灯光投射、3d全息投射、ar投射),将投影信息投射至预设投影区域。

在实际应用中,若背景光线较强,而投射光线较弱,会导致投射出来的投影无法观看;若因投射光线较强,而背景光线较弱,则会导致投射出来的投影太过刺眼,产时间观看投影会伤害学生的眼睛。

因此,本实施例中的智能设备上会安装一个光感传感器,对投影区域的背景光的光强度进行检测,然后将检测结果反馈至智能设备,智能设备在通过背景光的光强度,及时调整投射所述投影信息时产生的投射光与背景光之间的光强度差,使投影出来的投影达到良好的投影效果。

例如,当投影区域的背景光的光强度比较强时,则可以适当提高投射光的光强度,使学生在不关闭照明装置的前提下也能无障碍地查看投影内容。当投影区域的背景光的光强度比较弱时,则可按照正常投射光的光强度进行投射,使投影不会太过刺眼,保护学生视力。

优选的,本实施例在投影时还包括:

所述智能设备根据所述提问内容,分析得到所述提问内容所属学科类型。

所述智能设备根据所述提问内容所属的学科类型,选择相应的投影方式将所述解答内容投射至所述预设投影区域。

具体的,智能终端可对提问内容进行语义理解,分析出所述提问内容所属的学科类型;也可通过提问内容中的学科关键词进行学科的匹配,例如,若题目中出现化学式时,可判断出提问内容为化学类别,若题目中出现大量英文时,可判断出提问内容为英语类别;再或者,也可以通过提问内容的题号,或者提问内容所在页的页码,或者提问内容所在页面的位置,匹配出相应的书籍,然后根据此书籍所述的学科类别,确定出提问内容的学科类别。

本实施例为了使投影的方式更加符合提问内容所属学科的特性,在投影时会自动选择相应的投影方式进行投影。例如,当提问内容所属的学科为英语时,由于英语都是文字型答案,因此用平面投影的方式进行投影能够达到更好的观看效果;而当提问内容所属的学科为几何学时,由于几何图形是立体图形,若是以平面投影方式进行投影,会对学生理解答案造成一定的困难,达不到为学生提供解题的目的;而以三维投影方式进行投影,学生可以从不同角度对投影出来的三维几何图形进行理解,使遇到的问题更加容易解答。再例如,当提问内容所属学科为地理时,由于地理上很多都是关于山地、海洋、气候等研究,若是以平面投影方式来投射解答内容,可能无法让学生有直观的体验。如学生在理解喀斯特地貌、丹霞地貌、海岸地貌、冰川地貌等地形时,若是以平面投影方式投影相关的图片,学生可能并不能完全理解各类地形地貌的特色,从而不容易区分不同地形地貌,而以三维投影方式来投射解答内容,学生能够从不同的角度对各种地貌进行观察,更容易区分不同地形地貌的特征。

投影时,可通过图像识别技术,从摄像模块采集的图像信息中检测出一桌面区域,将这一区域作为预设投影区域。为了在投影时产生更好的投影效果,还可配套增加一块投影板,学生在学习时,可将投射板放置在书桌上,摄像头可通过图像识别技术自动识别出投射板的位置,同时调整投射模块的投射方向,将图像投射至投影板上。

本方案结合了学生学习时所用的必需品——灯具,在灯具上集成了获取问题、解答问题、显示解答内容等功能,在学生学习遇到困难时,能够及时为学生提供帮助。本方案中,当智能设备获取到解答内容后,以投影的方式将解答内容投射出来,不需要外接显示屏幕或者在灯具上增设显示屏幕,增加应用的广泛性。同时只能灯具可针对不同的学科类型,选择更佳的投影方式投影。

另外,当需要投射几何图形,或者多种实验器材等立体图像时,本实施例考虑学生在做几何题时会经常有作图、连辅助线、添加其他图形等操作,在做实验题时,经常需要将多种器材进行组合,同时为了使学生更加完整、全面地查看投影出的几何图形,做实验时能够有更加直观的体验,本方案在以三维投影方式进行投影时增加了编辑操作,用户可以在投影出来的三维图像上进行相应的编辑,以此来更好地了解学习内容。

例如,当触碰所述三维图像上任意点的时间达到第一预设时间时,或当触碰所述三维图像上任意至少三点时,所述智能设备解析所述编辑操作为图像拖动操作,并根据用户的图像拖动操作对三维图像进行拖动。

当触碰所述三维图像上任意点的时间达到第二预设时间时,所述智能设备解析所述编辑操作为图像旋转操作,并根据用户的图像旋转操作对三维图像进行旋转。

当触碰所述三维图像上任意两点,并且两个触碰点距离缩小时,所述智能设备解析所述编辑操作为图像缩小操作;当触碰所述三维图像上任意两点,并且两个触碰点距离变大时,所述智能设备解析所述编辑操作为图像放大操作。

当触碰所述三维图像上任一点的时间达到第四预设时间,并且触碰点移动距离大于预设距离时,所述智能设备解析所述编辑操作为作图操作。

当用户用手抓取所述三维图像中的某一图形时,所述智能设备解析出所述编辑操作为图像删除操作;而当智能设备的语音检测模块6监听到用户的语音信息中包含图形添加信息时,则在三维图像中添加所述图形添加信息对应的图形,例如用户说“添加圆柱体”,智能设备在监听到这句话时,即可通过语义理解,分析出需要添加“圆柱体”这一图形。

可选的,本实施例中,所述智能设备分析所述提问内容,得到所述提问内容所属的学科,所述提问内容所属学科的具体章节,以及所述提问内容所属章节的具体知识点,并记录形成历史提问记录;所述智能设备根据预设时段内的历史提问记录,生成不同学科的学习评价报告,和/或每一学科中不同章节的学习评价报告,和/或每一学科的每一章节中不同知识点的学习评价报告。

用户在询问问题后,智能设备都会记录下相关的提问内容,并且对提问内容进行分析,得到所述提问内容所属的学科,所述提问内容所属学科的具体章节,以及所述提问内容所属章节的具体知识点。当用户想要了解最近一段时间的学习情况时,智能设备即可根据这段时间的历史提问记录,生成相应的学习评价报告,帮助用户了解当前的学习状况。例如用户需要本学期数学这门学科的学习评价报告时,则可根据历史提问记录,智能设备会将本学期所问问题的历史记录提取出来,并根据每个问题的所属章节归类,所属知识点归类,评价用户在数学学科中每一章节、每一知识点的学习情况。

本发明还提供了一种智能设备的学习交互方法的一个实施例,如图2所示,包括:

s01智能设备监听用户的语音信息,并检测所述语音信息中是否含有提问关键词。

当学生在学习或做题的过程中遇到问题时,可用手指向不懂的题目,然后说:“这道题如何做”或“第一题怎么做”等类似提问语。智能设备中的语音检测模块包括麦克风,可获取用户的语音信息,在获取到用户的语音信息后,语音检测模块将用户的语音信息转换为文本信息;然后判断文本信息中是否含有提问关键词(例如“怎么做”、“如何做”等关键词)。

s02若所述智能设备检测出所述语音信息中不含有提问关键词,则继续监听用户的语音信息。

s03若所述智能设备检测出所述语音信息中含有所述提问关键词,则开启摄像模块。

s1智能设备获取提问区域图像。

可选的,s1包括:当智能设备识别出用户的语音信息中含有提问关键词时,所述智能设备通过摄像模块,以检测到书本的边缘为界,获取书本的界面图像;所述智能设备从所述书本的界面图像中检测出目标指向区域,并将所述目标指向区域对应的图像作为所述提问区域图像。

具体的,为了更好地识别出桌面上的书本,可训练书本识别模型,本实施例以训练unet分割模型为例。将基于tensorflow深度学习框架,构建unet分割网络。为了降低分割网络的大小,提升分割网络的效率,修改现有的轻量化mobilenet_v2网络结构,将其用于unet网络编码部分,unet解码部分使用简单的卷积神经网络。

训练前可采集多种单一桌面图像,以及多种单一书本图像,将每一张单一桌面图像和每一张单一书本图像进行多样组合(例如将单一书本图像放置于单一书本图像上的不同位置),得到若干单一书本图像和单一桌面图像的组合图像,然后将若干组合图像以4:1分为训练集和验证集,将训练集通过unet分割网络进行训练,当unet分割网络在训练集和测试集上的iou(分割网络的标准度量)值都大于0.95时,得到unet分割模型。

当摄像头获取桌面图像后,通过unet分割模型对桌面图像进行二值分割,得到桌面图像的二值分割图,并从桌面图像的二值分割图中提取出书本的边缘,从而确定出书本的位置,从桌面图像中获取到书本的界面图像。

本方案中并非实时开启摄像模块,而是在满足特定条件下才开启摄像模块,降低了摄像模块的能耗。

智能设备在获取到书本的界面图像后,可通过图像识别技术,从界面图像中识别出用户的手指,并将指尖所指向的区域定义为目标指向区域,然后将目标指向区域的图像作为提问区域图像。

s2所述智能设备从获取的所述提问区域图像中解析出提问内容,然后获取所述提问内容对应的解答内容,并根据所述解答内容生成投影信息。

s31当所述智能设备未开启照明装置时,所述智能设备获取自然光形成的背景光的光强度,并根据所述背景光的光强度调整所述投射光的光强度,使所述投射光与所述背景光之间的光强度差达到第一预设值。

具体的,智能设备的使用情况可分为白天和晚上,本实施例中,当智能设备未开启照明装置时,背景光属于太阳发出的自然光,而在晴天或者多云天气时,自然光的光线强度比较强,若是投射光较弱时,会导致投射出来的投影看不清楚(这和投影机投影时需要关闭背景光源时的原理一样);当阴雨天气或者晚上时,若背景光太弱,而投影光较强,会导致投射出的投影太刺眼,影响学生查看投影内容。

为了使智能设备投射出来的投影达到良好的投影效果,智能设备会适当调高投射光的光强度,使透射光和背景光之间的光强度差达到第一预设值。(此值可根据具体的产品而变动,其目的是在投影模块发出的透射光和背景光之间的光强度差达到此值时,能够使投射出来的投影达到良好的投影效果。)

s32当所述智能设备开启照明装置时,所述智能设备获取所述照明光形成的背景光的光强度,并根据所述背景光的光强度调整所述投射光的光强度,使所述投射光与所述背景光之间的光强度差达到第二预设值。

具体的,当智能设备开启照明装置时,通常为晚上或者阴雨天气,背景光主要属于照明光。此时,若背景光太强,而投影光较弱,会导致投射出来的投影看不清楚,为了使智能设备投射出来的投影达到良好的投影效果,智能设备可将投影模块的投射光的光强度调高,使投射光述背景光之间的光强度差达到第二预设值。(此值可根据具体的产品而变动,其目的是在投影模块发出的透射光和背景光之间的光强度差达到此值时,能够使投射出来的投影达到良好的投影效果。)本方案在使投射出来的投影达到良好的投影效果时,保持照明装置的正常照明,学生可以正常阅读书本上的内容。

s33当所述智能设备开启照明装置时,所述智能设备获取照明光形成的背景光的光强度,并根据投射光的光强度调整照明装置发出的照明光的光强度,从而调整背景光的光强度,使所述投射光与所述背景光之间的光强度差达到第三预设值。

具体的,当智能设备开启照明装置时,通常为晚上或者阴雨天气,背景光主要属于照明光。此时,若背景光太强,而投影光较弱,会导致投射出来的投影看不清楚,为了使智能设备投射出来的投影达到良好的投影效果,智能设备除了调整投影模块的投射光的光强度外,还可将照明设备发出的照明光的光强度调低,使投射光述背景光之间的光强度差达到第三预设值(此值可根据具体的产品而变动,其目的是在投影模块发出的透射光和背景光之间的光强度差达到此值时,能够使投射出来的投影达到良好的投影效果。),当投影结束时,照明装置再恢复原来的照明强度。由于强光对学生眼睛的伤害极大,本方案在投影时是将照明光的光强度调低,投影模块投射出来的投影光的光强度还是处于正常值,可使投影模块出来的投影发出的光线相对柔和,当学生查看投影内容时,能够减少投影光线对眼睛的伤害。

s34当所述智能设备开启照明装置时,所述智能设备关闭所述照明装置,使所述投射光与所述背景光之间的光强度差达到第四预设值。

具体的,当智能设备开启照明装置时,若照明装置没有调节照明光的光强度的功能,可以直接将照明装置关闭,使所述投射光与所述背景光之间的光强度差达到第四预设值。当投影结束时再开启照明装置,让学生可进行后续学习。

优选的,智能设备上可设有投影模块,如微型投影器等。智能设备可根据预设的投影模板(包括:答案版块、解析版块、知识点版块),将解答内容中相应的内容添加至投影模板的各个版块中,从而生成投影信息。用户可预先设定投影模块的投影方式(包括led投射、灯光投射、3d全息投射、ar投射),将投影信息投射至预设投影区域。

优选的,本实施例还包括:所述智能设备记录所述问题内容形成提问记录,并在历史提问记录中查找是否存在与所述问题内容近似的提问记录;若在历史提问记录中存在与所述问题内容相似的提问记录,则将所述相似的提问记录对应的提问内容以及解答内容投射至所述预设投影区域。

具体的,智能设备会将用户所提问题进行记录,形成提问记录,当用户后续再问到相似的问题时,可将相近的问题以及解答内容推送给用户。例如当用户所闻的问题内容为“‘百日依山尽’的下一句是____”,而用户以前也问过“‘更上一层楼’的上一句是____”,那么,智能设备在给用户投影解答信息后,会将相似的提问记录对应的提问内容以及解答内容都投射到预设投影区域,加深用户对相似知识点的认知。

本发明提供了一种智能设备的一个实施例,如图3所示,智能设备包括:

摄像模块1,用于获取提问区域图像。

解析模块2,与所述摄像模块1电连接1,用于从所述摄像模块1获取的所述提问区域图像中解析出提问内容。

答案获取模块3,与所述解析模块2电连接2,用于获取所述提问内容对应的解答内容。

投影信息生成模块4,与所述答案获取模块3电连接,用于根据所述解答内容生成投影信息。

光获取模块8,获取投影区域的背景光的光强度。

光调整模块9,与所述光获取模块8电连接,用于调整投射所述投影信息时产生的投射光与背景光之间的光强度差,

投影模块5,与所述投影信息生成模块4和所述光调整模块9电连接,用于根据调整后所述投射光的光强度将所述投影信息投射至投影区域具体的,智能设备可通过摄像模块1获取提问区域图像,本发明中的摄像模块1可以为摄像头,可安装在智能设备上,智能设备包括智能台灯、智能吊灯、智能壁灯等等,可安装在书桌附近,使智能设备能够通过安装在本体上的摄像模块1获取到书桌上书本的图像信息。

具体的,学生在学习时,若有遇到不清楚或者不会做的题目,可用手指向不会的题目,然后说“这道题怎么做”或“第一题怎么做”等类似提问语。智能设备会实时采集用户的语音信息,将语音信息转化问文本信息,然后判断是否有提问关键词(如“怎么做”、“如何做”、“如何说”等),当智能设备识别出用户的语音信息中含有提问关键词时,会分析摄像头采集到的图像,通过图像识别技术识别出手的轮廓以及手指的指向,并在手指指向区域上查找出用户想要询问的题目所在的区域,将此区域的图像作为提问区域图像。

智能设备中可集成有图像处理芯片(例如fh8510图像处理芯片或者fms6502图像处理芯片),可对提问区域图像进行识别,解析出提问区域图像中的提问内容,如解析提问区域图像,得到提问内容:“第四题、小明买了5斤苹果,每斤苹果3元钱,小明一共需要付多少钱?”。

智能设备可根据提问内容,通过答案获取模块3在预先储存的知识库中查找出提问内容对应的解答内容(包括题目解析、详细的解答步骤等)。

再或者,智能设备从提问区域图像中解析出提问内容后,可将提问内容发送至服务器。在服务器端可预先储存有知识库,服务器会根据提问内容,在知识库中查找相应的解答内容,并将解答内容返回到智能设备。本技术方案中,智能设备上不需要储存知识库的相关数据,降低了对智能设备储存器的要求,从而减少了智能设备的制造成本。

智能设备上设有投影模块5,如微型投影器等。智能设备可根据预设的投影模板(包括:答案版块、解析版块、知识点版块),将解答内容中相应的内容添加至投影模板的各个版块中,从而生成投影信息。用户可预先设定投影模块5的投影方式(包括led投射、灯光投射、3d全息投射、ar投射),将投影信息投射至预设投影区域。

在实际应用中,若背景光线较强,而投射光线较弱,会导致投射出来的投影无法观看,若因投射光线较强,而背景光线较弱,会导致投射出来的投影太过刺眼,不利于学生观看投影。

因此,本实施例中的智能设备上会安装光获取模块8(如光感传感器),对投影区域的背景光的光强度进行检测,然后将检测结果反馈至智能设备,智能设备在通过背景光的光强度,及时调整投射所述投影信息时产生的投射光与背景光之间的光强度差,使投影出来的投影达到良好的投影效果。

优选的,本实施例还包括:

所述智能设备根据所述提问内容,分析得到所述提问内容所属学科类型;

所述智能设备根据所述提问内容所属的学科类型,选择相应的投影方式将所述解答内容投射至所述预设投影区域。

具体的,智能终端可对提问内容进行语义理解,分析出所述提问内容所属的学科类型;也可通过提问内容中的学科关键词进行学科的匹配,例如,若题目中出现化学式时,可判断出提问内容为化学类别,若题目中出现大量英文时,可判断出提问内容为英语类别;再或者,也可以通过提问内容的题号,或者提问内容所在页的页码,或者提问内容所在页面的位置,匹配出相应的书籍,然后根据此书籍所述的学科类别,确定出提问内容的学科类别。

本实施例为了使投影的方式更加符合提问内容所属学科的特性,在投影时会自动选择相应的投影方式进行投影。例如,当提问内容所属的学科为英语时,由于英语都是文字型答案,因此用平面投影的方式进行投影能够达到更好的观看效果;而当提问内容所属的学科为几何学时,由于几何图形是立体图形,若是以平面投影方式进行投影,会对学生理解答案造成一定的困难,达不到为学生提供解题的目的;而以三维投影方式进行投影,学生可以从不同角度对投影出来的三维几何图形进行理解,使遇到的问题更加容易解答。再例如,当提问内容所属学科为地理时,由于地理上很多都是关于山地、海洋、气候等研究,若是以平面投影方式来投射解答内容,可能无法让学生有直观的体验。如学生在理解喀斯特地貌、丹霞地貌、海岸地貌、冰川地貌等地形时,若是以平面投影方式投影相关的图片,学生可能并不能完全理解各类地形地貌的特色,从而不容易区分不同地形地貌,而以三维投影方式来投射解答内容,学生能够从不同的角度对各种地貌进行观察,更容易区分不同地形地貌的特征。

投影时,可通过图像识别技术,从摄像模块1采集的图像信息中检测出一桌面区域,将这一区域作为预设投影区域。为了在投影时产生更好的投影效果,还可配套增加一块投影板,学生在学习时,可将投射板放置在书桌上,摄像头可通过图像识别技术自动识别出投射板的位置,同时调整投射模块的投射方向,将图像投射至投影板上。

本方案结合了学生学习时所用的必需品——灯具,在灯具上集成了获取问题、解答问题、显示解答内容等功能,在学生学习遇到困难时,能够及时为学生提供帮助。本方案中,当智能设备获取到解答内容后,以投影的方式将解答内容投射出来,不需要外接显示屏幕或者在灯具上增设显示屏幕,增加应用的广泛性。同时只能灯具可针对不同的学科类型,选择更佳的投影方式投影。

另外,当需要投射几何图形,或者多种实验器材等立体图像时,本实施例考虑学生在做几何题时会经常有作图、连辅助线、添加其他图形等操作,在做实验题时,经常需要将多种器材进行组合,同时为了使学生更加完整、全面地查看投影出的几何图形,做实验时能够有更加直观的体验,本方案在以三维投影方式进行投影时增加了编辑操作,用户可以在投影出来的三维图像上进行相应的编辑,以此来更好地了解学习内容。

例如,当触碰所述三维图像上任意点的时间达到第一预设时间时,或当触碰所述三维图像上任意至少三点时,所述智能设备解析所述编辑操作为图像拖动操作,并根据用户的图像拖动操作对三维图像进行拖动。

当触碰所述三维图像上任意点的时间达到第二预设时间时,所述智能设备解析所述编辑操作为图像旋转操作,并根据用户的图像旋转操作对三维图像进行旋转。

当触碰所述三维图像上任意两点,并且两个触碰点距离缩小时,所述智能设备解析所述编辑操作为图像缩小操作;当触碰所述三维图像上任意两点,并且两个触碰点距离变大时,所述智能设备解析所述编辑操作为图像放大操作;

当触碰所述三维图像上任一点的时间达到第四预设时间,并且触碰点移动距离大于预设距离时,所述智能设备解析所述编辑操作为作图操作。

当用户用手抓取所述三维图像中的某一图形时,所述智能设备解析出所述编辑操作为图像删除操作;而当智能设备的语音检测模块6监听到用户的语音信息中包含图形添加信息时,则在三维图像中添加所述图形添加信息对应的图形,例如用户说“添加圆柱体”,智能设备在监听到这句话时,即可通过语义理解,分析出需要添加“圆柱体”这一图形。

可选的,本实施例中,所述智能设备分析所述提问内容,得到所述提问内容所属的学科,所述提问内容所属学科的具体章节,以及所述提问内容所属章节的具体知识点,并记录形成历史提问记录;所述智能设备根据预设时段内的历史提问记录,生成不同学科的学习评价报告,和/或每一学科中不同章节的学习评价报告,和/或每一学科的每一章节中不同知识点的学习评价报告。

用户在询问问题后,智能设备都会记录下相关的提问内容,并且对提问内容进行分析,得到所述提问内容所属的学科,所述提问内容所属学科的具体章节,以及所述提问内容所属章节的具体知识点。当用户想要了解最近一段时间的学习情况时,智能设备即可根据这段时间的历史提问记录,生成相应的学习评价报告,帮助用户了解当前的学习状况。例如用户需要本学期数学这门学科的学习评价报告时,则可根据历史提问记录,智能设备会将本学期所问问题的历史记录提取出来,并根据每个问题的所属章节归类,所属知识点归类,评价用户在数学学科中每一章节、每一知识点的学习情况。

本发明还体用了一种智能设备的另一个实施例,所述智能设备包括:

语音检测模块6,用于监听用户的语音信息,并检测所述语音信息中是否含有提问关键词。

所述语音检测模块6,还用于若所述智能设备检测出所述语音信息中不含有提问关键词,则继续监听用户的语音信息。

控制模块7,与所述语音检测模块6电连接,用于当识别出所述语音信息中含有提问关键词时,开启摄像模块1。

摄像模块,用于获取提问区域图像;优选的,所述摄像模块1,还与所述控制模块7电连接,用于以检测到的书本的边缘为界,获取书本的界面图像;然后从所述书本的界面图像中检测出目标指向区域,将所述目标指向区域对应的图像作为所述提问区域图像。

解析模块2,与所述摄像模块1电连接,用于从所述摄像模块1获取的所述提问区域图像中解析出提问内容。

答案获取模块3,与所述解析模块2电连接,用于获取所述提问内容对应的解答内容。

投影信息生成模块4,与所述答案获取模块3电连接,用于根据所述解答内容生成投影信息。

光获取模块8,获取投影区域的背景光的光强度。

光调整模块9,与所述光获取模块8电连接,用于调整投射所述投影信息时产生的投射光与背景光之间的光强度差,

投影模块5,与所述投影信息生成模块4和所述光调整模块9电连接,用于根据调整后所述投射光的光强度将所述投影信息投射至投影区域。

优选的,所述光获取模块8,还用于当所述智能设备未开启照明装置时,所述智能设备获取自然光形成的背景光的光强度,

所述光调整模块9,还用于根据所述背景光的光强度调整所述投射光的光强度,使所述投射光与所述背景光之间的光强度差达到第一预设值。

优选的,所述光获取模块8,还用于当所述智能设备开启照明装置时,所述智能设备获取所述照明光形成的背景光的光强度。

所述光调整模块9,还用于根据所述背景光的光强度调整所述投射光的光强度,使所述投射光与所述背景光之间的光强度差达到第二预设值。

优选的,所述光获取模块8,还用于当所述智能设备开启照明装置时,所述智能设备获取照明光形成的背景光的光强度。

所述光调整模块9,还用于根据投射光的光强度调整照明装置发出的照明光的光强度,从而调整背景光的光强度,使所述投射光与所述背景光之间的光强度差达到第三预设值。

优选的,所述光调整模块9,还用于当所述智能设备开启照明装置时,所述智能设备关闭所述照明装置,使所述投射光与所述背景光之间的光强度差达到第四预设值。

当学生在学习或做题的过程中遇到问题时,可用手指向不懂的题目,然后说:“这道题如何做”或“第一题怎么做”等类似提问语。智能设备中的语音检测模块6包括麦克风,可获取用户的语音信息,在获取到用户的语音信息后,语音检测模块6将用户的语音信息转换为文本信息;然后判断文本信息中是否含有提问关键词(例如“怎么做”、“如何做”等关键词)。

若智能设备检测出所述语音信息中含有所述提问关键词,则开启摄像模块1,从书本上获取提问区域图像。

具体的,为了更好地识别出桌面上的书本,可训练书本识别模型,本实施例以训练unet分割模型为例。将基于tensorflow深度学习框架,构建unet分割网络。为了降低分割网络的大小,提升分割网络的效率,修改现有的轻量化mobilenet_v2网络结构,将其用于unet网络编码部分,unet解码部分使用简单的卷积神经网络。

训练前可采集多种单一桌面图像,以及多种单一书本图像,将每一张单一桌面图像和每一张单一书本图像进行多样组合(例如将单一书本图像放置于单一书本图像上的不同位置),得到若干单一书本图像和单一桌面图像的组合图像,然后将若干组合图像以4:1分为训练集和验证集,将训练集通过unet分割网络进行训练,当unet分割网络在训练集和测试集上的iou(分割网络的标准度量)值都大于0.95时,得到unet分割模型。

当摄像头获取桌面图像后,通过unet分割模型对桌面图像进行二值分割,得到桌面图像的二值分割图,并从桌面图像的二值分割图中提取出书本的边缘,从而确定出书本的位置,从桌面图像中获取到书本的界面图像。

本方案中并非实时开启摄像模块,而是在满足特定条件下才开启摄像模块,降低了摄像模块的能耗。

智能设备在获取到书本的界面图像后,可通过图像识别技术,从界面图像中识别出用户的手指,并将指尖所指向的区域定义为目标指向区域,然后将目标指向区域的图像作为提问区域图像。

然后,智能设备可从所述摄像模块1获取的所述提问区域图像中解析出提问内容,再然后获取所述提问内容对应的解答内容,并根据所述解答内容生成投影信息。

智能设备的使用情况可分为白天和晚上,本实施例中,当智能设备未开启照明装置时,背景光属于太阳发出的自然光,而在晴天或者多云天气时,自然光的光线强度比较强,若是投射光较弱时,会导致投射出来的投影看不清楚(这和投影机投影时需要关闭背景光源时的原理一样);当阴雨天气或者晚上时,背景光太弱,而投影光较强,会导致投影太刺眼,影响学生查看投影内容。

为了使智能设备投射出来的投影达到良好的投影效果,智能设备会适当调高投射光的光强度,使透射光和背景光之间的光强度差达到第一预设值。(此值可根据具体的产品而变动,其目的是在投影模块5发出的透射光和背景光之间的光强度差达到此值时,能够使投射出来的投影达到良好的投影效果。)

当智能设备开启照明装置时,通常为晚上或者阴雨天气,背景光主要属于照明光。此时,若背景光太强,而投影光较弱,会导致投射出来的投影看不清楚,为了使智能设备投射出来的投影达到良好的投影效果,智能设备可将投影模块5的投射光的光强度调高,使投射光述背景光之间的光强度差达到第二预设值。(此值可根据具体的产品而变动,其目的是在投影模块5发出的透射光和背景光之间的光强度差达到此值时,能够使投射出来的投影达到良好的投影效果。)本方案在使投射出来的投影达到良好的投影效果时,保持照明装置的正常照明,学生可以正常阅读书本上的内容。

当智能设备开启照明装置时,通常为晚上或者阴雨天气,背景光主要属于照明光。此时,若背景光太强,而投影光较弱,会导致投射出来的投影看不清楚,为了使智能设备投射出来的投影达到良好的投影效果,智能设备除了调整投影模块5的投射光的光强度外,还可将照明设备发出的照明光的光强度调低,使投射光述背景光之间的光强度差达到第三预设值(此值可根据具体的产品而变动,其目的是在投影模块5发出的透射光和背景光之间的光强度差达到此值时,能够使投射出来的投影达到良好的投影效果。),当投影结束时,照明装置再恢复原来的照明强度。由于强光对学生眼睛的伤害极大,本方案在投影时是将照明光的光强度调低,投影模块5投射出来的投影光的光强度还是处于正常值,可使投影模块5出来的投影发出的光线相对柔和,当学生查看投影内容时,能够减少投影光线对眼睛的伤害。

当智能设备开启照明装置时,若照明装置没有调节照明光的光强度的功能,可以直接将照明装置关闭,使所述投射光与所述背景光之间的光强度差达到第四预设值。当投影结束时再开启照明装置,让学生可进行后续学习。

优选的,智能设备上可设有投影模块5,如微型投影器等。智能设备可根据预设的投影模板(包括:答案版块、解析版块、知识点版块),将解答内容中相应的内容添加至投影模板的各个版块中,从而生成投影信息。用户可预先设定投影模块5的投影方式(包括led投射、灯光投射、3d全息投射、ar投射),将投影信息投射至预设投影区域。

优选的,本实施例还包括:所述智能设备记录所述问题内容形成提问记录,并在历史提问记录中查找是否存在与所述问题内容近似的提问记录;若在历史提问记录中存在与所述问题内容相似的提问记录,则将所述相似的提问记录对应的提问内容以及解答内容投射至所述预设投影区域。

具体的,智能设备会将用户所提问题进行记录,形成提问记录,当用户后续再问到相似的问题时,可将相近的问题以及解答内容推送给用户。例如当用户所闻的问题内容为“‘百日依山尽’的下一句是____”,而用户以前也问过“‘更上一层楼’的上一句是____”,那么,智能设备在给用户投影解答信息后,会将相似的提问记录对应的提问内容以及解答内容都投射到预设投影区域,加深用户对相似知识点的认知。

所述智能设备包括智能台灯,所述摄像模块和所述投影模块设置在所述智能台灯的头部,且所述摄像模块的摄像方向以及所述投影模块的投射方向朝向所述智能台灯的底座;或;所述智能设备包括智能壁灯,所述摄像模块和所述投影模块设置在所述智能壁灯上,且所述摄像模块的摄像方向以及所述投影模块的投射方向朝向所述预设投影区域;或;所述智能设备包括智能吊灯,所述摄像模块和所述投影模块设置在所述智能吊灯上,且所述摄像模块的摄像方向以及所述投影模块的投射方向朝向所述预设投影区域。

如图4所示,本发明提供了一种智能台灯的示意图,所述智能台灯本体包括台灯底座、连接杆、台灯头部;所述摄像头设置在所述台灯头部,且所述摄像头的摄像方向朝向所述台灯底座一侧;所述麦克风和扬声器分别设置在所述台灯底座上。学生学习遇到困难时,可通过上述实施例中智能设备的辅助学习功能,完成自主学习。

应当说明的是,上述实施例均可根据需要自由组合。以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1