增强现实处理方法、WEB模块、终端和云端服务器与流程

文档序号:11206487阅读:774来源:国知局
增强现实处理方法、WEB模块、终端和云端服务器与流程

本发明实施例涉及一种通信技术领域,特别是一种增强现实处理方法、web模块、终端和云端服务器。



背景技术:

增强现实技术(augmentedrealitytechnique,ar技术),它是一种将真实世界信息和虚拟世界信息“无缝”集成的新技术,是把原本在现实世界的一定时间空间范围内很难体验到的实体信息(视觉信息、声音、味道或触觉等),通过电脑等科学技术,模拟仿真后再叠加,将虚拟的信息应用到真实世界,真实的环境和虚拟的物体实时地叠加到了同一个画面或空间同时存在,被人类感官所感知,从而达到超越现实的感官体验。

增强现实技术包含了多媒体、三维建模、实时视频显示及控制、多传感器融合、实时跟踪及注册、场景融合等新技术与新手段。由于增强现实是一种需要与用户在线交互的实时计算技术,对带宽和时延有着极高的要求。

增强现实具体实现过程简述如下:首先,需要捕获现实世界中的目标物体,并进行快速识别、提取特征,其次,计算三维坐标信息。然后,需要根据计算得到的信息匹配图像库,最后,进行渲染,即将相应虚拟的物体在用户界面叠加到现实场景中。其中的图像捕获、识别、计算和渲染涉及到大量复杂的矩阵运算,并且随着图像分辨率和大小的增加,其计算复杂度也会增加。

由于实时性和计算复杂性的限制,现有技术中增强现实方法多数是基于专用设备(如计算机、头盔等)来实现的:利用计算机或穿戴设备(如头盔、手柄等)实现图像采集、特征提取、识别、计算和渲染等操作。虽然能提供较强的计算能力并满足交互的实时性,用户体验较好,但由于设备庞大、不便携,此外设备的价格还比较昂贵,现有技术中增强现实的方法太重量级,只适合于特定应用场景(如游戏、固定场所中特定场景的体验),因此,大大限制了增强现实技术的大规模普适化应用。

近几年,随着移动通信技术发展和智能移动终端处理能力的提高,智能终端逐渐成为了一种ar应用普适化的终端,基于智能移动终端的增强现实技术开始得到重视。

应当说明的是,现有技术中基于智能移动终端的增强现实应用多数是通过在智能终端安装app(application,应用程序)的方式来实现,这种实现增强现实的过程中,图像采集、特征提取、识别、计算和渲染等操作均是通过app在终端本地完成,未下载app的用户无法使用增强现实服务,可以理解的是,通过app来实现虽然可以充分利用终端计算能力,但前期开发需要设计、功能打码、测试等流程,使得app可实现图像捕获、识别、计算和渲染等功能,导致前期开发成本高。此外,对于用户来说也比较重量级,用户一般情况下不愿意为了单一的应用场合去专门下载并安装一个app,单纯的增强现实应用app推广的难度很大,因此后期推广成本很高,因此通过app来实现具有成本高昂的缺点。

目前,现有技术还没有相应的方法来解决通过终端实现增强现实成本高的问题。



技术实现要素:

针对现有技术的缺陷,本发明实施例提供一种增强现实处理方法、web模块、终端和云端服务器。

一方面,本发明实施例提供一种增强现实处理方法,包括:

在接收到用户触发的增强现实请求后,终端的web模块调用摄像头进行拍摄,并捕获摄像头拍摄的图像;

所述web模块将所述图像发送至云端服务器,以供云端服务器根据所述图像,获取对应所述图像的虚拟物的坐标信息,所述坐标信息用于表示所述虚拟物在所述图像中的形态的多个坐标;

所述web模块接收所述坐标信息,根据所述坐标信息,对所述虚拟物的形态进行渲染,得到第一增强现实信息,所述第一增强现实信息是由所述图像与所述虚拟物叠加得到的。

另一方面,本发明实施例还提供一种增强现实处理方法,包括:

云端服务器接收终端的web模块发送的图像,所述图像是所述web模块在接收到用户触发的增强现实请求后,web模块调用摄像头进行拍摄,并捕获摄像头拍摄的图像;

根据所述图像,获取对应所述图像的虚拟物的坐标信息,所述坐标信息用于表示所述虚拟物在所述图像中的形态的多个坐标;

将所述坐标信息发送至所述web模块,以供所述web模块根据所述坐标信息,对所述虚拟物的形态进行渲染,得到第一增强现实信息,所述第一增强现实信息是由所述图像与所述虚拟物叠加得到的。

另一方面,本发明实施例还提供一种web模块,包括存储器、处理器以及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现如下方法。

在接收到用户触发的增强现实请求后,终端的web模块调用摄像头进行拍摄,并捕获摄像头拍摄的图像;

所述web模块将所述图像发送至云端服务器,以供云端服务器根据所述图像,获取对应所述图像的虚拟物的坐标信息,所述坐标信息用于表示所述虚拟物在所述图像中的形态的多个坐标;

所述web模块接收所述坐标信息,根据所述坐标信息,对所述虚拟物的形态进行渲染,得到第一增强现实信息,所述第一增强现实信息是由所述图像与所述虚拟物叠加得到的。

另一方面,本发明实施例还提供一种终端,所述终端包括上述web模块。

另一方面,本发明实施例还提供一种计算机可读存储介质,其上存储有计算机程序,所述程序被处理器执行时实现如下步骤:

在接收到用户触发的增强现实请求后,终端的web模块调用摄像头进行拍摄,并捕获摄像头拍摄的图像;

所述web模块将所述图像发送至云端服务器,以供云端服务器根据所述图像,获取对应所述图像的虚拟物的坐标信息,所述坐标信息用于表示所述虚拟物在所述图像中的形态的多个坐标;

所述web模块接收所述坐标信息,根据所述坐标信息,对所述虚拟物的形态进行渲染,得到第一增强现实信息,所述第一增强现实信息是由所述图像与所述虚拟物叠加得到的。

另一方面,本发明实施例还提供一种云端服务器,包括存储器、处理器以及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现如下步骤:

云端服务器接收终端的web模块发送的图像,所述图像是所述web模块在接收到用户触发的增强现实请求后,web模块调用摄像头进行拍摄,并捕获摄像头拍摄的图像;

根据所述图像,获取对应所述图像的虚拟物的坐标信息,所述坐标信息用于表示所述虚拟物在所述图像中的形态的多个坐标;

将所述坐标信息发送至所述web模块,以供所述web模块根据所述坐标信息,对所述虚拟物的形态进行渲染,得到第一增强现实信息,所述第一增强现实信息是由所述图像与所述虚拟物叠加得到的。

由上述技术方案可知,本发明实施例提供的增强现实处理方法、web模块、终端和云端服务器,所述方法通过所述web模块采集图像,并将采集的图像发送至云端服务器,由云端服务器进行虚拟物的坐标信息获取步骤,使得无需另下载一个app,充分利用终端已有的app与云端服务器进行交互,即可实现增强现实,由此可降低实现增强现实的成本。

附图说明

图1为本发明实施例提供的一种增强现实处理方法的流程示意图;

图2为本发明又一实施例提供的一种增强现实处理方法的流程示意图;

图3为本发明又一实施例提供的一种增强现实处理方法的流程示意图;

图4为本发明又一实施例提供的一种增强现实处理方法的流程示意图;

图5为本发明又一实施例提供的一种增强现实处理系统的结构示意图;

图6为本发明又一实施例提供的一种增强现实处理系统的结构示意图;

图7为本发明又一实施例提供的一种web模块的结构示意图;

图8为本发明又一实施例提供的一种终端的结构示意图;

图9为本发明又一实施例提供的一种云端服务器的结构示意图。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚地描述,显然,所描述的实施例是本发明实施例一部分实施例,而不是全部的实施例。

图1示出了本发明实施例提供的一种增强现实处理方法的流程示意图。

参照图1,本发明实施例提供的方法具体包括以下步骤:

步骤11、在接收到用户触发的增强现实请求后,终端的web模块调用摄像头进行拍摄,并捕获摄像头拍摄的图像。

在本实施例中,由终端的web模块进行增强现实的图像采集。

可选地,所述web模块是终端的web(worldwideweb,全球广域网)部件,为用户在网络上查找和浏览信息提供了图形化的、易于访问的直观界面,在终端中具有广泛的应用,如浏览器具有web模块,微信、微博、qq等都具有浏览器内核,同样具有web模块。

具体地,web模块可为用户呈现增强现实请求的按钮,用户访问所述web模块的网页时,操作web模块与终端进行交互,web模块接收用户触发的增强现实请求,所述增强现实服务请求用于请求使用增强现实服务。

在本步骤中,在接收到所述增强现实请求后,web模块进行图像采集操作,具体为调用摄像头进行拍摄,并由web模块捕获摄像头拍摄的图像,将所述图像保存在web模块中。

步骤12、所述web模块将所述图像发送至云端服务器,以供云端服务器根据所述图像,获取对应所述图像的虚拟物的坐标信息,所述坐标信息用于表示所述虚拟物在所述图像中的形态的多个坐标。

在本实施例中,所述web模块可通过网络与所述云端服务器进行交互,所述云端服务器是可进行增强现实计算的服务器,且具有预设的虚拟物数据库,其中存储有对应所述图像的虚拟物。

具体地,所述云端服务器接收所述web模块发送的所述图像,识别所述web模块的标识是否与预先设定的增强现实服务列表中的web模块的标识匹配,若匹配,自虚拟物数据库中获取对应所述图像的虚拟物,采用现有技术中的算法,计算得到所述虚拟物在所述图像中的形态的多个坐标。

步骤13、所述web模块接收所述坐标信息,根据所述坐标信息,对所述虚拟物的形态进行渲染,得到第一增强现实信息,所述第一增强现实信息是由所述图像与所述虚拟物叠加得到的。

在本步骤中,所述web模块接收所述坐标信息,对所述虚拟物的形态进行渲染,将所述虚拟物叠加在所述图像上,得到第一增强现实信息,并显示得到的第一增强现实信息。

可以理解的是,绝大多数的终端均具有浏览器、微信、微博,也就是说,绝大多数的终端均具有所述web模块,在本实施例中,通过所述web模块进行图像采集步骤,将采集的图像发送至云端服务器,由云端服务器进行虚拟物的坐标获取步骤,在本实施例中,由终端的web模块与云端服务器交互共同实现增强现实,使得无需为实现增强现实另下载一个app,利用终端已有的app与云端服务器,即可实现增强现实。

在另一种实施方式中,所述方法步骤11之后,所述方法还包括:

所述web模块对所述图像进行预处理,所述预处理为以下至少一种:对所述图像采样、压缩、提取特征。

相应地,所述步骤12具体为,将预处理后的图像发送至云端服务器。

考虑到带宽的限制,由所述web模块对所述图像/视频流进行预处理后再发送至云端服务器,可获得相对较小的图像/视频流,从而可减小传输过程中的延时,以提高传输效率。

本实施例提供的增强现实处理方法,至少具有以下技术效果:

通过所述web模块采集图像,并将采集的图像发送至云端服务器,由云端服务器进行虚拟物的坐标信息获取步骤,使得无需另下载一个app,充分利用终端已有的app与云端服务器进行交互,即可实现增强现实,由此可降低实现增强现实的成本。

图2示出了本发明又一实施例提供的一种增强现实处理方法的流程示意图。

参照图2,在上述实施例的基础上,本实施例提供的增强现实处理方法。所述方法步骤11,web模块捕获摄像头的方式可有多种,本实施例举例说明其中一种。

步骤21、在接收到用户触发的增强现实请求后,web模块调用摄像头进行拍摄,并捕获摄像头拍摄的视频流,所述视频流包括多个有序的图像。

可选地,web模块调用摄像头进行拍摄,捕获摄像头拍摄的视频流,所述视频流为包括多个有序的图像的视频。

步骤22、所述web模块将所述视频流发送至云端服务器,以供云端服务器根据所述第一张图像,获取对应所述第一张图像的虚拟物的坐标信息,所述坐标信息用于表示所述虚拟物在所述第一张图像中的形态的多个坐标。

步骤22与上述步骤12相似,所述web模块将所述视频流发送至云端服务器,云端服务器根据所述第一张图像,获取对应所述第一张图像的虚拟物的坐标信息。

步骤23、所述web模块接收所述坐标信息,根据所述坐标信息,对所述虚拟物的形态进行渲染,得到第一增强现实信息,所述第一增强现实信息是由所述第一张图像与所述虚拟物叠加得到的。

步骤23与上述步骤13相似,本实施例不再赘述。

步骤24、所述web模块接收云端服务器发送的角度变换矩阵,所述角度变换矩阵用于指示所述虚拟物在所述图像中的形态的角度变换,所述角度变换矩阵是云端服务器跟踪所述真实物在连续两张图像中的坐标信息的变化来确定的,所述虚拟物是云端服务器判断获知所述图像中具有与预设的真实物数据库中真实物匹配的真实物,则根据所述真实物获取得到的。

可选地,云端服务器对所述图像进行检测,判断获知所述图像中是否具有与预设的真实物数据库中真实物匹配的真实物,若有,则从预设的虚拟物数据库中获取对应所述真实物的所述虚拟物。

可选地,云端服务器对所述真实物的位置进行跟踪,跟踪可以使用kcf(kernerlizedcorrelationfilter,相关滤波器)等图像处理的跟踪算法,获得所述真实物在第一张和第二张图像中的坐标信息的变化,对跟踪到的坐标信息的变化做相应的变换,求解变换矩阵可以使用仿射变换等求解方式,得到所述角度变换矩阵,并将角度变换矩阵发送至所述web模块。

也就是说,图像中真实物的位置发生变化,云端服务器获取对应的虚拟物,使所述虚拟物的角度也会发生变化,所述虚拟物在所述图像中的形态的角度变换可为虚拟物角度变化的方向和位置。

步骤25、所述web模块根据所述角度变换矩阵,对所述虚拟物的形态进行渲染,得到第二增强现实信息,所述第二增强现实信息是由所述真实物与所述虚拟物叠加得到的。

可选地,所述web模块根据所述角度变换矩阵,对所述虚拟物的形态进行渲染。

具体地,所述web模块在渲染过程中在所述真实物的位置对所述虚拟物进行渲染,并进行角度变换,其中,渲染可以使用webgl(webgraphicslibrary,网络图形库)相关技术,得到第二增强现实信息,使得所述虚拟物在所述视频流中可进行角度变换。

可以理解的是,在用户拍摄所述视频流的过程中,摄像头任何微小的移动都将导致视频流的各图像产生变化,云端服务器实时跟踪所述真实物在连续图像中的位置变化,实时根据位置变化计算得到相应的角度变换矩阵,使得所述虚拟物可根据所述真实物的变化而变化,实现更强大的增强现实效果。

若判断获知所述图像中没有与预设的真实物数据库中真实物匹配的真实物,则所述云端服务器向所述web模块返回反馈信息,以提示所述web模块重新捕获摄像头拍摄的图像。

举例来说,所述图像是餐桌上一瓶酒,所述云端服务器判断获知所述图像完整呈现了酒厂的商标,则所述云端服务器获取对应的所述商标的彩蛋,若预设彩蛋在酒瓶的瓶盖的位置,获取彩蛋在图像的坐标信息,并发送至所述web模块,使所述web模块在所述图像中瓶盖的位置进行渲染,呈现所述彩蛋。

所述云端服务器判断获知所述图像中没有酒厂的商标,则所述云端服务器可根据所述虚拟物数据库中存储的反馈信息,获取反馈信息在图像的坐标信息,并发送至所述web模块,使所述web模块在所述图像中瓶盖的位置进行渲染,呈现所述反馈信息,所述反馈信息可以是提示用户移动摄像头的图片。

在另一种实施方式中,所述方法步骤21之后,所述方法还包括:

所述web模块对所述视频流进行预处理,所述预处理为以下至少一种:对所述视频流采样、压缩。

相应地,所述步骤22具体为,将预处理后的视频流发送至云端服务器。

考虑到带宽的限制,由所述web模块对所述图像/视频流进行预处理后再发送至云端服务器,可获得相对较小的图像/视频流,从而可减小传输过程中的延时,以提高传输效率。

本实施例提供增强现实处理方法,至少具有以下技术效果:

通过所述web模块采集视频流,并将采集的视频流发送至云端服务器,由云端服务器对虚拟物进行实时的角度变换,使得所述web模块显示的所述虚拟物可进行角度变换,实现更强大的增强现实效果。

图3示出了本发明又一实施例提供的一种增强现实处理方法的流程示意图。

参照图3,在上述实施例的基础上,本实施例提供的增强现实处理方法。

所述方法包括:

步骤31、云端服务器接收终端的web模块发送的图像,所述图像是所述web模块在接收到用户触发的增强现实请求后,web模块调用摄像头进行拍摄,并捕获摄像头拍摄的图像。

在本实施例中,与上述步骤11相似,由终端的web模块进行图像采集,云端服务器接收终端的web模块发送的图像。

步骤32、根据所述图像,获取对应所述图像的虚拟物的坐标信息,所述坐标信息用于表示所述虚拟物在所述图像中的形态的多个坐标。

在本实施例中,与上述步骤12相似,所述云端服务器是可进行增强现实计算的服务器,且具有预设的虚拟物数据库,其中存储有对应所述图像的虚拟物。

具体地,所述云端服务器接收所述图像,自虚拟物数据库中获取对应所述图像的虚拟物,采用现有技术中的算法,计算得到所述虚拟物在所述图像中的形态的多个坐标。

步骤33、将所述坐标信息发送至所述web模块,以供所述web模块根据所述坐标信息,对所述虚拟物的形态进行渲染,得到第一增强现实信息,所述第一增强现实信息是由所述图像与所述虚拟物叠加得到的。

在本实施例中,与上述步骤13相似,所述云服务器将所述坐标信息发送至所述web模块。

在另一种实施方式中,云端服务器根据所述坐标信息,对所述虚拟物的形态进行渲染,得到第一增强现实信息,所述第一增强现实信息是由所述图像与所述虚拟物叠加得到的。

也就是说,渲染的步骤可由云端服务器完成,将获得的第一增强现实信息发送至所述web模块。将增强现实的渲染步骤由云端服务器完成,使得终端的web模块可直接接收渲染后的增强现实信息,从而减少了终端的功能,可进一步节约终端的web模块的成本。

本实施例提供增强现实处理方法,至少具有以下技术效果:

通过云端服务器接收web模块采集的图像,进行虚拟物的坐标信息获取步骤,使得无需另下载一个app,充分利用终端已有的web模块与云端服务器进行交互,即可实现终端的增强现实效果,由此可降低实现增强现实的成本。

图4示出了本发明又一实施例提供的一种增强现实处理方法的流程示意图。

参照图4,在上述实施例的基础上,本实施例提供的增强现实处理方法。所述方法步骤31,所述云端服务器接收终端的web模块发送的图像可有多种,本实施例举例说明其中一种。

步骤41、云端服务器接收终端的web模块发送的视频流,所述视频流是所述web在接收到用户触发的增强现实请求后,web模块调用摄像头进行拍摄,并捕获摄像头拍摄的视频,所述视频流包括多个有序的图像。

可选地,web模块调用摄像头进行拍摄,捕获摄像头拍摄的视频流,所述视频流为包括多个有序的图像的视频。

步骤42、云端服务器根据所述第一张图像,获取对应所述第一张图像的虚拟物的坐标信息,所述坐标信息用于表示所述虚拟物在所述第一张图像中的形态的多个坐标。

步骤42与上述步骤32相似,云端服务器根据所述第一张图像,获取对应所述第一张图像的虚拟物的坐标信息。

步骤43、将所述坐标信息发送至所述web模块,以供所述web模块根据所述坐标信息,对所述虚拟物的形态进行渲染,得到第一增强现实信息,所述第一增强现实信息是由所述图像与所述虚拟物叠加得到的。

步骤43与上述步骤33相似,本实施例不再赘述。

步骤44、云端服务器判断获知所述图像中具有与预设的真实物数据库中真实物匹配的真实物,则根据所述真实物获取对应的虚拟物,跟踪所述真实物在连续两图像中的坐标信息的变化,来确定角度变换矩阵,所述角度变换矩阵用于指示所述虚拟物在所述图像中的形态的角度变换。

可选地,云端服务器对所述真实物的位置进行跟踪,跟踪可以使用kcf(kernerlizedcorrelationfilter,相关滤波器)等图像处理的跟踪算法,获得所述虚拟物在第一张和第二张图像中的坐标信息的变化,对跟踪到的坐标信息的变化做相应的变换,求解变换矩阵可以使用仿射变换等求解方式,得到所述角度变换矩阵,并将角度变换矩阵发送至所述web模块。

步骤45、云端服务器将所述角度变换矩阵发送至所述web模块,以供所述web模块根据所述角度变换矩阵,对所述虚拟物的形态进行渲染,得到第二增强现实信息,所述第二增强现实信息是由所述真实物与所述虚拟物叠加得到的。

可选地,所述web模块根据所述角度变换矩阵,对所述虚拟物的形态进行渲染。

具体地,所述web模块在渲染过程中对所述虚拟物进行角度变换,其中,渲染可以使用webgl(webgraphicslibrary,网络图形库)相关技术,得到第二增强现实信息,使得所述虚拟物在所述web模块中可进行角度变换。

可以理解的是,在用户拍摄所述视频流的过程中,摄像头任何微小的移动都将导致视频流的各图像产生变化,云端服务器实时跟踪所述虚拟物在连续图像中的位置变化,实时根据位置变化计算得到相应的角度变换矩阵,使得所述虚拟物可根据所述图像的变化而变化,实现更强大的增强现实效果。

若判断获知所述图像中没有与预设的真实物数据库中真实物匹配的真实物,则所述云端服务器获取对应的反馈信息,并向所述web模块返回反馈信息,以提示所述web模块重新捕获摄像头拍摄的图像。

举例来说,所述图像是餐桌上一瓶酒,所述云端服务器判断获知所述图像完整呈现了酒厂的商标,则所述云端服务器获取对应的所述商标的彩蛋,若预设彩蛋在酒瓶的瓶盖的位置,获取彩蛋在图像的坐标信息,并发送至所述web模块,使所述web模块在所述图像中瓶盖的位置进行渲染,呈现所述彩蛋。所述云端服务器判断获知所述图像中没有酒厂的商标,则所述云端服务器可根据所述虚拟物数据库中存储的反馈信息,获取反馈信息在图像的坐标信息,并发送至所述web模块,使所述web模块在所述图像中瓶盖的位置进行渲染,呈现所述反馈信息,所述反馈信息可以是提示用户移动摄像头的图片。

进一步地,所述云端服务器根据酒厂的商标在连续两张图像中的坐标信息的变化,来确定彩蛋的角度变换矩阵,所述角度变换矩阵用于指示彩蛋的变换角度和方向。

如用户向上移动摄像头,使得商标的位置向下移动,则角度变化矩阵指示所述彩蛋也向下移动;或者用户向下倾斜摄像头,使得商标的位置向上移动,则角度变化矩阵指示所述彩蛋也向上移动。

本实施例提供的增强现实处理方法,至少具有以下技术效果:

通过所述web模块采集视频流,并将采集的视频流发送至云端服务器,由云端服务器对虚拟物进行实时的角度变换,使得所述web模块显示的所述虚拟物可进行角度变换,实现更强大的增强现实效果。

图5示出了本发明又一实施例提供的一种增强现实处理系统的结构示意图。

参阅图5,在上述实施例的基础上,本发明又一实施例提供的增强现实处理系统,可基于所述web模块实现,终端中具有所述web模块的app具有多种,本实施例以微信为例进行说明。

目前,随着微信的大量普及,微信已经成为了移动互联网的一个重要入口。企事业单位都通过微信公众号(包括订阅号、服务号、小程序等)来达到宣传企业产品,实现和用户互动交流的一个重要手段。对于用户来说,不需要下载专门的app,只需扫描二维码就可以快速地关注某个公众号,因此,企事业单位可以利用微信公众号来开展营销和宣传活动,吸引用户来关注。然而现在的公众号/服务号中还不支持基于增强现实技术的交互功能,企事业单位和用户无法在微信公众号中利用增强现实技术来开展一些广告宣传和线上线下的营销互动服务。

微信公众号中用户访问网址的行为是由web模块支持的,基于web模块实现增强现实服务的公众号为本发明的定制化的微信公众号。

增强现实服务器即为云端可提供增强现实服务的服务器。

本发明增强现实处理系统包括定制化的微信公众号,微信公众号平台和增强现实服务器三个子系统。

所述定制化的微信公众号子系统,是在原有通用微信公众号的基础上添加了增强现实功能的微信公众号,其包括用户ui,数据通信模块,图像采集模块,图像预处理模块,3d渲染模块五个子模块。

所述用户ui子模块,用于和用户交互,接收用户的请求,反馈服务器的响应。

所述数据通信子模块,用于和增强现实服务器进行数据通信。

所述图像采集子模块,用于调用终端的拍摄设备进行拍摄,并且捕获拍摄到的图像信息。

所述图像预处理子模块,用于对图像采集子模块捕获的图像进行采样,压缩,提取特征等预处理。

所述3d渲染子模块,用于对虚拟信息进行渲染。

所述微信公众号平台子系统包括用户数据和开发者接口两个子模块。

所述用户数据子模块,通过微信内部通信接口,即时更新用户信息。

所述开发者接口子模块,用于获取用户的openid,地理位置等信息。

所述增强现实服务器子系统,包括真实物数据库,目标检测模块,物体跟踪模块,坐标变换计算模块和数据通信模块五个子模块。

所述真实物数据库子模块,用于储存真实物或者处理后的真实物信息,即为图中标识物数据库。

所述目标检测子模块,用于检测微信公众号传来的图像信息中是否有真实物数据库中存在的真实物。

所述物体跟踪子模块,用于跟踪真实物在增强现实服务器接收到的图像中坐标位置。

所述坐标变换计算模块,用于根据所述真实物获取预设的虚拟物数据库中的虚拟物,并计算虚拟物在所述图像中的角度变换矩阵。

所述数据通信子模块,用于将虚拟物在增强现实服务器中的位置坐标和角度变换矩阵发送给微信公众号。

本发明增强现实处理系统,可实现上述方法实施例的方法,具体包括如下步骤:

步骤1:用户ui接收到增强现实服务请求,通过微信内部链接将此请求发送给微信公众号管理平台。

步骤2:定制化的微信公众号的数据通信模块和增强现实服务器的数据通信模块建立连接,将增强现实服务请求发送增强现实服务器。

步骤3:增强现实服务器的数据通信模块从微信公众号管理平台的开发者接口获取用户的openid,地理位置等信息。

步骤4:增强现实服务器通过用户的openid和地理位置判断用户是否有使用增强现实服务的权限。具体包括但不限于根据用户的openid判断用户是否关注了公众号,根据用户的地理位置,判断用户是否在表示物的附近。如果用户有使用的权限,则进入步骤5.

步骤5:增强现实服务器和定制化的微信公众号之间建立双向连接。

步骤6:定制化的微信公众号的图像采集模块申请调用终端摄像头,如果用户授权使用摄像头,图像采集模块使用webrtc等技术调用终端摄像头,并捕获摄像头拍摄到的视频流。如果用户禁止,则将此信息发送给增强现实服务器。

步骤7:定制化的微信公众号的图像预处理模块对视频流的各图像作采样,压缩,提取特征等操作。采样可以使用均值采样等方式,压缩可以将图像转换为压缩率更高的格式,提取特征可以采用sift(scale-invariantfeaturetransform,尺度不变特征变换),surf(speededuprobustfeatures,加速匹配特征),orb(orientedbrief,简洁导向)等一系列图像处理的方法。

步骤8:定制化的微信公众号的数据通信模块将预处理后的视频流发送给增强现实服务器。

步骤9:增强现实服务器的目标检测模块在真实物数据库中对接收到的图像信息做检测。检测的方法可以用ransac等算法进行匹配。如果在所述图像中检测到匹配的真实物,则进入步骤10。

步骤10:增强现实服务器的物体跟踪模块对真实物的位置进行跟踪,跟踪可以使用kcf等一些图像处理的跟踪算法,并将跟踪得到的真实物的位置信息通过增强现实服务器的数据通信模块发送给定制化的微信公众号。

步骤11:增强现实服务器的坐标变换计算模块获取对应真实物的虚拟物,并对跟踪到的信息做相应的变换,求解变换矩阵可以使用仿射变换等求解方式,并将得到的变换矩阵通过增强现实服务器的数据通信模块发送给公众号。

步骤12:定制化的微信公众号的3d渲染模块根据接收到的真实物的位置,确定虚拟物的位置,根据变换矩阵确定虚拟物的姿态,进行渲染。渲染可以使用webgl相关技术。

图6示出了本发明又一实施例提供的一种增强现实处理系统的结构示意图。

参阅图6,本发明又一实施例提供的增强现实处理系统,所述包括定制化的微信公众号,微信公众号服务器和增强现实服务器三个子系统。

所述定制化的微信公众号子系统包括用户ui,数据通信模块,图像采集模块和显示模块等多个子模块。

其中,所述用户ui子模块,所述数据通信子模块,所述图像采集子模块与图5中相同,所述系统还包括显示子模块,用于显示增强显示服务器传来的视频或者图像信息。

所述增强现实服务器子系统,包括标识物数据库,目标检测模块,物体跟踪模块,坐标变换计算模块,3d渲染模块和数据通信模块六个子模块。

其中,所述真实物数据库子模块,所述目标检测子模块,所述物体跟踪子模块与图5中相同,所述系统还包括3d渲染子模块,用于根据物体跟踪子模块得到的位置坐标和坐标变换计算模块得到的坐标变换矩阵在接收到的图像上进行3d渲染;所述数据通信子模块,用于将已经渲染有3d虚拟信息的图像发送给微信公众号。

相应地,在上述步骤11之后,还包括:增强显示服务器的3d渲染模块根据接收到的跟踪信息确定虚拟物位置,根据变换矩阵确定虚拟物的姿态,在接收到的图像的真实物的位置上进行3d渲染。

进一步地,增强现实服务器的数据通信模块将渲染有3d虚拟物的图像发送给微信公众号。

现有技术中增强现实服务的app,其增强现实服务的各步骤均是在本地完成,用户需下载app才能实现增强现实服务。

在本实施例中,为了推动基于智能移动终端的增强现实技术的普适化推广和应用,无需用户专门下载安装app,仅利用用户的终端已安装的具有web模块的微信与云端的增强现实服务器交互即可实现增强现实服务,从而能够降低开发app的成本,且在增强现实服务器上进行增强现实计算,可减轻终端的负担,可以理解的是,增强现实服务器具有更强大的计算功能,计算速度更快。

本实施例提供的增强现实处理方法,至少具有以下技术效果:

通过利用用户的终端已安装的微信与云端的增强现实服务器交互即可实现增强现实服务,在实现低成本的增强现实服务的同时,又可加快计算流程,减轻终端的负担。

图7示出了本发明又一实施例提供的一种web模块的结构示意图。

参阅图7,本发明又一实施例提供的一种web模块,所述web模块包括存储器71、处理器72以及存储在存储器71上并可在处理器上运行的计算机程序。

所述处理器执行所述程序时实现如下步骤:

在接收到用户触发的增强现实请求后,调用摄像头进行拍摄,并捕获摄像头拍摄的图像;

将所述图像发送至云端服务器,以供云端服务器根据所述图像,获取对应所述图像的虚拟物的坐标信息,所述坐标信息用于表示所述虚拟物在所述图像中的形态的多个坐标;

接收所述坐标信息,根据所述坐标信息,对所述虚拟物的形态进行渲染,得到第一增强现实信息,所述第一增强现实信息是由所述图像与所述虚拟物叠加得到的。

在另一种实施方式中,所述处理器执行所述程序时实现如下步骤:

调用摄像头进行拍摄,并捕获摄像头拍摄的视频流,所述视频流包括多个有序的图像,

相应地,将所述图像发送至云端服务器,具体为:

将所述视频流发送至云端服务器,以供云端服务器根据所述第一张图像,获取对应所述第一张图像的虚拟物的坐标信息,所述坐标信息用于表示所述虚拟物在所述第一张图像中的形态的多个坐标;

相应地,接收所述坐标信息之后,所述方法还包括:

接收云端服务器发送的角度变换矩阵,所述角度变换矩阵用于指示所述虚拟物在所述图像中的形态的角度变换,所述角度变换矩阵是云端服务器跟踪所述真实物在连续两张图像中的坐标信息的变化来确定的,所述虚拟物是云端服务器判断获知所述图像中具有与预设的真实物数据库中真实物匹配的真实物,则根据所述真实物获取得到的;

根据所述角度变换矩阵,对所述虚拟物的形态进行渲染,得到第二增强现实信息,所述第二增强现实信息是由所述真实物与所述虚拟物叠加得到的。

在接收到用户触发的增强现实请求后,终端的web模块调用摄像头进行拍摄,并捕获摄像头拍摄的图像;

所述web模块将所述图像发送至云端服务器,以供云端服务器根据所述图像,获取对应所述图像的虚拟物的坐标信息,所述坐标信息用于表示所述虚拟物在所述图像中的形态的多个坐标;

所述web模块接收所述坐标信息,根据所述坐标信息,对所述虚拟物的形态进行渲染,得到第一增强现实信息,所述第一增强现实信息是由所述图像与所述虚拟物叠加得到的。

进一步地,在另一种实施方式中,所述处理器执行所述程序时实现如下步骤:

若所述web模块捕获摄像头拍摄的图像,所述方法还包括:所述web模块对所述图像进行预处理,所述预处理为以下至少一种:对所述图像采样、压缩、提取特征:

相应地,将所述图像发送至云端服务器,具体为将预处理后的图像发送至云端服务器;

若所述web模块捕获摄像头拍摄的视频流,所述方法还包:所述web模块对所述视频流进行预处理,所述预处理为以下至少一种:对所述视频流采样、压缩:

相应地,将所述图像发送至云端服务器,具体为将预处理后的视频流发送至云端服务器。

本实施例提供的web模块,可用于执行上述方法实施例的方法对应的程序,本实施不再赘述。

本实施例提供的web模块,至少具有以下技术效果:

通过所述处理器执行所述程序时实现采集图像,并将采集的图像发送至云端服务器,由云端服务器进行虚拟物的坐标信息获取步骤,使得无需另下载一个app,充分利用终端已有的app与云端服务器进行交互,即可实现增强现实,由此可降低实现增强现实的成本。

图8示出了本发明又一实施例提供的一种终端的结构示意图。

参阅图8,发明又一实施例提供的终端,所述终端包括web模块,所述web模块包括存储器71、处理器72以及存储在存储器71上并可在处理器上运行的计算机程序。

所述处理器执行所述程序时实现如下步骤:

在接收到用户触发的增强现实请求后,调用摄像头进行拍摄,并捕获摄像头拍摄的图像;

将所述图像发送至云端服务器,以供云端服务器根据所述图像,获取对应所述图像的虚拟物的坐标信息,所述坐标信息用于表示所述虚拟物在所述图像中的形态的多个坐标;

接收所述坐标信息,根据所述坐标信息,对所述虚拟物的形态进行渲染,得到第一增强现实信息,所述第一增强现实信息是由所述图像与所述虚拟物叠加得到的。

在另一种实施方式中,所述处理器执行所述程序时实现如下步骤:

调用摄像头进行拍摄,并捕获摄像头拍摄的视频流,所述视频流包括多个有序的图像,

相应地,将所述图像发送至云端服务器,具体为:

将所述视频流发送至云端服务器,以供云端服务器根据所述第一张图像,获取对应所述第一张图像的虚拟物的坐标信息,所述坐标信息用于表示所述虚拟物在所述第一张图像中的形态的多个坐标;

相应地,接收所述坐标信息之后,所述方法还包括:

接收云端服务器发送的角度变换矩阵,所述角度变换矩阵用于指示所述虚拟物在所述图像中的形态的角度变换,所述角度变换矩阵是云端服务器跟踪所述真实物在连续两张图像中的坐标信息的变化来确定的,所述虚拟物是云端服务器判断获知所述图像中具有与预设的真实物数据库中真实物匹配的真实物,则根据所述真实物获取得到的;

根据所述角度变换矩阵,对所述虚拟物的形态进行渲染,得到第二增强现实信息,所述第二增强现实信息是由所述真实物与所述虚拟物叠加得到的。

进一步地,在另一种实施方式中,所述处理器执行所述程序时实现如下步骤:

若所述web模块捕获摄像头拍摄的图像,所述方法还包括:所述web模块对所述图像进行预处理,所述预处理为以下至少一种:对所述图像采样、压缩、提取特征:

相应地,将所述图像发送至云端服务器,具体为将预处理后的图像发送至云端服务器;

若所述web模块捕获摄像头拍摄的视频流,所述方法还包:所述web模块对所述视频流进行预处理,所述预处理为以下至少一种:对所述视频流采样、压缩:

相应地,将所述图像发送至云端服务器,具体为将预处理后的视频流发送至云端服务器。

本实施例提供的终端,可用于执行上述方法实施例的方法对应的程序,本实施不再赘述。

本实施例提供的终端,至少具有以下技术效果:

通过所述处理器执行所述程序时实现所述web模块采集图像,并将采集的图像发送至云端服务器,由云端服务器进行虚拟物的坐标信息获取步骤,使得无需另下载一个app,充分利用终端已有的app与云端服务器进行交互,即可实现增强现实,由此可降低实现增强现实的成本。

本发明又一实施例提供的一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述程序被处理器执行时实现如下步骤:

在接收到用户触发的增强现实请求后,终端的web模块调用摄像头进行拍摄,并捕获摄像头拍摄的图像;

所述web模块将所述图像发送至云端服务器,以供云端服务器根据所述图像,获取对应所述图像的虚拟物的坐标信息,所述坐标信息用于表示所述虚拟物在所述图像中的形态的多个坐标;

所述web模块接收所述坐标信息,根据所述坐标信息,对所述虚拟物的形态进行渲染,得到第一增强现实信息,所述第一增强现实信息是由所述图像与所述虚拟物叠加得到的。

在另一种实施方式中,所述程序被处理器执行时实现如下步骤:

所述web模块调用摄像头进行拍摄,并捕获摄像头拍摄的视频流,所述视频流包括多个有序的图像,

相应地,所述web模块将所述图像发送至云端服务器,具体为:

所述web模块将所述视频流发送至云端服务器,以供云端服务器根据所述第一张图像,获取对应所述第一张图像的虚拟物的坐标信息,所述坐标信息用于表示所述虚拟物在所述第一张图像中的形态的多个坐标;

相应地,所述web模块接收所述坐标信息之后,所述方法还包括:

所述web模块接收云端服务器发送的角度变换矩阵,所述角度变换矩阵用于指示所述虚拟物在所述图像中的形态的角度变换,所述角度变换矩阵是云端服务器跟踪所述真实物在连续两张图像中的坐标信息的变化来确定的,所述虚拟物是云端服务器判断获知所述图像中具有与预设的真实物数据库中真实物匹配的真实物,则根据所述真实物获取得到的;

所述web模块根据所述角度变换矩阵,对所述虚拟物的形态进行渲染,得到第二增强现实信息,所述第二增强现实信息是由所述真实物与所述虚拟物叠加得到的。

在另一种实施方式中,所述程序被处理器执行时实现如下步骤:

若所述web模块捕获摄像头拍摄的图像,所述方法还包括:所述web模块对所述图像进行预处理,所述预处理为以下至少一种:对所述图像采样、压缩、提取特征:

相应地,所述web模块将所述图像发送至云端服务器,具体为将预处理后的图像发送至云端服务器;

若所述web模块捕获摄像头拍摄的视频流,所述方法还包:所述web模块对所述视频流进行预处理,所述预处理为以下至少一种:对所述视频流采样、压缩:

相应地,所述web模块将所述图像发送至云端服务器,具体为将预处理后的视频流发送至云端服务器。

本实施例提供的计算机可读存储介质,所述程序被处理器执行时实现上述方法实施例的方法,本实施不再赘述。

本实施例提供的计算机可读存储介质,至少具有以下技术效果:

通过所述程序被处理器执行时采集图像,并将采集的图像发送至云端服务器,由云端服务器进行虚拟物的坐标信息获取步骤,使得无需另下载一个app,充分利用终端已有的app与云端服务器进行交互,即可实现增强现实,由此可降低实现增强现实的成本。

图9示出了本发明又一实施例提供的一种云端服务器的结构示意图。

参阅图9,发明又一实施例提供的一种云端服务器,所述云端服务器包括存储器91、处理器92以及存储在存储器91上并可在处理器上运行的计算机程序。

所述处理器执行所述程序时实现如下步骤:

接收终端的web模块发送的图像,所述图像是所述web模块在接收到用户触发的增强现实请求后,web模块调用摄像头进行拍摄,并捕获摄像头拍摄的图像;

根据所述图像,获取对应所述图像的虚拟物的坐标信息,所述坐标信息用于表示所述虚拟物在所述图像中的形态的多个坐标;

将所述坐标信息发送至所述web模块,以供所述web模块根据所述坐标信息,对所述虚拟物的形态进行渲染,得到第一增强现实信息,所述第一增强现实信息是由所述图像与所述虚拟物叠加得到的。

在另一种实施方式中,所述处理器执行所述程序时实现如下步骤:

接收终端的web模块发送的图像,具体为:

接收终端的web模块发送的视频流,所述视频流是所述web在接收到用户触发的增强现实请求后,web模块调用摄像头进行拍摄,并捕获摄像头拍摄的视频,所述视频流包括多个有序的图像;

相应地,根据所述第一张图像,获取对应所述第一张图像的虚拟物的坐标信息,所述坐标信息用于表示所述虚拟物在所述第一张图像中的形态的多个坐标;

相应地,所述将所述坐标信息发送至所述web模块之后,所述方法还包括:

判断获知所述图像中具有与预设的真实物数据库中真实物匹配的真实物,则根据所述真实物获取对应的虚拟物,跟踪所述真实物在连续两图像中的坐标信息的变化,来确定角度变换矩阵,所述角度变换矩阵用于指示所述虚拟物在所述图像中的形态的角度变换;

将所述角度变换矩阵发送至所述web模块,以供所述web模块根据所述角度变换矩阵,对所述虚拟物的形态进行渲染,得到第二增强现实信息,所述第二增强现实信息是由所述真实与所述虚拟物叠加得到的。

进一步地,在另一种实施方式中,所述处理器执行所述程序时实现如下步骤:

若判断获知所述图像中没有与预设的真实物数据库中真实物匹配的真实物,则获取对应的反馈信息;

相应地,向所述web模块返回反馈信息,以提示所述web模块重新捕获摄像头拍摄的图像。

本实施例提供的云端服务器,可用于执行上述方法实施例的方法对应的程序,本实施不再赘述。

本实施例提供的云端服务器,至少具有以下技术效果:

通过执行接收web模块采集的图像,进行虚拟物的坐标信息获取步骤的程序,使得无需另下载一个app,充分利用终端已有的web模块与云端服务器进行交互,即可实现终端的增强现实效果,由此可降低实现增强现实的成本。

最后应说明的是:以上实施例仅用以说明本发明实施例的技术方案,而非对其限制;尽管参照前述实施例对本发明实施例进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明实施例各实施例技术方案的精神和范围。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1