一种基于数字孪生的虚拟仿真教育系统及其交互方法与流程

文档序号:32349370发布日期:2022-11-26 12:24阅读:87来源:国知局

1.本发明涉及但不限于虚拟现实技术领域,尤其涉及一种基于数字孪生的虚拟仿真教育系统及其交互方法。


背景技术:

2.随着vr(virtual reality,虚拟现实)技术的发展,越来越多的学校和教育机构使用vr技术进行教学和实训。特别在工业领域,vr技术能让学生不再受时间和地域的限制,随时随地进入虚拟工厂进行沉浸式的学习和实训。
3.但目前vr实训仿真课程制作普遍存在着教学内容和实际脱节的问题,主要体现在两个方面:一是时间脱节,一个vr仿真课程的开发时间往往比较长,而后更新速度也比较慢,这就导致了虚拟仿真教学中的场景、工艺、生产逻辑都远远落后于数字化工厂情况,仿真教学的工艺可能是数年前甚至是被淘汰的。另外一个是教学内容与工厂的实际运行情况脱节,这是因为一个仿真软件往往是由老师和仿真技术实施团队一起完成的,老师对理论和教学方法很熟悉,开发团队只对vr技术熟悉,两者都缺乏在工厂实际的经历及对工厂工艺、管理的经验,这就导致做出来vr仿真教学内容往往似是而非,没有体现其核心意义。
4.因此,有必要对现有的虚拟仿真教育方式进行改进,能够提供一种实时性、真实性较强的实训教学方案。


技术实现要素:

5.以下是对本文详细描述的主题的概述。本概述并非是为了限制权利要求的保护范围。
6.本发明实施例提供了一种基于数字孪生的虚拟仿真教育系统及其交互方法,以解决现有技术中所存在的一个或多个技术问题,至少提供一种有益的选择或创造条件。
7.第一方面,本发明实施例提供了一种基于数字孪生的虚拟仿真教育系统,所述系统包括:数字化工厂、数字孪生系统、仿真教育后台和客户端;所述数字化工厂,用于采集实时数据,并将采集到的实时数据传输给数字孪生系统;其中,所述实时数据包括数字化设备的生产信息、物料运输设备的运输信息以及对生产订单进行排产的排产信息;所述数字孪生系统,用于建立所述数字化工厂的3d场景模型,以及确定所述实时数据的特征事件数据,基于所述特征事件数据将所述实时数据保存为历史数据;其中,所述特征事件数据包括事件类型和持续时间段;所述仿真教育后台,用于基于所述特征事件数据建立行为树数据;其中,所述行为树数据用于响应用户在3d虚拟场景中的操作行为,对所述操作行为进行模拟反馈,生成所述操作行为在3d虚拟场景中的触发事件;所述客户端,用于调用所述数字化工厂的3d场景模型,对所述3d场景模型进行渲染,得到所述数字化工厂的3d虚拟场景,从所述数字孪生系统中获取历史数据驱动所述3d
虚拟场景中的虚拟物体运动;以及用于从仿真教育后台拉取行为树数据,以对用户在所述3d虚拟场景中的操作行为进行模拟反馈。
8.进一步,所述数字化工厂包括生产制造执行系统、仓储物流系统、排产系统、以及至少一个数字化设备,每个所述数字化设备均设置有相应的传感器;所述生产制造执行系统,用于实时获取所述传感器对所述数字化设备采集得到的生产信息;其中,所述生产信息包括生产数据、设备状态数据、设备位置数据、产品过机数据其中至少一种;所述仓储物流系统,用于采集物料运输设备的运输信息,并基于所述运输信息对所述物料运输设备进行物流控制;所述排产系统,用于获取所述生产信息和运输信息,并基于所述生产信息和运输信息对生产订单进行排产,得到排产信息。
9.进一步,所述数字孪生系统包括生产历史数据库、3d场景建模模块、特征事件数据分析ai模块和特征事件数据库;所述生产历史数据库,用于将所述数字化工厂传输过来的实时数据以时间为主键,并按照数据类型进行归类后,作为历史数据进行保存;所述3d场景建模模块,用于对所述数字化工厂进行3d建模,得到不同精度的3d场景模型,并保存所述不同精度的3d场景模型;其中,所述3d场景模型中的网格按照所述数字化工厂中的物体之间是否存在相对运动进行划分,并使用全局唯一标识符对所述3d场景模型中的网格进行id编码;所述特征事件数据分析ai模块,用于对所述生产历史数据库中的历史数据进行特征分析,确定所述历史数据的特征事件数据,将所述历史数据的特征事件数据形成字段,将所述历史数据对应的字段发送给特征事件数据库;所述特征事件数据库,用于按照所述历史数据对应的字段将所述历史数据进行保存。
10.进一步,所述客户端还用于确定所述客户端的渲染平台,根据所述渲染平台的渲染能力从所述数字孪生系统中拉取对应精度的3d场景模型。
11.进一步,所述仿真教育后台包括用户认证模块、行为树ai模块、知识库和考核评价模块;所述用户认证模块,用于对用户进行身份认证;所述知识库,用于存储与所述数字化工厂的生产技术相关的知识点;所述行为树ai模块,用于基于所述特征事件数据建立行为树数据,所述行为树数据用于响应用户在3d虚拟场景中的操作行为,对所述操作行为进行模拟反馈,生成所述操作行为在3d虚拟场景中的触发事件;所述考核评价模块,用于基于用户在3d虚拟场景中的操作行为及其对应的触发事件,对用户的知识技能水平进行考核评价。
12.进一步,所述客户端,用于将用户的操作行为及其对应的触发事件作为考核评价的依据发送给仿真教育后台进行记录;所述仿真教育后台,用于对用户的操作行为进行考核评价。
13.第二方面,本发明实施例还提供了一种基于数字孪生的虚拟仿真教育系统的交互
方法,其特征在于,所述方法应用于权利要求1至6任一所述的基于数字孪生的虚拟仿真教育系统,所述方法包括以下步骤:步骤s100,数字化工厂采集实时数据,并将采集到的实时数据传输给数字孪生系统;其中,所述实时数据包括数字化设备的生产信息、物料运输设备的运输信息以及对生产订单进行排产的排产信息;步骤s200,数字孪生系统建立所述数字化工厂的3d场景模型,以及确定所述实时数据的特征事件数据,基于所述特征事件数据将所述实时数据保存为历史数据;其中,所述特征事件数据包括事件类型和持续时间段;步骤s300,仿真教育后台基于所述特征事件数据建立行为树数据;其中,所述行为树数据用于响应用户在3d虚拟场景中的操作行为,对所述操作行为进行模拟反馈,生成所述操作行为在3d虚拟场景中的触发事件;步骤s400,客户端获取所述数字化工厂的3d场景模型,对所述3d场景模型进行渲染,得到所述数字化工厂的3d虚拟场景,从所述数字孪生系统中获取历史数据驱动所述3d虚拟场景中的虚拟物体运动;以及用于从仿真教育后台拉取行为树数据,以对用户在所述3d虚拟场景中的操作行为进行模拟反馈。
14.本发明实施例包括:通过真实的数字化工厂采集实时数据,并将采集到的实时数据传输给数字孪生系统;通过数字孪生系统确定所述实时数据的特征事件数据,基于所述特征事件数据将所述实时数据保存为历史数据,以及建立所述数字化工厂的3d场景模型;从而将真实的工厂数据以数字孪生的方式转换为线上数据;通过仿真教育后台基于所述特征事件数据建立行为树数据,从而能够对用户在3d虚拟场景中的操作行为进行模拟反馈,生成所述操作行为在3d虚拟场景中的触发事件;通过客户端调用所述数字化工厂的3d场景模型,对所述3d场景模型进行渲染,得到所述数字化工厂的3d虚拟场景,从所述数字孪生系统中获取历史数据驱动所述3d虚拟场景中的虚拟物体运动,从而实现数字化工厂的虚拟仿真;通过从仿真教育后台拉取行为树数据,从而通过仿真教育后台对用户在所述3d虚拟场景中的操作行为进行模拟反馈,实现实训教学的时效性、真实性。
15.本发明的其它特征和优点将在随后的说明书中阐述,并且,部分地从说明书中变得显而易见,或者通过实施本发明而了解。本发明的目的和其他优点可通过在说明书、权利要求书以及附图中所特别指出的结构来实现和获得。
附图说明
16.附图用来提供对本发明技术方案的进一步理解,并且构成说明书的一部分,与本发明的实施例一起用于解释本发明的技术方案,并不构成对本发明技术方案的限制。
17.图1是本发明实施例中的一种基于数字孪生的虚拟仿真教育系统的结构示意图;图2是本发明实施例中的一种基于数字孪生的虚拟仿真教育系统的交互方法的流程示意图。
具体实施方式
18.为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本发明,并不
用于限定本发明。
19.需要说明的是,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于流程图中的顺序执行所示出或描述的步骤。说明书、权利要求书或上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。
20.发明人针对背景技术中的问题,提出了一种基于数字孪生的虚拟仿真教育系统。充分利用了数字孪生技术的连通性,通过数字孪生工厂为纽带,将数字化工厂、仿真教育平台、老师、学生、工厂技术专家、vr交互开发人员联系在一起,使得教育涉及到各方的人员在数字空间中齐聚一起,达到虚拟仿真教育内容持续高效地更新,充分发挥其优势。
21.下面结合附图,对本发明实施例作进一步阐述。
22.如图1所示,图1是本发明一个实施例提供的一种基于数字孪生的虚拟仿真教育系统的结构示意图,所述系统包括:数字化工厂、数字孪生系统、仿真教育后台和客户端;所述数字化工厂,用于采集实时数据,并将采集到的实时数据传输给数字孪生系统;其中,所述实时数据包括数字化设备的生产信息、物料运输设备的运输信息以及对生产订单进行排产的排产信息;在一些实施例中,所述数字化工厂获取数字化设备的生产信息以及物料运输设备的运输信息,并基于所述生产信息和运输信息对生产订单进行排产,得到排产信息;将所述生产信息、运输信息和排产信息作为实时数据传输给数字孪生系统;具体地,数字化工厂是一种高度数字化的真实工厂,除了一般的生产设备和物流设备外,每个数字化设备都设置有相应的传感器,例如位置传感器、激光计数器、深度摄像头等。这些传感器将相应的生产数据、设备状态数据、设备位置数据、产品过机数据实时传送到生产制造执行系统。同时,数字化工厂还包括仓储物流系统,仓储物流系统用于采集agv小车、吊挂线、传输带等物料运输设备的运输信息并进行物流控制。排产系统则对生产订单进行排产,并获取实际生产信息。这些实时数据都将通过工业互联网实时传输到部署有数字孪生系统的服务器。
23.所述数字孪生系统,用于建立所述数字化工厂的3d场景模型,以及确定所述实时数据的特征事件数据,基于所述特征事件数据将所述实时数据保存为历史数据;其中,所述特征事件数据包括事件类型和持续时间段;所述仿真教育后台,用于基于所述特征事件数据建立行为树数据;其中,所述行为树数据用于响应用户在3d虚拟场景中的操作行为,对所述操作行为进行模拟反馈,生成所述操作行为在3d虚拟场景中的触发事件;所述客户端,用于调用所述数字化工厂的3d场景模型,对所述3d场景模型进行渲染,得到所述数字化工厂的3d虚拟场景,从所述数字孪生系统中获取历史数据驱动所述3d虚拟场景中的虚拟物体运动;以及用于从仿真教育后台拉取行为树数据,以对用户在所述3d虚拟场景中的操作行为进行模拟反馈。
24.本发明提供的实施例中,通过真实的数字化工厂采集实时数据,并将采集到的实时数据传输给数字孪生系统;通过数字孪生系统确定所述实时数据的特征事件数据,基于所述特征事件数据将所述实时数据保存为历史数据,以及建立所述数字化工厂的3d场景模型;从而将真实的工厂数据以数字孪生的方式转换为线上数据;通过仿真教育后台基于所述特征事件数据建立行为树数据,从而能够对用户在3d虚拟场景中的操作行为进行模拟反馈,生成所述操作行为在3d虚拟场景中的触发事件;通过客户端调用所述数字化工厂的3d
场景模型,对所述3d场景模型进行渲染,得到所述数字化工厂的3d虚拟场景,从所述数字孪生系统中获取历史数据驱动所述3d虚拟场景中的虚拟物体运动,从而实现数字化工厂的虚拟仿真;通过从仿真教育后台拉取行为树数据,从而通过仿真教育后台对用户在所述3d虚拟场景中的操作行为进行模拟反馈,实现实训教学的时效性、真实性。
25.在一些实施例中,所述数字化工厂包括生产制造执行系统、仓储物流系统、排产系统、以及至少一个数字化设备,每个所述数字化设备均设置有相应的传感器;所述生产制造执行系统,用于实时获取所述传感器对所述数字化设备采集得到的生产信息;其中,所述生产信息包括生产数据、设备状态数据、设备位置数据、产品过机数据其中至少一种;所述仓储物流系统,用于采集物料运输设备的运输信息,并基于所述运输信息对所述物料运输设备进行物流控制;所述排产系统,用于获取所述生产信息和运输信息,并基于所述生产信息和运输信息对生产订单进行排产,得到排产信息。
26.在一些实施例中,所述数字孪生系统包括生产历史数据库、3d场景建模模块、特征事件数据分析ai模块和特征事件数据库;所述生产历史数据库,用于将所述数字化工厂传输过来的实时数据以时间为主键,并按照数据类型进行归类后,作为历史数据进行保存;所述3d场景建模模块,用于对所述数字化工厂进行3d建模,得到不同精度的3d场景模型,并保存所述不同精度的3d场景模型;其中,所述3d场景模型中的网格按照所述数字化工厂中的物体之间是否存在相对运动进行划分,并使用全局唯一标识符对所述3d场景模型中的网格进行id编码;本实施例中,3d场景建模模块则是通过对数字化工厂进行1:1建模,完全按照原貌建模,即三维空间中的尺寸与实际尺寸一样,比例不可调整。建模工具可以使用maya、blender、c4d等流行建模软件。同一个数字化工厂的3d场景必须拥有3个精度的3d场景模型,包括高精度、中等精度和低精度,而3d场景模型中的网格需要按照物体之间是否存在相对运动进行划分整体,并使用guid进行id编码,这样便于实现物体在3d虚拟场景中的各种运动。
27.所述特征事件数据分析ai模块,用于对所述生产历史数据库中的历史数据进行特征分析,确定所述历史数据的特征事件数据,将所述历史数据的特征事件数据形成字段,将所述历史数据对应的字段发送给特征事件数据库;在一实施例中,特征事件数据分析ai模块使用pytorch作为框架实现,其训练数据集由数值化工厂的专家按照特定的生产周期和工艺节拍对工厂典型生产事件进行划分和标记。最后,特征事件数据分析ai模块会将历史数据按照事件类型和持续时间段为字段发送到特征事件数据库中进行存放。
28.所述特征事件数据库,用于按照所述历史数据对应的字段将所述历史数据进行保存。
29.本实施例中,按照字段将所述历史数据进行存放,便于仿真教育后台调用特征事件数据库中的历史数据。
30.在一些实施例中,所述客户端还用于确定所述客户端的渲染平台,根据所述渲染
平台的渲染能力从所述数字孪生系统中拉取对应精度的3d场景模型。
31.在一些实施例中,客户端包含多种渲染平台,例如浏览器、桌面pc、应用软件、vr头显、ar等。客户端会根据渲染平台自身渲染能力从数字孪生系统中拉取不同精度的3d场景模型并进行渲染,得到所述数字化工厂的3d虚拟场景,同时从所述数字孪生系统中获取历史数据驱动所述3d虚拟场景中的虚拟物体运动;然后从仿真教育后台拉取行为树数据用以对用户的操作行为进行模拟反馈,用户的操作行为及其产生的反馈结果(操作行为对应的触发事件)会被发送给仿真教育后台进行记录,作为考核评估的依据。
32.需要说明的是,不同的角色进入客户端可以获得不同的权限和功能,学生进入客户端仅能进行虚拟实训,而老师和工厂技术专家则可以在进行虚拟实训后对实训的过程与环境反馈做出评价和修改,这些数据会返回给仿真教育后台,用以更新和改进仿真实训的行为树数据。
33.在一些实施例中,所述仿真教育后台包括用户认证模块、行为树ai模块、知识库和考核评价模块;所述用户认证模块,用于对用户进行身份认证;具体地,所述用户认证模块关联有用户数据库,所述用户数据库,用于存储各个已注册用户的身份信息;所述用户认证模块通过读取存储在用户数据库中的各个已注册用户的身份信息,基于用户的身份信息对不同角色的用户提供认证服务。
34.所述知识库,用于存储与所述数字化工厂的生产技术相关的知识点;具体地,所述知识点包括生产工艺原理、设备工作原理等。
35.所述行为树ai模块,用于基于所述特征事件数据建立行为树数据,所述行为树数据用于响应用户在3d虚拟场景中的操作行为,对所述操作行为进行模拟反馈,生成所述操作行为在3d虚拟场景中的触发事件;需要说明的是,行为树(behavior tree,bt)是一棵用于控制ai决策行为的、包含了层级节点的树结构。本实施例中,行为树ai模块包含通过对数字孪生系统中的特征事件数据进行分析而建立的行为树数据,所述行为树数据用于为虚拟仿真实训提供系统反馈,即根据用户在3d虚拟场景中的操作行为提供虚拟环境及触发事件反馈,实现仿真交互。
36.所述考核评价模块,用于基于用户在3d虚拟场景中的操作行为及其对应的触发事件,对用户的知识技能水平进行考核评价;具体地,所述考核评价模块会根据用户在3d虚拟场景中的操作行为和虚拟环境反馈结果进行评价,例如,以完成对应项目所需要的时间长短、关键操作选择对预计产量的影响等作为关键指标进行评价。通过操作行为对应的触发事件反映用户的知识技能水平;在一些实施例中,将此系统应用于光伏电池生产教育。数字化工厂为5gw产能规模的光伏电池生产车间,通过5g网络将数据传输到数字孪生系统中。教育仿真平台则输入了光伏电池生产相关的知识库。学生通过客户端可以实时体验工厂的整个真实生产情况。在虚拟实训中学生体验的工作是工艺工程师,系统会根据事件数据库中制绒工艺异常的数据重现工厂当时的整个情况,学生被要求去修改生产设备配方排除异常,在学生选择相应的操作行为后,系统会根据行为树系统做出反馈,使得学生能在其中不断的尝试从而获得较好的效果,并凭借虚拟仿真体验获取工作经验和相关知识。
37.另外,参照图2,本发明的一个实施例还提供了一种基于数字孪生的虚拟仿真教育
系统的交互方法的流程示意图,所述方法应用于上述任一所述的基于数字孪生的虚拟仿真教育系统,所述方法包括以下步骤:步骤s100,数字化工厂采集实时数据,并将采集到的实时数据传输给数字孪生系统;其中,所述实时数据包括数字化设备的生产信息、物料运输设备的运输信息以及对生产订单进行排产的排产信息;步骤s200,数字孪生系统建立所述数字化工厂的3d场景模型,以及确定所述实时数据的特征事件数据,基于所述特征事件数据将所述实时数据保存为历史数据;其中,所述特征事件数据包括事件类型和持续时间段;步骤s300,仿真教育后台基于所述特征事件数据建立行为树数据;其中,所述行为树数据用于响应用户在3d虚拟场景中的操作行为,对所述操作行为进行模拟反馈,生成所述操作行为在3d虚拟场景中的触发事件;步骤s400,通过客户端获取所述数字化工厂的3d场景模型,对所述3d场景模型进行渲染,得到所述数字化工厂的3d虚拟场景,从所述数字孪生系统中获取历史数据驱动所述3d虚拟场景中的虚拟物体运动;以及用于从仿真教育后台拉取行为树数据,以对用户在所述3d虚拟场景中的操作行为进行模拟反馈。
38.本领域普通技术人员可以理解,上文中所公开方法中的全部或某些步骤、系统可以被实施为软件、固件、硬件及其适当的组合。某些物理组件或所有物理组件可以被实施为由处理器,如中央处理器、数字信号处理器或微处理器执行的软件,或者被实施为硬件,或者被实施为集成电路,如专用集成电路。这样的软件可以分布在计算机可读介质上,计算机可读介质可以包括计算机存储介质(或非暂时性介质)和通信介质(或暂时性介质)。如本领域普通技术人员公知的,术语计算机存储介质包括在用于存储信息(诸如计算机可读指令、数据结构、程序模块或其他数据)的任何方法或技术中实施的易失性和非易失性、可移除和不可移除介质。计算机存储介质包括但不限于ram、rom、eeprom、闪存或其他存储器技术、cd-rom、数字多功能盘(dvd)或其他光盘存储、磁盒、磁带、磁盘存储或其他磁存储装置、或者可以用于存储期望的信息并且可以被计算机访问的任何其他的介质。此外,本领域普通技术人员公知的是,通信介质通常包含计算机可读指令、数据结构、程序模块或者诸如载波或其他传输机制之类的调制数据信号中的其他数据,并且可包括任何信息递送介质。
39.以上是对本发明的较佳实施进行了具体说明,但本发明并不局限于上述实施方式,熟悉本领域的技术人员在不违背本发明精神的前提下还可作出种种的等同变形或替换,这些等同的变形或替换均包含在本发明权利要求所限定的范围内。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1