基于虚拟世界的图像实时处理方法及装置、计算设备与流程

本发明涉及图像处理领域，具体涉及一种基于虚拟世界的图像实时处理方法及装置、计算设备。

背景技术：

随着科技的发展，图像采集设备的技术也日益提高。采集到的图像更加清晰、分辨率、显示效果也大幅提高。但现有的图像采集设备采集到的图像无法满足用户提出的越来越多的个性化要求。现有技术可以在采集到图像后，由用户手动对图像再做进一步的处理，以满足用户的个性化要求。但这样处理需要用户具有较高的图像处理技术，并且在处理时需要花费用户较多的时间，处理繁琐，技术复杂。

因此，需要一种基于虚拟世界的图像实时处理方法，以便实时满足用户的个性化要求。

技术实现要素：

鉴于上述问题，提出了本发明以便提供一种克服上述问题或者至少部分地解决上述问题的基于虚拟世界的图像实时处理方法及装置、计算设备。

根据本发明的一个方面，提供了一种基于虚拟世界的图像实时处理方法，其包括：

实时获取图像采集设备捕捉的包含特定对象的第一图像，对第一图像进行场景分割处理，得到针对于特定对象的前景图像；

绘制三维场景；

从第一图像中提取出特定对象的关键信息，根据关键信息得到前景图像在三维场景中的位置信息；

根据位置信息，将前景图像与三维场景进行融合处理，得到第二图像；

显示第二图像。

可选地，关键信息为关键点信息；

从第一图像中提取出特定对象的关键信息，根据关键信息得到前景图像在三维场景中的位置信息进一步包括：

从第一图像中提取出位于特定对象的关键点信息。

可选地，从第一图像中提取出特定对象的关键信息，根据关键信息得到前景图像在三维场景中的位置信息进一步包括：

根据特定对象的关键点信息，计算具有对称关系的至少两个关键点之间的距离；

根据具有对称关系的至少两个关键点之间的距离，得到前景图像在三维场景中的深度位置信息。

可选地，从第一图像中提取出特定对象的关键信息，根据关键信息得到前景图像在三维场景中的位置信息进一步包括：

根据关键点信息，获取特定对象在第一图像中的位置信息；

根据特定对象在第一图像中的位置信息，得到前景图像在三维场景中的左右位置信息。

可选地，方法还包括：

获取三维场景的地形信息；

根据三维场景的地形信息、前景图像在三维场景中的左右位置信息和/或深度位置信息，得到前景图像在三维场景中的上下位置信息。

可选地，根据位置信息，将前景图像与三维场景进行融合处理，得到第二图像进一步包括：

根据前景图像在三维场景中的深度位置信息、左右位置信息和/或上下位置信息，将前景图像与三维场景进行融合处理，得到第二图像。

可选地，在得到第二图像之前，方法还包括：

在前景图像的特定对象的特定区域绘制效果贴图。

可选地，三维场景包含实时变化的天气信息。

可选地，三维场景包含可变化的光照信息。

可选地，方法还包括：

根据用户触发的拍摄指令，保存第二图像。

可选地，方法还包括：

根据用户触发的录制指令，保存由第二图像作为帧图像组成的视频。

根据本发明的另一方面，提供了一种基于虚拟世界的图像实时处理装置，其包括：

分割模块，适于实时获取图像采集设备捕捉的包含特定对象的第一图像，对第一图像进行场景分割处理，得到针对于特定对象的前景图像；

绘制模块，适于绘制三维场景；

提取模块，适于从第一图像中提取出特定对象的关键信息，根据关键信息得到前景图像在三维场景中的位置信息；

融合模块，适于根据位置信息，将前景图像与三维场景进行融合处理，得到第二图像；

显示模块，适于显示第二图像。

可选地，关键信息为关键点信息；

提取模块进一步适于：从第一图像中提取出位于特定对象的关键点信息。

可选地，提取模块进一步包括：

第一位置模块，适于根据特定对象的关键点信息，计算具有对称关系的至少两个关键点之间的距离；根据具有对称关系的至少两个关键点之间的距离，得到前景图像在三维场景中的深度位置信息。

可选地，提取模块进一步包括：

第二位置模块，适于根据关键点信息，获取特定对象在第一图像中的位置信息；根据特定对象在第一图像中的位置信息，得到前景图像在三维场景中的左右位置信息。

可选地，装置还包括：

第三位置模块，适于获取三维场景的地形信息；根据三维场景的地形信息、前景图像在三维场景中的左右位置信息和/或深度位置信息，得到前景图像在三维场景中的上下位置信息。

可选地，融合模块进一步适于：

根据前景图像在三维场景中的深度位置信息、左右位置信息和/或上下位置信息，将前景图像与三维场景进行融合处理，得到第二图像。

可选地，装置还包括：

贴图模块，适于在前景图像的特定对象的特定区域绘制效果贴图。

可选地，三维场景包含实时变化的天气信息。

可选地，三维场景包含可变化的光照信息。

可选地，装置还包括：

第一保存模块，适于根据用户触发的拍摄指令，保存第二图像。

可选地，装置还包括：

第二保存模块，适于根据用户触发的录制指令，保存由第二图像作为帧图像组成的视频。

根据本发明的又一方面，提供了一种计算设备，包括：处理器、存储器、通信接口和通信总线，所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信；

所述存储器用于存放至少一可执行指令，所述可执行指令使所述处理器执行上述基于虚拟世界的图像实时处理方法对应的操作。

根据本发明的再一方面，提供了一种计算机存储介质，所述存储介质中存储有至少一可执行指令，所述可执行指令使处理器执行如上述基于虚拟世界的图像实时处理方法对应的操作。

根据本发明提供的基于虚拟世界的图像实时处理方法及装置、计算设备、存储介质，实时获取图像采集设备捕捉的包含特定对象的第一图像，对第一图像进行场景分割处理，得到针对于特定对象的前景图像；绘制三维场景；从第一图像中提取出特定对象的关键信息，根据关键信息得到前景图像在三维场景中的位置信息；根据位置信息，将前景图像与三维场景进行融合处理，得到第二图像；显示第二图像。本发明在实时获取到图像采集设备捕捉的图像后进行分割，得到针对于特定对象的前景图像。根据从第一图像中提取出特定对象的关键信息，得到前景图像在三维场景中的位置信息，便于将前景图像和三维场景进行融合，得到的第二图像呈现出特定对象位于三维场景中的效果。同时将第二图像实时显示给用户，方便用户实时的看到与处理后的图像，本发明采用了深度学习方法，实现了高效率高精准性的完成场景分割处理。且对用户技术水平不做限制，不需要用户对图像进行额外处理，节省用户时间，还可以实时反馈处理后的图像，方便用户查看。

上述说明仅是本发明技术方案的概述，为了能够更清楚了解本发明的技术手段，而可依照说明书的内容予以实施，并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂，以下特举本发明的具体实施方式。

附图说明

通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本发明的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：

图1示出了根据本发明一个实施例的基于虚拟世界的图像实时处理方法的流程图；

图2示出了根据本发明另一个实施例的基于虚拟世界的图像实时处理方法的流程图；

图3示出了根据本发明一个实施例的基于虚拟世界的图像实时处理装置的功能框图；

图4示出了根据本发明另一个实施例的基于虚拟世界的图像实时处理装置的功能框图；

图5示出了根据本发明一个实施例的一种计算设备的结构示意图。

具体实施方式

下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例，然而应当理解，可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本公开，并且能够将本公开的范围完整的传达给本领域的技术人员。

本发明中特定对象可以是图像中的人体、植物、动物等任何对象，在实施例中以人体为例进行说明，但不仅限于人体。

图1示出了根据本发明一个实施例的基于虚拟世界的图像实时处理方法的流程图。如图1所示，基于虚拟世界的图像实时处理方法具体包括如下步骤：

步骤s101，实时获取图像采集设备捕捉的包含特定对象的第一图像，对第一图像进行场景分割处理，得到针对于特定对象的前景图像。

本实施例中图像采集设备以移动终端为例进行说明。实时获取到移动终端摄像头捕捉到的第一图像，其中，第一图像包含了特定对象，如人体。对第一图像进行场景分割处理，主要是将特定对象从第一图像中分割出来，得到针对于特定对象的前景图像，该前景图像可以仅包含特定对象。

在对第一图像进行场景分割处理时，可以利用深度学习方法。深度学习是机器学习中一种基于对数据进行表征学习的方法。观测值(例如一幅图像)可以使用多种方式来表示，如每个像素强度值的向量，或者更抽象地表示成一系列边、特定形状的区域等。而使用某些特定的表示方法更容易从实例中学习任务(例如，人脸识别或面部表情识别)。如利用深度学习的人体分割方法可以对第一图像进行场景分割，得到包含人体的前景图像。进一步，在对第一图像进行场景分割得到的包含人体的前景图像时，可以得到人体的全部图像或者仅得到人体的大部分图像，此处不做限定。

步骤s102，绘制三维场景。

三维场景可以为三维的虚拟场景，也可以将真实的场景三维化处理为三维场景。三维场景中可以包含如森林、瀑布、湖泊等各种对象，此外不限定三维场景的具体内容。

三维场景中还包含了实时变化的天气信息，如阴天、晴天、下雨等不同的天气变化的场景。绘制的三维场景中实时变化的天气信息使得三维场景更加真实、呈现的效果更生动。三维场景中还包含了可变化的光照信息，如晴天时可以为太阳光照效果，下雨时可以有闪电光照效果，黑暗的场景还可以有萤火虫飞舞的光照效果(萤火虫飞舞时可以设置为在指定位置飞舞，也可以根据后续融合时，在特定对象周围飞舞等)等，以使整个三维场景更加协调。

绘制三维场景的技术可以采用任一绘制技术，此处不做限定。

步骤s103，从第一图像中提取出特定对象的关键信息，根据关键信息得到前景图像在三维场景中的位置信息。

从第一图像中提取特定对象的关键信息，该关键信息可以具体为关键点信息、关键区域信息、和/或关键线信息等。本发明的实施例以关键点信息为例进行说明，但本发明的关键信息不限于是关键点信息。使用关键点信息可以提高根据关键点信息获取位置信息的处理速度和效率，可以直接根据关键点信息获取位置信息，不需要再对关键信息进行后续计算、分析等复杂操作。同时，关键点信息便于提取，且提取准确，获取位置信息的效果更精准。由于一般通过特定对象的边缘位置的关键点信息获取位置信息，因此，在从第一图像中提取时，可以提取出位于特定对象边缘的关键点信息。当特定对象为人体时，提取的关键点信息包括位于人脸边缘的关键点信息、位于人体边缘的关键点信息等。

三维场景中的位置信息具体包括了三维场景中的左右、上下、深度位置信息，分别对应了三维场景中x轴、y轴、z轴方向上的各位置信息。根据从第一图像中提取的特定对象的关键点信息，可以相应的确定前景图像在三维场景中的位置信息。

步骤s104，根据位置信息，将前景图像与三维场景进行融合处理，得到第二图像。

根据位置信息，将前景图像设置在三维场景中对应的位置处，使前景图像与三维场景进行融合，得到第二图像。为使前景图像可以更好的与三维场景融合，在对第一图像进行分割处理时，对分割得到的前景处理的边缘进行半透明处理，模糊特定对象的边缘，以便更好的融合。

步骤s105，显示第二图像。

将得到的第二图像实时进行显示，方便用户可以直接看到对第一图像处理后得到的第二图像。在得到第二图像后，立刻使用第二图像替换捕捉的第一图像进行显示，一般在1/24秒之内进行替换，对于用户而言，由于替换时间相对短，人眼没有明显的察觉，相当于实时的显示第二图像。

根据本发明提供的基于虚拟世界的图像实时处理方法，实时获取图像采集设备捕捉的包含特定对象的第一图像，对第一图像进行场景分割处理，得到针对于特定对象的前景图像；绘制三维场景；从第一图像中提取出特定对象的关键信息，根据关键信息得到前景图像在三维场景中的位置信息；根据位置信息，将前景图像与三维场景进行融合处理，得到第二图像；显示第二图像。本发明在实时获取到图像采集设备捕捉的图像后进行分割，得到针对于特定对象的前景图像。根据从第一图像中提取出特定对象的关键信息，得到前景图像在三维场景中的位置信息，便于将前景图像和三维场景进行融合，得到的第二图像呈现出特定对象位于三维场景中的效果。同时将第二图像实时显示给用户，方便用户实时的看到与处理后的图像，本发明采用了深度学习方法，实现了高效率高精准性的完成场景分割处理。且对用户技术水平不做限制，不需要用户对图像进行额外处理，节省用户时间，还可以实时反馈处理后的图像，方便用户查看。

图2示出了根据本发明另一个实施例的基于虚拟世界的图像实时处理方法的流程图。如图2所示，基于虚拟世界的图像实时处理方法具体包括如下步骤：

步骤s201，实时获取图像采集设备捕捉的包含特定对象的第一图像，对第一图像进行场景分割处理，得到针对于特定对象的前景图像。

步骤s202，绘制三维场景。

以上步骤参考图1实施例中的步骤s101-s102的描述，在此不再赘述。

步骤s203，在前景图像的特定对象的特定区域绘制效果贴图。

当得到针对于特定对象的前景图像中，特定对象仅为一部分时，如得到仅包含人体上半身的前景图像。此时，可以在前景图像的特定对象的特定区域绘制效果贴图，进行遮挡或美化。具体的，可以在人体上半身的下方绘制如云朵的效果贴图，以形成人体漂浮在空中的效果。效果贴图可以根据三维场景、特定对象的不同设置为不同的效果贴图，以使效果贴图与三维场景、特定对象的风格、显示效果等相呼应，呈现整体一致的效果。

步骤s204，从第一图像中提取出特定对象的关键点信息。

从第一图像中提取出特定对象的关键点信息，关键点信息包括特定对象边缘的关键点信息，还可以包括特定对象的特定区域的关键点信息等，方便后续根据关键点信息进行计算。

步骤s205，根据特定对象的关键点信息，计算具有对称关系的至少两个关键点之间的距离。

步骤s206，根据具有对称关系的至少两个关键点之间的距离，得到前景图像在三维场景中的深度位置信息。

由于特定对象与图像采集设备的距离不同，导致特定对象在第一图像中的大小也不一致。如人体与图像采集设备的距离较远时，人体在第一图像中呈现较小，人体与图像采集设备的距离较近时，人体在第一图像中呈现较大。根据特定对象的关键点信息，可以计算出具有对称关系的至少两个关键点之间的距离。如计算出人脸边缘两个眼角所在为止的关键点之间的距离。根据具有对称关系的至少两个关键点之间的距离，结合特定对象的实际距离，可以得出特定对象与图像采集设备的距离。根据距离，可以得到前景图像在三维场景中的深度位置信息，即前景图像与三维场景融合时，前景图像设置在三维场景中具体的深度位置信息。如计算出人脸边缘两个眼角所在为止的关键点之间的距离，得到人体与图像采集设备的距离较远，由于人体在第一图像中呈现较小，分割得到的前景图像也较小，前景图像设置在三维场景中的深度位置也较深，呈现出前景图像在三维场景中较深位置，人体在三维场景中也较小的效果。或者计算出人脸边缘两个眼角所在为止的关键点之间的距离，得到人体与图像采集设备的距离较近，由于人体在第一图像中呈现较大，前景图像设置在三维场景中的深度位置会比较靠前，呈现出前景图像在三维场景中较靠前的位置，人体在三维场景中也较大的效果。前景图像在三维场景中的深度位置信息与具有对称关系的至少两个关键点之间的距离相关。

步骤s207，根据关键点信息，获取特定对象在第一图像中的位置信息。

步骤s208，根据特定对象在第一图像中的位置信息，得到前景图像在三维场景中的左右位置信息。

位置信息通过特定对象的关键点信息进行计算后可以获取，得到特定对象在第一图像中的具体的位置。此处特定对象在第一图像中的位置信息包括特定对象在第一图像中的左右位置信息、上下位置信息、特定对象旋转角度信息等位置信息。根据特定对象在第一图像中的位置信息，可以得到前景图像在三维场景中的左右位置信息。其中，前景图像在三维场景中的左右位置信息与特定对象在第一图像中的左右位置信息相对应。进一步，还可以根据特定对象在第一图像中的上下位置信息、旋转角度信息，设置前景图像在三维场景中的上下位置信息、旋转角度信息等。

步骤s209，获取三维场景的地形信息。

步骤s210，根据三维场景的地形信息、前景图像在三维场景中的左右位置信息和/或深度位置信息，得到前景图像在三维场景中的上下位置信息。

获取三维场景的地形信息，其中，地形信息包括了如台阶、石头、湖泊等各种地形的在三维场景中的左右、上下、深度位置信息。根据三维场景的地形信息，综合前景图像在三维场景中的左右位置信息、深度位置信息等，可以得到前景图像在三维场景中的上下位置信息。具体的，根据前景图像在三维场景中的左右位置信息、深度位置信息，可以先确定当前左右位置信息、深度位置信息处的三维场景的地形。当该地形为台阶时，根据台阶地形的上下位置信息，调整前景图像在三维场景中的上下位置信息，避免出现特定对象被设置在台阶中间的情况。或者当该地形为石头时，根据石头地形的上下位置信息，调整前景图像在三维场景中的上下位置信息，避免出现特定对象被卡在石头中的情况，可以将特定对象设置在石头上或是特定对象设置在石头后方的位置。前景图像在三维场景中的上下位置信息会随着特定对象在三维场景中的左右位置信息和/或深度位置信息的不同、对应的三维场景的地形信息不同而变化。具体变化根据实施情况进行设置。

步骤s211，根据前景图像在三维场景中的深度位置信息、左右位置信息和/或上下位置信息，将前景图像与三维场景进行融合处理，得到第二图像。

根据得到的前景图像在三维场景中的深度位置信息、左右位置信息和/或上下位置信息，将前景图像设置在三维场景中对应的位置处，使前景图像与三维场景进行融合，得到第二图像。

步骤s212，实时显示第二图像。

将得到的第二图像后，将其实时的进行显示，用户可以直接看到对第一图像处理后得到的第二图像。

步骤s213，根据用户触发的拍摄指令，保存第二图像。

在显示第二图像后，还可以根据用户触发的拍摄指令，保存第二图像。如用户点击相机的拍摄按钮，触发拍摄指令，将显示的第二图像进行保存。

步骤s214，根据用户触发的录制指令，保存由第二图像作为帧图像组成的视频。

在显示第二图像时，还可以根据用户触发的录制指令，保存由第二图像作为帧图像组成的视频。如用户点击相机的录制按钮，触发录制指令，将显示的第二图像作为视频中的帧图像进行保存，从而保存多个第二图像作为帧图像组成的视频。

步骤s213和步骤s214都是本实施例的可选步骤，且不存在执行先后顺序，根据用户触发的不同指令选择执行对应的步骤。

根据本发明提供的基于虚拟世界的图像实时处理方法，从第一图像中提取特定对象的关键点信息，根据关键点信息，得到前景图像在三维场景中的深度、左右位置信息等。再根据三维场景中的地形信息，调整前景图像在三维场景中的上下位置信息，使得特定对象可以合理的与三维场景进行融合，使融合后第二图像呈现真实的显示效果，避免出现第二图像中特定对象仅只是设置在三维场景中，而不考虑三维场景中具体地形信息导致的显示错误。同时，还在前景图像的特定对象的特定区域绘制效果贴图，以丰富、美化特定对象的显示效果。进一步，还可以根据用户触发的不同指令，保存第二图像或保存由第二图像作为帧图像组成的视频。本发明对用户技术水平不做限制，不需要用户对图像进行额外处理，节省用户时间，还可以实时反馈处理后的图像，方便用户查看。

图3示出了根据本发明一个实施例的基于虚拟世界的图像实时处理装置的功能框图。如图3所示，基于虚拟世界的图像实时处理装置包括如下模块：

分割模块301，适于实时获取图像采集设备捕捉的包含特定对象的第一图像，对第一图像进行场景分割处理，得到针对于特定对象的前景图像。

本实施例中图像采集设备以移动终端为例进行说明。实时获取到移动终端摄像头捕捉到的第一图像，其中，第一图像包含了特定对象，如人体。分割模块301对第一图像进行场景分割处理，主要是将特定对象从第一图像中分割出来，得到针对于特定对象的前景图像，该前景图像可以仅包含特定对象。

分割模块301在对第一图像进行场景分割处理时，可以利用深度学习方法。深度学习是机器学习中一种基于对数据进行表征学习的方法。观测值(例如一幅图像)可以使用多种方式来表示，如每个像素强度值的向量，或者更抽象地表示成一系列边、特定形状的区域等。而使用某些特定的表示方法更容易从实例中学习任务(例如，人脸识别或面部表情识别)。如分割模块301利用深度学习的人体分割方法可以对第一图像进行场景分割，得到包含人体的前景图像。进一步，分割模块301在对第一图像进行场景分割得到的包含人体的前景图像时，可以得到人体的全部图像或者仅得到人体的大部分图像，此处不做限定。

绘制模块302，适于绘制三维场景。

绘制模块302绘制的三维场景可以为三维的虚拟场景，绘制模块302也可以将真实的场景三维化处理为三维场景。三维场景中可以包含如森林、瀑布、湖泊等各种对象，此外不限定三维场景的具体内容。

绘制模块302绘制的三维场景中还包含了实时变化的天气信息，如阴天、晴天、下雨等不同的天气变化的场景。绘制模块302绘制的三维场景中实时变化的天气信息使得三维场景更加真实、呈现的效果更生动。绘制模块302绘制的三维场景中还包含了可变化的光照信息，如晴天时可以为太阳光照效果，下雨时可以有闪电光照效果，黑暗的场景还可以有萤火虫飞舞的光照效果(绘制模块302绘制的萤火虫飞舞时可以设置为在指定位置飞舞，也可以根据后续融合模块304在融合时，绘制为在特定对象周围飞舞等)等，以使整个三维场景更加协调。绘制模块302采用绘制三维场景的技术可以采用任一绘制技术，此处不做限定。

提取模块303，适于从第一图像中提取出特定对象的关键信息，根据关键信息得到前景图像在三维场景中的位置信息。

提取模块303从第一图像中提取特定对象的关键信息，该关键信息可以具体为关键点信息、关键区域信息、和/或关键线信息等。本发明的实施例以关键点信息为例进行说明，但本发明的关键信息不限于是关键点信息。使用关键点信息可以提高根据关键点信息获取位置信息的处理速度和效率，可以直接根据关键点信息获取位置信息，不需要再对关键信息进行后续计算、分析等复杂操作。同时，关键点信息便于提取，且提取准确，获取位置信息的效果更精准。由于一般通过特定对象的边缘位置的关键点信息获取位置信息，因此，提取模块303在从第一图像中提取时，可以提取出位于特定对象边缘的关键点信息。当特定对象为人体时，提取模块303提取的关键点信息包括位于人脸边缘的关键点信息、位于人体边缘的关键点信息等。

三维场景中的位置信息具体包括了三维场景中的左右、上下、深度位置信息，分别对应了三维场景中x轴、y轴、z轴方向上的各位置信息。提取模块303根据从第一图像中提取的特定对象的关键点信息，可以相应的确定前景图像在三维场景中的位置信息。

融合模块304，适于根据位置信息，将前景图像与三维场景进行融合处理，得到第二图像。

融合模块304根据位置信息，将前景图像设置在三维场景中对应的位置处，使前景图像与三维场景进行融合，得到第二图像。为使融合模块304将前景图像可以更好的与三维场景融合，在分割模块301对第一图像进行分割处理时，对分割得到的前景处理的边缘进行半透明处理，模糊特定对象的边缘，以便融合模块304更好的融合。

显示模块305，适于显示第二图像。

显示模块305将得到的第二图像实时进行显示，用户可以直接看到对第一图像处理后得到的第二图像。在融合模块304得到第二图像后，显示模块305立刻使用第二图像替换捕捉的第一图像进行显示，一般在1/24秒之内进行替换，对于用户而言，由于替换时间相对短，人眼没有明显的察觉，相当于显示模块305实时的显示第二图像。

根据本发明提供的基于虚拟世界的图像实时处理装置，实时获取图像采集设备捕捉的包含特定对象的第一图像，对第一图像进行场景分割处理，得到针对于特定对象的前景图像；绘制三维场景；从第一图像中提取出特定对象的关键信息，根据关键信息得到前景图像在三维场景中的位置信息；根据位置信息，将前景图像与三维场景进行融合处理，得到第二图像；显示第二图像。本发明在实时获取到图像采集设备捕捉的图像后进行分割，得到针对于特定对象的前景图像。根据从第一图像中提取出特定对象的关键信息，得到前景图像在三维场景中的位置信息，便于将前景图像和三维场景进行融合，得到的第二图像呈现出特定对象位于三维场景中的效果。同时将第二图像实时显示给用户，方便用户实时的看到与处理后的图像，本发明采用了深度学习方法，实现了高效率高精准性的完成场景分割处理。且对用户技术水平不做限制，不需要用户对图像进行额外处理，节省用户时间，还可以实时反馈处理后的图像，方便用户查看。

图4示出了根据本发明另一个实施例的基于虚拟世界的图像实时处理装置的功能框图。如图4所示，与图3不同之处在于，基于虚拟世界的图像实时处理装置还包括：

贴图模块306，适于在前景图像的特定对象的特定区域绘制效果贴图。

当分割模块301得到针对于特定对象的前景图像中，特定对象仅为一部分时，如分割模块301得到仅包含人体上半身的前景图像。此时，贴图模块306可以在前景图像的特定对象的特定区域绘制效果贴图，进行遮挡或美化。具体的，贴图模块306可以在人体上半身的下方绘制如云朵的效果贴图，以形成人体漂浮在空中的效果。效果贴图可以根据三维场景、特定对象的不同设置为不同的效果贴图，以使效果贴图与三维场景、特定对象的风格、显示效果等相呼应，呈现整体一致的效果。

提取模块303还包括了第一位置模块307和第二位置模块308。

第一位置模块307，适于根据特定对象的关键点信息，计算具有对称关系的至少两个关键点之间的距离；根据具有对称关系的至少两个关键点之间的距离，得到前景图像在三维场景中的深度位置信息。

由于特定对象与图像采集设备的距离不同，导致特定对象在第一图像中的大小也不一致。如人体与图像采集设备的距离较远时，人体在第一图像中呈现较小，人体与图像采集设备的距离较近时，人体在第一图像中呈现较大。第一位置模块307根据特定对象的关键点信息，可以计算出具有对称关系的至少两个关键点之间的距离。如第一位置模块307计算出人脸边缘两个眼角所在为止的关键点之间的距离。根据具有对称关系的至少两个关键点之间的距离，结合特定对象的实际距离，可以得出特定对象与图像采集设备的距离。第一位置模块307根据距离，可以得到前景图像在三维场景中的深度位置信息，即第一位置模块307得到前景图像与三维场景融合时，前景图像设置在三维场景中具体的深度位置信息。如第一位置模块307计算出人脸边缘两个眼角所在为止的关键点之间的距离，得到人体与图像采集设备的距离较远，由于人体在第一图像中呈现较小，分割得到的前景图像也较小，第一位置模块307得到前景图像设置在三维场景中的深度位置也较深，呈现出前景图像在三维场景中较深位置，人体在三维场景中也较小的效果。或者第一位置模块307计算出人脸边缘两个眼角所在为止的关键点之间的距离，得到人体与图像采集设备的距离较近，由于人体在第一图像中呈现较大，第一位置模块307得到前景图像设置在三维场景中的深度位置会比较靠前，呈现出前景图像在三维场景中较靠前的位置，人体在三维场景中也较大的效果。前景图像在三维场景中的深度位置信息与具有对称关系的至少两个关键点之间的距离相关。

第二位置模块308，适于根据关键点信息，获取特定对象在第一图像中的位置信息；根据特定对象在第一图像中的位置信息，得到前景图像在三维场景中的左右位置信息。

第二位置模块308通过特定对象的关键点信息进行计算，得到特定对象在第一图像中的具体的位置。此处特定对象在第一图像中的位置信息包括特定对象在第一图像中的左右位置信息、上下位置信息、特定对象旋转角度信息等位置信息。第二位置模块308根据特定对象在第一图像中的位置信息，可以得到前景图像在三维场景中的左右位置信息。其中，前景图像在三维场景中的左右位置信息与特定对象在第一图像中的左右位置信息相对应。进一步，第二位置模块308还可以根据特定对象在第一图像中的上下位置信息、旋转角度信息，设置前景图像在三维场景中的上下位置信息、旋转角度信息等。

第三位置模块309，适于获取三维场景的地形信息；根据三维场景的地形信息、前景图像在三维场景中的左右位置信息和/或深度位置信息，得到前景图像在三维场景中的上下位置信息。

第三位置模块309获取三维场景的地形信息，其中，地形信息包括了如台阶、石头、湖泊等各种地形的在三维场景中的左右、上下、深度位置信息。第三位置模块309根据三维场景的地形信息，综合前景图像在三维场景中的左右位置信息、深度位置信息等，可以得到前景图像在三维场景中的上下位置信息。具体的，第三位置模块309根据前景图像在三维场景中的左右位置信息、深度位置信息，可以先确定当前左右位置信息、深度位置信息处的三维场景的地形。当该地形为台阶时，第三位置模块309根据台阶地形的上下位置信息，调整前景图像在三维场景中的上下位置信息，避免出现特定对象被设置在台阶中间的情况。或者当该地形为石头时，第三位置模块309根据石头地形的上下位置信息，调整前景图像在三维场景中的上下位置信息，避免出现特定对象被卡在石头中的情况，可以将特定对象设置在石头上或是特定对象设置在石头后方的位置。前景图像在三维场景中的上下位置信息会随着特定对象在三维场景中的左右位置信息和/或深度位置信息的不同、对应的三维场景的地形信息不同而变化。具体变化根据实施情况进行设置。

融合模块304可以根据上述各模块得到的前景图像在三维场景中的深度位置信息、左右位置信息和/或上下位置信息，将前景图像与三维场景进行融合处理，得到第二图像。

第一保存模块310，适于根据用户触发的拍摄指令，保存第二图像。

在显示第二图像后，第一保存模块310可以根据用户触发的拍摄指令，保存第二图像。如用户点击相机的拍摄按钮，触发拍摄指令，第一保存模块310将显示的第二图像进行保存。

第二保存模块311，适于根据用户触发的录制指令，保存由第二图像作为帧图像组成的视频。

在显示第二图像时，第二保存模块311可以根据用户触发的录制指令，保存由第二图像作为帧图像组成的视频。如用户点击相机的录制按钮，触发录制指令，第二保存模块311将显示的第二图像作为视频中的帧图像进行保存，从而保存多个第二图像作为帧图像组成的视频。

根据用户触发的不同指令执行对应的第一保存模块310和第二保存模块311。

根据本发明提供的基于虚拟世界的图像实时处理装置，从第一图像中提取特定对象的关键点信息，根据关键点信息，得到前景图像在三维场景中的深度、左右位置信息等。再根据三维场景中的地形信息，调整前景图像在三维场景中的上下位置信息，使得特定对象可以合理的与三维场景进行融合，使融合后第二图像呈现真实的显示效果，避免出现第二图像中特定对象仅只是设置在三维场景中，而不考虑三维场景中具体地形信息导致的显示错误。同时，还在前景图像的特定对象的特定区域绘制效果贴图，以丰富、美化特定对象的显示效果。进一步，还可以根据用户触发的不同指令，保存第二图像或保存由第二图像作为帧图像组成的视频。本发明对用户技术水平不做限制，不需要用户对图像进行额外处理，节省用户时间，还可以实时反馈处理后的图像，方便用户查看。

本申请还提供了一种非易失性计算机存储介质，所述计算机存储介质存储有至少一可执行指令，该计算机可执行指令可执行上述任意方法实施例中的基于虚拟世界的图像实时处理方法。

图5示出了根据本发明一个实施例的一种计算设备的结构示意图，本发明具体实施例并不对计算设备的具体实现做限定。

如图5所示，该计算设备可以包括：处理器(processor)502、通信接口(communicationsinterface)504、存储器(memory)506、以及通信总线508。

其中：

处理器502、通信接口504、以及存储器506通过通信总线508完成相互间的通信。

通信接口504，用于与其它设备比如客户端或其它服务器等的网元通信。

处理器502，用于执行程序510，具体可以执行上述基于虚拟世界的图像实时处理方法实施例中的相关步骤。

具体地，程序510可以包括程序代码，该程序代码包括计算机操作指令。

处理器502可能是中央处理器cpu，或者是特定集成电路asic(applicationspecificintegratedcircuit)，或者是被配置成实施本发明实施例的一个或多个集成电路。计算设备包括的一个或多个处理器，可以是同一类型的处理器，如一个或多个cpu；也可以是不同类型的处理器，如一个或多个cpu以及一个或多个asic。

存储器506，用于存放程序510。存储器506可能包含高速ram存储器，也可能还包括非易失性存储器(non-volatilememory)，例如至少一个磁盘存储器。

程序510具体可以用于使得处理器502执行上述任意方法实施例中的基于虚拟世界的图像实时处理方法。程序510中各步骤的具体实现可以参见上述基于虚拟世界的图像实时处理实施例中的相应步骤和单元中对应的描述，在此不赘述。所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的设备和模块的具体工作过程，可以参考前述方法实施例中的对应过程描述，在此不再赘述。

在此提供的算法和显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述，构造这类系统所要求的结构是显而易见的。此外，本发明也不针对任何特定编程语言。应当明白，可以利用各种编程语言实现在此描述的本发明的内容，并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。

在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。

类似地，应当理解，为了精简本公开并帮助理解各个发明方面中的一个或多个，在上面对本发明的示例性实施例的描述中，本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如下面的权利要求书所反映的那样，发明方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。

本领域那些技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。

此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在下面的权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。

本发明的各个部件实施例可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器(dsp)来实现根据本发明实施例的基于虚拟世界的图像实时处理的装置中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如，计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。

应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。