实施例提供了一种用于提供3d内容以向用户提供诸如虚拟现实(vr)、增强现实(ar)、混合现实(mr)和自动驾驶服务的各种服务的方法。
背景技术:
1、3d内容中的点云数据或网格数据是3d空间中的点的集合。然而,由于3d空间中的大量的点,难以创建点云数据或网格数据。
2、换句话说,需要大的吞吐量来发送和接收具有大量点的3d数据,诸如点云或网格数据。
技术实现思路
1、技术问题
2、本公开的目的是提供一种用于有效地发送和接收网格数据以解决上述问题的装置和方法。
3、本公开的另一目的是提供一种用于解决网格数据的延迟和编码/解码复杂度的装置和方法。
4、本公开的另一个目的是提供一种允许在网格数据中反映可扩展性的装置和方法。
5、实施例不限于上述目的,并且实施例的范围可以被扩展到本领域的技术人员基于本公开的全部内容能够推断的其他目的。
6、技术方案
7、为了实现这些目的和其他优点并且根据本公开的目的,如本文具体化和广泛描述的,根据实施例的用于解码网格数据的装置可以包括:基础网格解码器,其被配置为从基础网格比特流对基础网格进行解码;位移信息解码器,其被配置为从位移矢量比特流对位移信息进行解码;重构器,其被配置为基于所解码的基础网格和所解码的位移信息重构网格;以及纹理图解码器,其被配置为从纹理图比特流对纹理图进行解码。
8、根据实施例,位移信息解码器可以包括:重构网格质量确定器,其被配置为确定待重构的网格的目标级别;解析器,其被配置为基于所确定的网格的目标级别从位移矢量比特流解析部分位移矢量比特流;以及位移矢量解码器,其被配置为从所解析的部分位移矢量比特流解码位移信息。
9、根据实施例,基础网格解码器可以包括网格细分器,其被配置为基于目标级别确定细分的迭代次数以及基于所确定的细分的迭代次数对基础网格进行细分。
10、根据实施例,纹理图解码器可以通过基于目标级别从纹理比特流解析部分纹理图比特流来解码纹理图。
11、根据实施例,位移信息解码器可以进一步包括零矢量导出器,其被配置为基于接收到的信令信息中包括的标志信息将用于特定级别的位移信息的值导出为零矢量。
12、根据实施例,位移信息解码器可以基于视频编解码器解码、零游程长度解码或算术解码中的至少一个来解码位移信息。
13、根据实施例,一种用于编码网格数据的装置可以包括:基础网格处理器,其被配置为对通过简化原始网格生成的基础网格进行编码以生成基础网格比特流;位移信息处理器,其被配置为对基于基础网格生成的位移信息进行编码以生成位移矢量比特流;网格重构器,其被配置为基于编码的基础网格和编码的位移信息重构网格;以及纹理图处理器,其被配置为对基于原始网格和重构网格生成的纹理图进行编码以生成纹理图比特流。
14、根据实施例,基础网格处理器可以包括网格细分器,其被配置为对基础网格进行至少一次细分以生成附加顶点以及确定随着细分的迭代次数而变化的级别。
15、根据实施例,位移信息处理器可以对用于所确定的级别中的每个的位移信息进行编码以生成位移矢量比特流。
16、根据实施例,位移信息处理器可以基于用于级别之中的特定级别的位移信息值为零矢量,跳过对特定级别的编码,以及在信令信息中发送指示跳过用于特定级别的位移信息的编码的标志信息。
17、根据实施例,位移信息处理器可以根据基于视频编解码器的编码、零游程长度编码或算术编码中的至少一个对位移信息进行编码。
18、根据实施例,位移信息处理器可以包括打包器(packer),其被配置为将位移信息打包到图像中,以根据基于视频编解码器的编码对位移信息进行编码,其中该打包器可以将用于每个级别的位移信息打包到每个图像中。
19、根据实施例,一种发送网格数据的方法可以包括:对原始网格进行编码,以及发送包含编码的网格和信令信息的比特流。
20、根据实施例,编码可以包括:基础网格处理,其包括对通过简化原始网格生成的基础网格进行编码以及生成基础网格比特流;位移信息处理,其包括对基于基础网格生成的位移信息进行编码以及生成位移矢量比特流;网格重构,其包括基于编码的基础网格和编码的位移信息来重构网格;以及纹理图处理,其包括对基于原始网格和重构网格生成的纹理图进行编码以及生成纹理图比特流。
21、根据实施例,基础网格处理可以进一步包括:通过对基础网格进行至少一次细分来生成附加顶点,以及确定随着细分的迭代次数而变化的级别。
22、根据实施例,位移信息处理可以进一步包括:对用于所确定的级别中的每个的位移信息进行编码,以及生成位移矢量比特流。
23、根据实施例,位移信息处理可以进一步包括:基于用于级别之中的特定级别的位移信息的值为零矢量,跳过对特定级别的编码,以及在信令信息中发送指示跳过用于特定级别的位移信息的编码的标志信息。
24、根据实施例,存储在计算机可读记录介质上的计算机程序可以被耦合到作为硬件的计算机以执行上述方法。
25、有益效果
26、根据实施例的网格数据发送方法、网格数据发送装置、网格数据接收方法和网格数据接收装置可以提供高质量3d服务。
27、根据实施例的网格数据发送方法、网格数据发送装置、网格数据接收方法和网格数据接收装置可以实现各种视频编解码器方案。
28、根据实施例的网格数据发送方法、网格数据发送装置、网格数据接收方法和网格数据接收装置可以提供诸如自动驾驶服务的通用的3d内容。
29、根据实施例的网格数据发送方法、网格数据发送装置、网格数据接收方法和网格数据接收装置可以实现对网格数据中包括的位移信息和/或纹理图的可扩展编码和解码,从而实现网格数据的基于层的编码/解码并且进一步允许根据网络和接收环境选择性地重构针对服务具有最佳分辨率和图像质量的网格内容。
30、根据实施例的网格数据发送方法、网格数据发送装置、网格数据接收方法和网格数据接收装置可以允许用户根据接收器的性能、显示特性或网络环境基于网格细分级别直到可用级别选择性地重构网格数据。此外,当需要表示多个网格数据对象时,该方法和装置可以允许用户取决于每个对象的重要性、使用频率和当前使用来重构网格数据的精度和级别的不同程度,以及将每个对象重构到所需的级别,从而适当地分布和有效使用给定的资源。
31、根据实施例的网格数据发送方法、网格数据发送装置、网格数据接收方法和网格数据接收装置,可以允许在更加多样化的网络环境和应用中利用网格数据,并且通过灵活地使用接收器的资源来进一步扩展网格数据的可用性。
32、根据实施例的网格数据发送方法、网格数据发送装置、网格数据接收方法和网格数据接收装置,可以通过跳过特定级别的位移矢量变换系数的编码,并且在特定级别的位移矢量变换系数为零矢量时替代地发送1比特的标志,来减少要发送的位移矢量比特的数量。
1.一种用于对网格数据进行解码的装置,包括:
2.根据权利要求1所述的装置,其中,所述位移信息解码器包括:
3.根据权利要求2所述的装置,其中,所述基础网格解码器包括:
4.根据权利要求2所述的装置,其中,所述纹理图解码器被配置为:
5.根据权利要求2所述的装置,其中,所述位移信息解码器进一步包括:
6.根据权利要求2所述的装置,其中,所述位移信息解码器被配置为:
7.一种用于对网格数据进行编码的装置,包括:
8.根据权利要求7所述的装置,其中,所述基础网格处理器包括:
9.根据权利要求8所述的装置,其中,所述位移信息处理器被配置为:
10.根据权利要求9所述的装置,其中,所述位移信息处理器被配置为:
11.根据权利要求7所述的装置,其中,所述位移信息处理器被配置为:
12.根据权利要求11所述的装置,其中,所述位移信息处理器包括:
13.一种发送网格数据的方法,所述方法包括:
14.根据权利要求13所述的方法,其中,所述编码包括:
15.根据权利要求14所述的方法,其中,所述基础网格处理进一步包括:
16.根据权利要求14所述的方法,其中,所述位移信息处理进一步包括:
17.根据权利要求16所述的方法,其中,所述位移信息处理进一步包括:
18.一种计算机可读记录介质,所述计算机可读记录介质被耦合到作为硬件的计算机,具有被存储在其上的用于执行权利要求13所述的方法的计算机程序。