一种全景图像的映射方法、装置和设备与流程

文档序号:11178299阅读:461来源:国知局
一种全景图像的映射方法、装置和设备与流程
本发明涉及通信
技术领域
,尤其涉及一种全景图像的映射方法、装置和设备。
背景技术
:在现在的视频应用中,vr/360度全景视频正在兴起,这种新的视频应用给人们带来了新的观看方式和视觉体验,同时也带来了新的技术挑战。360度全景视频由多个摄像机对物体进行多角度拍摄,支持多角度播放。其图像信号可以虚拟为一种球面信号,如图1所示,图中左右两侧不同的大框所代表的球面图像信号可以表示不同的视角内容。然而,虚拟的球面图像信号无法直接被人眼所见,因此需要将三维的球面图像信号转换为二维平面图像信号。现有多种方式来对这种全景球面图像进行表述,如经纬图、立方体等表述形式。这些表述形式实际上是将球面图像信号通过某种映射方式映射到二维的图像上来,使其变为人眼所能直观看到的图像信号。在vr应用中,球面信号为360度全景,而人眼的视角范围通常约为120度,人眼视角下看到的有效球面信号约为全景信号的22%。现有的vr终端设备(如vr眼镜)可支持的单视角大约在90°~110°之间,可以获得较好的用户观看体验。现有技术提供了一种方法,将球面图像信号映射到六面体。该映射方法可参考图2,该映射方法将球面全景图像信号投射到前(front)、后(back)、左(left)、右(right)、上(top)、下(bottom)这六个等大小的正方形平面上,每个映射面上的球面像素样本在其球面坐标轴x、y、z上的坐标范围内进行均匀采样映射形成六个正方形面,并将这六个按照一定的排布方式拼接为一个2d图像。由于球面存在曲率,使得这种映射方法投影在每个平面上的均匀程度较低;导致靠近平面中心的位置,源球面图像像素插值后获得的像素能够更加逼近原始图像像素,而越往面边界部分平面特性越差,因此将有越来越多的像素需要通过球面像素插值来获得,图像像素与原始图像像素误差增大,图像质量将变差。若要使映射面的边界部分像素值与原始图像像素平均误差减小,则需要将原始图像映射为更多的图像像素,即映射后图像的分辨率增加。占用大量的存储资源。现有技术提供了另一种方法,将球面图像信号映射到经纬图。该方法将图像球面等效为地理意义上的地球的经纬图,利用均匀分布的经线和均匀分布的纬线对整个球面进行划分,进而将分隔出的球面图像区域对应映射到二维坐标系中,上述二维坐标系的横坐标为经度,纵坐标为纬度,进行均匀的采样映射,获得的二维映射图像如图3所示。由于球面存在曲率,使得均匀的经线和均匀分布的纬线所分隔出来的每一个区域并不均匀,赤道附近的图像区域在二维坐标系上的映射能更真实地表达球面图像内容,但是越高纬度的图像区域平面特性很差,映射后图像失真越严重,南北两极处曲面图像映射失真程度最大;因此在越靠近南北极的地方,原始图像像素将在二维平面中映射为越来越多的冗余图像像素,同样占用大量的存储资源。技术实现要素:有鉴于此,本发明实施例提供了一种虚拟现实全景图像的映射的方法、装置及设备。第一方面,本发明实施例提供了一种虚拟现实全景图像的映射的方法,该方法包括:获取一帧虚拟现实全景图像,所述虚拟现实全景图像为球面图;在所述球面图上选取a条圆环线和b条圆环线,并利用所述a条圆环线和b条圆环线将球面划分为c个区域;其中,所述a条圆环线分别所在的a个平面互相平行,且所述b条圆环线分别所在的b个平面互相平行,所述a条圆环线中的任一环线所在平面与所述b条圆环线中的任一环线所在平面具有预设夹角,所述a、b为大于1的整数;将所述c个区域的图像映射为二维平面图像。该技术方案可以由收发器和处理器完成。根据本发明实施例提供的一种全景图像的映射方法,通过选取互相平行的圆环对全景球面图进行划分,能够将球面图划分地更加均匀,使得球表面被划分后的各个球面区域的具有更好的平面特性,因此在映射时不再需要冗余的像素,节约存储资源,且划分后的各球面区域的面积更加近似,映射到相同的二维平面上的精度偏差更小。第二方面,本发明实施例提供了一种虚拟现实全景图像的映射的装置,该装置包括:获取模块,用于获取一帧虚拟现实全景图像,所述虚拟现实全景图像为球面图;划分模块,用于在所述球面图上选取a条圆环线和b条圆环线,并利用所述a条圆环线和b条圆环线将球面划分为c个区域;其中,所述a条圆环线分别所在的a个平面互相平行,且所述b条圆环线分别所在的b个平面互相平行,所述a条圆环线中的任一环线所在平面与所述b条圆环线中的任一环线所在平面具有预设夹角,所述a、b为大于1的整数;映射模块,用于将所述c个区域的图像映射为二维平面图像。根据本发明实施例提供的一种全景图像的映射装置,划分模块选取互相平行的圆环对获取模块获取到的全景球面图进行划分,能够将球面图划分地更加均匀,使得球表面被划分后的各个球面区域的具有更好的平面特性,因此映射模块在映射时不再需要冗余的像素,节约存储资源,且划分后的各球面区域的面积更加近似,映射模块将其映射到相同的二维平面上的精度偏差更小。根据第一方面或第二方面,在一个可能的设计中,若所述球面图的参考坐标系为三维正交直角坐标系,其中,所述三维正交直角坐标系包括互相垂直的x轴、y轴、z轴,所述三维正交直角坐标系的原点对应于所述球面图的球心;则所述在所述球面图上选取a条圆环线和b条圆环线包括:选取a条圆环线,所述a条圆环线中的任一环线所在平面与所述y轴垂直;选取b条圆环线,所述b条圆环线中的任一环线所在平面与所述x轴垂直。其中,所述三维正交直角坐标系的原点一般与用户的视点的起始位置对应。为球面图确定参考坐标系,有利于位置的计算和确定。正交直角坐标系是运算最简单的一种坐标系;且当a条圆环线和b条圆环线彼此垂直时,会使后续划分得到的区域更加图形规则,面积更加近似。该技术方案可以由处理器执行。根据第一方面或第二方面,在一个可能的设计中,若将所述y轴作为参考地轴,所述选取a条圆环线包括:选取具有等纬度差为α1的a条圆环线,其中α1为预设值。其中,具有等纬度差的纬线能够使得a条纬线之间的视角间隔相等,这些纬线之间划分的球面的大小也更加规则。该技术方案可以由处理器执行。根据第一方面或第二方面,在一个可能的设计中,若将所述x轴作为参考地轴,所述选取a条圆环线包括:选取具有等纬度差为α2的b条圆环线,其中α2为预设值。其中,具有等纬度差的纬线能够使得b条纬线之间的视角间隔相等,这些纬线之间划分的球面的大小也更加规则。该技术方案可以由处理器执行。根据第一方面或第二方面,在一个可能的设计中,α1=α2。使得a条纬线视角间隔相等且b条纬线之间的视角间隔相等,这些纬线之间划分的球面的大小也更加规则,尤其更加接近正方形。该技术方案可以由处理器执行。根据第一方面或第二方面,在一个可能的设计中,α1、α2均小于等于60°,且能被120°整除。其中,人眼的视角范围通常为120°×120°;小于60°是为了能够找到2条以上纬线对球面进行划分,因此能够被120°整除的角度作为等纬度差,会使图像在后续的传输过程中拟合用户的视角范围。该技术方案可以由处理器执行。根据第一方面或第二方面,在一个可能的设计中,a、b、α1和α2满足如下关系:180°=a×α1+2α10,其中α10小于等于α1,α10=90°-a条纬线中南/北纬线的最高纬度角;180°=b×α2+2α20,其中α20小于等于α2,α20=90°-b条纬线中南/北纬线的最高纬度角。这样使得球面的大部分面积被规则地划分;其中,a和b的值越大,表明对球面图划分地更加精细。该技术方案可以由处理器执行。根据第一方面或第二方面,在一个可能的设计中,在所述在所述球面图上选取a条圆环线和b条圆环线,并利用所述a条圆环线和b条圆环线将球面划分为c个区域之后,所述方法还包括:在所述球面图上再选取d条圆环线,所述d条圆环线中的任一环线所在平面与所述z轴垂直;并将所述c个区域分为c’个区域;其中,d为大于0的整数;所述将所述c个区域的图像映射为二维平面图像具体为:将所述c’个区域的图像映射为二维平面图像。采用该技术方案,可以使得球面的大部分面积被近似等分。该技术方案可以由处理器执行。根据第一方面或第二方面,在一个可能的设计中,当d=1时,在所述球面图上再选取d条圆环线包括:以所述z轴为地轴,选取所述球面图的赤道。采用该技术方案,可以使得球面的大部分面积被近似等分并且划分方式简单。该技术方案可以由处理器执行。根据第一方面或第二方面,在一个可能的设计中,当d>1时,若将所述y轴作为参考地轴,所述在所述球面图上再选取d条圆环线包括:选取具有等纬度差为α3的d条圆环线,其中α3为预设值。采用该技术方案,可以使得球面的大部分面积被近似等分并且划分地更加精细,使得每一块被划分的区域在映射时都能更加贴近源图像的特征。该技术方案可以由处理器执行。根据第一方面或第二方面,在一个可能的设计中,α3=α1,或者α3=α2。采用该技术方案,可以使得球面的大部分面积被近似等分并且划分地更加精细,使得每一块被划分的区域在映射时都能更加贴近源图像的特征。该技术方案可以由处理器执行。根据第一方面或第二方面,在一个可能的设计中,在所述在所述球面图上选取a条圆环线和b条圆环线,并利用所述a条圆环线和b条圆环线将球面划分为c个区域之后,所述方法还包括:以所述z轴为地轴,在所述球面图的赤道上选取d’条不连续的分段圆弧;并将所述c个区域分为c’个区域;其中,所述赤道经过所述c个区域中的c0个区域,所述d’条不连续的分段圆弧将所述c0个区域中超过预设面积的区域进行划分,使得所述超过预设面积的区域被划分成小于所述预设面积的区域,d’为大于1的整数;所述将所述c个区域的图像映射为二维平面图像具体为:将所述c’个区域的图像映射为二维平面图像。采用该技术方案,可以使得球面的大部分面积被近似等分并且划分地更加精细,使得每一块被划分的区域在映射时都能更加贴近源图像的特征。该技术方案可以由处理器执行。根据第一方面或第二方面,在一个可能的设计中,在所述将所述c个区域的图像映射为二维平面图像之后,所述方法还包括:将所述二维平面图像拼接为可编码图像,对所述可编码图像进行编码。该编码技术是为了方便后续根据用户视角的变化进行视频内容的传输。该技术方案可以由处理器、编码器或编码模块执行。根据第三方面,一种全景图像映射的设备,设备包括:存储器、处理器、收发器;它们通过总线彼此连接通信;存储器存储程序指令,收发器由处理器进行控制,处理器调用存储器中的程序指令,可以执行上述任意一种可能的实现方式。第四方面,本发明实施例提供了一种编码器、移动终端或服务器,该编码器、移动终端或服务器具有实现上述方法中对应的功能。该功能可以通过硬件实现,也可以通过硬件执行相应的软件实现。该硬件或软件包括一个或多个与上述功能相对应的模块。第五方面,本发明实施例提供了一种计算机存储介质,用于储存上述操作中所用的计算机软件指令,其包含用于执行上述方面所设计的程序。应理解,对于上述任何一种可能的设计中的技术方案,在不违背自然规律的前提下,可以进行方案之间的组合。附图说明图1为本发明实施例中一种球面图像信号示意图;图2为本发明实施例中一种球面信号映射到六面体的示意图;图3为本发明实施例中一种球面信号映射到经纬图的示意图;图4为本发明实施例中一种全景视频的传输技术框架图;图5为本发明实施例中一种全景图像的映射设备的结构示意图;图6为本发明实施例中一种全景图像的映射方法流程图;图7为本发明实施例中一种全景图像的三维正交直角坐标系示意图;图8为本发明实施例中一种球面坐标映射到平面坐标的示意图;图9为本发明实施例中一种球面分割的示意图;图10为本发明实施例中一种球面分割的示意图;图11a为本发明实施例中一种球面分割的示意图;图11b为本发明实施例中一种球面分割后的正视图、背面图和俯视图;图12a为本发明实施例中一种球面分割的示意图;图12b为本发明实施例中一种球面分割后的正视图、背面图和俯视图;图13为本发明实施例中一种球面分割的示意图;图14为本发明实施例中一种球面分割的示意图;图15为本发明实施例中一种映射后的二维图形的拼接示意图;图16为本发明实施例中一种全景图像的映射装置。具体实施方式本发明实施例提供了一种全景图像的映射方法、装置及设备。下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分优选实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。应理解,申请文件中所出现的诸如“第一”、“第二”、“预设”“目标”之类的限定词汇,仅仅是用来方便清楚的描述,用来区别泛指,并非限定次序,也并非是专有词汇。360度全景vr视频的传输技术,涉及到视频的映射、编码和传输。传输技术框架如图4所示。具体包括:获取到全景图像视频,原始的vr全景视频由vr全景球面图像序列组成,每一个视频帧都是一帧全景图像;但这样的视频并不适用于编码传输。因此,一种普遍的方法是将全景视频中的每一帧球面图像转换为可以适用于当前视频编码标准进行编码并传输的图像信号格式(方形图像),这个过程可称为球面图像表述,即将每一帧全景图像从球面图像映射为二维图像。对二维图像进行球编码并将编码后的码流传输到解码端。解码端对码流进行球解码,对解码后的图像进行渲染显示。本发明实施例是针对全景球面信号进行表述的一种映射方法,可在vr全景视频应用场景中广泛使用。本发明实施例中,实现全景图像的映射的设备,可以是一个智能终端,也可以是一个服务器;请参阅图5,图5为一种映射设备的结构示意图;该设备10至少包含了:收发器11,用于接收和发送信号,包括媒体流,如图像信号、音频信号和视频信号。存储器12,用于存储程序和各种数据,主要存储操作系统、应用和功能指令等软件单元、或者他们的子集、或者他们的扩展集。还可以包括非易失性随机存取存储器,向处理器13提供包括管理计算处理设备中的硬件、软件及数据资源,支持控制软件和应用;处理器13,用于产生相应的操作控制信号,发给计算处理设备相应的部件,读取以及处理软件中的数据,尤其是读取和处理存储器12中的数据和程序,以使其中的各个功能模块执行相应的功能,从而控制相应的部件按指令的要求进行动作。因此处理器13可以调用存储器12中的部分程序指令对收发器进行控制;总线14,上述硬件单元11-13可以通过总线14电气连接进行通信。在具体实现过程中,若设备是移动终端,还可以包含天线系统15,用于收发无线通信信号实现与移动通信网络的无线通信;移动通信网络包括以下的一种或多种:gsm网络、cdma网络、3g网络、fdma、tdma、pdc、tacs、amps、wcdma、tdscdma、wifi以及lte网络。此外,移动终端还可以包含wifi连接模块、显示屏、音频组件等其他硬件结构。请参阅图6,一种全景图像的映射方法,具体实现方式如下所示:s1:获取一帧虚拟现实全景图像,所述虚拟现实全景图像为球面图。具体实现过程中,可以通过获取全景视频,该全景视频中包含n帧全景图像,每一帧全景图像都是一个半径为r的球面图;还可以通过全景相机拍照获得全景图像;还可以通过调用本地存储的数据获取全景图像。通常,球面图的球心通常对应于用户的视点的起始位置。s2:在所述球面图上选取a条圆环线和b条圆环线,并利用所述a条圆环线和b条圆环线将球面划分为c个区域;其中,所述a条圆环线分别所在的a个平面互相平行,且所述b条圆环线分别所在的b个平面互相平行,所述a条圆环线中的任一环线所在平面与所述b条圆环线中的任一环线所在平面具有预设夹角,所述a、b为大于1的整数。在一种实现方式中,以通过上述球心且垂直于a条圆环线中任一条圆环线所在平面的直线作为第一参考地轴,称为第一参考状态,第一参考地轴可以为竖直方向。在第一参考状态下,选取的a条圆环线中的每一条都可以看做是一条纬线,它们都具有预设纬度角,若a1和a2为a条纬线中两条纬线,a1与a2的纬度角决定了用户在观察a1与a2的中间区域时在第一参考地轴方向上的视角范围。具体地,可以选取等纬度差的a条纬线,等纬度差为α1,其中α1为预设值;也可以相对于第一参考状态下该球面中的赤道平面对称分布;如可以用四条纬线来划分,第一参考状态下四条纬线的纬度角分别为-60度,-20度,20度,60度。更具体地,选取关于赤道对称的a条纬线还可以满足如下关系:180°=a×α1+2α10,其中α10小于等于α1,α10=90°-a条纬线中南/北纬线的最高纬度角。在一种实现方式中,以通过上述球心且垂直于b条圆环线中任一条圆环线所在平面的直线作为第二参考地轴,称为第二参考状态,第二参考地轴可以为水平方向。在第二参考状态下,选取的b条圆环线中的每一条都可以看做是一条纬线,它们都具有预设纬度角,若b1和b2为b条纬线中两条纬线,b1与b2的纬度角决定了用户在观察b1与b2的中间区域时在第二参考地轴方向上的视角范围。具体地,可以选取等纬度差的b条纬线,等纬度差为α2,其中α2为预设值;也可以相对于第二参考状态下该球面中的赤道平面对称分布;如可以用四条纬线来划分,第二参考状态下四条纬线的纬度角分别为-60度,-20度,20度,60度。更具体地,选取关于赤道对称的a条纬线还可以满足如下关系:180°=b×α2+2α20,其中α20小于等于α2,α20=90°-b条纬线中南/北纬线的最高纬度角。如图7所示,以球面图的球心为原点建立三维正交直角坐标系,坐标系包括x轴、y轴、和z轴。第一参考地轴可以为y轴,第二参考地轴可以为x轴。其中,三维直角坐标系并没有严格地限定位置,通常情况下,x轴正方向为水平向右,y轴正方向为竖直向上,z轴正方向为水平向外。由于人的视角范围约为120°×120°,为了更好地拟合人眼范围内的视频内容切换,在第一参考状态下或第二参考状态下,α1、α2均小于等于60°,且能被120°整除。如可以采用等差为30°、40°、20°或10°纬线对球面进行划分。为了得到更加均匀的划分,选取a条纬线和b条纬线时,可以使α1=α2,或使α1、α2尽量接近相等。相比于现有技术,这种新颖的划分方式能够将球面图分隔成为更加均匀的区域,映射到二维图像时失真更小。s3:将所述c个区域的图像映射为二维平面图像。常用的映射方式包括:将得到的c个区域映射到c个等大的二维正方形中,形成c个二维正方形图像。一种映射方法如图8所示。该图中,目标点在球面图中对应的球面坐标为(x0,y0,z0),o为球心(坐标原点);(x1,y1)为上述任一点在正方形映射面上的图像坐标,o’为的正方形参考坐标系的坐标原点。则映射关系可以用如下计算式获得:其中fw和fh分别为正方形映射面的宽度和高度。x_min为目标点所在划分区域在x轴上的坐标最小值,x_range为目标点所在划分区的x坐标值的取值范围;y_min为目标点所在划分区域在y轴上的坐标最小值,y_range为目标点所在划分区域的y坐标值的取值范围。r为球面半径,通常,可以取半径r=1,球面上x与y坐标取值可以在区间[-1,1]内。此外,还可以将划分后的c个区域一一映射为长方形平面或者其他二维图形平面,不同形状平面的映射仅在于坐标系的映射方法不同,不同坐标系之间的对应属于成熟的现有技术。另外,对于映射后的多个平面图形可以有不同方式的拼接,其组合方式的多种变形也属于现有技术。本发明不做过多赘述。映射后的二维图像可以存储于本地,可以进行呈现,也可以进行后续的拼接和编码。采用上述s1和s2实际是用两组纬度线将球面图进行了划分,在具体实现过程中,还可以在对划分后的图像上进行进一步的更精细的划分。例如,在执行了s2之后,执行s3之前,还可以执行s4。s4:在球面图上再选取d条圆环线,所述d条圆环线分别所在的d个平面互相平行;d条圆环线中的任一环线所在平面与a条圆环线中的任一环线所在平面相交,且d条圆环线中的任一环线所在平面与b条圆环线中的任一环线所在平面相交。新选择的d条圆环线将此前已经划分出的c个区域分为c’个区域,其中d为大于0的整数。在一种实现方式中,若第一参考地轴可以为y轴,第二参考地轴可以为x轴,则以通过上述球心且垂直于d条圆环线中任一条圆环线所在平面的直线作为第三参考地轴,称为第三参考状态,第三参考地轴可以为水平向外,即z轴。在第三参考状态下,选取的d条圆环线中的每一条都可以看做是一条纬线,它们都具有预设纬度角,若d1和d2为d条纬线中两条纬线,d1与d2的纬度角决定了用户在观察d1与d2的中间区域时在第三参考地轴方向上的视角范围。具体地,可以选取等纬度差da条纬线,等纬度差为α3,其中α3为预设值;也可以相对于第三参考状态下该球面中的赤道平面对称分布;如可以用四条纬线来划分,第三参考状态下四条纬线的纬度角分别为-60度,-20度,20度,60度。更具体地,选取关于赤道对称的a条纬线还可以满足如下关系:180°=d×α3+2α30,其中α30小于等于α3,α30=90°-d条纬线中南/北纬线的最高纬度角。当d=1时,可以直接选取第三参考状态下时的赤道作为分割线。当d大于1时,可以令α3=α1,或者α3=α2此后对应的执行s3具体为:将所述c’个区域的图像映射为二维平面图像。例如,在执行了s2之后,执行s3之前,还可以执行s5。s5:在球面图上选择出目标圆环,目标圆环所在平面与所述a条圆环线中的任一环线所在平面相交且满足预设夹角,目标圆环所在平面与所述b条圆环线中的任一环线所在平面相交且满足预设夹角,在目标圆环与上选取d’条不连续的分段圆弧;并将所述c个区域分为c’个区域;其中,目标圆环经过所述c个区域中的c0个区域,d’条不连续的分段圆弧将c0个区域中超过预设面积的区域进行划分,使得超过预设面积的区域被划分成小于预设面积的区域,d’为大于1的整数。具体地,目标圆环可以为第三参考状态下的赤道。此后对应的执行s3具体为:将所述c’个区域的图像映射为二维平面图像。关于本发明的具体实现,可以参照如下示例。示例1给出一种“60°×60°”型的球面划分映射方式。球面的参考坐标系为三维正交坐标系,包括x、y、z轴。“60°×60°”型该球面划分的示意图如图9所示:该方案对球面的划分步骤如下:1.1、在第一种参考状态下,即以y轴作为地轴,上半球对应北纬,下半球对应南纬,在球面上找到南纬30°与北纬30°纬度线,选取该两纬度线作为分割线,将圆球分为三部分,即“顶部”、“水平环”与“底部”。在本申请中,为了描述方便,附图中的北纬对应的纬度为+,南纬对应的纬度为-;以下示例均适用。1.2、在第二种参考状态下(可视为将第一种参考状态下的球体向右转90°),即以x轴为地轴,左半球对应南纬,右半球对应北纬,在球面上找到南纬30°与北纬30°的纬度线,选取该两纬度线作为分割线,将圆球分为三部分,即“左部”、“竖直环”与“右部”。1.3、上述4条分割线将整个球体共划分为10个球面区域;将这10个球面区域图像分别映射到10个等大的正方形平面。示例2给出一种“60°×60°×90°”型的球面划分映射方式。球面的参考坐标系为三维正交坐标系,包括x、y、z轴。“60°×60°×90°”型该球面划分的示意图如图10所示:该方案对球面的划分步骤如下:2.1、在第一种参考状态下,即以y轴作为地轴,上半球对应北纬,下半球对应南纬,在球面上找到南纬30°与北纬30°纬度线,选取该两纬度线作为分割线,将圆球分为三部分,即“顶部”、“水平环”与“底部”。2.2、在第二种参考状态下(可视为将第一种参考状态下的球体向右转90°),即以x轴为地轴,左半球对应南纬,右半球对应北纬,在球面上找到南纬30°与北纬30°的纬度线,选取该两纬度线作为分割线,将圆球分为三部分,即“左部”、“竖直环”与“右部”。2.3、在第三种参考状态下,即以z轴为地轴时,选取球面的赤道作为第五条分割线;2.4、上述共5条分割线将整个球体共划分为18个球面区域;将这18个球面区域图像分别映射到18个等大的正方形平面。示例3给出一种“60°×60°×90°”型的球面划分映射方式。球面的参考坐标系为三维正交坐标系,包括x、y、z轴。“60°×60°×90°”型该球面划分的示意图如图11a所示:该方案对球面的划分步骤如下:3.1、在第一种参考状态下,即以y轴作为地轴,上半球对应北纬,下半球对应南纬,在球面上找到南纬30°与北纬30°纬度线,选取该两纬度线作为分割线,将圆球分为三部分,即“顶部”、“水平环”与“底部”。3.2、在第二种参考状态下(可视为将第一种参考状态下的球体向右转90°),即以x轴为地轴,左半球对应南纬,右半球对应北纬,在球面上找到南纬30°与北纬30°的纬度线,选取该两纬度线作为分割线,将圆球分为三部分,即“左部”、“竖直环”与“右部”。3.3、在第三种参考状态下,即以z轴为地轴时,沿球面的赤道选取4条分段圆弧进行分割,如图11b所示分割后的正面图、背面图和俯视图,仅对面积较大的区域进行分割得到新的2、3;5、6;7、8;9、10。对于面积较小的区域11、12、13、14保持不进行分割;其中面积的相对大小是与预设阈值相比较得出的。3.4、上述共8条分割线将整个球体共划分为14个球面区域。将这14个球面区域图像分别映射到14个等大的正方形平面。示例4给出一种“60°×60°×47.9°”型的球面划分映射方式。球面的参考坐标系为三维正交坐标系,包括x、y、z轴。“60°×60°×47.9°”型该球面划分的示意图如图12a所示:该方案对球面的划分步骤如下:4.1、在第一种参考状态下,即以y轴作为地轴,上半球对应北纬,下半球对应南纬,在球面上找到南纬30°与北纬30°纬度线,选取该两纬度线作为分割线,将圆球分为三部分,即“顶部”、“水平环”与“底部”。4.2、在第二种参考状态下(可视为将第一种参考状态下的球体向右转90°),即以x轴为地轴,左半球对应南纬,右半球对应北纬,在球面上找到南纬30°与北纬30°的纬度线,选取该两纬度线作为分割线,将圆球分为三部分,即“左部”、“竖直环”与“右部”。4.3、在第三种参考状态下,即以z轴为地轴时,前半球对应北纬,后半球对应南纬,在球面上找到南纬47.9°与北纬47.9°纬度线、赤道,选取该三条纬度线作为分割线,将圆球分为三部分,即“前部”、“中间环”与“后部”。4.4、上述共9条分割线将整个球体共划分为26个球面区域,如图11b所示分割后的正面图、背面图和俯视图。将这26个球面区域图像分别映射到26个等大的正方形平面。示例5给出一种“30°×30°×90°”型的球面划分映射方式。球面的参考坐标系为三维正交坐标系,包括x、y、z轴。“30°×30°×90°”型该球面划分的示意图13所示:该方案对球面的划分步骤如下:5.1、在第一种参考状态下,即以y轴作为地轴,上半球对应北纬,下半球对应南纬,在球面上找到南纬30°、南纬60°、北纬30°、北纬60°以及赤道,选取该5条纬度线作为分割线,将圆球从上到下分为6部分。5.2、在第二种参考状态下(可视为将第一种参考状态下的球体向右转90°),即以x轴为地轴,左半球对应南纬,右半球对应北纬,在球面上找到南纬30°、南纬60°、北纬30°、北纬60°以及赤道,选取该5条纬度线作为分割线,将圆球从左到右分为6部分。5.3、在第三种参考状态下,即以z轴为地轴时,前半球对应北纬,后半球对应南纬,在球面上找到赤道,选取赤道作为分割线。5.4、上述共11条分割线将整个球体共划分为48个球面区域。将这48个球面区域图像分别映射到48个等大的正方形平面。示例6给出一种“30°×60°×90°”型的球面划分映射方式。球面的参考坐标系为三维正交坐标系,包括x、y、z轴。“30°×60°×90°”型该球面划分的示意图如图14所示:该方案对球面的划分步骤如下:6.1、在第一种参考状态下,即以y轴作为地轴,上半球对应北纬,下半球对应南纬,在球面上找到南纬30°、南纬60°、北纬30°、北纬60°以及赤道,选取该5条纬度线作为分割线,将圆球从上到下分为6部分。6.2、在第二种参考状态下(可视为将第一种参考状态下的球体向右转90°),即以x轴为地轴,左半球对应南纬,右半球对应北纬,在球面上找到南纬30°、北纬30°,选取这2条纬度线作为分割线,将圆球从左到右分为3部分。6.3、在第三种参考状态下,即以z轴为地轴时,前半球对应北纬,后半球对应南纬,在球面上找到赤道,选取赤道作为分割线。6.4、上述共8条分割线将整个球体共划分为28个球面区域。将这28个球面区域图像分别映射到28个等大的正方形平面。在上述示例中使用60°是因为考虑到人眼视角范围在120°左右,因此选择能被该视角范围整除的度数,从而在将球面分片映射后,能通过不同映射面的组合来很好地获取人眼范围内的视频内容。类似地,还可以使用10°、20°、30°、40°等其他能被120°整除的度数将球面进行划分,所采用的划分度数越小,球面划分的精度越精细,划分后的图像所承载的视角信息也越精细。在上述示例中,若终端显示设备所支持的人眼视角范围为其他度数,如110°、100°等,其同样可以通过能被这些度数整除的角度来对球面进行划分,这些分块方式与上述示例类似,仅仅在于角度的具体计算差别,所遵照的发明思路没有改变,因此不再详细赘述。因此不难理解,上述示例中,无论哪一种参考状态下,分割线可以是完整的圆环,也可以是不完整的弧线;分割线的数量也不应被限制;即分割线的多少以及每一条分割线的纬度都可以灵活设定。如:第一种参考状态分割线对应的纬度与第二种参考状态分割线对应的纬度可以相同,也可以不同;如:第二种参考状态下的几个分割线可以相对于赤道对称,也可以相对于赤道不对称;如:第一种参考状态几条分割线可以等纬度差分布,也可以不同等纬度差分布;如:第二种参考状态分割线个数可以与第一种参考状态分割线个数相同或不同。分割的目的在于能够将球面图像划分为一定数量的图像面积大小近似的图像区域,使得每一个划分后的图像区域在映射到二维平面时的失真率降低,避免冗余的像素表达,节约存储资源。对于映射后的图像,一个重要的应用就是编码,编码后传输系统可以将已编码的虚拟现实vr全景视频进行传输到vr终端中,vr终端将已编码的虚拟现实vr全景视频解码并呈现给用户;vr终端获取用户观看已解码的所述虚拟现实vr全景视频的当前视角范围;传输系统在即将传输的一帧全景图像中选择出满足所述当前视角范围的目标区域;目标区域包括上述c个区域中的至少一个区域;将所述目标区域对应的已编码图像进行传输。下面以上述示例三为例,论述映射后的编码和传输应用。按照示例三分割映射后,不同映射面对应的视角范围如下表所示:面编号水平视角垂直视角1、460°60°2、3、5、655°~60°60°7、8、9、1060°55°~60°11、12、13、14<110°<30°参照图12,,面1、4视角范围为60°×60°,“水平环”与“垂直环”内其他8个面(2、3、5、6、7、8、9、10)视角范围约为60°×60°,面11、12、13、14视角约为110°×30°。针对这14个映射后的二维正方形图像进行拼接,拼接方式和形态不做限定,如图15所示的拼接图的任意一种都是可以的。对于拼接后的图像,可采取的编码策略包括如下任意一种:1.图像序列整块编码。编码端将已完成映射拼接的14块子图像作为整体图像进行编码。2.图像序列分块编码。编码端将拼接后的图像,分成n个子图像块,n为预设数量,对n个子图像块进行编码。3.图像分tile编码。h.265/hevc标准中支持分tile编码模式,编码端可将拼接后的图像进行分tile编码,如分成n个子tile,对每一子tile进行编码。上述编码方式属于现有技术,本发明实施例中不进行详细说明。对于设备10,处理器13通过调用存储器12存储的程序或指令,以执行上述方法实施例中所提到的方法以及等同方法。通过本发明提供的方法实施例,通过选取互相平行的圆环对全景球面图进行划分,能够将球面图划分地更加均匀,使得球表面被划分后的各个球面区域的具有更好的平面特性,因此在映射时不再需要冗余的像素,节约存储资源,且划分后的各球面区域的面积更加近似,映射到相同的二维平面上的精度偏差更小。请参阅图16,图16为本发明实施例中一种全景图像的映射装置,该装置可以是一个编码设备、智能终端、或者服务器。该装置200包括:获取模块201,用于获取一帧虚拟现实全景图像,所述虚拟现实全景图像为球面图。该获取模块可以由处理器实现,可以调用本地存储器或云端服务器中的数据,或者通过收发器来接收视频信号。划分模块202,用于在所述球面图上选取a条圆环线和b条圆环线,并利用所述a条圆环线和b条圆环线将球面划分为c个区域;其中,所述a条圆环线分别所在的a个平面互相平行,且所述b条圆环线分别所在的b个平面互相平行,所述a条圆环线中的任一环线所在平面与所述b条圆环线中的任一环线所在平面具有预设夹角,所述a、b为大于1的整数。该划分模块可由处理器实现,进行坐标和角度运算。映射模块203,用于将所述c个区域的图像映射为二维平面图像。该映射模块可在处理器中实现。在具体实现过程中,获取模块201具体用于执行s1中所提到的方法以及可以等同替换的方法;划分模块202具体用于执行s2、s4和/或s5中所提到的方法以及可以等同替换的方法;映射模块203具体用于执行s3中所提到的方法以及可以等同替换的方法。另外,该装置200还可以包含编码模块204,用于将所述映射单元映射得到的二维平面图像拼接为可编码图像,对所述可编码图像进行拼接和编码;如上述实施例中的三种编码策略等。其中,上述具体的方法实施例以及实施例中的解释和表述也适用于装置中的方法执行。该装置能够执行如示例1-示例6中的任意一种实施方式。根据本发明实施例提供的一种全景图像的映射装置,划分模块选取互相平行的圆环对获取模块获取到的全景球面图进行划分,能够将球面图划分地更加均匀,使得球表面被划分后的各个球面区域的具有更好的平面特性,因此映射模块在映射时不再需要冗余的像素,节约存储资源,且划分后的各球面区域的面积更加近似,映射模块将其映射到相同的二维平面上的精度偏差更小。本领域普通技术人员可知,上述方法中的全部或部分步骤可以通过程序指令相关的硬件完成,该程序可以存储于一计算机可读存储介质中。通过以上的实施方式的描述,所属领域的技术人员可以清楚地了解到本发明可以用硬件实现,或固件实现,或它们的组合方式来实现。以上实施例仅为本发明技术方案的较佳实施例而已,并非用于限定本发明的保护范围。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围。当前第1页12
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1