支持多视角观看的视频生成方法、装置、介质和电子设备与流程

本发明涉及图像处理技术领域，具体而言，涉及一种支持多视角观看的视频生成方法、装置、介质和电子设备。

背景技术：

随着计算机图形图像技术的快速发展，计算机图形引擎的功能越来越强大，以往利用计算机图形引擎开发的游戏画质不能与影视作品相比，但是近年来主流商业图形引擎在渲染质量方面取得了突破性的进步，这完全得益于新型的图形图像计算硬件和新的计算算法的进步。同时随着电影工业的进步，越来越多的影视作品也大量采用商业化的图形引擎作为特效制作工具来辅助进行影视特效加工。

通常在对虚拟场景进行渲染时，一般可以采用实时渲染的方法或者非实时渲染的方法。影视作品在进行加工处理时，通常是采用非实时渲染的方法，非实时渲染的结果可以是一张图像也可以是一段视频。但是，对于非实时渲染得到的者视频，用户不能控制观看视角，因为相机的运动轨迹已经固定不变，用户观察的内容是强制性的呈现在眼前。

随着用户对沉浸感和真实感的需求不断提升，目前单一视角的影视作品已经不能满足用户的需求，影响了用户体验。

需要说明的是，在上述背景技术部分公开的信息仅用于加强对本发明的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。

技术实现要素：

本发明的目的在于提供一种支持多视角观看的视频生成方法、装置、介质和电子设备，进而至少在一定程度上克服由于相关技术的限制和缺陷而导致的一个或者多个问题。

本发明的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本发明的实践而习得。

根据本发明实施例的第一方面，提供了一种支持多视角观看的视频生成方法，包括：获取在虚拟场景中设置的多个视角；针对所述多个视角中的各个视角进行图形渲染处理，得到所述各个视角对应的画面；将所述各个视角对应的画面进行合成，以得到支持多视角观看的视频文件。

在本发明的一些实施例中，基于前述方案，针对所述多个视角中的各个视角进行图形渲染处理，得到所述各个视角对应的画面的步骤，包括：在所述虚拟场景中，设置所述各个视角对应的虚拟相机；获取所述各个视角对应的虚拟相机的参数信息；基于所述各个视角对应的虚拟相机的参数信息，渲染得到所述各个视角对应的画面。

在本发明的一些实施例中，基于前述方案，将所述各个视角对应的画面进行合成，以得到支持多视角观看的视频文件的步骤，包括：将所述各个视角分别对应的一张画面进行合成，得到一帧图像；基于对所述各个视角分别对应的多张画面进行合成得到的多帧图像，生成所述视频文件。

在本发明的一些实施例中，基于前述方案，将所述各个视角分别对应的一张画面进行合成，得到一帧图像的步骤，包括：从所述各个视角分别对应的一张画面中选取多个列的内容或多个行的内容；将从所述各个视角分别对应的一张画面中选取的多个列的内容或多个行的内容进行排列组合，以生成一帧图像。

在本发明的一些实施例中，基于前述方案，所述多个视角中任一视角对应的一张画面在所述一帧图像中对应的列的内容或行的内容的集合为：

view(i)＝k×n+i

其中，view(i)表示视角i对应的一张画面在所述一帧图像中对应的列的内容或行的内容的集合；k为大于或等于0的整数；n表示所述多个视角的个数；i表示视角编号。

在本发明的一些实施例中，基于前述方案，将所述各个视角分别对应的一张画面进行合成，得到一帧图像的步骤，包括：将所述各个视角分别对应的一张画面按照预定顺序进行排列，并压缩生成一帧图像。

在本发明的一些实施例中，基于前述方案，将所述各个视角分别对应的一张画面按照预定顺序进行排列，包括：将所述各个视角分别对应的一张画面进行横向排列和/或纵向排列。

根据本发明实施例的第二方面，提供了一种支持多视角观看的视频生成装置，包括：获取单元，用于获取在虚拟场景中设置的多个视角；处理单元，用于针对所述多个视角中的各个视角进行图形渲染处理，得到所述各个视角对应的画面；合成单元，用于将所述各个视角对应的画面进行合成，以得到支持多视角观看的视频文件。

根据本发明实施例的第三方面，提供了一种计算机可读介质，其上存储有计算机程序，所述程序被处理器执行时实现如上述第一方面所述的支持多视角观看的视频生成方法。

根据本发明实施例的第四方面，提供了一种电子设备，包括：一个或多个处理器；存储装置，用于存储一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现如上述第一方面所述的支持多视角观看的视频生成方法。

在本发明的一些实施例所提供的技术方案中，通过针对虚拟场景中的多个视角进行渲染得到各个视角对应的画面，并将各个视角对应的画面进行合成，得到支持多视角观看的视频文件，使得可以基于在虚拟场景中设置的多个视角生成能够以不同视角进行观看的视频文件，进而使得用户在观看视频文件时能够根据需求切换至不同的视角来观看视频文件，提升了用户的视觉体验。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本发明。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本发明的实施例，并与说明书一起用于解释本发明的原理。显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。在附图中：

图1示意性示出了根据本发明的实施例的支持多视角观看的视频生成方法的流程图；

图2示出了根据本发明的一个实施例的虚拟场景的示意图；

图3示出了图2所示的虚拟场景中的虚拟相机进行渲染后的画面示意图；

图4示出了根据本发明的第一个实施例的将多个视角画面合成一帧图像的示意图；

图5示出了根据本发明的第二个实施例的将多个视角画面合成一帧图像的示意图；

图6示出了根据本发明的第三个实施例的将多个视角画面合成一帧图像的示意图；

图7示出了根据本发明的第四个实施例的将多个视角画面合成一帧图像的示意图；

图8示出了根据本发明的第五个实施例的将多个视角画面合成一帧图像的示意图；

图9示意性示出了根据本发明的实施例的支持多视角观看的视频生成装置的框图；

图10示出了适于用来实现本发明实施例的电子设备的计算机系统的结构示意图。

具体实施方式

现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本发明将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。

此外，所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中，提供许多具体细节从而给出对本发明的实施例的充分理解。然而，本领域技术人员将意识到，可以实践本发明的技术方案而没有特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知方法、装置、实现或者操作以避免模糊本发明的各方面。

附图中所示的方框图仅仅是功能实体，不一定必须与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

附图中所示的流程图仅是示例性说明，不是必须包括所有的内容和操作/步骤，也不是必须按所描述的顺序执行。例如，有的操作/步骤还可以分解，而有的操作/步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际情况改变。

图1示意性示出了根据本发明的实施例的支持多视角观看的视频生成方法的流程图。

参照图1，根据本发明的实施例的支持多视角观看的视频生成方法，包括：

步骤s10，获取在虚拟场景中设置的多个视角。

在本发明的实施例中，在设置虚拟场景中的多个视角之前，需要对虚拟场景的各项参数进行配置，具体可以包括：在图形引擎中将三维模型(包括人物、物体、动画等元素)添加到三维坐标系中，构建所要描述的虚拟场景的内容；设置虚拟场景需要的光照环境，包括光照参数、模型本身的材质等等；设置各种特效参数，比如天气、爆炸等等。

步骤s12，针对所述多个视角中的各个视角进行图形渲染处理，得到所述各个视角对应的画面。

根据本发明的示例性实施例，步骤s12包括：在所述虚拟场景中，设置所述各个视角对应的虚拟相机；获取所述各个视角对应的虚拟相机的参数信息；基于所述各个视角对应的虚拟相机的参数信息，渲染得到所述各个视角对应的画面。

需要说明的是：虚拟相机的参数信息包括机位、视角大小、运动轨迹等。在基于各个视角对应的虚拟相机的参数信息渲染得到各个视角对应的画面时，还需要考虑针对虚拟场景设置的各项参数，包括光照参数、特效参数和模型本身的材质等。

步骤s14，将所述各个视角对应的画面进行合成，以得到支持多视角观看的视频文件。

根据本发明的示例性实施例，步骤s14包括：将所述各个视角分别对应的一张画面进行合成，得到一帧图像；基于对所述各个视角分别对应的多张画面进行合成得到的多帧图像，生成所述视频文件。

在该实施例中，可以先生成视频文件的多帧图像，然后基于生成的多帧图像来生成视频文件。其中，生成的每一帧图像都是根据各个视角渲染得到的画面来生成的。

在本发明的实施例中，提出了如下两种将各个视角分别对应的一张画面进行合成得到一帧图像的方案：

方案一：

从所述各个视角分别对应的一张画面中选取多个列的内容或多个行的内容；将从所述各个视角分别对应的一张画面中选取的多个列的内容或多个行的内容进行排列组合，以生成一帧图像。

进一步地，在方案一种，所述多个视角中任一视角对应的一张画面在所述一帧图像中对应的列的内容或行的内容的集合为：

view(i)＝k×n+i

其中，view(i)表示视角i对应的一张画面在所述一帧图像中对应的列的内容或行的内容的集合；k为大于或等于0的整数；n表示所述多个视角的个数；i表示视角编号。

具体地，比如合成的一帧图像是基于选取的多个列的内容生成的，且虚拟场景中有3个视角，分别为视角1、视角2和视角3，视角1对应的画面为画面1，视角2对应的画面为画面2，视角3对应的画面为画面3，则在合成的一帧图像中的第1、4、7……列的内容为画面1中的内容；合成的一帧图像中的第2、5、8……列的内容为画面2中的内容；合成的一帧图像中的第3、6、9……列的内容为画面3中的内容。

在本发明的实施例中，合成的一帧图像中的第1、4、7……列的内容也可以是画面1中第1、4、7……列的内容；合成的一帧图像中的第2、5、8……列的内容也可以是画面2中第2、5、8……列的内容；合成的一帧图像中的第3、6、9……列的内容也可以是画面3中第3、6、9……列的内容。

此外，对于合成的一帧图像是基于选取的多个行的内容生成的情况与上述类似，不再赘述。

方案二：

将所述各个视角分别对应的一张画面按照预定顺序进行排列，并压缩生成一帧图像。

具体地，在本发明的实施例中，可以将各个视角分别对应的一张画面进行横向排列，或者进行纵向排列，或者横向和纵向混合排列。

以下以在虚拟场景中设置3个视角为例，对本发明实施例的技术方案进行详细阐述：

首先需要在图形引擎(如unity/unreal等图形引擎或者max/maya动画制作软件)中将三维模型添加到三维坐标系中，构建所要描述的虚拟场景的内容。然后设置场景需要的光照环境，包括光照参数、模型本身的材质等，并设置各种特效参数，比如天气、爆炸等。

具体地，在本发明的一个实施例中，如图2所示，虚拟场景中有两个人物模型、两个普通的物体模型(桌子和沙发)。在设置场景需要的各项参数之后，设置了三个不同的视角：一个全局视角201，两个人物角色视角202和203，如果需要更多视角可以类推增加，以下仅以三个视角为例进行说明。

针对视角201、202和203对应的虚拟相机，可以设置机位、运动轨迹、视角大小等相机信息，设置完每个视角的虚拟相机后，可以启动渲染得到不同视角的画面，如图3所示的301是视角201对应的虚拟相机呈现的渲染画面，302是视角202对应的虚拟相机呈现的渲染画面，303是视角203对应的虚拟相机呈现的渲染画面。

得到上述三个视角画面后，可以将上述三个视角画面合成在一帧图像中，具体地合成方式有多种，以下列举其中的几种：

合成方式一：

如图4所示，列401是视角201对应的画面301中的内容，列402是视角202对应的画面302中的内容，列403是视角203对应的画面303中的内容。可见，合成方式一是将从各个视角对应的画面中选择的列依次排列进行合成。

将合成方式一扩展至n个视角时，假设n个视角的编号为0、1、2、……、n-1，那么0号视角对应的画面会存在于生成的每一帧画面中的0×n、1×n、2×n、3×n、……列中，1号视角对应的画面会存在于生成的每一帧画面的0×n+1、1×n+1、2×n+1、3×n+1、……列中，以此类推，n-1号视角对应的画面会存在于生成的每一帧画面的0×n+n-1、1×n+n-1、2×n+n-1、3×n+n-1、……列中。即视角i对应的画面会存在于每一帧画面的0×n+i、1×n+i、2×n+i、3×n+i、……列中。如果用一个公式表示视角i在一帧画面中所对应的列的集合，那么可以得到view(i)＝k×n+i，其中k为大于或等于0的整数，n表示所有视角合成的一帧画面中拥有多少个视角，i表示view(i)对应的n个视角中的某一个视角的编号。

合成方式二：

如图5所示，行501是视角201对应的画面301中的内容，行502是视角202对应的画面302中的内容，行503是视角203对应的画面303中的内容。可见，合成方式二是将从各个视角对应的画面中选择的行依次排列进行合成。

将合成方式二扩展至n个视角的方案与上述合成方式一类似，不再赘述。

合成方式三：

如图6所示，直接将视角201对应的画面301中的内容、视角202对应的画面302中的内容和视角203对应的画面303中的内容进行横向排列来生成一帧图像。

合成方式四：

如图7所示，直接将视角201对应的画面301中的内容、视角202对应的画面302中的内容和视角203对应的画面303中的内容进行纵向排列来生成一帧图像。

合成方式五：

如图8所示，将视角201对应的画面301中的内容、视角202对应的画面302中的内容、视角203对应的画面303中的内容和补位内容802进行横向和纵向的综合排列来生成一帧图像。需要说明的是，由于是奇数个视角，因此在采用合成方式五时，需要设置补位内容802，因此合成方式五更适用于虚拟场景中设置有偶数个视角的应用场景。

图9示意性示出了根据本发明的实施例的支持多视角观看的视频生成装置的框图。

参照图9，根据本发明的实施例的支持多视角观看的视频生成装置900，包括：获取单元902、处理单元904和合成单元906。

具体地，获取单元902用于获取在虚拟场景中设置的多个视角；处理单元904用于针对所述多个视角中的各个视角进行图形渲染处理，得到所述各个视角对应的画面；合成单元906用于将所述各个视角对应的画面进行合成，以得到支持多视角观看的视频文件。

需要说明的是，上述支持多视角观看的视频生成装置900中包含的各模块/单元的具体细节已经在对应的报表查询方法中进行了详细的描述，因此此处不再赘述。

下面参考图10，其示出了适于用来实现本发明实施例的电子设备的计算机系统1000的结构示意图。图10示出的电子设备的计算机系统1000仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。

如图10所示，计算机系统1000包括中央处理单元(cpu)1001，其可以根据存储在只读存储器(rom)1002中的程序或者从存储部分1008加载到随机访问存储器(ram)1003中的程序而执行各种适当的动作和处理。在ram1003中，还存储有系统操作所需的各种程序和数据。cpu1001、rom1002以及ram1003通过总线1004彼此相连。输入/输出(i/o)接口1005也连接至总线1004。

以下部件连接至i/o接口1005：包括键盘、鼠标等的输入部分1006；包括诸如阴极射线管(crt)、液晶显示器(lcd)等以及扬声器等的输出部分1007；包括硬盘等的存储部分1008；以及包括诸如lan卡、调制解调器等的网络接口卡的通信部分1009。通信部分1009经由诸如因特网的网络执行通信处理。驱动器1010也根据需要连接至i/o接口1005。可拆卸介质1011，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器1010上，以便于从其上读出的计算机程序根据需要被安装入存储部分1008。

特别地，根据本发明的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本发明的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分1009从网络上被下载和安装，和/或从可拆卸介质1011被安装。在该计算机程序被中央处理单元(cpu)1001执行时，执行本申请的系统中限定的上述功能。

需要说明的是，本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑磁盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、rf等等，或者上述的任意合适的组合。

附图中的流程图和框图，图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本发明实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现，所描述的单元也可以设置在处理器中。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定。

作为另一方面，本申请还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该电子设备执行时，使得该电子设备实现如上述实施例中所述的支持多视角观看的视频生成方法。

例如，所述电子设备可以实现如图1中所示的：步骤s10，获取在虚拟场景中设置的多个视角；步骤s12，针对所述多个视角中的各个视角进行图形渲染处理，得到所述各个视角对应的画面；步骤s14，将所述各个视角对应的画面进行合成，以得到支持多视角观看的视频文件。

应当注意，尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元，但是这种划分并非强制性的。实际上，根据本发明的实施方式，上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。

通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本发明实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是cd-rom，u盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、触控终端、或者网络设备等)执行根据本发明实施方式的方法。

本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本发明的其它实施方案。本申请旨在涵盖本发明的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本发明未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本发明的真正范围和精神由下面的权利要求指出。

应当理解的是，本发明并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。