一种获取前景蒙版的方法、装置及电子设备与流程

1.本技术涉及图像处理技术领域，尤其涉及一种获取前景蒙版(mask)的方法、装置及电子设备。


背景技术：

2.随着自媒体、直播带货、视频会议、在线教育等领域的兴起，抠图也随之流行。现有技术采用的抠图技术通常是先获取一张精细的前景蒙版，然后利用它从给定图像或视频中提取前景。由此可见，获取精细化前景蒙版对于抠图技术而言是至关重要的。
3.现有的获取前景蒙版的方法一般为基于纯rgb图像的前景分割，但该方法存在的问题是依赖可见光，在前后景颜色相近、存在反光或倒影等场景中，基于该方法得到前景蒙版容易失效或者较粗糙。


技术实现要素：

4.有鉴于此，本技术实施例提供了一种获取前景蒙版的方法、装置及电子设备，可以解决相关技术中的至少一个技术问题。
5.根据本技术的实施例，提供一种获取前景蒙版的方法，包括：获取包括前景且对齐的彩色图像及深度图像；对彩色图像和深度图像进行前景分割，分别得到对应的第一前景蒙版和第二前景蒙版；根据彩色图像和深度图像的对齐关系，对第一前景蒙版和第二前景蒙版进行形态学融合得到第三前景蒙版。
6.根据本技术的实施例，提供一种获取前景蒙版的装置，包括：获取模块，用于获取包括前景且对齐的彩色图像及深度图像；前景分割模块，用于对彩色图像和深度图像进行前景分割，分别得到对应的第一前景蒙版和第二前景蒙版；融合模块，用于根据彩色图像和深度图像的对齐关系，对第一前景蒙版和第二前景蒙版进行形态学融合得到第三前景蒙版。
7.根据本技术的实施例，提供一种电子设备，包括：存储器、处理器以及存储在存储器中并可在处理器上运行的计算机程序，处理器执行计算机程序时实现如上述任一实施例的获取前景蒙版的方法。
8.根据本技术的实施例，提供一种计算机可读存储介质，计算机可读存储介质存储有计算机程序，计算机程序被处理器执行时实现如上述的获取前景蒙版的方法。
9.根据本技术的实施例，提供一种计算机程序产品，当计算机程序产品在电子设备上运行时，使得电子设备执行如上述的获取前景蒙版的方法。
10.本技术的有益效果为：通过深度图像辅助彩色图像区分前后背景，相比于仅使用rgb图像信息，不受颜色相近的干扰，更加稳定，可解决前后背景颜色相近时不能区分前景的问题。此外，由于深度信息的存在，用户可以轻松屏蔽任意深度距离的场景，起到了保护隐私的作用。
附图说明
11.为了更清楚地说明本技术实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
12.图1是本技术一实施例提供的一种获取前景蒙版的方法的实现流程示意图；
13.图2是本技术一实施例提供的一种获取前景蒙版的方法的实现过程示意图；
14.图3是本技术一实施例提供的一种获取前景蒙版的方法中步骤s130的实现流程示意图；
15.图4是本技术另一实施例提供的一种获取前景蒙版的方法中步骤s130的实现流程示意图；
16.图5是本技术一实施例提供的一种获取前景蒙版的装置的结构示意图；
17.图6是本技术一实施例提供的一种获取前景蒙版的装置中融合模块的结构示意图；
18.图7是本技术另一实施例提供的一种获取前景蒙版的装置中融合模块的结构示意图；
19.图8是本技术一实施例提供的一种电子设备的结构示意图。
具体实施方式
20.以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本技术实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本技术。在其它情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本技术的描述。
21.在本技术说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。
22.在本技术说明书中描述的“一个实施例”或“一些实施例”等意味着在本技术的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此，在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例，而是意味着“一个或多个但不是所有的实施例”，除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”，除非是以其他方式另外特别强调。
23.此外，在本技术的描述中，“多个”的含义是两个或两个以上。术语“第一”和“第二”等仅用于区分描述，而不能理解为指示或暗示相对重要性。
24.图1是本技术一实施例提供的一种获取前景蒙版的方法的实现流程示意图，方法包括：
25.s110，获取包括前景且对齐的彩色图像及深度图像。
26.其中，彩色图像可以例如采用rgb模型的rgb图像、或采用yuv模型的yuv图像等。本技术实施例对彩色图像所应用的彩色模型不予具体限制。
27.在一个实施例中，以前景为人体进行示例性说明，可通过相机直接采集同一场景
且包括人体的彩色图像及其对应的深度图像。进一步地，在获取包含人体的彩色图像和深度图像后需将图像进行对齐，即各图像中的像素点进行一一对齐，使得彩色图像上的每一点像素均可在深度图像上找到相应的像素点。
28.s120，对彩色图像和深度图像进行前景分割，分别得到对应的第一前景蒙版和第二前景蒙版。
29.具体地，基于彩色图像获取精细化的第一前景蒙版，基于深度图像获取粗糙的第二前景蒙版；其中，由于彩色图像和深度图像的图像特性，第一前景蒙版的精细度高于第二前景蒙版，而第二前景蒙版的稳定性高于第一前景蒙版。
30.需要说明的是，在本实施例中，可先获取彩色图像的第一前景蒙版，后根据彩色图像和深度图像的对齐关系，再获取深度图像对应的第二前景蒙版；在另一个实施例中，亦可通过不同算法同时获取彩色图像和深度图像各自对应的前景蒙版图像，如图2所示，分别利用预设抠图算法模型和预设深度分割算法模型抠取彩色图像和深度图像的前景得到对应的精细化的第一前景蒙版和具备稳定前景的第二前景蒙版，此处不作限制。
31.在一个实施例中，预设抠图算法模型和预设深度分割算法模型可为边缘检测、背景分割等前景分割方法，或基于深度学习的神经网络模型，如resnet或vgg等。优选地，预设抠图算法模型和预设深度分割算法模型为轻量化的神经网络模型，如mobilenet或squeezenet，以减少模型的计算复杂度和存储大小，降低抠图算法模型的部署要求。
32.需要说明的是，本技术实施例对抠图算法模型和深度分割算法模型可使用的神经网络模型的网络结构可以相同或不同，当使用相同的神经网络模型时，由于使用的是不同特性的图像需对各层网络的参数进行调整，此处不作限制。
33.s130，根据所述彩色图像和所述深度图像的对齐关系，利用第一前景蒙版和第二前景蒙版进行形态学融合，得到第三前景蒙版。
34.更具体地，将基于彩色图像得到的精细化第一前景蒙版和基于深度图像得到的稳定第二前景蒙版，通过形态学操作，在保证提取到第一前景蒙版精细边缘的前提下，根据所述彩色图像和所述深度图像的对齐关系，将第二前景蒙版融合到第一前景蒙版中，从而得到既精细化又具有稳定前景的第三前景蒙版。且该过程对算力要求低，可快速获取第三前景蒙版。进一步地，在快速获取第三前景蒙版后，利用第三前景蒙版抠取彩色图像中的前景并与任意背景图像进行合成，从而实现快速完成抠图与图像合成的过程。
35.在一个实施例中，如图3所示，s130更具体包括步骤s311、s312和s313：
36.s311，对第二前景蒙版进行腐蚀和膨胀，融合经腐蚀的第二前景蒙版和经膨胀的第二前景蒙版生成包括前景、背景及未知区域的三分图。
37.在一个实施例中，对第二前景蒙版进行一次或多次膨胀操作得到经膨胀的第二前景蒙版，并融合经腐蚀的第二前景蒙版和经膨胀的第二前景蒙版生成包括前景、背景及未知区域的三分图。对第二前景蒙版图像进行膨胀和腐蚀可提高三分图的准确性，从而提升前景蒙版的准确性。需要说明的是，本技术对腐蚀膨胀的次数不作限制，但可优选为三次，该次数既可保证数据处理效率又可保证结果的准确度。
38.在一个实施例中，对第二前景蒙版进行腐蚀操作更具体包括：将第二前景蒙版的像素归一化为[0,1]，选取3
×
3的结构矩阵，其中矩阵内的元素均为1，以1为步长，扫描第二前景蒙版中的每个像素，利用该结构矩阵与第二前景蒙版进行逻辑与运算，如果结构矩阵
与第二前景蒙版的值均为1，则输出图像的该点像素值为1，其余情况输出图像的像素值为0。
[0039]
在另一个实施例中，对第二前景蒙版进行膨胀操作更具体包括：将第二前景蒙版的像素归一化为[0,1]，选取3
×
3的结构矩阵，其中矩阵内的元素均为1，利用该结构矩阵与第二前景蒙版进行逻辑与运算，如果结构矩阵与第二前景蒙版的值均为0，则输出图像的该点像素值为0，其余情况输出图像的像素值为1。
[0040]
进一步地，当经腐蚀的第二前景蒙版图像的像素点和经膨胀的第二前景蒙版图像的像素点的值均为1时，此像素点构成三分图中的前景区域；当经腐蚀的第二前景蒙版图像的像素点和经膨胀的第二前景蒙版图像的像素点的值均为0时，此像素点构成三分图中的背景区域；其余则为三分图的未知区域。
[0041]
在一个实施例中，融合经腐蚀的第二前景蒙版和经膨胀的第二前景蒙版得到三分图，更具体地包括：对构成三分图的未知区域及前景区域进行标准化处理，并合并标准化后的前景区域、未知区域及背景区域得到三分图。更具体地，假设前景区域对应的像素矩阵为a，未知区域对应的像素矩阵为b，而背景区域的像素值为0可省略计算，优选地将前景区域、未知区域及背景区域标准化至[0,255]之间得到三分图，则可通过a*128+b*255生成三分图。由此，在三分图中前景区域的像素值为255，未知区域的像素值为128，背景区域的像素值为0。
[0042]
需要说明的是，本技术对各区域的像素值的标准化范围不作限制，不限于[0,255]，可根据实际情况进行设计，此处不作限制。
[0043]
s312，根据彩色图像与深度图像的对齐关系，求取三分图的未知区域和第一前景蒙版的交集区域得到边缘图像。
[0044]
s313，确定边缘图像和经腐蚀的第二前景蒙版的并集区域，得到第三前景蒙版。
[0045]
在另一个实施例中，如图4所示，步骤s130更具体包括步骤s411和s412：
[0046]
s411，对第一前景蒙版进行边缘检测以提取边缘区域，并对第二前景蒙版进行腐蚀操作得到经腐蚀的第二前景蒙版。
[0047]
在一个实施例中，对第二前景蒙版进行一次或多次腐蚀操作得到经腐蚀的第二前景蒙版，优选为三次，不仅可以保证数据处理效率，还可以保证结果的准确度。
[0048]
s412，根据深度图像与彩色图像的对齐关系，求取边缘区域与经腐蚀的第二前景蒙版的并集区域，得到第三前景蒙版。
[0049]
需要说明的是，与上一实施例相比，本实施例所使用的方法对处理器的算力要求更低，速度更快。
[0050]
应理解，上述实施例中各步骤的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本技术实施例的实施过程构成任何限定。
[0051]
本技术一实施例还提供一种获取前景蒙版的装置。该获取前景蒙版的装置中未详细描述之处请详见前述获取前景蒙版的方法实施例中的描述。
[0052]
图5是本技术一实施例提供的一种获取前景蒙版的装置的示意框图。所述获取前景蒙版的装置包括：获取模块51、前景分割模块52和融合模块53。
[0053]
其中，获取模块51，用于获取包括前景且对齐的彩色图像及深度图像。
[0054]
前景分割模块52，用于对彩色图像和深度图像进行前景分割，分别得到对应的第一前景蒙版和第二前景蒙版。
[0055]
融合模块53，用于根据彩色图像和深度图像的对齐关系，对第一前景蒙版和第二前景蒙版进行形态学融合，得到第三前景蒙版。
[0056]
在一个实施例中，如图6所示，融合模块53包括第一子模块531，第二子模块532和第三子模块533。
[0057]
第一子模块531，用于对第二前景蒙版进行腐蚀和膨胀，根据经腐蚀的第二前景蒙版和经膨胀的第二前景蒙版生成包括前景、背景及未知区域的三分图。
[0058]
第二子模块532，用于根据彩色图像和深度图像的对齐关系，求取三分图的未知区域和第一前景蒙版的交集区域，得到边缘图像。
[0059]
第三子模块533，用于确定边缘图像和经腐蚀的第二前景蒙版的并集区域，得到第三前景蒙版。
[0060]
在另一个实施例中，如图7所示，融合模块53包括第四子模块534、第五子模块535和第六子模块536。
[0061]
第四子模块534，用于对第一前景蒙版进行边缘检测以提取边缘区域。
[0062]
第五子模块535，用于对第二前景蒙版进行腐蚀操作得到经腐蚀的第二前景蒙版。
[0063]
第六子模块536，用于根据深度图像与彩色图像的对齐关系，求取边缘区域与经腐蚀的第二前景蒙版的并集区域，得到第三前景蒙版。
[0064]
图8为根据本技术一实施例提供的一种电子设备，电子设备可以包括一个或多个处理器100(图8中仅示出一个)，存储器101以及存储在存储器101中并可在一个或多个处理器100上运行的计算机程序102，例如，获取前景蒙版的程序。一个或多个处理器100执行计算机程序102时可以实现获取前景蒙版的方法实施例中的各个步骤。或者，一个或多个处理器100执行计算机程序102时可以实现获取前景蒙版的装置实施例中各模块/单元的功能，此处不作限制。
[0065]
在一些实施例中，电子设备还包括采集装置，采集装置包括彩色相机和深度相机，用于分别采集彩色图像和深度图像并传输至处理器100以获取前景蒙版。需要说明的是，彩色相机与深度相机可独立设置或一体化设置，深度相机可为结构光相机、tof相机、双目相机或多目相机等，此处不作限制。
[0066]
本领域技术人员可以理解，图8仅仅是电子设备的示例，并不构成对电子设备的限定。电子设备可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如电子设备还可以包括输入输出设备、网络接入设备、总线等。
[0067]
在一个实施例中，所称处理器100可以是中央处理单元(central processing unit，cpu)，还可以是其他通用处理器、数字信号处理器(digital signal processor，dsp)、专用集成电路(application specific integrated circuit，asic)、现成可编程门阵列(field-programmable gate array，fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
[0068]
在一个实施例中，存储器101可以是电子设备的内部存储单元，例如电子设备的硬盘或内存。存储器101也可以是电子设备的外部存储设备，例如电子设备上配备的插接式硬
盘，智能存储卡(smart media card，smc)，安全数字(secure digital，sd)卡，闪存卡(flash card)等。进一步地，存储器101还可以既包括电子设备的内部存储单元也包括外部存储设备。存储器101用于存储计算机程序以及电子设备所需的其他程序和数据。存储器101还可以用于暂时地存储已经输出或者将要输出的数据。
[0069]
所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。另外，各功能单元、模块的具体名称也只是为了便于相互区分，并不用于限制本技术的保护范围。上述系统中单元、模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
[0070]
本技术一实施例还提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时可实现获取前景蒙版的方法实施例中的各个步骤。
[0071]
本技术一实施例提供了一种计算机程序产品，当计算机程序产品在电子设备上运行时，使得电子设备可实现获取前景蒙版的方法实施例中的各个步骤。
[0072]
在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其它实施例的相关描述。
[0073]
本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本技术的范围。
[0074]
在本技术所提供的实施例中，应该理解到，所揭露的装置/电子设备和方法，可以通过其它的方式实现。例如，以上所描述的装置/电子设备实施例仅仅是示意性的，例如，模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口，装置或单元的间接耦合或通讯连接，可以是电性，机械或其它的形式。
[0075]
作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
[0076]
另外，在本技术各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
[0077]
集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本技术实现上述实施例方法中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完成的计算机程序可
存储于一计算机可读存储介质中，该计算机程序在被处理器执行时，可实现上述各个方法实施例的步骤。其中，计算机程序包括计算机程序代码，计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质可以包括：能够携带计算机程序代码的任何实体或装置、记录介质、u盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(read-only memory，rom)、随机存取存储器(random access memory，ram)、电载波信号、电信信号以及软件分发介质等。需要说明的是，计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减，例如在某些司法管辖区，根据立法和专利实践，计算机可读介质不包括电载波信号和电信信号。
[0078]
以上实施例仅用以说明本技术的技术方案，而非对其限制；尽管参照前述实施例对本技术进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本技术各实施例技术方案的精神和范围，均应包含在本技术的保护范围之内。