个性化视频生成方法及系统的制作方法_2

文档序号:9397544阅读:来源:国知局
单元,用于分别划分所述目标三维人脸模型和所述匹配替换模型 的非待平滑区域和待平滑区域;
[0080] 距离计算子单元,用于计算所述匹配替换模型中非待平滑区域上每个三维点到所 述匹配替换模型中待平滑区域中心点的距离;
[0081] 第一计算子单元,用于根据所述距离计算所述匹配替换模型中待平滑区域的纹理 均值;
[0082] 第二计算子单元,用于计算所述目标三维人脸模型中待平滑区域的纹理均值;
[0083] 均值差计算子单元,用于根据所述匹配替换模型中待平滑区域的纹理均值及所述 目标三维人脸模型中待平滑区域的纹理均值,计算纹理均值差;
[0084] 叠加子单元,用于将所述纹理均值差叠加到所述目标三维人脸模型中待平滑区 域。
[0085] 优选地,所述图像调整模块包括:
[0086] 图像对比单元,用于对于待匹配人物出现的每一帧图像,将当前帧图像中待匹配 人物的人脸图像与所述待匹配人物的人脸基础图像进行对比;
[0087] 目标模型调整单元,用于在当前帧图像中待匹配人物的人脸图像与所述待匹配人 物的人脸基础图像发生变化的情况下,调整替换后的图像中的目标三维人脸模型。
[0088] 优选地,所述目标模型调整单元包括以下任意一个或多个子单元:
[0089] 姿态调整子单元,用于在待匹配人物的姿态发生变化时,根据当前帧图像中待匹 配人物的旋转角度,将替换后的图像中的目标三维人脸模型旋转相同角度;
[0090] 光照调整子单元,用于在待匹配人物的光照发生变化时,构建待匹配人物所在当 前帧的人脸纹理蒙版,并将所述人脸纹理蒙版叠加到替换后的图像中的目标三维人脸模型 上;
[0091] 表情调整子单元,用于在待匹配人物的表情发生变化时,调整替换后的图像中的 目标三维人脸模型,所述表情调整子单元包括:
[0092] 区域及表情确定子单元,用于根据表情变化情况,确定替换后的图像中的目标三 维人脸模型中需要变化的区域及表情;
[0093] 重构模型确定子单元,用于根据所述需要变化的区域及表情、以及预先构建的表 情库,确定与所述区域及表情对应的重构模型,所述表情库中包含不同用户不同表情的三 维人脸局部模型;
[0094] 区域替换子单元,用于将替换后的图像中的目标三维人脸模型中需要变化的区域 替换为对应的重构模型。
[0095] 优选地,所述重构模型确定子单元,具体用于从所述表情库中选出与所述需要变 化的区域及表情对应的所有候选模型;将所有候选模型进行融合,得到所述重构模型;或 者计算各候选模型与所述需要变化的区域及表情的匹配度,选择匹配度最高的候选模型作 为所述重构模型。
[0096] 优选地,所述目标视频为以下任意一种:
[0097] 用户上传的视频;
[0098] 应用系统从视频库中随机选择的视频;
[0099] 应用系统向用户推荐的视频。
[0100] 优选地,所述系统还包括:特征提取模块,用于提取所述用户图像的图像特征信 息;
[0101] 所述目标视频获取模块,具体用于根据所述特征提取模块提取的图像特征信息从 视频库中获取目标视频。
[0102] 优选地,所述特征提取模块包括:
[0103] 用户属性获取单元,用于获取用户属性相关信息,所述用户属性相关信息包括年 龄、化妆情况、表情信息、肤质、是否带眼镜和颜值信息;
[0104] 相似度计算单元,用于计算所述人脸与明星的相似度,确定与所述人脸相似度最 尚的明星;
[0105] 拍摄时间获取单元,用于获取所述待推荐图像的拍摄时间。
[0106] 优选地,所述目标视频获取模块包括:
[0107] 主要人物特征提取单元,用于提取所述视频库的各视频中主要人物的人脸特征信 息;
[0108] 特征距离计算单元,用于计算所述图像特征信息与所述人脸特征信息之间的距 离;
[0109] 目标视频选择单元,用于选择距离最小的视频作为目标视频,并将所述目标视频 中的主要人物作为待匹配人物。
[0110] 本发明实施例提供的个性化视频生成方法及系统,在进行人脸替换时,根据视频 场景的变化动态调整替换后的人脸图像,比如,调整替换后人脸的姿态、光照及表情的变化 等情况,从而使替换后的人脸可以随着视频场景的变化而变化,使生成的个性化视频给用 户一种即时感和代入感,大大提高了个性化视频与用户的互动性和娱乐性,提升了用户体 验度。
【附图说明】
[0111] 为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例中所 需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明中记载的一 些实施例,对于本领域普通技术人员来讲,还可以根据这些附图获得其他的附图。
[0112] 图1是本发明实施例个性化视频生成方法的一种流程图;
[0113] 图2是本发明实施例中人脸图像替换待匹配人物人脸的流程图;
[0114] 图3是本发明实施例中纹理平滑示意图;
[0115] 图4是本发明实施例个性化视频生成方法的另一种流程图;
[0116] 图5是本发明实施例个性化视频生成系统的一种结构示意图;
[0117] 图6是本发明实施例中图像替换模块的一种结构示意图;
[0118] 图7是本发明实施例中图像调整模块的一种结构示意图;
[0119] 图8是本发明实施例个性化视频生成系统的另一种结构示意图;
[0120] 图9是本发明实施例中目标视频获取模块的一种结构示意图。
【具体实施方式】
[0121] 为了使本技术领域的人员更好地理解本发明实施例的方案,下面结合附图和实施 方式对本发明实施例作进一步的详细说明。
[0122] 本发明实施例提供的个性化视频生成方法及系统,获取包含人脸的图像,提取所 述用户图像中的人脸图像,获取目标视频,将所述人脸图像替换掉所述目标视频中待匹配 人物的人脸,并根据视频场景的变化动态调整替换后的人脸图像,得到个性化视频。
[0123] 如图1所示,是本发明实施例的个性化视频生成方法的流程图,包括以下步骤:
[0124] 步骤101,获取包含人脸的用户图像。
[0125] 所述用户图像可以是用户使用移动终端设备拍摄的包含人脸的图像。所述移动终 端设备可以是相机、手机、平板电脑或者是笔记本等。所述包含人脸的图像可以是用户的自 拍照、朋友的合照或者是家庭成员的全家福等图像。
[0126] 步骤102,提取所述用户图像中的人脸图像。
[0127] 所述提取所述用户图像中的人脸图像包括:人脸检测和人脸的局部特征点定位。
[0128] 所述人脸检测的目的是为了确定用户图像中人脸所在的位置。具体地,可以提取 预先收集的大量包含人脸的图像中的SIFT(Scale_invariant feature transform,尺度不 变特征变换)特征;根据提取结果训练人脸与非人脸的分类模型;根据所述分类模型对用 户图像进行人脸检测。
[0129] 在确定了用户图像中人脸所在的位置后,对该位置区域进行人脸特征点检测,以 确定人脸的局部特征点(如眼睛、眉毛、鼻子、嘴巴、脸部外轮廓)的位置。具体定位时, 可以通过人脸的纹理特征和各特征点之间的位置约束,例如可以采用ASM (Active Shape Model,点分布模型)或AAM(Active Appreance Model,主动表观模型)算法进行人脸特征 点定位。定位后,可以得到图像中每个人脸的局部特征点位置。
[0130] 需要说明的是,如果用户图像中包含多个人脸,可以选择其中任意一个人脸图像 进行提取。
[0131] 进一步地,如果用户图像中有大面积缺失的人脸,可以直接去除该人脸。
[0132] 步骤103,获取目标视频。
[0133] 所述目标视频可以由用户提供,也可以由应用系统提供,比如:
[0134] (1)用户自己上传的视频;
[0135] (2)系统从视频库中随机选择的视频;
[0136] (3)应用系统向用户推荐的特定视频;
[0137] (4)用户从应用系统推荐的一组视频中选择的一个视频。
[0138] 需要说明的是,应用系统向用户推荐视频时,可以根据用户的注册信息进行推荐, 也可以根据其它用户信息进行推荐,比如,提取用户图像的图像特征信息,然后根据提取的 图像特征信息从视频库中获取相应的目标视频,对此将在后面详细说明。
[0139] 另外,所述视频可以为电影片段、电视片段、MV与综艺节目等。
[0140] 步骤104,将所述人脸图像替换掉所述目标视频中待匹配人物的人脸,并根据视频 场景的变化动态地调整替换后的人脸图像,得到个性化视频。
[0141] 所述待匹配人物同样可以由用户选定或由应用系统确定,比如,应用系统向用户 提供目标视频,并向用户展示该目标视频中的人物列表,用户选择其中的人物作为待匹配 人物;或者,应用系统向用户提供目标视频,并向用户展示该目标视频中的人物图像,用户 点击该人物图像中的人物作为待匹配人物,应用系统根据用户的选择或点击操作确定待匹 配人物。当然,还可以有其它确定方式,对此本发明实施例不做限定。
[0142] 在进行步骤104时,可以在进行人脸替换的同时根据视频场景的变化动态调整替 换后的人脸图像;也可以在将每一帧图像都进行人脸替换后再对每一帧动态调整替换后的 人脸图像。对此本发明实施例不做限定。下面的实施例是以所述第一种情况进行详细说明 的。
[0143] 在进行人脸替换时,不同于现有技术中对替换后的人脸图像进行简单的拉伸或放 缩以适应目标视频中新的位置的处理,在本发明实施例中,需要根据视频场景的变化动态 调整替换后的人脸图像,比如,对于待匹配人物出现的每一帧图像,将当前帧图像中待匹配 人物的人脸图像与所述待匹配人物的人脸基础图像进行对比,判断当前帧图像中待匹配人 物的人脸图像是否有变化,如果有变化,则根据变化情况调整替换后的图像中的相应人脸 图像,比如,调整替换后人脸的姿态、光照及表情的变化等情况;所述待匹配人物的人脸基 础图像是指待匹配人物的弱表情正脸图像,可以根据待匹配人物的人脸朝向与表情的变化 情况,从目标视频中提取获得,所述人脸朝向与表情变化情况可以根据待匹配人物的人脸 局部特征点定位是否变化进行确定。从而使替换后的
当前第2页1 2 3 4 5 6 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1