基于AR技术的电视节目实时换脸方法与流程

文档序号:14447996阅读:2572来源:国知局

本发明涉及换脸技术,特别涉及一种基于ar技术的电视节目实时换脸技术。



背景技术:

在观看电视节目的同时,如果能互动式的将电视节目中的角色换成自己、自己的亲朋好友、明星人物或动漫角色,并可保留和分享换脸后的精彩时刻,无疑会增加观看电视节目的娱乐效果和观众的代入感,同时又可以增加电视的交互性和可玩性。现有技术对图片或视频进行换脸都是基于已有的图片或视频,无法在电视节目直播中进行实时跟踪换脸,并且目前在电视上应用换脸技术的方法,需要增加额外的硬件设备,比如副显示屏,以致成本增加。



技术实现要素:

本发明所要解决的技术问题是:在不增加电视硬件设备的前提下,实现对电视节目的实时跟踪换脸,并且增设换脸视频保存、回放、分享和附加趣味性人脸属性功能。

为解决上述技术问题,本发明采用的技术方案是:基于ar技术的电视节目实时换脸方法,包括以下步骤:

步骤1、触发换脸命令;

步骤2、在当前播放的电视节目中检测主要人脸,对从当前帧开始的连续5-10帧图像进行人脸检测;

步骤3、判断是否检测到主要人脸,若检测到则进行下一步骤,否则返回步骤1;

步骤4、将检测到的主要人脸反馈给用户,用户进行选择,保存选择的主要人脸作为待换脸,并清空对比人脸库;

步骤5、从替换脸库中选择替换脸;

步骤6、对当前播放的电视节目实时跟踪检测并换脸;

步骤7、触发停止换脸命令,电视继续播放原始电视节目。

进一步的,步骤2包括以下步骤:

步骤201、对比人脸库用于存放检测到的主要人脸,检测开始,对比人脸库清空;

步骤202、后台图像处理系统开始逐帧检测人脸,检测到第一张人脸图像时,如果当前人脸图像尺寸小于阀值一,则丢弃,否则赋予当前人脸一个唯一的标识符作为人脸id,并存入对比人脸库中;

步骤203、检测到下一张人脸图像,如果当前人脸图像尺寸小于阀值一,则丢弃,否则将当前人脸与对比人脸库中的人脸做相似度计算,如果在对比人脸库中找到一张相同人脸,则基于这张人脸的id数量加一,否则将当前人脸赋予一个新的人脸id,并存入人脸库中;

步骤204、重复步骤203,直到检测完所有帧的图像;

步骤205、计算主要人脸,用每个人脸id的数量除以总人脸数,得到的值若大于阀值二,则此人脸为主要人脸。

进一步的,阀值一采用60×60像素,阀值二采用0.7。

进一步的,步骤6包括以下步骤:

步骤601、对当前播放的电视节目中的每一帧图像进行检测,并对比当前检测出的人脸与待换脸是否为同一人,如果是同一人,则计算并保存当前检测出的人脸的关键属性,如果不是同一人,则直接播放原始帧;

步骤602、计算并保存替换脸的关键属性,将待换脸与替换脸同类型的关键属性一一对应地映射到替换脸中,实时显示在电视屏幕里;

步骤603、重复步骤601和步骤602,直到触发停止换脸命令。

进一步的,关键属性包括人脸轮廓位置、眼睛位置、嘴巴位置、鼻子位置、人脸大小及偏转角度、肤色及亮度和表情参数。

进一步的,在步骤6所述的换脸过程中,用户能够保存视频或截屏,操作完成后,能提供回放、分享到微信好友、分享到qq好友、分享到朋友圈、发送到我的手机和保存到云服务器的操作。

进一步的,在步骤6所述的换脸过程中,用户能启动附加趣味性人脸属性功能,电视以悬浮窗口的形式给出不同的附加属性,用户选择附加属性后,根据步骤602计算出的关键属性调整附加属性,以适应替换脸的关键属性,并将附加属性叠加在替换脸的相应位置上。

进一步的,步骤1中触发换脸命令的方式采用遥控器按键触发、语音触发或通过手机应用软件触发,步骤7中触发停止换脸命令的方式采用遥控器按键触发、语音触发或通过手机应用软件触发。

进一步的,步骤4将检测到的主要人脸反馈给用户的方式包括将检测到的主要人脸以不影响电视节目观看效果的比例显示在电视屏幕边上供用户选择,若采用手机应用软件方式触发换脸命令,所述反馈方式还包括将主要人脸通过手机应用软件显示出来供用户选择。

进一步的,步骤5的替换脸库中包括明星人物、动漫角色和用户自定义的人脸图像,用户自定义的人脸图像采用蓝牙、电视自带摄像头或手机应用软件上传至替换脸库中。

本发明的有益效果是:实现了对电视节目的实时跟踪换脸,并且不需要增加硬件设备,节约成本,同时还具有分享、保存和附加趣味性人脸属性等功能,大大提升了观看电视节目的趣味性。本发明特别适用于对直播中的视频进行实时跟踪换脸。

附图说明

图1是本发明的程序流程图。

具体实施方式

下面结合附图和实施例,进一步说明本发明的技术方案。

如图1所示,本发明的技术方案是:基于ar技术的电视节目实时换脸方法,包括以下步骤:

步骤1、触发换脸命令;

步骤2、在当前播放的电视节目中检测主要人脸,对从当前帧开始的连续5-10帧图像进行人脸检测;

步骤3、判断是否检测到主要人脸,若检测到则进行下一步骤,否则返回步骤1;

步骤4、将检测到的主要人脸反馈给用户,用户进行选择,保存选择的主要人脸作为待换脸,并清空对比人脸库;

步骤5、从替换脸库中选择替换脸;

步骤6、对当前播放的电视节目实时跟踪检测并换脸;

步骤7、触发停止换脸命令,电视继续播放原始电视节目。

实施例

本例中的基于ar技术的电视节目实时换脸方法,包括以下步骤:

步骤1、触发换脸命令;

步骤2、在当前播放的电视节目中检测主要人脸,对从当前帧开始的连续5-10帧图像进行人脸检测;

步骤3、判断是否检测到主要人脸,若检测到则进行下一步骤,否则返回步骤1;

步骤4、将检测到的主要人脸反馈给用户,用户进行选择,保存选择的主要人脸作为待换脸,并清空对比人脸库;

步骤5、从替换脸库中选择替换脸;

步骤6、对当前播放的电视节目实时跟踪检测并换脸;

步骤7、触发停止换脸命令,电视继续播放原始电视节目。

其中,步骤2包括以下步骤:

步骤201、对比人脸库用于存放检测到的主要人脸,检测开始,对比人脸库清空;

步骤202、后台图像处理系统开始逐帧检测人脸,检测到第一张人脸图像时,如果当前人脸图像尺寸小于阀值一,则丢弃,否则赋予当前人脸一个唯一的标识符作为人脸id,并存入对比人脸库中;

步骤203、检测到下一张人脸图像,如果当前人脸图像尺寸小于阀值一,则丢弃,否则将当前人脸与对比人脸库中的人脸做相似度计算,如果在对比人脸库中找到一张相同人脸,则基于这张人脸的id数量加一,否则将当前人脸赋予一个新的人脸id,并存入人脸库中;

步骤204、重复步骤203,直到检测完所有帧的图像;

步骤205、计算主要人脸,用每个人脸id的数量除以总人脸数,得到的值若大于阀值二,则此人脸为主要人脸。

阀值一采用60×60像素,阀值二采用0.7。

步骤6包括以下步骤:

步骤601、对当前播放的电视节目中的每一帧图像进行检测,并对比当前检测出的人脸与待换脸是否为同一人,如果是同一人,则计算并保存当前检测出的人脸的关键属性,如果不是同一人,则直接播放原始帧;

步骤602、计算并保存替换脸的关键属性,将待换脸与替换脸同类型的关键属性一一对应地映射到替换脸中,实时显示在电视屏幕里;

步骤603、重复步骤601和步骤602,直到触发停止换脸命令。

关键属性包括人脸轮廓位置、眼睛位置、嘴巴位置、鼻子位置、人脸大小及偏转角度、肤色及亮度和表情参数。在步骤6所述的换脸过程中,用户能够保存视频或截屏,操作完成后,能提供回放、分享到微信好友、分享到qq好友、分享到朋友圈、发送到我的手机和保存到云服务器的操作。在步骤6所述的换脸过程中,用户能启动附加趣味性人脸属性功能,电视以悬浮窗口的形式给出不同的附加属性,用户选择附加属性后,根据步骤602计算出的关键属性调整附加属性,以适应替换脸的关键属性,并将附加属性叠加在替换脸的相应位置上。步骤1中触发换脸命令的方式采用遥控器按键触发、语音触发或通过手机应用软件触发,步骤7中触发停止换脸命令的方式采用遥控器按键触发、语音触发或通过手机应用软件触发。步骤4将检测到的主要人脸反馈给用户的方式包括将检测到的主要人脸以不影响电视节目观看效果的比例显示在电视屏幕边上供用户选择,若采用手机应用软件方式触发换脸命令,所述反馈方式还包括将主要人脸通过手机应用软件显示出来供用户选择。步骤5的替换脸库中包括明星人物、动漫角色和用户自定义的人脸图像,用户自定义的人脸图像采用蓝牙、电视自带摄像头或手机应用软件上传至替换脸库中。

具体举例为:采用手机应用软件进行触发,检测主要人脸时检测连续10帧图像,阀值一采用60×60像素,阀值二采用0.7。

使用时,用户在手机应用软件中点击开始换脸按钮,电视在接收到换脸命令后,清空对比人脸库,接着后台图像处理系统从当前帧开始逐帧检测人脸,当检测到第一张人脸图像时,如果当前人脸图像尺寸小于60×60像素,则丢弃,否则赋予当前人脸一个唯一的标识符作为人脸id,并存入对比人脸库中;然后检测到下一张人脸图像,如果当前人脸图像尺寸小于60×60像素,则丢弃,否则将当前人脸与对比人脸库中的人脸做相似度计算,如果在对比人脸库中找到一张相同人脸,则基于这张人脸的id数量加一,否则将当前人脸赋予一个新的人脸id,并存入人脸库中,如此重复检测直到检测完10帧的图像,然后计算主要人脸,用每个人脸id的数量除以总人脸数,得到的值若大于0.7,则认为此人脸为主要人脸。上述过程检测到存在主要人脸后,通过手机应用软件将主要人脸显示出来供用户选择,并将用户选择的主要人脸作为待换脸保存,然后清空对比人脸库。接着用户继续通过手机应用软件选择替换脸,可以将手机内自己的照片上传至替换脸库中作为替换脸。选择完毕后,图像处理系统对当前播放的电视节目中的每一帧图像进行检测,并对比当前检测出的人脸与待换脸是否为同一人,如果不是同一人,则直接播放原始帧,如果是同一人,则计算并保存当前检测出的人脸的轮廓位置、眼睛位置、嘴巴位置、鼻子位置、人脸大小及偏转角度、肤色及亮度和表情等参数,然后再计算并保存替换脸的轮廓位置、眼睛位置、嘴巴位置、鼻子位置、人脸大小及偏转角度、肤色及亮度和表情等参数,将待换脸与替换脸同类型的参数一一对应地映射到替换脸中,并实时显示在电视屏幕里,不断重复上述步骤,直到用户在手机应用软件中点击停止换脸按钮。在对电视节目实时跟踪换脸的过程中,用户还可以随时保存视频或截屏,操作完成后,还能进行回放、分享到微信好友、分享到qq好友、分享到朋友圈、发送到我的手机和保存到云服务器等操作。在对电视节目实时跟踪换脸的过程中,用户还可以通过手机应用软件启动附加趣味性人脸属性功能,电视以悬浮窗口的形式给出不同的附加属性,用户通过手机应用软件选择附加属性后,系统根据替换脸的轮廓位置、眼睛位置、嘴巴位置、鼻子位置、人脸大小及偏转角度、肤色及亮度和表情等参数调整附加属性的参数,再将附加属性叠加在替换脸的相应位置上。上述过程中用户可以随时点击手机应用软件的停止换脸按钮结束换脸,继续播放原始电视节目。本发明的技术方案可以用于现有智能电视机和其他视频或图片播放设备,同样也可以用于其他离线视频换脸场景和图片换脸场景。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1