基于智能对焦的远程视频方法和电子设备与流程

1.本技术涉及计算机领域，尤其涉及一种基于智能对焦的远程视频方法、装置和电子设备。


背景技术：

2.随着众多视频软件的兴起，人们越来越喜欢用手机这类终端开启远程视频进行交流。
3.然而，目前所有的视频方式都存在一种人们未意识到的缺陷。
4.申请人对现有技术进行分析发现，通常某用户(比如甲)在视频对话时，会注视手机屏幕，聚焦到对方乙的脸部，从而观察对方的表情，或者注视着乙的眼睛。
5.这本身没什么问题，但是，对于乙来说，甲并未与乙对视，这是因为，甲的目光并非在摄像头上，而只有甲将目光移到摄像头上时，才能与乙对视，但是这样甲就看不到乙的表情。
6.因此，需要提供一种新的方法，以提高视频互动的真实性。


技术实现要素：

7.本说明书实施例提供一种基于智能对焦的远程视频方法、装置和电子设备，用以提高视频互动的真实性。
8.本说明书实施例提供一种基于智能对焦的远程视频方法，包括：
9.通过具有摄像头和显示装置的第一终端和第二终端开启远程视频任务，通过第一终端采集第一用户的第一视频流，所述第一视频流中具有多个第一图像，通过第二终端采集第二用户的第二视频流，所述第二视频流中具有多个第二图像；
10.获取所述第一用户聚焦到第一终端摄像头与第二用户正视时的标准图像，确定所述标准图像中面部仰角、第一用户的眼球在眼眶中的位置；
11.根据第一图像中面部仰角、第一用户的眼球在眼眶中的位置确定第一用户目光在第一终端屏幕上的聚焦点位置，根据第一终端的显示装置当前显示的第二图像和所述聚焦点位置确定所述第一用户的聚焦对象；
12.根据所述标准图像中面部仰角、第一用户的眼球在眼眶中的位置和所述聚焦对象对第一图像设置训练标签；
13.结合第一图像的训练样本和所述训练标签构建并训练焦点修正模型；
14.采集当前的第一视频流，输入到所述焦点修正模型中，所述焦点修正模型对所述第一视频流中的面部仰角、第一用户的眼球在眼眶中的位置进行转换，得到转换后的第一视频流；
15.将转换后的第一视频流发送至第二终端并在第二终端的显示装置上显示。
16.可选地，还包括：
17.获取第二终端的摄像头与显示装置的相对位置信息，根据其与第一终端的摄像头
与显示装置的相对位置的差异，调整定睛模型的模型参数，下发至第二终端中进行安装。
18.可选地，还包括：
19.在第二终端存储第一用户的肖像特征；
20.第一终端提取第一视频流中的表情特征并对第一视频流中的肖像特征进行脱敏，得到第一脱敏视频流；
21.所述将转换后的第一视频流发送至第二终端，包括：
22.通过焦点修正模型将第一脱敏视频流进行转换后，将提取出的表情特征和转换后的第一脱敏视频流发送至第二终端；
23.所述在第二终端的显示装置上显示，包括：
24.第二终端结合本地存储的第一用户的肖像特征、所述表情特征和转换后的第一脱敏视频流合成具有表情特征的视频流，并在显示装置上显示。
25.可选地，还包括：
26.第一终端对第一视频流中的肖像特征进行哈希处理生成肖像摘要信息，发送至第二终端；
27.所述第二终端结合本地存储的第一用户的肖像特征、所述表情特征和转换后的第一脱敏视频流合成具有表情特征的视频流，包括：
28.第二终端根据第一终端发送的肖像摘要信息查询并从本地调用对应的肖像特征；
29.结合所述肖像特征、所述表情特征和转换后的第一脱敏视频流合成具有表情特征的视频流。
30.可选地，所述第一终端还利用所述肖像摘要信息中的私钥对所述第一视频流进行加签；
31.所述第二终端从区块链获取所述第一用户的公钥，对所述加签的第一视频流进行解签，并与未加签的第一视频流对比，对比验证通过后将第二视频流发送至第一终端。
32.可选地，所述焦点修正模型部署于第一终端中。
33.可选地，所述第一用户为斜视障碍用户，所述根据第一终端的显示装置当前显示的第二图像和所述聚焦点位置确定所述第一用户的聚焦对象，包括：
34.获取第一用户的反馈信息，结合第一用户的反馈、第一终端的显示装置当前显示的第二图像和所述聚焦点位置确定所述第一用户的聚焦对象。
35.可选地述获取第一用户的反馈信息，包括：
36.将第二图像划分成多个子区域，按照顺序依次对子区域进行画面变换，并实时监测第一用户眼眶的变化，当第一用户眼眶和眼球产生变化满足预设条件时，确定此时画面反转的区域，判定作为聚焦点位置。
37.本说明书实施例还提供一种电子设备，其中，该电子设备包括：
38.处理器；以及，
39.存储计算机可执行指令的存储器，所述可执行指令在被执行时使所述处理器执行上述任一项方法。
40.本说明书实施例还提供一种计算机可读存储介质，其中，所述计算机可读存储介质存储一个或多个程序，所述一个或多个程序当被处理器执行时，实现上述任一项方法。
41.本说明书实施例提供的各种技术方案通过获取第一用户聚焦到第一终端摄像头
与第二用户正视时的标准图像，确定面部仰角、第一用户的眼球在眼眶中的位置，根据其在第一终端屏幕上的聚焦点位置，根据第二图像和聚焦点位置确定聚焦对象，根据标准图像中面部仰角、第一用户的眼球在眼眶中的位置和所述聚焦对象对第一图像设置训练标签，训练焦点修正模型，采集当前的第一视频流，输入到焦点修正模型中，焦点修正模型对所述第一视频流中的面部仰角、第一用户的眼球在眼眶中的位置进行转换，得到转换后的第一视频流，将转换后的第一视频流发送至第二终端并在第二终端的显示装置上显示，从而使转换后的视频流能够得到对视效果，提升了体验。
附图说明
42.此处所说明的附图用来提供对本技术的进一步理解，构成本技术的一部分，本技术的示意性实施例及其说明用于解释本技术，并不构成对本技术的不当限定。在附图中：
43.图1为本说明书实施例提供的一种基于智能对焦的远程视频方法的原理示意图；
44.图2为本说明书实施例提供的一种基于智能对焦的远程视频装置的结构示意图；
45.图3为本说明书实施例提供的一种电子设备的结构示意图；
46.图4为本说明书实施例提供的一种计算机可读介质的原理示意图。
具体实施方式
47.现在将参考附图更全面地描述本发明的示例性实施例。然而，示例性实施例能够以多种形式实施，且不应被理解为本发明仅限于在此阐述的实施例。相反，提供这些示例性实施例能够使得本发明更加全面和完整，更加便于将发明构思全面地传达给本领域的技术人员。在图中相同的附图标记表示相同或类似的元件、组件或部分，因而将省略对它们的重复描述。
48.在符合本发明的技术构思的前提下，在某个特定的实施例中描述的特征、结构、特性或其他细节不排除可以以合适的方式结合在一个或更多其他的实施例中。
49.在对于具体实施例的描述中，本发明描述的特征、结构、特性或其他细节是为了使本领域的技术人员对实施例进行充分理解。但是，并不排除本领域技术人员可以实践本发明的技术方案而没有特定特征、结构、特性或其他细节的一个或更多。
50.附图中所示的流程图仅是示例性说明，不是必须包括所有的内容和操作/步骤，也不是必须按所描述的顺序执行。例如，有的操作/步骤还可以分解，而有的操作/步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际情况改变。
51.附图中所示的方框图仅仅是功能实体，不一定必须与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
52.术语“和/或”或者“及/或”包括相关联的列出项目中的任一个或多者的所有组合。
53.图1为本说明书实施例提供的一种基于智能对焦的远程视频方法的原理示意图，该方法可以包括：
54.s101：通过具有摄像头和显示装置的第一终端和第二终端开启远程视频任务，通过第一终端采集第一用户的第一视频流，所述第一视频流中具有多个第一图像，通过第二终端采集第二用户的第二视频流，所述第二视频流中具有多个第二图像；
55.s102：获取所述第一用户聚焦到第一终端摄像头与第二用户正视时的标准图像，确定所述标准图像中面部仰角、第一用户的眼球在眼眶中的位置；
56.s103：根据第一图像中面部仰角、第一用户的眼球在眼眶中的位置确定第一用户目光在第一终端屏幕上的聚焦点位置，根据第一终端的显示装置当前显示的第二图像和所述聚焦点位置确定所述第一用户的聚焦对象；
57.s104：根据所述标准图像中面部仰角、第一用户的眼球在眼眶中的位置和所述聚焦对象对第一图像设置训练标签，结合第一图像的训练样本和所述训练标签构建并训练焦点修正模型；
58.s105：采集当前的第一视频流，输入到所述焦点修正模型中，所述焦点修正模型对所述第一视频流中的面部仰角、第一用户的眼球在眼眶中的位置进行转换，得到转换后的第一视频流；
59.s106：将转换后的第一视频流发送至第二终端并在第二终端的显示装置上显示。
60.该方法通过获取第一用户聚焦到第一终端摄像头与第二用户正视时的标准图像，确定面部仰角、第一用户的眼球在眼眶中的位置，根据其在第一终端屏幕上的聚焦点位置，根据第二图像和聚焦点位置确定聚焦对象，根据标准图像中面部仰角、第一用户的眼球在眼眶中的位置和所述聚焦对象对第一图像设置训练标签，训练焦点修正模型，采集当前的第一视频流，输入到焦点修正模型中，焦点修正模型对所述第一视频流中的面部仰角、第一用户的眼球在眼眶中的位置进行转换，得到转换后的第一视频流，将转换后的第一视频流发送至第二终端并在第二终端的显示装置上显示，从而使转换后的视频流能够得到对视效果，提升了体验。
61.在本说明书实施例中，该方法还可以包括：
62.获取第二终端的摄像头与显示装置的相对位置信息，根据其与第一终端的摄像头与显示装置的相对位置的差异，调整定睛模型的模型参数，下发至第二终端中进行安装。
63.在本说明书实施例中，还包括：
64.在第二终端存储第一用户的肖像特征；
65.第一终端提取第一视频流中的表情特征并对第一视频流中的肖像特征进行脱敏，得到第一脱敏视频流；
66.所述将转换后的第一视频流发送至第二终端，包括：
67.通过焦点修正模型将第一脱敏视频流进行转换后，将提取出的表情特征和转换后的第一脱敏视频流发送至第二终端；
68.所述在第二终端的显示装置上显示，包括：
69.第二终端结合本地存储的第一用户的肖像特征、所述表情特征和转换后的第一脱敏视频流合成具有表情特征的视频流，并在显示装置上显示。
70.这样，无需在网络中传输肖像，只需要传输表情特征，由于表情特征不能还原出肖像，因而有利于个人信息的保护。
71.在本说明书实施例中，可以构建身份识别模型和肖像脱敏模型；
72.利用样本用户图像训练身份识别模型；
73.利用肖像脱敏图像识别所述样本用户图像中的肖像特征并对肖像特征进行调整，利用所述身份识别模型对调整肖像特征后的样本用户图像进行身份预测，若预测出所述样
本用户的身份，则对所述肖像脱敏模型进行调整直至利用所述肖像脱敏模型调整肖像特征后的样本用户图像被身份识别模型识别的准确率低于阈值；
74.利用所述肖像脱敏模型对第一视频流中的图像进行肖像特征的脱敏。
75.在本说明书实施例中，还包括：
76.第一终端对第一视频流中的肖像特征进行哈希处理生成肖像摘要信息，发送至第二终端；
77.所述第二终端结合本地存储的第一用户的肖像特征、所述表情特征和转换后的第一脱敏视频流合成具有表情特征的视频流，包括：
78.第二终端根据第一终端发送的肖像摘要信息查询并从本地调用对应的肖像特征；
79.结合所述肖像特征、所述表情特征和转换后的第一脱敏视频流合成具有表情特征的视频流。
80.在本说明书实施例中，所述第一终端还利用所述肖像摘要信息中的私钥对所述第一视频流进行加签；
81.所述第二终端从区块链获取所述第一用户的公钥，对所述加签的第一视频流进行解签，并与未加签的第一视频流对比，对比验证通过后将第二视频流发送至第一终端。
82.在本说明书实施例中，所述焦点修正模型部署于第一终端中。
83.其中，焦点是目光聚焦的位置。
84.在本说明书实施例中，所述第一用户为斜视障碍用户，所述根据第一终端的显示装置当前显示的第二图像和所述聚焦点位置确定所述第一用户的聚焦对象，包括：
85.获取第一用户的反馈信息，结合第一用户的反馈、第一终端的显示装置当前显示的第二图像和所述聚焦点位置确定所述第一用户的聚焦对象。
86.在本说明书实施例中，所述获取第一用户的反馈信息，包括：
87.将第二图像划分成多个子区域，按照顺序依次对子区域进行画面变换，并实时监测第一用户眼眶的变化，当第一用户眼眶和眼球产生变化满足预设条件时，确定此时画面反转的区域，判定作为聚焦点位置。
88.这里的第一用户的反馈信息是第一用户眼眶的变化满足预设条件时对应的画面反转的区域。
89.这样，可以通过实测，得到真实的斜视状态下的表现，从而得到真实的聚焦对象，训练出更准确的模型。
90.图2为本说明书实施例提供的一种基于智能对焦的远程视频装置的结构示意图，该装置可以包括：
91.视频采集模块201，通过具有摄像头和显示装置的第一终端和第二终端开启远程视频任务，通过第一终端采集第一用户的第一视频流，所述第一视频流中具有多个第一图像，通过第二终端采集第二用户的第二视频流，所述第二视频流中具有多个第二图像；
92.标准图像模块202，获取所述第一用户聚焦到第一终端摄像头与第二用户正视时的标准图像，确定所述标准图像中面部仰角、第一用户的眼球在眼眶中的位置；
93.聚焦对象模块203，根据第一图像中面部仰角、第一用户的眼球在眼眶中的位置确定第一用户目光在第一终端屏幕上的聚焦点位置，根据第一终端的显示装置当前显示的第二图像和所述聚焦点位置确定所述第一用户的聚焦对象；
94.模型训练模块204，根据所述标准图像中面部仰角、第一用户的眼球在眼眶中的位置和所述聚焦对象对第一图像设置训练标签；
95.结合第一图像的训练样本和所述训练标签构建并训练焦点修正模型；
96.焦点转换模块205，采集当前的第一视频流，输入到所述焦点修正模型中，所述焦点修正模型对所述第一视频流中的面部仰角、第一用户的眼球在眼眶中的位置进行转换，得到转换后的第一视频流；
97.显示模块206，将转换后的第一视频流发送至第二终端并在第二终端的显示装置上显示。
98.该装置通过获取第一用户聚焦到第一终端摄像头与第二用户正视时的标准图像，确定面部仰角、第一用户的眼球在眼眶中的位置，根据其在第一终端屏幕上的聚焦点位置，根据第二图像和聚焦点位置确定聚焦对象，根据标准图像中面部仰角、第一用户的眼球在眼眶中的位置和所述聚焦对象对第一图像设置训练标签，训练焦点修正模型，采集当前的第一视频流，输入到焦点修正模型中，焦点修正模型对所述第一视频流中的面部仰角、第一用户的眼球在眼眶中的位置进行转换，得到转换后的第一视频流，将转换后的第一视频流发送至第二终端并在第二终端的显示装置上显示，从而使转换后的视频流能够得到对视效果，提升了体验。
99.基于同一发明构思，本说明书实施例还提供一种电子设备。
100.下面描述本发明的电子设备实施例，该电子设备可以视为对于上述本发明的方法和装置实施例的具体实体实施方式。对于本发明电子设备实施例中描述的细节，应视为对于上述方法或装置实施例的补充；对于在本发明电子设备实施例中未披露的细节，可以参照上述方法或装置实施例来实现。
101.图3为本说明书实施例提供的一种电子设备的结构示意图。下面参照图3来描述根据本发明该实施例的电子设备300。图3显示的电子设备300仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
102.如图3所示，电子设备300以通用计算设备的形式表现。电子设备300的组件可以包括但不限于：至少一个处理单元310、至少一个存储单元320、连接不同系统组件(包括存储单元320和处理单元310)的总线330、显示单元340等。
103.其中，所述存储单元存储有程序代码，所述程序代码可以被所述处理单元310执行，使得所述处理单元310执行本说明书上述处理方法部分中描述的根据本发明各种示例性实施方式的步骤。例如，所述处理单元310可以执行如图1所示的步骤。
104.所述存储单元320可以包括易失性存储单元形式的可读介质，例如随机存取存储单元(ram)3201和/或高速缓存存储单元3202，还可以进一步包括只读存储单元(rom)3203。
105.所述存储单元320还可以包括具有一组(至少一个)程序模块3205的程序/实用工具3204，这样的程序模块3205包括但不限于：操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。
106.总线330可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
107.电子设备300也可以与一个或多个外部设备400(例如键盘、指向设备、蓝牙设备
等)通信，还可与一个或者多个使得用户能与该电子设备300交互的设备通信，和/或与使得该电子设备300能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(i/o)接口350进行。并且，电子设备300还可以通过网络适配器360与一个或者多个网络(例如局域网(lan)，广域网(wan)和/或公共网络，例如因特网)通信。网络适配器360可以通过总线330与电子设备300的其它模块通信。应当明白，尽管图3中未示出，可以结合电子设备300使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、rai d系统、磁带驱动器以及数据备份存储系统等。
108.通过以上的实施方式的描述，本领域的技术人员易于理解，本发明描述的示例性实施例可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本发明实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个计算机可读的存储介质(可以是cd-rom，u盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、或者网络设备等)执行根据本发明的上述方法。当所述计算机程序被一个数据处理设备执行时，使得该计算机可读介质能够实现本发明的上述方法，即：如图1所示的方法。
109.图4为本说明书实施例提供的一种计算机可读介质的原理示意图。
110.实现图1所示方法的计算机程序可以存储于一个或多个计算机可读介质上。计算机可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。
111.所述计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、rf等等，或者上述的任意合适的组合。
112.可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如java、c++等，还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(lan)或广域网(wan)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
113.综上所述，本发明可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理
器或者数字信号处理器(dsp)等通用数据处理设备来实现根据本发明实施例中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如，计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。
114.以上所述的具体实施例，对本发明的目的、技术方案和有益效果进行了进一步详细说明，应理解的是，本发明不与任何特定计算机、虚拟装置或者电子设备固有相关，各种通用装置也可以实现本发明。以上所述仅为本发明的具体实施例而已，并不用于限制本发明，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。
115.本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。
116.以上所述仅为本技术的实施例而已，并不用于限制本技术。对于本领域技术人员来说，本技术可以有各种更改和变化。凡在本技术的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本技术的权利要求范围之内。