电子调解的反应游戏的制作方法

背景技术：

1.公开的领域

本申请一般地涉及通信技术，并且更具体地涉及用于使得能够在促进使用者安全和保障的同时使用视频会议或其他数字媒体技术进行游戏娱乐的系统和方法。

2.相关技术的说明

人们乐于玩意志游戏或比赛，比如凝视游戏，在凝视游戏中，两个玩家相互凝视，直到他们中有一个由于眨眼而输掉为止。然而，获胜者的确定通常是有争议的。此外，为了玩此类游戏或比赛，竞争者一般必须身体上相互贴近，既限制了玩的时机，又限制了可获得对手的数量。

随着消费者市场中移动装置激增并且蜂窝和电信基础设施越来越鲁棒，移动应用开发商在开发新的应用时具有更大的灵活性。

技术实现要素：

根据公开的原理，一个或更多个使用者可以参与涉及使用者的情感的计算机识别的基于数字媒体的反应游戏。该游戏可能需要多对或多组参与使用者相互对峙并且尝试使彼此触发落败标准，比如做出面部表情(例如，微笑)或者显出超出可配置的或固定的阈值的运动。可替换地，单个的使用者可以独自玩(例如，通过使用定时器和/或针对计算机对手)。每个使用者可以具有个人电子装置，该电子装置具有集成到该使用者的装置中的或者与该使用者的装置进行通信的一个或更多个感测部件，其中感测部件可以采集传感器数据并且将传感器数据提供给决策引擎，决策引擎也被集成到该使用者的装置中或者与该使用者的装置进行通信。决策引擎可以将传感器数据发送到情感检测引擎，或者可以直接对传感器数据进行分析以确定游戏的使用者或参与者的情感状态。参与者的这些情感状态可以被连续地、周期性地或间歇地对照落败标准进行测试以确定任何落败标准是否被满足。当除了一个以外的所有的参与者已经触发了落败标准时，决策引擎可以向使用者装置指示游戏会话完成并且其余的参与者(例如，尚未触发落败标准的参与者)可以被记录为获胜者并且被作为获胜者呈现。

通信服务器可以被用来启用参与者之间的通信和游戏娱乐。在游戏会话期间，参与者可以通过通信服务器接收彼此的视频流或图像帧以及对应的音频流。参与者可以进一步被允许通过他们的装置选择将呈现给其他使用者的一个或更多个特征(例如，视觉覆盖或音频片段)以引起使得他们的对手触发落败标准的响应。账户管理服务器可以存储与参与者相关联的信息。存储的信息可以包括以下信息的列表：先前玩过的游戏、朋友、游戏中的流通币(例如，代用币)以及其他信息。

使用者行为保护子系统还可以接收参与使用者的装置提供的使用者内容(例如，视频内容和音频内容)并且对该使用者内容进行分析以实时地检测负面内容或行为(例如，通过对先前被标记为负面的对象扫描视频内容)。当负面内容被检测到时，使用者行为保护子系统可以发起安全协议。安全协议可以防止使用者查看、收听或者以其他方式暴露于其他使用者提供的负面内容。在一些实施方案中，安全协议可以包括使视频馈送消隐或禁用、使音频馈送静音和/或使玩家相互断开并且结束游戏会话。如果游戏会话未被结束，则使用者行为保护子系统可以允许重新启用参与者之间的通信(例如，视频馈送)。账户管理服务器可以存储使用者违规的记录(例如，使用者提供负面内容或者要不然未能遵守游戏的规则的次数或频率)。不良记录可以导致一个人的账户临时或永久停止玩反应游戏。

使用者行为保护子系统可以包括存储被使用者、系统管理员加上标记的或者被自动地加上标记的对象的带标记对象数据库，或者与该带标记对象数据库进行通信。带标记对象可以与用于识别内容流中的带标记对象的识别信息一起存储。当使用者行为保护子系统接收数据时，它可以对照带标记对象数据库检查接收的数据。当确定带标记对象存在于接收的数据中时，使用者行为保护子系统可以报告该检测，以使响应动作可以被采取(例如，安全协议)。在一些实施方案中，使用者行为保护子系统还可以对接收的数据进行分析以确保参与者的面部和/或其他对象存在，如果此类对象是游戏的规则所需的话。

附图说明

本公开的特征、方面和实施方案结合附图被描述，在附图中：

图1A示出图示说明用于实现和调解反应游戏的系统的示意图；

图1B示出图示说明可以参与反应游戏的多个装置之间的通信的示意图；

图2示出图示说明与个人电子装置上的被调解的反应游戏相关联的介绍性游戏屏幕的呈现的示意图；

图3示出图示说明与个人电子装置上的被调解的反应游戏相关联的游戏历史的呈现的示意图；

图4示出图示说明与个人电子装置上的被调解的反应游戏相关联的排行榜的呈现的示意图；

图5示出图示说明与个人电子装置上的被调解的反应游戏相关联的朋友列表的呈现的示意图；

图6示出图示说明被调解的反应游戏的会话期间的个人电子装置上的呈现的示意图；

图7示出图示说明在安全协议已经被执行之后在个人电子装置上可以发生的呈现的示意图；

图8示出图示说明用于参与被调解的反应游戏的示例性过程的流程图；

图9示出图示说明用于进行被调解的反应游戏的示例性过程的流程图；以及

图10示出图示说明用于提供被调解的反应游戏中的使用者安全的示例性过程的流程图。

这些示例性附图和实施方案提供本申请中的任何权利要求所陈述的主题的书面的详细描述。这些示例性附图和实施方案不应被用来限制任何此类权利要求的范围。

此外，尽管为方便起见，共用的标号可以被用来指代类似的结构，各种示例实施方案中的每个实施方案可以被认为是不同的变化。当共同的数字被使用时，对应部件的描述可以不被重复，因为这些部件的功能在不同实施方案之间可能是相同的或类似的。另外，附图不是按比例绘制的，除非另有明确指示。

具体实施方式

图1A示出图示说明用于实现和调解反应游戏的系统100的示意图。玩反应游戏的一个或更多个使用者均可以具有个人电子装置105，个人电子装置105可以是智能电话、平板、膝上型计算机、台式计算机或可以使得使用者能够与其他使用者进行通信的另一种类型的装置。在一些实施方案中，装置105可以是配备有相机和/或麦克风的游戏机，比如PlayStation、Xbox、Wii、下一代或者其衍生物或另一游戏机。

个人电子装置105可以具有收发器113，收发器113与便利反应游戏的会话的通信服务器180进行通信。个人电子装置105可以进一步包括多个感测部件，这些感测部件可以使得装置105能够收集可能指示情感信息、周围对象的传感器数据或其他上下文信息。在图1A所示的实施方案中，装置105可以具有位置传感器114、相机116、深度传感器117、触觉输入部件120以及麦克风140。该装置可以进一步包括处理器112，处理器112可以接收传感器数据，并且在一些实施方案中，如下面将进一步描述的，使传感器数据传送到装置105外部的实体。一些传感器数据(比如来自相机116的视频流以及来自麦克风140的音频流)可以通过收发器113被发送到通信服务器180，并且被其他装置105的一个或更多个使用者接收(例如，在游戏会话期间)。处理器112可以基于存储在存储器装置122上的指令进行操作。

虽然特定的感测部件在图1A的装置105中被示出，但是要理解，更多的、更少的或不同的感测部件可以被实现来使得能够确定情感信息或其他上下文信息(例如，以便利响应游戏)。例如，来自位置传感器114的信息可以被用来使来自同一个国家或其他类型的地理区域的玩家相互匹配。在一些实施方案中，感测部件中的一个或更多个可以在装置105的外部被实现。

装置105可以进一步包括用于在反应游戏期间向装置105的使用者提供信息和反馈的输出部件，比如显示器118和扬声器119。显示器118和/或扬声器119可以另外地或可替换地在外部连接到装置105。在一些实施方案中，显示器118可以与触觉输入部件120紧密集成，触觉输入部件120可以被实现为触摸屏传感器阵列。在其他实施方案中，触觉输入部件120可以是独立的输入部件，比如键盘和/或鼠标(例如，当装置105是台式计算机时)。

装置105可以通过连接135与决策引擎110进行通信，决策引擎110可以接收传感器数据以确定或使得能够确定使用者已经输掉了反应游戏或者带标记对象存在。在一些实施方案中，决策引擎110可以由后端服务器提供，连接135可以通过互联网来实现。当位于后端服务器上时，决策引擎110可以并行地为许多装置105服务。此外，决策引擎110可以在同一个游戏会话中为多个装置105服务，由此使确定获胜者和/或带标记对象所需的处理集中化并且避免该处理的重复。一般来说，传感器数据可以通过连接135从一个或更多个装置105被发送到决策引擎110，并且决策引擎110可以将结局确定、黑屏指令以及其他控制信息返回给所述一个或更多个装置105。

在其他实施方案中，连接135可以是直接有线或无线连接，并且决策引擎110可以与装置105搭配。在还有的其他的实施方案中，决策引擎110可以被完全集成到装置105中，这可以减少从装置105发送的数据量，并且可以减小与提供结局确定和/或黑屏指令相关联的延时。

决策引擎110可以包括根据存储器装置132提供的指令进行操作的处理器130。处理器130可以使得决策引擎110能够分析、收集和/或合成来自装置105的传感器数据以确定何时使用者赢得游戏或者何时传感器数据包括带标记对象。

决策引擎110可以将其处理中的一些卸载到其他专门的实体以帮助做出这些确定。例如，决策引擎110可以具有外部接口138，外部接口138使得决策引擎110能够与外部硬件或服务(比如情感检测引擎160)进行通信。情感检测引擎160可以对来自一个或更多个游戏参与者的使用者装置105上的相机116的视频流和/或麦克风140的音频流进行分析以提供关于参与者的感知的情感的反馈。这些情感可以包括快乐、兴奋、厌烦、恐惧、愤怒以及不舒服。视频流可以包括具有与此类情感对应的计算机可识别的面部表情的图像帧。音频数据也可以被用来检测可以协作或补充从视频数据推导的情感信息的音高或音高变化。检测到的环境噪声可以被用来提供进一步的上下文线索。

情感检测引擎160还可以为它提供给决策引擎110的情感信息(例如，使用者正在感受到已知情感的确定)和/或使用者感受到某个情感所达到的感知程度提供置信度。该附加信息使得决策引擎110可以更好地确定游戏参与者何时满足落败标准中的任何一个。在一些实施方案中，情感检测引擎160可以被完全集成到决策引擎110中，以使外部接口138至少对于检测情感来说不是必需的。在一些实施方案中，外部接口138可以是使得决策引擎110能够与情感检测引擎160交换信息的应用程序接口(API)。

决策引擎110可以可替换地或另外地使用外部接口138来与使用者行为保护子系统190进行通信，使用者行为保护子系统190可以对传感器数据进行分析以确定使用者违规(例如，未能遵守游戏进行的预定义规则和/或准则)。使用者行为保护子系统190可以包括处理器136、收发器137、存储器装置133以及带标记对象数据库134。收发器137可以接收传感器数据，比如与进行中的反应游戏相关联的视频流和/或音频流。处理器136可以基于存储在存储器装置133上的指令来搜索接收的传感器数据，以确定使用者是否遵守与游戏相关联的规则。如果规则被违反，则如下面将进一步描述的，使用者行为保护子系统190可以发起安全协议。

为了帮助监视和违规检测，使用者行为保护子系统190可以使用带标记对象数据库134，带标记对象数据库134可以存储可能出现在传感器数据中的数字签名或指纹。带标记对象数据库134可以最初被系统管理员填充，系统管理员抢占地给不适当的对象、被游戏娱乐规则禁止的对象(例如，可以防止参与者的情感的检测的掩模)或者值得跟踪的对象加上标记。在一些实施方案中，带标记对象数据库134可以随着时间的过去随使用者和/或系统管理员添加和移除对象而改动。另外地或可替换地，使用者行为保护子系统190可以实现机器学习来识别通常存在的对象以及相关联的已经被报告为具有攻击性的或者要不然未能遵守规则的视频流。也就是说，如果某些对象与被感知为负面的内容或行为具有强相关性，则使用者行为保护子系统190可以自动地给这些对象加上标记以防止类似地负面的内容或行为被使用者在未来的游戏会话中看到。

一个或更多个使用者行为保护子系统190可以使它们的数据库134相互同步。在一些实施方案中，带标记对象数据库134中的对象中的一些或全部可以被高速缓存在装置105的本地数据库124处。这可以使得能够实现更具反应性的系统，在该系统中，在通过其传感器捕捉带标记对象的发送装置105处或者在接收具有带标记对象的视频和/或音频数据的接收装置105处检测到带标记对象之后，安全协议可以被迅速执行。在一些实施方案中，使用者行为保护子系统190可以被完全集成到决策引擎110或装置105中。在一些实施方案中，安全协议也可以在使用者报告另一个使用者的特定违规时被触发。手动提交的报告中所包含的视频流和信息被用来进一步改进安全协议的自动化执行。

决策引擎110可以与其他决策引擎110和/或其他装置105进行通信以使代表多个使用者的大型样本集可以被考虑用于机器学习过程。可替换地，集中式数据库协调处理器(未示出)可以周期性地或任意地将带标记对象发送到多个使用者行为保护子系统190，从而使多个使用者行为保护子系统190的带标记对象数据库134同步。

如以上所讨论的，相机116可以提供可以被判读以检测情感和/或带标记对象的视频数据。该视频数据可以被进一步分析以提供其他类型的上下文线索。例如，该视频数据中的图像帧可以被用来确定参与来自一个装置(例如，装置105)的呼叫的人的数量。在一些实施方案中，反应游戏可以仅允许一个人在每个装置处被检测，由此多个人的检测可以使一方接收到警告或者自动地丧失游戏会话。

时钟和定时器也可以提供有价值的数据供决策引擎110分析。例如，如果参与者在对于游戏会话容许的最大时间段之后均未表现出与将结束会话的落败标准相关联的情感，则决策引擎110可以以平局结束游戏会话。

在一些实施方案中，账户管理服务器182可以存储细节，并且为被调解的响应游戏的每个参与者或玩家维护账户。账户管理服务器182可以与通信服务器180进行通信，通信服务器180便利玩家的装置105之间的游戏会话。当玩家的对手被确定已经显示情感响应或面部表情(例如，微笑)或者以其他方式满足落败标准时，玩家的账户可以被记奖。奖励的点数(例如，游戏中的代用币)的数量可以至少部分取决于游戏的经过的持续时间和/或面部表情和情感响应的程度。例如，玩家可以针对更短的时间接收更多的点数，由此可以由于更快速地引起情感响应或反应而得到奖励。在一些实施方案中，玩家可以花费他们的点数来使用游戏中的特征，比如将呈现在他们的对手的装置105上的幽默的分心内容(例如，视觉覆盖或音频片段)。

在一些实施方案中，决策引擎110在从传感器数据确定不同的上下文线索时可以产生置信评级。如以上所讨论的，外部服务(例如，情感检测引擎160)也可以提供关于它们提供的上下文线索的置信评级。如果参与者或玩家显示情感响应的置信评级和/或感知程度高于落败标准建立的阈值，则决策引擎110可以确定游戏结束。

在决策引擎110被完全集成到装置105中的实施方案中，处理器130可以与处理器112是相同的，以使单个处理器接收传感器数据，确定落败标准何时被满足，并且向装置105的使用者发布关于结果的警报。此外，存储器装置132可以与存储器装置122是相同的，并且可以提供使得处理器能够执行本文中所公开的功能的指令。

在一些实施方案中，使用者行为保护子系统190可以被集成到通信服务器中，以使它可以在运送中的可能具有攻击性的内容到达意图接收该可能具有攻击性的内容的接收装置105之前阻挡该内容。在一些实施方案中，使用者行为保护子系统190可以被集成到装置105中。在这些实施方案中，单个处理器112和/或单个存储器122可以被用于装置105和使用者行为保护子系统170这二者。此外，带标记对象数据库134可以与带标记对象数据库124是相同的，并且可以存储从装置105上的传感器检测到的带标记对象或者来自通信服务器180的信号(例如，视频流和/或音频流)上的带标记对象。决策引擎110由此对于执行安全协议而言是可以被绕开的，但是仍可以被用于情感检测以及确定落败标准何时被满足。

图1B示出图示说明可以参与反应游戏的多个装置105之间的通信的示意图。通信服务器180可以使得一组装置105-1至105-N能够参与被调解的反应游戏或者以其他方式如装置105的使用者期望的那样相互通信。通信服务器180可以被实现为可以通过互联网为区域性或者甚至全球客户群服务的基于云的服务器180。例如，通信服务器180可以在装置105之间提供基于视频会议的游戏，其中装置105可以是相互类似的或相异的。例如，一些装置105可以是台式计算机或固定的游戏机，并且可以与其他装置105一起参加游戏会话，所述其他装置105是平板、膝上型计算机、移动游戏机或移动电话。

账户管理服务器182可以存储关于与每个装置105或装置105的使用者相关联的使用者账户的信息。存储的信息可以包括以下信息的列表：过去的游戏、朋友、游戏中的流通币(例如，代用币)、每个使用者的违规的历史(例如，每当安全协议被发起时被存储)以及其他信息。

在一些实施方案中，游戏会话可以具有多于两个的使用者，这些使用者具有同时参与的装置105。在此类实施方案中，与装置105相关联的一个或更多个决策引擎可以确定装置105的使用者何时显示满足落败标准的情感响应或反应。在一些实施方案中，每当参与者或玩家显示此类响应时，它们可能输掉游戏会话，但是游戏会话可以继续进行，直到单个参与者留下(例如，由于未触发落败标准)或者游戏定时器到时为止。已经在游戏会话内落败的参与者可以选择观看，直到游戏会话结束或者他们可能被提示断开并且加入另一个游戏会话为止。

在一些实施方案中，装置105可以以分散式且对等的方式相互连接，以使通信服务器108不被使用。

图2示出图示说明与个人电子装置上的被调解的反应游戏相关联的介绍性游戏屏幕的呈现200的示意图。呈现200可以具有：特征按钮210，其可以被用来导航到其他特征屏幕；代用币按钮220，其检查玩家的当前代用币余额或者使用真实世界的流通币购买另外的代用币；第一游戏娱乐按钮230，其与现有的朋友发起游戏；以及第二游戏娱乐按钮240，来针对与玩家匹配的对手玩游戏。如果第二游戏娱乐按钮240被选择，则匹配的对手与玩家可能不具有现已存在的关系，由此可能是陌生人。考虑到与陌生人交互相关联的不确定性，所公开的使用者行为保护可以导致更加一致地愉悦的游戏娱乐体验。

图3示出图示说明与个人电子装置上的被调解的反应游戏相关联的游戏历史的呈现300的示意图。该呈现可以包括代表玩家以前参与的游戏会话的入口310的名册。每个入口可以具有对手的名称、被选来代表对手的图标、游戏会话发生的日期以及游戏会话的结局。呈现300还可以包括搜索栏320，在搜索栏320中，使用者可以按照对手名称、日期或其他搜索标准遍历他们自己的游戏历史来进行搜索。如上所述，游戏历史数据可以被存储在账户管理服务器处。

图4示出图示说明与个人电子装置上的被调解的反应游戏相关联的排行榜的呈现400的示意图。呈现400可以包括通过特定玩家的获胜、败落和平局示出该玩家的成绩的曲线图或其他显示图像410。呈现400还可以包括累积得分指示420、玩家的朋友之间的相对排名320以及得分领先者和他们的对应得分的排行榜条目440。呈现400还可以包括第一按钮450和第二按钮460，第一按钮450限制排行榜条目440仅选自于玩家的朋友，第二按钮460查看整个排行榜，其中条目440选自反应游戏的所有玩家。

图5示出与个人电子装置上的被调解的反应游戏相关联的朋友列表的呈现500的示意图。玩家可以通过选择“关注”朋友来将朋友添加到他们的朋友列表。每个被关注的朋友可以具有在呈现500中示出的入口510，其中入口510可以包括朋友的名称和图标以及“取消关注”或移除朋友的按钮512。在一些实施方案中，过去的对手可以被自动地添加到玩家的朋友列表。玩家可以使用过滤器栏520对他们的朋友列表进行过滤来更容易地找到特定的个体(例如，通过使用账户管理服务器存储的这些个体的账户名称)。如果玩家在游戏内尚未选择关注任何朋友，则呈现500可以具有用作占位符的用于添加朋友的指令消息。

呈现500可以具有列出玩家目前关注的朋友的“关注”按钮530，该按钮在图5中被描绘为被选择以示出条目510。呈现500还可以具有链接到玩家的社交网络的一个或更多个社交网络按钮540、链接到玩家的个人电子装置内的联系人(例如，移动电话联系人列表)的联系人按钮550、以及搜索玩家尚未关注的反应游戏社区内的使用者的搜索按钮560。

一般来说，按钮540、550和560可以允许玩家关注和/或挑战玩家的网络内或外的其他人。还未安装游戏的被挑战的玩家可以(例如，经由电子邮件或文本消息)接收具有链接的消息以及用于下载游戏的指令。

图6示出图示说明在被调解的反应游戏的会话期间个人电子装置上的呈现600的示意图。使用者可以通过安装在使用者的装置中的至少一个上的应用来挑战另一个使用者。当游戏会话被建立时，参与者可以通过他们各自的装置的接口来相互查看和收听。对手的视频流可以在主要窗口610中被呈现给其他参与者，参与者的视频流可以在次要窗口620中被呈现给他们自己。在一些实施方案中，显示对手的主要窗口610可以比显示参与者自己的次要窗口620更突出地显示(例如，居中和/或更大)。虽然图6示出了提供给一个参与者的呈现600，但是类似的呈现可以被呈现给另一个参与者(或群组对话中的参与者)。例如，每个参与者可以在主要窗口(一个或更多个)(例如，窗口610)中查看他们的对手(一个或更多个)，并且可以在更小的窗口(例如，窗口620)中查看他们自己。如果更多使用者和装置参与对话，则更多窗口可以被呈现。定时器640可以指示进行中的游戏会话的进展。如果定时器640到时，则游戏会话可以被宣布在剩下的玩家之间为平局。

与游戏参与者的装置中的一个或更多个相关联的决策引擎可以监视窗口610和620中呈现的视频信号以及与参与者的装置相关联的其他传感器。决策引擎可以确定参与者是否以及何时表现出情感响应(例如，微笑)以触发落败标准。如上面关于图1A所描述的，决策引擎对获胜者和落败者的确定可以由情感检测引擎辅助，情感检测引擎还接收视频信号，并且向决策引擎提供检测到的情感的实时指示。当参与者提供此类响应时，游戏会话内的所有参与者可以被警告显示该响应的参与者已经输掉了游戏。如果游戏具有多于两个的参与者，则它可以继续进行，直到一个参与者留下(例如，由于未表现出情感响应)。

在游戏会话期间，参与者可以尝试通过使用被构建到游戏中的特征来相互刺激以表现出情感响应。例如，参与者可以选择视觉覆盖(例如，数字贴纸或动画)、音频片段或来自可以被呈现给他们的对手的可选特征窗口630的其他特征。其他类型的特征包括跟踪参与者的运动的数字服装和化身。在一些实施方案中，这些特征可以使用游戏中的流通币(例如，代用币)购买，游戏中的流通币可以通过赢得或者仅参与游戏而挣得。在一些实施方案中，游戏中的流通币可以另外地或可替换地使用真实世界的流通币购买。

如果参与者想要使用不是立即呈现在可选特征窗口630中的另一个特征，则参与者可以做出接收附加内容的示意动作。例如，参与者可以使用触觉反馈部件(比如，触摸屏或鼠标)来向侧面拖动窗口630，这可以促使附加特征“旋转”到可选特征窗口630中或者以其他方式出现在可选特征窗口630中。如果参与者不想使用任何特征，则他们可以执行又一个示意动作(例如，向下拖动窗口630或者选择“隐藏特征”按钮)来使可选特征窗口630消失。

在比如贴纸的特征被一个使用者选择并且被呈现给另一个使用者之后，接收该特征的另一个使用者可以被呈现可以作为对接收的特征的直接或间接响应相关的可选特征集合。因此，可选特征窗口630中呈现的特征可以帮助驱动使用者之间的交互。

可选特征窗口630中的可选特征集合可以基于通过视频数据分析而感知到的上下文被选择用于呈现给参与者。例如，如果参与者从特定位置发起会话，则参与者和/或对手的可选特征窗口630可以提供与参与者的位置相关的特征。在一些实施方案中，可选特征窗口630中建议的特征可以是随机的。在一些实施方案中，使用者还可以尝试通过讲话(例如，讲笑话)以使他们的对手显示情感响应来获胜。

如上所述，一个或更多个使用者行为保护子系统在游戏在进行中时也可以是工作的。如果参与者不遵守游戏的规则(例如，显示一个人的面部)或者显示从他们的视频流识别的带标记对象，则使用者行为保护子系统可以发起安全协议。安全协议可以包括：禁用具有攻击性的视频流，对具有攻击性的视频流的部分进行审查，使参与者相互断开，和/或促进反应游戏系统的安全和适当使用的其他动作。

此外，所公开的原理可以应用于除视频会议之外的许多不同类型的通信。在一些实施方案中，所公开的原理可以应用于音频会议会话。在涉及音频数据的实施方案中，比如语音或背景噪声的音高、声调等的因素可以被分析以辨别情感和其他上下文信息。一些传感器(比如位置传感器)跨不同通信媒体仍可以是相关的且适用的。

呈现给使用者的特征的类型也可以基于选定的通信媒体而变化。例如，如果多个使用者正在基于音频会议的游戏中相互竞争，则使用者可以被呈现可以适用于对话的声音片段或声滤波器。特征可以例如是可以选自专用的辅助窗口的或者选自键区的。此外，某些单词可以被使用者行为保护子系统加上标记以被滤除出对话。较小的延迟可以被引入以使得能够识别和过滤带标记单词。

图7示出图示说明在安全协议已经被执行之后可以出现在个人电子装置上的呈现700的示意图。如果参与者在反应游戏的实例内并且对手的面部被从捕捉的视频流移除或者不在捕捉的视频流内，则参与者可以参看呈现700。在一些实施方案中，定时器710可以加速，并且在游戏会话被结束之前提供有限时间。与被阻挡的反馈相关联的使用者可以自动地丧失游戏并且输掉点数。玩游戏频繁地违例或失败可以导致暂时或永久禁止玩游戏。

在一些实施方案中，如果使用者行为保护子系统在参与者的视频流中检测到带标记对象，则游戏内的其他参与者可以查看呈现700，这阻止具有可能具有攻击性的、不合需要的或者要不然受限制的内容到达参与者。其他安全协议(比如使视频馈送部分模糊、使音频馈送静音以及断开游戏会话)也可以被执行来对不同类型和严重性的攻击做出响应。

虽然图7在反应游戏的上下文下示出了阻挡视频内容的结果，但是基于识别带标记对象自动地禁用或模糊视频馈送的类似技术可以适于许多其他的应用。例如，流传输视频服务的频繁使用者可以创建关于他们在传入的流内不想看到的对象的偏好的列表。该服务可以使用带标记对象数据库和视频识别技术来使传入的具有这些对象的视频流的部分模糊。在一些实施方案中，这些对象可以被选择性地模糊，或者视频流可以被一起禁用。此类特征对于对特定动物或其他对象具有恐惧症的个体可以是非常有用的。类似地，某些品牌标志和书写的文本也可以在视频流内被选择性地阻挡(例如，以避免版权或商标侵权)。

图8示出图示说明用于参与被调解的反应游戏的示例性过程800的流程图。过程800可以由玩游戏的第一参与者的第一装置执行。虽然过程800在下面被描述为具有多个参与者和装置，但是被调解的反应游戏也可以在一个会话内具有一个参与者。关于多个参与者针对彼此玩游戏的实施方案，第一参与者可以直接挑战一个或更多个其他参与者来开始游戏，或者参与者可以在过程800之前被相互匹配。如果玩家被匹配，则匹配过程可以由通信服务器执行，并且可以考虑年龄、性别、位置、游戏历史(例如，获胜/落败比率、所玩的游戏的次数)和/或其他因素。

在动作810，第一装置可以将视频流的图像帧或部分发送到通信服务器，该通信服务器正在便利第一装置和至少游戏内的第二玩家的第二装置之间的游戏会话。这可以是初始视频流部分或后续视频流部分，这取决于游戏最近是否开始。图像帧或视频流部分也可以被发送到决策引擎和/或补充的引擎和子系统(其中每个均可以在第一装置的内部或外部)并且被其分析以确定落败标准是否已经被满足(例如，微笑、眼睛运动、其他面部变化或可检测的情感)以及安全协议是否应被执行。例如，使用者行为保护子系统可以对来自第一装置和第二装置的视频流或单个的图像帧进行分析以确定它们是否包含带标记对象或者它们是否是游戏所需的丢失的对象(例如，第一参与者的面部)。在一些实施方案中，第一装置也可以发送音频数据和/或其他信息。

在动作820，第一装置可以检查它是否(例如，从决策引擎)接收到落败标准已经被满足的指示。来自两个(或所有)参与装置的视频流或图像帧可以被分析(例如，被情感检测引擎分析)以确定玩家是否已经微笑、运动或者显示出超出阈值水平的情感。在一些实施方案中，阈值水平可以通过游戏的许多次重复被优化以使响应性和难度与可玩性平衡。在一些实施方案中，玩家可以在被与对手匹配之前或之后选择难度水平，并且用于特定游戏会话的阈值水平可以基于选定的难度水平被调整。图9和下面的附随描述提供进行游戏本身并且确定落败标准何时被满足的更多细节。如果第一装置接收到落败标准的指示，则过程800可以继续进行到动作830。否则，过程800可以继续进行到动作840。在一些实施方案中，如果游戏定时器到时并且游戏以平局结束，则过程800还可以继续进行到动作830。

在动作830，第一装置可以记录并显示游戏的结果。在具有代用币的一些实施方案中，获胜者可以通过玩游戏获得比落败者(一个或更多个)更多的代用币。此外，所奖励的代用币的数量可以根据落败标准发生所需的时间而减少。这奖励能够有效地在其他玩家中引起情感响应或反应(例如，通过可用贴纸和其他特征的熟练使用)的玩家。在一些实施方案中，游戏的落败者(一个或更多个)可能不赢得任何代用币，或者可能在输掉游戏之后输掉代用币。如果游戏以平局结束，则两个或所有的平局玩家可以接收相等数量的代用币。与通信服务器进行通信的账户管理服务器可以将游戏及其结果记录到两个或所有的玩家的游戏历史。

在动作840，第一装置可以检查它是否从使用者行为保护子系统接收到关于安全协议的指示。图10和下面的附随的描述提供关于安全协议的更多细节，更一般地来说，改进游戏的总体安全性。如果第一装置和/或使用者行为保护子系统确定安全协议将被执行，则过程800可以继续进行到动作850。否则，过程800可以继续进行到动作860。

在动作850，第一装置可以执行安全协议。这可能需要使从第二装置接收的视频流或图像帧消隐，改为显示占位符消息，比如图7所示的占位符消息。安全协议可以根据触发动作的性质而改变。在触发动作较小的一些情况下，安全协议可能需要仅使视频流的一部分模糊或者使音频静音，过程800可以继续进行(例如，继续进行到动作860)。在安全协议允许过程800(以及相关联的游戏会话)继续进行的情况下，定时器可以被发起，以使如果发起安全协议的触发动作未被以足够迅速的方式(例如，在5、10或15秒内)补救，则游戏会话可以被早早结束。相反，在触发动作较大和/或重复违例的情况下，安全协议可能需要基本上立即使使用者相互断开并且结束游戏会话。在一些实施方案中，具有攻击性的视频流可以可替换地在通信服务器或者甚至发送装置处被捕捉和/或改变，以使可能具有攻击性的内容被防止到达第一装置。

在动作860，第一装置可以接收第二玩家的视频流的图像帧或部分并且向第一玩家显示该图像帧或部分。这可以是初始视频流部分或后续视频流部分，这取决于游戏最近是否开始。如果第一装置被用来针对落败条件和/或安全相关决策对该数据进行分析，则在接收该数据和显示该数据之间可能存在延迟。所述过程然后可以继续进行到动作810，在动作810，来自第一装置的视频流或图像帧的下一个部分被发送和/或分析。在一些实施方案中，第一装置还可以接收音频数据和/或其他信息。

过程800中所描述的动作可以由第一装置根据存储在非易失性的机器可读介质上的指令执行。此外，过程800中所描述的动作可能不一定按呈现的次序发生。例如，第一装置可以具有一个多线程处理器或多个同时运行的子系统，所述一个多线程处理器或多个同时运行的子系统以同时的方式并且与视频流的接收、呈现和发送并行地连续地检查安全协议和落败标准的指示。在一些实施方案中，更多的、更少的或不同的动作可以由参与反应游戏的装置执行。例如，在单个参与者玩游戏(例如，通过使用定时器和/或针对人造的计算机产生的对手)的实施方案中，与安全协议相关的动作840和850可以被绕过。

图9示出图示说明用于进行被调解的反应游戏的示例性过程900的流程图。过程900可以由决策引擎执行，决策引擎可以在使用者的个人电子装置的外部或者被与使用者的个人电子装置集成。

在动作910，决策引擎可以从涉及游戏会话的玩家(一个或更多个)的装置接收传感器数据。如上面关于图1A所描述的，该传感器数据可以从与游戏会话内的一个或更多个装置相关联的众多个传感器(比如麦克风、相机、位置传感器以及触觉输入部件)提供。在一些实施方案中，每个装置可以具有从该装置接收传感器输入并且对这些传感器输入进行处理的专用决策引擎。在一些实施方案中，决策引擎可以被设于后端服务器处，和/或被集成到支持对于游戏会话的视频发送的通信服务器中，并且决策引擎可以对来自涉及游戏会话的所有装置的传感器输入(例如，发送的视频流)进行处理。

在动作920，决策引擎可以对传感器数据进行处理以确定游戏内的玩家(一个或更多个)的情感。在一些实施方案中，该处理可以包括决策引擎通过外部接口将传感器数据提供给情感检测引擎。情感检测引擎可以返回关于检测到的面部表情和情感的信息，该信息可以包括置信评级和/或感知强度。

在动作930，决策引擎可以确定落败标准是否被满足或者游戏是否已经由于其他原因(例如，定时器到时)结束。在一些实施方案中，决策引擎可以将检测到的面部表情的置信评级和/或感知强度与被禁止的面部表情(例如，微笑)和对应阈值的列表进行比较以确定玩家何时落败。在一些实施方案中，落败标准可以包括玩家缩回(例如，快速地运动他们的面部或身体)超出阈值水平，其中阈值水平可以在游戏之前被建立和/或由选定的难度水平建立。情感或玩家的精神状态的其他感知指示可以被用作确定游戏何时应结束的落败标准。如果决策引擎确定落败标准已经被满足或者游戏已经以其他方式结束，则过程900可以继续进行到动作940。否则，过程900可以返回到动作910，在动作910，决策引擎可以接收新的传感器数据(例如，在下一个时刻或时间段内)。

在动作940，决策引擎可以向涉及游戏的一个或更多个装置提供游戏已经结束、还有哪个(哪些)玩家获胜、落败或者相互平局的通知。当决策引擎由位于远离装置的后端服务器提供时，游戏结果可以通过互联网被发送。如果决策引擎被集成到装置中，则动作940可以仅涉及在该装置上呈现结果和/或将结果发送到其他参与者(一个或更多个)的装置(一个或更多个)。

如以上所讨论的，被调解的反应游戏的会话可以涉及单个玩家。在一些实施方案中，各种特征可以在单玩家游戏会话期间在玩家的装置处被自动地提供以引出玩家响应。如果玩家在游戏定时器建立的一段时间段内始终没有表现出响应，则玩家可以实现胜利。在一些实施方案中，玩家可以被与显示在玩家的装置上并且被编程为对玩家采取的动作做出反应的计算机对手匹配，以便模拟与另一个人类玩游戏。

过程900中所描述的动作可以由决策引擎根据存储在非易失性的机器可读介质上的指令执行。此外，过程900中所描述的动作可能不一定按呈现的次序发生。在一些实施方案中，更多的、更少的或不同的动作可以由参与反应游戏的装置执行。

图10示出图示说明用于提供被调解的反应游戏中的使用者安全的示例性过程1000的流程图。虽然过程1000在下面被一般地描述为由单个使用者行为保护子系统执行，但是多个此类子系统可以被执行来改进游戏会话的安全性。例如，参与游戏会话的每个装置可以具有相关联的使用者行为保护子系统，该使用者行为保护子系统充当对于该装置的保护措施(例如，防止接收的可能具有攻击性的数据被显示)或者对于其他装置的保护措施(例如，防止可能具有攻击性的数据被发送)。使用者行为保护子系统(一个或更多个)可以被集成到参与者的装置中或者与参与者的装置进行通信。在一些实施方案中，使用者行为保护子系统可以被集成到支持对于游戏会话的视频发送的通信服务器中。

在动作1010，使用者行为保护子系统可以从参与游戏会话的一个或更多个装置接收数据。该数据可以包括视频流的图像帧或部分。在一些实施方案中，使用者行为保护子系统还可以从装置接收音频数据和/或其他信息或者接收关于装置的音频数据和/或其他信息。

在动作1020，使用者行为保护子系统可以检查它是否(例如，从与游戏相关联的决策引擎)接收到游戏完成的指示。如果游戏被确定为已经完成，则过程1000可以结束。否则，该过程可以继续进行到动作1030。

在动作1030，使用者行为保护子系统可以在传感器数据中搜索存储在带标记对象数据库中的对象。这些对象可以被被调解的反应游戏的社区加上标记或者被自动地加上标记(例如，基于因为不适合于游戏或者要不然未遵守与游戏相关联的规则而被使用者加上标记的图像帧或视频流的共性)。在一些实施方案中，该搜索可以相对于输入流基本上实时地发生。

在动作1040，使用者行为保护子系统可以确定任何带标记对象是否存在于传感器数据中。如果此类对象被找到，则过程1000可以继续进行到动作1050，在动作1050，安全协议被发起。否则，过程1000可以继续进行到动作1060。

在动作1050，使用者行为保护子系统可以发起安全协议。安全协议可以基于违规的程度和类型来决定变化的一组进程中的任何一个进程。例如，在一些情况下，安全协议可以决定仅对流内的图像帧的部分进行审查(例如，使审查图形模糊或者覆盖审查图形)。当带标记对象附带地在一个或更多个图像帧的背景中并且接收方指示他们不希望看见此类内容(例如，对典型平凡的对象具有恐惧症的人或者极其不喜欢某个品牌的人)时，这可以是有用的。在这些情况下，过程1000可以返回到动作1010(例如，以使使用者行为保护子系统继续针对游戏会话监视传感器数据)。在其他情况下，安全协议可能需要自动地结束游戏会话并且使参与者相互断开。账户管理服务器可以跟踪并存储如下事件，在这些事件中，玩家的视频流或动作促使安全协议被执行以便使得可以对频繁和/或严重违规的那些玩家进行更严格的和/或永久的动作。

在动作1060，使用者行为保护子系统可以验证面部(或游戏可能需要的另一个对象)是否在传感器数据内被检测到。如果面部未被检测到，则过程100可以继续进行到动作1050，在动作1050，安全协议被发起。如果面部被检测到，则过程1000可以继续进行到动作1050，并且安全协议可以被发起。否则，过程1000可以返回到动作1010，在动作1010，使用者行为保护子系统接收新的一组传感器以供进行分析。

过程1000中所描述的动作可以由使用者行为保护子系统根据存储在非易失性的机器可读介质上的指令执行。此外，过程1000中所描述的动作可能不一定按呈现的次序发生。在一些实施方案中，更多的、更少的或不同的动作可以由参与反应游戏的装置执行。

用于改进反应游戏的安全性和/或一般可享用性的其他特征包括使得玩家可以阻挡他们不希望与其交互的其他玩家。被阻挡的玩家可以被阻止挑战或者被随机地与请求阻挡的另一个玩家匹配。此外，被重复地发现和/或报告滥用被调解反应游戏平台(例如，由于未遵守在玩游戏之前可能需要被接受的条款和条件)的个体可以使他们的账户被暂停或终止。通过存储装置识别信息(比如电话号码或序列号)并且将该装置识别信息列为黑名单，此类使用者可以被阻止创建新的账户以及进一步滥用服务。

虽然上面已经描述了根据所公开的原理的各种实施方案，但是应理解它们仅仅是以举例的方式呈现的，而不是限制。因此，本公开的广度和范围不应被上述任一示例性实施方案限制，而是应仅根据从本公开公布的权利要求及其等同形式来限定。此外，以上优点和特征是在所描述的实施方案中提供的，但不应使此类公布的权利要求的应用限于实现以上优点中的任何一个或全部优点的过程和结构。

构想决策引擎、情感检测引擎、使用者行为保护子系统、通信服务器、账户管理服务器、个人电子装置以及其他部件是根据以下结构提供的：本文中所公开的在它们的用途所针对的任何类型的集成电路中的结构，比如ROM、RAM(随机存取存储器)(比如DRAM(动态RAM)和视频RAM(VRAM))、PROM(可编程ROM)、EPROM(可擦除PROM)、EEPROM(电可擦除PROM)、EAROM(电可改变ROM)、高速缓存以及其他存储器；以及，包括以下电路的所有电路中的微处理器和微计算机：ALU(算术逻辑单元)、控制解码器、堆栈、寄存器、输入/输出(I/O)电路、计数器、通用微计算机、RISC(精简指令集计算)、CISC(复杂指令集计算)以及VLIW(极长指令字)处理器；以及模拟集成电路，比如数模转换器(DAC)和模数转换器(ADC)。ASIC、PLA、PAL、门阵列以及专用处理器(比如数字信号处理器(DSP)、图形系统处理器(GSP)、同步矢量处理器(SVP)以及图像系统处理器(ISP))全都表示本文中所公开的原理和结构的应用场所。

存储器装置可以存储任何合适的信息。存储器装置可以包括适合于存储数据的易失性和/或非易失性部件的任何集合和布置。例如，存储器装置可以包括随机存取存储器(RAM)装置、只读存储器(ROM)装置、磁性存储装置、光学存储装置和/或任何其他合适的数据存储装置。在特定的实施方案中，存储器装置可以部分地表示其上编码有计算机指令和/或逻辑的计算机可读存储介质。存储器装置可以表示处理器内的、处理器本地的和/或存储器可访问的任何数量的存储器部件。

实现是在硅、砷化镓或其他电子材料族的分立部件或完全集成电路中以及基于其他技术的形式和实施方案中构想的。应理解，本发明的各种实施方案可以利用硬件、软件、微代码固件或它们的任何组合，或者可以用硬件、软件、微代码固件或它们的任何组合来实施。当实施方案至少部分用软件来实施时，该软件可以被存储在非易失性的机器可读介质中。

联网计算环境(比如通信服务器提供的那些)可以包括但不限于计算网格系统、分布式计算环境、云计算环境等。此类联网计算环境包括被配置为形成由可以位于地理分散的位置上的多个资源组成的虚拟组织的硬件和软件基础设施。

本公开中所使用的各种术语具有在本技术领域内的特殊意义。特定术语是否应被解释为此类“技术术语”取决于使用该术语的上下文。“连接到……”、“与……进行通信”、“与……相关联”或其他类似术语一般应被广义地解读为包括通信和连接在提及的元件之间是直接的或者是通过提及的元件之间的一个或更多个中间物的这两种情况。这些术语及其他术语要根据本公开中使用它们的上下文并且按照本领域的普通技术人员在所公开的上下文下对这些术语的理解来解读。以上定义不排除可以基于所公开的上下文给予这些术语的其他意义。

比较、度量和时间选择(timing)的词汇，例如“此时”、“立即”、“等同形式”、“在……期间”、“完全”、“相同”等，应当被理解为意指“基本上此时”、“基本上立即”、“基本上等同形式”、“基本上在……期间”、“基本上完全”、“基本上相同”等，其中“基本上”意指，对实现隐含地或明确地阐述的期望结果来讲，这样的比较、度量和时间选择是实际可行的。

此外，本文的段落标题是被提供一致性，或者以其他方式提供结构线索。这些标题不应限制或表征可以从该公开公布的任何权利要求中所阐述的发明主题。具体地并且作为示例，尽管标题指“公开的领域”，但是权利要求书不应被该标题下所选择的语言限制为描述所谓的技术领域。进一步，“背景技术”中的技术的描述不是要被解读为承认该技术是该公开中的任意一个或多个发明的现有技术。“发明内容”也不是要被认为是在公布的权利要求书中所阐述的发明主题的特征描述。另外，该公开中对单数的“发明”的任何引用不应被用于证明在该公开中仅有一个新颖点。根据从该公开公布的多个权利要求的限定，可以阐述多个发明，并且这些权利要求相应地定义了由其保护的一个或多个发明，以及它们的等同形式。在所有例子中，这些权利要求的范围应根据该公开按照这些权利要求本身的实质来理解，而不应被本文的标题限制。