诸如聊天、电子邮件交换、文本消息传送等的消息交换话题(thread)可以包含可能对参与者中的一个或多个敏感(例如，机密)的信息。消息交换话题中的参与者可能期望消息交换话题的至少一些内容不被保留(例如，在日志中)或者至少能够以它原始的敏感形式得到。如果用户将参与用户视为敏感的活动，则许多互联网应用使得用户能够使该应用转变成私密状态(例如，“offtherecord(不记录在案)”、“incognitomode(隐身模式)”、“inprivate”等)然而，在大多数情况下—特别是在诸如聊天客户端、文本消息传送客户端、电子邮件客户端的消息交换客户端情况下，此转变必须由用户手动地启动。此外，用户也必须使应用脱离私密状态；这通常不会自动地发生，特别是在消息交换客户端中。因此，用户将原本更喜欢保持机密或者根本不保留的信息可能被意外地存留或者存储(例如，在消息交换日志中、作为消息交换话题的转录(transcript)等)，因为用户忘记使应用转变到私密状态了。这种存留的信息可能潜在地被暴露给未经授权方。同样地，如果用户忘记使诸如聊天客户端的应用脱离私密状态，则该用户可能意外地丢失该用户将原本更喜欢保留的内容。
技术实现要素：
本说明书一般地致力于一种技术，该技术用于基于与消息和/或参与者本身相关联的各种信号来自动地使应用(特别是使得能够在用户(例如，诸如聊天应用、电子邮件客户端、促进消息交换话题的web页面等)之间交换消息的那些应用)转变成私密状态(并且在一些情况下，脱离私密状态)。一旦在私密状态下，就可以使被视为敏感(例如，机密)的信息模糊(例如，可以对名字或其它敏感的单词或短语进行加扰)，或者应用可以避免存储(例如，在日志或消息交换话题转录中)敏感的信息。
自动地将应用转变成私密状态(在一些情形下，从私密状态脱离)可以具有多个优点。这可以包括减小用户和他们的设备之间所需的交互量，由此减小处理这种信息所需的处理等。此外，在一些情况下，用户数据的安全性可以得到提升，例如，因为数据未被存储或者变得模糊。
在各种实施方式中，可以例如在由单独的参与者操作的单独的消息交换客户端处且/或在促进消息交换话题的一个或多个服务器处集中地检查一个或多个参与者之间的正在进行的消息交换话题。基于检查，可以确定(例如，计算出)作为正在进行的消息交换话题的一部分的由参与者中的一个导向参与者中的另一个的一个或多个消息会被至少给定参与者视为私密的可能性。可以基于各种信号以各种方式确定此可能性。
在一些实施方式中，可以基于一个或多个消息本身的内容来确定可能性。例如，在一些实施方式中，某些短语可以被分类为“privacytriggerphrases(隐私触发短语)”，所述“privacytriggerphrases”当被检测到时，使由正在进行的消息交换话题的参与者操作的一个或多个消息交换客户端转变成私密状态。这些隐私触发短语可以包括诸如“offtherecord(不记录在案)”、“let’skeepthisbetweenus(让我们保守秘密)”、“canyoupromisetonottellanyone(你能保证不告诉任何人吗)？”等的短语。在一些此类实施方式中，可以不保留紧跟(并且在一些实例中，先于)这样的隐私触发短语的一个或多个消息，例如，直到用户手动地使消息交换客户端脱离私密状态为止或者直到检测到讨论话题已改变为不太敏感的主题为止。
在其它实施方式中，可以使用特定n-gram(n-grams)或n-gram的组合(不论它们是否相邻)来触发转变到私密状态。例如，假设用户将语句“iheardbillisgettingfiredbecausehewascaughtstealingmoney(我听说bill因为他被抓到偷钱而被解雇)”提供到消息交换话题中。诸如“fired(被解雇)”、“caught(被抓到)”和“stealing(偷)”的n-gram可以单独或相结合地触发转变成私密状态。在一些实施方式中，n-gram中的一个或多个结合实体名称(例如，“bill”)可以触发转变此私密状态。在一些此类实施方式中，当在私密状态下时，所述语句可以在它被存留(例如，作为消息交换话题的转录的一部分)时被模糊(例如，“iheard*isgettingfiredbecause*wascaughtstealingmoney(我听到*因为*被抓到偷钱而被解雇))，使得潜在地用户标识的n-gram不再是可用的。在其它实施方式中，整个语句可以被编校或者简单地不存储在消息交换话题中。
附加地或可替选地，在一些实施方式中，与一个或多个消息交换参与者相关联的一个或多个其它信号可以用于确定在消息交换话题中交换的一个或多个消息会被至少一个参与者视为私密的可能性。在一些实施方式中，可以考虑与消息交换话题参与者中的一个或多个相关联或者在一些情况下一般地与消息交换话题参与者(即，其它消息交换话题中的参与者)相关联的历史行为。历史行为可以包括例如一个或多个参与者的浏览历史、由一个或多个参与者对浏览器私密状态的历史利用、由一个或多个参与者对与消息交换客户端相关联的私密状态的历史利用等。例如，假设在雇主促成的消息交换话题中的一个或多个雇员每当某个主题作为该雇主促成的消息交换话题的一部分被讨论时则手动地使他们相应的消息交换客户端转变到私密状态。在各种实施方式中，可以“学习”与这些雇员相关联的这种历史行为，使得类似的行为稍后可以被检测到并触发自动转变到私密状态。
在一些实施方式中，可以采用一个或多个训练的机器学习模型(诸如卷积神经网络模型和/或递归神经网络模型)来确定消息交换内容会被一个或多个参与者视为私密的可能性。例如，可以使用与消息交换话题参与者手动地使消息交换客户端转变成私密状态的实例相关联的标记训练示例来对机器学习模型进行训练。这些训练示例的特征可以包括例如包含在消息交换话题中的n-gram、包含在消息交换话题中的短语(例如，“canyoukeepthisbetweenus(你能在我们之间保守秘密吗)”)、场境线索(例如，参与者的身份、参与者的位置等)、与一个或多个参与者相关联的历史用户行为等。一旦机器学习模型被训练，就可以例如在操作消息交换客户端的单独的计算装置处或者在促进消息交换话题的中央节点处跨多个输入来应用该机器学习模型，以确定给定输入的一个或多个消息交换话题参与者会将消息交换话题的至少一部分视为私密的可能性。在一些实施方式中，此类机器学习模型可以被存储和/或应用在单独的参与者的计算装置上。
在各种实施方式中，特定消息交换话题参与者会将消息交换话题的至少一部分视为私密的可能性可以与一个或多个阈值相比较。例如，可能性可以以数值方式(例如，在1至100、0.0至1.0等的范围内)来计算并与某个最小阈值(例如，60、0.7等)相比较。如果可能性超过最小阈值，则可以使由消息交换话题参与者操作的消息交换客户端转变到私密状态。在一些实施方式中，可以向参与者提供(例如，由消息交换客户端)请求使消息交换客户端转变成私密状态的许可的提示。在其它实施方式中，可以不请求许可。在进一步其它的实施方式中，只有当可能性量度满足第一最小阈值(例如，50、0.5)而不是第二例如较高阈值(例如，80、0.8)时才可以请求转变成私密状态的许可。
如果仅单个参与者的消息交换客户端被转变成私密状态，则被视为潜在私密的消息交换话题内容可以不被保留在该参与者的计算装置上，但是可以被保留在其它参与者的计算装置上。因此，在一些实施方式中，如果单个参与者的消息交换客户端转变成私密状态，则该消息交换客户端(或某个其它组件，诸如管理消息交换话题的中央基于云的组件)可以向其它参与者的消息交换客户端发送用于转变到私密状态的命令。在一些实施方式中，可以为了(例如，在它们相应的消息交换客户端处)进入私密状态的许可而提示其它参与者，例如，利用关于为什么的说明。在其它实施方式中，可以自动地使其它参与者的消息交换客户端转变成私密状态。
在一些实施方式中，提供了由一个或多个处理器执行的方法，所述方法包括：由一个或多个处理器检查在操作两个或更多个相应的消息交换客户端的两个或更多个参与者之间正在进行的消息交换话题；由处理器中的一个或多个至少部分地基于所述检查来确定作为正在进行的消息交换话题的一部分的由所述两个或更多个参与者中的一个导向所述两个或更多个参与者中的另一个的一个或多个消息会被所述两个或更多个参与者中的至少给定参与者视为私密的可能性；由处理器中的一个或多个确定所确定的可能性满足一个或多个阈值；以及响应于确定所确定的可能性满足所述一个或多个阈值而使所述两个或更多个消息交换客户端中的一个或多个转变成私密状态。
这些和其它实施方式可以可选地包括以下特征中的一个或多个。在各种实施方式中，确定所述可能性可以至少部分地基于形成正在进行的消息交换话题的一部分的一个或多个消息的内容。在各种实施方式中，确定所述可能性还可以基于与给定参与者相关联的历史行为。在各种实施方式中，历史用户行为可以包括给定参与者的浏览历史。在各种实施方式中，历史用户行为可以包括由给定参与者对与web浏览器相关联的私密状态的历史利用。在各种实施方式中，历史用户行为可以包括由给定参与者对与消息交换客户端相关联的私密状态的历史利用。
在各种实施方式中，确定所述可能性还可以基于与正在进行的消息交换话题中的所述两个或更多个参与者相关联的历史行为。在各种实施方式中，确定所述可能性还可以基于与正在进行的消息交换话题之外的多个消息交换话题中的多个参与者相关联的历史行为。在各种实施方式中，与多个消息交换话题中的多个参与者相关联的历史行为可以包括在所述多个消息交换话题中交换的一个或多个消息的内容与由所述多个参与者中的一个或多个进行的相应的消息交换客户端到私密状态的手动转变之间的一个或多个关联。
在各种实施方式中，确定所述可能性可以包括将与给定参与者相关联的多个输入应用到神经网络模型，其中神经网络模型被训练以基于多个输入来提供包括所述可能性的输出。在各种实施方式中，神经网络模型可以被存储在由给定参与者使用来参与正在进行的消息交换话题的计算装置上。在各种实施方式中，神经网络模型可以被下载到由给定参与者使用的计算装置，并且可以使用从正在进行的消息交换话题之外的多个消息交换话题获得的训练示例来对神经网络模型进行训练。
在各种实施方式中，所述方法还可以包括从所述两个或更多个消息交换客户端中的第一消息交换客户端向所述两个或更多个消息交换客户端中的第二消息交换客户端发送使第二消息交换客户端转变到私密状态的命令，其中所述发送响应于确定所确定的可能性满足一个或多个阈值而被执行。因此，第一客户端可以控制第二客户端转变为私密状态，由此减小第二客户端处的用户交互。此外，可以潜在地避免分别针对每个客户端确定是否该客户端应当转换为私密状态的需要。相反，可以仅针对第一客户端执行该确定，而第二客户端也基于该确定而被控制。这可以减少整体的处理。在各种实施方式中，在私密状态下，所述两个或更多个消息交换客户端中的一个或多个可以使作为正在进行的消息交换话题的一部分而交换的消息的日志的至少一部分模糊。在各种实施方式中，在私密状态下，所述两个或更多个消息交换客户端中的一个或多个可以至少暂时地避免更新作为正在进行的消息交换话题的一部分而交换的消息的日志。
在各种实施方式中，所述方法还可以包括由所述两个或更多个消息交换客户端中的给定消息交换客户端响应于确定所述可能性满足所述一个或多个阈值而提供请求使所述给定消息交换客户端转变到私密状态的许可的提示。
此外，一些实施方式包括一个或多个计算装置的一个或多个处理器，其中一个或多个处理器能够操作，以执行存储在相关联的存储器中的指令，并且其中所述指令被配置成导致前述方法中的任一个的执行。一些实施方式包括至少一个非暂时性计算机可读存储介质，所述至少一个非暂时性计算机可读存储介质存储能够由一个或多个处理器执行，以执行前述方法中的任一个的计算机指令。
应该了解的是，在本文中更详细地描述的上述构思和附加构思的所有组合被认为是本文中所公开的主题的一部分。例如，在本公开结尾处出现的要求保护的主题的所有组合都被认为是本文中所公开的主题的一部分。
附图说明
图1是可以实施本文中所公开的实施方式的示例环境的图。
图2图示在触发应用转变成私密状态时使用图1的示例环境的组件的示例。
图3图示在对一个或多个机器学习模型进行训练时使用图1的示例环境的组件的示例。
图4a和图4b各自图示示例客户端装置以及私密模式如何可以被自动地触发的一个或多个示例。
图4c图示已部分地模糊的消息交换话题转录的示例。
图5是图示根据本文中所公开的实施方式的自动地使应用转变成私密状态的示例方法的流程图。
图6图示计算装置的示例架构。
具体实施方式
在图1中，图示了可以实施本文中所公开的技术的示例环境。该示例环境包括促进环境中的各种组件之间的通信的通信网络101。在一些实施方式中，通信网络101可以包括因特网、一个或多个内联网和/或一个或多个总线子系统。通信网络101可以可选地利用一个或多个标准通信技术、协议和/或进程间通信技术。
该示例环境还包括一个或多个客户端装置1061-n、电子通信系统110、隐私状态系统120、训练引擎135和训练示例引擎137。该示例环境还包括用户数据158、训练示例152和机器学习模型156。可以将用户数据158、训练示例152和机器学习模型156各自存储在一个或多个对应的计算机可读介质中。
客户端装置1061-n的一些非限制性示例包括以下各项中的一个或多个：桌面计算装置、膝上型计算装置、平板计算装置、移动电话计算装置、车辆的计算装置(例如，车载通信系统、车载娱乐系统、车载导航系统)、独立交互式扬声器(例如，所谓的“智能扬声器”)或包括计算装置的可穿戴设备(例如，具有计算装置的手表、具有计算装置的眼镜、虚拟或增强现实计算装置)。可以提供附加和/或替代客户端装置。对于本文中的各种示例来说，客户端装置1061将被假定为第一用户的客户端装置，客户端装置1062将被假定为第二用户的客户端装置，客户端装置1063将被假定为第三用户的客户端装置等。然而，应当理解，隐私状态系统120可以与给定用户的形成该给定用户的客户端装置的协调“生态系统”的多个客户端装置和/或其它电子装置中的每一个对接。例如，如本文中所描述的，由隐私状态系统120利用的用户数据158可以包括基于传感器的数据和/或基于客户端装置1061的其它数据，以及基于客户端装置1061的用户的其它电子装置的其它数据。然而，为了简洁起见，本公开中所描述的一些示例将集中于对应用户的单个客户端装置。
电子通信系统110、隐私状态系统120以及/或者引擎135和/或137可以各自被实施在例如通过网络(例如，网络101和/或其它网络)通信的一个或多个计算装置中。电子通信系统110、隐私状态系统120以及引擎135和137是经由其实施本文中所描述的系统和技术且/或可以与本文中所描述的系统和技术对接的示例组件。它们可以各自包括用于存储数据和软件应用的一个或多个存储器、用于访问数据并执行应用的一个或多个处理器以及促进通过网络通信的其它组件。在一些实施方式中，电子通信系统110、隐私状态系统120以及/或者引擎135和/或137可以包括图6的示例计算装置的一个或多个组件。由电子通信系统110、隐私状态系统120以及/或者引擎135和/或137执行的操作可以跨越多个计算机系统分布，包括整个地或部分地在一个或多个客户端装置106上。
在一些实施方式中，可以在单个系统中组合电子通信系统110、隐私状态系统120以及/或者引擎135和/或137中的一个或多个的一个或多个方面且/或可以在客户端装置1061-n中的一个或多个上实施一个或多个方面。例如，客户端装置1061可以包括隐私状态系统120的一个或多个方面的实例并且附加客户端装置1062-n中的每一个也可以包括隐私状态系统120的一个或多个方面的实例。作为另一示例，客户端装置1061-n中的每一个可以各自包括电子通信系统110的实例(例如，电子通信系统110可以是在这些装置中的每一个上安装并执行的应用)。作为又一示例，可以组合电子通信系统110和隐私状态系统120的一个或多个方面。
电子通信系统110可以包括一个或多个远程服务器和/或与客户端装置之间的一个或多个类型的电子通信的交换相关联的一个或多个客户端侧应用(在本文中常常被称为“消息交换话题”)。可以在消息交换话题中交换的电子通信的类型包括例如电子邮件、丰富通信服务(rcs)消息、短消息服务(sms)消息、多媒体消息传送服务(mms)消息、空中(ott)聊天消息、社交网络消息、可听通信(例如，电话呼叫)、音频-视频通信等。作为一个示例，电子通信系统110可以包括管理各种客户端装置106之间的消息交换话题的一个或多个远程服务器，并且那些各种客户端装置106可以可选地各自包括对应的消息交换客户端107。作为另一示例，电子通信系统110可以仅经由在对应的客户端装置上操作的客户端侧应用来实施。
将在本文中相对于客户端装置1061的用户来描述隐私状态系统120的示例。当用户通常操作客户端装置106(例如，1061、...)以参与消息交换话题时，那些用户可以被称为消息交换话题“参与者”。在一些实施方式中，可以将隐私状态系统120整个地或部分地实施在客户端装置1061上。在一些实施方式中，可以附加地或可替换地在远离客户端装置1061的一个或多个服务器上实施隐私状态系统120的组件中的一个或多个。例如，可以在电子通信系统110的远程服务器上实施一个或多个组件。
在各种实施方式中，隐私状态系统120可以包括数据引擎122、隐私可能性引擎124、隐私转变引擎126和/或反馈引擎132。在一些实施方式中，可以在与隐私状态系统120分开的组件中省略、组合且/或实施引擎122、124、126和/或132的各方面。
数据引擎122选择用户数据158以用于在确定消息交换话题参与者将正在进行的消息交换话题的内容视为敏感的可能性时使用。在一些实施方式中，用户数据158包括基于来自参与者的客户端装置1061和/或其它电子装置的传感器的输出而生成的基于传感器的数据。在一些实施方式中，用户数据158附加地或可替选地包括基于经由参与者的客户端装置1061和/或其它电子装置的参与者活动而生成的基于计算机的动作数据。在一些实施方式中，用户数据158附加地或可替选地包括指示与参与者相关联的历史行为的历史数据。在一些实施方式中，这种历史行为可以包括参与者的浏览历史、由参与者对与诸如web浏览器的应用相关联的私密状态的利用、聊天历史和/或由参与者对与消息交换客户端107相关联的私密状态的历史利用。
在一些实施方式中，用户数据158可以包括与多个用户(或消息交换话题参与者)相关联的聚合数据。例如，在一些实施方式中，聚合用户数据可以指示与正在进行的消息交换话题的两个或更多个参与者相关联和/或与正在进行的消息交换话题之外的多个消息交换话题的多个参与者相关联的历史行为。在一些实施方式中，与多个消息交换话题中的多个参与者相关联的历史行为可以包括在多个消息交换话题中交换的一个或多个消息的内容与由多个参与者中的一个或多个进行的相应的消息交换客户端到私密状态的手动转变之间的一个或多个关联。如本文中所描述的，可以给客户端装置1061(即参与者)的用户提供用以控制隐私状态系统120的数据引擎122和/或其它组件是否可访问用户数据158且/或可访问哪一个用户数据158的机会。
可以基于例如来自全球定位系统(gps)传感器、加速度计、麦克风、相机、陀螺仪和/或其它传感器的输出来生成基于传感器的数据。基于传感器的数据可以包括原始传感器数据(例如，如从传感器接收到的输出)且/或可以包括基于来自一个或多个传感器的输出而确定的广义传感器数据。例如，基于传感器的数据可以包括来自麦克风的原始音频数据且/或可以包括原始音频数据的泛化。原始音频数据的泛化可以包括例如在一定时间段期间的平均(和/或其它统计量度)分贝水平、基于将数据应用于分类器的原始音频数据的分类(例如，诸如“嘈杂”、“安静”、“音乐”等的分类)等。作为另一示例，基于传感器的数据可以附加地或可替选地包括原始gps数据且/或可以包括gps数据的泛化。gps数据的泛化可以包括例如通过gps数据指示的位置(例如，餐馆、电影院、锻炼设施)的分类、通过gps数据指示的特定位置(例如，餐厅a、电影院a)等。作为又一示例，基于传感器的数据可以附加地或可替选地包括原始加速度计数据和/或此类数据的泛化。原始加速度计数据的泛化可以包括基于来自加速度计的数据的平均(和/或其它统计量度)速度、基于将数据应用于分类器的活动的分类(例如，诸如“跑”、“走”、“停”的分类)等。
基于经由用户的客户端装置1061和/或其它电子装置的用户活动而生成的基于计算机的动作数据可以包括例如：经由装置创建的日历条目和/或其它电子文档；经由装置交互(例如，访问)的文档；经由装置当前或最近利用的应用；经由装置当前或最近利用的应用的状态；在最近时间段期间消耗的平均(或其它统计量度)处理能力；等。
隐私可能性引擎124利用由数据引擎122选择的数据来确定特定消息交换话题参与者(例如，客户端装置1061的用户)将正在进行的消息交换话题的内容视为敏感的可能性。由隐私可能性引擎124确定的可能性将依赖于用户数据158和消息交换话题内容。在各种实施方式中，隐私可能性引擎124可以连续地、周期性地或者以其它规则和/或非规则间隔从数据引擎122接收“新鲜的”数据，以使得能实现消息交换话题参与者将正在进行的消息交换话题的内容视为敏感的可能性的动态确定。在一些实施方式中，隐私可能性引擎124将数据作为输入应用于机器学习模型156中的一个或多个，基于该输入在这些机器学习模型156上生成输出，并且基于所生成的输出确定可能性。
隐私转变引擎126可以被配置成使在一个或多个客户端装置106上操作的一个或多个应用转变成所谓的“私密状态(privatestate)”和/或脱离所谓的“私密状态”。如本文中所使用的，应用的“私密状态”指该应用采取各种措施来确保与该应用的操作相关联的各种信息被保护、模糊或者简单地根本不保持的应用状态。例如，当web浏览器被转变成私密状态时，该web浏览器可以避免当在私密状态下的同时存储由web浏览器访问或者以其它方式访问的网站或其它网络资源的历史。附加地，当在私密状态下的同时，web浏览器可以避免存储诸如cookie、用户凭证等的信息。
在消息交换客户端应用1071-n的场境中，私密状态可以指消息交换客户端107避免存储、模糊且/或过滤在消息交换话题的一个或多个参与者之间和/或在消息交换话题的参与者与所谓的“自动化助理”之间交换的状态。“自动化助理”可以指用户可以会话地(例如，使用键入文本或口语输入(其可以被转换成文本)与之交互的软件进程。例如，形式为独立交互式扬声器的客户端装置106可以使得用户能够参与利用自动化助理的人对计算机对话，其中用户可问问题(例如，搜索文档、寻找信息、询问天气/分数等)且/或发出命令(例如，播放特定歌曲、打开灯、设定定时器、存储提醒等)。诸如智能电话、平板计算机、智能手表等的其它客户端装置106可以包括促进与用户的类似交互式对话的自动化助理。
隐私转变引擎126可以确定由隐私可能性引擎124确定的可能性满足一个或多个阈值。基于这样的确定，隐私转变引擎126可以转变成私密状态，或者可以触发一个或多个消息交换客户端107(或更一般地，客户端装置106)变成私密状态的转变。可以将各种类型的阈值与消息交换话题的内容将被视为对至少一个参与者敏感的可能性相比较。在由隐私可能性引擎124计算出的可能性被计算为数目或量度(例如，在0.0至1.0、0至100等的范围内)的一些实施方式中，可以使用数值阈值。在一些实施方式中，可以采用多个阈值。例如，如果由隐私可能性引擎124确定的可能性满足第一阈值但是不满足第二较高阈值，则一个或多个消息交换客户端107可以以用于请求使消息交换客户端107转变到私密状态的许可的提示的形式提供可听或视觉输出。然而，如果满足第一阈值和第二阈值两者，则由正在进行的消息交换话题的参与者所操作的一个或多个消息交换客户端107可以例如在通知或不通知操作消息交换客户端107的相应的参与者情况下自动地转变成私密状态。
在正在进行的消息交换话题涉及多个参与者操作多个消息交换客户端107的各种实施方式中，一个消息交换客户端107转变成私密状态可以导致或者可以不导致其它消息交换客户端107中的一个或多个转变成私密状态。例如，在一些实施方式中，转变成私密状态的第一消息交换客户端107可以向第二消息交换客户端发送使第二消息交换客户端转变成私密状态的命令。在一些实施方式中，此传输可以响应于例如通过隐私转变引擎126进行的由隐私可能性引擎124确定的可能性满足一个或多个阈值的确定而发生。
假设通过在给定客户端装置106上操作的隐私状态系统120的实例(包括数据引擎122、隐私可能性引擎124和/或隐私转变引擎126的相应的实例)确定了有在给定客户端装置106上操作相应的消息交换客户端107的参与者会将正在进行的消息交换话题的内容视为敏感的特定可能性。还假设可能性满足第一阈值而不是第二较高阈值。在一些实施方式中，这样的场景会导致隐私转变引擎126仅使本地消息交换客户端107转变成私密状态。在其它实施方式中，这样的场景会导致本地消息交换客户端107转变成私密状态并且请求正在参与消息交换话题的其它消息交换客户端107转变成私密状态(在此情况下它们可以例如为了许可而提示相应的消息交换话题参与者)。
反馈引擎132可以使用客户端装置106的用户/参与者的请求和/或非请求反馈以提供给训练示例引擎137。训练示例引擎137可以在生成另外的训练示例时利用反馈以便细化机器学习模型156中的一个或多个。作为一个示例，假定在消息交换话题中的参与者手动地使她相应的消息交换客户端107转变成私密状态。反馈引擎132可以向训练示例引擎137提供手动转变的指示，以及当前应用于手动转变参与者的各种输入(例如，用户数据158、消息交换话题的内容)。训练示例引擎137然后可以利用该数据来生成训练示例的训练示例输入，并且可以基于消息交换客户端107到私密状态的手动转变来生成训练示例的训练示例输出。
图2图示在确定消息交换话题参与者会将正在进行的消息交换话题的内容视为敏感的可能性时使用图1的示例环境的组件的示例。在图2中，用户数据158是基于来自客户端装置1061的传感器204的输出、来自客户端装置1061的应用206的状态和/或其它数据、经由客户端装置1061创建和/或访问的文档208以及指示与操作客户端装置1061的消息交换话题参与者相关联的历史行为的历史数据210而生成的。来自传感器204的输出用于生成用户数据158的基于传感器的数据。来自应用206和文档208的输出用于生成用户数据158的基于计算机的动作数据。历史数据210用于创建/标识用户数据158的历史行为。在一些实施方式中，可以基于由用户的传感器生成的输出和/或经由用户的附加或替代电子装置(例如，用户的与客户端装置1061电子通信的手表的传感器)进行的用户动作来生成用户数据158。
数据引擎122从用户数据158中选择用于提供给隐私可能性引擎124的数据201a的子集。在图2中，隐私可能性引擎124可以将数据201a连同消息交换话题内容212一起作为输入应用于机器学习模型156中的一个并且基于所应用的输入在机器学习模型上生成输出。所生成的输出可以直接指示消息交换话题参与者会将消息交换话题的内容视为敏感的可能性，并且可以被提供给隐私转变引擎126。作为一个示例，应用于机器学习模型的输入可以是值的向量，所述值基于数据201a并且包括基于基于传感器的数据、基于计算机的动作数据和历史行为数据以及正在进行的消息交换话题的内容212。正在进行的消息交换话题的内容212可以包括已被插入(例如，通过操作消息交换客户端107的参与者)到正在进行的消息交换话题中的文本和/或其它内容(例如，图像、声音等)。输出203a可以指示例如消息交换话题参与者会将消息交换话题的内容(无论是已经插入到话题中的还是即将到来的)视为敏感的可能性。
基于输出203a，隐私转变引擎126确定是否使在客户端装置1061上操作的本地消息交换客户端107转变到私密状态。在一些实施方式中，隐私转变引擎126也例如向正在由参与者使用来参与正在进行的消息交换话题的操作消息交换话题1071-n的一个或多个其它客户端装置1062-n发送隐私命令2051-n。如上面指出的，在各种实施方式中，其它客户端装置1062-n可以自动地转变到私密状态，可以为了转变到私密状态的许可等而提示它们各自的参与者。
在一些实施方式中，隐私转变引擎126直接将隐私命令2051-n发送到对应的附加客户端装置106。在一些其它实施方式中，隐私转变引擎126将隐私命令2051-n发送到一个或多个中间组件(例如，电子通信系统110)，所述中间组件然后将状态通知发送到所对应的附加客户端装置。在一些实施方式中，隐私转变引擎126自动地发送隐私命令2051-n。在一些其它实施方式中，隐私转变引擎126仅响应于经由客户端装置1061提供的用户的肯定用户界面输入而发送隐私命令2051-n。尽管图2图示三个单独的隐私命令被提供给不同的客户端装置，然而在一些实施方式中更多或更少的隐私命令可以被发送且/或可以被发送以用于呈现给更多或更少的附加消息交换话题参与者。
图3图示在对在图2中在确定消息交换参与者会将正在进行的消息交换话题的内容视为敏感的可能性时使用的一个或多个机器学习模型156进行训练时使用图1的示例环境的组件的示例。
在图3中，训练数据实例1361-n由训练示例引擎137接收。训练数据实例中的每一个包括消息交换话题的内容以及例如当由参与者操作的消息交换客户端107被转变(自动地或手动地)成私密状态或者脱离私密状态时能够应用于特定消息交换话题参与者的其它输入(例如，基于传感器的数据、基于计算的动作数据、历史数据)。例如，训练数据实例1361可以包括消息交换话题内容、数据值以及成私密状态的转变是自动的还是手动的指示的第一向量。另外，例如，训练数据实例1362可以包括消息交换话题内容、数据值以及变成私密状态的转变是自动的还是手动的指示的第二向量。在一些实施方式中，可以基于对应的消息交换话题参与者手动地使消息交换客户端107转变成(或者脱离)私密状态来生成训练数据实例中的至少一些。附加地或可替选地，在一些实施方式中，可以基于对应的消息交换客户端107被自动地转变成(或者脱离)私密状态来生成训练数据实例中的至少一些。可以利用用于生成训练数据实例的附加或替代技术。
训练示例引擎137利用训练实例来生成训练示例1541-n。训练示例1541-n中的每一个包括基于对应的训练数据实例的数据的训练示例输入，以及指示例如变成(或脱离)私密状态的转变是所希望的还是不希望的(这可以例如从反馈引擎132确定)的训练示例输出。
所生成的训练示例1541-n被存储为由训练引擎135利用来对机器学习模型156中的至少一个进行训练的训练示例152。在一些实施方式中，训练引擎135基于训练示例152来基于对训练示例的训练示例输入的应用以及基于训练示例的训练示例输出的反向传播对机器学习模型进行训练。
在一些实施方式中，相同训练的机器学习模型156可以被用于客户端装置1061并用于其它用户的其它客户端装置。在一些实施方式中，可以可选地基于操作客户端装置1061的消息交换话题参与者的用户数据158和/或基于由反馈引擎132提供的参与者的反馈来进一步对被用于客户端装置1061的经训练的机器学习模型156进行训练。基于用户数据158和/或基于消息交换话题参与者的反馈对机器学习模型156的进一步训练可以使得能够进一步为操作特定客户端装置106的消息交换话题参与者定制该机器学习模型。作为一个示例，用户数据158的过去数据可以直接指示参与者的变成/脱离私密状态的转变和相关联的数据，并且可以由训练示例引擎137利用来生成一个或多个附加训练示例以供由训练引擎135使用。
现在转到图参考图4a至图4c，提供了本文中所描述的各种组件和技术的附加描述。图4a和图4b图示图1的示例客户端装置1061以及消息交换客户端(图4a和图4b中未描绘)如何可以响应于有正在进行的消息交换话题中的至少一个参与者会将该消息交换话题的内容视为敏感的充分可能性的确定而被转变成私密状态的一个或多个示例。图4a和图4b的客户端装置1061包括显示屏幕140。显示屏幕140还包括系统接口元件481、482、483，所述系统接口元件481、482、483可由用户与之交互以使客户端装置1061执行一个或多个动作。
在图4a中，操作客户端装置1061的第一消息交换话题参与者(图4a中的“you(你)”)已将“iwanttotellyousomething(我想告诉你一件事儿)...”的第一消息提供到正在进行的消息交换话题中。另一参与者sally答复“whatisit(什么事)？”第一参与者然后说“canyoukeepthisbetweenus(你能在我们之间保守秘密吗)？”在各种实施方式中，这样的语句可以被视为“隐私触发短语(privacytriggerphrase)”，所述“隐私触发短语”当被检测到时，使由第一参与者操作的消息交换客户端107(图4a中未描绘)转变成私密状态(或者至少关于它们是否愿意转变成私密状态而提示第一参与者)。如上面所指出的，隐私触发短语可以包括其它类似的短语，诸如“offtherecord(不记录在案)”、“let’skeepthisbetweenus(让我们保守秘密)”、“canyoupromisetonottellanyone(你能保证不告诉任何人吗)？”等。在一些此类实施方式中，可以不保留紧跟(或者在一些情况下，先于)这样的隐私触发短语的一个或多个消息，例如，直到第一参与者手动地使消息交换客户端脱离私密状态为止或者直到检测到讨论话题已改变为不太敏感的主题为止。因此，例如，在正在进行的消息交换话题的转录或日志中，可以不保留sally的“ok(好)”答复以及此后由第一参与者提供的消息内容(即，由框480围起的内容)。附加地或可替选地，在一些实施方式中，紧跟转变之后交换的消息在被存储在转录或日志中之前可以被模糊(例如，用无意义的文本或符号代替，或者被编校)。
可以随着时间的推移而手动地配置或者学习隐私触发短语。例如，隐私触发短语可以简单地是通过机器学习模型(与一个或多个其它输入一起)应用来确定消息交换话题参与者会将消息交换话题视为敏感的可能性的话题内容212(参见图2)的一个组件。在一些实施方式中，可以在消息交换话题参与者紧接在手动地使消息交换客户端107转变成私密状态之前或之后提供某些短语时学习隐私触发短语。因此，例如，当更多的消息交换话题参与者在声明像“canwekeepthisonthedownlow(我们能保持低调吗)？”一样的某事之前或之后使它们的消息交换客户端107转变成私密状态时，此类短语可以被用作对机器学习模型进行训练的越来越多的训练示例的一部分。当然，消息交换话题可以响应于其它所谓的“非隐私触发短语”而脱离私密状态。例如，诸如“onalighternote(说点轻松的)…”或“let’sgobackontherecord(让我们回到记录在案吧)”的短语可以触发一个或多个消息交换客户端107从私密状态转变到非私密状态。
除隐私触发短语之外或代替隐私触发短语，在一些实施方式中，单独或相结合地形成消息交换话题内容的一部分的一个或多个n-gram可以被用作信号。在图4b中，例如，操作客户端装置1061的第一消息交换话题参与者已将“guesswhat(猜猜发生什么了)？”的第一消息提供到正在进行的消息交换话题中。另一参与者sally答复“what(什么事)？”第一参与者然后宣称“bobgotfiredforstealing$(bob因偷钱被解雇了)！”在各种实施方式中，这样的语句的各种n-gram(诸如特定已知实体的名字(“bob”)或其它n-gram(例如“fired(被解雇)”、“steal(偷)”))可以单独或相结合地触发由第一参与者操作的消息交换客户端107(图4b中未描绘)转变成私密状态(或者至少关于它们是否愿意转变成私密状态而提示第一参与者)。附加地，虽然图4b中的所有触发n-gram被包含在由第一参与者进行的单个语句中，但是这不意在为限制性的。在各种实施方式中，来自由不同的参与者提供的不同的消息的n-gram也可以相结合地用于以触发消息交换客户端转变成私密状态。
图4c描绘图4b中所描绘的消息交换话题的保存的转录的一部分的示例。在此示例中，来自第一参与者的声明“botgotfiredforstealing$(bob因偷钱被解雇了)”的消息已被至少部分地模糊，使得名字“bob”和n-gram“stealing(偷)”已被加扰。在各种实施方式中，为了防止其他人查看潜在敏感的语句，可以存留此内容，而不是未经审查的内容。
除可以触发消息交换客户端转变到私密状态的上面标识的信号之外或代替该信号，在一些实施方式中，讨论的一般话题(单独或与历史用户行为的各方面相结合地)可以触发转变成私密状态。例如，在一些实施方式中，对诸如健康问题、粗俗语言、政治、个人信息、财务信息等的潜在敏感的话题的讨论可以使消息交换客户端(或参加消息交换话题的所有消息交换客户端)转变到私密状态。当然，哪些话题触发转变成私密状态可以随着时间的推移而改变和/或演变。例如，并且如上所述，可以随着时间的推移连续地对各种机器学习模型进行训练以标识何时正在讨论潜在敏感的话题。例如，可以用表示在消息交换话题中讨论特定话题并且一个或多个消息交换话题参与者手动地使它们相应的消息交换客户端转变到私密状态的实例的训练示例来对一个或多个机器学习模型进行训练。
附加地或可替选地，可以用表示在消息交换话题中讨论特定话题并且一个或多个消息交换客户端被自动地转变到私密状态(并且相应的参与者不提供负反馈或者提供正反馈)的实例的训练示例来对一个或多个机器学习模型进行训练。可以使用类似的技术来自动地使消息交换客户端脱离私密状态。例如，假设消息交换话题中的一个或多个参与者正在讨论敏感的话题，这使它们相应的消息交换客户端107中的一个或多个转变成私密状态。还假设参与者将讨论话题改为不太敏感的话题。在各种实施方式中，话题的改变可以触发一个或多个消息交换客户端107从私密状态转变回成非私密状态(其中消息交换话题内容未被模糊并以本机形式保留)。
可以采用各种技术来确定消息交换话题中的讨论话题。在一些实施方式中，可以例如在使用消息交换话题内容的滑动窗口的进行基础上采用一个或多个话题分类器来标识讨论的一个或多个当前话题。话题分类器可以采取机器学习模型或基于规则的模型的形式。使用基于机器学习的话题分类器，在一些实施方式中，可以对话题分类器进行训练以提供指示是否正在讨论特定话题的输出(例如，二进制输出或概率)。在其它实施方式中，可以对话题分类器进行训练以提供指示是否正在讨论多个不同的话题的输出。例如，话题分类器可以被配置成提供指示正在讨论多个不同的话题的可能性或置信度的输出。在一些实施方式中，仅具有满足一个或多个阈值的可能性/置信度的那些话题可以被标识为讨论话题。在其它实施方式中，仅n个最高可能性/置信度话题可以被标识为讨论话题。
如上所述，除消息交换话题的内容之外，还可以在确定正在进行的消息交换话题的内容很可能会被至少一个消息交换话题参与者视为敏感的可能性时考虑其它信号。在一些实施方式中，可以分析与由消息交换话题参与者操作的一个或多个客户端装置106相关联的场境信号或线索(例如，图2中的传感器数据204)。假设特定消息交换话题参与者倾向于在特定时刻期间和/或在参与者处于特定位置中的同时手动地使消息交换客户端转变到私密状态。在各种实施方式中，在那些相同的时刻期间和/或在参与者处于相同的特定位置中的同时，可以自动地使参与者的消息交换客户端转变成私密状态。
在一些实施方式中，在客户端装置106上操作的一个或多个应用的状态也可以用于确定正在进行的消息交换话题的内容很可能会被至少一个消息交换话题参与者视为敏感的可能性。假设在客户端装置106上操作消息交换客户端107的特定消息交换话题参与者也使web浏览器打开客户端装置106，并且该web浏览器被手动地转变到私密状态。在一些实施方式中，特别是如果参与者(或参与者一般地)倾向于当在私密状态下浏览的同时使消息交换客户端107转变成私密状态，则web浏览器当前处于私密状态的事实可以(单独或与本文中所描述的其它信号相结合地)触发消息交换客户端也转变到私密状态。更一般地，在一些实施方式中，当消息交换客户端107被转变成私密状态(通过消息交换参与者手动地或者在没有负反馈的情况下自动地)时，在参与者的客户端装置106上操作的一个或多个其它应用的一个或多个状态可以被用作向量的特征，所述向量被用作训练示例来(进一步)对机器学习模型进行训练。
也可以在确定一个或多个消息交换话题参与者会将消息交换话题内容视为敏感的可能性时考虑文档(例如，图2中的208)的各个方面。假设用户使文档被存储在他的客户端装置106上(和/或在云存储部中)，并且该文档被配置有具有严格的安全保护(例如，受密码保护、有限数目能够访问的用户、被加密等)。在一些实施方式中，与该文档和/或其元数据相关联的话题可以基于严格的安全保护被标记为敏感的。在一些实施方式中，在消息交换话题中通过文档的所有者对此类话题的讨论可以触发由所有者操作的消息交换客户端107转变成私密状态。附加地或可替选地，如果文档所有者或另一消息交换话题在消息交换话题中具体地引用文档(例如，提供到文档的链接、访问文档的许可等)，则可以使由消息交换话题的参与者操作的一个或多个消息交换客户端107转变成私密状态。
虽然本文中所描述的示例通常已包括多个人类消息交换话题参与者，但是这不意在为限制性的。如上面所指出的，在一些实施方式中，消息交换话题可以存在于单个人类参与者与非人类参与者(诸如自动化助理)之间。在一些此类实施方式中，可以采用本文中所描述的技术来自动地使由人类参与者使用的消息交换客户端转变成私密状态，例如，以避免存留或者使与自动化助理交换的消息模糊。
在一些实施方式中，可能的是本文中所描述的技术能用于模糊或者以其它方式避免存留在纯粹非人类参与者之间交换的消息。例如，在与不同的应用、域(例如，与食品递送自动化助理交换消息的个人自动化助理)等相关联的多个自动化助理之间交换的消息能基于包含很可能被视为对一个或多个人类(例如，自动化助理中的一个或多个正代表其行动的用户和/或由自动化助理中的一个或多个服务的用户)敏感的内容的消息被模糊和/或不存储。
假设第一个人正在购买第二个人的生日礼物。还假设两个人倾向于与例如由住所中的独立交互式扬声器操作的同一自动化助理交互。如果第一个人参与利用自动化助理的人对计算机对话以搜索适合的生日礼物，则第一个人很可能会将与自动化助理交换的任何消息视为敏感的，因为第一个人将不想要第二个人得知(consume)内容。因此，自动化助理可以例如响应于诸如“birthdaypresent(生日礼物)”的说出的n-gram和第二个人的身份或者响应于像“whatshouldigotaliceforherbirthday(我应该给爱丽丝买什么生日礼物)？”一样的发言而转变成自动化助理停止存留第一个人和自动化助理之间的人对计算机对话的内容的私密状态。附加地或可替选地，如果第一个人使用诸如消息交换客户端107的图形用户界面来与自动化助理交谈，则消息交换客户端107可以转变成私密状态。当例如人类讨论潜在敏感的话题(诸如财务、健康或者已知或学习为敏感的其它话题)时，可能在人对计算机对话期间发生变成私密状态的类似转变。
图5是图示根据本文中所公开的实施方式的确定消息交换话题的内容会被一个或多个参与者视为敏感的并且使一个或多个消息交换客户端或其它组件转变成私密状态的可能性的示例方法500的流程图。为了方便，参考执行操作的系统对流程图的操作进行描述。此系统可以包括各种计算机系统的各种组件，诸如隐私状态系统120的一个或多个组件。此外，当以特定次序示出方法500的操作的同时，这不意在为限制性的。可以对一个或多个操作进行重新排序、省略或添加。
在块502处，系统检查正在进行的消息交换话题的内容。如上面所指出的，在一些实施方式中，系统可以使用滑动窗口来检查正在进行的消息交换话题的特定部分。在各种实施方式中，可以在时间上和/或在空间上确定滑动窗口的大小。例如，被检查内容的滑动窗口可以仅包括来自最后x分钟的内容、最后y个消息等(其中x和y是非零整数)。在其它实施方式中，可以检查并入到消息交换话题中的每个消息或甚至每个消息的各部分。在各种实施方式中，消息交换参与者可以具有禁用此检查(这将防止方法500的剩余操作被执行)的选项。
在块504处，系统可以至少部分地基于块502的检查来确定消息交换话题的内容会被一个或多个消息交换话题参与者视为敏感的可能性。在一些实施方式中，可以单独基于消息交换话题的内容(例如，隐私触发短语、n-gram的各种组合、敏感的讨论话题等)来确定此可能性。在其它实施方式中，可以附加地基于其它信号来确定此可能性，所述其它信号诸如来自由消息交换话题参与者操作的一个或多个客户端装置的传感器数据、由一个或多个消息交换参与者存储或者以其它方式控制的文档、一个或多个消息交换话题参与者的历史行为(例如，在什么情况下使参与者手动地触发转变成私密状态或者不反对自动转变到私密状态)等。如上面所指出的，在一些实施方式中，各种输入可以取自消息交换话题内容和/或取自这些其它信号并且被作为输入应用于机器学习模型。可以对机器学习模型进行训练以提供指示可能性的输出。
在块506处，系统可以确定在块504处确定的可能性是否满足第一阈值。如果回答为否(例如，任何参与者会将消息交换话题内容视为敏感的可能性相对较低)，则方法500可以继续回到块502，并且对消息交换话题内容的检查可以重新开始。然而，如果块506处的回答为是，则方法500可以进行到块508。在块508处，系统可以确定在块504处确定的可能性是否满足第二阈值，所述第二阈值在许多情况下可以比与块506相关联的第一阈值高。如果块508处的回答为是(例如，消息交换内容非常可能被视为对一个或消息交换话题参与者敏感)，则方法500可以进行到块510。在块510处，可以自动地使由一个或多个消息交换话题参与者操作的一个或多个消息交换客户端转变到消息交换话题的内容被模糊或者不保留的私密状态。
另一方面，如果块508处的回答为否(例如，存在消息交换话题参与者会将消息交换话题内容视为敏感的可能性但该可能性不确定如此高)，则方法500可以进行到块512。在块512处，从一个或多个消息交换话题参与者请求使消息交换客户端转变成私密状态的许可的提示可以例如由一个消息交换客户端作为可听输出或视觉输出来提供。在块514处，如果参与者授予所请求的许可，则方法500可以进行到先前所描述的块510。如果块514处的回答为否，则方法500可以继续回到块502，并且可以不触发变成私密状态的转变。
回到块510，在一些实施方式中，系统可以向正被使用来参与消息交换话题的其它消息交换客户端(或更一般地，客户端装置)发送或者使一个或多个消息交换客户端发送一个或多个隐私命令。这些隐私命令可以使接收方消息交换客户端(或更一般地，接收方客户端装置)转变(例如，自动地或者响应于用户在提示时提供许可)成私密状态。虽然在图5中未描绘，但是在一些实施方式中，隐私命令到各种消息交换客户端的传输可以以块504处所确定的可能性为条件。如果可能性满足特定阈值(例如，与块508相关联的第二阈值)，则可以自动地发送隐私命令。然而，如果可能性未能满足这样的阈值，则可以仅响应于参与者授予这种许可(例如，响应于请求这种许可的提示)而发送隐私命令。
除为了使消息交换客户端转变成私密状态的许可而提示消息交换话题参与者之外或者代替为了使消息交换客户端转变成私密状态的许可而提示消息交换话题参与者，在一些实施方式中，可以自动地使消息交换客户端转变，然后参与者可以有机会提供关于自动转变的反馈。例如，可以例如经由可听输出或视觉输出通知用户他们的客户端装置和/或消息交换客户端已转变成私密状态。参与者然后可以提供反馈，诸如手动地转变回成非私密状态或者提供指示不赞成转变的其它输入。基于此反馈，系统可以“学习”(例如，通过使用该实例作为机器学习模型训练示例的基础)在当前情况下，参与者不希望转变成私密状态。当然，与图5中所描绘的那些技术类似的技术可以用于使消息交换客户端(或更一般地，客户端装置)脱离私密状态并变成非私密(或不太私密)状态。
在各种实施方式中，消息交换客户端可以连同任何数目的其它应用一起在客户端装置上操作。在一些实施方式中，这些其它(例如，第三方)应用中的一个或多个可以能够“监听”由消息交换客户端参与的消息交换话题。例如，外卖订购应用可以监听用户之间的消息交换话题以确定例如用户是否在讨论晚餐(在此情况下外卖订购应用可以加入消息交换话题并提供来下外卖订单)。作为另一示例，在一些实施方式中，一个或多个搜索应用可能正在监听消息交换话题以确定是否使用交换内容来准备并提交搜索查询。在任何情况下，在一些实施方式中，如果消息交换中的参与者被确定为在讨论潜在敏感的信息，从而使一个或多个消息交换客户端转变成私密状态，则消息交换话题的内容可以被模糊或者否则不提供给此类第三方应用。
图6是可以可选地被利用来执行本文中所描述的技术的一个或多个方面的示例计算装置610的框图。在一些实施方式中，客户端计算装置1061-n、隐私状态系统120和/或其它组件中的一个或多个可以包括示例计算装置610的一个或多个组件。
计算装置610通常包括经由总线子系统612与多个外围装置进行通信的至少一个处理器614。这些外围装置可以包括存储子系统624(包括例如存储器子系统625和文件存储子系统626)、用户接口输出装置620、用户接口输入装置622和网络接口子系统616。输入和输出装置允许用户与计算装置610交互。网络接口子系统616提供到外部网络的接口并耦接到其它计算装置中的对应接口装置。
用户接口输入装置622可以包括键盘、指点装置(诸如鼠标、轨迹球、触摸板或图形平板)、扫描仪、并入到显示器中的触摸屏、语音输入装置(诸如语音识别系统、麦克风的音频输入装置和/或其它类型的输入装置)。一般而言，术语“输入装置”的使用旨在包括用于将信息输入到计算装置610中或到通信网络上的所有可能类型的装置和方式。
用户接口输出装置620可以包括显示子系统、打印机、传真机，或非视觉显示器(诸如音频输出装置)。显示子系统可以包括阴极射线管(crt)、平板装置(诸如液晶显示器(lcd))、投影装置或用于创建可见图像的某个其它机构。显示子系统还可以诸如经由音频输出装置提供非视觉显示。一般而言，术语“输出装置”的使用旨在包括用于从计算装置610向用户或者向另一机器或计算装置输出信息的所有可能类型的装置和方式。
存储子系统624存储提供本文中所描述的模块中的一些或全部的功能性的编程和数据结构。例如，存储子系统624可以包括用于执行图5的方法500的所选方面的逻辑。
这些软件模块通常由处理器614单独或与其它处理器相结合地执行。在存储子系统624中使用的存储器625可包括许多存储器，包括用于在程序执行期间存储指令和数据的主随机存取存储器(ram)630和存储固定指令的只读存储器(rom)632。文件存储子系统626可为程序和数据文件提供持久存储，并且可以包括硬盘驱动器、软盘驱动器以及相关联的可移动介质、cd-rom驱动器、光驱或可移动介质盒。实施特定实施方式的功能性的模块可以由存储子系统624中的文件存储子系统626来存储，或者存储在可由处理器614访问的其它机器中。
总线子系统612提供用于让计算装置610的各种组件和子系统按预期彼此通信的机制。尽管总线子系统612被示意性地示出为单条总线，然而该总线子系统的替代实施方式可以使用多条总线。
计算装置610可具有变化类型，包括工作站、服务器、计算集群、刀片服务器、服务器场或任何其它数据处理系统或计算装置。由于计算机和网络的不断变化的性质，所以图6中所描绘的计算装置610的描述仅作为特定示例意出于图示一些实施方式的目的使用。计算装置610的许多其它配置可以具有比图6中所描绘的计算装置更多或更少的组件。
在本文中所描述的系统收集或者以其它方式监视关于用户的个人信息或者可以利用个人和/或监视的信息(例如，在消息交换话题中交换的消息)的情形下，可以给用户提供用于控制程序或特征是否收集用户信息(例如，关于用户的社交网络、社交动作或活动、职业、用户的偏好或用户的当前地理位置的信息)或者用于控制是否和/或如何从内容服务器接收可能与用户更相关的内容的机会。另外，特定数据可以在它被存储或者使用之前被以一个或多个方式处理，使得个人可标识的信息被移除。例如，可以对用户的身份进行处理，使得对该用户来说不可确定个人可标识的信息，或者可以在获得了地理位置信息的情况下使用户的地理位置一般化(诸如到城市、邮政编码或州级别)，使得不可确定用户的特定地理位置。因此，用户可以控制信息如何关于用户被收集和/或使用。例如，在一些实施方式中，操作被配置有本公开的所选方面的消息交换客户端的消息交换话题参与者可以选择不监视消息交换话题内容，例如，使得期望使消息交换客户端转变成私密状态或者脱离私密状态的参与者会手动地这样做。
虽然已经在本文中描述并图示了数个实施方式，但是可以利用用于执行功能且/或获得本文中所描述的结果和/或一个或多个优点的各种其它手段和/或结构，并且此类变化和/或修改中的每一个被视为在本文中所描述的实施方式的范围内。更一般地，本文中所描述的所有参数、尺寸、材料和配置意在为示例性的，并且实际的参数、尺寸、材料和/或配置将取决于教导被用于的一个或多个具体应用。本领域的技术人员将认识到或者能够使用不超过例行实验来探知本文中所描述的具体实施方式的许多等同物。因此，应当理解，上述实施方式仅通过示例来呈现并且在所附权利要求及其等同物的范围内，可以以除具体地描述和要求保护外的其它方式实践实施方式。本公开的实施方式致力于本文中所描述的每个单独的特征、系统、物品、材料、成套工具和/或方法。此外，两个或更多个此类特征、系统、物品、材料、成套工具和/或方法的任何组合在此类特征、系统、物品、材料、成套工具和/或方法不相互矛盾的情况下被包括在本公开的范围内。