确定电子通信的内容特性的状态的制作方法

1.一些实施例涉及分析电子通信。一些实施例涉及基于自然语言模型来评估实时电子消息的内容特性状态(例如，性别中立或成长心态)，以及基于对内容特性状态的评估来执行动作，诸如向用户显示所述评估以启用校正。一些实施例涉及训练用于评估内容特性状态的自然语言模型。一些实施例涉及提供用于评估创建新的内容特性状态和评估所述内容特性的手段。


背景技术：

2.公司的用户或雇员常常必须编写许多电子通信，例如，使用电子邮件或即时消息传递。员工可能难以遵守关于电子通信的内容的企业文化政策，例如性别中立。另外，在发送电子通信之前，可能难以评估电子通信的内容以向用户或雇员给出反馈。此外，由于拼写分析或语法分析不足以确定关于内容特性状态的电子消息的含义，因此评估电子消息的内容特性状态可能是困难的。
附图说明
3.在附图的图中，通过示例而非限制的方式图示了本公开，在附图中，相似的附图标记指示相似的元件，并且其中：
4.图1图示了根据一些实施例的用于确定电子消息的内容特性状态的系统；
5.图2图示了根据一些实施例的确定电子消息的内容特性状态的系统；
6.图3图示了根据一些实施例的用户界面；
7.图4图示了根据一些实施例的语言理解；
8.图5图示了根据一些实施例的评分引擎；
9.图6图示了根据一些实施例的训练短语；
10.图7图示了根据一些实施例的用于成长心态状态的短语的示例；
11.图8、9和10图示了根据一些实施例的用于成长心态状态的短语的示例；
12.图11图示了根据一些实施例的用于确定电子通信的内容特性的状态的方法；以及
13.图12图示了可以在其上执行在本文中所讨论的技术(例如，方法)中的任意一种或多种技术的示例性机器的框图。
具体实施方式
14.以下描述和附图充分图示了特定实施例，以使得本领域技术人员能够实践所述特定实施例。其他实施例可以并入结构、逻辑、电气、过程和其他变化。一些实施例的部分和特征可以被包含在其他实施例的那些部分和特征中，或者代替其他实施例的那些部分和特征。在权利要求中所阐述的实施例涵盖了那些权利要求的所有可用等效物。
15.一些实施例涉及确定电子通信的内容特性状态的分数。电子通信(例如，电子邮件、即时消息等)可以包括文本(例如，句子和短语)。所述内容特性可以包括性别中立(其可
以被称为多样性和包容性)、成长心态、情绪分数等。所述内容特性的状态可以通过分数或概率来估计。
16.一些实施例通过使用训练短语训练自然语言模型来提供对所述内容特性的状态的更准确的确定，所述训练短语提供三组训练短语：所述内容特性的肯定状态(例如，性别中立状态)、所述内容特性的否定状态(例如，性别偏见状态)、以及不适用于所述内容特性的状态(例如，不适用于性别中立状态或性别偏见状态)。所述短语可以是诸如自然语言短语的文本或者与内容特性状态(例如，肯定状态、否定状态或者不适用于肯定状态或否定状态)配对的另一通信项目(例如，表情符号)。
17.例如，为了训练用于确定针对文本的性别中立状态(内容特性状态)的概率或分数的自然语言模型，提供了三组训练短语，包括性别偏见状态短语、性别中立状态短语、以及不适用于性别偏见状态或性别中立状态短语。在另一示例中，为了训练用于确定针对文本的成长心态状态(内容特性状态)的概率的自然语言模型，提供了三组训练短语，包括固定心态状态短语、成长心态状态短语、以及不适用于固定心态状态或成长心态状态短语。
18.利用所述三种类型的短语训练自然语言模型提供了确定电子通信的内容特性状态的概率的技术方案。在一些实施例中，将单独的自然语言模型用于所述三种类型的短语中的每一种。可以将所述三种类型的内容特性状态的概率进行组合以确定针对内容特性状态(例如，性别中立或成长心态)的分数。
19.可以在发送电子通信之前将针对内容特性状态的分数显示给所述电子通信的用户或作者。这可以使得用户能够编辑所述电子通信以提高所述电子通信的内容特性状态的分数。向用户显示分数可以使得用户或雇员遵守针对电子通信的内容特性状态的策略。例如，其可以使得雇员编写出性别中立和/或具有成长心态的电子通信。发送符合适当内容特性状态的电子通信可能与发送不包含拼写错误或语法错误的电子通信一样重要。
20.图1图示了根据一些实施例的用于确定电子通信的内容特性状态的状态的系统100。在图1中图示了用户界面102、评分引擎104和语言理解106。文本108被从用户界面102发送到评分引擎104，评分引擎104可以将文本108解析为短语116，并且评分引擎104将短语116发送给语言理解106。语言理解106可以基于短语116，使用一种或多种自然语言模型127来确定内容特性状态132的概率。
21.内容特性状态的概率132可以包括多样性和包容性(例如，性别中立状态)状态的概率128、成长心态状态的概率130以及情绪分数134。
22.评分引擎104可以接收性别中立状态的概率128、成长心态状态的概率130以及情绪分数134中的一项或多项，并且确定针对性别中立状态的分数120、针对成长心态状态的分数122以及经调整的情绪分数124。用户界面102可以接收针对性别中立状态的分数120、针对成长心态状态的分数122和经调整的情绪分数124中的一项或多项。用户界面102可以针对文本108或者文本108的一部分向用户(未图示出)显示(例如，图3的314、316、318)针对性别中立状态的分数120(这可以被显示为由用户消费的“多样性和包容性分数”)、针对成长心态状态的分数122以及经调整的情绪分数124中的一项或多项。
23.用户界面102可以包括文本108、用户界面元素110和电子通信111。图3图示了用户界面102的示例。用户界面102可以是应用(例如，结合图2所描述的应用204)的一部分。文本108可以是由用户输入或接收的文本。文本108可以是电子消息。例如，文本108可以被输入
到电子邮件或即时消息程序(例如，应用204)中以发送给其他用户。文本108可以包括短语116。短语116可以是句子。文本108和/或短语116可以包括图标、表情符号、视频以及其他非文本元素，其可以例如被包含在电子邮件、文字处理文档、幻灯片演示文档或电子表格文档中。用户界面元素110可以包括诸如按钮、幻灯片、菜单、文本框等的交互元素。例如，参考图3，如果用户选择活态文化304(按钮)(图3)，则用户界面102将向评分引擎104发送文本108，并且在用户界面300上显示结果(例如314、316和318)(其可以被显示在用户的屏幕或演示设备上)。术语“活态文化”可以指代在组织文化的上下文内评估文本108的内容特性状态。可以为活态文化使用不同的术语。术语“活态文化”可能意指提醒或鼓励用户确保电子通信111将具有可接受的内容特性状态，这可以类似于文本108的拼写检查或语法检查。
24.例如，用户可能不关心发给朋友的电子邮件是否具有较低的成长心态状态的分数122；然而，用户可能希望确保发给同事的电子邮件具有可接受的针对成长心态状态的分数122。用户界面300可以被配置为使得用户能够输入和编辑文本108并且将文本108发送给评分引擎104并且显示结果，例如，针对性别中立状态的分数120、针对成长心态状态的分数122和经调整的情绪分数124。电子通信111可以是发送文本108的通信，例如，包括文本108的电子邮件(例如，如果选择了图3的发送310)。在一些实施例中，评分引擎104和/或语言理解106的功能中的一项或多项功能可以由用户界面102来执行。在一些实施例中，在本文中所描述的一项或多项功能可以不由用户界面102来执行。
25.评分引擎104可以包括解析器112和训练短语118、内容特性状态131。内容特性状态131可以包括针对性别中立状态的分数120、针对成长心态状态的分数122以及经调整的情绪分数124。评分引擎104可以从用户界面102接收文本108。解析器112可以获取文本108并且将文本108解析为短语116。解析器112可以解析文本108的其他非文本元素，诸如图标、表情符号等。评分引擎104可以向语言理解106发送一个或多个短语116。训练短语118可以是结合图6所公开的训练短语118。例如，训练短语118可以使短语(例如，短语116)与内容特性状态(例如，性别偏见状态604)相关。评分引擎104可以将训练短语118发送给语言理解106以训练自然语言模型127(例如，神经网络、回归模型等)。评分引擎104可以将文本108发送给语言理解106。包括自然语言模型127的语言理解106可以返回内容特性状态132的概率。
26.评分引擎104可以基于性别中立状态的概率128来确定针对性别中立状态的分数120，如结合图5所公开的。评分引擎104可以基于成长心态状态的概率130来确定针对成长心态状态的分数122，如结合图5所公开的。评分引擎104可以基于情绪分数134来确定经调整的情绪分数124，如结合图5所公开的。评分引擎104可以响应于接收文本108而将针对性别中立状态的分数120、针对成长心态状态的分数122以及经调整的情绪分数124中的一项或多项发送到用户界面102。在一些实施例中，评分引擎104可以执行用户界面102和/或语言理解106的功能中的一项或多项功能。在一些实施例中，评分引擎104可以执行比在本文所描述的功能更少的功能。
27.语言理解106可以包括自然语言模型127、内容特性状态的概率132，所述概率可以包括性别中立状态的概率128、成长心态状态的概率130、情绪分数134。语言理解106可以从评分引擎104接收文本108和/或短语116。语言理解106可以基于文本108或短语116以及利用训练短语118训练的自然语言模型127来确定性别中立状态的概率128、成长心态状态的
概率130、情绪分数134中的一项或多项。例如，自然语言模型127可以使用回归模型或神经网络基于如结合图4所公开的自然语言模型127来确定性别中立状态的概率128、成长心态状态的概率130、情绪分数134。语言理解106可以将性别中立状态的概率128、成长心态状态的概率130、情绪分数134中的一项或多项发送到评分引擎104。在一些实施例中，语言理解106可以执行用户界面102和/或评分引擎104的功能中的一项或多项功能。在一些实施例中，语言理解106可以执行比在本文中所描述的更少的功能。
28.图2图示了根据一些实施例的确定电子消息的内容特性状态的系统200。在图2图示了应用204、活动目录206、评分引擎104、应用(app)服务202、语言理解106以及链接251、252、253、254。应用204可以包括用户界面102。应用204可以在用户的计算设备(例如，如结合图12所描述的)上运行。应用204可以是例如在浏览器内(例如，internetgoogle)运行、在计算备上本地运行的基于网络的应用，和/或与一些网络部分组合地在本地运行的应用204。示例性应用204包括电子邮件应用(例如，)、文字处理应用(例如，)、幻灯片演示应用(例如，)、电子表格应用(例如，)或者另一microsoft应用。额外示例包括skype formicrosoftandroidapple等。
29.应用204可以经由链接251来访问活动目录206。活动目录206(例如，active directory或amazon web(aws)directory service)可以包括应用程序接口，以使得应用204能够远程地调用驻留在远程服务器上的应用。链接251、252、253和254可以是本地链接或者通过网络的连接，例如，互联网或局域网(lan)(例如，如结合图12所公开的网络1226)。根据一些实施例，应用204可以使用活动目录206来将文本108(例如，响应于来自用户界面102的请求)发送给评分引擎104。评分引擎104可以是在基于云的应用服务框架(例如，或amazon web)内运行的应用。评分引擎104可以经由链接252将内容特性状态的概率132返回给应用204或用户界面102，链接252可以通过活动目录206和链接251。
30.评分引擎104可以经由链接250.3利用文本108、句子116和训练话语118中的一项或多项来调用语言理解106。app服务202可以是基于服务器的应用服务(例如，)。app服务202可以使得评分引擎104能够调用语言理解106。app服务202和语言理解106可以经由链接254进行通信。语言理解106可以经由链接254将内容特性状态的概率132发送给评分引擎104，这可以经由app服务202和链接253。链接251、252、253和254，应用204，活动目录206，评分引擎104，app服务202和语言理解106可以利用不同的链接251、252、253和254，并且利用不同分布的功能进行不同的组织。在一些实施例中，可以将应用204、活动目录206、评分引擎104、app服务202和语言理解106中的一个或多个设置为软件即服务。
31.图3图示了根据一些实施例的用户界面300。用户界面300可以与用户界面102相同或相似。用户界面300可以包括控件302、活态文化304、到306、复本(“cc”)308、发送310、主题312、多样性和包容性分数314、成长心态分数316、情绪分数318、电子邮件文本320、短语322、所选择的文本324和状态指示326。
32.用户界面300可以用于诸如电子邮件应用之类的应用(例如，204)。控件302可以是
诸如用于保存、删除、发送、接收、改变视图等的菜单之类的控件。活态文化304可以是用于调用评分引擎104以返回针对所选择的文本324的针对多样性和包容性的分数120、针对成长心态状态的分数122以及经调整的情绪分数124中的一项或多项的按钮。活态文化304可以是通过点击或按压按钮而激活的按钮。可以以其他方式(例如，通过键盘快捷键、语音命令、菜单项等)来激活活态文化304。在一些实施例中，可能不需要为待确定的分数314、316、318而调用活态文化304。例如，用户界面300可以自动地确定针对所选择的文本324的分数(例如，314、316、318)，或者基于诸如句子322或段落(未图示出)之类的事件被完成。到306指示电子邮件的接收者307，并且cc 308指示电子邮件的复本接收者309。在一些实施例中，活态文化304可以具有不同的名称，或者可以被并入到诸如拼写检查器之类的其他特征中。主题312指示主题313的文本。多样性和包容性分数314、成长心态分数316和情绪分数318指示针对电子邮件320的文本或电子邮件320的文本的一部分(例如，短语322、所选择的文本324和/或主题313的文本)的分数。
33.电子邮件320的文本可以是电子邮件的文本，其可以与文本108相同或相似。电子邮件320的文本可以包括主题313的文本、接收者307和cc接收者309。所选择的文本324可以指示电子邮件320的文本中被用于分数的部分(例如，314、316、318)。根据一些实施例，用户(未图示出)可以为所选择的文本324选择不同的文本。在一些实施例中，所选择的文本324可以默认为电子邮件320的所有文本。短语322可以与短语116相同或相似。
34.状态指示326可以是所述分数中的一个或多个分数的指示(314、316、318)，例如，状态指示326可以将短语322变为绿色以指示针对分数314、316、318中的一个或多个分数中高于阈值的分数(例如，50％、55％、60％等)。状态指示326可以是分数(314、316、318)中的一个或多个分数的指示，例如，状态指示326可以将句子322变成红色或黄色，以指示针对分数314、316、318中的一个或多个分数中低于阈值的分数(例如40％、35％、30％等)。
35.状态指示326可以是图标，例如，在句子322之后拇指向上，以指示针对分数314、316、318中的一个或多个分数中高于阈值的分数(例如，50％，55％，60％等)。状态指示326可以是图标，例如，在句子322之后拇指向下以指示针对分数314、316、318中的一个或多个分数中低于阈值的分数(例如，30％、25％、20％等)。状态指示326可以是所述分数中的一个或多个分数(例如，314、316、318)的另一种指示。
36.多样性和包容性分数314可以与针对性别中立状态的分数120相同或相似。多样性和包容性可以被用作对用户更友好的标签。成长心态分数316可以与针对成长心态状态的分数122相同或相似。情绪分数318可以与经调整的情绪分数124相同或相似。在一些实施例中，条的长度指示分数(例如，29％、1.1％和99％)。可以根据分数的值对条进行着色，例如，针对大于60％为绿色表示、针对40％-60％为黄色、而针对小于40％为红色。其他阈值也可以被用于确定条的颜色。
37.多样性和包容性分数314、成长心态分数316和情绪分数318中的一项或多项可能不显示，或者都不显示。所选择的文本324可以通过突出显示来指示，以动态地向用户指示分数(例如，314、316和318)适用于电子邮件320的文本的哪部分。在一些实施例中，界面300可以监视用户输入短语322，并且在分数(例如，314、316和318)低于阈值时指示问题。例如，用户可以输入“雇员应当向她的经理报告任何错误”。由于使用“她的经理”，该短语可以被指示为分数低于多样性和包容性分数314的阈值。作为示例，界面300可以将所述短语变为
黄色或红色，或者界面300突出显示所述句子并且指示针对短语的分数314、316或318，从而用户可以识别问题并且在需要时进行校正。
38.在一些实施例中，可以将不同名称用于多样性和包容性分数314、成长心态分数316和情绪分数318中的一项或多项。例如，替代“成长心态分数”，可以使用成长心态概率。作为另一示例，可以简单地将“心态”或“学习的意愿”用于成长心态分数316。本领域技术人员将容易确定其他名称。
39.图4图示了根据一些实施例的语言理解106。在图4中图示了训练短语118、文本108、语言理解106、情绪分数134、性别中立状态的概率128以及成长心态状态的概率130。训练短语118可以与结合图1和图6所公开的训练短语118相同或相似。文本108可以与如在本文中所公开(例如，图1和3)的文本108、所选择的文本324和电子邮件320的文本相同或相似。语言理解106可以与如在本文中所公开(例如，图1)的语言理解106相同或相似。语言理解106可以包括自然语言模型127、解析规则402、回归规则404和匹配规则405。语言理解106可以使用训练短语118来训练自然语言模型127，例如，自然语言模型127可以是神经网络、回归网络或者其他结构。解析规则402可以采用文本108或短语116，并且针对自然语言模型127适当地解析文本108或短语116。
40.语言理解106可以使用回归规则404和训练短语118来训练自然语言模型127。语言理解106可以使用回归规则404来利用文本108或短语116来执行神经网络仿真、回归或者另一种方法，以确定情绪分数134、性别中立状态的概率128和针对成长心态状态的概率130。
41.语言理解106确定性别中立状态的概率128，其可以包括性别偏见状态的概率406、性别中立状态的概率408以及不适用于性别偏见状态或性别中立状态的概率410。
42.语言理解106确定成长心态状态的概率130，其可以包括固定心态状态的概率412、成长心态状态的概率414以及不适用于固定心态状态或成长心态状态的概率。
43.语言理解106可以使用神经网络、回归网络或者其他结构基于训练短语118以及文本108或短语116可以与训练短语118匹配(或确定相似度)的程度来确定概率406、408、410、412、414和416。
44.训练短语118可以包括结合图6所公开的训练短语119和内容特性状态121。指示训练短语119具有内容特性状态121。语言理解106可以通过将训练短语119馈送到当前自然语言模型127中以接收针对训练短语119的概率(406、408和410；以及412、414和416)来训练自然语言模型127。然后，语言理解106可以调整权重(未图示出)(例如，使用回归规则)，以使得概率(406、408和410；以及412、414和416)同意或更接近同意内容特性状态121。语言理解106可以重复所述过程，并且将训练短语118重复地馈送到自然语言模型127中以调整权重，从而使自然语言模型127的输出更接近同意与训练短语119相耦合的内容特性状态121。
45.语言理解106可以使用匹配规则405来确定概率和/或确定短语116与自然语言模型127的匹配程度。匹配规则405可以包括使得语言理解106能够将短语116与自然语言模型127相匹配的规则，例如，确定短语116的哪些部分是专有名词的规则，可以跳过短语116的部分的规则，诸如可能与自然语言模型127不相关的介词短语等。在一些实施例中，语言理解106为每个内容特性状态121维护三个自然语言模型127，例如，性别偏见概率406、性别中立概率408以及不适用于性别偏见状态或性别中立状态的概率410。语言理解106然后可以将内容特性状态121识别为与三个自然语言模型127之一相匹配(即，内容特性状态121是性
别中性状态、性别偏见状态或不适用于性别中性状态或性别偏见状态之一)。然后，语言理解106可以将训练短语119用作针对内容特性状态121的自然语言模型127的肯定示例，以及用作针对其他两个自然语言模型127的否定示例。
46.在一些实施例中，语言理解106可以在逐短语的基础上确定概率(406、408和410；以及412、414和416)，其中，每个短语116被馈送到经训练的自然语言模型127网络(例如，神经网络或回归网络)，并且针对短语116的概率(406、408和410；以及412、414和416)是基于将短语116馈送到经训练的自然语言中的结果来确定的。在一些实施例中，针对每种类型的概率(406、408和410；以及412、414和416)，可能存在单独的经训练的自然语言模型127。返回到评分引擎104的最终概率(128、130)可以是文本108的综合分数。
47.此外，语言理解106可以比较每组中的三个概率(例如，406、408、410和412、414、416)，以确定针对所述组中的每个成员的概率。例如，如果一个概率(406、408、410、412、414和416)高于阈值，则这可以降低所述组中的其他两个成员的概率。语言理解106可以被配置为基于每组中的至少三个概率来确定概率(406、408、410、412、414和416)(例如，被图示为两个组，其中，每组具有三个成员：406、408和410；以及412、414和416)。在一些实施例中，语言理解106可以将短语116与三个自然语言模型127中的每个自然语言模型一起应用以导出三个概率(406、408和410；以及412、414和416)，并且选择所述三个概率中的最高概率并且将其他概率设置为零。在一些实施例中，语言理解106可以调整概率(406、408和410；以及412、414和416)的分数，使得三个组的概率之和不大于一，例如，概率(406、408和410；以及412、414和416)可以被归一化。
48.语言理解106可以针对不同情绪(未图示出)来确定基于情绪分数134的训练短语118，其可以是肯定的、否定的和不适用的。语言理解106可以将概率406、408、410、412、414和416发送给评分引擎104。
49.图5图示了根据一些实施例的评分引擎104。在图5图示了性别中立状态的概率128、成长心态状态的概率130、情绪分数134，针对性别中立状态的分数120、针对成长心态状态的分数122以及经调整的情绪分数124。
50.评分引擎104可以接收性别中立状态128的概率，其可以是针对一个或多个短语116的概率，并且确定针对性别中立状态的分数120。针对性别中立状态的分数120可以基于性别中立状态的概率406、性别中立状态的概率408以及不适用于性别偏见状态或性别中立状态的概率410。
51.用于确定分数的规则109可以包括用于确定分数的一个或多个规则(例如，120、122或124)。在示例性规则中，评分引擎104可以基于正概率(例如，性别中立状态的概率408)的比例来确定针对性别中立状态120的分数，例如，性别中立状态的概率408除以性别偏见状态的概率406、性别中立状态的概率408以及不适用于性别偏见状态或性别中立状态的概率410之和。
52.评分引擎104可以接收可以针对一个或多个句子116的成长心态状态130的意图概率，并且确定针对成长心态状态的分数122。针对成长心态状态的分数122可以基于固定心态状态的概率412、成长心态状态的概率414以及不适用于固定心态状态或成长心态状态的概率416。评分引擎104可以使用用于确定分数的规则109中的规则来确定针对成长心态状态的分数122中的分数。例如，评分引擎104可以基于正概率(例如，成长心态状态的概率
414)的比例来确定针对成长心态状态的分数122，例如，成长心态状态的概率414除以固定心态状态的概率412、成长心态状态的概率414以及不适用于固定心态状态或成长心态状态的概率416之和。
53.评分引擎104可以基于情绪分数134和用于确定分数的规则109来确定经调整的情绪分数124。例如，如果针对性别中立状态的分数120和/或针对成长心态状态的分数122低于阈值(例如，60％)，则评分引擎104使用用于确定分数的规则109中的规则来减小情绪分数134。在另一示例中，如果性针对别中立状态的分数120和/或针对成长心态状态的分数122高于另一阈值(例如，80％)，则评分引擎104可以增大情绪分数134。
54.图6图示了根据一些实施例的训练短语118。训练短语118可以是数据结构(例如，可以包括与内容特性状态121相耦合的短语的模式)。在图6中图示了用于针对性别中立状态的短语602和针对成长心态状态的短语610。
55.针对性别中立状态的短语602包括与性别偏见状态604、性别中立状态606和不适用于性别偏见状态或性别中立状态608相耦合的训练短语118。根据一些实施例，针对性别中立状态的短语602可以被用于训练三个自然语言模型127。
56.针对生长心态状态的短语610包括与固定心态状态612、生长心态状态614以及不适用于固定心态状态或生长心态状态616相耦合的训练短语118。根据一些实施例，针对生长心态状态的短语610可以被用于训练三个自然语言模型127。
57.图7图示了根据一些实施例的用于成长心态状态的短语700的示例。针对成长心态状态的短语700可以是用于语言理解106以用于训练自然语言模型127的脚本。图7可以是诸如模式的数据结构。在数据结构702处图示了具有成长心态状态614的训练短语118，“{'文本'：'我需要学习解决这个难题'，'意图'：'growthmindset'，'实体'：[]}”。“文本”指示话语是文本。短语(注意，在针对成长心态状态的短语700中使用了话语，而不是短语)是“我需要学习解决这个难题”。话语可以与短语相同或相似。意图可以指示内容特性状态121。内容特性状态121是“growthmindset”(成长心态状态614)。并且，“实体”是脚本的指示。与该短语相匹配的短语116具有针对成长心态状态614的更高概率。
[0058]
在数据结构704处图示了具有固定心态状态612的训练短语118，“{'文本'：'我永远不会成为艺术家'，'意图'：'fixedmindset'，'实体'：[]}”。“文本”指示短语是文本。短语是“我永远不会成为艺术家”。内容特性状态121是“fixedmindset”(即，固定心态状态612)。并且，“实体”是针对脚本的指示。与该短语相匹配的短语116将具有针对固定心态状态612的更高概率。
[0059]
在日期结构706处图示了与不适应于固定心态状态或成长心态状态616相耦合的训练短语118，“{'文本'：'为团队订购食物'，'意图'：'无'，'实体'：[]}”。“文本”指示该短语是文本。短语是“为团队订购食物”。意图是“无”(例如，不适用于固定心态状态或成长心态状态616)。并且，“实体”是针对脚本的指示。与该短语相匹配的短语116将具有对于不适用于固定心态状态或成长心态状态616的更高概率。
[0060]
图8、9和10图示了根据一些实施例的针对性别中立状态800的短语的示例。针对性别中立状态的短语800可以是用于语言理解106的脚本，以用于训练自然语言模型127。图8、9和10可以是数据结构，例如，模式。图8在图9的802处继续。图9从图8在902处继续，并且在图10在904处继续。图10从图9在1002处继续。
[0061]
在日期结构802处图示了与性别中立状态606相耦合的训练短语118，“{'文本'：'我们全体员工尽最大努力'，'意图'：'genderneutral'，'实体'：[]}”。“文本”指示短语是文本。短语是“我们全体员工尽最大努力”。意图是“genderneutral”，即性别中立状态606。并且，“实体”是针对脚本的指示。与该短语相匹配的短语116具有针对性别中立状态606的更高概率。
[0062]
在日期结构804处图示了与性别偏见状态604相耦合的训练短语118，“{'文本'：'每个公民都应当知道其权利'，'意图'：'genderbias'，'实体'：[]}”。“文本”指示话语是文本。短语是“每个公民都应当知道其权利”。意图是“genderbias”，即性别偏见状态604。并且，“实体”是针对脚本的指示。与该短语相匹配的短语116将具有性别偏见状态604的更高概率。
[0063]
在日期结构806处图示了与不适用于性别偏见状态或性别中立状态608耦合的训练短语118，“{'文本'：'她做得很好。'，'意图'：'无'，'实体'：[]}”。“文本”指示话语是文本。短语是“她做得很好”。意图是“无”，即，不适用于性别偏见或性别中立状态608。并且，“实体”是针对脚本的指示。与该短语相匹配的短语116将具有不适用于性别偏见状态或性别中立状态608的更高概率。在一些实施例中，使用了比在图7、8、9和图10中所图示的更多的训练短语118。
[0064]
图11图示了根据一些实施例的用于确定电子通信的内容特性的状态的方法1100。方法1100在操作1102处以接收文本开始，其中，所述文本包括一个或多个句子。例如，用户界面102可以接收文本108。在另一示例中，应用204可以经由用户界面102来接收文本108。在另一示例中，用户界面300可以接收电子邮件320的文本。在另一示例中，语言理解106可以接收文本108。
[0065]
方法1100可以在操作1106处继续，为一个或多个文本短语中的每个文本短语确定性别偏见状态的概率、性别中立状态的概率以及不适用于性别偏见或性别中立的状态的概率，其中，所述确定是基于利用数据结构训练的自然语言模型，所述数据结构包括被指示为具有性别偏见状态的训练语句、被指示为具有性别中立状态的训练语句、以及被指示为不适用于性别偏见状态或性别中立状态的训练语句。
[0066]
例如，语言理解106可以确定性别偏见状态的概率406、性别中立状态的概率408以及不适用于性别偏见状态或性别中立状态的概率410。概率406、408和410可以针对短语116或者一个或多个短语116。概率406、408、410可以使用利用训练短语118训练的自然语言模型127来确定，例如，针对性别偏见状态604、性别中立状态606以及不适用于性别偏见状态或性别中性状态608的训练短语118。
[0067]
方法1100可以在操作1108处继续，其中，针对一个或多个文本短语中的每个文本短语，基于性别偏见状态的概率、性别中立状态的概率以及不适用于性别偏见或性别中立的状态的概率，来确定文本的分数。
[0068]
例如，评分引擎104可以基于性别偏见状态的概率406、性别偏见状态的概率408以及不适用于性别偏见状态或性别中立状态的概率410来确定针对性别中立状态120的分数。
[0069]
方法1100可以在操作1110处继续，其中，在用户的显示器上显示文本的分数。例如，用户界面102和/或应用204可以使得在针对用户(未图示出)的显示器(未图示出)上输出针对性别中立状态的分数120。在另一示例中，用户界面300可以在针对用户的显示器上
显示多样性和包容性分数314(正在显示界面300上显示)。
[0070]
方法1100可以可选地包括将文本解析为一个或多个短语的操作(未图示出)。所述操作可以如以下示例之一中所公开的那样执行。用户界面102可以解析文本108。解析器112可以将文本108解析为短语116。评分引擎104可以将文本108解析为短语116。语言理解106可以将文本108解析为短语116。用户界面300可以将电子邮件320的文本(例如，所选择的文本324)转换为短语322。
[0071]
方法1100的一个或多个操作可以是可选的。在一些实施例中，操作的次序可以是不同的。方法1100可以由用户界面102、评分引擎104、语言理解106、应用204、用户界面300或者另一计算机实体中的一个或多个来执行。
[0072]
图12图示了可以在其上执行在本文中所公开的技术(或方法)中的任意一种或多种技术的示例性机器1200的框图。在替代实施例中，机器1200可以作为独立设备来操作，或者可以被连接(例如，联网)到其他机器。在联网部署中，机器1200可以在服务器-客户端网络环境中以服务器机器、客户端机器或者这两者的能力来操作。在示例中，机器1200可以在对等(p2p)(或者其他分布式)网络环境中充当对等机器。机器1200可以是服务器、个人计算机(pc)、平板pc、机顶盒(stb)、个人数字助理(pda)、便携式通信设备、移动电话、智能电话、网络设备、网络路由器、交换机或桥、或者能够执行指定了该机器要执行的操作的指令(顺序地或者以其他方式)的任何机器。此外，尽管仅图示了单个机器，但是术语“机器”也应当被认为包括机器的任意集合，这些机器个体地或共同地执行一组(或多组)指令以执行在本文中所讨论的方法中的任意一种或多种方法，诸如云计算、软件即服务(saas)、其他计算机集群配置。
[0073]
机器(例如，计算机系统)1200可以包括硬件处理器1202(例如，中央处理单元(cpu)、图形处理单元(gpu)、硬件处理器核心或者其任意组合)、主存储器1204和静态存储器1206，其中的一些或全部可以经由互连链路(例如，总线)1208彼此通信。
[0074]
主存储器1204的特定示例包括随机存取存储器(ram)和半导体存储器设备，在一些实施例中，其可以包括在诸如寄存器的半导体中的存储位置。静态存储器1206的特定示例包括非易失性存储器，诸如半导体存储器设备(例如，电可编程只读存储器(eprom)、电擦除可编程只读存储器(eeprom))和闪存设备；磁盘，诸如内部硬盘和可移动磁盘；磁光盘；ram；以及cd-rom和dvd-rom磁盘。
[0075]
机器1200还可以包括显示设备1210、输入设备1212(例如，键盘)和用户界面(ui)导航设备1214(例如，鼠标)。在示例中，显示设备1210、输入设备1212和ui导航设备1214可以是触摸屏显示器。机器1200可以额外地包括大容量存储设备(例如，驱动单元)1216、信号生成设备1218(例如，扬声器)、网络接口设备1220以及一个或多个传感器1221，诸如全球定位系统(gps)传感器、指南针、加速度计或者其他传感器。机器1200可以包括输出控制器1232，诸如串行(例如，通用串行总线(usb))、并行或者其他有线或无线(例如，红外(ir)、近场通信(nfc)等)连接以通信或控制一个或多个外围设备(例如，打印机、读卡器等)。在一些实施例中，处理器1202和/或指令1224可以包括处理电路和/或收发器电路。
[0076]
存储设备1216可以包括机器可读介质1222，在机器可读介质1222上存储有由在本文中所描述的任意一种或多种技术或功能体现或利用的一组或多组数据结构或指令1224(例如，软件)。例如，机器1200可以实现用户界面102、用户界面300、应用204、活动目录206、
评分引擎104、应用服务器202和语言理解106中的一项或多项，以形成专用机器1200。在由机器1200执行期间，指令1224还可以全部或至少部分地驻留在主存储器1204内、在静态存储器1206内或者在硬件处理器1202内。在示例中，硬件处理器1202、主存储器1204、静态存储器1206或存储设备1216中的一个或任意组合可以构成机器可读介质。示例性机器可读介质可以包括非暂时性机器可读介质，所述非暂时性机器可读介质可以包括有形的非暂时性介质，用于以一台或多台计算机可读的形式存储信息，例如但不限于只读存储器(rom)、随机存取存储器(ram)、磁盘存储介质、光学存储介质、闪存等
[0077]
机器可读介质的特定示例可以包括：非易失性存储器，诸如半导体存储器设备(例如，eprom或eeprom)和闪存设备；磁盘，诸如内部硬盘和可移动磁盘；磁光盘；ram；以及cd-rom和dvd-rom磁盘。
[0078]
尽管机器可读介质1222被图示为单个介质，但是术语“机器可读介质”可以包括被配置为存储一个或多个指令1224的单个介质或多个介质(例如，集中式或分布式数据库，和/或相关联的高速缓存和服务器)。
[0079]
还可以使用多种传输协议(例如，帧中继、互联网协议(ip)、传输控制协议(tcp)、用户数据报协议(udp)、超文本传输协议(http)等)中的任意一种，经由网络接口设备1220使用传输介质通过通信网络1226发送或接收指令1224。示例性通信网络可以包括局域网(lan)、广域网(wan)、分组数据网络(例如，互联网)、移动电话网络(例如，蜂窝网络)、普通老式电话(pots)网络、以及无线数据网络(例如，被称为的电气和电子工程师协会(ieee)802.11系列标准、许可辅助访问(laa)、ieee 802.15.4系列标准、长期演进(lte)系列标准、通用移动电信系统(umts)系列标准、对等(p2p)网络等)。
[0080]
在示例中，网络接口设备1220可以包括一个或多个物理插孔(例如，以太网、同轴或电话插孔)或者一个或多个天线，以连接到通信网络1226。在示例中，网络接口设备1220可以包括一个或多个天线1230，以使用单输入多输出(simo)、多输入多输出(mimo)或多输入单输出(miso)技术中的至少一种技术进行无线通信。在一些示例中，网络接口设备1220可以使用多用户mimo技术进行无线通信。术语“传输介质”应当被认为包括能够存储、编码或承载由机器1200执行的指令的任何无形介质，并且包括数字或模拟通信信号或其他无形介质以促进这种软件的通信。
[0081]
应当意识到，在以特定形式(例如，组件或模块)描述软件的情况下，这仅是为了辅助理解，并且无意于限制可以构造或构建实现那些功能的软件的方式。例如，模块被示为单独的模块，但是可以被实现为同质代码，作为单独的组件，可以组合这些模块中的一些但不是全部，或者可以以任何其他便利方式构造的软件来实现功能。
[0082]
此外，尽管将软件模块示为在一件硬件上执行，但是软件可以分布在多个处理器上或以任何其他方便的方式分布。
[0083]
以上描述是说明性的，而不是限制性的。在回顾以上描述之后，许多其他实施例对于本领域技术人员将是显而易见的。因此，应当参考所附权利要求以及这些权利要求所赋予的等同物的全部范围来确定实施例的范围。
[0084]
在实施例的前述描述中，出于简化本公开的目的，在单个实施例中将各种特征组合在一起。本公开的方法不应当被解释为反映所要求保护的实施例具有比每个权利要求中明确叙述的特征更多的特征。而是，如所附权利要求所反映的，发明主题在于少于单个公开
实施例的所有特征。因此，所附权利要求由此被并入实施例的描述中，其中，每个权利要求独立地作为单独的示例性实施例。