基于上下文来控制应用使用的制作方法

基于上下文来控制应用使用


背景技术：

1.当前存在用于监测和控制用户与计算技术交互的方式的计算机实现的工具。然而，这些工具可能提供无法充分跟上引入市场的新应用和计算设备的步伐的相对粗略和不灵活的控制机制。这些工具还可能提供无法适应用户与其应用和计算设备交互的不断发展的方式的代码。


技术实现要素：

2.本文中描述了一种计算机实现的技术，监督方(例如，父母)可以通过该技术控制受监督方(例如，父母的孩子)对应用的消费。在一种实现中，假定受监督方尝试与应用交互。作为响应，该技术从一个或多个输入设备(诸如，位置确定设备、移动检测设备等)接收上下文输入信号。上下文输入信号共同提供上下文信息，该上下文信息描述影响受监督方的当前上下文。然后，该技术基于当前上下文信息和由规则逻辑表达的规则来生成输出结果。输出结果指定受监督方被允许在当前上下文中与候选应用交互的时间量(在某些情况下该时间可以为零)。然后，该技术基于输出结果来控制受监督方与应用的交互。控制可以采取允许受监督方与应用交互、禁止受监督方与应用交互、和/或报告受监督方与应用的不合规交互等形式。通过这个过程，该技术管理受监督方与应用交互的时间量(“屏幕时间”)。
3.根据另一说明性方面，由规则逻辑表达的给定规则指定受监督方被允许在指定位置(诸如，学校相关位置、家庭相关位置等)与候选应用交互的时间量。
4.根据另一说明性方面，由规则逻辑表达的给定规则指定受监督方被允许在一天内的指定时间和/或一周内的制定某天等与候选应用交互的时间量。
5.根据另一说明性方面，由规则逻辑表达的给定规则指定受监督方被允许在参与指定活动的同时与应用交互的时间量。在很多情况下，允许的时间量为零，这有效地阻止了受监督方与应用交互。当指定活动涉及驾驶车辆时，这可能是适当的。
6.根据另一说明性方面，影响受监督方的当前上下文可以包括关于受监督方最近完成的任务(诸如，锻炼相关任务、家庭作业相关任务等)的信息。在某些情况下，该技术可以基于受监督方的先前动作来确定要授予受监督方的屏幕时间量。
7.根据另一说明性方面，规则逻辑可以对应于离散规则集、和/或隐式地表达规则的经机器训练的模型。
8.根据另一说明性方面，该技术使用经机器训练的模型和/或启发式逻辑来对所标识的新应用自动分类。该技术基于与新应用相关联的多个应用分类特征来执行该任务。应用分类特征可以包括但不限于：从新应用本身收集的信息(例如，反映在其元数据和其他属性中)、从新应用的外部描述中获取的信息(例如，由应用市场服务提供的)、以及描述用户先前如何在不同上下文设置中与新应用交互的信息等。
9.根据另一说明性方面，该技术涉及生成报告，该报告描述受监督方在不同的相应上下文中与至少一个应用交互的时间量。监督方可以查看报告并且采取适当动作。
10.根据一个优点，期望该技术提供控制机制，该控制机制灵活地和自动地适应引入
市场的新应用和设备。该技术还可以自动检测和适应不同受监督方在不同上下文中使用应用和设备的新方式。通过这样做，该技术对受监督方对应用的消费提供了细微的控制，例如，通过考虑在学校设置中将应用用作受监督方课程的部分的情况。该技术还可以提供有效的机制以用于在逐上下文的基础上提醒监督方注意受监督方的不合规行为。
11.上述技术可以体现在各种类型的系统、设备、组件、方法、计算机可读存储介质、数据结构、图形用户界面呈现、制品等中。
12.提供本概述以便以简化形式介绍概念的选择；这些概念在下面的详细描述中进一步描述。本发明内容并非旨在标识所要求保护的主题的关键特征或基本特征，也不旨在用于限制所要求保护的主题的范围。
附图说明
13.图1示出了用于管理由受监督方(例如，儿童)与应用的交互的说明性计算环境。
14.图2示出了用于实现图1的计算环境的说明性计算设备。
15.图3至图5示出了三种不同的用户界面呈现，这些用户界面呈现允许监督方查看和修改由图1的计算环境自动生成的规则。
16.图6示出了提供应用使用报告的用户界面呈现。该报告示出了受监督方在规定时间段内对应用的上下文特定消费，并且指出该消费是否符合规则集。
17.图7示出了提供基于地图的应用使用报告的用户界面呈现。
18.图8和图9示出了两个通知，这两个通知提醒监督方(例如，父母)注意受监督方对应用的不合规使用。
19.图10是展示受监督方(例如，儿童)面临的威胁如何随着受监督方成长而演变的图。
20.图11示出了作为图1的计算环境的另一元素的应用分类组件的一种实现。
21.图12示出了作为图1的计算环境的另一元素的使用控制组件的一种实现。
22.图13示出了可以用于实现图1的计算环境的一个或多个组件的方面的神经网络功能。
23.图14示出了由图1的计算环境提供的训练系统的概述。
24.图15示出了用于在客户端与服务器端训练功能之间分配训练任务的说明性架构。
25.图16示出了根据一种说明性实现的图1的计算环境的操作的概述。
26.图17示出了与图16的框中的一个框相对应的控制操作的概述。
27.图18示出了可以用于实现前述附图中所示的特征的任何方面的说明性类型的计算设备。
28.在整个公开内容和附图中使用相同的数字来引用类似的组件和特征。系列100数字是指最初在图1中找到的特征，系列200数字是指最初在图2中找到的特征，系列300数字是指最初在图3中找到的特征，以此类推。
具体实施方式
29.本公开组织如下。a部分描述了用于管理受监督方(例如，孩子)在多个上下文中与多个应用的交互的计算环境。b部分阐述了说明a部分的计算环境的操作的说明性方法。c部
分描述了可以用于实现a部分和b部分中描述的特征的任何方面的说明性的计算设备。
30.作为初步事项，术语“硬件逻辑电路系统”对应于处理机制，该处理机制包括执行存储在存储器中的机器可读指令的一个或多个硬件处理器(例如，cpu、gpu等)、和/或使用固定和/或可编程逻辑门的任务特定集合来执行操作的一个或多个其他硬件逻辑单元(例如，fpga)。c部分提供了有关硬件逻辑电路系统的一种实现的附加信息。在某些上下文中，术语“组件”、“引擎”和“工具”中的每个术语指代执行特定功能的硬件逻辑电路系统的部分。
31.在一种情况下，图示的将图中的各个部分分离成不同单元可以反映在实际实现中对应的不同物理和有形部分的使用。备选地或附加地，图中所示的任何单个部件可以由多个实际物理部件来实现。备选地或附加地，图中任何两个或更多个单独部件的描绘可以反映由单个实际物理部件执行的不同功能。
32.其他附图以流程图的形式描述了这些概念。在这种形式中，某些操作被描述为构成以特定顺序执行的不同框。这样的实现是说明性的而非限制性的。本文中描述的某些框可以组合在一起并且在单个操作中执行，某些框可以分解为多个组成框，并且某些框可以以与本文中说明的顺序不同的顺序执行(包括并行执行框的方式)。在一种实现中，流程图中所示的与处理相关功能相关的框可以由c部分中描述的硬件逻辑电路系统实现，该硬件逻辑电路系统又可以由包括逻辑门的任务特定集合的一个或多个硬件处理器和/或其他逻辑单元实现。
33.至于术语，短语“被配置为”包括用于执行所标识的操作的各种物理和有形机制。这些机制可以被配置为使用c部分的硬件逻辑电路系统来执行操作。术语“逻辑”同样包含用于执行任务的各种物理和有形机制。例如，流程图中所示的每个处理相关操作对应于用于执行该操作的逻辑组件。逻辑组件可以使用c部分的硬件逻辑电路系统来执行其操作。当由计算设备实现时，逻辑组件表示作为计算系统的物理部分的电气元件，无论以何种方式实现。
34.本文中描述的任何存储资源或存储资源的任何组合都可以被视为计算机可读介质。在很多情况下，计算机可读介质表示某种形式的物理和有形实体。术语计算机可读介质还包括传播信号，例如，经由物理管道和/或空气或其他无线介质等传输或接收的传播信号。然而，特定术语“计算机可读存储介质”明确排除传播信号本身，同时包括所有其他形式的计算机可读介质。
35.以下解释可以将一个或多个特征标识为“可选的”。这种类型的声明不应当被解释为对可以被视为可选的特征的详尽说明；也就是说，其他特征可以被认为是可选的，尽管在文本中没有明确指出。此外，对单个实体的任何描述并不旨在排除对多个这样的实体使用；同样，对多个实体的描述并不旨在排除对单个实体的使用。此外，虽然描述可以将某些特征解释为执行所标识的功能或实现所标识的机制的备选方式，但这些特征也可以以任何组合而组合在一起。此外，除非另有明确说明，否则术语“多个”是指两个或更多个项，并且不必然暗示特定种类的“所有”项。除非另有说明，否则描述词“第一”、“第二”、“第三”等用于区分不同项，并不表示项之间的排序。最后，术语“示例性”或“说明性”是指潜在的很多实现中的一种实现。
36.a.说明性计算环境
37.a.1.概述
38.图1示出了说明性计算环境102，监督方可以通过该计算环境102来管理受监督方与应用的交互。它通过自动或半自动地管理时间量(“屏幕时间”)来执行该任务，该时间量被提供给受监督方用于在不同上下文中与应用交互。
39.在下面呈现的大多数示例中，受监督方对应于父母并且受监督方对应于父母的孩子。但是本文中描述的原则可以应用于被赋予监测和/或控制另一人或实体的应用相关行为的角色的任何人或实体。“应用”对应于受监督方可以与之交互的计算机可访问功能和/或内容。应用可以对应于本地下载的程序、服务器端程序、具有分布在两个或更多个位置上的逻辑的程序、网络可访问的静态或动态内容(例如，网站)等、或其任何组合。
40.下面将首先参考图1提供计算环境102的逻辑描述。然后将参考图2提供可以实现计算环境102的计算设备的说明。
41.从图1的顶部开始，上下文确定组件104可以从上下文信息的多个源106中接收上下文输入信号。上下文信息是指与影响受监督方的当前情况有关的任何信息。上下文输入信号是指传达上下文信息的任何电子信号。上下文确定组件104可以使用任何技术或技术组合来接收上下文输入信号，包括基于推送的技术(其中源独立地将上下文输入信号转发到上下文确定组件104)、基于拉取的技术(其中上下文确定组件104请求源106提供上下文输入信号)等。
42.更具体地，上下文确定组件104可以收集至少两种上下文信息：短期上下文信息108和长期上下文信息110。短期上下文信息108与长期上下文信息110的区别之处在于，预期短期上下文信息108比长期上下文信息更频繁地改变。非限制性地，短期上下文信息108可以包括关于以下项的信息：受监督方的当前位置；与当前位置相关联的机构或站点的类型；受监督方的当前行为(例如，受监督方是否在移动)；有关受监督方当前正在与之交互的用户计算设备的信息；当前时间；当前日期；当前天气；在受监督方的规定距离内的其他人等。非限制性地，长期上下文信息110可以包括关于以下项的信息：受监督方的当前年龄；受监督方居住的城市或城镇；受监督方就读的学校；受监督方经常访问的用户计算设备等。
43.通常，本文中描述的功能可以采用各种机制来确保以符合适用法律、社会规范以及个人用户(包括监督方和受监督方)的期望和偏好的方式来处理任何用户数据。例如，该功能可以允许任何用户明确选择加入(然后明确选择退出)该功能的规定。该功能还可以提供合适的安全机制来确保用户数据的隐私(诸如，数据匿名机制、加密机制、密码保护机制等)。该功能还可以提供允许用户删除先前提供的数据的适当机制。
44.上下文信号的源106可以包括用于确定受监督方的位置的位置确定设备(未示出)。例如，位置确定设备可以对应于由受监督方携带的用户计算设备(例如，智能电话)提供的机制。该机制可以基于卫星和/或地面信号的三角测量、基于用户计算设备与无线信标信号发射器的接近度、基于航位推算技术等来确定受监督方的位置。上下文确定组件104可以基于将位置信息映射到机构类型信息的查找表来确定受监督方当前所在的机构类型。源106还可以包括用于确定由受监督方展示的移动类型的移动确定设备(未示出)。例如，移动确定设备可以包括由受监督方携带的用户计算设备提供的惯性测量单元(imu)。imu可以提供反映用户计算设备如何在空间中移动的移动信号，例如，使用一个或多个加速度计、一个或多个陀螺仪、一个或多个磁力计等或其任何组合。
45.移动确定设备还可以包括用于对由移动信号展示的运动类型进行分类的分析逻辑。例如，分析逻辑可以包括经机器训练的分类模型，该模型确定由移动信号流展示的移动类型，例如，指示受监督方是否可能正在步行、乘坐汽车、静止、跑步、跳跃、骑自行车等。分析逻辑可以通过确定受监督方的移动是否与执行不同种类的锻炼的人通常表现出的移动模式相匹配来确定用户是否正在锻炼。分析逻辑可以通过确定受监督方的移动是否对应于与不同公共交通方式相关联的已知路线和移动模式来确定受监督方是否可能乘坐公共交通工具。由分析逻辑使用的经机器训练的分类模型可以对应于任何类型的深度神经网络(dnn)(例如，循环神经网络等)、隐马尔可夫模型等。
46.源106也可以源自监测受监督方的行为的更专业的设备。非限制性地，源106可以包括由锻炼设备、汽车、受监督方家中的任何物联网(iot)智能设备、或受监督方访问的其他环境等提供的监测机制。
47.源106还可以包括存储关于受监督方的简档信息的一个或多个数据存储库。该简档信息可以包括描述受监督方当前年龄、居住城市和州、学校、用户计算设备等的元数据。简档信息可以由受监督方本人提供，也可以由受监督方的监督方提供。源106还可以包括以下任何项：用于标识当前日期和当前时间的计时组件；用于维护有关受监督方的预定活动的信息的日历应用；用于提供有关受监督方的朋友和其他联系人的信息的网络可访问的社交网络服务；用于提供有关当前天气和预期未来天气的信息的网络可访问服务等。上下文信息的这些源和关联实例是通过示例而非限制的方式描述的。
48.作为另外的说明，上述解释阐述了“上下文信息”由用户的当前状态限定的示例，例如，描述受监督方当前正在做什么、用户当前位于何处等。在某些情况下，受监督方的当前状态也可以用受监督方最近针对任何感兴趣时间窗口而完成的一系列动作来描述；这些动作可以说是受监督方的当前状态所固有的，因为它们告知了受监督方的当前状态。例如，假定一个或多个监测设备提供上下文信号，该上下文信号指示受监督方在当天完成了各种任务，诸如锻炼至少30分钟。在这种情况下，受监督方的当前状态将反映受监督方已经完成了这些动作。在另一情况下，一个或多个监测设备提供上下文信号，该上下文信号指示受监督方已经穿过特定路径到达当前位置。在这种情况下，受监督方的当前状态不仅会反映用户的当前位置，还会反映终止于当前位置的轨迹等等。
49.如下文将描述的，在一些情况下，计算环境102可以基于受监督方的当前状态中的存在的历史考虑来确定授予受监督方的屏幕时间量。例如，如果计算环境102确定受监督方当天内已经跑了三英里，和/或如果受监督方当天已经与教育相关应用交互了规定时间量等，则计算环境102可以向受监督方提供三十多分钟的时间来与游戏应用交互。
50.计算环境102包括至少两个主要决策制定元素：应用分类(“app分类”)组件112和使用控制组件114。图1将这两个组件图示为单独并且不同的决策制定元素。但是如下文将阐明的，计算环境102可以备选地提供执行多个决策制定功能的单个决策制定组件，诸如归属于app分类组件112和使用控制组件114的功能。
51.app分类组件112将至少一个标签分配给描述其执行的主要功能的应用。在一些情况下，app分类组件112针对新应用执行该操作，这表示它以前从未遇到过的应用(例如，因为它是新引入市场的)。在其他情况下，app分类组件112执行该操作以更新或确认提供给应用的先前分类。
52.不同环境可以采用对应用进行分类的不同类别集。非限制性地，在一个这样的环境中，app分类组件112可以将至少以下标签应用于应用：教育、娱乐、游戏、社交网络、交通、安全等。标记有“教育”标签的应用主要服务于教育相关功能。带有“娱乐”标签的应用向受监督方提供任何类型的娱乐相关媒体内容(诸如，电影、视频、歌曲等)。具有“游戏”标签的应用提供游戏功能。具有“社交网络”标签的应用提供由社交媒体网站通常提供的大量服务。具有“运输”标签的应用在操作车辆时为受监督方提供帮助(诸如，通过提供方向)。具有“安全”标签的应用向受监督方提供紧急援助，例如，通过在受监督方请求时报警等。这些标签应当以说明而非限制的精神理解；同样，其他环境可以以其他方式对应用进行分类。在某些情况下，应用提供两个或更多个功能。在这种情况下，app分类组件112可以将两个或更多个不同的标签分配给应用。
53.附加地或备选地，app分类组件122可以将描述应用的年龄适当性的标签添加到应用，即，通过描述可以与应用适当交互的用户的种类。这些标签还可以明确标识应用将使受监督方暴露于令人反感的内容的可能性，诸如成人内容、暴力描述等。标签还可以标识应用可能使受监督方暴露于某些威胁的风险，诸如与陌生人互动的机会、购物的机会、分享个人信息的机会等。
54.在一种实现中，app分类组件112通过将关于新应用的信息(本文中称为“app分类信息”)映射到与新应用相关联的至少一个标签来操作。app分类信息源自一个或多个源116。app分类组件112然后将其应用的标签存储在app信息数据存储库118中。更具体地，在一种实现中，app分类组件112基于启发式规则集或算法来执行其分类功能。备选地或附加地，app分类组件112基于经机器训练的模型120来执行其功能。下面将在a.4小节中更详细地描述a，训练系统122基于存储在数据存储库124中的训练示例集来产生经机器训练的模型120。
55.源116包括新应用本身。例如，源116可以包括与新应用相关联的元数据文件、与新应用相关联的代码(如果可用于查看)、通过对代码的静态分析而揭示的信息、通过新应用的执行而揭示的信息等。其他来源116在新应用之外。例如，这种来源可以对应于受监督方从其下载新应用的市场站点。另一外部来源对应于提供新应用的查看的站点。
56.附加地或备选地，源116可以包括提供应用使用信息的数据存储。该信息(如果可用)描述了不同用户在过去使用新应用的场景。例如，应用使用信息可以揭示新应用在学校环境中普遍使用，这是新应用服务于教育相关功能的有力证据。附加地或备选地，源116可以包括数据存储库，该数据存储库提供监督方在一个或多个先前场合已经手动提供的信息。该信息(如果可用)可以揭示监督方已经手动应用于新应用的标签、和/或监督方已经手动应用于新应用的约束等。app分类信息的其他来源也是可能的。
57.计算环境102可以响应于不同触发事件而调用app分类组件112的服务。在一种情况下，当受监督方下载或激活先前未被分配标签的新应用时，计算环境102调用新app分类组件112。备选地或附加地，app分类组件112可以周期性地重新审视应用的先前分类，以确保该分类在考虑到已经收集的新证据时保持准确。这种更新行为对于解决应用的使用方式随时间演变的情况特别有效。使用的变化可能会使用户面临新的威胁。
58.给定受监督方寻求与应用交互的当前上下文，使用控制组件114执行控制受监督方与应用的交互的功能。为了执行该任务，使用控制组件114将使用控制输入信息映射到输
出结果。输出结果提供是否允许受监督方与应用交互的指示，并且如果是，则提供受监督方被允许与应用交互的条件。
59.使用控制输入信息包括使用控制组件114做出其决策所需要的所有数据。例如，使用控制输入信息包括由上下文确定组件104提供的全部或一些当前上下文信息。如上所述，当前上下文信息描述了受监督方寻求与应用交互的当前环境，包括但不限于受监督方的当前位置、当前时间、由受监督方表现出的当前行为、导致并且告知受监督方的当前状态的相关先前行为等。当前上下文信息还描述了长期上下文，诸如受监督方的当前年龄。使用控制输入信息还可以包括关于受监督方试图调用的应用的任何信息，如app信息数据存储库118所提供的。使用控制输入信息还包括关于受监督方在指定时间跨度内(诸如，在上周内)与所考虑的申请交互的时间量的信息(如果有)。该信息源自使用信息数据存储库126。
60.在一些实现中，使用控制组件114还基于在规则数据存储128中提供的规则集来进行操作。至少一些规则指定受监督方被允许在不同的相应上下文中在指定时间跨度内(例如，在一周内)与所考虑的应用交互的时间量。例如，在一种情况下，规则数据存储库128可以提供指定受监督方被允许在任何上下文中在一周内与应用交互四个小时(例如，不管时间、地点等)的规则。在另一情况下，规则数据存储库128可以包括指定受监督方被允许与应用交互四个小时的规则，但仅当受监督方位于特定位置时，和/或仅当受监督方在特定时间跨度内(例如，在一天中的特定时间内)与应用交互时。在又一种情况下，规则数据存储库128可以包括授予受监督方四个小时来与应用交互的规则；但它还包括禁止受监督方在移动车辆中的同时与应用交互的另一规则。在又一种情况下，规则数据存储库128可以包括应用于具有不同的相应年龄范围的受监督方的多个规则。这些种类的规则在此作为示例提及，而非限制；规则数据存储库128可以包括适用于所考虑的应用的更复杂的规则集。
61.计算环境102可以以不同的相应方式实现规则数据存储库128中的规则。在第一种方法中，计算环境102可以提供预定手工制定的规则集，例如，如任何(多个)监督方和/或其他实体所指定的。
62.在第二种方法中，训练系统122提供自动提供离散规则集的规则生成组件(图1中未示出)。例如，在初步规则生成操作中，规则生成组件可以通过将每个候选应用与可能消费该应用的多个上下文配对来枚举流行场景集。对于每个场景，给定与场景相关联的上下文，规则生成组件可以使用启发式算法和/或经机器训练的模型来分配允许受监督方与应用交互的时间量。换言之，在这种情况下，规则生成组件生成参数化的规则集，并且使用启发式算法和/或经机器训练的模型来为这些规则中的变量分配值。一个仅仅是说明性的规则可以指示，允许13-17岁的青少年每周使用社交网络应用的任何组合总计5小时，但不能在开车时使用。
63.在第三种方法中，规则生成组件生成通用经机器训练的模型，而不是显式地提供离散规则集(如在第二种方法中)。使用控制组件114使用该模型将使用控制输入信息映射到屏幕时间值。屏幕时间值指示受监督方被允许在指定时间跨度内与所标识的应用交互的时间量(如果有)。换言之，在第三种方法中，模型对应于训练系统122学习的权重和偏差值集。权重和偏差值隐含地捕获在第二种方法中明确表达的规则。在数据存储库128中实现规则逻辑的其他方式也是可能的。
64.上述每种方法具有其相应潜在优势。例如，第二种技术更容易让监督方和受监督
方了解适用于受监督方对应用的消费的限制。这进而允许监督方手动自定义任何这些规则。第三种方法可能比第一种方法和第二种方法更通用和灵活。这是因为，与离散规则集相反，通用经机器训练的模型可能比离散规则集表达的可能性更丰富。
65.使用控制组件114本身根据如何实现规则以不同方式操作。考虑规则数据存储库128提供离散规则集的情况。使用控制组件114可以通过使用当前上下文信息作为查找关键字来操作以在规则数据存储库128中找到适用于当前情况的一个或多个规则。给定当前上下文，使用控制组件114然后应用(多个)规则来确定是否允许受监督方与所考虑的应用交互。例如，假定一名13至17岁的受监督方试图与她家中的娱乐相关应用进行交互。使用控制组件114可以使用该上下文信息来标识应用于该特定上下文的一个或多个规则。假定一个这样的标识规则指示受监督方被允许在一周内与应用交互四个小时，但如果受监督方当前正乘坐移动的车辆，则不允许。在应用该规则时，使用控制组件114可以首先查阅由移动确定设备提供的信息，以确定受监督方的用户计算设备当前是否正在展示指示受监督方当前正在乘坐车辆的移动。如果受监督方没有移动，则使用控制组件114可以检查在数据存储库126中提供的使用信息以确定受监督方是否已经用完他或她针对该应用所分配的屏幕时间。如果这些测试表明受监督方没有用完他的或剩余的时间并且受监督方没有乘坐车辆，则使用控制组件114可以允许受监督方调用和使用应用。如果这些条件不满足，则使用控制组件114可以禁止受监督方调用应用，或者允许受监督方与应用交互同时将使用标记为不合规。计算环境102可以立即向监督方通知这种不合规的使用和/或简单地将其记录下来以供监督方以后考虑。
66.使用控制组件114可以以不同方式禁止应用的使用，例如，通过向操作系统组件发送应用阻止指令；该操作系统组件可以通过阻止受监督方启动应用来执行指令。使用控制组件114还可以向当前正在使用应用的受监督方警告受监督方可用于使用该应用的时间量即将到期。一旦可用时间达到零，使用控制组件108就可以通知受监督方并且关闭应用。
67.在另一实现中，假定管理由使用控制组件114做出的决策的规则被封装在统一的机器学习模型中，而不是离散的规则集中。这里，使用控制组件114将使用控制输入信息馈送到模型。该模型提供屏幕时间值，该值指示受监督方被允许与应用交互的时间量。然后，使用控制组件114可以以与上述相同的方式确定是否允许受监督方与应用交互，以提供最终输出结果。
68.在一些实现中，使用控制组件114还可以基于附加逻辑做出其决策，例如，如启发式算法和/或另一经机器训练的模型130中所示。例如，附加逻辑可以处理使用控制组件114标识与当前上下文匹配的两个不同离散规则的情况。这可能会在不同情况下发生，例如，所考虑的应用具有两个或更多个标签，这些标签与它执行的不同的相应功能相关联。附加逻辑可以通过生成表示两个或更多个规则的逻辑并集的组合约束来解决这种情况。在某些情况下，这可能会减少为选择对受监督方的行为施加更严格约束的规则。
69.注意，总的来说，图1示出了计算环境102可以潜在地应用至少三种类型的启发式算法和/或经机器训练的模型。例如，第一逻辑(例如，与经机器训练的模型120相关联)对新应用进行分类。第二逻辑对应于规则数据存储库128中的规则逻辑。第三逻辑(例如，与经机器训练的模型130相关联)可以帮助由使用控制组件114执行的决策。但在另一实现中，使用控制组件114可以使用单个机器训练组件，该组件重叠所有上述三个功能。
70.假定受监督方被允许与应用交互，使用监测组件132监测和记录受监督方与应用交互的时间量。随着使用的继续，使用监测组件132也可以周期性地递减剩余时间值。该值反映了受监督方的用于与应用交互的剩余时间。在一些情况下，使用监测组件132可以管理使用针对同一应用的两个或更多个上下文的使用信息。例如，使用监测组件132可以记录受监督方在两个相应地方、一周的两个相应时间等与同一应用交互的时间量。计算机环境102可以对这两个上下文应用两个相应时间限制。在另一实现中，使用监测组件132可以维护描述每个应用的使用的单个日志、以及描述与每个使用相关联的上下文的元数据。使用监测组件132可以通过提取与上下文相关的使用信息并且然后聚合其中指定的时间值来重构用户在特定上下文中与应用交互所花费的时间量。
71.计算环境102可以基于不同触发事件调用使用控制组件114的服务。在一种情况下，计算环境102可以在受监督方尝试激活应用(这里称为候选应用)时调用使用控制组件114。在另一情况下，假定受监督方有权访问应用集134，例如，这些应用被加载在受监督方的用户计算设备上或以其他方式由受监督方可访问。这里，计算环境102可以主动地确定当前可供受监督方使用的应用子集，然后将其通知受监督方。例如，给定当前上下文，计算环境102可以隐藏或以其他方式淡化对受监督方不可用的应用相关联的图标。
72.使用控制组件114还可以在受监督方继续与应用交互时更新其结论。这可能是适当的，因为影响受监督方的上下文可能会发生变化。例如，受监督方可以在与应用交互的同时从第一位置移动到第二位置。使用控制组件114可以在第一位置处应用第一规则集并且在第二位置处应用第二规则集。更一般地，使用控制组件114可以响应上下文的任何变化来重新计算其输出结果，包括位置、一天中的时间、与其他人的接近度等。
73.用户界面(ui)组件136使监督方能够与计算环境102交互以执行各种任务。例如，ui组件136可以提供至少一个用户界面(ui)呈现，其允许监督方修改由规则生成功能自动选择的任何规则。ui组件136还可以提供允许监督方查看报告的至少一个ui呈现，该报告传达了受监督方在规定时间跨度内(例如，在过去的7天内)对应用的消费。监督方可以经由用户计算设备138与ui组件136交互。下面的a.2小节提供了关于可以由用户界面组件136呈现的说明性用户界面呈现的附加信息。
74.尽管未示出，但是计算环境102可以包括向受监督方提供屏幕时间管理信息和控制选项的另一用户界面(ui)组件。例如，该ui组件可以提醒受监督方分配给他或她的用于与应用交互的剩余可用时间。
75.图2示出了用于实现图1的计算环境102的说明性计算设备202。计算设备202包括经由计算机网络212耦合到多个用户计算设备208(包括代表性用户计算设备210)的一个或多个服务器204(包括代表性服务器206)。假定受监督方使用用户计算设备208与多个应用交互。假定监督方可以经由计算机网络212使用其他用户计算设备214(包括代表性用户计算设备216)与计算环境102交互。尽管未示出，但计算设备202还可以包括任何数目和种类的专用设备，诸如健身器材、智能家电等。
76.受监督方与之交互的应用中的至少一些可以本地安装在受监督方的用户计算设备208上。例如，代表性用户计算设备210包括本地存储的应用218的集合。附加地或备选地，任何受监督方可以使用其相应用户计算设备208与服务器端应用交互，例如，使用由用户计算设备208提供的浏览器功能。例如，一个或多个服务器204提供服务器端应用220。还有其
他应用提供分布在服务器204与用户计算设备208之间的逻辑。
77.任何用户计算设备可以对应于固定工作站型计算设备、膝上型计算设备、任何类型的手持计算设备(例如，智能电话、平板型计算设备等)、可穿戴计算设备、混合现实计算设备、物联网(iot)设备等、或其任何组合。计算机网络212可以对应于局域网、广域网(例如，互联网)等、或其任何组合。
78.每个用户计算设备可以包括有助于上下文信息的机制。例如，由受监督方操作的代表性用户计算设备210包括确定用户计算设备210的当前位置的位置确定设备222。例如，位置确定设备222可以对应于全球定位系统装置、基站信号三角测量设备、信标信号检测设备等。代表性用户计算设备210还包括用于确定由用户计算设备10表现出的移动类型的移动确定设备224。如上所述，移动确定设备224可以包括一个或多个加速度计、一个或多个陀螺仪、一个或多个磁力计等。移动确定设备224还可以包括用于可选地基于由位置确定设备222提供的信号对由移动确定设备224提供的移动信号进行分类的分析逻辑。
79.尽管未示出，但每个用户计算设备还可以包括其他上下文感测设备。例如，代表性用户计算设备210可以包括感测由另一用户计算设备发射的信标信号的近场通信(nfc)机制。基于信标信号中的身份信息，nfc机制可以确定特定人在使用代表性用户计算设备210的受监督方的规定距离内。
80.计算环境102的上述组件可以以各种方式分布在图2所示的设备之间。图2通过示出代表性服务器206可以包括任何服务器端应用管理功能226、代表性受监督方用户计算设备210可以包括任何客户端应用管理功能228、以及代表性监督方用户计算设备216同样可以包括任何客户端应用管理功能230来说明这一点。
81.例如，在一种实现中，每个受监督方用户计算设备可以实现上下文确定组件104、app分类组件112和使用监测组件132。每个监督方用户计算设备实现ui组件136。一个或多个服务器实现训练系统122和相关联的数据存储库124。在该实现中，训练系统122更新模型并且将模型下载到每个受监督方用户计算设备。
82.在另一实现中，计算环境102的任何组件可以以任何方式分布在用户计算设备(208、214)与服务器204之间。例如，如下所述，每个受监督方用户计算设备可以实现训练系统122的本地版本。该本地训练系统可以个性化从服务器端训练系统接收的默认模型。同样，在app信息数据存储库118、规则数据存储库128和使用信息数据存储库126中提供的信息可以以任何方式分布在客户端设备与服务器端设备之中。
83.a2.说明性用户界面体验
84.本小节描述了用户界面(ui)组件136可以呈现给监督方(例如，父母)或任何其他授权用户或实体的说明性用户界面(ui)呈现。这些ui呈现以插图的精神呈现，而不是限制。ui组件136的其他实现可以产生与本小节中描述的ui呈现在ui呈现中呈现的信息、该信息的组织、和/或监督方可以通过其与ui呈现交互的控制特征等方面不同的ui呈现。ui组件136可以表示由每个监督方用户计算设备和/或由一个或多个服务器端计算设备提供的逻辑。
85.首先，图3示出了ui呈现302，ui呈现302允许监督方查看和修改规则数据存储库128中提供的规则。在一种情况下，这些规则对应于由规则生成组件产生的离散规则，例如，通过枚举不同规则并且然后针对由这些规则表达的变量提供值而被产生。在另一种情况
下，规则对应于由通用经机器训练的模型产生的示例(由规则生成组件产生的)。即，在这种情况下，ui组件136通过使用经机器训练的模型将描述不同相应上下文的输入信息的不同实例映射到输出信息(例如，屏幕时间值)来产生规则。
86.ui呈现302可选地包括标识受监督方的部分304。这里，假定受监督方是13到17岁的青少年。ui呈现302包括描述规则集的另一部分306，这些规则管理受监督方对不同应用的消费。更具体地，ui呈现302包括允许监督方选择过滤因子的选项卡式控制特征308。作为响应，ui组件136从由所选择的过滤因子限定的视角或枢轴点(pivot point)呈现关于规则的信息。
87.在图3的情况下，监督方已经激活“按应用”过滤因子。作为响应，ui组件136在最左边的列310中呈现应用列表。例如，ui组件136可以列出在app信息数据存储库118中标识的所有应用。在另一实现中，ui组件136列出在app信息数据存储库118中标识的应用的子集，诸如仅由受监督方已经下载到他或她的用户计算设备的应用、和/或监督方先前已经批准供受监督方使用的任何应用。ui组件136可以基于任何因素或因素组合对这些应用进行排名。例如，ui组件136可以按受监督方在先前场合访问这些应用的频率、或按字母顺序、或按类别等对这些应用进行排名。
88.ui组件136可以用指示符(这里是星号“*”)来注释ui呈现302中的任何信息项，以指示该信息项已经被计算环境102自动选择。例如，考虑ui呈现302中与名为“数学帮助(mathhelp)”的应用相关联的第一行312信息项。在第二列314中，app分类组件112先前已经将该应用分类为教育相关。在第三列316中，规则生成组件已经指定约束集，这些约束适用于受监督方针对不同的可能上下文条件对该应用的消费。第四列318提供了用于解释第三列316中的信息项的键。例如，该行312中的第一约束指示禁止受监督方在乘坐车辆时使用数学帮助程序，而不管可能适用的任何其他上下文因素。第二限制条件是受监督方可以在规定的报告时段内(例如，在一周内)无限期地使用数学帮助程序，前提是这种使用发生在受监督方在校期间。所列出的第三约束指示受监督方可以在学校以外的其他地方使用数学帮助程序，前提是她在报告时段内的使用不超过五个小时。
89.行312中的这些信息项中的每个信息项用星号注释。这表明计算环境102中的一些组件已经自动选择了这个信息项。ui组件136允许监督方使用ui控制技术改变ui呈现302中的任何信息项。例如，ui组件136可以允许监督方激活在触敏显示屏上呈现的信息项和/或通过使用鼠标设备点击在任何显示屏上呈现的信息项等。ui组件135可以通过显示编辑控制框(图3中未示出)来响应。受监督方可以在该编辑控制框中输入新信息，例如，通过从类别的下拉列表中为应用类别选择新类别，通过在第三列316中选择新的时间限制等等。在图3的示例中，假定受监督方已经改变了与信息项320和322相关联的约束相关信息；因此，这些信息项不再用星号标记。
90.使用控制组件136可以通过在与受监督方的学校相关联的地理位置周围设置地理围栏周边来强制实施第二列出的约束。然后，使用控制组件136可以在每个时刻确定从位置确定设备222获取的位置信号是否指示受监督方的用户计算设备当前位于该周边内。
91.注意，在第三列316中指定的时间限制可以基于不同上下文信号并且基于规则逻辑对那些上下文信号的不同评估而随时间动态地改变。例如，ui呈现302包括注释324，注释324提醒监督方已经向受监督方提供半小时以上的时间用于与娱乐相关应用交互，因为上
下文信号揭示了受监督方已经满足某些锻炼相关目标。
92.前进到图4，当受监督方在选项卡式控制特征308中选择“按类别”选项卡时，ui组件136显示ui呈现402。在第一列404中，ui组件136呈现应用类别集。在第二列和第三列(406、408)中，ui组件136呈现计算环境102选择并且分配给每个类别中的所有应用的默认约束，除非例外适用于类别中的一个或多个应用。在第四列410中，ui组件136标识与每个类别相关联的应用。尽管未示出，但ui组件136还可以提醒监督方注意作为在ui呈现402中标识的默认约束的例外的应用。作为默认约束的例外的应用由其自己的约束管理集；监督方可以通过图3所示的ui呈现302查看这些约束。
93.图5示出了当监督方选择选项卡式控制特征308中的“按位置”选项卡时ui组件136显示的ui呈现502。在第一列504中，ui组件136呈现与在应用于应用的约束中发挥作用的不同地理区域相关联的地图片段(snippet)。例如，第一地图片段506示出了受监督方的学校周围的周边。当位置确定设备222指示受监督方的用户计算设备在该周边内时，受监督方被认为在学校。第二地图片段508示出了受监督方家周围的周边。当位置确定设备222指示受监督方的用户计算设备在该周边内时，受监督方被认为在家。
94.在第二列510中，ui组件136列出了具有依赖于受监督方在第一列504中标识的相应位置的存在或不存在的约束的应用组。在第三列512中，ui组件136提供在第一列504中标识的位置的名称。在第四列514中，ui组件136标识应用的相应类别。并且在第五列516中，ui组件136描述了当受监督方在指定位置时适用于相应应用的约束。例如，ui呈现502中的第一行518指示没有时间限制适用于受监督方与数学帮助应用的交互，只要受监督方位于与受监督方的学校相关联的地理周边内。然而注意，ui组件136可以限定当该程序在其他位置被消费时适用于该程序的其他限制。即，图5被理解为提供了适用于特定位置内的应用消费的约束的过滤视图。
95.如前所述，适用于应用的限制涉及允许受监督方在指定时间跨度内与应用交互的时间量。如果允许的时间量为零，则计算环境102有效地阻止受监督方与应用的交互。附加地或备选地，计算环境102可以生成和应用适用于受监督方对应用的消费的其他约束。可能的附加约束可以包括：受监督方经由应用而花费的金额；受监督方经由应用而发送的消息数量；受监督方经由应用而建立的新联系人(例如，新“朋友”)的数量等。例如，计算环境102已经为应用pizzaorder限定了金钱相关限制，这表明受监督方在给定报告时段内不能经由该应用进行超过20美元的购买，其中这样的购买是从受监督方的家中进行的。信息项520传达了这个约束。
96.图6示出了ui组件136生成以报告受监督方在报告时段内(例如，这里是一周的时间跨度内)对不同应用的消费的ui呈现602。在一个仅是说明性的情况下，ui组件136以与先前讨论的ui呈现相同的通用方式来构造ui呈现602。即，ui呈现602包括标识受监督方的第一部分604、以及提供关于受监督方在报告时段内对应用的消费的信息的第二部分606。然而，ui呈现602中的第二部分606不是提供约束信息，而是呈现描述受监督方与不同应用交互所花费的时间量的信息。尽管未示出，但是ui组件136还可以呈现关于其他消费度量的信息，诸如受监督方发送的消息的数目、受监督方花费的金额等。
97.更具体地，ui呈现602包括允许监督方选择不同过滤因子的选项卡式控制特征608。这里，在图6中，监督方选择了“按app”选项卡。作为响应，在第一列610中，ui组件136呈
现受监督方在报告时段内与之交互的应用的列表。排序控制特征612允许监督方指示ui组件136以特定方式对应用进行排序。这里，监督方已经选择了排序选项，该排序选项使ui组件136按应用在报告时段中被使用的总时间量从最大到最小对应用进行排序。即，ui组件136在列表的顶部显示受监督方与其交互最多时间量的应用，显式受监督方与其交互其次最多时间量的应用作为列表中的第二条目等。
98.在第二列614中，ui组件136示出了与第一列610中的应用相关联的类别。在第三列616中，ui组件136在第一列610中示出了受监督方与应用交互所花费的时间量。更具体地，注意，ui组件136可以针对不同的相应上下文示出不同条目，在该上下文中受监督方消费每个应用。例如，考虑在ui呈现602的第一行618中标识的数学帮助程序。假定适用于该程序的(多个)规则传达了受监督方可以无限时间与该程序自由交互，提供受监督方在学校与该程序交互。但该(多个)规则也可能会限制受监督方在与受监督方的学校相关联的周边以外的所有位置与该程序的交互。ui组件136相应地以相同的粒度报告受监督方的消费，例如，通过指示受监督方在学校花费了七个小时与该程序交互、以及在校外花费了一个小时与该程序交互。在另一实现中，ui组件136可以通过位置和/或(多个)任何其他上下文因素将使用信息聚集在数据存储库128中。然后它可以将ui呈现602中的条目用于最流行的集群。尽管未示出，但是ui组件136还可以针对每个应用提供条目，该条目示出了受监督方在所有上下文中与应用交互所花费的总时间量。
99.第五列620示出了帮助监督方解释在第四列616中呈现的使用信息的评论。例如，ui组件136可以在受监督方的消费值得称赞时显示注释(如在受监督方对数学帮助程序的消费中)、以及在受监督方的消费不满意时显示注释(如受监督方在车辆中移动的同时对照片墙(instagram)程序的消费)。ui组件136可以使用单独的规则集生成每个消息，例如，通过使用查找表将与受监督方对应用的消费有关的输入信息映射到适当消息；输入信息指示所考虑的应用、相关上下文、适用于这种情况的限制、以及受监督方在报告时段内使用该应用的时间量。
100.ui组件136可以提供允许监督方与ui呈现602中呈现的信息进行交互的不同工具。作为第一工具，ui组件136可以允许监督方点击或以其他方式激活ui呈现602中的条目，例如，通过激活与youtube应用相关联的条目。作为响应，ui组件136可以呈现附加信息622，该附加信息622示出了报告时段(这里为一周)内受监督方对应用的消费的分类。ui组件136还可以呈现命令特征624，命令特征624允许监督方查看和/或编辑适用于该应用的限制。
101.此外，ui组件136提供命令特征626，该命令特征626允许监督方联系受监督方，例如，以对令人满意的应用消费行为提供表扬，而对不满意的应用消费行为进行负面批评。响应于监督方对命令特征626的激活，计算环境102可以通过打开任何类型的聊天会话、通过发送电子邮件消息、通过拨打电话等来联系受监督方。
102.ui组件136可以呈现用于查看使用信息的其他ui呈现，该ui呈现与图4和图5等所示的ui呈现的种类平行。例如，ui组件136可以向监督方呈现地图，该地图示出了受监督方消费的应用的普遍位置。ui组件136可以用使用信息来注释地图，特别是突出不合规的使用。附加地或备选地，ui组件136可以呈现位置列表和与其相关联的使用信息。ui组件136还可以提供允许监督方与地图交互的各种控制特征。例如，ui组件136可以允许用户选择地图内的区域(例如，通过绘制区域的周边)。作为响应，ui组件136可以示出受监督方在该区域
内对应用的消费，突出显示不合规的使用。
103.例如，图7示出了ui呈现702，ui呈现702总结了受监督方在学校对应用的消费。地图片段显示704示出了与受监督方的学校相关联的周边。ui呈现702可以提供允许监督方移动周边、改变其大小、改变其形状等的控制特征。ui呈现702还提供描述受监督方花费在学校消费不同应用上的时间量的使用信息。使用信息突出显示不符合规则的两个实例(706、708)。
104.图8和图9示出了ui组件136可以向监督方警告受监督方的不满意(或满意)行为、然后允许监督方立即对该行为做出响应的更有针对性的方式的示例。更具体地，在图8中，ui组件136在由监督方使用的用户计算设备138提供的ui呈现804内呈现实时通知802。该通知802提醒父母她的孩子刚刚超过了分配的在报告时段内用于与网飞(netflix)程序交互的时间量。通知802还给监督方提供了用于扩展限制的各种选项。响应于监督方对这些选项中的一个选项的激活，计算环境102可以将该程序的时间限制增加所请求的量。尽管未示出，但是通知802可以允许监督方以其他方式做出响应，例如，通过阻止对应用的访问、联系受监督方等。
105.图9示出了ui组件136在ui呈现904内呈现通知802的情况，该通知802提醒受监督方潜在的更令人担忧的威胁(与图8的示例相比)。即，通知902指示受监督方最近(并且可能当前)在移动的车辆中与照片墙应用进行交互。如果她碰巧在开车，这会对受监督方构成危险。但是，如果受监督方不是车辆操作者，则所报告的使用可能是可以接受的。通知902还提供用于响应于警报消息的各种选项，例如，通过阻止对应用的访问、呼叫受监督方等等。
106.尽管未示出，但是用户界面(ui)组件可以向受监督方呈现一个或多个ui呈现。例如，这些ui呈现可以提醒受监督方适用于他或她在不同上下文中消费应用的时间限制、用于在不同上下文中与应用交互的剩余可用时间等。ui呈现还可以提供允许受监督方与他或她的监督方交互的控制特征，例如，请求更多时间、对限制提出异议等。ui呈现还可以为受监督方提供有关他或她如何增加特定应用的屏幕时间的指导。例如，ui组件可以查阅规则逻辑以确定如果他或她执行某些任务，诸如锻炼规定的时间量、与教育相关呈现交互规定的时间量等，则受监督方可以再获得20分钟的时间与游戏应用交互。
107.该小节通常还用于突出显示计算环境102如何促进将约束分配给应用的任务。即，计算环境102可以自动生成适用于不同上下文中的应用的规则，从而消除或减少监督方手动执行该任务的需要。该能力在处理将新应用引入市场时特别有用。计算环境102还可以基于受监督方环境中的变化来自动修改现有规则。同时，计算环境102仍然给监督方定制已经自动生成的规则的机会。
108.迄今为止呈现的大多数示例与上下文的短期变化有关。但是计算环境102也有效地适应上下文的更深刻的长期变化。为了扩展上述几点，考虑图10，图10示出了划分儿童发展的不同时段的图1002，包括学龄前时段、小学时段、初中时段和高中时段。图1002还示出了儿童发展中的代表性里程碑，这些里程碑与儿童与应用和其他计算资源交互的方式有关。例如，在学龄前时段，孩子可能只能有限地访问孩子父母授权的专用计算设备和应用。在小学时段，孩子可能仍然对计算设备和应用的访问受到限制。例如，孩子可能仍然依赖其他人的计算设备来访问受限的应用集。但孩子识字能力的提高使得他或她能够与浏览器交互以执行web搜索和访问网站。在初中时段，父母可能会为孩子提供他或她自己的用户计算
设备(例如，智能电话)，但仍可能密切监测和约束孩子对该设备的使用。在此期间，孩子还可以使用社交网络应用设置一个或多个账户。在高中时段，孩子可能会开始开车。在某个时候，孩子也可能开始赚取收入，以给他或她一些自主权来购买他或她自己的设备。这些儿童发展过程中的事件在此仅出于说明而非限制的精神而呈现。根据孩子的文化、孩子的居住地(和相关社区)、父母的育儿理念等，上述信息技术相关的孩子发展里程碑可能会有所不同。
109.同样，可以预期儿童面临的威胁在儿童的整个发展过程中会发生变化。例如，初中的孩子可能开始与社交网络应用交互，但可能还没有发展出足够的判断技能来避免与未知和可能不合适的人接触。从高中开始开车的孩子在开车的同时与智能电话互动的风险可能很高。
110.作为一般目标，上述计算环境102通过随着儿童长大而自动并且动态地改变其应用于儿童的规则来解决这些不断发展的威胁。计算环境102具体说明了在儿童生活中引入新的计算设备和应用。它还解释了孩子长大后行为模式的变化、以及孩子做出正确判断的能力的演变。计算环境102通过提供表达图1002中所示的知识的规则逻辑来实现这些结果。
111.a.3.app分类组件和使用控制组件。
112.图11示出了app分类组件112的一种实现，app分类组件112在图1的上述说明中已经介绍。用于重复，app分类组件112的功能是将至少一个标签分配给应用，该标签标识由应用执行的(多个)主要功能和/或应用的其他特性(诸如，其年龄适合性等)。计算环境102可以在新应用被引入市场时或者当适合重新审视给予已知应用的先前分类时调用app分类组件112(例如，这可以在事件驱动的基础上执行，定期执行等)。
113.图11所示的app分类组件的实现使用经机器训练的模型120。模型120可以被实现为任何类型的机器训练逻辑，诸如支持向量机(svm)模型、决策树模型、逻辑回归模型、(多个)任何类型的神经网络模型(诸如，全连接前馈网络、卷积神经网络等)等。
114.更具体地，特征编码组件1102首先接收描述所考虑的应用的app分类输入特征的集合。非限制性地，这些特征可以包括：关于如何在应用本身外部的一个或多个源中描述应用的信息；由应用本身提供的信息(例如，在与应用相关联的元数据文件中)；有关其他人如何使用该应用的信息(如果该信息可用)等。特征编码组件1102然后将这些特征转换为可以由经机器训练的模型120处理的格式。例如，特征编码组件1102可以查阅查找表以将不同信息项转换为离散值或输入向量。在语言信息(诸如，关键字等)的情况下，特征编码组件1102可以将每个语言项(例如，每个单词)转换为独热(one-hot)向量(在与单词相关联的向量的维度中具有1个条目，在其他维度中具有0个条目)。或者，它可以将语言项目转换为对n元语法信息进行编码的向量(对于输入单词中存在的n元语法有1个条目，而对于其他维度有0个条目)。
115.变换组件1104然后可以使用模型120将输入特征映射到最终输出结果中。例如，变换组件1104可以将输入特征映射成数字输出结果。然后，它可以查阅查找表或其他映射机制，以将数字输出结果转换为特定标签。
116.备选地或附加地，app分类组件112可以使用一个或多个启发式规则来分类应用。一个这样的规则可以规定，具有一个或多个说明性关键字的描述的应用将被给予特定标签。例如，具有“代数”一词出现在其中的描述的应用将被标记为教育相关应用。另一规则可
以指示与指示在学校相关设置中常用的使用信息相关联的应用将被标记为教育相关应用等。这样的规则可以使用任何环境特定阈值来确定模式何时被认为具有统计意义。
117.图12示出了使用控制组件114的一种实现。该组件114将使用控制输入特征集映射到输出结果中。输出结果指示是否允许受监督方与所标识的应用交互。更具体地，使用控制输入特征包括有关受监督方的信息(诸如，受监督方的年龄、居住地、学校等)、有关受监督方试图与之交互的候选应用的信息(诸如，应用的分类等)、以及有关受监督方当前正在操作的当前环境的信息(诸如，当前时间、受监督方寻求与候选应用交互的当前地点等)。如上所述，输入特征还可以包含揭示受监督方最近完成的动作的信息，这些信息可以说是在当前上下文中存在的。应用评分组件1202将屏幕时间值分配给应用，该值反映该应用是否适合该受监督方在当前上下文中使用。在一些实现中，屏幕时间值可以更具体地描述在给定当前上下文的情况下受监督方被允许在指定时间跨度内与应用交互的时间量。值为零指示在给定当前上下文的情况下，受监督方根本不应当使用该应用。在某些情况下，屏幕时间不为零，并且主要取决于具有特定年龄的受监督方当前正在做什么、和/或受监督方当前所在的位置、和/或受监督方当前与谁相关联等。附加地或备选地，屏幕时间是非零的，并且取决于受监督方最近完成的任务。
118.决策组件1204可以做出关于是否应当允许受监督方与应用交互的最终决策，以提供最终输出结果。例如，决策组件1204可以查阅(图1的)数据存储库126中的使用信息以确定受监督方已经花费在与应用交互上的时间量。如果该时间量小于由应用评分组件指定的分配屏幕时间量，则决策组件1204可以指示允许与应用的交互。决策组件1204可以在受监督方与应用的交互过程中重新审视其决策。随着继续交互，决策组件1204将最终到达受监督方没有更多时间与应用交互的那个时刻。
119.决策组件1204可以查阅一个或多个策略规则以确定它如何根据其关于是否超过相关时间限制的结论来行动。根据一个规则，决策组件1204可以在已经超过时间限制(或一开始为零)时禁止受监督方与应用交互。在另一情况下，决策组件1204可以允许受监督方在这种情况下与应用交互，但它将这种使用标记为不合规。
120.应用评分组件1202使用(图1的)数据存储库128中的规则逻辑来生成屏幕时间值。如上所述，规则逻辑在不同的相应实现中可以采用不同形式。在第一种情况下，规则逻辑对应于离散规则集。每个规则与特定上下文情况相关联，例如，涉及特定种类的受监督方在特定时间和/或特定地点对特定应用的消费。在一种非限制性实现中，这样的规则标识了受监督方被允许在给定报告时段中与应用交互(如果有)的时间量。这里，应用评分组件1202通过将该使用控制输入特征集匹配到与相同特征相关联的至少一个规则来操作。然后它输出与该规则相关联的时间限制。
121.在第二实现中，规则逻辑可以对应于经机器训练的模型，而不是离散规则集。这里，应用评分组件1202可以使用与图11所示的相同类型的架构来执行其操作。即，应用评分组件1202可以使用特征编码组件来将其输入特征转换为用于进一步处理的形式。然后它可以使用转换组件将输入特征映射到输出结果。在一种情况下，给定当前指定上下文，输出结果指定了受监督方被允许与给定应用交互的时间量。
122.尽管未在图12中表示，但是在一些实现中，使用控制组件114还可以基于附加逻辑来做出其决策，例如，如启发式算法和/或另一经机器训练的模型130中所示。例如，附加逻
辑可以处理使用控制组件114标识与当前上下文匹配的两个不同离散规则的情况。附加逻辑可以确定什么规则适用于这种情况、或者多个规则的并集是否适用于这种情况。备选地，可以将这个附加逻辑并入规则逻辑本身。
123.图13示出了功能1302，功能1302概括地概述了经机器训练的模型如何将输入信息映射到输出信息。这里，特征编码组件1304将输入特征转换为适当形式以进行进一步处理，例如，通过将特征转换为输入向量的集合。神经网络组件1306使用任何类型的神经网络将输入向量转换为由最后一层神经元提供的输出向量集合。神经网络可以包括一层或多层神经元。前馈网络的任何层j中的值可以由公式zj＝f(wjz
j-1+bj
)给出，其中j＝2，
…
n。符号wj表示第j机器学习的权重矩阵，并且符号bj是指可选的第j机器学习的偏置向量。激活函数f(x)可以用不同方式表示，诸如tanh函数或整流线性(relu)函数等。后处理组件1308将由最后一层提供的输出值转换为最终输出结果。例如，后处理组件1308可以对应于柔性最大值传输(softmax)函数。
124.a.4.说明性训练功能
125.图14示出了由图1的计算环境102提供的训练系统122的概述。训练系统122包括用于生成管理app分类组件112的操作的逻辑的分类器生成组件1402。例如，分类器生成组件1402可以包括生成由app分类组件112使用的经机器训练的模型120的机器学习功能。
126.分类器生成组件1402可以基于训练数据存储库124中的训练示例集来生成模型120。每个正面训练示例可以对应于关于应用的信息(包括其相关联的元数据和其他属性、外部源对其的描述、其他人使用它的方式等)、以及与应用相关联的适当标签。每个负面训练示例可以对应于应用信息和与应用相关联的标签的不正确配对。分类器生成组件1402可以迭代地调节与模型120相关联的权重值和偏差值，以逐渐增加模型120将正确标签分配给应用的概率，并且降低模型120将不正确标签分配给应用的概率。分类器生成组件1402可以使用任何训练技术来执行该操作，诸如随机梯度下降、已知的adam算法等。备选地或附加地，分类器生成组件1402提供上述类型的启发式规则。
127.训练系统122还包括用于生成存储在数据存储库128中的上述规则逻辑的规则生成组件1404。在第一种情况下，规则逻辑包括离散规则集的参数化集。在这个实现中，规则生成组件1404选择规则并且为规则中的变量限定值。在第二种方法中，规则逻辑包括经机器训练的模型。在这种情况下，规则生成组件1404产生该模型。
128.更具体地，关于第一种情况，规则生成组件1404可以通过枚举与相应规则相关联的多个离散场景开始。例如，规则生成组件1404可以限定规则组，这些规则考虑在预期使用该应用的各种流行上下文中使用给定应用。例如，第一上下文可以指示应用在家中的使用，第二上下文可以对应于应用在学校的使用，第三上下文可以对应于应用在任何其他位置的使用，第四上下文可以考虑当受监督方在移动的车辆中的同时应用的使用等。规则生成组件1404还可以将该分组扩展到不同年龄组和/或关于预期与应用交互的受监督方的其他显著特性。不同环境可以基于环境特定启发式规则以任何粒度级别来执行该枚举。
129.在该枚举操作之后，规则生成组件1404可以将一个或多个值分配给每个规则。在某些情况下，给定与规则相关联的上下文场景，值可以指定受监督方被允许与应用交互的时间量。例如，考虑与13至17岁年龄段的受监督方在家中与特定应用交互的场景有关的规则。规则生成组件1404可以使用经机器训练的模型和/或一个或多个启发式规则来为该规
则分配值，以指示该年龄范围内的受监督方被允许在指定上下文中使用该应用的时间量。
130.用于计算该时间限制值的模型可以对应于任何种类的机器训练功能，诸如逻辑回归模型、任何类型的神经网络等。规则生成组件1404可以使用数据存储库124中的训练示例集来训练这种模型。每个正面训练示例可以对应于关于场景的信息，并且与该场景的适当时间限制配对。每个负面训练示例可以对应于场景的描述以及与该场景相关联的不适当的时间限制。规则生成组件1404可以通过增加它将向场景分配正确时间限制的概率并且降低它将向场景分配不正确时间限制的概率来迭代地训练该模型。规则生成组件1404可以使用任何训练技术来执行该任务，诸如上面提到的技术。在一种情况下，这些训练示例可以从数据存储中获取，该数据存储标识由监督方做出的手动时间限制决策。
131.备选地或附加地，规则生成组件1404可以使用一个或多个启发式规则来将时间限制值分配给场景。例如，规则生成组件1404可以采用指示不应当允许儿童在移动的汽车中使用应用的规则，除非该应用已经被标记为导航相关应用。
132.在上述第二实现中，规则生成组件1404开发用于计算时间限制的经机器训练的模型，即，无需首先生成离散的规则集。在该上下文中，通用模型包括隐含地体现规则集的权重值和偏差值集，而无需明确枚举这些规则。这里，规则生成组件1404可以基于训练数据存储库124中的训练示例集以与上面针对第一次提到的情况描述的方式大致相同的方式来产生这样的模型。
133.上述两种实现可以被视为在它们使用机器学习来计算场景的时间限制的阶段方面不同。第一实现(使用离散规则)在离线规则创建阶段使用经机器训练的模型来限定与不同流行场景相关的时间限制。第二实现在实时应用阶段使用经机器训练的模型来计算所标识的当前上下文的时间限制。第一实现可以有助于帮助监督方(和受监督方)更好地理解适用于应用消费的约束。它还提供了一种范式，该范式使监督方可以轻松地修改规则。它还可以在实时应用阶段高效地利用资源。与第一实现相比，第二实现可以在运行时提供更大的通用性。
134.如上所述，注意，第二实现(在运行时阶段使用经机器训练的模型)也可以经由图3至图5所示的ui呈现类型填充规则集以供监督方查看。计算环境102可以通过将与不同流行输入场景相关联的输入信息的不同实例馈送到经机器训练的模型中并且然后将输入信息的不同实例与由经机器训练的模型产生的输出结果一起显示来执行该任务。计算环境102可以通过重新训练经机器训练的模型或通过对经机器训练的模型中包含的规则逻辑划分和存储离散异常来考虑监督方对规则的修改。
135.图15展示了训练系统122的方面如何可以可选地分布在(图2的)用户计算设备208与服务器204之间。在该实现中，服务器端训练系统1502基于数据存储1506中提供的训练数据生成一个或多个上述类型的经机器训练的模型1504。例如，模型1504可以包括由app分类组件112使用的模型120和/或供使用控制组件114使用的模型(其中该模型实现数据存储库128中的规则逻辑)。服务器端训练系统1502然后可以将这些模型1504分发到由受监督方使用的相应用户计算设备208。一旦安装在相应用户计算设备208上，服务器端模型1504此后可以被认为是客户端模型。
136.图15具体地示出了由一个特定受监督方操作的一个特定用户计算设备提供的客户端模型集1508。该用户计算设备使用其客户端模型集1508来做出本地决策，例如，通过将
标签分配给新下载的应用、通过确定在给定上下文中使用应用是否合适等。
137.可选地，每个用户计算设备还可以包括本地训练系统1510。本地训练系统1510可以基于使用模型1508的受监督方的行为来个性化客户端模型1508。例如，假定该受监督方定期请求其家长许可在学校环境中使用特定应用，并且家长定期批准该请求的使用。本地训练系统1510可以调节规则逻辑中的权重和偏差值，以增加当受监督方下次在学校尝试访问该应用时该应用将被自动批准的概率。或者，本地训练系统1510可以限定离散异常并且将其保存到与客户端模型1508相关联的规则逻辑。
138.用户计算设备还可以包括用于将数据发送到服务器端训练系统1502的匿名化组件1512。数据可以传达受监督方在不同情境情况下使用不同应用的时间量。数据还可以报告监督方修改由客户端模型1508提供的规则逻辑的场合等。匿名化组件1512可以首先建立将数据发送到服务器端训练系统1502的许可，该许可可以由监督方和/或受监督方提供。如果给予许可，则匿名化组件1512可以移除数据中将数据与具有特定身份的特定人相关联的信息。例如，匿名化组件1512可以改变数据，以使其一般地反映居住在该国特定地区的特定年龄范围内的受监督方的行为模式，而无需另外提供将模式与特定人联系起来的信息。
139.在接收到来自多个用户计算设备的数据时，服务器端训练系统1502使用该数据来更新服务器端模型1504。更具体地，在一种实现中，服务器端训练系统1502可以周期性地和/或在事件驱动的基础上更新服务器端模型1504。在每次更新之后，服务器端训练系统1502将更新后的模型分发给用户计算设备208。这种操作方式将确保每个本地计算设备具有模型的最新版本。
140.b.说明性过程
141.图16和图17以流程图形式示出了解释a部分的计算环境102的操作的过程。由于计算环境102操作的基本原理已经在a部分中描述，某些操作将在本部分中以概括的方式进行处理。如具体实施方式的前言部分所述，每个流程图示为以特定顺序执行的一系列操作。但是这些操作的顺序只是代表性的，并且可以以任何方式改变。
142.更具体地，图16示出了过程1602，过程1602表示图1的计算环境102的一种操作方式的概述。在框1604中，计算环境102使用经机器训练的模型120和/或启发式逻辑对多个应用自动分类，以提供多个分类应用。在框1606中，计算环境102基于影响受监督方的当前上下文并且基于由训练系统122提供的规则逻辑，自动控制特定受监督方对分类应用的访问。在框1608中，计算环境102生成报告，该报告描述受监督方在不同的相应上下文中与至少一个分类应用交互的时间量。
143.图17示出了过程1702，过程1702提供关于与图16的框1606相关联的控制操作的另外的细节。在框1704中，计算环境102自动接收规则逻辑。例如，规则逻辑可以从服务器端训练系统1502接收，服务器端训练系统1502使用规则生成组件来自动生成规则逻辑。规则逻辑指定分配给不同种类或类别的受监督方以用于在多个上下文中与多个应用的交互的时间量。在框1706中，计算环境102接收标识候选应用的应用输入信号，例如，响应于特定受监督方试图调用候选应用。在框1708中，计算环境102从一个或多个输入设备接收上下文输入信号。上下文输入信号共同提供当前上下文信息，该当前上下文信息描述影响受监督方的当前上下文。至少一个上下文输入信号标识与候选应用相关联的分类。在框1710，计算环境102基于当前上下文信息和规则逻辑来生成输出结果。输出结果指定受监督方被允许在当
前上下文中与候选应用交互的时间量。在框1712中，计算环境102基于输出结果来控制受监督方与候选应用的交互。
144.c.代表性计算设备
145.图18示出了可以用于实现上述附图中阐述的机制的任何方面的计算设备1802。例如，参考图18，图18所示的类型的计算设备1802可以用于实现任何服务器、任何用户计算设备等。在所有情况下，计算设备1802表示物理和有形处理机制。
146.计算设备1802可以包括一个或多个硬件处理器1804。(多个)硬件处理器1804可以包括但不限于一个或多个中央处理单元(cpu)和/或一个或多个图形处理单元(gpu)和/或一个或多个专用集成电路(asic)等。更一般地，任何硬件处理器可以对应于通用处理单元或专用处理器单元。
147.计算设备1802还可以包括与一个或多个计算机可读介质硬件单元相对应的计算机可读存储介质1806。计算机可读存储介质1806保留任何种类的信息1808，诸如机器可读指令、设置、数据等。非限制性地，例如，计算机可读存储介质1806可以包括一个或多个固态设备、一个或多个磁性硬盘、一个或多个光盘、磁带等。计算机可读存储介质1806的任何实例都可以使用用于存储和取回信息的任何技术。此外，计算机可读存储介质1806的任何实例可以表示计算设备1802的固定或可移动单元。此外，计算机可读存储介质1806的任何实例可以提供信息的易失性或非易失性保留。
148.计算设备1802可以以不同方式利用计算机可读存储介质1806的任何实例。例如，计算机可读存储介质1806的任何实例可以表示用于在计算设备1802对程序的执行期间存储暂态信息的硬件存储器单元(诸如，随机存取存储器(ram))和/或用于更永久地保留/归档信息的硬件存储单元(诸如，硬盘)。在后一种情况下，计算设备1802还包括用于从计算机可读存储介质1806的实例中存储和取回信息的一个或多个驱动机制(未示出，诸如，硬盘驱动机制)。如上所述，计算设备1802可以包括任何上下文感测设备，诸如一个或多个移动和/或位置确定设备1810。
149.当(多个)硬件处理器1804执行存储在计算机可读存储介质1806的任何实例中的计算机可读指令时，计算设备1802可以执行上述任何功能。例如，计算设备1802可以执行计算机可读指令以执行b部分中描述的每个过程框。
150.备选地或附加地，计算设备1802可以依赖于一个或多个其他硬件逻辑单元1812来使用逻辑门的任务特定集合来执行操作。例如，(多个)硬件逻辑单元1812可以包括硬件逻辑门的固定配置，例如，在制造时创建和设置并且此后不可更改的硬件逻辑门。备选地或附加地，(多个)其他硬件逻辑单元1812可以包括可以被设置为执行不同应用特定任务的可编程硬件逻辑门的集合。后一类器件包括但不限于可编程阵列逻辑器件(pal)、通用阵列逻辑器件(gal)、复杂可编程逻辑器件(cpld)、现场可编程门阵列(fpga)等。
151.图18一般性地指示硬件逻辑电路系统1814包括(多个)硬件处理器1804、计算机可读存储介质1806和/或(多个)其他硬件逻辑单元1812的任何组合。即计算设备1802可以采用执行在计算机可读存储介质1806中提供的机器可读指令的(多个)硬件处理器1804和/或使用硬件逻辑门的固定和/或可编程集合执行操作的一个或多个其他硬件逻辑单元1812的任何组合。更一般地，硬件逻辑电路系统1814对应于基于存储和/或以其他方式体现在(多个)硬件逻辑单元中的逻辑来执行操作的(多个)任何类型的一个或多个硬件逻辑单元。
152.在一些情况下(例如，在计算设备1802表示用户计算设备的情况下)，计算设备1802还包括输入/输出接口1816，输入/输出接口1816用于接收各种输入(经由输入设备1818)并且用于提供各种输出(经由输出设备1820)。示例性输入设备包括键盘设备、鼠标输入设备、触摸屏输入设备、数字化板、一个或多个静态图像相机、一个或多个摄像机、一个或多个深度相机系统、一个或多个麦克风、语音识别机制，任何移动检测机制(例如，加速度计，陀螺仪等)等。一种特定的输出机制可以包括显示设备1822和相关联的图形用户界面呈现(gui)1824。显示设备1822可以对应于液晶显示设备、发光二极管显示(led)设备、阴极射线管设备、投影机构等。其他输出设备包括打印机、一个或多个扬声器、触觉输出机构、归档机构(用于存储输出信息)等。计算设备1802还可以包括用于经由一个或多个通信管道1828与其他设备交换数据的一个或多个网络接口1826。一个或多个通信总线1830将上述单元通信耦合在一起。
153.(多个)通信管道1828可以任何方式实现，例如，通过局域网、广域计算机网络(例如，互联网)、点对点连接等、或任何的组合。(多个)通信管道1828可以包括由任何协议或协议组合管理的硬连线链路、无线链路、路由器、网关功能、名称服务器等的任何组合。
154.图18将计算设备1802显示为由分离单元的离散集合组成。在一些情况下，单元的集合可以对应于在具有任何形状因数的计算设备机箱中提供的离散硬件单元。图18在其底部示出了说明性的形状因数。在其他情况下，计算设备1802可以包括集成了图1所示的两个或更多个单元的功能的硬件逻辑单元。例如，计算设备1802可以包括与结合了图18所示的单元中的两个或更多个单元的功能的集成电路相对应的片上系统(soc或soc)。
155.以下概述提供了本文中阐述的技术的非详尽说明性示例。
156.根据第一示例，描述了用于控制受监督方与应用的交互的一种或多种计算设备。(多个)设备包括硬件逻辑电路系统，硬件逻辑电路系统进而包括：(a)通过执行存储在存储器中的机器可读指令来执行操作的一个或多个硬件处理器，和/或(b)使用逻辑门的任务特定集合来执行操作的一个或多个其他硬件逻辑单元。操作包括：接收规则逻辑，规则逻辑指定被分配给不同种类的受监督方用于在多个上下文中与多个应用的交互的时间量；接收标识候选应用的应用输入信号；从一个或多个输入设备接收上下文输入信号，上下文输入信号共同提供当前上下文信息，该当前上下文信息描述影响特定受监督方的当前上下文；基于当前上下文信息和规则逻辑来生成输出结果，输出结果指定受监督方被允许在当前上下文中与候选应用交互的时间量；以及基于输出结果来控制由受监督方与候选应用的交互。
157.根据第二示例，其中至少一个上下文输入信号源自位置确定设备并且标识受监督方的当前位置，并且至少一个其他上下文输入信号源自移动的确定设备并且标识受监督方当前是否正在移动。
158.根据第三示例，上下文输入信号包括描述影响受监督方的当前上下文的两个上下文输入信号集，两个上下文输入信号集评估关于两个不同时间跨度的上下文。
159.根据第四示例，规则逻辑对应于离散规则集。
160.根据第五示例，规则逻辑对应于隐式地表达规则集的经机器训练的模型。
161.根据第六示例，由规则逻辑表达的给定规则指定受监督方被允许在指定位置与候选应用交互的时间量。
162.根据第七示例，在第六示例中引用的指定位置是学校相关设置。
163.根据第八示例，由规则逻辑表达的给定规则指定受监督方被允许在指定时间与候选应用交互的时间量。
164.根据第九示例，由规则逻辑表达的给定规则指定受监督方被允许在参与指定活动的同时与候选应用交互的时间量。
165.根据第十示例，在第九示例中引用的指定活动是操作车辆。
166.根据第十一示例，由规则逻辑表达的给定规则基于指示受监督方已经完成规定任务来指定受监督方被允许与候选应用交互的时间量。
167.根据第十二示例，由规则逻辑表达的给定规则取决于受监督方的年龄和与候选应用相关联的应用的类别。
168.根据第十三示例，操作还包括：接收与被考虑的新应用有关的应用分类输入特征；以及使用经机器训练的模型，基于应用分类输入特征自动标识新应用的分类。应用分类输入特征提供：由新应用本身表达的信息；和/或从不同于新应用的一个或多个来源获取的、描述新应用的信息；和/或描述用户如何在不同上下文中使用新应用的信息。
169.根据第十四示例，操作还包括：向受监督方的监督方提供用户界面呈现，用户界面呈现示出由规则逻辑表达的多个规则的表示；以及响应于监督方与用户界面呈现的交互而从监督方接收校正输入信号，校正输入信号指定对多个规则中的至少一个规则的改变。
170.根据第十五示例，操作还包括：生成报告，报告描述受监督方在不同的相应上下文中与至少一个应用交互的时间量；以及向受监督方的监督方提供报告。
171.根据第十六示例，描述了一种用于控制受监督方与应用的交互的计算机实现方法。方法包括：接收规则逻辑，规则逻辑指定分配给不同种类的受监督方用于在多个上下文中与多个应用的交互的时间量，规则逻辑由训练系统自动生成；接收标识候选应用的应用输入信号；以及从一个或多个输入设备接收上下文输入信号，上下文输入信号共同提供当前上下文信息，该当前上下文信息描述影响特定受监督方的当前上下文。上下文输入信号包括源自位置确定设备并且标识受监督方的当前位置的至少一个上下文输入信号、源自移动确定设备并且标识受监督方当前是否正在移动的至少一个其他上下文输入信号、以及源自经机器训练的模型并且标识与候选应用相关联的分类的至少一个其他上下文输入信号。方法还包括：基于当前上下文信息和规则逻辑生成输出结果，输出结果指定受监督方被允许在当前上下文中与候选应用交互的时间量；以及基于输出结果控制受监督方与候选应用的交互。
172.根据与第十六示例相关的第十七示例，由规则逻辑表达的给定规则指定受监督方被允许在指定位置与候选应用交互的时间量。
173.根据与第十六示例相关的第十八示例，由规则逻辑表达的给定规则指定受监督方在参与指定活动的同时被允许与候选应用交互的时间量。
174.根据与第十六示例相关的第十九示例，方法还包括：生成报告，报告描述受监督方在不同的相应上下文中与至少一个分类应用交互的时间量；以及向受监督方的监督方提供报告。
175.根据第二十示例，描述了一种用于存储计算机可读指令的计算机可读存储介质。计算机可读指令在由一个或多个硬件处理器执行时执行一种方法，方法包括：使用经机器训练的模型对多个应用自动分类，以提供多个分类应用；接收规则逻辑，规则逻辑指定分配
给不同种类的受监督方用于在多个上下文中与多个应用的交互的时间量；接收标识候选应用的应用输入信号；从一个或多个输入设备接收上下文输入信号，上下文输入信号共同提供当前上下文信息，该当前上下文信息描述影响特定受监督方的当前上下文，上下文输入信号包括源自经机器训练的模型并且标识与候选应用相关联的分类的至少一个上下文输入信号；基于当前上下文信息和规则逻辑生成输出结果，输出结果指定受监督方被允许在当前上下文中与候选应用交互的时间量；基于输出结果控制受监督方与候选应用的交互；以及生成报告，报告描述受监督方在不同的相应上下文中与至少一个分类应用交互的时间量。
176.第二十一示例对应于上述第一示例至第二十示例的任何组合(例如，任何逻辑上一致的排列或子集)。
177.第二十二示例对应于与第一示例至第二十一示例相关联的任何方法对应物、设备对应物、系统对应物、装置加功能对应物、计算机可读存储介质对应物、数据结构对应物、制品对应物、图形用户界面呈现对应物等。
178.最后，描述已经在说明性挑战或问题的上下文中阐述了各种概念。这种解释方式并不旨在暗示其他人已经以本文中指定的方式理解和/或阐明了挑战或问题。此外，这种解释方式并不表示权利要求中记载的主题仅限于解决所标识的挑战或问题；即，权利要求中的主题可以应用于本文之外的其他挑战或问题的上下文中。
179.尽管已经以特定于结构特征和/或方法动作的语言描述了主题，但是应当理解，在所附权利要求中定义的主题不必然限于上述特定特征或动作。相反，上述具体特征和动作被公开作为实现权利要求的示例形式。