应用程序预测模型建立、预加载方法、装置、介质及终端与流程
本申请实施例涉及机器学习技术领域，尤其涉及应用程序预测模型建立、预加载方法、装置、介质及终端。
背景技术：
随着电子技术的快速发展和人们生活水平的日益提高，智能手机、平板电脑等终端已经成为人们生活中必不可少的一部分。
终端上设置有各种各样的应用程序(applicationsoftware，app)，为了使应用程序运行的更加流畅，通常终端会将提前将某些应用程序的加载资源准备好，即对某些应用程序提前进行预加载。
但是，不能对应用程序进行随意预加载，因为若预加载太多资源，则会占用过大内存，同时功耗变大，会严重影响终端使用的流畅性。因此，优化预加载机制、降低终端功耗变得至关重要。
技术实现要素：
本申请实施例提供应用程序预测模型建立、预加载方法、装置、介质及终端，可以优化应用程序的预加载机制，降低终端系统功耗。
第一方面，本申请实施例提供了一种应用程序预测模型建立方法，包括：
获取预设时间段内的用户行为样本，其中，所述用户行为样本包括至少两个应用程序的使用时序关联记录；
对所述使用时序关联记录进行分组，得到多组使用时序关联记录；
根据所述多组使用时序关联记录，对预设长短期记忆神经网络(longshort-termmemoryneuralnetwoke,lstm神经网络)模型进行训练，生成应用程序预测模型。
第二方面，本申请实施例提供了一种应用程序预加载方法，包括：
获取t时刻终端运行应用程序的使用状态及t-1时刻至t-n时刻对应的终端运行应用程序的使用状态，其中，n为大于等于2的自然数；
将所述使用状态输入至预先训练的应用程序预测模型中，获取所述应用程序预测模型输出的应用程序启动的概率值，其中，所述应用程序预测模型由多组使用时序关联记录基于预设lstm神经网络模型训练生成，多组使用时序关联记录是对预设时间段内应用程序的使用时序关联记录进行分组得到的；
根据所述概率值确定t+1时刻对应的待启动应用程序，并将所述待启动应用程序进行预加载。
第三方面，本申请实施例提供了一种应用程序预测模型建立装置，该装置包括：
用户行为样本获取模块，用于获取预设时间段内的用户行为样本，其中，所述用户行为样本包括至少两个应用程序的使用时序关联记录；
使用时序关联记录分组模块，用于对所述使用时序关联记录进行分组，得到多组使用时序关联记录；
应用程序预测模型生成模块，用于根据所述多组使用时序关联记录，对预设lstm神经网络模型进行训练，生成应用程序预测模型。
第四方面，本申请实施例提供了一种应用程序预加载装置，该装置包括：
使用状态获取模块，用于获取t时刻终端运行应用程序的使用状态及t-1时刻至t-n时刻对应的终端运行应用程序的使用状态，其中，n为大于等于2的自然数；
概率值获取模块，用于将所述使用状态输入至预先训练的应用程序预测模型中，获取所述应用程序预测模型输出的应用程序启动的概率值，其中，所述应用程序预测模型由多组使用时序关联记录基于预设lstm神经网络模型训练生成，多组使用时序关联记录是对预设时间段内应用程序的使用时序关联记录进行分组得到的；
应用程序预加载模块，用于根据所述概率值确定t+1时刻对应的待启动应用程序，并将所述待启动应用程序进行预加载。
第五方面，本申请实施例提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本申请实施例第一方面所述的应用程序预测模型建立方法。
第六方面，本申请实施例提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本申请实施例第二方面所述的应用程序预加载方法。
第七方面，本申请实施例提供了一种终端，包括存储器，处理器及存储在存储器上并可在处理器运行的计算机程序，所述处理器执行所述计算机程序时实现如本申请实施例第一方面所述的应用程序预测模型建立方法。
第八方面，本申请实施例提供了一种终端，包括存储器，处理器及存储在存储器上并可在处理器运行的计算机程序，所述处理器执行所述计算机程序时实现如本申请实施例第二方面所述的应用程序预加载方法。
本申请实施例中提供的应用程序预测模型建立及应用程序预加载方案，应用程序预测模型建立时，首先获取预设时间段内的用户行为样本，其中，用户行为样本包括至少两个应用程序的使用时序关联记录，然后对使用时序关联记录进行分组，得到多组使用时序关联记录，并根据多组使用时序关联记录，对预设lstm神经网络模型进行训练，生成应用程序预测模型。在对应用程序进行预加载时，获取t时刻终端运行应用程序的使用状态及t-1时刻至t-n时刻对应的终端运行应用程序的使用状态，其中，n为大于等于2的自然数，并将使用状态输入至预先训练的应用程序预测模型中，获取应用程序预测模型输出的应用程序启动的概率值，其中，应用程序预测模型由多组使用时序关联记录基于预设lstm神经网络模型训练生成，多组使用时序关联记录是对预设时间段内应用程序的使用时序关联记录进行分组得到的，最后根据概率值确定t+1时刻对应的待启动应用程序，并将待启动应用程序进行预加载。通过将用户在预设时间段内应用程序的使用时序关联记录分成多组使用时序关联记录，并将多组使用时序关联记录作为训练样本，生成应用程序预测模型，可以充分利用能够真实反映用户行为的应用程序使用时序关联记录，优化应用程序预加载机制，不仅解决了应用程序预加载太多资源，占用太多资源及功耗变大，甚至影响终端使用流程性的技术问题，而且可以有效地克服基于简单循环神经网络训练应用程序预测模型时，产生的梯度爆炸或消失的问题，进一步提高了应用程序预测模型训练的精度，提高对待启动应用程序预测的准确性。
附图说明
图1为本申请实施例提供的一种应用程序预测模型建立方法的流程示意图；
图2为本申请实施例提供的以滑动窗口的形式对使用时序关联记录进行分组的过程示意图；
图3为本申请实施例提供的基于lstm网络训练的应用程序预测模型中一个lstm结构单元的结构示意图；
图4为本申请实施例提供的基于lstm网络构建的应用程序预测模型的结构示意图；
图5为本申请实施例提供的另一种应用程序预测模型建立方法的流程示意图；
图6为本申请实施例提供的又一种应用程序预测模型建立方法的流程示意图；
图7为本申请实施例提供的应用程序预加载方法的流程示意图；
图8为本申请实施例提供的一种应用程序预测模型建立装置的结构示意图；
图9为本申请实施例提供的一种应用程序预加载装置的结构示意图；
图10为本申请实施例提供的一种终端的结构示意图；
图11为本申请实施例提供的另一种终端的结构示意图；
图12为本申请实施例提供的又一种终端的结构示意图。
具体实施方式
下面结合附图并通过具体实施方式来进一步说明本发明的技术方案。可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部结构。
在更加详细地讨论示例性实施例之前应当提到的是，一些示例性实施例被描述成作为流程图描绘的处理或方法。虽然流程图将各步骤描述成顺序的处理，但是其中的许多步骤可以被并行地、并发地或者同时实施。此外，各步骤的顺序可以被重新安排。当其操作完成时所述处理可以被终止，但是还可以具有未包括在附图中的附加步骤。所述处理可以对应于方法、函数、规程、子例程、子程序等等。
在终端设备上，对应用程序进行预加载是一种常用且有效提升用户体验的方法，通过提前把某些应用的加载资源准备好，使其运行时更流畅。
现有技术中，主要是基于统计的方法对应用程序进行预加载，比如用户最常用的应用程序可能只有几个，将其全部进行预加载；或者根据用户的使用习惯对应用程序进行打分排名，将排名较高的应用程序进行预加载。然而，上述方法由于忽略了应用程序之间相互关联的信息，以及时间信息，导致预加载应用程序的预测精度不够，需要预加载过多资源，但实际用户下一时刻使用的应用程序仅为一个，影响了用户体验。因此，准确预测用户下一时刻将要启动的应用程序具有重要意义。
图1为本申请实施例提供的应用程序预测模型建立方法的流程示意图，该方法可以由应用程序预测模型建立装置执行，其中该装置可由软件和/或硬件实现，一般可集成在终端中，该终端可以为服务器，如用于完成应用程序预测模型建立功能的建模服务器中，也可以为移动终端。如图1所示，该方法包括：
步骤101、获取预设时间段内的用户行为样本。
其中，用户行为样本包括至少两个应用程序的使用时序关联记录。
在本申请实施例中，预设时间段内的用户行为样本是指在预设时间段内，用户使用终端中的应用程序的历史使用时序关联记录。示例性的，在8:00-20:00这段时间内，用户对终端中的各个应用程序的使用时序关联记录。例如，用户在8:00使用淘宝这一应用程序，8:30将淘宝切换到京东商城这一应用程序，9:00将京东商城切换到支付宝这一应用程序。又如，用户11:40使用美团外卖这一应用程序，12：00将美团外卖切换到微信这一应用程序。应用程序的使用时序关联记录不仅包含了在各个时间点用户对应用程序的使用记录，而且还包括了用户对各个应用程序的使用的时序关系。
虽然，通常在终端中安装有各种各样的应用程序，然而，在预设时间段内，如一天中，用户使用的应用程序的个数是有限的，而且，用户经常使用的应用程序的个数也是有限的。大多数的应用程序的使用频率都较低，一周甚至一个月内，才有可能被用户使用一次。若将终端中安装的所有应用程序作为应用程序预测模型的训练样本，不仅数据量大，而且还会影响应用程序预测模型建立的精度，影响对下一时刻用户待启动的应用程序预测的准确性。
可选的，获取预设时间段内的用户行为样本，包括：根据预设时间段内应用程序的使用频次对应用程序进行排序；根据排序结果确定至少两个目标应用程序；根据目标应用程序的使用状态确定使用时序关联记录，作为用户行为样本。这样设置的好处在于，不仅可以大大减少应用程序预测模型建立时训练样本的数据量，而且还可以提高应用程序预测模型建立的精度及效率，进一步提高对待启动应用程序预测的准确性。
示例性的，预设时间段为8:00-22:00，对用户在这一预设时间段内对终端中各个应用程序的使用频次进行统计。根据使用频次对各个应用程序进行排序，如按照使用频次由大到小的顺序依次对各个应用程序进行排序。根据排序结果选取前m个目标应用程序，即将前m个目标应用程序确定为用户经常使用的应用程序，其中，m≥2。并根据目标应用程序的使用状态确定使用时序关联记录，其中，使用时序关联记录记载了用户在预设时间段内中的各个时间点对m个目标应用程序的使用情况，不仅包含了对m个目标应用程序的使用信息及使用时对应的时刻，而且还包含了对m个目标应用程序使用的时序关系。
另外，在用户使用终端中应用程序的过程中，经常会因为用户的误操作，生成无效的应用程序使用记录。如用户本意是要触发淘宝这一应用程序，却误点击了指南针这一应用程序，通常用户会快速退出指南针这一应用程序。同样的，这些无效的应用程序使用记录，也会影响应用程序预测模型建立的精度，影响对下一时刻用户待启动的应用程序预测的准确性。
可选的，从预设时间段内应用程序的历史使用记录中，过滤掉无效的应用程序使用记录。示例性的，对某个应用程序的使用时间小于预设时间阈值时，将对该应用程序的使用记录过滤掉。例如，用户对应用程序a的使用时间为3s，预设时间阈值为5s，则将应用程序a的使用记录过滤掉。这样设置的好处在于，可以有效提高应用程序预测模型建立的精度，进一步提高了对待启动应用程序预测的准确性。
需要说明的是，可以先将应用程序的历史使用记录中过滤掉无效的应用程序使用记录，然后再根据应用程序的使用频次确定目标应用程序(用户经常使用的应用程序)；也可以先根据应用程序的使用频次确定目标应用程序(用户经常使用的应用程序)，然后再过滤掉无效的应用程序的使用记录。本申请实施例对滤掉无效的应用程序使用记录与根据应用程序的使用频次确定目标应用程序的先后顺序不作限定。
可选的，根据目标应用程序的使用状态确定使用时序关联记录，包括：按照预设采样周期对目标应用程序的使用日志进行采样，以确定采样时刻是否处于使用状态；根据采样时刻和使用状态，对至少两个目标应用程序的使用状态进行关联，确定使用时序关联记录。这样设置的好处在于，不仅可以较灵活的获取预设时间段内应用程序的使用时序关联记录，而且可以提高应用程序预测模型建立的精度，可以进一步提高对待启动应用程序预测的准确性。
示例性的，按照预设采样周期对目标应用程序的使用日志进行采样，如每隔三分钟对预设时间段内的目标应用程序的使用日志采样一次，从预设时间段内的初始时间开始进行第一次采样。例如，预设时间段为8:00-12:00，则8:00进行第一次采样，8:03进行第二次采样，8:06进行第三次采样，…，依次类推，直到将预设时间段内的目标应用程序的使用日志采样完毕。其中，预设采样周期可以根据预设时间段的长短进行设置，如预设时间段较长时，预设采样周期可以适应性地设置的长些；当预设时间段较短时，预设采样周期可以适应性地设置的短些。又示例性的，预设采样周期也可以根据用户需求进行适应性地设置，当对待启动的应用程序预测精度要求较高时，可以将采样周期设置的短些；当对待启动的应用程序预测精度要求较低时，可以将采样周期设置的长些。又示例性的，预设采样周期也可以根据终端处理数据量的能力大小进行设置，如终端对处理应用程序预测模型建立时训练样本的数据量的能力较大时，可以将采样周期设置的短些；终端对处理应用程序预测模型建立时训练样本的数据量的能力较小时，可以将采样周期设置的长些。本实施例对预设采样周期设置的长短及设置方式不做具体限定。
在本实施例中，确定各采样时刻各目标应用程序的使用状态，需要说明的是，在采样时刻，有且只能有一个目标应用程序处于使用状态，或者，在采样时刻无任何目标应用程序处于使用状态，如终端处于桌面状态，或是终端的显示屏处于熄灭状态。根据采样时刻和使用状态，对至少两个目标应用程序的使用状态进行关联，确定使用时序关联记录。示例性的，第一采样时刻应用程序a处于使用状态，第二采样时刻应用程序b处于使用状态，第三采样时刻终端的显示屏处于熄灭状态，标记为无任何应用程序使用，第四采样时刻应用程序c处于使用状态，…，根据采样时刻和使用状态，对应用程序的使用状态进行关联，确定使用时序关联记录。
可选的，应用程序的使用关联记录可以以采样时刻及使用状态的标识信息的形式进行记录。示例性的，m个目标应用程序按使用频次由大到小的顺序分别标记为1,2，…，m，若在采样时刻无任何应用程序使用时，则标记为m+1。可以理解的是，将1,2，…，m，m+1，作为应用程序的使用状态的标识信息，应用程序的使用关联记录可以通过采样时刻对应的应用程序的使用状态对应的标识信息进行记录。需要说明的是，本实施例对使用关联记录的具体表征方式不作限定。只要能用唯一的信息表征采样时刻的不同应用程序的使用状态即可。
步骤102、对使用时序关联记录进行分组，得到多组使用时序关联记录。
在本申请实施例中，对预设时间段内至少两个应用程序的使用时序关联记录进行分组，其中，按照时序关系对所述使用时序关联记录进行分组，得到多组使用时序关联记录。可以理解的是，按照时序关系对使用时序关联记录进行分组，得到多个子使用时序关联记录，即多个子使用时序关联记录为得到的多组使用时序关联记录。在分组的过程中，可以将预设时间段等分为若干个相等的子时间段，将使用时序关联记录按照子时间段等分，即得到的多个子使用时序关联记录为各个子时间段对应的应用程序使用时序关联记录。当然，也可以将预设时间段等分为若干个不完全相等或是完全不相等的子时间段，将使用时序关联记录按照不完全相等或是完全不相等的子时间进行分组。在分组的过程中，也可以以滑动窗口的形式对使用时序关联记录进行分组。示例性的，用固定大小的滑动窗口以等距步长或不等距步长在预设时间段内的应用程序的使用时序关联记录上进行滑动，每个滑动窗口对应的使用时序关联记录为一组使用时序关联记录。又示例性的，将滑动窗口做不同尺度的缩放，滑动窗口每滑动一次进行一次缩放，将多尺度缩放的滑动窗口以等距步长或不等距步长，在预设时间段内的应用程序的使用时序关联记录上进行滑动，每个滑动窗口对应的使用时序关联记录为一组使用时序关联记录。
可选的，将按照预设采样周期对目标应用程序的使用日志进行采样，采样时刻和采样时刻对应的应用程序的使用状态确定的使用时序关联记录进行分组，得到多组使用时序关联记录。示例性的，可以将预设时间段内应用程序的使用时序关联记录根据采样时刻的时序关系及采样时刻的数目进行分组。可以将预设时间段对应的采样时刻按照时序关系分为若干个采样时刻组，每个采样时刻组的采样时刻的个数可以完全相等、不完全相等或完全不相等。将每个采样时刻组对应的使用时序关联记录作为所述多组使用时序关联记录。在分组的过程中，也可以以滑动窗口的形式对由采样时刻及采样时刻对应的使用状态确定的使用时序关联记录进行分组。示例性的，用固定大小的滑动窗口或多尺度缩放的滑动窗口，以等距步长或不等距步长在使用时序关联记录上进行滑动，每个滑动窗口对应的使用时序关联记录为一组使用时序关联记录，其中，一个步长可以理解为一个采样时刻。示例性的，图2为本发明实施例提供的以滑动窗口的形式对使用时序关联记录进行分组的过程示意图。如图2所示，滑动窗口a的大小固定，且滑动窗口a移动的步长为一个采样时刻，其中，图2中，t-n+1，t-n，…，t，t+1，t+2均表示采样时刻。
可选的，将前n个采样时刻对应的应用程序使用时序关联记录作为第一组使用时序关联记录，将第2采样时刻至第n+1采样时刻对应的应用程序使用时序关联记录作为第二组使用时序关联记录，以此类推，得到m-n+1组使用时序关联记录，其中，n为大于等于2的自然数，m为大于等于3的自然数。这样设置的好处在于，对预设时间段内应用程序的使用时序关联记录内的应用程序的使用状态的漏检率极低，因为它会对整个使用时序关联记录都滑动，不会漏掉任何一个可能会出现应用程序使用状态切换的情况。可以有效地提高应用程序预测模型建立的精度，提高应用程序预测时的准确性。
示例性的，将前n个采样时刻对应的应用程序使用时序关联记录作为第一组使用时序关联记录，将第2采样时刻至第n+1采样时刻对应的应用程序使用时序关联记录作为第二组使用时序关联记录，将第3采样时刻至第n+2采样时刻对应的应用程序使用时序关联记录作为第三组使用时序关联记录，以此类推，得到m-n+1组使用时序关联记录，其中，n为大于等于3的自然数，m为大于等于4的自然数。例如，n＝5，m＝8，即预设时间段内的应用程序使用时序关联记录对应8个采样时刻，按照时序关系每5个采样时刻对应的使用时序关联记录作为一组使用时序关联记录。可以理解的是，将第1个采样时刻至第5个采样时刻对应的使用时序关联记录作为第一组使用时序关联记录，将第2个采样时刻至第6个采样时刻对应的使用时序关联记录作为第二组使用时序关联记录，将第3个采样时刻至第7个采样时刻对应的使用时序关联记录作为第三组使用时序关联记录，将第4个采样时刻至第8个采样时刻对应的使用时序关联记录作为第四组使用时序关联记录。
步骤103、根据多组使用时序关联记录，对预设lstm神经网络模型进行训练，生成应用程序预测模型。
在本申请实施例中，将多组使用时序关联记录作为训练样本，对lstm神经网络模型(以下简称lstm网络)进行训练，生成应用程序预测模型。
lstm网络是循环神经网络(recurrentneuralnetworks，rnn)的一个变体，或者说lstm是rnn中的一种特殊类型。lstm可以有效地解决简单循环神经网络的梯度爆炸或消失的问题。
可选的，将多组(至少两组)使用时序关联记录中采样时刻对应的使用状态，作为训练样本，输入到lstm网络中进行训练。即，将多组使用时序关联记录中各个采样时刻对应的应用程序的使用状态作为训练样本，对lstm网络进行训练，生成应用程序预测模型。其中，多组使用时序关联记录是由步骤102中，将预设时间段内至少两个应用程序的使用时序关联记录进行分组得到的。
其中，应用程序预测模型包括输入门it、遗忘门ft、输出门ot、候选记忆单元
it＝σ(wixt+uiht-1)(1)
ft＝σ(wfxt+ufht-1)(2)
ot＝σ(woxt+uoht-1)(3)
ht＝ot⊙tanh(ct)(6)
其中，xt表示使用时序关联记录中t时刻使用的应用程序，w*和u*均表示学习的网络参数，其中，*∈{i,f,o,c}，it表示t时刻的输入门，ft表示t时刻的遗忘门，ot表示t时刻的输出门，ct表示t时刻的最终记忆单元，ct-1表示t-1时刻的最终记忆单元，
图3为本实施例提供的基于lstm网络训练的应用程序预测模型中一个lstm结构单元的结构示意图。
在本申请实施例中，xt表示t时刻使用时序关联记录中对应的应用程序的使用状态信息。因为在同一时刻(如t时刻)，应用程序的使用状态信息是唯一确定的。即在同一时刻，只有一个应用程序在使用，或没有任何应用程序处于使用状态。因此，将xt表示为独热码向量的形式。示例性的，目标应用程序为m个,且为了方便，m个应用程序分别用1，2，…，m表示，m+1表示无任何应用程序使用。如m的取值为10，在t时刻，序号为7的应用程序处于使用状态，则预测的t时刻对应的编码向量为[0,0,0,0,0,0,1,0,0,0,0]，即只有序号为7对应的位置为1，其余全部为0。
输入门it、遗忘门ft、输出门ot的取值均为{0,1}，其中，0表示门(输入门、遗忘门和输出门)处于关闭状态，即不允许任何信息通过；1表示门(输入门、遗忘门和输出门)处于开放状态，即允许所有的信息通过。输入门it、遗忘门ft、输出门ot均是根据t时刻输入的应用程序的状态信息(以独热码向量的形式表示)xt及上一时刻(t-1时刻)的输出状态ht-1分别计算得来的，如上述公式(1)-(3)所示。其中，遗忘门ft控制t时刻每一个内存单元需要遗忘多少信息，即判断t时刻之前输入的应用程序的状态信息(历史的应用程序的状态信息)的记忆信息，对当前t时刻输入的应用程序的状态信息的重要程度进行评估，其中，历史的应用程序的状态信息对t时刻(当前时刻)输入的应用程序的状态信息越重要，遗忘门丢弃或遗忘的历史应用程序的状态信息越少，反之，则越多。输入门it控制t时刻每一个内存单元加入多少信息，即判断t时刻(当前时刻)输入的应用程序的状态信息是否重要。输出门ot控制t时刻每一个内存单元输出多少信息，即从t-1时刻的输出状态单元(隐藏状态单元)中分离出与t时刻输入的应用程序的状态信息相关的信息。
利用遗忘门ft和输入门it来生成t时刻的最终记忆单元ct，如上述公式(5)所示，即根据遗忘门ft的作用结果，合理地忘记上一时刻(t-1时刻)的记忆ct-1，并根据输入们it及t时刻(当前时刻)的候选记忆，产生当前时刻的新记忆，即生成最终记忆单元ct。当ft＝0,it＝1时，最终记忆单元ct历史信息清空，即将t时刻之前的应用程序的状态信息(历史的应用程序的状态信息)清空，并将候选记忆单元
可选的，在根据多组使用时序关联记录，对lstm网络进行训练，生成应用程序预测模型的过程中，根据每组使用时序关联记录的向量维数确定应用程序预测模型的输入层单元数，根据应用程序的数量确定应用程序预测模型的输出层单元数。即，应用程序预测模型的输入层单元数可以根据每组使用时序关联记录的向量维数确定，应用程序预测模型的输出层单元数可以根据应用程序的数量确定。
示例性的，lstm网络包括输入层、隐藏层(即lstm单元层)和输出层。其中，隐藏层可以包括多层lstm单元层，每层lstm单元层可以包括多个lstm单元结构，其中，每层lstm单元层中的lstm单元结构数目由每组使用时序关联记录中包含的采样时刻的个数决定。可选的，该应用程序预测模型中包含两层lstm单元层，两层lstm单元层包含的神经元数目分别为32,50。示例性的，每组使用时序关联记录中包含n个采样时刻的应用程序的状态信息，n为大于等于2的整数，则每层lstm单元层中的lstm单元结构数为n。图4为本申请实施例提供的基于lstm网络构建的应用程序预测模型的结构示意图，如图4所示，包含两层lstm单元层，分别是第一lstm单元层b1和第二lstm单元层b2。其中，
输入层单元数(即输入层的神经元数目)可以根据每组使用时序关联记录的向量维数确定。示例性的，每组使用时序关联记录中包含n+1个采样时刻对应的应用程序的使用状态，则用前n个采样时刻对应的应用程序的使用状态预测第n+1个采样时刻对应的应用程序的使用状态。示例性的，分别将每组使用时序关联记录中，前n个时刻使用的应用程序作为输入向量，以预测n+1时刻使用的应用程序。为了便于理解，将t时刻使用的应用程序xt表示为appt，即t时刻应用程序的状态信息。则，生成应用程序预测模型的过程中的训练样本的数据格式为[app1,app2,…,appn-1,appn]→appn+1。其中，app1表示第1个采样时刻使用的应用程序，app2表示2时刻使用的应用程序，appn-1表示第n-1个采样时刻使用的应用程序，appn表示第n个采样时刻使用的应用程序，appn+1表示第n+1个采样时刻使用的应用程序。
例如，每组使用时序关联记录中包含6个采样时刻对应的应用程序的使用状态，则用前5个采样时刻对应的应用程序的使用状态预测第6个采样时刻对应的应用程序的使用状态。示例性的，分别将每组使用时序关联记录中，t-4时刻、t-3时刻、t-2时刻、t-1时刻、t时刻使用的应用程序作为输入向量，以预测t+1时刻使用的应用程序。即生成应用程序预测模型的过程中的训练样本的数据格式为[appt-4,appt-3，appt-2,appt-1,appt]→appt+1。其中，appt-4表示t-4时刻使用的应用程序，appt-3表示t-3时刻使用的应用程序，appt-2表示t-2时刻使用的应用程序，appt-1表示t-1时刻使用的应用程序，appt表示t时刻使用的应用程序，appt+1表示t+1时刻使用的应用程序。
可以理解的是，输入层单元数与每层lstm单元层中的lstm单元结构数目相等。
应用程序预测模型的输出层单元数可以根据应用程序的数量确定。示例性的，确定的目标应用程序为m个，即根据m个目标应用程序的使用时序关联记录进行应用程序预测模型的建立，则应用程序预测模型的输出层单元数为m+1(包含无任何应用程序使用的情况)。
可选的，在根据多组使用时序关联记录，对lstm网络进行训练，生成应用程序预测模型的过程中，应用程序预测模型采用的误差函数为交叉熵损失函数：
在本实施例中，appt+1可以为独热码的形式，即在t+1时刻应用程序的使用状态是唯一的。示例性的，目标应用程序为m个,且为了方便，m个应用程序分别用1，2，…，m表示，m+1表示无任何应用程序使用。如m的取值为10，在t+1时刻，序号为5的应用程序处于使用状态，则预测的t+1时刻对应的编码向量为[0,0,0,0,1,0,0,0,0,0,0]，即只有序号为5对应的位置为1，其余全部为0。
在利用随机梯度下降法进行训练的过程中，可以当损失值等于或小于预设损失阈值时，则完成训练；也可以当连续获取的两个或多个损失值没有变化时，则完成训练。训练完成后，获取此时的应用程序预测模型中的各个参数，并将各个参数保存为优化参数。当需要通过应用程序预测模型对应用程序进行预测时，使用该优化参数进行预测。可选的，随机梯度下降法可以采用小批量的方式训练得到最优参数，例如，批量大小为128。
本申请实施例提供的应用程序预测模型建立方法，通过将用户在预设时间段内应用程序的使用时序关联记录分成多组使用时序关联记录，并将多组使用时序关联记录作为训练样本，输入lstm网络进行训练，生成应用程序预测模型，可以充分利用能够真实反映用户行为的应用程序使用时序关联记录，优化应用程序预加载机制，而且可以有效地克服基于简单循环神经网络训练应用程序预测模型时，产生的梯度爆炸或消失的问题，进一步提高了应用程序预测模型训练的精度，提高对待启动应用程序预测的准确性。
图5为本申请实施例提供的另一种应用程序预测模型建立方法的流程示意图，该方法包括：
步骤301、根据预设时间段内应用程序的使用频次对应用程序进行排序。
步骤302、根据排序结果确定至少两个目标应用程序。
步骤303、根据目标应用程序的使用状态确定使用时序关联记录，作为用户行为样本。
步骤304、对使用时序关联记录进行分组，得到多组使用时序关联记录。
步骤305、根据多组使用时序关联记录，对lstm网络进行训练，生成应用程序预测模型。
本申请实施例提供的应用程序预测模型建立方法，不仅可以充分利用能够真实反映用户行为的应用程序使用时序关联记录，优化应用程序预加载机制，而且可以有效提高应用程序预测模型建立的精度，进一步提高了对待启动应用程序预测的准确性。
图6为本申请实施例提供的又一种应用程序预测模型建立方法的流程示意图，该方法包括：
步骤401、根据预设时间段内应用程序的使用频次对应用程序进行排序。
步骤402、根据排序结果确定至少两个目标应用程序。
步骤403、按照预设采样周期对目标应用程序的使用日志进行采样，以确定采样时刻是否处于使用状态。
步骤404、根据采样时刻和使用状态，对至少两个目标应用程序的使用状态进行关联，确定使用时序关联记录。
步骤405、将前n个采样时刻对应的应用程序使用时序关联记录作为第一组使用时序关联记录，将第2采样时刻至第n+1采样时刻对应的应用程序使用时序关联记录作为第二组使用时序关联记录，以此类推，得到m-n+1组使用时序关联记录。
其中，n为大于等于2的自然数，m为大于等于3的自然数。
步骤406、根据多组使用时序关联记录中采样时刻对应的使用状态，对lstm网络进行训练。
本申请实施例提供的应用程序预测模型建立方法，不仅可以较灵活的获取预设时间段内应用程序的使用时序关联记录，而且可以提高应用程序预测模型建立的精度，可以进一步提高待启动应用程序预测的准确性。
图7为本申请实施例提供的应用程序预加载方法的流程示意图，该方法可以由应用程序预加载装置执行，其中该装置可由软件和/或硬件实现，一般可集成在终端中。如图7所示，该方法包括：
步骤501、获取t时刻终端运行应用程序的使用状态及t-1时刻至t-n时刻对应的终端运行应用程序的使用状态。
其中，n为大于等于2的自然数。
在本申请实施例中，t时刻可以理解为当前时刻，相应的，获取t时刻终端运行的应用程序的使用状态，可以理解为，获取终端当前的应用程序的使用状态；获取t-1时刻至t-n时刻对应的终端运行应用程序的使用状态，可以理解为，分别获取当前时刻的前n个时刻对应的终端运行应用程序的使用状态。其中，应用程序的使用状态包括正在使用的应用程序和没有任何应用程序使用两种情况。如果当前存在正在使用的应用程序，则将使用状态标记为所述正在使用的应用程序对应的标识信息或图标信息；如果当前没有任何应用程序使用，则采用无应用程序使用的标识信息标记。需要说明的是，也可以采用其他形式记录应用程序的使用状态。
步骤502、将使用状态输入至预先训练的应用程序预测模型中，获取应用程序预测模型输出的应用程序启动的概率值。
其中，应用程序预测模型由多组使用时序关联记录基于lstm网络训练生成，多组使用时序关联记录是对预设时间段内应用程序的使用时序关联记录进行分组得到的。
在本申请实施例中，t时刻终端运行应用程序的使用状态及t-1时刻至t-n时刻对应的终端运行应用程序的使用状态，输入至预先训练的应用程序预测模型中，获取应用程序预测模型输出的应用程序启动的概率值。示例性的，将[appt-n,appt-n+1,…,appt-1,appt]作为输入向量输入到预先训练的应用程序预测模型中，其中，appt-n表示t-n时刻使用的应用程序，appt-n+1表示t-n+1时刻使用的应用程序，appt-1表示t-1时刻使用的应用程序，appt表示t时刻(当前时刻)使用的应用程序。示例性的，应用程序预测模型是通过对预设时间段内m个应用程序的多组使用时序关联记录训练生成的，则进行应用程序预测时，应用程序预测模型输出m+1个概率值，其中，m+1个概率值包括m个应用程序启动的概率值和无任何应用程序使用的概率值。
步骤503、根据概率值确定t+1时刻对应的待启动应用程序，并将待启动应用程序进行预加载。
在本申请实施例中，根据步骤502获得的概率值，确定t+1时刻对应的待启动应用程序。其中，t+1时刻对应的待启动应用程序可以理解为，当前时刻的下一个时刻对应的待启动的应用程序。可以理解的是，将t时刻(当前时刻)对应的应用程序的使用状态及t-1时刻至t-n时刻(当前时刻的前n个时刻)对应的应用程序的使用状态作为输入向量，输入至预先训练的应用程序预测模型中，以预测t+1时刻(当前时刻的下一时刻)对应的应用程序的使用状态。即通过预先训练的应用程序预测模型预测下一时刻对应的应用程序的使用状态的数据格式为[appt-n,appt-n+1,…,appt-1,appt]→appt+1，其中，appt+1表示t+1时刻(当前时刻的下一时刻)对应的应用程序的使用状态，即t+1时刻使用的应用程序。
示例性的，将步骤502获得的概率值中最大概率值对应的应用程序作为待启动应用程序。当无任何应用程序使用的概率值最大时，将位于第二位的概率值对应的应用程序作为待启动应用程序。对待启动的应用程序进行预加载，以使当用户使用所述待启动的应用程序时，提高使用效率及使用时的流畅性。
本申请实施例提供的应用程序预加载方法，不仅解决了应用程序预加载太多资源，占用太多资源及功耗变大，甚至影响终端使用流程性的技术问题，而且有效的提高了对待启动应用程序预测的准确性，进一步降低了终端系统功耗和内存占用率，优化了应用程序预加载机制。
图8为本申请实施例提供的一种应用程序预测模型建立装置的结构示意图，该装置可由软件和/或硬件实现，一般集成在终端上，如服务器中，可通过执行应用程序预测模型建立方法来构建应用程序预测模型。如图8所示，该装置包括：
用户行为样本获取模块601，用于获取预设时间段内的用户行为样本，其中,所述用户行为样本包括至少两个应用程序的使用时序关联记录；
使用时序关联记录分组模块602，用于对所述使用时序关联记录进行分组，得到多组使用时序关联记录；
应用程序预测模型生成模块603，用于根据所述多组使用时序关联记录，对预设lstm神经网络模型进行训练，生成应用程序预测模型。
本申请实施例提供的应用程序预测模型建立装置，可以充分利用能够真实反映用户行为的应用程序使用时序关联记录，而且可以有效地克服基于简单循环神经网络训练应用程序预测模型时，产生的梯度爆炸或消失的问题，进一步提高了应用程序预测模型训练的精度，提高对待启动应用程序预测的准确性。
可选的，所述用户行为样本获取模块，包括：
应用程序排序单元，用于根据预设时间段内应用程序的使用频次对应用程序进行排序；
目标应用程序确定单元，用于根据排序结果确定至少两个目标应用程序；
使用时序关联记录确定单元，用于根据所述目标应用程序的使用状态确定使用时序关联记录，作为用户行为样本。
可选的，所述使用时序关联记录确定单元，用于：
按照预设采样周期对所述目标应用程序的使用日志进行采样，以确定采样时刻是否处于使用状态；
根据采样时刻和使用状态，对至少两个目标应用程序的使用状态进行关联，确定使用时序关联记录。
相应的，所述应用程序预测模型生成模块，用于：
根据所述多组使用时序关联记录中采样时刻对应的使用状态，对预设lstm神经网络模型进行训练。
可选的，所述使用时序关联记录分组模块，用于：
将前n个采样时刻对应的应用程序使用时序关联记录作为第一组使用时序关联记录，将第2采样时刻至第n+1采样时刻对应的应用程序使用时序关联记录作为第二组使用时序关联记录，以此类推，得到m-n+1组使用时序关联记录，其中，n为大于等于2的自然数，m为大于等于3的自然数。
可选的，所述应用程序预测模型包括输入门it、遗忘门ft、输出门ot、候选记忆单元
it＝σ(wixt+uiht-1)
ft＝σ(wfxt+ufht-1)
ot＝σ(woxt+uoht-1)
ht＝ot⊙tanh(ct)
其中，xt表示所述使用时序关联记录中t时刻使用的应用程序，w*和u*均表示学习的网络参数，其中，*∈{i,f,o,c}，it表示t时刻的输入门，ft表示t时刻的遗忘门，ot表示t时刻的输出门，ct表示t时刻的最终记忆单元，ct-1表示t-1时刻的最终记忆单元，
可选的，根据每组使用时序关联记录的向量维数确定所述应用程序预测模型的输入层单元数，根据所述应用程序的数量确定所述应用程序预测模型的输出层单元数。
可选的,所述应用程序预测模型采用的误差函数为交叉熵损失函数：
其中，yk表示应用程序使用状态的标准值，
图9为本申请实施例提供的一种应用程序预加载装置的结构示意图，该装置可由软件和/或硬件实现，一般集成在终端中，可通过执行应用程序预加载方法来对待启动的应用程序进行预加载。如图9所示，该装置包括：
使用状态获取模块701，用于获取t时刻终端运行应用程序的使用状态及t-1时刻至t-n时刻对应的终端运行应用程序的使用状态，其中，n为大于等于2的自然数；
概率值获取模块702，用于将所述使用状态输入至预先训练的应用程序预测模型中，获取所述应用程序预测模型输出的应用程序启动的概率值，其中，所述应用程序预测模型由多组使用时序关联记录基于预设lstm神经网络模型训练生成，多组使用时序关联记录是对预设时间段内应用程序的使用时序关联记录进行分组得到的；
应用程序预加载模块703，用于根据所述概率值确定t+1时刻对应的待启动应用程序，并将所述待启动应用程序进行预加载。
本申请实施例提供的应用程序预加载装置，不仅解决了应用程序预加载太多资源，占用太多资源及功耗变大，甚至影响终端使用流程性的技术问题，而且有效的提高了对待启动应用程序预测的准确性，进一步降低了终端系统功耗和内存占用率，优化了应用程序预加载机制。
本申请实施例还提供一种包含计算机可执行指令的存储介质，所述计算机可执行指令在由计算机处理器执行时用于执行应用程序预测模型建立方法，该方法包括：
获取预设时间段内的用户行为样本，其中所述用户行为样本包括至少两个应用程序的使用时序关联记录；
对所述使用时序关联记录进行分组，得到多组使用时序关联记录；
根据所述多组使用时序关联记录，对预设lstm神经网络模型进行训练，生成应用程序预测模型。
存储介质——任何的各种类型的存储器设备或存储设备。术语“存储介质”旨在包括：安装介质，例如cd-rom、软盘或磁带装置；计算机系统存储器或随机存取存储器，诸如dram、ddrram、sram、edoram，兰巴斯(rambus)ram等；非易失性存储器，诸如闪存、磁介质(例如硬盘或光存储)；寄存器或其它相似类型的存储器元件等。存储介质可以还包括其它类型的存储器或其组合。另外，存储介质可以位于程序在其中被执行的第一计算机系统中，或者可以位于不同的第二计算机系统中，第二计算机系统通过网络(诸如因特网)连接到第一计算机系统。第二计算机系统可以提供程序指令给第一计算机用于执行。术语“存储介质”可以包括可以驻留在不同位置中(例如在通过网络连接的不同计算机系统中)的两个或更多存储介质。存储介质可以存储可由一个或多个处理器执行的程序指令(例如具体实现为计算机程序)。
当然，本申请实施例所提供的一种包含计算机可执行指令的存储介质，其计算机可执行指令不限于如上所述的应用程序预测模型建立操作，还可以执行本申请任意实施例所提供的应用程序预测模型建立方法中的相关操作。
本申请实施例还提供另一种包含计算机可执行指令的存储介质，所述计算机可执行指令在由计算机处理器执行时用于执行应用程序预加载方法，该方法包括：
获取t时刻终端运行应用程序的使用状态及t-1时刻至t-n时刻对应的终端运行应用程序的使用状态，其中，n为大于等于2的自然数；
将所述使用状态输入至预先训练的应用程序预测模型中，获取所述应用程序预测模型输出的应用程序启动的概率值，其中，所述应用程序预测模型由多组使用时序关联记录基于预设lstm神经网络模型训练生成，多组使用时序关联记录是对预设时间段内应用程序的使用时序关联记录进行分组得到的；
根据所述概率值确定t+1时刻对应的待启动应用程序，并将所述待启动应用程序进行预加载。
本申请实施例的计算机存储介质的具体细节与上面所述的计算机存储介质相似，此处不再赘述。
本申请实施例提供了一种终端，该终端中可集成本申请实施例提供的应用程序预测模型建立装置。图10为本申请实施例提供的一种终端的结构示意图。如图10所示，终端800可以包括：存储器801，处理器802及存储在存储器上并可在处理器运行的计算机程序，所述处理器802执行所述计算机程序时实现如本申请实施例所述的应用程序预测模型建立方法。
本申请实施例提供的终端，可以充分利用能够真实反映用户行为的应用程序使用时序关联记录，优化应用程序预加载机制，提高对待启动应用程序预测的准确性。
本申请实施例提供了另一种终端，该终端中可集成本申请实施例提供的应用程序预加载装置。图11为本申请实施例提供的一种终端的结构示意图。如图11所示，终端900可以包括：存储器901，处理器902及存储在存储器上并可在处理器运行的计算机程序，所述处理器902执行所述计算机程序时实现如本申请实施例所述的应用程序预加载方法。
本申请实施例提供的终端，通过获取t时刻终端运行应用程序的使用状态及t-1时刻至t-n时刻对应的终端运行应用程序的使用状态，其中，n为大于等于2的自然数，并将使用状态输入至预先训练的应用程序预测模型中，获取应用程序预测模型输出的应用程序启动的概率值，其中，应用程序预测模型由多组使用时序关联记录基于预设lstm神经网络模型训练生成，多组使用时序关联记录是对预设时间段内应用程序的使用时序关联记录进行分组得到的，最后根据概率值确定t+1时刻对应的待启动应用程序，并将待启动应用程序进行预加载，不仅解决了应用程序预加载太多资源，占用太多资源及功耗变大，甚至影响终端使用流程性的技术问题，而且有效的提高了对待启动应用程序预测的准确性，进一步降低了终端系统功耗和内存占用率，优化了应用程序预加载机制。
图12为本申请实施例提供的又一种终端的结构示意图，如图12所示，该终端可以包括：壳体(图中未示出)、存储器1001、中央处理器(centralprocessingunit，cpu)1002(又称处理器，以下简称cpu)、电路板(图中未示出)和电源电路(图中未示出)。所述电路板安置在所述壳体围成的空间内部；所述cpu1002和所述存储器1001设置在所述电路板上；所述电源电路，用于为所述终端的各个电路或器件供电；所述存储器1001，用于存储可执行程序代码；所述cpu1002通过读取所述存储器1001中存储的可执行程序代码来运行与所述可执行程序代码对应的计算机程序，以实现以下步骤：
获取t时刻终端运行应用程序的使用状态及t-1时刻至t-n时刻对应的终端运行应用程序的使用状态，其中，n为大于等于2的自然数；
将所述使用状态输入至预先训练的应用程序预测模型中，获取所述应用程序预测模型输出的应用程序启动的概率值，其中，所述应用程序预测模型由多组使用时序关联记录基于预设lstm神经网络模型训练生成，多组使用时序关联记录是对预设时间段内应用程序的使用时序关联记录进行分组得到的；
根据所述概率值确定t+1时刻对应的待启动应用程序，并将所述待启动应用程序进行预加载。
所述终端还包括：外设接口1003、rf(radiofrequency，射频)电路1005、音频电路1006、扬声器1011、电源管理芯片1008、输入/输出(i/o)子系统1009、其他输入/控制设备1010、触摸屏1012、其他输入/控制设备1010以及外部端口1004，这些部件通过一个或多个通信总线或信号线1007来通信。
应该理解的是，图示终端1000仅仅是终端的一个范例，并且终端1000可以具有比图中所示出的更多的或者更少的部件，可以组合两个或更多的部件，或者可以具有不同的部件配置。图中所示出的各种部件可以在包括一个或多个信号处理和/或专用集成电路在内的硬件、软件、或硬件和软件的组合中实现。
下面就本实施例提供的用于应用程序预加载的终端进行详细的描述，该终端以手机为例。
存储器1001，所述存储器1001可以被cpu1002、外设接口1003等访问，所述存储器1001可以包括高速随机存取存储器，还可以包括非易失性存储器，例如一个或多个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
外设接口1003，所述外设接口1003可以将设备的输入和输出外设连接到cpu1002和存储器1001。
i/o子系统1009，所述i/o子系统1009可以将设备上的输入输出外设，例如触摸屏1012和其他输入/控制设备1010，连接到外设接口1003。i/o子系统1009可以包括显示控制器10091和用于控制其他输入/控制设备1010的一个或多个输入控制器10092。其中，一个或多个输入控制器10092从其他输入/控制设备1010接收电信号或者向其他输入/控制设备1010发送电信号，其他输入/控制设备1010可以包括物理按钮(按压按钮、摇臂按钮等)、拨号盘、滑动开关、操纵杆、点击滚轮。值得说明的是，输入控制器10092可以与以下任一个连接：键盘、红外端口、usb接口以及诸如鼠标的指示设备。
触摸屏1012，所述触摸屏1012是用户终端与用户之间的输入接口和输出接口，将可视输出显示给用户，可视输出可以包括图形、文本、图标、视频等。
i/o子系统1009中的显示控制器10091从触摸屏1012接收电信号或者向触摸屏1012发送电信号。触摸屏1012检测触摸屏上的接触，显示控制器10091将检测到的接触转换为与显示在触摸屏1012上的用户界面对象的交互，即实现人机交互，显示在触摸屏1012上的用户界面对象可以是运行游戏的图标、联网到相应网络的图标等。值得说明的是，设备还可以包括光鼠，光鼠是不显示可视输出的触摸敏感表面，或者是由触摸屏形成的触摸敏感表面的延伸。
rf电路1005，主要用于建立手机与无线网络(即网络侧)的通信，实现手机与无线网络的数据接收和发送。例如收发短信息、电子邮件等。具体地，rf电路1005接收并发送rf信号，rf信号也称为电磁信号，rf电路1005将电信号转换为电磁信号或将电磁信号转换为电信号，并且通过该电磁信号与通信网络以及其他设备进行通信。rf电路1005可以包括用于执行这些功能的已知电路，其包括但不限于天线系统、rf收发机、一个或多个放大器、调谐器、一个或多个振荡器、数字信号处理器、codec(coder-decoder，编译码器)芯片组、用户标识模块(subscriberidentitymodule，sim)等等。
音频电路1006，主要用于从外设接口1003接收音频数据，将该音频数据转换为电信号，并且将该电信号发送给扬声器1011。
扬声器1011，用于将手机通过rf电路1005从无线网络接收的语音信号，还原为声音并向用户播放该声音。
电源管理芯片1008，用于为cpu1002、i/o子系统及外设接口所连接的硬件进行供电及电源管理。
上述实施例中提供的应用程序预测模型建立装置、存储介质及终端可执行本申请实施例所提供的对应的应用程序预测模型建立方法，具备执行该方法相应的功能模块和有益效果。未在上述实施例中详尽描述的技术细节，可参见本申请任意实施例所提供的应用程序预测模型建立方法。
上述实施例中提供的应用程序预加载装置、存储介质及终端可执行本申请实施例所提供的对应的应用程序预加载方法，具备执行该方法相应的功能模块和有益效果。未在上述实施例中详尽描述的技术细节，可参见本申请任意实施例所提供的应用程序预加载方法。
注意，上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解，本发明不限于这里所述的特定实施例，对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此，虽然通过以上实施例对本发明进行了较为详细的说明，但是本发明不仅仅限于以上实施例，在不脱离本发明构思的情况下，还可以包括更多其他等效实施例，而本发明的范围由所附的权利要求范围决定。
- 还没有人留言评论。精彩留言会获得点赞！