一种基于行为模式转换的多任务学习推荐方法

本发明涉及推荐，具体涉及一种基于行为模式转换的多任务学习推荐方法。

背景技术：

1、基于深度神经网络的多任务学习在许多现实世界的大规模应用中取得了广泛成功，比如推荐系统。例如电商平台的大量商品交易数据显示，用户选购商品，常常先经历受吸引→点击→添加购物车等一系列行为转换之后才最终形成购买行为，只有极少的用户点击后直接进行购买。这一现象恰好满足幂律分布的客观现实。同时，我们也观察到，用户的转换行为之间往往存在着一定的单调依赖结构，而现有工作极少对此类关系进行处理。

技术实现思路

1、本发明为了克服以上技术的不足，提供了一种对数据进行复杂高效的处理，以此来捕获用户潜在的兴趣，为用户提供更好的个性化服务的推荐方法。

2、本发明克服其技术问题所采用的技术方案是：

3、一种基于行为模式转换的多任务学习推荐方法，包括如下步骤：

4、a)在商品交易数据集中的所有数据中随机选取n％的数据作为训练数据，剩余100-n％的数据作为测试数据；

5、b)训练数据中的用户的集合为u，u＝{u1,u2,...,ui,...,uh}，其中ui为第i个用户，i∈{1,...h}，h为用户的数量，第u个用户的历史交互序列为xu，u∈{1,...h}，xu＝{xu,1,xu,2,...,xu,i,...,xu,i}，其中xu,i为第u个用户交互的第i个item，i∈{1,...i}，i为item的数量，历史交互序列xu中每两个相邻用户交互的item的时间间隔为tu，各个时间间隔tu形成时间间隔序列，第u个用户交互的第i个item的特征集合为fu,i，fu,i＝{fi,1,fi,2,...,fi,j,...,fi,n}，其中fi,j为第i个item的第j个特征，j∈{1,...n}，n为第i个item的特征个数，第u个用户的特征信息为fu，fu＝{fu,1,fu,2,...,fu,i,...,fu,m}，其中fu,i为第u个用户第i个特征信息，i∈{1,...m}，m为用户特征信息的个数；

6、c)建立时序处理模块，对时间间隔tu进行顺序性处理，得到新序列txu；

7、d)建立基于行为交互信息的特证塔模型，将整体输入序列xi＝{ui,txu,fu,i,fu}输入到特证塔模型中，输出得到经过筛选的特征融合表征qt；

8、e)建立bpc模块，将经过筛选的特征融合表征qt输入到bpc模块中，输出得到融合了当前任务信息表征和属性表征的最终表征zt+1；

9、f)计算概率值将概率值按降序排序得到挡圈用户的推荐商品表单。优选的，步骤a)中n取值为70。

10、步骤a)中的商品交易数据集为ali-ccp公开数据集，将ali-ccp公开数据集中的二进制数据、八进制数据、分隔符进行特征提取和坏点剔除处理，得到纯数字表示的具有唯一id表示的标准数据集，在标准数据集中的所有数据中随机选取70％的数据作为训练数据，剩余30％的数据作为测试数据。

11、进一步的，步骤c)包括如下步骤：

12、c-1)通过公式k＝βi计算得到需要更改的商品位置数量k，式中0≤β≤1；

13、c-2)将时间间隔序列中最后k个时间间隔tu插入至时间间隔序列的最前面，得到新序列txu。

14、进一步的，步骤d)包括如下步骤：

15、d-1)特证塔模型由自注意力模块、特征感知聚合模块、互补门控机制模块构成；d-2)将整体输入序列xi＝{ui,txu,fu,i,fu}输入到embedding层中，输出得到特征信息初始embedding矩阵ef，为实数空间，d为张量维度；

16、d-3)将特征信息初始embedding矩阵ef输入到特证塔模型的自注意力模块中，通过自注意力公式对特征信息初始embedding矩阵ef进行线性映射得到查询矩阵q、键矩阵k、值矩阵v，式中q＝wqef+bq，k＝wkef+bk，v＝wvef+bv，wq为查询向量，wk为键向量，wv为值向量，bq、bk、bv均为偏置向量，d-4)通过公式计算得到注特征注意力矩阵eatt，式中softmax(·)为softmax函数，t为转置，d-5)将特征信息初始embedding矩阵ef输入到特证塔模型的特征感知聚合模块，特征感知聚合模块为由两层relu函数构成的深度神经网络，通过公式eorg＝relu(w2(relu(w1ef+b1))+b2)计算得到原始特征矩阵eorg，式中relu(·)为relu函数，w1及b1为第一层深度神经网络的可训练参数，w2及b2为第二层深度神经网络的可训练参数，d-6)将注特征注意力矩阵eatt和原始特征矩阵eorg输入到特证塔模型的互补门控机制模块中，通过公式wb＝δ(wceorg+wdeatt)计算得到更新系数wb，δ(·)为sigmoid函数，wc和wd均为门控单元中的可训练参数，通过公式qt＝eatt⊙wb+eorg⊙(1-wb)计算得到经过筛选的特征融合表征qt。

17、进一步的，步骤e)包括如下步骤：

18、e-1)bpc模块由自注意力机制和dropout层构成；

19、e-2)对于当前行为任务zt＝qt，将zt输入到bpc模块的dropout层中，得到任务间传递的信息量ht；

20、e-3)将任务间传递的信息量ht和第t+1个行为任务的经过筛选的特征融合表征qt+1输入到bpc模块的自注意力机制中，通过公式计算得到查询矩阵q、键矩阵k、值矩阵v，q＝wqqt+1+bq，k＝wkht+bk，v＝wvqt+1+bv；

21、e-4)通过公式计算得到下一行为任务的表征zt+1，zt+1为融合了当前任务信息表征和属性表征的最终表征。

22、进一步的，步骤f)中通过公式计算得到概率值式中sigmoid(·)为sigmoid函数，mlp(·)为深度神经网络。

23、本发明的有益效果是：基于行为模式转换的多任务学习框架中构建了一个包含属性信息的特征塔模型，能够通过所设计的新型的门控互补机制，自适应的控制特征的融合与筛选过程。利用了用户与交互对象的特征属性及其不同行为下的交互序列，对数据进行复杂高效的处理，以此来捕获用户潜在的兴趣，为用户提供更好的个性化服务，为商家争取更大的利益。

技术特征：

1.一种基于行为模式转换的多任务学习推荐方法，其特征在于，包括如下步骤：

2.根据权利要求1所述的基于行为模式转换的多任务学习推荐方法，其特征在于：步骤a)中n取值为70。

3.根据权利要求2所述的基于行为模式转换的多任务学习推荐方法，其特征在于：步骤a)中的商品交易数据集为ali-ccp公开数据集，将ali-ccp公开数据集中的二进制数据、八进制数据、分隔符进行特征提取和坏点剔除处理，得到纯数字表示的具有唯一id表示的标准数据集，在标准数据集中的所有数据中随机选取70％的数据作为训练数据，剩余30％的数据作为测试数据。

4.根据权利要求1所述的基于行为模式转换的多任务学习推荐方法，其特征在于，步骤c)包括如下步骤：

5.根据权利要求1所述的基于行为模式转换的多任务学习推荐方法，其特征在于，步骤d)包括如下步骤：

6.根据权利要求5所述的基于行为模式转换的多任务学习推荐方法，其特征在于，步骤e)包括如下步骤：

7.根据权利要求1所述的基于行为模式转换的多任务学习推荐方法，其特征在于：步骤f)中通过公式计算得到概率值式中sigmoid(·)为sigmoid函数，mlp(·)为深度神经网络。

技术总结
一种基于行为模式转换的多任务学习推荐方法，基于行为模式转换的多任务学习框架中构建了一个包含属性信息的特征塔模型，能够通过所设计的新型的门控互补机制，自适应的控制特征的融合与筛选过程。利用了用户与交互对象的特征属性及其不同行为下的交互序列，对数据进行复杂高效的处理，以此来捕获用户潜在的兴趣，为用户提供更好的个性化服务，为商家争取更大的利益。

技术研发人员：王楠,唐博,李金宝,郭亚红
受保护的技术使用者：齐鲁工业大学（山东省科学院）
技术研发日：
技术公布日：2024/1/14