基于注意力网络的商品类别推荐方法及系统

本发明属于电子商务推荐系统，具体涉及一种基于注意力网络的商品类别推荐方法及系统。

背景技术：

1、近年来，电子商务行业发展迅猛，产业规模迅速扩大，电子商务信息、交易和技术等服务企业不断涌现。随着商品推荐系统在电子商务中的应用，各大电子商务平台开发了各种个性化推荐服务，以帮助客户发现他们喜欢的产品，减少客户的信息过载，增强在线购物体验。

2、目前的商品推荐系统技术主要包括以下两种：一种是基于特征工程的传统推荐方法：其主要通过手动从历史购买记录、用户配置文件和其他上下文信息中提取特征，然后使用协作过滤方法或监督分类器进行商品推荐。另一种是基于深度学习的方法：例如hrm(hierarchical representation model，层次表示模型)将项目嵌入和深度模型用于批量推荐。同时神经网络模型，如rnn(recurrent neural network，循环神经网络)、lstm(longshort-term memory，长短记忆神经网络)、cnn(convolutional neural networks，卷积神经网络)以及gnn(graph neural network，图神经网络)也逐渐被用于商品推荐中。

3、然而，现有推荐技术主要侧重于基于商品的回购行为。而在实际场景中，基于类别的周期性对预测客户的购买意愿有更好的效果。例如，当客户需要定期购买时，其可能会选择同一类别的其他具有成本效益的商品，或从相关类别中选择不同的商品，而不是以前购买的完全相同的商品。尽管现有的方法考虑到了推荐的周期性，但它们未能探索出不同类别的商品的生命周期规则，导致在客户购买周期的不适当时间点提出购买推荐，从而影响了用户体验。

技术实现思路

1、为了解决现有技术中存在的上述问题，本发明提供了一种基于注意力网络的商品类别推荐方法及系统。本发明要解决的技术问题通过以下技术方案实现：

2、第一方面，本发明提供了一种基于注意力网络的商品类别推荐方法，包括：

3、获取用户历史购买记录、商品类别以及上下文信息；

4、利用多通道transformer架构构建的icrec类别推荐模型实现商品类别推荐；

5、其中，所述icrec类别推荐模型包括编码器、解码器和合成器；所述编码器基于多头注意力机制和生命周期注意力机制对所述用户历史购买记录进行编码，得到编码序列；所述解码器基于所述商品类别从所述编码序列中提取目标类别的个性化特征；所述合成器将所述个性化特征与所述上下文信息进行融合，并预测用户对不同类别商品的购买概率，从而对用户进行商品类别推荐。

6、在本发明的一个实施例中，所述用户历史购买记录包括日期序列、商品序列以及类别序列。

7、在本发明的一个实施例中，所述编码器包括多层编码模块，每层编码模块均包括第一注意力层和第一前馈层；其中，

8、所述第一注意力层包括四通道多头注意力块和四通道生命周期注意力块；

9、所述四通道多头注意力块用于计算表征不同商品和类别之间关系的多头缩放点积注意力；

10、所述四通道生命周期注意力块用于计算表征不同商品或类别以及时间趋势之间影响力的生命周期注意力；

11、所述前馈层用于融合不同通道的注意力，得到四组编码序列。

12、在本发明的一个实施例中，所述多头缩放点积注意力的计算公式为：

13、mhatt(q,k,v)＝ln(concat(h1,…,hh)+q)

14、

15、其中，ln表示层归一化，concat(*)表示拼接操作，hi表示第i个头部注意，softmax(*)表示归一化指数函数，mask(*)表示将非空序列中的占位符元素设置为-∞的掩码函数，表示第i个头部的参数矩阵，dk＝d/|h|，|h|表示头编号，d表示维度大小，q、k、v为注意力模块的输入。

16、在本发明的一个实施例中，所述生命周期注意力的计算公式为：

17、lcatt(qt,qe,kt,ke)＝ln((in(qe,ke)*te(qt,qe,kt,ke))ke+qe)

18、其中，ln表示层归一化，qt与kt表示时间序列，qe与ke表示商品或类别嵌入序列，in表示内在注意力，te表示时间注意力。

19、在本发明的一个实施例中，所述编码器基于多头注意力机制和生命周期注意力机制对所述用户历史购买记录进行编码，得到编码序列，包括：

20、分别将所述商品序列和所述类别序列中的每个元素映射为商品嵌入序列和类别嵌入序列；

21、对所述商品嵌入序列和所述类别嵌入序列进行日期编码，并利用所述四通道多头注意力对编码后的商品嵌入序列和类别嵌入序列进行多次融合处理，对应得到商品和类别的多头编码序列；同时，

22、利用所述四通道生命周期注意力块对所述商品嵌入序列和所述类别嵌入序列以及所述日期序列进行多次融合处理，对应得到商品和类别的生命周期编码序列。

23、在本发明的一个实施例中，所述解码器包括多层解码模块，每层解码模块均包括第二注意力层和第二前馈层；其中，

24、所述第二注意力层包括两通道多头注意力块和两通道生命周期注意力块；

25、所述两通道多头注意力块用于计算所述多头编码序列和所述商品类别之间的注意力；

26、所述两通道生命周期注意力块用于计算所述生命周期编码序列、所述商品类别、所述时间序列以及当前时间之间的注意力。

27、在本发明的一个实施例中，所述合成器将所述个性化特征与所述上下文信息进行融合，并预测用户对不同类别商品的购买概率，包括：

28、对所述个性化特征进行面向目标标签的加权融合，其公式表示为：

29、

30、其中，cc表示第c个项目类别的融合译码特征，分别表示解码后的个性化特征，为权重矩阵，其每一列代表目标类别下的融合权重；

31、将加权融合后的个性化特征与所述上下文信息进行结合，并基于结合后的数据预测用户对不同类别商品的购买概率。

32、第二方面，本发明还提供了一种基于注意力网络的商品类别推荐系统，包括：

33、数据获取模块，用于获取用户历史购买记录、商品类别以及上下文信息；

34、商品类别推荐模块，用于利用基于多通道transformer架构构建的icrec类别推荐模型实现商品类别推荐；

35、其中，所述icrec类别推荐模型包括编码器、解码器和合成器；所述编码器基于多头注意力机制和生命周期注意力机制对所述用户历史购买记录进行编码，得到编码序列；所述解码器基于所述商品类别从所述编码序列中提取目标类别的个性化特征；所述合成器将所述个性化特征与所述上下文信息进行融合，并预测用户对不同类别商品的购买概率，从而对用户进行商品类别推荐。

36、第三方面，本发明还提供了一种电子商务推荐系统，包括上述实施例所述的基于注意力网络的商品类别推荐系统。

37、本发明的有益效果：

38、本发明提供的商品类别推荐方法基于多通道transformer架构构建了一种用于商品类别推荐的模型icrec，利用多通道transformer架构来探索商品和类别之间的关系，提出了生命周期关注机制，通过对时间信息进行建模，并结合了先验生命周期规则，能够准确地捕获跨时间的购买行为与意图之间的关系，也即不同类别商品的生命周期规则，从而能在适当的购买周期时间点为客户进行推荐，提升了系统的推荐性能和用户购物体验。

39、以下将结合附图及实施例对本发明做进一步详细说明。