基于场景的商品关联方法、系统、电子设备及存储介质与流程

1.本发明属于智能推荐技术领域，尤其涉及一种基于场景的商品关联方法、系统、电子设备及存储介质。


背景技术：

2.随着互联网的高速发展，短视频逐渐在人们的日常娱乐时间占有越来越高的比例，广告投放希望可以针对视频内容精准推送产品进行营销。人工智能技术的发展也使得我们可以从视频图像中提取出物理标签(视频画面中的物体)，通过对视频中语音转换得到的文本。视频内容可以与营销专家挑选出的、适合营销的主题关联。
3.而现有的训练简单的主题分类模型，无法给出类别关联的电商产品。


技术实现要素：

4.本技术实施例提供了一种基于场景的商品关联方法、系统、电子设备及存储介质，以至少解决现有方法无法给出类别关联的电商产品的问题。
5.第一方面，本技术实施例提供了一种基于场景的商品关联方法，包括：商品数据集构建步骤，获取商品信息构建一商品数据集，所述商品信息包括商品描述；视频数据集构建步骤，获取视频信息构建一视频数据集，所述视频信息包括视频文字信息；场景词库构建步骤，标注所述商品描述中的场景词，将所述场景词去重后构建一场景词库，并进一步将所述场景词库进行聚类，完成所述商品的场景关联；视频场景关联步骤，将所述视频文本信息进行分词，根据聚类后的所述场景词库进行所述视频的场景关联，并进一步根据所述场景对所述商品和所述视频进行关联。
6.优选的，所述场景词库构建步骤进一步包括：通过一序列标注模型标注所述商品描述中的场景词。
7.优选的，所述场景词库构建步骤进一步包括：将所述场景词映射为场景词特征向量，并根据所述场景词特征向量通过k
‑
means算法进行聚类。
8.优选的，所述视频场景关联步骤进一步包括：获取所述分词得到的视频词语的视频词特征向量，并根据所述视频词特征向量通过所述k
‑
means算法进行分类。
9.第二方面，本技术实施例提供了一种基于场景的商品关联系统，适用于上述一种基于场景的商品关联方法，包括：商品数据集构建模块，获取商品信息构建一商品数据集，所述商品信息包括商品描述；视频数据集构建模块，获取视频信息构建一视频数据集，所述视频信息包括视频文字信息；场景词库构建模块，标注所述商品描述中的场景词，将所述场景词去重后构建一场景词库，并进一步将所述场景词库进行聚类，完成所述商品的场景关联；视频场景关联模块，将所述视频文本信息进行分词，根据聚类后的所述场景词库进行所述视频的场景关联，并进一步根据所述场景对所述商品和所述视频进行关联。
10.在其中一些实施例中，所述场景词库构建模块进一步包括：通过一序列标注模型标注所述商品描述中的场景词。
11.在其中一些实施例中，所述场景词库构建模块进一步包括：将所述场景词映射为场景词特征向量，并根据所述场景词特征向量通过k
‑
means算法进行聚类。
12.在其中一些实施例中，所述视频场景关联模块进一步包括：获取所述分词得到的视频词语的视频词特征向量，并根据所述视频词特征向量通过所述k
‑
means算法进行分类。
13.第三方面，本技术实施例提供了一种电子设备，包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如上述第一方面所述的一种基于场景的商品关联方法。
14.第四方面，本技术实施例提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如上述第一方面所述的一种基于场景的商品关联方法。
15.本技术可应用于深度学习技术领域。相比于相关技术，本技术实施例提供的一种基于场景的商品关联方法结合多种有监督和无监督模型，同时预测出主题分类和相关营销场景的产品，将视频中的信息与营销主题和适合营销的产品进行关联，
附图说明
16.此处所说明的附图用来提供对本技术的进一步理解，构成本技术的一部分，本技术的示意性实施例及其说明用于解释本技术，并不构成对本技术的不当限定。在附图中：
17.图1为本发明的基于场景的商品关联方法流程图；
18.图2为本发明的基于场景的商品关联系统的框架图；
19.图3为本发明的电子设备的框架图；
20.以上图中：
21.1、商品数据集构建模块；2、视频数据集构建模块；3、场景词库构建模块；4、视频场景关联模块；60、总线；61、处理器；62、存储器；63、通信接口。
具体实施方式
22.为了使本技术的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本技术进行描述和说明。应当理解，此处所描述的具体实施例仅仅用以解释本技术，并不用于限定本技术。基于本技术提供的实施例，本领域普通技术人员在没有作出创造性劳动的前提下所获得的所有其他实施例，都属于本技术保护的范围。
23.显而易见地，下面描述中的附图仅仅是本技术的一些示例或实施例，对于本领域的普通技术人员而言，在不付出创造性劳动的前提下，还可以根据这些附图将本技术应用于其他类似情景。此外，还可以理解的是，虽然这种开发过程中所作出的努力可能是复杂并且冗长的，然而对于与本技术公开的内容相关的本领域的普通技术人员而言，在本技术揭露的技术内容的基础上进行的一些设计，制造或者生产等变更只是常规的技术手段，不应当理解为本技术公开的内容不充分。
24.在本技术中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本技术的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域普通技术人员显式地和隐式地理解的是，本技术所描述的实施例在不冲突的情况下，可以与其它实施例相结合。
25.除非另作定义，本技术所涉及的技术术语或者科学术语应当为本技术所属技术领域内具有一般技能的人士所理解的通常意义。本技术所涉及的“一”、“一个”、“一种”、“该”等类似词语并不表示数量限制，可表示单数或复数。本技术所涉及的术语“包括”、“包含”、“具有”以及它们任何变形，意图在于覆盖不排他的包含；例如包含了一系列步骤或模块(单元)的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元，而是可以还包括没有列出的步骤或单元，或可以还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。
26.以下，结合附图详细介绍本发明的实施例：
27.在具体实施中，首先基于已有的会话文本和对应的数据标签构建训练数据集和测试数据集，可选的，其中训练集和测试集按照8:2的比例进行划分，80％的数据用于训练模型，20％的数据用于测试。
28.图1为本发明的基于场景的商品关联方法流程图，请参见图1，本发明基于场景的商品关联方法包括如下步骤：
29.s1：获取商品信息构建一商品数据集，所述商品信息包括商品描述。
30.在具体实施中，商品数据集可为一电商平台公开发布的大数据集，可选的，可为淘宝公开发布的大数据集，在该数据集中，包括了200多万条文本数据，每条数据具有一个商品标签和商品描述，其中商品标签是商品的关键词，商品描述是商品的宣传文案。
31.s2：获取视频信息构建一视频数据集，所述视频信息包括视频文字信息。
32.在具体实施中，视频可以是节选自电视剧、电影或短视频平台的视频片段，视频信息包括视频的语音文本、物理标签。其中，视频的语音文本是其自动语音识别结果，物理标签是视频中出现的物体进行物体检测识别的结果，语音文本、物理标签统称为视频文字信息。可选的，视频信息还包括标注的主题类别，主题分类营销专家选定一些具有营销价值的主题，通过人工进行标注标签。
33.s3：标注所述商品描述中的场景词，将所述场景词去重后构建一场景词库，并进一步将所述场景词库进行聚类，完成所述商品的场景关联。
34.在具体实施中，首先给场景定义，即什么是场景，营销中场景的定义是消费者购买产品或使用产品的时间点、地点、目的等，比如「宴会穿搭」、「约会必备物品」中，「宴会」和「约会」就是购买相关产品的场景。
35.可选的，通过一序列标注模型标注所述商品描述中的场景词。
36.在具体实施中，序列标注模型是给一个具有顺序的序列，例如文本序列，每一个字符(汉字、数字、符号)是序列的一个单元，每一个单元具有一个标签，通过训练序列标注模型去预测序列中每一个单元的标签。序列标注模型的实现包括但不限于条件随机场模型、循环神经网络模型或基于预训练语言模型微调获得的模型等。使用序列标注模型在商品数据集上预测场景词语，去重后获得一个场景词库。
37.在具体实施中，对商品数据集的商品描述的文本提取出来，标注消费场景相关词语。标注时可以使用但不限于bio格式标注方法，bio格式即词语开头标注b，词语中间标注i，词语以外的字符标注o。
38.可选的，将所述场景词映射为场景词特征向量，并根据所述场景词特征向量通过k
‑
means算法进行聚类。
39.在具体实施中，从大量数据获取到场景词库后，发现许多场景词语代表同一个消费领域，比如「产前」和「产后」都是母婴类，因此对场景词做聚类分析。
40.例如，有3个词语「孕产」、「母婴」、「过年」，可以自然看出「孕产」和「母婴」是更为近似的词语，但是机器不能理解自然的语言，因此需要将自然语言的词语映射到一个数学上的向量，并且使用一个向量的相似度的计算方式(比如余弦相似度等等)，目的是为了让相似的词语对应的向量之间相似度更大。在具体实施中，将词语映射为特征向量的方法包括但不限于预训练的语言模型、词向量模型等。可选的，可使用bert预训练模型将句子编码为一个n
×
f维的矩阵，其中n是句子中包含的字符个数，每个字符用一个f维的向量表示，可通过序列标注模型识别出场景词在句子编码特征矩阵中对应位置的向量表示。
41.在具体实施中，用场景词特征向量训练聚类模型，可选的，聚类算法包括但不限于k
‑
means算法，k代表有k个类别。k
‑
means算法是将特征向量进行聚类分析的模型，给定最终希望得到的族数量，通过计算向量之间的相似度，将最相似的点聚为一类，将类的中心点作为新点，逐次迭代最终得到目标类别数量。每一个场景词语都可以对应到k类中的一类，相近意思的词语，例如「产前」和「产后」属于同一类。而不是场景词语的词语带入聚类模型也会被分到最近似的场景类别。
42.s4：将所述视频文本信息进行分词，根据聚类后的所述场景词库进行所述视频的场景关联，并进一步根据所述场景对所述商品和所述视频进行关联。
43.可选的，获取所述分词得到的视频词语的视频词特征向量，并根据所述视频词特征向量通过所述k
‑
means算法进行分类。
44.在具体实施中，对视频数据集中的一条文本先分词，每个词语通过聚类模型归为k类中的一类，一条文本就可以转为对于场景类别的k维频次向量，再对场景特征向量按照tf
‑
idf(频率
‑
逆文档频率)的思路加权，训练knn分类器。
45.在具体实施中，首先将视频数据集中的语音文本text和物理标签tag切分，可选的，可以使用分词模型或者按照标点符号切分。随后将目标原文(即语音文本text和物理标签tag的拼接)输入一预训练语言模型，按照切分词语结果得到每个词语在目标原文中对应的特征向量。目标原文中包含的所有词语的场景分类合计起来类别频数，得到一个场景类别频数向量，是一个k维的向量(对应k
‑
means模型的k类)，其中目标原文中假设没有一个词语被分到第i类，那么k维向量的第i个元素为0。
46.最后，计算场景类别的逆文档频率作为惩罚项，经过惩罚后的k维特征向量，训练有监督的主题分类模型，包括但不限于k最邻近模型(k nearest neighbor模型，简称knn)、支持向量机模型(support vector machine，简称svm模型)等。
47.在具体实施中，用场景类别频数向量中频数最高的，把场景类别相关的电商产品推送给视频片段，实现营销价值。
48.需要说明的是，在上述流程中或者附图的流程图中示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行，并且，虽然在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤。
49.本技术实施例提供了一种基于场景的商品关联系统，适用于上述的一种基于场景的商品关联方法。如以下所使用的，术语“单元”、“模块”等可以实现预定功能的软件和/或硬件的组合。尽管以下实施例所描述的装置较佳地以软件来实现，但是硬件、或者软件和硬
件的组合的实现也是可能并被构想的。
50.图2为根据本发明的基于场景的商品关联系统的框架图，请参见图2，包括：
51.商品数据集构建模块1：获取商品信息构建一商品数据集，所述商品信息包括商品描述。
52.在具体实施中，商品数据集可为一电商平台公开发布的大数据集，可选的，可为淘宝公开发布的大数据集，在该数据集中，包括了200多万条文本数据，每条数据具有一个商品标签和商品描述，其中商品标签是商品的关键词，商品描述是商品的宣传文案。
53.视频数据集构建模块2：获取视频信息构建一视频数据集，所述视频信息包括视频文字信息。
54.在具体实施中，视频可以是节选自电视剧、电影或短视频平台的视频片段，视频信息包括视频的语音文本、物理标签。其中，视频的语音文本是其自动语音识别结果，物理标签是视频中出现的物体进行物体检测识别的结果，语音文本、物理标签统称为视频文字信息。可选的，视频信息还包括标注的主题类别，主题分类营销专家选定一些具有营销价值的主题，通过人工进行标注标签。
55.场景词库构建模块3：标注所述商品描述中的场景词，将所述场景词去重后构建一场景词库，并进一步将所述场景词库进行聚类，完成所述商品的场景关联。
56.在具体实施中，首先给场景定义，即什么是场景，营销中场景的定义是消费者购买产品或使用产品的时间点、地点、目的等，比如「宴会穿搭」、「约会必备物品」中，「宴会」和「约会」就是购买相关产品的场景。
57.可选的，通过一序列标注模型标注所述商品描述中的场景词。
58.在具体实施中，序列标注模型是给一个具有顺序的序列，例如文本序列，每一个字符(汉字、数字、符号)是序列的一个单元，每一个单元具有一个标签，通过训练序列标注模型去预测序列中每一个单元的标签。序列标注模型的实现包括但不限于条件随机场模型、循环神经网络模型或基于预训练语言模型微调获得的模型等。使用序列标注模型在商品数据集上预测场景词语，去重后获得一个场景词库。
59.在具体实施中，对商品数据集的商品描述的文本提取出来，标注消费场景相关词语。标注时可以使用但不限于bio格式标注方法，bio格式即词语开头标注b，词语中间标注i，词语以外的字符标注o。
60.可选的，将所述场景词映射为场景词特征向量，并根据所述场景词特征向量通过k
‑
means算法进行聚类。
61.在具体实施中，从大量数据获取到场景词库后，发现许多场景词语代表同一个消费领域，比如「产前」和「产后」都是母婴类，因此对场景词做聚类分析。
62.例如，有3个词语「孕产」、「母婴」、「过年」，可以自然看出「孕产」和「母婴」是更为近似的词语，但是机器不能理解自然的语言，因此需要将自然语言的词语映射到一个数学上的向量，并且使用一个向量的相似度的计算方式(比如余弦相似度等等)，目的是为了让相似的词语对应的向量之间相似度更大。在具体实施中，将词语映射为特征向量的方法包括但不限于预训练的语言模型、词向量模型等。可选的，可使用bert预训练模型将句子编码为一个n
×
f维的矩阵，其中n是句子中包含的字符个数，每个字符用一个f维的向量表示，可通过序列标注模型识别出场景词在句子编码特征矩阵中对应位置的向量表示。
read
‑
only memory，简称为eprom)、电可擦除prom(electrically erasable programmable read
‑
only memory，简称为eeprom)、电可改写rom(electrically alterable read
‑
only memory，简称为earom)或闪存(flash)或者两个或更多个以上这些的组合。在合适的情况下，该ram可以是静态随机存取存储器(static random
‑
access memory，简称为sram)或动态随机存取存储器(dynamic random access memory，简称为dram)，其中，dram可以是快速页模式动态随机存取存储器(fast page mode dynamic random access memory，简称为fpmdram)、扩展数据输出动态随机存取存储器(extended date out dynamic random access memory，简称为edodram)、同步动态随机存取内存(synchronous dynamic random
‑
access memory，简称sdram)等。
74.存储器62可以用来存储或者缓存需要处理和/或通信使用的各种数据文件，以及处理器61所执行的可能的计算机程序指令。
75.处理器61通过读取并执行存储器62中存储的计算机程序指令，以实现上述实施例中的任意一种基于场景的商品关联方法。
76.在其中一些实施例中，电子设备还可包括通信接口63和总线60。其中，如图3所示，处理器61、存储器62、通信接口63通过总线60连接并完成相互间的通信。
77.通信端口63可以实现与其他部件例如：外接设备、图像/数据采集设备、数据库、外部存储以及图像/数据处理工作站等之间进行数据通信。
78.总线60包括硬件、软件或两者，将电子设备的部件彼此耦接在一起。总线60包括但不限于以下至少之一：数据总线(data bus)、地址总线(address bus)、控制总线(control bus)、扩展总线(expansion bus)、局部总线(local bus)。举例来说而非限制，总线60可包括图形加速接口(accelerated graphics port，简称为agp)或其他图形总线、增强工业标准架构(extended industry standard architecture，简称为eisa)总线、前端总线(front side bus，简称为fsb)、超传输(hyper transport，简称为ht)互连、工业标准架构(industry standard architecture，简称为isa)总线、无线带宽(infiniband)互连、低引脚数(low pin count，简称为lpc)总线、存储器总线、微信道架构(micro channel architecture，简称为mca)总线、外围组件互连(peripheral component interconnect，简称为pci)总线、pci
‑
express(pci
‑
x)总线、串行高级技术附件(serial advanced technology attachment，简称为sata)总线、视频电子标准协会局部(video electronics standards association local bus，简称为vlb)总线或其他合适的总线或者两个或更多个以上这些的组合。在合适的情况下，总线60可包括一个或多个总线。尽管本技术实施例描述和示出了特定的总线，但本技术考虑任何合适的总线或互连。
79.该电子设备可以执行本技术实施例中的一种基于场景的商品关联方法。
80.另外，结合上述实施例中的一种基于场景的商品关联方法，本技术实施例可提供一种计算机可读存储介质来实现。该计算机可读存储介质上存储有计算机程序指令；该计算机程序指令被处理器执行时实现上述实施例中的任意一种基于场景的商品关联方法。
81.而前述的存储介质包括：u盘、移动硬盘、只读存储器(readonly memory，简称为rom)、随机存取存储器(random access memory，简称为ram)、磁碟或者光盘等各种可以存储程序代码的介质。
82.以上所述实施例的各技术特征可以进行任意的组合，为使描述简洁，未对上述实
施例中的各个技术特征所有可能的组合都进行描述，然而，只要这些技术特征的组合不存在矛盾，都应当认为是本说明书记载的范围。
83.以上所述实施例仅表达了本技术的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对发明专利范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本技术构思的前提下，还可以做出若干变形和改进，这些都属于本技术的保护范围。因此，本技术专利的保护范围应以所附权利要求为准。