嵌入表生成方法与嵌入表浓缩方法与流程

文档序号:35860297发布日期:2023-10-26 12:00阅读:32来源:国知局
本发明涉及一种机器学习/深度学习,且特别是涉及一种用于深度学习中推荐模型的嵌入表生成方法与嵌入表浓缩方法。
背景技术
::1、深度学习(deep learning)/机器学习(machine learning)被广泛用于人工智能领域。在深度学习中,推荐系统(recommendation system)例如可依据使用者的个人信息以及历史数据推荐影音串流。推荐系统具有多个嵌入表(embedding table),每一个嵌入表包括多个索引(index)与至少一个特征(feature)。特征数量越少(特征维度越小),这个嵌入表的数据量越小。一般来说,当嵌入表中的特征数量越多(特征维度越大),推荐系统的精准率越高。然而在一些应用中,当嵌入表中的特征数量太多(特征维度过大),推荐系统会发生过拟合(overfit)使得精准率降低。嵌入表的数据量通常极为庞大,因此嵌入表有被数据压缩的需求。在不降低推荐系统的精准度的前提下,如何浓缩/压缩嵌入表来降低数据量,是人工智能领域的诸多技术课题之一。技术实现思路1、本发明提供一种嵌入表的生成方法与嵌入表浓缩方法,以生成具有适配的特征维度的嵌入表。2、在本发明的实施例中,上述嵌入表生成方法包括:依据初始特征维度建立分类数据所对应的嵌入表的初始结构;对具有所述初始结构的所述嵌入表进行模型训练,以生成所述嵌入表的初始内容;基于所述嵌入表的所述初始内容计算经浓缩特征维度;依据所述经浓缩特征维度建立所述嵌入表的新结构;以及对具有所述新结构的所述嵌入表进行所述模型训练,以生成所述嵌入表的经浓缩内容。3、在本发明的实施例中,上述嵌入表浓缩方法包括:接收具有初始特征维度的嵌入表的初始内容;基于所述嵌入表的所述初始内容计算经浓缩特征维度;依据所述经浓缩特征维度建立所述嵌入表的新结构;以及对具有所述新结构的所述嵌入表进行模型训练,以生成所述嵌入表的经浓缩内容。4、基于上述,本发明一些实施例可基于嵌入表的初始内容计算经浓缩特征维度(适配的特征维度),然后依据所述经浓缩特征维度重新建立嵌入表的新结构。具有新结构的嵌入表可以再一次进行模型训练,以生成嵌入表的经浓缩内容。亦即,实施例可以通过模型训练去决定嵌入表的适配特征维度,从而兼顾推荐系统的精准度与嵌入表的数据量。技术特征:1.一种嵌入表生成方法,其特征在于,所述嵌入表生成方法包括:2.根据权利要求1所述的嵌入表生成方法,其特征在于,所述计算所述经浓缩特征维度包括:3.根据权利要求2所述的嵌入表生成方法,其特征在于,所述计算所述嵌入表的所述重要性值包括:4.根据权利要求3所述的嵌入表生成方法,其特征在于,所述计算所述嵌入表的所述重要性值更包括:5.根据权利要求2所述的嵌入表生成方法,其特征在于,所述计算所述嵌入表的所述经浓缩特征维度包括:6.一种嵌入表浓缩方法,其特征在于,所述嵌入表浓缩方法包括:7.根据权利要求6所述的嵌入表浓缩方法,其特征在于,所述计算所述经浓缩特征维度包括:8.根据权利要求7所述的嵌入表浓缩方法,其特征在于,所述计算所述嵌入表的所述重要性值包括:9.根据权利要求8所述的嵌入表浓缩方法,其特征在于,所述计算所述嵌入表的所述重要性值更包括:10.根据权利要求7所述的嵌入表浓缩方法,其特征在于,所述计算所述嵌入表的所述经浓缩特征维度包括:技术总结本发明提供一种嵌入表生成方法与嵌入表浓缩方法。嵌入表生成方法包括:依据初始特征维度建立分类数据所对应的嵌入表的初始结构;对具有初始结构的嵌入表进行模型训练以生成所述嵌入表的初始内容;基于所述嵌入表的初始内容计算经浓缩特征维度;依据所述经浓缩特征维度建立嵌入表的新结构;对具有新结构的所述嵌入表进行所述模型训练以生成所述嵌入表的经浓缩内容。技术研发人员:高靖芸,朱昱达,黄俊达受保护的技术使用者:创鑫智慧股份有限公司技术研发日:技术公布日:2024/1/15
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1