基于人工智能的数据分片方法、装置、设备及介质与流程

文档序号:31051595发布日期:2022-08-06 07:35阅读:来源:国知局

技术特征:
1.一种基于人工智能的数据分片方法,其特征在于,所述方法包括:获取待分片数据的配置信息,所述配置信息包括待分片数据的数据量、建表语句和多个数据库;依据业务类型对所述待分片数据进行分类获得分类数据,并基于所述配置信息将所述分类数据存储至分片表以作为第一分片数据;接收数据读取请求以从所述分片表中读取目标数据,所述数据读取请求中携带有目标数据的关键字段;统计历史目标数据中各关键字段的数量得到调用频率,并基于所述调用频率对所有的关键字段进行筛选得到热点字段数据集;依据文本相似度算法计算所述第一分片数据与所述热点字段数据集中每一个关键字段的文本相似度得到语义相关度,并基于所述语义相关度对所述第一分片数据进行分片得到第二分片数据。2.如权利要求1所述的基于人工智能的数据分片方法,其特征在于,所述获取待分片数据的配置信息,所述配置信息包括待分片数据的数据量、建表语句和多个数据库,包括:获取用户通过web界面输入的配置信息,所述待分片数据的数据量用于指示将所述待分片数据拆分成多少个分片数据;所述建表语句用于生成能够写入所述待分片数据的分片表;所述多个数据库用于存储所述待分片数据。3.如权利要求1所述的基于人工智能的数据分片方法,其特征在于,所述依据业务类型对所述待分片数据进行分类获得分类数据,并基于所述配置信息将所述分类数据存储至分片表以作为第一分片数据包括:依据预设方式对每种业务类型的待分片数据设置不同的编码标签;基于所述编码标签对所述待分片数据进行分类获得分类数据,并基于所述配置信息将同一类别的分类数据存储至同一分片表,不同类别的分类数据存储至不同的分片表,将所有存储至分片表中的分类数据作为第一分片数据。4.如权利要求1所述的基于人工智能的数据分片方法,其特征在于,所述接收数据读取请求以从所述分片表中读取目标数据,所述数据读取请求中携带有目标数据的关键字段包括:接收数据读取请求得到所述数据读取请求中携带的目标数据的关键字段;依据预先配制的路由规则和所述关键字段读取所述目标数据所在的路由地址,所述路由地址包括所述目标数据所在的分片表和数据库;基于所述路由地址读取并反馈所述目标数据。5.如权利要求1所述的基于人工智能的数据分片方法,其特征在于,所述统计历史目标数据中各关键字段的数量得到调用频率,并基于所述调用频率对所有的关键字段进行筛选得到热点字段数据集包括:统计历史目标数据中各关键字段的数量,并将各关键字段的数量与所有关键字段的总数量的比值作为所述调用频率;对所述调用频率进行分类,并根据分类结果对所有的关键字段进行筛选得到热点字段数据集。6.如权利要求5所述的基于人工智能的数据分片方法,其特征在于,所述对所述调用频
率进行分类,并根据分类结果对所有的关键字段进行筛选得到热点字段数据集包括:计算所有的调用频率的误差平方和以确定所有的调用频率的有效分类数;基于所述有效分类数对所有的调用频率进行分类得到多个调用频率类别;计算各调用频率类别中包含的调用频率的平均值,选取最大平均值对应的调用频率类别,并将该调用频率类别中所有的调用频率对应的关键字段作为所述热点字段数据集。7.如权利要求1所述的基于人工智能的数据分片方法,其特征在于,所述依据文本相似度算法计算所述第一分片数据与所述热点字段数据集中每一个关键字段的文本相似度得到语义相关度,并基于所述语义相关度对所述第一分片数据进行分片得到第二分片数据包括:依据文本相似度算法分别计算所述第一分片数据中每一个分类数据与所述热点字段数据集中每一个关键字段的文本相似度;将所述热点字段数据集中每一个关键字段对应的调用频率作为特征权重,对所述特征权重和所述文本相似度进行加权求和以获取所述第一分片数据中每一个分类数据的语义相关度;计算所述第一分片数据中所有的分类数据的语义相关度的平均值作为分片阈值,并基于所述分片阈值对所述第一分片数据进行分片得到第二分片数据。8.一种基于人工智能的数据分片装置,其特征在于,所述装置包括:获取单元,用于获取待分片数据的配置信息,所述配置信息包括待分片数据的数据量、建表语句和多个数据库;分类单元,用于依据业务类型对所述待分片数据进行分类获得分类数据,并基于所述配置信息将所述分类数据存储至分片表以作为第一分片数据;读取单元,用于接收数据读取请求以从所述分片表中读取目标数据,所述数据读取请求中携带有目标数据的关键字段;筛选单元,用于统计历史目标数据中各关键字段的数量得到调用频率,并基于所述调用频率对所有的关键字段进行筛选得到热点字段数据集;计算单元,用于依据文本相似度算法计算所述第一分片数据与所述热点字段数据集中每一个关键字段的文本相似度得到语义相关度,并基于所述语义相关度对所述第一分片数据进行分片得到第二分片数据。9.一种电子设备,其特征在于,所述电子设备包括:存储器,存储有计算机可读指令;及处理器,执行所述存储器中存储的计算机可读指令以实现如权利要求1至7中任意一项所述的基于人工智能的数据分片方法。10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机可读指令,所述计算机可读指令被处理器执行时实现如权利要求1至7中任一项所述的基于人工智能的数据分片方法。

技术总结
本申请提出一种基于人工智能的数据分片方法、装置、电子设备及存储介质,基于人工智能的数据分片方法包括:获取待分片数据的配置信息;依据业务类型对所述待分片数据进行分类获得分类数据,并基于所述配置信息将所述分类数据存储至分片表以作为第一分片数据;接收数据读取请求以从所述分片表中读取目标数据;统计历史目标数据中各关键字段的数量得到调用频率以对所有的关键字段进行筛选得到热点字段数据集;计算所述第一分片数据与所述热点字段数据集的文本相似度得到语义相关度以对所述第一分片数据进行分片得到第二分片数据。本申请能够根据待分片数据在数据库中被调用的频率对待分片数据进行分表存储,从而提高数据库的数据调用效率。的数据调用效率。的数据调用效率。


技术研发人员:陈海钊
受保护的技术使用者:平安科技(深圳)有限公司
技术研发日:2022.04.26
技术公布日:2022/8/5
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1