基于AI预测的智慧场景大数据清洗方法及智慧场景系统与流程

文档序号:30616936发布日期:2022-07-02 01:15阅读:271来源:国知局
基于AI预测的智慧场景大数据清洗方法及智慧场景系统与流程
基于ai预测的智慧场景大数据清洗方法及智慧场景系统
技术领域
1.本技术涉及大数据清洗技术领域,具体而言,涉及一种基于ai预测的智慧场景大数据清洗方法及智慧场景系统。


背景技术:

2.智慧场景服务是面向城市、企业和行业等场景,通过5g、云计算、ai等ict技术与行业知识深度融合创新产生的裂变效应,提升互联网服务水平,使得用户的互联网体验更强、企业生产效率更高、行业创造力更强。
3.在智慧场景信息服务过程中,为了准确分析后续用户、企业的需求,需要进行大数据采集和进一步的大数据挖掘,然而大数据采集过程中可能会采集到影响大数据精度的噪声数据,造成需求分析可能存在误差,因此在大数据采集过程中,需要实时进行大数据清洗,大数据清洗的思路之一是进行噪声剔除,需要分析出噪声渗透区。相关技术中,结合ai预测进行噪声渗透区的输出一直在研究过程中,然而当前的难点在于,难以较好适配训练数据下有限的数据标签,并且噪声渗透学习性能较低,也影响后续大数据清洗流程的配置精度保证。


技术实现要素:

4.为了至少克服现有技术中的上述不足,本技术的目的在于提供一种基于ai预测的智慧场景大数据清洗方法及智慧场景系统。
5.第一方面,本技术提供一种基于ai预测的智慧场景大数据清洗方法,应用于智慧场景系统,所述智慧场景系统与多个智慧场景业务服务器通信连接,所述方法包括:从预先与所述智慧场景系统绑定的智慧场景业务数据库中调取基础模板场景大数据,所述基础模板场景大数据涵盖若干数量的标定了根模板噪声渗透区的基础模板场景数据;结合初始化训练的噪声渗透决策模型对所述基础模板场景大数据中的基础模板场景数据进行噪声渗透点挖掘,输出噪声渗透点簇;结合所述噪声渗透点簇,以每个所述基础模板场景数据为独立的渗透噪声渗透定位分支配置噪声渗透关系空间;结合所述噪声渗透关系空间对所述基础模板场景数据的根模板噪声渗透区进行渗透区衍生,输出衍生模板场景大数据;基于所述衍生模板场景大数据对所述初始化训练的噪声渗透决策模型进行决策函数功能层调整,并基于匹配模型部署条件的目标噪声渗透决策模型对加载的目标智慧场景大数据进行噪声渗透决策。
6.譬如,获取基于匹配模型部署条件的目标噪声渗透决策模型对加载的目标智慧场景大数据进行噪声渗透决策获得的目标噪声渗透区;基于所述目标噪声渗透区确定所述目标智慧场景大数据关联的大数据采集进程
的大数据清洗字段分布;结合所述大数据清洗字段分布对所述大数据采集进程进行大数据清洗配置,获取所述大数据采集进程的业务采集活动在大数据更新状态内对所述大数据采集进程关联的大数据更新活动进行遍历数据采集获得的遍历数据采集节点分布,所述遍历数据采集节点分布包括依据大数据采集模板的最新采集配置顺序生成的若干个遍历数据采集节点;针对所述遍历数据采集节点分布中各遍历数据采集节点,在每个单独流程中获取一个标的遍历数据采集节点确定为目标遍历数据采集节点,并获取所述标的遍历数据采集节点联动的一个遍历数据采集节点确定为联动遍历数据采集节点;获取需要进行大数据清洗配置的目标大数据更新流程关联的大数据清洗配置信息;结合所述大数据清洗配置信息对每个单独流程中获取的所述目标遍历数据采集节点和联动遍历数据采集节点进行采集字段更新,以对所述业务采集活动针对各所述大数据更新活动的大数据更新流程进行遍历数据采集的大数据清洗配置,输出大数据清洗配置数据,所述大数据清洗配置数据包括每个遍历数据采集表项对应的噪声清洗字段数据;结合所述大数据清洗配置数据对所述大数据采集进程进行更新,由此将更新的大数据采集进程加载到智慧场景业务服务器进行大数据采集配置。
7.譬如,所述结合所述大数据清洗配置信息对每个单独流程中获取的所述目标遍历数据采集节点和联动遍历数据采集节点进行采集字段更新,以对所述业务采集活动针对各所述大数据更新活动的大数据更新流程进行遍历数据采集的大数据清洗配置,包括:结合所述大数据清洗配置信息,对所述目标遍历数据采集节点和所述联动遍历数据采集节点分别进行数据清洗指标分配,输出所述目标遍历数据采集节点的目标数据清洗指标和所述联动遍历数据采集节点的联动数据清洗指标,所述目标数据清洗指标具有所述目标遍历数据采集节点关联的大数据更新流程与所述大数据清洗配置信息之间的对应清洗指标,所述联动数据清洗指标具有所述联动遍历数据采集节点关联的大数据更新流程与所述大数据清洗配置信息之间的对应清洗指标;对所述目标数据清洗指标和所述联动数据清洗指标进行共享数据清洗指标分配,输出所述目标遍历数据采集节点的共享数据清洗指标;结合所述共享数据清洗指标对所述业务采集活动针对各所述大数据更新活动的大数据更新流程进行遍历数据采集的大数据清洗配置。
8.譬如,结合所述大数据清洗配置信息,对所述目标遍历数据采集节点进行数据清洗指标分配,输出所述目标遍历数据采集节点的目标数据清洗指标,包括:提取所述大数据清洗配置信息的清洗元素,输出所述大数据清洗配置信息的清洗元素簇;提取所述目标遍历数据采集节点中的若干个遍历数据采集子节点的采集元素,输出所述若干个遍历数据采集子节点的采集元素;基于所述清洗元素簇和所述若干个遍历数据采集子节点的采集元素,输出所述若干个遍历数据采集子节点的清洗元素分布,所述遍历数据采集子节点的清洗元素分布指代所述遍历数据采集子节点与所述大数据清洗配置信息之间的映射变量信息;基于所述若干个遍历数据采集子节点的清洗元素分布,对所述若干个遍历数据采
集子节点的采集元素进行关联,输出所述目标数据清洗指标。
9.第二方面,本技术实施例还提供一种基于ai预测的智慧场景大数据清洗系统,所述基于ai预测的智慧场景大数据清洗系统包括智慧场景系统以及与所述智慧场景系统通信连接的多个智慧场景业务服务器;所述智慧场景系统,用于:从预先与所述智慧场景系统绑定的智慧场景业务数据库中调取基础模板场景大数据,所述基础模板场景大数据涵盖若干数量的标定了根模板噪声渗透区的基础模板场景数据;结合初始化训练的噪声渗透决策模型对所述基础模板场景大数据中的基础模板场景数据进行噪声渗透点挖掘,输出噪声渗透点簇;结合所述噪声渗透点簇,以每个所述基础模板场景数据为独立的渗透噪声渗透定位分支配置噪声渗透关系空间;结合所述噪声渗透关系空间对所述基础模板场景数据的根模板噪声渗透区进行渗透区衍生,输出衍生模板场景大数据;基于所述衍生模板场景大数据对所述初始化训练的噪声渗透决策模型进行决策函数功能层调整,并基于匹配模型部署条件的目标噪声渗透决策模型对加载的目标智慧场景大数据进行噪声渗透决策。
10.对于以上实施方式而言,本技术可以结合噪声渗透点簇配置噪声渗透关系空间,采用基础模板场景数据中的噪声渗透点的渗透关系进行渗透区衍生,由此扩展基础模板场景数据的数据标签,此外基于渗透区衍生,可有效增强基础模板场景数据的噪声渗透学习性能,从而可以进一步增强噪声渗透决策网络的噪声渗透决策性能,以便于后续大数据清洗流程的配置精度保证。
附图说明
11.图1为本技术实施例提供的基于ai预测的智慧场景大数据清洗方法的流程示意图;图2为本技术实施例提供的用于实现上述的基于ai预测的智慧场景大数据清洗方法的智慧场景系统的结构示意框图。
具体实施方式
12.下面介绍本技术一种实施例提供的基于ai预测的智慧场景大数据清洗系统10的架构,该基于ai预测的智慧场景大数据清洗系统10可以包括智慧场景系统100以及与智慧场景系统100通信连接的智慧场景业务服务器200。其中,基于ai预测的智慧场景大数据清洗系统10中的智慧场景系统100和智慧场景业务服务器200可以通过配合执行以下方法实施例所描述的基于ai预测的智慧场景大数据清洗方法,具体智慧场景系统100和智慧场景业务服务器200的执行步骤部分可以参照以下方法实施例的详细描述。
13.本实施例提供的基于ai预测的智慧场景大数据清洗方法可以由智慧场景系统100执行,下面结合图1对该基于ai预测的智慧场景大数据清洗方法进行详细介绍。
14.node101、从预先与所述智慧场景系统绑定的智慧场景业务数据库中调取基础模
板场景大数据。
15.例如,基础模板场景大数据中可以涵盖若干个标注了根模板噪声渗透区的基础模板场景数据,根模板噪声渗透区可以为手动在基础模板场景数据中标注的初始噪声渗透区,该初始噪声渗透区表征基础模板场景数据中存在噪声数据的定位标注信息。
16.node102、结合初始化训练的噪声渗透决策模型对基础模板场景大数据中的基础模板场景数据进行噪声渗透点挖掘,输出噪声渗透点簇。
17.其中,可以结合初始化训练的噪声渗透决策模型的噪声渗透点挖掘结构提取基础模板场景大数据中各个基础模板场景数据的噪声渗透点,输出噪声渗透点簇。
18.例如一些示例中,噪声渗透点挖掘结构可以采用densenet等等。
19.node103、结合噪声渗透点簇,以每个所述基础模板场景数据为独立的渗透噪声渗透定位分支配置噪声渗透关系空间。
20.例如一些示例中,噪声渗透关系空间为表达渗透噪声渗透定位分支及其关联的渗透噪声渗透定位分支之间的噪声渗透关系的关系图谱。例如,配置噪声渗透关系空间的实施方式可以为:例如,可以在噪声渗透点簇中,选择各个基础模板场景数据关联的噪声渗透点,并基于基础模板场景数据的噪声渗透点,确定基础模板场景数据之间的噪声渗透连通度,结合噪声渗透连通度,在基础模板场景大数据中确定基础模板场景数据的连通基础模板场景数据,输出基础模板场景数据的连通基础模板场景大数据,结合连通基础模板场景大数据,以每个所述基础模板场景数据为独立的渗透噪声渗透定位分支配置噪声渗透关系空间。
21.例如一些示例中,确定基础模板场景数据之间的噪声渗透连通度的方式可以是结合特征距离函数确定两个噪声渗透点之间的渗透关联值,由此获得基础模板场景数据之间的噪声渗透连通度。
22.例如一些示例中,结合连通基础模板场景大数据,配置噪声渗透关系空间的实现方案可以基于实际需求进行选择,比如,可以从预先与所述智慧场景系统绑定的智慧场景业务数据库中调取基础模板场景数据与关联的连通基础模板场景大数据中的基础模板场景数据之间的噪声渗透连通信息,输出基础模板场景数据的连通数据,结合连通数据,以每个所述基础模板场景数据为独立的渗透噪声渗透定位分支配置初始噪声渗透关系空间,并对初始噪声渗透关系空间进行重复关系剔除,输出噪声渗透关系空间。
23.例如一些示例中,连通数据可以为指示基础模板场景数据与连通基础模板场景大数据中的基础模板场景数据之间的噪声渗透连通信息等信息。得到连通数据的方案可以灵活配置,比如,可以在噪声渗透连通度中确定基础模板场景数据与关联的连通基础模板场景大数据中的基础模板场景数据之间的目标噪声渗透连通度,对所述目标噪声渗透连通度进行聚合,输出基础模板场景数据与连通基础模板场景大数据中基础模板场景数据之间的噪声渗透连通信息,结合噪声渗透连通信息,生成基础模板场景数据的连通数据。
24.例如一些示例中,对目标噪声渗透连通度进行聚合,输出基础模板场景数据与连通基础模板场景大数据中基础模板场景数据之间的噪声渗透连通信息的方案可以基于实际需求进行选择,比如,可以对目标噪声渗透连通度进行聚合,输出聚合的噪声渗透连通度,并对聚合的噪声渗透连通度进行排序,结合排序信息,确定基础模板场景数据之间的噪声渗透连通信息。
25.例如一些示例中,结合连通数据,以每个所述基础模板场景数据为独立的渗透噪声渗透定位分支配置初始噪声渗透关系空间的方式可以是结合连通数据,配置一个关系空间,关系空间中的各个关系成员表示两个基础模板场景数据之间的噪声渗透连通信息,从而将配置的关系空间作为初始噪声渗透关系空间。
26.在配置完初始噪声渗透关系空间之后,由此可以对初始噪声渗透关系空间进行重复关系剔除,输出噪声渗透关系空间。
27.node104、结合噪声渗透关系空间对基础模板场景数据的根模板噪声渗透区进行渗透区衍生,输出衍生模板场景大数据。
28.例如,可以将基础模板场景数据的根模板噪声渗透区在噪声渗透关系空间的渗透噪声渗透定位分支之间进行渗透衍生分析,输出基础模板场景数据的衍生噪声渗透区信息,结合衍生噪声渗透区信息,对基础模板场景数据的根模板噪声渗透区进行渗透区衍生,输出衍生模板场景大数据,例如可以通过以下步骤实现:a1、将基础模板场景数据的根模板噪声渗透区在噪声渗透关系空间的渗透噪声渗透定位分支之间进行渗透衍生分析,输出基础模板场景数据的衍生噪声渗透区信息。
29.例如一些示例中,衍生噪声渗透区信息可以为将根模板噪声渗透区关联的噪声渗透区分布在噪声渗透关系空间中渗透衍生分析后的得到噪声渗透区分布的信息。
30.例如一些示例中,将基础模板场景数据的根模板噪声渗透区进行渗透衍生分析的方案可以基于实际需求进行选择,例如可以是:例如,结合基础模板场景数据的根模板噪声渗透区,生成基础模板场景大数据关联的根模板噪声渗透区分布,结合开发人员指定的渗透衍生分析规则,将根模板噪声渗透区在噪声渗透关系空间的渗透噪声渗透定位分支之间进行渗透衍生分析,输出基础模板场景数据的衍生噪声渗透区信息,比如实现方式可以是:(1)结合基础模板场景数据的根模板噪声渗透区,生成基础模板场景大数据关联的根模板噪声渗透区分布。
31.例如一些示例中,根模板噪声渗透区分布可以为将基础模板场景大数据中所有的基础模板场景数据的根模板噪声渗透区进行各自对应系数的权重融合得到的噪声渗透区分布。
32.例如一些示例中,配置基础模板场景大数据关联的根模板噪声渗透区分布的方案可以基于实际需求进行选择,比如实现方式可以是:例如,结合基础模板场景数据的数量p和基础模板场景数据的根模板噪声渗透区的数量l,构造一个p*l的噪声渗透区分布m,该噪声渗透区分布中的渗透区用于表示关联的基础模板场景数据的根模板噪声渗透区,可以将第x行全部渗透区组成一个特征簇,将该特征簇作为基础模板场景数据x关联的根模板噪声渗透区。因此,根模板噪声渗透区分布中可以包括各个基础模板场景数据关联的根模板噪声渗透区。
33.(2)结合开发人员指定的渗透衍生分析规则,将根模板噪声渗透区分布在噪声渗透关系空间的渗透噪声渗透定位分支之间进行渗透衍生分析,输出基础模板场景数据的衍生噪声渗透区信息。
34.例如,可以结合噪声渗透关系空间确定基础模板场景数据之间的噪声关系匹配度,获取噪声关系匹配度关联的目标系数,并基于目标系数,对基础模板场景数据的根模板
噪声渗透区进行衍生,将衍生的噪声渗透区进行聚合,输出基础模板场景数据的衍生噪声渗透区信息。
35.例如一些示例中,结合噪声渗透关系空间确定基础模板场景数据之间的噪声关系匹配度的方案可以基于实际需求进行选择,比如,可以在噪声渗透关系空间中挖掘渗透噪声渗透定位分支之间的噪声渗透连通信息,结合噪声渗透连通信息,生成渗透噪声渗透定位分支的渗透偏离度,将渗透偏离度转换为噪声关系匹配度,渗透偏离度越小,就可以表示基础模板场景数据的噪声关系匹配度越大。
36.例如一些示例中,将衍生的噪声渗透区进行聚合,由此获得基础模板场景数据的衍生噪声渗透区信息的方案可以基于实际需求进行选择,比如,可以将衍生的噪声渗透区进行聚合,从而获得一个新的噪声渗透区分布,结合新的噪声渗透区分布,对噪声渗透区分布m进行更新,输出更新后的噪声渗透区分布m,将更新后的噪声渗透区分布m作为衍生噪声渗透区信息。
37.a2、结合衍生噪声渗透区信息,对基础模板场景数据的根模板噪声渗透区进行渗透区衍生,输出衍生模板场景大数据。
38.例如,在衍生噪声渗透区信息中解析基础模板场景数据的衍生噪声渗透特征,结合衍生噪声渗透特征,生成基础模板场景数据的衍生噪声渗透区,结合衍生噪声渗透区,对基础模板场景数据的根模板噪声渗透区进行渗透区衍生,输出衍生模板场景大数据。
39.例如一些示例中,在衍生噪声渗透区信息中挖掘基础模板场景数据的衍生噪声渗透特征的方案可以基于实际需求进行选择,比如,以基础模板场景数据x为例,在更新后的噪声渗透区分布中确定第x行的全部渗透区,将全部渗透区分别进行特征组合,就可以得到基础模板场景数据的衍生噪声渗透特征,或者,还可以对渗透区进行衍生后再进行特征组合,也可以得到基础模板场景数据的衍生噪声渗透特征。
40.在提取出基础模板场景数据的衍生噪声渗透特征之后,便可以确定基础模板场景数据的衍生噪声渗透区,确定的方案可以基于实际需求进行选择,比如,可以在衍生噪声渗透特征中确定支持参数值最大的噪声渗透特征点,在衍生噪声渗透特征中挖掘噪声渗透特征点的渗透定位字段信息,获取渗透定位字段信息关联的目标噪声渗透区,将目标噪声渗透区作为基础模板场景数据的衍生噪声渗透区,例如,噪声渗透特征点的节点为第y列,就可以将第y列关联的噪声渗透区y作为基础模板场景数据的衍生噪声渗透区。
41.在确定出基础模板场景数据的衍生噪声渗透区,便可以对基础模板场景数据的根模板噪声渗透区进行渗透区衍生,输出衍生模板场景大数据,更新的方案可以基于实际需求进行选择,比如,可以将衍生噪声渗透区与关联的基础模板场景数据的根模板噪声渗透区进行比较,当衍生噪声渗透区与根模板噪声渗透区不连通时,确定基础模板场景数据为待更新的目标基础模板场景数据,将目标基础模板场景数据的根模板噪声渗透区更新为关联的衍生噪声渗透区,输出衍生模板场景大数据。
42.node105、结合衍生模板场景大数据对初始化训练的噪声渗透决策模型进行决策函数功能层调整,并基于匹配模型部署条件的目标噪声渗透决策模型对加载的目标智慧场景大数据进行噪声渗透决策。
43.例如,node105的实现方式例如可以包括以下方案。
44.c1、结合衍生模板场景大数据对初始化训练的噪声渗透决策模型进行决策函数功
能层调整。
45.例如,结合衍生模板场景大数据中的噪声渗透点和噪声渗透区,对初始化训练的噪声渗透决策模型进行决策函数功能层调整,结合初始化训练的噪声渗透决策模型对衍生模板场景大数据中的基础模板场景数据进行噪声渗透点挖掘,基于目标噪声渗透点簇,对基础模板场景数据的噪声渗透区进行渗透区衍生,返回执行结合衍生模板场景大数据中基础模板场景数据的噪声渗透点和噪声渗透区,对初始化训练的噪声渗透决策模型进行决策函数功能层调整的流程,直到初始化训练的噪声渗透决策模型匹配模型部署条件,输出匹配模型部署条件的目标噪声渗透决策模型。比如实现方式可以是:(1)结合衍生模板场景大数据中基础模板场景数据的噪声渗透点和噪声渗透区,对初始化训练的噪声渗透决策模型进行决策函数功能层调整。
46.例如,可以结合衍生模板场景大数据中基础模板场景数据的噪声渗透区,确定基础模板场景数据的噪声渗透区的第一渗透决策错误值,结合衍生模板场景大数据中基础模板场景数据的噪声渗透点,确定基础模板场景数据的噪声渗透点的第二渗透决策错误值,将第一渗透决策错误值和所述第二渗透决策错误值进行各自对应系数的权重融合,并基于融合渗透决策错误值对初始化训练的噪声渗透决策模型进行决策函数功能层调整。
47.例如一些示例中,确定基础模板场景数据的噪声渗透区的第一渗透决策错误值的方案可以基于实际需求进行选择,比如,可以将基础模板场景数据的根模板噪声渗透区与渗透衍生分析后的噪声渗透区进行比较,确定初始化训练的噪声渗透决策模型进行噪声渗透决策的错误率,并基于交叉熵损失函数进行错误率计算,进而得到第一渗透决策错误值。
48.例如一些示例中,确定基础模板场景数据的噪声渗透点的第二渗透决策错误值的方案可以基于实际需求进行选择,比如,可以结合衍生模板场景大数据中基础模板场景数据的噪声渗透区,对基础模板场景数据进行聚簇,输出每个噪声渗透区关联的基础模板场景数据簇,结合基础模板场景数据簇中基础模板场景数据的噪声渗透点,确定基础模板场景数据簇关联的目标噪声渗透点,将基础模板场景数据的噪声渗透点和基础模板场景数据簇关联的目标噪声渗透点进行各自对应系数的权重融合,输出基础模板场景数据的噪声渗透点的第二渗透决策错误值。
49.例如一些示例中,确定基础模板场景数据簇关联的目标噪声渗透点的方案可以基于实际需求进行选择,比如,可以计算基础模板场景数据簇中基础模板场景数据的噪声渗透点的噪声渗透差异均值,将该噪声渗透差异均值作为基础模板场景数据簇关联的目标噪声渗透点。
50.在计算完基础模板场景数据簇关联的目标噪声渗透点之后,便可以将基础模板场景数据的噪声渗透点和基础模板场景数据簇关联的目标噪声渗透点进行各自对应系数的权重融合,输出基础模板场景数据的噪声渗透点的第二渗透决策错误值,融合的方案可以基于实际需求进行选择,比如,结合基础模板场景数据的噪声渗透点,确定基础模板场景数据簇中基础模板场景数据之间的噪声渗透差异信息,输出第一噪声渗透差异信息,结合基础模板场景数据簇关联的目标噪声渗透差异信息,确定基础模板场景数据簇之间的噪声渗透差异信息,输出第二噪声渗透差异信息,确定第一噪声渗透差异信息和第二噪声渗透差异信息之间的噪声渗透差异信息,输出第三噪声渗透差异信息,并将第三噪声渗透差异信息与预设渗透模板变量进行各自对应系数的权重融合,输出第四噪声渗透差异信息,当第
四噪声渗透差异信息大于预设差异数值时,确定第四噪声渗透差异信息的噪声渗透差异均值,输出基础模板场景数据的噪声渗透点的第二渗透决策错误值。
51.例如一些示例中,将第一渗透决策错误值和所述第二渗透决策错误值进行各自对应系数的权重融合,并基于加权渗透决策错误值对初始化训练的噪声渗透决策模型进行决策函数功能层调整,具体的训练方案可以基于实际需求进行选择,比如,可以获取第一渗透决策错误值和所述第二渗透决策错误值关联的目标系数,结合目标系数,分别对第一渗透决策错误值和所述第二渗透决策错误值进行衍生,并将衍生的噪声渗透区的第一渗透决策错误值和所述第二渗透决策错误值进行各自对应系数的权重融合,输出加权渗透决策错误值,并基于加权渗透决策错误值对初始化训练的噪声渗透决策模型中的模型函数层进行更新,以收敛初始化训练的噪声渗透决策模型,或者,还可以直接将第一渗透决策错误值和所述第二渗透决策错误值进行各自对应系数的权重融合,并基于加权渗透决策错误值,结合梯度下降算法对初始化训练的噪声渗透决策模型的模型函数层进行更新,以配置初始化训练的噪声渗透决策模型。
52.(2)结合初始化训练的噪声渗透决策模型对衍生模板场景大数据中的基础模板场景数据进行噪声渗透点挖掘,输出目标噪声渗透点簇。
53.例如,可以结合初始化训练的噪声渗透决策模型的噪声渗透点挖掘结构提取衍生模板场景大数据中各个基础模板场景数据的噪声渗透点,输出噪声渗透点簇。
54.(3)基于目标噪声渗透点簇,对基础模板场景数据的噪声渗透区进行渗透区衍生。
55.例如,可以基于目标噪声渗透点簇,以每个所述基础模板场景数据为独立的渗透噪声渗透定位分支配置目标噪声渗透关系空间,将基础模板场景数据的噪声渗透区在目标噪声渗透关系空间的渗透噪声渗透定位分支之间进行渗透衍生分析,输出基础模板场景数据的目标衍生噪声渗透区信息,结合目标衍生噪声渗透区信息对基础模板场景数据的噪声渗透区进行渗透区衍生,输出衍生模板场景大数据。
56.(4)返回执行结合衍生模板场景大数据中基础模板场景数据的噪声渗透点和噪声渗透区,对初始化训练的噪声渗透决策模型进行决策函数功能层调整的步骤,直到初始化训练的噪声渗透决策模型匹配模型部署条件,输出匹配模型部署条件的目标噪声渗透决策模型。
57.例如,在对基础模板场景数据的噪声渗透区进行渗透区衍生之后,就可以返回结合更新基础模板场景大数据中基础模板场景数据的噪声渗透点和噪声渗透区,对初始化训练的噪声渗透决策模型进行决策函数功能层调整的步骤,具体调整方式可以参见以上实施例的描述。
58.c2、基于匹配模型部署条件的目标噪声渗透决策模型对加载的目标智慧场景大数据进行噪声渗透决策。
59.例如,可以获取加载的目标智慧场景大数据,该加载的目标智慧场景大数据中具有多个目标智慧场景采集数据,结合匹配模型部署条件的目标噪声渗透决策模型的噪声渗透点挖掘结构对加载的目标智慧场景大数据进行噪声渗透点挖掘,输出目标智慧场景采集数据的噪声渗透点,结合匹配模型部署条件的目标噪声渗透决策模型对噪声渗透点进行噪声渗透决策,输出目标智慧场景采集数据的噪声渗透决策信息,这里的噪声渗透决策信息可以包括目标智慧场景采集数据的噪声渗透决策区分布信息。
60.例如一些示例中,对噪声渗透点进行噪声渗透决策的方案可以基于实际需求进行选择,比如,可以结合匹配模型部署条件的目标噪声渗透决策模型的噪声渗透定位分支对噪声渗透点进行噪声渗透定位,输出每个噪声渗透定位分区关联的支持参数值,结合支持参数值,在噪声渗透定位分区中确定加载的目标智慧场景大数据的噪声渗透区分布,或者,还可以结合匹配模型部署条件的目标噪声渗透决策模型对噪声渗透点进行噪声渗透区分类,结合噪声渗透区分布,确定加载的目标智慧场景大数据的输出结果。
61.下面介绍本技术另一实施例提供的基于ai决策的大数据采集配置方法,包括以下步骤。
62.step110,获取基于匹配模型部署条件的目标噪声渗透决策模型对加载的目标智慧场景大数据进行噪声渗透决策获得的目标噪声渗透区。
63.详细地,目标噪声渗透决策模型可以具有噪声渗透区定位功能,由此对加载的目标智慧场景大数据进行噪声渗透决策获得的目标噪声渗透区。
64.step120,基于所述目标噪声渗透区确定所述目标智慧场景大数据关联的大数据采集进程的大数据清洗字段分布。
65.详细地,针对每个目标噪声渗透区,可以根据该目标噪声渗透区所涉及的数据字段配置对应的大数据清洗字段分布,因此可以通过从配置的大数据清洗字段分布中获取所述目标智慧场景大数据关联的大数据采集进程的大数据清洗字段分布。其中,大数据清洗字段分布可以用于参与后续大数据清洗配置过程中的字段分配。
66.step130,结合所述大数据清洗字段分布对所述大数据采集进程进行大数据清洗配置,输出大数据清洗配置数据。
67.step140,结合所述大数据清洗配置数据对所述大数据采集进程进行更新,由此将更新的大数据采集进程加载到智慧场景业务服务器进行大数据采集配置。
68.采用如上实施方式,本实施例通过获取基于目标噪声渗透决策模型对加载的目标智慧场景大数据进行噪声渗透决策获得的目标噪声渗透区,基于目标噪声渗透区确定目标智慧场景大数据关联的大数据采集进程的大数据清洗字段分布,结合大数据清洗字段分布对大数据采集进程进行大数据清洗配置,输出大数据清洗配置数据,结合大数据清洗配置数据对大数据采集进程进行更新,由此将更新的大数据采集进程加载到智慧场景业务服务器进行大数据采集配置。如此,结合噪声渗透区执行对应大数据清洗配置规则的大数据清洗配置,并针对性进行大数据采集配置更新,由此在后期进行大数据采集过程中进行大数据清洗,避免部分噪声数据产生。
69.针对step130,例如实现方式可以是如下技术方案。
70.ss101,结合所述大数据清洗字段分布对所述大数据采集进程进行大数据清洗配置,获取所述大数据采集进程的业务采集活动在大数据更新状态内对所述大数据采集进程关联的大数据更新活动进行遍历数据采集获得的遍历数据采集节点分布,所述遍历数据采集节点分布包括依据大数据采集模板的最新采集配置顺序生成的若干个遍历数据采集节点。
71.比如,所述遍历数据采集节点及中的各所述遍历数据采集节点可以是一个全局的遍历数据采集流程关联的遍历数据采集节点也可以是一个全局的遍历数据采集流程所包括的不同拆分流程关联的遍历数据采集节点。
72.ss102,针对所述遍历数据采集节点分布中各遍历数据采集节点,在每个单独流程中获取一个标的遍历数据采集节点确定为目标遍历数据采集节点,并获取所述标的遍历数据采集节点联动的一个遍历数据采集节点确定为联动遍历数据采集节点。
73.比如,所述遍历数据采集节点分布可以表示为:{collection.1、collection.2、collection.3、....、collection.i、....collection.n}。换言之,所述遍历数据采集节点分布可以包括collection.1至collection.n等若干个遍历数据采集节点。那么,首个单独流程中,可以将collection.1确定为目标遍历数据采集节点,collection.2作为联动遍历数据采集节点;在之后的单独流程中,可以将collection.2确定为目标遍历数据采集节点,将collection.3作为联动遍历数据采集节点。
74.再例如,所述联动遍历数据采集节点也可以是多个,比如,以每个单独流程中包括两个联动遍历数据采集节点为例,首个单独流程中,可以将collection.1确定为目标遍历数据采集节点,collection.2以及collection.3作为联动遍历数据采集节点;在之后的单独流程中,可以将collection.2确定为目标遍历数据采集节点,将collection.3以及collection.4作为联动遍历数据采集节点。
75.其中,遍历数据采集节点中包括与大数据更新流程的遍历数据采集节点有关的至少一个遍历数据采集子节点。
76.ss103,获取需要进行大数据清洗配置的目标大数据更新流程关联的大数据清洗配置信息。
77.比如,在大数据清洗配置流程中,可以是针对一个大数据更新流程的遍历数据采集节点进行大数据清洗配置。
78.ss104,结合所述大数据清洗配置信息对每个单独流程中获取的所述目标遍历数据采集节点和联动遍历数据采集节点进行采集字段更新,以对所述业务采集活动针对各所述大数据更新活动的大数据更新流程进行遍历数据采集的大数据清洗配置,输出大数据清洗配置数据,所述大数据清洗配置数据包括每个遍历数据采集表项对应的噪声清洗字段数据。
79.例如,比如,针对ss104,结合所述大数据清洗配置信息对每个单独流程中获取的所述目标遍历数据采集节点和联动遍历数据采集节点进行采集字段更新,以实现对所述业务采集活动针对各所述大数据更新活动的大数据更新流程进行遍历数据采集的大数据清洗配置的方式,可以包括下述步骤。
80.ss141,结合所述大数据清洗配置信息,对所述目标遍历数据采集节点和所述联动遍历数据采集节点分别进行数据清洗指标分配,输出所述目标遍历数据采集节点的目标数据清洗指标和所述联动遍历数据采集节点的联动数据清洗指标。
81.比如所述目标数据清洗指标具有所述目标遍历数据采集节点关联的大数据更新流程与所述大数据清洗配置信息之间的对应清洗指标,所述联动数据清洗指标具有所述联动遍历数据采集节点关联的大数据更新流程与所述大数据清洗配置信息之间的对应清洗指标。
82.其中,目标遍历数据采集节点的目标数据清洗指标可以包括目标遍历数据采集节点中所描述的大数据更新流程的清洗指标信息,联动遍历数据采集节点的联动数据清洗指标可以包括联动遍历数据采集节点中所描述的大数据更新流程的清洗指标信息,目标数据
清洗指标还可以包括目标遍历数据采集节点关联的大数据更新流程与大数据清洗配置信息之间的对应清洗指标,联动数据清洗指标也可以包括联动遍历数据采集节点关联的大数据更新流程与大数据清洗配置信息之间的对应清洗指标。
83.结合此,基于大数据清洗配置信息对目标遍历数据采集节点进行数据清洗指标分配,使大数据清洗配置到的目标数据清洗指标中融入了大数据清洗配置信息的清洗元素簇,同时,基于大数据清洗配置信息对联动遍历数据采集节点进行数据清洗指标分配,使提取出的联动数据清洗指标中也融入了大数据清洗配置信息的清洗元素簇。
84.比如,ss141请参考下述的描述。
85.ss1411,提取所述大数据清洗配置信息的清洗元素,输出所述大数据清洗配置信息的清洗元素簇。
86.其中,大数据清洗配置信息的清洗元素簇用于代表该大数据清洗配置信息的具体大数据清洗字段的特征变量信息。
87.ss1412,提取所述目标遍历数据采集节点中的若干个遍历数据采集子节点的采集元素,输出所述若干个遍历数据采集子节点的采集元素。
88.比如,可以针对遍历数据采集节点进行划分,输出若干个遍历数据采集子节点,然后分别对每个遍历数据采集子节点进行采集元素提取,输出每个遍历数据采集子节点的采集元素。
89.比如,对于大数据清洗配置信息,可以获取多个需要进行遍历数据采集的大数据清洗配置的多个不同的候选大数据更新流程分别关联的候选大数据清洗配置信息,当前获取的大数据清洗配置信息可以是从多个候选大数据清洗配置信息中获取的任意一个大数据清洗配置信息。
90.ss1413,基于所述清洗元素簇和所述若干个遍历数据采集子节点的采集元素,输出所述若干个遍历数据采集子节点的清洗元素分布。
91.比如,所述遍历数据采集子节点的清洗元素分布指代所述遍历数据采集子节点与所述大数据清洗配置信息之间的映射变量信息。
92.ss1414,基于所述若干个遍历数据采集子节点的清洗元素分布,对所述若干个遍历数据采集子节点的采集元素进行关联,输出所述目标数据清洗指标。
93.ss142,对所述目标数据清洗指标和所述联动数据清洗指标进行共享数据清洗指标分配,输出所述目标遍历数据采集节点的共享数据清洗指标。
94.比如,为了使目标数据清洗指标中可以包括更多的与大数据更新流程相关的信息,可以将目标数据清洗指标与联动数据清洗指标进行共享数据清洗指标分配,输出目标遍历数据采集节点的共享数据清洗指标,该共享数据清洗指标不仅可以包括目标遍历数据采集节点关联的大数据更新流程的数据清洗指标,还包括该联动遍历数据采集节点中关联的大数据更新流程的数据清洗指标,由此可以使共享数据清洗指标所表达的大数据更新流程的更加精确。
95.采用以上技术方案,本技术实施例可以结合噪声渗透点簇配置噪声渗透关系空间,采用基础模板场景数据中的噪声渗透点的渗透关系进行渗透区衍生,由此扩展基础模板场景数据的数据标签,此外基于渗透区衍生,可有效增强基础模板场景数据的噪声渗透学习性能,从而可以进一步增强噪声渗透决策网络的噪声渗透决策性能,以便于后续大数
据清洗流程的配置精度保证。
96.图2示出了本技术实施例提供的用于实现上述的基于ai预测的智慧场景大数据清洗系统100的硬件结构意图,如图2所示,智慧场景系统100可包括处理器110、机器可读存储介质120、总线130以及通信单元140。
97.处理器110可以根据存储在机器可读存储介质120中的程序而执行各种适当的动作和处理,例如前述实施例所描述的基于ai预测的智慧场景大数据清洗方法所对应的程序指令。处理器110、机器可读存储介质120以及通信单元140通过总线130进行信号传输。
98.特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信单元140从网络上被下载和安装,在该计算机程序被处理器110执行时,执行本公开实施例的方法中限定的上述功能。
99.本公开又一实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机执行指令,所述计算机执行指令被处理器执行时用于实现如上述任一实施例所述的基于ai预测的智慧场景大数据清洗方法。
100.需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(lam)、只读存储器(lom)、可擦式可编程只读存储器(eplom或闪存)、光纤、便携式紧凑磁盘只读存储器(cd-lom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、lm(射频)等等,或者上述的任意合适的组合。
101.上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
102.上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备执行上述实施例所示的方法。
103.本公开又一实施例还提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现如上述任一实施例所述的基于ai预测的智慧场景大数据清洗方法。
104.可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括面向对象的程序设计语言—诸如java、smalltalk、c+
+,还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(localarea network ,简称lan)或广域网(pide area network ,简称pan)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
105.所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的装置的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
106.本领域普通技术人员可以理解:实现上述各方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成。前述的程序可以存储于一计算机可读取存储介质中。该程序在执行时,执行包括上述各方法实施例的步骤;而前述的存储介质包括:lom、lam、磁碟或者光盘等各种可以存储程序代码的介质。
107.最后应说明的是:以上各实施例仅用以说明本公开的技术方案,而非对其限制;尽管参照前述各实施例对本公开进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本公开各实施例技术方案的范围。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1