技术特征:
技术总结
本发明实施例提供一种大数据处理方法及装置。所述方法包括:提取至少一个所述源数据表中的所有待处理字段对应的数据,以及每一源数据表对应的主键;根据目的数据表的存储格式对每一个待处理字段对应的数据进行格式转换,获得转换后数据;根据所述每一源数据表对应的主键和所述目的数据表对应的主键,将所述转换后数据加载到目的数据表中。所述装置用于执行所述方法。本发明实施例通过提取源数据表中待处理字段的数据,并对待处理字段的数据进行格式转换,然后加载到目的数据表中,不需要等待源数据表中所有数据都构建完毕再进行数据处理,从而节省了数据处理的时间,提高了资源利用率。
技术研发人员:王勇
受保护的技术使用者:链家网(北京)科技有限公司
技术研发日:2017.09.28
技术公布日:2018.02.23