技术编号:6515345
提示:您尚未登录,请点 登 陆 后下载,如果您还没有账户请点 注 册 ,登陆完成后,请刷新本页查看技术详细信息。本发明公开了一种去重方法,包括获取存储于Hadoop集群系统中的任意一个或多个节点中,或者分布于任意网络资源中的URL数据;按照Hadoop集群系统的映射框架中所指定的输入类格式,对获得的URL数据进行映射处理;按照Hadoop集群系统中的归约框架中所指定的类格式,对映射处理的结果进行归约处理,归约处理的结果为对URL去重的结果;其中映射处理在Hadoop集群系统的一个或多个节点中执行,归约处理在Hadoop集群系统的一个或多个节点中执行,映射处理和归约处...
注意:该技术已申请专利,请尊重研发人员的辛勤研发付出,在未取得专利权人授权前,仅供技术研究参考不得用于商业用途。
该专利适合技术人员进行技术研发参考以及查看自身技术是否侵权,增加技术思路,做技术知识储备,不适合论文引用。
请注意,此类技术没有源代码,用于学习研究技术思路。