技术编号:11134215
提示:您尚未登录,请点 登 陆 后下载,如果您还没有账户请点 注 册 ,登陆完成后,请刷新本页查看技术详细信息。本发明涉及一种网络信息排序技术,具体地说涉及一种基于相似度比较的URL去重方法和系统。背景技术随着互联网信息爆炸式增长,每一天互联网中的数据都呈现几何式的堆加。用户需要的信息往往会淹没于大量无关信息中,利用搜索引擎获取感兴趣的信息已经成为人们获取信息较为便捷的方式。作为搜索引擎的基础构件之一的网络爬虫,需要从互联网上搜集信息,为用户提供数据来源。搜索结果是否丰富、获得的信息是否没有重合,均与网络爬虫的效率紧密相关。海量的数据对网络爬虫的设计与实现提出了更高的要求,构建分布式网络爬虫系统是一个有效...
注意:该技术已申请专利,请尊重研发人员的辛勤研发付出,在未取得专利权人授权前,仅供技术研究参考不得用于商业用途。
该专利适合技术人员进行技术研发参考以及查看自身技术是否侵权,增加技术思路,做技术知识储备,不适合论文引用。
请注意,此类技术没有源代码,用于学习研究技术思路。