技术编号:17477392
提示:您尚未登录,请点 登 陆 后下载,如果您还没有账户请点 注 册 ,登陆完成后,请刷新本页查看技术详细信息。本发明属于数据传输领域,特别是涉及一种分布式网络爬虫的URL去重方法及其系统。背景技术目前,网络爬虫常用的URL去重方案有基于数据库的去重方案和基于内存链表的去重方案,这些方案在URL库容量不大的情况下有不错的效果。但是,现有的分布式爬虫面向的URL库容量通常非常大,需要URL去重能够持久保持高效运作,而上述常用的URL去重方案在爬虫程序运行较长时间后会有效率剧降或任务瘫痪的风险。现有技术中的URL去重方法设计不够合理,亟需改进。发明内容本发明的目的在于提供一种分布式网络爬虫的URL去重方法及其...
注意:该技术已申请专利,请尊重研发人员的辛勤研发付出,在未取得专利权人授权前,仅供技术研究参考不得用于商业用途。
该专利适合技术人员进行技术研发参考以及查看自身技术是否侵权,增加技术思路,做技术知识储备,不适合论文引用。
请注意,此类技术没有源代码,用于学习研究技术思路。