技术编号:9687558
提示:您尚未登录,请点 登 陆 后下载,如果您还没有账户请点 注 册 ,登陆完成后,请刷新本页查看技术详细信息。现有开源的网络爬虫很多,比如说Heri trix,是一个由java开发的、开源的网络爬虫,用户可以使用它来从网上抓取想要的资源。但它是单实例的爬虫,爬虫之间不能进行合作。由于每个爬虫是单独进行工作的,因此在硬件和系统失败时,恢复能力很差。另外,Nutch也是开源的爬虫系统、但架构过于复杂,灵活度不高。不能有效的对采集进行管理和监控。发明内容针对现有技术的缺陷,本发明提供一种数据采集方法及系统,实现了对爬虫集群的有效状态监控和管理、提高了数据采集的效率,且具...
注意:该技术已申请专利,请尊重研发人员的辛勤研发付出,在未取得专利权人授权前,仅供技术研究参考不得用于商业用途。
该专利适合技术人员进行技术研发参考以及查看自身技术是否侵权,增加技术思路,做技术知识储备,不适合论文引用。
请注意,此类技术没有源代码,用于学习研究技术思路。