技术编号：11250924
提示：您尚未登录，请点 登 陆 后下载，如果您还没有账户请点 注 册 ，登陆完成后，请刷新本页查看技术详细信息。本发明涉及互联网技术领域，特别是涉及一种管理爬虫代理的方法及装置。背景技术随着网络的迅速发展，万维网成为大量信息的载体，为了有效地提取并利用这些信息，网络爬虫应用而生。网络爬虫(又被称为网页蜘蛛，网络机器人，更经常的称为网页追逐者)，是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本。然而，许多网站为了防止网络爬虫所带来的系统压力，采取了反爬虫技术，不允许爬虫进行高频率的数据采集。目前，为了应对反爬虫技术，进程可以向代理发起请求，由代理实现网页下载，如此，网站则不能检测到真正采集网页的机器...
注意：该技术已申请专利，请尊重研发人员的辛勤研发付出，在未取得专利权人授权前，仅供技术研究参考不得用于商业用途。
该专利适合技术人员进行技术研发参考以及查看自身技术是否侵权，增加技术思路，做技术知识储备，不适合论文引用。
请注意，此类技术没有源代码，用于学习研究技术思路。