技术编号：11066194
提示：您尚未登录，请点 登 陆 后下载，如果您还没有账户请点 注 册 ，登陆完成后，请刷新本页查看技术详细信息。本发明涉及互联网技术领域，特别是涉及一种设置爬虫爬取时间间隔的方法及装置。背景技术网络爬虫是一种自动获取网页内容的程序，爬虫从一个或若干个初始网页的URL开始，获得初始网页上的URL，在抓取网页的过程中，不断从当前页面上抽取新的URL放入队列，直到满足系统一定的停止条件。在爬虫工作的过程中，特别是在检查网站更新量的时候，对没有更新或更新量很少的网站在短时间内多次爬取是没有必要的，因此有必要控制爬虫对同一个网站爬取的时间间隔，避免浪费爬虫资源。目前通行的做法是人工设置网页的爬取时间间隔，包括对每个...
注意：该技术已申请专利，请尊重研发人员的辛勤研发付出，在未取得专利权人授权前，仅供技术研究参考不得用于商业用途。
该专利适合技术人员进行技术研发参考以及查看自身技术是否侵权，增加技术思路，做技术知识储备，不适合论文引用。
请注意，此类技术没有源代码，用于学习研究技术思路。