一种网络爬虫运行异常监控方法和系统的制作方法技术资料下载

技术编号:7879897

提示:您尚未登录,请点 登 陆 后下载,如果您还没有账户请点 注 册 ,登陆完成后,请刷新本页查看技术详细信息。

技术领域本发明涉及一种网络爬虫运行异常监控方法和系统。背景技术网络爬虫是一种抓取网页的程序。网络爬虫通过网页的链接地址来寻找网页,例如从网站某一个页面(通常是首页)开始,读取该页面的内容,并且找到在网页中的其它链接地址,然后通过这些链接地址寻找下一个网页,这样一直循环下去,直到把这个网站所有的网页都抓取完为止。有的时候,网络爬虫需要抓取的数据可达数千万,面对这样大的抓取平台,在每一个环节,如网页下载、文档解析、正则匹配都可能出现运行异常的问题,从而影响了网络爬虫程序的运行可靠性。因此,需要设计一个较为完善的异常检测...
注意:该技术已申请专利,请尊重研发人员的辛勤研发付出,在未取得专利权人授权前,仅供技术研究参考不得用于商业用途。
该专利适合技术人员进行技术研发参考以及查看自身技术是否侵权,增加技术思路,做技术知识储备,不适合论文引用。

详细技术文档下载地址↓↓

提示:您尚未登录,请点 登 陆 后下载,如果您还没有账户请点 注 册 ,登陆完成后,请刷新本页查看技术详细信息。
该分类下的技术专家--如需求助专家,请联系客服
  • 王老师:1.数字信号处理 2.传感器技术及应用 3.机电一体化产品开发 4.机械工程测试技术 5.逆向工程技术研究
  • 王老师:1.机器人 2.嵌入式控制系统开发
  • 孙老师:1.振动信号时频分析理论与测试系统设计 2.汽车检测系统设计 3.汽车电子控制系统设计
  • 毕老师:机构动力学与控制
  • 袁老师:1.计算机视觉 2.无线网络及物联网
  • 王老师:1.网络安全;物联网安全 、大数据安全 2.安全态势感知、舆情分析和控制 3.区块链及应用
  • 孙老师:1.机机器人技术 2.机器视觉 3.网络控制系统
  • 袁老师:1.薄膜气敏传感器 2.薄膜太阳能电池