技术编号:6364565
提示:您尚未登录,请点 登 陆 后下载,如果您还没有账户请点 注 册 ,登陆完成后,请刷新本页查看技术详细信息。本发明涉及互联网,尤其涉及一种用于抓取网站数据的技术。背景技术现有技术中,从数据提供网站抓取数据一般需要针对每个网站单独执行一个脚本,但是当数据提供网站数量较多时,需要维护多套抓取脚本,因此脚本维护成本较高,数据抓取效率不高;同时,在数据提供网站设置分类信息后,在其服务器端会存有最后一次设置分类信息的cookie信息,但由于传统数据抓取一般采用广度优先的抓取方式,且在同一页面中更换分类信息时,该页面链接的统一资源定位符(URL)不会改变,使得在访问同一页面...
注意:该技术已申请专利,请尊重研发人员的辛勤研发付出,在未取得专利权人授权前,仅供技术研究参考不得用于商业用途。
该专利适合技术人员进行技术研发参考以及查看自身技术是否侵权,增加技术思路,做技术知识储备,不适合论文引用。
请注意,此类技术没有源代码,用于学习研究技术思路。