技术编号:6516266
提示:您尚未登录,请点 登 陆 后下载,如果您还没有账户请点 注 册 ,登陆完成后,请刷新本页查看技术详细信息。本发明公开了确定网站子频道抓取流量配额的方法及设备,其中所述方法包括获取目标网站各子频道承受流量;根据各子频道内网页的网页质量分布,确定各子频道任务流量;根据所述子频道承受流量,和所述子频道任务流量计算各子频道对应的抓取权重;根据目标网站总流量配额,以及各子频道抓取权重,确定各子频道配额。通过本方法,能够根据获取到的子频道承受流量,和子频道任务流量计算各子频道对应的抓取权重;根据目标网站总流量配额,以及各子频道抓取权重,确定各子频道配额,在减少搜索引擎的爬...
注意:该技术已申请专利,请尊重研发人员的辛勤研发付出,在未取得专利权人授权前,仅供技术研究参考不得用于商业用途。
该专利适合技术人员进行技术研发参考以及查看自身技术是否侵权,增加技术思路,做技术知识储备,不适合论文引用。
请注意,此类技术没有源代码,用于学习研究技术思路。