技术编号:10725103
提示:您尚未登录,请点 登 陆 后下载,如果您还没有账户请点 注 册 ,登陆完成后,请刷新本页查看技术详细信息。 随着Web2.0的到来,互联网的数据呈现着爆炸性的增长,一个突出的表现便是URL (Uniform Resource Locator,统一资源定位符)数量的增长。为了进一步增强用户体验、或 记录用户点击时的一些会话信息,网站会对应产出很多重复URL,这些重复URL仅有少部分 字符串不一致,但对应的是同样、或者相似的网页内容。 重复URL大量存在,给网页抓取、解析的工作带来极大挑战。例如搜索引擎在网页 抓取过程中需要反复抓取类似内容的文档,极大地占用了带宽...
注意:该技术已申请专利,请尊重研发人员的辛勤研发付出,在未取得专利权人授权前,仅供技术研究参考不得用于商业用途。
该专利适合技术人员进行技术研发参考,增加技术思路,做技术知识储备,不适合论文引用。
请注意,此类技术没有源代码,用于学习研究技术思路。