一种大数据平台的网络信息分析处理方法

文档序号:9810633阅读:1671来源:国知局
一种大数据平台的网络信息分析处理方法
【技术领域】
[0001]本发明涉及大数据技术领域,尤其涉及一种大数据平台的网络信息分析处理方法。
【背景技术】
[0002]大数据是一种战略资源,基于大数据平台的数据分析可以为企业等带来巨大的经济效益。云计算为大数据提供了技术支撑。当前基于大数据平台的数据分析所面临一个重要困难,是如何提高大数据的网络数据分析效率;同时,如何安全有效地将大数据分析的结果共享至云端也是当前急需解决的课题。

【发明内容】

[0003]本发明的目的在于提供一种大数据平台的网络信息分析处理方法。
[0004]本发明的技术方案如下:
[0005]—种大数据平台的网络信息分析处理方法,其特征在于,
[0006]步骤1、查询服务器接收客户端的用户发送的查询请求,提取所述查询请求中的查询关键词,对所述查询关键词进行扩展,使用扩展后的关键词执行查询以获得查询结果;并将所述查询结果发送至客户端;其中,所述查询结果中包含用户所请求的大数据资源的多个资源下载地址;
[0007]步骤2、客户端的用户获得查询结果,对所述查询结果中的多个资源下载地址的有效性进行判断,在经判断有效的资源下载地址中选择一个最优的资源下载地址下载所述大数据资源;
[0008]步骤3、客户端的用户在完成所述大数据资源的下载之后,将所述大数据资源分享至云端服务器;
[0009]步骤4、所述云端服务器向具有大数据资源访问权限的用户提供所述大数据资源共享。
[0010]可选地,步骤I中,所述查询服务器在获得查询结果之后,将所述查询结果发送至客户端之前,执行以下步骤:
[0011 ]步骤1.1、对所述查询结果进行哈希计算,获得查询结果的原始哈希校验值;
[0012]步骤1.2、利用所述客户端的用户提供的加密密钥对所述查询结果及其原始哈希校验值进行加密处理;
[0013]其中,所述哈希校验值可以是MD5值。
[0014]可选地,步骤2中,在获得查询结果之后,对所述查询结果中的多个资源下载地址的有效性进行判断之前执行以下步骤:
[0015]步骤2.1、客户端的用户使用解密密钥对查询结果解密,获得所述查询结果的实际哈希值;
[0016]步骤2.2、将查询结果的原始哈希值和实际哈希值进行比对,如果两者相等,则保留该查询结果,执行步骤2.3;否则,丢弃该查询结果,返回步骤I;
[0017]步骤2.3、从所述查询结果中获得该用户所请求的大数据资源的多个资源下载地址。
[0018]可选地,步骤2中,所述对所述查询结果中的多个资源下载地址的有效性进行判断,在经判断有效的资源下载地址中选择一个最优的资源下载地址下载所述大数据资源具体包括以下步骤:
[0019]步骤2.4、对所述大数据资源的N个资源下载地址进行筛选,获得M个经筛选后的资源下载地址;其中,N、M都是自然数,且N>M ;
[0020]步骤2.5、设预设的统计时间段的长度为T,客户端从第i个经筛选后的资源下载地址下载所述大数据资源时的平均通讯故障间隔时间为A ti,客户端从第i个经筛选后的资源下载地址下载所述大数据资源时的数据传输可靠率9i,则:
[0021]0i = ( Ati/T)X100%,其中,? = 1,2...,Μ;Μ为自然数;且T>Ati>0;
[0022]步骤2.6、客户端从第i个经筛选后的资源下载地址下载所述大数据资源的平均传输速率为Vi,所述第i个经筛选后的资源下载地址的综合评价值为μ?,通过以下公式计算μi:
[0023]yi = (0i)1/3*ln(e+vi),其中,i = l,2...,M;且M 为自然数,e为自然底数;
[0024]步骤2.7、在M个经筛选后的资源下载地址中选择综合评价值最高的一个地址作为最优的资源下载地址,下载所述大数据资源。
[0025]可选地,所述步骤2.4具体包括以下步骤:
[0026]步骤2.4.1、对所述大数据资源的N个资源下载地址中的每一个执行以下操作:
[0027]确定客户端在预设的第二统计时间段内从第j个下载地址下载大数据资源时,所述第j个下载地址的热度值^,该热度值^根据客户端在所述预设的第二统计时间段内请求从所述第j个下载地址下载所述大数据资源的次数Wj、以及下载的所述大数据资源的数据总量aj来确定,通过以下公式计算itj:
[0028]φj = (aj)1/2*ln(e+wj),其中,j = I,2...,Ν;且N为自然数,e为自然底数;
[0029]步骤2.4.2、将所述大数据资源的N个资源下载地址按照所述热度值从高至低进行排序,保留排序结果中的前M个下载地址,其中,通过以下公式计算M:
[0030]Μ=[Ν*λ],其中,符号[]表示对其中的内容取整运算,λ为预先设定的值,且0〈λ〈1。
【具体实施方式】
[0031]下面详细描述本发明的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,仅用于解释本发明,而不能理解为对本发明的限制。相反,本发明的实施例包括落入所附加权利要求书的精神和内涵范围内的所有变化、修改和等同物。
[0032]本发明的具体实施方案如下:
[0033]一种大数据平台的网络信息分析处理方法,其特征在于,
[0034]步骤1、查询服务器接收客户端的用户发送的查询请求,提取所述查询请求中的查询关键词,对所述查询关键词进行扩展,使用扩展后的关键词执行查询以获得查询结果;并将所述查询结果发送至客户端;其中,所述查询结果中包含用户所请求的大数据资源的多个资源下载地址;
[0035]步骤2、客户端的用户获得查询结果,对所述查询结果中的多个资源下载地址的有效性进行判断,在经判断有效的资源下载地址中选择一个最优的资源下载地址下载所述大数据资源;
[0036]步骤3、客户端的用户在完成所述大数据资源的下载之后,将所述大数据资源分享至云端服务器;
[0037]步骤4、所述云端服务器向具有大数据资源访问权限的用户提供所述大数据资源共享。
[0038]可选地,步骤I中,所述查询服务器在获得查询结果之后,将所述查询结果发送至客户端之前,执行以下步骤:
[0039]步骤1.1、对所述查询结果进行哈希计算,获得查询结果的原始哈希校验值;
[0040]步骤1.2、利用所述客户端的用户提供的加密密钥对所述查询结果及其原始哈希校验值进行加密处理;
[0041 ]其中,所述哈希校验值可以是MD5值。
[0042]可选地,步骤2中,在获得查询结果之后,对所述查询结果中的多个资源下载地址的有效性进行判断之前执行以下步骤:
[0043]步骤2.1、客户端的用户使用解密密钥对查询结果解密,获得所述查询结果的实际哈希值;
[0044]步骤2.2、将查询结果的原始哈希值和实际哈希值进行比对,如果两者相等,则保留该查询结果,执行步骤2.3;否则,丢弃该查询结果,返回步骤I;
[0045]步骤2.3、从所述查询结果中获得该用户所请求的大数据资源的多个资源下载地址。
[0046]可选地,步骤2中,所述对所述查询结果中的多个资源下载地址的有效性进行判断,在经判断有效的资源下载地址中选择一个最优的资源下载地址下载所述大数据资源具体包括以下步骤:
[0047]步骤2.4、对所述大数据资源的N个资源下载地址进行筛选,获得M个经筛选后的资源下载地址;其中,N、M都是自然数,且N>M ;
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1