一种客户端数据的采集方法和装置的制造方法_3

文档序号:9375753阅读:来源:国知局
一特征值和所述第一字符串长度覆盖所述特征信息。
[0121]若写入第一数据,则相应地,可以将第一特征值和第一字符串长度覆盖原有的特征信息,作为新的特征信息,用于以后上传的数据的判重。
[0122]步骤411,写入所述第一数据;
[0123]步骤412,将所述第一特征值和所述第一字符串长度覆盖所述特征信息。
[0124]若第一字符串长度与第二字符串长度不相等,则可以表示第一数据与第二数据不相同,可以直接写入第一数据,将第一特征值和第一字符串长度覆盖原有的特征信息,作为新的特征信息,用于以后上传的数据的判重。
[0125]APP上传的数据中一般存在大量、重复的数据,如果简单从用户存储的数据取出后和当前的数据进行判重,这样数据库的读取容易造成数据解析的瓶颈。
[0126]本发明实施例是通过对用户存储的数据进行特征值计算,通过二重校验机制对字符串进行判重与新上传的数据进行判重,对于长度为1000的字符串,应用MD5 (Message-Digest Algorithm 5,信息摘要算法5)等传统方式每秒的计算量是18万次左右,相同情况下,应用本发明实施例每秒可以计算5000万次以上,大大提高了判重的效率。
[0127]对于方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本发明实施例并不受所描述的动作顺序的限制,因为依据本发明实施例,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作并不一定是本发明实施例所必须的。
[0128]参照图5,示出了根据本发明一个实施例的一种客户端数据的采集装置实施例的结构框图,具体可以包括如下模块:
[0129]数据上传请求接收模块501,适于接收客户端发送的数据上传请求;所述上传请求中包括标识信息、长度为第一字符串长度的第一数据;
[0130]第一特征值计算模块502,适于对所述第一数据计算第一特征值;
[0131]特征信息查找模块503,适于查找是否存储有,基于所述标识信息对应的第二数据生成的特征信息;所述特征信息包括第二特征值、第二字符串长度;
[0132]字符串长度判断模块504,适于在查找到特征信息时,判断所述第一字符串长度与所述字符串长度是否相等;
[0133]特征值判断模块505,适于在所述第一字符串长度与所述第二字符串长度相等时,判断所述第一特征值与所述第二特征值是否相同;若是,则调用拒绝模块506,若否,则调用第一写模块507 ;
[0134]拒绝模块506,适于拒绝写入所述第一数据
[0135]第一写模块507,适于写入所述第一数据,以覆盖所述第二数据。
[0136]在本发明的一种可选实施例中,所述第一特征值计算模块502还可以适于:
[0137]当所述第一字符串长度小于或等于预设的长度阈值时,对所述第一数据中的每个字符计算散列值;
[0138]将每个字符的散列值累加,获得第一特征值。
[0139]在本发明的一种可选实施例中,所述第一特征值计算模块502还可以适于:
[0140]当所述第一字符串长度大于预设的长度阈值时,按照所述第一字符串长度计算跳跃值;
[0141]对所述第一数据中、与所述跳跃值匹配的字符计算散列值;
[0142]将与所述跳跃值的字符的散列值累加,获得第一特征值。
[0143]在本发明的一种可选实施例中,所述第一特征值计算模块502还可以适于:
[0144]将所述第一字符串长度除以预设的值获得的余数设置为跳跃值。
[0145]在本发明实施例的一种可选示例中,与所述跳跃值匹配的字符为,从第O位字符开始、位置的偏移量为所述跳跃值整数倍的字符。
[0146]在本发明的一种可选实施例中,该装置还可以包括如下模块:
[0147]第二写模块,适于在未查找到特征信息时,写入所述第一数据;
[0148]特征信息设置模块,适于将所述第一特征值和所述第一字符串长度设置为特征信息。
[0149]在本发明的一种可选实施例中,该装置还可以包括如下模块:
[0150]第三写模块,适于在所述第一字符串长度与所述第二字符串长度不相等时,写入所述第一数据。
[0151]在本发明的一种可选实施例中,该装置还可以包括如下模块:
[0152]特征信息覆盖模块,适于将所述第一特征值和所述第一字符串长度覆盖所述特征?目息O
[0153]对于装置实施例而言,由于其与方法实施例基本相似,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
[0154]在此提供的算法和显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述,构造这类系统所要求的结构是显而易见的。此外,本发明也不针对任何特定编程语言。应当明白,可以利用各种编程语言实现在此描述的本发明的内容,并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。
[0155]在此处所提供的说明书中,说明了大量具体细节。然而,能够理解,本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中,并未详细示出公知的方法、结构和技术,以便不模糊对本说明书的理解。
[0156]类似地,应当理解,为了精简本公开并帮助理解各个发明方面中的一个或多个,在上面对本发明的示例性实施例的描述中,本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而,并不应将该公开的方法解释成反映如下意图:即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说,如下面的权利要求书所反映的那样,发明方面在于少于前面公开的单个实施例的所有特征。因此,遵循【具体实施方式】的权利要求书由此明确地并入该【具体实施方式】,其中每个权利要求本身都作为本发明的单独实施例。
[0157]本领域那些技术人员可以理解,可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件,以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外,可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述,本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
[0158]此外,本领域的技术人员能够理解,尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征,但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如,在下面的权利要求书中,所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
[0159]本发明的各个部件实施例可以以硬件实现,或者以在一个或者多个处理器上运行的软件模块实现,或者以它们的组合实现。本领域的技术人员应当理解,可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的客户端数据的采集设备中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如,计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上,或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到,或者在载体信号上提供,或者以任何其他形式提供。
[0160]应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制,并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中,不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中,这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。
[0161]本发明实施例公开了 Al、一种客户端数据的采集方法,包括:
[0162]接收客户端发送的数据上传请求;所述上传请求中包括标识信息、长度为第一字符串长度的第一数据;
[0163]对所述第一数据计算第一特征值;
[0164]查找是否存储有,基于所述标识信息对应的第二数据生成的特征信息;所述特征信息包括第二特征值、第二字符串长度;
[0165]当查找到特征信息时,判断所述第一
当前第3页1 2 3 4 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1