一种数据处理装置及方法与流程

文档序号:11234653
一种数据处理装置及方法与流程

本发明涉及不合规数据处理技术领域,尤其涉及一种数据处理装置及方法。



背景技术:

首先,当客户端中的应用程序,具有数据采集的功能,具体的,可以通过爬虫进行数据的爬取,以达到数据采集的目的。而实际应用中,采集到的数据不一定完全符合预设的要求,这部分的数据称之为不合规数据。

如,数据的时间不符,例如客户端时间错误从而导致爬虫爬取到的数据的时间与规定时间,如北京时间等,不相符合,这部分的不合规数据可能就会直接丢弃。具体的,不合规数据也可以是用户进行自定义的规定,将不合乎规定的数据称之为不合规数据。

由于现有技术中,对于不合规数据直接丢弃,而没有分析数据采集端产生不合规数据的原因。



技术实现要素:

本发明的主要目的在于提出一种数据处理装置及方法,旨在解决现有技术中客户端收集到了不合规数据,对不合规数据进行处理,以实现在统计学的角度去发现客户端可能存在的问题。

为实现上述目的,本发明提供了一种数据处理装置,应用于客户端,所述装置包括:

收集模块,用于针对预设规则,收集不合规数据;

处理模块,用于将所述不合规数据发送至服务器,以使所述服务器对所述不合规数据进行处理。

可选的,所述不合规数据为:具有时间戳错误的数据、和/或与预设格式不完全匹配的数据、和/或乱码的数据。

可选的,处理模块,包括:

第一处理子模块,用于将所述不合规数据发送至服务器,以使所述服务器对所述不合规数据进行过滤处理;

第二处理子模块,用于将所述不合规数据发送至服务器,以使所述服务器对所述不合规数据进行预设字段的提取处理。

可选的,所述第一处理子模块,具体用于:

将所述不合规数据发送至服务器,以使所述服务器对所述不合规数据进行预设属性的校验处理,其中,所述预设属性的校验处理包括但不限于:数据采集时间的有效性、数据采集应用标识的有效性;

所述第二处理子模块,具体用于:

将所述不合规数据发送至服务器,以使所述服务器对所述不合规数据进行用户标识、时间发生时间、采集时间名称、不合规原因、原始日志数据、应用标识以及数据上报字段的提取处理。

可选的,所述装置还包括:

发送模块,用于发送数据分类指令,以使所述服务器对处理后的数据按照预设分类规则进行分类。

相较于现有技术,本发明所提出的数据处理装置,通过客户端采集不合规数据,并将采集到的不合规数据发送至服务器进行处理。通过服务器处理后的、大量的不合规数据,以实现在统计学的角度去发现客户端可能存在的问题,从而解决现有技术中对采集到的不合规数据进行直接丢弃,而无法从中发现产生不合规数据的具体原因。

此外,为实现上述目的,本发明还提出一种数据处理方法,应用于客户端,所述方法包括:

针对预设规则,收集不合规数据;

将所述不合规数据发送至服务器,以使所述服务器对所述不合规数据进行处理。

可选的,所述不合规数据为:具有时间戳错误的数据、和/或与预设格式不完全匹配的数据、和/或乱码的数据。

可选的,所述将所述不合规数据发送至服务器,以使所述服务器对所述不合规数据进行处理,包括:

将所述不合规数据发送至服务器,以使所述服务器对所述不合规数据进行过滤处理和预设字段的提取处理。

可选的,所述将所述不合规数据发送至服务器,以使所述服务器对所述不合规数据进行过滤处理,包括:

将所述不合规数据发送至服务器,以使所述服务器对所述不合规数据进行预设属性的校验处理,其中,所述预设属性的校验处理包括但不限于:数据采集时间的有效性、数据采集应用标识的有效性;

所述将所述不合规数据发送至服务器,以使所述服务器对所述不合规数据进行预设字段的提取处理,包括:

将所述不合规数据发送至服务器,以使所述服务器对所述不合规数据进行用户标识、时间发生时间、采集时间名称、不合规原因、原始日志数据、应用标识以及数据上报字段的提取处理。

可选的,所述方法还包括:

发送数据分类指令,以使所述服务器对处理后的数据按照预设分类规则进行分类。

相较于现有技术,本发明所提出的数据处理装置,通过客户端采集不合规数据,并将采集到的不合规数据发送至服务器进行处理。通过服务器处理后的、大量的不合规数据,以实现在统计学的角度去发现客户端可能存在的问题,从而解决现有技术中对采集到的不合规数据进行直接丢弃,而无法从中发现产生不合规数据的具体原因。

相较于现有技术,本发明所提出的数据处理装置,通过客户端采集不合规数据,并将采集到的不合规数据发送至服务器进行处理。通过服务器处理后的、大量的不合规数据,以实现在统计学的角度去发现客户端可能存在的问题,从而解决现有技术中对采集到的不合规数据进行直接丢弃,而无法从中发现产生不合规数据的具体原因。

附图说明

图1为实现本发明各个实施例中一可选的移动终端的硬件结构示意图;

图2为如图1所示的移动终端的无线通信系统示意图;

图3为本发明实施例所述的数据处理装置的第一种功能模块示意图;

图4为本发明实施例所述的数据处理装置的第二种功能模块示意图;

图5为本发明实施例所述的数据处理装置的第三种功能模块示意图;

图6为本发明实施例所述的数据处理方法的第一种流程示意图;

图7为本发明实施例所述的数据处理方法的第二种流程示意图;

图8为本发明实施例所述的数据处理方法的第三种流程示意图;

图9为本发明所述的终端采集到不合规数据并发送至服务器示意图。

附图标记:

本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。

具体实施方式

应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。

现在将参考附图描述实现本发明各个实施例的移动终端。在后续的描述中,使用用于表示元件的诸如“模块”、“部件”或“单元”的后缀仅为了有利于本发明的说明,其本身并没有特定的意义。因此,"模块"与"部件"可以混合地使用。

移动终端可以以各种形式来实施。例如,本发明中描述的终端可以包括诸如移动电话、智能电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、导航装置等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。下面,假设终端是移动终端。然而,本领域技术人员将理解的是,除了特别用于移动目的的元件之外,根据本发明的实施方式的构造也能够应用于固定类型的终端。

图1为实现本发明各个实施例的移动终端的硬件结构示意。

移动终端100可以包括无线通信单元110、输入单元120、用户输入单元130、感测单元140、输出单元150、存储器160、接口单元170、控制器180和电源单元190等等。图1示出了具有各种组件的移动终端,但是应理解的是,并不要求实施所有示出的组件。可以替代地实施更多或更少的组件。将在下面详细描述移动终端的元件。

无线通信单元110通常包括一个或多个组件,其允许移动终端100与无线通信系统或网络之间的无线电通信。例如,无线通信单元可以包括广播接收模块、移动通信模块、无线互联网模块、短程通信模块和位置信息模块中的至少一个。

广播接收模块经由广播信道从外部广播管理服务器接收广播信号和/或广播相关信息。广播信道可以包括卫星信道和/或地面信道。广播管理服务器可以是生成并发送广播信号和/或广播相关信息的服务器或者接收之前生成的广播信号和/或广播相关信息并且将其发送给终端的服务器。广播信号可以包括TV广播信号、无线电广播信号、数据广播信号等等。而且,广播信号可以进一步包括与TV或无线电广播信号组合的广播信号。广播相关信息也可以经由移动通信网络提供,并且在该情况下,广播相关信息可以由移动通信模块来接收。广播信号可以以各种形式存在,例如,其可以以数字多媒体广播(DMB)的电子节目指南(EPG)、数字视频广播手持(DVB-H)的电子服务指南(ESG)等等的形式而存在。广播接收模块可以通过使用各种类型的广播系统接收信号广播。特别地,广播接收模块可以通过使用诸如多媒体广播-地面(DMB-T)、数字多媒体广播-卫星(DMB-S)、数字视频广播-手持(DVB-H),前向链路媒体(MediaFLO@)的数据广播系统、地面数字广播综合服务(ISDB-T)等等的数字广播系统接收数字广播。广播接收模块可以被构造为适合提供广播信号的各种广播系统以及上述数字广播系统。经由广播接收模块接收的广播信号和/或广播相关信息可以存储在存储器160(或者其它类型的存储介质)中。

移动通信模块将无线电信号发送到基站(例如,接入点、节点B等等)、外部终端以及服务器中的至少一个和/或从其接收无线电信号。这样的无线电信号可以包括语音通话信号、视频通话信号、或者根据文本和/或多媒体消息发送和/或接收的各种类型的数据。

无线互联网模块支持移动终端的无线互联网接入。该模块可以内部或外部地耦接到终端。该模块所涉及的无线互联网接入技术可以包括WLAN(无线LAN)(Wi-Fi)、Wibro(无线宽带)、Wimax(全球微波互联接入)、HSDPA(高速下行链路分组接入)等等。

短程通信模块是用于支持短程通信的模块。短程通信技术的一些示例包括蓝牙TM、射频识别(RFID)、红外数据协会(IrDA)、超宽带(UWB)、紫蜂TM等等。

位置信息模块是用于检查或获取移动终端的位置信息的模块。位置信息模块的典型示例是GPS(全球定位系统)。根据当前的技术,GPS模块计算来自三个或更多卫星的距离信息和准确的时间信息并且对于计算的信息应用三角测量法,从而根据经度、纬度和高度准确地计算三维当前位置信息。当前,用于计算位置和时间信息的方法使用三颗卫星并且通过使用另外的一颗卫星校正计算出的位置和时间信息的误差。此外,GPS模块能够通过实时地连续计算当前位置信息来计算速度信息。

输入单元120用于接收音频或视频信号。输入单元120可以包括相机121和麦克风122,相机121对在视频捕获模式或图像捕获模式中由图像捕获装置获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元151上。经相机121处理后的图像帧可以存储在存储器160(或其它存储介质)中或者经由无线通信单元110进行发送,可以根据移动终端的构造提供两个或更多相机121。麦克风122可以在电话通话模式、记录模式、语音识别模式等等运行模式中经由麦克风接收声音(音频数据),并且能够将这样的声音处理为音频数据。处理后的音频(语音)数据可以在电话通话模式的情况下转换为可经由移动通信模块发送到移动通信基站的格式输出。麦克风122可以实施各种类型的噪声消除(或抑制)算法以消除(或抑制)在接收和发送音频信号的过程中产生的噪声或者干扰。

用户输入单元130可以根据用户输入的命令生成键输入数据以控制移动终端的各种操作。用户输入单元130允许用户输入各种类型的信息,并且可以包括键盘、锅仔片、触摸板(例如,检测由于被接触而导致的电阻、压力、电容等等的变化的触敏组件)、滚轮、摇杆等等。特别地,当触摸板以层的形式叠加在显示单元151上时,可以形成触摸屏。

感测单元140检测移动终端100的当前状态,(例如,移动终端100的打开或关闭状态)、移动终端100的位置、用户对于移动终端100的接触(即,触摸输入)的有无、移动终端100的取向、移动终端100的加速或减速移动和方向等等,并且生成用于控制移动终端100的操作的命令或信号。例如,当移动终端100实施为滑动型移动电话时,感测单元140可以感测该滑动型电话是打开还是关闭。另外,感测单元140能够检测电源单元190是否提供电力或者接口单元170是否与外部装置耦接。感测单元140可以包括声纹感测器,用于采集用户的声纹信息。

接口单元170用作至少一个外部装置与移动终端100连接可以通过的接口。例如,外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。识别模块可以是存储用于验证用户使用移动终端100的各种信息并且可以包括用户识别模块(UIM)、客户识别模块(SIM)、通用客户识别模块(USIM)等等。另外,具有识别模块的装置(下面称为"识别装置")可以采取智能卡的形式,因此,识别装置可以经由端口或其它连接装置与移动终端100连接。接口单元170可以用于接收来自外部装置的输入(例如,数据信息、电力等等)并且将接收到的输入传输到移动终端100内的一个或多个元件或者可以用于在移动终端和外部装置之间传输数据。

另外,当移动终端100与外部底座连接时,接口单元170可以用作允许通过其将电力从底座提供到移动终端100的路径或者可以用作允许从底座输入的各种命令信号通过其传输到移动终端的路径。从底座输入的各种命令信号或电力可以用作用于识别移动终端是否准确地安装在底座上的信号。输出单元150被构造为以视觉、音频和/或触觉方式提供输出信号(例如,音频信号、视频信号、警报信号、振动信号等等)。输出单元150可以包括显示单元151、音频输出模块152、警报单元153等等。

显示单元151可以显示在移动终端100中处理的信息。例如,当移动终端100处于电话通话模式时,显示单元151可以显示与通话或其它通信(例如,文本消息收发、多媒体文件下载等等)相关的用户界面(UI)或图形用户界面(GUI)。当移动终端100处于视频通话模式或者图像捕获模式时,显示单元151可以显示捕获的图像和/或接收的图像、示出视频或图像以及相关功能的UI或GUI等等。

同时,当显示单元151和触摸板以层的形式彼此叠加以形成触摸屏时,显示单元151可以用作输入装置和输出装置。显示单元151可以包括液晶显示器(LCD)、薄膜晶体管LCD(TFT-LCD)、有机发光二极管(OLED)显示器、柔性显示器、三维(3D)显示器等等中的至少一种。这些显示器中的一些可以被构造为透明状以允许用户从外部观看,这可以称为透明显示器,典型的透明显示器可以例如为TOLED(透明有机发光二极管)显示器等等。根据特定想要的实施方式,移动终端100可以包括两个或更多显示单元(或其它显示装置),例如,移动终端可以包括外部显示单元(未示出)和内部显示单元(未示出)。触摸屏可用于检测触摸输入压力以及触摸输入位置和触摸输入面积。

音频输出模块152可以在移动终端处于呼叫信号接收模式、通话模式、记录模式、语音识别模式、广播接收模式等等模式下时,将无线通信单元110接收的或者在存储器160中存储的音频数据转换音频信号并且输出为声音。而且,音频输出模块152可以提供与移动终端100执行的特定功能相关的音频输出(例如,呼叫信号接收声音、消息接收声音等等)。音频输出模块152可以包括扬声器、蜂鸣器等等。

警报单元153可以提供输出以将事件的发生通知给移动终端100。典型的事件可以包括呼叫接收、消息接收、键信号输入、触摸输入等等。除了音频或视频输出之外,警报单元153可以以不同的方式提供输出以通知事件的发生。例如,警报单元153可以以振动的形式提供输出,当接收到呼叫、消息或一些其它进入通信(incomingcommunication)时,警报单元153可以提供触觉输出(即,振动)以将其通知给用户。通过提供这样的触觉输出,即使在用户的移动电话处于用户的口袋中时,用户也能够识别出各种事件的发生。警报单元153也可以经由显示单元151或音频输出模块152提供通知事件的发生的输出。

存储器160可以存储由控制器180执行的处理和控制操作的软件程序等等,或者可以暂时地存储己经输出或将要输出的数据(例如,电话簿、消息、静态图像、视频等等)。而且,存储器160可以存储关于当触摸施加到触摸屏时输出的各种方式的振动和音频信号的数据。

存储器160可以包括至少一种类型的存储介质,所述存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如,SD或DX存储器等等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等等。而且,移动终端100可以与通过网络连接执行存储器160的存储功能的网络存储装置协作。

控制器180通常控制移动终端的总体操作。例如,控制器180执行与语音通话、数据通信、视频通话等等相关的控制和处理。另外,控制器180可以包括用于再现(或回放)多媒体数据的多媒体模块181,多媒体模块181可以构造在控制器180内,或者可以构造为与控制器180分离。控制器180可以执行模式识别处理,以将在触摸屏上执行的手写输入或者图片绘制输入识别为字符或图像。

电源单元190在控制器180的控制下接收外部电力或内部电力并且提供操作各元件和组件所需的适当的电力。

这里描述的各种实施方式可以以使用例如计算机软件、硬件或其任何组合的计算机可读介质来实施。对于硬件实施,这里描述的实施方式可以通过使用特定用途集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理装置(DSPD)、可编程逻辑装置(PLD)、现场可编程门阵列(FPGA)、处理器、控制器、微控制器、微处理器、被设计为执行这里描述的功能的电子单元中的至少一种来实施,在一些情况下,这样的实施方式可以在控制器180中实施。对于软件实施,诸如过程或功能的实施方式可以与允许执行至少一种功能或操作的单独的软件模块来实施。软件代码可以由以任何适当的编程语言编写的软件应用程序(或程序)来实施,软件代码可以存储在存储器160中并且由控制器180执行。

至此,己经按照其功能描述了移动终端。下面,结合本发明,所述移动终端为一具有显示功能的显示终端,以下所描述的显示终端即为该移动终端100。本发明能够应用于任何类型的显示终端,并且不限于移动式显示终端。

如图1中所示的移动终端100可以被构造为利用经由帧或分组发送数据的诸如有线和无线通信系统以及基于卫星的通信系统来操作。

现在将参考图2描述其中根据本发明的移动终端能够操作的通信系统。

这样的通信系统可以使用不同的空中接口和/或物理层。例如,由通信系统使用的空中接口包括例如频分多址(FDMA)、时分多址(TDMA)、码分多址(CDMA)和通用移动通信系统(UMTS)(特别地,长期演进(LTE))、全球移动通信系统(GSM)等等。作为非限制性示例,下面的描述涉及CDMA通信系统,但是这样的教导同样适用于其它类型的系统。

参考图2,CDMA无线通信系统可以包括多个移动终端100、多个基站(BS)270、基站控制器(BSC)275和移动交换中心(MSC)280。MSC280被构造为与公共电话交换网络(PSTN)290形成接口。MSC280还被构造为与可以经由回程线路耦接到基站270的BSC275形成接口。回程线路可以根据若干己知的接口中的任一种来构造,所述接口包括例如E1/T1、ATM,IP、PPP、帧中继、HDSL、ADSL或xDSL。将理解的是,如图2中所示的系统可以包括多个BSC2750。

每个BS270可以服务一个或多个分区(或区域),由多向天线或指向特定方向的天线覆盖的每个分区放射状地远离BS270。或者,每个分区可以由用于分集接收的两个或更多天线覆盖。每个BS270可以被构造为支持多个频率分配,并且每个频率分配具有特定频谱(例如,1.25MHz,5MHz等等)。

分区与频率分配的交叉可以被称为CDMA信道。BS270也可以被称为基站收发器子系统(BTS)或者其它等效术语。在这样的情况下,术语"基站"可以用于笼统地表示单个BSC275和至少一个BS270。基站也可以被称为"蜂窝站"。或者,特定BS270的各分区可以被称为多个蜂窝站。

如图2中所示,广播发射器(BT)295将广播信号发送给在系统内操作的移动终端100。如图1中所示的广播接收模块111被设置在移动终端100处以接收由BT295发送的广播信号。在图2中,示出了几个全球定位系统(GPS)卫星300。卫星300帮助定位多个移动终端100中的至少一个。

在图2中,描绘了多个卫星300,但是理解的是,可以利用任何数目的卫星获得有用的定位信息。如图1中所示的GPS模块115通常被构造为与卫星300配合以获得想要的定位信息。替代GPS跟踪技术或者在GPS跟踪技术之外,可以使用可以跟踪移动终端的位置的其它技术。另外,至少一个GPS卫星300可以选择性地或者额外地处理卫星DMB传输。

作为无线通信系统的一个典型操作,BS270接收来自各种移动终端100的反向链路信号。移动终端100通常参与通话、消息收发和其它类型的通信。特定基站270接收的每个反向链路信号被在特定BS270内进行处理。获得的数据被转发给相关的BSC275。BSC提供通话资源分配和包括BS270之间的软切换过程的协调的移动管理功能。BSC275还将接收到的数据路由到MSC280,其提供用于与PSTN290形成接口的额外的路由服务。类似地,PSTN290与MSC280形成接口,MSC与BSC275形成接口,并且BSC275相应地控制BS270以将正向链路信号发送到移动终端100。

基于上述移动终端硬件结构以及通信系统,提出本发明系统各个实施例。

首先,本发明提出一种数据请求处理装置400。

如图3所示,本发明所述的数据处理装置的功能模块示意图。在本实施例中,所述数据处理装置400可以被分割成一个或多个模块,所述一个或多个模块被存储于所述存储器160中,并由一个或多个控制器(本实施例中的所述控制器180)所执行,以完成本发明。例如,在图3中,所述数据处理400可以被分割成收集模块401、处理模块402。本发明所称的模块是指一种能够完成特定功能的一系列计算机程序指令段,以下将就上述各功能模块401-402的具体功能进行详细描述。

收集模块401,用于针对预设规则,收集不合规数据。

具体地,所述移动终端100可以作为客户端,用于服务器进行通信。示例性的,软件开发工具包(Software Development Kit,简称:SDK),具有数据采集的功能,而SDK往往集成在客户端安装的APP中。

在本发明实施例的一种实现方式中,具有数据收集功能的SDK通过API(Application Programming Interface,应用编程接口)与聊天软件进行集成。因此,该聊天软件就能达到一个具有具有数据采集功能的APP的目的。具体的,SDK与应用程序通过API进行连接以达到集成的作用,是现有技术,本发明实施例在此不对其进行赘述。

在本发明实施例的另一种实现方式中,可以是应用程序的代码中直接嵌入SDK,已达到应用程序具有数据采集功能的目的。

具体的,不合规数据可以为:具有时间戳错误的数据、和/或与预设格式不完全匹配的数据、和/或、乱码的数据。

示例性的,采集到的不合规数据的时间戳比比预设时间大2min,例如SDK采集的数据时间为:2017年3月2日10时40分至2017年3月2日10时42分,而采集到的数据的时间为:2017年3月2日10时42分至2017年3月2日10时44分。相对于预设的数据采集时间来说,实际的数据是时间为将来的时间值,即:采集到的数据对应的时间戳错误,因此,不能直接作为数据进行使用,即不能作为合规的数据,将其作为不合规数据。

示例性的,预设的数据格式为:时间、事件、类型、所有者;而采集到的数据格式为:时间、事件、所有者、数据所属项目,因此,采集到的数据的格式和预设的数据格式存在类型和数据所述项目的不同,数据不完全匹配的数据格式。另外,如果采集到的数据格式与预设的数据格式没有任何一个相同的格式,则为完全不匹配的数据格式。因为不完全匹配包括:部分匹配和完全不匹配,则采集到的数据也属于不合规数据。

另外,乱码的数据也可以作为不合规数据,将其作为不合规数据,可以根据大量的统计获得乱码数据的规律,进行乱码数据的原因分析。本发明实施例中的具有时间戳错误的数据、和/或与预设格式不完全匹配的数据、和/或乱码的数据作为不合规数据是最为常见的不合规数据形式,也是比较能够体现客户端出现的数据问题的形式,因此,才用着三种数据形式中的一种或者多种组合能够很好的实现客户端的问题的解析。

另外,本发明实施例中所述的不合规数据仅仅是示例性的,不构成对本发明实施例的具体限定。

处理模块402,用于将所述不合规数据发送至服务器,以使所述服务器对所述不合规数据进行处理。

可以理解的是,客户端将收集发哦的不合规数据发送至指定的服务器,由服务器对不合规数据进行存储并处理。

示例性的,在本发明实施例的另一种实现方式中,服务器直接存储所有不合规的数据,并对不合规的数据进行分类,例如,得到的不合规数据中时间戳错误的数据最多,那么可以通过得到客户端的时间设置上存在问题。

示例性的,在本发明实施例的另一种实现方式中,还可以通过概率分布的统计,计算出来不合规数据的分布情况。具体的,概率分布可以为二项分布、泊松分布、均匀分布、指数分布和正太分布等。例如在二项分布中,通过期望和方差可以得到占比较大的不合规数据。

具体的不合规数据的处理方式,还可以为其他形式,本发明实施例中的概率分布和简单的不合规数据分类仅仅是示例性的,不构成对本发明实施例中对不合规数据的具体处理形式的限定。

由此可见,应用本发明图3所示的实施例,本发明所提出的数据处理装置,通过客户端采集不合规数据,并将采集到的不合规数据发送至服务器进行处理。通过服务器处理后的、大量的不合规数据,以实现在统计学的角度去发现客户端可能存在的问题,从而解决现有技术中对采集到的不合规数据进行直接丢弃,而无法从中发现产生不合规数据的具体原因。

可以理解的是,客户端发送至服务器的不合规数据可能是来自不同的应用程序的,例如可以来自聊天软件、购物软件等等,且不合规数据可以是数据格式的匹配问题,也可以是时间的有效性问题。如果服务器直接对所有的不合规数据进行统一的处理,在面对大量数据的时候,会由于不合规数据的种类较多且杂乱,会导致处理的效率较低。

为解决上述技术问题,本发明实施例提供了一种实施方式,参见图4所示,图4为本发明实施例所述的第二种功能模块示意图,具体的,所述处理模块402,可以包括:第一处理子模块402A、第二处理子模块402B。

第一处理子模块402A,用于将所述不合规数据发送至服务器,以使所述服务器对所述不合规数据进行过滤处理。

示例性的,在服务器存储不合规数据之前需要增加一层数据过滤层。具体地,可以首先需要对不合规数据进行预设属性的校验处理,包括但不限于数据格式是否正确、数据采集时间的有效性、数据采集应用标识的有效性等。

进一步,将过滤出来的不合规数据进行汇总,然后分发到服务器中专门的不合规数据处理程序,用于进一步处理。第一处理子模块402A主要用于在服务器的数据存储之前按照预设的规则对不合规数据进行一次过滤的工作,入某一类不合规的数据较少,或者信息不完整,及时对不合规数据进行分析可能也无法获得有效的信息,因此可以进行过滤掉,以节省对不合规数据的分析时间,提高不合规数据的处理效率。

第二处理子模块402B,用于将所述不合规数据发送至服务器,以使所述服务器对所述不合规数据进行预设字段的提取处理。

可以理解的是,将所述不合规数据发送至服务器,以使所述服务器对所述不合规数据进行用户标识、时间发生时间、采集时间名称、不合规原因、原始日志数据、应用标识以及数据上报字段的提取处理。

具体的,服务器可以尝试提取以上所有字段,但是每个字段都提供对应的默认值,如果获取不到则使用默认值;如果获取到了,则将提取出来的信息填入对应字段。

另外,具体地,还可以将不合规数据进行持久化处理,所谓持久化,持久化是将程序数据在持久状态和瞬时状态间转换的机制。通俗的讲,就是瞬时数据(比如内存中的数据,是不能永久保存的)持久化为持久数据(比如持久化至数据库中,能够长久保存)。

可以理解的是,将处理后的不合规数据可以存储到与正常数据相同的数据库中,我们采用Hive进行存储。存储到相同的数据库中的好处是可以进行关联检索分析。比如我们查询到某个应用程序标识(appid)的数据存在问题,那可以关联查询一下该appid的基本信息或者其正常数据具有什么特点等。

应用本发明图4所示的实施例,能够通过第一处理子模块402A进行存储前的数据过滤,以及第二处理子模块402B进行预设字段的提取,将所有不合规数据转化成一定格式的数据,便于进行统一的存储于分析,能够进一步提高不合规数据的处理效率。

示例性的,如图5所示,图5为本发明实施例所述的第三种功能模块示意图,在图3所示实施例的基础上增加发送模块501;

具体的,发送模块501,用于发送数据分类指令,以使所述服务器对处理后的数据按照预设分类规则进行分类。

进一步的,可以通过客户端发送一个数据分类的指令,服务器端通过预先建立的定时分析任务,通过该分析任务需要将一段时间内的不合规数据按照应用标识与错误类别进行分组归类,并持久化到报表。

具体的,该分析任务可设置为一天执行一次。通过技术人员的多次研究和尝试,一天执行一次的分析能过及时发现不合规数据反映的问题,且分析频率不至于过高,较为合理。当然,也可以设置为一天执行一次,两天执行一次等等,本发明实施例在此不对其进行具体限定。

示例性的,数据处理装置可以应用于手机端,通过SDK用于收集数据,该SDK需要集成在具体的应用APP中。进一步地,手机端SDK将数据上报到数据中心的服务端,服务端将对数据进行过滤分发。在提取出有效字段后,该系统将不合规数据存储于Hive中建立的trash表,能够帮助技术人员快速分析出多次对接的应用APP程序出现埋点错误的问题。

因此,应用本发明图5所示的实施例,通过接收客户端发送的分类指令,将不合规数据按照预设的分类规则进行分类,能够方便技术人员及时的了解预设类别中不合规数据的数量和具体问题,进一步有助于分析不合规数据的产生原因。

进一步地,本发明还提供了一种数据处理方法,应用于客户端,如图6所示,是本发明所述的数据处理方法流程示意图。在本实施例中,所述数据处理方法可以分为以下步骤:

S601,针对预设规则,收集不合规数据。

S602,将所述不合规数据发送至服务器,以使所述服务器对所述不合规数据进行处理。

具体的,所述不合规数据为:具有时间戳错误的数据、和/或与预设格式不完全匹配的数据、和/或乱码的数据。

具体地,所述移动终端100可以作为客户端,用于服务器进行通信。示例性的,软件开发工具包(Software Development Kit,简称:SDK),具有数据采集的功能,而SDK往往集成在客户端安装的APP中。

在本发明实施例的一种实现方式中,具有数据收集功能的SDK通过API(Application Programming Interface,应用编程接口)与聊天软件进行集成。因此,该聊天软件就能达到一个具有具有数据采集功能的APP的目的。具体的,SDK与应用程序通过API进行连接以达到集成的作用,是现有技术,本发明实施例在此不对其进行赘述。

在本发明实施例的另一种实现方式中,可以是应用程序的代码中直接嵌入SDK,已达到应用程序具有数据采集功能的目的。

示例性的,采集到的不合规数据的时间戳比比预设时间大2min,例如SDK采集的数据时间为:2017年3月2日10时40分至2017年3月2日10时42分,而采集到的数据的时间为:2017年3月2日10时42分至2017年3月2日10时44分。相对于预设的数据采集时间来说,实际的数据是时间为将来的时间值,即:采集到的数据对应的时间戳错误,因此,不能直接作为数据进行使用,即不能作为合规的数据,将其作为不合规数据。

示例性的,预设的数据格式为:时间、事件、类型、所有者;而采集到的数据格式为:时间、事件、所有者、数据所属项目,因此,采集到的数据的格式和预设的数据格式存在类型和数据所述项目的不同,数据不完全匹配的数据格式。另外,如果采集到的数据格式与预设的数据格式没有任何一个相同的格式,则为完全不匹配的数据格式。因为不完全匹配包括:部分匹配和完全不匹配,则采集到的数据也属于不合规数据。

另外,乱码的数据也可以作为不合规数据,将其作为不合规数据,可以根据大量的统计获得乱码数据的规律,进行乱码数据的原因分析。本发明实施例中的具有时间戳错误的数据、和/或与预设格式不完全匹配的数据、和/或乱码的数据作为不合规数据是最为常见的不合规数据形式,也是比较能够体现客户端出现的数据问题的形式,因此,才用着三种数据形式中的一种或者多种组合能够很好的实现客户端的问题的解析。

另外,本发明实施例中所述的不合规数据仅仅是示例性的,不构成对本发明实施例的具体限定。

可以理解的是,客户端将收集发哦的不合规数据发送至指定的服务器,由服务器对不合规数据进行存储并处理。

示例性的,在本发明实施例的另一种实现方式中,服务器直接存储所有不合规的数据,并对不合规的数据进行分类,例如,得到的不合规数据中时间戳错误的数据最多,那么可以通过得到客户端的时间设置上存在问题。

示例性的,在本发明实施例的另一种实现方式中,还可以通过概率分布的统计,计算出来不合规数据的分布情况。具体的,概率分布可以为二项分布、泊松分布、均匀分布、指数分布和正太分布等。例如在二项分布中,通过期望和方差可以得到占比较大的不合规数据。

具体的不合规数据的处理方式,还可以为其他形式,本发明实施例中的概率分布和简单的不合规数据分类仅仅是示例性的,不构成对本发明实施例中对不合规数据的具体处理形式的限定。

应用本发明图6所示的实施例,本发明所提出的数据处理方法,通过客户端采集不合规数据,并将采集到的不合规数据发送至服务器进行处理。通过服务器处理后的、大量的不合规数据,以实现在统计学的角度去发现客户端可能存在的问题,从而解决现有技术中对采集到的不合规数据进行直接丢弃,而无法从中发现产生不合规数据的具体原因。

具体的,如图7所示,图7为本发明实施例提供的数据处理方法的第二种流程示意图,具体的,在图6所示实施例的基础上步骤S602可以为S701;其中,

S701,将所述不合规数据发送至服务器,以使所述服务器对所述不合规数据进行过滤处理和预设字段的提取处理。

进一步的,S701可以包括:

将所述不合规数据发送至服务器,以使所述服务器对所述不合规数据进行预设属性的校验处理,其中,所述预设属性的校验处理包括但不限于:数据采集时间的有效性、数据采集应用标识的有效性;

以及,

将所述不合规数据发送至服务器,以使所述服务器对所述不合规数据进行用户标识、时间发生时间、采集时间名称、不合规原因、原始日志数据、应用标识以及数据上报字段的提取处理。

示例性的,在服务器存储不合规数据之前需要增加一层数据过滤层。具体地,可以首先需要对不合规数据进行预设属性的校验处理,包括但不限于数据格式是否正确、数据采集时间的有效性、数据采集应用标识的有效性等。

进一步,将过滤出来的不合规数据进行汇总,然后分发到服务器中专门的不合规数据处理程序,用于进一步处理。第一处理子模块402A主要用于在服务器的数据存储之前按照预设的规则对不合规数据进行一次过滤的工作,入某一类不合规的数据较少,或者信息不完整,及时对不合规数据进行分析可能也无法获得有效的信息,因此可以进行过滤掉,以节省对不合规数据的分析时间,提高不合规数据的处理效率。

可以理解的是,将所述不合规数据发送至服务器,以使所述服务器对所述不合规数据进行用户标识、时间发生时间、采集时间名称、不合规原因、原始日志数据、应用标识以及数据上报字段的提取处理。

具体的,服务器可以尝试提取以上所有字段,但是每个字段都提供对应的默认值,如果获取不到则使用默认值;如果获取到了,则将提取出来的信息填入对应字段。

另外,具体地,还可以将不合规数据进行持久化处理,所谓持久化,持久化是将程序数据在持久状态和瞬时状态间转换的机制。通俗的讲,就是瞬时数据(比如内存中的数据,是不能永久保存的)持久化为持久数据(比如持久化至数据库中,能够长久保存)。

可以理解的是,将处理后的不合规数据可以存储到与正常数据相同的数据库中,我们采用Hive进行存储。存储到相同的数据库中的好处是可以进行关联检索分析。比如我们查询到某个应用程序标识(appid)的数据存在问题,那可以关联查询一下该appid的基本信息或者其正常数据具有什么特点等。

应用本发明图7所示的实施例,能够通过S701进行存储前的数据过滤,以及进行预设字段的提取,将所有不合规数据转化成一定格式的数据,便于进行统一的存储于分析,能够进一步提高不合规数据的处理效率。

参见图8,图8为本发明实施例提供的数据处理方法的第三种流程示意图,在图6所示实施例的基础上增加步骤S801;具体的,

S801,发送数据分类指令,以使所述服务器对处理后的数据按照预设分类规则进行分类。

进一步的,可以通过客户端发送一个数据分类的指令,服务器端通过预先建立的定时分析任务,通过该分析任务需要将一段时间内的不合规数据按照应用标识与错误类别进行分组归类,并持久化到报表。

具体的,该分析任务可设置为一天执行一次。通过技术人员的多次研究和尝试,一天执行一次的分析能过及时发现不合规数据反映的问题,且分析频率不至于过高,较为合理。当然,也可以设置为一天执行一次,两天执行一次等等,本发明实施例在此不对其进行具体限定。

示例性的,数据处理装置可以应用于手机端,通过SDK用于收集数据,该SDK需要集成在具体的应用APP中。进一步地,手机端SDK将数据上报到数据中心的服务端,服务端将对数据进行过滤分发。在提取出有效字段后,该系统将不合规数据存储于Hive中建立的trash表,能够帮助技术人员快速分析出多次对接的应用APP程序出现埋点错误的问题。

应用本发明图8所示的实施例,通过接收客户端发送的分类指令,将不合规数据按照预设的分类规则进行分类,能够方便技术人员及时的了解预设类别中不合规数据的数量和具体问题,进一步有助于分析不合规数据的产生原因。

图9为本发明所述的终端采集到不合规数据并发送至服务器示意图,在终端手机到不合规数据以后可以通过询问管理人员或者用户,是否发送至服务器进行处理,可以通过选择进行处理,以保证用户的隐私设置等。

上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。

通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,空调器,或者网络设备,机器人等)执行本发明各个实施例所述的方法。

以上仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围内。

再多了解一些
当前第1页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1