一种数据清洗方法、服务器及计算机可读存储介质与流程

文档序号:18257521发布日期:2019-07-24 10:23阅读:154来源:国知局
本发明涉及通信
技术领域
:,尤其涉及一种数据清洗方法、服务器及计算机可读存储介质。
背景技术
::随着电子技术的不断发展,移动终端(例如智能手机、平板电脑等)的功能越来越强大,在人们的工作及生活中扮演着不可或缺的角色。移动终端通过安装各种各样的应用程序实现不同的功能,目前,许多应用程序都是通过访问应用程序对应的服务器实现其功能,服务器中存储有所述应用程序的相关信息。当应用程序的开发人员需要用户使用应用程序的一些习惯或记录时,可以从服务器中获取相应的信息。服务器中存储的用户数据包括属性表(tb_profile)和事件表(tb_events),属性表中,新的属性数据会覆盖历史属性数据(例如性别、使用的移动终端型号等),因此属性表仅包括用户最新的属性信息,属性表中的每一条记录表示一位用户及其属性信息。而事件表包括的是用户的行为数据(例如应用程序的每一次登录、通过应用程序的每一次分享等),事件表中的每一条记录表示一位用户在某一时刻所产生的行为,不存在新旧数据覆盖的现象。即使应用程序的用户量没有增长,随着时间的增长,数据记录的时间范围增大,事件表的数据量也会不断增加。当应用程序的开发人员需要清洗相同事件的不同时间区间的数据时,每一次均需要遍历事件表中需要清洗的时间区间内的所有数据。然而,当时间区间较大时,清洗数据的操作会耗费大量的时间,甚至会造成服务器卡顿。可见,现有技术中的数据清洗方式耗时较长,容易造成服务器卡顿。技术实现要素:有鉴于此,本发明提出一种数据清洗方法、服务器及计算机可读存储介质,以解决上述技术问题。首先,为实现上述目的,本发明提出一种数据清洗方法,应用于服务器,所述方法包括:接收数据清洗条件,其中,所述数据清洗条件包括时间区间、事件信息和事件条件;将所述时间区间划分为至少两个时间子区间;获取每个时间子区间内,所述事件信息的预清洗数据;统计所述至少两个时间子区间内,所述事件信息的预清洗数据;根据所述事件条件对所述统计的预清洗数据进行筛选,得到数据清洗结果。可选地,所述将所述时间区间划分为至少两个时间子区间之前,所述方法还包括:确定所述时间区间的划分粒度;所述将所述时间区间划分为至少两个时间子区间,包括:根据所述划分粒度将所述时间区间划分为至少两个时间子区间。可选地,所述获取每个时间子区间内,所述事件信息的预清洗数据,包括:在时间子区间内,根据所述事件信息对事件表进行预清洗,得到所述时间子区间内所述事件信息的预清洗数据。可选地,所述在时间子区间内,根据所述事件信息对事件表进行预清洗,得到所述时间子区间内所述事件信息的预清洗数据之前,所述方法还包括:针对每一时间子区间,查找所述服务器是否存储时间子区间内,所述事件信息的预清洗数据;若所述服务器存储第一时间子区间内,所述事件信息的预清洗数据,获取所述第一时间子区间内所述事件信息的预清洗数据;所述在时间子区间内,根据所述事件信息对事件表进行预清洗,得到所述时间子区间内所述事件信息的预清洗数据,包括:若所述服务器没有存储第二时间子区间内,所述事件信息的预清洗数据,在所述第二时间子区间内,根据所述事件信息对事件表进行预清洗,得到所述第二时间子区间内所述事件信息的预清洗数据。可选地,所述在第二时间子区间内,根据所述事件信息对事件表进行预清洗,得到所述第二时间子区间内所述事件信息的预清洗数据之后,所述方法还包括:存储所述第二时间子区间内,所述事件信息的预清洗数据。可选地,所述确定所述时间区间的划分粒度,包括:根据单位查看数据量和所述服务器的最大搜索数据量,确定所述时间区间的划分粒度,其中,所述单位查看数据量包括查看事件表中单位时间区间的记录所需的数据量。可选地,所述数据清洗条件还包括用户属性;所述根据所述事件条件对所述统计的预清洗数据进行筛选,得到数据清洗结果,包括:根据所述事件条件和用户属性,对所述统计的预清洗数据进行筛选,得到数据清洗结果。可选地,所述事件信息包括事件行为和事件属性。进一步地,为实现上述目的,本发明还提供一种服务器,所述服务器包括存储器、至少一个处理器及存储在所述存储器上并可在所述至少一个处理器执行的至少一个程序,所述至少一个程序被所述至少一个处理器执行时实现上述任一项所述的方法中的步骤。此外,为实现上述目的,本发明还提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机可执行的至少一个程序,所述至少一个程序被所述计算机执行时使所述计算机执行上述方法中的步骤。相较于现有技术,本发明所提出的数据清洗方法接收数据清洗条件,其中,所述数据清洗条件包括时间区间、事件信息和事件条件;将所述时间区间划分为至少两个时间子区间;获取每个时间子区间内,所述事件信息的预清洗数据;统计所述至少两个时间子区间内,所述事件信息的预清洗数据;根据所述事件条件对所述统计的预清洗数据进行筛选,得到数据清洗结果。这样,本发明提供的数据清洗方法将数据清洗条件中的时间区间划分为至少两个时间子区间,并针对每个时间子区间分别获取事件信息的预清洗数据,对于已经存在所述事件信息的预清洗数据的时间子区间,不需要进行重复清洗,从而能够有效减小数据清洗的任务量,减小数据清洗的耗时,避免出现因数据清洗造成服务器卡顿的情况。附图说明图1是实现本发明各个实施例的一种移动终端的硬件结构示意图;图2是本发明实施例提供的一种通信网络系统架构图;图3是本发明实施例提供的一种服务器的硬件结构示意图;图4是本发明实施例提供的一种数据清洗方法的流程示意图;图5是本发明实施例提供的一种预清洗数据的结果示意图;图6是本发明实施例提供的另一种数据清洗方法的流程示意图;图7是本发明实施例提供的另一种数据清洗方法的流程示意图;本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。具体实施方式应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。在后续的描述中,使用用于表示元件的诸如“模块”、“部件”或“单元”的后缀仅为了有利于本发明的说明,其本身没有特定的意义。因此,“模块”、“部件”或“单元”可以混合地使用。终端可以以各种形式来实施。例如,本发明中描述的终端可以包括诸如手机、平板电脑、笔记本电脑、掌上电脑、个人数字助理(PersonalDigitalAssistant,PDA)、便捷式媒体播放器(PortableMediaPlayer,PMP)、导航装置、可穿戴设备、智能手环、计步器等移动终端,以及诸如数字TV、台式计算机等固定终端。后续描述中将以移动终端为例进行说明,本领域技术人员将理解的是,除了特别用于移动目的的元件之外,根据本发明的实施方式的构造也能够应用于固定类型的终端。请参阅图1,其为实现本发明各个实施例的一种移动终端的硬件结构示意图,该移动终端100可以包括:RF(RadioFrequency,射频)单元101、WiFi模块102、音频输出单元103、A/V(音频/视频)输入单元104、传感器105、显示单元106、用户输入单元107、接口单元108、存储器109、处理器110、以及电源111等部件。本领域技术人员可以理解,图1中示出的移动终端结构并不构成对移动终端的限定,移动终端可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。下面结合图1对移动终端的各个部件进行具体的介绍:射频单元101可用于收发信息或通话过程中,信号的接收和发送,具体的,将基站的下行信息接收后,给处理器110处理;另外,将上行的数据发送给基站。通常,射频单元101包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等。此外,射频单元101还可以通过无线通信与网络和其他设备通信。上述无线通信可以使用任一通信标准或协议,包括但不限于GSM(GlobalSystemofMobilecommunication,全球移动通讯系统)、GPRS(GeneralPacketRadioService,通用分组无线服务)、CDMA2000(CodeDivisionMultipleAccess2000,码分多址2000)、WCDMA(WidebandCodeDivisionMultipleAccess,宽带码分多址)、TD-SCDMA(TimeDivision-SynchronousCodeDivisionMultipleAccess,时分同步码分多址)、FDD-LTE(FrequencyDivisionDuplexing-LongTermEvolution,频分双工长期演进)和TDD-LTE(TimeDivisionDuplexing-LongTermEvolution,分时双工长期演进)等。WiFi属于短距离无线传输技术,移动终端通过WiFi模块102可以帮助用户收发电子邮件、浏览网页和访问流式媒体等,它为用户提供了无线的宽带互联网访问。虽然图1示出了WiFi模块102,但是可以理解的是,其并不属于移动终端的必须构成,完全可以根据需要在不改变发明的本质的范围内而省略。音频输出单元103可以在移动终端100处于呼叫信号接收模式、通话模式、记录模式、语音识别模式、广播接收模式等等模式下时,将射频单元101或WiFi模块102接收的或者在存储器109中存储的音频数据转换成音频信号并且输出为声音。而且,音频输出单元103还可以提供与移动终端100执行的特定功能相关的音频输出(例如,呼叫信号接收声音、消息接收声音等等)。音频输出单元103可以包括扬声器、蜂鸣器等等。A/V输入单元104用于接收音频或视频信号。A/V输入单元104可以包括图形处理器(GraphicsProcessingUnit,GPU)1041和麦克风1042,图形处理器1041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元106上。经图形处理器1041处理后的图像帧可以存储在存储器109(或其它存储介质)中或者经由射频单元101或WiFi模块102进行发送。麦克风1042可以在电话通话模式、记录模式、语音识别模式等等运行模式中经由麦克风1042接收声音(音频数据),并且能够将这样的声音处理为音频数据。处理后的音频(语音)数据可以在电话通话模式的情况下转换为可经由射频单元101发送到移动通信基站的格式输出。麦克风1042可以实施各种类型的噪声消除(或抑制)算法以消除(或抑制)在接收和发送音频信号的过程中产生的噪声或者干扰。移动终端100还包括至少一种传感器105,比如光传感器、运动传感器以及其他传感器。具体地,光传感器包括环境光传感器及接近传感器,其中,环境光传感器可根据环境光线的明暗来调节显示面板1061的亮度,接近传感器可在移动终端100移动到耳边时,关闭显示面板1061和/或背光。作为运动传感器的一种,加速计传感器可检测各个方向上(一般为三轴)加速度的大小,静止时可检测出重力的大小及方向,可用于识别手机姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等;至于手机还可配置的指纹传感器、压力传感器、虹膜传感器、分子传感器、陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器,在此不再赘述。显示单元106用于显示由用户输入的信息或提供给用户的信息。显示单元106可包括显示面板1061,可以采用液晶显示器(LiquidCrystalDisplay,LCD)、有机发光二极管(OrganicLight-EmittingDiode,OLED)等形式来配置显示面板1061。用户输入单元107可用于接收输入的数字或字符信息,以及产生与移动终端的用户设置以及功能控制有关的键信号输入。具体地,用户输入单元107可包括触控面板1071以及其他输入设备1072。触控面板1071,也称为触摸屏,可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板1071上或在触控面板1071附近的操作),并根据预先设定的程式驱动相应的连接装置。触控面板1071可包括触摸检测装置和触摸控制器两个部分。其中,触摸检测装置检测用户的触摸方位,并检测触摸操作带来的信号,将信号传送给触摸控制器;触摸控制器从触摸检测装置上接收触摸信息,并将它转换成触点坐标,再送给处理器110,并能接收处理器110发来的命令并加以执行。此外,可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板1071。除了触控面板1071,用户输入单元107还可以包括其他输入设备1072。具体地,其他输入设备1072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种,具体此处不做限定。进一步的,触控面板1071可覆盖显示面板1061,当触控面板1071检测到在其上或附近的触摸操作后,传送给处理器110以确定触摸事件的类型,随后处理器110根据触摸事件的类型在显示面板1061上提供相应的视觉输出。虽然在图1中,触控面板1071与显示面板1061是作为两个独立的部件来实现移动终端的输入和输出功能,但是在某些实施例中,可以将触控面板1071与显示面板1061集成而实现移动终端的输入和输出功能,具体此处不做限定。接口单元108用作至少一个外部装置与移动终端100连接可以通过的接口。例如,外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。接口单元108可以用于接收来自外部装置的输入(例如,数据信息、电力等等)并且将接收到的输入传输到移动终端100内的一个或多个元件或者可以用于在移动终端100和外部装置之间传输数据。存储器109可用于存储软件程序以及各种数据。存储器109可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外,存储器109可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。处理器110是移动终端的控制中心,利用各种接口和线路连接整个移动终端的各个部分,通过运行或执行存储在存储器109内的软件程序和/或模块,以及调用存储在存储器109内的数据,执行移动终端的各种功能和处理数据,从而对移动终端进行整体监控。处理器110可包括一个或多个处理单元;优选的,处理器110可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器110中。移动终端100还可以包括给各个部件供电的电源111(比如电池),优选的,电源111可以通过电源管理系统与处理器110逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。尽管图1未示出,移动终端100还可以包括蓝牙模块等,在此不再赘述。为了便于理解本发明实施例,下面对本发明的移动终端所基于的通信网络系统进行描述。请参阅图2,图2为本发明实施例提供的一种通信网络系统架构图,该通信网络系统为通用移动通信技术的LTE系统,该LTE系统包括依次通讯连接的UE(UserEquipment,用户设备)201,E-UTRAN(EvolvedUMTSTerrestrialRadioAccessNetwork,演进式UMTS陆地无线接入网)202,EPC(EvolvedPacketCore,演进式分组核心网)203和运营商的IP业务204。具体地,UE201可以是上述终端100,此处不再赘述。E-UTRAN202包括eNodeB2021和其它eNodeB2022等。其中,eNodeB2021可以通过回程(backhaul)(例如X2接口)与其它eNodeB2022连接,eNodeB2021连接到EPC203,eNodeB2021可以提供UE201到EPC203的接入。EPC203可以包括MME(MobilityManagementEntity,移动性管理实体)2031,HSS(HomeSubscriberServer,归属用户服务器)2032,其它MME2033,SGW(ServingGateWay,服务网关)2034,PGW(PDNGateWay,分组数据网络网关)2035和PCRF(PolicyandChargingRulesFunction,政策和资费功能实体)2036等。其中,MME2031是处理UE201和EPC203之间信令的控制节点,提供承载和连接管理。HSS2032用于提供一些寄存器来管理诸如归属位置寄存器(图中未示)之类的功能,并且保存有一些有关服务特征、数据速率等用户专用的信息。所有用户数据都可以通过SGW2034进行发送,PGW2035可以提供UE201的IP地址分配以及其它功能,PCRF2036是业务数据流和IP承载资源的策略与计费控制策略决策点,它为策略与计费执行功能单元(图中未示)选择及提供可用的策略和计费控制决策。IP业务204可以包括因特网、内联网、IMS(IPMultimediaSubsystem,IP多媒体子系统)或其它IP业务等。虽然上述以LTE系统为例进行了介绍,但本领域技术人员应当知晓,本发明不仅仅适用于LTE系统,也可以适用于其他无线通信系统,例如GSM、CDMA2000、WCDMA、TD-SCDMA以及未来新的网络系统等,此处不做限定。请参阅图3,图3是本发明实施例提供的一种服务器的硬件结构示意图,如图3所示,所述服务器包括:处理器300、收发机310、存储器320、用户接口330和总线接口,所述处理器300,用于读取存储器320中的程序。在图3中,总线架构可以包括任意数量的互联的总线和桥,具体由处理器300代表的一个或多个处理器和存储器320代表的存储器的各种电路链接在一起。总线架构还可以将诸如外围设备、稳压器和功率管理电路等之类的各种其他电路链接在一起,这些都是本领域所公知的,因此,本文不再对其进行进一步描述。总线接口提供接口,收发机310可以是多个元件,即包括发送机和接收机,提供用于在传输介质上与各种其他装置通信的单元。针对不同的用户设备,用户接口330还可以是能够外接内接需要设备的接口,连接的设备包括但不限于小键盘、显示器、扬声器、麦克风、操纵杆等。处理器300负责管理总线架构和通常的处理,存储器320可以存储处理器300在执行操作时所使用的数据。基于上述移动终端100硬件结构、通信网络系统以及服务器硬件结构,提出本发明方法各个实施例。参阅图4,图4是本发明实施例提供的一种数据清洗方法的步骤流程图,所述数据清洗方法应用于一服务器中,如图4所示,所述数据清洗方法包括:步骤401、接收数据清洗条件,其中,所述数据清洗条件包括时间区间、事件信息和事件条件。该步骤中,所述服务器接收数据清洗条件,所述数据清洗条件包括时间区间、事件信息和事件条件。所述服务器为服务器(app服务器),本发明其他实施例中,所述服务器也可以为其他类型的服务器。可以立即的是,当应用程序的开发人员需要获取用户使用应用程序的一些数据时,可以在所述应用程序的服务器上输入数据清洗条件。举例而言,当应用程序的开发人员需要获取在2018年01月01日至2018年12月31日期间登录应用程序次数超过10次的数据,可以将数据清洗条件设置为“2018年01月01日至2018年12月31日期间登录应用程序次数超过10次”,其中,时间区间为“2018年01月01日至2018年12月31日”、事件信息为“登录应用程序”、事件条件为“次数超过10次”。步骤402、将所述时间区间划分为至少两个时间子区间。该步骤中,所述服务器将所述时间区间划分为至少两个时间子区间。所述服务器可以先确定所述时间区间的划分粒度,然后根据所述时间区间的划分粒度将所述时间区间划分为至少两个时间子区间。举例而言,假设时间区间为“2018年01月01日至2018年12月31日”,确定的划分粒度为三个月,则所述服务器可以将所述时间区间划分为如下时间子区间:“2018年01月01日至2018年03月31日”、“2018年04月01日至2018年06月30日”、“2018年07月01日至2018年09月30日”、“2018年10月01日至2018年12月31日”。具体地,所述服务器可以根据单位查看数据量和所述服务器的最大搜索数据量,确定所述时间区间的划分粒度,所述单位查看数据量包括查看事件表中单位时间区间的记录所需的数据量。所述服务器也可以根据所述服务器中存储的所述事件信息的预清洗数据的情况,将所述时间区间划分为至少两个时间子区间。具体地,所述服务器可以查询是否存储所述事件信息的预清洗数据,若所述服务器中存储所述事件信息的预清洗数据,所述服务器进一步获取所述存储的预清洗数据对应的第一时间区间,并判断所述第一时间区间与所述数据清洗条件中的时间区间是否存在交集;若存在交集,将所述时间区间划分为存在所述事件信息的预清洗数据的时间子区间,和不存在所述事件信息的预清洗数据的时间子区间。举例而言,假设所述第一时间区间为“2018年01月01日至2018年09月30日”,所述时间区间为“2018年01月01日至2018年12月31日”,则所述第一时间区间和所述时间区间的交集为所述第一时间区间,相应地,所述服务器将所述时间区间划分为“2018年01月01日至2018年09月30日”和“2018年10月01日至2018年12月31日”两个时间子区间。在本发明一些实施例中,所述服务器也可以结合所述服务器存储的所述事件信息的预清洗数据的情况以及划分粒度,将所述时间区间划分为至少两个子时间区间。具体地,所述服务器可以先将所述时间区间划分为存在所述事件信息的预清洗数据的时间子区间,和不存在所述事件信息的预清洗数据的时间子区间;然后根据所述划分粒度将不存在所述事件信息的预清洗数据的时间子区间进行进一步划分。步骤403、获取每个时间子区间内,所述事件信息的预清洗数据。该步骤中,所述服务器获取每个时间子区间内,所述事件信息的预清洗数据。可以理解的是,对于所述服务器中存储有所述事件信息的预清洗数据的时间子区间,所述服务器直接获取存储的所述时间子区间内所述事件信息的预清洗数据。对于所述服务器中没有存储所述事件信息的预清洗数据的时间子区间,所述服务器在时间子区间内,根据所述事件信息对事件表进行预清洗,得到所述时间子区间内所述事件信息的预清洗数据。举例而言,假设所述数据清洗条件为“2018年01月01日至2018年12月31日期间登录应用程序次数超过10次”,不存在所述事件信息的预清洗数据的时间子区间为:“2018年10月01日至2018年12月31日”,所述服务器可以查找事件表中时间段为“2018年10月01日至2018年12月31日”的登录记录,并统计每一用户在每天的登录次数,得到如图5所示的预清洗数据结果。步骤404、统计所述至少两个时间子区间内,所述事件信息的预清洗数据。该步骤中,所述服务器统计所述至少两个时间子区间内,所述事件信息的预清洗数据。具体地,所述服务器统计所述预清洗数据可以是将每个时间子区间内,同一用户执行的所述事件信息的次数进行累加。利用假设用户“deviceId_1”在“2018年01月01日至2018年09月30日”期间的登录次数为6次,在“2018年10月01日至2018年12月31日”期间的登录次数为5次,则所述服务器统计的所述事件信息的预清洗数据中,该用户“deviceId_1”在“2018年01月01日至2018年12月31日”期间的登录次数为11次。步骤405、根据所述事件条件对所述统计的预清洗数据进行筛选,得到数据清洗结果。该步骤中,所述服务器根据所述事件条件对所述统计的预清洗数据进行筛选,得到数据清洗结果。举例而言,所述服务器可以将登录次数大于10的数据筛选出来,作为数据清洗结果。本实施例中,所述接收数据清洗条件,其中,所述数据清洗条件包括时间区间、事件信息和事件条件;将所述时间区间划分为至少两个时间子区间;获取每个时间子区间内,所述事件信息的预清洗数据;统计所述至少两个时间子区间内,所述事件信息的预清洗数据;根据所述事件条件对所述统计的预清洗数据进行筛选,得到数据清洗结果。这样,本发明提供的数据清洗方法将数据清洗条件中的时间区间划分为至少两个时间子区间,并针对每个时间子区间分别获取事件信息的预清洗数据,对于已经存在所述事件信息的预清洗数据的时间子区间,不需要进行重复清洗,从而能够有效减小数据清洗的任务量,减小数据清洗的耗时,避免出现因数据清洗造成服务器卡顿的情况。可选地,所述将所述时间区间划分为至少两个时间子区间之前,所述方法还包括:确定所述时间区间的划分粒度;所述将所述时间区间划分为至少两个时间子区间,包括:根据所述划分粒度将所述时间区间划分为至少两个时间子区间。该实施例中,所述将时间区间划分为至少两个时间子区间之前,所述服务器确定所述时间区间的划分粒度,然后根据所述划分粒度将所述时间区间划分为至少两个时间子区间。可选地,所述确定所述时间区间的划分粒度,包括:根据单位查看数据量和所述服务器的最大搜索数据量,确定所述时间区间的划分粒度,其中,所述单位查看数据量包括查看事件表中单位时间区间的记录所需的数据量。该实施例中,所述确定所述时间区间的划分粒度具体可以包括:根据单位查看数据量和所述服务器的最大搜索数据量,确定所述时间区间的划分粒度,其中,所述单位查看数据量包括查看事件表中单位时间区间的记录所需的数据量。举例而言,假设单位查看数据量大小为N,服务器的最大搜索数据量为M,则确定所述划分粒度小于或者等于(M/N)。需要说明的是,所述单位时间可以为任意单位时间,例如1小时、1天、1个星期、1个月等,本发明实施例中,所述单位时间区间可以为1天。可选地,所述数据清洗条件还包括用户属性;所述根据所述事件条件对所述统计的预清洗数据进行筛选,得到数据清洗结果,包括:根据所述事件条件和用户属性,对所述统计的预清洗数据进行筛选,得到数据清洗结果。该实施例中,所述数据清洗条件还包括用户属性,所述服务器可以根据所述事件条件和用户属性,对所述统计的预清洗数据进行筛选,得到数据清洗结果。举例而言,假设数据清洗条件包括的用户属性为“男性”,则所述服务器可以从所述统计的预清洗数据中筛选出“登录次数大于10的男性用户”的数据,作为数据清洗结果。可选地,所述事件信息包括事件行为和事件属性。本发明实施例中,所述事件信息至少包括事件行为,例如登录。该实施例中,所述事件信息可以包括事件信息和事件属性,举例而言,对于事件信息为“登录”的情况而言,用户可以通过手机号登录,也可以通过其他第三方账号进行登录,所述事件属性可以包括登录方式。参阅图6,图6是本发明实施例提供的另一种数据清洗方法的步骤流程图,如图6所示,所述方法包括:步骤601、接收数据清洗条件,其中,所述数据清洗条件包括时间区间、事件信息和事件条件。步骤602、将所述时间区间划分为至少两个时间子区间。所述步骤601至步骤602与本发明图4所示的实施例中的步骤401至步骤402相同,此处不再赘述。步骤603、在时间子区间内,根据所述事件信息对事件表进行预清洗,得到所述时间子区间内所述事件信息的预清洗数据。该步骤中,所述服务器在每个时间子区间内,根据所述事件信息对事件表进行预清洗,得到所述每一时间子区间内,所述事件信息的预清洗数据。步骤604、统计所述至少两个时间子区间内,所述事件信息的预清洗数据。步骤605、根据所述事件条件对所述统计的预清洗数据进行筛选,得到数据清洗结果。所述步骤604至步骤605与本发明图4所示的实施例中的步骤404至步骤405相同,此处不再赘述。本实施例中,所述数据清洗方法接收数据清洗条件,其中,所述数据清洗条件包括时间区间、事件信息和事件条件;将所述时间区间划分为至少两个时间子区间;在时间子区间内,根据所述事件信息对事件表进行预清洗,得到所述时间子区间内所述事件信息的预清洗数据;统计所述至少两个时间子区间内,所述事件信息的预清洗数据;根据所述事件条件对所述统计的预清洗数据进行筛选,得到数据清洗结果。这样,本发明提供的数据清洗方法将数据清洗条件中的时间区间划分为至少两个时间子区间,并针对每个时间子区间分别获取事件信息的预清洗数据,能够有效减小数据清洗的任务量,减小数据清洗的耗时,避免出现因数据清洗造成服务器卡顿的情况。参见图7,图7是本发明实施例提供的另一种数据清洗方法的步骤流程图,如图7所示,所述方法包括:步骤701、接收数据清洗条件,其中,所述数据清洗条件包括时间区间、事件信息和事件条件。步骤702、将所述时间区间划分为至少两个时间子区间。所述步骤701至步骤702与本发明图4所示的实施例中的步骤401至步骤402相同,此处不再赘述。步骤703、针对每一时间子区间,查找所述服务器是否存储时间子区间内,所述事件信息的预清洗数据。该步骤中,所述服务器针对每一时间子区间,查找所述服务器是否存储时间子区间内,所述事件信息的预清洗数据。步骤704、若所述服务器存储第一时间子区间内,所述事件信息的预清洗数据,获取所述第一时间子区间内所述事件信息的预清洗数据。该步骤中,若所述服务器存储第一时间子区间内,所述事件信息的预清洗数据,所述服务器直接获取所述第一时间子区间内所述事件信息的预清洗数据。步骤705、若所述服务器没有存储第二时间子区间内,所述事件信息的预清洗数据,在所述第二时间子区间内,根据所述事件信息对事件表进行预清洗,得到所述第二时间子区间内所述事件信息的预清洗数据。该步骤中,若所述服务器没有存储第二时间子区间内,所述事件信息的预清洗数据,所述服务器在所述第二时间子区间内,根据所述事件信息对事件表进行预清洗,得到所述第二时间子区间内所述事件信息的预清洗数据。步骤706、统计所述至少两个时间子区间内,所述事件信息的预清洗数据。步骤707、根据所述事件条件对所述统计的预清洗数据进行筛选,得到数据清洗结果。所述步骤706至步骤707与本发明图4所示的实施例中的步骤404至步骤405相同,此处不再赘述。本实施例中,所述接收数据清洗条件,其中,所述数据清洗条件包括时间区间、事件信息和事件条件;将所述时间区间划分为至少两个时间子区间;针对每一时间子区间,查找所述服务器是否存储时间子区间内,所述事件信息的预清洗数据;若所述服务器存储第一时间子区间内,所述事件信息的预清洗数据,获取所述第一时间子区间内所述事件信息的预清洗数据;若所述服务器没有存储第二时间子区间内,所述事件信息的预清洗数据,在所述第二时间子区间内,根据所述事件信息对事件表进行预清洗,得到所述第二时间子区间内所述事件信息的预清洗数据;统计所述至少两个时间子区间内,所述事件信息的预清洗数据;根据所述事件条件对所述统计的预清洗数据进行筛选,得到数据清洗结果。这样,本发明提供的数据清洗方法将数据清洗条件中的时间区间划分为至少两个时间子区间,并针对每个时间子区间分别获取事件信息的预清洗数据,对于已经存在所述事件信息的预清洗数据的时间子区间,不需要进行重复清洗,从而能够有效减小数据清洗的任务量,减小数据清洗的耗时,避免出现因数据清洗造成服务器卡顿的情况。可选地,所述在第二时间子区间内,根据所述事件信息对事件表进行预清洗,得到所述第二时间子区间内所述事件信息的预清洗数据之后,所述方法还包括:存储所述第二时间子区间内,所述事件信息的预清洗数据。该实施例中,对于所述服务器没有存储所述事件信息的预清洗数据的第二时间子区间,所述服务器在得到其预清洗数据时,将所述第二时间子区间内,所述事件信息对应的预清洗数据进行存储,这样,当下一次基于相同的事件信息的时间区间包括所述第二时间子区间时,可以直接获取所述第二时间子区间内的预清洗数据,不需要针对该第二时间子区间进行重复清洗,能够节省数据清洗时间。本领域普通技术人员可以理解实现上述实施例方法的全部或者部分步骤是可以通过至少一个程序指令相关的硬件来完成,所述至少一个程序可以存储于如图3所示的服务器的存储器320中,并能够所述处理器300执行,所述至少一个程序被所述处理器300执行时实现如下步骤:接收数据清洗条件,其中,所述数据清洗条件包括时间区间、事件信息和事件条件;将所述时间区间划分为至少两个时间子区间;获取每个时间子区间内,所述事件信息的预清洗数据;统计所述至少两个时间子区间内,所述事件信息的预清洗数据;根据所述事件条件对所述统计的预清洗数据进行筛选,得到数据清洗结果。可选地,所述将所述时间区间划分为至少两个时间子区间之前,所述处理器300还可实现如下步骤:确定所述时间区间的划分粒度;所述将所述时间区间划分为至少两个时间子区间,包括:根据所述划分粒度将所述时间区间划分为至少两个时间子区间。可选地,所述获取每个时间子区间内,所述事件信息的预清洗数据,包括:在时间子区间内,根据所述事件信息对事件表进行预清洗,得到所述时间子区间内所述事件信息的预清洗数据。可选地,所述在时间子区间内,根据所述事件信息对事件表进行预清洗,得到所述时间子区间内所述事件信息的预清洗数据之前,所述处理器300还可实现如下步骤:针对每一时间子区间,查找所述服务器是否存储时间子区间内,所述事件信息的预清洗数据;若所述服务器存储第一时间子区间内,所述事件信息的预清洗数据,获取所述第一时间子区间内所述事件信息的预清洗数据;所述在时间子区间内,根据所述事件信息对事件表进行预清洗,得到所述时间子区间内所述事件信息的预清洗数据,包括:若所述服务器没有存储第二时间子区间内,所述事件信息的预清洗数据,在所述第二时间子区间内,根据所述事件信息对事件表进行预清洗,得到所述第二时间子区间内所述事件信息的预清洗数据。可选地,所述在第二时间子区间内,根据所述事件信息对事件表进行预清洗,得到所述第二时间子区间内所述事件信息的预清洗数据之后,所述处理器300还可实现如下步骤:存储所述第二时间子区间内,所述事件信息的预清洗数据。可选地,所述确定所述时间区间的划分粒度,包括:根据单位查看数据量和所述服务器的最大搜索数据量,确定所述时间区间的划分粒度,其中,所述单位查看数据量包括查看事件表中单位时间区间的记录所需的数据量。可选地,所述数据清洗条件还包括用户属性;所述根据所述事件条件对所述统计的预清洗数据进行筛选,得到数据清洗结果,包括:根据所述事件条件和用户属性,对所述统计的预清洗数据进行筛选,得到数据清洗结果。可选地,所述事件信息包括事件行为和事件属性。本领域普通技术人员可以理解实现上述实施例方法的全部或者部分步骤是可以通过至少一个程序指令相关的硬件来完成,所述至少一个程序可以存储于一计算机可读存储介质中,所述至少一个程序在执行时,包括以下步骤:接收数据清洗条件,其中,所述数据清洗条件包括时间区间、事件信息和事件条件;将所述时间区间划分为至少两个时间子区间;获取每个时间子区间内,所述事件信息的预清洗数据;统计所述至少两个时间子区间内,所述事件信息的预清洗数据;根据所述事件条件对所述统计的预清洗数据进行筛选,得到数据清洗结果。可选地,所述将所述时间区间划分为至少两个时间子区间之前,所述至少一个程序在执行时,还可实现如下步骤:确定所述时间区间的划分粒度;所述将所述时间区间划分为至少两个时间子区间,包括:根据所述划分粒度将所述时间区间划分为至少两个时间子区间。可选地,所述获取每个时间子区间内,所述事件信息的预清洗数据,包括:在时间子区间内,根据所述事件信息对事件表进行预清洗,得到所述时间子区间内所述事件信息的预清洗数据。可选地,所述在时间子区间内,根据所述事件信息对事件表进行预清洗,得到所述时间子区间内所述事件信息的预清洗数据之前,所述至少一个程序在执行时,还可实现如下步骤:针对每一时间子区间,查找所述服务器是否存储时间子区间内,所述事件信息的预清洗数据;若所述服务器存储第一时间子区间内,所述事件信息的预清洗数据,获取所述第一时间子区间内所述事件信息的预清洗数据;所述在时间子区间内,根据所述事件信息对事件表进行预清洗,得到所述时间子区间内所述事件信息的预清洗数据,包括:若所述服务器没有存储第二时间子区间内,所述事件信息的预清洗数据,在所述第二时间子区间内,根据所述事件信息对事件表进行预清洗,得到所述第二时间子区间内所述事件信息的预清洗数据。可选地,所述在第二时间子区间内,根据所述事件信息对事件表进行预清洗,得到所述第二时间子区间内所述事件信息的预清洗数据之后,所述至少一个程序在执行时,还可实现如下步骤:存储所述第二时间子区间内,所述事件信息的预清洗数据。可选地,所述确定所述时间区间的划分粒度,包括:根据单位查看数据量和所述服务器的最大搜索数据量,确定所述时间区间的划分粒度,其中,所述单位查看数据量包括查看事件表中单位时间区间的记录所需的数据量。可选地,所述数据清洗条件还包括用户属性;所述根据所述事件条件对所述统计的预清洗数据进行筛选,得到数据清洗结果,包括:根据所述事件条件和用户属性,对所述统计的预清洗数据进行筛选,得到数据清洗结果。可选地,所述事件信息包括事件行为和事件属性。需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本发明各个实施例所述的方法。以上仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的
技术领域
:,均同理包括在本发明的专利保护范围内。当前第1页1 2 3 当前第1页1 2 3 
当前第1页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1