数据可视化展示方法及系统与流程

文档序号:15445989发布日期:2018-09-14 23:22阅读:265来源:国知局

本发明属于数据技术领域,尤其涉及一种数据可视化展示方法及系统。



背景技术:

互联网大数据时代对运营提出了更高的要求,数据指导运营决策正在逐渐成为主流,如何运用大数据技术挖掘数据中蕴含的用户特征,如何将数据价值呈现并最终指导运营人员决策是需要解决的关键问题。目前多数运营人员仍然依靠线下报表了解产品用户信息,部分采用市面上通用的报表系统,但统计内容都比较基础,缺乏针对具体产品的个性化数据内容的展示。

为了解决上述技术问题,人们进行了长期的探索,例如中国专利公开了一种网络大数据可视化信息系统[申请号:cn201610531420.1],分为三层,从下到上分别为数据库层、数据交换层和应用层;所述数据库层为系统提供数据支撑,用于存储系统所需的原始数据、处理后的中间数据以及最终的展示数据;所述数据交换层封装了访问数据库的操作,同时提供了redis缓存,用于缓存常用的数据,提高应用层读取数据的效率;所述应用层为一个web站点,分为后端和前端两部分;其中后端底层逻辑处理、数据库通信和交换,以及数据处理;同时,后端还提供用户权限、系统配置等功能;web前端用于用户与系统交互,并对数据进行可视化展示;前端框架负责前端功能的逻辑处理,并组织数据提供给可视化工具集进行渲染。

上述方案能够深度提取隐藏信息,并且对数据进行了可视化展示,但是上述方案也只是停留在提供挖掘数据和将挖掘数据简单归纳以可视化展示的功能,无法对数据进行深度分析,无法满足用户提供个性化数据展示要求。



技术实现要素:

本发明的目的是针对上述问题,提供一种数据可视化展示方法;

本方案的另一目的是提供一种基于上述方法的数据可视化展示系统。

为达到上述目的,本发明采用了下列技术方案:

本发明的数据可视化展示方法,包括:

a:根据数据展示要求提取目标数据并将所述目标数据转换为结果数据,然后将所述结果数据加载至数据表中指定的字段;

b:根据展示指令查询并提取数据表中相应的数据内容,并将所述数据内容进行渲染处理以获得渲染数据;

c:将渲染数据发送至数据展示模块,并由数据展示模块加载网页及展示渲染数据;

在上述的数据可视化展示方法中,在步骤b中,获得渲染数据的具体方法包括:

b1:通过数据请求模块接收包括url的展示指令,并将所述url传递给数据调用模块;

b2:通过所述数据调用模块从数据表中查询并提取相应的数据内容,将提取结果返回给所述数据请求模块;

b3:通过所述数据请求模块对返回的提取结果进行解析并渲染处理以获得渲染数据。

在上述的数据可视化展示方法中,定时或不定时循环执行方法a,以定时或不定时更新所述数据表。

在上述的数据可视化展示方法中,在步骤a中,从原始数据存储模块中提取所述目标数据;

且在方法a之前,还包括:

将系统经过数据清洗的原始数据存储至原始数据存储模块;

且所述原始数据存储模块采用hadoop集群。

在上述的数据可视化展示方法中,在方法a中,通过数据展示要求所对应的计算模型将所述目标数据转换为结果数据。

在上述的数据可视化展示方法中,所述数据表存放于数据库模块中,且所述数据库模块采用mysql,通过sqoop将所述结果数据加载至数据表中指定的字段。

一种数据可视化展示系统,包括,

数据展示模块,用于加载网页,展示渲染数据;

数据库模块,用于存储数据表;

数据更新模块,用于根据数据展示要求提取目标数据并将所述目标数据转换为结果数据存入所述数据表中;

数据处理模块,用于根据展示指令查询并提取所述数据表中相应的数据内容,并将所述数据内容进行渲染处理以获得渲染数据,然后将所述渲染数据发送给所述数据展示模块;

在上述的数据可视化展示系统中,还包括有原始数据存储模块,用于存储本系统经过清洗的原始数据,且所述数据更新模块从原始数据存储模块中提取所述目标数据。

在上述的数据可视化展示系统中,所述数据更新模块包括etl提取模块,且所述数据更新模块连接有定时器模块,所述定时器模块用于定时触发数据更新模块执行更新任务。

在上述的数据可视化展示系统中,所述的数据处理模块包括数据调用模块和数据请求模块,其中,

数据请求模块,用于接收包括url的展示指令,然后将所述url传递给所述数据调用模块,之后接收所述数据调用模块返回的提取结果,并对所述提取数据进行解析并渲染处理以获得渲染数据,然后将渲染数据发送给所述数据展示模块以进行前端渲染;

数据调用模块,用于接收并解析所述url,根据解析结果从数据表中查询并提取相应的数据内容,并将提取结果返回给所述数据请求模块。

本发明相较于现有技术具有以下优点:1、不仅在大数据中挖掘数据,还对挖掘到的数据进行深入分析,以满足用户个性化内容展示要求;2、将大数据分析的结果可视化方式展示,取代传统的数据表表和数据分析报告,提高了运营效率;3、将传统关系型数据库与hdfs/hive相结合,充分利用大数据集群的计算优势,实现了个性化指标的深度挖掘和计算,以及展示复杂且丰富的数据指标;4、将原始数据存储模块和数据库模块分离,提高系统的可扩展性。

附图说明

图1是本发明实施例一的系统框图;

图2是本发明实施例二的方法流程图;

图3是本发明实施例二中渲染方法流程图。

附图标记:数据展示模块1;数据库模块2;数据更新模块3;etl提取模块31;数据处理模块4;数据调用模块41;数据请求模块42;原始数据存储模块5;定时器模块6;服务器模块7。

具体实施方式

虽然流程图将各项操作描述成顺序的处理,但是其中的许多操作可以被并行地、并发地或者同时实施。各项操作的顺序可以被重新安排。当其操作完成时处理可以被终止,但是还可以具有未包括在附图中的附加步骤。处理可以对应于方法、函数、规程、子例程、子程序等等。

这里所使用的术语“和/或”包括其中一个或更多所列出的相关联项目的任意和所有组合。当一个单元被称为“连接”或“耦合”到另一单元时,其可以直接连接或耦合到所述另一单元,或者可以存在中间单元。

这里所使用的术语仅仅是为了描述具体实施例而不意图限制示例性实施例。除非上下文明确地另有所指,否则这里所使用的单数形式“一个”、“一项”还意图包括复数。还应当理解的是,这里所使用的术语“包括”和/或“包含”规定所陈述的特征、整数、步骤、操作、单元和/或组件的存在,而不排除存在或添加一个或更多其他特征、整数、步骤、操作、单元、组件和/或其组合。

本发明的数据可视化展示方法及系统,主要应用于运营数据的可视化处理,解决了现有技术中数据统计内容过于基础,数据展示缺乏针对性,需要用户自行根据报表经过自己的计算比较获取更有针对性的数据内容,导致用户的工作量较大等问题,以下是本发明的优选实施例并结合附图,对本发明的技术方案作进一步的描述,但本发明不限于这些实施例。

实施例一

如图1所示,本实施例公开了一种数据可视化展示系统,包括:

原始数据存储模块5,用于存储本系统经过清洗的原始数据,且数据更新模块3从原始数据存储模块5中提取目标数据;

这里的原始数据存储模块5采用hadoop集群,利用hdfs/hive存储产品的原始数据,如mac、ip等产品信息数据;用户id、性别、年龄等用户注册数据;启动次数、浏览时长、使用频度等用户行为数据等;

数据展示模块1,用于加载网页,即web页面,展示渲染数据,为用户提供交互、查询、下载等功能;

服务器模块7,为本系统提供后台服务,采用nginx提供反向代理服务,部署python+django应用程序;

数据库模块2,该模块采用mysql作为数据库,用于存储数据表;

数据更新模块3,用于根据数据展示要求提取目标数据并将所述目标数据转换为结果数据存入所述数据表中;

具体地,数据更新模块3包括etl提取模块31,该etl提取模块31主要包括2个部分:提取计算模型和数据加载过程,提取计算模型过程:根据数据展示的要求从原始数据存储模块5中提取目标数据,通过计算模型将提取的目标数据转换为结果数据,如日活率、周活率、月活率、用户构成、用户分布等,得到的结果数据存储在hdfs中;数据加载过程:采用sqoop将hdfs中存储的结果数据加载到数据库模块2中,即将结果数据存入至数据表中特定的字段中;

进一步地,数据更新模块3连接有定时器模块6,该定时器模块6用于定时触发数据更新模块3执行更新任务,其按照数据展示内容频率的不同,分为日定时、周定时、月定时等定时更新方式。

数据处理模块4,用于根据展示指令查询并提取所述数据表中相应的数据内容,并将所述数据内容进行渲染处理以获得渲染数据,然后将所述渲染数据发送给所述数据展示模块1;

所述的数据处理模块4包括数据调用模块41和数据请求模块42,其中,

数据请求模块42,该模块接收客户端提交的http请求,即包括url的展示指令,通过uwsgi将url传递给数据调用模块41,在接收到数据调用模块41的返回的提取结果后,对所述提取数据进行解析并渲染处理以获得渲染数据,然后将渲染数据发送给所述数据展示模块1以进行前端渲染;

数据调用模块41,用于接收并解析由数据请求模块42传递的url,根据解析结果从数据表中查询并提取相应的数据内容,并将提取结果封装成json格式返回给数据请求模块42。

本实施例将传统关系型数据库与hdfs/hive相结合,充分利用大数据集群的计算优势,实现了个性化指标的深度挖掘和计算,以及展示复杂且丰富的数据指标;此外,本系统将原始数据存储模块5和数据库模块2分离,提高系统的可扩展性,原始数据存储模块5是个数据仓库,可以存储各种各样的产品数据,相当于是个数据资源池,数据库模块2专为可视化系统设计的数据存储单元,数据库模块2中存放的都是经过数据挖掘,数据计算的结果,各个数据模块可以独立维护,互不影响。

实施例二

如图2所示,本实施例公开了一种数据可视化展示方法,包括:

a:根据数据展示要求提取目标数据并将所述目标数据转换为结果数据,然后将所述结果数据加载至数据表中指定的字段;

在该步骤中,从原始数据存储模块5中提取所述目标数据;原始数据存储模块5中存储有经过数据清洗的原始数据;

具体地,数据展示要求是指用户希望看到的内容,如日活率、周活率、月活率、用户构成、用户分布,以及当日回流用户占所有用户的比值等,针对当日回流用户占所有用户的比值,根据数据展示要求就需要提取:当日用户总量、当日活跃用户列表,流失用户列表等数据;

进一步地,在方法a中,通过数据展示要求所对应的计算模型将所述目标数据转换为结果数据,这里的计算模型包括有若干用于计算数据展示要求所要求展示的数据的计算公式,例如,还是使用前述的回流实例,对应的计算公式就是:当日回流用户占所有用户的比值=流失用户列表中在当日有使用记录的用户总和/当日用户总量;

进一步地,这里计算公式的计算过程由hive脚本实现。

经过从原始数据存储模块5中提取目标数据后,使用相应的计算公式对目标数据进行处理计算后获得结果数据,然后将结果数据加载至数据表中指定的字段即可完成数据表的更新。

并且,定时或不定时循环执行方法a,以定时或不定时更新所述数据表。

其中,数据表按照本系统需要展示的内容设计,也就是说,本系统需要为用户展示什么内容,就在数据表中存储什么内容,而存储的内容都是经过提取目标数据后,采用对应的计算公式对目标数据进行处理计算后获得,数据表中不同的字段对应有不同的展示内容,例如,数据表中第一字段中存储的是当日回流用户占所有用户的比值,第二字段存储的是周活率,那么每次获得的当日回流用户占所有用户的比值就存入至第一字段中,每次获得的周活率就存储至第二字段中,依此类推。

b:根据展示指令查询并提取数据表中相应的数据内容,并将所述数据内容进行渲染处理以获得渲染数据;

进一步地,如图3所示,在步骤b中,获得渲染数据的具体方法包括:

b1:通过数据请求模块42接收包括url的展示指令,并将所述url传递给数据调用模块41;

b2:通过所述数据调用模块41从数据表中查询并提取相应的数据内容,将提取结果返回给所述数据请求模块42;

b3:通过所述数据请求模块42对返回的提取结果进行解析并渲染处理以获得渲染数据。

c:将渲染数据发送至数据展示模块1,并由数据展示模块1加载网页及展示渲染数据;

下面以“回流用户”这个常见的运营指标为例,具体说明本方法的实现过程:

1、定义“回流用户”并确定其展示方式,回流用户定义为:在当日的流失用户名单中有使用记录的用户,其中流失用户的定义为:100日内未有使用记录的用户。展示内容为回流用户占所有用户的比值,展示方式为环形饼状图,每日刷新;

2、在原始数据存储模块5中存储有用户的日志信息,存储在hdfs/hive集群中,这些数据是已经经过数据清洗的数据,包括用户的加密id、年龄、性别、地域、产品使用信息等;

3、etl提取模块31从原始数据存储模块5中提取计算需要的数据,并计算“回流用户”的数量:1)提取出用户的总量;2)提取出近100日每个用户的使用频率,将其中使用频率为0的用户筛选出来,结果作为流失用户列表;3)提取当日活跃用户列表;4)关联流失用户列表和当日活跃用户列表,提取出在流失用户列表中出现的用户,作为回流用户列表;5)在4)中进一步提取回流用户总量;6)计算展示指标:回流用户总量/用户的总量,前述计算由hive脚本实现,并由定时器模块6每日定时触发。

4、步骤3每日会得到一个计算结果,将该结果通过sqoop组件加载到数据库模块2中数据表的指定字段中,完成数据库的更新。

5、数据请求模块42将相应的url传递给数据调用模块41,数据调用模块41从数据库模块2中查询回流用户的展示数据内容,将查询结果封装成json格式返回给数据请求模块42,数据请求模块42对返回内容进行解析,解析完成后将结果推送至数据展示模块1进行前端渲染。

本发明不仅局限于数据挖掘和基础统计,更对数据进行自主分析,以可视化方式展示分析结果,减轻用户的工作量,提高运营效率。

本文中所描述的具体实施例仅仅是对本发明作举例说明。本发明所属技术领域的技术人员可以对所描述的具体实施例做各种各样的修改或补充或采用类似的方式替代,但并不会偏离本发明的精神或者超越所附权利要求书所定义的范围。

此外,尽管本文较多地使用了数据展示模块1;数据库模块2;数据更新模块3;etl提取模块31;数据处理模块4;数据调用模块41;数据请求模块42;原始数据存储模块5;定时器模块6等术语,但并不排除使用其它术语的可能性。使用这些术语仅仅是为了更方便地描述和解释本发明的本质把它们解释成任何一种附加的限制都是与本发明精神相违背的。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1