一种数据的处理方法及装置与流程

文档序号:18409703发布日期:2019-08-10 00:52阅读:138来源:国知局
一种数据的处理方法及装置与流程

本发明涉及空间信息技术、计算机图形学、虚拟现实技术和计算机操作系统等领域,尤其涉及数据的处理方法及装置。



背景技术:

宏观与微观是互为对应的概念,通常用尺度来表示。数据的尺度分为客观存在的本征尺度与主观设定的非本征尺度。例如,地理研究对象的微观与宏观,以地理本征时空尺度为基础;地理研究视野的微观与宏观,以地理非本征时空尺度为基础。在gis里体现为空间数据所反映的是客观存在的本征的宏观与微观,电子地图的显示、空间分析计算所反映的是主观设定的非本征的宏观与微观。现有的方法在数据的组织、存储、索引、空间关系的分析计算等方面,一直不能解决客观存在的本征尺度与主观设定的非本征尺度之间的统一的问题,比如地图和数据之间、地图和数据的坐标点之间、甚至是和坐标点的数据位之间的对立统一,地图在不同的比例尺下,需要的数据不同,需要的数据的坐标点,以及坐标点的数据位都是不一样的,现有的方法一直解决不了这些问题。为了解决海量空间数据对服务器、传输、显示造成的压力,最终不得不采用服务器对空间数据进行预处理,先按照特定的专题样式渲染成一张地图图片,再按照金字塔结构的格网将地图切割成不同层级的栅格图片,对每个层级的切片进行编码,确定切片所具有的唯一索引值。当客户端通过放大、缩小来浏览空间数据时,客户端可以根据当前显示范围的坐标,按照相应的切片索引标准,直接计算出相应的切片索引并发送给服务器,服务器将相应的切片数据传输到客户端进行显示。虽然解决了地图显示时客观存在的本征尺度与主观设定的非本征尺度之间的部分统一,解决了地图显示的性能瓶颈,但是让系统的其他功能都不能实现了,反而制造了更多的、新的瓶颈问题。

分辨率,泛指量测或显示系统对细节的分辨能力。全国科学技术名词审定委员会审定公布的分辨率的定义是:分辨物理量细节的能力。

随着科学技术的不断进步,空间技术的快速发展和广泛应用,计算机图形学、虚拟现实、城市规划、文物修复、动画游戏、计算机辅助设计、地理信息系统、医学图形等以空间实体为基础的应用领域得到快速发展,数据呈爆炸式增长,海量数据的压缩、传输、显示、分析已经成了制约这些行业发展的主要的技术瓶颈。

从屏幕的数据显示的角度来看,屏幕的尺度、像素的尺度都是有限的,数据显示在电子屏幕的像素上,能看到的像素的个数是有限的,而每个像素在某一时刻只能显示一个数据,也就是说某个屏幕上能显示出来的数据的最大值是不变的,和有多么无限的数据无关,只和屏幕的分辨率有关。

(1)绘制,只将能最终被看到的数据进行绘制,则解决了显示效率同数据量之间的矛盾。

(2)传输,只将这些数据通过网络传输到前端,则解决了网络带宽同数据量之间的矛盾。

(3)读取,只读这些数据,并且这些数据集中在一个文件中存储,则解决了磁盘读取的压力。

(4)查询,只读这些数据的关键是索引只查出了这些数据,而且是请求数据的客户端自己根据索引进行查询检索,数据在服务器端根据索引的索引项进行分布式存储,客户端通过索引就已经检索出所要读取的数据文件中的数据块,对服务器没有数据查询的压力。而且索引的数据量要足够小,并且不能随着数据量的增长而成比例的增长,否则到了一定的数据量,索引的网络传输就是瓶颈。

所有的问题统一为索引的问题,只要把索引的问题解决了其他的瓶颈问题就可以迎刃而解,而上述索引所要解决的问题是要有切片索引的所有优点,但是能将数据根据空间关系分开进行分布式存储,而不是将数据切开后分布式存储,通过索引实现简单和复杂的统一,即以简单的索引关系来实现任意复杂的空间数据的组织、管理、存储、查询、传输、显示和分析。

索引通过非本征尺度和本征尺度的统一,解决数据读取、传输、显示、分析计算等用户在不同尺度下(非本征尺度)查看部分与整体、宏观与微观的数据,在不同尺度下对数据进行分析计算的性能问题,解决有限与无限之间的对立,即数据的本征尺度和主观设定的非本征尺度融合,从宏观的数据集的数据,到组成数据最小的数据位的数据都能反映主观设定的非本征尺和数据本征尺度的统一。

索引通过尺度实现数据之间空间关系的简单与复杂的统一,解决数据的存储、读取、分析计算的功能(功能能否实现的问题,如实现将数据分开而不是先有技术的切开存储)和性能的问题。不同的尺度下数据之间的空间关系呈现出简单与复杂,比如在大尺度下数据之间的空间关系简单到只需要考虑重合与不重合,然后确定哪些数据放在索引的索引项中建立子索引进行管理,小尺度下数据之间的空间关系表现为包含、相交、相切等复杂的空间关系,则将这些数据可以放在索引的数据项中直接管理,不再建立子索引管理,索引中不同的数据项作为数据管理的数据块、数据库管理的数据记录、文件等存储于内存、硬盘等各种存储设备之中。

索引通过尺度将数据中对应于不同尺度的数据进行统一进行查询、管理、存储、分析计算,比如对宏观的数据集合、描述一个对象的数据(如面数据)、坐标数据(如组成面数据的坐标点)、微观的数据位(如组成坐标数据的各个数据位的数据)等所有形式的数据都通过索引中不同的尺度进行统一管理、分析、运算等等。



技术实现要素:

有鉴于此,本发明提供一种数据的处理方法及装置。其具体方案如下:

一种数据的处理方法,包括:

设定数据的尺度;

根据所述的数据的尺度分析计算数据之间的相互关系;

按照设定的处理类型对应的处理方法,根据所述的相互关系处理所述数据。

优选的,所述设定数据的尺度的过程包括:

所述的数据包括但不限于宏观的数据集合、描述一个对象的数据(如面数据)、坐标数据(如组成面数据的坐标点)、微观的数据位(如组成坐标数据的各个数据位的数据)等所有形式的数据;

所述数据的尺度是表示数据的宏观与微观的变量,对于数据,尺度越大相对于尺度小而言就越宏观,尺度越小相对于尺度大而言就越微观。

优选的,所述设定数据的尺度的过程包括:

所述数据的尺度包括但不限于数据本身的空间尺度、时间尺度。

优选的,所述设定数据的尺度的过程包括:

所述数据的尺度包括但不限于观察数据的尺度,如空间数据进行计算机显示时的放大比例;

空间数据的尺度包括但不限于空间数据的分辨率。

优选的,所述设定数据的尺度的过程包括:

所述的设定数据的尺度包括但不限于:预先设定的尺度、临时设定的尺度、数据处理过程中计算出来的尺度等任何情况下的尺度。

优选的,所述根据所述的数据的尺度分析计算数据之间的相互关系的过程包括:

所述的数据之间的相互关系包括但不限于空间关系、时间关系、尺度关系。

优选的,所述按照设定的处理类型对应的处理方法,根据所述的相互关系处理所述数据的过程包括:

所述根据所述的相互关系处理所述数据包括但不限于:

依据不同尺度下数据之间的相互关系来处理数据的索引建立、存储、读取、传输、显示、数据的分析等;

依据不同尺度和数据之间的相互关系来处理所述数据的索引的存储、读取、传输、显示、数据的分析等。

一种建立索引和分析管理数据的方法,其特征在于,包括:

设定数据的尺度;

根据所述的数据的尺度分析计算数据之间的相互关系;

根据分析计算获得的数据之间的相互关系建立索引和分析管理数据。

优选的,所述设定数据的尺度的过程包括:

所述设定数据的尺度,包括预先设定的尺度、临时设定的尺度、数据处理过程中计算出来的尺度等任何情况下的尺度;

根据所述的设定数据的尺度确定索引的层次;

根据所述确定的索引的层次管理和检索数据。

优选的,所述根据分析计算获得的数据之间的相互关系建立索引和分析管理数据的过程包括:

根据具体情况确定设定建立索引的条件;

根据预先设定的建立索引的条件,将符合建立索引条件和符合建立索引的数据之间的相互关系的数据继续建立下一级索引;

将不符合建立索引条件和不符合建立索引的数据之间的相互关系的数据不再建立下一级索引。

优选的,所述根据具体情况确定设定建立索引的条件的过程包括:

所述根据具体情况确定设定建立索引的条件包括有条件和无条件,如给组成坐标数据的各个数据位的数据建立索引可以不设定建立索引的条件。

优选的、所述根据具体情况确定设定建立索引的条件的过程包括:

所述根据具体情况确定设定建立索引的条件包括但不限于一定的数据范围、数据量、数据个数中的一个或者多个指标的组合作为建立索引的条件。

优选的、所述数据范围包括:

所述的数据范围包括但不限于数据本身的范围,根据所述设定的数据的尺度计算出来的范围。

优选的,所述根据分析计算获得的数据之间的相互关系建立索引和分析管理数据的过程包括:

所述将符合建立索引条件和符合建立索引的数据之间的相互关系的数据继续建立下一级索引,将所述的下一级索引用索引的管理索引的索引项进行管理,通过所述管理索引的索引项,可以检索到所管理的索引;

所述将不符合建立索引条件和不符合建立索引的数据之间的相互关系的数据用索引的管理数据的索引项进行管理,通过所述管理数据的索引项,可以检索到数据。

优选的,所述根据分析计算获得的数据之间的相互关系建立索引和分析管理数据的过程包括:

将符合建立索引条件和根据所述设定的数据尺度分析计算数据之间的关系为重合的数据继续建立下一级索引;

所述下一级索引对应于下一级的数据的尺度;

所述下一级的数据的尺度的设定包括但不限于由本级尺度计算获得、外部赋值等直接或者间接的方法设定。

优选的,所述根据分析计算获得的数据之间的相互关系建立索引和分析管理数据的过程包括:

将符合建立索引条件和根据所述设定的数据尺度分析计算组成空间数据的坐标点重合为一个点的数据继续建立下一级索引。

优选的,所述建立索引和分析管理数据的方法的过程包括:

根据所述设定数据的尺度,对包括但不限于宏观的数据集合的数据、描述或表达对象的数据、直到微观的数据位的数据等建立统一的索引。

优选的,一种数据管理和存储的方法,其特征在于,包括:

根据所述建立的索引管理和存储数据。

优选的,所述根据所述建立的索引管理和存储数据的过程包括:

根据所述索引的管理数据的索引项作为管理和存储数据的单元,所述管理和存储数据的单元包括但不限于作为存储数据块、存储记录、存储文件等各种形式的数据管理和存储。

一种数据管理和存储的方法,其特征在于,包括:

设定数据的尺度;

根据所述的数据的尺度分析计算数据之间的相互关系;

根据分析计算获得的数据之间的相互关系来进行数据的管理和存储。

优选的,所述设定数据的尺度的过程包括:

根据不同尺度下数据之间关系的简单程度来设定数据管理的初始尺度。

优选的,所述设定数据的尺度的过程包括:

将使数据重合的尺度设定为数据管理的初始尺度;

所述数据重合包括但不限于所有数据形成一个重合、数据形成多个重合、一个数据的多个坐标点形成重合等各种重合形式。

优选的,所述根据分析计算获得的数据之间的相互关系来进行数据的管理和存储的过程包括:

将所述数据之间相互关系为重合的数据作为一个数据管理单元;

根据所述数据管理的初始尺度设定新的数据尺度;

根据所述新的数据尺度分析计算数据之间的相互关系,如果数据之间关系不只是重合关系,还包括但不限于相交、相切等复杂的相互关系的数据作为这个尺度下的数据存储单元;对于符合数据管理条件并且数据之间仍然重合的数据作为这个尺度下的数据管理单元,设定新的数据尺度重复上述过程;

所述符合数据管理条件包括但不限于数据个数、数据量、数据范围等其中的一个或者多个的组合;

所述数据范围包括但不限于数据在所述新的数据尺度下的数据显示范围。

一种数据显示的方法,其特征在于,包括:

根据显示数据的尺度确定对应于数据的尺度;

根据所述数据的尺度通过数据的索引检索需要显示的数据;

读取所述需要显示的数据用于数据显示。

优选的,所述根据显示数据的尺度确定对应于数据的尺度的过程包括:

所述数据的索引是根据不同的尺度建立的,所述的不同的尺度反映了数据本身的宏观与微观的情况;

所述数据显示的尺度反映的也是数据的宏观与微观的情况;

根据所述数据显示的尺度可以直接对应或者通过计算对应到具体的数据的尺度。

优选的,所述根据所述数据的尺度通过数据的索引检索需要显示的数据的过程包括:

根据所述数据的尺度通过数据的索引检索需要显示的数据包括以下一种或者几种数据:

(1)用检索到的管理索引的索引项作为显示数据进行显示,即在所述数据显示尺度对应的所述数据的尺度下,所述索引项管理的数据都显示为一个点;

(2)用检索到的数据中所述数据的尺度所对应的部分数据作为显示数据进行显示,即所述检索到的数据在所述数据显示尺度对应的所述数据的尺度下,一部分数据能够显示出来,其它数据因为数据之间的重合关系显示不出来,只将能够显示出来的这部分数据作为显示数据;

(3)用检索到的数据中所述数据的尺度所对应的部分数据位上的数据作为显示数据进行显示,即所述检索到的数据在所述数据显示尺度对应的所述数据的尺度下,一部分数据位的数据能够显示出来,只将能够显示出来的这部分数据位的数据作为显示数据;

(4)用检索到的数据作为显示数据进行显示;

(5)用检索到的数据中的一个或者多个代替其它具有重合关系的数据作为显示数据,即所述检索到的数据在所述数据显示尺度对应的所述数据的尺度下,因为数据之间的重合关系只有一部分数据能显示出来,只将能够显示出来的数据作为显示数据。

一种数据分析计算的方法,其特征在于,包括:

根据数据所对应的索引进行分析计算;

通过数据中不同的尺度所对应的数据进行分析计算。

优选的,所述的分析计算的过程包括:

所述的分析计算包括和尺度有关的分析计算、和尺度无关的分析计算;

所述的分析计算包括但不限于数据的空间关系计算、聚集性分析、热力图分析等等。

优选的,所述的分析计算的过程包括:

所述和尺度有关的分析计算通过尺度所对应的索引和数据进行分析计算。

优选的,所述根据索引进行数据的分析计算的过程包括:

根据数据在所述索引中不同的尺度所对应的索引数据的空间关系来分析计算。

优选的,所述根据数据所对应的索引进行分析计算的过程包括:

通过索引的分析计算确定数据之间包括但不限于肯定具有某种空间关系、可能具有某种空间关系。

优选的,所述通过数据中不同的尺度所对应的数据进行分析计算的过程包括:

通过数据中不同的尺度所对应的数据进行分析计算,首先使用数据中某个尺度下所对应的数据少,计算量小的数据进行分析计算,如果所述分析计算所要求的是数据之间具有确定的关系,那么所述使用数据中某个尺度下所对应的数据少,计算量小的数据进行分析计算的结果中如果存在可能具有某种关系的情况,需要使用所述可能具有某种关系对应的数据中某个尺度下(即更微观的尺度)对应更多的数据进行进一步分析计算,直到分析计算出数据之间确定具有某种空间关系为止。

优选的,所述分析计算的过程包括:

所述分析计算包括但不限于在客户端、服务器端等系统的各个部分的一个或者多个协同进行分析计算。

优选的,所述分析计算的过程包括:

所述分析计算包括但不限于在客户端部分、系统的边缘部分等非数据服务端使用索引、宏观尺度对应的数据进行分析计算,在数据存储端、数据服务端使用微观尺度对应的数据、原始数据进行分析计算。

一种数据渐进传输的方法,其特征在于,包括:

当需要请求增量数据时,发送增量数据请求,所述请求中包含请求尺度参数;

接收依据所述请求尺度参数和索引的尺度进行分析后获得的增量数据,所述增量数据为索引的增量数据;

接收依据所述请求尺度参数和数据的尺度进行分析后获得的增量数据,所述增量数据为数据的增量数据。

优选的,请求发送端缓存有在先缓存的数据的情况,具体步骤包括:

所述在先缓存的数据包括在先缓存的索引中相应尺度对应的索引数据、在先缓存的数据中相应尺度对应的数据。

优选的,请求发送端缓存有在先缓存的数据的情况,具体步骤包括:

确定当前的尺度参数;

获得在先缓存的数据所对应的最高级别的尺度参数;

判断所述在先缓存的数据所对应的最高级别的尺度参数和所述当前的尺度参数之间的关系,确定是否需要请求数据,若是,则继续执行后续的步骤,若否,则结束;

发送增量数据请求,所述请求中包含但不限于所述当前的尺度参数、在先缓存的数据中所对应的最高级别的尺度参数,称之为请求尺度参数;

接收依据所述请求尺度参数和索引的尺度参数进行分析后获得的增量数据,所述增量数据为索引的增量数据;

接收依据所述请求尺度参数和数据的尺度参数进行分析后获得的增量数据,所述增量数据为数据的增量数据;

将所述接收的增量数据插入到所述在先缓存的数据中。

优选的,所述尺度参数的确定的过程包括:

在索引中索引所管理的越精细、越微观的数据的索引项所对应的尺度参数的级别越高;

数据中的分辨率越高、越精细的数据所对应的尺度参数的级别越高。

一种数据渐进传输的方法,其特征在于,包括:

接收请求发送端发送的增量数据请求,所述增量数据请求中包含请求尺度参数;

依据所述请求尺度参数和索引中的尺度进行分析处理,确定索引中符合增量条件的索引数据为增量数据;

依据所述请求尺度参数和数据中的尺度进行分析处理,确定数据中符合增量条件的数据为增量数据;

发送所述增量数据到所述请求发送端。

优选的,当请求发送端存储有在先缓存的索引和数据时,所述请求尺度参数包括但不限于:当前的尺度参数、在先缓存的数据所对应尺度参数。

优选的,获得请求发送端所需要的增量数据过程包括:

接收请求发送端发送的增量数据请求,所述请求中包含请求尺度参数;

依据请求尺度参数中的当前的尺度参数对索引和数据进行分析处理,得到当前分析结果;

如果所述请求尺度参数中含有在先缓存尺度参数,其过程包括:

依据请求尺度参数中在先缓存的尺度参数对索引和数据进行分析处理,得到在先分析结果;

确定所述当前分析结果中符合增量条件的数据为增量数据,该步骤的具体过程包括:

确定在所述当前分析结果中,且不在所述在先分析结果中的数据为增量数据;

如果所述请求尺度参数中没有在先缓存尺度参数,其过程包括:

将当前分析结果的数据作为增量数据;

将所述当前尺度参数作为增量数据的当前最高级别的尺度参数;

发送所述增量数据到请求发送端。

一种数据的处理装置,包括:

设定尺度单元,用于确定数据的尺度,包括但不限于:预先设定的尺度、临时设定的尺度、数据处理过程中计算出来的尺度等任何情况下的尺度;

数据分析单元,用于根据所述的数据的尺度分析计算数据之间的相互关系;

数据处理单元,用于按照设定的处理类型对应的处理方法,根据所述的相互关系处理所述数据。

一种建立索引和分析管理数据的装置,其特征在于,包括:

设定尺度单元,用于确定数据的尺度,包括但不限于:预先设定的尺度、临时设定的尺度、数据处理过程中计算出来的尺度等任何情况下的尺度;

数据分析单元,用于根据所述的数据的尺度分析计算数据之间的相互关系;

索引生成单元,用于根据分析计算获得的数据之间的相互关系建立索引和分析管理数据;

分析管理单元,用于根据索引对数据进行存储、显示、分析计算、渐进传输的分析管理。

一种数据管理和存储的装置,其特征在于,包括:

设定尺度单元,用于确定数据的尺度,包括但不限于:预先设定的尺度、临时设定的尺度、数据处理过程中计算出来的尺度等任何情况下的尺度;

数据分析单元,用于根据所述的数据的尺度分析计算数据之间的相互关系;

管理和存储单元,用于根据分析计算获得的数据之间的相互关系来进行数据的管理和存储。

从上述的技术方案可以看出,本发明公开的数据的处理方法,有效地解决了海量数据的处理过程中服务器端、传输网络及客户端的数据的检索、读取、传输、显示和空间关系计算、空间分析等的性能瓶颈问题。通过索引解决了数据的有限与无限、宏观与微观、复杂与简单之间的统一,通过索引解决了数据的检索、存储、读取、传输、显示、分析计算、分布式管理与运算的功能和性能的问题。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。

图1为本发明实施例公开的一种数据处理方法的流程图。

图2为本发明实施例公开的一种数据管理和存储的方法的流程图。

图3为本发明实施例公开的一种建立索引和分析管理数据方法的流程图。

图4为本发明实施例公开的一种数据显示的方法的流程图。

图5为本发明实施例公开的一种数据分析计算的方法的流程图。

图6为本发明实施例公开的一种数据渐进传输的方法的流程图。

图7为本发明实施例公开的又一种数据渐进传输的方法的流程图。

图8为本发明实施例公开的一种数据的处理装置的结构示意图。

图9为本发明实施例公开的一种建立索引和分析管理数据装置的结构示意图。

图10为本发明实施例公开的一种数据管理和存储的装置的结构示意图。

具体实施方式

下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。

现实或者虚拟的对象都是通过数据来表达和描述的,这种表达和描述都存在着不同的尺度的,比如数据显示的放大和缩小,屏幕的分辨率,电子屏幕(视图窗口)是有不同的分辨率的,当数据在视图窗口中显示时,由于视图窗口的分辨率是有限的,当数据在视图窗口上绘制的图形比较小时,会有表现数据细节部分的数据会绘制在相同的像素上,当数据在视图窗口上绘制的图形比较大时,细节部分才能显示出来,也就是说,数据填充(绘制)的像素个数多,数据的分辨率就高尺度也就小,填充(绘制)的显示个数少,数据的分辨率就低尺度就大,因此,数据显示时,具有多尺度、多分辨率的特性。但目前的索引、数据管理、存储,没有记录数据的多尺度特性,在读取、传输和显示的时候全部传输和显示,制造了网络传输瓶颈和数据绘制显示的瓶颈,如果对数据进行自适应化简,又给服务器造成了计算瓶颈,数据的分析计算同样如此。因此本发明通过索引来解决上述技术瓶颈问题。

数据包括但不限于二维数据、三维数据以及多维数据等所有意义上的数据。

本发明实施例公开的一种数据处理方法的流程如图1所示,包括:

步骤s11、设定数据的尺度;

所述的数据包括但不限于宏观的数据集合、描述一个对象的数据(如面数据)、坐标数据(如组成面数据的坐标点)、微观的数据位(如组成坐标数据的各个数据位的数据)等所有形式的数据;

所述数据的尺度包括但不限于数据本身的空间尺度、时间尺度。

所述数据的尺度是表示数据的宏观与微观的变量,对于数据,尺度越大相对于尺度小而言就越宏观,尺度越小相对于尺度大而言就越微观。

所述数据的尺度包括但不限于观察数据的尺度,如空间数据进行计算机显示时的放大比例。

空间数据的尺度包括但不限于空间数据的分辨率。

所述的设定数据的尺度包括但不限于:预先设定的尺度、临时设定的尺度、数据处理过程中计算出来的尺度等任何情况下的尺度。

步骤s12、根据所述的数据的尺度分析计算数据之间的相互关系;

所述的数据之间的相互关系包括但不限于空间关系、时间关系、尺度关系。

不同的尺度下数据之间的空间关系呈现出简单与复杂的特性,比如在大尺度下数据之间的空间关系简单到只需要考虑重合与不重合,而不重合的数据也只有相邻、相离等简单的空间关系。

步骤s13、按照设定的处理类型对应的处理方法,根据所述的相互关系处理所述数据。

所述根据所述的相互关系处理所述数据包括但不限于:

依据不同尺度下数据之间的相互关系来处理数据的索引建立、存储、读取、传输、显示、数据的分析等问题;

依据不同尺度和数据之间的相互关系来处理所述数据的索引的存储、读取、传输、显示、数据的分析等。

本发明实施例公开的一种数据管理和存储的方法的流程如图2所示,包括:

步骤s21、设定数据的尺度;

根据不同尺度下数据之间关系的简单程度来设定数据管理的初始尺度。

将使数据重合的尺度设定为数据管理的初始尺度;

所述数据重合包括但不限于所有数据形成一个重合、数据形成多个重合、一个数据的多个坐标点形成重合等各种重合形式。

步骤s22、根据所述的数据的尺度分析计算数据之间的相互关系;

所述的相互关系包括但不限于重合、包含、相交、相切、分离等各种关系。

步骤s23、根据分析计算获得的数据之间的相互关系来进行数据的管理和存储。

将所述数据之间相互关系为重合的数据作为数据管理单元;

根据所述数据管理的初始尺度设定新的数据尺度;

根据所述新的数据尺度分析计算数据之间的相互关系,如果数据之间关系不只是重合关系,还包括但不限于相交、相切等复杂的相互关系的数据作为这个尺度下的数据存储单元;

对于符合数据管理条件并且数据之间仍然重合的数据作为所述新的数据尺度下的数据管理单元,再设定新的数据尺度重复上述过程;

所述符合数据管理条件包括但不限于数据个数、数据量、数据范围等其中的一个或者多个的组合;

所述数据范围包括但不限于数据在所述新的数据尺度下的数据显示范围。

本发明实施例公开的一种建立索引和分析管理数据的方法的流程如图3所示,包括:

步骤s31、设定数据的尺度;

所述设定数据的尺度,包括预先设定的尺度、临时设定的尺度、数据处理过程中计算出来的尺度等任何情况下的尺度;

根据所述的设定数据的尺度确定索引的层次;

根据所述确定的索引的层次管理和检索数据。

步骤s32、根据所述的数据的尺度分析计算数据之间的相互关系;

所述的数据之间的相互关系包括但不限于空间关系、时间关系、尺度关系。

不同的尺度下数据之间的空间关系呈现出简单与复杂的特性,比如在大尺度下数据之间的空间关系简单到只需要考虑重合与不重合,而不重合的数据也只有相邻、相离等简单的空间关系。

步骤s33、根据分析计算获得的数据之间的相互关系建立索引和分析管理数据。

根据具体情况确定设定建立索引的条件:

所述根据具体情况确定设定建立索引的条件包括有条件和无条件,如给组成坐标数据的各个数据位的数据建立索引可以不设定建立索引的条件;

所述的建立索引的条件包括但不限于一定的数据范围、数据量、数据个数中的一个或者多个指标的组合作为建立索引的条件;

所述的数据范围包括但不限于数据本身的范围,根据所述设定的数据的尺度计算出来的范围。

根据预先设定的建立索引的条件,将符合建立索引条件和符合建立索引的数据之间的相互关系的数据继续建立下一级索引;

将不符合建立索引条件和不符合建立索引的数据之间的相互关系的数据不再建立下一级索引。

将符合建立索引条件和根据所述设定的数据尺度分析计算数据之间的关系为重合的数据继续建立下一级索引;

所述下一级索引对应于下一级的数据的尺度;

所述下一级的数据的尺度的设定包括但不限于由本级尺度计算获得、外部赋值等直接或者间接的方法设定。

所述将符合建立索引条件和符合建立索引的数据之间的相互关系的数据继续建立下一级索引,将所述的下一级索引用索引的管理索引的索引项进行管理,通过所述管理索引的索引项,可以检索到所管理的索引;

所述将不符合建立索引条件和不符合建立索引的数据之间的相互关系的数据用索引的管理数据的索引项进行管理,通过所述管理数据的索引项,可以检索到数据。

将符合建立索引条件和根据所述设定的数据尺度分析计算组成空间数据的坐标点重合为一个点的数据继续建立下一级索引。

所述设定数据的尺度,对包括但不限于宏观的数据集合的数据、描述或表达对象的数据、直到微观的数据位的数据(如21.345,其中的4为小数点后第二个数据位的数据)等建立统一的索引。

根据尺度分析计算数据之间的相互关系,通过尺度对应的数据之间的相互关系建立索引,然后通过索引来分析管理数据,包括解决数据的存储、传输、显示、分析等等功能和性能上的技术问题,以下是本发明实施例公开的一种通过建立的索引管理和存储数据的方法,包括:

步骤s41、根据所述建立的索引管理和存储数据。

具体的过程包括:

步骤s51、根据所述索引的管理数据的索引项作为管理和存储数据的单元,所述管理和存储数据的单元包括但不限于作为存储数据块、存储记录、存储文件等各种形式的数据管理和存储。

本发明实施例公开的一种数据显示的方法的流程如图4所示,包括:

步骤s61、根据显示数据的尺度确定对应于数据的尺度;

所述数据的索引是根据不同的尺度建立的,所述的不同的尺度反映了数据本身的宏观与微观的情况;

所述显示数据的尺度反映的也是数据的宏观与微观的情况;

根据所述显示数据的尺度可以直接对应或者通过计算对应到具体的数据的尺度。

步骤s62、根据所述数据的尺度通过数据的索引检索需要显示的数据;

根据所述数据的尺度通过数据的索引检索需要显示的数据包括以下一种或者几种数据:

(1)用检索到的管理索引的索引项作为显示数据进行显示,即在所述数据显示尺度对应的所述数据的尺度下,所述索引项管理的数据都显示为一个点;

(2)用检索到的数据中所述数据的尺度所对应的部分数据作为显示数据进行显示,即所述检索到的数据在所述数据显示尺度对应的所述数据的尺度下,一部分数据能够显示出来,其它数据因为数据之间的重合关系显示不出来,只将能够显示出来的这部分数据作为显示数据;

(3)用检索到的数据中所述数据的尺度所对应的部分数据位上的数据作为显示数据进行显示,即所述检索到的数据在所述数据显示尺度对应的所述数据的尺度下,一部分数据位的数据能够显示出来,只将能够显示出来的这部分数据位的数据作为显示数据;

(4)用检索到的数据作为显示数据进行显示;

(5)用检索到的数据中的一个或者多个代替其它具有重合关系的数据作为显示数据,即所述检索到的数据在所述数据显示尺度对应的所述数据的尺度下,因为数据之间的重合关系只有一部分数据能显示出来,只将能够显示出来的数据作为显示数据。

步骤63、读取所述需要显示的数据用于数据显示。

所述读取包括从内存、硬盘等任何数据的存储设备上读取;

根据步骤s62,读取需要能够代替数据显示的索引数据和对应尺度下能够显示出来的数据用于显示。

本发明实施例公开的一种数据分析计算的方法的流程如图5所示,包括:

所述的分析计算包括和尺度有关的分析计算、和尺度无关的分析计算;

所述的分析计算包括但不限于数据的空间关系计算、聚集性分析、热力图分析等等。

所述和尺度有关的分析计算通过尺度所对应的索引和数据进行分析计算。

步骤s71、根据数据所对应的索引进行分析计算;

根据数据在所述索引中不同的尺度所对应的索引数据的空间关系来分析计算。

通过索引的分析计算确定数据之间包括但不限于肯定具有某种空间关系、肯定不具有某种空间关系、可能具有某种空间关系。

通过索引的分析计算数据之间具有相离、包含、相交的空间关系,那么数据之间肯定具有相离、包含、相交的空间关系;

通过索引的分析计算数据之间具有重合、相切的空间关系,那么数据之间可能具有重合、相切、相离、包含等空间关系,需要更精细的数据进一步分析计算确认数据之间的关系。

所述分析计算包括但不限于在客户端、服务器端等系统的各个部分的一个或者多个协同进行分析计算。

所述分析计算包括但不限于在客户端部分、系统的边缘部分等非数据服务端使用索引、宏观尺度对应的数据进行分析计算,在数据存储端、数据服务端使用微观尺度对应的数据、原始数据进行分析计算。

步骤s72、通过数据中不同的尺度所对应的数据进行分析计算。

通过数据中不同的尺度所对应的数据进行分析计算,首先使用数据中某个尺度下所对应的数据少,计算量小的数据进行分析计算,如果所述分析计算所要求的是数据之间具有确定的关系,那么所述使用数据中某个尺度下所对应的数据少,计算量小的数据进行分析计算的结果中如果存在可能具有某种关系的情况,需要使用所述可能具有某种关系对应的数据中某个尺度下(即更微观的尺度)对应更多的数据进行进一步分析计算,直到分析计算出数据之间确定具有某种空间关系为止。

所述使用数据中某个尺度下所对应的数据少,计算量小的数据进行分析计算,如果分析计算的结果为:数据之间具有相离、包含、相交的空间关系,那么数据之间肯定具有相离、包含、相交的空间关系;

所述使用数据中某个尺度下所对应的数据少,计算量小的数据进行分析计算,如果分析计算的结果为:数据之间具有重合、相切的空间关系,那么数据之间可能具有重合、相切、相离、包含等空间关系,需要更精细的数据进一步分析计算确认数据之间的关系。

本发明公开一种数据渐进传输的方法,其流程如图6所示,包括:

步骤s81、当需要请求增量数据时,发送增量数据请求,所述请求中包含尺度参数;

本实施例中的数据渐进传输方法适用于请求发送端,当请求发送端判断出需要请求增量数据时,向请求接收端发送增量数据请求,在请求中包含尺度参数。

当请求发送端存储没有在先缓存的索引时,所述请求尺度参数包括但不限于:当前的尺度参数;

当请求发送端存储有在先缓存的索引时,所述请求尺度参数包括但不限于:当前的尺度参数、在先缓存的索引数据所对应尺度参数;

当请求发送端存储有在先缓存的索引和数据时,所述请求尺度参数包括但不限于:当前的尺度参数、在先缓存的数据所对应尺度参数。

在索引中索引所管理的越精细、越微观的数据的索引项所对应的尺度参数的级别越高;

数据中的分辨率越高、越精细的数据所对应的尺度参数的级别越高。

请求发送端缓存有在先缓存的数据的情况,具体步骤包括:

确定当前的尺度参数;

获得在先缓存的数据所对应的最高级别的尺度参数;

判断所述在先缓存的数据所对应的最高级别的尺度参数和所述当前的尺度参数之间的关系,确定是否需要请求数据,若是,则继续执行后续的步骤,若否,则结束;

发送增量数据请求,所述请求中包含但不限于所述当前的尺度参数、在先缓存的数据中所对应的最高级别的尺度参数,称之为请求尺度参数;

所述在先缓存的数据包括在先缓存的索引中相应尺度对应的索引数据、在先缓存的数据中相应尺度对应的数据。

步骤s82、接收依据所述请求尺度参数和索引的尺度进行分析后获得的增量数据,所述增量数据为索引的增量数据;

接收依据所述请求尺度参数和索引的尺度参数进行分析后获得的增量数据,所述增量数据为索引的增量数据,如果有在先缓存的索引数据,将所述接收的增量数据插入到所述在先缓存的索引数据中,否则将所述接收的增量数据存为缓存数据。

步骤s83、接收依据所述请求尺度参数和数据的尺度进行分析后获得的增量数据,所述增量数据为数据的增量数据。

接收依据所述请求尺度参数和数据的尺度参数进行分析后获得的增量数据,所述增量数据为数据的增量数据,如果有在先缓存的数据,将所述接收的增量数据插入到所述在先缓存的数据中,否则将所述接收的增量数据存为缓存数据。

本实施例公开的数据渐进传输方法中,请求发送端在发送增量数据请求时,在请求中携带有当请求尺度参数,使得请求接收端可以依据所述请求尺度参数分析得到增量数据,保证了得到的增量数据能够无损显示,同时减小了数据传输量,提高了数据传输效率。

本发明公开的又一数据渐进传输方法流程如图7所示,包括:

步骤s91、接收请求发送端发送的增量数据请求,所述请求中包含请求尺度参数;

如果所述请求中包含的请求尺度参数中含有在先缓存尺度参数则说明所述请求发送端有在先缓存的数据。

步骤s92、依据请求尺度参数中的当前的尺度参数对索引和数据进行分析处理,得到当前分析结果;

根据所述当前的尺度参数将索引中所对应的尺度所包含的数据作为当前分析结果;

根据所述当前的尺度参数将数据中所对应的尺度所包含的数据作为当前分析结果。

如果所述请求尺度参数中含有在先缓存尺度参数,则执行步骤s93,否则执行步骤s94。

步骤s93、依据请求尺度参数中在先缓存的尺度参数对索引和数据进行分析处理,得到在先分析结果;

确定所述当前分析结果中符合增量条件的数据为增量数据,该步骤的具体过程包括:

确定在所述当前分析结果中,且不在所述在先分析结果中的数据为增量数据。

步骤s94、将当前分析结果的数据作为增量数据;

如果所述请求尺度参数中没有在先缓存尺度参数,其过程包括:

将当前分析结果的数据作为增量数据。

步骤s95、发送所述增量数据到请求发送端。

将所述当前尺度参数作为增量数据的当前最高级别的尺度参数;

发送所述增量数据到请求发送端。

如果请求发送端缓存有在先缓存的数据,需要将接收的增量数据插入到在先缓存的数据中去,实现数据重建,重建后的数据作为当前缓存的数据。

如果请求发送端没有缓存数据时,请求接收端在接收到增量数据请求后,依据请求尺度参数对数据按照当前的尺度参数进行分析,得到的数据即为增量数据。请求发送端接收到增量数据后,将增量数据缓存,以便于以此作为在先缓存数据,进行后续的渐进传输处理。

本发明同时公开了一种数据的处理装置,其结构如图8所示,包括:

设定尺度单元101,用于确定数据的尺度,包括但不限于:预先设定的尺度、临时设定的尺度、数据处理过程中计算出来的尺度等任何情况下的尺度;

数据分析单元102,用于根据所述的数据的尺度分析计算数据之间的相互关系;

数据处理单元103,用于按照设定的处理类型对应的处理方法,根据所述的相互关系处理所述数据。

本实施例只是公开了其较优的实现方式,其具体工作过程请参考图1-7中任意一幅所示流程,在此不在赘述。

本发明还公开了一种建立索引和分析管理数据的装置,其结构如图9所示,包括:

设定尺度单元111,用于确定数据的尺度,包括但不限于:预先设定的尺度、临时设定的尺度、数据处理过程中计算出来的尺度等任何情况下的尺度;

数据分析单元112,用于根据所述的数据的尺度分析计算数据之间的相互关系;

索引生成单元113,用于根据分析计算获得的数据之间的相互关系建立索引和分析管理数据;

分析管理单元114,用于根据索引对数据进行存储、显示、分析计算、渐进传输的分析管理。

本实施例只是公开了其较优的实现方式,其具体工作过程请参考图3-7中任意一幅所示流程,在此不在赘述。

本发明还公开了一种数据管理和存储的装置,其结构如图10所示,包括:

设定尺度单元121,用于确定数据的尺度,包括但不限于:预先设定的尺度、临时设定的尺度、数据处理过程中计算出来的尺度等任何情况下的尺度;

数据分析单元122,用于根据所述的数据的尺度分析计算数据之间的相互关系;

管理和存储单元123,用于根据分析计算获得的数据之间的相互关系来进行数据的管理和存储。

本实施例只是公开了其较优的实现方式,其具体工作过程请参考图2所示流程,在此不在赘述。

本发明公开的一种数据处理方法及装置可以设置在计算机内,也可以设置在手机或其他设备内。

本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对于实施例公开的装置而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。

专业人员还可以进一步意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。

结合本文中所公开的实施例描述的方法或算法的步骤可以直接用硬件、处理器执行的软件模块,或者二者的结合来实施。软件模块可以置于随机存储器(ram)、内存、只读存储器(rom)、电可编程rom、电可擦除可编程rom、寄存器、硬盘、可移动磁盘、cd-rom、或技术领域内所公知的任意其它形式的存储介质中。

对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1