一种实现数据动态缓存处理的装置及方法

文档序号:6352655阅读:220来源:国知局
专利名称:一种实现数据动态缓存处理的装置及方法
技术领域
本发明涉及数据处理技术领域,特别是涉及一种实现数据动态缓存处理的装置 及方法。
背景技术
随着信息技术的不断发展,企业生产经营对信息系统的依赖程度越来越高,反 映企业经营的各种报表也越来越多,如经营分析类报表的业务覆盖面越来越广,对于报 表查询的效率要求也越来越高。但是,对于经营分析类的报表一般需要进行大数据量的 处理,特别是对于集团企业、跨国公司等大型企业单位,这类报表的处理往往需要进行 海量数据的处理。因此,目前报表处理系统在进行报表处理中已经越来越不能满足效率 要求,如何提高报表处理的速度成为各企业在不断研究的问题。
目前,报表查询处理系统的缓存功能主要通过将历史点击过的报表以报表展现 文件的格式(如PDF、EXCEL、HTML格式)进行存储,在下次访问相同条件的报表 时,直接从读取已保存的报表文件进行展现。由于该缓存机制是通过按文件存储的方式 实现,没有将报表的数据进行结构化的存储,因此存在以下几方面不足
1、不同的报表经常出现使用相同上游数据的情况,其处理的维度及取数范围 往往存在一定的公共数据,目前的报表数据处理中一般采用传统的报表处理方式,对上 述报表处理中的公共数据必需在不同的报表处理中分别进行处理,产生了一定的重复计 算,造成系统资源的浪费,并使得系统处理效率不高。
2、同一张报表在不同维度上的查询条件往往存在某些相关的统计特性,而目前 的报表数据处理系统在缓存机制上采用传统的按照查询条件独立存放缓存数据,容易造 成数据的重复计算以及物理存放空间的冗余。发明内容
(一)要解决的技术问题
本发明为了克服目前报表数据处理中存在数据重复处理、重复存储,数据处理 效率低、冗余存储造成系统资源浪费的问题,提出一种实现数据动态缓存处理的装置及 方法。
( 二 )技术方案
为达到上述目的,本发明提供了一种实现数据动态缓存处理的装置,该装置包 括查询装置1、报表处理分解装置2、数据管理装置3、数据处理装置4、数据缓存库5和 报表展现装置6,其中
查询装置1,连接于报表处理分解装置2,用于实现报表处理分解装置2与报表 查询用户间的交互;
报表处理分解装置2,分别连接于查询装置1、数据管理装置3和数据处理装置 4,用于接收从查询装置1传入的报表查询指令,将该报表查询指令分解成其所包含的多条指标查询指令,然后将多条指标查询指令再形成一串查询指令流,并将该串查询指令 流传入数据处理装置4 ;
数据管理装置3,分别连接于报表处理分解装置2、数据处理装置4和报表展现 装置6,用于提供逻辑处理、数据处理的依据;
数据处理装置4,分别连接于报表处理分解装置2、数据管理装置3、数据缓存 库5和报表展现装置6,用于根据查询指令进行指标计算、高阶指标动态填充和报表数据 存储操作;
数据缓存库5,分别连接于数据处理装置4和报表展现装置6,用于存储缓存数 据;
报表展现装置6,分别连接于数据管理装置3、数据处理装置4和数据缓存库5, 向用户提供报表展现界面,根据数据缓存库5的数据以及数据管理装置3的报表表样进行 报表展现。
上述方案中,所述查询装置1向用户提供报表查询界面,接收用户输入的查询 条件,该查询条件至少包括报表频度、报表日期、机构名称和报表展现单位,并将该查 询条件信息传入报表处理分解装置2。
上述方案中,所述报表处理分解装置2接收到报表查询条件后,根据报表编号 读取数据管理装置3中与该报表相关的指标清单,再根据每个指标的指标编号读取数据 管理装置3中的维度编号组合,将查询条件中与维度编号相对应的值组合成指标维度 值,最后以数据处理查询指令流的形式传入数据处理装置4。
上述方案中,所述数据管理装置3包括报表表样存储单元301、报表属性存储单 元302、指标属性存储单元303和指标关系存储单元304,这4个单元相互独立,均分别 连接于报表处理分解装置2、数据处理装置4和报表展现装置6,其中
报表表样存储单元301,用于存储报表在空数据时的表样;
报表属性存储单元302,用于存储报表与指标的对应关系;
指标属性存储单元303,用于存储指标的属性信息;
指标关系存储单元304,用于存储指标和其高阶指标的对应关系。
上述方案中,所述数据处理装置4由相互连接的指标计算单元401和高阶指标填 充单元402构成,其中,该指标计算单元401对指标数据进行计算,在将指标数据计算完 毕后向高阶指标填充单元402发出填充指令,由高阶指标填充单元402对该指标的更高阶 的指标进行逐层计算。
上述方案中,所述指标计算单元401对指标数据进行计算,包括将数据管理 装置3传入的查询指令流以指标为单位分解成多个指令,并以指标为单位进行计算;在 指标计算过程中,如果该指标已经在其他报表中计算,那么则无须重复计算,直接从数 据缓存库5中读取,以实现数据共享;对于新计算出的每个指标,将其主动填入数据 缓存库5,实现以指标为单位进行存储,减少数据冗余;一旦该报表的所有指标计算完 成,将报表数据存入数据缓存库5。
上述方案中,所述高阶指标填充单元402根据指标计算单元401得到的指标数据 逐层计算出其高阶指标,包括对已计算完成的指标向其直接高阶指标进行填充,将其 直接高阶指标信息保存在数据缓存库5; —旦某高阶指标填充完毕,自动将其保存至数据缓存库5,并删除该高阶指标在数据缓存库5中的所有记录,以减少数据冗余;同时继 续向该高阶指标的直接高阶指标进行填充,从而实现低阶指标到高阶指标的逐层填充。
上述方案中,所述填充是根据高阶指标的计算公式,利用其已得到的低阶指标 值计算出高阶指标的过程值,直至所有低阶指标都得到,计算出高阶指标的最终值,则 填充完成。
上述方案中,所述数据缓存库5由指标数据存储单元501、填充数据存储单元 502和报表数据存储单元503构成,这3个单元相互独立,均分别连接于数据处理装置4 和报表展现装置6,其中
指标数据存储单元501,用于以指标和查询条件为单位存储指标数值,使不同报 表中使用到的相同指标得到数据共享;
填充数据存储单元502,用于存储当前指标数据向直接高阶指标数据填充的中间结果;
报表数据存储单元503,用于存储当前查询报表的结果数据,保存周期为报表指 标计算完毕到报表查询完毕。
为达到上述目的,本发明还提供了一种实现数据动态缓存处理的方法,应用于 所述的实现数据动态缓存处理的装置,该方法包括
报表处理分解装置2接收从查询装置1传入的报表查询指令,将该报表查询指令 分解成其所包含的多条指标查询指令,然后将多条指标查询指令再形成一串查询指令流 传入数据处理装置4 ;
数据处理装置4根据该串查询指令流进行指标计算,根据该指标计算结果逐层 计算出其高阶指标,并对该高阶指标动态填充,然后将得到的报表数据存储到数据缓存 库5中;以及
报表展现装置6根据数据缓存库5的数据以及数据管理装置3的报表表样进行报 表展现。
上述方案中,所述报表处理分解装置2接收从查询装置1传入的报表查询指令, 将该报表查询指令分解成其所包含的多条指标查询指令,然后将多条指标查询指令再形 成一串查询指令流传入数据处理装置4,包括所述报表处理分解装置2接收从查询装 置1传入的报表查询指令后,根据报表编号读取数据管理装置3中与该报表相关的指标清 单,再根据每个指标的指标编号读取数据管理装置3中的维度编号组合,将查询条件中 与维度编号相对应的值组合成指标维度值,最后以数据处理查询指令流的形式传入数据 处理装置4。
上述方案中,所述数据处理装置4根据该串查询指令流进行指标计算,包括 数据处理装置4将数据管理装置3传入的查询指令流以指标为单位分解成多个指令,并以 指标为单位进行计算;在指标计算过程中,如果该指标已经在其他报表中计算,那么则 无须重复计算,直接从数据缓存库5中读取,以实现数据共享;对于新计算出的每个指 标,将其主动填入数据缓存库5,实现以指标为单位进行存储,减少数据冗余;一旦该 报表的所有指标计算完成,将报表数据存入数据缓存库5。
上述方案中,所述数据处理装置4根据该指标计算结果逐层计算出其高阶指 标,并对该高阶指标动态填充,包括数据处理装置4对已计算完成的指标向其直接高阶指标进行填充,将其直接高阶指标信息保存在数据缓存库5 ; 一旦某高阶指标填充完 毕,自动将其保存至数据缓存库5,并删除该高阶指标在数据缓存库5中的所有记录,以 减少数据冗余;同时继续向该高阶指标的直接高阶指标进行填充,从而实现低阶指标到 高阶指标的逐层填充。
上述方案中,所述数据处理装置4由相互连接的指标计算单元401和高阶指标填 充单元402构成,所述数据缓存库5由指标数据存储单元501、填充数据存储单元502和 报表数据存储单元503构成,所述数据处理装置4根据该串查询指令流进行指标计算,根 据该指标计算结果逐层计算出其高阶指标,并对该高阶指标动态填充,然后将得到的报 表数据存储到数据缓存库5中,包括指标计算单元401接收报表处理分解装置2传入的 数据处理查询指令流,顺序读取指令,查询指标数据存储单元501中是否存在该指标、 查询条件的数据,如果存在,则从指标数据存储单元501中直接读取该指标的数据,并 存放到报表结果缓存单元503中;如果不存在,则查询填充数据存储单元502中是否存 在该指标编号的填充数据,如果存在,则计算该指标剩余的低阶数据,完成该指标的填 充,并将该指标数据存储到指标数据存储单元501中和报表结果缓存单元503中;如果 不存在,则根据指标属性存储单元303的指标算法以及指令中的查询条件计算该指标的 值,然后将该指标数据存储到指标数据存储单元501和报表结果缓存单元503中,同时指 标计算单元401将该指标数据传入高阶指标填充单元402,高阶指标填充单元402对该指 标的高阶指标进行填充。
上述方案中,所述高阶指标填充单元402对该指标的高阶指标进行填充,包 括
步骤300,高阶指标填充单元402接收指标计算单元401传入的指标数据;
步骤301,高阶指标填充单元402判断填充数据存储单元502中是否存在该指 标、该查询条件的直接高阶指标,如果存在,转步骤304;如果不存在,转步骤302;
步骤302,高阶指标填充单元402根据指标关系存储单元304找出该指标对应的 直接高阶指标;
步骤303,高阶指标填充单元402判断该指标是否存在直接高阶指标,如果存在 转步骤304 ;如果不存在,转步骤307 ;
步骤304,高阶指标填充单元402将将该指标数值填充在对应的高阶指标下,并 更新高阶指标填充饱和度;
步骤305,高阶指标填充单元402判断该直接高阶指标填充饱和度是否已饱和, 如果是,转步骤306;如果否,转步骤307;
步骤306,将该高阶指标的指标值存储到指标数据存储单元501,并删除填充数 据存储单元502中该高阶指标的所有数据,转步骤301 ;
步骤307,所有指标均不存在可继续填充的情况,流程结束。
(三)有益效果
从上述技术方案可以看出,本发明具有以下有益效果
1、本发明提供的实现数据动态缓存处理的装置及方法,通过采用按数据指标粒 度分层处理,对公共数据进行缓存、共享,并按数据指标逐层向上动态填充等技术处理 手段,克服了目前报表数据处理中存在数据重复处理、重复存储,数据处理效率低、冗余存储造成系统资源浪费的问题。
2、本发明提供的实现数据动态缓存处理的装置及方法,将报表指标进行逻辑拆 分后进行数据处理,避免了不同报表中对于相同指标进行重复计算,使数据得到充分共 享,提高了报表查询效率。
3、本发明提供的实现数据动态缓存处理的装置及方法,指标分层级制以及动态 填充机制充分利用了不同层级指标之间的共同性,使已有低阶指标数据得到充分复用, 降低了高阶指标的重新计算成本,提高了报表查询效率。
4、本发明提供的实现数据动态缓存处理的装置及方法,实现了报表数据的指标 化存储,有效减少了数据冗余。


图1是本发明提供的实现数据动态缓存处理装置的结构示意图2是依照本发明实施例的数据管理装置的结构示意图3是依照本发明实施例的数据处理装置的结构示意图4是依照本发明实施例的数据缓存库的结构示意图5是本发明提供的实现数据动态缓存处理的方法流程图6是依照本发明实施例的数据处理装置的方法流程图7是依照本发明实施例的高阶指标动态填充的方法流程图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚明白,以下结合具体实施例,并 参照附图,对本发明进一步详细说明。
本发明提供的实现数据动态缓存处理的装置及方法,首先,该装置按照业务逻 辑定义业务指标的含义及统计规则,生成统计项参数表和统计规则参数表。其次,根据 不同的报表逻辑生成相应的报表指标,统计规则,并提供计算公式和填充规则。报表查 询时,该装置首先通过查询装置获得用户查询的报表信息,报表处理分解装置接收用户 请求,解析查询条件并访问数据管理装置,获得报表对应的指标、统计规则等预定义信 息后,访问数据处理装置进行指标的计算和指标的填充,最后将处理后的数据填充到数 据缓存库中,并通过报表展现装置进行展现。
首先对本文所涉及到的术语进行说明
统计项——指具有唯一性的、业务含义明确的数据统计项,如发生额、余额、笔数等。
指标维度——指用于计算统计项的一类统计途径,如日期维度、地区维度等。
指标——指具有唯一性的、维度固定的统计项,如个人贷款正常余额、全行交 易笔数等。统计项只是业务含义明确,而指标具有确定的维度,因此也具有确定的统计 规则。
指标级别——对于具有相同统计项的指标,如果指标A的指标维度集合真包含 指标B的指标维度集合(例如A为每月个人贷款正常余额,B为每月个人贷款余额,假 设统计项为余额,A的维度除了每月,个人以外,比B多了一个正常(五级分类),它们之间存在这样的关系,正常余额+次级余额+关注余额+可疑余额+损失余额=余额), 则A是B的低阶指标,B是A的高阶指标;如果A和B的指标维度互不完全包含(例如 A为每月个人贷款正常余额,B为每月个人贷款次级余额),则A和B是同阶指标。如 果指标A的指标维度集合真包含指标B的指标维度集合,且在整个指标集合中,不存在 指标C,使得指标A的指标维度集合真包含指标C的指标维度集合,指标C的指标维度 集合真包含指标B的指标维度集合(例如,指标A的维度集合是Zl、Z2、Z3、Z4,指 标B的维度集合是Zl、Z2,且不存在维度集合为Zl、Z2、Z3的指标C),则指标A是 指标B的直接低阶指标,指标B是指标A的直接高阶指标。
指标填充——指将低阶指标数据逐步转化到高阶指标数据的过程。
下面对照附图进行具体描述
图1是本发明提供的实现数据动态缓存处理装置的结构示意图,该装置包括查 询装置1、报表处理分解装置2、数据管理装置3、数据处理装置4、数据缓存库5和报表 展现装置6。其中,查询装置1,连接于报表处理分解装置2,用于实现报表处理分解装 置2与报表查询用户间的交互。报表处理分解装置2,分别连接于查询装置1、数据管理 装置3和数据处理装置4,用于接收从查询装置1传入的报表查询指令,将该报表查询指 令分解成其所包含的多条指标查询指令,然后将多条指标查询指令再形成一串查询指令 流,并将该串查询指令流传入数据处理装置4。数据管理装置3,分别连接于报表处理分 解装置2、数据处理装置4和报表展现装置6,用于提供逻辑处理、数据处理的依据。数 据处理装置4,分别连接于报表处理分解装置2、数据管理装置3、数据缓存库5和报表 展现装置6,用于根据查询指令进行指标计算、高阶指标动态填充和报表数据存储操作。 数据缓存库5,分别连接于数据处理装置4和报表展现装置6,用于存储缓存数据。报表 展现装置6,分别连接于数据管理装置3、数据处理装置4和数据缓存库5,向用户提供报 表展现界面,根据数据缓存库5的数据以及数据管理装置3的报表表样进行报表展现。
查询装置1向用户提供报表查询界面,接收用户输入的报表频度、报表日期、 机构名称、报表展现单位等查询条件(与指标维度含义相同),并将这些查询条件信息传 入报表处理分解装置2。
报表处理分解装置2,分别连接于数据管理装置3和数据处理装置4,用于接收 从查询装置1传入的报表查询指令,将该报表查询指令分解成其所包含的多条指标查询 指令,然后将多条指标查询指令再形成一串指令流,并将该串指令流传入数据处理装置 4。从而将查询一张报表,变成查询多个指标。这样,在后续的处理中,就可以利用其 他报表已计算出的相同指标实现指标数据共享。具体处理流程如下
报表处理分解装置2接收到报表查询条件后,根据报表编号读取数据管理装置3 的报表指标存储单元303中与该报表相关的指标清单,再根据每个指标的指标编号读取 数据管理装置3的指标存储单元304中的维度编号组合,将查询条件中与维度编号相对应 的值组合成指标维度值,最后以数据处理指令流的形式传入数据处理装置4。
举例说明所查询的报表为XX业务日交易量,查询条件为日期20100101、地 区9999、币种001、业务大类01、业务小类02,该报表涉及2个指标大类发生额(指 标编号1001)、小类发生额(指标编号1002),其中大类发生额的维度组合为日期、地 区、比重、业务大类,小类发生额的维度组合为日期、地区、比重、业务小类,则指令流为1001,20100101|9999|001|01 ; 1002,20100101|9999|001|02。
图2是依照本发明实施例的数据管理装置的结构示意图,数据管理装置包括报 表表样存储单元301、报表属性存储单元302、指标属性存储单元303和指标关系存储单 元304,这4个单元相互独立,均分别连接于报表处理分解装置2、数据处理装置4和报 表展现装置6。
报表表样存储单元301,用于存储报表在空数据时的表样。
权利要求
1.一种实现数据动态缓存处理的装置,其特征在于,该装置包括查询装置(1)、报表 处理分解装置(2)、数据管理装置(3)、数据处理装置(4)、数据缓存库(5)和报表展现装 置(6),其中查询装置(1),连接于报表处理分解装置(2),用于实现报表处理分解装置(2)与报 表查询用户间的交互;报表处理分解装置(2),分别连接于查询装置(1)、数据管理装置(3)和数据处理装 置(4),用于接收从查询装置(1)传入的报表查询指令,将该报表查询指令分解成其所包 含的多条指标查询指令,然后将多条指标查询指令再形成一串查询指令流,并将该串查 询指令流传入数据处理装置(4);数据管理装置(3),分别连接于报表处理分解装置(2)、数据处理装置(4)和报表展 现装置(6),用于提供逻辑处理、数据处理的依据;数据处理装置(4),分别连接于报表处理分解装置(2)、数据管理装置(3)、数据缓 存库(5)和报表展现装置(6),用于根据查询指令进行指标计算、高阶指标动态填充和报 表数据存储操作;数据缓存库(5),分别连接于数据处理装置(4)和报表展现装置(6),用于存储缓存 数据;报表展现装置(6),分别连接于数据管理装置(3)、数据处理装置(4)和数据缓存库 (5),向用户提供报表展现界面,根据数据缓存库(5)的数据以及数据管理装置(3)的报 表表样进行报表展现。
2.根据权利要求1所述的实现数据动态缓存处理的装置,其特征在于,所述查询装置 (1)向用户提供报表查询界面,接收用户输入的查询条件,该查询条件至少包括报表频度、报表日期、机构名称和报表展现单位,并将该查询条件信息传入报表处理分解装置 ⑵。
3.根据权利要求1所述的实现数据动态缓存处理的装置,其特征在于,所述报表处理 分解装置(2)接收到报表查询条件后,根据报表编号读取数据管理装置(3)中与该报表相 关的指标清单,再根据每个指标的指标编号读取数据管理装置(3)中的维度编号组合, 将查询条件中与维度编号相对应的值组合成指标维度值,最后以数据处理查询指令流的 形式传入数据处理装置(4)。
4.根据权利要求1所述的实现数据动态缓存处理的装置,其特征在于,所述数据管 理装置(3)包括报表表样存储单元(301)、报表属性存储单元(302)、指标属性存储单元 (303)和指标关系存储单元(304),这4个单元相互独立,均分别连接于报表处理分解装 置(2)、数据处理装置(4)和报表展现装置(6),其中报表表样存储单元(301),用于存储报表在空数据时的表样;报表属性存储单元(302),用于存储报表与指标的对应关系;指标属性存储单元(303),用于存储指标的属性信息;指标关系存储单元(304),用于存储指标和其高阶指标的对应关系。
5.根据权利要求1所述的实现数据动态缓存处理的装置,其特征在于,所述数据处 理装置(4)由相互连接的指标计算单元(401)和高阶指标填充单元(402)构成,其中,该 指标计算单元(401)对指标数据进行计算,在将指标数据计算完毕后向高阶指标填充单2元(402)发出填充指令,由高阶指标填充单元(402)对该指标的更高阶的指标进行逐层计算
6.根据权利要求5所述的实现数据动态缓存处理的装置,其特征在于,所述指标计算 单元(401)对指标数据进行计算,包括将数据管理装置(3)传入的查询指令流以指标为单位分解成多个指令,并以指标为 单位进行计算;在指标计算过程中,如果该指标已经在其他报表中计算,那么则无须重 复计算,直接从数据缓存库(5)中读取,以实现数据共享;对于新计算出的每个指标, 将其主动填入数据缓存库(5),实现以指标为单位进行存储,减少数据冗余;一旦该报 表的所有指标计算完成,将报表数据存入数据缓存库(5)。
7.根据权利要求5所述的实现数据动态缓存处理的装置,其特征在于,所述高阶指 标填充单元(402)根据指标计算单元(401)得到的指标数据逐层计算出其高阶指标,包 括对已计算完成的指标向其直接高阶指标进行填充,将其直接高阶指标信息保存在数 据缓存库(5); 一旦某高阶指标填充完毕,自动将其保存至数据缓存库(5),并删除该高 阶指标在数据缓存库(5)中的所有记录,以减少数据冗余;同时继续向该高阶指标的直 接高阶指标进行填充,从而实现低阶指标到高阶指标的逐层填充。
8.根据权利要求7所述的实现数据动态缓存处理的装置,其特征在于,所述填充是根 据高阶指标的计算公式,利用其已得到的低阶指标值计算出高阶指标的过程值,直至所 有低阶指标都得到,计算出高阶指标的最终值,则填充完成。
9.根据权利要求1所述的实现数据动态缓存处理的装置,其特征在于,所述数据缓存 库(5)由指标数据存储单元(501)、填充数据存储单元(502)和报表数据存储单元(503) 构成,这3个单元相互独立,均分别连接于数据处理装置(4)和报表展现装置(6),其 中指标数据存储单元(501),用于以指标和查询条件为单位存储指标数值,使不同报表 中使用到的相同指标得到数据共享;填充数据存储单元(502),用于存储当前指标数据向直接高阶指标数据填充的中间结果;报表数据存储单元(503),用于存储当前查询报表的结果数据,保存周期为报表指标 计算完毕到报表查询完毕。
10.一种实现数据动态缓存处理的方法,应用于权利要求1所述的实现数据动态缓存 处理的装置,其特征在于,该方法包括报表处理分解装置(2)接收从查询装置(1)传入的报表查询指令,将该报表查询指令 分解成其所包含的多条指标查询指令,然后将多条指标查询指令再形成一串查询指令流 传入数据处理装置(4);数据处理装置(4)根据该串查询指令流进行指标计算,根据该指标计算结果逐层计 算出其高阶指标,并对该高阶指标动态填充,然后将得到的报表数据存储到数据缓存库 (5)中;以及报表展现装置(6)根据数据缓存库(5)的数据以及数据管理装置(3)的报表表样进行 报表展现。
11.根据权利要求10所述的实现数据动态缓存处理的方法,其特征在于,所述报表处 理分解装置(2)接收从查询装置(1)传入的报表查询指令,将该报表查询指令分解成其所 包含的多条指标查询指令,然后将多条指标查询指令再形成一串查询指令流传入数据处 理装置⑷,包括所述报表处理分解装置(2)接收从查询装置(1)传入的报表查询指令后,根据报表编 号读取数据管理装置(3)中与该报表相关的指标清单,再根据每个指标的指标编号读取 数据管理装置(3)中的维度编号组合,将查询条件中与维度编号相对应的值组合成指标 维度值,最后以数据处理查询指令流的形式传入数据处理装置(4)。
12.根据权利要求10所述的实现数据动态缓存处理的方法,其特征在于,所述数据处 理装置(4)根据该串查询指令流进行指标计算,包括数据处理装置(4)将数据管理装置(3)传入的查询指令流以指标为单位分解成多个 指令,并以指标为单位进行计算;在指标计算过程中,如果该指标已经在其他报表中计 算,那么则无须重复计算,直接从数据缓存库(5)中读取,以实现数据共享;对于新计 算出的每个指标,将其主动填入数据缓存库(5),实现以指标为单位进行存储,减少数据 冗余;一旦该报表的所有指标计算完成,将报表数据存入数据缓存库(5)。
13.根据权利要求10所述的实现数据动态缓存处理的方法,其特征在于,所述数据处 理装置(4)根据该指标计算结果逐层计算出其高阶指标,并对该高阶指标动态填充,包 括数据处理装置(4)对已计算完成的指标向其直接高阶指标进行填充,将其直接高阶 指标信息保存在数据缓存库(5); 一旦某高阶指标填充完毕,自动将其保存至数据缓存 库(5),并删除该高阶指标在数据缓存库(5)中的所有记录,以减少数据冗余;同时继续 向该高阶指标的直接高阶指标进行填充,从而实现低阶指标到高阶指标的逐层填充。
14.根据权利要求10所述的实现数据动态缓存处理的方法,其特征在于,所述数据 处理装置(4)由相互连接的指标计算单元(401)和高阶指标填充单元(402)构成,所述数 据缓存库(5)由指标数据存储单元(501)、填充数据存储单元(502)和报表数据存储单元 (503)构成,所述数据处理装置(4)根据该串查询指令流进行指标计算,根据该指标计算 结果逐层计算出其高阶指标,并对该高阶指标动态填充,然后将得到的报表数据存储到 数据缓存库(5)中,包括指标计算单元(401)接收报表处理分解装置(2)传入的数据处理查询指令流,顺序 读取指令,查询指标数据存储单元(501)中是否存在该指标、查询条件的数据,如果存 在,则从指标数据存储单元(501)中直接读取该指标的数据,并存放到报表结果缓存单 元(503)中;如果不存在,则查询填充数据存储单元(502)中是否存在该指标编号的填充 数据,如果存在,则计算该指标剩余的低阶数据,完成该指标的填充,并将该指标数据 存储到指标数据存储单元(501)中和报表结果缓存单元(503)中;如果不存在,则根据指 标属性存储单元(303)的指标算法以及指令中的查询条件计算该指标的值,然后将该指 标数据存储到指标数据存储单元(501)和报表结果缓存单元(503)中,同时指标计算单元 (401)将该指标数据传入高阶指标填充单元(402),高阶指标填充单元(402)对该指标的 高阶指标进行填充。
15.根据权利要求14所述的实现数据动态缓存处理的方法,其特征在于,所述高阶指标填充单元(402)对该指标的高阶指标进行填充,包括步骤300,高阶指标填充单元(402)接收指标计算单元(401)传入的指标数据; 步骤301,高阶指标填充单元(402)判断填充数据存储单元(502)中是否存在该指 标、该查询条件的直接高阶指标,如果存在,转步骤304;如果不存在,转步骤302;步骤302,高阶指标填充单元(402)根据指标关系存储单元(304)找出该指标对应的 直接高阶指标;步骤303,高阶指标填充单元(402)判断该指标是否存在直接高阶指标,如果存在转 步骤304 ;如果不存在,转步骤307 ;步骤304,高阶指标填充单元(402)将将该指标数值填充在对应的高阶指标下,并更 新高阶指标填充饱和度;步骤305,高阶指标填充单元(402)判断该直接高阶指标填充饱和度是否已饱和,如 果是,转步骤306;如果否,转步骤307;步骤306,将该高阶指标的指标值存储到指标数据存储单元(501),并删除填充数据 存储单元(502)中该高阶指标的所有数据,转步骤301 ;步骤307,所有指标均不存在可继续填充的情况,流程结束。
全文摘要
本发明公开了一种实现数据动态缓存处理的装置及方法。该装置包括查询装置、报表处理分解装置、数据管理装置、数据处理装置、数据缓存库和报表展现装置。报表处理分解装置接收从查询装置传入的报表查询指令,将该指令分解成其所包含的多条指标查询指令,然后再形成一串查询指令流传入数据处理装置;数据处理装置根据该串查询指令流进行指标计算,根据该指标计算结果逐层计算出其高阶指标,并对该高阶指标动态填充,然后将得到的报表数据存储到数据缓存库中;报表展现装置根据数据缓存库的数据以及数据管理装置的报表表样进行报表展现。本发明克服了报表数据处理中存在数据重复处理、重复存储,数据处理效率低、冗余存储造成系统资源浪费的问题。
文档编号G06F17/30GK102024062SQ20111000185
公开日2011年4月20日 申请日期2011年1月6日 优先权日2011年1月6日
发明者凌晓珂, 刘晗, 张毅, 李锐 申请人:中国工商银行股份有限公司
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1