一种数据处理的方法和装置的制造方法

文档序号:9274588阅读:235来源:国知局
一种数据处理的方法和装置的制造方法
【技术领域】
[0001]本发明涉及计算机应用领域,特别涉及一种数据处理的方法和装置。
【背景技术】
[0002]随着计算机应用越来越广泛,用户对于其处理数据的速度要求越来越高,那么,多进程并行化的处理数据的方式也就应运而生。
[0003]多进程并行化处理数据的方式主要是在二维化的系统中运行,如在以C语言为基础的系统可以通过多个处理器CPU同时运行多个进程来处理海量的数据,例如:计算机将文件A中的数据封装成了资源a、资源b和资源C,当这封装后的资源a、资源b和资源c间不涉及依赖关系时,计算机可同时调用进程1、进程2和进程3同时分别处理资源a、资源b和资源C,即进程I处理资源a、进程2处理资源b和进程3处理资源C,而在数据处理过程中,进程I将对资源a进行加锁保护、进程2对资源b进行加锁保护以及进程3对资源c进行加锁保护,那么,当有新的进程4想要请求或处理文件A中的资源a时,需要等待进程I对资源a解除锁保护后才可以请求或处理资源a。
[0004]也就是说,当两个进程间因为请求或处理同一个资源发生冲突,而不得不使其中一个进程暂停运行并进行等待,产生进程互斥的行为,而且随着进程数量的增加,这种进程互斥将更加的明显,一定程度上,阻碍了计算机进程的并行计算。

【发明内容】

[0005]本发明提供一种数据处理的方法和装置,以促进计算机进程的并行计算。
[0006]一种数据处理的方法,建立数据空间,将数据的指针和地址信息存储在所述数据空间;为所述数据空间划分三维以上的空间维度,使计算机的进程运行在所述三维以上的空间维度上,不同空间维度间的进程没有依赖性;还包括:
[0007]通过存储于所述数据空间中的指针和地址信息,将待处理数据载入所述数据空间;
[0008]将所述待处理数据分配给处于不同空间维度的进程;
[0009]控制不同空间维度的进程并行处理被分配的所述待处理数据。
[0010]优选地,所述空间维度包括五维的空间维度,其中,三个维度用于标记所述待处理数据在空间中的地址,另两个维度包括:权限维度和时间维度;
[0011]所述将所述待处理数据分配给处于不同空间维度的进程,包括:通过所述待处理数据在空间中的地址,将所述待处理数据分配给处于不同空间维度的进程;
[0012]所述控制不同空间维度的进程并行处理被分配的待处理数据,包括:所述权限维度与所述时间维度间的进程以所述待处理数据为基础,进行非重叠的互斥访问。
[0013]优选地,所述控制不同空间维度的进程并行处理被分配的待处理数据,包括:所述权限维度与所述时间维度间的进程以所述待处理数据为基础,进行高优先级进程已处理的所述待处理数据覆盖低优先级进程已处理的所述待处理数据的进程交错访问。
[0014]优选地,所述控制不同空间维度的进程并行处理被分配的待处理数据,包括:所述权限维度与所述时间维度间的进程以所述待处理数据为基础,进行时间点靠后的进程已处理的所述待处理数据覆盖时间点靠前的进程已处理的所述待处理数据的进程交错访问。
[0015]优选地,该方法进一步包括:为所述三维以上的空间维度中的每一维分别生成对应的所述待处理数据的副本;
[0016]所述将待处理数据载入所述数据空间,包括:将生成的所有副本载入所述数据空间;
[0017]所述将所述待处理数据分配给处于不同空间维度的进程,包括:将所述所有副本分配给对应的空间维度的进程;
[0018]所述控制不同空间维度的进程并行处理被分配的所述待处理数据,包括:控制不同空间维度的进程并行处理该进程所在空间维度对应的副本。
[0019]优选地,该方法进一步包括:确定所述数据空间的环境参数,所述环境参数包括数据空间的大小、初始坐标的位置、空间规则、时间刻度以及空间曲率中的任意一个或多个;
[0020]所述将待处理数据载入所述数据空间,包括:根据所述确定的数据空间的大小、初始坐标的位置、空间规则、时间刻度以及空间曲率中的任意一个或多个,将所述待处理数据抽象为所述数据空间中的立体化的几何结构;
[0021]在所述将所述待处理数据分配给处于不同空间维度的进程之前,进一步包括:
[0022]根据所述几何结构的结构特性,对所述立体化的几何结构进行分割,形成至少两个新的几何结构;
[0023]根据所述至少两个新的几何结构的几何特性,设定每一个新的几何结构对应的数据处理方法,并为所述数据处理方法分配进程;
[0024]判断为所述数据处理方法分配进程是否处于同一空间维度,如果是,则将所述至少两个新的几何结构中的待处理数据分配给处于同一空间维度的不同进程;否则,执行所述将待处理数据分配给处于不同空间维度的进程。
[0025]优选地,在所述对所述立体化的几何结构进行分割,形成至少两个新的几何结构之后,在所述为所述数据处理方法分配进程之前,进一步包括:
[0026]获取新的几何结构的个数;
[0027]判断所述新的几何结构的个数是否大于等于I且小于处理器个数的两倍,如果是,则继续执行所述为所述数据处理方法分配进程。
[0028]优选地,该方法进一步包括:根据所述计算机的进程运行的环境,定义所述计算机的进程所在的空间维度高低;
[0029]设定处于高空间维度的进程可以访问处于低空间维度的进程对应的数据,而处于低空间维度进程不能够访问处于高空间维度进程对应的数据;
[0030]所述将所述待处理数据分配给处于不同空间维度的进程,包括:将所述待处理数据分配给处于不同高低维度的进程;
[0031]在所述控制不同空间维度的进程并行处理被分配的待处理数据之后,进一步包括:处于高空间维度的进程访问处于低空间维度的进程对应的数据。
[0032]一种数据处理装置,包括:
[0033]数据空间处理单元,用于建立数据空间,将数据的指针和地址信息存储在所述数据空间;为所述数据空间划分三个以上的空间维度,使计算机的进程运行在所述三个以上的空间维度上,不同空间维度间的进程没有依赖性;
[0034]读取单元,用于通过存储于所述数据空间中的指针和地址信息,将待处理数据载入所述数据空间;
[0035]第一分配单元,用于将所述待处理数据分配给处于不同空间维度的进程;
[0036]数据处理单元,用于控制不同空间维度的进程并行处理被分配的待处理数据。
[0037]优选地,所述数据空间处理单元为所述数据空间划分出的空间维度包括五维的空间维度,其中,三个维度用于标记所述待处理数据在空间中的地址,另两个维度包括:权限维度和时间维度;
[0038]所述数据处理单元,进一步用于以所述待处理数据为基础,所述权限维度与所述时间维度间的进程进行非重叠的互斥访问。
[0039]优选地,所述数据处理单元,进一步用于以所述待处理数据为基础,所述权限维度与所述时间维度间进行高优先级进程已处理的数据覆盖低优先级进程已处理的数据的进程交错访问;
[0040]优选地,所述数据处理单元,进一步用于以所述待处理数据为基础,所述权限维度与所述时间维度间进行时间点靠后的进程处理的数据覆盖时间点靠前的进程处理的数据的进程交错访问。
[0041]优选地,上述装置进一步包括:生成单元,其中,
[0042]所述生成单元,用于为所述三维以上的空间维度中的每一维分别生成对应的所述待处理数据的副本;
[0043]所述读取单元,用于通过存储于所述数据空间中的指针和地址信息,将生成的所有副本载入所述数据空间;
[0044]所述第一分配单元,用于将所述所有副本分配给对应的空间维度的进程;
[0045]所述数据处理单元,用于控制不同空间维度的进程并行处理该进程所在空间维度对应的副本。
[0046]优选地,上述装置进一步包括:确定单元、分割单元、设定单元、第一
当前第1页1 2 3 4 5 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1