基于增量学习的本地差分隐私的多维数据发布方法及系统

文档序号:31635505发布日期:2022-09-24 03:41阅读:137来源:国知局
基于增量学习的本地差分隐私的多维数据发布方法及系统

1.本发明属于数据安全与隐私保护领域,尤其涉及基于增量学习的本地差分隐私的多维数据发布方法及系统。


背景技术:

2.本部分的陈述仅仅是提供了与本发明相关的背景技术信息,不必然构成在先技术。
3.在本地化差分隐私的多维数据发布问题中,每个用户个体拥有一条包含多个离散属性(连续属性通过将域离散为固定数量的等宽范围转化为离散属性)的记录,比如人口普查数据等。实际应用中,数据分析师希望可以在数据集上进行任意类型的数据分析或挖掘,以挖掘或提取数据背后的大量潜在信息,为群体和个体提供准确可靠的预测。因此聚合服务器需要收集所有用户个体所拥有的数据并对外发布。
4.然而,数据中往往包含用户个体的敏感信息,用户不太会想要分享个人的真实数据给任何第三方数据收集者。因此,需要解决满足本地化差分隐私的多维数据发布方法。
5.本地化差分隐私作为一种严格的、可量化的隐私保护模型,该模型不依赖与任何宣称自己是可信的第三方实体,从用户个体的角度出发对每个用户的真实数据提供隐私保护,即便第三方聚合服务器是恶意的,也能够保证用户个体的隐私不被泄露。在该模型中,用户在本地对自己的真实数据添加一定规模的噪声进行扰动,然后将扰动后的数据上传给聚合服务器。聚合服务器在收到所有用户上传的扰动数据后,只能通过计算得到一些统计信息,而无法从中推测出任何关于用户的个人敏感信息。
6.基于该模型,现有工作提出了一些方案来解决该问题。在现有工作中,聚合服务器首先一次性的收集所有用户的完整数据。为了在满足本地化差分隐私的同时支持后续的所有计算,每个用户需要对自己的整条记录进行扰动,并将扰动后的结果发送给聚合器进行聚合。聚合服务器通过聚合用户上传的扰动数据,使用expectation maximization算法为构造概率图模型及数据生成提供任意所需的分布信息,即所有属性对的联合分布信息及联结树中各个团的分布信息。
7.然而上述方法存在以下技术问题:
8.(i)在构建概率图模型时,需要计算所有的成对属性的相关性来确定依赖图的结构。然而对于多维数据,存在大量的属性对。为满足本地化差分隐私,直接计算所有这些成对属性的关联关系会导致大量的噪声注入到结果中,这严重降低了依赖图结构和合成数据的准确性。
9.(ii)在对联结树的团的分布进行估计时,某些大团中可能包含属性过多,在计算其分布时仍面临高维的问题,并不能很好地解决。


技术实现要素:

10.为了解决上述背景技术中存在的至少一项技术问题,本发明提供基于增量学习的
本地差分隐私的多维数据发布方法及系统,其通过基于增量学习的方法构建概率图模型,然后利用概率图形模型生成一组带有噪音的低维分布,然后使用它们来近似输入数据集的整体分布以生成合成数据集。本发明相对于已有的方法,能够为每个用户个体提供隐私保护的同时,显著提高发布数据的精度。
11.为了实现上述目的,本发明采用如下技术方案:
12.本发明的第一个方面提供一种基于增量学习的本地差分隐私的多维数据发布方法,包括如下步骤:
13.通过聚合第一批用户扰动数据,学习所有属性对的相关性;
14.根据属性对的相关性构建依赖图模型,通过联结树算法将构建好的依赖图模型转化为多个团组成的联结树模型;
15.基于第二批用户数据,根据各个团包含的属性个数及大小类型,采用对应的估计方法对团的分布进行估计,得到联结树模型中各团的联合分布;
16.根据联结树模型及联结树模型中各团的联合分布,通过基于采样的数据生成方法,生成同样包含相同数量记录合成的数据集进行发布。
17.本发明的第二个方面提供基于增量学习的本地差分隐私的多维数据发布系统,包括:
18.相关性学习模块,用于通过聚合第一批用户扰动数据,学习所有属性对的相关性;
19.联结树模型构建模块,用于根据属性对的相关性构建依赖图模型,通过联结树算法将构建好的依赖图模型转化为多个团组成的联结树模型;
20.联结树各团的分布计算模块,用于基于第二批用户数据,根据各个团包含的属性个数及大小类型,采用对应的估计方法对团的分布进行估计,得到联结树模型中各团的联合分布;
21.数据发布模块,用于根据联结树模型及联结树模型中各团的联合分布,通过基于采样的数据生成方法,生成同样包含相同数量记录合成的数据集进行发布。
22.本发明的第三个方面提供一种计算机可读存储介质。
23.一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如上述所述的基于增量学习的本地差分隐私的多维数据发布方法中的步骤。
24.本发明的第四个方面提供一种计算机设备。
25.一种计算机设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现如上述所述的基于增量学习的本地差分隐私的多维数据发布方法中的步骤。
26.与现有技术相比,本发明的有益效果是:
27.本方法采用了一种基于增量学习的方法来构建概率图模型,通过逐渐修剪弱相关性的属性对,将更多的数据和隐私预算分配到有用的属性对,以正确识别属性集合中所有属性对间的相关性,从而能够更有效的构建概率图模型,然后利用概率图形模型生成一组带有噪音的低维分布,然后使用它们来近似输入数据集的整体分布以生成合成数据集。
28.本发明附加方面的优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本发明的实践了解到。
附图说明
29.构成本发明的一部分的说明书附图用来提供对本发明的进一步理解,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。
30.图1是本发明实施例基于增量学习的本地差分隐私的多维数据发布方法的流程示意图;
31.图2是本发明实施例的马尔科夫网络;
32.图3是本发明实施例马尔科夫网络联结树;
33.图4是本发明方法和已有方法的算法效果对比图。
具体实施方式
34.下面结合附图与实施例对本发明作进一步说明。
35.应该指出,以下详细说明都是例示性的,旨在对本发明提供进一步的说明。除非另有指明,本文使用的所有技术和科学术语具有与本发明所属技术领域的普通技术人员通常理解的相同含义。
36.需要注意的是,这里所使用的术语仅是为了描述具体实施方式,而非意图限制根据本发明的示例性实施方式。如在这里所使用的,除非上下文另外明确指出,否则单数形式也意图包括复数形式,此外,还应当理解的是,当在本说明书中使用术语“包含”和/或“包括”时,其指明存在特征、步骤、操作、器件、组件和/或它们的组合。
37.在本地化场景下,每个用户个体拥有一条包含多个属性的数据。为了完成数据发布任务,需要收集所有用户个体的数据来进行数据分布。然而,数据中往往包含用户个体的敏感信息。因此,需要解决满足本地化差分隐私的多维数据发布问题。
38.为了解决本技术背景技术中存在的第一个技术问题,本发明通过逐渐修剪弱相关性的属性对,将更多的数据和隐私预算分配到有用的属性对,以正确识别属性集合中所有属性对间的相关性,从而能够更有效的构建概率图模型,显著提高了合成数据集的质量。
39.为了解决本技术背景技术中存在的第二个技术问题,本发明还基于联合分布分解和冗余消除,提出了一种新的大团分布计算方法,有效的解决了大团的分布估计。
40.术语解释:
41.本发明涉及到两个关键要素,即本地化差分隐私、联结树模型。
42.下面首先介绍这两个要素;然后给出本地化差分隐私场景下多维数据发布问题的形式化定义。
43.1、本地化差分隐私
44.在差异隐私的本地设置中,一个不受信任的聚合器希望收集用户的个人信息来完成相应的数据分析任务。本地化差分隐私(local differential privacy)提供了一种随机响应算法在满足聚合服务器的数据分析任务的同时保护用户的隐私。本地化差分隐私可以定义为:
45.本地化差分隐私:一个定义域和值域分别为的ε-本地化差分隐私随机算法当ε》0时,给定任意的输出及任意的两个输入x1,满足:
46.47.隐私参数ε度量对个体敏感信息的隐私保护强度,ε越小表示隐私保护强度越大。
48.2、联结树模型
49.为了克服维度诅咒,关键是找到真实数据集中属性间的条件独立性,以将联合概率分布分解为模块化的组件。概率图形模型是识别这种模块化结构的优雅工具,而马尔可夫网络是基于无向图的最广泛使用的图形模型。联结树算法为从马尔可夫网络中精确推断联合概率分布提供了一种可行的方法。联结树定义如下:
50.联结树模型:对于给定的马尔可夫网络g,一个由g转换而成的树当且仅当中的任意两个团ci,的交集ci∩cj,存在于连接ci和cj间的唯一路径上的每个节点中时,称为连接树。其中:被称为联结树的一个团,表示两个相邻团的交点。
51.举例:图3显示了由图2中的马尔可夫网络构造而成的联结树,其中椭圆节点为联结树的团,矩形节点表示分隔符,即:示分隔符,即:注意,图2马尔科夫网络中由虚线连接的边ad和ae是由联结树算法所引入的,而非本身包含,我们称其为弦。
52.对于属性集为的数据集给定联结树的结构、以及联合分布pr(ci)及pr(s
ij
),的联合分布可以表示为:
[0053][0054]
3、问题定义
[0055]
满足本地化差分隐私的多维数据分布问题的形式化描述如下:
[0056]
假设存在n个数据拥有者和1个聚合服务器。每个数据拥有者uk(1≤k≤n)拥有一条包含d个离散属性{a1,

,ad}的记录其中表示用户uk的第i个属性ai的取值。所有用户的数据组成了一个数据集聚合服务器想要知道数据集上所有属性的联合分布pr(a1,

,d),以生成新的合成数据集进行发布。为了保护用户个体的隐私,聚合服务器在满足本地化差异隐私的前提下,收集所有n个用户的记录,并生成一个与原始数据集拥有近似分布的合成数据集即:
[0057][0058]
其中:表示数据集上的d维联合分布。
[0059]
实施例一
[0060]
如图1所示,本实施例提供基于增量学习的本地差分隐私的多维数据发布方法,包括如下步骤:
[0061]
步骤1:通过聚合第一批用户上传的扰动数据,学习所有属性对的相关性;
[0062]
步骤2:根据属性对的相关性构建依赖图模型,通过联结树算法将构建好的依赖图模型转化为多个团组成的联结树模型;
[0063]
步骤3:基于第二批用户数据,根据各个团包含的属性个数及大小类型,采用对应的估计方法对团的分布进行估计,得到联结树模型中各团的分布;
[0064]
步骤4:根据联结树模型及联结树模型中各团的分布,通过基于采样的数据生成方法,生成同样包含相同数量记录合成的数据集进行发布。
[0065]
本实施例涉及两类实体:n个数据拥有者和1个聚合服务器。每个数据拥有者uk(1≤k≤n)拥有一条包含d个离散属性的记录聚合服务器利用n个数据拥有者的数据组成的原始数据集生成一个与具有相似分布的合成数据集进行数据发布,并保证每一个数据拥有者的隐私保护需求。
[0066]
为了更清楚地理解本发明的技术内容,以下详细进行描述;
[0067]
步骤1:收集第一批用户数据并计算生成概率图模型。
[0068]
具体包括如下子步骤:
[0069]
步骤1.1:将第一批用户进行分组。
[0070]
将第一批用户划分为t个不相交的组,即:每个分组中的用户分别用于步骤1.3中的第t次迭代。
[0071]
步骤1.2:初始化依赖图模型。
[0072]
初始化一个包含d个顶点的依赖图g,并令任意两个顶点间有连边。设e={(i,j)|0≤i≠j《d}为g的边集(即属性对的集合)。
[0073]
步骤1.3:构建依赖图模型。
[0074]
为了更好地构造依赖图模型,本实施例使用一种基于增量学习的依赖图模型构造方法,该方法由t轮迭代组成。在每次迭代中,分别为属性对的集合e中剩余的每个属性对收集一些新的数据,并重新估计这些属性对的相关性,以剔除相关性较弱的属性对。
[0075]
以第t次迭代为例,具体包括如下子步骤:
[0076]
步骤1.3.1:根据剩余属性对,对参与本次迭代的用户进行分组。
[0077]
根据当前依赖图g的边集e,对用户进行分组根据当前依赖图g的边集e,对用户进行分组其中:组的用户仅用于第t次迭代时,对属性对e的数据收集。
[0078]
步骤1.3.2:收集用户数据。出于保护隐私的考虑,用户需要将自己的真实数据添加适量的扰动,并将扰动的结果报告给聚合服务器。
[0079]
以第组的任一用户为例,假设e=(i,j),具体包括如下子步骤:
[0080]
步骤1.3.2.1:该用户首先将自己关于属性ai和aj的真实数据转化为单个属性,并将转化后的属性值使用独热(one-hot)编码规则进行编码,得到编码结果s。
[0081]
步骤1.3.2.2:设置表示隐私保护强度的参数ε的取值,对于步骤1.3.2.1中得到的该用户的编码值s,使用oue算法以如下的概率输出扰动结果s

,即:
[0082][0083]
其中:在得到扰动结果后s

,该用户将其报告给聚合服务器。
[0084]
步骤1.3.3:聚合服务器根据用户上传的扰动数据,采用无偏估计方法,计算当前e中所有剩余属性对的联合分布{p
t
(ai,aj)|e=(i,j)∈e},其中下标t表示该分布是通过第t次迭代的数据收集所计算的结果。
[0085]
步骤1.3.4:数据累积。由于在每一轮迭代中,需要不断收集未被修剪的属性对的数据,并重新计算它们的联合分布。对这些数据进行累积,可以得到更准确的分布信息,提高对未修剪属性对相关性判断的准确性。
[0086]
同时,为提高数据累积的效率,本实施例提出了一种更高效的数据累积方法,可以直接根据第t-1轮累积的结果与第t轮的计算结果,直接得出第t轮的累积结果。
[0087]
具体来说,对于任意属性组合假设第t轮收集中包含的属性组合有并定义表示上传属性组合的用户数量,表示的边际表,表示的项,1≤j≤i
t
。则第t轮的边际表的累积结果可以表示为:
[0088][0089]
其中:
[0090][0091]
因此,通过上述公式计算,可以得到e中所有剩余属性对累积前t-1轮数据收集结果后的联合分布结果
[0092]
步骤1.3.5:重新计算互信息。
[0093]
在本实施例中,利用两个属性的互信息来度量属性对之间的相关性。对属性对ai,aj的互信息的计算公式如下:
[0094][0095]
式中,(ai,aj)为属性对,分别为属性ai,aj的域,pr(am)和pr(an)分别表示中第m个值am的边际分布及中第n个值an的边际分布,pr(am,an)表示am和an的联合分布。
[0096]
其中:联合分布pr(ai,aj)为步骤1.3.4数据累积后得到的联合分布pr(am,an)是联合分布中项pr(ai=am,aj=an)的缩写。
[0097]
步骤1.3.6:修剪无效边。
[0098]
一般来讲,对于任意属性对ai,aj,通常使用一个既定的相关性阈值与其互信
息的大小关系来判断属性对之间是否存在相关性。然而,由于使用部分数据来估计属性对相关性的强度,会导致存在采样误差。同时,由于在ldp中,数据量越小,扰动误差越大。因此,直接使用相关性阈值可能导致错误地修剪原本高度相关的属性对。
[0099]
为了减少采样和扰动带来的误差,提高选边的准确性,本实施例使用一种基于阈值松弛的边缘剪枝方法。对具体包括如下子步骤:
[0100]
步骤1.3.6.1:计算相关性阈值对于一个给定的依赖度参数φ,则:
[0101][0102]
步骤1.3.6.2:计算放缩的相关性阈值l。
[0103]
假设在当前收集的记录中共有n条记录包含属性ai和aj,由这n条记录计算所得的ai和aj的互信息表示为由于采样和扰动的随机性,将视为一个随机变量。对于真实互信息以及经验互信息满足:
[0104][0105]
其中:当时,δi(η)=log(mi);反之
[0106][0107][0108]
因此,给定置信水平1-α,放缩的相关性阈值l满足:
[0109][0110]
则l可以计算为:
[0111][0112]
步骤1.3.6.3:重新估计相关性,并对边进行修剪。如果表示属性对ai,aj仍有较高的概率具有强相关性,因此在依赖图g中保留边e=(i,j);反之,我们将该边从依赖图g中删除,即e=e-{(i,j)}。
[0113]
步骤1.4:联结树构造。根据步骤1.3所构造的依赖图g,通过联结树算法将依赖图转化为一棵团集为的联结树其中:团ci中至少包含一个属性,|ci|表示团中的属性个数,为团的大小。
[0114]
步骤2:收集第二批用户数据并计算联结树各团的分布。
[0115]
在得到联结树后,为了生成合成数据集,需要估计团集中每个团的联合分布。由于各个团中所包含的属性个数及团的大小不尽相同,对于不同类型的团,本实施例将使用不同的方法对团的分布进行估计。具体包括如下子步骤:
[0116]
步骤2.1:团的分类。
[0117]
根据团的大小将团分为两组详细来讲,给定一个经验性的团大小阈值σ,对若称团ci为小团,并放入中;反之,若称团ci为大团,并放入组中。
[0118]
步骤2.2:大团的分解。
[0119]
由于大团往往包含较多的属性,直接估计其分布仍旧面临维数诅咒的问题。对根据链式法则,可以将联合分布分解为多个条件概率的乘积,即:
[0120][0121]
其中:πi表示ai的条件。
[0122]
πi中存在冗余,即当给定πi中的一些属性时,πi中的其他属性与ai是条件独立的。通过对πi进行冗余删除以得到可以达到降维的目的,因为比πi包含更少的属性。直观的,分解顺序会影响删除冗余的效果。
[0123]
因此,本实施例使用一种基于前向搜索策略的启发式方法,来确定一个较优的分解顺序。
[0124]
令属性集该方法包含次循环,每次循环从属性集q中的剩余属性中,选择出一个能够删除更多冗余的属性ah作为目标属性,并令删除冗余的结果作为条件,以键值对的形式存入字典中。
[0125]
团ci的联合分布表示为:
[0126][0127]
详细来讲,对次循环,具体包括如下子步骤:
[0128]
步骤2.2.1:如果当前属性集q的域大小|q|=∏
a∈q
|ωa|小于等于团大小阈值σ,即:|q|≤σ,则从属性集q中随机选择一个属性ah∈q作为目标属性,并令属性集q中除属性ah外的其他所有属性作为条件,即因子分解的第h项为条件概率将属性ah从属性集q中删除,即:q=q\ah;
[0129]
步骤2.2.2:反之,如果|q|》σ,对于本实施例以属性aj为目标属性,使用最大冗余最小相关(minimal-redundancy-maximal-relevance)的特征选择方法,对属性集合q\aj进行冗余消除,得到消除冗余后的属性集合
[0130]
计算如下结果:
[0131][0132]
其中:任意两个属性的互信息值均为步骤1中的计算结果。
[0133]
根据计算得到的冗余消除结果从属性集q中选择出令方差最小的属性ah∈q作为目标属性,令冗余消除结果作为条件,则因子分解的第h项为并令q=q\ah。
[0134]
步骤2.3:利用第二批用户数据进行分布估计。
[0135]
为了得到各个团的分布,需要对一些属性组合的联合分布进行计算,具体包括如下子步骤:
[0136]
步骤2.3.1:确定属性组合。
[0137]
设定集合和分别用于存放需要估计分布的属性组合及分布已知的属性组合,具体包括:
[0138]
对若则将放入中;反之,则将
[0139]
对若|ci|≥3,则将ci放入中;反之,存入中。
[0140]
步骤2.3.2:用户分组。将第二批用户划分为个不相交的组,即:每个分组中的用户分别用于属性组合的分布计算。
[0141]
步骤2.3.3:收集用户数据并估计联合分布。
[0142]
对的联合分布估计,与步骤1.3.3与1.3.4中对第一批用户的计算步骤是相同的,因此可以得到而对则可以直接从步骤1的计算结果中获得。
[0143]
步骤2.4:计算大团的分布。对本实施例均估计了联合分布条件分布可以从联合分布得到。因此,根据步骤2.2中联合分布的分解公式,计算出的联合分布pr(ci)。
[0144]
步骤3:生成合成数据集。
[0145]
聚合服务器根据步骤1得到的联结树以及步骤2得到的各个团的分布通过一种基于采样的数据生成方法,生成一个同样包含n条记录的合成数据集
[0146]
以生成一条记录为例,具体包括如下子步骤:
[0147]
步骤3.1:随机选择一个团根据其分布pr(ci)进行采样,得到ci中所有属
性的采样结果然后选择所有与团ci有关联的团
[0148]
步骤3.2:对我们从条件分布中对属性进行采样,其中:表示未采样的属性集合,条件分布可以从pr(cr)获得。然后将所有与cr相连且未被访问过的团插入到的末尾。
[0149]
步骤3.3:重复执行步骤3.2,直到得到所有属性的采样结果x,结束生成。
[0150]
为了更好地验证本发明一种基于增量学习的满足本地差分隐私的多维数据发布方法的效果,参见图4,privincr为本发明,将本发明中的方法在两种公开的数据集adult和tpc-e与现有方法进行对比。对比方法包括非增量方法noincremental、无隐私版本noprivjtree,以及两种满足本地化差分隐私的多维k边际发布方法calm和ft。实验结果表明,本发明生成的合成数据集能够提供更好的效用。
[0151]
实施例二
[0152]
本实施例提供基于增量学习的本地差分隐私的多维数据发布系统,包括:
[0153]
相关性学习模块,用于通过聚合第一批用户上传的扰动数据,学习所有属性对的相关性;
[0154]
联结树模型构建模块,用于根据属性对的相关性构建依赖图模型,通过联结树算法将构建好的依赖图模型转化为多个团组成的联结树模型;
[0155]
联结树各团的分布计算模块,用于基于第二批用户数据,根据各个团包含的属性个数及大小类型,采用对应的估计方法对团的分布进行估计,得到联结树模型中各团的联合分布;
[0156]
数据发布模块,用于根据联结树模型及联结树模型中各团的联合分布,通过基于采样的数据生成方法,生成同样包含相同数量记录合成的数据集进行发布。
[0157]
实施例三
[0158]
本实施例提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如上述所述的基于增量学习的本地差分隐私的多维数据发布方法中的步骤。
[0159]
实施例四
[0160]
本实施例提供了一种计算机设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现如上述所述的基于增量学习的本地差分隐私的多维数据发布方法中的步骤。
[0161]
本领域内的技术人员应明白,本发明的实施例可提供为方法、系统、或计算机程序产品。因此,本发明可采用硬件实施例、软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器和光学存储器等)上实施的计算机程序产品的形式。
[0162]
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实
现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
[0163]
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
[0164]
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
[0165]
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的程序可存储于一计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,所述的存储介质可为磁碟、光盘、只读存储记忆体(read-only memory,rom)或随机存储记忆体(random accessmemory,ram)等。
[0166]
以上所述仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1