用于审计领域的命名实体识别模型的训练方法及相关设备与流程

1.本技术涉及审计技术领域，尤其涉及一种用于审计领域的命名实体识别模型的训练方法及相关设备。


背景技术：

2.近年来，审计人员需要处理的数据在规模上急剧膨胀，而且大部分数据均是以自然语言描述的非结构文本格式存在，审计内容涉及的领域也越来越广，很多有价值的信息散落在海量的文字中，获取审计信息耗费了审计人员的大部分时间和精力。作为信息抽取的一项重要任务，命名实体识别技术的根本目标就是从无结构或半结构的文本中识别文本中具有特定意义的实体，并以结构化的方式呈现出来，以便于人们快速理解和掌握文本的意义，是信息提取、问答系统、句法分析、机器翻译等应用领域的重要基础工具，在自然语言处理技术走向实用化的过程中占有重要地位。但是，由于审计业务数据多源异构、存储分散、冗余、不确定等特点，审计领域的命名实体识别技术面临着诸多困难与挑战，如何提升审计领域的命名实体识别技术是目前亟待解决的问题。


技术实现要素：

3.有鉴于此，本技术的目的在于提出一种用于审计领域的命名实体识别模型的训练方法及相关设备。
4.基于上述目的，本技术的第一方面提供了一种用于审计领域的命名实体识别模型的训练方法，包括：
5.获取原始审计数据；
6.采用n-gram算法对所述原始审计数据进行计算，得到包含多种数据长度的关键词的关键词表；
7.基于所述关键词的数据长度对所述关键词表进行过滤，得到实体词库；
8.对所述实体词库中的实体词进行标注，得到训练样本数据；
9.采用所述训练样本数据对预训练模型进行训练，训练完成后，得到所述命名实体识别模型。
10.可选的，所述基于所述关键词的数据长度对所述关键词表进行过滤，得到实体词库，包括：
11.基于所述关键词的数据长度从所述关键词表中剔除满足预设剔除规则的关键词，得到所述实体词库。
12.可选的，所述基于所述关键词的数据长度从所述关键词表中剔除满足预设剔除规则的关键词，包括：
13.根据所述预设剔除规则迭代执行以下剔除操作：
14.从所述关键词表中选取任意两个关键词，将两个关键词分别作为第一关键词和第二关键词，响应于所述第一关键词包含在所述第二关键词内，且所述第一关键词的数据长
度与所述第二关键词的数据长度的比值超过预设阈值，则从所述关键词表中剔除所述第一关键词，
15.直至所述关键词表中不存在满足所述预设剔除规则的关键词。
16.可选的，所述对所述实体词库中的实体词进行标注，包括：
17.采用审计词典和/或匹配算法对所述实体词进行标注。
18.可选的，在采用n-gram算法对所述原始审计数据进行计算之前，包括：
19.对所述原始审计数据进行清洗。
20.可选的，在基于所述关键词的数据长度对所述关键词表进行过滤之后，包括：
21.去除经过过滤的所述关键词表中的错误关键词。
22.可选的，所述命名实体识别模型为bert-crf模型。
23.本技术的第二方面提供了一种用于审计领域的命名实体识别模型训练装置，包括：
24.获取模块，被配置为获取原始审计数据；
25.计算模块，被配置为采用n-gram算法对所述原始审计数据进行计算，得到包含多种数据长度的关键词的关键词表；
26.过滤模块，被配置为基于所述关键词的数据长度对所述关键词表进行过滤，得到实体词库；
27.标注模块，被配置为对所述实体词库中的实体词进行标注，得到训练样本数据；
28.训练模块，被配置为采用所述训练样本数据对预先构建的预训练模型进行训练，训练完成后，得到所述命名实体识别模型。
29.本技术的第三方面还提供了一种电子设备，包括存储器、处理器及存储在所述存储器上并可由所述处理器执行的计算机程序，所述处理器在执行所述计算机程序时实现如上所述的方法。
30.本技术的第四方面还提供了一种非暂态计算机可读存储介质，所述非暂态计算机可读存储介质存储计算机指令，所述计算机指令用于使计算机执行如上所述的方法。
31.从上面所述可以看出，本技术提供的用于审计领域的命名实体识别模型的训练方法，采用n-gram算法对获取的原始审计数据进行计算，提取原始审计数据中的关键词，实现对原始审计数据的全面提取，得到包含多种数据长度的关键词的关键词表。基于所述关键词的数据长度对所述关键词表进行过滤，去除重复的关键词，在保留有效关键词的同时减少后续标注的数据量，得到实体词库。对所述实体词库中的实体词进行标注，得到训练样本数据，采用所述训练样本数据对预训练模型进行训练，得到命名实体识别模型，有效提升了命名实体识别模型对实体类型识别的准确率。
附图说明
32.为了更清楚地说明本技术或相关技术中的技术方案，下面将对实施例或相关技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本技术的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
33.图1为本技术实施例的用于审计领域的命名实体识别模型的训练方法的流程示意
图；
34.图2为本技术实施例的用于审计领域的命名实体识别模型的训练装置的结构示意图；
35.图3为本技术实施例的电子设备硬件结构示意图。
具体实施方式
36.为使本技术的目的、技术方案和优点更加清楚明白，以下结合具体实施例，并参照附图，对本技术进一步详细说明。
37.需要说明的是，除非另外定义，本技术实施例使用的技术术语或者科学术语应当为本技术所属领域内具有一般技能的人士所理解的通常意义。本技术实施例中使用的“第一”、“第二”以及类似的词语并不表示任何顺序、数量或者重要性，而只是用来区分不同的组成部分。“包括”或者“包含”等类似的词语意指出现该词前面的元件或者物件涵盖出现在该词后面列举的元件或者物件及其等同，而不排除其他元件或者物件。“连接”或者“相连”等类似的词语并非限定于物理的或者机械的连接，而是可以包括电性的连接，不管是直接的还是间接的。“上”、“下”、“左”、“右”等仅用于表示相对位置关系，当被描述对象的绝对位置改变后，则该相对位置关系也可能相应地改变。
38.相关技术中，命名实体识别任务已经在多个领域取得了显著性成就，但是还有一些涉猎未深的领域需要探索，比如和企业息息相关的审计领域。知识图谱的建立和应用是现在亟待解决的问题，而针对审计文本的命名实体识别工作，正是解决问题的第一步。但是在已有的命名实体识别研究中，专门针对审计领域的研究成果并不多见。有鉴于此，本技术提出了一种用于审计领域的命名实体识别模型的训练方法，在现有命名实体识别技术研究的基础上，从审计实体词库构建和实体数据标注、审计命名实体识别两个步骤实现了面向审计领域文本的命名实体识别技术，并将这些研究成果应用于面向审计领域质量评估的研究中。通过本技术的训练方法训练完成后得到的命名实体识别模型对于实体类别识别的准确率得到了明显提升，将该模型引用在审计领域中，能够提升审计人员的工作效率，为审计领域的信息检索、机器翻译、自动问答等提供基础。
39.以下结合附图来详细说明本技术的实施例。
40.本技术提供了一种用于审计领域的命名实体识别模型的训练方法，参考图1，包括以下步骤：
41.步骤102、获取原始审计数据。
42.具体的，原始审计数据可以通过网络爬取或从现有数据库中获取，本实施例对于具体获取方式不做限定。原始审计数据包括审计单位、被审计单位、审计问题等等。
43.步骤104、采用n-gram算法对所述原始审计数据进行计算，得到包含多种数据长度的关键词的关键词表。
44.具体的，n-gram算法是一种基于统计语言模型的算法，对于形成的每一个字节片段(gram)进行频度统计，并且按照事先设定好的阈值进行过滤，形成关键gram列表。对于每个长度的关键gram词表单独存储。数据长度表示每个字节片段包含的字数，例如，字节片段为“北京市审计局”，则数据长度为6，字节片段为“审计局”，则数据长度为3，以此类推，多种数据长度可以包括1、2、3、4、5、6等等。通过n-gram算法可以对原始审计数据中的关键词进
行初步提取，确保提取的全面性。
45.步骤106、基于所述关键词的数据长度对所述关键词表进行过滤，得到实体词库。通常情况下，通过步骤104得到的关键词中存在重复关键词，例如关键词包括“北京市”和“北京”，这两个关键词在语义上是重复的，通过本步骤可以过滤掉重复语义的关键词，保留重要关键词的基础上删除不必要的关键词，进一步缩减关键词的数量，降低后续对关键词标注的成本，减少技术人员工作量。基于过滤后的关键词构建关键词库。
46.步骤108、对所述实体词库中的实体词进行标注，得到训练样本数据。通过上述步骤得到实体词库后，对实体词库中的实体词进行标注，标注可以通过词典、匹配算法或人工进行标注，此处对于标注方式不做具体限制。标注后的数据可以作为训练样本数据，以对命名实体识别模型进行训练。训练样本数据的质量决定命名实体识别模型的输出精度，通过上述步骤得到的训练样本数据兼具了全面性、典型性和准确性，能够有效提升命名实体识别模型对于审计领域的实体类型识别的准确率。
47.步骤110、采用所述训练样本数据对预训练模型进行训练，训练完成后，得到所述命名实体识别模型。
48.具体的，训练样本数据可以划分为训练数据和测试数据，示例性的，划分比例可以为9:1，通过训练数据对模型进行训练后，再通过测试数据对模型进行测试，当模型的输出精度达到预设值或训练过程满足训练迭代截止条件，完成对模型的训练，得到命名实体识别模型。其中，训练迭代截止条件可以为训练截止次数达到预设次数或最小化模型的损失函数，本实施例中对于训练截止条件不做具体限制，本领域技术人员能够根据实际需求选择相应的训练截止条件，以完成对模型的训练。
49.基于上述步骤102至步骤110，采用n-gram算法对获取的原始审计数据进行计算，提取原始审计数据中的关键词，实现对原始审计数据的全面提取，得到包含多种数据长度的关键词的关键词表。基于所述关键词的数据长度对所述关键词表进行过滤，去除重复的关键词，在保留有效关键词的同时减少后续标注的数据量，得到实体词库。对所述实体词库中的实体词进行标注，得到训练样本数据，采用所述训练样本数据对预训练模型进行训练，得到命名实体识别模型，有效提升了命名实体识别模型对实体类型识别的准确率。
50.在一些实施例中，所述基于所述关键词的数据长度对所述关键词表进行过滤，得到实体词库，包括：
51.基于所述关键词的数据长度从所述关键词表中剔除满足预设剔除规则的关键词，得到所述实体词库。通过设置剔除规则，剔除关键词表中符合剔除规则的关键词，对关键词进行过滤，本实施例中的剔除规则是基于父子串算法和预设阈值制定的。
52.在一些实施例中，所述基于所述关键词的数据长度从所述关键词表中剔除满足预设剔除规则的关键词，包括：
53.根据所述预设剔除规则迭代执行以下剔除操作：
54.从所述关键词表中选取任意两个关键词，将两个关键词分别作为第一关键词和第二关键词，响应于所述第一关键词包含在所述第二关键词内，且所述第一关键词的数据长度与所述第二关键词的数据长度的比值超过预设阈值，则从所述关键词表中剔除所述第一关键词，直至所述关键词表中不存在满足所述预设剔除规则的关键词。
55.具体的，在关键词表中选取两个关键词，基于这两个关键词的包含关系和数据长
度进行判断，其中一个关键词是否满足预设阈值，如果满足，则将该关键词进行剔除。示例性的，从关键词表中选取两个关键词，分别为“北京市审计局”和“审计局”，将“审计局”作为第一关键词，将“北京市审计局”作为第二关键词(或者将“审计局”作为子串，将“北京市审计局”作为父串)，显然，第一关键词包含在第二关键词中，且第一关键词的数据长度为3，第二关键词的数据长度为6，本实施例中预设阈值设置为0.8，3/6＝0.5《0.8，则第一关键词不符合剔除规则，保留第一关键词。在另一示例中，从关键词表中选取两个关键词，分别为“中华人民共和国审计”和“中华人民共和国审计法”，将“中华人民共和国审计”作为第一关键词，将“中华人民共和国审计法”作为第二关键词，显然，第一关键词包含在第二关键中，且第一关键词的数据长度为9，第二关键词的数据长度为10，9/10＝0.9》0.8，则第一关键词符合剔除规则，剔除第一关键词“中华人民共和国审计”。在关键词表中持续重复上述过程，直至关键词表任意两个关键词中，不存在第一关键词包含在第二关键词中且数据长度的占比超过0.8为止，也即不存在满足剔除规则的关键词为止，完成对关键词的剔除，得到实体词库。
56.在一些实施例中，所述对所述实体词库中的实体词进行标注，包括：采用审计词典和/或匹配算法对所述实体词进行标注。
57.具体的，标注方法除了包括采用审计词典和匹配算法，还包括人工标注，具体如下：
58.1、人工标注：由于人名、审计问题等这类的命名实体，无法通过规则或者词典进行匹配获取，所以通过人工的方式对其进行标注；
59.2、词典匹配标注：职称、审计单位、被审计单位等这类的命名实体，它们的内容一般都可进行归类统计，在标注之前先对这几类的命名实体进行词典整理，之后利用词典对实体库中的实体进行标注，这样可以提高标注的准确性和效率；
60.3、规则匹配标注：日期，资金，法律法规，这一类的命名实体的名称一般都有固定的格式，通过编写规则匹配算法，来对其进行提取和标注。
61.通过上述三种标注方式完成对实体库中全部实体的实体类型的标注，标注格式为bmeso，b(beginning)-表示实体头，m(middle)表示在实体中间，e(end)表示实体尾，s(singleton)表示单个词为一个实体，o(outside)表示不在实体内。如表1所示，实体类型至少包括以下内容。
62.表1实体类型示例表
[0063][0064][0065]
上述表1所示的实体名称只作为示例性说明，并不表示限制作用。实际审计过程中的实体类型可以根据实际需求相应增加、删除或修改。
[0066]
在一些实施例中，在采用n-gram算法对所述原始审计数据进行计算之前，包括：对所述原始审计数据进行清洗。具体的，清洗包括对原始审计数据进行去重、格式转换和数据填充等操作，避免原始审计数据的不规范对后续提取实体和标注实体产生影响，影响标注准确率。
[0067]
在一些实施例中，在基于所述关键词的数据长度对所述关键词表进行过滤之后，包括：去除经过过滤的所述关键词表中的错误关键词。对关键词进行过滤后，还需要通过审计领域的专家或技术人员对关键词进行错误过滤，将明显错误的关键词进行剔除，进一步提升提取得到的审计关键词的质量。
[0068]
在一些实施例中，所述命名实体识别模型为bert-crf模型。本实施例使用bert-base模型作为迁移学习的预训练模型，用于训练crf模型中的发射矩阵。
[0069]
对bert-crf模型训练完成后，通过评价指标对bert-crf模型的输出准确率进行评判，评价指标分别为准确率p(precision)、召回率r(recall)和f1值。其中准确率p反映了所得结果的准确度大小，召回率r反映了所得结果全面程度的大小，二者在某种程度上存在相互制约关系，而f1值则是两个指标调和平均值的结果，它是二者综合评价的一个反映。bert-crf模型在测试数据上可以得到如下结果：
[0070]
表2审计预料分类试验结果
[0071][0072][0073]
表2给出了在审计语料中各类实体的识别结果。从实验结果的f1值分析可知：
[0074]
首先，日期、资金、法律法规的f1值较高，这是由于这些实体大都存在一定的规律性，例如资金结尾均以“元”作为结尾。
[0075]
其次，审计单位、被审计单位、职位略逊于日期、资金、法律法规效果，可能的原因：审计单位、职位在数据中出现较少，被审计单位则更多以代称形式存在，导致识别效果不佳。
[0076]
再者，人名、审计问题识别效果低于其它实体，这可能是因为审计问题各式各样、人名存在姓氏代称的缘故。
[0077]
在其它一些实施例中，这个发射矩阵可以用bilstm(bi-directional long short-term memory)来训练，也可以随机初始化训练。lstm模型：长短期记忆(long short-term memory,lstm)是一种特殊的卷积神经网络rnn模型，主要是为了解决长序列训练过程中的梯度消失和梯度爆炸问题。简单来说，就是相比普通的rnn，lstm能够在更长的序列中有更好的表现。实施本技术的过程中，对于bert-crf模型和lstm-crf模型的效果进行了比对，如表3所示。
[0078]
表3模型对比效果表
[0079]
模型名称平均p平均r平均f1lstm-crf0.92830.89530.9115bert-crf0.95050.92620.9378
[0080]
从实验结果可以看出，bert-crf模型在各个指标上均优于lstm-crf模型，因此本技术选用bert-crf模型作为命名实体识别的最终模型。
[0081]
本技术采用经过标注的训练样本数据对模型bert-crf进行训练和微调，具体的模型参数见表4。
[0082]
表4模型参数表
[0083]
[0084][0085]
需要说明的是，本技术实施例的方法可以由单个设备执行，例如一台计算机或服务器等。本实施例的方法也可以应用于分布式场景下，由多台设备相互配合来完成。在这种分布式场景的情况下，这多台设备中的一台设备可以只执行本技术实施例的方法中的某一个或多个步骤，这多台设备相互之间会进行交互以完成所述的方法。
[0086]
需要说明的是，上述对本技术的一些实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下，在权利要求书中记载的动作或步骤可以按照不同于上述实施例中的顺序来执行并且仍然可以实现期望的结果。另外，在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中，多任务处理和并行处理也是可以的或者可能是有利的。
[0087]
本技术还提供了一种用于审计领域的命名实体识别模型训练装置。
[0088]
参考图2，所述用于审计领域的命名实体识别模型训练装置，包括：
[0089]
获取模块202，被配置为获取原始审计数据；
[0090]
计算模块204，被配置为采用n-gram算法对所述原始审计数据进行计算，得到包含多种数据长度的关键词的关键词表；
[0091]
过滤模块206，被配置为基于所述关键词的数据长度对所述关键词表进行过滤，得到实体词库；
[0092]
标注模块208，被配置为对所述实体词库中的实体词进行标注，得到训练样本数据；
[0093]
训练模块210，被配置为采用所述训练样本数据对预先构建的预训练模型进行训练，训练完成后，得到所述命名实体识别模型。
[0094]
在一些实施例中，所述过滤模块206，还被配置为基于所述关键词的数据长度从所述关键词表中剔除满足预设剔除规则的关键词，得到所述实体词库。
[0095]
在一些实施例中，所述过滤模块206，还被配置为根据所述预设剔除规则迭代执行以下剔除操作：
[0096]
从所述关键词表中选取任意两个关键词，将两个关键词分别作为第一关键词和第二关键词，响应于所述第一关键词包含在所述第二关键词内，且所述第一关键词的数据长度与所述第二关键词的数据长度的比值超过预设阈值，则从所述关键词表中剔除所述第一关键词，
[0097]
直至所述关键词表中不存在满足所述预设剔除规则的关键词。
[0098]
在一些实施例中，所述标注模块208，还被配置为采用审计词典和/或匹配算法对所述实体词进行标注。
[0099]
在一些实施例中，在采用n-gram算法对所述原始审计数据进行计算之前，包括：对
所述原始审计数据进行清洗。
[0100]
在一些实施例中，在基于所述关键词的数据长度对所述关键词表进行过滤之后，包括：去除经过过滤的所述关键词表中的错误关键词。
[0101]
在一些实施例中，所述命名实体识别模型为bert-crf模型。
[0102]
为了描述的方便，描述以上装置时以功能分为各种模块分别描述。当然，在实施本技术时可以把各模块的功能在同一个或多个软件和/或硬件中实现。
[0103]
上述实施例的装置用于实现前述任一实施例中相应的用于审计领域的命名实体识别模型的训练方法，并且具有相应的方法实施例的有益效果，在此不再赘述。
[0104]
本技术还提供了一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现上任意一实施例所述的用于审计领域的命名实体识别模型的训练方法。
[0105]
图3示出了本实施例所提供的一种更为具体的电子设备硬件结构示意图，该设备可以包括：处理器1010、存储器1020、输入/输出接口1030、通信接口1040和总线1050。其中处理器1010、存储器1020、输入/输出接口1030和通信接口1040通过总线1050实现彼此之间在设备内部的通信连接。
[0106]
处理器1010可以采用通用的cpu(central processing unit，中央处理器)、微处理器、应用专用集成电路(application specific integrated circuit，asic)、或者一个或多个集成电路等方式实现，用于执行相关程序，以实现本说明书实施例所提供的技术方案。
[0107]
存储器1020可以采用rom(read only memory，只读存储器)、ram(random access memory，随机存取存储器)、静态存储设备，动态存储设备等形式实现。存储器1020可以存储操作系统和其他应用程序，在通过软件或者固件来实现本说明书实施例所提供的技术方案时，相关的程序代码保存在存储器1020中，并由处理器1010来调用执行。
[0108]
输入/输出接口1030用于连接输入/输出模块，以实现信息输入及输出。输入输出/模块可以作为组件配置在设备中(图中未示出)，也可以外接于设备以提供相应功能。其中输入设备可以包括键盘、鼠标、触摸屏、麦克风、各类传感器等，输出设备可以包括显示器、扬声器、振动器、指示灯等。
[0109]
通信接口1040用于连接通信模块(图中未示出)，以实现本设备与其他设备的通信交互。其中通信模块可以通过有线方式(例如usb、网线等)实现通信，也可以通过无线方式(例如移动网络、wifi、蓝牙等)实现通信。
[0110]
总线1050包括一通路，在设备的各个组件(例如处理器1010、存储器1020、输入/输出接口1030和通信接口1040)之间传输信息。
[0111]
需要说明的是，尽管上述设备仅示出了处理器1010、存储器1020、输入/输出接口1030、通信接口1040以及总线1050，但是在具体实施过程中，该设备还可以包括实现正常运行所必需的其他组件。此外，本领域的技术人员可以理解的是，上述设备中也可以仅包含实现本说明书实施例方案所必需的组件，而不必包含图中所示的全部组件。
[0112]
上述实施例的电子设备用于实现前述任一实施例中相应的用于审计领域的命名实体识别模型的训练方法，并且具有相应的方法实施例的有益效果，在此不再赘述。
[0113]
本技术还提供了一种非暂态计算机可读存储介质，所述非暂态计算机可读存储介
质存储计算机指令，所述计算机指令用于使所述计算机执行如上任一实施例所述的用于审计领域的命名实体识别模型的训练方法。
[0114]
本实施例的计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(pram)、静态随机存取存储器(sram)、动态随机存取存储器(dram)、其他类型的随机存取存储器(ram)、只读存储器(rom)、电可擦除可编程只读存储器(eeprom)、快闪记忆体或其他内存技术、只读光盘只读存储器(cd-rom)、数字多功能光盘(dvd)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。
[0115]
上述实施例的存储介质存储的计算机指令用于使所述计算机执行如上任一实施例所述的用于审计领域的命名实体识别模型的训练方法，并且具有相应的方法实施例的有益效果，在此不再赘述。
[0116]
所属领域的普通技术人员应当理解：以上任何实施例的讨论仅为示例性的，并非旨在暗示本技术的范围(包括权利要求)被限于这些例子；在本技术的思路下，以上实施例或者不同实施例中的技术特征之间也可以进行组合，步骤可以以任意顺序实现，并存在如上所述的本技术实施例的不同方面的许多其它变化，为了简明它们没有在细节中提供。
[0117]
另外，为简化说明和讨论，并且为了不会使本技术实施例难以理解，在所提供的附图中可以示出或可以不示出与集成电路(ic)芯片和其它部件的公知的电源/接地连接。此外，可以以框图的形式示出装置，以便避免使本技术实施例难以理解，并且这也考虑了以下事实，即关于这些框图装置的实施方式的细节是高度取决于将要实施本技术实施例的平台的(即，这些细节应当完全处于本领域技术人员的理解范围内)。在阐述了具体细节(例如，电路)以描述本技术的示例性实施例的情况下，对本领域技术人员来说显而易见的是，可以在没有这些具体细节的情况下或者这些具体细节有变化的情况下实施本技术实施例。因此，这些描述应被认为是说明性的而不是限制性的。
[0118]
尽管已经结合了本技术的具体实施例对本技术进行了描述，但是根据前面的描述，这些实施例的很多替换、修改和变型对本领域普通技术人员来说将是显而易见的。例如，其它存储器架构(例如，动态ram(dram))可以使用所讨论的实施例。
[0119]
本技术实施例旨在涵盖落入所附权利要求的宽泛范围之内的所有这样的替换、修改和变型。因此，凡在本技术实施例的精神和原则之内，所做的任何省略、修改、等同替换、改进等，均应包含在本技术的保护范围之内。