用于处理诸如图像的具有现有拓扑的数据阵列的神经网络和网络应用的制作方法

文档序号:6491726阅读:219来源:国知局
专利名称:用于处理诸如图像的具有现有拓扑的数据阵列的神经网络和网络应用的制作方法
技术领域
一种用于处理具有适当的拓扑的数据阵列的神经网络,一种用于识别数据库的数据之间的关系的算法以及一种用于根据所述神经网络和根据所述算法进行图像图案识别的方法。
本发明涉及一种用于处理具有适当的拓扑的数据阵列的神经网络,包括对应于神经网络的结点(knot)的单元(Ki)的n维阵列,每个单元(cell)具有与形成单元(Ki)的邻居的直接相邻的单元(Kj)的连接;
a)每个单元(Ki)具有用于与周围单元的直接相邻单元(Kj)的每个连接的输入;
b)每个单元(Ki)具有用于与一个或多个直接相邻的单元(Kj)的连接的输出;
c)在每个单元(Ki)与直接相邻的单元之间的连接由权因子(wij)确定;
d)每个单元由被定义为单元(Ki)的激活值或函数(Ai)的内部值来表征;
e)每个单元(Ki)能够根据信号处理函数(所谓的转移函数)来实行信号处理,用于生成单元输出信号(ui);
f)转移函数将单元(Ki)的输出信号(ui)确定为单元(Ki)的激活值或函数(Ai)的函数,该转移函数还包括同一性函数,它使得单元(Ki)的激活值或函数(Ai)等于单元(Ki)的输出信号(ui);
g)提供了输入数据记录(Pi)的n维数据库,它必须由神经网络提交进行计算,并且在该n维数据库中,在被投影到相应的n维空间时数据记录(Pi)的相对位置是数据记录(Pi)的相关特征,数据库的数据记录(Pi)能够由所述n维空间中的点的阵列来表示,每个点具有在所述点阵列中单一规定的位置并且与所述数据库的数据记录(Pi)单一相关,所述数据库的每个数据记录(Pi)还包括至少一个变量或多个变量,每个变量具有某个值(Ui);
h)每个数据记录(Pi)与构成神经网络的单元的n维阵列中的单元(Ki)单一地相关联,所述单元(Ki)在单元的n维阵列中的位置与由所述点的n维阵列中的点所表示的相应的数据记录(Pi)相同;
i)每个数据记录(Pi)的变量的值(Ui)被看作为被取为单一地相关联的单元(Ki)的初始激活值(Ai)或初始输出值(ui)的网络初始化值;
j)在一定数目的神经网络迭代处理步骤后的每个单元(Ki)的激活值(Ai)或输出值(ui)被看作为对于所述单一地相关联的数据记录(Pi)的新得到的值(Ui)。
背景技术
本发明应用于人工智能领域,并因此应用于具有能够实行简单的处理过程的计算单元的机器,所述处理过程例如来自实验经验的学习过程、演绎过程、认知过程(通过此过程来分析所收集或输入的数据以便发现或研究表面上看可能不明显的、在数据记录之间的某些关系)或识别过程(通过此过程来识别声音、图案、图表、字母等等,用于将来处理)。
所有上述的过程都是有用的,以便把机器置于能够对于某些反应作出决定的条件,或为了对所收集的或输入的数据进行简单分类例如用来进一步使用。
实际上,在给定下述数据库的情形时,其中数据为记录的形式,每个记录由某个规定数目的变量的相关值所识别,则数据记录之间的关系可以通过所谓的“无监督算法”进行研究。
已知的无监督算法例如是所谓的SOM,即自组织映射,它提供具有一定数目的单位(unit)的网格作为输出,其中每个单位由一个单元表现个体特征,以及在每个网格中收集属于数据记录的某种原型的一定数目的数据记录。SOM是在KOHONEN 1995T.Kohonen,Self Organizing Maps,Springer Verlag,Berlin,Heideburg 1995或Massimo Buscema & SemeionGroup“Retl neurali artificiali e sistemi sociali compessi”,Year 199,Edizioni Franco Angeli s.r.l.Milano,Italy,chapter 12中更详细地描述的已知的算法。
这个集群可以给出有关记录彼此相似性的信息,并因此允许实行数据分类或识别下述关系,所述关系可被机器使用来决定如何实行任务、或是否必须实行任务、或必须实行哪种任务。
然而,此算法在帮助识别数据记录之间,特别是在数据记录阵列中的数据记录的相对位置或N维空间中特别是二维或三维空间中的数据记录的分布是数据记录的相关特征的情形下的数据记录之间的某种类型的关系时不是非常有效的。而且,数据记录是过程的中性元素。
可以使用不同种类的传统人工神经网络。这种人工神经网络由结点所表征。结点是处理单元,它们互相连接构成网络。人工神经网络按人脑的神经元网络而建模。在这种情形下,网络的每个结点表示人工神经元。结点按层排列。在最简单的配置中,结点的输入层与结点的输出层相连接。结点的数目通常对应于数据库的不同数据记录或变量。在生物学的情形下,神经元包括三个基本部分神经元本体;被称为树突的分支延伸体,用于接收输入;以及轴突,其把神经元的输出载送到其它神经元的树突。一般说来,神经元经由它的轴突把它的输出发送到其它神经元。轴突通过一系列动作电位或通过取决于神经元电位的电流波来载送信息。此过程常常被建模为由纯数值表示的传播法则。神经元通过合计所有施加在它上面的激励和抑制影响而收集在它突触处的信号。如果激励影响占优,则神经元激发此消息,并把它经由对外突触发送到其它神经元。在这个意义上,神经元功能可被建模为简单的阈函数。在人工神经网络中,使用相同模型,每个结点具有输入,所述输入被连接到在前的结点层的某个或每个其它结点的输出,以及具有输出,所述输出被连接到在后的结点层的某个或每个其它结点。由被连接到结点输入的其它结点的输出来施加的激励或抑制水平由权因子所定义的连接强度确定。如果被输入到结点的信号总和超过某个阈值,则该结点将激发而输出将发出信号。结点的内部状态或值被定义为激活函数。
通过用这种传统种类的人工神经网络来处理数据,数据被馈送到输入层的结点,而在输出层的结点的输出处提供过程的结果。为了更好地和更加深入地了解人工神经网络的结构,可参阅Massimo Buscema & Semeion Group,“Reti Neurali Artificiali e sistemi sociali compessi”,Volume I,Semeion Centro Ricerche,Franco Angeli Milano 1999(ISBN88-464-1682-1)。为了确定定义连接强度的权因子,人工神经网络进行训练过程,在所述训练过程中数据库的数据被输入,对于所述数据,处理输出数据是已知的。向网络馈送输入数据和已知的输出数据,并且计算连接权因子,以使给定的输入和输出数据通过权因子进行匹配。
当考虑对具有适当拓扑的数据库的处理时,此数据可被投影为n维空间中的点,在n维空间中表示数据的点的相对位置是数据本身的相关特征,诸如,例如构成图像的像素的二维阵列,上述的传统算法不会考虑所述拓扑特征,例如图像中的像素相对于其它像素的位置,而且,不会并行地对每个像素实行处理。
曾经通过使用所谓的细胞式自动机或它们的改进来作为细胞式神经网络而对此问题的解决方案进行尝试。文献US 5,140,670和文献Leon O.Chua和Ling Yang,“Cellular Neural NetworksApplication”,IEEE Trans.On Circuits & Systema vol.35(1988)Oct.,No.10,New York,NY,US公开了所谓的细胞式自动机和神经网络的组合,其显示了在一开始公开的人工神经网络的特征。这种新的信息处理系统是类神经网络的大规模非线性模拟电路,该电路实时处理信号。与细胞式自动机类似,它由仅仅通过其最接近的邻居互相直接通信的有规律间隔的电路克隆(被称为单元)的大量集合而组成。未被直接连接在一起的单元可以由于细胞式神经网络的连续时间动态的传播影响而互相间接影响。细胞式神经网络能够实行反馈和前馈操作。单元之间的连接是一致的和局部的。这意味着细胞式神经网络可以通过它的反馈和前馈操作符的模板为表征。这些操作符定义了细胞式神经网络的动态行为。这些操作符是有限常量或系数的方阵,其是定义了细胞式神经网络的动态法则的所谓的克隆模板。因此,在细胞式神经网络中,可以使用不同种类的操作符,其是预先定义的并且独立于要被处理的数据阵列的数据的特定值。每个操作符被具体地定义,以便实行数据的特定操作,用于从数据或数据之间的关系中提取或突出特征。通常,提供这样的操作符模板(所谓的基因)的库,从其中选择一个或多个操作符模板,并且这些操作符模板被用来实行想要的数据处理。所以,例如当考虑二维图像时,可以提供操作符或基因用于检测和突出边缘,可以提供另外的操作符或基因用于锐化等等。所述操作符(peratirs)可被顺序地用于处理数据,以便得到它们对于输出图像的影响的组合。
从以上说明可以明显看出,虽然已知的细胞式自动机考虑到下述事实,即,如上文较好地定义的,数据在拓扑上是适当的,但是,操作符由常量形成,并完全独立于要被处理的数据值。把这种行为与神经网络相比较,这意味着,定义了从直接在结点周围的层中的结点的输出到结点的输入的信号传播的权因子是预先定义的,并独立于对应于人工神经网络中的结点的激活值或输出值的结点内部值。因此,被包含在数据阵列中的固有信息由于它们的拓扑关系和它们的值而被丢失或完全不予考虑。

发明内容
本发明意在提供改进的人工神经网络,其将细胞式神经网络或细胞式自动机的结构的优点与操作符的动态定义的优点相结合,所述操作符的动态定义还考虑到了被固有地包含在阵列数据中的数据值的关系中的信息。
作为特殊情形,本发明意在提供一种具有细胞式神经网络的结构的新的人工神经网络,其允许并行处理图像数据而不会丢失与构成图像的像素值之间的关系有关的信息。
本发明通过一种人工神经网络达到以上的目标,所述人工神经网络包括对应于神经网络的结点的n维阵列的单元(Ki),每个单元具有与构成单元(Ki)的邻居的直接相邻的单元(Kj)的连接;
a)每个单元(Ki)具有用于与周围单元的直接相邻的单元(Kj)的每个连接的输入;
b)每个单元(Ki)具有用于与一个或多个直接相邻的单元(Kj)的连接的输出;
c)在每个单元(Ki)与直接相邻的单元之间的连接由权因子(wij)确定;
d)每个单元由被定义为单元(Ki)的激活值或函数(Ai)的内部值来表征;
e)每个单元(Ki)能够根据信号处理函数(所谓的转移函数)来实行信号处理,用于生成单元输出信号(ui);
f)转移函数将单元(Ki)的输出信号(ui)确定为单元(Ki)的激活值或函数(Ai)的函数,该转移函数还包括同一性函数,它使得单元(Ki)的激活值或函数(Ai)等于单元(Ki)的输出信号(ui);
g)提供了输入数据记录(Pi)的n维数据库,它必须由神经网络提交进行计算,并且在该n维数据库中,在被投影到相应的n维空间时数据记录(Pi)的相对位置是数据记录(Pi)的相关特征,数据库的数据记录(Pi)能够由所述n维空间中的点的阵列来表示,每个点具有在所述点的阵列中单一规定的位置并且与所述数据库的数据记录(Pi)单一地相关,所述数据库的每个数据记录(Pi)还包括至少一个变量或多个变量,每个变量具有某个值(Ui);
h)每个数据记录(Pi)与构成神经网络的单元的n维阵列中的单元(Ki)单一地相关联,所述单元(Ki)在单元的n维阵列中的位置与由所述点的n维阵列中的点所表示的相应的数据记录(Pi)相同;
i)每个数据记录(Pi)的变量的值(Ui)被看作为被取为单一相关联的单元(Ki)的初始激活值(Ai)或初始输出值(ui)的网络初始化值;
j)在一定数目的神经网络迭代处理步骤后的每个单元(Ki)的激活值(Ai)或输出值(ui)被看作为对于所述单一地相关联的数据记录(Pi)的新值(Ui)。
该人工神经网络还包括以下特征
k)对于所述一定数目的迭代处理步骤中的每个处理步骤,规定了每个单元(Ki)与直接相邻的单元(Kj)之间的连接的权因子(wij)被确定为与所述单元(Ki)直接相邻的单元(Kj)单一地相关联的每个数据记录(Pj)的变量的当前值(Uj)的函数,所述函数是所谓的学习函数或法则;
l)在神经网络的处理步骤后的、被认为是对于所述单一相关联的数据记录(Pi)的新的当前值(Ui)的每个单元(Ki)的当前激活值(Ai)或输出值(ui)被确定为由规定了直接相邻的单元(Kj)与单元(Ki)的连接的相应权因子(wij)所加权的直接相邻的单元(Kj)的当前输出值(uj)的函数。
作为一种变例,上述的人工神经网络可以通过把在神经网络的处理步骤后的、被认为是对于所述单一相关联的数据记录(Pi)的新的当前值(Ui)的每个单元(Ki)的当前激活值(Ai)或输出值(ui)确定为规定了直接相邻的单元(Kj)与单元(Ki)的连接的相应权因子(wij)的函数而加以修改,所述函数是所谓的激活函数或法则。
在神经网络的处理步骤后的、被认为是对于所述单一相关联的数据记录(Pi)的新的当前值(Ui)的每个单元(Ki)的当前激活值(Ai)或输出值(ui)可被确定为直接相邻的单元(Kj)的当前输出值(uj)以及由规定了直接相邻的单元(Kj)与单元(Ki)的连接的相应权因子(wij)的函数,所述函数是所谓的激活函数或法则。
而且,对于所述一定数目的迭代处理步骤中的每个处理步骤,规定了每个单元(Ki)与直接相邻的单元(Kj)之间的连接的权因子(wij)被确定为与所述单元(Ki)直接相邻的单元(Kj)单一相关联的每个数据记录(Pj)的变量的当前值(Uj)以及与单元(Ki)单一相关联的数据记录(Pi)的变量的当前值(Ui)的函数。
当数据库由二维图像的像素所构成时,则以上的神经网络构成根据本发明的、用于图像处理的机器。
在以下的说明中公开了另外的改进,这些改进从属于所附权利要求。
根据本发明的以上的人工神经网络是基于以下的理论基础
作为例子,将一种现象定义为可以根据吸收的或发射的电磁频率而测量的每个时空组。因此,视觉现象是以上定义的整体现象的子组,该子组根据决定要观察的频率而变化。视觉现象是具有适当拓扑的现象。任何现象均可藉助于由模型确定为先验的单元来分析,或可以迫使所述现象显示最小单元之间存在的关系。现象的任何单元是最小单元的明显的或隐含的合成。因此,模型的单元可被看作为减小了最小单元中存在的原始信息的索引。这种减小可以是关键的,因为模型的单元能够忽略在最小单元中和在它们的局部交互中存在的某些特征。分析视觉现象或具有适当拓扑的其它现象时,由模型的单元所实行的减小是严重的。事实上,例如作为平均值、方差的某个索引和基于平均值的每个其它索引将不会保持被合成的最小单元的拓扑特征。例如,除了非常稀少的情形以外,两个直角三角形的平均值将不会生成直角三角形,。
我们可观察作为科学知识的主题的另外的每个现象是具有适当拓扑的现象。由于可以存在形状的仅有事实,在理论上各向同性的空间中每个形状通过它的拓扑来显示它的特定适合性。任何种类的科学模型均意在藉助于现象的最小单元的交互而使得每个现象呈现它的固有模型。在找到现象的最小单元后,科学模型应当被提供给所述单元公式,藉助于所述科学模型所述单元相互交互。当现象的最小单元能够藉助于所述公式而以它的形态和动态复杂性来重构现象本身时,则公式可以被称为是由最小单元造成的、模型的好的元模型。没有重构证明就不存在对科学活动的确认。
为了成为科学知识的主题,每个现象必须能够被定量地表征。这意味着,它的最小单元和它们的关系必须能够由数字值所表示。从物理的观点看来,此数字值描述“力”和/或所施加力的“结果”。在特定的公式内这些数值之间的交互可以允许措施的重构性证明,通过该措施,元模型(即,现象)生成类似于必须被了解的现象的模型。因此,科学知识的目的是定义在现象中隐含的数学函数。当所述数学函数是相对较复杂,即,高度非线性时,或许我们对现象的感知迫使我们把所述现象定义为向其提供有不能只归结为定量影响的定性特征。总之,由于表征了现象中隐含的函数的复杂性,这只是感知影响。因此能够规定,每个现象的定量分量是它的高度定量非线性的感知影响。考虑到在自然界存在的所有现象都牵涉到高度非线性动态,很明显,定性影响的感知是如此普遍,以致于使人认为质量是现象本身所固有的。在现实中,数量与质量之间的差别并不存在。质量是数量表达其鉴别的一种方式。
在具有适当拓扑的任何现象中,现象的同一性和单一性由它的时空内聚性所保证。这意味着,现象的每个最小单元均是邻接的,并且通过特定的力被直接或间接连接到其它最小单元。因此,所分析的现象的每个最小单元的定量值是所述力的作用结果。可以证明在具有适当拓扑的现象中,将每个最小单元连接于局部邻居的任何其它最小单元的力足以解释整个现象的时空内聚性。
考虑现象P,包括在具有D个空间维度的空间中的最小单元P1,P2,...PM,其中为了简单起见,D=2。现在假设每个最小单元的本地邻居N由直接围绕最小单元的第一层构成,即所谓的围绕最小单元的梯度1,其中1指的是步骤。在二维空间中,本地邻居由N=8个最小单元构成。因此现象P可以由具有M个单元的矩阵所表示,其中M=R(行)×C(列)。
P1,1 P1,2 P1,3 ......P1,C
P2,1 P2,2 P2,3 ......P2,C
… … … …
PR,1 PR,2 PR,3 ......PR,C
在此矩阵中,每个最小单元Px,y将具有定量值,例如反射器能够反射的光的量,我们可以把所述定量值表示为uxy,其中u∈{0,1}。单元Px,y还将具有与它的本地邻居N的连接。
现在将Wx,y,x+k,y+z(其中k和z是整数,并且使得k∈{-1,1},z∈{-1,1})定义为它与它的本地邻居N的最小单元的连接的力。现在能够写出
其中,|k|+|z|>0;
从以上公式可以得出以下公式
换句话说每个最小单元px,y的定量值是围绕所述单元的8个最小单元的定量值以及把所述最小单元连接到周围的单元的力的函数。
用更分析的语言表达
如果我们从x=1和y=1开始以每第n个步骤u[n]x+k,y+z递归地替换我们在上面对于uxy所计算的相同函数f(),则可以看到,容易获得索引xC和yR,这表明每个单元px,y的定量值依赖于所有其它的单元。
从上面可以得出结论,通过定义在现象P的每个最小单元与它的本地邻居的最小单元之间的连接的强度,也可定义整个现象P的全局连接强度。
显然,这个命题仅仅在假设现象P具有动态行为时才是合法的。由此,必须要论证,具有适当拓扑的每个现象总是时间过程或时间过程的部分结果。
通过组合局部连接性的概念与表征了具有适当拓扑的现象的时间动态,必须要论证,所述现象同时具有并行的和顺序的行为。这种异步并行性可被定形。
考虑在具有二维(D=2)的平面的分配情况下具有适当拓扑的现象P,其单元是最小的边L的平方并且其单元将平面完美地划分为单个平铺平面。在这种条件下,可以估计出下述函数,通过所述函数在较高的距离处的P的两个最小单元互相施加互逆影响。假设P的每个最小单元被直接连接到它的梯度1(g=1)的本地邻居,则在每个时刻t将根据以下公式产生每个最小单元的信号扩散
t=1g=1
其中I(t)是在第T个时间周期受到参考最小单元的信号所影响的最小单元pfP的数目。这些公式表示任何维数D的现象P的最小单元的信号的扩散函数。
还能够定义P的最远的两个最小单元互相影响的时延Δt。
对于D=2的二维情形并且已知以上定义的两个最小单元Px1,y1和Px2,y2,则时延被表示为
而且,具有适当拓扑的现象由最小单元和由所述最小单元之间的本地连接构成。每个最小单元由它在现象中占据的位置和由在每个瞬间例如现象的特征效果的定量值(诸如发射光的量或反射器反射光的量)所定义。
以上情形可被表示为,
其中u是定量值,而x,y,z,...D是位置,以及t是时刻。
每个本地连接定义了在每个时刻每个最小单元对于与所述最小单元直接相邻的每个其它最小单元的相互影响的强度。因此,每个本地连接由与其连接的最小单元的位置和由在每个时刻的定量值所定义,这可被表示为
其中W是定量值,
x,y,Ds是源最小单元的位置,
T是时刻,而k,z,Dd是目标最小单元。
考虑以上情形,连接的有效矩阵可以由以下公式的系统所定义
公式(4a)和(4b)描述最小单元的演化和具有适当拓扑的现象与表示了它的解的组的吸引单元的连接的演化。两个公式可以用两种简并方式提供,以请求特定关注
作为第一种方式
在此情形下,现象的最小单元通过从具有过程脉冲的唯一影响的它们的初始定量值或开始定量值开始而仅作为连接的函数进行演化。这种演化的一种特定特征在于下述事实,即,在连接的空间中产生调整连接的演化的过程(公式(4b))。正在是在这个空间中找到对于最小单元的演化的解。
所以,在这种情形下,最小单元的开始值作为对连接演化的简单约束。这些最后的开始值动态地提供单元的值,并因此这样的过程的吸引单元将是作为由在它的开始值与相邻最小单元的开始值之间的动态协商所生成的唯一关系单元的任何最小单元的新的定义。
第二种已简并情形由以下公式描述
在这种情形下,只有最小单元的值将演化,而它们的连接保持不变,并且所述连接将作为演化过程的约束。
以上对基于电磁示例或视觉现象的、具有适当拓扑的现象的分析再次明显地表明了已知神经网络(具体地是细胞式神经网络)的局限。现有技术中公开的此网络不完全适合于具有适当拓扑的现象的结构,因为没有考虑在最小单元的交互与定量值之间的关系,但所述交互由其结构不受现象的最小单元的值影响的预先定义的模型(即,操作符模板)来描述。相反,根据本发明的人工神经网络通过考虑由数据库的数据记录构成的最小单元的定量值与在这些最小单元之间的交互的相互关系而逐步更接近于现象的结构。
在以下的描述中,更详细地显示和描述了不同的法则组,用于描述在本神经网络的单元或结点与单个单元或结点的定量值之间的交互方式,即,它们的内部值或激活值或输出值之间的互动涉及到其它单元或结点的方式,以便引导网络的计算过程。
本发明还涉及用于识别数据库的数据之间关系的算法,该算法在突出数据库的数据之间关系时更有效、快速和更精确。
根据本发明的算法是用于识别在具有适当拓扑的数据库的数据之间关系的算法,这意味着,所述数据是这样一种数据,其中在数据记录的阵列中或在N维空间(具体地为二维或三维空间)中的数据记录的分布中的数据记录的相对位置是数据记录的相关特征,以及其中数据记录可被表示为单元或点的阵列,每个点与数据库的数据记录单一地有关,并具有在阵列中相对于其它数据记录的单元或点所单一规定的位置,还与每个数据记录有关的是至少一个变量或多个变量,每个变量具有一定值,所述算法的特征由下述事实所表征
-在表示数据库的数据记录的点或单元的阵列中的每个单元或点被认为是人工神经网络的单位或结点;
-由数据库的单元或点构成的每个单位或结点被连续定义为目标单位或结点,以及连接被规定为在每个目标单位或结点之间的、至少连接到由数据库的其余单元或点所构成的其余单位或结点中的每一个,所述单位或结点至少属于相对于对应目标单位或结点的梯度1;
-被连续规定为目标单位或结点的、数据库的每个单位或结点的新的输出值是如下计算的藉助于规定了单位或结点之间的连接的强度的人工神经网络的学习法则或函数的组,或规定了每个单位或结点的定量值(即它的激活值或它的输出值)的人工神经网络的激活法则或函数的组,或藉助于将人工神经网络的学习法则或函数的组与激活法则或函数的组的组合作为被连接到目标单位或结点的单位或结点的实际输出和所述目标单位或结点的实际输出的函数;
-每个单位或结点的实际输出被规定为变量值或被规定为与被看作为人工神经网络的单位或结点的、由单元或点表示的每个数据记录相关联的变量值;
-并且目标单位或结点的新输出被看作为与对应于目标单位或结点的数据记录阵列的单元或点相关联的数据记录的一个或多个变量的新值;
-通过实行用于计算对于数据记录阵列的至少部分或每个单元或点的目标单位或结点的新输出的所述步骤,数据记录的新阵列被计算,其中每个单元或点的数据记录具有至少一个变量的新值或若干变量的新值,作为根据以上步骤的人工神经网络的第一计算循环的结果;
-所述计算循环对于每个连续的新的数据记录阵列重复进行,直至实行过某个预定数目次数的重复计算循环为止;和/或除非在数据记录的初始阵列的一个或多个变量的初始值与根据在最后循环中所计算的数据记录阵列的一个或多个变量的值之间已达到某个最大可允许的误差或偏差;和/或除非在循环序列中计算的数据记录阵列的序列中的数据记录的一个或多个变量的值之间的差值低于预定的最大比值。
可以使用许多不同的已知学习函数或法则组或可以使用许多不同的已知的激活函数或法则组,它们也可以被组合起来,每个所述组或者所述组的组合可以增强或证明相对于数据记录之间的其它种关系而言的更好方式的某种关系。
根据进一步的改进,数据记录阵列可被提交至少两次或更多次,以进行根据本发明的算法的精心处理,在第一阶段中提供第一学习函数或法则组、或第一激活函数或法则组、或它们的组合,并且在第二阶段中提供第二学习函数或法则组、或第二激活函数或法则组、或它们的组合等等,当提供了两个以上的阶段时,在通过本发明的算法用第二或另外不同的学习或激活法则或函数组或用它们的组合而进行的第二或另外的精心处理阶段中所使用的数据记录阵列是分别从数据记录阵列的第一或从之前的精心处理阶段中得到的数据记录阵列。
虽然相对于由与目标数据记录有关的单元或点实际上所构成的单位或结点,不需要对应于与至少梯度1的数据记录有关的单元或点的单位或结点是空间上直接围绕与所述实际目标数据记录有关的单元或点的单位或结点,但是在专门的情形下特别是在二维或三维的数据记录阵列中,相对于目标数据记录的单元或点的、与梯度1的数据记录有关的单元或点由与直接围绕与所述目标数据记录有关的数据记录阵列中的单元或点的数据记录阵列的单元或点相关联的数据记录所构成。
根据另外的特征,在由所述算法计算的新的数据记录阵列仅仅基于学习函数或法则组的情形下,每个目标数据记录的新输出被定义为新的权因子的函数,所述权因子表征与目标数据记录相关联的每个目标单位或结点与由相对于目标数据记录的单元或点的梯度1的数据记录的单元或点所表示的单位或结点的连接,所述学习法则或函数组把连接的新的权因子定义为在以前的计算循环中计算或定义的以前的权因子的函数,以及定义为与目标数据记录的单元或点相关联的单位或结点的实际输出以及与梯度1的数据记录的单元或点相关联的单位或结点的实际输出、或直接围绕实际的目标数据记录的单元或点的单元或点的数据记录的实际输出的函数。
通过使用激活函数组可以得到类似的结果,其中,这些函数根据对所述单位或结点的纯输入来定义对应于与目标数据记录有关的单元或点的目标单位或结点的新输出,所述单位或结点的纯输入是相对于目标数据记录的、对应于与梯度1的数据记录相关联的单元或点的单位或结点的输出的函数,具体地是对应于直接围绕目标数据记录的单元或点的数据记录阵列的单元或点的单位或结点的输出的函数。
学习阶段通过对于每个连接的权因子的固定预定值开始,而单位或结点的开始值根据也作为权因子和围绕结点或单位的值的函数的预定函数以及从而根据对应于在直接围绕表示了人工神经网络的某个单位或结点的单元或点的、阵列中的单元或点的数据记录而进行修改。
因此可以构建新的数据阵列,其中每个数据记录将相对于在数据记录的表示中的其它数据记录的位置保持为阵列中的单元或点,而每个数据记录将它的值改变为它的初始值和与阵列中的周围点有关的数据记录的初始值的函数。
因此可以执行新的循环,其中表示数据记录的每个点再次被设置为人工神经网络的单位或结点,对于在单位之间的每个连接定义一个权因子,以及根据某个函数来计算以每个单位或结点的输出的形式的新值。
可以使用若干不同种类和结构的已知人工神经网络,它们使用了用于定义权因子的不同的已知的和/或新的学习函数和用于计算与每个单位或结点相关联的每个数据记录的新值的不同的函数。
重要的是要注意,由于在人工神经网络的结点之间的连接的权因子至少在每个循环时是固定的,并且最终对于每个连接是相等的,根据本发明的算法实际上没有内部噪声,噪声仅仅由数据库的数据的噪声给出。
在以下的某些例子的详细说明中公开了学习法则或函数组和已知的激活法则或函数组和它们的组合的不同例子。
正如在以下的详细例子中将更清楚地看到的,用于确定人工神经网络的连接的权因子的不同的学习法则、或用于计算对应于数据记录的新值的人工神经网络的单位或结点的输出的不同函数在用于增强数据记录的某种特征时可以是有用的。
根据本发明的算法可以在估计数字的或数字化的图像以便将所述图像的某些特征识别或证明为例如组织分化、图像图案识别和对比度增强的方面找到简单的和有效的使用。
具体地,根据本发明的算法可被用于图像图案识别和用于证明构成主体的物质的不同种类的结构,特别是与放射学、回波扫描或磁谐振成像等等相结合而构成生物体的组织的不同种类的结构。
正如将在以下详细例子中更清楚看到的,根据本发明的算法在显现不同种类的组织和/或用于在诊断成像时替换强反差介质方面可以是有用的。
具体地,不同种类的已公开的或增强的信息取决于被施加到由初始图像的像素阵列所构成的神经网络结构的不同的学习和/或激活法则组。原则上,所得到的效果类似于可以通过使用在回波扫描、X光照相、核磁共振成像或类似成像方法中诸如反差介质的增强媒体而得到的效果。
而且,所增强的这种信息可以通过对某种学习和/或激活法则组的选择来区分。一般来说,能够识别两类这样的法则组。在图3的表中概述了这两类法则组,其中对不同的法则组给予名称,这将稍后在详细说明中进行解释。
第一类法则提供权因子演化和单位激活,并允许从源数字或数字化的图像中执行特征提取,所述特征例如生物体图像中的组织种类、或组织或物体的结构,所述提取例如识别血管照片图像中的器官狭窄的存在。
第二类包括主要实行权因子优化的法则。在权因子优化后,可以实行单位激活的另外的步骤。这类法则有助于找出用于识别边界的、在图像的不同区域之间的边缘,所述边界例如在生物体的图像中不同类组织之间的边界。
以上例子不是根据本发明的算法的唯一可能的应用领域。另一例子可包含对相对于它们的共同激活的基因之间的关系和依赖性的估计。
本发明还涉及一种用于数字或数字化图像中的图像图案识别的方法。
具体地,本发明涉及一种用于识别和区分生物体的数字或数字化图像中的不同组织,例如诊断图像中的不同组织,所述诊断图像例如数字化的X光照相或回波扫描图像或磁谐振图像。
重要的是要注意,虽然上述例子的描述具体地指数据记录的二维阵列,但根据本发明的算法和方法并不限于这样的空间,而是还可应用于数据记录的三维和N维阵列。


通过附图从以下某些例子的描述中,根据本发明的算法和使用所述算法的方法将更加明显,在附图中
图1是单元的二维阵列的示意图,每个单元表示数据的二维阵列中的数据记录,例如,每个单元示意性地表示数字或数字化图像的一个点(一个像素)。
图2表示把图1的九个中心点或单元变换成人工神经网络的单位或结点的步骤。
图3例示了用于神经网络(具体地指由数字图像的像素构成的神经网络结构)的不同类的学习和激活法则的图。
图4A、4B、4C和4D分别例示了乳房的X光照相、放大的乳房的X光照相、已经过根据本发明和根据被称为CM的特定的学习定律的用于图像图案识别的方法的数字化的乳房的X光照相、以及已经过根据本发明和根据被称为IAC的另外的特定学习定律的用于图像图案识别的方法的数字化的乳房的X光照相。
图5A、5B、5C和5D分别是图4A、以及图4B、4C和4D的进一步的放大图。
图6A、6B、6C、6D、6E、6F、6G分别是细菌的照片和已经过已知的图案识别方法的图6A的四个数字化图像,而图6G例示了已经过使用被称为IAC的用于人工神经网络的自动控制法则(具体地为增强对比度)的根据本发明的方法的图6A的数字化图像。
图7A、7B、7C是心室的数字照片、已经过已知的图案识别方法的所述数字化照片和已经过被称为CM的根据本发明的方法的数字化照片。
图8A、8B、8C、8D和8E显示其中存在物质转移的相同身体局部的一组回波扫描图像,其中图8A到8E分别是没有反差媒体的图像、在动脉阶段有反差媒体的图像、在平衡时有反差媒体的图像、在后期阶段有反差媒体的图像、没有反差媒体并由根据本发明的方法所处理的相同身体部分的图像。
图9A、9B、9C、9D分别是肺的X光照相、已经过被称为最佳过滤(bestfilter)的已知算法的图9C的数字化图像、已经过根据本发明的并具有被称为CM的法则的处理的图9B的图像以及已经过根据本发明的并具有被称为IAC的自动化法则的处理的图9D的图像。
图10A、10B、10C分别例示了乳房的X光照相、通过已知的图案识别方法所处理的图10A的乳房的X光照相以及根据本发明的方法所处理和具有被称为High CS的自动化法则的图10A的乳房的X光照相。
图11A、11B、11C、11D和11E分别例示了正常的照片、图11A的经受两种不同的已知的图案识别方法处理的照片、和图11A的经受根据本发明的方法的处理和根据被称为IAC和IAC与CM的组合的两种不同的自动化法则的照片。
图12A到12J分别例示了股动脉的解剖分区的X光照相的源图像和根据本发明通过使用不同种类的法则和它们的不同组合而精心处理的图像。
图13是根据本发明的神经网络的典型的一般化的单元或结点的示意性框图。
具体实施例方式
现在参照图1,数据记录的二维阵列由通过Pi标识的方形单元阵列而图示地表示,其中i是自然数元素。用实线画出中心的九个方形单元P7、P8、P9、P12、P13、P14和P17、P18、P19,而用虚线画出周围的另外的单元,用于表示该阵列可以大于所表示的阵列。
阵列的每个单元是用于数据记录的单元,其具有它的唯一有关的单元并因此在阵列中具有唯一有关的位置,数据记录的每个单元相对于数据记录的其它单元的位置是相应数据记录的相关特征。每个单元的每个数据记录具有值Ui,其中i是自然数元素,并且其中所述值可以是仅仅数据记录的变量的参数值,或是包括每个数据记录和一组不同变量的向量。以上方案是在特定技术语言中被称为具有适当拓扑的数据库的表示法。这意味着,不单数据记录的值是每个数据记录的相关特征,而且也是它们在n维空间中数据库的数据记录的投影中或在n维矩阵形式中数据库的数据记录的排列中的相对位置,所述矩阵形式只是用于表示这样的投影的不同形式方法。
例如,数字或数字化图像是像素的二维阵列。每个像素表示数据记录阵列中的数据记录,并且像素的相对位置是属于图像数据的相关信息的每个像素的相关特征。像素值在灰度图像中是简单的亮度值,而在彩色图像中该值是向量,包括至少两个参数或变量,即颜色和亮度,在实际上所使用的作为所谓的HVS或所谓的彩色图像的RGB编码的显现彩色图像的技术中,通常是三个参数或变量。
图2尝试示意性地显示由根据本发明的算法使用的步骤,它通过把单元的二维阵列变换成人工神经网络的单元或结点的阵列而提供用于处理二维阵列的数据记录。方形表示图1的初始单元Pi的关系,而封闭圆圈Ki表示每个单元Pi与人工神经网络的单元或结点的阵列的单位或结点Ki的变换或联系。
连接箭头wij表示在人工神经网络的单位或结点Ki和Kj之间的连接。图2只涉及到图1的9个中心单元并且连接箭头对于作为对应于实际的目标数据记录的单元的中心单元P13是邻接的,而非邻接的箭头涉及到显然由本算法使用的周围单元的连接,它的机制同样地从如参照唯一的中心单元P13所描述的本算法的工作方式的说明中得出。另外,在连接的两端提供箭头的事实表示下述事实,通过描述参照周围单元到中心单元P13的的工作方式,这个实际的中心单元P13将变为将是中心单元的另一单元的周围单元。
因此,通过把根据本发明的算法应用于单元的阵列,所述算法每次逐个单元地扫描阵列,识别作为瞬时中心单元的单元和相应的周围单元以及在该中心单元和周围单元之间的相关联的连接,并且当对于被瞬时地规定为中心单元的某个单元实行了计算之后,相邻的单元被定义为新的中心单元,通过相应的连接来标识这个新的中心单元的新的周围单元,这时对于这个新的中心单元和具有相应连接的新的周围单元实行计算,依此类推。重复这种机制,直至阵列的每个单元都经过了所述算法的计算为止,从而结束人工神经网络的第一计算循环。之后的循环是相同的,差别在于它们被应用于之前已被算法处理过的单元的阵列。
图13例示了根据本发明的人工神经网络的单元或结点的示意图。每个结点或单元Ki包括由结点或单元Ki在此处接收来自其它结点Kj的输出信号uj的输入。而且,每个结点或单元Ki具有被连接到一个或多个其它结点或单元Kj的输入的输出。每个结点或单元的输出ui是结点Ki的内部值Ai或状态(也被称为激活值)的函数,该函数也可以是恒等函数,即Ai=ui。
在本人工神经网络中,每个结点或单元Ki还具有对于规定了结点或单元的初始化内部值或激活值Ai或初始化输出值ui的初始化值的输入。在本例中,参照图1,2和13的例子,对于结点Ki的内部值或激活值Ai的初始化值或第一输出值Ui被设置为等于如上所述的与结点Ki单一地有关的数据记录Pi的值Ui。每个结点或单元Ki还具有输出,用于在一定数目m个处理循环的序列中第n次处理循环后的数据记录Pi的计算值Uin。所述新的计算值Uin或者对应于在实行第n次处理循环后结点或单元Ki的内部值或激活值Ain,或者对应于在实行所述第n次处理循环后结点或单元Ki的输出值uin。
如图2所示,本人工神经网络包括结点或单元Ki仅仅与同所述结点或单元Ki直接相邻的结点或单元Kj的直接连接。这种结点或单元Kj的组在技术上被定义为结点或单元Ki的本地邻居或者梯度1的结点或单元。术语梯度1是指在参考结点或单元Ki的位置与形成所述结点或单元Ki的本地邻居的结点或单元Kj的组的位置之间步进差值。这个定义是直观可理解的,并且是广泛传播的技术定义。所以很明显,在离散化阵列中,其中仅有对于阵列元素的离散位置是可能的,定义参考元素,梯度1的邻居由在阵列的任何方向上其位置与参考元素的位置相差步长1的元素组所构成。这是最简单的情形。术语梯度1是更普遍的,因为它不限于空间坐标,而可以指其中可以投影n维数据库的任何种类的空间。
结点Ki与本地邻居的结点Kj之间的连接由它们的强度来定义。当本地邻居的这些结点Ki的信号被发送到与它们相连接的参考结点Ki时,连接强度由权因子wji或wij定量地给出,所述这些权因子与结点Ki的本地邻居的结点或单元Kj的输出uj相乘。正如在本描述的前言中所说明的,被输入到参考结点Ki的这些加权信号对于它的内部状态Ai有影响,以便导致或禁止输出信号ui的发射,或改变所述输出信号ui的值。
正如在前言中已说明的,这样的神经网络不单考虑作为处理结点或单元的值的基础,而且也考虑它们的关系以及在结点或单元的所述值与它们的关系之间的交互。
在前言中一般地讨论了两种极端,一个极端考虑结点或单元Ki的内部值Ai或输出值ui的演化仅仅作为连接wji的函数,所述函数通过开始于从作为单一地关联于相应结点Ki的数据记录Pi的值的、它们的初始和开始的定量值Ui。这个初始的和开始的值Ui具有对过程脉冲的唯一影响。这种演化的一个特定特征在于下述事实,调整连接wji的演化的过程在这些连接的空间中发生(公式(4b))。正是在这个空间中找到对于结点或单元的演化的解。结点或单元Ki的开始值用作为对于连接wij的演化的简单约束。这些持续的约束动态地提供结点或单元的数值,并因此这样的过程的吸引元素将是任何结点或单元Ki的新的定义,作为通过在它的开始值Ui与本地邻居的相邻结点或单元Kj的开始值之间的动态协商所生成的专有的关系元素。
定量地规定了所述连接的权因子wji是本地邻居的结点Kj和/或参考结点Ki的内部值的函数。
在如在前言中以一般的观点所讨论的第二极端情形下,只有作为激活值Ai和Aj或者以输出值ui和uj的形式的结点或单元的值将进行演化,而由权因子wji所表示的它们连接保持不变,并且所述连接将用作为演化处理过程的约束。
因此,用于确定权因子wji和结点值ui的方式由方程组(也被称为法则)所给出。
一般而言,规定权因子的定量值的公式被称为学习法则,而把结点的内部状态或激活值或输出值改变为参考结点和本地邻居的结点的相邻结点的输出值的函数的公式被称为激活法则。
所以,如已说明的,可以通过只考虑藉助于把连接的新的权因子wij定义为中心单元和周围单元的输出的函数(这是指对应于这些单元的数据记录的一个或多个变量的值)来计算实际的中心单元Pi的新输出的学习法则组或函数组而实行计算。接着中心单元的新输出被设置为中心单元的一个或多个变量的新值,并将是周围单元的输出的函数,这是指对应于所述周围单元的数据记录的一个或多个变量的值和由所述算法计算的新的权因子的值。
在第一循环计算期间,在被用作为人工神经网络的结点Ki和Kj的单元Pi和Pj之间的连接的权因子wij被设置为都等于可由例如1或0.0001的值来随机规定的某个值。
基于这个权因子,实际的中心单元Pi(在图2的例子中为人工神经网络的单位或结点K13工作的单元P13)的值被改变为也被设置为等于神经网络的结点Kj的周围单元Pj(在图2中,这是单元和结点P7、P8、P9、P12、P14和P17、P18、P19,以及K7、K8、K9、K12、K14和K17、K18、K19)的值和连接wij的权因子值的函数。
计算单位或结点Ki的新输出的另一方式是使用激活函数和法则组,其把中心结点K13的输出规定为在对应于将被激活的单位或结点Ki(图2中的K13)的中心单元Pi(图2中的P13)周围的单元Pj(图2中的P7、P8、P9、P12、P14和P17、P18、P19)的数据记录的值Uj(图2中的U7、U8、U9、U12、U14和U17、U18、U19)的函数和规定为权因子wij的函数。在这种情形下,没有计算新的权因子wij。
还有可能应用组合计算,其使用计算对于每次循环的连接的新的权因子wij的某个学习法则组和计算每次循环中新的输出值的某个激活法则组。
因此,在循环结束时,新的输出(这意味着数据记录阵列的每个数据记录的变量的新值)已被计算并且连接的新的权因子也已被计算,数据记录的一个或多个变量和连接的权因子的新值被用于以下的计算循环中。
关于图2的例子,函数通过对应于围绕中心单元P13的相关联单元P7、P8、P9、P12、P14和P17、P18、P19和相关的结点K13的值的周围结点K7、K8、K9、K12、K14和K17、K18、K19的输出U7、U8、U9、U12、U14和U17、U18、U19来规定结点K13的纯输入。提供了另一个函数,它基于以前的输出值与由算法计算的新值之间的差值而规定对于在图2的中心结点Ki=K13与分别等于图2中的K7、K8、K9、K12、K14和K17、K18、K19的周围结点Kj中的每一个结点之间的连接的新的权因子wij。
在第一循环结束时,当所有的单元都已根据上述的步骤处理过之后,新的单元阵列被构建,其中每个数据记录已保持它的单元,并且其中每个数据记录具有在第一循环时如上所述进行计算的一个或多个变量的新值,而同时也计算了用于连接的新的权因子。
因此,可以通过使用这个新的数据记录阵列来实行第二循环,这时使用在第一或以前的循环中计算的数据记录的值作为对应于单元的、人工神经网络的结点的输出,并且其中使用了如上所述在第一或以前的循环中进行计算的、对于在对应于单元的结点之间的连接的新的权因子。在第二或以后的循环中,再次计算结点的新值并从而计算数据记录的新值,从而再次形成新的数据记录阵列,其中数据记录具有已更新的值。同样地,计算对于在结点之间连接的相应的新的权因子,其在被提供时或必要时被用于算法的以后的循环中。
以后的循环的数目可被确定为固定参数。可替换地,可以通过设置最大误差或偏差而借助于与初始的数据记录阵列有关的新的数据记录阵列的值的误差或偏差计算而确定重复的数目。这种计算可以通过在人工神经网络领域中通常的误差或偏差计算而被实行。
另一标准可能在于下述事实,对于数据记录的变量的新值序列的差值被监视,并且当在循环的序列中所述值的差值不再是很显著时(这意味着它小于预定值),停止对算法的重复。这也意味着,新值在实质上并没有不同于以前的值。实质性差别的意义必须涉及到数据记录的变量值和数据记录的种类,因为在某些情形下,非常小的差值可能对于数据记录的信息具有很大影响,而在其它情形下则没有很大影响。
下面给出用于更新人工神经网络的结点的输出并从而更新相应的数据记录值以及用于更新连接的权因子的法则的某些例子。作为函数的这些法则由名称所定义,这将有助于在特定法则的说明中简化识别。
具体而言,不同种类的已公开的或增强的信息依赖于被应用于由初始图像的像素阵列构成的神经网络结构的不同的学习和/或激活法则组。大体上,得到的结果类似于可以在回波扫描、X光照相、核磁共振成像或类似的成像的方法中通过使用诸如高反差媒体的增强媒体得到的结果。
增强的信息的种类可以通过选择某种学习和/或激活法则组而被进一步区分。通常,能够识别两类这样的法则组。在图3的表中概述这两类,其中不同的法则组由以后说明的名称来标识。
第一类包括主要实行加权优化的法则,它还可以进一步与单位激活相结合。这种法则有助于找出在图像的不同的区域之间用于识别边界的边缘,例如在生物体的图像中不同类别的组织之间的边界。
一般种类的法则组被定义为自动法则(A或AR),它包括用于确定最佳权因子的函数,即所谓的学习法则,可以使用以下的两组法则
u∈
C=5;
其中
α是可由用户自由定义的参数,它使得算法对于图像中的差别更敏感或更不敏感。
Rij是对于第i单位离第j单位的距离的某种度量。
Ui是被变换成人工神经网络的结点Ki的单个单元Pi的值,并且其中
下标i定义中心单元或结点,而下标j定义直接围绕所述中心单元或结点的单元或结点。
根据图3的图,这个一般法则可被进一步专门化或被增强,以获得不同的法则组。
以上公开的自动法则把在每个目标或参考结点或单元Ki与本地邻居的每一个结点或单元Kj之间的连接强度规定为它们的不同值ui和uj的非线性投影。因此,每个参考结点或单元Ki通过八个对称的权因子wji被连接到梯度1的本地邻居的结点或单元Kj。因此,将通过矩阵构成每个二维数据库,诸如二维图像,其中矩阵的每个元素作为独立单位被连接到它的本地邻居的八个元素,即,与参考元素直接相邻的矩阵元素。还将通过在矩阵的每个元素与本地邻居的元素之间的特定数目的对称连接而构成诸如图像的数据的每个二维矩阵阵列。
由上述的公式规定的连接wji的定量强度值构成约束,通过所述约束,诸如图像的具有连接强度的有效矩阵的形式的数据阵列将导致每个单元或结点的初始化值的及时演化,直至预定的第n次处理循环和趋于自然的吸引物为止。
法则组II通常被表示为CS,即,可以在下文中公开的不同变体中所开发的约束满足
II.1.所谓的CS XOR
初始化ui=inputi
Δi=Neti·(1-ui)·α Neti>0
Δi=Neti·ui·α Neti<0
其中
Ui是中心结点Ki的输出。
Ui也被定义为在与初始化步骤相结合时第i结点或单元的输入。这个定义想要强调,在实行神经网络的第一步骤中,第i单位把在数字化源图像中相应的像素值作为输出值。显然,在神经网络的开始步骤中,这个值必须贡献到第i结点或单元,并被看作为输入。在以后的计算循环中,每个结点或单元的值由算法进行改变,并且当实行了一定数目的重复之后,第i结点或单元与输出图像中第i像素的值相应或相关。
Uj是周围结点Kj的输出。
Neti是中心结点Ki的纯输入,它被计算为周围结点Kj的输出Uj和周围结点Kj到中心结点Ki的连接的权因子wij的函数。
n是循环次数。
αi是用于计算下一个循环的新的输出值作为中心结点Ki的纯输入Neti和实际的输出Ui的函数的中心结点Ki的输出Ui的更新值。
α是常数。
II.2所谓的CS AND
初始化ui=inputi
在这种情形下,应用与在以前的情形中相同的定义。这个激活函数与以前的激活函数之间的差别在于下述事实,用于计算αi的函数包括被定义为α2的另一个项,并且这个项在上面被定义为除所激活的中心结点Ki以外的所有结点的输出平均值的函数。
II.3所谓的CS CONTEST
初始化ui=inputi
这里,也应用与以前的激活函数(1)和(2)的例子中相同的定义。
差别在于下述事实,对于Neti<0的情形,以不同的方式计算项αi。
II.4.所谓的CS XOR
初始化ui=inputi
Δi=Neti·(1-ui)·αNeti>0
Δi=Neti·ui·αNeti<0
这些符号再次按照以前的激活函数的例子来定义。
在这种情形下,用于计算到结点Ki的纯输入Neti的函数与以前的情形不同。函数α2被用于纯输入的计算中。在这种情形下,函数α2被应用于连接的权因子Wij,正如从以上的公式中清楚看到的。
用于计算中心结点Ki的输出Ui的更新的αi值的函数与激活函数的第一例子的情形相同。
II.5所谓的HIGH CS AND
初始化ui=inputi
通过将这组公式与被称为HIGH CS XOR的激活函数(4)和被称为CSAND的激活函数(2)的例子的比较结果将明显地看到,这是两组激活函数的结合。
II.6所谓的HIGH CS CONTEST
初始化ui=inputi
同样地,这种情形代表激活函数的两个以前的例子的结合,即,所述两个例子为被称为CS CONTEST的激活函数(3)和被称为HIGH CS XOR的激活函数(4)。
以上公开的法则组的不同的变体遵循通常的一般概念。通过二维图像的例子所说明的基本思想在于,考虑矩阵的每个像素作为假设,它相对于每个像素的亮度可以是逐渐为真或假。同样地,这个系统继承在每个像素与它的本地邻居之间的本地连接,所述连接的强度通过由以上公开的自动法则所计算的权因子来表示。这个连接用作为在连接的有效矩阵的演化期间的约束。以上公开的公式系统的成本的函数在于,试图使得矩阵的每个假设正确的,并从而使得每个像素的亮度达到最大值。在这个过程期间,规定了以前已计算过的连接的权因子将作为约束。
作为例子,示出了在某些边界情形下像素的行为
与CS法则组不同的另一个专门的法则组是由名称IAC(即,互动和激活竞争)所表示的法则组III。
IAC
MaxPixelRa nge=2M;ui∈
;N=Intorno;
Max=1;Min=0;rest=0.1;decay=0.1;
wij>0wij<0
Neti=(ecci·α)+(inii·β)
Δi=(Max-ui)Acti-decay·(ui-rest);Acti>0
Δi=(ui-Min)·Acti-decay·(ui-rest);Acti<0
这里,中心结点Ki的纯输入Neti被定义为一个组合,更精确地被定义为用于根据连接的权因子wij的正负的这一事实来计算纯输入的两个不同的函数的和。更精确地,函数ecci和inii是相同的,仅在关联于正和负加权连接的输入之间作出选择。这由两个函数ecci和inii所表示。Neti的这两个分量涉及到在分量ecci的情形下的激励或增强以及在分量inii的情形下的抑制。纯输入Neti是ecci和inii的组合,其中ecci和inii分别乘以参数α和参数β。这两个参数确定正加权连接和负加权连接对于纯输入Neti的影响。
而且,激活参数Acti作为纯输入Neti的函数被提供到结点Ki。
这个参数被用来选择用于根据Acti的正负的这一事实来计算结点Ki的输出Ui的更新值αi的两个不同函数之一。增强和抑制显然也是通过用于计算αi的两个函数来呈现的,因为ACTi作为参数存在于所述函数中。
所述函数还包括以下表示式
Max和Min,其被定义为激活值的顶部和底部范围。
Decay,被定义为沿每个单位的时间的通常的衰减值的函数。
Rest,被定义为每个单位趋向于的默认值。
结点Ki的新的输出值由进一步增强本例激活函数的激励和抑制机制的特定的指数函数所定义。
一般而言,参照由数据库将要处理的的像素阵列所构成的图像的例子,以上的公式定义了连接的有效矩阵,其中每个像素都是动态地接收来自其它像素的激励和抑制脉冲并相应地修改它的内部状态的代理。以上的公式系统可被定义为在代理像素之间的集体的自动协调系统。具有高亮度的像素趋于支持其本身,而其它像素被绘成低值的亮度。在每个代理像素和它的本地邻居之间的固定连接权因子作为调制每个像素之间的通信的约束。所述通信通过激励和抑制消息而构成。所述演化通过离散步骤而引起初始图像的变换,处于亮度突然改变的情形中的像素将被隔离,并被绘成低值的亮度。因此,整个系统将加亮在图像中存在的边缘,而不使用明显地被设计用于这个任务的函数。在像素处在与互相竞争的场合下,某种壁是可视的,我们常常把它感知为在不同图之间的壁。以上的法则系统的优点在于下述事实,由于本地的自动协调而发生边缘检测效应。而且,也出现了作为自适应阈值过滤的函数。对于每个边缘,由具有厚度的线所表示,其对应于在每个区域中图像示出的本地亮度的差别。
上述的法则组的另一替换例是组IV,所谓的Pixel Mexican Hat(像素墨西哥帽)Pmh
MaxPixelRange=2M;ui∈
;N=Surroundings;
Max=1;Min=0;rest=0.1;decay=0.1;
wij>0
wij<0
Δi=(Max-ui)·Acti-decay·(ui-rest);Acti>0
Δi=(ui-Min)·Acti-decay·(ui-rest);Acti<0
这里应用与以前的被称为IAC的组III相同的定义。
重要的是指出,更专门化的组II.1到II.6、III和IV不同于被称为AR的一般的组之处在于下述事实,不单实行权因子最优化,而且也实行单位激活。
这个法则系统作为具有本地和自适应阈值的放大镜。涉及到图像的效果在于,处在与亮度有关的最小冲突中但具有正常的和持续的亮度的所有像素被加亮,以使得视觉效果是照亮了眼睛常常不可见的边缘。
第二类法则提供权因子演化和单位激活,并允许实行从源数字或数字化图像中提取特征,例如生物体图像中的组织的种类或组织的结构,或者例如用于识别在血管照片图像中的器官狭窄的存在的对象。
提供了学习和激活法则组的两个子组。
第一子组被表示为组V,所谓的CM。收缩映射可被定义为重复循环神经网络,并包括学习阶段和回调阶段。(对于更深入的信息可参阅Massimo Buscema & Semion Group,“Reti Neurali Artificiali e SistemiSociali Compessi”,Volume I,Edizione Franco Angeli Milano 1999)。
所谓CM的组V包括以下函数
a)学习
u∈
;C=邻居;wij=0.00001初始化
b)回调
NewWji=NewWij=wij-w
其中
Ui是中心单元或结点Ki的值。
Uj是周围结点Kj的值。
Wij表示周围结点Kj与中心结点Ki的连接的权因子。
Wijn定义在第n次循环中的连接的权因子。
Wijn+1定义在第n+1次循环中的连接的权因子。
αWij是必须被添加到权因子Wij的值,以便接着进行更新用于下一个循环。
Outi是对应于作为目标单位或像素的第i像素的第i单位的输出值。
New Wji是在第j和第i单位之间的连接的新的权因子。
New Wij是在第i和第j单位之间的连接的新的权因子。
w是权因子的平均值。
参数rem和quot涉及应用于每个像素值的特定函数,这是指每个单位ui的输出。
只考虑灰度级图像,每个像素的值以及因此的每个相应单位的输出可被除以灰度级别数。
如果考虑例如256灰度级别,则每个像素的值可被除以这个数。通过只考虑属于整数的除法解,这个除法导致某个减小了数目的、像素(即单位)所属的类别,并且还导致余数。所述余数由变量rem表示。
这种操作允许把单位以及因此的像素分类成某个减小了数目的类别,并通过把某个均匀的颜色或灰度级别给予这个类别而使得输出图像的每个类别是可见的。余数意味着rem值还被使用来区分颜色的强度或灰度级别。例如,考虑用于像素或单位的四个类别,每个类别被给予诸如红色、绿色、蓝色、黄色的颜色或四个灰度级别。每个像素的余数可被用于使得每种颜色在深红色或淡红色或浅红色等等之间变化。这允许进一步区分属于同一类别的、输出图像的像素。
能够比较作为用于调制被给予单位输出的值的函数的rem函数与由quot函数规定的用于调制在表征每个类别的一定的值范围内输出图像的像素的函数。
显然,quot和rem函数也应用到对应于有色像素的像素值,其中像素值通常是向量,它提供三个参数,例如作为有色像素值的RGB定义或HSV等等。
从以上列出的公式可以明显地看到,神经网络中被变换的图像单位的像素值和相应的输出值在一开始被标准化,用于维持在0与1之间的间隔内的可能的输出值。
在通过quot函数和相应的rem函数的分类的定义期间,输出值再次被去除标准化,即,从在0与1之间的间隔恢复到初始间隔。
在不使用函数quot的分类和函数rem的调制,以及不对神经网络的单位的输出值进行去除标准化之时,这意味着像素值(尤其是输出图像的像素值)以及通过规定与神经网络的单位的值或上述的输出图像的像素值有关的灰度或颜色的尺度,能够获得被定义为“CM真彩色”的经修改的法则,而当只应用具有quot函数的类别时,其它法则被定义为“CM quot”,或者当rem函数与quot函数相结合应用时,其它法则被定义为“CM quot+rem”。
参照由像素阵列组成的图像的例子,以上公开的法则组的基本思想在于,处理开始于从每个像素的初始化值所述值将在所有循环中保持不变。事实上,对于规定了连接的权因子进行演化,并且在每个处理循环,每个像素取它的新的亮度值作为表征当前时刻的像素的所述权因子的函数。这里,在参考像素与它的本地邻居的像素之间的连接是双向的。每个像素具有它藉以与另一个像素进行通信的连接,以及用于从这个最后的像素接收通信的第二连接。
规定连接的权因子的演化定律或法则处在这种确定性类型的法则组中,并且权因子用接近于零的值来进行初始化。
在每个处理循环中,在权因子空间中定义每个像素的新的亮度值。因此,每个像素的每个值由规定这个像素与本地邻居的像素的连接的权因子来定义。
作为组IV并且被定义为局部正弦LS的另一个不同的法则组也属于上述的第二类法则组。
可以根据被称为局部正弦1LS1和局部正弦2LS2的两个变体来提供所述局部正弦组。这两个组不同之处仅仅在于一个公式,而法则组由以下公式描述
wij=π;
uj∈

dij=(ui-uj·wij)2;
Δij=dij·Neti·cos(uj·wij)·uj; (LS1)
Δij=dij·Neti·cos(uj·wij)·-sin(uj·wij); (LS2)
WMax=Max{wij},WMin=Min{wij},
以上公式的大多数变量或函数已经在以前的法则组I到V的公开内容中进行了定义。
Dij表示第i单位离第j单位的某种距离。
α是标准方差。
如已经公开的,能够只使用学习法则组、只使用激活法则组或者学习法则组与激活法则组一起,用于将算法应用于数据记录阵列。
从以下的也在附图中例示的例子中将清楚地看到,不同种类的学习法则组、或激活法则组、或它们的结合将导致不同的输出,这将相对于其它关系而增强在阵列的数据记录之间的特定关系。
重要的是指出,本算法不包含非监管的映射算法,而是根据用于学习和激活的法则或函数而将数据记录阵列变换为能够以监管或非监管的方式工作的有效人工神经网络。在任意情形下,存在有在非监管映射算法中通常不会出现的学习阶段。
任何种类的已知的或将来的人工神经网络可被应用于启用独立于人工神经网络本身结构的、根据本发明的算法的原理。
而且,能够使得数据记录阵列经历根据某个已知的学习法则组的第一学习阶段,然后第一次经历第一组激活函数。这样得到的结果显然还是数据记录的阵列,它可再一次经历根据本发明算法的计算,这次选择相同的或不同的学习法则和不同的激活函数组。这样,通过根据本发明的、在学习法则和/或激活函数组方面不同的、两个算法的序列来实行对数据记录的初始阵列的精心处理。
在第一计算循环中和第二计算循环中应用的不同法则组无需只属于一类法则组,而是可将两类学习和激活法则组结合成用于精心处理数字或数字化图像的两级、三级或多级算法。
将通过某些实际例子而示出根据本发明的算法的有效性。在本例中,数据记录阵列由数字图像或数字化图像的图像数据所构成。图1和2的示意性例子的每个单元或点Pi由图像的像素构成,而点Pi的每个单元的值由强度参数(即,影响像素的灰度级别的参数)所构成。
必须指出,对于有色图像也能实现所述例子,在这种情形下,每个像素的值将由规定强度和颜色的向量的形式的一组参数所规定。
图4A例示了根据传统技术得到的乳房的X光照相。图4B是图4A的放大图。类似类型的传统图像通过扫描仪进行数字化并通过根据本发明的算法进行处理。
图4C例示了通过处理图4B的乳房的X光照相而得到的图像,其中只使用以上被规定为CM的学习法则和激活法则组而应用算法。如图4C中清楚地看到的,法则CM具有增强反差的效果以及通过规定清楚的边界线来显现具有相等的强度或灰度级别的图像区域的效果。在以离散的强度尺度或灰度级别的某个范围的强度或灰度级别内规定相等的强度或灰度级别。
从图4B和4C的比较中清楚地看出,图4B中的较高的血管分布的结节或区域通过根据本发明算法进行的处理而加亮,并且这个区域的边界被明显地显示于图4C中。图5A到5D是这个结节的区域的放大图,以便更好地显现由根据本发明的算法处理传统的乳房的X光照相而提供的图像区域的清楚边界。还应当指出,从根据本发明的算法进行处理所得到的图像还能够从模拟的乳房的X光照相提取更多的信息,事实上,在模拟图像中乳房的边缘没有与图像背景清楚地区分开。如从图4C看到的,根据本发明的算法能够设置清楚地区分开乳房图像与背景的更清晰的边界。如果必须实行插入,尤其是藉助于显微外科技术的减小的侵袭式插入的话,这一点很重要,以便测量结节的位置。
以上被定义为CM的用于把根据本发明的算法应用到模拟图像函数组的单一使用以某种方式颠倒了图像某个区域的黑色和白色区域,并且将其设置用于增强反差给出规定了被明显区分的图像区域的某种非常离散化的图像。
图4D和相应的图5的放大图例示了通过用根据本发明的算法对图4C和5C的模拟图像进行双重处理而得到的图像。
在这种情形下,通过应用只使用以上已被定义为CM的函数组的算法而实行第一处理。图像数据是指通过这种处理得到的图像数据阵列还要经历根据本发明的算法的处理,其中对学习和激活函数的结合进行使用,并且更精确地,对以上被定义为自动法则AR的组和以上被定义为IAC的函数组的结合进行使用。
首先,应当指出,黑色白色区域的颠倒是相对于图4C和5C的图像以及部分地相对于图4B和5B的图像而得到的。具体地,背景是白色而不是黑色。而且,结节是白色,如同在初始的乳房的X光照相的模拟图像(图4B和5B)中一样。得到了图像的更小型化的离散化,并且对结节的内部结构进行区分,以及对更重要的结构进行加亮,在图4C和5C的图像上所述内部结构除了进行黑白颠倒以外没有相对于初始的乳房的X光照相的这种结构的外表进行区分。
图6A例示了细菌的模拟图像。该图像是通过电子显微镜拍摄的。图6B到6F例示了由不同的已知的图像图案识别算法对图6A的图像进行处理而得到的图像。图6G例示了通过仅仅使用如以上所定义的被称为AR的法则组和被称为IAC的演化法则的、根据本发明的算法对图6A的图像进行处理而得到的图像。
通过根据本发明的算法得到的图像的差别和优点被明显地呈现出来,并无疑地构成了根据图6G的图像与根据图6B到6F的图像的比较。再次地,重要的是指出,所应用的特定的学习法则组如何增强反差和设置不同的图像区域的清楚的边界。
根据图7A到7C可以观察到相同的效果。这里,图7A是心脏的心室的数字图像。图7B例示了通过被称为Snake的已知的图像识别算法所处理的图像。图7C例示了通过用根据本发明的算法只使用以上被定义为CM的函数组来处理图7A的图像得到的图像。得到了清楚的和限定得很好的图像区域的边界,并且很好地区分了图像中的不同区域。
以上得到的根据本发明的算法的性能具有惊人的效果,所述算法呈现出反差,以及对图像区域设置清楚的边界,并区分图像区域。通过比较图8A到8E的图像,可以看到这些效果。
图8A到8D例示了在不同时刻拍摄的相对于注射所谓的反差媒体的时刻的物质转移的回波扫描图像,所述反差媒体即为能够通过以非线性方式(即以不同于撞击波束的基频的频率,通常是撞击波束的基频的二次谐波的顺序的频率)反射超声波束而增强对血管活动的展示的物质。
图8A是在反差媒体出现在图像区域之前的时刻拍摄的图像。
图8B是在反差媒体已到达图像区域的动脉阶段的期间拍摄的图像。
图8C是在其中动脉与静脉阶段处在平衡的时刻拍摄的与图8A和8B相同的区域的图像。
图8D是在相对于注射反差媒体的后期时刻拍摄的图像。
在图8D中,白色圆圈例示了物质转移,它呈现为相对于周围的图像点更深色的点。
图8E是通过根据本发明的算法使用在以上的说明中被规定为CM的函数组对图8A进行处理所得到的图像,即,在将被成像的区域中注射反差媒体之前的图像。
很明显,物质转移是怎样被加亮的,具体地为由图8D的白色圆圈包围的地方。在白色圆圈中较大的点上面的以及在所述较大点的右侧的某些更小的点也被清楚地加亮。通过在图8B到8D的不同的图像上白色圆圈包围的区域中不同的迹象,可以看到这些点。在根据图8A的初始图像中,可以很困难地看见较大的亮点和圆点,而作为组织变化的较小的点实际上很难被识别出来。
因此,通过根据本发明的算法对数字或数字化图像的处理可以替换高可靠度和精度的反差媒体成像。这是非常重要的优点,因为,第一方面能够避免在成像期间的侵袭式插入。而且,在成像期间对反差媒体的使用需要存在专业化的医疗护士,用于把反差媒体注射到病人。反差媒体成像(在超声成像领域也称为谐波成像)也需要较长的实行时间,因为在注射反差媒体后,在反差媒体到达要成像的组织前需要一些时间。而且,也很难预测反差媒体何时将到达要被成像的组织,并且有时可能在与要成像的组织中存在反差媒体相一致的正确的时刻无法拍摄图像。因此,根据本发明的算法允许克服与使用反差媒体来成像的比以上公开的最重要的问题更多的所有困难和缺点。这可以由诊断成像领域的每个专家所看到,其中在成像设备中必须提供许多装置,用于允许得到具有反差媒体的图像,特别是实时的图像。
图9A到9D分别例示了模拟图像,即,肺的X光照相。将下述图像与图9A的模拟X光照相进行比较,并与通过用被称为最佳过滤(best filter)的已知的过滤算法对图9A进行处理所得到的图像进行比较,所述图像分别为通过根据本发明的算法分别只使用以上被定义为CM的函数组进行处理而得到的图像(图9C),和通过根据本发明的算法使用上述的被定义为CM的函数组和以上被定义为IAC的函数组的结合对图9A的图像进行处理而得到的图像(图9D)。
可以看到以上几次所公开的、根据本发明的算法的已有效果。具体地,图9D的图像示出了在肺中存在的细丝状结构如何被加亮。在这种情形下,图9C的粗略离散化的图像不允许加亮这个细丝状结构,其在图9D中被显示为在肺的下半部和在两肺相对一侧的黑色轨迹。虽然在根据图9A的图像上可以看到该细丝状结构,但根据图9B的图像没有示出此结构。在根据图9C的图像中存在该结构,然而,图像区域的区分是不明显的和粗糙的。
图10例示了互相并排的关于乳房的X光照相的三个图像10A、10B、10C。
左面的图像10A是初始的乳房的X光照相,右面的图像10C是初始的乳房的X光照相,其中某些结节通过用白色的点加亮它们以及用白色圆圈包围而被标识出来。左面的图像10A与右面的图像10C的比较允许看到结节的图像与周围图像区域的非常细小程度的差别。图10B的中心图像是通过根据本发明的算法只使用在以上的说明中被定义为High CS的激活法则组对数字化的图10A进行处理的结果。
明显地看到,在得到的经处理的图像中,所述算法已揭示和清楚地加亮了已由人眼识别的结节和在图10A和10C的初始图像中人眼看不到的更大数目的结节。
图11A到11E的例子涉及风景的图像,而非诊断图像,并且其被选择用来看出根据本发明的算法的精度,所述算法通过维持初始图像的相关部分而区分图像区域。这意味着在图像上显示的物体在图像通过根据本发明的算法进行处理后仍旧可被识别。
图11A是在前景中有船的海景图像。
该图像可以是通过诸如数码照相机等等的数字技术所获得的图像,或已通过模拟技术获得并通过扫描仪等等进行了数字化的图像。
图11B和11C例示了通过藉助于两种不同的已知的图像精心处理算法来处理根据图11A的图像而得到的图像。可以明显地看到,在根据图11B和11C的图像中几乎无法识别海景的主体。
图11D例示了在由其中只使用了在以上的说明中被定义为IAC的函数组的、根据本发明的算法进行处理后的根据图11A的图像。相对于图11B和11C的图像,在此图像中,初始图像中的主体可以被识别得好得多,并且非常好地区分和识别了不同的图像区域。
图11E例示了通过由其中已把在以上的说明中被定义为CM的函数组与以上的说明中被定义为IAC的函数组相结合使用的、根据本发明的算法对图11A进行处理而得到的图像。这个处理的结果在于,对于观众有某种影响的图像区域被增强。所以,相对于海而言,增强了背景中的土地和前景中的船。
还应当指出,本算法可以与其它算法相结合应用,所述其它算法诸如人工神经网络,或者通过训练与测试来识别组织的种类或组成图像的材料的结构的其它预测算法。
在这种情形下,代替于把这些数据馈送到使用图像数据阵列作为用于训练和测试初始的数字或数字化的图像的图像数据的被动信息的图像识别算法,这些数据可以预先通过用本算法的以上所公开的形式之一来进行处理。
为了确保预测的更高精度,可以实行若干次通过根据本发明的算法对初始图像的图像数据的处理,每次使用不同的学习函数或法则组、或不同的激活函数或法则组、或它们的不同组合,或者使用初始图像数据的处理序列,其中每个处理阶段使用不同的学习函数或法则组、或不同的激活函数或法则组、或它们的不同组合。被应用于由每个处理所得到的数据的预测算法和之后的每次预测结果可被结合在一起或进行互相比较。
图12A到12J例示了通过应用了不同的法则组或它们的组合的、根据本发明的方法对相同的源图像进行精心处理的另外的例子。
图12A是股动脉的X光照相的源图像。
在源图像中,分别用1、2、3表示的一个圆圈和两个椭圆包围着可以揭示器官狭窄的特定血管。虽然由圆圈1所标识的器官狭窄也确实出现在源图像中,但由椭圆2和3包围的区域没有给出确实信息。
第一图像12B是通过使用rem函数的法则组V的、根据本发明的方法得到的。这里,可以更好地看出在动脉的右面支路的2和3处的收缩,而同时由方形4表示的中央支路也呈现为可看见的。在动脉支路内部的结构没有呈现得非常清楚。
图12C例示了通过由所谓的CM的法则组V对源图像精心处理而得到的图像,这次只使用选项quot。可以看到表示不同的区域的四个类别的灰度级别,即,三个灰度级别和白色。由quot分类的区域不会示出任何另外的结构。在任何情形下,可以表示在输出图像中识别1、2、3和4处的收缩。
图12D示出了应用同时考虑quot和rem函数的组V组的结果。在这种情形下,具有根据图12C的图像的四个灰度级别之一的四个图像区域由rem函数(即图像12A的灰度)进行调制。具有不同的灰度级别的四个图像区域被rem函数进一步调制,所以可以识别出结构。可以比之前的图像更清楚地呈现1、2、3和4处的收缩。
图12E例示了通过根据例V的法则和通过使用真彩选项而对源图像进行精心处理的结果,其中将被处理的像素值保持为被标准化到0与1之间的间隔内。同样地,在这种情形下,能够识别在1、2、3和4处的动脉收缩。
图12F是通过用根据第一选项的局部正弦算法对源图像进行精心处理而得到的图像。同样地,在这种情形下,在1、2、3和4处明显地呈现了收缩的存在。
四个图12G到12J例示了通过两个精心处理步骤或阶段的组合而对源图像12A进行精心处理得到的结果,其中每个步骤或阶段藉助于根据例V或VI的法则组来实行。
图12G的图像是按照下述步骤得到的通过首先实行用根据例VI的第二选项的法则组(即所谓的LS2法则组)的精心处理,以及通过把由这个第一精心处理所得到的输出图像提交到第二精心处理,这次使用应用Rem和Quot函数的所谓CM的法则组V。
图12H例示了对于图12G实行精心处理的变体,其中通过用根据例VI的第二选项的法则组(即所谓的LS2法则组)精心处理而得到的输出图像,再进一步通过用根据例V的法则组(所谓的CM法则组)进行精心处理,这次只使用rem函数。
图12I是与图12H类似的对源图像12A进行精心处理的方式,这次,第二精心处理阶段是通过使用仅仅应用quot函数的例V的法则组而实行的。
图12J是根据图12G到12I的之前例子的两阶段精心处理的再一个变体,其中例V的法则组被用于第二精心处理,这次通过应用真彩变体。
虽然图像都以灰度调色板所示出,但也能够规定颜色,并且把不同的图像区域与特定的颜色相关,因此得到人工着色的图像,其更好地增强不同的图像区域和通过根据本发明的方法的精心处理所识别出的不同物体。
而且,必须强调,虽然所描述的例子限于把根据本发明的算法应用于到图像数据阵列,但这不是本算法可被应用的唯一领域,因为允许处理下述的每一种数据库,在所述数据库中的数据的种类是可以由点或单元的阵列来表示的,其中每个点或单元与数据库的数据记录单一地有关,并且在阵列中每个点或单元相对于其它点或单元的位置是与所述点相关联的数据记录的相关特征,以便揭示在数据库的数据记录之间的任何种类的关系。
权利要求
1.一种人工神经网络,包括对应于神经网络的结点的单元(Ki)的n维阵列,每个单元具有与形成单元(Ki)的邻居的直接相邻的单元(Kj)的连接;
a)每个单元(Ki)具有用于与周围单元的直接相邻的单元(Kj)的每个连接的输入;
b)每个单元(Ki)具有用于与一个或多个直接相邻的单元(Kj)的连接的输出;
c)在每个单元(Ki)与直接相邻的单元之间的连接由权因子(wij)确定;
d)每个单元由被定义为单元(Ki)的激活值或函数(Ai)的内部值来表征;
e)每个单元(Ki)能够根据信号处理函数即所谓的转移函数来实行信号处理,用于生成单元输出信号(ui);
f)转移函数将单元(Ki)的输出信号(ui)确定为单元(Ki)的激活值或函数(Ai)的函数,该转移函数还包括同一性函数,它使得单元(Ki)的激活值或函数(Ai)等于单元(Ki)的输出信号(ui);
g)提供了输入数据记录(Pi)的n维数据库,它必须由神经网络提交进行计算,并且在该n维数据库中,在被投影到相应的n维空间时数据记录(Pi)的相对位置是数据记录(Pi)的相关特征,数据库的数据记录(Pi)能够由所述n维空间中的点的阵列来表示,每个点具有在所述点阵列中单一规定的位置并且与所述数据库的数据记录(Pi)单一相关,所述数据库的每个数据记录(Pi)还包括至少一个变量或多个变量,每个变量具有某个值(Ui);
h)每个数据记录(Pi)与构成神经网络的单元的n维阵列中的单元(Ki)单一地相关联,所述单元(Ki)在单元的n维阵列中的位置与由所述点的n维阵列中的点所表示的相应的数据记录(Pi)相同;
i)每个数据记录(Pi)的变量的值(Ui)被看作为被取为单一地相关联的单元(Ki)的初始激活值(Ai)或初始输出值(ui)的网络初始化值;
j)在一定数目的神经网络迭代处理步骤后的每个单元(Ki)的激活值(Ai)或输出值(ui)被看作为对于所述单一地相关联的数据记录(Pi)的新值(Ui)。
其特征在于,
k)对于所述一定数目的迭代处理步骤中的每个处理步骤,规定了每个单元(Ki)与直接相邻的单元(Kj)之间的连接的权因子(wij)被确定为与所述单元(Ki)直接相邻的单元(Kj)单一地相关联的每个数据记录(Pj)的变量的当前值(Uj)的函数,所述函数是所谓的学习函数或法则;
l)在神经网络的处理步骤后的、被认为是对于所述单一相关联的数据记录(Pi)的新的当前值(Ui)的每个单元(Ki)的当前激活值(Ai)或输出值(ui)被确定为由规定了直接相邻的单元(Kj)与单元(Ki)的连接的相应权因子(wij)所加权的直接相邻的单元(Kj)的当前输出值(uj)的函数。
2.如权利要求1所述的神经网络,其特征在于,所述神经网络通过把在神经网络的处理步骤后的、被认为是对于所述单一相关联的数据记录(Pi)的新的当前值(Ui)的每个单元(Ki)的当前激活值(Ai)或输出值(ui)确定为规定了直接相邻的单元(Kj)与单元(Ki)的连接的相应权因子(wij)的函数而加以修改,所述函数是所谓的激活函数或法则。
3.如权利要求1所述的神经网络,其特征在于,在神经网络的处理步骤后的、被认为是对于所述单一相关联的数据记录(Pi)的新的当前值(Ui)的每个单元(Ki)的当前的激活值(Ai)或输出值(ui)被确定为直接相邻的单元(Kj)的当前输出值(uj)以及由规定了直接相邻的单元(Kj)与单元(Ki)的连接的相应权因子(wij)的函数,所述函数是所谓的激活函数或法则。
4.如权利要求1或2所述的神经网络,其特征在于,对于所述一定数目的迭代处理步骤中的每个处理步骤,规定了每个单元(Ki)与直接相邻的单元(Kj)之间的连接的权因子(wij)被确定为与所述单元(Ki)直接相邻的单元(Kj)单一相关联的每个数据记录(Pj)的变量的当前值(Uj)和与单元(Ki)单一相关联的数据记录(Pi)的变量的当前值(Ui)的函数。
5.如前述权利要求的一项或多项所述的神经网络,其特征在于,只使用以下的学习法则
u∈
其中
α是可由用户自由定义的参数,它使得算法对于图像中的差别更敏感或更不敏感;
Rij是对于第i单位离第j单位的距离的某种度量;
Ui是被变换成人工神经网络的结点Ki的单个单元Pi的值;以及其中
下标i定义中心单元或结点,而下标j定义直接围绕所述中心单元或结点的单元或结点。
6.如权利要求1到4中的一项或多项所述的神经网络,其特征在于,使用以下的法则
a)学习
u∈
;C=邻居;wij=0.00001初始化
b)回调
NewWji=NewWij=wij-w
其中
Ui是中心单元或结点Ki的值;
Uj是周围结点Kj的值;
Wij表示周围结点Kj与中心结点Ki的连接的权因子;
Wijn定义在第n次循环中的连接的权因子;
Wijn+1定义在第n+1次循环中的连接的权因子;
αWij是必须被添加到权因子Wij的值,以便接着进行更新用于下一个循环;
Outi是对应于作为目标单位或像素的第i像素的第i单位的输出值;
New Wji是在第j和第i单位之间的连接的新的权因子;
New Wij是在第i和第j单位之间的连接的新的权因子;
w是权因子的平均值;
参数quot涉及每个单位的输出值与表示所述值的比例的步骤数的整数商;
参数rem涉及上述的商的余数。
7.如前述权利要求1到4的一项或多项所述的神经网络,其特征在于,只使用以下的激活法则
初始ui=inputi
Δi=Neti·(1-ui)·α Neti>0
Δi=Neti·ui·α Neti<0
其中
Ui是在第一步骤的输入和在以后的步骤的中心结点Ki的输出;
Uj是周围结点Kj的输出;
Neti是中心结点Ki的纯输入,它被计算为周围结点Kj的输出Uj和周围结点Kj到中心结点Ki的连接的权因子wij的函数;
n是循环次数;
αi是用于计算下一个循环的新的输出值作为中心结点Ki的纯输入Neti和实际的输出Ui的函数的中心结点Ki的输出Ui的更新值;
α是常数。
8.如前述权利要求1到4的一项或多项所述的神经网络,其特征在于,只使用以下的激活法则
初始化ui=inputi
Neti>0
Neti<0
其中
Ui是在第一步骤的输入和在以后的步骤的中心结点Ki的输出;
Uj是周围结点Kj的输出;
Neti是中心结点Ki的纯输入,它被计算为周围结点Kj的输出Uj和周围结点Kj到中心结点Ki的连接的权因子wij的函数;
n是循环次数;
αi是用于计算下一个循环的新的输出值作为中心结点Ki的纯输入Neti和实际的输出Ui的函数的中心结点Ki的输出Ui的更新值;
α是常数。
9.如前述权利要求1到4的一项或多项所述的神经网络,其特征在于,只使用以下的激活法则
初始化ui=inputi
Neti>0
Neti<0
其中
Ui是在第一步骤的输入和在以后的步骤的中心结点Ki的输出;
Uj是周围结点Kj的输出;
Neti是中心结点Ki的纯输入,它被计算为周围结点Kj的输出Uj和周围结点Kj到中心结点Ki的连接的权因子wij的函数;
n是循环次数;
αi是用于计算下一个循环的新的输出值作为中心结点Ki的纯输入Neti和实际的输出Ui的函数的中心结点Ki的输出Ui的更新值;
α是常数。
10.如前述权利要求1到4的一项或多项所述的神经网络,其特征在于,只使用以下的激活法则
初始化ui=inputi
k∈[1,N];k≠j
Δi=Neti·(1-ui)·αNeti>0
Δi=Neti·ui·αNeti<0
其中
Ui是在第一步骤的输入和在以后的步骤的中心结点Ki的输出;
Uj是周围结点Kj的输出;
Neti是中心结点Ki的纯输入,它被计算为周围结点Kj的输出Uj和周围结点Kj到中心结点Ki的连接的权因子wij的函数;
n是循环次数;
αi是用于计算下一个循环的新的输出值作为中心结点Ki的纯输入Neti和实际的输出Ui的函数的中心结点Ki的输出Ui的更新值。
11.如前述权利要求1到4的一项或多项所述的神经网络,其特征在于,只使用以下的激活法则
初始化ui=inputi
k∈[1,N];k≠j
Neti>0
Neti<0
其中
Ui是在第一步骤的输入和在以后的步骤的中心结点Ki的输出;
Uj是周围结点Kj的输出;
Neti是中心结点Ki的纯输入,它被计算为周围结点Kj的输出Uj和周围结点Kj到中心结点Kj的连接的权因子wij的函数;
n是循环次数;
αi是用于计算下一个循环的新的输出值作为中心结点Ki的纯输入Neti和实际的输出Ui的函数的中心结点Ki的输出Ui的更新值。
12.如前述权利要求1到4的一项或多项所述的神经网络,其特征在于,只使用以下的激活法则
初始化ui=inputi
k∈[1,N];k≠j
Neti>0
Neti<0
其中
Ui是在第一步骤的输入和在以后的步骤的中心结点Ki的输出;
Uj是周围结点Kj的输出;
Neti是中心结点Ki的纯输入,它被计算为周围结点Kj的输出Uj和周围结点Kj到中心结点Ki的连接的权因子wij的函数;
n是循环次数;
αi是用于计算下一个循环的新的输出值作为中心结点Ki的纯输入Neti和实际的输出Ui的函数的中心结点Ki的输出Ui的更新值;
α是常数。
13.如前述权利要求1到4的一项或多项所述的神经网络,其特征在于,只使用以下的激活法则
MaxPixelRange=2M;ui∈
;N=Intorno;
Max=1;Min=0;rest=0,1;decay=0.1;
wij>0
wij<0
Neti=(ecci·α)+(inii·β)
Δi=(Max-ui)·Acti-decay·(ui-rest);Acti>0
Δi=(ui-Min)·Acti-decay·(ui-rest);Acti<0
Ui是中心结点Ki的输出;
Uj是周围结点Kj的输出;
Neti是中心结点Ki的纯输入,它被计算为周围结点Kj的输出Uj和周围结点Kj到中心结点Ki的连接的权因子wij的函数;
N是循环次数;
αi是用于计算下一个循环的新的输出值作为中心结点Ki的纯输入Neti和实际的输出Ui的函数的中心结点Ki的输出Ui的更新值;
α是常数;
并且其中,函数ecci和inii是相同的,仅在关联于正和负加权连接的输入之间作出选择,并且其中激活参数Acti作为纯输入Neti的函数被提供到结点Kij;
这个参数被用来选择用于根据Acti的正负的这一事实来计算结点Ki的输出Ui的更新值αi的两个不同函数中之一;
被提供来用于计算αi的两个函数包括以下表示式
Max和Min,被定义为激活值的顶部和底部范围;
Decay,被定义为沿每个单位的时间的通常的衰减值的函数;
Rest,被定义为每个单位趋向于的默认值。
14.如前述权利要求1到4的一项或多项所述的神经网络,其特征在于,只使用以下的激活法则
MaxPixelRange=2M;ui∈
;N=Surroundings;
Max=1;Min=0;rest=0.1;decay=0.1;
wij>0
wij<0
Δi=(Max-ui)·Acti-decay·(ui-rest);Acti>0
Δi=(ui-Min)·Acti-decay·(ui-rest);Acti<0
Ui是中心结点Ki的输出;
Uj是周围结点Kj的输出;
Neti是中心结点Ki的纯输入,它被计算为周围结点Kj的输出Uj和周围结点Kj到中心结点Ki的连接的权因子wij的函数;
N是循环次数;
αi是用于计算下一个循环的新的输出值作为中心结点Ki的纯输入Neti和实际的输出Ui的函数的中心结点Ki的输出Ui的更新值;
α是常数,
并且其中,函数ecci和inii是相同的,仅在关联于正和负加权连接的输入之间作出选择,并且其中激活参数Acti作为纯输入Neti的函数被提供到结点Kij;
这个参数被用来选择用于根据Acti的正负的这一事实来计算结点Ki的输出Ui的更新值αi的两个不同函数中之一;
被提供来用于计算αi的两个函数包括以下表示式
Max和Min,被定义为激活值的顶部和底部范围;
Decay,被定义为沿每个单位的时间的通常的衰减值的函数;
Rest,被定义为每个单位趋向于的默认值。
14.如前述权利要求1到4的一项或多项所述的神经网络,其特征在于,只使用以下的激活法则
wij=π;
uj∈

dij=(ui-uj·wij)2;
Δij=dij·Neti·cos(uj·wij)·uj;
or
Δij=dij·Neti·cos(uj·wij)·-sin(uj·wij);
WMax=Max{wij};WMin=Min{wij};
Ui是中心单元或结点Ki的值;
Uj是周围结点Kj的值;
Wij表示周围结点Kj与中心结点Ki的连接的权因子;
Outi是对应于作为目标单位或像素的第i像素的第i单位的输出值;
New Wji是在第j和第i单位之间的连接的新的权因子;
w是权因子的平均值。
15.如前述权利要求的一项或多项所述的神经网络,其特征在于,在每个计算循环,根据前述权利要求5到14的一个或多个所述的学习法则或函数组与激活函数组的组合被用来提供新的数据记录阵列,其中每个数据记录的值已被改变为实际的目标数据记录的输出与周围的单元或点的数据记录的输出的函数,以及被改变为规定在目标数据记录与周围的单元或点的数据记录之间的连接的权因子的函数,所述组合也被用来提供所述连接的权因子的新的值,所述新的数据记录阵列和所述用于连接的新的权因子被用来实行以后的计算循环。
16.如前述权利要求的一项或多项所述的人工神经网络,其特征在于,它是图像处理机,与结点(Ki)阵列的结点单一地有关或作为结点(Ki)阵列的结点的数据库的数据记录由像素(Pi)构成,而结点的初始值由像素值(Ui)构成。
17.如权利要求16所述的人工神经网络,其特征在于,像素值是标量元素或向量元素,所述像素由构成向量的分量的不同变量所表征,所述每个变量与表征像素及其可见方面的物理的和/或可见的特征有关。
18.如权利要求17所述的神经网络,其特征在于,像素是灰度图像的像素,并由它的亮度来表征。
19.如权利要求16或17所述的神经网络,其特征在于,像素是彩色图像的像素,并且表征像素的变量是对应于HSV或RGB或像素外观的另一传统编码的至少三个变量。
20.一种用于识别在数据库的数据之间的关系的算法,所述数据属于下述种类,其中在数据记录的阵列中或在N维空间具体地为二维或三维空间中的数据记录的分布中的数据记录的相对位置是数据记录的相关特征,以及其中数据记录可被表示为单元或点的阵列,每个点与数据库的数据记录单一地有关,并具有在阵列中相对于其它数据记录的单元或点所单一规定的位置,还与每个数据记录有关的是至少一个变量或多个变量,每个变量具有一定值,所述算法由下述事实所表征,
-在表示数据库的数据记录的点的单元的阵列中每个单元或点被认为
是人工神经网络的单位或结点。
21.根据权利要求20所述的人工神经网络,其中
-由数据库的单元或点构成的每个单位或结点被连续规定为目标单位或结点,以及被连续规定为在每个目标单位或结点之间的、至少连接到由数据库的其余单元或点所构成的其余单位或结点中的每一个,所述单位或结点至少属于相对于对应目标单位或结点的梯度1;
-被连续规定为目标单位或结点的、数据库的每个单位或结点的新的输出值是如下计算的藉助于人工神经网络的学习法则或函数组、或激活法则或函数组,或藉助于将人工神经网络的学习法则或函数组与激活法则或函数组的组合作为被连接到目标单位或结点的单位或结点的实际输出和所述目标单位或结点的实际输出的函数;
-每个单位或结点的实际输出被规定为变量的值或被规定为与被看作为人工神经网络的单位或结点的、由单元或点表示的每个数据记录相关联的变量的值;
-并且目标单位或结点的新输出被看作为与对应于目标单位或结点的数据记录阵列的单元或点相关联的数据记录的一个或多个变量的新值;
-通过实行用于计算对于数据记录阵列的至少部分或每个单元或点的目标单位或结点的新输出的所述步骤,数据记录的新阵列被计算,其中每个单元或点的数据记录具有至少一个变量的新值或若干变量的新值,作为根据以上步骤的人工神经网络的第一计算循环的结果;
-所述计算循环对于每个连续的新的数据记录阵列重复进行,直至实行过某个预定数目次数的重复计算循环为止;和/或除非在数据记录的初始阵列的一个或多个变量的初始值与根据在最后循环中所计算的数据记录阵列的一个或多个变量的值之间已达到某个最大可允许的误差或偏差;和/或除非在循环序列中计算的数据记录阵列的序列中的数据记录的一个或多个变量的值之间的差值低于预定的最大比值。
22.根据权利要求20或21所述的算法,其特征在于,数据记录的阵列可被提交至少两次或更多次,以进行根据本发明的算法的精心处理,在第一处理阶段中提供第一学习函数或法则组、或第一激活函数或法则组、或它们的组合,并且在第二处理阶段中提供第二学习函数或法则组、或第二激活函数或法则组、或它们的组合等等,当提供了两个以上的阶段时,在通过本发明的算法用第二或另外不同的学习或激活法则或函数组或用它们的组合而进行的第二或另外的精心处理阶段中所使用的数据记录阵列是分别从数据记录阵列的第一或之前的精心处理阶段中得到的数据记录阵列。
23.根据前述权利要求20到22的一项或多项所述的算法,其特征在于,具体地在数据记录的二维或三维阵列中,相对于目标数据记录的单元或点的、与梯度1的数据记录有关的单元或点由与直接围绕与所述目标数据记录有关的数据记录阵列中的单元或点的数据记录阵列的单元或点相关联的数据记录所构成。
24.根据前述权利要求20到23的一项或多项所述的算法,其特征在于,由所述算法计算的新的数据记录阵列仅仅基于用于使得连接的权因子最佳化的学习函数或法则组,每个目标数据记录的新的输出被定义为新的权因子的函数,所述权因子表征与目标数据记录相关联的每个目标单位或结点与由相对于目标数据记录的单元或点的梯度1的数据记录的单元或点所表示的单位或结点的连接,所述学习法则或函数组把连接的新的权因子定义为在以前的计算循环中计算或定义的以前的权因子的函数,以及定义为与目标数据记录的单元或点相关联的单位或结点的实际输出以及与至少梯度1的数据记录的单元或点相关联的单位或结点的实际输出、或直接围绕实际的目标数据记录的单元或点的单元或点的数据记录的实际输出的函数。
25.根据前述权利要求20到23的一项或多项所述的算法,其特征在于,由所述算法计算的新的数据记录阵列仅仅基于激活函数组,其中这些函数根据对所述单位或结点的纯输入来定义对应于与目标数据记录有关的单元或点的目标单位或结点的新输出,所述单位或结点的纯输入是相对于目标数据记录的、对应于与至少梯度1的数据记录相关联的单元或点的单位或结点的输出的函数,具体地是对应于直接围绕目标数据记录的单元或点的数据记录阵列的单元或点的单位或结点的输出的函数。
26.根据前述权利要求20到25的一项或多项所述的算法,其特征在于,第一计算循环中的计算通过对于每个连接的权因子的固定的预定值开始,而单位或结点的开始值根据也作为权因子和围绕结点或单位的值的函数的预定函数以及从而根据对应于在直接围绕表示了人工神经网络的某个单位或结点的单元或点的、阵列中的单元或点的数据记录而进行修改。
27.如前述权利要求20到26的一项或多项所述的算法,其特征在于,只使用以下的学习法则
u∈
其中
α是可由用户自由定义的参数,它使得算法对于图像中的差别更敏感或更不敏感;
Rij是对于第i单位离第j单位的距离的某种度量;
Ui是被变换成人工神经网络的结点Ki的单个单元Pi的值;以及其中
下标i定义中心单元或结点,而下标j定义直接围绕所述中心单元或结点的单元或结点。
28.如前述权利要求20到27的一项或多项所述的算法,其特征在于,使用以下的法则
a)学习
u∈
;C=邻居;wij=0.00001初始化
b)回调
NewWij=NewWij=wij-w
其中
Ui是中心单元或结点Ki的值;
Uj是周围结点Kj的值;
Wij表示周围结点Kj与中心结点Ki的连接的权因子;
Wijn定义在第n次循环中的连接的权因子;
Wijn+1定义在第n+1次循环中的连接的权因子;
αWij是必须加到权因子Wij的值,以便接着进行更新用于下一个循环;
Outi是对应于作为目标单位或像素的第i像素的第i单位的输出值;
New Wji是在第j和第i单位之间的连接的新的权因子;
New Wij是在第i和第j单位之间的连接的新的权因子;
w是权因子的平均值;
参数quot涉及每个单位的输出值与表示所述值的比例的步骤数的整数商;
参数rem涉及上述的商的余数。
29.如前述权利要求20到28的一项或多项所述的算法,其特征在于,只使用以下的激活法则
初始ui=inputi
Δi=Neti·(1-ui)·αNeti>0
Δi=Neti·ui·αNeti<0
其中
Uj是在第一步骤的输入和在以后的步骤的中心结点Ki的输出;
Uj是周围结点Kj的输出;
Neti是中心结点Ki的纯输入,它被计算为周围结点Kj的输出Uj和周围结点Kj到中心结点Ki的连接的权因子wij的函数;
n是循环次数;
αi是用于计算下一个循环的新的输出值作为中心结点Ki的纯输入Neti和实际的输出Ui的函数的中心结点Ki的输出Ui的更新值;
α是常数。
30.如前述权利要求20到27的一项或多项所述的算法,其特征在于,只使用以下的激活法则
初始化ui=inputi
Neti>0
Neti<0
其中
Ui是在第一步骤的输入和在以后的步骤的中心结点Ki的输出;
Uj是周围结点Kj的输出;
Neti是中心结点Ki的纯输入,它被计算为周围结点Kj的输出Uj和周围结点Kj到中心结点Ki的连接的权因子wij的函数;
n是循环次数;
αj是用于计算下一个循环的新的输出值作为中心结点Ki的纯输入Neti和实际的输出Ui的函数的中心结点Ki的输出Ui的更新值;
α是常数。
31.如前述权利要求20到27的一项或多项所述的算法,其特征在于,只使用以下的激活法则
初始化ui=inputi
Neti>0
Neti<0
其中
Ui是在第一步骤的输入和在以后的步骤的中心结点Ki的输出;
Uj是周围结点Kj的输出;
Neti是中心结点Ki的纯输入,它被计算为周围结点Kj的输出Uj和周围结点Kj到中心结点Ki的连接的权因子wij的函数;
n是循环次数;
αi是用于计算下一个循环的新的输出值作为中心结点Ki纯输入Netj和实际的输出Ui的函数的中心结点Ki的输出Ui的更新值;
α是常数。
32.如前述权利要求20到27的一项或多项所述的算法,其特征在于,只使用以下的激活法则
初始化ui=inputi
k∈[1,N];k≠j
Neti>0
Neti<0
其中
Ui是在第一步骤的输入和在以后的步骤的中心结点Ki的输出;
Uj是周围结点Kj的输出;
Neti是中心结点Ki的纯输入,它被计算为周围结点Kj的输出Uj和周围结点Kj到中心结点Ki的连接的权因子wij的函数;
n是循环次数;
αi是用于计算下一个循环的新的输出值作为中心结点Ki的纯输入Neti和实际的输出Ui的函数的中心结点Ki的输出Ui的更新值;
33.如前述权利要求20到27的一项或多项所述的算法,其特征在于,只使用以下的激活法则
初始化ui=inputi
k∈[1,N];k≠j
Neti>0
Neti<0
其中
Ui是在第一步骤的输入和在以后的步骤的中心结点Ki的输出;
Uj是周围结点Kj的输出;
Neti是中心结点Ki的纯输入,它被计算为周围结点Kj的输出Uj和周围结点Kj到中心结点Ki的连接的权因子wij的函数;
n是循环次数;
αi是用于计算下一个循环的新的输出值作为中心结点Ki的纯输入Neti和实际的输出Ui的函数的中心结点Ki的输出Ui的更新值。
34.如前述权利要求20到27的一项或多项所述的算法,其特征在于,只使用以下的激活法则
初始化ui=inputi
k∈[1,N];k≠j
Neti>0
Neti<0
其中
Ui是在第一步骤的输入和在以后的步骤的中心结点Ki的输出;
Uj是周围结点Kj的输出;
Neti是中心结点Ki的纯输入,它被计算为周围结点Kj的输出Uj和周围结点Kj到中心结点Ki的连接的权因子wij的函数;
n是循环次数;
αi是用于计算下一个循环的新的输出值作为中心结点Ki的纯输入Neti和实际的输出Ui的函数的中心结点Ki的输出Ui的更新值;
α是常数。
35.如前述权利要求20到27的一项或多项所述的算法,其特征在于,只使用以下的激活法则
MaxPixelRange=2M;ui∈
;N=Intorno;
Max=1;Min=0;rest=0.1;decay=0.1;
wij>0
wij<0
Neti=(ecci·α)+(inii·β)
Δi=(Max-ui)·Acti-decay·(ui-rest);Acti>0
Δi =(ui-Min)·Acti-decay·(ui-rest);Acti<0
Ui是中心结点Ki的输出;
Uj是周围结点Kj的输出;
Neti是中心结点Ki的纯输入,它被计算为周围结点Kj的输出Uj和周围结点Kj到中心结点Ki的连接的权因子wij的函数。
N是循环次数;
αi是用于计算下一个循环的新的输出值作为中心结点Ki的纯输入Neti和实际的输出Ui的函数的中心结点Ki的输出Ui的更新值;
α是常数,
并且其中,函数ecci和inii是相同的,仅在关联于正和负加权连接的输入之间作出选择,并且其中激活参数Acti作为纯输入Neti的函数被提供到结点Kij;
这个参数被用来选择用于根据Acti的正负的这一事实来计算结点Ki的输出Ui的更新值αi的两个不同函数中之一;
被提供来用于计算αi的两个函数包括以下表示式
Max和Min,被定义为激活值的顶部和底部范围;
Decay,被定义为沿每个单位的时间的通常的衰减值的函数;
Rest,被定义为每个单位趋于的默认值。
36.如前述权利要求20到27的一项或多项所述的算法,其特征在于,只使用以下的激活法则
MaxPixelRange=2M;ui∈
;N=Surroundings;
Max=1;Min=0;rest=0.1;decay=0.1;
wij>0
wij<0
Δi=(Max-ui)·Acti-decay·(ui-rest);Acti>0
Δi=(ui-Min)·Acti-decay·(ui-rest);Acti<0
Ui是中心结点Ki的输出;
Uj是周围结点Kj的输出;
Neti是中心结点Ki的纯输入,它被计算为周围结点Kj的输出Uj和周围结点Kj到中心结点Ki的连接的权因子wij的函数;
N是循环次数;
αi是用于计算下一个循环的新的输出值作为中心结点Ki的纯输入Neti和实际的输出Ui的函数的中心结点Ki的输出Ui的更新值;
α是常数,
并且其中,函数ecci和inii是相同的,仅在关联于正和负加权连接的输入之间作出选择,并且其中激活参数Acti作为纯输入Neti的函数被提供到结点Kij;
这个参数被用来选择用于根据Acti的正负的这一事实来计算结点Ki的输出Ui的更新值αi的两个不同函数中之一;
被提供来用于计算αi的两个函数包括以下表示式
Max和Min,被定义为激活值的顶部和底部范围;
Decay,被定义为沿每个单位的时间的通常的衰减值的函数;
Rest,被定义为每个单位趋于的默认值。
37.如前述权利要求20到27的一项或多项所述的算法,其特征在于,只使用以下的激活法则
wij=π;uj∈

dij=(ui-uj·wij)2;
Δij=dij·Neti·cos(uj·wij)·uj;
or
Δij=dij·Neti·cos(uj·wij)·-sin(uj·wij);
WMax=Max{wij};WMin=Min{wij};
其中,
Ui是中心单元或结点Ki的值;
Uj是周围结点Kj的值;
Wij表示周围结点Kj与中心结点Ki的连接的权因子;
Outi是对应于作为目标单位或像素的第i像素的第i单位的输出值;
New Wji是在第j和第i单位之间的连接的新的权因子;
w是权因子的平均值。
38.如前述权利要求20到37的一项或多项所述的算法,其特征在于,在每个计算循环,根据前述权利要求5到16的一个或多个所述的学习法则或函数组与激活函数组的组合被用来提供新的数据记录阵列,其中每个数据记录的值已被改变为实际的目标数据记录的输出与周围的单元或点的数据记录的输出的函数,以及被改变为规定在目标数据记录与周围的单元或点的数据记录之间的连接的权因子的函数,所述组合也被用来提供所述连接的权因子的新的值,所述新的数据记录阵列和所述用于连接的新的权因子被用来实行以后的计算循环。
39.一种用于图像处理的方法,其中图像由二维或三维的像素阵列构成,以及其中所述阵列的每个像素构成人工神经网络的单位或结点,人工神经网络的输入和输出由对应于每个单位的像素的初始值和由每个像素的计算值所构成,结点中的每一个的输出值的计算被实行为至少围绕所述结点的像素的值的函数。
40.根据权利要求39所述的方法,其特征在于,在单一地对应于构成图像的像素阵列的像素的、人工神经网络的每个结点或单位与至少梯度1的相关的单位或结点之间提供加权连接。
41.根据权利要求39和40所述的方法,其特征在于,实行权因子的最优化。
42.根据权利要求41所述的方法,其特征在于,在权因子最优化之后实行单位激活。
43.根据前述权利要求39到42的一项或多项所述的方法,其特征在于,实行权因子演化和单位激活。
44.根据前述权利要求39到43的一项或多项所述的方法,其特征在于,所述方法是通过最终被实现为根据权利要求20到38所述的算法的根据权利要求1到19所述的人工神经网络而实行。
45.根据前述权利要求39到44的一项或多项所述的方法,其特征在于,它是用于图像图案识别的方法,其中图像是数字图像或已经过数字化的模拟图像,图像数据阵列由有限数目的点或单元构成,每个点或单元对应于被称为像素或体元的图像一元单元,而每一个像素或体元与描述在灰度图像中的像素的亮度或灰度级别的参数变量的值有关,或者每个像素或体元与向量有关,所述向量的每个分量是描述像素或体元的亮度和像素或体元的颜色的参数变量,其特征在于,所述图像数据阵列根据前述权利要求1到19所述的一项或多项所述的人工神经网络进行处理,成为由直接包围目标像素或体元的像素或体元所构成的梯度1的数据记录的单元或点,所述算法被应用一定的次数,用于对计算循环实行一定次数的重复,该数目是固定的规定数目或根据在计算循环的某个重复时像素的输出值和图像数据阵列的原始值的方差或差值而进行计算,或者,所述计算循环的重复数目被确定为以后的计算循环提供图像数据阵列的输出的重复数目,所述图像数据阵列的输出与以前的计算循环的图像数据阵列的输出的差值小于某个预定差值。
46.根据前述权利要求45所述的用于图像图案识别的方法,其中人工神经网络被实现为根据权利要求20到39所述的算法。
47.根据前述权利要求46所述的方法,其特征在于,根据权利要求20到39所述的算法被连续应用两次,每次使用了不同的学习法则或函数组、或不同的激活法则或函数组、或它们的不同组合。
48.根据前述权利要求45到47的一项或多项所述的用于图像图案识别的方法,其特征在于,根据权利要求20到39所述的算法与被讲授用于识别已成像对象的不同区域的特征的预估算法相结合应用。
49.根据前述权利要求45到47的一项或多项所述的方法,其中所述预估算法是人工神经网络,而学习和测试数据库由相同对象的图像组所构成,对于所述训练和测试数据库的每个图像单一地识别所述图像对象的不同成像区域,而在作为通过根据权利要求20到39的一项或多项所述的算法实行的对输出的精心处理而得到的图像数据阵列上实行所述预估算法。
50.根据前述权利要求49所述的方法,其中所述预估算法还通过使用初始图像数据阵列作为输入数据来实行,而通过对用根据权利要求20到39的一项或多项所述的算法计算的图像数据阵列实行所述预估算法而得到的预估结果和通过对初始图像数据阵列实行所述预估算法得到的预估结果被组合或被比较。
51.一种用于在没有提供反差媒体的存在时在生物组织中实行反差成像或调和成像的方法,其特征在于,获得某躯体或躯体某部分的超声或MRI或X光照相图像,并且使所获得的图像数据阵列进行根据前述权利要求39到50的一项或多项所述的方法的处理,其使用最终被实现为根据权利要求20到39的一项或多项所述的算法的根据权利要求1到19的一项或多项所述的人工神经网络。
52.根据权利要求51所述的方法,其特征在于,向根据权利要求1到4的人工神经网络提供最终被实现为根据前述权利要求20到27的一项或多项所述的算法的、根据权利要求5所述的法则组与至少根据权利要求28所述的学习法则组的组合。
53.根据权利要求52所述的方法,其特征在于,向根据权利要求1到4所述的人工神经网络提供根据权利要求5所述的法则与根据权利要求6到19的任一项所述的法则组的组合,以及最终成为下述人工神经网络,其被实现为根据前述权利要求20到27的一项或多项所述的算法与根据权利要求28所述的学习法则或函数组以及根据权利要求29到17的任一项所述的学习法则或函数组的组合。
54.根据权利要求52所述的方法,其特征在于,它使用根据前述权利要求28到38的一项或多项所述的学习和/或激活法则组。
55.根据权利要求54所述的方法,其特征在于,提供了至少两个图像精心处理阶段,第一精心处理阶段通过一学习和/或激活法则组来实行,而第二精心处理阶段通过把在第一阶段中精心处理的输出图像的像素值提交用来由第二学习和/或激活法则组进行的第二精心处理来实行。
56.根据权利要求54或55所述的方法,其特征在于,提供了至少第三或更多的精心处理阶段,每个精心处理级通过不同的学习和/或激活法则组来实行。
57.根据前述权利要求54到56的一项或多项所述的方法,其特征在于,所述学习和/或激活法则组根据权利要求5到19或27到38。
58.一种用于帮助识别肿瘤组织的方法,其特征在于,所述方法提供以下步骤
获得包含肿瘤组织的解剖区域的数字图像或数字化的模拟图像;
藉助于根据前述权利要求39到57的一项或多项所述的方法来精心处理所述数字的或数字化的图像。
59.一种用于帮助识别血管中的器官狭窄的方法,其特征在于,所述方法提供以下步骤
获得包含肿瘤组织的解剖区域的数字图像或数字化的模拟图像;
藉助于根据前述权利要求39到57的一项或多项所述的方法精心处理所述数字的或数字化的图像。
60.一种用于帮助识别生物组织中的钙化的方法,其特征在于,所述方法提供以下步骤
获得包含肿瘤组织的解剖区域的数字图像或数字化的模拟图像;
藉助于根据前述权利要求39到57的一项或多项所述的方法精心处理所述数字的或数字化的图像。
全文摘要
一种用于处理具有适当拓扑的数据阵列的神经网络,包括对应于神经网络的结点的单元(Ki)的n维阵列,每个单元具有与构成单元(Ki)的邻居的直接相邻的单元(Kj)的连接;每个单元(Ki)具有对于与直接相邻的单元的每个连接的输入;输出用于与一个或多个直接相邻的单元(Kj)的连接;在单元之间的连接由权因子(wij)确定;每个单元由内部值来表征,并且能够实行信号处理,用于生成单元输出信号(ui);单元(Ki)的输出信号(ui)是它的内部值和来自相邻单元的输入信号的函数;每个单元与具有适当拓扑的n维数据库(Pi)的记录单一地相关联,并且每个数据记录的值是相应单元的开始值。通过把在一定数目的神经网络的迭代处理步骤后每个单元(Ki)的内部值或输出值(ui)看作为对于所述单一地相关联的数据记录(Pi)的新得到的值(Ui)而实行处理。
文档编号G06N3/04GK1839397SQ200480024189
公开日2006年9月27日 申请日期2004年8月18日 优先权日2003年8月22日
发明者P·M·布谢马 申请人:西麦恩公司
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1