处理系统以及程序的制作方法

文档序号:14203990阅读:295来源:国知局
处理系统以及程序的制作方法

本发明涉及处理系统以及程序。



背景技术:

已知具备神经网的感情生成装置,所述神经网输入用户信息、设备信息以及自身现在的感情状态而输出下次的感情状态(例如,参照专利文献1)。另外,已知在联想存储器中存储时空模式的技术,所述联想存储器包含具有方向性人造突触连接性的层·具有神经网关系的多个电子神经元(例如,参照专利文献2)。

现有技术文献

专利文献

专利文献1:日本特开平10-254592号公报

专利文献2:日本特表2013-535067号公报。



技术实现要素:

发明要解决的问题

存在不能有效率地对构成神经网络的各个人造神经元以及人造突触的参数进行处理的问题。

解决问题的技术手段

在本发明的第一技术方案中,提供一种处理系统,对构成神经网络的多个人造神经元的参数以及多个人造突触的参数进行处理,其特征在于,包括:存储部,存储定义信息,所述定义信息对于多个人造神经元的各人造神经元定义了控制对象的状态;处理部,使用在每个人造神经元能够以批量的数据单位访问的数据访问构造,对多个人造神经元的各人造神经元的参数值以及被连接于各人造神经元的输入的一个以上的人造突触的参数值进行处理;和动作确定部,基于通过多个人造神经元中的至少一部分人造神经元的参数值确定的至少一部分人造神经元的活性状态和由至少一部分人造神经元定义的状态,确定控制对象的动作。

处理部进行的处理可以包含:在每个人造神经元更新多个人造神经元的参数值以及人造突触的参数值;在每个人造神经元批量地向用户提示多个人造神经元的参数的现在的值以及人造突触的参数的现在的值;以及在每个人造神经元批量地向用户提示多个人造神经元的参数值以及人造突触的参数值,并从用户接收参数值的输入。

处理部可以以使多个人造神经元的多个行与表格的多个行相对应的形式向用户提示多个人造神经元的各人造神经元的参数值以及被输入连接于各人造神经元的一个以上人造突触的参数值;可以接受用于变更提示的参数值而对表格的用户输入。

处理部,可以生成能够以批量的数据单位访问多个人造神经元的各人造神经元的参数值以及被输入连接于各人造神经元的一个以上人造突触的参数值的数据构造;可以对多个人造神经元的各人造神经元的参数值以及被输入连接于各人造神经元的一个以上人造突触的参数值,通过数据构造访问多个人造神经元的每个人造神经元,时间性地更新多个人造神经元的各人造神经元的参数值以及被输入连接于各人造神经元的一个以上人造突触的参数值。

处理部可以以使多个人造神经元的多个行与表格的多个行相对应的形式,向用户提示时间性地被更新的多个人造神经元的各人造神经元的参数值以及被输入连接于各人造神经元的一个以上人造突触的参数值。

人造神经元的参数可以包含:阈值、活性状态、最后活性化的时刻、输出、最后活性化的时刻时的输出、以及确定活性化时的输出的时间发展的参数的至少一个,人造突触的参数可以包含:人造突触的识别信息;以及对所连接的人造神经元的结合系数、同时活性化时刻、该同时活性化时刻时的结合系数、以及确定产生同时的活性化后的结合系数的时间发展的参数的至少一个,所述同时活性化时刻为人造突触连接起来的两个人造神经元最后同时活性化的时刻的。

多个人造神经元中可以包含有内分泌人造神经元,所述内分泌人造神经元为定义了内分泌物质的发生状态的人造神经元,存储部可以在没有通过人造突触直接连接于内分泌人造神经元的其他的人造神经元以及人造突触的至少一方的参数中,进一步存储影响定义信息,所述影响定义信息确定确定活性状态的至少一方给予的影响,处理部可以基于内分泌人造神经元的输出以及活性状态的至少一方和影响定义信息,更新没有通过人造突触直接连接于内分泌人造神经元的其他的人造神经元以及人造突触的至少一方的参数。

内分泌人造神经元的输出以及活性状态的至少一方给予影响的其他的人造神经元的参数可以包含其他的人造神经元的阈值、活性状态、以及确定活性化时的输出的时间发展的参数的至少一个,内分泌人造神经元的输出以及活性状态的至少一方给予影响的人造突触的参数可以包含该人造突触的结合系数、以及确定该人造突触连接起来的两个人造神经元最后同时活性化后的结合系数的时间发展的参数的至少一个。

多个人造神经元中可以进一步包含感情人造神经元,所述感情人造神经元为定义了控制对象的现在的感情的人造神经元,影响定义信息可以包含已确定的、与报酬系相关联的内分泌人造神经元的活性状态向感情人造神经元的阈值给予的影响的信息,处理部可以在内分泌人造神经元活性化的情况下,根据影响定义信息,更新感情人造神经元的阈值。

处理部,可以以比其他的人造神经元的参数的更新频率高的频率更新多个人造神经元中的一部分人造神经元的参数。

在处理系统中能够用于运算的资源量比预先确定的值小的情况下,处理部可以以比其他的人造神经元的参数的更新频率高的频率更新一部分人造神经元的参数。

多个人造神经元可以预先分配有优先顺序,处理部可以从多个人造神经元中,根据优先顺序选择在处理系统中能够用于运算的资源量的范围内能够更新参数的一部分人造神经元,以比其他的人造神经元的参数的更新频率高的频率更新所选择的一部分人造神经元的参数。

神经网络可以包含一个以上的非定义人造神经元,所述非定义人造神经元为没有控制对象的状态的人造神经元,在与报酬系相关联的内分泌人造神经元活性化的情况下,处理部可以提高被连接于非定义人造神经元中一个以上非定义人造神经元的人造突触的结合系数,所述一个以上非定义人造神经元连接该内分泌人造神经元以及与该内分泌人造神经元同时处于活性状态的其他的人造神经元。

在连接与报酬系相关联的内分泌人造神经元和与该内分泌人造神经元同时处于活性状态的其他的人造神经元之间的路线中,处理部可以更优先地选择对被连接于非定义人造神经元的人造突触的结合系数进行了考虑的人造神经元间的距离更近的路线,可以提高被连接于提供所选择的路线的非定义人造神经元的人造突触的结合系数。

根据本发明的第二技术方案,可提供一种用于使计算机作为上述处理系统而起作用的程序。

另外,上述的发明的概要没有列举本发明的全部必要特征。另外,这些特征群的子组合也能够成为发明。

附图说明

图1概略地表示本实施方式所涉及的系统20的一例。

图2概略地表示服务器200、用户终端100以及机器人40的功能块构成。

图3概略地表示神经网络300。

图4概略地表示显示于用户终端100的参数编辑画面。

图5概略地表示使机器人40起动或复位的情况下的服务器200的动作流程。

图6是概略地对人造突触的结合系数的计算进行说明的图。

图7概略地表示作为结合系数的增减参数定义了函数htij的情况下的结合系数的时间发展。

图8概略地表示在时刻t2进一步地同时点火的情况下的结合系数的时间发展。

图9概略地表示结合系数的增减函数的其他的例子。

图10概略地表示定义对参数给予的化学影响的影响定义信息。

图11表示计算输出以及状态的流程图。

图12是概略地对人造神经元不点火的情况下的输出的计算例进行说明的图。

图13是概略地对人造神经元点火的情况下的输出的计算例进行说明的图。

图14概略地表示作为人造神经元的增减参数定义了函数的情况下的结合系数的时间发展。

图15概略地表示作为增减参数的函数的其他的例子。

图16概略地表示用户终端100显示的参数查看器的画面例。

图17概略地表示在图形化地对神经网络进行编辑的情况下提示的画面。

图18是对人造突触进行编辑的编辑画面的一例。

图19概略地表示人造神经元的输出的显示例。

图20概略地表示电信号在人造突触中传输的样子的显示例。

图21概略地表示通过人造突触结合的人造神经元间的结合状态的显示例。

图22概略地表示人造神经元的配置的显示例。

图23概略地表示内分泌人造神经元影响的人造神经元的范围的显示例。

图24概略地表示确定的对人造神经元的参数进行计算的优先顺序的优先人造神经元信息。

图25概略地表示系统20所涉及的软件架构。

图26概略地表示对于多个人造神经元进行更新计算前的状态。

图27表示通过多进程处理并列进行参数值的更新处理的方法。

图28概略地表示更新计算的途中的计算状态。

图29概略地表示用于在子系统间进行分散控制的神经网络的构成。

具体实施方式

以下,通过发明的实施方式对本发明进行说明,但以下的实施方式并不限定于权利要求所涉及的发明。另外,在实施方式中说明的特征的组合的全部并不限定为在发明的解决方案中是必须的。

图1概略地表示本实施方式所涉及的系统20的一例。系统20包括服务器200、用户终端100a、用户终端100b、机器人40a以及机器人40b、服务器200。用户终端100a、用户终端100b、机器人40a以及机器人40b通过通信网90与服务器200通信而进行信息的交换。

另外,用户30a为机器人40a以及用户终端100a的用户。用户30b为机器人40b以及用户终端100b的用户。机器人40b具有与机器人40a大致相同的功能。另外,用户终端100b具有与用户终端100a大致相同的功能。因此,将机器人40a以及机器人40b总称为机器人40,将用户终端100a以及用户终端100b总称为用户终端100,从而对系统20进行说明。

系统20对用于确定机器人40的状态的神经网络的参数进行处理。所谓神经网络的参数,包含构成神经网络的多个人造神经元以及多个人造突触的参数。

具体地说,用户终端100基于来自用户30的输入,而设定神经网络的参数的初始值,向服务器200发送。机器人40将通过设置于机器人40的传感器检测的传感器信息向服务器200发送。服务器200基于神经网络的初始值信息与从机器人40获取的传感器信息,使用神经网络,确定机器人40的状态。例如,服务器200使用神经网络而计算机器人40的周围的状况、机器人40自身的感情、以及机器人40自身的内分泌物质的生成状态。然后,服务器200基于机器人40的周围的状况、机器人40自身的感情、以及机器人40自身的内分泌物质的生成状态,而确定机器人40的行动内容。另外,所谓内分泌物质,意味着神经传递物质以及荷尔蒙等在体内分泌、传递信号的物质。另外,所谓内分泌,意味着内分泌物质是在体内分泌的。

例如,服务器200在判断为是生成了与睡意相对应的内分泌物质的状态的情况下,进行机器人40变困的情况下的行动。另外,服务器200在判断为是产生称为开心的感情的状态的情况下,使机器人40发出表示开心度的语言。

另外,所谓机器人40自身的内分泌物质,是给机器人40的行动带来影响的一个信息,不意味着机器人40实际产生内分泌物质。机器人40自身的感情也同样,是给机器人40的行动带来影响的一个信息,不意味着机器人40实际具有感情。

图2概略地表示服务器200、用户终端100以及机器人40的功能块构成。用户终端100具有处理部102、显示部104、输入装置106、通信部208。机器人40b具有传感器部156、处理部152、控制对象155、通信部158。服务器200具有处理部202、存储部280、通信部208。处理部202包含初始值设定部210、外部输入数据生成部230、参数处理部240、动作确定部250。存储部280存储行动确定规则282、定义信息284、参数初始值286、以及最新的参数288。

在用户终端100,输入装置106从用户30接受神经网络参数的初始值的输入,向处理部102输出。处理部102由cpu等处理器形成。处理部102将从输入装置106获取的参数的初始值从通信部108向服务器200发送。通信部108从服务器200接收神经网络的参数。处理部102使通信部108接收的参数显示于显示部104。

在机器人40中,传感器部156包含照相机、3d深度传感器、话筒、触摸传感器、激光测距仪、超声波测距仪等各种传感器。通过传感器部156检测出的传感器信息被向处理部152输出。处理部152由cpu等处理器形成。处理部152使从传感器部156获取的传感器信息从通信部158向服务器200发送。通信部158从服务器200接收表示动作内容的信息。处理部152基于通信部158接收的动作内容而控制控制对象155。控制对象155包含扬声器、驱动机器人40的各部分的电动机、显示装置、发光装置等。作为一例,在从服务器200接收了表示发声内容的信息的情况下,处理部152根据所接收的发声内容,从扬声器输出声音。

在服务器200中,通信部208将从用户终端100或机器人40接收的信息向处理部202输出。初始值设定部210将通过通信部208接收的参数的初始值存储于存储部280内的参数初始值286。外部输入数据生成部230对通信部208接收的传感器信息进行处理,生成来自神经网络的外部的输入信息,向参数处理部240输出。

参数处理部240基于被存储于存储部280的神经网络的参数288与定义信息284,进行基于神经网络的处理。神经网络为用于通过计算机的处理模拟性实现生物体的脑功能的一部分的模型。首先在这里,对与神经网络有关的技术的背景以及问题进行说明。

大脑大体具有二个功能。一个是以存储和/或学习、预测和/或计划为首的各种信息处理,另一个是信息处理的调节功能。

大脑中的信息处理通过由突触结合连接的巨大数量的神经元而实现。在人类的大脑中,整体存在一千几百亿个神经元。一方面,信息处理的调节功能如人类的大脑的宽范围调节系统那样,通过存在于大脑的特定部位的比较少数的神经元实现。具体地说,大脑的特定部位的神经元具有向不具有特定的明确的目的地神经元的大脑的广泛的区域分枝的轴突,通过从该轴突放出的各种神经传递物质的作用,实现信息处理的调节功能。在人类的宽范围调节系统存在几千个左右神经元。即,存在于大脑的特定部位的比较少数的神经元分别与十万个以上的其他的神经元接触,大脑的特定部位的神经元放出的神经传递物质不但作用于突触间隙还作用于大脑内的多数的神经元,由此实现信息处理的调节功能。

作为大脑中的信息处理的例子,可列举人类的视野中的视觉信息的处理。人类的视觉信息从视网膜经视神经向第一次视野传递,从该处在背侧皮质视觉通路中进行与动作有关的信息处理,在腹侧皮质视觉通路进行人脸识别那样与动作以外的信息有关的信息处理。另一方面,作为信息处理中的调节功能的例子,可列举人类感觉睡意的情况下的信息处理。放出乙酰胆碱和/或去甲肾上腺素和/或血清素那样的神经传递物质的宽范围调节系统与睡意的发生有关。由此,睡意那样的指令能够成为如意思确定那样取在大脑的广泛的区域中接受的信息。

在这里,作为神经网络的例子,为了模拟性实现一部分脑功能,将由通过人造突触结合的多个人造神经元构成的网络设为前提。作为该神经网络的例子中的应用例,可列举基于深度学习的模式识别和/或使用了自组织化映射的数据·分簇等,它们可以说模拟地实现所谓图像识别和/或词语的分类的大脑的信息处理。

在神经网络中,能够适用基于hebb规则和/或尖峰定时依存可塑性(spiketiming-dependentplasticity;stdp)的学习规则。所谓hebb规则,为当某一神经元的点火使其他的神经元点火时,这两个神经元的结合变强的规则。基于hebb规则,能够在神经网络中合并在人造突触的前后的人造神经元同时点火的情况下增强该人造突触的结合的处理。stdp是突触的增强·减弱依存于该突触的前侧的神经元以及后侧的神经元的尖峰发生定时的顺序的现象。基于stdp,能够在神经网络中合并在人造突触的前侧的神经元比后侧的神经元先点火的情况下增强该人造突触的结合、而在人造突触的后侧的人造神经元比前侧的人造神经元先点火的情况下减弱该人造突触的结合的处理。另外,在自组织化映射中,在通过多个人造神经元形成的神经网络中,具有下述的学习规则:从加权矢量选择最接近输入矢量的优胜矢量,对加权进行更新使其进一步接近输入矢量。

另外,在如上述的专利文献1那样从多个感觉信息输出感情标签的神经网络的例子中,通过反馈感情标签,具有即使输入相同也能够与感情标签和输入相应而输出不同的感情标签的情况,但专利文献1的神经网络没有能够合并那样的处理的构成。另外,在专利文献1的神经网络中,感情与神经传递物质等内分泌物质无关,另外,也没有通过感情调节信息处理。

在通过专利文献1所记载的神经网络实现的信息处理、和/或通过上述的神经网络的例子实现的模式识别和/或数据·分簇等各种信息处理之外,为了实现一边通过在大脑内的广泛的区域分泌伪神经传递物质等内分泌物质从而人造神经元和/或人造突触的性质在神经网络的一部分动态变化一边调节信息处理的功能,具有三个问题。即,第一,对于脑功能的大部分,动作原理还未明了,所以不能在所存在的多个假说中,如模拟计算机那样一边进行试行错误一边通过人造突触将人造神经元结合而有效率地确认神经网络的举动。第二,虽然关于各种大脑部位的神经元的活动电位和/或突触结合提出了具有不同的滞后特性的数学式模型,但不能在每个人造神经元和/或人造突触有效率地叙述具有滞后的数学式和/或数学式的参数。第三,不能通过大规模计算有效率地模拟通过在大脑内的广泛的区域分泌伪内分泌物质从而多数的人造神经元和/或人造突触的参数在神经网络的一部分动态变化这样的举动,根据多进程·多线程处理和/或分布式计算也不能有效率地处理。以下,同与上述的神经网络有关的技术的背景以及问题相关联,更详细地说明系统20的动作。

图3概略地表示神经网络300。神经网络300包含多个人造神经元:人造神经元1、人造神经元2、人造神经元3、人造神经元4、人造神经元5、人造神经元6、人造神经元7、人造神经元8、人造神经元9。神经网络300包含多个人造突触:人造突触301、人造突触302、人造突触303、人造突触304、人造突触305、人造突触306、人造突触307、人造突触308、人造突触309、人造突触310、人造突触311。人造神经元对应于生物体中的神经元。人造突触对应于生物体中的突触。

人造突触301连接人造神经元4与人造神经元1。人造突触301为单方向连接的人造突触。人造神经元4为被连接于人造神经元1的输入的人造神经元。人造突触302连接人造神经元1与人造神经元2。人造突触302为双方向连接的人造突触。人造神经元1为被连接于人造神经元2的输入的人造神经元。人造神经元2为被连接于人造神经元1的输入的人造神经元。

另外,在本实施方式中,有时通过n表示人造神经元,通过s表示人造突触。另外,在识别各人造神经元的情况下,将上标数字设为识别文字而使用。在表示任意的人造神经元的情况下,有时将整数i和/或j设为识别数字而使用。例如,ni表示任意的人造神经元。

另外,有时使用被连接于人造突触的两个人造神经元的各自的识别数字i以及j而识别人造突触。例如,s41表示连接n1与n4的人造突触。一般,sij表示向nj输入ni的输出的人造突触。另外,sji表示向ni输入nj的输出的人造突触。

在图3中,a~g表示对机器人40的状态进行定义。所谓机器人40的状态,包含机器人40的感情、内分泌物质的生成状态、机器人40的周围的状况等。作为一例,n4、n6、以及n7为定义有表示机器人40的状况的概念的概念人造神经元。例如,n4为被分配有称为“响铃鸣叫”的状况的概念人造神经元。n6为被分配有称为“开始了充电”的状况的概念人造神经元。n7为被分配有称为“蓄电量为阈值以下”的状况的概念人造神经元。

n1以及n3为定义有机器人40的感情的感情人造神经元。n1为被分配有称为“开心”的感情的感情人造神经元。n3为被分配有称为“悲伤”的感情的感情人造神经元。

n2以及n5为定义有机器人40的内分泌状态的内分泌人造神经元。n5为被分配有多巴胺的发生状态的内分泌人造神经元。多巴胺为与报酬系有关的内分泌物质的一例。即,n5为与报酬系有关的内分泌人造神经元的一例。n2为被分配有血清素的发生状态的内分泌人造神经元。血清素为与睡眠系有关的内分泌物质的一例。即,n2为与睡眠系有关的内分泌人造神经元的一例。

在存储部280内的定义信息284中,相对于构成神经网络的多个人造神经元的各人造神经元,存储有定义上述那样的机器人40的状态的信息。这样,在神经网络300中,包含概念人造神经元、感情人造神经元、内分泌人造神经元。概念人造神经元、感情人造神经元、内分泌人造神经元是明示地定义有概念、感情以及内分泌等意义的人造神经元。有时将这样的人造神经元称为显性人造神经元。

与此相对,n8和/或n9为没有定义机器人40的状态的人造神经元。另外,n8和/或n9是没有明示地定义概念、感情以及内分泌等意义的人造神经元。有时将这样的人造神经元称为隐性人造神经元。

作为神经网络300的参数,包含作为向神经网络的各ni的输入的iti、作为从神经网络的外部向ni的输入的eti、ni的参数和si的参数。

ni的参数包含:表示ni的状态的sti,表示ni表示的人造神经元的输出的vimt,表示ni的点火的阈值的tit,表示ni为最后点火的时刻的最终点火时刻的tf,表示最终点火时刻时的人造神经元ni的输出的vimtf,和作为输出的增减参数的ati、bti、hti。输出的增减参数为确定人造神经元的点火时的输出的时间发展的参数的一例。另外,在本实施方式中,添加了下标的t表示为能够与时刻的进度一起更新的参数。

sij的参数包含:表示sij的人造突触的结合系数的bstij,表示作为连接有sij的ni以及nj最后同时点火的时刻的最终同时点火时刻的tcf,表示最终同时点火时刻时的结合系数的bsijtcf,和作为结合系数的增减参数的atij、btij、htij。结合系数的增减参数是确定人造突触连接起来的两个人造神经元最后同时点火后的结合系数的时间发展的参数的一例。

参数处理部240基于来自外部输入数据生成部230的输入和神经网络而更新上述的参数,确定各人造神经元的活性化的状态。动作确定部250基于通过神经网络内的多个人造神经元中的至少一部分人造神经元的参数值确定的至少一部分人造神经元的活性状态和通过定义信息284定义于至少一部分人造神经元的状态,确定机器人40的动作。另外,所谓活性状态,能够取活性化的状态或没有活性化的状态。在本实施方式中,有时将活性化称为“点火”,将未活性化称为“未点火”。另外,如后所述,与输出是否为上升中相应而将“点火”的状态分为“上升相”与“下降相”。所谓“未点火”、“上升相”以及“下降相”,可通过状态sti表示。

图4概略地表示显示于用户终端100的参数编辑画面。用户终端100显示从服务器200接收的时刻t时的参数中、用户能够编辑的参数。

参数编辑画面400对于ni的各自,包含:ni的阈值以及增减参数,以及被连接于ni的所有的人造神经元的识别信息,和用于向结合系数以及增减参数的各自输入值的输入栏。另外,参数编辑画面400包含保存按钮以及复位按钮。用户30能够使用输入装置106而向各输入栏输入初始值。

在按压了保存按钮的情况下,处理部102通过通信部108向服务器200发送在参数编辑画面400中设定的初始值。在服务器200中。从用户终端100发送的初始值被存储于存储部280内的参数初始值286。另外,在按压了参数编辑画面400的复位按钮的情况下,处理部102将输入栏内的设定值设定为预先确定的初始值。

这样,处理部102以使多个人造神经元的多个行与表格的多个行相对应的形式,向用户提示多个人造神经元的各人造神经元的参数值以及被连接于各人造神经元的输入的一个以上人造突触的参数值。而且,处理部102接受与用于变更所提示的参数值的表格相对的用户输入。这样,处理部102能够使用在每个人造神经元能够以批量的数据单位访问的数据访问构造向用户30提示多个人造神经元的各人造神经元的参数值以及被连接于各人造神经元的输入的一个以上人造突触的参数值,从用户30接受值的输入。

图5概略地表示对机器人40进行起动或复位的情况下的服务器200的动作流程。服务器200在接收机器人40被起动或复位时,参数处理部240进行神经网络的参数的初始设定。例如,参数处理部240从存储部280获取参数的初始值,以规定的数据构造生成神经网络的参数数据(s502)。另外,设定时刻t0时的神经网络的参数值。在初始设定完毕时,在s504,开始与时刻t有关的循环。

在s510中,参数处理部240计算时间步骤tn+1中的、与人造突触的电影响引起的变化相对应的参数。具体地说,计算任意的sij的bstij

在s520中,参数处理部240计算时间步骤tn+1中的、与内分泌物质引起的化学影响引起的变化相对应的参数(s520)。具体地说,计算内分泌人造神经元带来影响的ni以及sij的参数的变化。更具体地说,计算时间步骤tn+1中的、内分泌人造神经元带来影响的人造神经元ni的输出的增减参数和/或阈值和内分泌人造神经元带来影响的sij的结合系数的增减参数和/或结合系数。

在s530中,参数处理部240获取来自神经网络的外部的输入。具体地说,参数处理部240获取外部输入数据生成部230的输出。

在s540中,参数处理部240计算时间步骤tn+1中的、ni的输出。具体地说,计算vimtn+1以及状态stti。然后,在s550中,将时刻tn+1时的各参数值存储于存储部280的参数288。另外,将时刻tn+1时的各参数值向用户终端100发送。

在s560中,参数处理部240判断是否将循环结束。例如,在时间步骤表示的时刻到达规定的时刻的情况下、和/或从用户终端100指示将参数更新的计算停止的情况下,判断为将循环结束。在不将循环结束的情况下,返回到s510,进而进行接下来的时间步骤的计算。在将循环结束的情况下,将该流程结束。

图6是概略地说明人造突触的结合系数的计算的图。在这里,对作为增减参数的初始值定义了常数aij以及bij的情况进行说明。

在时刻tn的时间步骤中,在sij的两端的ni以及nj都不点火的情况下,参数处理部240通过bstn+1ij=bstnij+atnij×(tn+1-tn)计算时刻tn+1时的bstn+1ij。另一方面,在时刻tn的时间步骤中,在si以及sj都不点火的情况下,通过bstn+1ij=bstnij+btnij×(tn+1-tn)计算时刻tn+1时的结合系数bstn+1ij。另外,在bstn+1ij变为负值的情况下,bstn+1ij设为0。另外,在bsij为正值的sij,atij为正值,btij为负值。在bsij为负值的sij,atij为正值,btij为负值。

如图6所示,两端的人造神经元在时刻t0同时点火,所以bstij每单位时间以at0ij增加。另外,在时刻t1不同时点火,所以bstij每单位时间以|bt1ij|减少。另外,通过在时刻t4同时点火,bstij每单位时间以at4ij增加。

图7概略地表示作为结合系数的增减参数定义了函数htij的情况下的结合系数的时间发展。htij在从tcf开始的经过时间δt(=t-tcf)≧0中定义。htij为至少δt的函数,取实数的值。

图7所示的函数700为htij的一例。函数700为时刻tcf时的结合系数bstcfij以及δt的函数。函数700在δt为比规定的值小的范围内的情况下单调增加,在δt比规定的值大的情况下单调减少而向0渐减。函数700在δt=0时取值bstcfij

图7表示作为结合系数的增减参数定义有函数700、在时刻t0、两端的ni以及nj同时点火的情况下的结合系数。参数处理部240基于函数700和δt,算出时刻t1~时刻t6的各时刻的bstij。在时刻t1~时刻t6的时间范围内,ni以及nj不同时点火。因此,例如,在时刻t2以后,结合系数单调减少。

图8概略地表示在时刻t2、ni以及nj进一步地同时点火的情况下的结合系数的时间发展。结合系数从时刻t0到时刻t2,与图7同样地计算。当在时刻t2、ni以及nj进一步地同时点火时,参数处理部240根据htij(t-t2,bst2ij)计算时刻t3~t6的各时刻的结合系数。这样,每次反复进行同时点火,结合系数都升高。由此,如生物体中的hebb规则那样,可得到强化人造突触结合那样的效果。另一方面,如图6以及图7所示,如果不同时点火的时间变长,则可得到人造突触结合衰减那样的效果。

图9概略地表示结合系数的增减函数htij的其他的例子。函数910、函数920分别为htij的一例。

函数910是时刻tcf时的结合系数bstcfij以及δt的函数。函数910在δt=0时设为值bstcfij。另外,函数910在δt为比规定的值小的范围内的情况下单调增加,在δt比规定的值大的情况下单调减少而向0渐减。

函数920仅为δt的函数。函数920在δt=0取值0。另外,函数920在δt为比规定的值小的范围内的情况下单调增加,在δt比规定的值大的情况下单调减少而向0渐减。这样,根据本实施方式,能够比较自由地定义htij,所以能够比较自由地控制学习效果。

图10概略地表示定义对参数给予的化学影响的影响定义信息。该影响定义信息用于图5的s520的参数的变化的计算。定义信息包含与内分泌人造神经元的输出有关的条件、特别指定给予影响的人造神经元或人造突触的信息和确定影响内容的式子。

在图10的例子中,内分泌人造神经元n2为分配有睡意的内分泌物质的内分泌人造神经元。与内分泌人造神经元n2有关的定义信息定义有“vmtn2>ttn2”的条件,作为内分泌人造神经元n2给予影响的人造神经元定义有“感情人造神经元n1以及n3”,作为确定影响内容的式子定义有“ttn+1i=ttni×1.1”。由此,参数处理部240在vmtn2超过ttn2的情况下,使时刻tn+1的感情人造神经元n1以及n3的阈值上升10%。由此,例如,在产生了睡意的情况下,能够使得难以使感情人造神经元点火。例如,通过确定将定义为“蓄电量为阈值以下”的概念人造神经元n7的输出连接于内分泌人造神经元n2的输入的神经网络,能够体现在蓄电量降低时感情变得难以升高的现象。

另外,内分泌人造神经元n5为分配有报酬系的内分泌物质的内分泌人造神经元。作为报酬系的内分泌物质,能够例示多巴胺等。与内分泌人造神经元n5有关的第一定义信息确定“vmtn5>ttn5以及vmtn4>ttn4”的条件,作为内分泌人造神经元n5给予影响的人造突触确定“s49以及s95”,作为确定影响内容的式子确定“atn+1ij=atnij×1.1”的式子。由此,参数处理部240在vmtn5超过ttn5、且vmtn4超过ttn4的情况下,使时刻tn+1的人造突触s49以及s95的增减参数上升10%。

由此,在报酬系的内分泌人造神经元点火了的情况下,在定义了所谓“响铃鸣叫”的状况的概念人造神经元n4点火时,能够加强借助隐性人造神经元n9的概念人造神经元n4与n5的结合。由此,在“响铃鸣叫”的情况下报酬系的内分泌人造神经元n5变得容易点火。

另外,与内分泌人造神经元n5有关的第二定义信息,作为“vmtn5>ttn5”的条件、内分泌人造神经元n5给予影响的人造神经元确定“n1”,作为确定影响内容的式子确定“ttn+1i=ttni×1.1”的式子。由此,参数处理部240在vmtn5超过ttn5的情况下,使时刻tn+1的人造神经元n1的增减参数下降10%。由此,在报酬系的内分泌人造神经元n5点火了的情况下,所谓开心的感情变得容易点火。

根据确定的与这样的报酬系的内分泌人造神经元有关的影响的定义,在一边使响铃鸣叫一边反复进行对机器人40充电的行为时,能够进行机器人40仅通过使响铃鸣叫而取表示开心度的行动那样的安装。

另外,影响定义信息并不限定于图10的例子。例如,作为条件,可以定义人造神经元的输出为阈值以下的条件。另外,可以定义与人造神经元的状态有关的条件,例如定义与上升相、下降相或未点火有关的条件。另外,影响范围除了直接指定人造神经元和/或人造突触,也能够进行“被连接于特定的人造神经元的所有人造突触”那样的定义。另外,对于影响的式子,在对象为人造神经元的情况下,除了将阈值设为常数倍,可以定义下述的式子:在阈值上加上常数、和/或将输出的增减参数设为常数倍。另外,在对象为人造突触的情况下,除了将增减参数设为常数倍,可以定义将结合系数设为常数倍的式子。

影响定义信息被存储于存储部280的定义信息284内。这样,存储部280在没有通过人造突触直接连接于内分泌人造神经元的其他的人造神经元以及人造突触的至少一方的参数中,存储影响定义信息,所述影响定义信息确定内分泌人造神经元的输出以及点火状态的至少一方给予的影响。然后,参数处理部240基于内分泌人造神经元的输出以及点火状态的至少一方和该影响定义信息,对没有通过人造突触与内分泌人造神经元直接连接的其他的人造神经元以及人造突触的至少一方的参数进行更新。另外,内分泌人造神经元的输出以及点火状态的至少一方给予影响的其他的人造神经元的参数能够包含其他的人造神经元的阈值、点火状态、以及确定点火时的输出的时间发展的参数的至少一个。另外,内分泌人造神经元的输出以及点火状态的至少一方给予影响的人造突触的参数,能够包含确定该人造突触的结合系数、以及该人造突触连接起来的两个人造神经元最后同时点火后的结合系数的时间发展的参数的至少一个。另外,影响定义信息包含确定与报酬系相关联的内分泌人造神经元的点火状态向感情人造神经元的阈值给予的影响的信息,参数处理部240在该内分泌人造神经元点火的情况下,根据影响定义信息,更新感情人造神经元的阈值。

图11表示对vtn+1i以及stn+1i进行计算的流程图。本流程图的处理能够适用图5的s540内的处理的一部分。在s1100中,参数处理部240判断stni是否表示未点火。

在stni表示未点火的情况下,参数处理部240计算向ni的输入itn+1i(s1110)。具体地说,在来自神经网络的外部的输入没有被连接于ni的情况下,通过itn+1i=σjbstn+1ji×vmtnj×f(stnj)计算。在来自神经网络的外部的输入被连接于ni的情况下,通过itn+1i=σjbstn+1ji×vmtnj×f(stnj)+etn+1i计算。在这里,etni为来自神经网络的外部的时刻tn时的输入。

另外,f(s)在s为表示未点火的值的情况下返回0,在s为表示上升相或下降相的值的情况下返回1。该模型与突触仅在神经元点火的情况下传递活动电位的模型相对应。另外,也可以返回f(s)=1。这与和神经元的点火状态无关而传递膜电位的模型相对应。

在s1112中,参数处理部240判断itn+1i是否超过ttn+1i。在itn+1i超过ttn+1i的情况下,参数处理部240基于增减参数而算出vmtn+1i,并且与vmtn+1i相应而将stn+1i设定为表示上升相或下降相的值(s1114),将该流程结束。

在s1100中,在stni为上升相或下降相的情况下,参数处理部240算出vmtn+1i(s1120)。然后,参数处理部240在到tn+1为止、vmti达到vmin的情况下,将stn+1i设定为未点火的值,在到tn+1为止、vmti未达到vmin的情况下,将stn+1i设定为上升相或下降相的值,将该流程结束。另外,参数处理部240在到tn+1为止vmti达到vmax的情况下设定向stn+1i下降相的值,在到tn+1为止vmti未达到vmax的情况下设定向stn+1i上升相的值。

这样,在ni为点火的情况下,即使输出变为阈值以下,ni的输出也不依存于输入。这样的期间对应于生物体的神经元的绝对不应期。

图12是概略地说明ni不点火的情况下的vti的计算例的图。

在时刻t0的时间步骤中ni为未点火。在时刻t1的it1i为tt1i以下的情况下,参数处理部240通过vt1i=it1i计算时刻t1时的vt1i,通过vti=it0i计算从时刻t0到t1的期间的vti。另外,同样,参数处理部240将在时刻步骤tn中计算的vtn的值维持到接下来的时刻步骤,在vtn+1中,使其变化为itn+1。

图13是概略地说明ni点火的情况下的vit的计算例的图。图13是定义了常数ai以及bi的情况下的计算例。

在时刻t0的时间步骤,ni为未点火。在时刻t1的it1i超过tt1i的情况下,参数处理部240通过vt1i=it1i计算时刻t1时的vt1i,通过vti=it0i计算从时刻t0到t1的期间的vti。另外,在这里,时刻t1的it1i设为vmax以下。在时刻t1的it1i超过vmax的情况下,设为it1i=vmax。

参数处理部240,如图13所示,在时刻t1以后,使vti每单位时间以atij增加,到vti达到vmax的时刻。另外,参数处理部240将该期间的ni的状态sti确定为上升相。

另外,在vti达到vmax时,使vti每单位时间以|bti|减少,到vti达到vmin。另外,参数处理部240将该期间的ni的状态确定为下降相。然后,在vti达到vmin时,通过vt6i=it6i计算接下来的时刻时的vt6i。另外,将vti达到vmin后的状态确定为未点火。

另外,在ni的状态处于下降相的情况下,即使所算出的vmti下降到tti下,vmti也不依存于iti。参数处理部240即使vmti下降到tti以下,到vmti达到vmin为止,也根据增减参数而算出vmti

图14概略地表示作为ni的增减参数定义了函数hti的情况下的结合系数的时间发展。一般,hti在从点火时刻tf算起的经过时间δt(=t-tf)≧0中定义。hti至少为δt的函数。hti取实数的值,hti的值的范围为vmin以上vmax以下。

图14所示的函数1400为hti的一例。函数1400是时刻tf时的vmtfi以及δt的函数。函数1400在δt为比规定的值小的范围内的情况下单调增加,在δt比规定的值大的情况下单调减少。函数1400在δt=0取值vmtfi

图14表示作为输出的增减参数定义了函数1400、ni在时刻t1点火的情况下的输出。参数处理部240基于函数1400、δt以及vmfi,计算时刻t1~时刻t5的各时刻的vmti。vmti在时刻t5达到vmin,所以在时刻t6变为vmti=it6i

图15概略地表示作为增减参数的函数hti的其他的例。函数1510以及函数1520分别为hti的一例。

函数1510为时刻tf时的输出vmtfi以及δt的函数。函数1510为在δt=0变为值vmtfi的函数。另外,函数1510为在δt为比规定的值小的范围内的情况下单调增加、在δt比规定的值大的情况下单调减少的函数。

函数1520仅为δt的函数。函数1520为在δt=0变为值vmin的函数。另外,函数920为在δt为比规定的值小的范围内的情况下单调增加、在δt比规定的值大的情况下单调减少的函数。

如以上说明,参数处理部240能够将神经元的活动电位的变化设为模型而计算输出。因此,能够表现输出的上升以及下降。另外,能够通过增减参数比较自由地表现点火后的输出的变化。由此,能够扩大表现状态的宽度。

另外,如图6等所示,在作为增减参数使用了aij以及bij的情况下,结合系数和时间的经过一起直线地变化。另外,如图13等所示,在使用了aj以及bj的情况下,输出和时间的经过一起直线地变化。但是,也可以将aij以及bij那样的系数适用于直线以外的函数的系数。另外,作为多个系数群,也可以适用于多项式和/或其他的函数等。例如,a1×δt+a2×eδt和/或、b1×δt2+b2×δt-1等可以设为系数群而定义。由此,能够将结合系数和/或输出实现比较多样的时间发展。另外,根据这样的系数,用户能够比较地简单地改变神经网络的举动。通过这些系数,也能够比较容易地安装输出的上升相以及下降相的滞后特性。另一方面,通过设为能够定义hij和/或hi的函数,能够进行更接近生物体的神经元的点火状态和/或生物体中的学习效果的安装。

另外,在神经网络中,具有产生人造神经元的点火状态与时间经过一起向一方向持续促进的现象的情况。例如在通过强结合的人造突触连接为循环状的人造神经元存在于神经网络内的情况下,连接为循环状的人造神经元连续地点火,由此循环内的相邻的人造神经元分别同时点火从而人造神经元间的人造突触的结合系数增强,由此具有人造神经元的点火持续促进的情况。另外,在其他的人造神经元的阈值通过某一内分泌人造神经元的点火的影响而下降、受到影响的该人造神经元的点火促进该内分泌人造神经元的点火那样的情况下等也同样。另外相反地,在人造突触通过抑制结合而连接的情况下和/或定义人造神经元的阈值通过内分泌人造神经元的点火而上升的处理的情况下等,具有人造神经元的点火与时间经过一起向一方向持续抑制的情况。因此,参数处理部240监视人造神经元的点火状态、人造突触的结合系数的时间的变化等,在检测到点火状态为正反馈或负反馈的人造神经元的存在的情况下,可以通过对人造神经元的阈值调节人造突触的结合系数,而抑制点火状态向一方向持续促进。例如可以通过使形成正反馈系的人造神经元的阈值上升、或使形成正反馈系的人造突触的结合系数下降,而抑制点火持续促进。另外,可以通过使形成负反馈系的人造神经元的阈值下降、或使形成负反馈系的人造突触的结合系数上升,而抑制点火持续抑制。

图16概略地表示用户终端100显示的参数查看器的画面例。通信部208实质地实时向用户终端100发送通过参数处理部240更新的参数的数据。处理部102在接收被更新的参数的数据时,以二维的表格形式显示参数。由此,用户能够在用户终端100上确认参数值时时刻刻变化的参数。这样,处理部102以使多个人造神经元的多个行与表格的多个行相对应的形式,向用户提示被时间性地更新的多个人造神经元的各人造神经元的参数值以及被输入连接于各人造神经元的一个以上人造突触的参数值。

如图16和/或图4所示,所显示的人造神经元的参数包含阈值、点火状态、最后点火的时刻、输出、最后点火的时刻时的输出、以及确定点火时的输出的时间发展的参数的至少一个。另外,所显示的人造突触的参数包含:人造突触的识别信息;和向所连接的人造神经元的结合系数、作为人造突触连接起来的两个人造神经元最后同时点火的时刻的最终同时点火时刻、该最终同时点火时刻时的结合系数、以及确定同时的点火产生后的结合系数的时间发展的参数的至少一个。

图17概略地表示在图形化地编辑神经网络的情况下提示的画面。在图4中,表示以二维的表格形式编辑神经网络的参数的画面的一例。图17提供用户30能够更加图形化地编辑参数的环境。

图17特别作为一例表示对感情人造神经元进行编辑的画面。在图17中,圆形的对象表示人造神经元。在对象内,显示有表示由各感情人造神经元确定的感情的文字。而且,连接感情人造神经元间的人造突触通过线表示。

在该编辑画面上,用户能够通过例如鼠标操作和/或键盘操作,进行人造神经元的追加、删除、参数的编辑。另外,用户能够通过例如鼠标操作和/或键盘操作,进行人造突触的追加、删除、参数值的编辑。

另外,服务器200在开始神经网络的计算后,将基于通过参数处理部240变更的参数值的神经网络图形化地显示于用户终端100。在该情况下,神经网络的人造神经元以及人造突触的连接关系与本编辑画面同样被图形化地显示。对于表示变更了参数的样子的显示例,与图19至图22相关联而说明。

图18是对人造突触进行编辑的编辑画面的一例。在图17所示的编辑画面1700中,在右点击人造突触时,显示人造突触的编辑画面1800。

编辑画面1800包含由所选择的人造突触连接的两个人造神经元所确定的意义、人造神经元的输出所朝向的方向、人造突触的参数的名称以及现在的值、以及用于变更参数的操作部。在人造突触的参数中,包含结合系数的初始值、增减参数a以及b的各自的初始值。另外,编辑画面包含指示取消编辑的取消按钮、指示通过编辑后的参数值更新初始值的更新按钮、以及指示删除人造突触的删除按钮。

能够视觉地编辑神经网络的参数的初始值。因此,即使是不熟练的用户,也能够比较地容易地编辑神经网络。

图19概略地表示人造神经元的输出的显示例。处理部202基于各ni的vmti的大小,改变表示各人造神经元ni的对象内的颜色而显示于用户终端100。例如,vmti越大,则处理部102使对象内的颜色越深。由此,用户能够容易地识别人造神经元的输出的变化。另外,也可以vmti越大,越减薄对象内的颜色。并不限定于颜色的浓度,也可以与vmti相应而改变颜色的亮度、色彩饱和度、颜色自身。

图20概略地表示电信号在人造突触中传输的样子的显示例。处理部202基于各ni的点火状态和被连接于该ni的人造突触的信息,在用户终端100上显示表示电信号的传输的动画。例如,处理部202使表示电信号的对象2010的显示位置从输出侧的人造神经元向输入侧的人造神经元时间性地移动。另外,处理部202使算出对象2010的位置的时间步骤比参数计算的时间步骤tn+1-tn短。通过这样的显示,用户能够容易地理解例如某一人造神经元的点火遵循怎样的路线而连接于其他的人造神经元的点火。

图21概略地表示人造突触结合的人造神经元间的结合状态的显示例。处理部202基于各sij的bstij的符号,改变表示人造突触的线的颜色而在用户终端100上显示为强结合还是为抑制结合。例如,处理部202在bstij为正的情况下,通过表示强结合的蓝色显示表示sij的线。处理部202在bstij为负的情况下,通过表示抑制结合的红色显示表示sij的线。由此,用户能够一目了然地识别人造突触为强结合还是抑制结合。

另外,处理部202基于各sij的bstij的大小,改变表示人造突触的线的宽度而显示于用户终端100。例如,bstij越大,处理部202越增大表示sij的线的宽度。由此,用户能够一目了然地识别人造突触结合的人造神经元间的结合的程度。

另外,当在人造神经元间定义了双方向的人造突触的情况下,可以通过不同的线显示各自的人造突触。另外,可以附加表示人造突触的输入输出的方向的箭头等标记,而使人造突触能够识别。

图22概略地表示人造神经元的配置的显示例。处理部202可以基于各sij的bstij以及人造神经元间的连接关系的至少一方算出各人造神经元对间的距离,将距离较短的人造神经元对配置得更近而显示。

在这里所谓距离,表示人造神经元间的结合的程度。可以存在于人造神经元对间的人造突触的结合系数越大,则算出人造神经元间的距离越短。另外,串连存在于人造神经元对间的人造突触的数越少,则算出人造神经元对间的距离越短。另外,可以并连存在于人造神经元对间的人造突触的数越多,算出人造神经元间的距离越短。另外,当在人造神经元对间连接有一个以上人造神经元的情况下,可以将串连存在于人造神经元对间的所有的人造突触的bstij的平均值和/或最小值等视为实效的结合系数,基于该实效的结合系数而算出距离。

图23概略地表示内分泌人造神经元影响的人造神经元的范围的显示例。在用户通过鼠标操作等指定内分泌人造神经元的对象时,处理部202强调而显示从所选择的对象表示的内分泌人造神经元受到影响的人造神经元的对象。处理部202基于定义信息284所含的影响定义信息,特别指定受到影响的人造神经元。

例如,在选择n2的对象的情况下,处理部202通过红色显示包围通过n2抑制点火的n1以及n3的范围2310。另外,处理部202通过蓝色显示包围在通过n2促进点火的方向上受到影响的人造突触的线以及对象的范围2320。由此,用户能够容易地识别所选择的内分泌人造神经元向哪一人造神经元和/或人造突触给予化学影响。

图24概略地表示确定对人造神经元的参数进行计算的优先顺序的优先人造神经元信息。优先人造神经元信息与识别作为应该优先地计算参数的人造神经元的优先人造神经元的信息相对应,确定表示优先顺序的值以及特别指定作为向该优先人造神经元的输入给予影响的人造神经元的相关人造神经元的信息。参数处理部240基于在服务器200中在参数更新的计算中能够利用的资源量,根据优先顺序选择更新参数的人造神经元以及人造突触。

另外,相关人造神经元可以基于神经网络中的人造神经元的连接关系,在初始设定中设定。例如,参数处理部240将给优先人造神经元的阈值等带来影响的内分泌人造神经元设定为相关人造神经元。另外,参数处理部240可以通过从优先人造神经元以信号的输入方向的相反顺序追踪人造突触,特别指定经由人造突触向优先人造神经元的输入给予影响的一个以上人造神经元,存储于相关人造神经元。

参数处理部240,在将优先人造神经元设为参数的更新对象的情况下,与优先人造神经元相对应的相关人造神经元也设为参数的更新对象。在这里,参数处理部240基于服务器200中的能够利用的资源量,确定设为参数的更新对象的更新对象人造神经元的数的上限值。然后,参数处理部240为了使设为参数的更新对象的人造神经元数变为确定的上限值以下,可以通过以优先顺序的降序而选择优先人造神经元,确定更新对象人造神经元。

然后,参数处理部240在例如在图5的s510中计算bstn+1ij的情况下,仅更新被连接于更新对象人造神经元的输入的人造突触的bstn+1ij的值,不计算其他的人造突触的bstn+1ij的值而维持bstnij的值。同样,在s520以及s540中,也仅将更新对象人造神经元的参数值、以及被连接于更新对象人造神经元的输入的人造突触的参数值设为更新对象,其他的参数值不更新,维持值。更新对象人造神经元以外的参数值也被维持。

由此,当在服务器200中能够利用的资源变少的情况下,对于重要的人造神经元能够维持较高的更新频率。例如,当在服务器200中能够利用的资源变少的情况下,能够维持判断有无危险的功能。另外,参数处理部240可以在能够在服务器200中利用的资源充分的情况下,更新所有人造神经元以及所有人造突触的参数。

图25表示系统20所涉及的软件架构。在上述的说明中主要对人造神经元以及人造突触的参数的编辑处理、更新处理以及显示处理的内容进行了说明。在这里,对与进行各处理的软件上的主体相关联的事项进行说明。

在服务器200中,在处理部202上,安装有承担参数处理部240的功能的多个更新代理2400、承担与用户终端100之间的数据输入输出的输入输出代理2450a以及2450b。输入输出代理2450a从被安装于用户终端100的处理部102的编辑器功能部接收参数的初始值,进行存储于数据构造2500的处理。输入输出代理2450a进行将通过参数处理部240更新的参数向用户终端100发送而显示于被安装于处理部102的查看器功能部的处理。编辑器功能部以及查看器功能部通过例如网络浏览器而安装于处理部102。在用户终端100与服务器200之间进行交换的数据可以根据http协议而传送。

多个更新代理2400分别以人造神经元单位访问数据构造2500,以人造神经元单位进行参数的更新计算。多个更新代理2400能够分别访问存储了神经网络的参数的数据构造2500。另外,多个更新代理2400能够分别进行参数的更新计算。多个更新代理2400的处理可以分别通过个别的进程执行。另外,多个更新代理2400可以分别在一个进程内的多个线程内执行。

与图16相关联而说明的信息同样地,数据构造2500以人造神经元单位能够批量访问的形式生成。在图5的s502的初始处理中,参数处理部240可以将数据构造2500在处理部202内的存储器生成。数据构造2500具有能够以批量的数据单位访问多个人造神经元的各人造神经元的参数值以及被输入连接于各人造神经元的一个以上人造突触的参数值的构造。而且,更新代理2400对多个人造神经元通过数据构造2500每个人造神经元地访问多个人造神经元的各人造神经元的参数值以及被输入连接于各人造神经元的一个以上人造突触的参数值,时间性地更新多个人造神经元的各人造神经元的参数值以及被输入连接于各人造神经元的一个以上人造突触的参数值。因此,多个更新代理2400能够并列进行时间性地更新参数值的处理。

图25至图27表示通过多进程处理并列进行参数值的更新处理的方法。在通过多个进程并列进行的情况下,数据构造2500可以在作为共有存储器而确保的存储器区域内形成。图26概略地表示对于多个人造神经元进行更新计算前的状态。四个进程1分别确定进行哪一人造神经元的参数计算。如图27所示,在时刻t1,进程1读取未计算的n1的行的数据,开始n1的参数的更新计算。在时刻t2,进程2读取未计算的n2的行的数据,开始n2的参数的更新计算。在时刻t3,进程3读取未计算的n3的行的数据,开始n3的参数的更新计算。在时刻t4,进程4读取未计算的n1的行的数据,而开始n1的参数的更新计算。

在时刻5,进程1在n1的参数的计算完毕时,在确认了n1的参数为未计算后,将n1的行的数据锁定而写入计算结果,将n1的行的数据解锁。在时刻t5,进程1将n1的行的数据锁定,写入计算结果,将n1的行的数据解锁。同样,进程2以及进程3也在与各人造神经元有关的计算完毕时,向各人造神经元的行的数据写入计算结果。在图28中,概略地表示时刻t6时的计算状态。

在这里,参照图26,在时刻t7,当在n1中参数的计算完毕时,进程4判断n1的参数是否为未计算。进程4在识别n1的参数计算完毕时,将进程4进行的n1的计算结果废弃。接下来,进程4判断为n5为未计算,读取n5的行的数据,而开始n5的参数的更新计算。

这样,根据数据构造2500,能够安装为,通过多进程处理,在每个进程选择未计算的人造神经元而开始计算,仅计算最早完毕的进程写入计算结果。

另外,和上述那样各进程分别选择人造神经元而计算相关的参数的处理同样的处理分别能够适用于图5的s510、s520、s540。例如,对于图5的s510,通过将人造突触而不是人造神经元设为选择以及计算的对象,能够进行同样的处理。

另外,根据多进程处理,能够并列进行图5的s510的处理和s520的处理。在该情况下,可以使并列进行的计算结果重合而生成最终的计算结果。另外,在某一进程进行s520的处理的情况下,在其他的进程中,可以选择不受化学影响引起的变化的影响的人造神经元进行图5的s540的处理。

另外,同样的处理并不限定于多进程处理,也能够通过多线程系统进行。在多线程系统中,能够通过将上述的各进程中的处理置换为各线程而实现。

图29概略地表示用于在子系统间进行分散控制的神经网络的构成。在上述的实施方式中,单一的服务器200实现神经网络的处理。在这里,表示通过三个独立的服务器构筑一个神经网络2900的例子。

神经网络2900通过子神经网络2910、子神经网络2920以及子神经网络2930形成。子神经网络2910、子神经网络2920以及子神经网络2930的计算通过互不相同的服务器进行。

在这里,子神经网络2910的人造神经元2914是与子神经网络2920的人造神经元2921以及子神经网络2930的人造神经元2931定义了相同概念的人造神经元。另外,子神经网络2920的人造神经元2923是与子神经网络2930的人造神经元2934定义了相同概念的人造神经元。另外,子神经网络2910的人造神经元2925是与子神经网络2930的人造神经元2932定义了相同概念的人造神经元。

人造神经元2914通过人造突触2940连接于人造神经元2931。另外,人造神经元2914通过人造突触2960连接于人造神经元2921。另外,人造神经元2915通过人造突触2950连接于人造神经元2932。另外,人造神经元2923通过人造突触2970连接于人造神经元2934。人造突触2940、人造突触2950、人造突触2960以及人造突触2970通过借助网络的通信而实现。

例如,在人造神经元2915为定义了“在视野中有a”的状况的概念人造神经元的情况下,人造神经元2932也是定义了“在视野中有a”的状况的概念人造神经元。在人造神经元2915点火了的情况下,人造神经元2915的输出从子神经网络2910经由网络向子神经网络2930发送。

另外,构成应该在一个服务器中构筑的子神经网络的多个人造神经元,优选人造神经元间的距离比预先确定的距离短。另外,可以以功能单位向子神经网络分割。例如,子神经网络2910可以是承担基于照相机影像的空间识别的功能部分的神经网络。

另外,各子神经网络可以是不同步地进行神经网络的处理。另外,在第一子神经网络中,在检测到从第二子神经网络接受的输出失误的可能性较高的情况下,进行第一子神经网络的处理的服务器可以向进行第二子神经网络的处理的服务器通知在输出中有失误。例如,当在“在视野中有a”的输出持续后、突然获得“在视野中有b”的输出的情况下,可以判定为在该输出中有失误。

在通知输出的失误的情况下,可以在第二子神经网络中,再度计算通知失误的时刻的输出,向第一子神经网络输出。此时,在第二子神经网络中,可以除去先输出的最确定的计算结果,接下来输出最确定的计算结果。

另外,在将上述的实施方式所涉及的神经网络视为电路时,通过上述的服务器200和/或与图29相关联而说明的服务器的处理实现的神经网络的动作能够视为模拟计算机的动作。例如,能够将神经网络的人造神经元的输出视为模拟计算机的电路中的对应的部分的电压。另外,能够将在人造突触中传递的信号视为电流,能够将人造突触的结合系数视为对应的电路的电阻,能够将人造神经元的输出的增减参数和/或式视为电路特性。另外,图形化地变更上述的实施方式所涉及的神经网络的连接的操作与通过手连接改变模拟计算机的元件的操作相对应。另外,向神经网络施加输入、变更参数,与向模拟计算机的电路外加电压、变更电路内的电位器等的值相对应。因此,将上述的神经网络的处理通过程序安装于服务器200和/或与图29相关联而说明的服务器等诺依曼型计算机同将神经网络的模拟计算机模型安装于诺依曼型计算机同等。

在以上说明的实施方式中,与机器人40不同的服务器承担神经网络的处理。但是,可以是机器人40自身承担神经网络的处理。

另外,机器人40是成为控制对象的电子设备的一例。成为控制对象的电子设备并不限定于机器人40。能够将各种电子设备设为控制对象而适用。

以上,使用实施方式对本发明进行了说明,但本发明的技术的范围并不限定于上述实施方式所记载的范围。对于本领域技术人员,很明显能够对上述实施方式施加多样的变更或改良。施加了这种变更或改良的方式也能够包含于本发明的技术的范围,这在权利要求书的记载中非常明了。

应该注意,权利要求书、说明书以及附图中所示的装置、系统、程序、以及方法中的动作、顺序、步骤以及阶段等各处理的执行顺序只要没有特别明示为“更前”、“在……之前”等、另外只要没有在后面的处理中使用前面的处理的输出,则能够以任意的顺序实现。关于权利要求书、说明书以及附图中的动作流程,即使为了方便而使用“首先”、“接下来”等进行说明,也不意味着必须按照该顺序实施。

附图标记说明

20:系统30:用户

40:机器人90:通信网

100:用户终端50:机器人

102:处理部104:显示部

106:输入装置108:通信部

152:处理部155:控制对象

156:传感器部158:通信部

200:服务器202:处理部

208:通信部210:初始值设定部

230:外部输入数据生成部240:参数处理部

250:动作确定部280:存储部

282:行动确定规则284:定义信息

286:参数初始值288:参数

300:神经网络

301、302、303、304、305、306、307、308、309、310:人造突触

400:参数编辑画面700、910、920:函数

1400、1510、1520:函数1700:编辑画面

1800:编辑画面2010:对象

2310:范围2320:范围

2400:更新代理2450:输入输出代理

2500:数据构造2900:神经网络

2910:子神经网络2914、2915:人造神经元

2920:子神经网络2921、2923、2925:人造神经元

2930:子神经网络2931、2932、2934:人造神经元

2940、2950、2960、2970:人造突触。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1