用于神经网络的基于标记的装置和方法
【专利说明】用于神经网络的基于标记的装置和方法
[0001] 巧关申请的帘叉引巧
[0002] 本申请是于2011年9月21日提交的题为"ELEMENTARY肥TWO服DESCRIPTION FOR肥UR0M0RPHIC SYSTEMS(用于神经元形态系统的元素式网络描述）"的美国专利申请 No. 13/239, 123的部分接续案，该申请通过援引明确纳入于此。
[000引本申请涉及于2012年1月27日提交的共同拥有的题为"TAG-BASED APPARATUS AND MET册DS FOR肥URAL肥TWO服S (用于神经网络的基于标记的装置和方法）"的美 国专利申请S/N. 13/XXX. XXX、于2011年9月21日提交的共同拥有的题为"ELEMENTARY 肥TWO服呢SCRIPTI0N FOR EFFICIENT IMPLEMENTATION OF EVENT-TRIGGERED PLASTICITY RULES IN肥UROMORPHIC SYSTEMS(用于在神经元形态系统中高效实现事件触发式可塑性 规则的元素式网络描述）"的美国专利申请S/N. 13/239, 163、于2011年9月21日提交的 共同拥有的题为"ELEMENTARY 肥TWO服 DESCRIPTION FOR EFFICIENT MEMORY MANAGEMENT IN肥UROMORPHIC SYSTEMS (用于神经元形态系统中的高效存储器管理的元素式网络描 述）"的美国专利申请S/N. 13/239, 155、W及于2011年9月21日提交的共同拥有的题 为 "ELEMENTARY 肥TWO服 DESCRIPTION FOR EFFICIENT LINK 邸T肥EN 肥UR0NAL M孤化S 肥UROMORPHIC SYSTEMS(用于神经元形态系统中的神经元模型之间的高效链路的元素式网 络描述）"的美国专利申请S/N. 13/239, 148,上述每一件申请的全部内容通过援引纳入于 此。
[0004] 版权
[0005] 本专利文档公开的一部分包含受版权保护的资料。版权所有人不反对任何人对该 专利文档或专利公开按照其在专利商标局的专利文件或记录中的原样进行复制，但除此W 外保留其它所有版权权利。
[0006] CD-ROM h的计算化巧序列表附录
[0007] 本专利的文件包括具有呈ASCII文件格式的四十六（46)个只读存储器文件的压 缩盘（CD-ROM)的复制拷贝。文件详情在下表1中给出。该些ASCII文件包含表示用于本 公开的计算机程序列表的示例性实现的代码行。该CD-ROM和其上所包含并在表1中列出 的每一文件的全部内容通过援引纳入于此。
[0008]
【主权项】
1. 一种实现包括多个元素的神经网络的由计算机实现的方法，所述方法包括使用标记 来标识所述多个元素的子集； 其中指派所述标记被配置成使得能生成包括所述子集的至少一部分元素的新网络元 素。
2. 如权利要求1所述的方法，其特征在于，所述标记包括配置成标识每一元素的唯一 性标识符。
3. 如权利要求2所述的方法，其特征在于，进一步包括将所述标记指派给所述子集的 每一元素。
4. 如权利要求3所述的方法，其特征在于，进一步包括生成所述多个元素，其中所述生 成是在指派所述标记之前。
5. 如权利要求3所述的方法，其特征在于，所述每一元素是随机地从所述多个元素中 选择的。
6. 如权利要求2所述的方法，其特征在于，所述子集的所述每一元素包括单元。
7. 如权利要求2所述的方法，其特征在于，所述标记包括串标识符。
8. 如权利要求2所述的方法，其特征在于，所述标记包括字母数字标识符。
9. 如权利要求8所述的方法，其特征在于，所述字母数字标识符被适配成标识所述子 集的相应元素的空间坐标。
10. 如权利要求8所述的方法，其特征在于，所述子集包括多个节点；并且 所述字母数字标识符包括所述多个节点中的至少一个节点的标识符。
11. 如权利要求8所述的方法，其特征在于，所述标记被适配成使得能标识所述子集。
12. 如权利要求2所述的方法，其特征在于，所述新网络元素包括连接。
13. 如权利要求12所述的方法，其特征在于，所述连接包括（i)突触和（ii)结之一。
14. 一种在包括多个元素的神经网络中生成多个连接的由计算机实现的方法，所述方 法包括： 执行至少包括第一标记和第二标记的第一逻辑表达式； 至少部分地基于所述执行，标识所述多个元素的第一子集和第二子集；以及 生成所述第一子集的至少一部分与所述第二子集的至少一部分之间的多个连接； 其中： 所述第一子集的每一元素包括所述第一标记；以及 所述第二子集的每一元素包括所述第二标记。
15. 如权利要求14所述的方法，其特征在于，所述第一子集和所述第二子集的所述每 一元素包括所述网络的节点。
16. 如权利要求14所述的方法，其特征在于，进一步包括将所述第一标记指派给所述 第一子集的每一兀素。
17. 如权利要求14所述的方法，其特征在于，所述第一标记和所述第二标记中的至少 一者由有限生存期来表征。
18. 如权利要求14所述的方法，其特征在于，所述多个连接中的每一连接包括突触和 结之一。
19. 如权利要求15所述的方法，其特征在于，所述标识所述第一子集被配置成使得能 生成包括所述第一子集的至少一部分节点的新网络元素。
20. -种动态划分包括多个元素的计算机化神经网络的方法，所述方法包括： 使用标记来标识所述网络的元素子集； 其中所述标识和所述指派协作以使得能使用单个选择操作来选择所述子集的每一元 素。
21. 如权利要求20所述的方法，其特征在于，进一步包括将所述标记指派给所述子集。
22. 如权利要求20所述的方法，其特征在于，进一步包括将所述标记指派给所述子集 的每一元素。
23. 如权利要求20所述的方法，其特征在于，所述子集包括所述多个元素的多个节点。
24. 如权利要求20所述的方法，其特征在于，所述标识所述子集至少部分地基于执行 包括从包含AND、NOT和OR的组中选择的关键字的布尔表达式。
25. 如权利要求20所述的方法，其特征在于，进一步包括： 使用另一标记来标识所述网络的另一元素子集；以及 实现所述子集内的至少一部分元素与所述另一子集的元素之间的多个连接。
26. 如权利要求25所述的方法，其特征在于，进一步包括将所述另一标记指派给所述 另一子集的每一兀素。
27. 如权利要求25所述的方法，其特征在于，所述多个连接中的每一连接包括突触和 结之一。
28. 如权利要求25所述的方法，其特征在于，所述多个连接中的每一连接是至少部分 地基于所述标记和所述另一标记来实现的。
29. 如权利要求25所述的方法，其特征在于，所述另一子集内的至少一部分元素与所 述子集的元素不同。
30. -种处理装置，包括被配置成存储多个指令的非易失性存储介质，所述多个指令在 被执行时实行根据一种方法对神经网络的动态划分，所述方法包括： 标识所述神经网络的元素子集；以及 将标记指派给所述元素子集的每一元素，所述标记包括配置成标识所述每一元素的标 识符； 其中所述指派所述标记被配置成使得能生成包括所述元素子集的新网络元素。
31. 如权利要求30所述的装置，其特征在于，所述方法是利用专用集成电路（ASIC)使 用ASIC指令集来实现的。
32. 如权利要求30所述的装置，其特征在于，所述方法进一步包括由所述处理装置执 行被配置成标识所述子集的所述每一元素的数学表达式。
33. 如权利要求32所述的装置，其特征在于，所述数学表达式包括布尔运算。
34. 如权利要求33所述的处理装置，其特征在于，所述子集的所述每一元素是使用随 机选择操作来选择的。
35. 如权利要求30所述的处理装置，其特征在于，所述方法进一步包括将所述标记指 派给所述新网络元素。
36. 如权利要求30所述的装置，其特征在于，所述将所述标记指派给所述子集被配置 成使得能将所述网络表示为有向图。
37. 如权利要求30所述的装置，其特征在于，所述方法进一步包括将第二标记指派给 所述子集，所述第二标记与所述标记相异。
38. -种配置成实现包括多个元素的神经网络的系统，所述系统包括： 配置成执行计算机程序模块的一个或多个处理器，其中所述计算机程序模块的执行使 所述一个或多个处理器： 标识所述多个元素的子集；以及 将标记指派给所述多个元素的所述子集中的个体元素，其中指派所述标记使得能生成 包括所述多个元素的所述子集中的个体元素的新网络元素。
39. -种配置成在包括多个元素的神经网络中生成多个连接的系统，所述系统包括： 配置成执行计算机程序模块的一个或多个处理器，其中所述计算机程序模块的执行使 所述一个或多个处理器： 执行至少包括第一标记和第二标记的第一逻辑表达式； 基于所述第一逻辑表达式的执行来标识所述多个元素的第一子集和第二子集，其中所 述第一子集的个体元素包括所述第一标记而所述第二子集的个体元素包括所述第二标记； 以及 生成所述第一子集的至少一部分与所述第二子集的至少一部分之间的多个连接。
【专利摘要】用于使用标记实现高级神经元形态网络描述(HLND)的装置和方法。框架可被用于定义节点类型，定义节点至节点连接类型，实例化针对不同节点类型的节点实例，和/或生成这些节点之间的连接类型的实例。HLND格式可被用于定义节点类型，定义节点至节点连接类型，实例化针对不同节点类型的节点实例，使用标记来动态地标识和/或选择网络子集、和/或使用此类子集来生成这些节点之间的一个或多个连接的实例。为了促成HLND操作和歧义性消除，网络的个体元素(例如，节点、扩展、连接、I/O端口)可被指派至少一个唯一性标记。该标记可被用于标识和/或引述相应网络元素。HLND内核可包括至元素式网络描述的接口。
【IPC分类】G06N3-02, G06N3-04, G06F15-18
【公开号】CN104620236
【申请号】CN201380025107
【发明人】B·绍特马里, E·M·伊日科维奇
【申请人】美国高通技术公司
【公开日】2015年5月13日
【申请日】2013年3月15日
【公告号】EP2825974A1, WO2013138778A1