通用机器学习构造块的制作方法
【技术领域】
[0001] 实施方式一般涉及机器学习应用。实施方式也涉及忆阻器器件和应用。实施方式 进一步涉及AHaH(反赫布和赫布)学习器件、系统和应用。
【背景技术】
[0002] 基于存储和处理分离的现代计算架构导致众所周知的被称为冯?诺依曼瓶颈的 问题，例如对在CPU和RAM之间的数据宽带的限制性的限制。当前在新型电子器件的发展中 存在许多技术和经济压力。在量子计算、微机电系统、纳米技术以及分子电子学和忆阻电子 学上的最新发展提供了新的和令人兴奋的途径，以扩展传统冯?诺依曼数字计算机的局限 性。由于在这样一种小尺度上的精确控制制造的难度，随着器件密度的增加，研发和制造的 成本飞涨。需要新的计算架构以减轻被称为摩尔第二定律所描述的经济压力：半导体制造 的资本成本随着时间呈指数增长。我们消耗大量的能量来构建地球上最无菌和最受控制的 环境以制造现代电子学。然而，生命是能够组装和修复比任何现代芯片复杂得多的结构，且 它能够这样做，同时嵌在现实世界中，而不是嵌在一个干净的房间内。
[0003] 例如，IBM的10亿神经元和10万亿突触的猫尺度皮层模拟需要147456CPU、144TB内 存，并且跑了 1/83的实时。在每个CPU20瓦的功率消耗下，这是2.9兆瓦。如果我们假定完美 的按比例缩放，实时模拟将多消耗83倍的功率或244兆瓦。以大致猫皮层大小的三十倍，人 尺度皮层的仿真将达到超过700万千瓦。在大脑中皮层代表全部神经元的一小部分，神经元 代表全部细胞的一小部分，且IBM神经元模型被极度简化。在IBM模拟中在不断修改下的自 适应变量的数目是生物对应物的几个数量级分之一，从而它的功率损耗是几个数量级大。 功率偏差是如此之大，它提醒人们不只是注意我们目前技术的限制，还要注意在我们如何 看待计算上的不足。
[0004] 通过复杂和变化的世界，大脑已经进化到移动身体。换句话说，大脑是适应性的和 可移动的设备。如果我们想要建立带有接近生物学的电源和空间预算的实用的人造大脑， 我们必须将存储和处理合并到一种新型的物理自适应硬件和有用的软件应用内。
【发明内容】
[0005] 提供本发明的以下内容以易于理解独特于已公开的实施方式的一些创新特征，且 本发明的以下内容不打算全面的描述。本发明的各个方面的全面理解可以通过将整个说明 书、权利要求书、附图和摘要作为一个整体而获得。
[0006] 因此，所公开的实施方式的一个方面是提供一种通用机器学习构造块。
[0007] 所公开的实施方式的另一方面是由差分对忆阻器和AHaH(反赫布和赫布）的可塑 性形成一种自适应突触权重。
[0008] 所公开的实施方式的进一步方面是提供一种能被加入到集成电路器件中用于机 器学习应用的物理突触部件。
[0009] 所公开实施方式的一个方面也是提供突触权重的差分阵列，以形成神经节点电 路，神经节点电路的吸引子状态为形成计算性完备集的逻辑函数。
[0010]所公开的实施方式的另一方面是提供通用机器学习构造块，其可包括差分对的输 出电极，其中每个电极包括经由亚稳开关的集合耦合到该电极的多个输入线。
[0011]所公开的实施方式的另一方面是提供一种机器学习方法，其在硬件和/或软件的 背景下能被执行。
[0012] 所公开的实施方式的进一步方面是提供一种AHaH节点，其在硬件和/或软件的背 景下能被执行。
[0013] 所公开的实施方式的进一步方面是提供一种AHaH分类器，其在硬件和/或软件的 背景下能被执行。
[0014] 所公开的实施方式的附加方面是提供一种AHaH聚类，其在硬件和/或软件的背景 下能被执行。
[0015] 如本文中所描述的，现在可以实现前面提及的方面和其它目的以及优点。
[0016] 基于存储和处理分离的现代计算架构导致一个众所周知的被称为冯?诺依曼瓶 颈的问题，即对在CPU和RAM之间的数据宽带的限制性的限制。所公开的实施方式涉及一种 新的计算途径，我们称之为"AHaH计算"，在这种情况下，存储和处理被结合在一起。该途径 的方面是以由生物系统激发的易失耗散电子的吸引子动力学为基础，从而呈现能够适应、 自我修复、以及从与环境的相互作用中学习的有吸引力的替代架构。用这种途径，冯?诺依 曼和AHaH计算架构能在相同的机器上一起运行，且AHaH计算处理器能降低用于确定的自适 应学习任务的功率消耗和处理时间几个数量级。
[0017] 所公开的实施方式在热力学、易失性的性能，和反赫布以及赫布(AHaH)可塑性之 间绘制出一种连接。AHaH突触可塑性导致吸引子状态，该吸引子状态提取应用的数据流的 独立部件并能形成一种计算性完备集的逻辑函数。此处基于亚稳开关的集合公开了一种通 用的忆阻器件的模型。这样的实施方式论证了自适应的突触权重如何能由差分对的增量忆 阻器形成。突触权重的阵列也可以被用于建立运行AHaH可塑性的神经节点电路。通过以不 同的方式配置AHaH节点的吸引子状态，可实现高水平的机器学习功能。这包括，例如，无监 督聚类、监督和无监督分类、复杂信号预测、无监督的机器人驱动、和程序所有生物神经系 统的核心能力和具有现实世界应用的现代机器学习算法的组合优化。
[0018] 生物已经从易失性神经成分进化为智能生物建造，该智能生物建造具有成功导航 并适应不断变化的环境的能力以寻求和消耗被用于维持和繁殖生命的能量。生物体可以鉴 于有限的能量预算做它们所做的，这一事实是进一步令人震惊的。在计算、机器学习、和人 工智能上的进步未能甚至接近自然已经设定的障碍。因此，我们相信需要发明一种全新的 基于生物的易失低功率解决方案的计算途径。所公开的实施方式避免例如妨碍当前基于 冯?诺依曼的系统的障碍。忆阻电路的最近出现也现已使将突触状的电子部件添加以建立 硅集成器件成为可能，从而为这种新型计算铺平了道路。
【附图说明】
[0019] 附图，连同发明的详细描述进一步图解本发明，并用于解释本发明的原理，附图中 同样的参考标号是指在各个视图中相同或功能上相似的元件，并且附图被并入并形成说明 书的一部分。
[0020] 根据所公开的实施方式的方面，图1图解了描绘MSS(亚稳开关)的曲线图；
[0021] 根据所公开的实施方式的方面，图2A-2B分别图解了曲线图120和122,其描绘了一 种使用MSS模型的模型-硬件相关性；
[0022] 根据所公开的实施方式的方面，图3图解了描绘形成突触的差分对忆阻器的示意 图；
[0023] 根据优选实施方式，图4图解了描绘AHaH节点的电路示意图；
[0024]根据所公开的实施方式的方面，图5图解了一种描绘数据的曲线图，该数据表明了 从AHaH节点生成的AHaH规则。
[0025]根据所公开的实施方式的方面，图6A-6B图解了输入空间图和描绘双输入AHaH节 点的吸引子状态的曲线图；
[0026] 根据所公开的实施方式的方面，图7图解了一种描绘数据的曲线图，该数据表明包 括如电路级和功能模拟的AHAH聚类器；
[0027] 根据所公开的实施方式的方面，图8A-8C图解了表明二维空间聚类示范的曲线图；
[0028] 根据所公开的实施方式的方面，图9图解了一种描绘举例测试分类的基准测试结 果的曲线图；
[0029] 根据所公开的实施方式的方面，图10图解了一种描绘表明了 AHaH分类器的半监督 运行的数据的曲线图；
[0030] 根据所公开的实施方式的方面，图11图解了一种描绘带有AHaH分类器的复杂信号 预测的曲线图；
[0031] 根据所公开的实施方式的方面，图12A-12B图解了无监督机器人臂挑战的图（左） 和描绘其数据的曲线图；
[0032]根据所公开的实施方式的方面，图13A-13C图解描绘表明了 64城市旅行推销员挑 战的数据的曲线图；
[0033] 图14图解了一种计算系统的示意图，可根据一个或多个实施方式实施该计算系 统；
[0034] 根据所公开的实施方式的方面，图15图解了一种软件系统的示意图，该软件系统 可被实施用于实现基于忆阻器的通用机器学习块;和
[0035]根据所公开的实施方式的方面，图16-17图解了一种突触元件模块的替代实施例， 该关触部件t旲块能与电子集成电路(1C)集成或与电子集成电路(1C)相关联。
【具体实施方式】
[0036] 这些非限制性示例中所讨论的特定值和配置可变化并被引用仅用来说明本发明 的实施方式并且不旨在限制本发明的范围。
[0037] 此处所描述的本文所公开的实施方式一般涵盖三重目的。第一，这样的实施方式 揭示了在计算机工程中非易失性的常见隐藏假设以及这种思维倾向是怎样从根本上违背 了生物学和物理学并有可能是现代计算技术和生物神经系统之间的极端的功率差异的原 因。第二，本文中讨论了一种简单的自适应电路和功能模型，该自适应电路和功能模型可以 被从亚稳(例如，易失的)开关集合来配置并被用作基本的构造块以构建更高阶的机器学习 能力。第三，我们论证了如何能够从我们的自适应构造块获得若干核心机器学习功能，例如 聚类、分类和机器人驱动。当把所有的联系在一起时，我们希望去展示一种在今天的技术和 明天的自适应物理自组织神经形态处理器之间的相对清晰的路径。
[0038]现在在下文中参照附图将对实施方式进行更充分的描述。附图中示出了本发明的 说明性实施方式。本文所公开的实施方式可以以许多不同的形式来体现且不应被解释为限 于本文所阐述的实施方式;更确切地说，提供这些实施方式以便本公开将是彻底的和完整 的，并且将充分地将本发明的范围传达给本领域技术人员。贯穿全文相同的数字指相同的 元件。如本文所使用的，术语"和/或"包括一个或多个相关列出的项目的任意和所有组合。 [0039]本文所使用的术语仅是为了描述特定的实施方式的目的而不是旨在限制本发明。 如本文所使用的，除非上下文清楚地指出，否则，单数形式"一种(a)"、"一种(an)"和"该 (the )"旨在也包括复数形式。将进一步理解，术语"包括（comprises )"和/或"包括 (comprising)"，当被用在本说明书中时，具体说明所述特征、整数、步、操作、元件、和/或部 件的存在，但不排除一个或多个其它特征、整数、步、操作、元件、部件、和/或它们的组的存 在或添加。
[0040] 注意，如本文所使用的术语"模块"可以指一种物理模块或部件(例如电子部件/硬 件)和/或术语"模块"可以指计算机软件(例如，软件模块、程序模块，等等）、计算机程序、子 例程、例程，等等。一般地，程序模块包括，但不限于执行特定任务或实现特定抽象数据类型 和指令的例程、子例程、软件应用、程序、对象、部件、数据结构，等等。此外，本领域的技术人 员将理解，所公开的方法和系统可与其他计算机系统配置一起来实施，其他计算机系统配 置如，例如，手持式设备、多处理器系统、数据网络、基于微处理器的或可编程的消费性电子 产品、网络个人计算机、小型计算机、大型计算机，服务器，等等。
[0041] 可以理解所公开的框架可以在硬件的背景下被实施(例如，作为1C芯片）和/或作 为计算机软件、模块等被实施，以执行指令/算法等。因此，所公开的框架可以作为硬件1C芯 片、软件模块等或其组合来被实施。
[0042] 注意，如本文所使用的，术语"AHA"或"AHaH" 一般指"反赫布和赫布"。因此，"AHaH 可塑性"是指"反赫布和赫布可塑性"以及一种"AHaH节点"指的是一种实现AHaH可塑性的神 经元模型。美国专利No . 7，398，259公开了一种AHaH可塑性规则的应用的一个非限制性示 例，其在此通过引用的方式被并入。美国专利No. 7，409，375公开了一种AHaH可塑性规则的 另一个非限制性示例，其也在此通过引用的方