本发明属于集成电路领域,具体涉及一种电流域神经元电路。
背景技术:
1、随着人工智能(ai)技术的不断进步,边缘ai设备对能效的要求日益提高。在资源与能量预算受限的边缘计算等应用场景中,降低延迟、减少能耗和缩小芯片面积已成为不可或缺的设计目标。与此同时,随着深度学习方法的广泛应用,对计算能力的需求持续增长。通用处理器因其为保持编程灵活性与通用性而引入的冗余设计,难以在此类场景中提供令人满意的能效与性能。
2、由于深度学习方法中涉及的神经网络由神经元连接构成,而人工智能加速器的核心操作是实现神经元功能,因此,近年来,专注于神经网络计算特点的加速器发展迅速。这类人工智能加速器针对并行计算和低精度线性代数操作进行专门优化,以一定程度牺牲架构灵活性为代价,显著提升了计算吞吐量与能量效率。
3、早期的人工智能加速器主要基于数字信号实现对应功能,近些年来,除了纯数字加速器之外,模拟混合信号(ams)方法也受到越来越多的关注。尽管该方法需应对噪声和器件失配等挑战,但其在深度神经网络(dnn)加速中展现出显著潜力,这源于dnn不同于通用计算的独特性质:一方面,dnn 仅依赖有限种类的计算操作;另一方面,它对计算精度具备较高的容忍度。这些特性为模拟混合信号电路提供了理想的实现条件:较低的操作复杂度和精度要求,使其能够更好地适应模拟电路固有的工艺偏差问题。正因如此,ams方法在能量效率方面表现突出,尤其在较低精度下,其能效可显著高于纯数字方案。
4、在人工智能加速器中,超过90%的深度学习神经网络(dnn)推理计算都由神经元中乘累加(mac)操作构成,单次网络推理可能涉及高达数十亿次的mac操作。鉴于其主导地位,设计高能效的mac单元已成为先进ai加速器架构中的关键要素。与此同时,激活函数作为神经元中mac输出后不可或缺的处理环节,对神经网络的表达能力和性能具有重要影响。激活函数为网络引入非线性,使其能够学习复杂模式和特征,增强模型的表达能力。然而,不同激活函数(如relu、sigmoid或tanh)在硬件实现中带来的计算开销与能效影响也各不相同。因此,在优化mac单元的同时,往往也需将激活函数的高效能集成方案纳入整体设计考量,以构建完整的神经元结构,在保证模型精度的前提下进一步提升加速器的能效。
技术实现思路
1、针对上述纯数字方案存在的问题或不足,为解决现有神经元电路存在能效较低的问题,本发明提供一种电流域神经元电路。
2、本发明提供的技术方案如下:
3、一种电流域神经元电路,包括电流域多比特乘法单元电路和激活函数电路。
4、所述电流域多比特乘法单元电路有n个,n≥1,其作用是将无符号的多比特数字输入特征值信号与无符号的多比特数字权重信号转化为模拟电流信号,将两个模拟电流信号的电流值相乘并除以比例因子iref后,以模拟电流形式输出。
5、比例因子iref同时也作为多比特数字输入特征值信号和多比特数字权重信号向模拟电流信号转化的最低有效位lsb;多比特数字输入特征值信号转化为模拟电流信号的电流值为ix,多比特数字权重信号转化为模拟电流信号的电流值为iw,多比特乘法单元电路输出电流以icell表示,其值为:
6、。
7、n个电流域多比特乘法单元电路通过并联得到电流域多比特乘累加电路,将n个并联的电流域多比特乘法单元的输出电流累加。
8、所述激活函数电路,比较电流域多比特乘累加电路的输出电流与设定的偏置电流之间的大小:若偏置电流值大于电流域多比特乘累加电路输出电流值,则神经元电路的最终输出电流值置零;反之,神经元电路的最终输出电流值为电流域多比特乘累加电路输出电流值与设定的偏置电流值相反数之和。该激活函数电路功能与relu激活函数功能相同。
9、激活函数电路设定两路偏置电流ib和ith,两路偏置电流求差后的ith - ib与icell比较大小,得到激活函数电路输出电流iout,其值为:
10、。
11、本发明提供的电流域多比特乘法单元,通过并联若干个电流域多比特乘法单元,可得到乘累加后电流值,以isum表示,该电流值通过激活函数电路与电流值ith - ib做比较,可实现完整的神经元功能。假设乘法单元个数为n,i在n当中取值,得到最终输出电流值ioutf可表示为:
12、。
13、进一步的,上述电流域神经元电路应用于高能效的边缘计算和物联网设备。
14、综上所述,本发明通过n个多比特乘法单元的并联,以及引入激活函数电路,实现了一种电流域神经元电路。电流域的乘累加操作相较于其他模拟域乘累加操作来说,其优点有:并行性和扩展性高(可以轻松地将数十、数百甚至数千个电流输出连接到同一求和节点,实现较大规模的并行乘积累加);低功耗(晶体管主要工作在亚阈区,驱动电流小,且适应较低的电源电压);同时,电流域的乘累加操作相较于纯数字方案来说,在低精度应用场景下具有较高的能量效率。因此,在追求较高能效的边缘计算和物联网设备中,尤其是在智能图像传感和机器视觉等领域,本发明所提出的电流域神经元电路具有较为契合的应用前景。
1.一种电流域神经元电路,其特征在于:包括电流域多比特乘法单元电路和激活函数电路;
2.如权利要求1所述电流域神经元电路,其特征在于:
3.如权利要求1所述电流域神经元电路,其特征在于:
4.如权利要求1所述电流域神经元电路,其特征在于:应用于高能效的边缘计算和物联网设备。