执行神经网络模型的人工智能处理器、方法及相关产品与流程

文档序号:26904876发布日期:2021-10-09 13:48阅读:来源:国知局

技术特征:
1.一种执行神经网络模型的人工智能处理器,包括控制电路、运算电路和片上存储电路,所述神经网络模型包括上池化层和深度卷积层,其中:所述控制电路用于控制从片外存储电路向所述片上存储电路加载所述上池化层的输入数据以及所述深度卷积层的卷积核;所述运算电路用于针对所述输入数据和所述卷积核执行所述上池化层和深度卷积层的融合运算,并将融合运算结果写回所述片上存储电路;以及所述控制电路进一步用于控制从所述片上存储电路向所述片外存储电路输出所述融合运算结果。2.根据权利要求1所述的人工智能处理器,其中所述运算电路包括:乘法电路,用于将所述卷积核中深度方向上的各个权值向量分别与所述输入数据的深度方向上的输入向量执行对位乘法运算,得到多个深度方向上的结果向量;以及重排电路,用于根据所述上池化层的池化索引,对所述多个结果向量进行重排,以得到所述融合运算结果。3.根据权利要求2所述的人工智能处理器,其中所述重排电路进一步用于:基于所述池化索引,确定各个所述输入向量的索引;按照索引映射关系,根据所述输入向量的索引确定对应的结果向量的索引;以及按照所述结果向量的索引的顺序,对所述结果向量进行重排,以得到所述融合运算结果。4.根据权利要求3所述的人工智能处理器,其中所述索引映射关系还指示将超出输出数据维度大小范围的索引设置为预定值。5.根据权利要求3

4任一所述的人工智能处理器,其中所述重排电路进一步用于:在根据索引映射关系确定所述结果向量的索引之前,基于所述上池化层和深度卷积层的填补规则,调整所述输入向量的索引。6.根据权利要求2

5任一所述的人工智能处理器,其中所述上池化层中各个池化窗口的池化索引一致。7.根据权利要求2

6任一所述的人工智能处理器,其中所述乘法电路包括多个向量乘法器,并且所述运算电路进一步用于:将所述输入数据的深度方向上的各个输入向量分发给所述多个向量乘法器,以及将所述卷积核中深度方向上的权值向量广播传输给所述多个向量乘法器;每个所述向量乘法器用于:针对广播的权值向量和分发的输入向量执行对位乘法运算,得到结果向量。8.一种芯片,包括根据权利要求1

7任一所述的人工智能处理器。9.一种板卡,包括根据权利要求8所述的芯片。10.一种使用根据权利要求1

7任一所述的人工智能处理器来执行神经网络模型的方法。

技术总结
本披露公开了一种执行神经网络模型的人工智能处理器、处理方法及相关产品。该人工智能处理器可以实现为计算装置包括在组合处理装置中,该组合处理装置还可以包括接口装置和其他处理装置。该计算装置与其他处理装置进行交互,共同完成用户指定的计算操作。组合处理装置还可以包括存储装置,该存储装置分别与计算装置和其他处理装置连接,用于存储该计算装置和其他处理装置的数据。本披露的方案提供了神经网络模型中的上池化层和深度卷积层的融合处理方案,其可以有效减少片外访存带宽,缓解访存压力,提高机器的处理效率。提高机器的处理效率。提高机器的处理效率。


技术研发人员:ꢀ(74)专利代理机构
受保护的技术使用者:上海寒武纪信息科技有限公司
技术研发日:2021.06.28
技术公布日:2021/10/8
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1