张量卷积计算方法及系统与流程

文档序号:18743084发布日期:2019-09-21 02:01阅读:来源:国知局
技术总结
本发明提供一种张量卷积计算方法,包括:接收待计算的张量数据,调用预先设定的多个卷积核,应用各个卷积核组成运算卷积核;依据各个张量运算单元的运算能力对运算卷积核进行第一格式转换处理,然后装载至第一寄存器组;对张量数据进行第二格式转换处理,然后装载至第二寄存器组;选取目标滑动窗口,确定目标滑动窗口的窗口格式及目标窗口的步进步长;重复执行第一操作;当已执行的各个第一操作中分别选取的各个张量数据子集的总和为经过第二格式转换处理的张量数据时,停止执行第一操作,将已执行的各个第一操作中每个张量运算单元对应的部分积进行累加,确定完整运算结果。应用本发明提供的张量卷积计算方法,可实现高利用率的高密度并行计算。

技术研发人员:刘彦
受保护的技术使用者:上海燧原智能科技有限公司
技术研发日:2019.08.12
技术公布日:2019.09.20

当前第3页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1