基于人工智能设备的分层稀疏张量压缩方法与流程

文档序号:16471202发布日期:2019-01-02 23:07阅读:来源:国知局

技术特征:

技术总结
基于人工智能设备的分层稀疏张量压缩方法,在DRAM中,不仅保存神经元表面的存储空间,还为掩码块加上一个元曲面。读取数据时,首先会读取掩码,然后计算非零数据的大小,并且只读取这些非零数据以节省DRAM带宽。而在高速缓存中,只会存储非零数据,因此所需的存储空间被减少。当处理数据时,只使用非零数据。该方法使用位元掩码来确定数据是否为零,层级压缩方案中有三层:瓦片、线和点,从DRAM读取位掩码和非零数据,通过不读取零数据来节省带宽。处理数据时,若它们的位元掩码为零,能轻松地移除瓦片数据。本发明有助于减少内存带宽和内部缓存中的存储空间,与竞争对手相比,可以获得更高的性能和功效。

技术研发人员:李云鹏;倪岭;邵平平;陈洁君;王永流;李光周
受保护的技术使用者:南京天数智芯科技有限公司
技术研发日:2018.08.01
技术公布日:2019.01.01
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1