技术编号:32343585
提示:您尚未登录,请点 登 陆 后下载,如果您还没有账户请点 注 册 ,登陆完成后,请刷新本页查看技术详细信息。.本发明涉及计算机硬件技术领域,更具体的说,涉及到图形图像处理领域中图形处理器单元(gpu)中的数据计算,尤其涉及一种图形处理器中双精度数据舍位的计算方法。背景技术.图形图像领域中,图形处理器扮演了重要角色,图形显示中的各种图元所涉及的计算,均由图形处理器完成,对于不同的属性计算,所采用的计算数据格式也不同,几何阶段,对于精度要求较高,采用了浮点运算;像素阶段,对于精度的要求略有下降,采用了定点数计算。但不论哪种数据格式,对于数据精度控制都是个关键点。因此本领域需要一种精度数据舍位算法,用于...
注意:该技术已申请专利,请尊重研发人员的辛勤研发付出,在未取得专利权人授权前,仅供技术研究参考不得用于商业用途。
该专利适合技术人员进行技术研发参考以及查看自身技术是否侵权,增加技术思路,做技术知识储备,不适合论文引用。
请注意,此类技术没有源代码,用于学习研究技术思路。