技术特征:
技术总结
本发明实施例公开了一种基于单GPU卡的图像并发处理方法、装置及系统,该方法包括:接收用户提交的任务;将任务加入到任务队列,并为任务配置与之对应的任务线程;将配置好的任务线程按序加入到线程池中;根据图形处理器GPU卡的内存和线程池中每一个任务线程执行时占用的内存,合理的从线程池中选取一个或多个任务线程提交至GPU卡,以便GPU卡对一个或多个任务线程并行处理。通过上述方式,可以保证GPU的资源能够充分利用,避免资源浪费,使其空闲、空余占比大大减少,有效增加了系统的吞吐能力。此外,多个任务线程同时处理,可以具备更好的加速比,进一步提升处理效率。
技术研发人员:安玉山
受保护的技术使用者:北京视甄智能科技有限公司
技术研发日:2018.11.01
技术公布日:2019.02.26