多GPU平台的多路视频数据的实时处理方法与流程

文档序号:11931401阅读:来源:国知局

技术特征:

1.一种多GPU平台的多路视频数据的实时处理方法,其特征在于,包括:

步骤1、建立基于任务处理器的层式并行结构;

步骤2、对所述层式并行结构中的各个任务处理器进行初始化,各个任务处理器接收监控视频数据,对监控视频数据进行实时处理;

步骤3、进行环境监测,根据环境监测结果计算任务队列健康度、任务缓存区健康度和各GPU健康度;

步骤4、根据所述任务队列健康度、缓存区健康度及各GPU健康度值进行任务处理器调度和作业分发;

步骤5、定时重复步骤3、4,使各GPU间保持负载均衡状态。

2.根据权利要求1所述的方法,其特征在于,所述的建立基于任务处理器的层式并行结构,包括:

将任务处理器作为并行与调度的基本单位,一个任务处理器包括一个GPU计算任务的封装、一个输入缓存、一个输出缓存和一个作业队列。一个任务处理器对应创建、就绪、暂停、运行、结束五个状态,通过任务处理器控制器进行任务处理器的状态控制;

根据监控视频路数、当前计算任务、计算节点GPU数进行基于层结构并行的任务处理器分配,分配各层间数据缓存区,将基于多GPU上的多任务处理器进行空间并行,得到多个层式并行结构,基于流水线技术对各个层式并行结构进行时间并行,建立用于流式监控数据处理的并行结构,基于内存交互对流式监控数据进行统一式管理。

3.根据权利要求2所述的方法,其特征在于,所述的建立基于任务处理器的层式并行结构还包括:

基于任务数划分任务处理器的层数,依据计算任务复杂度计算各层任务处理器的数量,使用轮转法将任务处理器尽量分配到不同GPU上,通过各层间缓存区,对同层任务处理器的输入输出的流式数据进行统一管理,并基于内存交互完成CPU到多GPU上的数据交换。

4.根据权利要求1所述的方法,其特征在于,所述的根据环境监测结果计算任务队列健康度、任务缓存区健康度和各GPU健康度,包括:

按照时间间隔统计被监测对象占用率,所述被监测对象占用率包括任务队列占用率、任务缓存区占用率、GPU利用率和GPU显存占用率;

采用滑动窗口计算若干时间片内被监测对象占用率的平均值;

根据记录的多个时间片内被监测对象占用率的平均值计算被监测对象健康度,所述被监测对象健康度包括任务队列健康度、任务缓存区健康度、GPU健康度和GPU显存健康度;

依据被监测对象健康度判断被监测对象的状态。

5.根据权利要求4所述的方法,其特征在于,根据所述任务队列健康度、缓存区健康度及各GPU健康度值进行任务处理器调度,包括:

根据各任务运行状态、任务处理器数量控制各任务占用的计算资源比例;对于某任务,通过其输入和输出缓存区的健康度判断该任务的各状态处理器的数量变化量。

6.根据权利要求5所述的方法,其特征在于,所述的对于某任务,通过其输入和输出缓存区的健康度判断该任务的各状态处理器的数量变化量,包括:

若某任务的输入缓存处于饥饿状态,输出缓存处于过饱状态,则减少任务处理器数量;

若某任务的输入缓存处于过饱状态,输出缓存处于饥饿状态,则增加任务处理器数量;

若某任务的输入缓存或输出缓存处于健康状态,则暂时不变动任务处理器数量。

7.根据权利要求6所述的方法,其特征在于,所述的方法还包括:

若GPU处理器处于过饱状态,则减少该GPU处理器上的任务处理器数量,减少时将运行状态的处理器转为暂停状态,减少时优先减少输出缓存区健康度高的任务处理器。

8.根据权利要求4所述的方法,其特征在于,根据所述任务队列健康度、缓存区健康度及各GPU健康度值进行作业分发,包括:

采用动态轮询策略依据健康度低的任务处理器优先的原则,进行作业的分发,若任务队列达到最大长度,则停止作业分发。

当前第2页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1