选择用于优化推理的流的制作方法

至少一个实施例涉及用于根据本文描述的各种新技术至少部分地基于启发式来选择用于推理的流的处理器或计算系统。

背景技术：

1、在多个数据流上运行推理可以用于不同的领域。例如，一个或更多个相机可以基于对入口大门、车库、道路或工厂线的视频监控提供多个图像和/或音频帧流，以检测、识别或跟踪一个或更多个对象。为了检测、识别或跟踪一个或更多个对象，系统或应用程序可以使用机器学习模型对多个数据流进行推理。使用机器学习模型对多个数据流进行推理可能很复杂，并且可能需要使用大量的计算资源。

技术实现思路

1.一种计算机实现的方法，包括：

2.根据权利要求1所述的方法，所述计算机实现的方法还包括：获取一个或更多个配置参数，其中从所述第二批次中选择一个或更多个流还至少部分地基于一个或更多个配置参数。

3.根据权利要求2所述的方法，其中所述一个或更多个配置参数指示检测到的对象的数量。

4.根据权利要求1所述的方法，其中所述第一批次的帧和第二批次的帧分别包括视频帧，该视频帧包括相应的图像帧序列。

5.根据权利要求1所述的方法，还包括：使用一个或更多个其他机器学习模型推理关于来自所述第二批次的帧的所述一个或更多个帧的附加信息。

6.根据权利要求1所述的方法，其中生成所述启发式信息包括确定与所述第二批次的帧对应的所述一个或更多个数据流上的跳过间隔。

7.一种系统，包括：

8.根据权利要求7所述的系统，其中所述存储器还存储指令，该指令由于由所述一个或更多个处理器执行而导致所述系统获取一个或更多个配置参数，其中确定来自所述一个或更多个第二数据流的所述一个或更多个帧的所述子集还至少部分地基于所述一个或更多个配置参数。

9.根据权利要求8所述的系统，其中所述配置参数指示检测到的对象的数量。

10.根据权利要求8所述的系统，其中所述配置参数还指示以下各项中的至少一项：来自所述一个或更多个第二数据流的所述一个或更多个帧的分辨率、使用来自所述一个或更多个第二数据流的一个或更多个帧表示的一个或更多个对象的尺寸、在来自所述一个或更多个第二数据流的一个或更多个帧中描绘的一个或更多个感兴趣区域roi的接近度。

11.根据权利要求7所述的系统，其中所述存储器还存储指令，该指令如果由所述一个或更多个处理器执行，则导致所述系统使用一个或更多个辅助机器学习模型推理关于来自所述一个或更多个第二数据流的不是所述子集的一部分的一个或更多个帧的辅助信息。

12.根据权利要求7所述的系统，其中所述启发式信息包括所述一个或更多个第二数据流的第一跳过间隔。

13.根据权利要求12所述的系统，其中所述启发式信息包括所述一个或更多个第二数据流的所述子集的第二跳过间隔，该第二跳过间隔不同于所述第一跳过间隔。

14.一种机器可读介质，其上存储有指令集，该指令集如果由一个或更多个处理器执行，则导致所述一个或更多个处理器：

15.根据权利要求14所述的机器可读介质，其中所述指令集还包括指令，该指令如果由所述一个或更多个处理器执行，则导致所述一个或更多个处理器获取一个或更多个配置参数，其中对所述一个或更多个数据流的子集执行所述一个或更多个推理运算还至少部分地基于所述一个或更多个配置参数。

16.根据权利要求15所述的机器可读介质，其中所述一个或更多个配置参数指示检测到的对象的数量。

17.根据权利要求14所述的机器可读介质，其中所述启发式信息包括所述一个或更多个数据流的第一跳过间隔。

18.根据权利要求17所述的机器可读介质，其中所述启发式信息包括所述一个或更多个数据流的所述子集的第二跳过间隔，该第二跳过间隔短于所述一个或更多个数据流的所述第一跳过间隔。

19.根据权利要求17所述的机器可读介质，其中所述指令集还包括指令，该指令如果由所述一个或更多个处理器执行，则导致至少部分地基于所述启发式信息对来自所述一个或更多个数据流的第二子集的一个或更多个帧执行一个或更多个第二推理运算，其中所述启发式信息包括所述一个或更多个数据流的第三跳过间隔。

20.根据权利要求14所述的机器可读介质，其中所述一个或更多个帧包括图像帧序列。