一种任务处理方法及装置的制造方法
【技术领域】
[0001]本公开涉及任务处理技术领域，尤其涉及一种任务处理方法及装置。
【背景技术】
[0002]随着网络和文化事业的发展，音视频资源极大丰富，对音视频文件的处理的需要也快速增长。
[0003]音视频文件处理的大致流程如下:首先将需处理的音视频文件解封装成为视频帧序列和音频帧序列；然后将视频帧序列和音频帧序列分别解码为RAW格式和PCM格式数据；对RAW格式和PCM格式数据进行处理；再将RAW格式和PCM格式的数据编码为所需格式的音频帧序列和视频帧序列；最后将音频帧序列和视频帧序列封装成需要的文件格式。
[0004]以上处理是通过计算机或计算机构成的数据处理装置来完成的，现有的这些计算机或数据处理装置是依靠本机的软硬件资源来实现对文件的处理。音视频文件处理的计算量庞大，对处理装置的运算能力和存储资源消耗很大，而且随着高清音视频文件的日益增多和处理需求的不断增大，依靠单机进行音视频文件处理的瓶颈问题日益突出，单机处理速度慢且容易发生系统崩溃。即使用户使用配置很高的计算机也难以保证处理的速度和稳定程度，尤其无法满足大批量和时间要求很高的处理任务。
[0005]鉴于现有技术中存在的以上问题，提供了一种分布式处理系统，使用多台计算机或处理装置来实现并行处理，从而大大减少了处理所需的时间，同时降低了系统的处理压力，减少了系统崩溃的可能性，而通过本申请的任务处理方法，可以保证分布式处理系统中各模块的处理任务都可以顺利进行，避免进行不必要的任务处理。
【发明内容】
[0006]本公开实施例提供一种任务处理方法及装置，包括如下技术方案:
[0007]根据本公开实施例的第一方面，提供一种任务处理方法，用于分布式处理系统，所述分布式处理系统包括调度装置和多个处理装置，包括:
[0008]控制所述调度装置接收处理装置在任务处理失败时发送的任务失败消息，所述任务失败消息中包括失败的任务的身份标识；
[0009]控制所述调度装置发送所述失败的任务的身份标识至每个处理装置；
[0010]控制所述每个处理装置在接收到所述身份标识后停止处理对应的任务。
[0011 ] 在一个实施例中，所述方法还包括:
[0012]控制所述每个处理装置在停止处理对应的任务后，将所述对应的任务的所有数据删除。
[0013]在一个实施例中，所述方法还包括:
[0014]在检测到处理装置的任务无法执行，或者执行过程中发生错误时，判断所述处理装置的任务处理失败；
[0015]在所述处理装置的任务处理失败时，控制所述处理装置发送任务失败消息至所述调度装置。
[0016]在一个实施例中，所述方法还包括:
[0017]控制所述调度装置将对应的任务的所有数据删除。
[0018]在一个实施例中，所述多个处理装置包括:
[0019]任务打散装置、第一传输装置、多个音频处理装置、多个视频处理装置、第二传输装置、输出装置和监视装置。
[0020]根据本公开实施例的第二方面，提供一种任务处理装置，用于分布式处理系统，所述分布式处理系统包括调度装置和多个处理装置，包括:
[0021]接收模块，用于控制所述调度装置接收处理装置在任务处理失败时发送的任务失败消息，所述任务失败消息中包括失败的任务的身份标识；
[0022]第一发送模块，用于控制所述调度装置发送所述失败的任务的身份标识至每个处理装置；
[0023]处理模块，用于控制所述每个处理装置在接收到所述身份标识后停止处理对应的任务。
[0024]在一个实施例中，所述装置还包括:
[0025]第一删除模块，用于控制所述每个处理装置在停止处理对应的任务后，将所述对应的任务的所有数据删除。
[0026]在一个实施例中，所述装置还包括:
[0027]判断模块，用于在检测到处理装置的任务无法执行，或者执行过程中发生错误时，判断所述处理装置的任务处理失败；
[0028]第二发送模块，用于在所述处理装置的任务处理失败时，控制所述处理装置发送任务失败消息至所述调度装置。
[0029]在一个实施例中，所述装置还包括:
[0030]第二删除模块，用于控制所述调度装置将对应的任务的所有数据删除。
[0031 ] 在一个实施例中，所述多个处理装置包括:
[0032]任务打散装置、第一传输装置、多个音频处理装置、多个视频处理装置、第二传输装置、输出装置和监视装置。
[0033]本公开的实施例提供的技术方案可以包括以下有益效果:
[0034]上述技术方案，调度装置可以获取分布式处理系统中每个处理模块的任务处理状态，这样，当任何一个处理模块的某个任务处理失败时，调度模块将该任务的身份标识发送给所有的处理模块，使得所有的处理模块都停止处理该任务，并删除该任务的所有数据，从而避免产生不必要的任务处理操作，并避免模块中有过多的冗余数据。
[0035]应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。
【附图说明】
[0036]此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。
[0037]图1是根据一示例性实施例示出的任务处理方法的流程图。
[0038]图2是根据一示例性实施例示出的一种任务处理方法的流程图。
[0039]图3是根据一示例性实施例示出的另一种任务处理方法的流程图。
[0040]图4是根据一示例性实施例示出的再一种任务处理方法的流程图。
[0041]图5是根据一示例性实施例示出的任务处理装置的框图。
[0042]图6是根据一不例性实施例不出的一种任务处理装置的框图。
[0043]图7是根据一示例性实施例示出的另一种任务处理装置的框图。
[0044]图8是根据一不例性实施例不出的又一种任务处理装置的框图。
【具体实施方式】
[0045]这里将详细地对示例性实施例进行说明，其示例表示在附图中。下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
[0046]本公开实施例提供了一种任务处理方法，如图1所示，该方法包括步骤S101-S103:
[0047]在步骤S101中，控制调度装置接收处理装置在任务处理失败时发送的任务失败消息，任务失败消息中包括失败的任务的身份标识；
[0048]在步骤S102中，控制调度装置发送失败的任务的身份标识至每个处理装置；
[0049]在步骤S103中，控制每个处理装置在接收到身份标识后停止处理对应的任务。
[0050]在该实施例中，调度装置可以获取分布式处理系统中每个处理模块的任务处理状态，这样，当任何一个处理模块的某个任务处理失败时，调度模块将该任务的身份标识发送给所有的处理模块，使得所有的处理模块都停止处理该任务，从而避免产生不必要的任务处理操作，减少了处理所需的时间，同时降低了系统的处理压力，减少了系统崩溃的可能性。
[0051]在一个实施例中，多个处理装置包括:任务打散装置、第一传输装置、多个音频处理装置、多个视频处理装置、第二传输装置、输出装置和监视装置等。
[0052]下面详细说明下分布式处理系统，分布式处理系统包括:调度装置(dispatcher)、任务打散装置(ingress)、第一传输装置(offer)、多个音频处理装置(AP)、多个视频处理装置(VP)、第二传输装置(offer)、输出装置egress和监视装置Watcher，其中，在每个装置中均设置有监控装置Monitor，不同的装置之间，通过监控装置进行交互。下面详细说明个装置:
[0053]任务分发装置获得视频数据，然后分给任务打散装置。
[0054]任务打散装置将视频数据打散，得到音频文件(。goa)、视频文件(。gop)、音频总数信息、视频总数信息，对音频文件和视频文件进行解封装，得到多个视频文件碎片和多个音频文件碎片。其中，对于音频文件碎片，可以每10分钟作为一段(不是整分钟，有出入)对于视频文件碎片，可以每分钟为一段(不是整分钟，有出入)。
[0055]第一传输装置用于将不同的打散碎片传输给相应的音频或视频处理装置进行处理。
[0056]音频处理装置用于处理音频文件碎片，包括对音频文件碎片进行解码，进行图像处理，对处理后的图像进行编码。第一传输装置将音频总数信息传输给音频处理装置，但是音频处理装置不处理，音频处理装置转发给输出装置Egress。
[0057]同理，视频处理装置用于处理视频文件碎片。
[0058]第二传输装置用于将音频处理装置和视频处理装置处理得到的数据传输给输出装置 egress。
[0059]输出装置Egress用于根据音频总数信息和视频总数信息对音频处理装置和视频处理装置处理后得到的数据进行汇总。
[0060]监视装置Watcher提供客户端查询数据的接口，与任务分发装置(dispatcher)连接。监视装置Watcher与任务分发装置(dispatch