终端，用于接收所述监控平台发送的所述第二监控指令，在音视频播放过程中对音视频进行内容抓取，并将抓取的音视频内容返回给所述监控平台。
[0048]本发明实施例提供的系统，监控平台对被监控终端返回的音视频内容进行特征提取，得到该音视频内容的特征参数，并将该音视频内容的特征参数与表示预设违规内容特征的预设特征参数进行对比，得到该音视频内容是否违规的监控结果，最后将该监控结果发送给监控终端，该过程中，监控平台首先对被监控终端返回的音视频内容进行判断，然后将监控结果发送给监控终端，避免了无效信息的反馈，提高了监控的效率，进而也提高了监控的准确率。
[0049]进一步的，所述第一监控指令用于指示需要监控的关键对象；
[0050]所述监控平台，还用于对接收到的所述关键对象进行特征识别，得到表示所述关键对象特征的特征语义描述信息；并具体用于向被监控终端发送携带所述特征语义描述信息的第二监控指令，并接收所述被监控终端返回的包含所述特征语义描述信息的音视频内容；
[0051]所述被监控终端，具体用于接收所述监控平台发送的携带所述特征语义描述信息的第二监控指令，根据所述特征语义描述信息，对在音视频播放过程中抓取的音视频内容进行判断，并向所述监控平台返回包含所述特征语义描述信息的音视频内容。
[0052]这样，监控终端在第一监控指令中指示需要监控的关键对象，监控终端可以对所要监控的关键对象进行灵活设置；被监控终端接收到监控平台发送的第二监控指令后，可以根据第二监控指令中携带的特征语义描述信息，对抓取的音视频内容进行判断，避免无效信息的反馈。
[0053]进一步的，所述监控终端，还用于当所述监控结果表示所述音视频内容违规时，向所述监控平台发送所述播放终止指令；
[0054]所述监控平台，还用于接收所述监控终端发送的播放终止指令，并向所述被监控终端发送所述播放终止指令；
[0055]所述被监控终端，还用于接收所述监控平台发送的所述播放终止指令，并根据所述播放终止指令终止音视频的播放。
[0056]这样，当判断所述音视频内容违规时，监控终端即发送播放终止指令，指示被监控终端终止播放，对被监控终端播放的视频进行了有效的监控。
[0057]进一步的，所述监控平台，还用于当所述监控平台得到的所述监控结果表示无法确定所述音视频内容是否违规时，向所述监控终端发送所述音视频内容；
[0058]所述监控终端还用于接收所述监控平台发送的所述音视频内容，并播放接收的所述音视频内容。
[0059]这样，在实际情况中，由于音视频可能会出现不清晰或者打马赛克等情况，监控平台可能无法判断音视频是否违规，此时，监控平台将来自被监控终端的音视频内容发送给监控终端，由监控终端的用户进行判断，提高了判断过程的准确率。
[0060]本申请的其它特征和优点将在随后的说明书中阐述，并且，部分地从说明书中变得显而易见，或者通过实施本申请而了解。本申请的目的和其他优点可通过在所写的说明书、权利要求书、以及附图中所特别指出的结构来实现和获得。
【附图说明】
[0061]附图用来提供对本发明的进一步理解，并且构成说明书的一部分，与本发明实施例一起用于解释本发明，并不构成对本发明的限制。在附图中:
[0062]图1为本发明实施例提供的终端音视频监控方法的流程图之一；
[0063]图2为本发明实施例提供的终端音视频监控方法的流程图之二 ；
[0064]图3为本发明实施例提供的违规音视频内容判断方法的流程图；
[0065]图4为本发明实施例提供的终端音视频监控装置的结构示意图；
[0066]图5为本发明实施例提供的终端音视频监控系统的结构示意图。
【具体实施方式】
[0067]为了给出提高终端音视频监控的监控效率以及监控准确率的的实现方案，本发明实施例提供了一种终端音视频监控方法、装置及系统，以下结合说明书附图对本发明的优选实施例进行说明，应当理解，此处所描述的优选实施例仅用于说明和解释本发明，并不用于限定本发明。并且在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组口 ο
[0068]本发明实施例提供一种终端音视频监控方法，具体流程如图1所示，包括:
[0069]步骤101、监控平台接收监控终端发送的第一监控指令。
[0070]步骤102、向被监控终端发送第二监控指令。
[0071]步骤103、接收该被监控终端返回的音视频内容，该音视频内容为该被监控终端在音视频播放过程中抓取的音视频内容。
[0072]步骤104、对该音视频内容进行特征提取，得到该音视频内容的特征参数。
[0073]步骤105、将该音视频内容的特征参数与表示预设违规内容特征的预设特征参数进行比对，得到该音视频内容是否违规的监控结果。
[0074]步骤106、将该监控结果发送给该监控终端。
[0075]上述实施例中，监控终端可以是手机、平板电脑、PC等终端设备，被监控终端可以是手机、平板电脑、PC、智能电视等音视频播放终端，监控平台除了负责监控指令的收发，还用于对被监控终端返回的音视频内容进行判断，监控平台首先提取该音视频内容的特征参数，然后将该音视频内容的特征参数与表示预设违规内容特征的预设特征参数进行比对，预设违规内容特征的预设特征参数可以是预先训练的违规音视频内容与其相应特征参数的集合，判断该音视频内容是否违规，并将判断结果发送给监控终端，该过程中避免了无效信息的反馈，提高了监控的效率，进而也提高了监控的准确率。
[0076]下面结合附图，用具体实施例对本发明提供的方法及装置和相应系统进行详细描述，具体流程如图2所示。
[0077]步骤201、监控终端向监控平台发送第一监控指令，该第一监控指令用于指示监控终端所要监控的关键对象，该关键对象可以是监控终端所要监控的关键词、或者音视频片段等等。
[0078]步骤202、监控平台接收到监控终端发送的第一监控指令，并对该第一监控指令中的关键对象进行特征识别，得到表示该关键对象特征的特征语义描述信息。
[0079]该步骤中，特征语义描述信息是表示音视频属性特征的信息，比如视频对象的纹理特征、颜色特征，音频对象的时域、频域特征等。
[0080]步骤203、该监控平台向被监控终端发送携带该特征语义描述信息的第二监控指令。
[0081]步骤204、被监控终端接收到该第二监控指令后，启动后台的监测程序。当被监控终端播放音视频内容时，对当前播放的音视频内容进行抓取，抓取的内容可以是视频的关键帧、音频段等，该抓取过程可以是周期性的，并且根据该第二监控指令携带的特征语义描述信息对抓取的音视频内容进行初步判断。
[0082]步骤205、该被监控终端将包含该特征语义描述信息的音视频内容发送给监控平台。
[0083]步骤206、监控平台接收到被监控终端发送的音视频内容后，对该音视频内容进行特征提取，得到该音视频内容的特征参数。
[0084]步骤207、将该音视频内容的特征参数与表示预设违规内容特征的预设特征参数进行比对，得到该音视频内容是否违规的监控结果。
[0085]本步骤中，监控平台将该音视频内容的特征参数与预先训练的违规音视频侦测子系统中的特征参数进行比对，即可以得到该音视频内容是否违规，以及违规音视频的类别。
[0086]步骤208、将该监控结果发送给监控终端。
[0087]当该监控结果表示无法确定该音视频内容是否违规时，监控平台除了向该监控终端发送该监控结果之外，还将该音视频内容发送给该监控终端。
[008