网络媒体监管方法及装置与流程

本发明涉及网络媒体技术领域，具体而言，涉及一种网络媒体监管方法及装置。

背景技术：

电视、报纸、广播等传统媒体与网络媒体都是传播信息的渠道、工具及载体。与传统媒体相比，网络媒体信息的传播速度更快、受众范围更广并且信息传播更加的自由。但与此同时，网络媒体相比传统媒体也更难以监管，且一旦出现不良信息(比如：内容为暴力、色情或反动的信息)造成的不良影响范围更大。

以目前网络媒体中最热门的直播行业为例，直播无疑是当下最受年轻人追捧的网络媒体，其受众很广，且多为很容易受到负面影响的年轻人。这使得当直播的内容出现不良信息时造成极其恶劣的影响，危害极大。目前针对网络媒体的监管多为通过管理员对节目内容进行审核，但对于直播这样实时播出的网络媒体想通过预先对内容进行审核是不现实的。同时每个时刻新增的网络媒体数量巨大，这也使管理员工作量巨大。因此，现有的网络媒体监管方法效果不佳，不能及时有效的终止不良信息的扩散，同时还会造成人力资源和时间资源的浪费。

技术实现要素：

本发明的目的在于提供一种网络媒体监管方法，用以提高网络媒体监管效率及减少人力成本和时间成本。

本发明的另一目的在于提供一种网络媒体监管装置，用以提高网络媒体监管效率及减少人力成本和时间成本。

为了实现上述目的，本发明实施例采用的技术方案如下：

本发明第一实施例提供一种网络媒体监管方法，所述网络媒体监管方法应用于通信连接的多媒体终端及服务器，所述方法包括：所述多媒体终端接收举报请求；所述多媒体终端根据所述举报请求获取播放的网络媒体内容的图像截图；所述多媒体终端响应用户对所述图像截图的处理而生成举报信息；所述多媒体终端将所述举报信息发送至所述服务器；所述服务器对所述举报信息进行审核评估以得到评估结果；所述服务器根据所述评估结果对所述举报信息进行处理，以便对所述网络媒体内容进行监管。

本发明第二实施例提供一种网络媒体监管方法，所述网络媒体监管方法应用于与服务器通信连接的多媒体终端，所述方法包括：接收举报请求；根据所述举报请求获取播放的网络媒体内容的图像截图；响应用户对所述图像截图的处理而生成举报信息；将所述举报信息发送给所述服务器，以使所述服务器根据所述举报信息得到的评估结果，并基于所述评估结果对所述举报信息处理，以便对所述网络媒体内容进行监管。

本发明第三实施例提供一种网络媒体监管方法，所述网络媒体监管方法应用于与多媒体终端通信连接的服务器，所述方法包括：接收所述多媒体终端发送的举报信息；对举报信息进行审核评估，以得到评估结果；根据评估结果对所述举报信息进行处理，以便对所述网络媒体内容进行监管。

本发明第四实施例提供一种网络媒体监管装置，所述网络媒体监管装置应用于与服务器通信连接的多媒体终端，所述装置包括：第一接收模块，用于接收举报请求；截图模块，用于根据所述举报请求获取播放的网络媒体内容的图像截图；生成模块，用于响应用户对所述图像截图的处理而生成举报信息；发送模块，用于将所述举报信息发送给所述服务器，以使所述服务器根据所述举报信息得到的评估结果，并基于所述评估结果对所述举报信息处理，以便对所述网络媒体内容进行监管。

本发明第五实施例提供一种网络媒体监管装置，所述网络媒体监管装置应用于与多媒体终端通信连接的服务器，所述装置包括：第二接收模块，用于接收所述多媒体终端发送的举报信息；评估模块，用于对举报信息进行审核评估，以得到评估结果；处理模块，用于根据评估结果对所述举报信息进行处理，以便对所述网络媒体内容进行监管。

与现有技术相比，本发明提供的一种网络媒体监管方法及装置，应用于通信连接的多媒体终端及服务器，所述方法包括：所述多媒体终端根据所述举报请求获取播放的网络媒体内容的图像截图。使举报更加简便，方便用户加入举报的行列，共同维护良好的网络环境。所述多媒体终端响应用户对所述图像截图的处理而生成举报信息。所述服务器对所述举报信息进行审核评估以得到评估结果。可预先筛除恶意举报，减少管理员的审核工作量，节约时间成本及人力成本，所述服务器根据所述评估结果对所述举报信息进行处理，以便对所述网络媒体内容进行监管。使网络媒体监管更加高效。

为使本发明的上述目的、特征和优点能更明显易懂，下文特举较佳实施例，并配合所附附图，作详细说明如下。

附图说明

为了更清楚地说明本发明实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本发明的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。

图1示出了本发明的应用环境示意图。

图2为本发明较佳实施例提供的多媒体终端的方框示意图。

图3为本发明第一实施例提供的一种网络媒体监管方法的流程图。

图4为一种举报界面示意图。

图5为图3中步骤s103的子步骤流程图。

图6为本发明第一实施例中步骤s105的子步骤流程图。

图7本发明第二实施例提供的一种网络媒体监管方法的流程图。

图8本发明第三实施例提供的一种网络媒体监管方法的流程图。

图9为本发明第四实施例提供的一种网络媒体监管装置的功能模块意图。

图10为图9中所示的生成模块的功能子模块示意图。

图11为本发明第五实施例提供的一种网络媒体监管装置的功能模块示意图。

图12为图11中所示的评估模块的功能子模块示意图。

图标：100-多媒体终端；200-服务器；300-网络；111-存储器；112-存储控制器；113-处理器；114-外设接口；115-输入输出单元；116-显示单元；117-通信单元；400-网络媒体监管装置；401-第一接收模块；402-截图模块；403-生成模块；4031-接收子模块；4032-指令监测子模块；4033-替换子模块；4034-验证子模块；4035-生成子模块；404-发送模块；500-网络媒体监管装置；501-第二接收模块；502-评估模块；5021-获取子模块；5022-评估子模块；503-处理模块。

具体实施方式

下面将结合本发明实施例中附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。因此，以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围，而是仅仅表示本发明的选定实施例。基于本发明的实施例，本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本发明保护的范围。

应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。同时，在本发明的描述中，术语“第一”、“第二”等仅用于区分描述，而不能理解为指示或暗示相对重要性。

本发明下述各实施例如无特别说明均可应用于如图1所示的环境中，如图1所示，多媒体终端100通过有线或无线网络300与服务器200通信连接。

如图2所示，是图1中多媒体终端100的方框示意图。多媒体终端100为可以播放网络媒体的终端，优选为移动终端设备、电脑，例如可以包括智能手机、平板电脑、膝上型便携计算机、台式电脑等等。

本发明实施例提出网络媒体监管方法及装置可适用于具有android操作系统、ios操作系统、windows操作系统或其他平台的多媒体终端100。于本发明实施例中，该多媒体终端100中安装有网络媒体播放应用程序(例如，斗鱼)，与服务器200相对应，为用户提供服务。

所述多媒体终端100包括网络媒体监管装置400、存储器111、存储控制器112、处理器113、外设接口114、输入输出单元115、显示单元116及通信单元117。

所述存储器111、存储控制器112、处理器113、外设接口114、输入输出单元115、显示单元116以及通信单元117各元件相互之间直接或间接地电性连接，以实现数据的传输或交互。例如，这些元件相互之间可通过一条或多条通讯总线或信号线实现电性连接。所述网络媒体监管装置400包括至少一个可以软件或固件(firmware)的形式存储于所述存储器111中或固化在所述多媒体终端100的操作系统(operatingsystem，os)中的软件功能模块。所述处理器113用于执行所述存储器111中存储的可执行模块，例如所述网络媒体监管装置400所包括的软件功能模块及计算机程序等。

其中，所述存储器111可以是，但不限于，随机存取存储器(randomaccessmemory，ram)，只读存储器(readonlymemory，rom)，可编程只读存储器(programmableread-onlymemory，prom)，可擦除只读存储器(erasableprogrammableread-onlymemory，eprom)，电可擦除只读存储器(electricerasableprogrammableread-onlymemory，eeprom)等。其中，存储器111用于存储程序，处理器113在接收到执行指令后，执行所述程序。所述处理器113以及其他可能的组件对存储器111的访问可在所述存储控制器112的控制下进行。

所述处理器113可能是一种集成电路芯片，具有对信号的处理能力。上述的处理器113可以是通用处理器，包括中央处理器(centralprocessingunit，cpu)、网络处理器(networkprocessor，np)等；还可以是数字信号处理器(dsp)、专用集成电路(asic)、现场可编程门阵列(fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器113也可以是任何常规的处理器等。

所述外设接口114将各种输入/输出装置(例如输入输出单元115以及显示单元116)耦合至所述处理器113以及所述存储器111。在一些实施例中，外设接口114，处理器113以及存储控制器112可以在单个芯片中实现。在其他一些实例中，他们可以分别由独立的芯片实现。

所述输入输出单元115用于提供给用户输入数据实现用户与所述多媒体终端100的交互。所述输入输出单元115可以是，但不限于，虚拟键盘、语音输入电路等。

所述显示单元116在所述多媒体终端100与用户之间提供一个交互界面(例如用户操作界面)或用于显示图像数据。在本实施例中，所述显示单元116可以是液晶显示器或触控显示器。若为触控显示器，其可为支持单点和多点触控操作的电容式触控屏或电阻式触控屏等。支持单点和多点触控操作是指触控显示器能感应到来自该触控显示器上一个或多个位置处产生的触控操作，并将该感应到的触控操作交由处理器113进行计算和处理。

所述通信单元117用于通过所述网络300与服务器200建立连接，从而实现服务器200与多媒体终端100之间的数据交互。

第一实施例

请参照图3，是本发明较佳实施例提供的应用于通信连接的多媒体终端100及服务器200的网络媒体监管方法的流程图。所述网络媒体监管方法包括以下步骤：

步骤s101，所述多媒体终端100接收举报请求。

本实施例中，举报请求可以是使用多媒体终端100的用户触发的请求。具体地，可以是通过网络媒体播放界面设置的举报触发按钮获得的举报请求。当用户浏览网络媒体时发现不良信息时，用户可以通过触发举报触发按钮，使多媒体终端100获得针对该不良信息的举报请求。例如，一个直播频道正在播放不良信息，用户进入该直播频道后，可通过触发该直播频道播放界面设置的举报触发按钮使多媒体终端100接收到举报请求。

步骤s102，所述多媒体终端100根据所述举报请求获取播放的网络媒体内容的图像截图。

本实施例中，多媒体终端100接收到举报请求后立即根据举报请求启动对显示单元116显示的包括网络媒体内容的屏幕截图。这样可以立即获得网络媒体内容包含不良信息的证据。用户不需进行其他操作即可完成对被举报的网络媒体的举证。使用户举报网络媒体更加便捷。通过受众的举报，使监督更加的有效。

具体地，当多媒体终端100接收到举报请求后，可以通过但也不局限于以下步骤进行截图。定义一个用户界面图像变量(例如，uiimage类型的变量imagescreenshot)。使用位图上下文创建函数(例如，函数uigraphicsbeginimagecontextwithoptions)创建一个位图上下文。使用函数drawviewhierarchyinrect:afterscreenupdates允许截取一个uiview或者其子类中的内容，并且以位图的形式保存到uiimage中。使用函数uigraphicsgetimagefromcurrentimagecontext获得一个显示单元116显示内容的位图的图像上下文获得一个image的对象。使用函数uigraphicsendimagecontext移除当前栈中最顶层的上下文。返回imagescreenshot，这个imagescreenshot就是需要获得的截屏的图像。

步骤s103，所述多媒体终端100响应用户对所述图像截图的处理而生成举报信息。

本实施例中，多媒体终端100完成图像截图后，其显示单元116的显示界面切换至举报界面，如图4所示。举报界面用于指导举报用户填写举报描述信息及验证信息。需要说明的是，用户对图像截图的处理包括：图像替换处理及默认处理。具体地，如图5所示，步骤s103可以包括以下子步骤：

子步骤s1031，接收用户在所述显示单元116(例如显示屏)显示的举报界面上输入的举报描述信息及验证信息。举报描述信息为用户通过输入输出单元115输入的对被举报的网络媒体的一个简要描述。举报描述信息具有字数限制(例如200字以内)，在用户输入举报描述信息时，显示单元116通过显示当前还可输入的字数对用户进行提醒。当举报描述信息超过字数，显示单元116将显示提醒信息(例如：显示字数超限)。通过对举报描述信息的字数限制，提醒用户用最简练的语言对被举报内容进行概括，以方便管理员的快速了解被举报内容。

子步骤s1032，监测是否接收到图像替换指令。

本实施例中，多媒体终端100的显示单元116切换至举报界面后会一直监测用户是否触发了图像替换指令。若监测接收到图像替换指令(即用户对图像截图的处理为图像替换处理)，则流程进入子步骤s1033。若未接受图像替换指令(即用户对图像截图的处理为默认处理)则流程直接进入子步骤s1034。

子步骤s1033，将所述图像截图替换为选中的图片。

子步骤s1034，对输入的所述验证信息进行验证。

当验证信息通过时，生成所述举报信息。需要说明的是，验证信息包括验证码验证和身份验证。身份验证可以是通过举报界面提醒用户输入的联系方式。联系方式可以是，但不限于是填写的电话号码、qq号码或邮箱。多媒体终端100会对身份验证进行验证，具体可以是，但不限于是检验输入数据的位数是否合理。以qq号码为例，通过判断qq号码的位数是不是大于4位且小于15位来验证这个qq号码是不是一个合理的qq号码。

子步骤s1035，生成所述举报信息。

本实施例中，如果流程经过子步骤s1033，则根据举报描述信息、选中的图片及被举报网络媒体的标识信息生成举报信息；如果流程没有经过子步骤s1033，则根据所述举报描述信息、图像截图及被举报网络媒体的标识信息生成举报信息。需要说明的是，网络媒体的标识信息可以理解为网络媒体的唯一的对应的信息，换句话说就是，可以通过网络媒体的标识信息的识别查出其对应的网络媒体。例如，直播平台上播放的网络媒体的标识信息可以是播放该网络媒体的直播房间的id号。网络媒体的标识信息可帮助管理员快速定位出现不良信息的直播房间。

步骤s104，所述多媒体终端100将所述举报信息发送至所述服务器200。

本实施例中，可以是当举报信息生成后，多媒体终端100在接收到用户触发的提交指令后将举报信息发送给服务器200；也可以是举报信息生成后多媒体终端100自动发送至服务器200。

步骤s105，所述服务器200对所述举报信息进行审核评估以得到评估结果。由于互联网中的网络媒体众多，且举报信息中也可能存储部分恶意举报。由于恶意举报这一现象的存在，势必会对网络媒体监管的效率产生严重影响。而本实施例中，通过对举报信息进行一个审核评估，以确保会产生重大不良影响、危害的网络媒体被及时发现并查处，以提高监管效率，维持良好的网络环境。需要说明的是，评估结果是对举报信息的有效性、紧急程度等各方面的一个评价结果。评估结果可以但不限于是，有效举报、无效举报、优先处理及延后处理。

本实施例中，如图6所示，步骤s105包括以下子步骤：

子步骤s1051，获取所述举报信息对应的网络媒体在线播放的实时数据。其中，所述实时数据包括实时访问数据及实时评论数据。根据举报信息中网络媒体的标识信息从服务器200中获得在线播放该网络媒体的实时数据。

子步骤s1052，根据实时数据对所述举报信息进行审核评估。

本实施例中，当所述实时数据符合预设条件时，将所述举报信息的评估为优先处理。当所述实时数据不符合预设条件时，将所述举报信息的评估为无效举报或者延后处理。具体地，实时数据符合预设条件的方式可以包括以下两种之一或者之间组合：所述实时访问量超过预设的访问量(例如，同时访问人次超过2000)，这时由于观看者众多，如果出现不良信息影响极大，因此针对该网络媒体的举报信息需及时处理；或所述举报描述信息中出现了在所述实时评论数据中出现次数超过预设次数(例如出现500次)的关键词，需要说明的是，关键词为表意词，即为有实际意义的词语。实时评论数据是观看网络媒体的用户对观看内容的看法，因此实时评论数据能比较客观的反映出网络媒体内容，因此，当举报描述信息中出现了在所述实时评论数据中出现次数超过预设次数的关键词，则可表示举报描述是准确的，也就是说举报信息是有效。

步骤s106，服务器200根据评估结果对所述举报信息进行处理，以便对所述网络媒体内容进行监管。服务器200根据评估结果将举报信息推送给管理员。例如，将评估结果为优先处理的优先推送给管理员，并提醒优先处理。

第二实施例

请参考图7，是本发明较佳实施例提供的应用多媒体终端100的网络媒体监管方法的流程图。所述方法包括以下步骤：

步骤s201，接收举报请求。

本实施例中，举报请求可以是使用多媒体终端100的用户触发的请求。

步骤s202，根据所述举报请求获取播放的网络媒体内容的图像截图。

本实施例中，多媒体终端100接收到举报请求后立即根据举报请求启动对显示单元116显示的包括网络媒体内容的屏幕截图。

步骤s203，响应用户对所述图像截图的处理而生成举报信息。

在本实施例中，多媒体终端100完成图像截图后，其显示单元116的显示界面切换至举报界面。接收用户在所述多媒体终端100的显示单元116(例如显示屏)显示的举报界面上输入的举报描述信息及验证信息。监测是否接收到图像替换指令。当图像替换指令被触发，则将所述图像截图替换为用户选中的图片，并根据举报描述信息、选中的图片及被举报网络媒体的标识信息生成举报信息；当图像替换指令没有被触发，则根据所述举报描述信息、图像截图及被举报网络媒体的标识信息生成举报信息。进一步地，生成举报信息还包括对输入的所述验证信息进行验证；当验证信息通过时，生成所述举报信息。

步骤s204，将所述举报信息发送给所述服务器200。

在本实施例中，将举报信息发送给服务器200，由服务器200在对举报信息进行审核评估，获得的评估结果，并基于所述评估结果对所述举报信息处理，以便对所述网络媒体内容进行高效的监管。

第三实施例

请参考图8，是本发明较佳实施例提供的应用于与多媒体终端100通信连接的服务器200的网络媒体监管方法的流程图。所述方法包括以下步骤：

步骤s301，接收所述多媒体终端100发送的举报信息。

本实施例中，举报信息由多媒体终端100生成。具体为，多媒体终端100接收到举报请求后根据举报请求获取播放的网络媒体内容进行截图，并根据截图生成举报信息。

步骤s302，对举报信息进行审核评估，以得到评估结果。

本实施例中，服务器200通过获取所述举报信息对应的网络媒体在线播放的实时数据(所述实时数据可以包括实时访问数据及实时评论数据)。具体为，根据举报信息中包括的被举报网络媒体的标识信息获取该网络媒体在线播放的实时数据。当所述实时数据符合预设条件时，将所述举报信息评估为优先处理。当实时数据不符合预设条件时，将所述举报信息的评估为无效举报或者延后处理。需要说明的是，预设条件在本实施例中可以是所述实时访问量超过预设的访问量、所述举报描述信息中出现了在所述实时评论数据中出现次数超过预设次数的关键词或所述实时访问量超过预设的访问量的同时所述举报描述信息中出现了在所述实时评论数据中出现次数超过预设次数的关键词。

步骤s303，根据评估结果对所述举报信息进行处理。以便对所述网络媒体内容进行监管。

在本实施例中，当评估结果为有效举报需优先审核时，则服务器200优先将该举报信息推送给管理员，提醒管理员及时处理。当评估结果为无效举报可延后审核，则服务器200可以延后推送给管理员或不推送给管理员。

第四实施例

请参照图9，是本发明较佳实施例提供的应用于多媒体终端100的网络媒体监管装置400，网络媒体监管装置400包括：第一接收模块401、截图模块402、生成模块403及发送模块404。

第一接收模块401，用于接收举报请求。

在本发明实施例中，所述步骤s101及步骤s201可以由第一接收模块401执行。

截图模块402，用于根据所述举报请求获取播放的网络媒体内容的图像截图。

在本发明实施例中，所述步骤s102及步骤s202可以由截图模块402执行。

生成模块403，用于响应用户对所述图像截图的处理而生成举报信息。

在本发明实施例中，所述步骤s103及步骤s203可以由生成模块403执行。如图10所示，生成模块403还包括以下子模块：

接收子模块4031，用于接收用户在所述多媒体终端100的显示单元116显示的举报界面上输入的举报描述信息；及还用于接收输入的验证信息。

在本发明实施例中，所述子步骤s1031可以由接收子模块4031执行。

指令监测子模块4032，用于监测是否接收到图像替换指令。

在本发明实施例中，所述子步骤s1032可以由指令监测子模块4032执行。

替换子模块4033，用于若接收到图像替换指令，将所述图像截图替换为选中的图片。

在本发明实施例中，所述子步骤s1033可以由替换子模块4033执行。

验证子模块4034，用于对输入的所述验证信息进行验证。

在本发明实施例中，所述子步骤s1034可以由验证子模块4034执行。

生成子模块4035，用于根据所述举报描述信息及图像截图生成所述举报信息。还用于根据所述举报描述信息及选中的图片生成所述举报信息。

在本发明实施例中，所述子步骤s1035可以由生成子模块4035执行。

发送模块404，用于将所述举报信息发送给所述服务器200。

在本发明实施例中，所述步骤s104及步骤s204可以由生成模块403执行。

第五实施例

请参照图11，是本发明较佳实施例提供的应用于服务器200的网络媒体监管装置500，网络媒体监管装置500包括第二接收模块501、评估模块502、及处理模块503。

第二接收模块501，用于接收所述多媒体终端100发送的举报信息。

在本发明实施例中，所述步骤s301可以由第二接收模块501执行。

评估模块502，对举报信息进行审核评估，以得到评估结果。

在本发明实施例中，所述步骤s105及步骤s302可以由评估模块502执行。如图12所示，评估模块502包括以下子模块：

获取子模块5021，用于获取所述举报信息对应的网络媒体在线播放的实时数据，其中，所述实时数据包括实时访问数据及实时评论数据。

在本发明实施例中，所述子步骤1051可以由获取子模块5021执行。

评估子模块5022，用于根据实时数据对所述举报信息进行审核评估。具体为，当所述实时数据符合预设条件时，将所述举报信息评估为优先处理。需要说明的是，预设条件在本实施例中可以是所述实时访问量超过预设的访问量、所述举报描述信息中出现了在所述实时评论数据中出现次数超过预设次数的关键词或所述实时访问量超过预设的访问量的同时所述举报描述信息中出现了在所述实时评论数据中出现次数超过预设次数的关键词。

在本发明实施例中，所述子步骤1052可以由评估子模块5022执行。

处理模块503，用于根据评估结果对所述举报信息进行处理，以便对所述网络媒体内容进行监管。

在本发明实施例中，所述步骤s106及步骤s303可以由处理模块503执行。

综上所述，本发明提供的一种网络媒体监管方法及装置，应用于通信连接的多媒体终端及服务器，所述方法包括：所述多媒体终端根据所述举报请求获取播放的网络媒体内容的图像截图。使举报更加简便，方便用户加入举报不良信息的行列，共同维护良好的网络环境。所述多媒体终端响应用户对所述图像截图的处理而生成举报信息。所述服务器对所述举报信息进行审核评估以得到评估结果。可预先筛除恶意举报，减少管理员的审核工作量，节约时间成本及人力成本，所述服务器根据所述评估结果对所述举报信息进行处理，以便对所述网络媒体内容进行监管。使网络媒体监管更加高效。

以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应所述以权利要求的保护范围为准。