恶意用户举报方法及装置、举报信息处理方法及装置的制造方法
【技术领域】
[0001]本发明涉及互联网技术领域，尤其涉及一种恶意用户举报方法及装置、举报信息处理方法及装置。
【背景技术】
[0002]随着互联网的发展，即时通信工具等社交网络应用已经越来越融入网民的生活。而不少不法份子也开始通过社交网络应用传播色情、广告、邪教、诈骗信息谋取私利，称为社交网络应用中的恶意用户。
[0003]目前主流的社交网络应用中对恶意用户发布的内容进行举报的方法都是粗放的方式。其过程通常为，用户选中恶意用户或选择恶意用户发布的文本、图片或视频等多媒体内容，然后点击社交网络应用上的举报按钮发出用户举报指令，然后在弹出的输入框中输入举报的附带信息(可选的步骤)，附带信息包括原因、证据或恶意行为的类型等，例如:用户可输入“XX给我发送了 XXX邪教的宣传图片”的附带信息来说明其举报的原因和恶意行为。
[0004]然而，发明人经研究发现传统技术中对恶意用户的举报信息的处理至少存在以下问题:传统技术中，用户选中的举报内容首先需要后台的举报信息分析工具结合填写的附带信息进行归类，需要遍历不同类型的语义分析模型，找出匹配的语义分析模型对举报内容进行识别，从而判定举报信息是否符合惩罚条件。因此，需要较长的时间才能返回反馈信息(举报内容符合条件则进行惩罚，不符合则提示举报申请不通过)，使得用户举报得到响应的及时性不足。
【发明内容】
[0005]基于此，为了解决上述用户举报得到响应的及时性不足的技术问题，特提供了一种举报信息处理方法。
[0006]—种举报信息处理方法,包括:
[0007]接收举报请求，提取其中包含的目标用户标识和举报类型；
[0008]查找所述目标用户标识对应的操作记录；
[0009]获取与所述举报类型对应的语义分析模型；
[0010]根据所述语义分析模型判断所述操作记录是否对应恶意用户，若是，则生成相应的惩罚处理指令。
[0011]此外，为了解决上述用户举报得到响应的及时性不足的技术问题，还提供了一种举报信息处理装置。
[0012]一种举报信息处理装置，包括:
[0013]举报请求接收模块，用于接收举报请求，提取其中包含的目标用户标识和举报类型；
[0014]操作记录查找模块，用于查找所述目标用户标识对应的操作记录；
[0015]分析模型获取模块，用于获取与所述举报类型对应的语义分析模型；
[0016]恶意用户判定模块，用于根据所述语义分析模型判断所述操作记录是否对应恶意用户，若是，则生成相应的惩罚处理指令。
[0017]此外，为了解决上述用户举报得到响应的及时性不足的技术问题，还提供了一种恶意用户举报方法。
[0018]一种恶意用户举报方法，包括:
[0019]接收举报指令，获取所述举报指令对应的目标用户标识；
[0020]获取预设的举报类型并展示；
[0021]获取选中的举报类型生成举报请求并上报至服务器；
[0022]接收服务器返回的惩罚处理指令并执行。
[0023]此外，为了解决上述用户举报得到响应的及时性不足的技术问题，还提供了一种恶意用户举报装置。
[0024]一种恶意用户举报装置，包括:
[0025]举报指令接收模块，用于接收举报指令，获取所述举报指令对应的目标用户标识；
[0026]举报类型展示模块，用于获取预设的举报类型并展示；
[0027]举报请求上报模块，用于获取选中的举报类型生成举报请求并上报至服务器；
[0028]终端惩罚处理模块，用于接收服务器返回的惩罚处理指令并执行。
[0029]实施本发明实施例，将具有如下有益效果:
[0030]用户在使用基于上述恶意用户举报方法的终端向基于上述举报信息处理方法的服务器发起举报请求后，由于举报请求中附带了明确的举报类型，服务器可根据用户选择的举报类型快速地选择相应的语义分析模型对目标用户标识的操作记录进行快速地识别。和传统技术相比，由于选择的对操作记录进行识别的语义分析模型与选择的举报类型完全相关，因此仅通过单一的语义分析模型即可得到准确的判定。因此在传统技术的基础上不仅保证了举报信息处理的准确性，还提高了返回相应惩罚处理指令的及时性。
【附图说明】
[0031]为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0032]其中:
[0033]图1为一个应用场景中选择用户头像进行举报的界面图；
[0034]图2为传统技术中用户填写举报内容的界面图；
[0035]图3为一个实施例中一种恶意用户举报方法的流程图；
[0036]图4为一个实施例中一种举报信息处理方法的流程图；
[0037]图5为一个应用场景中选择举报类型的界面示意图；
[0038]图6为一个应用场景中选择举报类型的界面示意图；
[0039]图7为一个应用场景中选择举报类型的界面示意图；
[0040]图8为一个应用场景中选择举报类型的界面示意图；
[0041]图9为一个应用场景中填写举报附加内容的界面示意图；
[0042]图10为一个实施例中一种恶意用户举报装置的结构图；
[0043]图11为一个实施例中一种举报信息处理装置的结构图。
【具体实施方式】
[0044]下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
[0045]传统技术中的社交网络应用中的举报机制的软件实现包括客户端和服务器两部分。客户端部分可参考图1所示，在社交网络应用客户端操作的用户可右键点击骚扰信息发送者的头像，然后点击举报，则会弹出如图2所示的输入框，提示用户输入举报内容，然后客户端将该举报内容上报至服务器。由图1和图2可看出，传统技术中的举报机制中，举报内容由进行举报的用户在客户端手动输入，因此其输入的理由或证据具有较大的随意性，使得在该机制中，服务器需要先通过语义分析，对该骚扰信息发送者的骚扰行为进行归类，然后再判断其是否符合惩罚条件。而归类的方法也通常为遍历多个语义分析模型，找出最匹配的语义分析模型对应的举报类型。
[0046]例如，服务器上预先可创建有广告信息分析模型、色情信息分析模型和反动信息分析模型等多个语义分析模型，对于用户填写的举报内容则可依次使用上述广告信息分析模型、色情信息分析模型和反动信息分析模型进行分析，若广告信息分析模型进行分析后得到的匹配度最高，则判定该用户填写的举报内容为垃圾广告骚扰，则可进一步判定该骚扰信息发送者是否符合惩罚条件。
[0047]由上可看出，在传统的社交网络应用举报机制中，用户通过客户端上传的举报内容不明确，服务器需要花费较多的时间用于对举报内容归类分析上，因此导致了进行惩处措施的响应不及时的问题。
[0048]为解决上述服务器响应不及时的问题，在一个实施例中，特提出了一种新的社交网络应用的举报机制，该举报机制由两部分的方法步骤组成，包括运行于社交网络应用客户端的恶意用户举报方法(终端部分)以及相应的运行于社交网络应用服务器的举报信息处理方法(服务器部分)。在终端上运行的恶意用户举报方法和在服务器上