群内防骚扰方法及装置的制造方法
【技术领域】
[0001]本公开涉及信息发布技术领域，尤其涉及群内防骚扰方法及装置。
【背景技术】
[0002]在网络群聊天系统中，在群成员很多的时候，需要对群进行管理，保证群成员都按照群的规定进行发布消息，聊天等，必要的时候，需要对恶意散发广告、发危险链接等群成员及其发布的信息进行相应的处理，避免对其他群成员造成骚扰，相关技术中通常由群主或其他管理人员人工进行处理，为他们带来不少负担。
【发明内容】
[0003]本公开实施例提供了一种群内防骚扰方法及装置。所述技术方案如下:
[0004]根据本公开实施例的第一方面，提供一种群内防骚扰方法，包括:
[0005]对群成员发布的历史信息进行分析，确定所述历史信息是否包含恶意信息；
[0006]当确定所述历史信息包含恶意信息时，确定所述群成员对应的骚扰等级；
[0007]按照所述群成员对应的骚扰等级，对所述群成员执行对应的防骚扰处理，所述防骚扰处理用于防止所述群成员再次发布恶意信息。
[0008]在上述实施例中，对群成员发布的历史信息是否包含恶意信息进行识别，对发布恶意信息的群成员进行适当的处理，防止该群成员再次发布恶意信息，从而达到了净化群信息、避免恶意信息对群成员造成骚扰的目的，减轻了群管理人员的负担，提升了群聊天的安全度和用户使用体验。
[0009]在一个实施例中，对群成员发布的历史信息进行分析，确定所述历史信息是否包含恶意信息，包括:
[0010]将所述群成员发布的历史信息的内容，与预设的恶意信息库中的内容进行匹配，根据匹配结果，确定所述历史信息是否包含恶意信息。
[0011]通过恶意信息库进行匹配的方式，上述实施例提供了一种可以便捷、准确地识别恶意信息的方式。
[0012]在一个实施例中，将所述每个群成员发布的历史信息的内容，与预设的恶意信息库中的内容进行匹配，根据匹配结果，确定所述历史信息是否包含恶意信息，包括:
[0013]计算所述恶意信息库中的各个恶意关键词在所述群成员发布的历史信息中出现的总次数；
[0014]当所述总次数大于或者等于第一预设次数阈值时，确定所述群成员发布的历史信息中包含恶意信息。
[0015]上述实施例为如何与恶意信息库进行匹配识别出恶意信息，提供了【具体实施方式】，以便准确，快速地识别出恶意信息。
[0016]在一个实施例中，对群成员发布的历史信息进行分析，确定所述历史信息是否包含恶意信息，包括:
[0017]统计所述群成员发布的历史信息被其他群成员反馈为恶意信息的次数；
[0018]当所述次数大于或者等于第二预设次数阈值时，确定所述群成员发布的历史信息包含恶意信息。
[0019]上述实施例提供了另外一种识别恶意信息的方式，对于广告、灌水等恶意信息的识别提供了方便的实施方式。
[0020]在一个实施例中，对群成员发布的历史信息进行分析，确定所述历史信息是否包含恶意信息，包括:
[0021]当所述群成员发布信息的次数达到第三预设次数阈值时，获取所述群成员发布的历史信息的内容相似度；
[0022]当所述内容相似度大于或者等于预设相似度阈值时，确定所述群成员发布的历史信息包含恶意信息。
[0023]上述实施例提供了另外一种识别恶意信息的方式，对于广告、灌水等恶意信息的识别提供了方便的实施方式。
[0024]在一个实施例中，当确定所述历史信息包含恶意信息时，确定所述群成员对应的骚扰等级，包括:
[0025]当确定所述历史信息包含恶意信息时，根据预设条件参数确定所述群成员对应的骚扰等级，其中，所述预设条件参数包括下述一项或多项:所述历史信息中恶意关键词出现的总次数、所述群成员发布的历史信息被其他群成员反馈为恶意信息的次数、所述群成员发布的历史信息的内容相似度；所述骚扰等级包括:第一级别、第二级别和第三级别；
[0026]所述按照所述群成员对应的骚扰等级，对所述群成员执行对应的防骚扰处理，包括:
[0027]当所述群成员对应的骚扰等级为所述第一级别时，向所述群成员发出警告信息；
[0028]当所述群成员对应的骚扰等级为所述第二级别时，在预设时间段内屏蔽所述群成员发布的信息；
[0029]当所述群成员对应的骚扰等级为所述第三级别时，删除所述群成员；
[0030]其中，所述第一级别、所述第二级别、所述第三级别分别对应的所述预设条件参数的值依次递增。
[0031]上述实施例根据群成员发布的历史信息中恶意关键词出现的总次数、群成员发布的历史信息被其他群成员反馈为恶意信息的次数、群成员发布的历史信息的内容相似度，差异化地对群成员进行防骚扰处理，使得群的防骚扰策略更灵活，保障群的安全性的同时，提高用户使用体验。
[0032]根据本公开实施例的第二方面，提供一种群内防骚扰装置，包括:
[0033]恶意信息确定模块，用于对群成员发布的历史信息进行分析，确定所述历史信息是否包含恶意?目息；
[0034]等级确定模块，用于当所述恶意信息确定模块确定群成员发布的历史信息包含恶意信息时，确定所述群成员对应的骚扰等级；
[0035]防骚扰处理模块，用于按照所述等级确定模块确定的所述群成员对应的骚扰等级，对所述群成员执行对应的防骚扰处理，所述防骚扰处理用于防止所述群成员再次发布恶意信息。
[0036]在一个实施例中，所述恶意信息确定模块，包括:
[0037]匹配子模块，用于将所述群成员发布的历史信息的内容，与预设的恶意信息库中的内容进行匹配；
[0038]第一确定子模块，用于根据所述匹配子模块的匹配结果，确定所述历史信息是否包含恶意信息。
[0039]在一个实施例中，所述第一确定子模块，用于计算所述恶意信息库中的各个恶意关键词在所述群成员发布的历史信息中出现的总次数；当所述总次数大于或者等于第一预设次数阈值时，确定所述群成员发布的历史信息中包含恶意信息。
[0040]在一个实施例中，所述恶意信息确定模块，包括:
[0041]统计子模块，用于统计所述群成员发布的历史信息被其他群成员反馈为恶意信息的次数；
[0042]第二确定子模块，用于当所述统计子模块计算出的所述次数大于或者等于第二预设次数阈值时，确定所述群成员发布的历史信息包含恶意信息。
[0043]在一个实施例中，所述恶意信息确定模块，包括:
[0044]获取子模块，用于当所述群成员发布信息的次数达到第三预设次数阈值时，获取所述群成员发布的历史信息的内容相似度；
[0045]判断子模块，用于判断所述获取子模块获取到的所述内容相似度是否大于或者等于预设相似度阈值；
[0046]第三确定子模块，用于当所述判断子模块判断所述内容相似度大于或者等于预设相似度阈值时，确定所述群成员发布的历史信息包含恶意信息。
[0047]在一个实施例中，所述等级确定模块，用于当确定所述历史信息包含恶意信息时，根据预设条件参数确定所述群成员对应的骚扰等级，其中，所述预设条件参数包括下述一项或多项:所述历史信息中恶意关键词出现的总次数、所述群成员发布的历史信息被其他群成员反馈为恶意信息的次数、所述群成员发布的历史信息的内容相似度；所述骚扰等级包括:第一级别、第二级别和第三级别；
[0048]所述防骚扰处理模块，包括:
[0049]第一处理子模块，用于当所述等级确定模块确定所述群成员对应的骚扰等级为所述第一级别时，向所述群成员发出警告信息；
[0050]第二处理子模块，用于当所述等级确定模块确定所述群成员对应的骚扰等级为所述第二级别时，在预设的时间段内屏蔽所述群成员所发布的信息；
[0051]第三处理子模块，用于当所述等级确定模块确定所述群成员对应的骚扰等级为所述第三级别时，删除所述群成员；
[0052]其中，所述第一级别、所述第二级别、所述第三级别分别对应的所述预设条件参数的值依次递增。
[0053]根据本公开实施例的第三方面，提供一种群内防骚扰装置，包括:
[0054]处理器；
[0055]用于存储处理器可执行指令的存储器；
[0056]其中，所述处理器被配置为:
[0057]对群成员发布的历史信息进行分析，确定所述历史信息是否包含恶意信息；
[0058]当确定所述历史信息包含恶意信息时，确定所述群成员对应的骚扰等级；
[0059]按照所述群成员对应的骚扰等级，对所述群成员执行对应的防骚扰处理，所述防骚扰处理用于防止所述群成员再次发布恶意信息。
[0060]本公开的实施例提供的技术方案可以包括以下有益效果:
[0061]本公开实施例提供的上述群内防骚扰方法及装置，对群成员发布的历史信息进行智能分析，确定其中是否包含恶意信息，当确定其中包含恶意信息时，确定该群成员对应的骚扰等级，并根据该骚扰等级，执行对应的防骚扰处理，上述技术方案，能够智能地识别出用户发出的恶意信息，按照预设的规则，对发布恶意信息的群成员进行适当的处理，防止该群成员再次发布恶意信息，从而达到了净化群信息、避免恶意信息对群成员造成骚扰的目的，减轻了群管理人员的负担，提升了群聊天的安全度和用户使用体验。