过滤垃圾消息的方法及装置制造方法
【专利摘要】本公开是关于一种过滤垃圾消息的方法及装置，用以解决为社交应用的用户过滤垃圾消息的问题。一种过滤垃圾消息的方法包括：接收社交应用的第二客户端发送来的消息；判断第二客户端的用户是否为预设可筛选用户；当第二客户端的用户为预设可筛选用户时，判断消息中是否包含垃圾消息关键词；当消息中包含所述垃圾消息关键词时，过滤消息。采用本公开的技术方案，通过对第二客户端的用户以及垃圾消息关键词的综合筛选，使得过滤消息的依据不再单一，避免了误伤正常消息的情况，从而有效地为社交应用的用户过滤垃圾消息，排除干扰，提升用户对社交应用的体验度。
【专利说明】过滤垃圾消息的方法及装置
【技术领域】
[0001]本公开涉及社交应用，尤其涉及一种过滤垃圾消息的方法及装置。
【背景技术】
[0002]在社交应用中，用户经常收到一些类似广告、骚扰和诈骗等的垃圾消息，使用户在社交过程中感到困扰。
[0003]相关技术中，仅在邮件和短信中可以对垃圾消息进行过滤，过滤的方法为通过识别消息中是否包含从互联网信息中心提供的关键词库中提炼的垃圾关键词，当消息中包含垃圾关键词时，过滤该消息。这种简单的通过关键词来过滤垃圾消息的方法并不适用于社交应用中。
[0004]在社交应用中，如即时通讯软件中，由于用户与用户之间都存在相互联系的可能，上述对用户之间的消息进行简单的垃圾短信辨识，过滤依据单一，会很容易误伤正常用户发送的消息，导致正常消息的错误过滤，从而影响社交应用软件的正常社交功能。因此，现有的垃圾消息过滤技术无法直接应用于即时通讯软件，无法在社交应用平台中进行消息的过滤。
【发明内容】
[0005]为克服相关技术中存在的问题，本公开实施例提供过滤垃圾消息的方法及装置，用以解决为社交应用的用户过滤垃圾消息的问题。
[0006]根据本公开实施例的第一方面，提供一种过滤垃圾消息的方法，包括:
[0007]接收所述社交应用的第二客户端发送来的消息；
[0008]判断所述第二客户端的用户是否为预设可筛选用户；
[0009]当所述第二客户端的用户为预设可筛选用户时，判断所述消息中是否包含垃圾消息关键词；
[0010]当所述消息中包含所述垃圾消息关键词时，过滤所述消息。
[0011]本公开的实施例提供的技术方案可以包括以下有益效果:社交应用的第一客户端通过分析第二客户端的用户是否为预设可筛选用户，当第二客户端的用户为预设可筛选用户时，判断第二客户端发送来的消息中是否含有垃圾消息关键词，将包含有垃圾消息关键词的消息过滤，这样，通过先筛选出更具有发送垃圾消息的倾向的用户，仅针对这部分用户进行垃圾消息关键词的筛选，使得过滤消息的依据不再单一，使得垃圾消息的过滤更具有针对性，避免了误伤正常消息的情况，从而有效地为社交应用的用户过滤垃圾消息，排除干扰，提升用户对社交应用的体验度。
[0012]可选的，所述预设可筛选用户包括以下用户中的至少一种用户:
[0013]与所述第一客户端的用户的联系频率低于预设频率的用户；
[0014]通过所述社交应用中的非好友联系功能收发消息的用户，所述非好友联系功能是非好友的两个用户实现联系的功能；[0015]使用模拟机发送消息的用户；
[0016]根据用户属性发送消息的用户。
[0017]在可选方案中，有针对性的对第二客户端的用户进行筛选，进而更加有效地过滤垃圾消息。
[0018]可选的，所述垃圾消息关键词包括以下关键词中的任一关键词:
[0019]从所述第一客户端的用户举报的消息中提取的垃圾消息关键词；
[0020]从在预设时间段内发送次数高于预设次数的消息中提取的垃圾消息关键词；
[0021]所述第一客户端的用户自定义的垃圾消息关键词。
[0022]可选的，所述当所述消息中包含所述垃圾消息关键词时，过滤所述消息之后，所述方法还包括:
[0023]存储所述过滤的消息。
[0024]在可选方案中，通过存储过滤的消息，使得用户可进一步对过滤的消息进行删除或恢复操作。
[0025]可选的，所述方法还包括:
[0026]当接收到所述第一客户端的用户对所述过滤的消息的恢复操作时，恢复所述过滤的消息；或
[0027]当接收到所述第一客户端的用户对所述过滤的消息的删除操作时、或者当所述过滤的消息的存储时长超过预设时长时，删除所述过滤的消息。
[0028]在可选方案中，用户可进一步对过滤的消息进行删除或恢复操作。
[0029]可选的，所述当接收到所述第一客户端的用户对所述过滤的消息的恢复操作后，恢复所述过滤的消息，包括:
[0030]获取所述过滤的消息的时间戳，所述时间戳包含所述第一客户端的用户接收到所述消息的时间；
[0031]将所述过滤的消息恢复到所述时间戳对应的消息流中的位置。
[0032]在可选方案中，按照过滤的消息中所携带的时间戳，将消息按时间顺序恢复到消息流中的相应位置，方便用户进行查看。
[0033]可选的，所述方法还包括:
[0034]发出存在所述过滤的消息的提醒。
[0035]在可选方案中，向用户提醒过滤的消息，使得用户能够对没有及时处理的消息进
一步操作。
[0036]可选的，当所述第二客户端的用户为预设可筛选用户时，所述方法还包括:
[0037]根据所述第二客户端的用户信息，获取所述第二客户端发送的历史消息的过滤率值；
[0038]当所述过滤率值高于预设率值时，过滤所述第二客户端发送的消息。
[0039]在可选方案中，根据第二客户端的用户所发送的历史消息的过滤率值，判断是否过滤第二客户端发送的消息，从而有效地为第一客户端的用户过滤垃圾消息，为用户扫除干扰，提升用户对社交应用的体验度。
[0040]可选的，在判断所述第二客户端的用户是否为预设可筛选用户之前，所述方法还包括:[0041]根据所述第二客户端的用户信息，获取所述第二客户端的用户的注册时间及活跃时间；
[0042]根据所述第二客户端的用户的注册时间及活跃时间，分析所述第二客户端的用户的活跃度；
[0043]当所述活跃度小于预设的活跃度时，执行所述判断所述第二客户端的用户是否为预设可筛选用户。
[0044]在可选方案中，根据用户的活跃度来筛选用户，可防止对正常消息的错误过滤。
[0045]根据本公开实施例的第二方面，提供一种过滤垃圾消息的装置，包括:
[0046]接收模块，用于接收所述社交应用的第二客户端发送来的消息；
[0047]第一判断模块，用于判断向所述接收模块发送消息的所述第二客户端的用户是否为预设可筛选用户；
[0048]第二判断模块，用于当所述第一判断模块判断所述第二客户端的用户为预设可筛选用户时，判断所述消息中是否包含垃圾消息关键词；
[0049]第一过滤模块，用于当所述第二判断模块判断所述消息中包含所述垃圾消息关键词时，过滤所述消息。
[0050]可选的，所述装置还包括:
[0051]存储模块，用于存储所述第一过滤模块过滤的消息。
[0052]可选的，所述装置还包括:
[0053]恢复模块，用于当接收到所述第一客户端的用户对所述第一过滤模块过滤的消息的恢复操作时，恢复所述过滤的消息；
[0054]删除模块，用于当接收到所述第一客户端的用户对所述第一过滤模块过滤的消息的删除操作时、或者当所述过滤的消息的存储时长超过预设时长时，删除所述过滤的消息。
[0055]可选的，所述恢复模块包括:
[0056]第一获取单元，用于获取所述过滤的消息的时间戳，所述时间戳包含所述第一客户端的用户接收到所述消息的时间；
[0057]恢复单元，用于将所述过滤的消息恢复到所述第一获取单元获取的所述时间戳对应的消息流中的位置。
[0058]可选的，所述装置还包括:
[0059]提醒模块，用于发出存在所述第一过滤模块过滤的消息的提醒。
[0060]可选的，所述装置还包括:
[0061]第一获取模块，用于当所述第二客户端的用户为预设可筛选用户时，获取向所述接收模块发送消息的所述第二客户端发送的历史消息的过滤率值；
[0062]第二过滤模块，用于当所述第一获取模块获取的所述过滤率值高于预设率值时，过滤所述第二客户端发送的消息。
[0063]可选的，所述装置还包括:
[0064]第二获取模块，用于获取向所述接收模块发送消息的所述第二客户端的用户的注册时间及活跃时间；
[0065]分析模块，用于根据所述第二获取模块获取的所述第二客户端的用户的注册时间及活跃时间，分析所述第二客户端的用户的活跃度；[0066]控制模块，用于当所述分析模块分析出所述活跃度小于预设的活跃度时，控制所述第一判断模块判断所述第二客户端的用户是否为预设可筛选用户。
[0067]根据本公开实施例的第三方面，提供一种过滤垃圾消息的装置，包括:
[0068]处理器；
[0069]用于存储处理器可执行指令的存储器；
[0070]其中，所述处理器被配置为:
[0071]接收所述社交应用的第二客户端发送来的消息；
[0072]判断所述第二客户端的用户是否为预设可筛选用户；
[0073]当所述第二客户端的用户为预设可筛选用户时，判断所述消息中是否包含垃圾消息关键词；
[0074]当所述消息中包含所述垃圾消息关键词时，过滤所述消息。
[0075]应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。
【专利附图】
【附图说明】
[0076]此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本发明的实施例，并与说明书一起用于解释本发明的原理。
[0077]图1是根据一示例性实施例示出的一种过滤垃圾消息的方法的流程图；
[0078]图2是根据一示例性实施例示出的一种过滤垃圾消息的方法的流程图；
[0079]图3是根据一示例性实施例示出的一种社交应用中垃圾箱的界面示意图；
[0080]图4是根据一示例性实施例示出的一种社交应用中垃圾箱中存储的消息列表示意图；
[0081]图5是根据一示例性实施例示出的一种社交应用中用户点击过滤的消息时显示操作选项的示意图；
[0082]图6是根据一示例性实施例示出的一种社交应用中用户删除过滤的消息的操作示意图；
[0083]图7是根据一示例性实施例示出的一种社交应用中用户删除过滤的消息的操作示意图；
[0084]图8是根据一示例性实施例示出的一种社交应用中用户恢复过滤的消息的操作示意图；
[0085]图9是根据一示例性实施例示出的一种社交应用中用户恢复过滤的消息的操作示意图；
[0086]图10是根据一示例性实施例示出的一种社交应用中清空过滤的消息的操作示意图；
[0087]图11是根据一示例性实施例示出的一种社交应用中清空过滤的消息的操作示意图；
[0088]图12是根据一示例性实施例示出的一种社交应用中垃圾箱的界面显示图；
[0089]图13是根据一示例性实施例示出的一种社交应用中设置垃圾消息的界面显示图；[0090]图14是根据一示例性实施例示出的一种过滤垃圾消息的装置的框图；
[0091]图15是根据一示例性实施例示出的恢复模块的结构框图；
[0092]图16是根据一示例性实施例示出的一种装置的框图。
【具体实施方式】
[0093]这里将详细地对示例性实施例进行说明，其示例表示在附图中。下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本发明相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本发明的一些方面相一致的装置和方法的例子。
[0094]图1是根据一示例性实施例示出的一种过滤垃圾消息的方法的流程图，如图1所示，一种过滤垃圾消息的方法用于社交应用的第一客户端，如即时通讯软件的第一客户端中，该方法包括以下步骤:
[0095]步骤SI I，接收社交应用的第二客户端发送来的消息；
[0096]步骤S12，判断第二客户端的用户是否为预设可筛选用户；
[0097]步骤S13，当第二客户端的用户为预设可筛选用户时，判断上述消息中是否包含垃圾消息关键词；
[0098]步骤S14，当上述消息中包含垃圾消息关键词时，过滤上述消息。
[0099]本公开实施例的技术方案中，社交应用的第一客户端通过分析第二客户端的用户是否为预设可筛选用户，当第二客户端的用户为预设可筛选用户时，判断第二客户端发送来的消息中是否含有垃圾消息关键词，将包含有垃圾消息关键词的消息过滤，这样，通过先筛选出更具有发送垃圾消息的倾向的用户，仅针对这部分用户进行垃圾消息关键词的筛选，使得过滤消息的依据不再单一，使得垃圾消息的过滤更具有针对性，避免了误伤正常消息的情况，从而有效地为社交应用的用户过滤垃圾消息，排除干扰，提升用户对社交应用的体验度。
[0100]在一个实施例中，在步骤S12中，通过将第一客户端的用户与第二客户端的用户种类进行细化，即接收消息的用户与发送消息的用户种类进行细化，来判断第二客户端的用户是否为预设可筛选用户。
[0101]第一客户端的用户即接收消息的用户，可细化为以下几种:第一种是单聊用户，主要针对使用握手、附近等弱关系社交功能的人群所接收到的垃圾消息。第二种是小纸条用户，主要针对使用弱关系社交功能的用户。第三种是群聊用户，主要针对群活跃用户或有较多兴趣群或附近群的用户。
[0102]第二客户端的用户即发送消息的用户，可细化为以下几种:第一种是刷号用户，即以盈利为目的，发布大量妨碍用户体验社交应用的消息。第二种是针对性投放广告的用户，即根据用户标签、地域等属性有针对性地发布广告的用户。第三种是个人骚扰性用户，主要针对通过某些弱关系功能发送消息的用户。上述的弱关系功能一般指非好友关系之间用来实现联系的功能，例如小纸条功能、握手功能等。
[0103]在一个实施例中，参考对上述第一客户端的用户及第二客户端的用户的种类细分，可以设置预设可筛选用户包括以下用户中的至少一种用户:
[0104](I)与第一客户端的用户的联系频率低于预设频率的用户；上述细化的第一客户端的用户及第二客户端的用户种类中，单聊用户中使用弱关系社交功能的用户、小纸条用户或个人骚扰性用户，通常与另一客户端的用户联系频率较低，因此可确定为与第一客户端的用户的联系频率低于预设频率的用户；
[0105](2)通过社交应用中的非好友联系功能收发消息的用户，非好友联系功能是非好友的两个用户实现联系的功能；非好友联系功能即上述细化用户种类中的弱关系功能，例如小纸条功能，上述细化的用户种类中，小纸条用户即为通过社交应用中的非好友联系功能收发消息的用户；
[0106](3)使用模拟机发送消息的用户；例如，使用模拟机发布大量妨碍用户体验社交应用的消息，上述细化的用户种类中，刷号用户即为使用模拟机发送消息的用户；
[0107](4)根据用户属性发送消息的用户；例如，根据用户的标签、地域等属性有针对性地发送淘宝、兼职广告、虚假信息等，上述细化的用户种类中，群聊用户中根据群属性发送消息的用户、针对性投放广告的用户及个人骚扰性用户都可以确定为根据用户属性发送消息的用户。
[0108]此外，在确定第二客户端的用户是否为预设可筛选用户时，可通过从第二客户端发送来的消息中获取第二客户端的用户信息，从而根据第二客户端的用户信息，分析第二客户端的用户是否为预设可筛选用户。
[0109]在一个实施例中，上述垃圾消息关键词可以包括以下关键词中的任一关键词:
[0110](I)从第一客户端的用户举报的消息中提取的垃圾消息关键词；当第一客户端的用户接收到的消息属于垃圾消息时，可对垃圾消息进行举报，服务器对用户上报的消息进行分析，并提取出其中的垃圾消息关键词，存储在垃圾消息关键词库中。
[0111](2)从在预设时间段内发送次数高于预设次数的消息中提取的垃圾消息关键词；如果一段时间段内，第一客户端的用户重复接收某一消息，则该消息很可能是垃圾消息，服务器根据接收到的消息在预设时间段内的重复次数，从重复接收的消息中提取垃圾消息关键词。其中，预设时间段和预设次数可根据需要进行设定，例如，预设时间段设为2天，预设次数设为5次，则对第一客户端的用户来说，当某一消息在2天之内重复接收的次数超过5次时，服务器就会从该重复消息中提取垃圾消息关键词，存储在垃圾消息关键词库中。
[0112](3)第一客户端的用户自定义的垃圾消息关键词；第一客户端的用户可自定义垃圾消息关键词，存储在垃圾消息关键词库中。
[0113]此外，垃圾消息关键词库为根据垃圾广告分词算法的方式及互联网信息中心等相关机关所提炼的关键词，包括广告词、非法词等。
[0114]在步骤S14之后，当过滤掉垃圾消息后，上述方法还可包括:
[0115]存储过滤的消息。
[0116]将过滤的消息存储在社交应用的垃圾箱中，使得用户能够对过滤的消息进行删除操作或者恢复操作。当消息被错误过滤时，用户即可从垃圾箱中恢复被错误过滤的消息。
[0117]在一个实施例中，过滤的消息被存储在社交应用的垃圾箱中，而未被过滤的消息则显示在社交应用的消息流中，具体步骤可实施为如下流程，如图2所示:
[0118]步骤S21，接收社交应用的第二客户端发送来的消息；
[0119]步骤S22，获取第二客户端的用户信息；
[0120]步骤S23，判断第二客户端的用户是否为预设可筛选用户；若第二客户端的用户为预设可筛选用户，则执行步骤S24 ;若第二客户端的用户不为预设可筛选用户，则执行步骤 S27 ；
[0121]步骤S24，判断消息中是否包含垃圾消息关键词；若消息中包含垃圾消息关键词，则执行步骤S25 ;若消息中不包含垃圾消息关键词，则执行步骤S27 ；
[0122]步骤S25，过滤消息；
[0123]其中，过滤消息可以为不立即呈现该消息，或者不将该消息放入正常的消息对话记录中，本公开对此不做限定。
[0124]步骤S26，将过滤的消息存储在社交应用的垃圾箱中；
[0125]可选的，过滤的消息可以立即删除。为了满足用户有可能查看垃圾消息的需求，也可以进一步的将过滤池的消息存储在垃圾箱中。这样，用户可以在垃圾箱中查看已过滤的垃圾消息历史，也可以选择将垃圾箱中的垃圾消息恢复到正常的消息对话记录中。
[0126]步骤S27，将消息显示给第一客户端的用户。
[0127]若消息中不包含垃圾消息关键词，则可以按照正常的消息处理，可参考相关技术中用户消息的处理方式，例如可以立即呈现给用户，或放入消息对话记录中，本实施例对此不做限定。
[0128]在存储过滤的消息之后，可根据用户的指示对垃圾箱中存储的过滤的消息进行恢复或删除，此时，上述方法还可包括:
[0129]当接收到第一客户端的用户对过滤的消息的恢复操作时，恢复过滤的消息；或者，当接收到第一客户端的用户对过滤的消息的删除操作时、或者当过滤的消息的存储时长超过预设时长时，删除过滤的消息。用户可通过在终端的显示界面上，对所显示的垃圾箱中存储的消息进行操作，从而删除或恢复过滤的消息。
[0130]以下通过具体实施例说明终端上的界面显示及用户在显示界面上的恢复操作或删除操作。
[0131 ] 在实施例中，以社父应用X聊为例，如图3所不，在X聊应用中，终端界面上依次显示X聊的垃圾消息盒子、发现功能、打招呼功能及用户所接收到其他用户的消息(例如用户1、用户2、用户3发送给当前用户的消息)。在垃圾消息盒子中，存储过滤后的消息，当用户点击垃圾消息盒子时，可展开显示垃圾消息盒子中所存储的过滤的消息列表，如图4所示。用户通过点击动作打开垃圾消息盒子后，就会显示过滤的用户4和用户5所发送的消息列表，在用户名称的下方，还可显示所过滤的消息的内容。
[0132]对于显示界面上显示的垃圾箱中的消息，用户可设定与恢复操作或删除操作对应的动作。例如，当用户点击垃圾箱中的消息时，显示针对该消息的选项，包括删除该消息、恢复该消息以及恢复并回复该消息。图5所示为一实施例中用户点击过滤的消息时显示操作选项的示意图，如图5所示，仍以X聊中的垃圾消息盒子为例。垃圾消息盒子中存储有用户4和用户5发送的消息，当用户点击列表中的用户4时，在屏幕的下方则会显示针对该消息的操作选项。在操作选项中，当用户点击“删除该消息”时，用户4发送的消息就会被删除；当用户点击“恢复该消息”时，用户4发送的消息就会被恢复到消息列表中，供用户查看或者回复；当用户点击“恢复并回复该消息”时，用户3发送的消息就会被恢复到消息列表中，同时，用户可直接回复该消息。
[0133]此外，用户也可通过左右滑动的操作对垃圾消息盒子中存储的过滤的消息进行恢复或者删除。如图6所示，当用户手指按照图中所示箭头的方向向左滑动时，列表中用户5的右侧就会出现“删除”选项，如图7所示，用户继续向左滑动或者点击“删除”选项，即可删除用户5发送的消息。相应地，如图8所示，当用户手指按照图中所示箭头的方向向右滑动时，列表中用户5的左侧就会出现“恢复”选项，如图9所示，用户继续向右滑动或者点击左侧的“恢复”选项，即可恢复用户5发送的消息。
[0134]在一个实施例中，当过滤的消息的存储时长超过预设时长时，系统可以自动删除存储的过滤的消息，预设时长可根据需要设定，例如设定为30天，则垃圾箱中过滤的消息存储时长超过30天后，系统就会自动删除该消息。例如，用户可对垃圾箱中存储的过滤的消息进行清空操作。如图10所示，仍以X聊中的垃圾消息盒子为例，在垃圾消息盒子中存储有用户4和用户5发送的消息，进入垃圾消息盒子，显示用户4和用户5的消息列表，以及清空垃圾消息的选项。当用户点击“清空垃圾消息”选项后，显示界面会显示是否清空所有垃圾消息的选项，包括“取消”选项和“确定”选项，如图11所示。当用户点击“确定”选项后，就会清空所有垃圾消息，垃圾消息盒子为空。
[0135]上述恢复过滤的消息的步骤可以实施为:获取过滤的消息的时间戳，时间戳包含第一客户端的用户接收到消息的时间；将过滤的消息恢复到时间戳对应的消息流中的位置。按照过滤的消息中所携带的时间戳，将消息按时间顺序恢复到消息流中的相应位置，方便用户进行查看。
[0136]在一个实施例中，当第二客户端发送的消息被过滤并存储至垃圾箱中后，还可向第一客户端的用户发出存在过滤的消息的提醒。在垃圾箱中，用户可根据需要设置提醒的方式，例如，设置为按照预设的频率对第一客户端的用户发出提醒，预设的频率可由用户设定，如每隔一天提醒一次。例如，用户可通过终端上显示的垃圾箱中的设置功能进行设置，仍以X聊中的垃圾消息盒子为例，如图12所示，在垃圾消息盒子的右上方，显示有“设置”选项，用户可通过点击“设置”选项，对提醒操作进行设置。如图13所示，当用户点击“设置”选项后，就会进入设置功能，屏幕上显示提醒操作的几种方式的选项，包括“拦截消息，每天提醒一次”、“拦截消息，不提醒”以及“禁用该插件”选项。用户若选择“拦截消息，每天提醒一次”选项，则消息被过滤后，存储在垃圾消息盒子中，系统会每隔24小时向用户发出一次存在过滤的消息的提醒；用户若选择“拦截消息，不提醒”选项，则消息被过滤后，存储在垃圾消息盒子中，不向用户发出存在过滤的消息的提醒；用户若选择“禁用该插件”选项，则过滤消息的功能不启用，用户接收到的所有的消息都会存储在消息流中。
[0137]在一个实施例中，上述方法，在执行完步骤S11-S12之后，可以继续执行步骤S13-14来完成对垃圾消息的过滤；还可以在执行完步骤S11-S12之后，当第二客户端的用户为预设可筛选用户时，根据第二客户端的用户发送的历史消息的过滤率值来判断是否需要过滤消息，具体实施步骤如下:
[0138]步骤Al，获取第二客户端的用户发送的历史消息的过滤率值；
[0139]步骤A2，当过滤率值高于预设率值时，过滤第二客户端的用户发送的消息。
[0140]其中，预设率值可根据需要进行设定，例如，将预设率值设定为50%，当第二客户端的用户发送的历史消息的过滤率值超过50%时，则直接过滤掉该用户发送的消息。
[0141]按照上述实施步骤判断是否过滤消息，即根据第二客户端的用户所发送的历史消息的过滤率值，判断是否过滤第二客户端发送的消息，从而有效地为第一客户端的用户过滤垃圾消息，为用户扫除干扰，提升用户对社交应用的体验度。
[0142]在一个实施例中，上述方法，在执行完步骤S12之前，可以直接执行步骤S12来判断第二客户端的用户是否为预设可筛选用户，从而完成对垃圾消息的过滤，也可再增加其他判断条件，当判断条件满足时，判断第二客户端的用户是否为预设可筛选用户。例如，分析第二客户端的用户的活跃度，当活跃度小于预设的活跃度时，再判断第二客户端的用户是否为预设可筛选用户。具体可实施为以下步骤:
[0143]步骤BI，获取第二客户端的用户的注册时间及活跃时间；
[0144]步骤B2，根据第二客户端的用户的注册时间及活跃时间，分析第二客户端的用户的活跃度；
[0145]步骤B3，当活跃度小于预设的活跃度时，执行判断第二客户端的用户是否为预设可筛选用户。
[0146]在该实施例中，根据用户的活跃度来筛选用户，可防止对正常消息的错误过滤。
[0147]其中，第二客户端的用户的活跃度根据用户的注册时间及活跃时间来分析，活跃时间可具体分为日活跃时间或周活跃时间，当按照日活跃时间来分析时，可分析用户的日活跃度，主要依据为用户每日的消息量，当按照周活跃时间来分析时，可分析用户的周活跃度，主要依据为用户每周的消息量。
[0148]图14是根据一示例性实施例示出的一种过滤垃圾消息的装置框图。参照图14，该装置包括:
[0149]接收模块141，用于接收社交应用的第二客户端发送来的消息；
[0150]第一判断模块142，用于判断向接收模块141发送消息的第二客户端的用户是否为预设可筛选用户；
[0151]第二判断模块143，用于当第一判断模块142判断第二客户端的用户为预设可筛选用户时，判断消息中是否包含垃圾消息关键词；
[0152]第一过滤模块144，用于当第二判断模块143判断消息中包含垃圾消息关键词时，过滤消息；
[0153]存储模块145，用于存储第一过滤模块144过滤的消息；
[0154]恢复模块146，用于当接收到第一客户端的用户对第一过滤模块144过滤的消息的恢复操作时，恢复过滤的消息；
[0155]删除模块147，用于当接收到第一客户端的用户对第一过滤模块144过滤的消息的删除操作时、或者当过滤的消息的存储时长超过预设时长时，删除过滤的消息；
[0156]提醒模块148，用于发出存在第一过滤模块144过滤的消息的提醒；
[0157]第一获取模块149，用于当所述第二客户端的用户为预设可筛选用户时，获取向接收模块141发送消息的第二客户端发送的历史消息的过滤率值；
[0158]第二过滤模块1410，用于当第一获取模块149获取的过滤率值高于预设率值时，过滤第二客户端发送的消息；
[0159]第二获取模块1411，用于获取向接收模块141发送消息的第二客户端的用户的注册时间及活跃时间；
[0160]分析模块1412，用于根据第二获取模块1411获取的第二客户端的用户的注册时间及活跃时间，分析第二客户端的用户的活跃度；[0161]控制模块1413，用于当分析模块1412分析出活跃度小于预设的活跃度时，控制第一判断模块142判断第二客户端的用户是否为预设可筛选用户。
[0162]在一个实施例中，如图15所示，恢复模块146还可包括:
[0163]第一获取单元1461，用于获取过滤的消息的时间戳，时间戳包含第一客户端的用户接收到消息的时间；
[0164]恢复单元1462，用于将过滤的消息恢复到第一获取单元1461获取的时间戳对应的消息流中的位置。
[0165]关于上述实施例中的装置，其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述，此处将不做详细阐述说明。
[0166]图16是根据一示例性实施例示出的一种用于过滤垃圾消息的的装置800的框图。例如，装置800可以是移动电话，计算机，数字广播终端，消息收发设备，游戏控制台，平板设备，医疗设备，健身设备，个人数字助理等。
[0167]参照图16，装置800可以包括以下一个或多个组件:处理组件802，存储器804，电源组件806，多媒体组件808，音频组件810，输入/输出(I/O)的接口 812，传感器组件814，以及通信组件816。
[0168]处理组件802通常控制装置800的整体操作，诸如与显示，电话呼叫，数据通信，相机操作和记录操作相关联的操作。处理元件802可以包括一个或多个处理器820来执行指令，以完成上述的方法的全部或部分步骤。此外，处理组件802可以包括一个或多个模块，便于处理组件802和其他组件之间的交互。例如，处理部件802可以包括多媒体模块，以方便多媒体组件808和处理组件802之间的交互。
[0169]存储器804被配置为存储各种类型的数据以支持在设备800的操作。这些数据的示例包括用于在装置800上操作的任何应用程序或方法的指令，联系人数据，电话簿数据，消息，图片，视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器(SRAM)，电可擦除可编程只读存储器(EEPROM)，可擦除可编程只读存储器(EPROM)，可编程只读存储器(PROM)，只读存储器(ROM)，磁存储器，快闪存储器，磁盘或光盘。
[0170]电力组件806为装置800的各种组件提供电力。电力组件806可以包括电源管理系统，一个或多个电源，及其他与为装置800生成、管理和分配电力相关联的组件。
[0171]多媒体组件808包括在所述装置800和用户之间的提供一个输出接口的屏幕。在一些实施例中，屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板，屏幕可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界，而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中，多媒体组件808包括一个前置摄像头和/或后置摄像头。当设备800处于操作模式，如拍摄模式或视频模式时，前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
[0172]音频组件810被配置为输出和/或输入音频信号。例如，音频组件810包括一个麦克风(MIC)，当装置800处于操作模式，如呼叫模式、记录模式和语音识别模式时，麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中，音频组件810还包括一个扬声器，用于输出音频信号。
[0173]I/O接口 812为处理组件802和外围接口模块之间提供接口，上述外围接口模块可以是键盘，点击轮，按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
[0174]传感器组件814包括一个或多个传感器，用于为装置800提供各个方面的状态评估。例如，传感器组件814可以检测到设备800的打开/关闭状态，组件的相对定位，例如所述组件为装置800的显示器和小键盘，传感器组件814还可以检测装置800或装置800一个组件的位置改变，用户与装置800接触的存在或不存在，装置800方位或加速/减速和装置800的温度变化。传感器组件814可以包括接近传感器，被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器，如CMOS或CXD图像传感器，用于在成像应用中使用。在一些实施例中，该传感器组件814还可以包括加速度传感器，陀螺仪传感器，磁传感器，压力传感器或温度传感器。
[0175]通信组件816被配置为便于装置800和其他设备之间有线或无线方式的通信。装置800可以接入基于通信标准的无线网络，如WiFi，2G或3G，或它们的组合。在一个示例性实施例中，通信部件816经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中，所述通信部件816还包括近场通信(NFC)模块，以促进短程通信。例如，在NFC模块可基于射频识别(RFID)技术，红外数据协会(IrDA)技术，超宽带(UffB)技术，蓝牙(BT)技术和其他技术来实现。
[0176]在示例性实施例中，装置800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSro)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现，用于执行上述方法。
[0177]在示例性实施例中，还提供了一种包括指令的非临时性计算机可读存储介质，例如包括指令的存储器804，上述指令可由装置800的处理器820执行以完成上述方法。例如，所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
[0178]一种非临时性计算机可读存储介质，当所述存储介质中的指令由移动终端的处理器执行时，使得移动终端能够执行一种过滤垃圾消息的方法，所述方法包括:
[0179]接收所述社交应用的第二客户端发送来的消息；
[0180]判断所述第二客户端的用户是否为预设可筛选用户；
[0181]当所述第二客户端的用户为预设可筛选用户时，判断所述消息中是否包含垃圾消息关键词；
[0182]当所述消息中包含所述垃圾消息关键词时，过滤所述消息。
[0183]所述预设可筛选用户包括以下用户中的至少一种用户:
[0184]与所述第一客户端的用户的联系频率低于预设频率的用户；
[0185]通过所述社交应用中的非好友联系功能收发消息的用户，所述非好友联系功能是非好友的两个用户实现联系的功能；
[0186]使用模拟机发送消息的用户；
[0187]根据用户属性发送消息的用户。
[0188]所述垃圾消息关键词包括以下关键词中的任一关键词:[0189]从所述第一客户端的用户举报的消息中提取的垃圾消息关键词；
[0190]从在预设时间段内发送次数高于预设次数的消息中提取的垃圾消息关键词；
[0191]所述第一客户端的用户自定义的垃圾消息关键词。
[0192]所述当所述消息中包含所述垃圾消息关键词时，过滤所述消息之后，所述方法还包括:
[0193]存储所述过滤的消息。
[0194]所述方法还包括:
[0195]当接收到所述第一客户端的用户对所述过滤的消息的恢复操作时，恢复所述过滤的消息；或
[0196]当接收到所述第一客户端的用户对所述过滤的消息的删除操作时、或者当所述过滤的消息的存储时长超过预设时长时，删除所述过滤的消息。
[0197]所述当接收到所述第一客户端的用户对所述过滤的消息的恢复操作后，恢复所述过滤的消息，包括:
[0198]获取所述过滤的消息的时间戳，所述时间戳包含所述第一客户端的用户接收到所述消息的时间；
[0199]将所述过滤的消息恢复到所述时间戳对应的消息流中的位置。
[0200]所述方法还包括:
[0201 ] 发出存在所述过滤的消息的提醒。
[0202]当所述第二客户端的用户为预设可筛选用户时，所述方法还包括:
[0203]获取所述第二客户端发送的历史消息的过滤率值；
[0204]当所述过滤率值高于预设率值时，过滤所述第二客户端发送的消息。
[0205]在判断所述第二客户端的用户是否为预设可筛选用户之前，所述方法还包括:
[0206]获取所述第二客户端的用户的注册时间及活跃时间；
[0207]根据所述第二客户端的用户的注册时间及活跃时间，分析所述第二客户端的用户的活跃度；
[0208]当所述活跃度小于预设的活跃度时，执行所述判断所述第二客户端的用户是否为预设可筛选用户。
[0209]本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本发明的其它实施方案。本申请旨在涵盖本发明的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本公开未公开的本【技术领域】中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本发明的真正范围和精神由下面的权利要求指出。
[0210]应当理解的是，本发明并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。
【权利要求】
1.一种过滤垃圾消息的方法，用于社交应用的第一客户端，其特征在于，包括: 接收所述社交应用的第二客户端发送来的消息； 判断所述第二客户端的用户是否为预设可筛选用户； 当所述第二客户端的用户为预设可筛选用户时，判断所述消息中是否包含垃圾消息关键词； 当所述消息中包含所述垃圾消息关键词时，过滤所述消息。
2.根据权利要求1所述的方法，其特征在于， 所述预设可筛选用户包括以下用户中的至少一种用户: 与所述第一客户端的用户的联系频率低于预设频率的用户； 通过所述社交应用中的非好友联系功能收发消息的用户，所述非好友联系功能是非好友的两个用户实现 联系的功能； 使用模拟机发送消息的用户； 根据用户属性发送消息的用户。
3.根据权利要求1所述的方法，其特征在于，所述垃圾消息关键词包括以下关键词中的任一关键词: 从所述第一客户端的用户举报的消息中提取的垃圾消息关键词； 从在预设时间段内发送次数高于预设次数的消息中提取的垃圾消息关键词； 所述第一客户端的用户自定义的垃圾消息关键词。
4.根据权利要求1所述的方法，其特征在于，所述当所述消息中包含所述垃圾消息关键词时，过滤所述消息之后，所述方法还包括: 存储所述过滤的消息。
5.根据权利要求4所述的方法，其特征在于，所述方法还包括: 当接收到所述第一客户端的用户对所述过滤的消息的恢复操作时，恢复所述过滤的消息；或 当接收到所述第一客户端的用户对所述过滤的消息的删除操作时、或者当所述过滤的消息的存储时长超过预设时长时，删除所述过滤的消息。
6.根据权利要求5所述的方法，其特征在于，所述当接收到所述第一客户端的用户对所述过滤的消息的恢复操作后，恢复所述过滤的消息，包括: 获取所述过滤的消息的时间戳，所述时间戳包含所述第一客户端的用户接收到所述消息的时间； 将所述过滤的消息恢复到所述时间戳对应的消息流中的位置。
7.根据权利要求1所述的方法，其特征在于，所述方法还包括: 发出存在所述过滤的消息的提醒。
8.根据权利要求1所述的方法，其特征在于，当所述第二客户端的用户为预设可筛选用户时，所述方法还包括: 获取所述第二客户端发送的历史消息的过滤率值； 当所述过滤率值高于预设率值时，过滤所述第二客户端发送的消息。
9.根据权利要求1所述的方法，其特征在于，在判断所述第二客户端的用户是否为预设可筛选用户之前，所述方法还包括:获取所述第二客户端的用户的注册时间及活跃时间； 根据所述第二客户端的用户的注册时间及活跃时间，分析所述第二客户端的用户的活跃度； 当所述活跃度小于预设的活跃度时，执行所述判断所述第二客户端的用户是否为预设可筛选用户。
10.一种过滤垃圾消息的装置，用于社交应用的第一客户端，其特征在于，包括: 接收模块，用于接收所述社交应用的第二客户端发送来的消息； 第一判断模块，用于判断向所述接收模块发送消息的所述第二客户端的用户是否为预设可筛选用户； 第二判断模块，用于当所述第一判断模块判断所述第二客户端的用户为预设可筛选用户时，判断所述消息中是否包含垃圾消息关键词； 第一过滤模块，用于当所述第二判断模块判断所述消息中包含所述垃圾消息关键词时，过滤所述消息。
11.根据权利要求10所述的装置，其特征在于，所述装置还包括: 存储模块，用于存储所述第一过滤模块过滤的消息。
12.根据权利要求11所述的装置，其特征在于，所述装置还包括: 恢复模块，用于当接收到所述第一客户端的用户对所述第一过滤模块过滤的消息的恢复操作时，恢复所述过滤的消息； 删除模块，用于当接收到所述第一客户端的用户对所述第一过滤模块过滤的消息的删除操作时、或者当所述过滤的消息的存储时长超过预设时长时，删除所述过滤的消息。
13.根据权利要求12所述的装置，其特征在于，所述恢复模块包括: 第一获取单元，用于获取所述过滤的消息的时间戳，所述时间戳包含所述第一客户端的用户接收到所述消息的时间； 恢复单元，用于将所述过滤的消息恢复到所述第一获取单元获取的所述时间戳对应的消息流中的位置。
14.根据权利要求10所述的装置，其特征在于，所述装置还包括: 提醒模块，用于发出存在所述第一过滤模块过滤的消息的提醒。
15.根据权利要求10所述的装置，其特征在于，所述装置还包括: 第一获取模块，用于当所述第二客户端的用户为预设可筛选用户时，获取向所述接收模块发送消息的所述第二客户端发送的历史消息的过滤率值； 第二过滤模块，用于当所述第一获取模块获取的所述过滤率值高于预设率值时，过滤所述第二客户端发送的消息。
16.根据权利要求10所述的装置，其特征在于，所述装置还包括: 第二获取模块，用于获取向所述接收模块发送消息的所述第二客户端的用户的注册时间及活跃时间； 分析模块，用于根据所述第二获取模块获取的所述第二客户端的用户的注册时间及活跃时间，分析所述第二客户端的用户的活跃度； 控制模块，用于当所述分析模块分析出所述活跃度小于预设的活跃度时，控制所述第一判断模块判断所述第二客户端的用户是否为预设可筛选用户。
17.—种过滤垃圾消息的装置，其特征在于，包括: 处理器； 用于存储处理器可执行指令的存储器； 其中，所述处理器被配置为: 接收所述社交应用的第二客户端发送来的消息； 判断所述第二客户端的用户是否为预设可筛选用户； 当所述第二客户端的用户为预设可筛选用户时，判断所述消息中是否包含垃圾消息关键词； 当所述消息中包 含所述垃圾消息关键词时，过滤所述消息。
【文档编号】H04L12/58GK104038412SQ201410302225
【公开日】2014年9月10日 申请日期:2014年6月27日 优先权日:2014年6月27日
【发明者】韩博颖, 陈冬梁, 翁海斌 申请人:小米科技有限责任公司