用户行为分类方法、装置、存储介质及服务器与流程

本发明涉及数据处理领域，具体涉及一种用户行为分类方法、装置、存储介质及服务器。

背景技术：

随着互联网技术的发展，客户端的使用人数越来越多，客户端上能够提供虚拟群组供多维用户同时进行互动，例如直播间、例如聊天室，而在虚拟群组运营的过程中，存在用户在虚拟群组内出现违规行为的现象，目前对于违规行为，大多都采用人工进行干预、制止，如管理员对违规人员进行处理，而人工干预无法及时地对违规行为进行响应，造成虚拟群组的正常活动受到干扰，耗费大量的终端资源，包括耗费虚拟群组的服务器资源，耗费虚拟群组内各用户终端资源，因而，如何对虚拟群组内的用户进行有效管理是目前互联网行业亟需解决的问题。

技术实现要素：

为克服以上技术问题，特别是现有技术无法高效地对虚拟群组的用户进行分类的问题，特提出以下技术方案：

第一方面，本发明提供了一种用户行为分类方法，包括：

获取预设时长内用户在虚拟群组发送的文本消息；

基于预建立的文本检测模型，确定所述文本消息的文本特征值，所述文本检测模型用于表征文本消息与文本特征值的关联关系；

获取预设时长内用户在虚拟群组的行为数据，根据所述行为数据统计用户的行为特征值；

基于预建立的行为监测模型，根据所述文本特征值及所述行为特征值确定用户的恶意行为特征值，所述行为监测模型用于表征文本特征值及所述行为特征值与恶意行为特征值的关联关系；

根据所述恶意行为特征值确定用户的行为类型。

进一步的，所述根据所述恶意行为特征值确定用户的行为类型，包括：

若所述恶意行为特征值小于第一预设值，确定用户的行为类型为正常行为类型；

若所述恶意行为特征值大于等于第一预设值且小于第二预设值，确定用户的行为类型为待定行为类型；

若所述恶意行为特征值大于等于第二预设值，确定用户的行为类型为异常行为类型。

进一步的，所述根据所述恶意行为特征值确定用户的行为类型之后，还包括：

将所述行为类型为异常行为类型的用户添加至指定名单；

获取预设比例的行为类型为待定行为类型的用户添加至指定名单；

将所述指定名单中的用户的文本消息发送至文本检测模型，验证所述行为类型的准确度；或，将所述指定名单中的用户的行为数据发送至行为监测模型，验证所述行为类型的准确度。

进一步的，所述将所述指定名单中的用户的文本消息发送至文本检测模型，验证所述行为类型的准确度之后，还包括：

当所述准确度低于预设阈值时，根据所述准确度调整所述文本检测模型；

所述将所述指定名单中的用户的行为数据发送至行为监测模型，验证所述行为类型的准确度之后，还包括：

当所述准确度低于预设阈值时，根据所述准确度调整所述行为监测模型。

进一步的，所述根据所述恶意行为特征值确定用户的行为类型之后，还包括：

限制所述行为类型为异常行为类型的用户在预置时间段内在虚拟群组发送的文本消息。

进一步的，所述获取预设时长内用户在虚拟群组的行为数据，根据所述行为数据统计用户的行为特征值，包括：

获取预设时长内用户在虚拟群组内得到的其他用户的反馈数据，将所述反馈数据添加至用户在虚拟群组的行为数据，根据所述行为数据统计用户的行为特征值。

进一步的，所述获取预设时长内用户在虚拟群组发送的文本消息之前，还包括：

获取用户的访问ip，将访问ip相同的用户视为同一用户；

所述获取预设时长内用户在虚拟群组发送的文本消息，包括：

获取预设时长内相同的访问ip的用户在虚拟群组内发送的文本消息；

所述获取预设时长内用户在虚拟群组的行为数据，包括：

获取预设时长内相同的访问ip的用户在虚拟群组的行为数据。

第二方面，本发明提供一种用户行为分类装置，包括：

文本获取模块：用于获取预设时长内用户在虚拟群组发送的文本消息；

文本检测模块：用于基于预建立的文本检测模型，确定所述文本消息的文本特征值，所述文本检测模型用于表征文本消息与文本特征值的关联关系；

行为数据获取模块：用于获取预设时长内用户在虚拟群组的行为数据，根据所述行为数据统计用户的行为特征值；

行为监测模块：用于基于预建立的行为监测模型，根据所述文本特征值及所述行为特征值确定用户的恶意行为特征值，所述行为监测模型用于表征文本特征值及所述行为特征值与恶意行为特征值的关联关系；

行为分类模块；用于根据所述恶意行为特征值确定用户的行为类型。

第三方面，本发明还提供了一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，该计算机程序被处理器执行时实现上述的用户行为分类方法。

第四方面，本发明还提供了一服务器，所述服务器包括一个或多个处理器、存储器、一个或多个计算机程序，其中所述一个或多个计算机程序被存储在所述存储器中并被配置为由所述一个或多个处理器执行，所述一个或多个计算机程序配置用于执行上述的用户行为分类方法。

本发明与现有技术相比，具有以下有益效果：

本发明提供了一种对虚拟群组内的用户进行分类的方法，在虚拟群组内的用户可以发送文本消息及触发其它行为事件，通过获取预设时长内用户在虚拟群组发送的文本消息，然后基于预建立的文本检测模型，确定所述文本消息的文本特征值，其中，所述文本检测模型用于表征文本消息与文本特征值的关联关系，从而检测出用户发送的文本消息是否包含违规内容，同时获取预设时长内用户在虚拟群组的行为数据，根据所述行为数据统计用户的行为特征值，为了更加准确地判断虚拟群组内用户的具体行为是否存在违规，基于预建立的行为监测模型，根据所述文本特征值及所述行为特征值确定用户的恶意行为特征值，所述行为监测模型用于表征文本特征值及所述行为特征值与恶意行为特征值的关联关系，通过对文本消息的判断，得到文本特征值，可以确定用户发送的文本消息是否包含有违规的内容，同时结合用户的行为数据，确定用户在虚拟群组内是否有干扰虚拟群组正常活动的行为，从而确定用户的恶意行为特征值，在得到每个用户的恶意行为特征值后，根据设定的恶意行为特征值的范围，对每个用户进行分类，从而确定用户对应的行为类型，进而对虚拟群组内用户进行有效分类，提高用户分类的处理效率。

附图说明

本发明上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中：

图1为本发明用户行为分类方法的一实施例流程示意图；

图2为本发明用户行为分类装置的一实施例示意图；

图3为本发明服务器的一实施例结构示意图。

具体实施方式

下面详细描述本发明的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，仅用于解释本发明，而不能解释为对本发明的限制。

本技术领域技术人员可以理解，除非特意声明，这里使用的单数形式“一”、“一个”、“所述”和“该”也可包括复数形式。应该进一步理解的是，本发明的说明书中使用的措辞“包括”是指存在所述特征、整数、步骤、操作，但是并不排除存在或添加一个或多个其他特征、整数、步骤、操作。

本技术领域技术人员可以理解，除非另外定义，这里使用的所有术语(包括技术术语和科学术语)，具有与本发明所属领域中的普通技术人员的一般理解相同的意义。还应该理解的是，诸如通用字典中定义的那些术语，应该被理解为具有与现有技术的上下文中的意义一致的意义，并且除非像这里一样被特定定义，否则不会用理想化或过于正式的含义来解释。

本领域技术人员应当理解，本发明所称的“应用”、“应用程序”、“计算机程序”以及类似表述的概念，是业内技术人员所公知的相同概念，是指由一系列计算机指令及相关数据资源有机构造的适于电子运行的计算机软件。除非特别指定，这种命名本身不受编程语言种类、级别，也不受其赖以运行的操作系统或平台所限制。理所当然地，此类概念也不受任何形式的终端所限制。

本发明实施例提供一种用户行为分类方法，如图1所示，所述方法包括以下步骤：

s10：获取预设时长内用户在虚拟群组发送的文本消息。

本技术方案应用于虚拟群组中，用于对虚拟群组中的用户行为进行检测，然后根据检测到的用户行为数据确定用户的行为类型，从而对用户进行分类。本实施例中，获取预设时长内用户在虚拟群组中发送的文本消息，对于用户行为的统计，设定一个预设时长，统计该预设时长内用户在虚拟群组发送的文本消息，例如，虚拟群组为直播间，用户通过直播间的文本编辑框输入文字、表情、图片等信息，然后点击文本编辑框提供的诸如“发送”按钮，将该些信息以文本消息的形式发送至直播间，相应的，在直播间中以弹幕的形式显示所述文本消息，本实施例在服务器端统计用户发送的弹幕，从而获取用户在虚拟群组内发送的文本消息，进一步的，在服务器端设定每一次的统计时长为所述预设时长，例如每30分钟/次统计用户在虚拟群组内发送的文本消息。

s20：基于预建立的文本检测模型，确定所述文本消息的文本特征值，所述文本检测模型用于表征文本消息与文本特征值的关联关系。

本步骤中，基于预建立的文本检测模型，确定用户发送的文本消息的文本特征值，具体的，所述文本检测模型用于表征文本消息与文本特征值的关联关系，本实施例的一种实施方式，所述文本特征值以文本消息中是否包含有违规、违法、色情等内容进行判定，例如，获取到用户在预设时长内在虚拟群组发送的10条文本消息，基于预建立的文本检测模型将所述文本消息进行语义解析及词语拆分，对得到的词语进行关键词检测，检测结果显示其中有8条文本消息包含有违规关键词，然后根据所述检测结果确定所述文本消息的文本特征值。

s30：获取预设时长内用户在虚拟群组的行为数据，根据所述行为数据统计用户的行为特征值。

用户在虚拟群组中不仅存在发送文本消息的行为，还存在诸如刷屏、赠送虚拟道具、呼叫虚拟群组内的指定人员等其它行为，在虚拟群组中，用户的任何一项具体行为都会形成相应的行为数据，例如，用户a在虚拟群组内向指定人员b赠送虚拟道具s01，则记录的行为数据诸如“gift：a：b：s01：2018.12.110:21”，每一项在虚拟群组内的操作都会产生；本实施例中，获取预设时长内用户在虚拟群组中的行为数据，然后根据所述行为数据确定用户的行为特征值。

s40：基于预建立的行为监测模型，根据所述文本特征值及所述行为特征值确定用户的恶意行为特征值，所述行为监测模型用于表征文本特征值及所述行为特征值与恶意行为特征值的关联关系。

为了更加准确地判断虚拟群组内用户的具体行为是否存在违规，尤其是用户为了规避违规而执行了其它的行为，本实施例中，基于预建立的行为监测模型，根据所述文本特征值及所述行为特征值确定用户的恶意行为特征值，其中，所述行为监测模型用于表征文本特征值及所述行为特征值与恶意行为特征值的关联关系，具体的，通过对文本消息的判断，得到文本特征值，可以确定用户发送的文本消息是否包含有违规的内容，同时结合用户的行为数据，确定用户在虚拟群组内是否有干扰虚拟群组正常活动的行为，从而确定用户的恶意行为特征值。

s50：根据所述恶意行为特征值确定用户的行为类型。

在得到每个用户的恶意行为特征值后，根据设定的恶意行为特征值的范围，对每个用户进行分类，从而确定用户对应的行为类型，例如，若用户的恶意行为特征值在[0，p1)范围内，则确定用户的行为类型为第一预设类型，若用户的恶意行为特征值在范围内，则确定用户的行为类型为第二预设类型，若用户的恶意行为特征值在(f2，1]范围内，则确定用户的行为类型为第三预设类型，从而对虚拟群组内的用户进行有效的，方便后续对不同行为类型的用户进行管理。

本实施例提供了一种对虚拟群组内的用户进行分类的方法，在虚拟群组内的用户可以发送文本消息及触发其它行为事件，通过获取预设时长内用户在虚拟群组发送的文本消息，然后基于预建立的文本检测模型，确定所述文本消息的文本特征值，其中，所述文本检测模型用于表征文本消息与文本特征值的关联关系，从而检测出用户发送的文本消息是否包含违规内容，同时获取预设时长内用户在虚拟群组的行为数据，根据所述行为数据统计用户的行为特征值，为了更加准确地判断虚拟群组内用户的具体行为是否存在违规，基于预建立的行为监测模型，根据所述文本特征值及所述行为特征值确定用户的恶意行为特征值，所述行为监测模型用于表征文本特征值及所述行为特征值与恶意行为特征值的关联关系，通过对文本消息的判断，得到文本特征值，可以确定用户发送的文本消息是否包含有违规的内容，同时结合用户的行为数据，确定用户在虚拟群组内是否有干扰虚拟群组正常活动的行为，从而确定用户的恶意行为特征值，在得到每个用户的恶意行为特征值后，根据设定的恶意行为特征值的范围，对每个用户进行分类，从而确定用户对应的行为类型，进而对虚拟群组内用户进行有效分类，提高用户分类的处理效率。

本发明的一种实施例，所述根据所述恶意行为特征值确定用户的行为类型，包括：

若所述恶意行为特征值小于第一预设值，确定用户的行为类型为正常行为类型；

若所述恶意行为特征值大于等于第一预设值且小于第二预设值，确定用户的行为类型为待定行为类型；

若所述恶意行为特征值大于等于第二预设值，确定用户的行为类型为异常行为类型。

本实施例中，在得到每一个用户的恶意行为特征值后，需要根据所述恶意行为特征值对用户的行为类型进行分类，具体的，若所述恶意行为特征值小于第一预设值，确定用户的行为类型为正常行为类型，若所述恶意行为特征值大于等于第一预设值且小于第二预设值，确定用户的行为类型为待定行为类型，若所述恶意行为特征值大于等于第二预设值，确定用户的行为类型为异常行为类型。例如，设定第一预设值为p1，设定第二预设值为p2，若所述恶意行为特征值小于p1，则确定用户的行为类型为正常行为类型，确定该用户没有在虚拟群组内做干扰虚拟群组正常运行的行为；若所述恶意行为特征值大于等于p1且小于等于p2，则确定用户的行为类型为待定行为类型，此刻仍无法明确地确定用户在虚拟群组内是否有干扰虚拟群组正常运行的行为，后续需要进一步确认；若所述恶意行为特征值大于p2，则确定用户的行为类型为异常行为类型，确定该用户在虚拟群组内存在干扰虚拟群组正常运行的行为。

本发明的一种实施例，所述根据所述恶意行为特征值确定用户的行为类型之后，还包括：

将所述行为类型为异常行为类型的用户添加至指定名单；

获取预设比例的行为类型为待定行为类型的用户添加至指定名单；

将所述指定名单中的用户的文本消息发送至文本检测模型，验证所述行为类型的准确度；或，将所述指定名单中的用户的行为数据发送至行为监测模型，验证所述行为类型的准确度。

在确定了用户的行为类型后，为了对不同行为类型的用户进行有效管理，本实施例中，将所述行为类型确定为异常行为类型的用户添加至指定名单中，后续若需要对异常行为类型的用户进行管理，从所述指定名单中便可获取到所述异常行为类型的用户；进一步的，所述行为类型为待定行为类型的用户也可能在虚拟群组内发生违规行为，本实施例中，为了对所述待定行为类型的用户进一步确认其行为类型，获取预设比例的行为类型为待定行为类型的用户添加至指定名单，然后将所述指定名单中的用户的文本消息发送至文本检测模型，验证所述行为类型的准确度，或者将所述指定名单中的用户的行为数据发送至行为监测模型，验证所述行为类型的准确度，通过结果再验证条件是否成立，从而验证文本检测模型或行为监测模型是否合理，进而验证用户的行为类型的准确度。

本发明的一种实施例，所述将所述指定名单中的用户的文本消息发送至文本检测模型，验证所述行为类型的准确度之后，还包括：

当所述准确度低于预设阈值时，根据所述准确度调整所述文本检测模型；

所述将所述指定名单中的用户的行为数据发送至行为监测模型，验证所述行为类型的准确度之后，还包括：

当所述准确度低于预设阈值时，根据所述准确度调整所述行为监测模型。

在验证所述行为类型的准确度之后，需要根据所述准确度对文本检测模型或行为监测模型进行调整，本实施例中，当所述准确度低于预设阈值时，说明模型可能存在一定的偏差，例如在处理输入的数据时没有对数据进行筛选，导致错误的数据也计算在内，从而导致用户的行为类型不准确，此时将所述结果导入到模型中再次验证时，得到的行为类型的准确度过低，低于预设阈值，本实施例中，根据所述准确度调整所述文本检测模型或行为监测模型，在一种实施方式中，将文本检测模型或行为监测模型中的对于数据的筛选的范围缩小，减少错误数据影响对用户对应的行为类型的确定。

本发明所处的服务架构的一种实施例，虚拟群组内的用户发送文本消息和触发特定操作产生行为数据时，后台服务器把用户的数据发布到kafka某一topic中，spark定时消费该topic中的数据，并利用已训练的文本检测模型，计算得到用户的文本消息的文本特征值以及利用已训练的行为监测模型，计算得到用户的恶意行为特征值，对于恶意行为特征值较高的用户，可由自动处理服务根据策略做进一步处理，并把相关数据存储在mysql中，同时，抽取部分恶意行为特征值较低的用户存储在mysql中，对于不能完全确定的用户，可存储在mysql中，通过web展示给内容安全团队做人工审计。mysql中存储的数据同时会同步一份到hive中，并利用spark定时训练新的模型，提高识别行为类型的准确率，形成分析反馈的闭环。

本发明的一种实施例，所述根据所述恶意行为特征值确定用户的行为类型之后，还包括：

限制所述行为类型为异常行为类型的用户在预置时间段内在虚拟群组发送的文本消息。

在确定了用户的行为类型后，需要对影响虚拟群组正常运行的行为进行限制，本实施例中，限制所述行为类型为异常行为类型的用户在预置时间段内在虚拟群组发送的文本消息，在预设时间段内被行为类型被确定为异常行为类型的用户将无法发送文本消息，限制该些用户使用虚拟群组内的特定功能，进一步的，所述限制该些用户在虚拟群组发送文本消息具有一定的时间限制，例如，限制行为类型为异常行为类型的用户在1小时内无法在虚拟群组中使用发送文本消息的功能，同时，在限制时间满后自动解除限制功能，进一步的，若统计得到用户的行为类型为异常行为类型的次数达到预设次数时，永久限制该些用户使用虚拟群组内的特定功能，例如，当统计得到用户a的行为类型被判定为异常行为类型的次数达到5次是，永久限制用户a在虚拟群组内使用发送文本消息的功能。

本发明的一种实施例，所述获取预设时长内用户在虚拟群组的行为数据，根据所述行为数据统计用户的行为特征值，包括：

获取预设时长内用户在虚拟群组内得到的其他用户的反馈数据，将所述反馈数据添加至用户在虚拟群组的行为数据，根据所述行为数据统计用户的行为特征值。

本实施例中，在统计用户的行为数据时，不仅统计用户在虚拟群组内自身的行为生成的行为数据，还统计虚拟群组内其他用户的反馈数据，例如虚拟群组内设定有诸如“举报”按钮，虚拟群组内的用户b、c、d、e、f通过所述举报按钮可以对用户a的行为进行举报，从而生成对用户a的反馈数据，将该些数据作为用户在虚拟群组内的行为数据进行考虑，根据所述行为数据统计用户的行为特征值，不仅依靠系统本身对用户行为的判断，还结合虚拟群组内用户之间的反馈数据对用户的行为进行判断，从而更准确、全面地得到用户的行为数据，为后续确定用户的行为类型提供良好的数据基础，从而维护虚拟群组的正常运行。

本发明的一种实施例，所述获取预设时长内用户在虚拟群组发送的文本消息之前，还包括：

获取用户的访问ip，将访问ip相同的用户视为同一用户；

所述获取预设时长内用户在虚拟群组发送的文本消息，包括：

获取预设时长内相同的访问ip的用户在虚拟群组内发送的文本消息；

所述获取预设时长内用户在虚拟群组的行为数据，包括：

获取预设时长内相同的访问ip的用户在虚拟群组的行为数据。

在实际的虚拟群组中，存在大规模的有组织的恶意攻击行为，所述恶意攻击行为的用户可能是由同一访问ip的不同终端设备的客户端登录的，本实施例中，在获取用户的文本数据及行为数据之前，获取用户的访问ip，亦即客户端的访问ip，然后将访问ip相同的用户视为同一用户，然后在后续获取到的文本消息中，将预设时长内相同访的访问ip的用户在虚拟群组内发送的文本消息统一收集；在后续获取用户的行为数据时，将预设时长内相同访的访问ip的用户在虚拟群组的行为数据统一收集，从而能够有效地对相同访问ip的用户作统一处理，提高用户的分类效率，避免大规模的有组织的行为对服务器带来过多的负荷。

如图2所示，在另一种实施例中，本发明提供了一种用户行为分类装置，包括：

文本获取模块10：用于获取预设时长内用户在虚拟群组发送的文本消息；

文本检测模块20：用于基于预建立的文本检测模型，确定所述文本消息的文本特征值，所述文本检测模型用于表征文本消息与文本特征值的关联关系；

行为数据获取模块30：用于获取预设时长内用户在虚拟群组的行为数据，根据所述行为数据统计用户的行为特征值；

行为监测模块40：用于基于预建立的行为监测模型，根据所述文本特征值及所述行为特征值确定用户的恶意行为特征值，所述行为监测模型用于表征文本特征值及所述行为特征值与恶意行为特征值的关联关系；

行为分类模块50；用于根据所述恶意行为特征值确定用户的行为类型。

本发明的一种实施例，所述行为分类模块50执行根据所述恶意行为特征值确定用户的行为类型，包括：

若所述恶意行为特征值小于第一预设值，确定用户的行为类型为正常行为类型；

若所述恶意行为特征值大于等于第一预设值且小于第二预设值，确定用户的行为类型为待定行为类型；

若所述恶意行为特征值大于等于第二预设值，确定用户的行为类型为异常行为类型。

本发明的一种实施例，所述装置还包括：

验证模块：用于将所述行为类型为异常行为类型的用户添加至指定名单；获取预设比例的行为类型为待定行为类型的用户添加至指定名单；将所述指定名单中的用户的文本消息发送至文本检测模型，验证所述行为类型的准确度；或，将所述指定名单中的用户的行为数据发送至行为监测模型，验证所述行为类型的准确度。

本发明的一种实施例，所述装置还包括：

调整模块：用于当所述准确度低于预设阈值时，根据所述准确度调整所述文本检测模型或当所述准确度低于预设阈值时，根据所述准确度调整所述行为监测模型。

本发明的一种实施例，所述装置还包括：

限制模块：用于限制所述行为类型为异常行为类型的用户在预置时间段内在虚拟群组发送的文本消息。

本发明的一种实施例，所述行为数据获取模块30执行获取预设时长内用户在虚拟群组的行为数据，根据所述行为数据统计用户的行为特征值，包括：

获取预设时长内用户在虚拟群组内得到的其他用户的反馈数据，将所述反馈数据添加至用户在虚拟群组的行为数据，根据所述行为数据统计用户的行为特征值。

在另一种实施例中，本发明提供了一种计算机可读存储介质，计算机可读存储介质上存储有计算机程序，该计算机程序被处理器执行时实现上述实施例所述的用户行为分类方法。其中，所述计算机可读存储介质包括但不限于任何类型的盘(包括软盘、硬盘、光盘、cd-rom、和磁光盘)、rom(read-onlymemory，只读存储器)、ram(randomaccessmemory，随即存储器)、eprom(erasableprogrammableread-onlymemory，可擦写可编程只读存储器)、eeprom(electricallyerasableprogrammableread-onlymemory，电可擦可编程只读存储器)、闪存、磁性卡片或光线卡片。也就是，存储设备包括由设备(例如，计算机、手机)以能够读的形式存储或传输信息的任何介质，可以是只读存储器，磁盘或光盘等。

本发明实施例提供的一种计算机可读存储介质，可实现获取预设时长内用户在虚拟群组发送的文本消息；基于预建立的文本检测模型，确定所述文本消息的文本特征值，所述文本检测模型用于表征文本消息与文本特征值的关联关系；获取预设时长内用户在虚拟群组的行为数据，根据所述行为数据统计用户的行为特征值；基于预建立的行为监测模型，根据所述文本特征值及所述行为特征值确定用户的恶意行为特征值，所述行为监测模型用于表征文本特征值及所述行为特征值与恶意行为特征值的关联关系；根据所述恶意行为特征值确定用户的行为类型。通过提供一种对虚拟群组内的用户进行分类的方法，在虚拟群组内的用户可以发送文本消息及触发其它行为事件，通过获取预设时长内用户在虚拟群组发送的文本消息，然后基于预建立的文本检测模型，确定所述文本消息的文本特征值，其中，所述文本检测模型用于表征文本消息与文本特征值的关联关系，从而检测出用户发送的文本消息是否包含违规内容，同时获取预设时长内用户在虚拟群组的行为数据，根据所述行为数据统计用户的行为特征值，为了更加准确地判断虚拟群组内用户的具体行为是否存在违规，基于预建立的行为监测模型，根据所述文本特征值及所述行为特征值确定用户的恶意行为特征值，所述行为监测模型用于表征文本特征值及所述行为特征值与恶意行为特征值的关联关系，通过对文本消息的判断，得到文本特征值，可以确定用户发送的文本消息是否包含有违规的内容，同时结合用户的行为数据，确定用户在虚拟群组内是否有干扰虚拟群组正常活动的行为，从而确定用户的恶意行为特征值，在得到每个用户的恶意行为特征值后，根据设定的恶意行为特征值的范围，对每个用户进行分类，从而确定用户对应的行为类型，进而对虚拟群组内用户进行有效分类，提高用户分类的处理效率。

本发明实施例提供的计算机可读存储介质可以实现上述用户行为分类方法的实施例，具体功能实现请参见方法实施例中的说明，在此不再赘述。

此外，在又一种实施例中，本发明还提供一种服务器，如图3所示，所述服务器包括处理器303、存储器305、输入单元307以及显示单元309等器件。本领域技术人员可以理解，图3示出的结构器件并不构成对所有服务器的限定，可以包括比图示更多或更少的部件，或者组合某些部件。存储器305可用于存储计算机程序301以及各功能模块，处理器303运行存储在存储器305的计算机程序301，从而执行设备的各种功能应用以及数据处理。存储器305可以是内存储器或外存储器，或者包括内存储器和外存储器两者。内存储器可以包括只读存储器(rom)、可编程rom(prom)、电可编程rom(eprom)、电可擦写可编程rom(eeprom)、快闪存储器、或者随机存储器。外存储器可以包括硬盘、软盘、zip盘、u盘、磁带等。本发明所公开的存储器包括但不限于这些类型的存储器。本发明所公开的存储器305只作为例子而非作为限定。

输入单元307用于接收信号的输入及接收用户的输入，输入单元307可包括触控面板以及其它输入设备，触控面板可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板上或在触控面板附近的操作)，并根据预先设定的程序驱动相应的连接装置；其它输入设备可以包括但不限于物理键盘、功能键(比如播放控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种。显示单元309可用于显示用户输入的信息或提供给用户的信息以及计算机设备的各种菜单。显示单元309可采用液晶显示器、有机发光二极管等形式。处理器303是计算机设备的控制中心，利用各种接口和线路连接整个电脑的各个部分，通过运行或执行存储在存储器303内的软件程序和/或模块，以及调用存储在存储器内的数据，执行各种功能和处理数据。

在一种实施方式中，所述服务器包括一个或多个处理器303，以及一个或多个存储器305，一个或多个计算机程序301，其中所述一个或多个计算机程序301被存储在存储器305中并被配置为由所述一个或多个处理器303执行，所述一个或多个计算机程序301配置用于执行以上实施例所述的用户行为分类方法。图3中所示的一个或多个处理器303能够执行、实现图2中所示的文本获取模块10、文本检测模块20、行为数据获取模块30、行为监测模块40、行为分类模块50的功能。

本发明实施例提供的一种服务器，可实现获取预设时长内用户在虚拟群组发送的文本消息；基于预建立的文本检测模型，确定所述文本消息的文本特征值，所述文本检测模型用于表征文本消息与文本特征值的关联关系；获取预设时长内用户在虚拟群组的行为数据，根据所述行为数据统计用户的行为特征值；基于预建立的行为监测模型，根据所述文本特征值及所述行为特征值确定用户的恶意行为特征值，所述行为监测模型用于表征文本特征值及所述行为特征值与恶意行为特征值的关联关系；根据所述恶意行为特征值确定用户的行为类型。通过提供一种对虚拟群组内的用户进行分类的方法，在虚拟群组内的用户可以发送文本消息及触发其它行为事件，通过获取预设时长内用户在虚拟群组发送的文本消息，然后基于预建立的文本检测模型，确定所述文本消息的文本特征值，其中，所述文本检测模型用于表征文本消息与文本特征值的关联关系，从而检测出用户发送的文本消息是否包含违规内容，同时获取预设时长内用户在虚拟群组的行为数据，根据所述行为数据统计用户的行为特征值，为了更加准确地判断虚拟群组内用户的具体行为是否存在违规，基于预建立的行为监测模型，根据所述文本特征值及所述行为特征值确定用户的恶意行为特征值，所述行为监测模型用于表征文本特征值及所述行为特征值与恶意行为特征值的关联关系，通过对文本消息的判断，得到文本特征值，可以确定用户发送的文本消息是否包含有违规的内容，同时结合用户的行为数据，确定用户在虚拟群组内是否有干扰虚拟群组正常活动的行为，从而确定用户的恶意行为特征值，在得到每个用户的恶意行为特征值后，根据设定的恶意行为特征值的范围，对每个用户进行分类，从而确定用户对应的行为类型，进而对虚拟群组内用户进行有效分类，提高用户分类的处理效率。

本发明实施例提供的服务器可以实现上述提供的用户行为分类方法的实施例，具体功能实现请参见方法实施例中的说明，在此不再赘述。

以上所述仅是本发明的部分实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。