判断当前信息内容的类型，并发送至执行单元22，所述信息内容的类型包括指令信息和聊天信息；所述执行单元22，根据当前信息的类型，执行相应操作。
[0054]进一步，所述执行单元22包括指令执行模块221、网段检测模块222、身份检测模块223和内容分析模块224 ；
[0055]所述指令执行模块221，用于执行指令信息内容；
[0056]所述网段检测模块222，用于检测当前发送人所处的网段类型；所述网段类型包括机密网段和非机密网段；若处于机密网段，则触发身份检测模块工作；若否，则直接将该聊天信息进行显示；
[0057]所述身份检测模块223，用于检测发送人的身份，若发送人处于白名单中，则将该聊天信息进行显示；若否，则触发内容分析模块；
[0058]所述内容分析模块224，用于聊天内容进行分析，检测其敏感词是否超过预设值，若超过则禁止显示该聊天信息；若否，则显示该聊天信息。
[0059]进一步，所述执行单元还包括监控模块225，其用于对发送人的聊天信息进行监控，当在预设的时间段内出现敏感词的次数达到预设值时，则禁止显示该聊天信息；若否，则显示该聊天信息。
[0060]以下通过具体的实例，对本发明的企业群信息的检测方法进行说明:
[0061]1、頂用户是管理员
[0062]管理员在企业群IM的聊天窗口中输入带指令的聊天内容，并发送给服务器；
[0063]服务器获取到该聊天信息，判断该信息是指令还是普通的聊天信息。具体判断方法为:判断该信息的开头是否为设定的特殊字符，若是，则为指令信息。服务器接收到该指令信息后，则开始执行相应的操作。根据具体的指令的设定，比如可以屏蔽该消息或开启消息。若处于屏蔽状态，则普通用户无法发送信息，服务器会进行拦截。
[0064]2、頂用户是普通成员
[0065]頂用户在企业群IM的聊天窗口中输入聊天信息，并发送至服务器。
[0066]同样，服务器会对该聊天信息的类型进行判断，当判断为聊天信息后，开始执行多层检测，具体包括:
[0067]第一，检测发送人所在的网段，若处于机密网段，则继续检测；若否，则允许发言。因为内容发起者如果是在机密网段，其能接触到需要保密的内容，那么其发送的内容就需要通过检查。如果内容发起者是在非机密网段，其能接触到的内容，是公开的，不存在泄漏机密的可能，所以其发送的内容就不需要检查。
[0068]第二:检测发送人的身份，若处于白名单中，则允许发言；若否，则执行下一步。
[0069]这个可以根据实际情况，对发送人的级别进行设定。这里以白名单设置为例，当用户处于白名单中，则可以免除检查。另外，还可以根据实际管理需要，设定多个级别，各个级别有不同的权限。
[0070]第三、对发送内容进行分析；具体为:抽取关键字，构建正则表达式，再进行匹配；若为敏感词，且出现的次数达到预设值，则执行下一步；若否，则执行允许发言。
[0071]具体的，以代码类的敏感词会为例，介绍如何对文本内容的敏感词汇的检测规则:文本内容主要使用了对于敏感内容抽取关键字，构建正则表达式，然后进行匹对。例如源代码主要是循环、条件、赋值和导入相关模块语句，可以根据这些规则制定相关的正则表达式。在正常的聊天内容中，单位时间内符合正则表达式的内容是有限的，一段固定长度的正常聊天，其符合正则表达是的内容也是有限的。一般聊天中出现符合正则表达是内容的概率较低，假设概率为P，根据概率模型来计算，例如敏感词W1，出现的概率是P (Wl)，敏感词W2出现的概率是P (W2)……敏感词Wn出现的概率是P (Wn)。
[0072]那么多个敏感词连续出现的概率为:
[0073]P (wl, w2,..., wn) = P (wl) *P (w2 | wl) *...*P (wn | wl, w2,..., wn-1)
[0074]当这个概率逼近某个值时候，即可认定其包含铭感内容，则进行系统记录和携带该内容发系统消息给相关管理人员，然后人为鉴别。这样误报的概率是极低的，实际进行采用了次数统计，方便计算，也得到很好的效果。
[0075]对于源代码来讲，教流行的语言源代码目前都是赋值语句，循环语句，条件语句，导入模块语句，针对企业内部的开发语言，制定相关的语言，各种语句的正则表达式。在普通的聊天消息中，其出现的概率分别为Pl，P2, P3, P4
[0076]聊天信息中，如果检测到有代码循环语句NI次，条件语句N2，赋值语句N3，导入模块语句 N4 次，其概率为:P = P1N1*P2N2*P3N3*P4N4
[0077]当概率P低于某个值时，即可认定本次聊天记录中含有源代码，需要向相关人员发消息。实际采用次数统计，方便计算，效果一致。
[0078]第四、进一步为了防止发送人分开多条聊天信息，分别发送敏感词，还包括步骤:当单条聊天内容的敏感词的出现次数未达到预设值时，对该发送人的聊天内容进行监控，当在预设的时间段内出现敏感词的次数达到预设值时，则执行下一步；若否，则执行允许发言ο
[0079]第五、执行禁止发言。具体的，在执行前，可以先由管理人员进行信息核准后，再执行禁止发言操作。由管理人员进行核准，可以防止误判的情形产生。
[0080]相比于现有技术，本发明通过对頂软件的聊天窗口，发送信息至服务器；通过对该信息的检测并相应执行对应的操作，可以起到对企业群信息的管理。其中，若为指令信息，且发送人符合设定的身份，比如管理员，则可以直接对该企业群信息进行操作。若为聊天信息，可以根据各个条件，对该聊天信息的重要性进行检测，再执行相应的操作，比如对非法的内容进行屏蔽等。如此，可以从两方面对该企业群的信息起到全面的管理，防止不良信息影响企业的正常运作，也防止了机密信息的泄漏。
[0081]本发明并不局限于上述实施方式，如果对本发明的各种改动或变形不脱离本发明的精神和范围，倘若这些改动和变形属于本发明的权利要求和等同技术范围之内，则本发明也意图包含这些改动和变形。
【主权项】
1.一种企业群的信息检测方法，其特征在于:包括以下步骤: 步骤1:在聊天窗口中发送信息至服务器； 步骤2:服务器对该信息内容进行判断；若为指令信息，则先对发送人的身份进行检测，再执行相应的操作；若为聊天信息，则先对发送人的身份、和/或网段，和/或内容进行检测后，再执行相应的操作。
2.根据权利要求1所述企业群的信息检测方法，其特征在于:所述步骤2中服务器对信息内容进行检测时，具体为:对信息开头的字符进行检测，若符合设定的字符形式，则判断为指令信息；若否，则判断为聊天信息。
3.根据权利要求1或2所述企业群的信息检测方法，其特征在于:当服务器检测的信息为指令信息时，具体执行以下步骤: 步骤211:对发送人的身份进行检测；若为管理员，则执行指令的内容；若为普通成员，则服务器不执行该指令内容。
4.根据权利要求3所述企业群的信息检测方法，其特征在于:所述指令内容为屏蔽或开启企业群的发言状态。
5.根据权利要求3所述企业群的信息检测方法，其特征在于:当服务器检测的信息为聊天信息时，具体执行以下步骤: 步骤221:检测发送人所在的网段，若处于机密网段，则执行步骤222 ;若否，则执行步骤 225 ； 步骤222:检测发送人的身份，若处于白名单中，则执行步骤225;若否，则执行步骤223 ； 步骤223:对发送内容进行分析；具体为:抽取关键字，再进行匹配；若为敏感词，且出现的次数达到预设值，则执行步骤224 ;若否，则执行步骤225 ; 步骤224:禁止发言； 步骤225:允许发言。
6.根据权利要求5所述企业群的信息检测方法，其特征在于:在执行步骤223时，还包括步骤:当单条聊天内容的敏感词的出现次数未达到预设值时，对该发送人的聊天内容进行监控，当在预设的时间段内出现敏感词的次数达到预设值时，则执行步骤224 ;若否，则执行步骤225。
7.根据权利要求5或6所述企业群的信息检测方法，其特征在于:在执行步骤224时，先由管理人员进行信息核准后，再执行禁止发言操作。
8.—种企业群的信息检测系统，其特征在于，包括:客户端和服务器；所述客户端，用于将信息发送至服务器；所述服务器包括信息内容判断单元和执行单元；所述信息内容判断单元，用于判断当前信息内容的类型，并发送至执行单元，所述信息内容的类型包括指令信息和聊天信息；所述执行单元，根据当前信息的类型，执行相应操作。
9.根据权利要求8所述企业群的信息检测系统，其特征在于:所述执行单元包括指令执行模块、网段检测模块、身份检测模块和内容分析模块； 所述指令执行模块，用于执行指令信息内容； 所述网段检测模块，用于检测当前发送人所处的网段类型；所述网段类型包括机密网段和非机密网段；若处于机密网段，则触发身份检测模块工作；若否，则直接将该聊天信息进行显示； 所述身份检测模块，用于检测发送人的身份，若发送人处于白名单中，则将该聊天信息进行显示；若否，则触发内容分析模块； 所述内容分析模块，用于聊天内容进行分析，检测其敏感词是否超过预设值，若超过则禁止显示该聊天信息；若否，则显示该聊天信息。
10.根据权利要求9所述企业群的信息检测系统，其特征在于:所述执行单元还包括监控模块，其用于对发送人的聊天信息进行监控，当在预设的时间段内出现敏感词的次数达到预设值时，则禁止显示该聊天信息；若否，则显示该聊天信息。
【专利摘要】本发明涉及一种企业群的信息检测方法及系统。所述的方法包括以下步骤：步骤1：在聊天窗口中发送信息至服务器；步骤2：服务器对该信息内容进行判断；若为指令信息，则先对发送人的身份进行检测，再执行相应的操作；若为聊天信息，则先对发送人的身份、和/或网段，和/或内容进行检测后，再执行相应的操作。本发明还提供了一种用于实现上述检测方法的企业群的信息检测系统。相比于现有技术，本发明通过对IM软件的聊天窗口，发送信息至服务器；通过对该信息的检测并相应执行对应的操作，可以起到对企业群信息的管理作用。
【IPC分类】H04L12-26, H04L29-06, H04L12-58
【公开号】CN104811352
【申请号】CN201510191291
【发明人】徐波
【申请人】广州多益网络科技有限公司
【公开日】2015年7月29日
【申请日】2015年4月21日