专利名称：网络聊天室内容安全监管系统的制作方法
技术领域：
本发明涉及一种网络及信息安全监管系统，具体地说，是一种关于网路聊天室(HCATROOM)内容安全监管系统。
现有的管理措施只是简单依靠管理员实时地阅读聊天室中每一位用户的每一句发言，发现并删除其中一些不良言论。其工作流程可见
图1。图中，所示的终端用户1、2、3通过网路6、7、8和聊天室服务器4进行通信，用户的每一句发言经过聊天室服务器4转发到其他终端用户实现聊天。所示的管理员5与其他的终端用户一样通过网路9登陆进聊天室，阅读用户的发言，检查并删除其中的一些不良言论。传统的管理方法有两大弊端
1、管理员的工作量极大，必须时刻阅读用户每一句发言。在大量用户同时聊天或者管理员暂时离开时，难免有一些不良言论在网上传播，造成坏的影响；2、即使管理员发现不良言论后立即删除，在管理员删除之前这些发言已经被一些用户看到并传播，仍造成不良的影响。
本发明是这样实现的，其包括若干终端用户、聊天室服务器和一管理员，特点是还增加一过滤服务器，该过滤服务器分别与该等终端用户和该管理员以双向网路连接，并以单向网路连接该聊天室服务器。该过滤服务器过滤来自该等终端用户的不良发言，并将其丢入垃圾箱和生成审计记录，由该管理员负责管理垃圾箱和审计日志。
如上所述，在聊天室中，每一篇发言上传之后，在它发布之前，便由过滤服务器对其中的内容根据预先定义的含有不良信息的关键词和一些可能含有不良信息的关键词进行检索，检查它是否含有不良信息。没有问题的直接予以发表，有问题的言论被删除至垃圾箱，不予发表。同时，系统自动向发布不良言论的用户发出告警，并可采取进一步的惩罚措施。为了实现对聊天内容的实时处理，在内容检索匹配中，本发明采用了一些快速的离散算法，将过滤词按一定索引离散分布，这样可以降低子串比较的时间代价，实现用空间的消耗来换取处理的快速。比简单的匹配过滤更具有实效性。使用户基本感觉不到发言的时间延迟。
所有的监测和管理都实时地生成审计记录，管理员可以随时通过对审计记录的管理来处理聊天室中出现的大量不良言论、以及那些发布不良言论的用户。
本发明的效果是显著的，能在聊天室中的发言发布之前，及时地发现和删除其中的不良言论。管理员只需要通过管理垃圾箱和审计记录来对那些不良言论和发布不良言论的用户进行管理，极大地减少工作量。系统还能够自动对那些发布不良言论的用户采取一定的惩罚措施。
图2是本发明的网路聊天室监管系统示意图。
管理员5可以通过WEB管理的方式对不良关键词进行管理，方便地进行添加、修改、删除、查询不良关键词的操作。这些不良关键词可以按照其严重程度分为几类，管理员可以自己选择管理规则，决定针对不同的不良言论，对用户采取不同的处理措施。
该系统目前正应用在S219工程中的中国上海东方网聊天室内容安全监管系统，取得了较好的效果。
权利要求
1.一种网路聊天室内容安全监管系统，包括若干终端用户(1、2、3)、聊天室服务器(4)和管理员(5)，其特征在于，还有过滤服务器(10)，该过滤服务器(10)分别与该若干终端用户(1、2、3)和管理员(5)以双向网路(6、7、8)和双向网路(11)相连接，以及以单向网路(12)连接该聊天室服务器(4)；该过滤服务器(6)过滤来自终端用户(1、2、3)的不良发言并丢入垃圾箱和生成审计记录，该管理员(5)通过网路(11)管理所述的垃圾箱和审计日志。
2.根据权利要求1所述的网路聊天室内容安全监管系统，其特征在于，所说的垃圾箱，其设在该过滤服务器(10)或其它服务器之中。
3.根据权利要求1所述的网路聊天室内容安全监管系统，其特征在于，管理员(5)以网页管理方式对不良关键词进行管理。
4.根据权利要求3所述的网路聊天室内容安全监管系统，其特征在于，所说的对不良关键词进行管理是指进行添加、删除、查询不良关键词的操作。
全文摘要
一种网路聊天室内容安全监管系统,包括若干终端用户1、2、3、聊天室服务器4和管理员5,其特点是,还有过滤服务器10,该过滤服务器10分别与该若干终端用户1、2、3和管理员5以双向网路6、7、8和双向网路11相连接,以及以单向网路12连接该聊天室服务器4;该过滤服务器10过滤来自终端用户1、2、3的不良发言并丢入垃圾箱和生成审计记录,该管理员5通过网路11管理所述的垃圾箱和审计日志,这样,能在聊天室中的发言发布之前,及时地发现和删除其中的不良言论,管理员只需要通过管理垃圾箱和审计记录对那些不良言论和发布不良言论的用户进行管理,极大地减少监管工作量。
文档编号G06F15/16GK1350241SQ01139008
公开日2002年5月22日 申请日期2001年12月3日 优先权日2001年12月3日
发明者施建俊, 薛质, 李生红, 李建华 申请人:上海交通大学