专利名称：用于在线互动系统有害信息智能过滤和屏蔽方法及其系统的制作方法
技术领域：
本发明涉及一种用于在线互动系统(例如；网络论坛(BBS系统))的有害信息智能过滤和屏蔽方法及其系统。
背景技术：
目前最广泛的网络应用有BBS论坛、电子商务、电子政务等，这些应用的全面普及，对言论安全提出了挑战。在这类系统中，用户可以随心所欲的发表自己的观点、言论，根据这类系统交互性大、实时性强的特点，这些言论会及时在网站上进行显示，若管理人员对有害的言论不进行及时的处理，将造成严重的反面宣传效果，影响恶劣。
现有的系统大致可分为三类一类是用户发表的内容直接上网，无任何保护措施。目前大多数BBS系统、个人网站、企业网站都是这类。
第二类是用户发表的内容不直接显示在网站上，要经过管理员人工的判断，认为不包含有害信息，才能上网公开，这类系统以牺牲交互性和实时性为代价达到管理有害信息的目的。目前部分商业网站采用该方法。
第三类设有文章扫描系统，会根据关键字对文章进行扫描，若文章中含有关键字的，则不予上网，直接删除。这类系统的致命弱点在于，发布人发现文章被删除后，会反复更换文章中的“可疑词汇”，以绕过系统的扫描，达到传播有害信息的目的。目前部分BBS和商业网站采用该方法。
第四类与第三类相似，只不过把含有关键字眼的有害信息直接删除的作法变为把关键字替换为其它文字。目前几乎所有的BBS产品都采用这种方法。
发明内容
本发明打破了上述四类常规的处理方法，提供了一种成熟的、安全可靠的用于在线互动系统的有害信息智能过滤和屏蔽方法及其系统，通过该方法或系统的使用，减轻管理人员的担负。
本发明所提供的一种用于在线互动系统的有害信息智能过滤和屏蔽方法，包括下列步骤用户发表信息后，系统立即启动“智能文章扫描系统”对文章的内容进行智能化的扫描；在服务器接收到用户提交的信息后，即开始扫描；若被“智能文章扫描系统”判为“可疑文章”的，则在显示该文章时，系统自动启动“无关者屏蔽”，对该文章进行保护；否则，文章直接上网显示；若管理员发现未被“智能文章扫描系统”判为“可疑文章”的文章含有有害信息时，同样可以手动使用“无关者屏蔽”对文章进行处理；管理员可以根据形势的变化，增加或删除关键字，以保证“智能扫描系统”的命中率达到设定的水平；同时，管理人员在前台或后台管理系统中对“可疑文章”进行集中的处理，即确定不含有害信息并释放文章或确定其含有害信息进行备份并删除。
在上述的用于在线互动系统的有害信息智能过滤和屏蔽方法中，扫描系统除了能根据关键字对文章进行扫描，还能正确捕捉文章中经过变化或伪装的“动态”关键字。
在上述的用于在线互动系统的有害信息智能过滤和屏蔽方法中，“无关者屏蔽”方式，即为只有文章原作者及管理员才能看到文章的标题及内容。
在上述的用于在线互动系统的有害信息智能过滤和屏蔽方法中，管理人员在前台或后台管理系统中对“可疑文章”进行集中处理中，将可疑文章在关键字眼处以显色格式进行显示。
本发明还提供了一种用于在线互动系统的有害信息智能过滤和屏蔽系统，其特征在于它包括智能文章扫描模块和与之相连的无关者屏蔽模块。
本发明不仅改进了通用的关键字过滤算法，使之能捕捉到经过伪装的关键字，而且从算法上和屏蔽技巧上独辟蹊径，即采用“智能文章扫描”和“无关者屏蔽”方式，两者相辅相成，形成了一套独特的、完整的、有效的有害信息智能过滤和屏蔽体系，提供了一套成熟的、安全可靠的解决方案。
图1是本发明用于在线互动系统的有害信息智能过滤和屏蔽方法的流程图。
具体实施例方式
本发明，即用于在线互动系统的有害信息智能过滤和屏蔽系统，它包括智能文章扫描模块和与之相连的无关者屏蔽模块。
如图1所示，本发明用于在线互动系统的有害信息智能过滤和屏蔽方法，步骤如下用户发表信息后，系统立即启动“智能文章扫描系统”对文章的内容进行智能化的扫描。与其它扫描系统不同的是，本扫描系统不仅能根据关键字对文章进行扫描，而且还能正确捕捉文章中经过变化或伪装的“动态”关键字，即在文章过滤系统中加了关键字关联的概念，可以打碎匹配关键字；在服务器接收到用户提交的信息后，即开始扫描，整个扫描过程无明显的延迟，用户不会查觉；若被“智能文章扫描系统”判为“可疑文章”的，则在显示该文章时，系统自动启动“无关者屏蔽”，对该文章进行特殊的保护；否则，文章直接上网显示；“无关者屏蔽”方式特点是只有文章原作者及管理员才能看到文章的标题及内容，对其它用户来说，一律不可见。该方式的引入，基本上杜绝了作者在发现文章被系统自动屏蔽或删除后，反复更改文章内容并发表的可能性，作者认为有害信息已经上网，其实不然；若管理员发现未被“智能文章扫描系统”判为“可疑文章”的文章含有有害信息时，同样可以手动使用“无关者屏蔽”对文章进行处理，而不是类似其它的系统，只能删除文章或修改文章；管理员可以根据形势的变化，增加或删除关键字，以保证“智能扫描系统”的命中率达到比较高的水平。同时，管理人员可以在前台或后台管理系统中对“可疑文章”进行集中的处理。
上述的智能文章扫描方式和无关者屏蔽方式说明如下1.智能文章扫描智能文章扫描的基础是“关键字”库。在后台数据库中增加该表，用于记录“关键字”。“关键字”可以是一个个词组，或是一个能够被打碎的词组。
智能文章扫描能捕捉到伪装的关键字，正是靠打碎的词组的匹配来完成的。比如“共-产-党”，词组中的“-”代表前一个字与后一字之间可以打碎匹配，例如语句共123456产ABCD党共+++++++产+++++++党就可以被扫描程序自动匹配。配置了该技术后，使得系统能对某些不良用户存心在敏感字中夹杂各种字母、符号来绕过普通的文字扫描的捕捉成为可能，在日常使用中效果显著。
当BBS程序接收到用户提交的文章后，系统自动调用智能文章扫描模块，对文章进行彻底的扫描，把数据库中预先定义好的“关键字”逐个与文章对比，在对比的过程中，还能判别伪装的关键字。
若有关键字在文章中被智能文章扫描模块匹配成功的，则系统在把文章记录插入数据库时，在记录上做标记，以表示文章为“可疑”文章，等待管理人员的进一步判断。
2.无关者屏蔽方式在文章列表和文章显示时，若系统发现将要显示的文章带有“可疑”文章的标记，则启用无关者屏蔽方式，对该文章进行特殊处理。
系统若发现浏览者就是发文者本人，表示发文者本人阅读，则原原本本的显示文章的原文。
系统若发现浏览者的权限为管理员，则在文章列表前使用红色的“×”标志，并在显示文章时，以醒目的红色作为底色警示管理员，以提示管理员该文章为“可疑”文章，需要进行进一步的处理。
如果不是以上二种情况的，说明浏览者为普通用户，则跳过该文章在列表中的显示，用户根本不能看到该文章出现在文章列表中，好像文章不存在一样，更谈不上阅读文章的内容了。
管理员不仅可以在前台BBS中看到“可疑”文章，还能在后台管理系统中，统一对“可疑”文章进行集中的管理，并做出判断。在管理系统中，系统会自动把可疑之处，使用反红的醒目方式进行显示，以帮助管理员快速定位文章有问题的地方，提高工作的效率。
综上所述，本发明提出了一套使用智能文字过滤和无关者屏蔽系统相结合的发表文章的策略，从自动屏蔽到人工屏蔽，提供了一套对付有害信息的完整的解决方案。此外，本发明与其它系统不同的是即使不是管理员，若发现有害信息，也可以进行无关者屏蔽的操作，进一步加强了防御有害信息的力度。本发明的提出和实施，彻底改变了遇到有害信息只能删除或修改的现状，为有害信息防治提供了新思路和新手段。
权利要求
1.一种用于在线互动系统的有害信息智能过滤和屏蔽方法，包括下列步骤用户发表信息后，系统立即启动“智能文章扫描系统”对文章的内容进行智能化的扫描；在服务器接收到用户提交的信息后，即开始扫描；若被“智能文章扫描系统”判为“可疑文章”的，则在显示该文章时，系统自动启动“无关者屏蔽”，对该文章进行保护；否则，文章直接上网显示；若管理员发现未被“智能文章扫描系统”判为“可疑文章”的文章含有有害信息时，同样可以手动使用“无关者屏蔽”对文章进行处理；管理员可以根据形势的变化，增加或删除关键字，以保证“智能扫描系统”的命中率达到设定的水平；同时，管理人员在前台或后台管理系统中对“可疑文章”进行集中的处理，即确定不含有害信息并释放文章或确定其含有害信息进行备份并删除。
2.根据权利要求1所述的用于在线互动系统的有害信息智能过滤和屏蔽方法，其特征在于所述的扫描系统除了能根据关键字对文章进行扫描，还能正确捕捉文章中经过变化或伪装的“动态”关键字。
3.根据权利要求1所述的用于在线互动系统的有害信息智能过滤和屏蔽方法，其特征在于所述的“无关者屏蔽”方式，即为只有文章原作者及管理员才能看到文章的标题及内容。
4.根据权利要求1所述的用于在线互动系统的有害信息智能过滤和屏蔽方法，其特征在于所述管理人员在前台或后台管理系统中对“可疑文章”进行集中处理中，将可疑文章在关键字眼处以显色格式进行显示。
5.一种用于在线互动系统的有害信息智能过滤和屏蔽系统，其特征在于它包括智能文章扫描模块和与之相连的无关者屏蔽模块。
全文摘要
本发明涉及用于在线互动系统的有害信息智能过滤和屏蔽方法及其系统，用户发表信息后，系统启动“智能文章扫描系统”对文章的内容进行智能化的扫描；若被判为“可疑文章”，则系统自动启动“无关者屏蔽”，对该文章进行保护；否则，文章直接上网显示；若未被判为“可疑文章”的文章含有有害信息时，亦可手动使用“无关者屏蔽”对文章进行处理；管理员通过增加或删除关键字，以保证“智能扫描系统”的命中率达到设定的水平；管理人员对“可疑文章”进行集中的处理。本发明不仅改进了通用的关键字过滤算法，使之能捕捉到经过伪装的关键字，并采用“智能文章扫描”和“无关者屏蔽”相结合的方式，形成一套独特的发文审核和屏蔽体系，进一步加强了防御有害信息的力度。
文档编号G06Q50/00GK1855836SQ20051002554
公开日2006年11月1日 申请日期2005年4月29日 优先权日2005年4月29日
发明者朱明伦 申请人:朱明伦