防止和阻止发布有害内容的装置的制作方法

1.本发明涉及一种防止和阻止发布有害内容的装置，更加详细地涉及一种可通过使用在用户的终端机下载的一个以上的有害性判断模型文件和认证密钥来判断内容的有害性并防止或阻止发布和订阅的装置。


背景技术：

2.在现代社会中，计算机和网络在业务、交友、兴趣活动、信息掌握等多方面被广泛用于多种目的。从个人和社会的立场来看，像这样的计算机和网络已成为不可或缺的必需品，没有计算机和网络的社会变得再也无法想象。如上所述，计算机和网络在整个社会广泛使用的原因之一在于，通过连接网络的计算机可方便又简单地获得多样且大量的信息。
3.但是，这些网络的特性在现代社会也成为了缺点。其中最具代表性的就是像儿童或青少年一样需要保护的被保护者可能会不加选择地接触成人视频或非法视频等有害视频。例如，年幼的子女可以通过设置在各个家庭或网吧的计算机上网，通过p2p网站、博客、各种下载网站等下载许多有害视频文件。因此，虽然在现代社会中，计算机的普及和网络的发展为个人和社会提供了很多便利，但同时还留下了防止年幼的子女接触有害物的课题。
4.韩国公开专利第2001-0093365号公开了一种阻止输入有害信息的装置，是通过网络提供一定信息或获得一定信息的输入的网站，其特征在于，包括如下步骤：从通过网络连接的多个网络用户获得一定信息的输入；通过比较所输入的信息和事先存储的一定信息来判断所输入信息是否具有有害性；根据输入信息的有害性判断，有选择地进行输入信息的网站登记或阻止中任意一个。
5.韩国公开专利第2002-0028593号的特征在于，包括如下步骤：计算机用户输入会员信息并接入管理服务器；计算机用户输入在管理服务器显示的信息输入画面输入用于登记/传送的信息；管理服务器的有害单词阻止模块判断计算机用户输入的信息是否包含有害单词；管理服务器根据有害单词阻止模块的判断结果阻止与计算机用户的连接或登记/传送信息。
6.【先行技术文献】
7.【专利文献】
8.韩国公开专利第2001-0093365号
9.韩国公开专利第2002-0028593号


技术实现要素：

10.本发明的一个实施例想要提供一种防止和阻止发布有害内容的装置，在网络公告栏发布新信息时，使用人工智能对用户想要发布的文字、图像或视频等内容进行检查是否具有有害性，从而可提前阻止有害物的发布。
11.本发明的一个实施例想要提供一种防止和阻止发布有害内容的装置，能够实时检查存储在用户终端机的有害url、有害内容或有害关键词等是否具有有害性，并对判断为具
有有害性的内容进行净化或阻止。
12.本发明的一个实施例想要提供一种防止和阻止发布有害内容的装置，按照想要判断有害性的类别对多个有害性判断模型文件进行分类，并分别管理，只对用户要求的类别进行检查，从而可缩短对不必要的类别的检查时间。
13.根据本发明的一个实施例的防止和阻止发布有害内容的装置，其特征在于，包括：库服务器，其包括具有多个有害性判断模型文件的有害性判断部和认证密钥生成部；发布者终端机，其从库服务器的有害性判断部下载一个以上的有害性判断模型文件及认证密钥，从而进行内容输入；订阅者终端机，其对发布者终端机输入的内容进行订阅，当发布者终端机满足从库服务器下载的有害性判断模型文件的设定的基准，并确认了认证密钥的有效性时，输入的内容被登记到库服务器。
14.特征在于，发布者终端机包括：内容输入部，其从发布者终端机的用户获得内容的输入；有害性判断部，其从库服务器存储有害性判断模型文件及管理者的基准模型文件，并判断输入于内容输入部的内容是否具有有害性；以及内容输出部，其当有害性判断部判断出没有有害性时，请求登记所输入的内容。
15.特征在于，当有害性判断部判断出具有有害性时，传送建议对内容进行修改及重写的通知。
16.特征在于，多个有害性判断模型文件分为成人、暴力、赌博、恐怖、讨厌的动物或厌恶等多种类别，在多个有害性判断模型文件中由用户选择的任意一个有害性判断模型文件被设定为基本模型。
17.特征在于，认证密钥生成部生成的认证密钥包括关于多个有害性判断模型文件的版本、容量、制作日期等信息，将认证密钥和有害性判断模型文件相匹配，以确认对相关有害性判断模型的检查是否成立。
18.特征在于，订阅者终端机包括：内容存储部，其对从库服务器获得传递的内容进行存储；有害性判断部，其对从库服务器获得传递的有害性判断模型文件和管理者基准模型文件进行存储，并判断存储在内容存储部的内容是否具有有害性；内容输出部，其对存储在内容存储部的内容中满足有害性判断基准的内容进行输出。
19.特征在于，内容输出部对订阅者终端机的有害性判断部中不满足有害性判断基准的内容的文字、图像或视频等进行净化并输出为其他文字、图像或视频。
20.特征在于，对于已存储但未进行有害性判断的内容，在输出到订阅者终端机的画面之前，实时进行有害性判断与否，当满足有害性判断基准时，通过认证密钥发放对相应内容的有害物安全认证并与认证密钥一起存储，当不满足有害性判断基准时，将相应内容的检查内容传递到库服务器，并请求发布该内容的用户及管理者修改及删除相应内容。
21.已公开的技术可具有以下效果。但是，特定实施例并不意味着必须全部包括以下效果或只包括以下效果，因此不应理解为已公开的技术的权利范围受此限制。
22.本发明的一个实施例涉及一种防止和阻止发布有害内容的装置，可提供如下技术：当在网络公告栏发布新信息时，使用人工智能检查用户想要发布的文字、图像或视频等内容是否具有有害性，从而可提前阻止发布有害物。
23.本发明的一个实施例涉及一种防止和阻止发布有害内容的装置，可提供如下技术：能够实时检查存储在用户终端机中的有害url、有害内容或有害关键词等是否具有有害
性，并对判断为具有有害性的内容进行净化或阻止。
24.本发明的一个实施例涉及一种防止和阻止发布有害内容的装置，可提供如下技术：按照想要判断有害性的类别对多个有害性判断模型文件进行分类，并分别管理，只对用户要求的类别进行检查，从而可缩短对不必要的类别的检查时间。
附图说明
25.图1是概略示出根据本发明的一个实施例的防止和阻止发布有害内容的装置的框图。
26.图2是示出根据本发明的一个实施例的防止和阻止发布有害内容的装置的基本构成的框图。
27.图3是示出根据本发明的一个实施例的防止和阻止发布有害内容的装置的发布者终端机的构成的框图。
28.图4是示出根据本发明的一个实施例的防止和阻止发布有害内容的装置的库服务器的构成的框图。
29.图5是示出根据本发明的一个实施例的防止和阻止发布有害内容的装置的库服务器内的有害性判断部的构成的框图。
30.图6是示出根据本发明的一个实施例的防止和阻止发布有害内容的装置的订阅者终端机的构成的框图。
31.图7至图9是示出根据本发明的一个实施例的防止和阻止发布有害内容的装置的驱动过程的顺序图。
32.标号说明
33.100：防止和阻止发布有害内容的装置
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
110、300：发布者终端机
34.120、220、400：库服务器
35.125、320、420、500、610：有害性判断部
36.130：订阅者终端机
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
210：内容
37.230：智能保护器
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
240：终端机
38.310：内容输入部
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
330、630：内容输出部
39.410：认证密钥生成部
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
430、620：内容存储部
40.510：有害性判断模型文件
具体实施方式
41.本发明的相关说明不过是用于结构性甚至功能性说明的实施例，因此不能将本发明的权利范围解释为因本文说明的实施例而有所限制。即，实施例可进行多种变更，而且可以有多种形态，因此，应理解为本发明的权利范围包含可实现技术思想的均等物。另外，本发明中提出的目的或效果并不意味着特定实施例应全部包含或只包含这些效果，因此不应理解为本发明的权利范围受此限制。
42.另一方面，本技术中叙述的术语的含义应该理解如下。
[0043]“第一”、“第二”等术语是为了将一个构成要素与其他构成要素区分开来，并不因这些术语而限制权利范围。例如，第一构成要素可命名为第二构成要素，类似地，第二构成
要素也可命名为第一构成要素。
[0044]
当提到某个构成要素“连接”到另一个构成要素时，应理解为虽然可直接连接到另一个构成要素，但中间可能存在其他构成要素。相反，当提到某个构成要素“直接连接”于另一个构成要素时，应理解为中间不存在其他构成要素。另一方面，对构成要素之间的关系进行说明的其他表达，即，“在～之间”和“就在～之间”或“与～相邻”和“直接与～相邻”等也要同样地进行解释。
[0045]
单数的表达包括多数的表达，除非上下文有明显不同的意思，“包括”或“具有”等术语应理解为要指定所实施的特征、数字、步骤、动作、构成要素、部件或它们组合的存在，不是事先排除一个或一个以上的其他特征或数字、步骤、动作、构成要素、部件或它们组合的存在或者附加可能性。
[0046]
在各步骤中，识别标号(例如：a、b、c等)是为了方便说明而使用的，识别标号不是说明各步骤的顺序，如果没有在上下文中明确地记载特定顺序，各步骤可以按与注明的顺序不同的顺序进行。即，各步骤可以按与注明的顺序相同的顺序进行，实质上也可以同时进行，也可以按照相反的顺序进行。
[0047]
除非另有定义，在这里使用的所有术语都与在本发明所属的领域中具有一般知识的人通常所理解的含义具有相同的意义。通常使用的词典中定义的那些术语，应解释为具有与在相关技术的上下文中所具有的含义一致的意义，除非在本技术中明确定义，否则不能解释为理想的或过于形式上的意思。
[0048]
图1是概略示出根据本发明的一个实施例的防止和阻止发布有害内容的装置的框图。
[0049]
参照图1，防止和阻止发布有害内容的装置100包括发布者终端机110、库服务器120及订阅者终端机130。
[0050]
首先，发布者终端机110是在网络公告栏等上传新的文字、图像或视频等内容的终端机。订阅者终端机130是订阅从发布者终端机110输入的各种各样的内容的终端机。
[0051]
库服务器120包括有害性判断部125，若从发布者终端机110获得输入新的内容的请求，则确认认证密钥的有效性后，与认证密钥一起判断相应内容是否具有有害性。有害性判断部125拥有多个有害性判断模型文件。有害性判断部125将多个有害性判断模型文件传递给发布者终端机110及订阅者终端机130，实时判断发布者终端机110的输入内容、订阅者终端机130的输出内容是否具有有害性。
[0052]
图2是示出根据本发明的一个实施例的防止和阻止发布有害内容的装置的基本构成的框图。
[0053]
参照图2，网络、广播、有线电视等内容210被输入于智能保护器230，智能保护器230通过从库服务器220获得传递的有害性判断程序来判断所输入的内容是否具有有害性。进行是否具有有害性判断的结果，只有判断为无害的内容才能通过多个终端机240输出。
[0054]
图3是示出根据本发明的一个实施例的防止和阻止发布有害内容的装置的发布者终端机的构成的框图。
[0055]
参照图3，发布者终端机300包括对要发布的内容进行输入的内容输入部310、有害性判断部320及内容输出部330。
[0056]
内容输入部310通过发布者终端机300的用户获得内容的输入。若用户激活用于输
入内容的输入功能，则用于输入内容的编辑器就会打开。用户可以通过该编辑器输入内容。
[0057]
有害性判断部320存储有从库服务器(图1的120)下载的有害性判断用程序。有害性判断用程序可以制作包含人工智能功能的插件、分机、类、独立程序等多种多样的程序。有害性判断部320拥有一个以上的有害性判断模型文件。发布者终端机300的用户在激活内容输入功能的同时，库服务器(图1的120)的有害性判断模型及管理者的标基准模型被存储在有害性判断部320。另外，用于登记内容及确认内容的有害性判断与否的认证密钥也一起下载，并存储在有害性判断部320。
[0058]
若发布者终端机300的用户完成内容的输入，由有害性判断部320判断该内容是否具有有害性。例如，如果撰写的内容中存在禁止的文字、图像或视频，则建议用户自动修改相应内容。另外，如果违反了包含淫秽物、暴力或厌恶图像内容的网站管理方针，则显示禁止发布所选择的图像内容的提示语。
[0059]
当有害性判断部320判断出没有有害性时，则内容输出部330请求将输入的内容登记到库服务器(图1的120)。
[0060]
图4是示出根据本发明的一个实施例的防止和阻止发布有害内容的装置的库服务器的构成的框图。
[0061]
参照图4，库服务器400包括认证密钥生成部410、有害性判断部420及内容存储部430。
[0062]
首先，若从发布者终端机(图1的110)获得撰写新内容的请求时，认证密钥生成部410生成认证密钥并传送到发布者终端机(图1的110)。传送到发布者终端机的认证密钥基本上被设定为24小时有效，但不限于此，可根据情况进行调整。若发布者终端机登记新内容，则传送到发布者终端机的所述认证密钥被删除。从认证密钥生成部410生成的认证密钥具有判断是否具有有害性的模型文件的信息，例如，文件的版本、容量或制作日期等，从而可以防止黑客入侵及模型文件变形。当发布者终端机首次访问库服务器400，或认证密钥或模型文件损坏时，下载新的认证密钥。
[0063]
若有害性判断部420从发布者终端机获得内容登记的请求，则确认认证密钥的有效性，并重新确认要与认证密钥一起登记的内容是否具有有害性。
[0064]
内容存储部430确认认证密钥的有效性，并存储通过有害性判断基准的新内容。
[0065]
图5是示出根据本发明的一个实施例的防止和阻止发布有害内容的装置的库服务器内的有害性判断部的构成的框图。
[0066]
参照图5，库服务器(图1的120)的有害性判断部500拥有多个有害性判断模型文件510。多个有害性判断模型文件510以按类别分类的形式设置。例如，可分为成人、暴力、赌博、恐怖、个人讨厌的动物、厌恶感等类别。由于可分别单独下载多个有害性判断模型文件510并进行判断，因此可减少下载时间。另外，根据每个人的设定，无需对不必要的类别进行判断，因此还可减少从发布者终端机(图1的110)输入的内容的检查时间。
[0067]
另外，在库服务器(图1的120)将多个有害性判断模型文件510中选择的任意一个有害性判断模型文件510设定为基本模型，设定为基本模型的有害性判断模型文件510无需另行下载即可进行检查。另外，设定为基本模型的有害性判断模型文件510在线下状态及线上状态下均可进行检查。
[0068]
图6是示出根据本发明的一个实施例的防止和阻止发布有害内容的装置的订阅者
终端机的构成的框图。
[0069]
参照图6，订阅者终端机600包括有害性判断部610、内容存储部620及内容输出部630。
[0070]
有害性判断部610存储有从库服务器(图1的120)下载的有害性判断用程序。有害性判断用程序可制作包含人工智能功能的插件、分机、类、独立程序等多种多样的程序。另外，从库服务器(图1的120)也一起下载用于登记和确认内容的认证密钥，并存储在有害性判断部610。
[0071]
内容存储部620对从库服务器(图1的120)下载的内容进行存储。内容存储部620可包括满足库服务器有害性判断基准的内容和不满足有害性判断基准的内容。不满足基准的内容通过有害性判断部610再次判断是否具有有害性，如果满足有害性判断基准，则通过认证密钥存储为符合有害性判断基准的内容。
[0072]
内容输出部630可对存储在内容存储部620的内容中满足有害性判断基准的内容进行输出，并使得订阅者确认内容。在重新判断是否具有有害性后，如果不满足有害性判断基准，文字、图像或视频等内容可变更为其他文字、图像或视频等内容并输出。例如，可以将禁止的术语变更为净化后的术语，或者对具有有害性的图像进行模糊化处理等，经过这些过程后对内容进行输出。
[0073]
图7至图9是示出根据本发明的一个实施例的防止和阻止发布有害内容的装置的驱动过程的图。
[0074]
参照图7，示出了对发布者终端机(图1的110)的内容输入过程。
[0075]
首先，发布者终端机请求写帖子或评论等内容s700。
[0076]
若发布者终端机请求撰写内容，则有害性判断用程序通过库服务器(图1的120)下载到发布者终端机。另外，下载有害性判断模型文件及帖子管理者的基准模型文件等已设定的基准模型文件。并且，传送用于登记和确认帖子的认证密钥s710。此时，按类别分类的多个有害性判断模型文件只下载所需类别，从而可节省下载的时间。
[0077]
此后，发布者终端机的用户对文字、图像或视频等内容进行输入s720。
[0078]
通过是否满足有害性判断基准及网站管理者的基准来判断已输入的内容是否具有有害性s730。此时，根据每个人或管理者的设定，无需判断不必要的类别的有害性，因此可节省输入内容的检查时间。此时，如果已输入的内容不满足有害性判断基准，则建议修改或重写s735。
[0079]
当输入的内容满足有害性判断基准时，请求登记内容s740。请求登记的内容传递到库服务器，并确认是否具有有害性及认证密钥的有效性后，完成内容登记。
[0080]
参照图8，是示出库服务器(图1的120)的驱动过程的顺序图。
[0081]
库服务器(图1的120)包括符合有害性及帖子管理者基准的一个以上的有害性判断模型文件，并生成用于登记和确认内容的认证密钥s800。
[0082]
之后，获得对从发布者终端机输入的内容进行登记的请求s810。
[0083]
此时，请求进行内容登记的内容是以下载到发布者终端机的有害性判断模型文件为基准来决定是否进行有害性判断的内容。
[0084]
对从发布者终端机输入的内容的有害性判断与否进行再次确认，并且确认认证密钥是否有效s820。
[0085]
完成确认的内容存储在库服务器的存储部s830。在存储部存储满足有害性判断基准的新内容和不满足基准的现有内容。
[0086]
参照图9，是示出订阅者终端机的订阅过程的顺序图。
[0087]
订阅者终端机(图1的130)的用户请求订阅网络上的帖子或评论等内容s900。
[0088]
当开始进行内容订阅时，下载满足库服务器(图1的120)的有害性判断基准及帖子管理者基准的有害性判断模型文件和用于登记和确认内容的认证密钥s910。
[0089]
之后，存储在库服务器的内容下载到订阅者终端机，并存储在内容存储部s920。此时，在存储部存储满足有害性判断基准的新内容和不满足基准的现有内容。判断存储的内容是否满足有害性判断基准及网站管理者的基准s930。此时，根据每个人的设定，无需对不必要的类别进行有害性判断，因此可节省所输入的内容的检查时间。
[0090]
如果满足有害性判断基准及网站管理者的基准，则会向订阅者终端机用户输出内容s940。此时，即使通过了有害性判断基准，也要对检查用有害性判断模型文件的版本进行检查，并且在用一段时间以前的有害性判断模型文件进行检查时，可以用新适用的有害性判断模型文件实施复检。
[0091]
另一方面，对于没有进行有害性判断的内容，在加载的同时，在输出到订阅者终端机用户的画面之前，实时进行有害性判断与否。之后，如果满足基准，则通过认证密钥存储对相应内容的认证。如果即使在实时进行有害性判断检查中也没有通过基准，则将相应内容的检查内容传递给库服务器，告知其不符合有害性判断的基准，并向发布相应内容的用户及管理者传送修改及删除该内容的通知。另外，违反基准的部分被替换为净化后的内容并输出，或遮挡或全面阻止s950。
[0092]
如上所述，具有以下效果：通过发布者终端机和订阅者终端机可以双重屏蔽有害性内容，并且可以实时阻止有害性内容，对已经发布的其他内容也可以进行实时阻止。
[0093]
将有害性判断基准分为多种类别并适用，从而优点在于，可以根据个人倾向适用基准，可以对分类的类别进行单独使用或合并使用。
[0094]
通过库服务器的有害性判断模型来判断用户的设备(本地机器、装置)是否具有有害性，并实时进行报告，从而阻止有害物，因此具有节约系统运营管理费、通信线路费、人工费等人力、物力费用的效果。
[0095]
由于可提前阻止通过发布者终端机输入的内容的登记，因此在登记前判断其是否具有有害性，从而节省了用于搜索登记后传播的有害内容并删除的时间和费用。
[0096]
在适用有害性与否的判断之前，对已经登记的内容在输出到订阅者终端机之前，再次实时检查是否具有有害性，从而提供可在暴露在众多订阅者面前之前阻止有害内容的效果。
[0097]
以上，虽然参照本发明的优选实施例进行了说明，但可理解为相应技术领域的熟练的本领域的技术人员在不脱离专利权利要求书中记载的本发明的思想及领域的范围内，可以多样地对本发明进行修改及变更。