对包含有图像的文档进行分级的系统和方法

专利名称：对包含有图像的文档进行分级的系统和方法
技术领域：
本发明涉及一种对文档如图像广告进行分级的系统和方法。

背景技术：
随着因特网的出现，可以向不同年龄阶层、不同喜好和不同敏感度(sensibility)的人群提供无缝的无限多种文本和图形内容，如广告。一些图像和其它内容可能更适合某些个人和群体。例如，通常认为暴力或色情图像不适合儿童。期望提供适合受众的内容，这是因为对内容供应商和受众来说，这样做通常可以使利益增最大化，使负担最小化。例如，适合受众的和与受众相关的广告比具有攻击性的不相关的广告更有可能产生销售。
因此，广告和其它内容经常被定向于那些有可能对内容感兴趣的特定受众。例如，面向男性的广告可能在全国性播放的足球比赛期间展示，这是因为足球比赛能够吸引大量的男性观众。同样地，当用户提交含有词语“飞机”的查询时，可以在因特网搜索引擎网站显示航空公司的广告。
不过，基于与用户相关的内容而提供广告和其它文档不保证该文档的文本、图像和其它内容适合特定的受众。例如，啤酒广告并不适合出现在关于戒酒的网站(website)上，即使广告和网站的内容按主题是相关的。
使合适的图像和其它内容与受众匹配的方法之一是在向受众发布之前手动检查(review)。但是，出现了与手动检查相关的问题。例如，手动分级系统和方法的一个显著缺陷是用于检查内容所花费的时间和费用。
目前的系统和方法中存在上述这些和其它缺陷。


发明内容
因此，本发明的各种实施方案涉及对诸如图像广告的文档进行分级(rate)和/或批准的系统和方法。在一实施方案中，提供了对含有图像的文档进行分级的方法。接收一用于发布的文档。从一个或多个分级实体接收与该文档相关的分级信息。至少一个所述一个或多个分级实体包括处理器用以确定与图像相关联的分级信息。基于分级信息批准文档以用于发布。
本发明的另一示例性实施方案涉及一种编码有计算机程序代码的计算机可读介质，所述计算机程序代码用以对电子文档分级。该计算机程序有效地执行下述步骤从一个或多个分级实体接收与文档相关联的分级信息，其中至少一个所述一个或多个分级实体包括处理器，用以确定与图像相关的分级信息；和基于分级信息确定是否批准该文档。
在另一示例性实施方案中，提供了一种对文档分级的系统。输入装置从一个或多个分级实体接收与文档相关联的分级信息，其中至少一个所述一个或多个分级实体包括图像处理器。图像处理器确定与图像相关的分级信息。处理器基于分级信息来确定是否批准该文档。
在另一示例性实施方案中，提供了一种对文档分级的系统。分级接收装置从一个或多个分级实体接收与文档相关联的分级信息，其中至少一个所述一个或多个分级实体包括图像处理器。图像处理装置确定与图像相关的分级信息。确定装置基于分级信息来确定是否批准该文档。
在一典型实施方案中，提供了一种对文档分级的方法。向诸如服务器之类的实体发送信号。该实体被构造成将信号解释为与用于文档的准则相关。该实体还被构造成确定含有图像的文档是否需要被传送。该实体还被构造成部分地基于从用于一个或多个文档的多个评估者接收的分级信息，并且部分地基于所述一个或多个文档是否与该准则相关，来进行这一确定。至少一个所述一个或多个文档包括图像。多个评估者包括用以处理图像和对文档分级的图像处理器。响应于信号来接收含有图像的文档。
在另一示例性实施方案中，提供了一种对文档分级的方法。接收来自于系统如服务器系统的一个或多个文档，其中至少一个所述一个或多个文档包括图像，系统包括用以处理图像和对文档分级的图像处理器。将分级信息提供给系统以由系统用于确定是否响应于对文档的请求传送一个或多个文档，其中确定的行为基于所提供的分级。
在另一示例性实施方案中，提供了一种对含有图像的特定文档进行分级的方法。向一个或多个分级实体发布文档，其中至少一个所述一个或多个分级实体包括处理器，该处理器通过处理存储着图像的文件和图像的光学数据其中至少之一来确定分级信息。从一个或多个分级实体接收与特定文档关联的分级信息。使特定文档与一个或多个特定准则产生关联。基于分级信息确定是否批准该特定文档。接收对文档的请求，其中该文档与一准则相关。从包含有特定文档的数据库中选择要发布的文档，其中所述选择行为是基于准则和分级信息的。
在一示例性实施方案中，提供了对文档分级的方法。接收第一内容分级，该第一内容分级与含有图像的第一广告相关，其中从被配置为通过处理图像确定第一内容分级的图像处理器接收第一内容分级。从一个或多个评估者接收与第一广告相关的一个或多个第二内容分级，其中至少一个所述一个或多个评估者是终端用户(end user)。基于分级信息确定用于广告的集合分级。接收关于一个或多个广告的电子输送的请求，其中所述请求与某一概念相关。从包含有第一广告和一个或多个第二广告的数据库中选择广告，其中所述一个或多个第二广告的每一个都包括图像和集合分级。基于所述请求电子输送选定的广告。
在一示例性实施方案中，提供了批准电子文档的方法。处理用于发布的电子文档，其中该电子文档包括使接收者能够对电子文档分级的反馈机构。接收用于文档多个请求，其中每个请求都是从多个终端用户之一接收的。基于对应的多个请求将电子文档传递给多个终端用户。基于把电子文档传递到多个终端用户中的预定数量的用户，而不从那些终端用户接收超过反馈阈值，批准用于发布的电子文档。
其它实施方案也在本发明的范围内。



图1示出了按照本发明实施方案的用于图像分级的系统。
图2示出了按照本发明实施方案的用于图像分级的系统的网络环境。
图3是一流程图，示出了按照本发明实施方案的用于图像分级的示例性方法。
图4示出了按照本发明实施方案的示例性文档。
图5示出了按照本发明实施方案的示例性图像。
图6示出了按照本发明实施方案的示例性文档分级。
图7示出了按照本发明实施方案的示例性内容分级请求。
图8示出了按照本发明实施方案的示例性内容分级。

具体实施例方式 这里所述的实施方案解决了现有系统和方法的很多问题。因特网内容供应商面对的一个问题是需要对大量的文档(如通过其服务提供的图像和/或广告)分级以确定每个文档是否适合广泛的各种不同的用户。这里描述的实施方案通过从包含人和/或计算机处理器的各种分级实体获得分级信息来克服上述这些和其它问题。处理器可以自动确定分级信息，而人可以手动检查文档提供分级信息。这里采用的术语“自动”指通过任何机器可执行的程序(如不需要人为干涉或输入的程序)而执行的行为。举例来说，即使某些评估者可以检查大量的文档，但每个评估者也可以检查少量的文档。总起来说，对每一个文档可以收集很多等级，确定一可靠的集合分级。
因特网内容提供商面对的另一个问题是每当具有不同敏感度和偏爱的不同用户请求文档时，都要选择适当的内容。这里描述的实施方案通过对每一个电子文档确定一总体适用的集合内容分级来克服上述问题。代替在每当可将文档提供给用户时重新评估文档，内容供应商可以仅检查或处理文档的集合内容分级，从而使适当的内容与用户或供应商匹配。每当发布文档时，可通过查阅内容分级和受众适用性数据有效地确定文档对特定受众的适用性。
另一个问题是当内容供应商觉察到攻击性内容时，内容供应商在一些情况下可能要保持适当内容发布的较高义务(如法律义务)。在一示例性的实施方案中，内容供应商根据他人的分级可以不必承受较高的义务。更确切地说，服务器将其内容的检查至少部分委托给评估者(诸如合作广告商之类的第三方)。因为内容供应商采取了积极的措施确保使内容适合终端用户，所以在阻止攻击性内容的不正确发布中，内容供应商可以被认为具有了满意的一般注意义务。
这里采用的术语“文档”和“电子文档”可以包括一个或多个广告、内容页(如网页)、搜索结果、电子邮件、应用、即时通信、音频内容或文件、视频内容或文件、以及可能存在于一个或多个计算机系统(如网络)中的其它文件、其它数据或应用，或者是其它可定义的概念或内容。尽管这里经常采用“图像”或“图像广告”作为示例性文档，但应当理解的是可以采用任何文档。
本申请涉及2004年3月30日提交的、代理人案号为64557.000020、发明名称为“System and Method for Rating ElectronicDocument”的美国专利申请，这里引入其全部内容作为参考。本申请还涉及同时提交的、代理人案号为64557.000027、发明名称为“MethodAnd System For Approving Documents Based On Image Similarity”的美国专利申请，和同时提交的、代理人案号为64557.000025、发明名称为“Method And System For Providing Targeted Documents BasedOn Concepts Automatically Identified Therein”的美国专利申请，这里引入其全部内容作为参考。
综述和系统图解 按照图1和2所示的示例性实施方案，一个或多个文档源12向服务器2提供一个或多个文档。尽管图中仅示出了一个单独的服务器2，但应当理解的是可以提供多个服务器2，这些服务器可以共享数据和操作任务以实现高效和这里所述的功能运转。服务器2可以选择一个或多个文档(如图像广告)以及一个或多个评估者4对文档进行分级。服务器2可以将一个或多个文档传递给一个或多个选定的评估者4，或者以其他方式使文档可用于一个或多个评估者4进行分级。例如，一个或多个文档源12、供应商8和终端用户10也可以评估文档，在这一意义上他们都可以被称为“评估者”4。评估者4根据一种或多种准则，如色情内容和暴力内容对文档进行分级。评估者4将他们的分级信息传递给服务器2。服务器2可以根据所接收(或推断)的关于该文档的分级信息，批准、不批准该文档或以其他方式对文档分级。服务器2可以通过对与评估者分级相关的所有文档或文档子集(一个或多个)进行处理来确定文档的集合分级。例如，如果由10个评估者对一篇文档进行评估，那么集合分级可以是基于这1至10个评估者分级中的任一个。举例来说，集合分级可以是基于中间6个评估者的分级，或者是这些评估者的一些其它组合。
可以从服务器2请求一个或多个文档，或者服务器2可以发送这些文档。例如，服务器2可以在没有人为干预的情况下响应信号来发送文档。这一行为可以是基于很多因素来确定的。例如，供应商8和/或终端用户10可以请求文档。这一请求能够以服务器将其解释为文档请求的信号的形式出现，即使该信号没有特别指出正在请求文档。举例来说，一终端用户可向服务器发送请求网页的信号，同样这一信号可以被解释为请求一图像广告文档。基于一个或多个潜在文档的分级和/或一个或多个准则(如文档是否满足或涉及与信号相关的内容)，服务器2可以确定是否有任何文档可用于响应该信号。服务器2可以将一个或多个文档传给接收者，如请求实体。服务器2可以识别与信号(和/或文档接收者，如果不同于请求者的话)相关的其它准则。尽管所述准则可基于信号内容或文档请求(如请求一关键词等的检索搜索)的，但该准则也可以是基于与接收者偏好相关的。例如，服务器2可以识别与请求者或接收者相关的敏感度信息和/或适用性信息。如果识别到接收者会抵制暴力内容，那么服务器2可以确定是否有任何可用的文档具有表示最低或最小限度暴力内容的级别。
图1示出了根据本发明实施方案的对电子文档进行分级的示例性系统100。该系统包括一服务器2、一个或多个评估者4、一个或多个供应商8、一个或多个文档源12，一光学处理器6、一图像文件处理器7、一个或多个终端用户10，和一个或多个与服务器2可工作连接的数据库39。
系统100可以使服务器2能够请求、接收和/或处理电子文档的内容分级。文档源12、评估者2、供应商8和终端用户10可以经由包括因特网通信的电子通信与一个或多个服务器2通信。文档源12、评估者4、供应商8和终端用户10可以包括或访问一个或多个服务器2，以用于提供与电子文档相关联的功能。
可以在服务器2、评估者4、供应商8、文档源12和终端用户10之间形成通信的信息包括下述的一种或多种信息文档信息、内容分级信息、敏感度分级信息、适用性标准信息、信任分数信息，和/或评估者或供应商的信息。文档信息可以包括下述的一种或多种信息文档本身、文档所采用的任何语言、长度信息、文件类型信息(如html，doc，zip等)、文档类型(广告、教育文档)、摘要信息、音频-视频内容(如面部图像，歌词等)、色情内容、其它攻击性内容(如潜在攻击性词语的使用)、与年龄相关的内容、文档所有者和/或文档创建者的身份、关于文档的预期受众的信息(如地理区域，年龄范围，性别，种族，民族，宗教，其它人口统计参数)、以及任何其它与文档相关或与服务器2、评估者4、供应商8或文档源12相关的信息。
特别地，评估者4、供应商8、文档源1212、终端用户10、光学处理器6和图像文件处理器7(共同或单独地，“分级实体”)可以把一个或多个文档的文档分级信息提供给服务器2。例如，分级实体可以从服务器2(或供应商8)接收文档，如图像广告，然后将该文档(和/或在该文档中引用或链接到的其它文档)的分级信息提供给服务器2。
文档源12可以向服务器2提供文档，或者服务器2可以从文档源12中“拉出”或检索出文档。例如，文档源12可以向服务器2提供广告，以便服务器2随后将广告提供给一个或多个内容提供者8，所述内容提供者8可将广告提供给一个或多个终端用户10(或者服务器2可以直接将广告提供给终端用户10)。文档源12可以包括任何内容创建者或内容提供者8，例如广告清单提供者或服务器。
提供者8可以向一个或多个终端用户10a-10n提供文档。提供者8可以包括内容提供者，搜索引擎，或者通过电子网络(如因特网)使信息、服务和/或产品可用的其他实体。提供者8可以包括下列中的一个或多个例如，广告清单提供者，电子文档提供者，网站主机，服务器，向用户或其他实体提供电子文档的任何其他实体，或者任何其他内容提供者。提供者8可以是文档源12。供应商8可以是一评估者4或一文档供应商12。
光学处理器6包括一个或多个配备有光学传感器的计算机或数据处理器。光学处理器6的光学传感器可以从文档本身的图像(如从图像广告的影印)中识别和/或读取光学数据，并且它可以自动执行(即不需要人为干预)如上所述。换言之，光学处理器6能够以与人眼和大脑如何从报纸的文本和图像中进行读取和处理相类似的方式“读取”并处理文档的图像信息。
在一些实施方案中，光学传感器可以首先“读取”文档的物理格式，并将光学图像转变成文件(如.pdf文件，.tiff文件，或其它的图像文件格式)。光学传感器可以采用激光、扫描仪或其它光学读取装置从物理文档中读取数据。接下来光学处理器6对文件进行处理。例如，光学处理器可以采用OCR(如OCR软件或其它软件)来认出或识别存储的光学数据中的格式。OCR的一些类型包括将打印或书写的文本字符的光学扫描位图转化成字符码，如ASCII。
通过处理来自于文档图像的光学数据，各种光学扫描技术可以使光学处理器能够从文档中识别字符和图像。例如，光学字符识别(OCR)技术(如OCR扫描仪和软件)使光学处理器6能够识别文档中的文本字符。又例如，OCR通过光学“读取”报纸使光学处理器6能够提取出报纸上的文本。所提取的文本可以存储在文件中。
在对图像的光学数据处理过程中，光学处理器6可以将图像(或其上的一部分)与其它图像(或其上的一部分)如内容数据库40中存储的其它图像或部分相比较。特别地，光学处理器6可以将已经存储在内容数据库40中的一个文档源12a的某一图像与同样来自该文档源12a的一个或多个文档比较。例如，光学处理器6可以确定某一文档是否与另一文档相同(或基本相同)。“基本相同的”文档是指所确定的一篇文档的内容有90％(或95％，98％或99.5等)与另一篇文档相同。例如，文本的90％(以同一顺序来说，90％的词语是相同的)是相同的，和/或定义一篇文档图像的图案中有99％与定义另一篇文档图像的图案相同。当然也可以考虑“基本相同”的其它衡量方式。
确定出一个文档具有基本相同的文本和图像但其格式不同，光学处理器6可以确定这两篇文档的(相对的)等效性。对于(基本)相同的文档来说，光学处理器6可以指出一篇文档与另一篇文档(基本)相同，并且可以识别出所述另一篇文档。如果识别出第一篇文档基本与已经存储在数据库中的第二篇文档相同，那么就可以接收与第一篇文档相同的分级信息。
尽管通常采用传统的OCR技术来识别相同的文本，但OCR和类似于OCR的技术通过光学“读取”文档可以使光学处理器6能够识别文档中的一个或多个图像。例如，光学处理器可以读取图像，并确定图像包含电影放映机、啤酒瓶、人(着装的变化)或其它物体的图像。光学处理器6还可以确定与图像相关的其它光学数据，如图像颜色、颜色方案、图案以及其它信息。通过采用这一技术，光学处理器6可以确定出现在图像中的人体肌肤(如脱去衣服的人体肌肤)的数量。从而，光学处理器6可以确定有关毒品、酒精、裸体或其它潜在的攻击性内容或不适当内容的文本或图像的数量或存在情况。基于这一信息，光学处理器6可以根据这些和其它准则对文档(如图像)分级。图6示出了通过光学处理器分级的样本。
图像文件处理器7也可以识别处理文档中的文本和图像。不过，图像文件处理器7不是通过光学读取文档的物理特征，而是通过对存储着文档或图像(如.pdf或.tiff文件)的计算机文件进行处理来执行上述功能。因此，图像文件处理器7除了不具备光学扫描部件之外，以与光学处理器6相似的方式工作。
应当理解的是一个单独的文档可以具有一个或多个电子实施方式和一个或多个物理实施方式。例如，一篇单独的文档可以表现为.pdf文件、.gif文件、.tiff文件、或其它格式的文件、打印在纸张上的文件、照片、其它物理对象、或显示在屏幕或监视器中的视频形式。因此，可以以电子格式(如.pdf格式)或物理格式(如打印在纸张上的文档)将一篇单独的文档从服务器2传给分级实体(如光学处理器6或图像文件处理器7)。当采用物理格式的文档时，光学处理器6可确定分级信息，当文档为电子格式时，则可以采用光学处理器6或图像文件处理器7。光学处理器6和/或图像文件处理器7可以与服务器2连接，或者它们可以成为服务器2的一部分。
采用处理器6，7确定分级信息的优点在于能够确定分级信息(如自动地)。因为服务器2可以接收和发布数千、数百万和/或数亿的不同文档，因此抑制或减少了手动检查每篇文档的事务处理和管理费用。处理器6，7可以提供充分的对图像或其它文档的预先检查，以确定是否批准文档用于一般的发布，还是发布给一个或多个特定的供应商8或终端用户10。
处理器6，7还可以检查文档中的链接(如自动响应于链接的识别)。例如，如果图像广告文档包含一个或多个链接(例如，如果图像广告将URL链接显示在广告上、嵌入超文本链接，或另外例如通过点击链接使浏览器能够选择相关的文档)，处理器6，7就可以访问该链接和所链接的文档。如果处理器6，7不能访问到链接或所链接的文档(例如，如果处理器的网页浏览器不能下载链接的文档或出现其它错误)，那么处理器可以记录这一“断开的”链接(如自动响应于“断开”链接的识别)。例如，处理器6，7可以将这一信息报告在其分级信息中。
评估者4可以是供应商8、文档源12、终端用户10、光学处理器6、图像文件处理器7和服务器2本身。评估者4可以是一个或多个人、群体、和/或处理器。评估者4和供应商8可以是与操作服务器2相关的实体的合伙人。终端用户10可以是一个或多个人、计算机、计算机网络或网络上的其它实体。终端用户10可以请求和接收来自于供应商8和/或服务器2的内容。基于不同应用还可以包含额外的参与者。
服务器2可以包括任何服务器2、集线器、中央处理器、供应商、搜索引擎或网络中的其它实体。连接于服务器2的数据库39可以包括一个或多个数据库39-54。此外，数据库39-54也可以包括一单独数据库39的一部分。应当理解的是，数据库39-54可以是物理上各不相同的，也可以是相同的。服务器2及其模块20-36可以存储和访问存储在数据库39，39-54中的信息。
内容数据库40可以存储文档和/或与文档相关的数据，如文档的部分、图像和文本。这些文档可能是分级过的，也可能是没有分级的。例如，文档可以具有或没有与它们相关的特定类型的分级信息。举例来说，文档可以具有来自于处理器6，7的分级信息，但是不具有来自终端用户10或供应商12的分级信息。
可以从文档源12、评估者4和供应商8接收文档，或者这些文档可以以其他方式由服务器2存储。内容数据库40可以识别特定类型的文档和/或将文档分组或以其他方式关联在一起。例如，可以根据下述的一个或多个特征来识别文档和/或使该文档与其它文档产生关联主题、内容分级、集合内容分级、敏感性分数、内容类型、语言、地域来源(如来源的国家或城市)、目标受众的地理区域、文档源12、内容所有者、内容创建者、目标人口或其它准则。例如，可以根据其攻击性内容、相关的关键词、相关站点(如文档中明确的或隐含链接的站点，例如通过嵌入式的超文本连接)、相关站点的状态(如文档中的链接是否是断开的和/或是否指向一无效的URL)、裸露出肌肤的内容(如脱去衣服的人像的情况)、色情或其它淫秽内容、成人的内容、与毒品或酒精相关的内容、儿童内容、或目标年龄、性别、民族或宗教对文档进行识别或分组。还能够考虑涉及内容与适当受众相匹配的其它因素。
内容分级数据库42可以存储从评估者4处收到的内容分级(又称为“分级信息”)和其它与文档分级相关的任何信息。例如，内容分级数据库42可以存储关于文档点击数量、文档的提供次数、点击率、文档导致的事务处理(如当用户点击文档，从链接或另外相关的站点购买时)次数和反馈(如从终端用户10或供应商12得到的反馈)的信息、与针对文档的投诉信相关的信息、验证信息(如内容创建者确保某一特殊文档的适当性)，以及第三方或与文档内容相关的其它确定。存储的每一个内容分级都与某一特定的评估者4和某一文档(如电子文档)关联。每个内容分级都可以包括一个或多个主题分级(参见图7)。例如，一内容分级可以包括关于暴力内容的分级和关于性内容以及毒品内容的独立分级。如果一篇文档与一个或多个其它文档链接(如链接URL)，那么这里也可以包括所链接文档的内容分级。这些单独的分级可以组合成一单独的分数(如用于一篇文档的集合分级)，或者也可以不组合。当接收到新的文档分级信息时，可以改变文档的内容分级和/或集合分级。
内容分级数据库42还可以存储文档的一般批准状态和关于文档的性能数据。批准状态可以是“批准”、“不批准”、“暂停未决需进一步检查”或“未批准”。一篇文档可能会具有针对多种准则的批准状态。性能数据可以包括文档的点击率、反馈率、反馈数量的比率、事务处理率(与服务器2提供文档的次数或终端用户选定文档的次数相比，文档已经导致事务处理的次数)和处理容量连同其它准则。
信任分数据库44可以存储与一个或多个评估者4、文档源12和内容创建者(统称为“信任实体”)关联的信任分数。一单独的信任实体可以具有与其关联的一个或多个信任分数。该单独的信任实体还可以具有用于不同类型的内容分级主题范围的不同评分。例如，一信任实体相对年龄适当性分级来说可能具有较高的信任分数，但相对暴力分级来说则具有较低的信任分数。评估者根据下述任一准则，可能具有不同的信任分数时间(如一天中的时刻，一年中的第几天)、评估者的地理位置，文档接收者简档、评估者实体的大小、评估者的商业领域或产业、在先评估者分级一致性或精确性，信任实体和服务器2(如果有的话)之间的协议条款，以及其它评估者4b-4n评估的信任实体的信任等级。当评估它们自己的内容时，评估者4可以被发布一较低的信任等级。可以响应于识别评估者正在评估其自身内容来自动发布这一等级。
信任分数可以是规格化的(normalized)，或者以其他方式针对一个或多个评估者4进行调整。例如，可以调整信任分数来反映某一信任实体一贯提供较高或较低的分级，如对特定类型(暴力)的分级用于特定类型(广告)的内容。例如，在80％的评估者4a的分级中，一信任实体可提供的成人内容分级的平均值比其它评估者的分级高至少一个标准偏差。这就可以向系统表明在未来的分级中，评估者4a的成人分数等级有可能高于平均值，如特定类型内容的未来特定类型分级。
从一个或多个评估者的分级行为中能够确定、推断或推论出其它信息。例如，如果评估者A相比于评估者B对文档XYZ规定了较高的成年内容等级，评估者B相比于评估者C对文档QRS规定了较高的成年内容等级，那么系统可能会假定评估者A相比于评估者C规定了较高的成年内容等级。因此，在未来的分级中系统可以调整(如降低)评估者A(或B或C)的信任分数，例如分级包括来自于A和C的成年内容分级。
同样地，等级本身也可以是规格化的，或者是如上所述针对信任分数以其他方式进行调整，以代替(或除此之外)对评估者信任分数进行调整。例如，对于与处于类似情况的评估者4b-4g对同样或类似内容的分级相比总是规定出较高的暴力分级的某一特定信任实体，可以向下调整所述特定信任实体对这类内容的暴力分级。
应当指出的是，因为可以请求和接收数百评估者4的评估，所以对于大量用户、内容类型、分级类别和其它准则来说，能够跟踪和预测到存在的偏见和其它分级行为。本领域技术人员能够采用规范化和其它统计的和/或数据处理技术来处理数据。可利用经过处理的数据调整分级、信任分数、集合分级和其它计算和信息。
敏感度数据库46可以存储关于评估者4、供应商8、终端用户10、文档源12、服务器2和某一特定文档的敏感度信息，或者存储其它敏感度信息。敏感度分数可以表示保守性的级别，以此来集合内容分级。例如，一较高的敏感度分数(如95％)可以表明应当非常保守地聚集起集合分级。保守的集合可能意味着如果一个评估者4a认为某篇文档儿童不宜，那么即使“平均”分级表示该文档的内容适合所有年龄层的用户，但集合分级仍将表示该文档儿童不宜。可以由供应商8和/或终端用户10，或其它任何实体指定一敏感度分数。例如，供应商8可以为暴力内容和与性有关的内容指定较高的敏感度，为与年龄相关的内容指定低的敏感度。因此，当服务器2为供应商8选择文档时，服务器2所选择的文档中不含有(或非常少)评估者4发现的任何性或暴力内容，或者所选择的文档具有直接面向各年龄层受众的内容。
例如，敏感度数据库46包括的记录可以表示供应商A(或某一特定的终端用户10a)对性内容具有55％的敏感度分数，对与年龄相关的内容有20％的敏感度分数。
集合分级数据库48可以存储集合分级。每个集合分级与所评估的文档和用于确定集合分级的评估者4相关。集合分级还与一个或多个敏感度分级和信任分数相关。每个集合分级包括跨越了多种准则的内容分级。下面将针对分级集合模块30进一步说明集合分级的内容。集合分级数据库48还可以存储文档的批准状况。
评估者数据库50可以存储评估者(或其它信任实体)的信息。例如，评估者数据库50可以存储与某一特定信任实体的信任分数相关的信息。评估者数据库50可以存储这样的信任实体信息，如信任实体的名称、地址、产地、公司规模、在先内容分级信息、产业领域、公司声誉信息、在先信任分数、以及与信任实体的信任分数相关的其它信息。
评估者数据库50可以存储信息使服务器2能够识别某一特定的终端用户10a或供应商8a。例如，评估者数据库50可以存储过去为某篇文档提供分级信息的用户的静态IP地址。
适用性数据库52存储与可能请求文档的供应商8和终端用户10相关的信息。例如，适用性数据库52可以识别性别、年龄、姓名、出生国家和与终端用户10或其它内容请求者相关的其它个人信息。这样的简档将不同于另一个来自西班牙的62岁男性终端用户10的简档。每个用户10和/或供应商8可能具有一套与其自身相关且存储在适用性数据库52中的适用性标准。
其它的数据库54可以存储与评估者4、供应商8、终端用户10、文档源12、服务器2、内容分级、集合分级、信任分数、适用性分数和敏感度分数相关的其它信息。
服务器2可以包括一个或多个模块来处理内容、分级数据和其它数据。
文档选择模块20可以选择要分级的文档，如选择要由一个或多个特定评估者来分级的文档。模块20可以选择存储在文档数据库40中的文档。文档选择模块20可以随机选择文档，或者可以选择具有特定特征的文档。例如，文档选择模块20可以选择由一特定文档源12提供的文档、由一特定评估者4分级的文档，或特定长度或类型(如简短的广告或图像广告)的文档。可以根据主题、相关的关键词(如通常与可疑内容相关的关键词)、财务数据、性能数据、地域起源、所有者的身份、创建者的身份，和/或与文档相关的其它信息选择文档。
例如，针对检查(如手动检查)而选择的文档可以包括具有下述一个或多个特征的文档足够高的肌肤分级；将文档提供给供应商8或终端用户10次数足够高或足够低；终端用户10选择(如点击)文档的次数足够高或足够低；在一个或多个类别中足够高的等级或足够低的等级；文档分级次数足够高或足够低。如果一个文档与另一个文档相关联，那么对关联文档的任何与内容相关的考虑因素都可以成为检查的基础。例如，如果一图像广告明确地或隐含地链接于一网站的URL，那么内容考虑因素(如网站的“分级”)可能成为用于检查文档或不批准文档的基础。举例来说，如果该网站被标记为用于提供或潜在地展示不适当的内容，或者如果已知该网站提供这种内容，那么就可能对这篇文档进行检查。评估者可以经由他们的内容分级(如通过从图像广告的反馈)来报告这一发现。
此外，如果诸如图像广告之类的文档链接了“断开”的文档，那么所述文档可能被不批准或标记成用于检查。例如，一终端用户可以通过反馈报告文档中的链接不能有效地使终端用户的浏览器指向其想去的网站(或根本是任何网站)，或者产生另外的错误，如无法正确下载所链接的文档。如果供应商8抱怨一文档(或文档源12)并从其网站上阻塞该文档，那么也可以不批准该文档或选择该文档来检查。
可以选择分级的和未分级的文档进行检查。(应当理解的是，“未分级”的文档可包括不具有手动分级的文档；因此，未分级的文档可以包括具有来自光学处理器6和图像文件处理器7分级的文档)。例如，在选择低点击率(CTR)广告之前可以选择高点击率的广告进行分级。具有更多分级信息(如负面的反馈)或具有相互矛盾的分级信息的文档要优先于具有较少分级信息(或积极的分级信息)的文档。可以优先于器具制造者的广告选择酒类销售者的网页。
评估者选择模块22可以选择用于评估一个或多个电子文档的评估者4a-4n。可以随机或通过其它方法选择评估者4和相关的文档。例如，可以从一组特定类型的评估者中，如从广告商合作者或广告编排合作者的群体中随机选择评估者4。可以根据任何准则如评估者的信任分数来选择评估者4。
可以优先于分过级的文档选择未分级的文档进行分级。一些评估者4可以向服务器2提交一些可分级的文档。可以选择这些评估者4来检查文档，当然也可以不选择这些评估者4。在一实施方案中，实体在把可分级的内容提供给服务器2之前先对这些内容进行分级。
信任分数模块24确定了用于评估者4的信任分数。评估者4的信任分数是衡量在确定集合分级时将以怎样的程度考虑评估者4的内容分级的标准。例如，在集合分级的评估中，高信任度评估者4的内容分级将被给予大于低信任度评估者4的权重。可以根据下述与评估者4相关的因素确定信任分数评估者的名称、公司、公司规模、评估者的位置(国籍)、评估者的语言、评估者的声誉、公司产业、在先内容分级、在先内容分级的数量、以及在先内容分级和由其它评估者进行的相关联的集合分级或内容分级之间的对比。
敏感度模块26可以确定供应商8、终端用户10、评估者4和/或服务器2的敏感度。这些分数可以是基于收集到的关于那些实体的信息，如在先分级数据和存储在任何一个数据库39中的任何数据。在确定集合分级中高敏感度分数可表示保守程度较高。例如，如果供应商8a在过去抱怨接收过不适宜的暴力内容，那么敏感度模块26可以将高暴力敏感分数与该供应商8a联系起来。
内容分级模块28可以创建内容分级请求，并将其传送给评估者4。图7示出了一示例性的内容分级请求。内容分级请求可包括针对待分级文档请求的信息列表。对每一文档来说，内容分级请求可以相同也可以不同。因此，对每一文档来说，请求的信息也可以是不同(或相同)的，如对某一特定类型的文档(如图像广告或与特定类型的关键词或产业相关的文档)。举例来说，对啤酒广告分级的请求可请求详细的关于描绘啤酒/酒类方式的信息，而对重型机床销售商的网站进行分级的请求则可能不请求上述信息。内容分级模块28还可接收和处理从评估者4接收的内容分级。可以通过传统邮件、电子邮件或其它方法传送内容分级请求和内容分级。例如，服务器2可以向评估者4发送到服务器2网站的链接，其中该服务器2网站包含了文档及其相关的内容分级信息。评估者可以访问文档并直接在服务器2网站上提供内容分级。接下来内容分级模块28可以用电子方式处理分级信息。
分级集合模块30可以通过对从一个或多个评估者4接收的文档的一个或多个内容分级进行处理来确定文档的集合分级。分级集合模块30可以采用任何集合算法或方法论。例如，集合可以是总分、平均值、众数(mode)、中值、阶跃函数、75％(或其它数值)的分数或与所考虑的数据相关的其它任何测量值。所述算法可以考虑下述的一项或多项内容例如，内容分级，敏感度信息，适用性信息，信任分数信息，文档性能数据(如点击率和显示频率)、以及与评估者、文档、文档内容或集合相关的其它信息。举例来说，在一特定的迭代算法中，如果有任何指示暴力的内容分级，分级集合模块30可将文档标记为暴力。当涉及暴力的高敏感度并入到算法中时就有可能发生如上所述。只有当绝大多数的评估者4把该文档分级成具有强烈的暴力内容时，另外的算法才可以确定高的暴力分数。算法可以根据每个评估者的信任分数(如果有的话)对不同评估者的不同分级进行加权。例如，高信任度评估者的暴力分级可以被认为是低信任度评估者暴力分级的3倍。算法还可以减少从处理器6、7接收的分级。当然其它的实施例也是可以的。
集合分级可以包括一个或多个单独的数值分数(如用于诸如性和暴力等不同的主题领域)和/或一个或多个口头分数。口头分数可以是分析文档特征的词语(如评论)。例如，在“性内容”的类目中评估者可以提供4/10的数值分数，并且还可以口头陈述该文档“包含半裸的女性，并且她的眼中流露出色情的挑逗”。它还可以包括一个或多个二进制分数(如是/否或标记/未标记)。例如，如果五分之三的评估者将一篇文档的内容标记为色情内容，那么分级集合模块30就可以将该文档标记为色情内容。在一个特定的主题领域，数值分数可以包括总分级中的一个或多个衡量值，并且数值分数还可以表示关于集合的不同分级的其它信息。举例来说，一个分数可以包括平均值(除平均值的标准偏差之外)。集合分级还可以包括与语言响应耦接的多维矢量。
分级集合模块30还可以确定需要接受额外检查的特殊文档。例如，如果一信任度较低的评估者将一篇文档标记为色情，那么该文档可能被标记成需要进一步检查(如通过服务器2或其代理的手动检查)。分级集合模块可以在特定的时间或当把新的等级输入到系统中时更新集合分级(如自动地)。
分级集合模块30还可以暂停、反对或以其他方式改变被文档选择模块20标记为需要检查的文档的等级或状态。
适用性标准模块32可以识别或确定文档接收者如供应商8和终端用户10的适用性标准。适用性标准可基于供应商8或用户10的信息，例如是如上所述的信息。适用性标准可以由适用性标准模块32识别。举例来说，对于浏览流行歌手网站的大约20岁的男性用户来说，其适用性标准表明少量的暴力和色情内容可能适合于这些用户，但是涉及酒精的内容则是不适合的。可以采用适用性标准来选定适于那些用户的文档。
当服务器2试图选择一个或多个文档，可能将其传送给进行请求的供应商8或终端用户10时，适用性标准模块32可以试图确定与供应商8或终端用户10的偏好相关的任何信息是否存储在适用性数据库52中。对于某一潜在的内容接收者来说，如果存在适用性标准，那么文档供应模块34可以选择满足该适用性标准的文档(如含有很少暴力内容的文档)。类似但稍有不同地，可以利用这里所述的敏感度分数实现识别适当内容的方法。
文档供应模块34可以响应来自于供应商8、终端用户10或其它实体的请求而选定和提供文档。例如，儿童书籍的零售商可能请求在他们的网站上显示广告。作为响应，文档供应模块34可以识别或确定与儿童书籍零售商相关的敏感度分数信息和适用性信息，然后基于这些信息(如经过识别的适用性标准)选定文档。举例来说，如果网站对暴力内容具有高敏感度的关联，那么文档供应模块34可以选择的内容应具有表示零暴力内容的集合分级。文档供应模块34还可以选择由可信任的评估者识别的、不具有不良暴力内容的文档。
文档选择可以是基于与该文档相关的集合分级，以及适用性信息和/敏感度信息的。例如，文档供应模块34可以确定供应商8(或终端用户10)具有高度敏感性反对色情内容，因此选择了没有评估者发现色情内容——或没有评估者发现任何类型的性内容的文档。文档供应模块34还可以确定偏爱这类文档的供应商，其中所述文档带有的集合分级表明其在儿童内容这一类别中具有较高的分值，因此选择了基本上包含儿童内容的文档。
通过识别针对特定供应商8和终端用户10(或其它接收文档的实体)的适用性和/或敏感度分数，可以选择适合于与该实体相关的适用性概况(或标准)的文档。因此，终端用户可以接收到非攻击性内容，内容供应商可以确保在他们网站上所提供的内容的适宜性。
在一些实施方案中，文档供应模块34可以选择和提供“批准的”文档。“批准的”文档可以是在任一内容领域中具有足够高或以其他方式可被接受的集合分级或足够高的内容分级的任何文档。例如，在一些实施方案中，批准的文档可以是其分级表明通常得到所有受众认可的任何文档。在另一些实施方案中，批准的文档可以是不带有消极分级(或没有分级)的任何文档。例如，对带有一平均值以用于提供分级信息(如反馈，图4)的图像广告来说，批准的文档包括没有反馈的文档。
文档选择模块34可以基于文档的接收者来选择文档。例如，如果接收者是男性，那么文档选择模块34可以选择与男性受众相关的文档。
文档选择模块34可以识别接收者信息，如通过在终端用户的计算机上检查“cookies”。举例来说，文档选择模块34可以基于从终端用户接收到的在先信息(如在先提供的文档的分级信息)识别终端用户10的偏好。由文档选择模块34允许或识别的信息可存储在评估者数据库50中。
光学数据模块35可以将信息传送给光学处理器6，或从光学处理器6接收信息。光学数据模块35可以接收和处理光学数据以确定分级信息(如上所述用于光学处理器6自身的)，和/或它可以只接收和处理由光学处理器6确定的分级信息。必要时，光学数据模块35可以将这一数据转化成可由其它模块20-38读取的格式。
文件数据模块36可以将信息传送给图像文件处理器7，或从图像文件处理器7接收信息。光学数据模块可以接收和处理光学数据以确定分级信息(如上所述用于光学处理器6自身的)，和/或它可以只接收和处理由图像文件处理器7确定的分级信息。必要时，光学数据模块35可以将这一数据转化成可由其它模块20-38读取的格式。
光学数据模块35和文件数据模块36可以共同处理诸如图像广告之类的文档或其它含有图像的文档的分级。当服务器2从文档源12接收到新的或修改过的文档(或请求对文档修改)时，模块35、36可以按如上所述使文档被处理和分级。这样，可在由服务器2接收(或由服务器2产生)每一文档时，自动地得到每一文档的分级。对于选定的文档来说，按照如上所述如通过文档选择模块20也能够获得手动分级。
其它模块38可以实现关于电子文档分级的其它功能。
系统网络环境的说明 图2示出了根据本发明的实施方式的一种用于对文档进行分级的系统的联网操作环境。这种环境中，评估者4和供应商8可以通过网络14、15与服务器2连接(例如利用安全https连接)，以便向服务器2提供文档和分级信息和接收来自服务器2的文档和分级请求。服务器2可以将文档和分级信息存储在数据库39中。服务器2可以通过各种论坛或反馈分发这些文档，包括以打印媒介直接分发，在与服务器2有联系的一个或多个网站上和通过提供者8提供这些文档。应当注意，提供者可以包括服务器2的企业联合组织合作伙伴(例如按所需安全性通过网络14或15连接)、内容系统(例如与内容数据库相关联)和由服务器2或提供者8操作的搜索引擎系统。
借助这样的各种论坛，提供给提供者8的文档可以包含在显示给终端用户10的页面(或其他文档)中(常常称为印象(impression))。
服务器2、评估者4、供应商8和文档源12中的每一个都可以包括计算机化系统，这些系统包括下列系统中的一个或多个web服务器2，数据库服务器2，代理服务器2，网络平衡机制和系统，以及能使该系统在因特网或其他网络类型系统上操作的各种软件组件。此外，网络14和15(尽管被示为http网络)还可以包括其他网络(例如专用线路、企业内部网或任何其他网络)。在举例实施方式中，文档源12(如广告提供者)与服务器2之间的连接(以及例如提供者8与服务器2之间的其他连接)可以包括安全网络连接，以确保数据不受任何黑客或其他第三方的攻击或破坏。此外，尽管示出了两个评估者4和两个文档提供者12，然而应当理解，在网络中可以提供一个或多个评估者4和一个或多个文档提供者12。同样，尽管示出了一个数据库39，然而应当理解，可以提供多个数据库39，并且这些数据库39可以通过任何类型的网络连接(包括分布式数据库服务器2体系结构)与服务器2连接。
类似地，提供者8a可以包括通过任何类型的网络(包括http或https网络)与评估者4和服务器2连接的任意多个这样的系统。内容提供者8可以包括诸如服务器2的系统，它提供能通过因特网或其他网络协议进行连接的功能性。终端用户10可以包括任何用户(例如与因特网连接的用户)，并且可以包括能通过各种类型网络中的任一个(包括通过因特网业务提供者、电缆公司和访问因特网上的数据的任何其他方法)进行连接的计算机化系统。提供者8可以包括向终端用户10分发内容(例如广告)的任何系统。
示例性过程 图3是一流程图，示出了根据本发明实施方案对电子文档进行分级的示例性方法。利用图1和2所示的系统可以实现这里所述的方法。
在块300中可以接收一个或多个文档。例如，服务器2可以从一个或多个合作广告商或一个或多个其它内容供应商接收一个或多个广告。或者或除此之外，服务器2也可以产生一个或多个文档。
在块310中，服务器2可以选择将一个或多个文档传送给一个或多个评估者。例如，服务器2可以将文档传送给一个或多个合作广告商或内容供应商，在这种情况下这些实体被称作评估者。这些评估者可以是与在块300中从其接收文档的实体相同或不同的实体(即在块310中，服务器2可(从块300)选择文档的原始供应商作为其中一个评估者)。
服务器2可以随机选择文档和评估者，或者基于算法和/或一个或多个准则进行选择。可以从多个文档中挑选文档，从多个评估者中挑选评估者。应当理解的是，尽管这一描述披露的是对一篇电子文档进行分级的方法，但可以采用这种方法同时对多篇文档分级。例如，当由服务器2接收每一篇额外的文档时，可以将文档传送给一个或多个由系统(自动地)选定的评估者。如上所述，可以通过文档选择模块20选定这些文档。
在块320中可以将选定的文档(或到选定文档的链接)传送给一个或多个评估者。例如，服务器2可以将文档传送给将要对这些文档分级的一个或多个合作广告商。服务器2还可以将分级指示发送给评估者4，其中分级指示记述了对文档请求的不同分级。分级指示可以提供把评估者指向某一网站的链接(如反馈链接)，其中该网站提醒评估者给出特定分级信息。所链接的网站还包括用于获得或查看文档本身的装置。举例来说，服务器2可以请求每个评估者根据各种准则如目标年龄范围、家庭内容、暴力内容和其它准则对文档分级。
服务器2还可以将文档(直接或间接地通过供应商)传送给可能会(也可能不会)对文档分级的终端用户。文档本身可能具有用于评估的内置装置。例如，图像广告可能具有用于提供分级信息的“反馈”链接。接收该图像广告(或者带有用于提供分级信息的装置的其它文档)的终端用户接下来可以对该文档分级。在这一方案中，因为任何文档接收者都可能是潜在的评估者，所以不需要在块310中选择评估者。
在块330中，评估者可以产生与文档相关联的一个或多个内容分级(也称作“分级信息”)。例如，合作评估者可以具有一个或多个评估员工或代理，用于在由服务器2指定的每个类别中检查文档并对文档分级。内容分级可以是数值分数(如1和5之间的数值，或者是其它数值或百分数)、代码(如用“V”表示暴力)或口头评论(如评论响应)。
举例来说，终端用户或其它评估者可以通过点击反馈链接来选择提供分级信息。反馈链接可以把评估者指向网站(或电脑空间的其它位置)，其中评估者可以在该网站提供分级信息。例如，反馈链接可以把评估者指向提醒评估者给出各种分级信息(参见图7)的网站。可以在提示时输入分级信息。
应当理解的是可以通过处理器，如上面所述的光学处理器6、图像文件处理器7以及光学和文件数据模块35、36对文档分级。如果是自动对文档分级，那么块300-330就可以自动且基本同时全部发生。如果服务器2本身经由光学或文件数据模块35、36对文档分级，那么就不需要从块340中的评估者那里“接收”分级信息。
在块340中，可以从评估者接收内容分级。例如，通过服务器2从合作广告商或者经由反馈链接从终端用户接收内容分级。
在可选的块350中，可以识别敏感度分级和评估者信任分数。例如，服务器2可以识别与提交了文档内容分级的一个或多个评估者相关的信任分数。可以如图1的信任分数模块24所示来确定和识别信任分数，并且可以如图1的敏感度模块26所示来确定和识别敏感度分数。
在块360中可以确定集合分级。该集合分级可以基于内容分级、敏感度分数和信任分数中的一项或多项。可以通过上述用于分级集合模块30(参见图1)的任意方法来确定集合分级。集合分级包括总体批准或不批准。
在块370中可以接收文档的请求。例如，服务器2可以从供应商8或终端用户10接收文档的请求。在块380中可以确定适用性标准和/或敏感度分数。
在块390中可以选择文档。例如，从用户或供应商接收到文档请求的服务器2可以挑选用于用户或供应商的文档。这一选择可以基于用户或供应商的适用性标准、文档的一个或多个集合分级，和/或与评估者、服务器2、供应商和/或用户相关的敏感度分数。
在块400中可以将选定的一个或多个文档传送给有需求的实体。例如，如果供应商或用户在块370中请求某一文档，那么服务器2可以视情况而定将该选定的文档传送给供应商或用户。
本领域技术人员应当理解的是如把所述这些行为具体化到一个或多个计算机系统中，如耦接于诸如供应商、评估者和终端用户之类实体上的服务器2系统中那样，可以通过硬件、软件或它们的组合，利用或不理用人为干预来执行所述行为。此外还应当理解的是不必实现所有的块。例如，在一实施方案中，所述方法可以从块340开始，以块390结束。而且，不必按照图3所示的顺序执行每个块的操作。任何执行顺序都可以考虑。
应当指出的是在用户或内容供应商向服务器2请求一篇文档之后而非请求之前确定集合内容分级。由于敏感度、适用性标准和评估者信任分数可以随时间改变，并且可以添加新的分级以用于特殊的文档，因此文档的集合分级也可以改变。在提供给用户或供应商之前所获得文档的最新分级可以使文档适合用户或供应商的可能性达到最大程度。
用户界面和结果的说明 图4表示根据本发明实施方案的一示例性文档1。图4描述表示示例性网页3从因特网搜索引擎得到的搜索结果。该网页3本身可以是文档。网页1上的内容也可以是文档。例如，搜索结果页3上的广告1也可以是文档。还可以考虑其它类型的文档，如广告、文件、程序和其它信息。
文档可以包含不同类型的内容。例如，文档可以含有词语、图像、声音和其它信息，并且具有可以动态产生词语、图像、声音和其它信息的功能或程序。每个文档可以具有不同数量的各种类型的内容，如性内容、暴力内容、与药品或酒精相关的内容、金融内容、成人内容、儿童内容和其它内容。
图5描述了根据本发明实施方案的一示例性图像广告文档1。该图像广告1可包括横幅广告、能够显示在网页上的其它广告、或能够通过电子装置显示的其它图形广告。图像广告1示出了特定的图像1A、广告文本1B、一个或多个链接1C以及对该文档1分级的机构1D。该特定的图像1A中含有一电影放映机以及DVD、VHS和数字胶片盒的图像。文本B包括广告信息，如对产品或服务的描述、对潜在客户的建议、和/或其它广告文本。链接1C可包括与其它文档的链接，如广告商的网页URL。例如，链接1C可以包括嵌入式的超文本链接、该嵌入式链接可以与显示在文档1图像中的链接1C相关联。在一些实施方案中，选择(如点击)显示的URL或其它链接，同时浏览文档1(如在网页浏览器中)可以使用于查看文档的查看器机构(如网页浏览器)指向与链接相关联的内容(如广告商的网页)。
文档1可以很明显地显示出链接1C。或者，链接1C可以被嵌入到文档中(如在文档的程序设计中)或者其一部分中，以便链接1C是不可见的。这里，通过选择(点击)文档，文档的图像1A、文本1B或其它部分可以使用户的文档查看机构指向所链接的文档。文档1本身、图像1A和文本1B也可以包含一个或多个链接1C。例如，登载多种产品的广告就可以包括每个产品的链接，其中选择(点击)与某一特定产品相关的图像1A、图标1A或文本1B就可以使web浏览器(或其它文档查看机构)指向与该特定产品(或其它产品)相关的商品网站的网页。
机构1D可包括提供分级信息的链接。例如，选择该机构1D(如点击链接1D)可以使文档查看器指向用户可以在其中提供分级信息的电子邮件或网页。举例来说，网页可以包括用于提供分级信息或以其它方式请求分级信息的提示。这里也考虑用于在评估者4和服务器2之间提供通信链接的其它机构1D。
图6描述了根据本发明实施方案的示例性文档分级600。该文档分级600例如可以通过光学处理器6、图像文件处理器7、光学数据模块35或文件数据模块36而自动产生。文档分级600可包括与文档内容、性能相关的特征或与文档相关的其他特征。例如，文档分级600可以包括下述任意信息文档文本(如由OCR识别的文本)；文档图像的描述(如由处理器6、7识别的图像)；与文本和/或图像相关的内容关键词；在任意图像中检测到的裸露肌肤的数量(如半裸的人的肌肤)；可能成为不适宜内容的数量(如通过各类不适宜内容组成的，如涉及酒精和暴力)；信任分数信息；诸如反馈数量和反馈内容之类的反馈信息；文档的性能数据，如点击率；一般分级；以及任何其它分级信息或文档信息(如这里所提到的)。文档的性能数据可以从内容分级数据库42获得。
其它的文档也(如图像广告)也可能显示身着比基尼泳衣、手持一杯酒的女性，与其相关的标题这样表述“Fun in the sun WineCobrand wine”。其它的文档还可能示出一男性持枪指着上面书写着“debt”字样的图表。其它的文档还可能陈述“investments with FundCoyielded 6.25％over prime last year”。其它的文档还可能显示出儿童在彩虹下跳舞并且歌唱着“It’s a Small Wrold After All”(毕竟是一个小世界)。其它的文档还可能带有一图标，例如在视频游戏中，当点击该图标时允许用户利用光标使步枪瞄准栖息在湖面的鸭子，从而猎取到鸭子。每篇文档(如广告)都可以在广告底部包括一块样本(swatch)，其中明确地列出了网站的URL(如在文本特征中)，如果该广告(或一部分)被选中(如点击用户设备)，那么就可以访问该网站。此外，这块样本(或文档的其它部分)还可以包括表示文档来源或赞助的图表或文本。
图7示出了根据本发明实施方案的示例性内容分级请求700(“反馈调查表”)。该内容分级请求700包括一个或多个用于跨越了主题和内容类型的范围的特定分级701-703的请求。例如，可以请求对暴力701、青少年的适合程度703、国家特定适用性考虑703和其它信息进行分级。举例来说，内容分级请求可能会请求评估者提供一个数值(如在1-10之间的一个数)来表示性内容、暴力内容、成年内容、语言或国家特定内容、或其它类型的内容或准则的数量。这一请求还可以请求与文档何时最适宜查看(每天、每周、每年的某个时刻)相关的信息。这一请求还可以要求请求者解释请求者数值分级的理由或提供其它口头分级。
图8示出了根据本发明实施方案的示例性内容分级80(完全或部分完成的反馈调查表)。内容分级700可包括一个或多个文档的主题领域内容分级81-83，如涉及暴力81、青少年的适合程度82和国家特定适用性考虑83以及其他信息的分级。内容分级可以包括一个或多个针对内容分级请求(参见图7)的响应。内容分级还可以跨越各种准则指示数值或口头分级，如性内容、暴力内容、成人主题的内容、特殊文化的内容，或其它内容准则。
实际上，服务器2可以从文档源接收多个图像广告或其它文档。当服务器2接收每个图像广告时，它可以经由处理器6，7对文档分级。分级可以屏蔽图像广告中潜在的攻击性内容，如色情内容、攻击性语言和潜在的攻击性链接网站。举例来说，可以仅批准确定没有这些攻击性内容的广告。
当供应商(或终端用户)请求诸如图像广告之类的文档时，服务器2可以响应这一请求提供一图像广告。服务器2根据其内容、适用性、请求者的身份、图像广告的性能和其它因素来选择被批准的图像广告。例如，如果用户的请求与一个或多个关键词相关，那么服务器2可提供与一个或多个相同或类似关键词关联的图像广告(例如，语义空间中非常相关的关键词)。举例来说，如果用户在搜索引擎上搜索词语“航线”并请求获得搜索结果的文档时，服务器2提供的搜索结果可以带有与词语“航线”相关的图像广告。
评估者4(如终端用户10)可以通过反馈链接来提供反馈，其中所述反馈链接可以是图像广告的一部分。例如，如果广告包含有攻击性内容如过度的暴力描写，那么终端用户可以点击反馈链接，提供指示这些内容的反馈(如通过将文档分级为具有明显的暴力内容)。因此服务器2可以接收分级信息，并相应改变图像广告的分级。
服务器2还可以基于文档的分级和/或性能信息请求检查文档、停止(例如向一个或多个供应商或一个或多个终端用户，如儿童)提供文档，改变或暂停文档的发布，或以其他方式改变文档的状态。例如，如上所述，如果广告的分级(如集合分级或一个或多个特定内容分级)表明含有不适宜的或攻击性内容，服务器2就可以停止提供图像广告或请求进一步检查广告。如果一特殊的供应商8a阻挡了通过该供应商8a的文档发布，或者如果评估者4请求额外的手动检查(如通过反馈机构)，那么也可能发生如上所述。就性能信息而言，如果文档拥有足够低(或高)的点击率、事务处理容量或其它性能特征，那么服务器2可能会请求手动检查广告或以其他方式改变该广告的状态。例如，如果文档具有很低的点击率，服务器2就有可能请求一个或多个额外的评估者4检查该文档。不准将具有不期望性能特征(如较低的点击率)的文档发布给终端用户。在这种情况下，这些文档不被批准不但是因为其含有不适宜的内容，还因为它们对使终端用户10产生兴趣或收益的能力较差。
服务器2可以为了任何原因而请求手动检查。例如，服务器2当然可以不考虑分级而请求一些有限的对文档的手动检查。服务器2还可以根据文档源12的信任分数或其它因素请求手动检查。
在对文档分级前(或在具有足够的分级信息以确定充分可靠的文档分级之前)，文档可以被分类为“未批准的”或“还没有批准的”。这些文档是已经从文档源12接收到的文档或由未分级(或仅仅经过处理器的分级)的服务器2产生的文档。对这些文档来说，内容分级数据库42可以表示文档的分级是“未经批准的”、“不确定的”、“待检查的”或“初步批准的”等。文档还可以被传送给终端用户10(如经由供应商8)以便获得关于文档的分级信息(如反馈)。不过由于其不确定的状态，该文档的供应可能是受限的。例如，可以不向特定用户10a或供应商8a如儿童10或非合作供应商8提供文档。在获得文档的集合分级和/或确定文档集合分级后，服务器2可以基于用户10、请求、用户信息、供应商信息，和/或涉及文档的信息将文档传送给用户10。举例来说，响应成人网站的查看请求，可以选择含有性内容的图像广告并将其传送给成人用户。
文档可以包含反馈机构1D。在文档已经被查看过多次(如5000次)且未收到任何反馈(或指定数量的消极反馈，如没有)之后，可以将该文档分类成批准或完全批准(如被所有受众批准)。可以将这样的文档不受任何限制的传送给终端用户。此外，也可以从文档中除去该反馈机构1C(如由于认为它是不必要的)，或者可以以其他方式修改文档的内容。
在需要进一步检查时，为了得到经过识别的文档的检查(如进一步手动检查)，服务器2可以选定一个或多个文档，以及一个或多个对这些文档进行检查的评估者4。例如，在100篇请求手动检查的文档中，服务器2可以选择5篇用于手动评估，然后选择3个评估者对这5篇文档的每一篇进行分级。
(此外和/或或者，它可以向多个选定的评估者4传送这5篇文档，从而每篇文档配备三个评估者4，但是，每个评估者4并不具有所有三个文档。)服务器2可以把分级请求与每篇文档发送给评估者。此外，服务器2可以在数据库中(如数据库6中和/或网站上)公布文档和评估请求(如评估格式)，并使评估者4能够访问数据库并提供分级内容。
例如，某一文档中含有身着比基尼泳衣、手持酒杯的女性，由一评估者对该文档评估的一个内容分级80示出了该分级中6/10表示性内容，4/5表示酒的内容，还具有该文档适宜儿童的指示，并且所述分级还包括该文档最适宜在下午7点至上午6之间出现的指示。对同一篇文档，第二个评估者的内容分级则示出了该分级中7/10表示性内容，3/5表示酒的内容，也具有该文档适宜儿童的指示，并且所述分级还包括该文档最适宜在下述4点至上午6点之间出现的指示。对同一篇文档，第三个评估者的内容分级示出了该分级中8/10表示性内容，3/5表示酒的内容，还具有该文档不适宜儿童的指示，并且所述分级还包括该文档最适宜在晚上11点至上午6点之间出现，并且不出现在假日中的指示。
服务器2可以基于这三个分级计算出该文档的集合分级。服务器2可以指定针对儿童内容的高敏感度和针对暴力内容的中敏感度。服务器2还可以基于这三个性内容分级的平均值(或中间值)计算出关于性内容的集合分级，其中在这种情形下表示为7/10。服务器2可以基于酒分级的一个众值(最常见的分数)计算出关于酒内容的集合分级，其中在这种情形下表示为3/5。此外，如果第一个评估者具有较低的信任分数，服务器2可以不理会第一个评估者的分级4/5，这样这三个分级的加权平均值大约为3.1/5(四舍五入为3)。由于服务器2对儿童内容采用了高敏感度，就有可能确定该文档不适宜儿童，这是因为其中的一个分级者指示该文档不适宜儿童的缘故。服务器2可以选择最信任的评估者对时间的分级。如果该评估者指示最适宜的时间是晚上11点至上午6点之间，那么集合分级就可以指示最适宜的时间是晚上11点至上午6点之间。集合分级还可以指示针对每个集合分级组分的标准偏差，或者可以采用其它的衡量方式来表示不同的评估者所带来的不同的分级变化。
如果三个分级中的任一个与集合分级有显著不同，那么这一分级将被标记为待进一步检查。例如，由于只有一个评估者指示该文档不适宜儿童，因此服务器2(或者是服务器2或其它评估者的代理)可以检查该文档以确定所述特殊的分级是否正确。举例来说，服务器2可以检查评估者的分级，和/或产生(或请求)针对该文档的一个或多个额外分级。根据结果，服务器2可以改变集合分级(如通过重新计算)和/或改变所述评估者对于这一个或多个内容准则的信任分数。
同样可以确定其它文档的集合分级。例如，关于儿童在彩虹下歌唱的广告可以被分级成不具有性内容、酒类内容、暴力内容，并且适宜在全天的任何时刻播放(特别是在上午8点至下午6点之间)。
于是，一终端用户或供应商可能在午夜时分请求文档。例如，客户点击供应商的网页，供应商可能请求在其网站上给客户显示出广告。服务器2可以根据不同文档的集合内容分级选择一篇文档并将其传送给供应商。为了选择这一适宜的文档，服务器2可以识别进行请求的供应商(或用户)的敏感度和适用性信息，并考虑诸如请求时间之类的其它准则。例如，服务器2可识别供应商对性内容具有较高的敏感度。(在另一实施例中，服务器2可以识别到(如通过采用存储在与用户IP地址相关联的数据库中的cookies或信息)用户的年龄和性别(如25岁的男性))。服务器2可以具有发布的敏感度或适用性标准，如用于一天中的时刻。对于午夜时分的请求，服务器2可以发布此时对性和暴力内容的敏感度低于中午，这是由于儿童在这一时间浏览的可能性要比中午少得多。从对服务器2、供应商8或终端用户10的观察中可以得出相应的时间。
因此服务器2选择适合于对性内容具有高敏感度、对暴力内容具有中等敏感度的供应商的文档。服务器2可以考虑选择存储在数据库中的全部或部分文档，包括涉及比基尼/酒的文档、唱歌的儿童、和猎取鸭子的文档。例如，服务器2可以仅考虑这样的文档，即文档具有的集合分级指示出文档中很少有或者没有性内容以及仅仅有中等程度(或很少)的暴力内容。在一天的中间时刻，服务器2可以由于该时刻的原因对暴力内容实施高敏感度，因此在这一时刻仅考虑非暴力内容的文档。但是，在午夜，服务器2可以考虑那些在早些时候用户不宜的其它文档。
随后，服务器2还可以搜索这样的文档，即该文档适合与该文档请求相关的各种准则以及相关的敏感度和适用性信息。尽管儿童歌唱的图像中不含有攻击性或潜在攻击性的内容，但它也可能具有较低的点击率，因此也不能被选择。应当指出的是，具有很少或没有潜在攻击性内容的文档可能、也可能不能比含有潜在攻击性内容的文档更受欢迎。这里，如果关于猎取鸭子的文档的集合分级指示仅具有适度的暴力内容，那么就可以选择这篇文档。如果该文档还具有较高的点击率，那么选择该文档的可能性就会更大。也可以考虑选择文档的其它因素。
应当理解的是这里所述的服务器、处理器和模块可以自动或经由自动系统来执行它们的功能(如读取光学信息或确定分级信息)。这里所采用的术语“自动”指通过任意机器执行的程序，如不需要人为干预或输入的程序。
本发明的实施方案并不局限在由这里所述的特定实施方案限定的范围内。例如，尽管这里公开的许多实施方案以广告为参照进行描述，但这里的原理与可适用的文档和其它内容是等效的。当然，除了这里所述的之外，根据如前所述和附图对本发明实施方案的各种改进对本领域技术人员来说是显而易见的。因此，这些改进也趋向于落入到下面所附权利请求的保护范围内。此外，尽管这里所述的本发明的一些实施方案是为了特殊的目的在特殊的环境中以特殊的执行方式实现的，但本领域的普通技术人员将认识到其有效性并不局限在那些实施方案中，本发明的实施方案能够在各种环境中为各种目的而有利地实施。因此，下面列出的权利请求应当被解释为考虑到这里所公开的本发明实施方案的全部示意和实质。
权利要求
1.一种对包含有图像的文档进行分级的方法，该方法包括
接收用于发布的文档；
从一个或多个分级实体接收与文档相关联的分级信息，其中至少一个所述一个或多个分级实体包括处理器用以确定与图像相关联的分级信息；和
基于分级信息批准文档以用于发布。
2.如权利要求1所述的方法，其中所述文档包括web页、可用于web页中的内容和程序中的至少一个。
3.如权利要求1所述的方法，其中所述处理器包括光学读取器，所述处理器通过下述行为确定分级信息
通过光学读取器从图像中读取光学数据；
将光学数据转换成计算机可读的数据；和
处理计算机可读的数据。
4.如权利要求3所述的方法，其中处理器通过处理计算机可读的数据使一个或多个概念与图像关联。
5.如权利要求1所述的方法，其中所述文档包括图像广告。
6.如权利要求1所述的方法，其中所述文档包括与广告商相关联的图像广告，该图像广告包括指向与广告商相关联的网站的链接。
7.如权利要求6所述的方法，进一步包括
响应由用户选择的图像广告，使用户被引导到与该图像广告相关联的网站。
8.如权利要求1所述的方法，其中所述文档包括使接收者能够对文档分级的反馈机构。
9.如权利要求1所述的方法，进一步包括
通过图像处理器将图像与至少一个存储的图像比较。
10.如权利要求1所述的方法，进一步包括
通过处理存储着图像的文件来识别与该文档相关联的一个或多个概念。
11.如权利要求1所述的方法，其中处理器识别图像中的人体肌肤内容。
12.如权利要求1所述的方法，其中所述文档包括图像广告，该方法进一步包括
接收针对搜索结果的请求；和
提供含有图像广告的搜索结果。
13.如权利要求1所述的方法，进一步包括
响应于确定文档含有不适宜内容，不批准该文档。
14.如权利要求1所述的方法，其中所述文档包括图像广告，该方法进一步包括
基于图像广告的性能参数批准该图像广告。
15.如权利要求14所述的方法，其中所述性能参数是点击率、事务处理容量、事务处理率和反馈分级数量中的一个。
16.如权利要求1所述的方法，进一步包括
将文档发布给一个或多个分级实体。
17.如权利要求1所述的方法，其中所述文档包括与概念相关联的图像广告，该方法进一步包括
响应于对与该概念相关联的文档的请求，提供图像广告。
18.如权利要求1所述的方法，进一步包括
响应于确定供应商拒绝发布文档，不批准该文档。
19.如权利要求1所述的方法，其中所述文档包括与网站的链接，该方法进一步包括
响应于确定所述链接不将用户浏览器引导到网站，不批准该文档。
20.如权利要求1所述的方法，进一步包括
如果分级信息不包含不适宜内容的指示，则批准该文档。
21.如权利要求1所述的方法，其中所述分级信息包括不适宜内容的至少一个指示，该方法进一步包括
从一个或多个额外的分级实体请求分级信息。
22.如权利要求1所述的方法，其中所述文档包括与网站的链接，该方法进一步包括
响应于确定网站含有不适宜内容，不批准该文档。
23.如权利要求1所述的方法，其中批准文档的行为进一步基于至少一个信任分数，其中每个信任分数与一个或多个分级实体中的一个特定实体相关联。
24.如权利要求23所述的方法，进一步包括
根据从特定分级实体接收的分级信息修改一个或多个分级实体中一个特定实体的信任分数。
25.如权利要求23所述的方法，其中至少一个信任分数基于所述一个或多个分级实体中相关联的一个特定实体的地理位置。
26.如权利要求23所述的方法，其中至少一个信任分数基于从所述一个或多个分级实体中相关联的一个特定实体接收的一个或多个在先内容分级。
27.如权利要求23所述的方法，其中至少一个信任分数基于与所述一个或多个分级实体中相关联的一个特定实体相关联的产业。
28.如权利要求23所述的方法，其中至少一个信任分数基于所述一个或多个分级实体中一个特定实体的分级偏差，其中所述分级偏差基于比较(i)从特定分级实体接收的用于一个或多个文档的分级信息和(ii)从一个或多个其他分级实体接收的用于一个或多个文档的分级信息。
29.如权利要求23所述的方法，进一步包括
根据分级信息和至少一个信任分数来确定集合分级，其中进一步基于该集合分级来进行批准文档的操作。
30.如权利要求29所述的方法，其中至少一个信任分数基于分级实体的分级偏差，其中所述分级偏差基于比较(i)从分级实体接收的用于一个或多个文档的分级信息和(ii)用于一个或多个文档的集合分级。
31.如权利要求23所述的方法，其中所述一个或多个分级实体中一个特定实体的信任分数基于先前从用于一个或多个文档的该特定分级实体接收的分级信息。
32.如权利要求23所述的方法，进一步包括
确定用于一个或多个分级实体中的一个或多个实体的一个或多个修正过的信任分数；和
基于所述一个或多个修正过的信任分数来确定修正过的集合分级。
33.如权利要求23所述的方法，其中至少一个信任分数的至少其中之一基于相关联的分级实体的地理位置以及从相关联的分级实体接收的在先分级信息至少其中之一。
34.如权利要求1所述的方法，进一步包括
其中所述分级信息包括供应商拒绝发布文档；和
阻止向供应商发布文档。
35.如权利要求1所述的方法，进一步包括
响应于确定处理器不批准文档，将文档传送给一个或多个评估者以进行手动检查。
36.如权利要求1所述的方法，其中所述分级信息包括与文档中的性内容、暴力内容、成人内容和目标年龄内容中的至少一个相关的信息。
37.如权利要求1所述的方法，其中所述文档与文档源相关联，该方法进一步包括
通过处理器将图像与一个或多个存储的图像比较，其中所述一个或多个存储的图像也与该文档源相关联。
38.如权利要求37所述的方法，其中所述一个或多个存储的图像包括被批准的图像，该方法进一步包括
响应于确定图像与被批准的图像基本相同，批准图像。
39.如权利要求1所述的方法，进一步包括
接收与准则相关的信号；和
响应基于准则和分级信息的信号来传送文档。
40.如权利要求39所述的方法，其中所述信号是从实体接收的请求，该实体与适用性标准相关联，并且所述传送操作基于文档是否满足适用性标准。
41.如权利要求40所述的方法，进一步包括
基于分级信息确定集合分级；和
基于集合分级和适用性标准来选择要发布的电子文档。
42.如权利要求39所述的方法，进一步包括
识别至少一个信任分数，其中每个信任分数与所述一个或多个分级实体中的一特个定实体相关联；
基于分级信息和至少一个信任分数来确定集合分级，其中批准文档的行为进一步基于该集合分级。
43.如权利要求39所述的方法，其中所述准则包括敏感度分数。
44.如权利要求39所述的方法，进一步包括
接收关于文档的新的分级信息；和
处理新的分级信息以确定与该文档相关的经过修正的集合分级。
45.如权利要求1所述的方法，进一步包括
通过集合分级信息来确定文档的集合分级，其中从至少两个分级实体接收分级信息，并且批准文档的操作基于该集合操作。
46.如权利要求45所述的方法，其中所述集合分级包括分级信息的中值。
47.如权利要求45所述的方法，其中所述集合分级包括分级信息的众数。
48.如权利要求45所述的方法，其中所述集合分级包括数量。
49.如权利要求45所述的方法，其中所述集合分级包括分级信息的平均值。
50.如权利要求1所述的方法，进一步包括
使文档与一个或多个概念相关联。
51.如权利要求1所述的方法，进一步包括
基于分级信息使文档与一个或多个关键词相关联。
52.如权利要求52所述的方法，进一步包括
接收对与概念相关联的文档的请求，其中所述请求是从供应商和终端用户的至少其中之一接收的；
向供应商和终端用户的至少其中之一发布文档，其中该发布操作基于所述概念和一个或多个关键词之间的关联。
53.如权利要求1所述的方法，其中所述文档包括使接收者能够对文档分级的反馈机构，该方法进一步包括
从至少一个接收者接收文档的负面内容分级；和
基于该负面内容分级将文档传送给至少一个评估人。
54.如权利要求1所述的方法，其中所述文档包括使接收者能够对文档分级的反馈机构，该方法进一步包括
从至少一个接收者接收文档的负面内容分级；和
基于该负面内容分级批准或不批准文档进行发布。
55.如权利要求1所述的方法，其中所述文档是图像广告，该方法进一步包括
确定图像广告的点击率；和
基于该点击率批准或不批准广告。
56.一种编码有计算机程序代码的计算机可读介质，所述计算机程序代码用以对电子文档分级，该计算机程序代码有效地执行下述步骤
从一个或多个分级实体接收与文档相关联的分级信息，其中至少一个所述一个或多个分级实体包括处理器，用以确定与图像相关联的分级信息；和
基于分级信息确定是否批准该文档。
57.一种对文档分级的系统，包括
输入装置，用于从一个或多个分级实体接收与文档相关联的分级信息，其中至少一个所述一个或多个分级实体包括图像处理器；
图像处理器，用于确定与图像相关联的分级信息；和
用以基于分级信息确定是否批准该文档的处理器。
58.一种对文档分级的系统，包括
分级接收装置，用于从一个或多个分级实体接收与文档相关联的分级信息，其中至少一个所述一个或多个分级实体包括图像处理器；
图像处理装置，用于确定与图像相关联的分级信息；和
用以基于分级信息来确定是否批准该文档的确定装置。
59.一种方法，包括
向服务器发送信号，该服务器将信号解释为与文档的准则相关联，并且部分地基于从一个或多个文档的多个评估者接收的分级信息以及部分地基于所述一个或多个文档是否与该准则相关，来确定是否传送含有图像的文档，其中至少一个所述一个或多个文档包括图像，所述多个评估者包括用以处理图像和对文档分级的图像处理器；和
响应于信号来接收含有图像的文档。
60.一种方法，包括
从服务器系统接收一个或多个文档，其中至少一个所述一个或多个文档包括图像，服务器系统包括用以处理图像和对文档分级的图像处理器；和
将分级信息提供给服务器系统，以由服务器系统用于根据所提供的分级响应于对文档的请求来确定是否传送所述一个或多个文档。
61.一种对含有图像的特定文档进行分级的方法，该方法包括
向一个或多个分级实体发布文档，其中至少一个所述一个或多个分级实体包括处理器，该处理器通过处理存储着图像的文件和图像的光学数据其中至少之一来确定分级信息；
从一个或多个分级实体接收与特定文档相关联的分级信息；
使特定文档与一个或多个特定准则相关联；
基于分级信息确定是否批准该特定文档；
接收对与一准则相关的文档的请求；
从包含有特定文档的数据库中选择要发布的文档，其中所述选择操作基于所述准则和分级信息。
62.一种对文档分级的方法，包括
接收与含有图像的第一广告相关联的第一内容分级，其中从图像处理器接收第一内容分级以便通过处理图像确定第一内容分级；
从一个或多个评估者接收与第一广告相关联的一个或多个第二内容分级，其中至少一个所述一个或多个评估者是终端用户；
基于分级信息确定用于第一广告的集合分级；
接收对于一个或多个广告的电子传送的请求，其中所述请求与一概念相关联；和
从包含有第一广告和一个或多个第二广告的数据库中选择广告，其中所述一个或多个第二广告的每一个包括图像和集合分级；和
基于所述请求电子传送选定的广告。
63.如权利要求62所述的方法，进一步包括
向终端用户发布第一广告，其中该第一广告包括反馈链接；和
经由反馈链接接收终端用户内容分级。
64.一种批准电子文档的方法，包括
处理用于发布的电子文档，其中该电子文档包括使接收者能够对电子文档分级的反馈机构；
接收对于文档的多个请求，其中每个请求是从多个终端用户之一接收的；
基于对应的多个请求将电子文档传递到多个终端用户；
基于把电子文档传递到多个终端用户中的预定数量的用户，而不从那些终端用户接收超过反馈阈值，批准用于发布的电子文档。
65.如权利要求64所述的方法，其中反馈的阈值是零反馈。
全文摘要
本发明提供了对含有图像的文档进行分级的系统和方法。接收一用于发布的文档。从一个或多个分级实体接收与该文档相关的分级信息。至少一个所述一个或多个分级实体包括处理器用以确定与图像相关联的分级信息。基于分级信息批准文档以用于发布。
文档编号G06F17/30GK101116100SQ200580021265
公开日2008年1月30日 申请日期2005年5月10日 优先权日2004年5月10日
发明者维斯利·常, 苏米特·阿加瓦尔, 里奥拉·R·维斯曼 申请人:Google公司