电子屏信息监控设备、方法及电子屏内容安全预审系统与流程

1.本发明涉及信息监控技术领域，尤其涉及一种电子屏信息监控设备、方法及电子屏内容安全预审系统。


背景技术：

2.现代人们的生活中充斥着各种显示设备，其中用于政策宣传、商务推广、信息传播、教学示范等目的的公共电子屏在我们身边无处不在，在商业楼、写字楼、学校、医院、体育场馆、车站、机场等场所处处可见各类电子屏的身影，公共电子屏已经成为人们日常生活中公共视觉信息的重要来源。公共电子屏的设立便利了人们的生活，增加了宣传的途径，但是也带来了潜在的视觉污染风险。
3.当前公共电子屏不良内容防护主要依赖视频上传的管理软件与管理制度，通过管理软件和制度约定工作人员在更新视频时对视频进行确认。这种方式能够在一定程度上防止不良内容视频被误播放，但是存在如下局限性：1、节目的源头发布的源头是多种多样的，包括u盘病毒、网络入侵等多种因素，这些多种源头因素导致的不良内容误播放防不胜防；2、该方案基于人进行故障防护，但是相对于机器，人因失效的概率很高，仍然可能出现人因导致的不良内容误播放；3、若没有人或者机器实时监控，一旦出现问题不能及时有效处理。


技术实现要素：

4.有鉴于此，本发明的目的在于提供一种电子屏信息监控设备、方法及电子屏内容安全预审系统，可以及时对播控主机发送的数据进行监控，有效避免不良内容误播放的风险。
5.第一方面，本发明实施例提供了一种电子屏信息监控设备，监控设备配置于电子屏显示系统，电子屏显示系统中包括依次连接的播控主机显示器、播控主机和电子屏单元，电子屏单元包括至少一个电子屏；监控设备包括：网络数据处理单元、视频采集单元，以及与网络数据处理单元和视频采集单元连接的信息鉴别单元，视频采集单元还与网络数据处理单元通信；网络数据处理单元配置有第一网卡和第二网卡，第一网卡与播控主机连接，用于获取播控主机发送至电子屏单元的网络数据；第二网卡与电子屏单元连接；视频采集单元与播控主机显示器的视频转换器通信连接，用于获取播控主机发送至播控主机显示器的视频流，并将视频流发送至信息鉴别单元；信息鉴别单元，用于对视频流的数据进行鉴别处理，得到视频流对应的鉴别结果；网络数据处理单元，用于在视频流的鉴别结果为鉴别通过时，将第一网卡从播控主机获取的网络数据传递至第二网卡，通过第二网卡将网络数据发送给电子屏单元，以使电子屏单元对网络数据包括的显示内容进行显示，其中，网络数据为播控主机中播控软件处理后的数据。
6.结合第一方面，本发明实施例提供了第一方面的第一种可能的实施方式，其中，视频采集单元设置有视频采集接口；视频采集单元通过视频采集接口连接至播控主机显示器的视频转换器。
7.结合第一方面，本发明实施例提供了第一方面的第二种可能的实施方式，其中，网络数据处理单元还用于：将第一网卡从播控主机获取的网络数据传递给信息鉴别单元；信息鉴别单元，还用于对网络数据进行鉴别处理，得到网络数据对应的鉴别结果，并将鉴别结果反馈给网络数据处理单元；网络数据处理单元，还用于在网络数据的鉴别结果为鉴别通过时，将网络数据发送给第二网卡，通过第二网卡将网络数据发送给电子屏单元，以使电子屏单元对网络数据包括的显示内容进行显示。
8.结合第一方面，本发明实施例提供了第一方面的第三种可能的实施方式，其中，信息鉴别单元配置有算法数据库；算法数据库预先存储有信息鉴别算法，信息鉴别算法包括文字鉴别算法和图像鉴别算法；网络数据处理单元还用于：对网络数据进行解析处理，恢复网络数据对应的画面信息，并将画面信息传递给信息鉴别单元；其中，画面信息包括图像信息和/或文字信息；信息鉴别单元，还用于获取文字鉴别算法和/或图像鉴别算法对图像信息和/或文字信息进行鉴别处理；如果文字鉴别算法和/或图像鉴别算法均鉴别通过，则确定鉴别结果为鉴别通过。
9.结合第一方面，本发明实施例提供了第一方面的第四种可能的实施方式，其中，信息鉴别单元，还用于在文字鉴别算法或图像鉴别算法中任意一个算法鉴别不通过时，确定鉴别结果为鉴别不通过；网络数据处理单元，还用于在鉴别结果为鉴别不通过时，停止向第二网卡发送网络数据。
10.结合第一方面，本发明实施例提供了第一方面的第五种可能的实施方式，其中，文字鉴别算法还配置有敏感词库；信息鉴别单元，用于通过文字鉴别算法对文字信息进行鉴别；其中，通过文字鉴别算法对文字信息进行鉴别的步骤，包括通过文字鉴别算法将文字信息与预先存储的敏感词库进行对比；判断敏感词库中是否存在与文字信息对应的敏感词；如果是，确定文字鉴别算法的鉴别不通过。
11.结合第一方面，本发明实施例提供了第一方面的第六种可能的实施方式，其中，信息鉴别单元，还用于通过图像鉴别算法对图像信息进行鉴别；其中，通过图像鉴别算法对图像信息进行鉴别的步骤，包括将图像信息输入至预先设置的深度学习模型中，通过深度学习模型检测图像信息中是否包括敏感图像；如果是，确定图像鉴别算法的鉴别不通过。
12.第二方面，本发明实施例还提供一种电子屏信息监控方法，监控方法应用于上述电子屏信息监控设备；监控设备配置于电子屏显示系统，电子屏显示系统中包括依次连接的播控主机显示器、播控主机和电子屏单元，电子屏单元包括至少一个电子屏；监控设备包括：网络数据处理单元、视频采集单元，以及与网络数据处理单元和视频采集单元连接的信息鉴别单元，视频采集单元还与网络数据处理单元通信；网络数据处理单元配置有第一网卡和第二网卡，第一网卡与播控主机连接，用于获取播控主机发送至电子屏单元的网络数据；第二网卡与电子屏单元连接；监控方法包括：通过视频采集单元获取播控主机发送至播控主机显示器的视频流，并将视频流发送至信息鉴别单元；通过信息鉴别单元对视频流的数据进行鉴别处理，得到视频流对应的鉴别结果；在视频流的鉴别结果为鉴别通过时，通过网络数据处理单元将第一网卡从播控主机获取的网络数据传递至第二网卡，通过第二网卡将网络数据发送给电子屏单元，以使电子屏单元对网络数据包括的显示内容进行显示。
13.第三方面，本发明实施例还提供一种电子屏内容安全预审系统，电子屏内容安全预审系统包括上述电子屏信息监控设备，还包括依次连接的播控主机显示器、播控主机和
电子屏单元，电子屏单元包括至少一个电子屏；电子屏信息监控设备与播控主机连接。
14.第四方面，本发明实施例还提供一种电子设备，电子设备包括处理器和存储器，存储器存储有能够被处理器执行的计算机可执行指令，处理器执行计算机可执行指令以实现上述电子屏信息监控方法。
15.本发明实施例带来了以下有益效果：本发明提供的一种电子屏信息监控设备、方法及电子屏内容安全预审系统，不仅可以在播控主机向电子屏发送节目的过程中对网络数据进行监测，还通过视频线接入播控主机的视频输出接口，通过该视频接口实时监测播控主机显示器，在预先编辑节目时即可对节目进行实时监测，能够更为及时发现问题，在发送节目前就进行网络截断，禁止播控主机发出数据，在播控界面和发送节目两个环节进行实时双重监测，能够更为及时有效的避免不良内容播放的可能。通过第一网卡连接播控主机，并通过第二网卡连接电子屏接收卡，且第一网卡和第二网卡之间的数据需要通过监控设备的网络数据处理单元进行转发，监控设备双网卡设计，播控主机和电子屏接收卡之间物理上不能直接互通，监控设备部署在播控主机和电子屏接收卡的唯一的连接之间，所有的节目都不能绕过监控发送出去，所有节目的下发都受该监控设备的把控，监控设备能够防护多种原因导致的不良视频内容误播放，且，监控设备可以在播控主机发送节目过程中对其网络数据进行实时监测，一旦检测到不良信息，立即禁止网络数据传输，电子屏接收卡无法收到不良信息，能够及时有效的避免不良内容播放的可能。本发明实施例提供的监控设备可以自动对网络数据进行鉴别，让不知疲倦的机器替代人工审核，能够有效避免人因失误。
16.本发明的其他特征和优点将在随后的说明书中阐述，并且，部分地从说明书中变得显而易见，或者通过实施本发明而了解。本发明的目的和其他优点在说明书以及附图中所特别指出的结构来实现和获得。
17.为使本发明的上述目的、特征和优点能更明显易懂，下文特举较佳实施例，并配合所附附图，作详细说明如下。
附图说明
18.为了更清楚地说明本发明具体实施方式或现有技术中的技术方案，下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施方式，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
19.图1为现有技术中电子屏的控制方案的结构示意图；图2为本发明实施例提供的一种电子屏信息监控设备的结构示意图；图3为本发明实施例提供的一种电子屏信息监控方法的流程图；图4为本发明实施例提供的另一种电子屏信息监控方法的流程图；图5为本发明实施例提供的一种电子设备的结构示意图。
具体实施方式
20.为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合附图对本发明的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提
下所获得的所有其他实施例，都属于本发明保护的范围。
21.现代人们的生活中充斥着各种显示设备，其中用于政策宣传、商务推广、信息传播、教学示范等目的的公共电子屏在我们身边无处不在，在商业楼、写字楼、学校、医院、体育场馆、车站、机场等场所处处可见各类电子屏的身影，公共电子屏已经成为人们日常生活中公共视觉信息的重要来源。公共电子屏的设立便利了人们的生活，增加了宣传的途径，但是也带来了潜在的视觉污染风险。
22.目前市面的电子屏的控制方案如图1所示，播控主机和播控主机显示器之间通过视频线连接，如hdmi，播控主机和电子屏接收卡之间一般通过网络连接，电子屏接收卡和电子屏显示屏之间通过特定的排线连接。电子屏所显示的数据是通过播控主机和电子屏接收卡后显示的，其中，播控主机的作用是编辑电子屏显示屏上需要显示的文字和样式，通过网络将节目的内容发送到指定的电子屏接收卡，网络的数据会包含电子屏屏显示的图像和文字内容。根据电子屏种类的不同，同步电子屏节目一般实时传输到电子屏接口卡，实时显示。异步电子屏接收卡接收到网络数据后一般先存储到本地，然后根据本地存储的内容通过特定的格式将节目呈现在电子屏上。
23.当前公共电子屏不良内容防护主要依赖视频上传的管理软件与管理制度，通过管理软件和制度约定工作人员在更新视频时对视频进行确认。这种方式能够在一定程度上防止不良内容视频被误播放，但是存在如下局限性：1、节目的源头发布的源头是多种多样的，包括u盘病毒、网络入侵等多种因素，这些多种源头因素导致的不良内容误播放防不胜防；2、该方案基于人进行故障防护，但是相对于机器，人因失效的概率很高，仍然可能出现人因导致的不良内容误播放；3、没有人或者机器实时监控，一旦出现问题不能及时有效处理。
24.基于此，本发明实施例提供的一种电子屏信息监控设备、方法及电子屏内容安全预审系统，可以及时对播控主机发送的数据进行监控，有效避免不良内容误播放的风险。
25.为便于对本实施例进行理解，首先对本发明实施例所公开的一种电子屏信息监控设备进行详细介绍，该监控设备配置于电子屏显示系统，电子屏显示系统中包括依次连接的播控主机显示器、播控主机和电子屏单元，电子屏单元包括至少一个电子屏；图2示出了本发明实施例提供的一种电子屏信息监控设备的结构示意图，如图2所示，该监控设备包括：网络数据处理单元、视频采集单元，以及与网络数据处理单元和视频采集单元连接的信息鉴别单元，视频采集单元还与网络数据处理单元通信。
26.其中，视频采集单元与播控主机显示器的视频转换器通信连接，用于获取播控主机发送至播控主机显示器的视频流，并将视频流发送至信息鉴别单元；信息鉴别单元，用于对视频流的数据进行鉴别处理，得到视频流对应的鉴别结果。
27.具体的，视频流为播控主机显示器中显示的内容，通常为电子屏单元配套的上位机软件的界面，该上位机软件用于编辑节目，也即，该视频流为编辑节目过程中的显示内容，信息鉴别单元用于对编辑节目过程中的显示内容进行内容鉴别，以得到相应的鉴别结果。上述视频采集单元设置有视频采集接口，视频采集单元通过视频采集接口连接至播控主机显示器的视频转换器，以获取相应的视频流。
28.网络数据处理单元，还用于在视频流的鉴别结果为鉴别通过时，将第一网卡从播控主机获取的网络数据传递至第二网卡，通过第二网卡将网络数据发送给电子屏单元，以使电子屏单元对网络数据包括的显示内容进行显示。其中，网络数据为播控主机中播控软
件处理后的数据。具体的，网络数据是上位机软件根据编辑的节目按照特定的协议生成的数据，上述网络数据包括播控主机下发的显示内容，该显示内容为播控主机需要向显示屏接收卡发送的节目内容。
29.在具体实现时，网络数据处理单元配置有第一网卡和第二网卡，第一网卡与播控主机连接，用于获取播控主机发送至电子屏单元的网络数据，并将网络数据传递给网络数据处理单元，第二网卡与电子屏单元连接。
30.具体的，该监控设备与播控主机网络连接，该监控设备采用双网卡设计，且，两个网卡之间物理分离，两个网卡之间网络不能直接互通，需通过监控设备中的网络数据处理单元转发，其中，第一网卡与播控主机连接，上述第二网卡与电子屏接收卡连接，也即，播控主机和电子屏接收卡之间的网络连接需通过该监控设备实现。
31.在具体实现时，用户可以在播控主机上事先编辑好需要在电子屏上显示的节目，节目的内容包含最终呈现的电子屏上图像和文字，之后，播控主机可以将这些需要播放的节目的原始数据和文字的字符串按照一定的协议通过网络的方式发送至监控设备及其第一网卡，并在视频流的鉴别结果为鉴别通过时，网络数据处理单元会将所有的通过第一网卡从播控主机获取的网络数据通过上述第二网卡完整转发至指定的电子屏接收卡。
32.具体的，上述网络数据会分多包逐条发送，网络数据处理单元获取到网络数据后可以对所要播放的节目对应的网络数据实时缓存，并立即对其进行解析，从网络数据中恢复成图片或者文字。之后网络数据处理单元还将恢复的画面和文字提交至上述信息鉴别单元，以使信息鉴别单元通过预先存储的信息鉴别算法对网络数据中的画面和文字进行识别计算，以识别画面、文字中是否有不良内容，并将识别结果反馈给上述网络数据处理单元。
33.本发明实施例提供的一种电子屏信息监控设备，不仅可以在播控主机向电子屏发送节目的过程中对网络数据进行监测，还通过视频线接入播控主机的视频输出接口，通过该视频接口实时监测播控主机显示器，在预先编辑节目时即可对节目进行实时监测，能够更为及时发现问题，在发送节目前就进行网络截断，禁止播控主机发出数据，在播控界面和发送节目两个环节进行实时双重监测，能够更为及时有效的避免不良内容播放的可能。通过第一网卡连接播控主机，并通过第二网卡连接电子屏接收卡，且第一网卡和第二网卡之间的数据需要通过监控设备的网络数据处理单元进行转发，监控设备双网卡设计，播控主机和电子屏接收卡之间物理上不能直接互通，监控设备部署在播控主机和电子屏接收卡的唯一的连接之间，所有的节目都不能绕过监控发送出去，所有节目的下发都受该监控设备的把控，监控设备能够防护多种原因导致的不良视频内容误播放，且，监控设备可以在播控主机发送节目过程中对其网络数据进行实时监测，一旦检测到不良信息，立即禁止网络数据传输，电子屏接收卡无法收到不良信息，能够及时有效的避免不良内容播放的可能。本发明实施例提供的监控设备可以自动对网络数据进行鉴别，让不知疲倦的机器替代人工审核，能够有效避免人因失误。
34.为了便于理解，在上述实施例的基础上，本发明实施例还提供了另一种电子屏信息监控设备，其中，网络数据处理单元除了在视频流的鉴别结果为鉴别通过时，将第一网卡从播控主机获取的网络数据传递至第二网卡外，网络数据处理单元还用于：将第一网卡从播控主机获取的网络数据传递给信息鉴别单元；信息鉴别单元，还用于对网络数据进行鉴别处理，得到网络数据对应的鉴别结果，并将鉴别结果反馈给网络数据处理单元；网络数据
处理单元，还用于在网络数据的鉴别结果为鉴别通过时，将网络数据发送给第二网卡，通过第二网卡将网络数据发送给电子屏单元，以使电子屏单元对网络数据包括的显示内容进行显示。
35.在通过第一网卡获取到网络数据时，由监控设备的网络数据处理单元和信息鉴别单元对节目进行处理。其中，上述网络数据处理单元，用于对网络数据进行解析处理，恢复网络数据对应的画面信息，并将画面信息传递给信息鉴别单元；信息鉴别单元用于根据预先存储的信息鉴别算法对画面信息进行鉴别处理，得到网络数据对应的鉴别结果，并将鉴别结果反馈给网络数据处理单元。当信息鉴别单元对网络数据的画面信息进行鉴别后，如果上述信息鉴别算法未发现不良内容，则该画面信息对应的鉴别结果表征为画面信息鉴别通过，此时，网络数据处理单元会将所有的网络数据通过上述第二网卡完整转发至指定的电子屏接收卡。
36.网络数据处理单元不仅在电子屏信息编辑过程中的视频流数据鉴别通过时，将播控主机对该视频流处理后形成的网络数据传递给第二网卡，还会在网络数据的鉴别结果为鉴别通过时，将该网络数据发送给第二网卡，该监控设备对电子屏的内容在发送前和发送后均进行了信息鉴别，保证传递给电子屏单元的数据均无不良信息，能够有效避免不良内容误播放。
37.进一步的，信息鉴别单元，还用于在文字鉴别算法或图像鉴别算法中任意一个算法鉴别不通过时，确定鉴别结果为鉴别不通过；网络数据处理单元，还用于在鉴别结果为鉴别不通过时，停止向第二网卡发送网络数据。具体包括在网络数据的鉴别结果为鉴别不通过时，停止向第二网卡发送网络数据，以及，在视频流的鉴别结果为鉴别不通过，停止向第二网卡转发网络数据。
38.具体的，如果信息鉴别算法在上述网络数据中发现不良内容，网络数据处理单元则会收到上述网络数据鉴别不通过的反馈结果，此时，网络数据处理单元将停止向第二网卡转发上述网络数据，此时，该网络数据将不会被电子屏接收卡接收，可以避免不良视频内容播放出去。进一步地，监控设备配置有运维平台，网络数据处理单元还会基于上述鉴别不通过反馈，通过运维平台向用户反馈网络数据异常提醒，以使用户及时对播控主机中的网络数据进行处理，直至人工将监控设备的内部运维平台恢复，上述网络数据处理单元才会继续执行工作。
39.在具体实现时，上述视频采集单元可以包括hdmi视频采集卡，播控主机在播放节目前，需要人工在播控主机上编辑节目。通过播控主机的显示器可以看到节目的内容，该节目内容即可能发送给电子屏的内容。故，本发明实施例还可以通过视频采集单元采集播控主机发送至播控主机显示器的视频流，以在播控主机编辑节目过程中对视频流进行数据监控。具体的，由于播控主机通过视频线与播控主机播放器连接，此时，可以在该视频线上安装视频转换器，通过视频采集单元与该视频转换器连接，使监控设备的视频采集单元同样可以采集到同播控主机显示器一样的画面。其中，上述视频采集单元在采集到播控主机对应的视频流时，该视频采集单元可以通过视频采集卡周期采集画面，生成图片。
40.进一步地，本发明实施例提供的视频采集单元除采用标准的hdmi接口获取播控主机的视频流，并使用视频转换器分出一路视频接入监控设备，采集播控主机的显示界面外，还可以根据实际情况通过如下方式实现：a、如果播控主机存在多个视频接口，可以省略视
频转换器，直接将视频接口与视频采集单元连接；b、如果播控主机的视频接口为vga、sdi、dvi、av、rac等接口，可通过转换器转换成hdmi接入。此外，还可以通过截屏插件、录屏、监控等方式采集播控主机显示器的画面，再通过以太网络、蓝牙、无线等方式传递给上述视频采集单元。其中，本发明实施例以视频采集单元的采集接口为标准hdmi进行介绍，通过更换视频采集卡，视频采集单元的采集接口可变成标准的vga、sdi、dvi等多种类型的接口，hdmi接口能够适配大部分播控主机的显示接口。
41.进一步地，本发明实施例提供的第一网卡和第二网卡采用以太网口的形式接入上述播控主机对应的网络中，其中，该第一网卡和第二网卡也可以通过无线网络、光纤、usb等网卡、4g、5g等其他方式接入，此外，本发明实施例提供的监控设备通过更换连接接口后，同样可以支持串口、485等通讯方式的场景。其中，本发明实施例提供的第一网卡和第二网卡以标准的以太网接口形式实现，能够直接适配大部分的播控主机和电子屏接收卡接口。
42.进一步地，信息鉴别单元，还用于在文字鉴别算法或图像鉴别算法中任意一个算法鉴别不通过时，确定鉴别结果为鉴别不通过；网络数据处理单元，还用于在鉴别结果为鉴别不通过时，停止向第二网卡发送网络数据。
43.此外，视频采集单元还用于获取视频转换器对应的视频采集接口处的视频数据，并在视频数据指示为无效视频时，通过网络数据处理单元停止向第二网卡发送网络数据的操作。
44.在视频采集单元采集播控主机的视频流时，还可以通过视频采集卡获取视频状态，以同时检测其采集接口有没有收到有效的视频数据，视频采集接口处的视频数据通常携带视频参数，该视频参数中携带有表征视频是否为有效数据的信息，视频采集单元可以通过该信息来确定视频数据是否为有效数据。当采集卡没有收到有效的视频状态时，就认为视频采集单元对应的采集接口没有接入视频源，也即，采集到的视频数据为无效数据，此时，网络数据处理单元也会停止向第二网卡发送网络数据，后续播控主机发送的节目对应的网络数据均无法被转发到电子屏接收卡内，避免人为通过拔掉视频线的方式跳过监控设备检测，直到人工恢复视频线并通过设备内部运维平台恢复。其中，网络数据处理单元在收到网络数据或视频流的鉴别结果表征为鉴别不通过的反馈，以及上述无效指令时，网络数据处理单元均会通过其内部的运维平台进行报警，此外，监控设备在检测到任何问题，也均会触发报警。
45.进一步地，本发明实施例提供的监控设备的信息鉴别单元、网络数据处理单元对应的功能还可以根据需求集成在电子屏接收卡中，通过电子屏接收卡对播控主机发送的网络数据进行数据监控；此外，上述功能也可以集成于播控主机中，通过播控主机实现信息鉴别单元和/或网络数据处理单元所能实现的效果。进一步地，视频采集单元、网络数据处理单元和信息鉴别单元也可以分别部署在独立的硬件模块中，通过多个硬件模块之间的通信实现相应的功能。
46.具体的，信息鉴别单元配置有算法数据库，算法数据库预先存储有信息鉴别算法，该信息鉴别算法包括文字鉴别算法和图片鉴别算法，信息鉴别单元，还用于获取文字鉴别算法和/或图像鉴别算法对图像信息和/或文字信息进行鉴别处理；如果文字鉴别算法和/或图像鉴别算法均鉴别通过，则确定鉴别结果为鉴别通过。
47.其中，该文字鉴别算法还配置有敏感词库；在信息鉴别单元对网络数据或视频流
进行文字鉴别时，可以提取相应的网络数据对应的画面信息中的文字信息，通过文字鉴别算法对文字信息进行鉴别，如，通过文字鉴别算法将文字信息与预先存储的敏感词库进行对比；判断敏感词库中是否存在满足文字信息对应的文字阈值的敏感词；如果是，确定文字信息鉴别不通过。
48.具体的，本发明实施例可以使用nlp、模糊匹配，神经网络算法、语义分割等技术，对提取到的文字信息与上述敏感词库进行模糊匹配、拼音匹配和同义词匹配的一种或多种对文字信息进行鉴别，以确定敏感词库中是否存在满足文字信息对应的文字阈值的敏感词。其中，敏感词库中存储有色情、辱骂、涉政等多种类型的词汇，上述信息鉴别算法在发现图片、文字中匹配敏感词库中的任意一个词汇便认为图片、文字为不良信息。
49.在信息鉴别单元对网络数据或视频流进行图片鉴别时，网络数据处理单元还用于对网络数据进行解析处理，恢复网络数据对应的画面信息，并将画面信息传递给信息鉴别单元，画面信息包括图像信息和/或文字信息，通过信息鉴别单元提取网络数据对应的画面信息中的图片信息，并通过图像分析技术提取图片信息中的关键信息，得到图片信息对应的多个待分析图像区域，再将每个待分析图像区域输入至预先设置的深度学习模型中，对待分析图像区域进行分析，检测待分析图像区域中是否包括图像对应的不良信息。
50.其中，本发明实施例还可以基于图像处理、深度机器学习技术对图片信息进行处理，具体的，在图片鉴别算法接收到所提取的图片信息后，会先进行图片变换、增强、纹理分析、图像还原等预处理，减少图像中噪声影响，加强图信息像的重要特征，然后再通过边缘检测、图像分割、图像特征分析技术找出复杂图像中包含关键信息的区域和内容，分割后的图片被分成多个待分析图像区域，再将每个待分析的图像区域使用深度学习模型的算法进行后续分析。深度学习模型是机器学习研究中的一个新的领域，深度学习模型具有优异的特征学习能力，它模仿人脑的机制来解释数据，学习得到的特征对数据有更本质的刻画，从而有利于可视化或分类。此外，针对待分析的图像区域内容鉴别，本发明实施例构建具有多隐层的机器学习模型，并通过收集海量的不良内容训练图片对该模型进行训练优化，帮助模型学习优化特征参数，在学习的过程中不断提高识别精度，从而最终提升分类或预测的准确性。此外，图片鉴别算法具有检测色情、暴恐图像的功能，具体的，本发明实施例可以通过建模、图像感知、解释、推理，以及基于内容的图像和视频检索技术对图像信息进行鉴别分析，其中包括色情、暴恐图像的鉴别检测。
51.进一步地，图片鉴别算法还会提取待分析图像区域中的文字内容，并将文字内容与文字鉴别算法对应的敏感词库进行对比，判断敏感词库中是否存在满足文字内容对应的内容阈值的敏感词。当检测到待分析图像区域中包括图像对应的不良信息，和/或，敏感词库中存在满足文字内容对应的内容阈值的敏感词时，确定图片信息鉴别不通过。
52.具体的，本发明实施例的图片鉴别算法还可以通过ocr提取待分析图像区域中的多个文字节点，多个文字节点包括图片中所有的文字、符号、数字、英文字母，之后将多个文字节点按照预设的语义信息进行组合处理，恢复成正常语义的词语、句子，得到语义信息对应的文字内容，再通过分类器算法确定文字内容对应的词汇类型，基于词汇类型，将文字内容与监控设备内预置的敏感词库进行对比，判断敏感词库中是否包括词汇类型对应的敏感词。
53.其中，针对图像信息提取的文字内容也可以使用nlp、模糊匹配，神经网络算法、语
义分割等技术对文字内容进行鉴别，同时，也支持模糊匹配、拼音匹配、同义词匹配，且，通过分类器算法可准确区分非法词汇类型。
54.本发明实施例提供的另一种电子屏信息监控设备，通过图片鉴别算法和文字鉴别算法对视频流和网络数据进行鉴别，并在监测过程中发现问题，提前报警、阻断数据传播，其中，基于本发明实施例提供的监控设备的设计，本发明在一台播控主机和一个电子屏接收卡、一台播控主机和多个电子屏接收卡、多台播控主机和一个电子屏接收卡、多台播控主机和多个电子屏接收卡等多种场景都可以适用。
55.进一步地，在上述方法实施例的基础上，本发明实施例还提供一种电子屏信息监控方法，该监控方法应用于上述监控设备；监控设备配置于电子屏显示系统，电子屏显示系统中包括依次连接的播控主机显示器、播控主机和电子屏单元，电子屏单元包括至少一个电子屏；监控设备包括：网络数据处理单元、视频采集单元，以及与网络数据处理单元和视频采集单元连接的信息鉴别单元，视频采集单元还与网络数据处理单元通信；网络数据处理单元配置有第一网卡和第二网卡，第一网卡与播控主机连接，用于获取播控主机发送至电子屏单元的网络数据；第二网卡与电子屏单元连接；图3示出了本发明实施例提供的一种电子屏信息监控方法的流程图，如图3所示，该监控方法包括以下步骤：步骤s302，通过视频采集单元获取播控主机发送至播控主机显示器的视频流，并将视频流发送至信息鉴别单元。
56.步骤s304，通过信息鉴别单元对视频流的数据进行鉴别处理，得到视频流对应的鉴别结果。
57.步骤s306，在视频流的鉴别结果为鉴别通过时，通过网络数据处理单元将第一网卡从播控主机获取的网络数据传递至第二网卡，通过第二网卡将网络数据发送给电子屏单元，以使电子屏单元对网络数据包括的显示内容进行显示。
58.本发明实施例提供的一种电子屏信息监控方法，与上述实施例提供的一种电子屏信息监控设备具有相同的技术特征，所以也能解决相同的技术问题，达到相同的技术效果。
59.进一步地，本发明实施例还提供另一种电子屏信息监控方法，该电子屏信息监控方法在于介绍播控主机向电子屏单元发送网络数据时进行监控的具体步骤，图4示出了本发明实施例提供的另一种电子屏信息监控方法的流程图，如图4所示，该监控方法包括以下步骤：步骤s402，通过第一网卡获取播控主机发送至电子屏单元的网络数据，并将网络数据传递给网络数据处理单元。
60.步骤s404，通过网络数据处理单元对网络数据进行解析处理，恢复网络数据对应的画面信息，并将画面信息传递给信息鉴别单元。
61.步骤s406，通过信息鉴别单元根据预先存储的信息鉴别算法对画面信息进行鉴别处理，得到网络数据对应的鉴别结果，并将鉴别结果反馈给网络数据处理单元。
62.步骤s408，通过网络数据处理单元在网络数据的鉴别结果为鉴别通过时，将网络数据发送给第二网卡，并通过第二网卡将网络数据发送给电子屏单元，以使电子屏单元对网络数据包括的显示内容进行显示。
63.本发明实施例提供的另一种电子屏信息监控方法，与上述实施例提供的一种电子屏信息监控设备具有相同的技术特征，所以也能解决相同的技术问题，达到相同的技术效
果。
64.进一步地，本发明实施例还提供一种电子屏内容安全预审系统，该电子屏内容安全预审系统包括上述电子屏信息监控设备，还包括依次连接的播控主机显示器、播控主机和电子屏单元，该电子屏单元包括至少一个电子屏；每个电子屏对应有电子屏接收卡，每个电子屏可以通过网络交换机与电子屏信息监控设备连接，上述电子屏信息监控设备还与播控主机连接。
65.本发明实施例提供的一种电子屏内容安全预审系统，与上述实施例提供的一种电子屏信息监控设备具有相同的技术特征，所以也能解决相同的技术问题，达到相同的技术效果。
66.本发明实施例还提供一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，处理器执行计算机程序时实现上述图3至图4所示的方法的步骤。
67.本发明实施例还提供一种计算机可读存储介质，该计算机可读存储介质上存储有计算机程序，计算机程序被处理器运行时执行上述图3至图4所示的方法的步骤。
68.本发明实施例还提供了一种电子设备的结构示意图，如图5所示，为该电子设备的结构示意图，其中，该电子设备包括处理器51和存储器50，该存储器50存储有能够被该处理器51执行的计算机可执行指令，该处理器51执行该计算机可执行指令以实现上述图3至图4所示的方法。
69.在图5示出的实施方式中，该电子设备还包括总线52和通信接口53，其中，处理器51、通信接口53和存储器50通过总线52连接。
70.其中，存储器50可能包含高速随机存取存储器（ram，randomaccess memory），也可能还包括非易失性存储器（non-volatile memory），例如至少一个磁盘存储器。通过至少一个通信接口53（可以是有线或者无线）实现该系统网元与至少一个其他网元之间的通信连接，可以使用互联网，广域网，本地网，城域网等。总线52可以是isa（industry standard architecture，工业标准体系结构）总线、pci（peripheral component interconnect，外设部件互连标准）总线或eisa（extended industry standardarchitecture，扩展工业标准结构）总线等，还可以是amba（advanced microcontroller bus architecture，片上总线的标准）总线，其中，amba定义了三种总线，包括apb（advanced peripheral bus）总线、ahb（advanced high-performance bus）总线和axi（advanced extensible interface）总线。总线52可以分为地址总线、数据总线、控制总线等。为便于表示，图5中仅用一个双向箭头表示，但并不表示仅有一根总线或一种类型的总线。
71.处理器51可能是一种集成电路芯片，具有信号的处理能力。在实现过程中，上述方法的各步骤可以通过处理器51中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器51可以是通用处理器，包括中央处理器(central processing unit，简称cpu)、网络处理器(network processor，简称np)等；还可以是数字信号处理器(digital signal processor，简称dsp)、专用集成电路(application specific integrated circuit，简称asic)、现场可编程门阵列(field-programmable gate array，简称fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本技术实施例所公开的方法的步骤可以直接体
现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器，闪存、只读存储器，可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器，处理器51读取存储器中的信息，结合其硬件完成前述图3至图4所示的方法。
72.本发明实施例所提供的一种电子屏信息监控设备、方法及电子屏内容安全预审系统的计算机程序产品，包括存储了程序代码的计算机可读存储介质，所述程序代码包括的指令可用于执行前面方法实施例中所述的方法，具体实现可参见方法实施例，在此不再赘述。
73.所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。另外，在本发明实施例的描述中，除非另有明确的规定和限定，术语“安装”、“相连”、“连接”应做广义理解，例如，可以是固定连接，也可以是可拆卸连接，或一体地连接；可以是机械连接，也可以是电连接；可以是直接相连，也可以通过中间媒介间接相连，可以是两个元件内部的连通。对于本领域技术人员而言，可以具体情况理解上述术语在本发明中的具体含义。
74.所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备（可以是个人计算机，服务器，或者网络设备等）执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：u盘、移动硬盘、只读存储器（rom，read-only memory）、随机存取存储器（ram，random access memory）、磁碟或者光盘等各种可以存储程序代码的介质。
75.在本发明的描述中，需要说明的是，术语“中心”、“上”、“下”、“左”、“右”、“竖直”、“水平”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系，仅是为了便于描述本发明和简化描述，而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作，因此不能理解为对本发明的限制。此外，术语“第一”、“第二”、“第三”仅用于描述目的，而不能理解为指示或暗示相对重要性。
76.最后应说明的是：以上实施例，仅为本发明的具体实施方式，用以说明本发明的技术方案，而非对其限制，本发明的保护范围并不局限于此，尽管参照前述实施例对本发明进行了详细的说明，本领域技术人员应当理解：任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化，或者对其中部分技术特征进行等同替换；而这些修改、变化或者替换，并不使相应技术方案的本质脱离本发明实施例技术方案的精神和范围，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以权利要求的保护范围为准。