基于区块链的信息内容安全的管控方法及装置与流程

本发明涉及互联网，尤其涉及一种基于区块链的信息内容安全的管控方法及装置。

背景技术：

1、随着互联网的高速发展，互联网信息所呈现的内容越来越多样化。为了提供一个绿色、安全的互联网环境，在互联网信息发布前，往往需要对待发布的互联网信息进行审核管控，从而保证所发布的互联网信息的安全性以及合法性。

2、目前，对于待发布的互联网信息的管控方式，一般采用多人的轮流审核模式，对待发布的每个互联网信息进行多轮审核，然后综合多个审核结果来决定每个互联网信息是属于可发布类型或者属于不可发布类型来实现，然而，这样的互联网信息审核流程过于繁杂，不利于提高对互联网信息的管控效率，从而影响了对互联网信息的发布时效性。可见，提供一种能够提高互联网信息的管控效率的方法尤为重要。

技术实现思路

1、本发明所要解决的技术问题在于，提供一种基于区块链的信息内容安全的管控方法及装置，有利于提高对待发布信息的审核效率，进而有利于提高对待发布信息的管控效率，从而有利于对待发布信息进行及时发布、阻断发布等管控操作。

2、为了解决上述技术问题，本发明第一方面公开了一种基于区块链的信息内容安全的管控方法，所述方法包括：

3、获取需要管控的待发布信息，并确定所述待发布信息的信息参数；所述待发布信息的信息参数包括所述待发布信息的信息类型参数、信息内容参数、发布平台类型参数以及发布位置参数中的至少一种；

4、根据所述信息参数，确定所述待发布信息对应的检测方式；所述检测方式包括文本检测方式、图像检测方式、音频检测方式、视频检测方式以及位置参数检测方式中的至少一种；

5、根据所述检测方式，检测所述待发布信息中的敏感信息，并根据所述敏感信息的信息类型，对所述待发布信息执行相匹配的审核操作，得到所述待发布信息的审核结果；

6、根据所述审核结果，对所述待发布信息执行相对应的管控操作；所述管控操作包括允许发布操作、阻断发布操作以及撤回发布操作中的其中一种。

7、作为一种可选的实施方式，在本发明第一方面中，所述根据所述敏感信息的信息类型，对所述待发布信息执行相匹配的审核操作，得到所述待发布信息的审核结果，包括：

8、确定所述待发布信息的信息生成场景的场景信息，并根据所述信息生成场景的场景信息，确定所述信息生成场景的场景私密程度；所述场景信息包括场景位置信息、场景人员活动信息以及场景类型信息中的至少一种；

9、确定所述待发布信息的发布者的用户信息，并根据所述发布者的用户信息与所述信息生成场景的场景私密程度，确定所述发布者在所述信息生成场景下的信息发布权限参数；

10、根据所述发布者对应的信息发布权限参数以及所述敏感信息的信息类型，对所述待发布信息执行相匹配的审核操作，得到所述待发布信息的审核结果。

11、作为一种可选的实施方式，在本发明第一方面中，所述根据所述发布者对应的信息发布权限参数以及所述敏感信息的信息类型，对所述待发布信息执行相匹配的审核操作，得到所述待发布信息的审核结果，包括：

12、根据所述发布者对应的信息发布权限参数，对所述待发布信息执行发布条件审核操作，得到所述待发布信息的发布条件审核结果，作为所述待发布信息的第一审核结果；

13、根据所述敏感信息的信息类型，判断所述敏感信息是否存在与所述信息类型相对应的信息掩藏对象；所述信息掩藏对象包括视觉信息掩藏对象、听觉信息掩藏对象以及位置参数掩藏对象中的至少一种；

14、当判断出所述敏感信息不存在所述信息掩藏对象时，根据所述敏感信息的信息类型，从预设的多个敏感信息对比库中确定出与所述信息类型相匹配的目标敏感信息对比库；

15、根据所述目标敏感信息对比库，确定所述敏感信息对应的异常敏感程度值，作为所述待发布信息的第二审核结果；

16、根据所述第一审核结果以及所述第二审核结果，确定所述待发布信息的审核结果。

17、作为一种可选的实施方式，在本发明第一方面中，所述方法还包括：

18、当判断出所述敏感信息存在所述信息掩藏对象时，确定所述信息掩藏对象的目标参数；所述信息掩藏对象的目标参数包括所述信息掩藏对象的信息掩藏位置参数、信息掩藏区域大小参数、信息掩藏程度参数以及信息掩藏时长参数中的至少一种；

19、根据所述信息掩藏对象的目标参数，预测所述敏感信息在所述信息掩藏对象下对所述待发布信息对应的目标对象所造成的影响情况，并根据所述影响情况，确定所述影响情况对应的影响程度值，作为所述待发布信息的第三审核结果；所述待发布信息对应的目标对象包括所述待发布信息的发布者或者接收者；

20、根据所述第一审核结果以及所述第三审核结果，确定所述待发布信息的审核结果。

21、作为一种可选的实施方式，在本发明第一方面中，所述敏感信息的信息类型包括文本信息类型、图像信息类型、音频信息类型、视频信息类型以及位置参数类型中的至少一种；

22、其中，所述根据所述信息掩藏对象的目标参数，预测所述敏感信息在所述信息掩藏对象下对所述待发布信息对应的目标对象所造成的影响情况，包括：

23、当所述敏感信息的信息类型包括所述文本信息类型、所述图像信息类型以及所述视频信息类型中的至少一种时，根据所述信息掩藏对象的目标参数，确定所述敏感信息的视觉信息掩藏情况，并根据所述视觉信息掩藏情况，预测所述待发布信息对应的接收者针对所述敏感信息的第一信息接收情况；所述第一信息接收情况包括第一信息接收量情况、第一信息接收清晰度情况以及第一信息接收内容情况中的至少一种；

24、根据所述第一信息接收情况，确定所述第一信息接收情况对所述接收者所造成的第一影响情况，作为所述敏感信息在所述信息掩藏对象下对所述待发布信息对应的目标对象所造成的影响情况；所述第一影响情况包括第一心理影响情况、第一生理影响情况以及第一活动影响情况中的至少一种。

25、作为一种可选的实施方式，在本发明第一方面中，所述方法还包括：

26、当所述敏感信息的信息类型包括所述音频信息类型时，根据所述信息掩藏对象的目标参数，确定所述敏感信息的听觉信息掩藏情况，并根据所述听觉信息掩藏情况，预测所述待发布信息对应的接收者针对所述敏感信息的第二信息接收情况；所述第二信息接收情况包括第二信息接收量情况、第二信息接收清晰度情况以及第二信息接收内容情况中的至少一种；

27、根据所述第二信息接收情况，确定所述第二信息接收情况对所述接收者所造成的第二影响情况，作为所述敏感信息在所述信息掩藏对象下对所述待发布信息对应的目标对象所造成的影响情况；所述第二影响情况包括第二心理影响情况、第二生理影响情况以及第二活动影响情况中的至少一种。

28、作为一种可选的实施方式，在本发明第一方面中，所述方法还包括：

29、当所述敏感信息的信息类型包括所述位置参数类型时，根据所述信息掩藏对象的目标参数，确定所述敏感信息的位置参数掩藏情况，并根据所述位置参数掩藏情况，预测所述待发布信息对应的接收者针对所述敏感信息的位置参数接收情况；所述位置参数接收情况包括位置参数接收度情况；

30、根据所述位置参数接收情况，确定所述待发布信息对应的接收者对所述待发布消息的发布者的位置追溯情况，并根据所述位置追溯情况，确定所述位置追溯情况对所述发布者所造成的隐私影响情况，作为所述敏感信息在所述信息掩藏对象下对所述待发布信息对应的目标对象所造成的影响情况。

31、本发明第二方面公开了一种基于区块链的信息内容安全的管控装置，所述装置包括：

32、获取模块，用于获取需要管控的待发布信息；

33、第一确定模块，用于确定所述待发布信息的信息参数；所述待发布信息的信息参数包括所述待发布信息的信息类型参数、信息内容参数、发布平台类型参数以及发布位置参数中的至少一种；根据所述信息参数，确定所述待发布信息对应的检测方式；所述检测方式包括文本检测方式、图像检测方式、音频检测方式、视频检测方式以及位置参数检测方式中的至少一种；

34、检测模块，用于根据所述检测方式，检测所述待发布信息中的敏感信息；

35、第二确定模块，用于根据所述敏感信息的信息类型，对所述待发布信息执行相匹配的审核操作，得到所述待发布信息的审核结果；

36、管控模块，用于根据所述审核结果，对所述待发布信息执行相对应的管控操作；所述管控操作包括允许发布操作、阻断发布操作以及撤回发布操作中的其中一种。

37、作为一种可选的实施方式，在本发明第二方面中，所述第二确定模块根据所述敏感信息的信息类型，对所述待发布信息执行相匹配的审核操作，得到所述待发布信息的审核结果的方式具体包括：

38、确定所述待发布信息的信息生成场景的场景信息，并根据所述信息生成场景的场景信息，确定所述信息生成场景的场景私密程度；所述场景信息包括场景位置信息、场景人员活动信息以及场景类型信息中的至少一种；

39、确定所述待发布信息的发布者的用户信息，并根据所述发布者的用户信息与所述信息生成场景的场景私密程度，确定所述发布者在所述信息生成场景下的信息发布权限参数；

40、根据所述发布者对应的信息发布权限参数以及所述敏感信息的信息类型，对所述待发布信息执行相匹配的审核操作，得到所述待发布信息的审核结果。

41、作为一种可选的实施方式，在本发明第二方面中，所述第二确定模块根据所述发布者对应的信息发布权限参数以及所述敏感信息的信息类型，对所述待发布信息执行相匹配的审核操作，得到所述待发布信息的审核结果的方式具体包括：

42、根据所述发布者对应的信息发布权限参数，对所述待发布信息执行发布条件审核操作，得到所述待发布信息的发布条件审核结果，作为所述待发布信息的第一审核结果；

43、根据所述敏感信息的信息类型，判断所述敏感信息是否存在与所述信息类型相对应的信息掩藏对象；所述信息掩藏对象包括视觉信息掩藏对象、听觉信息掩藏对象以及位置参数掩藏对象中的至少一种；

44、当判断出所述敏感信息不存在所述信息掩藏对象时，根据所述敏感信息的信息类型，从预设的多个敏感信息对比库中确定出与所述信息类型相匹配的目标敏感信息对比库；

45、根据所述目标敏感信息对比库，确定所述敏感信息对应的异常敏感程度值，作为所述待发布信息的第二审核结果；

46、根据所述第一审核结果以及所述第二审核结果，确定所述待发布信息的审核结果。

47、作为一种可选的实施方式，在本发明第二方面中，所述第二确定模块根据所述发布者对应的信息发布权限参数以及所述敏感信息的信息类型，对所述待发布信息执行相匹配的审核操作，得到所述待发布信息的审核结果的方式具体还包括：

48、当判断出所述敏感信息存在所述信息掩藏对象时，确定所述信息掩藏对象的目标参数；所述信息掩藏对象的目标参数包括所述信息掩藏对象的信息掩藏位置参数、信息掩藏区域大小参数、信息掩藏程度参数以及信息掩藏时长参数中的至少一种；

49、根据所述信息掩藏对象的目标参数，预测所述敏感信息在所述信息掩藏对象下对所述待发布信息对应的目标对象所造成的影响情况，并根据所述影响情况，确定所述影响情况对应的影响程度值，作为所述待发布信息的第三审核结果；所述待发布信息对应的目标对象包括所述待发布信息的发布者或者接收者；

50、根据所述第一审核结果以及所述第三审核结果，确定所述待发布信息的审核结果。

51、作为一种可选的实施方式，在本发明第二方面中，所述敏感信息的信息类型包括文本信息类型、图像信息类型、音频信息类型、视频信息类型以及位置参数类型中的至少一种；

52、其中，所述第二确定模块根据所述信息掩藏对象的目标参数，预测所述敏感信息在所述信息掩藏对象下对所述待发布信息对应的目标对象所造成的影响情况的方式具体包括：

53、当所述敏感信息的信息类型包括所述文本信息类型、所述图像信息类型以及所述视频信息类型中的至少一种时，根据所述信息掩藏对象的目标参数，确定所述敏感信息的视觉信息掩藏情况，并根据所述视觉信息掩藏情况，预测所述待发布信息对应的接收者针对所述敏感信息的第一信息接收情况；所述第一信息接收情况包括第一信息接收量情况、第一信息接收清晰度情况以及第一信息接收内容情况中的至少一种；

54、根据所述第一信息接收情况，确定所述第一信息接收情况对所述接收者所造成的第一影响情况，作为所述敏感信息在所述信息掩藏对象下对所述待发布信息对应的目标对象所造成的影响情况；所述第一影响情况包括第一心理影响情况、第一生理影响情况以及第一活动影响情况中的至少一种。

55、作为一种可选的实施方式，在本发明第二方面中，所述第二确定模块根据所述信息掩藏对象的目标参数，预测所述敏感信息在所述信息掩藏对象下对所述待发布信息对应的目标对象所造成的影响情况的方式具体还包括：

56、当所述敏感信息的信息类型包括所述音频信息类型时，根据所述信息掩藏对象的目标参数，确定所述敏感信息的听觉信息掩藏情况，并根据所述听觉信息掩藏情况，预测所述待发布信息对应的接收者针对所述敏感信息的第二信息接收情况；所述第二信息接收情况包括第二信息接收量情况、第二信息接收清晰度情况以及第二信息接收内容情况中的至少一种；

57、根据所述第二信息接收情况，确定所述第二信息接收情况对所述接收者所造成的第二影响情况，作为所述敏感信息在所述信息掩藏对象下对所述待发布信息对应的目标对象所造成的影响情况；所述第二影响情况包括第二心理影响情况、第二生理影响情况以及第二活动影响情况中的至少一种。

58、作为一种可选的实施方式，在本发明第二方面中，所述第二确定模块根据所述信息掩藏对象的目标参数，预测所述敏感信息在所述信息掩藏对象下对所述待发布信息对应的目标对象所造成的影响情况的方式具体还包括：

59、当所述敏感信息的信息类型包括所述位置参数类型时，根据所述信息掩藏对象的目标参数，确定所述敏感信息的位置参数掩藏情况，并根据所述位置参数掩藏情况，预测所述待发布信息对应的接收者针对所述敏感信息的位置参数接收情况；所述位置参数接收情况包括位置参数接收度情况；

60、根据所述位置参数接收情况，确定所述待发布信息对应的接收者对所述待发布消息的发布者的位置追溯情况，并根据所述位置追溯情况，确定所述位置追溯情况对所述发布者所造成的隐私影响情况，作为所述敏感信息在所述信息掩藏对象下对所述待发布信息对应的目标对象所造成的影响情况。

61、本发明第三方面公开了另一种基于区块链的信息内容安全的管控装置，所述装置包括：

62、存储有可执行程序代码的存储器；

63、与所述存储器耦合的处理器；

64、所述处理器调用所述存储器中存储的所述可执行程序代码，执行本发明第一方面公开的基于区块链的信息内容安全的管控方法。

65、本发明第四方面公开了一种计算机存储介质，所述计算机存储介质存储有计算机指令，所述计算机指令被调用时，用于执行本发明第一方面公开的基于区块链的信息内容安全的管控方法。

66、与现有技术相比，本发明实施例具有以下有益效果：

67、本发明实施例中，获取需要管控的待发布信息，并确定待发布信息的信息参数；根据信息参数，确定待发布信息对应的检测方式；根据检测方式，检测待发布信息中的敏感信息，并根据敏感信息的信息类型，对待发布信息执行相匹配的审核操作，得到待发布信息的审核结果；根据审核结果，对待发布信息执行相对应的管控操作。可见，实施本发明能够自动检测出待发布信息中的敏感信息，并针对敏感信息对待发布信息进行审核，以实现对待发布信息的自动管控，这样，有利于提高对待发布信息的审核效率，进而有利于提高对待发布信息的管控效率，从而有利于对待发布信息进行及时发布、阻断发布等管控操作。