信息处理系统及其信息处理方法与流程

本发明涉及通信领域的信息识别过滤技术，尤其涉及一种信息处理系统及其信息处理方法。

背景技术：

短信、彩信等形式的信息作为移动终端用户常用的通信方式，在日常生活中的使用非常频繁。但是现在社会存在通过手机短信、彩信发布的中奖等恶意虚假信息越来越多，其发送手段和信息的内容也日新月异，严重扰乱人们的生活，给人们带来金钱损失。

目前，相关技术主要使用以下方式来对短信等信息进行识别过滤处理以避免用户接收到恶意虚假的违规信息：

1、通过云端自动同步关键字设置，并根据这些关键字进行智能拦截过滤，过滤的信息转移至特殊目录内，起到提醒作用，避免接收者直接看到。

2、通过云端自动同步关键字设置，并根据关键字过滤进行智能提示安全风险，不针对接收的内容进行过滤。

上述处理违规信息的方式存在识别方式、以及识别精度低的问题。

技术实现要素：

本发明实施例提供一种信息处理系统及其信息处理方法，能够高效、准确识别违规信息并规避违规信息带来的风险。

本发明实施例的技术方案是这样实现的：

第一方面，本发明实施例提供一种信息处理系统，所述系统包括：防控移动终端、与所述防控移动终端对应的授信群组和服务器，所述授信群组包括至少一个授信移动终端；其中，

所述防控移动终端用于基于安全策略从所接收的信息扫描出异常信息，将所述异常信息上传至所述服务器，并向所述服务器通告扫描到所述异常信息；

所述服务器，用于存储所述防控移动终端上传的所述异常信息，向所述授信移动终端发送针对所述异常信息的预警；

所述授信移动终端，用于从所述服务器获取所述异常信息，查验所述异常信息是否为违规信息，向所述防控移动终端发送查验结果。

第二方面，本发明实施例提供一种信息处理方法，应用于信息处理系统，所述系统包括：防控移动终端、与所述防控移动终端对应的授信群组和服务器，所述授信群组包括至少一个授信移动终端；所述方法包括：

所述防控移动终端基于安全策略从所接收的信息扫描出异常信息，将所述异常信息上传至所述服务器，并向所述服务器通告扫描到所述异常信息；

所述服务器向所述授信移动终端发送针对所述异常信息的预警；

所述授信移动终端从所述服务器获取所述异常信息，查验所述异常信息是否为违规信息，向所述防控移动终端发送查验结果，以及，基于所述查验结果控制所述防控移动终端的通信功能。

本发明实施例中，通过安全策略对实时监听防控移动终端接收到的信息，通过授信群组配合来查验授信移动终端接收的异常信息；从而在授信移动终端发现异常信息时，通过云端及时通知授信用户群组对异常信息进行查验以确定异常信息是否为违规信息，例如由授信移动终端用户进行线下查验，避免了现有技术利用关键字的单一方式识别违规信息精度低下的问题，从而能够提升对违规信息的识别精度。

附图说明

图1为本发明实施例中信息处理系统的结构示意图；

图2为本发明实施例中信息处理方法的流程示意图一；

图3为本发明实施例中信息处理系统进行信息处理的处理逻辑示意图；

图4为本发明实施例中信息处理系统进行信息处理的流程示意图二；

图5为本发明实施例中信息处理系统进行信息处理的流程示意图三。

具体实施方式

发明人在实施本发明的过程中发现：现有技术中对恶意虚假信息进行处理时存在以下问题：

1、依靠云端智能关键字的字库作为判断条件对移动终端接收的信息进行过滤或预警，如果移动终端接收的信息超出预警值设定范围，将无法实现针对信息的过滤或预警的功能。

2、由于移动终端接收的部分信息使用的语言环境或文字使用组织过程，应当属于正常通信的信息，但由于移动终端或远端的安全风险库辨识度受限，会产生误拦截或误报警，延误信息传达。

3、无法根据使用人群，设置预警风险等级。比如说，老人、儿童或自我辨识能力弱人群，对信息辨识度的敏感性低，容易相信接收到的信息，需要对这类人群设置成较高风险告警的等级。现有技术仅仅依靠关键字过滤，没有针对不同的人群进行有区别等级的预警。

4、现有技术仅实现在云端、终端的双点方式实现拦截或预警，完全依靠关键字库识别过滤或预警。没有办法进行信息来源可靠性的核实处理。

5、现有技术无法在紧急情况下对接收信息的移动终端实现管控，当出现高危信息，有时候需要限制移动终端的语音、信息功能的使用，以防止移动终端的用户因诈骗信息而受到损失。

针对上述问题，本发明实施例提供信息处理系统及其信息处理方法，防控移动终端对接收的信息进行扫描，上传异常信息至云端服务器存储，由授信移动终端在收到针对异常信息的预警时对异常信息进行查验(例如可以由授信移动终端用户基于预警对异常信息及时进行人工查验，避免了移动终端接受的信息超出预警值范围导致无法进行过滤的问题)；并向防控移动终端发送查验结果(异常信息会被防控移动终端接收，但是防控移动终端后续会接收到来自授信移动终端的查验结果，从而确定接收的信息是否是异常信息，避免了现有技术 对信息的误拦截或误报警的问题)，以及基于查验结果对防控移动终端的通信能力进行限制(能够避免防控移动终端用户因异常信息遭受损失)。

基于上述的信息处理系统及其信息处理方法提出本发明以下各具体实施例。

实施例一

本发明实施例记载一种信息处理系统，参见图1，所述系统包括：防控移动终端、与所述防控移动终端对应的授信群组和服务器；所述授信群组包括至少一个授信移动终端；本实施例中记载的服务器可以由单个服务器或服务器的集群实现，图1中以服务器实施为安全管理服务器和云端服务器为例进行说明。

防控移动终端和授信移动终端通过运行移动终端客户端的方式来进行信息处理，移动终端客户端支持运行于防控模式和授信模式，防控移动终端和授信移动终端基于运行的移动终端客户端的模式进行区分；例如，当移动终端F运行移动终端客户端并且是以防控模式运行移动终端客户端时则移动终端F为防控移动终端；当移动终端A、移动终端B和移动终端C运行移动终端客户端并且是以授信模式运行移动终端客户端时，移动终端A、移动终端B和移动终端C为授信移动终端；

防控移动终端和授信移动终端通过在安全管理服务器进行注册的方式形成关联(对应关系)，一个防控移动终端可以和一个或多个授信移动终端进行关联，其中与同一防控移动终端对应的多个授信移动终端形成授信群组。

例如，防控移动终端F和授信移动终端A、授信移动终端B和授信移动终端C在安全管理服务器进行注册关联，安全管理服务器维护防控移动终端F、授信移动终端A、授信移动终端B和授信移动终端C之间的关联信息。

当防控移动终端在安全管理服务器注册后，安全管理服务器将通用安全策略同步到防控移动终端，通用安全策略包括至少两个不同的安全防控等级，例如可以包括高、中、低三个不同的安全防控等级，一般来说，安全防控等级越高的通用安全策略对防控移动终端接收的信息进行扫描时，所使用的关键字的字库也越大。

作为安全管理服务器向防控移动终端同步通用安全策略的替换方案，防控 移动终端用户根据自身的需求设置安全策略，满足防控移动终端用户对防控移动终端接收的信息进行个性化扫描的需求。

防控移动终端在应用了安全策略(如安全管理服务器同步的通用安全策略，或防控移动终端用户设置的个性化的安全策略)之后，利用安全策略对接收的信息(如彩信、短信)进行扫描(例如利用安全策略中的字库对接收的信息进行关键字过滤)，过滤出不符合安全策略的信息也即异常信息，将异常信息上传云端服务器存储，并向与防控移动终端对应的授信群组中的授信移动终端发送预警，指示防控移动终端接收到异常信息且异常信息已经上传到云端服务器。

授信移动终端接收到防控移动终端发送的预警时对预警进行响应处理：从云端服务器提取防控移动终端接收到的异常信息，提示授信移动终端用户对异常信息进行查验(也就是判断防控移动终端扫描出的异常信息是否准确)，如果授信移动终端用户经过查验确定异常信息属于诈骗等性质的违反法规的信息，则可以向防控移动终端发送异常信息具有风险的查验结果(可以采用短信或语音的方式)；为了避免防控移动终端用户的损失，基于查验结果确定异常信息的风险程度超出风险程度阈值(也就是异常信息为高危信息时)授信移动终端还可以向安全管理服务器发送限制防控移动终端通信的指令，例如限制以下功能至少之一：语音呼出功能；语音呼入功能；信息接收功能；信息发送功能；对于语音呼出功能和语音呼入功能，安全管理服务器可以指示语音交换机对防控移动终端的语音呼出和语音呼入进行屏蔽；对于信息接收功能和信息发送功能，安全管理服务器可以指示短信中心对防控移动终端的信息接收和信息发送进行屏蔽。

如前所述，与防控移动终端对应的授信群组中可能包括多个授信移动终端，一旦防控移动终端扫描出异常信息，会向授信群组中的每个授信移动终端发送预警，从而能够触发授信移动终端用户尽快对异常信息进行查验；

安全管理服务器向授信群组中的授信移动终端发送预警之后，检测各授信移动终端响应预警的处理进度(如是否开始响应预警、正在查验异常信息等)，并将处理进度在授信群组中各授信移动终端中进行同步，这样授信移动终端用 户可以了解到防控移动终端发送的预警是否已经被响应处理：

1)如果预警没有被响应处理可以在授信移动终端用户空闲时进行响应并即时向授信群组中的其他授信移动终端同步已经开始响应预警的处理进度，避免了其他授信移动终端用户的重复响应，能够节省授信群组的处理资源；

2)如果检测到针对异常信息的预警处于未处理状态的持续时间超出超时阀值，向授信群组中的各授信移动终端发送提醒以提示对预警尽快进行响应，提升了对异常信息进行查验的效率。

实施例二

与前述实施例一的记载对应，本实施例记载一种信息处理方法，应用于前述实施例一记载的信息处理系统；参见图2，本实施例记载的信息处理方法包括以下步骤：

步骤101，防控移动终端基于安全策略从所接收的信息扫描出异常信息。

步骤102，防控移动终端将异常信息上传至云端服务器，并向安全管理服务器通告扫描到异常信息。

步骤103，安全管理服务器向授信移动终端发送针对异常信息的预警。

步骤104，授信移动终端对异常信息的预警进行响应处理。

在步骤104中，授信移动终端从云端服务器获取异常信息，查验所述异常信息是否为违规信息，向防控移动终端发送查验结果，以及，基于查验结果控制防控移动终端的通信功能。

在进行前述的信息处理步骤之前，防控移动终端运行移动终端客户端并运行于防控模式；授信移动终端运行移动客户端并运行于授信模式；安全管理服务器至少向防控移动终端下发通用安全策略，通用安全策略包括至少两个安全防控等级；防控移动终端基于通用安全策略包括的至少两个安全防控等级设定目标安全防控等级，并基于目标安全防控等级的通用安全策略对所接收的信息进行扫描。

安全管理服务器基于查验结果控制防控移动终端的通信功能时，安全管理 服务器基于查验结果确定异常信息的风险程度超出风险程度阈值，限制防控移动终端的以下通信功能至少之一：语音呼出功能；语音呼入功能；信息接收功能；信息发送功能。

在进行前述的信息处理步骤之前，防控移动终端与授信移动终端通过在安全管理服务器进行注册的方式进行关联；安全管理服务器响应防控移动终端与授信移动终端的注册，维护与防控移动终端对应的授信群组所包括的授信移动终端的信息；安全管理服务器检测与防控移动终端对应的授信群组中的任一授信移动终端针对预警的处理进度，并在授信群组中同步各授信移动终端响应预警的进度。

在防控移动终端向授信群组中的授信移动终端发送预警之后，安全管理服务器检测针对异常信息的预警处于未处理状态的持续时间；安全管理服务器检测到针对异常信息的预警处于未处理状态的持续时间超出超时阀值，向与防控移动终端对应的授信群组发送提醒，提醒用于提示授信群组中的授信移动终端对异常信息进行查验。

实施例三

本实施例记载的信息处理系统主要包括防控移动终端、授信移动终端、安全管理服务器和云端服务器；其中，防控移动终端是需要对接收的信息进行防控处理的对象，授信移动终端是支持授信移动终端用户对防控移动终端接收的信息进行合法性查验的终端，一个防控终端可以设置对应有多个授信移动终端，上述的多个移动终端构成该防控用户终端的授信群组。

安全管理服务器具有以下功能：

1、信息安全策略同步功能。

信息安全策略同步功能能够支持将安全管理服务器上的通用安全策略同步给防控移动终端(例如同步到移动终端上的移动终端客户端)，由安全管理服务器统一设定通用安全策略可以降低用户自己设定安全策略的难度。

2、群组协同控制功能。

负责在授信群组的各个授信移动终端之间同步信息(包括告警信息、处理告警信息的进度等)。

3、群组访问云端服务器信息控制功能。

负责维护可以访问并查看云端服务器内存储的信息的授信群组的成员，对于防控移动终端均对应有授信群组(当然，防控移动终端与授信群组之间可以是一对一、多对一的关系)。

4、异常信息处理流程监管功能。

安全管理服务器会对出现预警信息设置一个提醒的超时阀值，从而对防控移动终端接收的异常信息的处理时效起到监管作用，对超出超时阈值没有处理的异常信息向授信移动终端发出提醒，提示授信移动终端的授信用户及时对防控移动终端上传异常信息的合法性进行查验，提高信息处理的时效性。

移动终端具有以下功能：

1、防控移动终端和授信移动终端可以通过运行移动终端客户端的形式对接收的信息进行防控处理，防控移动终端可以运行设置为防控模式的移动终端客户端(以下简称防控客户端)，授信移动终端可以运行设置为授信模式的移动终端客户端(以下简称授信客户端)。

2、防控移动终端会从安全管理服务器同步通用安全策略，支持设定自定义安全策略。

设定安全防控等级，对老人、儿童或自身知识受限人群，可以设置高等级保护，当出现疑似诈骗等方面的信息出现时，需要更快的通知授信移动终端用户，并可以提示授信移动终端用户尽快对防控移动终端上传的异常信息进行查验处理，

防控移动终端根据同步到本地的通用安全策略对接收的信息进行扫描，授信用户可以将疑似诈骗等方面的异常信息通过授信移动终端上传并通过安全管理服务器。

3、授信移动终端可以接收来自防控移动终端的预警信息，能够查看从云端服务器获得预警的信息。当出现预警信息时，能够显示所有授信用户的所处在 的处理环节信息(比如说是否该预警信息已经被查看，是否已经告知防控人，是否全部完成等步骤环节)。

4、授信移动终端用户查验获知异常信息疑似高危信息时(一种为云端提醒，一种通过其他方式确认)，授信移动终端能够通过安全管理服务器打开防控移动终端的呼入、呼出限制功能，限制防控移动终端所属的移动终端呼入、呼出能力，仅可以与防控移动终端中设置的授信移动终端用户进行语音、信息的通讯(110、120、119特殊号码不受限制)，防止诈骗信息得逞。同时，防控移动终端、授信移动终端都会显示被限制的移动终端被哪一个授信用户限制的信息提示。当限制功能打开后，防控移动终端、授信移动终端会显示限制的提醒时间，提醒授信端及时处理高危信息。如果授信移动终端长时间在超时阈值后没有对异常信息进行查验处理，会通过短信或外呼的方式提醒授信移动终端及时处理。信息处理完毕后，授信移动终端取消限制功能，防控移动终端恢复正常的通信功能。

云端服务器具有以下功能：

接收防控移动终端上传的预警信息并保存；

将预警信息发送给授信移动终端查看；

将上传或获取的记录信息反馈至安全管理服务器。

基于图3，参见图4，基于信息处理系统进行信息处理以预防信息诈骗的处理包括以下步骤：

步骤201，授信移动终端和防控移动终端在安全管理服务器上进行注册。

步骤202，移动终端通过移动终端客户端登录后，设置移动终端客户端模式。

运行设置为防控模式的移动终端客户端的移动终端(防控移动终端)将从安全管理服务器同步安全策略，也可以根据用户的设置操作设置安全策略，设置授信群组(帐号)，与授信移动终端A、授信移动终端B、授信移动终端C关联。

步骤203，当防控移动终端收到信息后，防控移动终端实时扫描接收的信 息。

如果信息有不符合法规的内容时，防控移动终端将异常信息上传至云端服务器，同时通知安全管理服务器，向授信群组帐号(包括授信移动终端A、授信移动终端B、授信移动终端C)发出预警信息。

步骤204，授信移动终端从安全管理服务器收到预警信息后，向安全管理服务器发出查看异常信息的请求。

步骤205，安全管理服务器鉴权通过后，授信移动终端将从云端服务器获得该预警对应的异常信息，由授信移动终端用户线下查验异常信息是否违法法规，也就是确认防控移动终端扫描出的异常信息是否准确。

步骤206，安全管理服务器将所有查验环节做好记录同步给授信群组的授信移动终端，让授信群组内的授信移动终端用户了解预警的处理进度，防止预警被遗漏处理的情况。

步骤207，授信群组中的授信移动终端接收到预警又长时间无处理(超出超时阈值)时，安全管理服务器将通过短信或外呼的方式提醒授信移动终端用户查验，避免出现预警超时或遗漏。

步骤208，授信移动终端用户对异常信息进行查验后，通过授信移动终端关闭该提醒信息，在授信移动终端侧对预警的响应处理结束。

授信群组中的授信移动终端用户可以通过数据同步的方式获得预警的响应的处理结果，避免出现预警遗漏处理的情况。

步骤209，授信移动终端用户获知异常信息为高危信息时(一种为云端提醒，一种通过其他方式确认)，授信移动终端限制防控移动终端的通信功能。

授信移动终端能够通过安全管理服务器打开防控移动终端的呼入、呼出限制功能，限制防控移动终端所属的移动终端呼入、呼出能力(呼入的信息保存在客户端的指定空间内，待限制取消后自动恢复。呼入的语音提示无人接听)，仅可以与防控移动终端中设置的授信用户进行语音、信息的通讯(110、120、119特殊号码不受限制)，防止诈骗信息得逞。同时，防控移动终端、授信移动终端都会显示被限制的移动终端被哪一个授信用户限制的信息提示。当限制功 能打开后，防控移动终端、授信移动终端会显示限制的提醒时间，提醒授信端及时处理高危信息，如果长时间没处理时，会通过短信或外呼的方式提醒及时处理。信息处理完毕后，授信移动终端取消限制功能，防控移动终端恢复正常的通信功能。

以接收到的异常信息为欺诈性的中奖短信为例进行说明，参见图5，包括以下步骤：

步骤301、移动终端在安全管理服务器上进行注册。

包括图3中示出的移动终端A、移动终端B、移动终端C和移动终端F。

步骤302、设置移动终端的运行模式。

各移动终端运行的运动终端客户端处于登录状态后，根据用户的设置操作设置移动终端F处于防控模式(也即移动终端运行防控客户端，移动终端F为防控移动终端)，设置移动终端A、移动终端B、移动终端C为授信移动终端。

防控移动终端F从安全管理服务器同步安全策略，并设置安全策略等级为中等(出现异常短信时，需要立即提醒授信移动终端)。

步骤303、防控移动终端F收到如下短信：

“尊敬的用户您好，您的手机号码已经被浙江电视台《中国好声音》栏目组后台抽选为场外幸运观众，您将获得由苹果公司赞助提供的笔记本电脑一台及10.8万现金，请用拨打电话40080012345领取，您的签收号为：『9991』；如将个人领奖信息泄露给他人造成冒名领取本台概不负责，领取时间有限请注意把握”。

步骤304、防控移动终端F扫描出接收的短信为异常短信，上传云端服务器并通过安全管理服务器向授信移动终端发出预警。

防控移动终端F实时扫描这条短信内容，通过安全策略匹配发现该条信息含有不合规的内容，防控移动终端F将该条短信的内容上传至云端服务器，同时通知安全管理服务器，安全管理服务器向授信移动终端A、授信移动终端B、授信移动终端C发出预警。

步骤305、授信移动终端A、授信移动终端B、授信移动终端C从安全管 理服务器收到预警后，向安全管理服务器发出查看短信内容请求。

步骤306、安全管理服务器鉴权通过后，授信移动终端A首先从云端服务器获得短信，查验到短信是如诈骗类的违规信息。

同时授信移动终端B、授信移动终端C的用户通过处理信息同步了解授信移动终端A已经在进行查验处理，可以了解授信移动终端A对预警进行响应的处理进度(而无需进行预警的响应处理)，当然，授信移动终端B、授信移动终端C也可以分别对预警进行响应。

步骤307、授信移动终端A通过在本地运行的移动终端客户端设置，限制防控移动终端F的语音和信息的呼入、呼出功能。

为了避免防控移动终端F拨打电话领取奖品受骗，授信移动终端A通过在本地运行的移动终端客户端设置，限制防控移动终端F的语音和信息的呼入、呼出功能，仅能与授信移动终端A、授信移动终端B、授信移动终端C进行通讯。

步骤308、授信移动终端A通过语音方式，与防控移动终端F进行联系，告知刚才接收到的短信是诈骗短信，不要予以理睬。

步骤309、防控移动终端F取消授信移动终端A的语音、信息的限制功能。关闭针对前述接收到信息的预警，处理结束。

同时授信移动终端B、授信移动终端C了解到针对预警的已经由授信移动终端A完成。

本发明实施例具有以下有益效果：

本发明实施例实时监听移动终端接收到的信息，通过安全策略同步、安全防控等级设定、授信群组设置，可以及时查验授信移动终端接收的信息；在授信移动终端发现异常信息时，通过云端及时通知授信用户群组对异常信息进行查验，并在查验过程中，多个授信移动终端之间同步针对预警的处理进度，使授信移动终端用户之间能够看到彼此的处理进度；如果预警未处理，安全管理管理服务器提醒授信移动终端对异常信息及时进行查验；

对高危信息，授信用户群组可以通过授信移动终端对防控移动终端进行远 程限制，例如使授信移动终端仅能与授信移动终端进行语音、信息的联络，防止诈骗信息得逞；

本发明通过多个授信移动终端协同对异常信息进行查验，极大的提高原有云端安全策略无法实现的辨识能力，能够提高信息的安全性，尤其对于老人、儿童及自身知识受限的人群，有更好的安全风险控制。

本领域普通技术人员可以理解：实现上述方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成，前述的程序可以存储于一计算机可读取存储介质中，该程序在执行时，执行包括上述方法实施例的步骤；而前述的存储介质包括：移动存储设备、随机存取存储器(RAM，Random Access Memory)、只读存储器(ROM，Read-Only Memory)、磁碟或者光盘等各种可以存储程序代码的介质。

或者，本发明上述集成的单元如果以软件功能模块的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明实施例的技术方案本质上或者说对相关技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机、服务器、或者网络设备等)执行本发明各个实施例所述方法的全部或部分。而前述的存储介质包括：移动存储设备、RAM、ROM、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以所述权利要求的保护范围为准。