一种风险识别方法、装置、存储介质及电子设备与流程

本说明书涉及计算机，尤其涉及一种风险识别方法、装置、存储介质及电子设备。

背景技术：

1、如今，随着人工智能(artificial intelligence，ai)技术的快速发展，基于ai进行的内容创作已经逐渐开始应用在各个领域中。但目前，ai创作技术仍还尚不完善，仍存在很多不足之处。

2、以风控领域为例，在借助ai分析用户是否存在风险时，常见的方法为将用户的数据输入到基于ai构建的大语言模型中，随后向大语言模型提问，使大语言模型回答对用户的风险描述。在上述过程中，由于大语言模型作为生成式模型在输出内容时具有较强的随机性，即使输入相同的数据与问题，其每次输出的内容都可能存在很大的差别，因此目前，很难保证ai生成出的内容真实可靠且逻辑可控。而在实际应用时，生成内容的不确定很可能会导致判断错误、泄露业务数据以及用户隐私等情况的发生。

3、因此，如何保证ai生成的内容的逻辑可控是一个亟待解决的问题。

技术实现思路

1、本说明书提供一种风险识别方法、装置、存储介质及电子设备，以至少部分地解决现有技术存在的上述问题。

2、本说明书采用下述技术方案：

3、本说明书提供了一种风险识别方法，包括：

4、获取目标用户在目标业务下的业务数据，并确定对所述目标用户所需识别的目标风险类型；

5、根据所述目标风险类型，在预先设置的风险规则中，确定用于识别所述目标风险类型的风险规则，作为目标规则；

6、在所述业务数据中筛选与所述目标规则匹配的数据，作为可用数据；

7、根据所述目标风险类型、所述目标规则、所述可用数据构建提示信息；

8、将所述提示信息输入预先训练的生成式模型，得到所述生成式模型输出的对所述目标用户的风险描述。

9、可选地，根据所述目标风险类型，在预先设置的风险规则中，确定用于识别所述目标风险类型的风险规则，作为目标规则，具体包括：

10、将所述业务数据输入预先创建的图谱框架，得到所述目标用户的逻辑图谱；

11、在所述逻辑图谱中召回与所述目标风险类型匹配的风险路径，作为目标风险路径，所述风险路径由风险类型、得到所述风险类型的风险规则以及满足所述风险规则的业务数据构成；

12、将所述目标风险路径中包含的风险规则确定为目标规则；

13、在所述业务数据中筛选与所述目标规则匹配的数据，作为可用数据，具体包括：

14、将所述目标风险路径中包含的业务数据确定为可用数据。

15、可选地，预先创建图谱框架，具体包括：

16、根据从历史信息中得到的所述目标业务下的专家经验，确定所述目标业务中存在的各风险类型与得到所述各风险类型的风险规则；

17、以所述各风险类型为第一节点，得到所述各风险类型的风险规则为第二节点，数据框架为第三节点，构建图谱框架，其中，每个第二节点与一个第一节点和一个第三节点相连，作为一个风险路径。

18、可选地，确定对所述目标用户所需识别的目标风险类型，具体包括：

19、响应于接收到查询信息，确定所述查询信息中包含的目标风险类型；

20、在所述逻辑图谱中召回与所述目标风险类型匹配的风险路径，作为目标风险路径，具体包括：

21、在所述逻辑图谱中将包含所述目标风险类型的风险路径确定为候选风险路径；

22、分别提取所述查询信息的查询文本特征与各候选风险路径的路径文本特征；

23、针对每个候选风险路径，确定该候选风险路径的路径文本特征与所述查询文本特征之间的相似度；

24、将所述相似度不小于指定阈值的候选风险路径确定为目标风险路径。

25、可选地，根据所述目标风险类型、所述目标规则、所述可用数据构建提示信息，具体包括：

26、在所述目标规则与所述可用数据中提取与所述目标风险类型相关的关键词；

27、根据所述目标风险类型与所述关键词构建提示信息。

28、可选地，预先训练生成式模型，具体包括：

29、获取样本风控语料；

30、对所述样本风控语料进行掩码，得到带扰风控语料；

31、将所述带扰风控语料输入待训练的生成式模型，得到所述生成式模型输出的待优化语料；

32、根据所述待优化语料与所述样本风控语料之间的差异，对所述生成式模型进行训练。

33、可选地，所述方法还包括：

34、获取样本指令以及与所述样本指令对应的标注回答；

35、将所述样本指令输入所述生成式模型，得到所述生成式模型输出的待优化回答；

36、根据所述待优化回答与所述标注回答之间的差异，对所述生成式模型的参数进行调整。

37、本说明书提供了一种风险识别装置，包括：

38、获取模块，用于获取目标用户在目标业务下的业务数据，并确定对所述目标用户所需识别的目标风险类型；

39、确定模块，用于根据所述目标风险类型，在预先设置的风险规则中，确定用于识别所述目标风险类型的风险规则，作为目标规则；

40、匹配模块，用于在所述业务数据中筛选与所述目标规则匹配的数据，作为可用数据；

41、构建模块，用于根据所述目标风险类型、所述目标规则、所述可用数据构建提示信息；

42、输出模块，用于将所述提示信息输入预先训练的生成式模型，得到所述生成式模型输出的对所述目标用户的风险描述。

43、可选地，所述确定模块，具体用于将所述业务数据输入预先创建的图谱框架，得到所述目标用户的逻辑图谱；在所述逻辑图谱中召回与所述目标风险类型匹配的风险路径，作为目标风险路径，所述风险路径由风险类型、得到所述风险类型的风险规则以及满足所述风险规则的业务数据构成；将所述目标风险路径中包含的风险规则确定为目标规则；

44、所述匹配模块，具体用于将所述目标风险路径中包含的业务数据确定为可用数据。

45、可选地，所述装置还包括预设模块，具体用于根据从历史信息中得到的所述目标业务下的专家经验，确定所述目标业务中存在的各风险类型与得到所述各风险类型的风险规则；以所述各风险类型为第一节点，得到所述各风险类型的风险规则为第二节点，数据框架为第三节点，构建图谱框架，其中，每个第二节点与一个第一节点和一个第三节点相连，作为一个风险路径。

46、可选地，所述获取模块，具体用于响应于接收到查询信息，确定所述查询信息中包含的目标风险类型；

47、所述确定模块，具体用于在所述逻辑图谱中将包含所述目标风险类型的风险路径确定为候选风险路径；分别提取所述查询信息的查询文本特征与各候选风险路径的路径文本特征；针对每个候选风险路径，确定该候选风险路径的路径文本特征与所述查询文本特征之间的相似度；将所述相似度不小于指定阈值的候选风险路径确定为目标风险路径。

48、可选地，所述构建模块，具体用于在所述目标规则与所述可用数据中提取与所述目标风险类型相关的关键词；根据所述目标风险类型与所述关键词构建提示信息。

49、可选地，所述装置还包括训练模块，具体用于获取样本风控语料；对所述样本风控语料进行掩码，得到带扰风控语料；将所述带扰风控语料输入待训练的生成式模型，得到所述生成式模型输出的待优化语料；根据所述待优化语料与所述样本风控语料之间的差异，对所述生成式模型进行训练。

50、可选地，所述训练模块，还用于获取样本指令以及与所述样本指令对应的标注回答；将所述样本指令输入所述生成式模型，得到所述生成式模型输出的待优化回答；根据所述待优化回答与所述标注回答之间的差异，对所述生成式模型的参数进行调整。

51、本说明书提供了一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序被处理器执行时实现上述风险识别方法。

52、本说明书提供了一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现上述风险识别方法。

53、本说明书采用的上述至少一个技术方案能够达到以下有益效果：

54、获取目标用户在目标业务下的业务数据，并确定对所述目标用户所需识别的目标风险类型；根据所述目标风险类型，在预先设置的风险规则中，确定用于识别所述目标风险类型的风险规则，作为目标规则；在所述业务数据中筛选与所述目标规则匹配的数据，作为可用数据；根据所述目标风险类型、所述目标规则、所述可用数据构建提示信息；将所述提示信息输入预先训练的生成式模型，得到所述生成式模型输出的对所述目标用户的风险描述。

55、在采用本说明书提供的风险识别方法时，可在确定出需要对目标用户识别的目标风险类型后，在预设的风险规则中确定出目标规则，并根据目标规则在用户的业务数据中确定出可用数据；根据目标风险类型、目标规则以及可用数据构建提示信息，并将提示信息输入到生成式模型中，得到生成式模型输出的目标用户的风险描述。采用本方法可根据专家经验确定出的风险规则，结合需要识别的目标风险类型在众多业务数据中筛选出有效的可用数据，并根据目标风险类型、目标规则以及可用数据构建提示信息，引导生成式模型输出准确可靠、逻辑可控的风险描述。