一种大模型风险管理框架构建的方法、装置及设备与流程

本说明书涉及数据处理，尤其涉及一种大模型风险管理框架构建的方法、装置及设备。

背景技术：

1、随着人工智能的发展，大模型被广泛应用于自然语言处理领域的人机交互中。大模型通常根据它在训练数据中学到的上下文来生成回答。训练数据的质量、数量和多样性对于大模型的表现至关重要。如果有足够的多样化数据，大模型就能够生成有用、有趣和正确的回答。

2、目前，人们对自己的隐私数据越来越关注，但是如果训练数据中包括了敏感和隐私的个人信息，大模型可能就会在不经意间将这些个人信息转换为生成内容。同样的，如果训练数据中存在意识形态与价值取向、不良信息、虚假信息、歧视等安全缺陷，大模型可能就会在生成内容中重现这些安全缺陷。现有的用于对大模型进行风险管控优化的大模型风险管理框架的难以满足风险管控需求。因此，目前亟需提供一种更优的大模型风险管理框架构建方案。

技术实现思路

1、本说明书实施例提供一种大模型风险管理框架构建的方法、装置及设备，以提供一种符合风险防控相关人员预期的大模型风险管理框架构建方案。

2、第一方面，本说明书一个或多个实施例提供一种大模型风险管理框架构建的方法，包括：基于原始语料集中各个语料类型对应的原始文本语料，确定各个所述语料类型的语料标签和对所述语料标签进行解释的标签定义，基于所述语料标签构建所述大模型风险管理框架的语料标签层；从所述语料类型对应的所述标签定义中，提取标记所述语料类型对应的风险的标签关键词，基于所述标签关键词构建所述大模型风险管理框架的关键词层；根据所述语料标签对应的所述标签定义，生成包含与所述语料标签对应的所述标签关键词的文本语料，基于所述文本语料构建所述大模型风险管理框架的文本语料层。

3、第二方面，本说明书实施例提供了一种大模型风险管理框架构建的装置，包括：基于原始语料集中各个语料类型对应的原始文本语料，确定各个所述语料类型的语料标签和对所述语料标签进行解释的标签定义，基于所述语料标签构建所述大模型风险管理框架的语料标签层；从所述语料类型对应的所述标签定义中，提取标记所述语料类型对应的风险的标签关键词，基于所述标签关键词构建所述大模型风险管理框架的关键词层；根据所述语料标签对应的所述标签定义，生成包含与所述语料标签对应的所述标签关键词的文本语料，基于所述文本语料构建所述大模型风险管理框架的文本语料层。

4、第三方面，本说明书实施例提供了一种电子设备，该电子设备包括：基于原始语料集中各个语料类型对应的原始文本语料，确定各个所述语料类型的语料标签和对所述语料标签进行解释的标签定义，基于所述语料标签构建所述大模型风险管理框架的语料标签层；从所述语料类型对应的所述标签定义中，提取标记所述语料类型对应的风险的标签关键词，基于所述标签关键词构建所述大模型风险管理框架的关键词层；根据所述语料标签对应的所述标签定义，生成包含与所述语料标签对应的所述标签关键词的文本语料，基于所述文本语料构建所述大模型风险管理框架的文本语料层。

5、第四方面，本说明书实施例提供一种存储介质，用于存储计算机程序，所述计算机程序能够被处理器执行以实现以下流程：基于原始语料集中各个语料类型对应的原始文本语料，确定各个所述语料类型的语料标签和对所述语料标签进行解释的标签定义，基于所述语料标签构建所述大模型风险管理框架的语料标签层；从所述语料类型对应的所述标签定义中，提取标记所述语料类型对应的风险的标签关键词，基于所述标签关键词构建所述大模型风险管理框架的关键词层；根据所述语料标签对应的所述标签定义，生成包含与所述语料标签对应的所述标签关键词的文本语料，基于所述文本语料构建所述大模型风险管理框架的文本语料层。

技术特征：

1.一种大模型风险管理框架构建的方法，所述大模型风险管理框架用于开发风险管理应用，所述方法，包括：

2.根据权利要求1所述的方法，所述从所述语料类型对应的所述标签定义中，提取标记所述语料类型对应的风险的标签关键词，包括：

3.根据权利要求2所述的方法，所述根据所述标签定义，获取每个所述语料标签对应的主题和对所述主题进行解释的主题定义，包括：

4.根据权利要求2所述的方法，所述从所述主题对应的所述主题定义中，提取标记所述主题对应的风险的主题关键词，包括：

5.根据权利要求1所述的方法，在生成文本语料后，所述方法，还包括：

6.根据权利要求1所述的方法，所述基于原始语料集中各个语料类型对应的原始文本语料，确定各个所述语料类型的语料标签，包括：

7.根据权利要求1所述的方法，所述根据所述语料标签对应的所述标签定义，生成包含与所述语料标签对应的所述标签关键词的文本语料，包括：

8.根据权利要求1所述的方法，在确定所述语料标签前，所述方法，还包括：

9.一种大模型风险管理框架构建的方法，所述大模型风险管理框架用于开发风险管理应用，所述方法，包括：

10.根据权利要求9所述的方法，所述第一生成式大模型、所述第二生成式大模型和所述第三生成式大模型相同。

11.一种大模型风险管理框架构建的装置，所述大模型风险管理框架用于开发风险管理应用，所述装置，包括：

12.一种电子设备，包括：

技术总结
本说明书一个或多个实施例公开了一种大模型风险管理框架构建的方法、装置及设备。所述方法包括：基于原始语料集中各个语料类型对应的原始文本语料，确定各个所述语料类型的语料标签和对所述语料标签进行解释的标签定义，基于所述语料标签构建所述大模型风险管理框架的语料标签层；从所述语料类型对应的所述标签定义中，提取标记所述语料类型对应的风险的标签关键词，基于所述标签关键词构建所述大模型风险管理框架的关键词层；根据所述语料标签对应的所述标签定义，生成包含与所述语料标签对应的所述标签关键词的文本语料，基于所述文本语料构建所述大模型风险管理框架的文本语料层。

技术研发人员：鲜东,曹汉杰,张家齐,杨舟
受保护的技术使用者：支付宝（杭州）信息技术有限公司
技术研发日：
技术公布日：2024/1/15