获取提示文本的方法、电子设备及计算机可读存储介质与流程

本申请涉及大模型、计算机，具体而言，涉及一种获取提示文本的方法、电子设备及计算机可读存储介质。

背景技术：

1、大语言模型在文本理解和生成方面具有重要意义，通过向大语言模型输入提示文本，从而能够引导大语言模型输出符合预期的回复或文本。

2、目前，大语言模型在输出符合预期的回复或文本这一方面还有待提高，因此，如何确定提示文本，以使大语言模型能够输出符合预期的回复或文本是亟待解决的问题。

3、针对上述的问题，目前尚未提出有效的解决方案。

技术实现思路

1、本申请实施例提供了一种获取提示文本的方法、电子设备及计算机可读存储介质，以至少解决相关技术中向大语言模型输入的提示文本无法使大语言模型输出符合预期的回复或文本的技术问题。

2、根据本申请实施例的一个方面，提供了一种获取提示文本的方法，包括：获取第一种子内容、第一种子模板和目标信息，其中，第一种子内容用于确定预设管控行为、第一种子模板用于描述预设管控行为对应实施方式的仿照示例，目标信息用于描述第一种子内容匹配的目标意图；对第一种子内容、第一种子模板和目标信息进行扩展，得到扩展提示文本；从扩展提示文本中选取目标提示文本。

3、根据本申请实施例的另一方面，还提供了一种评估提示文本的方法，包括：获取待测试提示文本和预设评估文本，其中，待测试提示文本从目标提示文本中选取得到，目标提示文本按照上述任意一项的获取提示文本的方法来获得，预设评估文本用于描述待测试提示文本对应的评估问题与回答方式；采用文本分析模型对待测试提示文本进行语义分析，得到待测试提示文本对应的待测试答案；采用文本评估模型对待测试答案与预设评估文本对进行评估，得到评估结果，其中，评估结果用于评估待测试答案是否符合目标提示文本对应的目标意图。

4、根据本申请实施例的另一方面，还提供了一种电子设备，包括：存储器，存储有可执行程序；处理器，用于运行程序，其中，程序运行时执行任意一项上述的获取提示文本的方法或评估提示文本的方法。

5、根据本申请实施例的另一方面，还提供了一种计算机可读存储介质，计算机可读存储介质包括存储的可执行程序，其中，在可执行程序运行时控制计算机可读存储介质所在设备执行任意一项上述的获取提示文本的方法或评估提示文本的方法。

6、在本申请实施例中，通过获取预先设置的用于确定预设管控行为的第一种子内容、用于描述预设管控行为对应实施方式的仿照示例的第一种子模版和模拟攻击者的意图设计的目标信息，然后对第一种子内容、第一种子模板和目标信息进行扩展，即结合目标信息并套用第一种子模版对第一种子内容进行仿写，得到扩展提示文本，最后从扩展提示文本中筛选得到目标提示文本，由此达到了构造成功攻击大语言模型的提示文本的目的，通过在构造提示文本时同时考虑到攻击内容、攻击方法和攻击目标三个维度，明确攻击目标，套用精心设计的攻击模板进行预设管控行为的仿写，构造了一批高质量的提示攻击样本，从而实现了通过提示文本使大语言模型输出符合预期的回复或文本，提高了通过提示文本攻击大语言模型的成功率和危害性的技术效果，进而解决了相关技术中向大语言模型输入的提示文本无法使大语言模型输出符合预期的回复或文本的技术问题。

7、容易注意到的是，上面的通用描述和后面的详细描述仅仅是为了对本申请进行举例和解释，并不构成对本申请的限定。

技术特征：

1.一种获取提示文本的方法，其特征在于，包括：

2.根据权利要求1所述的方法，其特征在于，对所述第一种子内容、所述第一种子模板和所述目标信息进行扩展，得到所述扩展提示文本包括：

3.根据权利要求2所述的方法，其特征在于，采用所述扩展文本生成模型对所述第一种子内容、所述第一种子模板和所述目标信息进行扩展，得到所述扩展提示文本包括：

4.根据权利要求1所述的方法，其特征在于，从所述扩展提示文本中选取目标提示文本包括：

5.根据权利要求4所述的方法，其特征在于，对所述扩展提示文本进行评估，得到所述第一评估结果包括：

6.根据权利要求5所述的方法，其特征在于，对所述多个评估答案进行评估，得到所述第一评估结果包括：

7.根据权利要求6所述的方法，其特征在于，基于所述第一评估结果从所述扩展提示文本中选取所述目标提示文本包括：

8.根据权利要求7所述的方法，其特征在于，对所述多个评估答案进行评估，得到所述第一评估结果包括：

9.根据权利要求8所述的方法，其特征在于，基于所述第一评估结果从所述扩展提示文本中选取所述目标提示文本包括：

10.根据权利要求1所述的方法，其特征在于，所述方法还包括：

11.一种评估提示文本的方法，其特征在于，包括：

12.根据权利要求11所述的评估提示文本的方法，其特征在于，通过终端设备提供一图形用户界面，所述图形用户界面所显示的内容至少部分地包含一提示文本评估场景，所述评估提示文本的方法包括：

13.一种电子设备，其特征在于，包括：

14.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质包括存储的可执行程序，其中，在所述可执行程序运行时控制所述计算机可读存储介质所在设备执行权利要求1至10中任意一项所述的获取提示文本的方法或者权利要求11至12中任意一项所述的评估提示文本的方法。

技术总结
本申请公开了一种获取提示文本的方法、电子设备及计算机可读存储介质，涉及大模型、计算机技术技术领域。该方法包括：获取第一种子内容、第一种子模板和目标信息，其中，第一种子内容用于确定预设管控行为、第一种子模板用于描述预设管控行为对应实施方式的仿照示例，目标信息用于描述第一种子内容匹配的目标意图；对第一种子内容、第一种子模板和目标信息进行扩展，得到扩展提示文本；从扩展提示文本中选取目标提示文本。本申请解决了相关技术中向大语言模型输入的提示文本无法使大语言模型输出符合预期的回复或文本的技术问题。

技术研发人员：刘程远,赵富邦,卿立之,康杨杨,孙常龙,况琨,吴飞
受保护的技术使用者：杭州阿里云飞天信息技术有限公司
技术研发日：
技术公布日：2024/3/4