一种大语言模型结果生成优化方法、装置、设备及系统与流程

本申请涉及大语言模型，尤其涉及一种大语言模型结果生成优化方法、装置、设备及系统。

背景技术：

1、大语言模型是指使用大量文本数据训练的深度学习模型，可以生成自然语言文本或理解语言文本的含义；大语言模型可以处理多种自然语言任务，如文本分类、问答、对话等，是通向人工智能的一条重要途径。

2、请参阅图3，一般情况下，用户与大语言模型交互，直接通过输入提示词获取返回结果。但是这样基于单个大语言模型的方法生成结果缺乏准确性和可靠性，难以满足实际场景的应用需求。

技术实现思路

1、本申请提供了一种大语言模型结果生成优化方法、装置、设备及系统，用于解决现有技术基于单个大语言模型生成的结果缺乏准确性和可靠性，无法满足实际应用需求的技术问题。

2、有鉴于此，本申请第一方面提供了一种大语言模型结果生成优化方法，包括：

3、将预置提示词并发给多个预设大语言模型，得到多个生成结果；

4、基于预设对比选择算法或者预设合并算法对多个所述生成结果进行综合优化处理，得到优化结果；

5、所述预设对比选择算法基于相似距离分析构建，所述预设合并算法基于合并所述生成结果实现。

6、优选地，所述基于预设对比选择算法或者预设合并算法对多个所述生成结果进行综合优化处理，得到优化结果，包括：

7、基于预设对比选择算法计算任意两个所述生成结果之间的相似距离；

8、将每个所述生成结果与其他生成结果之间的所述相似距离累加，得到相似距离之和；

9、选取最小的所述相似距离之和对应的所述生成结果作为优化结果。

10、优选地，所述基于预设对比选择算法计算任意两个所述生成结果之间的相似距离，之前还包括：

11、将所述生成结果进行基于embedding的向量转换，得到生成结果向量；

12、则，所述基于预设对比选择算法计算任意两个所述生成结果之间的相似距离，包括：

13、基于预设对比选择算法计算任意两个所述生成结果向量之间的相似距离。

14、优选地，所述基于预设对比选择算法或者预设合并算法对多个所述生成结果进行综合优化处理，得到优化结果，包括：

15、基于预设合并算法将所有所述生成结果合并，并生成合并提示词；

16、将所述合并提示词发送至合并大语言模型，生成优化结果。

17、本申请第二方面提供了一种大语言模型结果生成优化装置，包括：

18、结果生成单元，用于将预置提示词并发给多个预设大语言模型，得到多个生成结果；

19、结果优化单元，用于基于预设对比选择算法或者预设合并算法对多个所述生成结果进行综合优化处理，得到优化结果；

20、所述预设对比选择算法基于相似距离分析构建，所述预设合并算法基于合并所述生成结果实现。

21、优选地，所述结果优化单元，具体包括：

22、相似计算子单元，用于基于预设对比选择算法计算任意两个所述生成结果之间的相似距离；

23、距离累加子单元，用于将每个所述生成结果与其他生成结果之间的所述相似距离累加，得到相似距离之和；

24、优化选择子单元，用于选取最小的所述相似距离之和对应的所述生成结果作为优化结果。

25、优选地，还包括：

26、向量转换单元，用于将所述生成结果进行基于embedding的向量转换，得到生成结果向量；

27、则，所述相似计算子单元，具体用于：

28、基于预设对比选择算法计算任意两个所述生成结果向量之间的相似距离。

29、优选地，所述结果优化单元，具体包括：

30、结果合并子单元，用于基于预设合并算法将所有所述生成结果合并，并生成合并提示词；

31、重置生成子单元，用于将所述合并提示词发送至合并大语言模型，生成优化结果。

32、本申请第三方面提供了一种大语言模型结果生成优化设备，所述设备包括处理器以及存储器；

33、所述存储器用于存储程序代码，并将所述程序代码传输给所述处理器；

34、所述处理器用于根据所述程序代码中的指令执行第一方面所述的大语言模型结果生成优化方法。

35、本申请第四方面提供了一种大语言模型结果生成优化系统，用于实现第一方面所述的大语言模型结果生成优化方法，包括：调度器、生成器、embedding单元和大语言模型单元；

36、所述大语言模型单元，用于部署多个预设大语言模型；

37、所述调度器，用于接收用户发送的预置提示词，并将所述预置提示词并发至多个所述预设大语言模型，接收所述预设大语言模型产生的多个生成结果，并将所述生成结果发送至所述生成器；

38、所述生成器，用于基于预设对比选择算法或者预设合并算法对多个所述生成结果进行综合优化处理，得到优化结果；

39、embedding单元，用于将所述生成结果转换成向量表达，得到生成结果向量。

40、从以上技术方案可以看出，本申请实施例具有以下优点：

41、本申请中，提供了一种大语言模型结果生成优化方法，包括：将预置提示词并发给多个预设大语言模型，得到多个生成结果；基于预设对比选择算法或者预设合并算法对多个生成结果进行综合优化处理，得到优化结果；预设对比选择算法基于相似距离分析构建，预设合并算法基于合并生成结果实现。

42、本申请提供的一种大语言模型结果生成优化方法，采用多个预设大语言模型同时基于相同的预置提示词进行结果生成，得到来自多个不同模型的生成结果；然后对这些生成结果进行综合优化，得到优化结果，此过程中，可以根据实际情况选取基于预设对比选择算法或者预设合并算法进行优化，能确保优化结果更加准确可靠。因此，本申请能够解决现有技术基于单个大语言模型生成的结果缺乏准确性和可靠性，无法满足实际应用需求的技术问题。

技术特征：

1.一种大语言模型结果生成优化方法，其特征在于，包括：

2.根据权利要求1所述的大语言模型结果生成优化方法，其特征在于，所述基于预设对比选择算法或者预设合并算法对多个所述生成结果进行综合优化处理，得到优化结果，包括：

3.根据权利要求2所述的大语言模型结果生成优化方法，其特征在于，所述基于预设对比选择算法计算任意两个所述生成结果之间的相似距离，之前还包括：

4.根据权利要求1所述的大语言模型结果生成优化方法，其特征在于，所述基于预设对比选择算法或者预设合并算法对多个所述生成结果进行综合优化处理，得到优化结果，包括：

5.一种大语言模型结果生成优化装置，其特征在于，包括：

6.根据权利要求5所述的大语言模型结果生成优化装置，其特征在于，所述结果优化单元，具体包括：

7.根据权利要求6所述的大语言模型结果生成优化装置，其特征在于，还包括：

8.根据权利要求5所述的大语言模型结果生成优化装置，其特征在于，所述结果优化单元，具体包括：

9.一种大语言模型结果生成优化设备，其特征在于，所述设备包括处理器以及存储器；

10.一种大语言模型结果生成优化系统，用于实现权利要求1-4所述的大语言模型结果生成优化方法，其特征在于，包括：调度器、生成器、embedding单元和大语言模型单元；

技术总结
本申请公开了一种大语言模型结果生成优化方法、装置、设备及系统，方法包括：将预置提示词并发给多个预设大语言模型，得到多个生成结果；基于预设对比选择算法或者预设合并算法对多个生成结果进行综合优化处理，得到优化结果；预设对比选择算法基于相似距离分析构建，预设合并算法基于合并所述生成结果实现。采用多个预设大语言模型同时基于相同的预置提示词进行结果生成，然后对这些生成结果进行综合优化，得到优化结果，此过程可以根据实际情况选取基于预设对比选择算法或者预设合并算法进行优化，能确保优化结果更加准确可靠。因此，本申请能够解决现有技术基于单个大语言模型生成的结果缺乏准确性和可靠性，无法满足实际应用需求的技术问题。

技术研发人员：朱卫中,王刚,丘凌,陈天明,曹航瑞
受保护的技术使用者：天翼数字生活科技有限公司
技术研发日：
技术公布日：2024/2/29