模型接入方法、装置及电子设备与流程

本发明涉及人工智能，具体涉及一种模型接入方法、装置及电子设备。

背景技术：

1、近年来，随着人工智能技术的快速发展，各类模型应运而生，模型开发者可以发布模型的接入接口文档，以便使用者可利用接入接口文档进行接口适配，接入模型以使用模型功能。

2、然而，目前的接口适配工作通常由使用者依据接入接口文档手动实现具体的接口逻辑，并且，使用者仅确保可正常接入模型即可，不会全面配置接口支持的所有接入模式。这种方式适配效率低下且模型接入的方式单一，导致模型接入的效率和灵活性较差。

技术实现思路

1、本发明实施例提供一种模型接入方法、装置及电子设备，可以有效提升模型接入的效率和灵活性。

2、本发明实施例提供一种模型接入方法，该方法包括：

3、获取多个待配置模型的接入接口文档；

4、对所述接入接口文档进行解析处理，得到待配置模型的模型描述文本、至少一个接入模式以及每个所述接入模式对应的接入配置，所述接入配置包括请求参数、响应参数以及字段映射关系，所述字段映射关系包括所述响应参数中的响应字段与输出字段之间的映射关系；

5、若接收到询问文本，对所述询问文本进行意图识别，得到所述询问文本对应的询问意图；

6、将所述询问意图和每个所述待配置模型的模型描述文本进行匹配，以从所述多个待配置模型中确定目标模型；

7、结合所述询问意图和所述询问文本，从候选配置中确定目标配置，所述候选配置为所述目标模型对应的接入配置；

8、利用所述目标配置中的请求参数，将所述询问文本发送至所述目标模型，以便所述目标模型对所述询问文本进行推理，得到所述询问文本对应的响应信息；

9、按照所述目标配置中的字段映射关系，将所述响应信息映射为所述询问文本对应的答复信息并输出。

10、本发明实施例还提供一种模型接入装置，该装置包括：

11、文档获取模块，用于获取多个待配置模型的接入接口文档；

12、解析模块，用于对所述接入接口文档进行解析处理，得到待配置模型的模型描述文本、至少一个接入模式以及每个所述接入模式对应的接入配置，所述接入配置包括请求参数、响应参数以及字段映射关系，所述字段映射关系包括所述响应参数中的响应字段与输出字段之间的映射关系；

13、意图识别模块，用于若接收到询问文本，对所述询问文本进行意图识别，得到所述询问文本对应的询问意图；

14、模型确定模块，用于将所述询问意图和每个所述待配置模型的模型描述文本进行匹配，以从所述多个待配置模型中确定目标模型；

15、配置确定模块，用于结合所述询问意图和所述询问文本，从候选配置中确定目标配置，所述候选配置为所述目标模型对应的接入配置；

16、接入模块，用于利用所述目标配置中的请求参数，将所述询问文本发送至所述目标模型，以便所述目标模型对所述询问文本进行推理，得到所述询问文本对应的响应信息；

17、输出模块，用于按照所述目标配置中的字段映射关系，将所述响应信息映射为所述询问文本对应的答复信息并输出。

18、本发明实施例还提供一种电子设备，包括处理器和存储器，所述存储器存储有多条指令；所述处理器从所述存储器中加载指令，以执行本发明实施例所提供的任一种模型接入方法中的步骤。

19、本发明实施例还提供一种计算机可读存储介质，所述计算机可读存储介质存储有多条指令，所述指令适于处理器进行加载，以执行本发明实施例所提供的任一种模型接入方法中的步骤。

20、本发明实施例可以自动解析待配置模型的接入接口文档，生成待配置模型的模型描述文本和接入配置，接入配置和接入模式一一对应，在接收到询问文本时，可匹配询问文本对应的询问意图和模型描述文本，以确定出目标模型，再利用询问意图和询问文本，确定出目标配置，最后利用目标配置连接目标模型推理询问文本，并将对应的答复信息输出。自动解析接口文档获取到模型所支持的所有接入模式对应的接入配置，相对于人工解析更加高效，在接收到询问文本后，结合询问文本以及询问意图确定适配的目标模型和目标接入模式以实现模型接入，可高效灵活地接入模型。

技术特征：

1.一种模型接入方法，其特征在于，所述方法包括：

2.根据权利要求1所述的方法，其特征在于，所述对所述接入接口文档进行解析处理，得到待配置模型的模型描述文本、至少一个接入模式以及每个所述接入模式对应的接入配置，包括：

3.根据权利要求2所述的方法，其特征在于，所述建立输出字段与所述接口响应参数中的响应字段之间的映射关系，得到字段映射关系，包括：

4.根据权利要求3所述的方法，其特征在于，所述将所述输出字段与各个响应字段进行字符匹配处理，包括：

5.根据权利要求2所述的方法，其特征在于，所述利用所述接入模式对应的所述配置参数和所述字段映射关系，对所述接入模式进行接入校验，包括：

6.根据权利要求1所述的方法，其特征在于，所述模型描述文本包括模型功能描述和模型参数量，所述将所述询问意图和每个所述待配置模型的模型描述文本进行匹配，以从所述多个待配置模型中确定目标模型，包括：

7.根据权利要求1所述的方法，其特征在于，所述结合所述询问意图和所述询问文本，从候选配置中确定目标配置，包括：

8.根据权利要求7所述的方法，其特征在于，所述利用所述询问意图和所述询问文本，预测所述询问文本对应的问答轮数，包括：

9.一种模型接入装置，其特征在于，所述装置包括：

10.一种电子设备，其特征在于，包括处理器和存储器，所述存储器存储有多条指令；所述处理器从所述存储器中加载指令，以执行如权利要求1~8任一项所述的模型接入方法中的步骤。

技术总结
本发明公开了一种模型接入方法、装置及电子设备，涉及人工智能技术领域。所述方法包括：获取待配置模型的接入接口文档，并自动解析文档生成待配置模型的模型描述文本、接入模式以及接入模式对应的接入配置，识别出接收到的询问文本的询问意图，利用询问意图和模型描述文本确定目标模型，利用询问意图和询问文本确定目标配置，以便接入目标模型，并利用目标模型获取到询问文本的答复信息并输出。本发明自动解析接口文档获取到模型所支持的所有接入模式对应的接入配置，相对于人工解析更加高效，在接收到询问文本后，结合询问文本以及询问意图确定适配的目标模型和目标接入模式以实现模型接入，可高效灵活地接入模型。

技术研发人员：颉彬,屠静,王亚
受保护的技术使用者：卓世智星（天津）科技有限公司
技术研发日：
技术公布日：2024/3/24